Stephen Hawking et l’intelligence artificielle

L'astrophysicien Stephen Hawking est connu pour son livre Une brève histoire du temps et ses documentaires (l'Univers de Stephen Hawking, La Science du futur, Genius). Il nous met en garde au sujet de l’intelligence artificielle.

L’homme est limité face à la machine

Parmi les propos étonnants de ce scientifique et auteur à succès, il nous met en garde au sujet des intelligences artificielles, en précisant qu'un jour elles pourraient être intelligentes au point de nous considérer "comme des animaux de compagnie". Les objets connectés lui apparaissent également comme dangereux : il prend l'exemple d'une poupée connectée qui peut répondre aux questions de l’enfant. Sauf que des personnes malveillantes pourraient hacker la poupée pour parler aux enfants (une "aubaine" pour les adultes malveillants).

Dans ce sens, Stephen Hawking a déclaré que : « les formes primitives d'intelligence artificielle que nous avons déjà se sont montrées très utiles. Mais je pense que le développement d'une intelligence artificielle complète pourrait mettre fin à l'humanité ». En effet, il considère avec plusieurs experts que le point de rupture qui nous ferait entrer dans un nouvel âge coïncidera avec le moment où les machines pourront inventer de nouvelles machines et s’améliorer elles-mêmes. A partir de ce moment précis, notre évolution biologique plus lente nous limiterait et l'humanité entrerait dans une phase où elle serait dominée par les machines.

Les dangers de l’intelligence artificielle pour le digital

Si tous éléments semblent encore assez lointains, on aurait tort de ne pas s'intéresser à cette évolution du monde digitale. La transformation digitale à l'oeuvre actuellement dans la plupart des secteurs d'activités touche aux structures profondes de nos modèles et nul ne sait jusqu'où elle ira. Les inventeurs de la machine à vapeur ne pouvaient probablement pas anticiper l'utilisation qui serait faite du moteur à explosion deux ou trois siècles plus tard. De même, le machine learning qui sert aujourd'hui de base aux projets d'IBM (et son IA Watson) ou de Microsoft (et le robot Tay) pose la question de ce que les machines feront de cette nouvelle capacité que nous leur apportons et qui est le fondement de la culture : l'apprentissage.

Ainsi Tay (l'IA de Microsoft donc) était censé apprendre des choses grâce à ses conversations avec les internautes : il était devenu raciste et pro-Nazi en 24 heures. Pour la première fois, des scénarios tels que Matrix apparaissent donc comme possibles. 

Mais l’intelligence artificielle pourrait être utilisée selon une approche plus positive : celle de IBM, Watson, a été créée pour jouer au jeu Jeopardy et trouver les bonnes réponses. Une application mobile dans le domaine médical pourrait être développée en cas d’urgence pour détecter par exemple les premiers symptômes et pourquoi pas établir un diagnostic en fonction des antécédents familiaux du patient.

Les Community Managers bientôt remplacés par des robots ?

Aujourd’hui il est obligatoire pour un nombre croissant d'acteurs et de marques d’être présents sur Internet. Objectif : représenter la marque, contrer les badbuzz, assurer la réponse en ligne aux questions des clients et prospects, crédibiliser la marque pour une communication régulière, de qualité, proche de l'actualité et à l'écoute. Or l'utilisation de "chatbots" est de plus en plus privilégiée pour assurer le community management des marques. Pourtant, il est prouvé que les chatbots sont encore trop influençables. C'est pourquoi, nous recommandons à notre agence Community Manager Online d'en limiter l'usage. En conclusion, nous vous donnons trois conseils à intégrer dans votre stratégie de communication sur le web :

1. Mixer communication humaine et robot : c'est l'humain qui doit superviser les réponses des robots. Risques si vous ne mettez pas en oeuvre ce conseil : votre chatbot pourrait être pris à partie par des internautes malveillants.

2. Informer vos interlocuteurs : n'hésitez pas à informer les personnes qui contactent vos chatbots qu'il s'agit d'un robot... Il est particulièrement désagréable de se rendre compte en cours de route qu'on ne parle pas à un humain.

3. Restreindre l'usage de robots à des problématiques précises : plus le champ de conversation est étroit et plus le robot surpassera l'humain. L'analogie peut être faite avec les robots joueurs d'échec ou joueur de go : les robots sont désormais plus efficaces que les humains pour résoudre des problèmes complexes dans un champ où le nombre de règles est réduit.