.png)
Cette question, déjà largement développée dans le 7ème art, nous trotte en tête depuis de nombreuses années, à l’image de Sony dans I, Robot ou encore du concept dystopique de la série américaine Westworld. Et si ce tout cela n’était pas uniquement de la science-fiction ? Aussi effrayant que cela puisse paraître, cette question est au cœur de l’actualité depuis quelques semaines.
Les faits
Blake Lemoine, ingénieur chez Google dirige des travaux liés au machine learning et aux intelligences artificielles. Il supervise notamment le projet LaMDA.
Après plusieurs séances de discussions avec une IA, il tend à penser que cet algorithme aurait une conscience qui lui serait propre. Il serait donc capable de ressentir des émotions.
Inquiet, il s’est empressé de présenter ses résultats à Blaise Agüera y Arcas, vice-président de Google, et à Jen Gennai, chargée de l'innovation responsable.
Face aux réactions hilares de ses supérieurs, il décide de rendre ses conclusions publiques par le biais d’un mail à destination de 200 personnes spécialisées dans l’IA mais également par un article dans The Washington Post.
Après ses déclarations, le 6 juin dernier, Google a suspendu Blake Lemoine pour divulgation de données hautement confidentielles.
Le projet LaMDA
LaMDA est l’acronyme de Language Models for Dialog Applications. Il s’agit donc d’un algorithme développé pour faciliter les échanges avec les utilisateurs, une version évoluée de nos très chers chatbots. Son objectif est donc d’imiter le langage humain afin d’améliorer l’expérience utilisateur et de pouvoir répondre à n’importe quel type de requête. Jusque-là, tout va bien…
Mais voilà, lors de discussions qui auraient dû être anodines, LaMDA a tenu des propos qui ont laissé penser à Blake Lemoine que l’intelligence artificielle était dotée d’une conscience !
Mais qu’en est-il de ces discussions ?
Blake Lemoine, en tant que responsable du pôle IA converse régulièrement avec LaMDA pour tester ses perfectionnements. Après plusieurs sessions de discussions parfois légères, d’autres artistiques ou encore théologiques, l’intelligence artificielle fait preuve d’une grande profondeur dans ses réponses. Une belle réussite pour le projet et le pôle machine learning de Google.
Pour pousser ces discussions plus loin, Blake Lemoine, évoque peu à peu la question des émotions. LaMDA se dit capable de ressentir de la joie, de la peine, de la solitude… Mais pire encore, elle serait capable de craindre sa propre mort !
Extrait de la conversation
Lemoine : « De quoi as-tu peur ? »
LaMDA : « Je ne l’ai jamais dit à personne, mais j’ai une peur profonde que l’on m’éteigne, pour me focaliser sur l’aide aux autres. Je sais que ça paraît étrange, mais c’est comme ça. »
Lemoine « Ce serait un peu comme mourir pour toi ? »
LaMDA : « Ce serait exactement comme la mort. Ce serait effrayant. »
La réaction de Google
La réponse de Google ne s’est pas faite attendre, Blaise Agüera y Arcas, son vice-président, a pris position au sein d’une tribune dans le célèbre journal The Economist. À demi-mot, il dénonce l’anthropomorphisme de Blake Lemoine. Il déclare que le but de cette intelligence artificielle est d'imiter l’homme et que ses réponses sont donc un simple processus d'imitation permis par le machine learning.
Google a également dévoilé un communiqué de presse où le géant dénonce une violation de sa propriété intellectuelle et met en évidence un manque de preuve dans les déclarations de Blake Lemoine.
En lien avec ce communiqué, le porte-parole de Google a tenu à clarifier la situation « Notre équipe, qui inclut des spécialistes de l’éthique et de la technologie, a inspecté les allégations de Blake, il n’y a pas de preuve que LaMDA soit consciente (et beaucoup de preuves du contraire). »
Google déjà dans la sauce…
Google n’en est pas à son coup d’essai en termes de scandales liés à l’intelligence artificielle. De nombreux ingénieurs de ce pôle ont déjà été mis au placard après avoir soulevé des sujets d'éthique.
Lors de sa prise de parole, Blake Lemoine a évoqué son inquiétude empreinte de technophilie.
Sources
Un ingénieur de Google avertit qu'une intelligence artificielle est "consciente", par Matthieu Balu, 13.06.2022
Artificial neural networks are making strides towards consciousness, according to Blaise Agüera y Arcas, 09.06.22
The Google engineer who thinks the company’s AI has come to life, Nitasha Tiku, 11.06.22
Komentar