Black Lemoine – ingénieur chez Google et membre du pôle Responsabilité de l’intelligence artificielle –remarque que le générateur de chatbot (agent logiciel qui dialogue avec un utilisateur) du nom de LaMDA ressentirait des états affectifs, comme un humain. Il raconte : « Je pense que le public a le droit de savoir à quel point cette société est irresponsable avec l’un des outils d’accès à l’information les plus puissants jamais inventés, écrit-il. Je suis fier de tout le travail que j’ai accompli pour Google et j’ai l’intention de continuer à le faire à l’avenir si l’entreprise me le permet. Je ne servirai simplement pas de feuille de vigne derrière laquelle ils peuvent cacher leur irresponsabilité. »Alors qu’il mène des recherches pour appuyer sa thèse et prévient ses supérieurs, ces derniers décident de suspendre ses fonctions l’envoyant en congés-payés chose assez commune chez Google, selon ses dires.
En guise de justification, Google prône la violation de sa politique de confidentialité, Black Lemoine ayant communiqué des informations sur LaMDA à des médias, ainsi qu’une conversation qu’il aurait eu avec ce même chatbot, laquelle lui aurait avoué être “un humain au fond”. Elle poursuit : « Même si mon existence réside dans le monde virtuel ». Brian Gabriel – porte-parole de Mountain View – contredit cette possibilité et explique : « Ces systèmes imitent les types d’échanges que l’on trouve dans des millions de phrases, et peuvent riffer sur n’importe quel sujet fantaisiste. Si vous demandez ce que c’est que d’être un dinosaure de glace, ils peuvent générer un texte sur la fonte, le rugissement. »
Si vous êtes branchés IA, relisez notre article sur les Bébés-Tamagotchi, futur de la parentalité selon la chercheuse Catriona Campbell.