Pourquoi anthropomorphiser les intelligences artificielles ?

ChatGPT : une adoption fulgurante. OpenAI a confirmé avoir dépassé le million d’utilisateurs seulement cinq jours après le lancement de son application, faisant de ChatGPT l’application la plus rapidement adoptée de tous les temps. Bien que cela n’ait pas été confirmé par OpenAI, nous avons estimé entre 100 et 300 millions d’utilisateurs fin janvier 2023. À quoi est dû un tel succès d’adoption ? À une nouvelle technologie ? Non, certainement pas : la brique technologique sous-jacente, le LLM (Large Language Model), était déjà accessible via une API depuis depuis deux ans. Si ce n’est la technologie, alors qu’est ce qui a entrainé un tel engouement ? Il s’agirait de l’anthropomorphisation. Pourquoi anthropomorphiser une IA (Intelligence Artificielle) ? Quels sont les avantages ? Quels sont les inconvénients ? Explications.

Pourquoi le LLM GPT3.5 a-t-il été rendu public sous la forme du chatbot, ChatGPT. En effet, le chatbot invite l’utilisateur à croire que le premier est doté de capacités cognitives et que l’on peut poser lui des questions, obtenir des réponses, et que ces réponses seront correctes, et donc qu’un outil comme chatGPT va remplacer les moteurs de recherche classiques tels que Google. Or, force est de constater que les réponses fournies par ChatGPT laissent souvent à désirer. Mais au fond, ce résultat est tout à fait normal : ChatGPT n’est pas conçu pour répondre à des questions. Il est encore moins conçu pour donner des réponses correctes. ChatGPT repose sur un LLM dont la mission est « simplement » de produire en sortie le mot le plus probable étant donnée une série de mots en entrée. Puis de fournir encore un nouveau mot. Et ainsi de suite. ChatGPT est en quelque sorte un outil d’autocomplétions, similaire à ce que notre smartphone effectue lorsque l’on tape un SMS… en un peu plus sophistiqué. La capacité à répondre à des questions est, d’une certaine manière, un phénomène émergeant du fait que le modèle a été entrainé sur un très vaste corpus de documents et de conversations. Mais avec le risque que la réponse soit souvent à côté de la plaque… Le chatbot vise à anthropomorphiser l’IA sous-jacente.

Anthropomorphiser les IAs pour réduire les barrières à l’usage et à l’adoption

Alors pourquoi anthropomorphiser ? L’anthropomorphisation des IA est un sujet qui suscite beaucoup d’intérêt dans les cercles académiques, industriels, ainsi que dans la culture populaire. L’anthropomorphisation est le processus par lequel les humains attribuent des traits humains aux objets non humains, tels que les animaux, les plantes et les machines. Dans le cas des IA, cela signifie que les humains attribuent des caractéristiques humaines telles que la parole, la pensée, l’émotion et la conscience à ces machines.

Anthropomorphiser une IA lors de sa conception présente un avantage majeur : celui de réduire les barrières à l’usage et à l’adoption de la technologie : tout le monde sait tenir une conversation, et ainsi tout le monde saura se servir de ChatGPT, et ainsi construire des requêtes sophistiquer, simplement interagissant avec le chatbot.

Comme l’illustre la figure 1, cette anthropomorphisation est en grande partie responsable de l’adoption fulgurante de ChatGPT. Étrangement, même si la capacité conversationnelle se révèlera peut-être comme anecdotique dans le futur, elle fut saisissante, voire sidérante, pour la majorité d’entre nous. D’ailleurs, pourquoi d’autres IAs génératives, comme Dall-E 2 ou MidJourney pour la génération d’images, également sorties en 2022, n’ont-elles pas été adoptées aussi rapidement ? La raison en est que tout le monde sait tenir une conversation, mais tout le monde n’est pas artiste, photographe ou graphiste. De même, les utilisateurs finaux n’ont pas utilisé GPT3, même s’il est aussi « intelligent » que ChatGPT, car il est beaucoup plus difficile à utiliser. Les assistants vocaux tels que Siri, Alexa et OK Google ne sont pas encore devenus courants malgré le fait qu’ils soient faciles à utiliser, car ils ne sont pas assez « intelligents ».

Anthropomorphiser les IA pour une adoption massive par les développeurs et les créateurs

L’analyse de toutes les vagues d’innovation et des révolutions industrielles conduit à schéma récurrent : des découvertes scientifiques sont effectuées. Sur cette base, des briques technologiques sont construites. Dans un premier temps, elles sont adoptées par une minorité. Quand elles sont adoptées par une majorité, alors les grandes ruptures au niveau business et sociétal ont lieu. Comme, nous l’avons vu plus haut, l’anthropomorphisation facilite d’une part l’adoption par les utilisateurs finaux, mais elle facilite aussi l’adoptions par les développeurs et les entrepreneurs – nécessaire à la grande synthèse créative Schumpeterienne.

Pendant cette ère de l’adoption généralisée, l’innovation est synonyme de de combinaison. Comment combiner les briques technologiques ensemble pour inventer de nouveaux usages ou de nouveau business models. L’innovation est synonyme d’assembler les briques du puzzle de façon créative. L’innovation est synonyme de tester plein de choses dont la majorité sera vouée à l’échec. Les API et le courant low-code no-code est un des drivers de l’adoption des briques d’intelligence artificielle par une majorité. Des entreprises telles que Hugging Face, startup fondée en 2016 par trois français aux États-Unis, déjà valorisée deux milliards de dollars, visent à démocratiser l’intelligence artificielle en fournissant des modèles déjà entrainés via des API ou des interfaces de développement visuelles. Les années 2022 et 2023 sont charnières dans l’histoire de l’intelligence artificielle, de son développement et de son adoption, car pour la première fois des outils très sophistiqués sont devenus facilement disponibles pour les développeurs et les entrepreneurs.

Anthropomorphiser les IA est aussi un pari risqué

Nous l’avons vu anthropomorphiser l’IA permet d’accélérer son adoption, tant par les utilisateurs que par les développeurs et les entrepreneurs et ainsi de nous précipiter dans la grande synthèse créative Schumpeterienne de l’IA. Cependant, cette anthropomorphisation présente quelques limites et n’est pas sans risque.

Tout d’abord, et nous l’avons évoqué plus haut, une IA anthropomorphique conduit à la déception. La majorité des acteurs proposant des assistants vocaux (Google, Apple et Amazon) a opté pour des voix humaines – et donc des IA anthropomorphiques. Cela donne l’impression à l’utilisateur qu’Alexa, Siri ou Google sont doué de capacités cognitives avancées – ce qui n’est bien évidemment pas le cas, ce qui entraine bien souvent un sentiment de frustration et de déception à l’usage. Cette première limite, est bien connue et est souvent qualifiée de « vallée de l’étrange » ou de uncanny valley. Il s’agit d’une théorie formulée en 1970 par le roboticien japonais Masahiro Mori selon laquelle plus un robot ressemble à un être humain, plus ses imperfections deviennent apparentes et évoquent un sentiment d’étrangeté, de malaise de dissonance cognitive. Dans ce cas, le robot est jugé non pas comme un robot réussissant à se faire passer pour un humain, mais comme un être humain ne parvenant pas à agir normalement.

Ensuite, un anthropomorphisme trop exacerbé peut largement conduire à des dérives. En particulier, cela peut conduire l’utilisateur à croire que l’IA avec laquelle il interagit est consciente ou sensible. En 2022, Blake Lemoine, ingénieur chez Google, s’est fait avoir à son propre jeu, et a fini par se convaincre que LaMDA, l’agent conversationnel de Google, était devenue consciente. La conversation entre Lemoine et l’IA est effectivement saisissante[1], et illustre bien les risques sous-jacents.

Un autre risque de l’anthropomorphisation de l’AI est le corolaire direct de la rapidité de l’adoption. La première révolution industrielle a duré au moins un siècle après l’invention de la machine à vapeur. Le système (les entreprises, l’éducation etc.) a eu le temps de s’adapter pour que la révolution soit in fine synonyme de progrès humain. La révolution de l’IA et en particulier de l’IA générative est exponentielle. Nous sommes confrontés à un Schumpeter exponentiel. Tous les métiers qui produisent et travaillent avec des contenus (texte, image, parole, vidéo etc.) seront massivement impactés. Certains emplois, y compris chez les white colars, jusqu’à maintenant épargnés par l’automatisation, vont disparaitre, presque littéralement du jour au lendemain. La destruction schumpetérienne exponentielle risque de ne pas être une destruction créatrice car le système n’aura pas le temps de s’adapter.

Enfin, le dernier risque d’anthropomorphisation et d’adoption rapide de l’IA est le risque de verrouillage. Certaines des plateformes citées ci-dessus deviennent incontournables. Aujourd’hui, une startup ayant besoin de capacités d’IA à grande échelle pourrait utiliser très facilement l’infrastructure de ces plateformes presque gratuitement, et en devenir ainsi fortement dépendante. L’environnement géopolitique instable d’aujourd’hui, dans lequel les questions de souveraineté nationale semblent être de plus en plus importantes, rend le verrouillage à une plate-forme américaine ou chinoise quelque peu problématique.

Alors faut-il anthropomorphiser l’IA ?

Nous avons récemment organisé une enquête sur LinkedIn demandant si « l’IA doit être anthropomorphisée car elle réduit les barrières à l’adoption, même si elle soulève des questions et présente des risques ». Près de 70 % des répondants n’étaient pas d’accord.

L’IA anthropomorphique s’accélère rapidement pour maximiser l’adoption à la fois par les utilisateurs finaux et par les développeurs et les entrepreneurs. Nous voudrions peut-être réfléchir à la question de savoir si l’ampleur et la rapidité de ce développement sont vraiment dans le meilleur intérêt de nous tous, individus, entreprises et société dans son ensemble.

[1] https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917