Pourquoi les humains ont-ils des préjugés contre l’IA ?

L’IA est un travail en cours. Mais on peut espérer que l’humanité l’est aussi. Nous sommes peut-être la créature la plus adaptable à avoir jamais habité cette planète (du moins, selon nous), mais notre intelligence est aujourd’hui menacée. La raison paradoxale est que nous avons inventé quelque chose de plus intelligent que nous, bien que la plupart des gens rejettent cette idée.

 

En effet, l’attitude des humains à l’égard de l’IA est largement négative. Si l’on fait abstraction des techno-enthousiastes et de ceux qui vendent de l’IA, l’être humain typique est soit dédaigneux soit craintif à l’égard de la plupart des applications connues de l’IA à ce jour.

Par exemple, nous sommes étonnés lorsque des véhicules autonomes se trompent, mais nous oublions souvent qu’il y a environ 1,3 million d’accidents de voiture mortels chaque année, causés par des conducteurs humains. De même, nous nous méfions des algorithmes d’embauche ou de l’IA pour le recrutement, horrifiés par les histoires de chatbots véreux qui ont produit des décisions sexistes ou des commentaires racistes, mais nous semblons parfaitement habitués au monde dans lequel des personnes talentueuses sont négligées à tort pour des emplois pertinents, tandis que des narcissiques sans talent continuent d’être sélectionnés pour des postes de direction.

La liste des décisions à fort enjeu qui bénéficieraient d’une réduction de l’erreur humaine est longue : les décisions des jurés, les diagnostics médicaux, les évaluations de crédit, les primes d’assurance, et même les relations amoureuses.

Le rejet le plus récent de l’IA s’est largement concentré sur chatGPT, qui a été largement attaqué pour son inexactitude, sa partialité et, en fait, son caractère plutôt humain : « le robot peut devenir agressif, condescendant, menaçant, engagé dans des objectifs politiques, effrayant et menteur », comme le note un récent article du New York Times.

Il semble que la tendance humaine à être contrarié lorsque les machines présentent des caractéristiques humaines négatives ne s’accompagne pas d’une volonté de condamner ou de supprimer ces mêmes caractéristiques chez les humains. Mais c’est exactement là que l’IA pourrait être extrêmement utile : en tant qu’outil qui accroît notre conscience de soi, si seulement nous pouvions avoir l’autocritique nécessaire pour accepter que ses caractéristiques indésirables ne sont que le reflet de nos propres qualités humaines.

Le monde des affaires humaines est régi par des règles injustes, des partis pris capricieux et des préjugés invisibles, qui peuvent tous être exposés lorsque l’IA apprend à imiter notre façon de penser et de prendre des décisions. Plus elle apprend de nous, plus elle reproduit notre côté sombre. Cependant, c’est aussi une opportunité : nous ne sommes peut-être pas prêts à admettre nos propres préjugés et défauts, mais ils sont plus faciles à repérer lorsque nous les transférons à l’IA, notamment parce qu’elle peut les perfectionner et les amplifier.

Ainsi, lorsque le moteur de recherche de Google suggère des options d’auto-complétion sexistes à la phrase « les femmes devraient… » (par exemple, rester à la maison, être des esclaves, rester dans la cuisine, etc.), ce n’est pas l’IA de Google qui est sexiste, ni les développeurs de logiciels qui ont écrit le code, mais les millions d’humains dans le monde qui expriment de telles pensées sexistes. Il est important de noter que ce n’est pas parce que les vils commentaires autocomplétés sont censurés, que ce soit pour des raisons de sexe, de race, de religion ou d’idéologie politique, que les humains sont plus éthiques, ouverts d’esprit ou altruistes.

Il en va de même pour chatGPT : ses réponses diplomatiques ou politiquement correctes aux questions sur l’inégalité des sexes ne le rendent pas objectif, moral ou éveillé. Elles ne font que mettre en évidence les garde-fous mis en place pour filtrer les opinions controversées ou divisées, ce qui ne fait guère avancer la discussion. Pourtant, au lieu de reprocher à chatGPT de ne pas représenter nos points de vue ou nos opinions, examinons ses résultats pour comprendre ce qui est saisi et omis de la véritable opinion publique – et pourquoi.

Il est certain que l’IA n’a pas besoin d’être parfaite pour améliorer nos vies ; elle doit seulement être meilleure que le statu quo, ce qui, avouons-le, est une barre plutôt basse. Cependant, c’est finalement la raison pour laquelle il y a tant de résistance contre l’IA : le statu quo est l’intuition humaine, qui dans la plupart des cas est un merveilleux euphémisme pour le parti pris. Et les êtres humains ne sont pas seulement protecteurs, mais aussi fiers de leurs préjugés.

En bref, montrer l’IA du doigt et la ridiculiser pour ses préjugés est une excellente stratégie pour perpétuer les nôtres. C’est précisément pourquoi l’IA a été si efficace pour détourner et amplifier nos préjugés. En nous disant ce que nous voulons entendre, et en nous montrant ce que nous voulons voir, elle crée des bulles de filtres robustes où nous ne sommes même pas conscients de l’influence de l’IA, nous détachant de la réalité, qui a toujours été un peu un goût acquis pour les humains.

En ce sens, c’est précisément lorsque l’IA nous dit quelque chose que nous ne voulons pas entendre que nous devons être attentifs à la possibilité que, peut-être, nous ayons l’occasion de devenir une version légèrement moins biaisée de nous-mêmes. Un tel événement serait extrêmement inconfortable, car nous ne sommes pas habitués à l’idée que l’IA puisse accroître notre doute de soi ou notre insécurité, ce qui est essentiel pour renforcer nos compétences et notre expertise. Si nous continuons à déployer l’IA uniquement comme un outil d’auto-valorisation, qui renforce notre confiance au détriment de notre compétence, notre acceptation de l’IA pourrait augmenter, précisément parce qu’elle peut amplifier nos propres préjugés.

 

Article traduit de Forbes US – Auteur : Tomas Chamorro-Premuzic

<<< À lire également : Plus que l’Intelligence Artificielle, c’est l’Open-Data et l’Open-Banking qui généreront les innovations de rupture des investissements immobiliers >>>