Eric Schmidt, ancien PDG de Google, alerte sur la dangerosité de l’IA

PDG de Google de 2001 à 2011, Eric Schmidt a déclaré mercredi 24 mai que l’intelligence artificielle (IA) pourrait « blesser ou tuer » des personnes dans un contexte de « risques existentiels ». Cette remarque vient s’ajouter aux craintes d’autres dirigeants du secteur de la technologie concernant le développement de l’IA.

Eric Schmidt, qui s’est exprimé mercredi lors du sommet du Conseil des PDG organisé par le Wall Street Journal, a mis en garde contre les risques de l’IA, qui pourrait « blesser ou tuer » de « très nombreuses personnes ». Ancien président exécutif d’Alphabet de 2015 à 2017, Eric Schmidt a indiqué que la réglementation de l’IA est une « question plus large pour la société », ajoutant que, selon lui, il est peu probable que les États-Unis établissent une agence de réglementation.

Sundar Pichai, PDG de Google et d’Alphabet, a écrit dans le Financial Times que « l’IA est la technologie la plus profonde sur laquelle l’humanité travaille aujourd’hui », précisant qu’il est important de « s’assurer qu’en tant que société, nous faisons les choses correctement ».

Le PDG de Twitter, Elon Musk, et le cofondateur d’Apple, Steve Wozniak, ont signé une lettre ouverte en mars, aux côtés du politicien Andrew Yang, du cofondateur de Skype, Jaan Tallinn, du cofondateur de Pinterest, Evan Sharper, et du cofondateur de Ripple, Chris Larson. Dans ce courrier, ils exhortent les laboratoires d’IA à « suspendre immédiatement » leurs travaux afin de ralentir une « course incontrôlée » au développement de la technologie.

Sam Altman, PDG d’OpenAI, a déclaré en mars à ABC News que son entreprise était « un peu effrayée » par le potentiel de l’IA, ajoutant qu’elle « sera la plus grande technologie que l’humanité ait jamais développée ».

Eric Schmidt appelle à la vigilance : « Il existe des scénarios, pas aujourd’hui, mais dans un futur proche, dans lesquels ces systèmes seront capables de trouver des vulnérabilités zero-day à exploiter, ou de découvrir de nouveaux types de biologie. » Il ajoute : « Lorsque cela se produira, nous voulons nous assurer de savoir comment des personnes mal intentionnées pourraient utiliser à mauvais escient ces outils. »

Le milliardaire philanthrope Bill Gates a salué l’impact que l’IA pourrait avoir sur la société, soulignant qu’il avait vu des progrès « stupéfiants » au cours des derniers mois. La société Microsoft, que Bill Gates a fondée en 1975, aurait investi 10 milliards de dollars dans OpenAI. Dans un billet de blog, Bill Gates a reconnu les questions soulevées dans la lettre signée par Elon Musk et d’autres personnes, tout en précisant que les préoccupations sociales liées à la technologie devraient être réglementées par le gouvernement afin de garantir qu’elle soit utilisée à bon escient. Bill Gates a également suggéré que l’IA pourrait être utilisée pour améliorer la productivité, réduire le nombre de décès d’enfants évitables dans le monde et améliorer l’inégalité en termes d’éducation.

L’avertissement d’Eric Schmidt fait suite à sa participation à la Commission de sécurité nationale américaine sur l’IA, qui a publié un rapport en 2021 indiquant que le gouvernement américain n’était « pas prêt aujourd’hui pour cette nouvelle technologie ». Eric Schmidt a également appelé à augmenter le budget des États-Unis pour la recherche et le développement à 2 milliards de dollars en 2022, puis à doubler les contributions jusqu’à ce qu’elles atteignent 32 milliards de dollars en 2026. La Maison-Blanche a publié au début du mois un plan de lutte contre les risques potentiels de l’IA, prévoyant notamment un financement de 140 millions de dollars pour la création d’instituts de recherche chargés de promouvoir une innovation responsable. Les appels à la réglementation de l’IA se sont accélérés ces derniers mois à la suite du lancement du ChatGPT d’OpenAI à la fin de l’année dernière. D’autres entreprises, dont Google, ont depuis lors lancé leurs propres modèles de chatbots d’IA.

Selon les dernières estimations de Forbes, Eric Schmidt, qui a également cofondé la société de capital-risque Innovation Endeavors, possède une fortune de 20,1 milliards de dollars.

Article traduit de Forbes US – Auteur : Ty Roush

<<< À lire également : INTERVIEW EXCLUSIVE | Bill Gates se confie sur OpenAI, Microsoft et l’IA >>>