AUSTIN, TEXAS – MARCH 10: Elon Musk speaks on stage during the Westworld Featured Session during SXSW at Austin Convention Center on March 10, 2018 in Austin, Texas. (Photo by FilmMagic/FilmMagic for HBO)
Pour Elon Musk, “l’IA est bien plus dangereuse que les armes nucléaires ». La première chose qu’il faut comprendre à propos d’Elon Musk est qu’il ne raisonne pas de façon empirique ou par idéologie. Il ne raisonne qu’en principes premiers. Il construit chaque raisonnement avec une approche physique de la réalité. Toute chose qui ne peut être prouvée ou démontrée n’est pas vérifiable et peut donc être remise en cause.
Par exemple, à la question de Lex Friedman : « Pensez-vous que pour atteindre l’intelligence humaine, l’IA aura besoin d’acquérir un certain niveau de conscience ? », Elon Musk répond :
« Le truc avec la conscience, c’est que nous avons le sentiment que c’est quelque chose qui vient d’une autre dimension, hors de la réalité physique, mais si nous endommageons notre cerveau, nous endommageons notre conscience. C’est donc un phénomène psychologique et physique qui pourrait être simulé à un moment donné. Je ne sais pas si l’IA a besoin de conscience mais elle dépassera l’intelligence humaine ».
Fascinant. Le premier constat d’Elon Musk n’est pas tant sur l’intelligence artificielle mais sur l’utilisation des technologies par les humains. « Nous sommes déjà des cyborgs. Si vous pensez aux outils que vous utilisez déjà, votre téléphone, votre ordinateur, tout ce que vous utilisez a été construit comme une extension de vous-même. Et c’est le but de toute innovation numérique. »
Ensuite, il rappelle que le fonctionnement du cerveau humain est basé sur 3 couches successives.
- La première couche est liée au système primaire / émotionnel de notre cerveau (cotés reptilien / limbique).
- La seconde couche est liée au système analytique de notre cerveau (coté cortex préfrontal).
- Enfin, la 3e couche est une nouvelle couche : une couche digitale
Et l’objectif des 2 dernières couches est de satisfaire la première. Plus précisément de maximiser la fonction « bonheur » de cette couche.
Ils sont souvent associés aux systèmes 1 et 2 de Daniel Hahnemann dans son livre Thinking Fast and Slow. Le véritable but de toute innovation est donc de satisfaire de plus en plus rapidement et de façon plus efficace ce système 1.
Comment ?
En améliorant la qualité de l’information et la rapidité de transmission qui répondent à ces besoins. Par exemple, le besoin d’appartenance sociale (tribe en anglais) est le point d’origine de l’engouement autour des réseaux sociaux. Chaque émotion et besoin fondamental agissent donc comme un déclencheur d’innovation. Elon Musk l’explique de cette manière : « En fait, une mesure du succès des réseaux sociaux est toujours fonction de la résonance du système limbique. Plus ce dernier résonne à un niveau fondamental, plus il suscite l’engagement. »
Et alors ? Quel est le lien avec l’intelligence artificielle ?
Intelligence artificielle et peurs
L’intelligence artificielle est l’extension ultime. L’extension de ce qui nous différencie fondamentalement des animaux : l’extension de notre intelligence. Là où toutes les innovations ont toujours été des extensions et augmentations d’attributs comme la mémoire (le livre), la vision (lunettes), la force (marteau), la communication (internet), l’IA souhaite étendre l’attribut le plus important : notre cerveau. Et selon Elon Musk, la marche du monde est de continuer. Continuer à vouloir satisfaire cette couche primaire par de plus grandes innovations. Comme l’intelligence artificielle.
Et en quoi est-ce une mauvaise chose ?
C’est le second constat. On sous-estime toujours le taux de progression des nouvelles technologies et l’effet que ces dernières ont sur nos envies. On finit souvent, selon Elon Musk, par être esclave de notre propre invention ou bien par l’utiliser pour satisfaire d’autres besoins individualistes (comme la recherche de pouvoir). C’est pourquoi le vrai danger n’est pas uniquement le moment redouté de la singularité (lorsqu’une intelligence artificielle dépassera l’intelligence humaine) mais surtout le moment où l’intelligence artificielle pourra être utilisée à mauvais escient par d’autres humains.
Comme les « nukes ».
« Nous nous dirigeons rapidement vers une super-intelligence digitale qui dépasse de loin toute intelligence humaine. Le taux d’amélioration de l’IA est beaucoup plus élevé que celui attendu et le danger réel de l’IA sera davantage à propos des humains entre eux qu’à propos de l’IA contre nous »
Solutions
Comment faire pour approcher ces problèmes alors ?
Elon Musk propose quelques solutions :
- « L’IA devrait essayer de maximiser la fonction liberté plutôt que la fonction économique ».
- « Nous devons créer une agence gouvernementale comme la FDA pour réglementer l’amélioration de l’IA ».
- « Développer Neuralink pour rapprocher l’intelligence numérique et biologique. Comment ? En augmentant la bande passante et la vitesse de l’information entre le cerveau et les machines. »
- « Un salaire universel à un moment donné sera nécessaire. »
<<< À lire également : Pourquoi Elon Musk Menace De Délocaliser Son Usine Tesla >>>
Vous avez aimé cet article ? Likez Forbes sur Facebook
Newsletter quotidienne Forbes
Recevez chaque matin l’essentiel de l’actualité business et entrepreneuriat.
Abonnez-vous au magazine papier
et découvrez chaque trimestre :
- Des dossiers et analyses exclusifs sur des stratégies d'entreprises
- Des témoignages et interviews de stars de l'entrepreneuriat
- Nos classements de femmes et hommes d'affaires
- Notre sélection lifestyle
- Et de nombreux autres contenus inédits
