Les Voitures Autonomes Et La Morale : Un Choix Cornélien En Perspective

En 2016, des chercheurs du Media Lab du MIT ont lancé Moral Machine, un jeu sur l’éthique des conducteurs. Il demande aux joueurs quelles réactions ils attendent de la part de voitures autonomes dans différents scénarios. Par exemple, une voiture autonome devrait-elle sacrifier ses passagers pour éviter de renverser un piéton traversant la route en dehors d’un passage piéton ? Ces questions sont cruciales, d’autant plus que ce sont des machines qui devront bientôt y répondre.

L’an dernier, quatre millions de personnes ont pris part à cette étude en répondant à des questions d’éthiques en fonction des nombreux scénarios proposés par Moral Machine, y compris, différentes combinaisons de genres, d’âges et d’animaux traversant la route.

Dimanche, seulement quelques heures avant le premier accident mortel impliquant une voiture autonome aux États-Unis, Iyad Rahwan, professeur au MIT, a dévoilé les premiers résultats de l’étude Moral Machine lors du Forum Global Education and Skills à Dubaï.

Les résultats sont arrivés

Iyad Rahwan a affirmé que son étude Moral Machine est dorénavant la plus grande étude mondiale sur l’éthique.

Son équipe pense que les résultats, qui seront publiés en intégralité dans le courant de l’année, pourraient être utilisés par les constructeurs automobiles et les géants de la technologie afin de former leurs véhicules à faire des choix les plus éthiques possibles, même s’ils ne sont pas clairs pour le moment.

L’équipe de Iyad Rahwan a découvert qu’en matière de choix « simples », comme par exemple, entre renverser un adulte ou un enfant, la grande majorité des sondés sont plus sensibles à la protection des enfants. Plus la personne qui traverse la rue est âgée, moins sa vie semble être importante.

Mais lorsqu’il s’agit de choisir entre la protection des piétons et celle des passagers du véhicule, les réponses sont assez étranges car quasiment 40 % des sondés préfèrent que le véhicule autonome renverse les piétons pour sauver la vie des passagers.

Et plus le scénario se complique, moins les avis sont tranchés. Par exemple, entre renverser un piéton qui traverse dans les clous ou deux personnes qui traversent en dehors, les réponses sont mitigées.

Les résultats de l’étude diffèrent également en fonction de la zone géographique où elle a été menée, et cela peut nous aider à comprendre pourquoi il est si difficile de définir des valeurs éthiques communes.

Développer des machines éthiques

« Lorsque nous avons comparé l’Allemagne au reste du monde, ou même l’est et l’ouest, nous avons découvert des différences culturelles très intéressantes », explique Iyad Rahwan.

En Allemagne, un dirigeant de Mercedes-Benz a amorcé une polémique en affirmant qu’un véhicule autonome devait sauver en priorité ses passagers, les résultats sont donc plus tranchés que dans le reste de l’Europe car le débat est déjà sur la table.

« Nous devons donc prendre en compte différents facteurs car différentes valeurs entrent en conflit. Nous devons trouver une solution tous ensemble pour nous mettre d’accord, ce qui est loin d’être le cas actuellement. »

Le professeur du MIT a ensuite ajouté que cette étude prouve que l’on ne pourra jamais créer une machine morale (en faisant référence à l’auteur de science fiction Isaac Asimov et à ses trois lois de la robotique) : « Si nous voulons construire des machines qui reflètent nos propres valeurs, alors nous devons mieux comprendre ces valeurs, nous devons les quantifier et communiquer tous ensemble afin de définir lesquelles sont les plus importantes à nos yeux ».

Alors que le monde doit se faire à l’idée que les voitures autonomes peuvent et continueront d’ôter des vies (espérons qu’elles tueront moins que les voitures conventionnelles et les humains qui les conduisent), il est temps de réfléchir aux jugements éthiques et moraux dont nous voulons que ces machines fassent preuve.