L’intelligence artificielle facilite notre quotidien à bien des égards. Pourtant, Miriam Vogel, ancienne fonctionnaire à la Maison-Blanche et sous-procureur général adjoint, déclarait à ce propos il y a peu : « Des décennies de lutte pour l’égalité des droits et contre la discrimination peuvent être anéanties par une simple ligne de code ».

Aviez-vous remarqué que Siri, Alexa et les autres assistants vocaux avaient tous des voix féminines ? Ou encore que les noms des systèmes d’intelligence artificielle visant à résoudre des problèmes complexes, tels que IBM Watson ou  encore le projet Einstein de Microsoft, portent des noms d’hommes ? C’est en tout cas le résultat d’une récente étude dirigée par les Nations Unies.

L’intelligence artificielle (ou IA) est tellement présente dans notre quotidien que nous la considérons comme une évidence. Elle peut en effet comporter une dimension magique lorsqu’elle permet de synthétiser des quantités impressionnantes de symptômes afin de trouver le bon traitement à un trouble médical.

Pourtant, l’IA dépend des données qui lui sont enseignées et avec lesquelles elle est programmée, et toutes celles-ci proviennent de cerveaux humains. Chacun d’entre nous entretient plus ou moins de préjugés, ainsi toutes les données de programmation peuvent être biaisées en fonction de la personne qui en est à l’origine.

Il semblerait que les programmeurs soient en majorité des hommes blancs. Selon une étude du National Center for Women in Technologies, 13 % des emplois en machine learning sont occupés par des femmes, et seuls 18 % des développeurs et 21 % des programmeurs sont des femmes.

Les grandes entreprises ne sont pas en mesure de passer au crible toutes les candidatures qu’elles reçoivent pour leurs centaines d’offres d’emploi, et utilisent ainsi des systèmes de présélection automatique. Certains de ces systèmes d’embauche ont d’ailleurs été programmés pour repérer les types d’individus les plus aptes à faire leurs preuves pour un poste en particulier, en fonction des expériences précédentes de chacun.

Cela peut sembler logique à première vue, mais si une entreprise telle que Google, Apple ou Amazon embauche presque exclusivement des jeunes hommes blancs dans ce secteur, le programme de recrutement ne cherchera alors plus que des candidats correspondant à ces critères, éliminant ainsi les femmes du processus. Il écartera également les personnes de couleurs et les individus plus âgés, en dépit de leurs qualifications professionnelles pour le poste.

Mais que faire ?

Certaines entreprises prennent conscience des effets pervers de leurs logiciels de recrutement, et tentent aujourd’hui de les reprogrammer pour y remédier. Certaines organisations qui utilisent des données publiques, telles que Vogel, se rendent compte que « les groupes de données publiques comportent en majorité des hommes blancs », et que les programmes sont donc par essence biaisés, au point qu’il est « impossible de s’y fier ». Pourtant, une grande partie de ces données publiques ont un impact réel sur notre quotidien, par exemple les groupes de données utilisées par les médecins pour diagnostiquer nos problèmes de santé en fonction de nos symptômes.

Pour Vogel, l’une des solutions serait de recruter plus de personnes issues de minorités dans le secteur de l’intelligence artificielle, notamment pour qu’elles participent à la programmation des fameux systèmes de recrutement : « Plus les individus qui développent un produit viennent d’horizons différents, plus on a de chances que le produit soit réalisable à l’échelle mondiale ».