Alors que les ventes de technologies d’intelligence artificielle (IA) par les géants du numérique au Pentagone suscitent certaines inquiétudes, Google a fourni au département américain de la Défense un logiciel d’informatique en nuage et des outils d’IA. Cette vente a pour but d’aider le Pentagone à faire face à la pandémie de covid-19.

 

L’accord de 2,5 millions de dollars, dont les détails ont pu être obtenus grâce à une demande FOIA (Freedom of Information Act, loi obligeant les agences fédérales américaines à transmettre leurs documents à quiconque en fait la demande, quelle que soit sa nationalité, NDLR), montre que Carashoft, le partenaire de Google à Reston (Virginie), a fourni au United States Northern Command (USNORTHCOM, Commandement Nord des États-Unis) des outils d’informatique en nuage et d’IA développés par le géant d’Internet. L’USNORTHCOM agit comme une unité de commandement et de contrôle centralisé. Il s’agit d’une agence américaine dépendant du département de la Défense et agissant pour renforcer la sécurité intérieure du pays.

Plus précisément, le contrat décrit comment le logiciel développé par Google doit être utilisé pour aider à rassembler des données du département de la Défense « en réponse aux problématiques rencontrées par le département face à la pandémie ou toute autre mission future. » Selon le contrat, ce logiciel a pour but « d’intégrer, de fusionner, d’analyser et de diffuser les informations critiques pour améliorer la réponse du département de la Défense face à la pandémie de covid-19 ou toute autre mission future. » Outre la collaboration avec les alliés des États-Unis ainsi qu’avec les autorités civiles locales et étatiques, l’une des missions principales de l’USNORTHCOM est d’aider le département de la Défense à coordonner les secours en cas de catastrophe.

Le contrat fait également mention d’une « solution d’optimisation des ressources de l’IA dans le cadre des troubles liés au covid. » Cette technologie a été mise en place pour aider l’agence de défense à allouer les ressources de manière plus efficace, qu’il s’agisse de personnel militaire doté de compétences pertinentes ou d’équipements médicaux. Cet outil a été mis au point en collaboration avec le Lincoln Laboratory du MIT « pour accéder à l’ensemble des données et algorithmes existants et appliquer leurs capacités en matière d’IA afin de créer et de tester des algorithmes améliorés. » Cette technologie aurait également pu être étendue pour aider le département de la Défense à « prévoir les futures pénuries dans la chaîne d’approvisionnement. »

Parmi les données que le département de la Défense a demandé à Google d’intégrer et d’analyser dans son outil, il y avait des informations « géospatiales », ce qui indique que cet outil aiderait à analyser l’imagerie aérienne ou spatiale. Forbes a déjà révélé que des start-ups financées par GV (anciennement Google Ventures, une société de capital-risque sous l’égide d’Alphabet, la société mère de Google) effectuaient toutes sortes de travaux de surveillance géospatiale pour le Pentagone, en appliquant leur IA à l’imagerie.

Le contrat prévoit également une utilisation généralisée des outils de Google « avec d’autres agences et organisations du département de la Défense, fédérales, étatiques et locales, privées et internationales. » (Google a refusé de commenter la nature de son travail, car il n’est pas autorisé à discuter des contrats sans l’approbation du client.)

Rien n’indique que la technologie de Google ait été utilisée à d’autres fins que la réponse de l’agence de défense au covid-19. Jack Poulson, un spécialiste des données de Google qui a démissionné en raison de préoccupations éthiques, s’inquiète toujours du fait que, sans aucune ligne rouge dans le contrat, cette technologie pourrait être appliquée à d’autres fins. Il a notamment évoqué des cas d’utilisation possibles pour la Joint Task Force North (JTF-North), une division de l’USNORTHCOM qui a déjà contribué à la protection des frontières américaines, à la lutte contre le trafic de stupéfiants et le terrorisme.

« À moins qu’il n’y ait une ligne rouge contractuelle claire, ce que je n’ai pas vu dans le cas présent ou pour le travail de Google Cloud avec les douanes et la protection des frontières, l’efficacité des coûts dicte de maximiser la portée de la technologie achetée. Dans ce cas, l’incorporation de la surveillance des frontières réalisée par la JFT-North et de la lutte contre le trafic de stupéfiants susciterait évidemment des préoccupations », a indiqué Jack Poulson, désormais à la tête de l’organisation à but non lucratif Tech Inquiry, spécialisée dans l’éthique des grandes technologies.

Toute surveillance n’est pas contraire aux principes de l’IA de Google, publiés en 2018, selon lesquels le géant du numérique s’engage à ne pas créer de « technologies qui recueillent ou utilisent des informations pour une surveillance violant les normes internationalement acceptées. »

Ces principes ont été édictés après que des milliers d’employés de Google se sont rebellés contre un contrat controversé avec le département de la Défense : « Project Maven ». Ce projet devait permettre d’appliquer l’IA de Google à des images de drones pour détecter des objets tels que des voitures et des bâtiments. Après que les employés ont rédigé une lettre ouverte demandant à Google de ne jamais vendre de « technologie de guerre », l’entreprise a cessé de travailler sur ce projet.

La société Google continue d’être fière du travail qu’elle accomplit pour le gouvernement américain, notamment dans le cadre de son action contre le covid-19. Comme Forbes l’a rapporté, l’année dernière, l’entreprise a fait appel à de nombreux contractants autour de la région de Washington D.C pour ses ventes au gouvernement. L’entreprise a notamment conclu un contrat de 2 millions de dollars avec les douanes pour mettre en place un système de surveillance des personnes et des marchandises. Ce système est connu sous le nom de Automated Targeting System (Système de ciblage automatisé).

 

Article traduit de Forbes US – Auteur : Thomas Brewster

<<< À lire également : Le milliardaire de Google Eric Schmidt met en garde contre une « urgence nationale » si la Chine dépasse les États-Unis dans le domaine de l’IA >>>