Mardi, le PDG d’Amazon, Jeff Bezos, a reçu une lettre de la part de l’Union américaine pour les libertés civiles et de ses soutiens. Cette lettre demande l’arrêt d’un service fourni par l’entreprise et peu connu des autorités américaines : la reconnaissance faciale, alimentée par l’intelligence artificielle.

Cet outil, Rekognition, peut reconnaître jusqu’à une centaine de personnes sur une seule image et il est capable de retrouver des visages dans une base de données contenant des dizaines de millions de photos. Selon la description d’Amazon : « cela facilite l’ajout de l’analyse d’images et de vidéos à nos applications ».

« Il suffit de fournir une image ou une vidéo à l’API Rekognition afin que le service puisse identifier les objets, les personnes, les textes, les lieux, les activités ou encore détecter du contenu inapproprié. Rekognition fourni également des analyses et une reconnaissance faciale précises. Vous pouvez détecter, analyser et comparer des visages pour vérifier, cataloguer, comptabiliser une large gamme d’identités et s’en servir pour assuere la sécurité publique. » Il s’agit du même outil que Sky News a utilisé pour identifier les invités ayant assisté au « royal wedding » qui a eu lieu ce weekend en Angleterre.

D’après une enquête de près de six mois menée par ACLU, Rekognition est utilisée par bon nombre d’agences à travers les États-Unis, notamment la police d’Orlando en Floride et dans l’Oregon. Dans le conté de Washington, une application mobile reposant sur Rekognition a été créée afin que les agents de police puissent scanner des images et les comparer avec une base de données regroupant plus de 300 000 visages.

Depuis juin dernier, Chris Adzima, un analyste spécialisé dans les systèmes informatiques pour le sheriff du conté de Washington, entretient un blog portant sur les services internet d’Amazon. Il détail des cas dans lesquels Rekognition a été utilisé. Par exemple, lorsqu’un voleur est parti d’un magasin de bricolage sans payer, les images ont été traitées par les systèmes de reconnaissance faciale et qui ont trouvé quatre personnes avec une ressemblance à plus de 80 %. L’u d’eux affichait un score plus élevé que les autrs, et lorsqu’un enquêteur a mené une recherche sur les réseaux sociaux, il a trouvé une photo où le suspect portait le même sweatshirt que dans le magasin de bricolage.

« Nous avons d’autres exemples. Une caméra de surveillance a filmé un homme utilisant une carte de crédit qui a par la suite fait l’objet d’une déclaration de vol, explique Chris Adzima. À cause de la mauvaise qualité de l’image et du grand angle, il était assez difficile d’identifier la personne à l’œil nu. Lorsque nous l’avons passé dans Rekognition, nous avons eu un résultat avec plus de 95 % de ressemblance. »

À Orlando, en Floride, on se sert de Rekognition pour trouver des « personnes d’intérêt » en utilisant les caméras de surveillance de la ville. Dans une vidéo postée ce mois-ci sur YouTube, Ranju Das d’Amazon affirme qu’à Orlando, le système pourrait même localiser le maire ou toutes les « personnes d’intérêt ». Cet outil est également disponible pour surveiller sa propre maison.

« Une surveillance de masse abordable »

Les détails de l’accord avec la police d’Orlando indiquent qu’Amazon a adopté son modèle commercial habituel avec Rekognition : commencer bon marché et attendre que les clients viennent. Pour le traitement de 30 989 images, la police n’a dû payer que 30,99 $, à en croire un document obtenu par ACLU.

« C’est une machine de surveillance de masse très abordable, et c’est justement en partie pourquoi je suis inquiet », a déclaré à Forbes Matt Cagle, l’avocat d’ACLU. « Cette société qui s’est construite autour du client vient d’entrer sur le marché de la surveillance ».

Il ajoute que les outils marketing d’Amazon semblent pouvoir fournir un système de surveillance à un état « autoritaire » et qu’il faut également se poser des questions concernant les autres grandes entreprises spécialisées dans les tech, qui lancent des services de reconnaissance faciale similaires. « Les utilisateurs d’Amazon ont raison d’être surpris par le fait qu’ils font dorénavant partie d’un nouvel ensemble de consommateurs, de gouvernements qui veulent s’en servir pour la surveillance ». Matt Cagle prévient que Rekognition pourrait être utilisé pour suivre des manifestants, des migrants ou les habitants de quartiers entiers.

Certains acteurs du secteur de la surveillance sont intrigués par la possibilité qu’Amazon s’introduise sur ce marché. Zak Doffman, PDG de l’entreprise britannique de reconnaissance facile Digital Barriers, a même affirmé vouloir établir un partenariat avec Jeff Bezos : « Amazon deviendra une vraie menace pour les autres acteurs du marché, où toutes les vidéos de bonne qualité peuvent être chargées sur le centre ou le cloud ».

Mais cela ne signifie pas pour autant qu’il n’est pas inquiet concernant la sécurité de tous ces visages et des données associées stockées sur le cloud d’Amazon : « Là où toutes les informations personnelles sont traitées dans un cloud central, l’utilisation et le stockage de ces données, après les problèmes rencontrés récemment par Facebook et Google, sont les points clés sur lesquels Amazon devra travailler. S’il subsiste des inquiétudes en matière d’éthique, elles proviendront du stockage et de l’utilisation de ces données ».

 

La réponse d’Amazon

Un porte-parole d’Amazon a fait savoir à Forbes que l’entreprise étudiera les cas d’utilisation et lorsqu’elle jugera l’usage abusif, elle interdira au client en question d’accéder à Rekognition.

« En tant que technologie, Rekognition présente plusieurs applications utiles dans la vraie vie (par exemple, de nombreuses agences ont utilisé Rekognition pour retrouver des personnes enlevées, les parcs d’attraction utilisent le système pour retrouver les enfants égarées) », expliquait le porte-parole de l’entreprise. « Et, l’utilité de tels services reposant sur l’intelligence artificielle ne feront qu’augmenter car de nombreuses entreprises commenceront à utiliser des technologies sophistiquées comme Amazon Rekognition dans les années à avenir. Notre qualité de vie serait bien pire aujourd’hui si nous rendions illégales les nouvelles technologies juste parce que certaines personnes pourraient en faire un usage abusif. Imaginez que les consommateurs ne puissent pas acheter d’ordinateurs parce qu’ils pourraient l’utiliser à des fins illégales ? Comme pour tous nos services Amazon Web, nous demandons à nos utilisateurs de respecter la loi et de faire un usage responsable de Rekognition ».