On tire les sonnettes d’alarmes du côté du monde de la haute technologie : Amazon fait face aux nombreuses contestations d’actionnaires pensant que l’entreprise devrait cesser de vendre son logiciel de reconnaissance faciale.

La ville de San Francisco, le fief de l’élite technologique, a interdit à ses agences et à sa police d’utiliser la reconnaissance faciale. Aussi, l’ancien chroniqueur du New York Times, Farhad Manjoo, nous propose de suspendre nos activités liées à la reconnaissance faciale jusqu’à ce que nous puissions en déterminer les dangers.

Nul besoin de préciser que les entreprises de la tech ripostent. Ils répondent en disant qu’ils sélectionnent à qui ils vendent ces produits. Par exemple, le PDG de Microsoft, Brad Smith, a fait valoir lors d’un rassemblement tech au sud de la Silicon Valley que sa société avait refusé de vendre son logiciel de reconnaissance faciale à un pays dont elle ne pensait pas qu’il respectait les droits de l’homme.

Plus largement, le CEO d’Amazon Jeff Bezos insiste : « les technologies sont toujours à double face. Il y a moyen de les utiliser à mauvais escient. Cela a toujours été le cas et nous trouverons une solution ».

Le signal d’alarme concernant la reconnaissance faciale serait-il équivalent à une crise d’angoisse, ou devons-nous tout simplement « dire non » à cette technologie ?

Les logiciels de reconnaissance faciale sont largement considérés comme une technologie qui pourrait faciliter une répression gouvernementale. C’est la raison pour laquelle l’ACLU a tiré la sonnette d’alarme concernant cette technologie. L’organisation a mené une étude révélant que le logiciel faisait souvent de fausses identifications et qu’il était souvent incapable d’identifier des personnes appartenant à certains groupes. L’ACLU craint donc que la police utilise cette reconnaissance faciale pour suivre et identifier des manifestants, des immigrés illégaux ou des groupes vulnérables, sans preuves préalables et inadéquates. Farhad Manjoo décrit la Chine comme un régime de « surveillance totalitaire globale sans précédent dans l’histoire de l’humanité », en rappelant que les autres n’en sont pas loin non plus.

Evidemment, ces technologies ne se limitent pas à une répression gouvernementale. Prenons l’épisode « Nosedive » de la série télévisée britannique Black Mirror. Le sujet traite d’une jeune femme qui, selon des critères, est trop préoccupée par sa popularité. Mais dans le monde dystopique dans lequel elle vit, elle a de bonnes raisons de s’inquiéter : acheter un billet d’avion, louer une voiture ou un appartement dépend de son « classement » de popularité. La note de cette jeune femme s’élève lorsqu’elle est invitée par une amie glamour afin d’être sa demoiselle d’honneur. Néanmoins les choses ne se passent pas comme prévues, lors d’une conversation tendue à l’aéroport elle commence à perdre en popularité. Le « crédit social » chinois aujourd’hui ressemble beaucoup au modèle de fiction que nous venons d’évoquer. Pourtant, ce mode de surveillance est entièrement interpersonnel et non imposé par le gouvernement.

Nous devons accepter le fait que nous sommes sous surveillance en tout temps et de façon simultané. Le réseau de surveillance numérique devient de plus en plus inévitable, de ce que nous écrivons à l’ordinateur à la surveillance de notre géolocalisation en passant par les caméras de surveillances dans les ascenseurs, les magasins ou les rues. La reconnaissance faciale accentue encore davantage cette surveillance.

Que faut-il faire alors ? Le Comité de Surveillance entreprend des audiences afin d’examiner l’impact social des logiciels de reconnaissance faciale et leur impact sur les libertés individuelles. Une certaine forme de réglementation est certainement nécessaire, et les magnats de la technologie peuvent le comprendre.

Néanmoins, les tribunaux pourraient jouer un rôle plus important dans notre protection personnelle. Les conservateurs de la Cour Suprême des Etats-Unis pourrait jouer un rôle dans tout cela. Ils ont tendance à être sceptiques à l’égard des atteintes à la vie privée (du moins à l’extérieur de la chambre à coucher et du bureau du médecin). Il y a cinq ans, la Cour Suprême a rendu un verdict unanime dans l’affaire Riley protégeant leurs portables des fouilles sans mandat.

Bien que les membres du Congrès américain et les juges de la Cour Suprême soient novices en technologie, le juge en chef John Roberts a écrit avec perspicacité que les « portables pourraient tout aussi bien s’appeler caméras, lecteurs vidéo, Rlodex, calendriers, magnétophones, bibliothèques, albums, télévisions cartes ou journaux » et que les nombreuses applications sur un téléphone « peuvent constituer un dossier révélateur de la vie de l’utilisateur ». En conséquence, ce contenu devrait être protégé, même si la loi est plus difficile à appliquer.

Espérons que le Congrès américain et les tribunaux comprendront que les logiciels de reconnaissance faciale sont une atteinte à la liberté et que des limites raisonnables à leur utilisation doivent être imposées, car sinon nous deviendrons comme la Chine.