Meta finance un nouvel outil pour aider les mineurs à supprimer plus facilement les photos intimes de leurs réseaux sociaux

Le groupe Meta vient de lancer un nouvel outil pour aider les enfants et les adolescents à supprimer des photos d’eux dénudés ou des images sexuellement explicites de leurs réseaux sociaux.

Le National Center for Missing and Exploited Children (NCMEC) a lancé une plateforme, financée par le groupe Meta, pour aider les mineurs à faire retirer des réseaux sociaux les photos et vidéos d’eux nus ou à caractère sexuel. Ce nouvel outil, baptisé « Take It Down », a été dévoilé un an après le lancement d’un outil similaire pour les adultes, connu sous le nom de « StopNCII » (abréviation de « non-consensual intimate imagery », en français « images intimes non consensuelles »). À l’heure actuelle, Take It Down ne fonctionne que sur les cinq plateformes qui ont accepté de participer : Facebook et Instagram (Meta), ainsi que Yubo, OnlyFans et Pornhub.

« Nous avons créé ce système, car de nombreux enfants sont confrontés à ces situations désespérées », a déclaré Michelle DeLaune, présidente et directrice générale du NCMEC. « Notre espoir est que les enfants prennent conscience de l’existence de cet outil, et qu’ils se sentent soulagés de savoir que de tels moyens sont à leur disposition pour les aider à supprimer les images [à caractère sexuel]. »

La façon dont les sociétés de réseaux sociaux protègent les enfants et les adolescents (et les domaines dans lesquels elles échouent) est devenue l’une des principales questions de politique technologique bipartisane du nouveau Congrès des États-Unis. Cependant, la route est encore longue pour toute proposition visant à créer ou à renforcer les mesures de protection, et comme aucune loi n’est imminente, le NCMEC continue de servir de pont entre les réseaux sociaux et les forces de l’ordre sur les questions de sécurité des enfants. En 2021le NCMEC a reçu près de 30 millions d’informationsprovenant de l’ensemble de l’industrie concernant des contenus apparents de sextorsion et d’abus sexuels sur des enfants sur leurs plateformes. Une majorité d’entre eux ont été signalés par des plateformes appartenant à Meta.

Les mineurs et leurs parents peuvent utiliser l’outil gratuit et anonyme du NCMEC pour signaler les contenus explicites d’une personne mineure qui ont été diffusés en ligne ou qui, selon eux, le seront. Une fois qu’ils ont sélectionné les photos ou vidéos sensibles sur leur appareil, la plateforme génère l’équivalent d’une empreinte digitale numérique de cette photo (appelée « hash ») que le NCMEC partage ensuite avec les sites de réseaux sociaux participants afin qu’ils puissent essayer de trouver, restreindre ou supprimer, et continuer à surveiller ce contenu.

Les photos ou vidéos en question ne quittent pas l’outil et ne sont vues par personne, selon le NCMEC. Le hash permet également de ne pas identifier les victimes, tant au niveau du NCMEC que du réseau social, signalant seulement qu’une image est nuisible et doit être retirée. Le NCMEC a déclaré qu’il n’y a eu aucune violation connue de sa base de données de hash qui pourrait potentiellement exposer l’identité d’une victime.

Néanmoins, l’un des principaux obstacles à cet effort est l’essor du cryptage de bout en bout. « Lorsque les entreprises technologiques mettent en œuvre le cryptage de bout en bout, sans aucune mesure préventive intégrée pour détecter le matériel connu d’abus sexuel d’enfants, l’impact sur la sécurité des enfants est dévastateur », a déclaré Michelle DeLaune face à la Commission judiciaire du Sénat lors d’une audition ce mois-ci. Le problème dans le cas présent est que et la société la plus importante impliquée financièrement dans Take It Down, Meta, avance à grands pas vers le chiffrement de bout en bout sur Instagram et Messenger.

Comment NCMEC et Meta peuvent concilier la protection des mineurs et le chiffrement de bout en bout ? Voilà la « question à un million de dollars », selon le vice-président du NCMEC, Gavin Portnoy. Ce dernier note que le NCMEC ne sait toujours pas exactement quels sont les plans de Meta pour le chiffrement et quelles garanties sont présentes. Meta a déclaré qu’un travail est en cours et que diverses fonctionnalités de chiffrement sont testées sur Instagram et Messenger.

« Nous mettons au point Take It Down en fonction du positionnement actuel d’Internet et [du fournisseur de services électroniques] », a déclaré Gavin Portnoy. « C’est vraiment un pont que nous devrons traverser lorsque nous aurons une meilleure compréhension de ce à quoi ressemble l’environnement de chiffrement de bout en bout [de Meta], et s’il existe un monde où Take It Down peut fonctionner. »

La responsable mondiale de la sécurité de Meta, Antigone Davis, a déclaré à Forbes que « le chiffrement aura pour conséquence que certaines images ne seront pas identifiées par nos équipes ». Cependant, le chiffrement est en train de devenir une norme industrielle dans la messagerie qui est vitale pour la confidentialité et la sécurité des utilisateurs. L’utilisation de l’outil hébergé par le NCMEC sur des projets comme celui-ci est l’une des façons dont Meta essaie « de s’attaquer au problème », a affirmé Antigone Davis.

« Il n’existe pas de recette miracle pour résoudre ces problèmes », a déclaré Antigone Davis dans une interview, décrivant l’approche de Meta comme revêtant de « multiples facettes ». En plus de collaborer à ce nouveau système visant à contrecarrer la sextorsion et la diffusion non consensuelle d’images intimes, Meta ne permet pas aux adultes inconnus d’entrer en contact avec des mineurs par le biais de ses fonctions de messagerie, a-t-elle précisé. Meta utilise également des classificateurs pour empêcher que les comptes et le contenu des mineurs ne soient transmis aux utilisateurs adultes de Meta qui ont eu un comportement suspect en ligne.

« J’espère que les personnes qui ont eu des images partagées de la sorte dans leur jeunesse par n’importe qui, par un parent qui les exploitait, par un autre adulte qui les exploitait, par un ex-petit ami ou une ex-petite amie, seront intéressées par l’utilisation de cet outil », a déclaré Antigone Davis.

Le NCMEC a déclaré qu’il avait proposé à quelque 200 autres fournisseurs de services électroniques qui avaient soumis des informations à sa « CyberTipline » de se joindre au programme Take It Down. Il reste à voir qui d’autre, au-delà de la petite poignée d’acteurs des réseaux sociaux qui défendent cet outil aujourd’hui, se joindra à l’initiative. La société Yubo, pour sa part, a déclaré qu’elle espérait que ces premiers adeptes pousseraient d’autres sociétés à rejoindre le mouvement.

« Il faut plus qu’une simple intervention gouvernementale pour atténuer les risques et résoudre les problèmes en ligne », a déclaré Sacha Lazimi, PDG de Yubo, par courriel. « Tous les acteurs doivent jouer leur rôle. La collaboration est essentielle pour trouver des solutions aux grands défis, et nous espérons donc que d’autres plateformes se joindront à l’initiative Take It Down. »

Article traduit de Forbes US – Auteure : Alexandra S. Levine

<<< À lire également : EXCLUSIF | Meta n’arrive pas à protéger les modèles enfants des pédophiles sur Instagram >>>