La cybersécurité à l’ère de l’IA

L’intelligence artificielle (IA) n’est certainement pas un concept nouveau, mais avec le lancement public de ChatGPT et l’essor des modèles d’IA générative, elle a pris un nouvel élan vertigineux. L’IA transforme le monde de la cybersécurité et fait évoluer le paysage des menaces à un rythme remarquable. Une table ronde a été organisée sur ce sujet lors de la conférence Black Hat à Las Vegas.

 

Intitulée, « Cybersécurité à l’ère de l’IA », cette table ronde était animée par Christine Elswick, EVP et Cybersecurity Practice Lead chez Highwire PR. Plusieurs participants ont pris part au débat : Fleming Shi, CTO de Barracuda, Amit Elazari, J.S.D, la fondatrice d’OpenPolicy, J. Michael Daniel, le PDG de la Cyber Threat Alliance, Mark Ryland, le directeur du bureau du CISO Amazon Web Services (AWS), et Patrick Coughlin, le VP, Technical GTM de Splunk.

Transformer le paysage des menaces

L’émergence de l’IA générative permet aux hackers de frapper plus rapidement et avec plus de précision. En minimisant les fautes d’orthographe et les problèmes de grammaire qui étaient autrefois des signaux pour les attaques de phishing, l’IA les rend plus évasives et plus convaincantes. En particulier, les secteurs critiques tels que la santé, l’éducation et les administrations locales ont signalé une augmentation significative des attaques au cours des deux dernières années.

« L’IA générative est une nouveauté. C’est un sous-ensemble de l’apprentissage automatique, de l’apprentissage profond et de l’intelligence artificielle en général », explique Fleming Shi. « Lorsque nous commençons à examiner les armes [numériques] tous les jours, celles-ci ne sont pas très différentes au moment où elles sont réellement créées, car les humains peuvent encore fabriquer des armes très performantes et très efficaces. »

Fleming Shi ajoute : « Cependant, les choses sont différentes avec l’IA générative, car elle est capable de générer du contenu très rapidement à partir d’une certaine orientation, de quelques invites, et sera en mesure de manipuler et de fournir des armes numériques beaucoup plus rapidement. »

En outre, les hackers ont désormais la possibilité d’utiliser les capacités d’écriture de code de l’IA générative pour écrire des codes malveillants et exploiter ainsi les vulnérabilités des logiciels. Les compétences requises pour lancer une attaque par ransomware se résument désormais à la construction d’un message malveillant et à l’accès à des outils de ransomware en tant que service. Cela a donné lieu à une toute nouvelle vague d’attaques développées à une échelle sans précédent.

Patrick Coughlin a fait remarquer que, d’un point de vue historique, l’essor de l’IA dans le domaine de la cybersécurité peut être assimilé au passage aux appareils mobiles et à l’informatique en nuage. Ces bouleversements technologiques ont eu plusieurs conséquences importantes. Elles ont élargi la surface d’attaque en introduisant de nouveaux ensembles de données critiques, comme les données d’entraînement, et créé de nouvelles façons de perdre des données. Comme pour le passage à l’informatique en nuage, de nouvelles exigences en matière de conformité se profilent à l’horizon, bien que les attaquants n’aient évidemment pas à s’en préoccuper.

Le consensus général des experts du panel est que l’intégration de nouvelles technologies peut sembler écrasante, mais on doit se rappeler que l’humanité est déjà passée par là. Il est essentiel de procéder avec prudence, d’être attentif aux nouvelles réglementations et d’éviter les portes à sens unique lors de l’élaboration des systèmes.

L’importance d’une visibilité totale entre les différents systèmes et outils est une leçon qui aurait dû être tirée des expériences passées.

Renforcer et améliorer la sécurité

L’équilibre entre l’attaque et la défense dans l’IA est un aspect crucial du paysage actuel de la cybersécurité.

L’IA pourrait être un atout important, en automatisant de nombreux processus et en jouant le rôle d’assistant décisionnel pour les personnes travaillant dans un centre d’opérations de sécurité (SOC). La capacité de l’IA à effectuer le travail de triage pourrait être révolutionnaire.

Cependant, il y a aussi des défis à relever, comme le fait que l’IA générative incite les entreprises à durcir et à fermer les API, réduisant ainsi la disponibilité des informations pour les défenseurs. La sécurité de l’IA elle-même est encore plus complexe, car il est difficile de comprendre comment l’IA parvient à une décision, et donc de déterminer si elle a été manipulée.

Toutefois, Mark Ryland souligne que les opportunités pour les équipes de sécurité sont doubles : la prévention, en utilisant l’IA pour accélérer la prise de décision et automatiser les tâches, et la défense, car les analyses basées sur l’IA peuvent accélérer la détection des menaces.

Le groupe d’experts a souligné que l’IA doit être considérée comme une augmentation et non comme un remplacement de l’intelligence humaine. « Les outils dont nous parlons ici, et ce sont bien des outils, ont un énorme potentiel pour rendre la pratique de la cybersécurité beaucoup plus satisfaisante », déclare J. Michael Daniel. « Ils peuvent éliminer la fatigue liée aux alertes et permettre aux humains de se concentrer sur ce qui est réellement intéressant. »

Passer au crible le discours sur l’IA générative

Il y a eu une explosion de solutions de cybersécurité proclamant l’adoption de l’IA, et les entreprises doivent passer outre le battage médiatique pour comprendre quels fournisseurs et outils tirent réellement parti de l’IA générative et comment commencer à en tirer parti. La détection des menaces basée sur l’IA est essentielle pour déjouer les attaques ciblées, et les RSSI doivent mettre l’accent sur la résilience et penser de manière holistique pour sécuriser leurs organisations.

Patrick Coughlin souligne : « Aujourd’hui, nous avons beaucoup parlé de la résilience numérique et de l’importance de l’intégration de la résilience dans votre activité numérique. Je pense qu’à mesure que les systèmes d’IA entrent en production, qu’ils alimentent de plus en plus d’applications en contact avec les clients dans le Fortune 500, il va devenir de plus en plus crucial de briser les silos entre les équipes internes afin d’obtenir plus de visibilité, plus de contrôles de processus et plus de clarté pour le C-suite. »

En ce qui concerne l’avenir de l’IA dans la cybersécurité, les perspectives sont généralement encourageantes, mais il est nécessaire de garder une longueur d’avance. Le développement des technologies de l’IA, en particulier des modèles de langage de grande taille, a poussé les débats sur l’IA dans l’espace de définition des politiques et de réglementation. Il s’agit d’un impératif de sécurité nationale qui doit être pris en compte. Les décideurs politiques ont été hésitants, mais la situation est en train de changer, avec un regain d’intérêt pour la mise en relation d’entreprises innovantes, de startups et de sociétés d’investissement à grande échelle, afin de poursuivre la construction d’outils de pointe tout en étant pleinement conscients des enjeux et des politiques en la matière.

Garder une longueur d’avance sur l’IA

L’IA et l’IA générative sont-elles des outils qui amélioreront la prochaine génération de solutions de cybersécurité et donneront plus de pouvoir aux défenseurs, ou sont-elles une menace existentielle qui fait basculer la bataille de manière irrévocable en faveur des acteurs de la menace ? Ou bien se situe-t-on quelque part entre les deux ?

Amit Elazari s’est déclarée optimiste et pleine d’espoir quant à l’avenir de la cybersécurité grâce à l’IA. « L’IA générative a vraiment le pouvoir de faire trois choses, qui aboutissent au processus de démocratisation : accroître l’accès à l’information, qu’il s’agisse de connaissances textuelles ou d’informations sur les cybermenaces ; accroître la convivialité, c’est-à-dire la manière dont ces informations vous sont présentées, comment elles sont gérées de manière à vous permettre d’interagir avec elles ou s’il s’agit d’une expérience qui donne au public des informations la possibilité de les exploiter ; et accroître l’efficience et l’efficacité de ce que vous pouvez faire avec ces informations. »

La table ronde « La cybersécurité à l’ère de l’IA » a permis de jeter un regard complet et perspicace sur la relation complexe entre l’IA et la cybersécurité. Alors que l’IA continue d’évoluer, les enseignements tirés de cette discussion offrent des conseils précieux aux personnes, aux entreprises et aux gouvernements qui cherchent à naviguer sur le territoire inexploré de la cybersécurité basée sur l’IA. En se concentrant sur la collaboration, l’innovation et la mise en œuvre responsable, un avenir sûr et prometteur semble accessible.

 

Article traduit de Forbes US – Auteur : Tony Bradley

<<< À lire également : Les trois compétences pour tirer parti de l’ère de l’IA qui se profile >>>