Cybersécurité en 2024 : l’année IA de tous les dangers !

L’ère de l’IA dans la cybersécurité : anticiper les défis de 2024

Une contribution de Yannick Chatelain 

L’utilisation de l’IA par les cybercriminels est en constante évolution, devenant plus sophistiquée et contournant les défenses de sécurité existantes. L’année 2024 sera marquée par une augmentation des cyberattaques et des cybercrimes s’appuyant sur l’IA et ses différentes sous catégories dont l’IA generative (ou GenAI) dédiée à générer du texte, des images, du son, ou tout autres médias en réponse à des invites (ou prompts en anglais) c’est à dire une sollicitation de l’utilisateur en mode texte. Il est crucial, pour ne pas dire vital que les entreprises et les gouvernements investissent massivement dans des solutions de cybersécurité basées sur l’IA pour se protéger contre les attaques malveillantes inédites en approche et de façon quantitativement démultipliées. Les particuliers devraient également se tenir informés pour se protéger au mieux.

La cybersécurité est en train de subir un changement de paradigme dû à l’évolution de la cybercriminalité et à la dématérialisation croissante de la société. La crise sanitaire a accéléré cette évolution, augmentant la quantité de données sensibles dans le cyberespace à protéger. L’intelligence artificielle transforme le monde de la cybersécurité et a des implications dans de nombreux métiers. Le résultat de cette dynamique est visible, notamment dans le domaine de la santé, le rapport de l’ENISA (European Union Agency for Cybersecurity) démontre par exemple que les cyberattaques ont doublé au premier trimestre 2023  les cibles s’élargissant jusqu’aux prestataires de services !

De la fracture numérique à la fracture ouverte numérique

L’IA creuse la fracture numérique en excluant une partie de la population, Les professionnels doivent redoubler d’efforts pour protéger les citoyens, mais cela risque de ne pas suffire. Le secteur de l’IA est en pleine croissance financière sans « véritables » garde-fou mise à part les chartes éthiques qui existent en Europe, en Chine et aux États-Unis. Ces chartes divergentes ne sont pas vraiment crédibles, sans vouloir paraître cynique, outre le fait qu’elles ne soient pas mondialement consensuelle, elles font un peu penser aux Conventions de Genève et Protocoles additionnels, qui sont certainement efficaces et respectés… en temps de paix. Ces engagements d’usages cadrés me  semble peser bien peu au regard  d’enjeux financiers colossaux, je rappelle à toute fin utile que l’IA, partie intégrante du capitalisme de la surveillance Le secteur de l’IA devrait dépasser les 500 milliards de dollars d’ici 2027…   et ce, sans le moindre garde-fou hors des chartes éthiques qui fleurissent ici et là,  Europe, Chine, Usa.. Ce sont des chartes divergentes, qui sont de fait, si je peux me permettre, aussi crédibles que la convention de Genève en suisse et en temps de paix !

Alliée et ennemie : L’IA en cybersécurité, une double réalité à appréhender

L’IA, ses usages, ses développements, sont en passe de devenir à mon sens totalement hors contrôle. J’en veux pour preuve l’affaire Sam Altman qui a été un bien court moment « débarqué » de son poste de CEO, pour manquement à la mission originelle d’OPEN AI,  avant de le retrouver quelques jours plus tard avec un conseil d’administration renouvelé.  En effet, en 2018, une charte avait été rédigée qui présentait la mission et les principaux engagements de l’entreprise : S’assurer que l’intelligence artificielle puisse bénéficier à l’ensemble de l’humanité, tout en élaborant des outils « safe » comme le pointe Blanche Segrestin, Professeure à Mines Paris – Université PSL :  « Il semble que Sam Altman ait été renvoyé parce qu’il mettait la mission de l’entreprise (être bénéfique à l’humanité) en danger en recherchant un développement commercial trop rapide. » Dont acte…

L’IA offensive : un tournant majeur dans la guerre numérique

Nous sommes entré dans l’ère de l’IA offensive,  cette approche « offensive » va bien au-delà des schémas traditionnels, elle cible non seulement les systèmes informatiques conventionnels, mais aussi les intelligences artificielles. Cette évolution marque un tournant significatif dans la guerre numérique, où les IA deviennent à la fois des cibles et des acteurs majeurs des attaques, comme de la défense. Les cibles : Les état nations, les entreprises, les particuliers, les IA elles mêmes. L’IA représente ainsi une double réalité : une menace en matière de cybersécurité et un outil pour renforcer la défense…

• Les États nations

Les États-nations et les activités hacktivistes sont les deux principaux moteurs de  cyberguerres qui vont s’intensifier impliquant des groupes qui disposeront de solutions de plus en plus sophistiquée pour cherchent perturber l’économie et déstabiliser les institutions des pays cibles.

• Les Entreprises:

Les entreprises se trouvent désormais en première ligne de cette IA offensive… La nécessité d’adopter des stratégies de défense avancées devient cruciale, tandis que la collaboration entre les secteurs public et privé devient essentielle pour contrer ces nouvelles menaces.

• Les Particuliers face à l’ingéniosité croissante des « arnaques » :

Les particuliers ne sont pas en reste, ils vont faire face à une vague croissante d’arnaques extrêmement sophistiquées. Des mesures de prévention et d’éducation deviennent indispensables pour protéger les utilisateurs contre des tactiques qui sont appelées à être toujours plus élaborées.

• L’IA une nouvelle cible :

Cependant, la « grande nouveauté » réside dans le ciblage direct des intelligences artificielles. Les attaques visant à manipuler, perturber ou corrompre les systèmes d’IA deviennent une réalité inquiétante. Cela soulève des questions fondamentales sur la sécurité des technologies émergentes et la nécessité de renforcer les protocoles de protection des intelligences artificielles.

Attaques malveillantes : L’IA au centre des menaces en cybersécurité

Au niveau des menaces les plus prévisibles, il y a naturellement les attaques traditionnelles, mais dopée à l’IA elles changent de nature, sans compter de nouvelles menaces qui ne manqueront pas de voir le jour.   Les ransomwares ciblés font partie des menaces les plus préoccupantes, car ils visent de plus en plus souvent des organisations abritant des données sensibles tels que les hôpitaux et l’administration publique. Les attaques Zero-Day sont également en hausse, avec les Jeux Olympiques de Paris 2024 en ligne de mire : « plus de 3 milliards d’attaques sont anticipées ». Côté entreprise, les fournisseurs et partenaires sont devenus des cibles privilégiées, avec une augmentation spectaculaire ; des attaques de la chaîne d’approvisionnement.  Des attaques en hausse de 600 % l’année dernière,.. Les tactiques de social engineering, notamment les redoutables « arnaques au président », vont atteindre des sommets de sophistication (scénario, voix, visio). Les attaques sur les dispositifs IoT explosent, avec une augmentation de 400% des malwares en 2023, et l’IA promet une escalade continue des menaces évoquées. La prolifération des deepfakes et des attaques exploitant l’IA pose une menace significative pour l’intégrité de l’information, notamment avec le support potentiel des « Smartphone Generative » que nous pourrions appeler les GenSmartphones.

Les attaques ciblant la reconnaissance vocale et faciale s’intensifient, compromettant la sécurité des utilisateurs. En conclusion, les Adversial Attacks sur les IA, visant directement les intelligences artificielles, sont en hausse, notamment sur les modèles génératifs, menaçant la fabrication de données erronées et la sécurité des futurs modèles de langage. En effet, certains modèles génératifs peuvent se révéler vulnérables à des « attaques par exemples contradictoires »  (adversarial attacks), dont l’exemple classique pour un modèle de machine learning par exemple est d’introduire de fausses données dans la base de données d’apprentissage. Un exemple d’adversial attaque qui  cible les IA génératives, le data poisoning.  (Source : Yannick Chatelain, The Conversation sous licence Creative Commons, ) il en est bien d’autres ! Enfin,  il est important de prendre en compte la vulnérabilité des systèmes d’IA aux attaques. Pour mieux comprendre les types d’attaques susceptibles d’être dirigées contre les systèmes d’IA, une classification des attaques connues peut être utile. Cette classification peut se baser sur deux dimensions: le moment de l’attaque et l’objectif de l’attaque.

• La première famille d’attaques est appelée attaques par manipulation, elle permet aux attaquants de contourner le comportement attendu des systèmes d’IA, voire même de les reprogrammer en temps réel. Les attaquants peuvent ainsi exploiter des entrées malicieuses pour mener des attaques d’évasion, de reprogrammation, ou des attaques par déni de service.
• La deuxième famille d’attaques, nommées les attaques par infection, perturbent la qualité des décisions prises par les systèmes d’IA, permettant ainsi aux attaquants de les contrôler de manière dissimulée. Les attaquants peuvent utiliser ces attaques pour saboter le fonctionnement normal des systèmes d’IA.
• Enfin, la troisième famille d’attaques, les attaques par exfiltration, visent à voler les données des systèmes d’IA. Les échantillons de données, le modèle sur lequel l’IA est basée, ou les éléments internes aux algorithmes peuvent être volés par des attaques telles que l’inférence d’appartenance, l’inversion de modèle ou l’extraction de modèle. Il est donc important de prendre en compte ces différentes familles d’attaques pour protéger les systèmes d’IA contre les menaces potentielles.

Oui , tel est notre IAmonde

Approche Proactive pour la résilience : Formation, Sensibilisation, et Solutions Défensives à Base d’IA

L’augmentation tant qualitative que quantitative des attaques exige une adoption impérative de l’IA défensive. Les entreprises doivent investir dans des outils avancés pour détecter et contrer en temps réel les nouvelles menaces. La résilience face à ces défis nécessite une approche proactive, incluant la formation des professionnels et l’acquisition d’outils spécialisés. Parmi les solutions envisageables, une sensibilisation accrue, une sécurité renforcée des réseaux, et l’utilisation d’outils d’IA défensive tels que des pare-feu avancés et des systèmes de détection d’intrusion en temps réel sont cruciales. Dans cette ère de cybercriminalité amplifiée par l’IA, la défense doit être à la hauteur de l’offensive, impliquant une formation continue, une sensibilisation approfondie, et l’adoption de solutions défensives évoluées. L’IA émerge comme un allié indispensable pour contrer les attaques et assurer la résilience des systèmes informatiques. Pour résumer : L’une des branches les plus prometteuses de la cybersécurité à base d’IA est l’UEBA, définie par Gatner dès 2015, l’UEBA, à savoir ‘User and Entity Behavior Analytics’. Il offrait les mêmes capacités que l’approche « User Behavior Analytics » UBA* (précédemment recommandée) en ajoutant la possibilité de suivre l’activité d’entités non humaines, notamment les appareils, les applications et les serveurs. Une approche adaptée à l’IA « L’UEBA pour « User and Entity Behavior Analytics » est une technologie de cybersécurité innovante qui utilise des algorithmes d’apprentissage automatique afin de créer une base de référence concernant les comportements normaux des utilisateurs au sein de votre réseau ».

S’il n’est pas de solutions uniques pour contrer des attaques multiformes, je vous invite à découvrir ces entreprises qui proposent des solutions de cybersécurité évolutives, pour contrer différentes formes d’attaques en utilisant l’IA. Il s’agira alors pour les acteurs en « front line » de choisir l’entreprise, voire les entreprises partenaires qui répondront au plus près au type de risques auxquels leur entreprise est le plus suceptible d’être exposée, voilà ci-dessous quelques exemples de prestataires combattant l’IA avec… l’IA :

CrowdStrike utilise un système basé sur l’IA qui analyse le comportement des utilisateurs pour optimiser la détection des menaces.

Trellix propose une solution de sécurité évolutive apprend et s’adapte grâce à l’apprentissage automatique et à l’intelligence artificielle.

Check Point« Utilise l’IA et le deep learning pour fournir une prévention avancée contre les exploits du système de noms de domaine (DNS) et le phishing, ainsi qu’une sécurité autonome de l’IoT ». Ce ne sont là que quelques exemples, d’autres entreprises sont d’ores et déjà dans cette dynamique qui est l’avenir de la cybersécurité.  Vectra AI, Cynet, Sophos… qui sont très avancés… et que je vous laisse découvrir. 

Nouvelles Menaces, Nouvelles Réponses : Stratégies de Cybersécurité pour les États, les Entreprises… et les Particuliers

      • États

Investissement dans la cyberdéfense : Allouer des ressources adéquates pour renforcer les capacités de cybersécurité et former des équipes spécialisées.

Législation et régulation : Élaborer des lois et des réglementations claires pour encadrer l’utilisation de l’IA, garantir la confidentialité des données, et punir les acteurs malveillants.

Coopération internationale : Collaborer, si possible, avec d’autres pays pour partager des renseignements, développer des normes de cybersécurité communes, et lutter contre les menaces transfrontalières.

Sensibilisation et éducation :Mettre en place des programmes d’éducation et de sensibilisation pour informer la population sur les risques liés à la cybersécurité.

• Entreprises :

Évaluation des risques : Effectuer régulièrement des évaluations de sécurité pour identifier les vulnérabilités potentielles dans les systèmes.

Formation continue : Former régulièrement les employés sur les meilleures pratiques de sécurité et les sensibiliser aux techniques d’ingénierie sociale.

Mise à jour des logiciels : Appliquer rapidement les mises à jour de sécurité pour tous les logiciels, disposer des derniers logiciels disponibles sur le marché, y compris les systèmes d’IA, afin de corriger les failles de sécurité connues.

Solutions de sécurité avancées :  Investir dans des outils de cybersécurité avancés, y compris des systèmes d’IA défensive (cf, Approche Proactive pour la résilience : Formation, Sensibilisation, et Solutions Défensives à Base d’IA) pour détecter et contrer les attaques en temps réel.

• Particuliers :

Sécurité des Mots de Passe: Utiliser des mots de passe forts et uniques pour chaque compte, envisager l’utilisation de gestionnaires de mots de passe.

            Mises à Jour Régulières: Maintenir à jour les systèmes d’exploitation, les applications et les logiciels pour bénéficier des dernières corrections de sécurité.

             Sensibilisation: Être conscient des tactiques de phishing et d’arnaques en ligne, en restant informé sur les dernières menaces.

              Solutions Antivirus et Anti-Malware: Utiliser des programmes de sécurité fiables pour protéger les appareils contre les logiciels malveillants.

               Gestion de la Vie Privée: Contrôler les paramètres de confidentialité sur les réseaux sociaux et autres plateformes en ligne, limitant la quantité d’informations personnelles partagées.

Pour conclure

Indéniablement, l’année 2024 sera une année charnière, l’ année de tous les dangers, sommes-nous prêts, les État, les entreprises les plus « sensibles »  sont conscientes de la situation,  pour autant il est des cybercriminels comme du dopage dans le sport, les cybercriminels jouent bien souvent avec deux longueurs d’avance….

“Quand on peut prévenir c’est faiblesse d’attendre.”

Jean de Rotrou

À lire également : IA : Transformer les soins de santé, la cybersécurité et les communications