HarfangLab analyse l’IA en cybersécurité

Quelle IA dans la cybersécurité ? L’analyse d’HarfangLab révèle une mutation rapide des menaces et des outils de défense.

L’intelligence artificielle bouleverse les stratégies de protection numérique. Longtemps cantonnée à l’analyse de menaces, elle devient aussi une arme pour les attaquants. Les travaux récents d’HarfangLab mettent en lumière cette montée en puissance des usages offensifs. Les entreprises doivent désormais composer avec un risque plus diffus et automatisé.

Une désinformation dopée par l’IA

La diffusion de contenus trompeurs connaît une accélération nette sous l’effet des progrès de l’IA générative. Images truquées, voix synthétiques ou faux articles circulent avec un niveau de crédibilité inédit. Pour les experts, la frontière entre information fiable et manipulation devient plus difficile à tracer.

L’essor de modèles open source faciles à détourner accentue le phénomène. Lestechniques d’empoisonnement de données se multiplient. Elles injectent de fausses informations jusque dans des contenus réputés sûrs. L’usage croissant des assistants conversationnels en remplacement des moteurs de recherche traditionnels expose davantage d’utilisateurs à ces manipulations. Certaines plateformes sociales jouent aussi un rôle d’amplification. Le manque de modération observé sur X ou Truth Social contribue à la viralité de contenus trompeurs.

Les LLM deviennent un nouveau vecteur d’attaque

Les grands modèles de langage ne servent plus uniquement à coder plus vite. Plusieurs recherches, notamment de Palo Alto Networks et Pillar Security, montrent que ces outils peuvent être instrumentalisés pour diffuser du code malveillant à grande échelle.

Le risque est d’autant plus élevé que l’IA s’insère directement dans les environnements de développement. Dans certains scénarios documentés, l’assistant du développeur génère involontairement des composants compromis. Une seule bibliothèque infectée peut alors contaminer toute une chaîne logicielle. Ces campagnes rappellent par leur portée des attaques historiques comme NotPetya, mais avec un niveau d’autonomie supérieur grâce à l’IA.

Phishing avancé, identités fantômes et IA offensive

Le phishing reste la menace la plus industrialisée. L’IA permet de produire des messages hyperpersonnalisés par email, SMS ou appel vocal. Les deepfakes renforcent encore la crédibilité des fraudes, ce qui complique leur détection par les victimes.

Parallèlement, les équipes d’HarfangLab observent une montée rapide des attaques qui visent les identités non humaines. Clés API, tokens et agents autonomes prolifèrent au point de dépasser le nombre d’identités humaines. Certains agents sont capables de créer leurs propres accès et d’obtenir des privilèges élevés sans intervention humaine.

L’IA facilite aussi la conception de malwares par des groupes peu expérimentés. Le ransomware Funksec, repéré par Check Point, illustre cette démocratisation des capacités offensives. L’adoption croissante du Model Context Protocol renforce encore la puissance de ces outils.

L’entrée en vigueur prochaine de l’AI Act européen introduira une contrainte supplémentaire pour les organisations. Comme le souligne Hugo Michard, lead IA chez HarfangLab, les entreprises devront garantir transparence, précision des usages et conformité éthique de leurs modèles.

Côté défense, l’IA gagne toutefois en maturité. Les assistants de sécurité, à l’image de KIO chez HarfangLab, aident désormais les analystes à prioriser les alertes, générer des playbooks et accélérer les réponses aux incidents. Une évolution qui confirme que l’IA restera au cœur de l’équilibre entre attaque et protection dans les années à venir.

Article basé sur un communiqué de presse reçu par la rédaction.