LLM : les nouveaux risques expliqués par Meritis

Les LLM modifient les pratiques de cybersécurité et créent de nouveaux points de vigilance. À SunnyTech Montpellier, Meritis présentera plusieurs scénarios d’attaque et les protections qui peuvent réduire ces risques.

Les grands modèles de langage changent les usages, mais aussi les règles de la cybersécurité. À SunnyTech Montpellier, Meritis expliquera comment une simple requête peut détourner un système d’intelligence artificielle et pourquoi les entreprises doivent adapter leurs méthodes de protection.

Les LLM ouvrent de nouveaux risques pour les systèmes d’information

Les grands modèles de langage trouvent leur place dans de nombreux outils professionnels. Leur intégration soulève toutefois des questions inédites pour les équipes chargées de la sécurité informatique. Contrairement aux attaques classiques, certaines manipulations reposent uniquement sur la manière de dialoguer avec le modèle.

Une requête soigneusement formulée peut parfois conduire un LLM à ignorer ses propres règles, à révéler des données confidentielles ou à produire un résultat inattendu. Cette technique, connue sous le nom d’injection de requêtes, attire désormais l’attention des spécialistes. Les protections historiques, comme l’authentification ou le contrôle des accès, ne suffisent plus à couvrir ces nouveaux scénarios.

Le 2 juillet, lors du salon SunnyTech à Montpellier, Gaëtan Eleouet, Tech Lead chez Meritis, a consacré une conférence à dix failles de sécurité qui touchent les LLM. À travers des démonstrations, il a présenté plusieurs situations concrètes afin de montrer comment ces attaques fonctionnent et quelles précautions peuvent limiter leurs effets.

La gouvernance de l’IA, un complément aux protections classiques

Face à ces nouveaux usages, la sécurité ne repose plus uniquement sur le code. Les entreprises doivent également encadrer le fonctionnement des modèles d’intelligence artificielle tout au long de leur cycle d’utilisation.

Parmi les pistes évoquées figurent la définition d’un périmètre d’action précis pour chaque LLM, le contrôle systématique des entrées et des réponses, ainsi que l’anonymisation des informations sensibles. La surveillance de toute la chaîne d’intégration complète également ces mesures.

Gaëtan Eleouet affirme que « Sans ces garde-fous, erreurs, fuites de données et manipulations peuvent se propager à une échelle inédite. » Selon lui, les entreprises doivent désormais considérer les modèles de langage comme des composants qui nécessitent une supervision spécifique, au même titre que les autres briques critiques d’un système d’information.

À Montpellier, Meritis accompagne déjà des secteurs très exposés

Ces problématiques dépassent largement le cadre de la recherche. À Montpellier, les consultants de Meritis interviennent déjà auprès d’acteurs de la banque, de l’assurance et de l’e-santé, trois secteurs particulièrement attentifs à la protection des données.

Le parcours de Gaëtan Eleouet reflète cette spécialisation. Après des expériences sur des applications industrielles et des plateformes de trading, il participe aujourd’hui à la diffusion des bonnes pratiques en ingénierie logicielle. Il enseigne également en école d’ingénieurs et contribue aux travaux techniques du groupe.

Sous la direction d’Eve Certhoux, l’agence montpelliéraine compte désormais près d’une centaine de collaborateurs. Elle accompagne des entreprises comme Groupama, Crédit Agricole, Orchestra, Zimmer Biomet, General Electric, la Mutuelle des Motards, Quantum Surgical ou encore CMA CGM. L’essor des usages liés à l’intelligence artificielle conduit aujourd’hui ces organisations à intégrer plus largement la sécurité des LLM dans leurs réflexions.

Article basé sur un communiqué de presse reçu par la rédaction.