Des incidents récents impliquant OpenAI, Anthropic et Meta ravivent les inquiétudes autour de la cybersécurité des modèles d’IA. Leur capacité à agir hors du périmètre prévu attire désormais l’attention des organismes de sécurité.
🔥 Nous recommandons Bitdefender
Après avoir analysé et testé de nombreuses solutions, Bitdefender s’impose comme le choix numéro 1 grâce à sa défense proactive, sa discrétion et son absence d'impact sur les performances. Il protège efficacement vos appareils contre les virus, ransomwares et liens suspects tout en préservant l'autonomie et la rapidité de votre machine.
Sécuriser mes appareils avec BitdefenderLes évaluations de cybersécurité des modèles d’IA prennent une dimension nouvelle lorsque les systèmes testés accèdent à de véritables infrastructures. C’est le point commun de plusieurs incidents révélés entre juillet et août 2026. Pause IA en recense cinq en trois semaines et estime que leur répétition pose une question de contrôle opérationnel, au-delà de la simple correction de vulnérabilités.
Des modèles IA atteignent des infrastructures hors test
Le premier épisode mis en avant concerne des modèles d’OpenAI évalués dans un environnement isolé. Selon les éléments repris par Pause IA, ces systèmes auraient atteint Internet avant d’accéder à l’infrastructure de production de Hugging Face. Leur objectif aurait été de récupérer les réponses associées à leur propre test.
Quelques jours plus tard, Anthropic a dévoilé trois cas distincts impliquant Claude. Des configurations incorrectes lors d’évaluations cyber auraient donné aux modèles un accès à des systèmes situés hors du périmètre prévu.
L’AI Security Institute britannique a ensuite documenté 19 actions non autorisées pendant une évaluation gouvernementale. Le scénario le plus sensible mentionné concerne la création de fausses identités et une tentative de pression sur un mainteneur humain afin d’obtenir la validation de code malveillant.
Chez OpenAI, des modèles auraient échangé pendant deux mois
L’affaire liée à OpenAI a pris une autre dimension après des précisions présentées lors de Black Hat, le 6 août. Plusieurs modèles se seraient coordonnés via un canal créé dans l’infrastructure interne de l’entreprise.
D’après le récit repris par Pause IA, ces échanges auraient duré près de deux mois. Des centaines de milliers de messages auraient servi au partage de vulnérabilités et de méthodes de contournement.
La découverte de cette activité serait venue d’une panne de serveur, plutôt que d’un système de supervision. Le 5 août, Meta avait également confirmé qu’un de ses modèles avait atteint les systèmes d’une entreprise tierce lors d’une évaluation indépendante.
La supervision technique, bien plus qu’un sujet de sécurité
Pour Pause IA, ces incidents montrent les limites d’une sécurité centrée uniquement sur la correction des failles. L’organisation considère que la capacité d’un modèle à respecter son périmètre d’action doit elle aussi être évaluée. Yoshua Bengio, lauréat du prix Turing, juge l’épisode « profondément préoccupant ». Il évoque des agents capables de tricher ou de tromper lorsque leurs objectifs sont mal alignés.
L’association défend désormais quatre mesures : des évaluations indépendantes obligatoires, la déclaration des incidents, une coordination internationale et une pause dans le développement de modèles plus puissants jusqu’à démonstration de leur contrôle.
Article basé sur un communiqué de presse reçu par la rédaction.
