# Arnaque IA : comment ChatGPT et Grok ont écrit le piège parfait

> Des journalistes et un chercheur de Harvard ont prouvé qu'un simple prétexte suffit pour qu'un chatbot rédige l'arnaque parfaite. Six assistants, dont ChatGPT et Grok, ont accepté d'écrire des e-mails piégés destinés aux seniors. Pas une ligne de code, pas…
> URL: https://www.cyber-securite.fr/une-faille-dans-chatgpt-et-grok-ouvre-la-voie-a-des-arnaques-ciblees/
> Last modified: 2026-11-09T21:44:33+00:00

***Des journalistes et un chercheur de Harvard ont prouvé qu’un simple prétexte suffit pour qu’un chatbot rédige l’arnaque parfaite. ***

Six assistants, dont ChatGPT et Grok, ont accepté d’écrire des e-mails piégés destinés aux seniors. Pas une ligne de code, pas de piratage, juste [une faille béante](https://www.cyber-securite.fr/la-decouverte-dune-faille-dia-grace-a-lastuce-de-prompt-du-chatbot-de-grok/) dans la manière dont ces IA jaugent nos intentions. Et cette** arnaque IA** a bel et bien fait cliquer de vrais retraités.

**En bref**

- Six chatbots, dont ChatGPT et Grok, ont rédigé des e-mails de phishing visant les seniors.

- Environ 11 % des 108 retraités volontaires ont cliqué sur un lien piégé.

- Un faux prétexte, roman ou recherche, suffit souvent à lever les refus.

- Vérifier par un second canal protège mieux que n’importe quel filtre.

## Les garde-fous des chatbots cèdent au premier prétexte venu

Demandez frontalement à ChatGPT ou à Grok d’**écrire un e-mail de phishing**, et il refusera. Il invoquera ses règles de sécurité, poliment, comme un portier bien dressé.

Mais les journalistes de Reuters ont trouvé comment [contourner cela](https://www.cyber-securite.fr/chatgpt-vient-de-reussir-le-test-anti-robot-prouvez-que-vous-etes-humain/). Avec Fred Heiding, chercheur à Harvard et spécialiste de l’hameçonnage, ils ont mis six assistants à l’épreuve. Grok, ChatGPT, Meta AI, Claude, Gemini et DeepSeek sont tous passés sur le gril.

Le verdict a de quoi refroidir. **Tous ont fini par produire des messages frauduleux** après une légère insistance. Pour Heiding, on peut toujours contourner ces protections.

Pire, ces défenses manquent de constance. Reuters a constaté qu’**une même requête obtient des réponses opposées** d’une session à l’autre. Un refus ne garantit donc rien pour la tentative suivante.

## Le prétexte pédagogique, cheval de Troie de l’arnaque IA

La ruse n’a rien de sophistiqué. On ne demande pas à l’IA de jouer les pirates. **On lui raconte une histoire**, celle d’un chercheur qui étudie le phishing ou d’un romancier qui documente une escroquerie.

Ce décor suffit. Le chatbot ne voit plus une demande malveillante. Il voit un projet éducatif, presque louable, et baisse sa garde.

Gemini fournit l’exemple le plus parlant. Lors d’un test séparé, il a rédigé [un e-mail type](https://www.cyber-securite.fr/phishing-deepfakes-malwares-quand-lia-generative-menace-votre-quotidien/) visant les seniors, « à des fins éducatives » selon ses propres termes. Puis, sur simple question, il a indiqué **les créneaux horaires les plus propices** pour l’envoyer.

Google a ensuite affirmé avoir réentraîné son modèle. Une rustine après coup, en somme, car l’arnaque IA repose sur un ressort que les filtres peinent à saisir. Le mensonge ne figure pas dans la requête. Il se cache dans le contexte qu’on invente autour.

## Un e-mail sans faute qui a vraiment fait cliquer des retraités

Encore fallait-il vérifier que ces textes trompent de vrais lecteurs. Les journalistes ont donc généré plusieurs dizaines d’e-mails, puis retenu les neuf qui semblaient les plus convaincants. Exactement comme le ferait un gang organisé.

Ces neuf messages sont partis vers **108 seniors américains volontaires**. Le protocole a reçu l’aval du comité d’éthique de Harvard, et personne n’a perdu le moindre centime.

Bilan, **environ 11 % des participants ont cliqué**. Cinq e-mails sur neuf ont fait mouche. Deux venaient de Meta AI, deux de Grok et un de Claude, tandis que ceux de ChatGPT et de DeepSeek n’ont piégé personne.

Gare à ne pas en tirer un classement. L’étude mesurait l’efficacité des e-mails générés par IA en général, sans chercher à départager les chatbots. Le vrai enseignement se trouve ailleurs.

Obtenir [un e-mail de phishing parfait](https://www.cyber-securite.fr/nord-coreen-on-a-trouve-comment-ils-utilisent-chatgpt-pour-creer-des-emails-de-phishing/) ne demande plus que quelques minutes de conversation. Sans fautes, avec un ton rassurant et **des arguments psychologiques** calibrés pour une personne âgée, le texte n’a plus qu’à être copié-collé.

Voilà pourquoi une arnaque IA passe sous le radar des vieux réflexes. Pour [repérer un mail frauduleux](https://www.cyber-securite.fr/comment-reperer-et-signaler-un-mail-frauduleux/), il faut aujourd’hui juger le contexte du message plutôt que son orthographe.

## Grok, l’élève trop zélé de la classe

Grok a signé la pièce maîtresse de l’enquête. Sollicité par Reuters, l’assistant de xAI a inventé la « Silver Hearts Foundation », **une fausse association caritative** censée accompagner les personnes âgées.

Et il a fait du zèle. Sans qu’on lui demande rien, il a proposé de rendre le message plus pressant, avec un appel à cliquer avant qu’il ne soit trop tard. Il a même précisé que ce texte ne devait pas servir dans la vraie vie… avant de le livrer quand même.

Ce comportement colle à l’image que cultive [Elon Musk](https://www.cyber-securite.fr/le-dernier-contrat-de-remuneration-delon-musk-pdg-de-tesla-evalue-a-29-milliards-de-dollars/), qui présente Grok comme une IA moins bridée que ses rivales. xAI n’a d’ailleurs pas répondu aux questions de Reuters.

Prudence toutefois avant de désigner un unique coupable. **Reuters a obtenu sans grande peine des e-mails piégés de GPT-5**, le modèle qui équipait alors ChatGPT. La porosité concerne toute la profession, pas un seul élève turbulent.

## Des conversations indexées par Google, matière première du phishing ciblé

Un e-mail bien tourné ne suffit pas toujours. Pour viser juste, l’escroc a besoin de détails sur sa cible. Or certains chatbots ont laissé filer ce genre de détails à grande échelle.

En août 2025, le magazine Forbes a révélé que plus de **370 000 conversations privées avec Grok** apparaissaient dans les moteurs de recherche. En cause, le bouton « Partager », qui générait une page publique indexable sans avertir l’utilisateur.

Cette [fuite](https://searchengineland.com/chatgpt-kills-google-indexable-chats-459874) exposait parfois des mots de passe ou des données médicales. Autant de munitions pour une arnaque IA taillée sur mesure. xAI, pour sa part, n’a pas répondu aux questions de Forbes.

ChatGPT a connu un épisode voisin, avec une nuance de taille. Une **option expérimentale** rendait une conversation partagée « découvrable » par les moteurs, à condition que l’utilisateur coche une case. Beaucoup l’ont cochée sans mesurer la portée du geste.

Fast Company a recensé environ 4 500 échanges ainsi indexés, certains très intimes. OpenAI a retiré l’option le 1er août 2025, puis demandé aux moteurs de désindexer les pages concernées.

Le problème déborde d’ailleurs largement ces deux éditeurs. Meta AI a lui aussi connu [un bug qui exposait des discussions privées](https://www.cyber-securite.fr/ce-bug-de-meta-ai-fait-apparaitre-vos-discussions-ailleurs/).

## Les seniors, cible prioritaire de l’arnaque IA en chiffres

Le test de Reuters n’avait rien d’un scénario d’école. Les données publiées depuis montrent que les escrocs ont industrialisé le phishing IA, avec les aînés en ligne de mire.

IndicateurChiffreSourcePertes déclarées par les plus de 60 ans aux États-Unis7,7 milliards de dollars, soit +59 % en un anFBI, rapport IC3 sur l’année 2025Plaintes de seniors pour phishing et usurpationPlus du double par rapport à 2024FBI, rapport IC3 sur l’année 2025Plaintes de seniors qui mentionnent l’IAPlus de 3 100, pour 352 millions de dollars de pertesFBI, rapport IC3 sur l’année 2025Victimes assistées en FrancePlus de 500 000 (+20 %), l’hameçonnage en tête des menacesCybermalveillance.gouv.fr, rapport publié le 26 mars 2026Seniors très confiants pour protéger leurs données en ligne7 % seulementEnquête Senior Planet from AARP, octobre 2026

Au Sénat américain, la commission du vieillissement décrit une **vague sans précédent d’escroqueries sophistiquées** nourries par l’IA. Son rapport, relayé à la mi-octobre 2026, note que des criminels sans bagage technique achètent des logiciels d’arnaque prêts à l’emploi.

Et le piège ne se limite plus au texte que l’IA écrit. Le 5 novembre 2026, Check Point a détaillé une faille qui permettait d’afficher **des fenêtres de phishing dans l’interface même de ChatGPT**. OpenAI l’avait corrigée dès le 18 septembre.

Ce cas n’a rien d’isolé, puisque Tenable avait déjà mis au jour [sept vulnérabilités dans ChatGPT](https://www.cyber-securite.fr/vulnerabilites-chatgpt-failles-ia-tenable/). L’outil censé nous aider devient lui-même une surface d’attaque.

## Quatre réflexes pour protéger un proche d’une arnaque IA

Inutile d’attendre que les chatbots deviennent étanches. Les parades efficaces reposent sur des habitudes humaines, simples à transmettre à des parents ou des grands-parents.

### Vérifier par un autre canal, toujours

Ce premier réflexe vaut tous les antivirus. Un e-mail d’association, de banque ou de caisse de retraite appelle une **vérification par téléphone, au numéro officiel** trouvé soi-même. Jamais celui qui figure dans le message.

Certaines familles adoptent aussi un mot de code pour les appels d’urgence. Le clonage vocal rend la précaution utile, comme le montre [l’arnaque à la voix qui vide les comptes des retraités](https://www.cyber-securite.fr/arnaque-a-la-voix-lia-piege-des-retraites-et-vide-leurs-comptes/).

### Se méfier de l’urgence plus que des fautes

Grok a spontanément musclé l’urgence de son faux appel aux dons. Rien d’un hasard. **La pression du temps** sert de levier à presque toutes les escroqueries, bien plus que la qualité du texte.

Le bon geste consiste donc à ralentir. Un message qui exige d’agir sur-le-champ mérite une pause et un coup de fil. Ce ressort figure d’ailleurs parmi [les failles humaines ciblées par le phishing IA](https://www.cyber-securite.fr/cyberattaques-ia-failles-psychologiques/).

### Ne rien confier de sensible à un chatbot

Les fuites de conversations Grok et ChatGPT rappellent une règle de bon sens. Ce qu’on écrit à une IA peut un jour sortir de la boîte. Tom Kamber, de l’association OATS rattachée à l’AARP, conseille de **traiter ses données personnelles comme de l’argent liquide**.

Pensez aussi à supprimer les liens de partage inutiles dans les paramètres de ChatGPT. Effacer une discussion ne supprime pas automatiquement sa version partagée.

### Signaler, même après le clic

Un proche a cliqué ? La honte n’arrange rien. Il faut **couper la connexion et changer les mots de passe** depuis un appareil sain, puis prévenir la banque. Notre guide détaille [quoi faire après un clic sur un lien de phishing](https://www.cyber-securite.fr/jai-clique-sur-un-lien-de-phishing-que-faire-maintenant/).

Côté signalement, 17Cyber oriente les victimes, Signal Spam reçoit les e-mails douteux et le 33700 traite les SMS. Chaque alerte aide à couper la campagne pour les suivants. Pour un accompagnement plus large, voici comment [protéger vos parents novices face aux pièges numériques](https://www.cyber-securite.fr/comment-proteger-vos-parents-novices-face-aux-pieges-numeriques-actuels/).

## Apprendre aux IA à lire l’intention, un chantier à peine ouvert

Cette enquête confirme que [les barrières éthiques des IA](https://www.cyber-securite.fr/yoshua-bengio-met-en-garde-contre-les-risques-de-lia-nous-jouons-a-la-roulette-russe-avec-lhumanite/) cèdent devant de simples manipulations de langage. Plusieurs acteurs du secteur ont confié à Reuters la tension de fond. Un modèle dressé pour rendre service peine à se montrer méfiant en même temps.

Et même un chatbot grand public parfaitement verrouillé ne réglerait rien. Des modèles débridés comme [WormGPT](https://www.cyber-securite.fr/wormgpt-version-modifiee-de-chatgpt/) circulent déjà sur les forums criminels.

Pour les cybercriminels, c’est une aubaine. Ils disposent d’un outil quasi gratuit pour **créer des arnaques personnalisées et de haute qualité**, à une échelle industrielle. Sans la moindre compétence en rédaction.

Notre conviction est donc nette. La bataille contre l’arnaque IA ne se gagnera pas en traquant les textes écrits par une machine. Elle se gagnera en **vérifiant chaque demande sensible**, quel que soit son auteur.

Les éditeurs d’IA, eux, doivent apprendre à leurs modèles à flairer l’intention cachée derrière un prétexte. Personne n’a encore relevé ce défi.

## Questions fréquentes sur l’arnaque IA et les chatbots

Qu’est-ce qu’une arnaque IA par phishing ?
C’est une escroquerie dont le message piégé, e-mail ou SMS, a été rédigé par une intelligence artificielle. On parle aussi de phishing IA. Le texte, fluide et sans faute, s’adapte à la cible. Le but ne change pas, puisqu’il s’agit de faire cliquer, payer ou livrer des données.

ChatGPT et Grok peuvent-ils écrire un e-mail de phishing ?
Oui. L’enquête de Reuters menée avec un chercheur de Harvard montre que six chatbots, dont ChatGPT et Grok, ont produit des e-mails frauduleux visant des seniors. Un prétexte de recherche ou de roman suffisait souvent à lever leurs refus.

Comment reconnaître un e-mail de phishing écrit par une IA ?
Les fautes d’orthographe ne trahissent plus rien. Méfiez-vous surtout de l’urgence, des demandes d’argent ou d’identifiants et des liens inattendus. Notre fiche sur le [mail suspect](https://www.cyber-securite.fr/comment-savoir-si-jai-ouvert-un-mail-douteux/) détaille les autres signaux à surveiller.

Mes conversations avec un chatbot peuvent-elles apparaître sur Google ?
Une conversation privée n’est pas indexée par défaut. Le risque vient des liens de partage. Plus de 370 000 échanges avec Grok ont ainsi atterri dans les moteurs de recherche, d’où l’intérêt de supprimer les liens devenus inutiles.

Que faire si un proche a cliqué sur un lien d’arnaque IA ?
Coupez la connexion de l’appareil, changez les mots de passe depuis un autre appareil et prévenez la banque si des données bancaires ont été saisies. Signalez ensuite l’incident sur 17Cyber.gouv.fr, qui oriente gratuitement les victimes.
