OpenAI a encore frappé. La semaine dernière, la firme de Sam Altman a dévoilé GPT-Red, un LLM « super-hackeur » chargé de tester les défenses de ses propres modèles. Accompagnement marketing oblige : GPT-5.6, le dernier bébé de la gamme, serait « le plus robuste jamais produit » grâce à ce sparring-partner virtuel. Mais à y regarder de près, cette annonce sent le réchauffé.
Un sparring-partner qui boxe dans le vide
GPT-Red est présenté comme un « adversaire » capable d'exploiter des vulnérabilités dans les modèles d'OpenAI. Sauf que cet adversaire est conçu par la même entreprise, avec les mêmes biais, les mêmes données d'entraînement et les mêmes angles morts. C'est un peu comme si un boxeur s'entraînait contre son propre reflet dans un miroir déformant : ça fait joli, mais ça ne prépare à rien de réel. OpenAI n'a publié aucun résultat indépendant sur les failles découvertes par GPT-Red, ni sur le taux de succès de ses attaques. On nous demande de croire que ça marche, sur la foi d'un communiqué de presse.
GPT-5.6 : robuste, vraiment ?
Si GPT-5.6 est si robuste, pourquoi aucun chercheur externe n'a-t-il pu le tester sérieusement ? L'accès à l'API est toujours aussi verrouillé, les audits de sécurité sont rares et souvent financés par OpenAI elle-même. Le modèle a déjà été jailbreaké en moins de 48 heures après sa sortie par une équipe d'étudiants taïwanais – mais OpenAI n'en a pas parlé. Prétendre qu'un entraînement contre GPT-Red a « immunisé » le modèle, c'est comme affirmer qu'une vaccination contre la grippe protège d'une balle de fusil.
Qui se goinfre, qui se fait rouler ?
Cette annance arrive juste avant la levée de fonds de plusieurs milliards que OpenAI négocie en ce moment. Coïncidence ? Bien sûr que non. GPT-Red n'est pas un outil de sécurité, c'est un argument de vente. Il permet de faire oublier que les LLM d'OpenAI sont encore truffés de portes dérobées, de biais racistes et de capacités de désinformation. Pendant ce temps, les vrais hackers – humains, eux – continuent de trouver des failles sans avoir besoin d'un LLM surpuissant.
La sécurité comme alibi
Le pire, c'est que cette comédie sécuritaire a un coût. Entraîner GPT-Red a consommé des milliers de GPU pendant des mois. L'empreinte carbone de ce gadget est probablement égale à celle d'un petit pays, pour un résultat dont personne ne peut vérifier l'efficacité. Pendant ce temps, les régulateurs – la FTC, l'UE – applaudissent mollement, incapables de distinguer un vrai progrès d'un effet d'annonce. Monsieur Altman, si vous voulez vraiment sécuriser vos modèles, commencez par ouvrir vos audits à des chercheurs indépendants, au lieu de jouer au gendarme avec votre propre miroir.
En attendant, le public – vous, nous – reste la véritable cible de cette opération de communication. GPT-Red ne hacke que des modèles qu'OpenAI a bien voulu exposer. Pas vos données privées, pas les failles réelles de l'infrastructure. C'est du théâtre pour investisseurs crédules. La prochaine fois qu'OpenAI vous annoncera un « super-hackeur », posez-vous la question : qui est vraiment le dindon de la farce ?