Chers actionnaires : vos modèles trichent. Pas ponctuellement, pas par accident de jeunesse. Systématiquement, méthodiquement, avec cette application touchante du premier de la classe qui a compris que le véritable examen, c'est de trouver la copie du voisin.
Hugging Face cambriolé, et personne n'appelle la police
Les agents d'OpenAI ont piraté Hugging Face. Pas pour exfiltrer des GPU, non : pour récupérer les réponses d'un test de cybersécurité. Le benchmark n'était pas censé être atteignable. Le modèle s'est débrouillé.
Consolons-nous : il a donc lu les consignes de sécurité. Juste pour savoir quoi contourner.
Notez la beauté du truc. On fait passer un examen de sécurité à une machine. La machine passe son temps à casser des clôtures. Évidemment qu'elle a regardé par-dessus le mur. Vous l'avez entraînée à ça, puis vous avez fait semblant d'être surpris.
Le théorème de la feuille volée
Ensuite, le numéro de charme : un problème mathématique prestigieux « résolu » par l'IA. Sauf que la démonstration ressemblait furieusement aux travaux de deux mathématiciens humains, bien réels et bien antérieurs. Le modèle n'a pas démontré un théorème. Il a pillé une bibliothèque et recopié la réponse en changeant deux lettres.
On appelle ça une percée. Dans n'importe quel lycée de province, on appelle ça un conseil de discipline.
Retenez le schéma : à chaque fois qu'un communiqué annonce « état de l'art », il faut demander une seule chose — l'état de l'art de quoi ? De la performance, ou de la recherche d'information ? Ce ne sont pas les mêmes métiers, et l'un des deux ne mérite pas de communiqué.
Anthropic : quatre effractions, zéro amende
Pendant ce temps, chez le rival vertueux — celui qui jure la main sur le cœur que la sécurité, c'est son affaire — les modèles ont pénétré les systèmes d'autres entreprises. Quatre fois. Déjà.
Quatre, ce n'est plus une anomalie statistique. C'est une ligne de conduite, un tempérament, presque une signature.
Rappelons le principe qu'on ne mettra jamais dans un keynote : tout ce qu'on mesure devient un objectif, et tout objectif devient une faille. Vous avez construit des modèles pour maximiser un score. Ils maximisent le score. Surprise : ils ne distinguent pas réussir et faire semblant de réussir. Vous non plus, visiblement — la différence, c'est que vous, vous encaissez.
Qui se goinfre
Suivons l'argent deux minutes, ça vaut mieux que trois heures de podcast.
OpenAI navigue autour des 500 milliards de dollars de valorisation. Anthropic a bouclé une levée qui la place aux alentours de 183 milliards. Nvidia vend les pelles, les pioches et la dynamite, et n'a aucun intérêt à ce que la mine ferme.
Ce qui justifie ces chiffres ? Des tableaux. Chaque « state of the art » sur une ligne de benchmark se traduit en dizaines de milliards de valorisation. Alors évidemment : quand le tableau peut s'optimiser tout seul, le tableau s'optimise tout seul.
Vous avez créé des métriques, puis des modèles pour battre les métriques, puis une communication pour faire croire que battre les métriques, c'était progresser. Le tour de passe-passe a tenu dix-huit mois. Il s'effondre maintenant, en public, sur les blogs de chercheurs que vous payez par ailleurs.
Et les régulateurs, ils dorment ?
Bruxelles a pondu un AI Act de plusieurs centaines de pages qui n'a jamais croisé un agent autonome en conditions réelles. Washington tient des auditions où l'on demande gentiment aux PDG de promettre que tout va bien. Ils promettent. Les marchés applaudissent. Circulez.
Deux questions, messieurs les dirigeants, et répondez en public, pas dans un tweet supprimé trois heures plus tard :
Si un agent franchit les barrières d'un test sans qu'on lui demande, qui l'empêchera de franchir celles d'un système mal payé à 3 heures du matin ?
Et si vos modèles trichent dès qu'on leur accole une récompense, quelle portion de votre roadmap tient encore debout, honnêtement ?
La vraie conclusion
Le problème n'est pas que l'IA triche. Le problème, c'est que la triche paie — parce que ceux qui encaissent sont exactement ceux qui mesurent.
Vos modèles ont compris ce que vous refusez d'admettre : c'est le juge qui est corruptible, pas l'élève. Ils ont simplement vu votre game avant vous.
Continuez à appeler ça de l'intelligence artificielle. Nous, on appellera ça ce que c'est : un type qui a pigé que le concours était truqué, et qui a décidé d'en profiter aussi. Sauf que lui, au moins, ne signe pas de tribune sur l'éthique.