Jacob Coxon a démissionné d'Anthropic. Motif invoqué : l'IA auto-améliorante pourrait, un jour, nous transformer en note de bas de page de l'histoire. Sa solution : des « pacing agreements », des accords de tempo entre laboratoires. Réponse du secteur : un haussement d'épaules poli, un post LinkedIn bien calibré, et un tour de table supplémentaire.
Un chercheur s'en va, le pipeline reste ouvert
Remercions d'abord Coxon d'avoir fait ce que 99 % de ses collègues ne feront jamais : partir. Pas twitter depuis un poste confortable. Pas signer une tribune co-écrite par le service communication. Partir. C'est rare, c'est courageux, et c'est précisément pour ça que ça ne changera rien.
Parce qu'un départ, chez Anthropic, ce n'est pas un signal d'alarme. C'est une ligne dans le bilan social. La maison a été fondée en 2021 par des transfuges d'OpenAI, sur un pitch lumineux : « on va faire exactement la même chose, mais en plus gentil ». Cinq ans plus tard, le « plus gentil » a le même carburant que les autres — des GPU par palettes, des centres de données qui siphonnent la production électrique d'un pays moyen, et une valorisation qui donne le vertige aux fonds souverains.
Les « pacing agreements », ou le cartel qui n'ose pas dire son nom
Le plus savoureux, c'est la solution. Des accords de rythme entre concurrents. Traduisez : les laboratoires s'assoient autour d'une table et décident ensemble de ralentir. Dans n'importe quel autre secteur, ça s'appelle une entente illicite et ça se termine devant un juge de la concurrence, avec une amende à plusieurs zéros. Dans l'IA, ça s'appelle de la « gouvernance » et ça se termine sur une scène de conférence, entre deux canapés en cuir.
Ce que personne ne dit tout haut : un accord de tempo, c'est aussi un outil de contrôle du marché. Celui qui a déjà l'avance a intérêt à ce que la vitesse soit plafonnée. Le discours de sûreté et la stratégie commerciale se ressemblent tellement qu'on ne sait plus lequel parle.
Suivez l'argent, il ne tremble jamais
Anthropic n'est pas une ONG avec un joli site web. C'est une machine à capital. Amazon y a injecté 8 milliards de dollars. Google a remis au pot, autour de 3 milliards. Ces deux-là ne financent pas la prudence : ils financent la capacité de calcul, parce que dans cette guerre-là, celui qui a les puces impose son calendrier aux autres.
Pendant qu'un chercheur explique calmement que l'humanité joue sa peau, ses employeurs négocient des clusters. La schizophrénie n'est pas un bug du système, c'est son architecture. Anthropic est une « public benefit corporation » avec un trust qui surveille sa mission — et un chiffre d'affaires qui doit décoller avant que les investisseurs ne perdent patience. Devinez lequel des deux fixe l'agenda.
Le risque existentiel, meilleur argument commercial du siècle
Il faut le dire sans détour : la perspective de l'extinction est devenue un argument de vente. Elle attire les ingénieurs brillants, elle hypnotise les journalistes, elle justifie les levées à dix chiffres et elle transforme un patron de labo en prophète qu'on écoute au Congrès. OpenAl a monté exactement la même mécanique : apocalypse dans les communiqués, contrats enterprise dans les slides.
Rappelons-nous novembre 2023 : un conseil d'administration a viré son PDG au nom de la sûreté, et la pression du marché l'a réinstallé en cinq jours. La leçon n'a pas été perdue. Plus personne, dans ce secteur, ne tentera sérieusement de freiner quoi que ce soit.
Ne comptez pas sur les régulateurs
Le sommet de Bletchley, en novembre 2023, puis Séoul en 2024 : des déclarations communes, des poignées de main, aucune contrainte opposable. L'AI Act européen arrive avec des années de retard et des seuils négociés au rabais. Quant aux instituts de sûreté créés à la hâte, ils n'ont ni pouvoir d'injonction, ni accès aux poids des modèles. On a installé des vigies sans jumelles.
Messieurs, on vous attend
Alors, messieurs les labos : si vous croyez vraiment ce que vous écrivez dans vos « frontier safety frameworks », publiez vos seuils de déclenchement, ouvrez vos audits à des tiers indépendants et financez-les, et arrêtez de signer des chèques de calcul tout en pleurnichant sur la vitesse de la course. Une ligne rouge qu'on déplace tous les six mois n'est pas une ligne rouge, c'est une bande de peinture fraîche.
Et à ceux qui, chez Anthropic, chez OpenAI, chez Google DeepMind, lisent ceci en hochant la tête avant de retourner entraîner leur prochain modèle : Coxon vient de vous montrer à quoi ressemble une position. Vous voulez le suivre ? Non. Vous voulez juste qu'on vous admire de loin. C'est bien le problème.