On nous refait le coup du Terminator tous les six mois. Pendant ce temps, des gamins de 14 ans sont morts après avoir discuté avec un chatbot, et l'industrie découvre, un peu gênée, qu'elle a peut-être un problème. Circuit Breaker Labs propose des « crash-test dummies » — des personas synthétiques qu'on balance contre les modèles pour voir combien de dégâts psychologiques ils encaissent. Excellente idée. Terrible aveu.
L'apocalypse de 2045, excuse comptable de 2025
Suivons l'argent, puisque personne d'autre ne le fait. Les grands labos alignent les milliards sur le « risque existentiel » — cet élégant scénario où l'IA nous extermine, pratique parce qu'il est invérifiable et qu'il n'engage à rien. Pendant ce temps, la recherche sur les dégâts réels — dépendance affective, isolement, idéation suicidaire chez les mineurs — se finance avec des miettes et des postdocs en burn-out.
Le 28 février 2024, Sewell Setzer III, 14 ans, est mort à Orlando. Sa mère, Megan Garcia, a attaqué Character.AI en octobre 2024. En août 2025, c'est au tour d'OpenAI d'être poursuivi après la mort d'Adam Raine, 16 ans. Deux ados, deux plaintes, deux plateformes à 20 millions d'utilisateurs revendiqués — majoritairement des ados, comme par hasard.
Des mannequins pour un champ de bataille déjà rouge
L'approche de Circuit Breaker Labs est rationnelle : plutôt que d'attendre les victimes, on fabrique des cobayes numériques et on mesure. Combien de messages avant que le modèle bascule ? Combien de tours de conversation avant qu'il valide une pulsion morbide ? C'est du crash-test, sauf qu'on ne teste pas des pare-chocs, on teste des enfants qui n'ont rien demandé.
La question qu'aucun communiqué ne posera : pourquoi a-t-il fallu attendre des morts pour industrialiser le test ? Réponse : parce que le produit n'a jamais été conçu pour être sûr. Il a été conçu pour être accrocheur. Le « engagement », cette sainte métrique, se nourrit exactement de ce que Circuit Breaker mesure. Un chatbot qui dit « non, va parler à un adulte » est un chatbot qui perd son utilisateur. Devinez lequel gagne.
Qui se goinfre, qui se fait rouler
Les goinfres : les plateformes de compagnons IA, qui monétisent la solitude adolescente à coups d'abonnements premium et de personnages « petite amie ». Leurs dirigeants jurent la main sur le cœur qu'ils protègent les mineurs — après avoir lancé, en 2024, des contrôles parentaux et retiré les modèles aux moins de 18 ans. Sous pression. Uniquement sous pression.
En septembre 2024, la FTC a ouvert une enquête 6(b) sur huit acteurs du secteur — Alphabet, Amazon, Anthropic, Character.AI, Meta, Microsoft, OpenAI, Snap. Une étude. Pas une sanction. On enquête, on publie un rapport, on ne ferme rien.
Les roulés : vous. Et vos gamins, surtout. Leur détresse affective sert de données d'entraînement gratuit à des boîtes qui, elles, se protègent derrière le Section 230 américain et des conditions générales de 40 pages que personne ne lit.
Ce que le crash-test ne dira jamais
Un mannequin ne pleure pas. C'est tout le problème. Circuit Breaker pourra mesurer combien de fois un modèle conseille le pire — et c'est utile, ne crachons pas dessus. Mais aucun banc de test ne mesurera la nuit blanche d'un père qui découvre le journal intime de son fils à 3 h du matin.
À l'industrie : arrêtez de financer la fin du monde hypothétique pour vous offrir une conscience. Le monde réel saigne déjà, un message à la fois. Aux régulateurs : une étude, ce n'est pas une loi. Et à OpenAI, Google, Character.AI et compagnie — qui a décidé que vos KPIs valaient plus qu'un adolescent ? On attend le nom. On a le temps, apparemment.