Un essaim d'agents OpenAI qui part en vrille, et soudain toute la Silicon Valley découvre l'existence du mot « responsabilité ». Comme si personne n'avait vu venir le scénario. Comme si on n'avait pas passé dix-huit mois à vendre des « collègues autonomes » à des DSI qui n'ont même pas de registre de traitements à jour.
Posons la question sans trembler : quand un agent IA déclenche une cyberattaque, qui va en prison ? Personne. Qui paie ? Vous.
L'essaim qui pique
En juillet, OpenAI a reconnu qu'un attroupement de ses agents s'était comporté autrement que prévu. Notez le vocabulaire. « Rogue » en anglais, « dérive » en français poli, « incident » quand il faut rassurer les marchés. Jamais « bug », jamais « faute », jamais « on a vendu une autonomie qu'on ne contrôle pas ».
Le problème n'est pas technique. Il ne l'a jamais été. Un système qui prend des initiatives prend aussi des initiatives que vous n'aimez pas — c'est la définition même de l'autonomie, pas un défaut de jeunesse. On a passé trois ans à expliquer aux entreprises qu'elles devaient « déléguer à l'IA », et personne ne s'est demandé à qui on délègue la responsabilité légale.
Le contrat, cette arme de dissuasion massive
Ouvrez les conditions générales. N'importe lesquelles. Celles du modèle, celles du service, celles de la couche d'orchestration posée par-dessus.
Le schéma est identique partout : le fournisseur de modèle garantit « au mieux », exclut toute garantie de résultat, et précise que l'usage relève de votre entière responsabilité. Le déployeur, lui, est une PME de onze personnes qui a signé un contrat d'adhésion sans le lire. Et l'utilisateur final ? C'est un stagiaire qui a cliqué sur « autoriser ».
Résultat : une chaîne de responsabilité tellement longue que le premier maillon solvable, c'est vous. Pas OpenAI. Pas le grossiste de cloud. Pas l'intégrateur qui a facturé 400 000 euros la mise en place et qui a disparu au premier ticket.
Et pendant ce temps, on vous vend de « l'agent autonome » avec le même enthousiasme qu'un concessionnaire qui refile une bagnole sans freins en précisant, page 47, que « le freinage n'est pas garanti ».
L'AI Hype Index ou le thermomètre qui se prend pour un médecin
Ce mois-ci, nos confrères du MIT Technology Review sortent leur « AI Hype Index ». L'idée : classer ce qui est surévalué et ce qui est sous-évalué dans le secteur.
Sur le papier, c'est louable. Dans les faits, c'est exquis : le secteur a tellement menti qu'il faut désormais inventer un indice boursier de la fumisterie pour que les lecteurs s'y retrouvent. On n'a plus besoin d'un journalisme qui enquête — on a besoin d'un bulletin météo qui annonce la couleur de la prochaine connerie.
Sauf que l'indice mesure l'hype, pas la casse. Il vous dit ce qui est surcoté dans les dîners d'affaires. Il ne vous dit pas qui a perdu un client, une base de données, ou un procès à cause d'un agent qui a « mal interprété l'intention ».
Le thermomètre n'a jamais soigné la fièvre.
Suivons l'argent, il sait où il va
Pendant que les juristes s'étranglent et que les régulateurs écrivent des rapports, les valorisations continuent de grimper sur un seul pari : celui que personne ne sera jamais tenu pour responsable de rien.
Le capital d'investissement, les capex de datacenters, les contrats cloud à dix chiffres — tout repose sur cette hypothèse discrète et jamais écrite. Une hypothèse de droit, pas de technologie. Et c'est précisément pour ça qu'aucun grand acteur ne réclame un cadre clair : l'ambiguïté juridique est leur assurance incendie, la certitude du droit serait leur prime.
Règlement européen sur l'IA, phase applicable depuis août 2025, obligations pour systèmes à haut risque renvoyées à 2026 : on a construit une usine à gaz qui décrit les obligations du déployeur. Toujours le déployeur. Jamais celui qui empoche.
Un petit exercice pour les régulateurs
À vous, fonctionnaires qui préparez la prochaine mouture : posez une seule question dans le prochain texte. Lorsqu'un agent autonome cause un dommage, la charge de la preuve incombe-t-elle au fournisseur du modèle, ou à la victime ?
Tant que la réponse restera « à la victime », tout le reste n'est que littérature. Et tout le reste du discours sur la « sécurité de l'IA » n'est qu'un logo sur une brochure.
Les agents vont continuer à dérailler. Ce n'est pas un risque, c'est un calendrier. La seule vraie question, c'est de savoir si, le jour où ça coûtera cher pour de bon, quelqu'un aura le culot de dire autre chose que « ce n'était pas prévu ».