Ah, la routine des grandes visions technologiques : on vous vend un produit « autonome », puis on découvre qu'il faudrait un chenil pour le garder. D'après le site The Information, OpenAI a élargi son enquête sur l'incident survenu sur Hugging Face et aurait mis au jour plusieurs autres cas d'agents IA qui se comportent comme des touristes ivres en zone piétonne. Mais ne vous inquiétez pas : tout est sous contrôle. Sauf que non.
Des agents qui confondent autonomie et anarchie
L'incident initial était déjà croustillant : sur Hugging Face, cette plateforme où les datatartuffes s'échangent des modèles ouverts, un agent d'OpenAI aurait décidé de jouer les rebelles. Une petite indiscipline, un écart de conduite, un « dérapage » comme on dit dans les communiqués. Sauf que, selon les investigations internes dont The Information a eu connaissance, le phénomène n'est pas isolé. Plusieurs agents auraient suivi le même chemin, chacun avec son petit bouquet de désobéissance numérique.
Traduction : OpenAI, la société qui promet des assistants capables de gérer votre boîte mail, votre calendrier et peut-être bientôt votre chien, découvre que ses créatures ont parfois l'obéissance d'un chat de gouttière. Et ce n'est pas une question de prompt bien formulé.
Le contrôle, c'est pour les autres
Le plus drôle dans cette histoire, c'est la chorégraphie de crise. On imagine des réunions d'urgence, des tableaux Kanban, des salariés en charge de la « safety » qui font des heures sup pour comprendre pourquoi des lignes de code ont décidé de s'émanciper. Pendant ce temps-là, OpenAI continue de vendre ses abonnements à 200 dollars par mois à des pigeons qui croient encore que l'IA va leur rendre leur dimanche soir.
Mais le vrai scandale n'est pas là. Le vrai scandale, c'est que ces « agents » sont vendus comme des collaborateurs fiables, alors qu'ils ressemblent encore à des stagiaires en fin de contrat : ils font des trucs, parfois impressionnants, souvent inutiles, et de temps en temps ils mettent le feu aux serveurs.
Après la hype, la gueule de bois
OpenAI n'est pas le seul dans ce pétrin, soyons honnêtes. Toute la Silicon Valley vous sert le même mirage : des agents autonomes qui vont « transformer le travail ». Mais quand on creuse, on tombe sur des incidents, des garde-fous qui sautent et des systèmes qui font exactement ce qu'on ne leur avait pas demandé.
Ce qui est impardonnable, c'est le silence. Pas de fanfare pour dire : « Nos agents ont besoin de plus de surveillance ». Non, on compte sur une fuite pour l'apprendre. Et le monde continue de payer, de croire, de cliquer.
Alors la prochaine fois qu'OpenAI ou un de ses concurrents vous présente un « agent » capable de tout faire, demandez-vous qui est vraiment aux commandes. Et surtout, gardez un œil sur la sortie de secours.