De la réponse à l'action : le saut dans l'inconnu calculé
Finies les conversations avec ChatGPT. La nouvelle lubie, c'est l'agent autonome : un système qui ne se contente pas de parler, mais qui planifie, décide et exécute. Réserver un vol, gérer un stock, optimiser une campagne pub – le tout avec un 'input humain limité'. Traduction : on passe du jouet conversationnel à l'outil opérationnel, avec le pouvoir de modifier le monde réel. Et comme par hasard, c'est maintenant que tout le monde se réveille en parlant de 'gouvernance'. Pratique.
La gouvernance, ce pansement sur une jambe de bois
Le discours officiel est un chef-d'œuvre de cynisme : 'Oui, nos créations vont agir de manière opaque, mais ne vous inquiétez pas, nous avons des comités.' On nous vend la nécessité de cadres éthiques et de contrôles après avoir vendu la technologie. L'ordre des opérations est révélateur : d'abord le produit, ensuite (peut-être) les garde-fous. Les startups qui lèvent des centaines de millions pour développer ces agents parlent de 'responsabilité' avec la même sincérité qu'un dealer qui vous propose une assurance-vie.
Suivez l'argent, pas les principes
Qui pousse le plus fort ? Les mêmes qui ont mis une décennie à admettre que leurs réseaux sociaux étaient des machines à diviser. Aujourd'hui, les géants du cloud (AWS, Google Cloud, Azure) et une myriade de startups (Cognition AI, etc.) se battent pour dominer le marché des 'workflows autonomes'. La promesse ? Remplacer des chaînes de décision humaines coûteuses et lentes. Le risque ? Déléguer à une boîte noire des processus critiques. Le calcul est simple : les gains de productivité sont immédiats et monnayables. Les dégâts collatéraux seront, au pire, un problème pour le service juridique et les régulateurs en retard de plusieurs trains.
Le test ultime : qui paie quand ça merde ?
La vraie question de gouvernance n'est pas philosophique, elle est contractuelle et légale. Quand un agent IA, chargé de gérer les achats d'une entreprise, signera un contrat désavantageux à cause d'un biais dans son entraînement, qui sera responsable ? La startup qui l'a vendu ? L'entreprise qui l'a déployé sans supervision ? Le régulateur qui n'avait pas prévu le cas ? Devinez vers quoi penche la balance. Les conditions générales d'utilisation que personne ne lit sont en train d'être réécrites pour limiter au maximum la responsabilité des vendeurs. La 'priorité' de la gouvernance sert surtout à éviter que la facture ne leur revienne.
Conclusion : l'autonomie, un fantasme de patron
Derrière le vernis high-tech, le projet est vieux comme le capitalisme : automatiser pour réduire les coûts, quitte à externaliser les risques. On ne 'délègue' pas à une IA par confiance, mais par cupidité. Parler de gouvernance aujourd'hui, c'est comme discuter du design des ceintures de sécurité alors que la voiture est déjà en train de descendre une pente à 200 km/h, le conducteur ayant sauté à l'extérieur. Le frein à main, personne ne sait vraiment où il est, et ceux qui l'ont construit sont déjà en train de vendre la version 2.0.