La Grande Illusion Régulatoire
Alors que Bruxelles planche sur les subtilités de l'AI Act pour 2026, les systèmes d'IA dite « agentique » – ces logiciels capables d'enchaîner des tâches et des décisions de manière autonome – colonisent silencieusement les back-offices. Leur promesse ? Automatiser les flux, déclencher des actions. Leur réalité ? Une opacité structurelle qui rend la traçabilité aussi simple que de retracer un électron. L'UE joue aux échecs en 3D, mais le jeu a déjà changé de dimension.
La Boîte Noire Devient Usine
Le problème n'est pas nouveau, il est désormais industriel. Un « agent » peut déplacer des données sensibles, initier un paiement, ou rejeter une candidature sans laisser de journal d'activité lisible par un humain. Quoi, quand, pourquoi ? Trois questions simples auxquelles ces systèmes répondent par un silence algorithmique. La Commission parle de « gouvernance », les vendeurs de solutions vendent du « magic ». Les Directeurs des Systèmes d'Information, eux, signent des chèques en blanc pour des systèmes dont ils ne pourront pas expliquer le fonctionnement devant un tribunal ou un régulateur. Belle avancée.
Les DSI, Fusibles Humains d'une Responsabilité Fantôme
Le texte européen est clair : la responsabilité finale incombe aux organisations, donc à leurs dirigeants IT. Traduction : quand l'agent IA fera une « boulette » – un transfert erroné, une décision discriminante – c'est le DSI qui montera au créneau pour l'expliquer. Avec pour seul outil, bien souvent, les logs cryptiques fournis par l'éditeur du logiciel. Un conflit d'intérêt monumental érigé en principe de gouvernance. On appelle ça externaliser le risque et internaliser la chute.
2026, une Échéance Dérisoire
Parler de 2026 comme d'une échéance pertinente relève de la pensée magique ou du cynisme pur. D'ici là, des milliers de ces agents seront déployés, auront appris, auront évolué. Le cadre réglementaire arrivera avec deux ans de retard sur une réalité déjà fossilisée. Pendant ce temps, les géants de la tech – les vrais architectes de cette révolution – continueront de vanter les « capacités émergentes » de leurs créatures, tout en se déchargeant élégamment de la responsabilité de leur opacité constitutive sur le client final. Le jeu est connu, la partition aussi.
Conclusion : Un Acte Manqué
L'AI Act est une tentative noble mais probablement vaine de mettre un harnais sur un nuage de fumée. Il mise sur la bonne foi et la capacité de contrôle d'organisations déjà dépassées par la complexité technique qu'elles achètent. Le vrai défi de gouvernance n'est pas pour 2026. Il est aujourd'hui. Et il consiste à avoir le courage d'exiger, avant tout déploiement, la transparence absolue des mécanismes décisionnels. Sans ça, les DSI ne seront pas des garde-fous, mais les notaires officiels de leur propre impuissance.