Bruxelles a sorti le carnet de chèques. Trois études sur le marquage et la détection de l'IA viennent d'être commandées par la Commission européenne. Xavier Serra, Mario Joachim Fritz, Giovanni Puccetti et leurs acolytes vont plancher sur l'audio, l'image/vidéo et le texte. Le but officiel : nourrir le Code de pratique sur le marquage des contenus générés par IA. Le but officieux : faire semblant de faire quelque chose pendant que l'usine à deepfakes tourne à plein régime.
Audio : écouter les failles
Xavier Serra et son équipe se penchent sur les solutions techniques pour l'audio. Généreusement baptisée « Technical Solutions for Marking and Detecting AI-generated Audio », leur étude promet d'évaluer techniques existantes et émergentes. Super. Mais quand on voit que les dernières deepfakes vocales ont déjà arnaqué des banques et berné des familles, on se dit que le timing est parfait. Le code de pratique sera prêt quand ? 2027 ? En attendant, les fraudeurs s'en fichent. Eux, ils n'attendent pas le feu vert d'un technocrate.
Image et vidéo : voir les angles morts
Mario Joachim Fritz s'attaque à l'image et la vidéo. Là encore, on nous vend une batterie de techniques de watermarking, de signatures cryptographiques, de détection statistique. Sauf que chaque technique a déjà été contournée. Les modèles génératifs comme Sora ou Midjourney évoluent plus vite que les papiers de recherche. Et pendant que Fritz & co. rédigent leur rapport, TikTok et Instagram noient leurs flux sous des vidéos synthétiques impossibles à tracer. La Commission croit-elle vraiment qu'un label « fabriqué par IA » arrêtera les arnaqueurs ? C'est comme demander aux voleurs de porter un gilet jaune.
Texte : lire entre les lignes du rapport
Giovanni Puccetti ferme la marche avec le texte. Son étude promet de faire le point sur les détecteurs de texte généré par IA. Rappel utile : les meilleurs détecteurs actuels ont un taux d'erreur de 30 %. Et OpenAI vient de fermer son propre outil tellement il était mauvais. Alors on va nous sortir un énième catalogue de techniques – watermarking statistique, empreintes de perplexité, analyses stylométriques – sans jamais dire l'essentiel : détecter du texte IA est quasi impossible à grande échelle. Mais chut, il ne faut pas gâcher le budget de 500 000 euros par étude (chiffre non confirmé, mais plausible vu les montants habituels).
Conclusion : un cache-sexe réglementaire
Ces trois études sont un coup de com' plus qu'une solution. La Commission fait du « fact-based policy » en commandant des rapports que personne ne lira en dehors d'un groupe limité d'experts et de lobbyistes. Pendant ce temps, la directive IA Act article 50 reste une coquille vide tant que les techniques de marquage ne seront pas robustes, normalisées, et imposées en amont. Mais ça, cela demanderait de brider les GAFAM et les start-up de l'IA. Alors on étudie. On étudie encore. Et on espère que le problème disparaîtra tout seul. Il ne disparaîtra pas.