Encore un. Un texte qui commence par « l'IA industrielle entre dans une nouvelle phase » et qui finit par « bâtir un chemin plus sûr ». Traduisez la novlangue : on s'apprête à installer des modèles probabilistes dans vos usines, et on aimerait beaucoup ne pas être dans le box des accusés quand l'un d'eux écrasera un opérateur contre un convoyeur.
Le mot « sûr » dans un communiqué industriel, c'est comme le mot « durable » dans un rapport annuel de Total : il ne décrit pas une propriété du produit, il décrit une inquiétude du service juridique.
Un modèle à hallucinations variables sur une presse à 200 tonnes
Le cœur du problème tient en une phrase qu'aucun de ces communiqués n'écrira jamais : un modèle de fondation est un générateur de probabilités, pas un système déterministe.
L'automatisation industrielle classique repose sur des chaînes de sécurité certifiées — IEC 61508, IEC 62061, ISO 13849, niveaux SIL 3, catégories PL d et PL e. Ces normes exigent une chose simple et brutale : que la défaillance soit calculable, documentée, bornée. Vous ne pouvez pas obtenir un SIL 3 en disant « en moyenne, le modèle ne se trompe que dans 2 % des cas ».
Or c'est exactement ce qu'on vous vend. Un agent qui « perçoit » l'environnement, « raisonne » sur la situation, « décide » d'une trajectoire. Trois verbes qui, dans une usine, se traduisent par trois façons de tuer quelqu'un.
Les mêmes qui organisent des conférences sur l'« alignement » depuis 2023 n'ont toujours pas répondu à la question basique : que se passe-t-il quand le modèle se trompe à 3 h 40 du matin, sur une ligne où le seul humain présent est un intérimaire de 22 ans payé au SMIC ?
Quarante ans de robots tueurs, et on appelle ça une nouveauté
L'accident industriel robotique n'a rien d'inédit. 1981, Akashi, Japon : Kenji Urada, 37 ans, est tué par un robot Kawasaki alors qu'il effectue une maintenance, le robot n'ayant pas été correctement mis hors service. 2015, usine Volkswagen de Baunatal, Allemagne : un ouvrier de 22 ans meurt écrasé contre une plaque métallique par un robot de la chaîne de montage.
Quarante-quatre ans entre les deux morts, et le débat n'a toujours pas dépassé le stade de la définition du mot « accident ». Ce qui change avec l'IA agentique, ce n'est pas le risque : c'est l'imputabilité. Un bras articulé qui répète un programme, on sait le déboguer. Un agent qui prend des « décisions » contextuelles dans un modèle à 70 milliards de paramètres dont personne, pas même l'éditeur, ne peut expliquer la sortie ? Bonne chance devant le tribunal.
Suivez l'argent : la sécurité est un argument de vente, pas un budget
Regardez qui parle. Nvidia a passé 2024 et 2025 à marteler le « physical AI » et l'Omniverse à chaque keynote — le GPU est le nouveau pétrole, il faut bien un gisement. Siemens a signé son « Industrial Foundation Model » avec le même Nvidia à Hanovre. Les start-up, elles, raflent des tours de table vertigineux : Figure AI, 675 millions de dollars levés en février 2024 pour une valorisation de 2,6 milliards, avec Nvidia, OpenAI, Microsoft et Jeff Bezos au tour de table. Physical Intelligence, 400 millions en novembre 2024, valorisation 2,4 milliards, même Bezos, même OpenAI.
Ces gens-là ne vendent pas de la sécurité. Ils vendent des modèles. Et quand votre business model repose sur la généralisation d'un modèle à tous les contextes, la dernière chose que vous voulez, c'est qu'on vous demande de garantir un comportement borné, auditable, certifié, site par site, machine par machine.
D'où le communiqué. D'où le « chemin plus sûr ». D'où les comités d'éthique, les frameworks volontaires, les chartes, les principes. Tout ce qui ressemble à une régulation sans en être une, et qui n'engage à rien.
2027 : le régulateur arrive, les avocats se frottent les mains
Sauf que l'Europe a déjà écrit le chapitre suivant, et personne dans la Silicon Valley ne l'a vraiment lu.
L'AI Act, entré en vigueur le 1er août 2024, classe en haut risque les systèmes d'IA utilisés comme composants de sécurité dans des produits soumis à la législation d'harmonisation de l'Union — annexe I, section A. Traduction : un modèle d'IA qui pilote une fonction de sécurité sur une machine est un système à haut risque, avec obligations de documentation, de gestion des risques, de traçabilité et de surveillance humaine. Échéance pour ces systèmes : 2 août 2027.
Et ce n'est pas tout. Le règlement Machines (UE) 2023/1230, qui remplace la directive 2006/42/CE, s'applique à partir du 20 janvier 2027 et intègre explicitement les composants de sécurité recourant à l'apprentissage automatique. Autrement dit : dans dix-huit mois, ce que ces entreprises appellent aujourd'hui « chemin plus sûr » devra être un dossier technique signé, ou ne pas exister.
Alors la vraie question n'est pas « comment construire un chemin plus sûr ». C'est : qui signe au bas de la déclaration UE de conformité ? Le fabricant du modèle ? L'intégrateur ? L'industriel qui a acheté la brique ?
Chacun de ces communiqués est un pas de côté vers la sortie de secours juridique. Le « chemin plus sûr » mène moins à la sécurité des opérateurs qu'à la tranquillité contractuelle des vendeurs.
Messieurs les éditeurs de modèles : si votre IA est « sûre », publiez les taux de défaillance par classe d'environnement, les résultats de tests adversariaux sur des manipulateurs réels, et le nom du responsable légal en cas de broyage. Sinon, arrêtez d'écrire « safe » et écrivez « best effort ». C'est moins vendeur. C'est plus honnête.