« Pace the Frontier » : le verbe est déjà un aveu
Une semaine. Il aura fallu une semaine à Dario Amodei, patron d'Anthropic, pour transformer l'alerte apocalyptique sortie de ses propres labos en note de position corporate. La maison tremble, le patron propose un plan. Le plan s'appelle « Pace the Frontier ».
Pace. Pas stop. Pas pause. Pas renonce. Ralentir le tempo. Réguler la vitesse. Autrement dit : le type qui a bâti sa valorisation sur la course la plus effrénée de l'histoire du capitalisme propose d'installer un limiteur de vitesse — et de le régler lui-même.
On rappellera, pour la mémoire collective, qu'en mars 2023 la lettre du Future of Life Institute réclamait six mois de gel des entraînements. Plus de 30 000 signatures. Dont Sam Altman. Dont Demis Hassabis. Dont Dario Amodei. Six mois. Aucun des trois n'a ralenti une seule semaine. On ne remue pas ce genre de chose pour embêter le monde, mais il faut de temps en temps le poser sur la table.
Des évaluateurs indépendants payés par les parrains
Le plan : des évaluateurs de sécurité indépendants, et de la coordination entre labos « des pays démocratiques ». Sur le papier, c'est propre. Presque élégant.
Dans les faits : qui les recrute ? Qui rédige leur mandat ? Qui choisit le périmètre de ce qu'ils ont le droit de regarder ? Jusqu'ici, la sécurité dans ces entreprises, c'est un service interne. Les labos s'auto-évaluent, s'auto-certifient, s'auto-pardonnent, puis publient un billet de blog sur leur transparence exemplaire.
Et pendant qu'on débat du degré d'indépendance des auditeurs, suivons l'argent une seconde : Anthropic est financé à hauteur de plusieurs milliards de dollars par Google et Amazon. Les juges annoncés sont les parrains. Ça ne figure jamais dans le communiqué.
Jensen Huang a raison, et c'est le plus inquiétant
Le seul à avoir vraiment mouillé la chemise, c'est Jensen Huang. Le patron de Nvidia — environ 80 % du marché des accélérateurs IA, capitalisation passée au-delà des 3 000 milliards de dollars — a tapé sur le plan d'Amodei.
Bien sûr qu'il tape. Nvidia vend les pelles de la ruée vers l'or. Freiner la ruée, c'est raboter le carnet de commandes. Son conflit d'intérêts est écrit en néon. Mais son argument tient : on ne régule pas une course entre trois acteurs privés avec un pacte de non-agression volontaire.
La vraie question n'est donc pas de savoir qui a raison. Elle est : pourquoi un fabricant de puces est-il le seul à dire tout haut ce que les États devraient hurler ?
« Les pays démocratiques » : la formule qui arrange tout le monde
C'est le passage le plus lâche du texte. Un club. Des gentils. La Chine et son écosystème ne liront jamais le communiqué, et continueront d'entraîner leurs modèles à coups de gigawatts.
Résultat prévisible : les démocraties se serreront la ceinture les unes après les autres, pendant que les exclus du club engrangeront des mois de terrain. Et pendant ce temps, l'Union européenne, elle, a déjà adopté son AI Act — sans que personne ne s'asseye vraiment à la table. Demander aux labos de définir eux-mêmes la norme, c'est demander aux constructeurs automobiles de rédiger les tests de crash. On connaît le résultat. On le connaît depuis les années 1960.
Le problème n'est pas le plan, c'est l'auteur
Relisez le plan. Rien n'y dérange Anthropic. Aucune ligne ne dit « nous publierons nos courbes d'entraînement ». Aucune ligne ne dit « nous gèlerons tout modèle au-delà d'un seuil de calcul ». Aucune ligne ne dit « les évaluateurs auront un droit de veto ». Aucune ligne ne dit « nous acceptons d'être ralentis par d'autres que nous ».
Un pace sans jalon contraignant, c'est un panneau de limitation de vitesse planté au milieu d'une forêt, posé par le conducteur, sur sa propre voiture, avec lui-même au volant et personne d'autre sur la route.
Amodei n'est pas un méchant. C'est un type brillant, et vraisemblablement inquiet pour de vrai. C'est tout le drame : les avertissements les plus sincères de la Silicon Valley arrivent systématiquement sous la forme de documents qui préservent la position de celui qui les signe. La sécurité, comme la croissance, se facture. L'apocalypse, on la repousse à après le prochain tour de table.
Alors messieurs les patrons de labos, une requête simple : la prochaine fois que vous nous parlerez de prudence, joignez le nombre de GPU commandés dans l'année. On comparera les deux courbes. Et on saura exactement à quelle vitesse vous comptez « pacer » la frontière.