VentureBeat nous pond son énième Pulse Research sur l'IA en entreprise. 107 sociétés, une batterie de chiffres, et un constat qui frôle l’autoparodie : les boîtes dépensent comme des marins en bordée dans l’infrastructure IA, sans avoir la moindre idée de ce que ça coûte réellement. Bienvenue dans le grand cirque du compute.
Le syndrome de l’investisseur aveugle
Seulement 21% des entreprises interrogées exploitent l’IA en production à l’échelle. Le reste bricole, prototypise, rêvasse. Pourtant, le premier poste qu’elles prévoient d’évaluer dans l’année, c’est… les clouds spécialisés IA (45%). Un truc que presque aucune n’utilise aujourd’hui. Logique : on achète ce qu’on ne maîtrise pas, c’est la nouvelle religion du CTO moderne. On ne compte plus, on investit. Et on priera pour que les comptes soient verts au prochain conseil.
Des GPU qui prennent la poussière
Et pendant ce temps, le compute déjà payé chôme. 83% des GPU tournent à 50% de leur capacité ou moins. La moitié du jus est en fait une jolie veille coûteuse. Mais chut, ne réveillez pas le VP Engineering qui jure que son cluster Nvidia est indispensable. Pire : moins d’une entreprise sur deux (44%) suit rigoureusement ce que lui coûte son compute. Autant dire que le TCO est un mythe, un mot-valise qu’on agite en réunion pour faire sérieux. Vous voulez des chiffres ? En voilà : ces boîtes jettent des millions dans des GPU qu’elles n’utilisent pas à fond, tout en se préparant à en racheter d’autres chez un nouveau fournisseur. C’est la ruée vers l’or version 2026, mais sans l’or.
Fournisseurs : la valse des promesses
64% des entreprises comptent changer ou ajouter un fournisseur d’infrastructure dans les douze mois, et 38% dans le trimestre. De la volatilité de trader, pas de stratège IT. On se barre chez le concurrent parce que l’intégration avec le stack existant (41%) ou le coût total de possession (35%) est plus sexy. Le cost per million tokens ? Seulement 8% en font un critère. L’économie unitaire, les décideurs s’en tamponnent. Ce qui compte, c’est l’histoire qu’ils raconteront au board : « On a migré sur [insérer le nom du hype cloud du moment] ». La réalité opérationnelle, on verra plus tard.
La mémoire bande passante, cette inconnue
Mais le plus croustillant reste à venir. Alors que l’inférence monte en puissance, le vrai goulot d’étranglement n’est plus le GPU, c’est la mémoire bande passante. Sauf qu’environ un cinquième des entreprises ignorent ce concept ou ne l’ont pas encore adressé. Les architectes IA continuent à piloter au rétroviseur, enfermés dans leurs benchmarks de boîte à outils. Pendant ce temps, les hyperscalers rigolent en encaissant les abonnements.
Verdict : les entreprises courent plus vite que leur ombre, dépensent plus qu’elles ne voient, et changent de fournisseur comme de chemise. Le compute gap, cette belle métaphore de VentureBeat, c’est surtout un fossé entre la réalité comptable et le storytelling marketing. Mais tant que les budgets tiennent et que les actionnaires applaudissent, pourquoi se poser des questions ?