Inférence IA vs entraînement : infrastructure, densité rack et exigences opérationnelles
TL;DR En 2026, les workloads d’inférence IA représentent environ deux tiers du compute IA mondial, contre un tiers en 2023 (Deloitte). Pourtant, de nombreux opérateurs de colocation proposent encore une infrastructure généraliste qui ne distingue pas les deux workloads. Ces derniers divergent sur trois niveaux structurels : les contraintes physiques (densité rack, refroidissement, latence), la géographie optimale du datacenter, et les exigences opérationnelles sur la durée (permanence 24/7, localisation, conformité souveraine CADA). Un opérateur de colocation conçu pour l’inférence haute densité répond à des exigences que l’infrastructure généraliste ne peut pas satisfaire.
En 2026, les workloads d’inférence IA représentent environ deux tiers de l’ensemble du compute IA mondial, selon le rapport TMT Predictions 2026 de Deloitte. Ce chiffre était d’un tiers en 2023 et d’environ la moitié en 2025, si bien que le basculement s’est produit en moins de trois ans. McKinsey projette en parallèle que la capacité d’infrastructure dédiée à l’inférence progressera à un CAGR de 35 % entre 2025 et 2030, contre 22 % pour l’entraînement, dans son analyse des hyperscalers publiée en 2025. Ces dynamiques ont une conséquence directe sur les décisions d’infrastructure des neoclouds en scaling : l’inférence IA et l’entraînement ne partagent ni les mêmes contraintes physiques, ni la même géographie optimale, ni les mêmes exigences opérationnelles sur la durée. Or, de nombreux opérateurs de colocation continuent de proposer une infrastructure généraliste qui traite les deux workloads comme interchangeables. Cet article examine les trois niveaux où la divergence est structurelle.
Les contraintes techniques qui distinguent l’inférence IA de l’entraînement
Densité rack et refroidissement : pourquoi le DLC natif est non négociable pour l’inférence haute densité
L’entraînement fonctionne en mode batch sur des clusters distribués, avec des densités rack généralement inférieures à 30 kW. L’inférence IA haute densité obéit à une logique physique différente : les GPU B200 et GB300 de Nvidia affichent une puissance thermique unitaire pouvant atteindre 1 000 W par GPU, et les configurations rack NVLink atteignent 50 à 100 kW par rack. Un système de refroidissement par air classique plafonne en effet à 20-30 kW par rack dans les meilleures conditions, ce qui le rend structurellement incompatible avec ces densités. C’est pourquoi un datacenter qui ajoute le refroidissement liquide direct (DLC) a posteriori sur une infrastructure air existante ne peut pas garantir les mêmes performances thermiques sur la durée qu’une architecture conçue nativement en DLC. Pour l’inférence haute densité, le DLC natif constitue un pré-requis technique et non une option de configuration.
Topologie réseau et latence : des exigences incompatibles avec les géographies nordiques
L’entraînement est un workload batch, si bien que la latence réseau n’est pas un critère opérationnel déterminant. Un cluster d’entraînement peut fonctionner en Islande ou en Finlande, car l’accès à l’énergie bon marché prime sur la proximité géographique. L’inférence IA obéit à la logique inverse : elle traite des requêtes utilisateurs en temps réel pour des API, agents et chatbots qui exigent une latence de réponse P99 inférieure à 10 ms. Cette exigence impose une localisation proche des marchés de consommation finaux, c’est-à-dire les métropoles européennes, et non les régions nordiques dont la distance génère une latence incompressible. Par ailleurs, l’inférence traite des données utilisateurs en temps réel à grande échelle, ce qui la soumet au RGPD et au Cloud and AI Development Act (CADA, en vigueur le 4 août 2026). Le niveau 4 de ce cadre conditionne la qualification souveraine à la nationalité capitalistique de l’opérateur, au-delà de la seule résidence physique des données.
Ces deux contraintes, thermique et latence, impliquent de sélectionner un opérateur de colocation sur des critères différents de ceux qui prévalaient pour l’entraînement.
Les conséquences géographiques du basculement vers l’inférence en Europe
57 % des engagements neocloud européens pour l’IA conclus dans les pays nordiques en 2025
Selon CBRE (données Q3 2025), 57 % des nouveaux contrats de colocation conclus par des neoclouds européens pour des workloads IA ont été signés dans les pays nordiques. Ce chiffre reflète les contraintes du marché pendant la période 2024-2025 : la disponibilité de la puissance électrique constituait le premier facteur limitant de tout déploiement GPU en Europe, en raison des délais de raccordement au réseau haute tension qui dépassent plusieurs années en Europe de l’Ouest. Les pays nordiques offrent une énergie abondante et des délais de raccordement plus courts, ce qui a orienté les décisions d’infrastructure vers ces géographies. Toutefois, ce mouvement est cohérent pour l’entraînement, dont les workloads batch tolèrent la distance. Pour l’inférence IA en production, il crée un déficit structurel de capacité souveraine sur les marchés à forte densité d’utilisateurs : la France, l’Allemagne et les Pays-Bas.
La France face au déficit de capacité d’inférence souveraine de haute densité
ABI Research projette que la capacité mondiale d’infrastructure dédiée à l’inférence IA atteindra 46 GW d’ici 2035, avec un CAGR de 42 % sur la période 2025-2035, selon une publication de mai 2026. Ce volume devra être géographiquement distribué pour satisfaire les contraintes de latence de l’inférence en production. En raison des investissements concentrés dans les géographies nordiques depuis 2023, la région parisienne et les marchés secondaires français restent sous-dotés en capacité de colocation haute densité conçue pour l’inférence. Les neoclouds en hypercroissance qui s’appuient sur des géographies inadaptées à l’inférence s’exposent à une contrainte de latence que l’ingénierie ne peut pas entièrement compenser.
L’inférence IA en production : un actif opérationnel permanent à l’horizon 2030-2035
De l’actif ponctuel à l’infrastructure de production : l’horizon opérationnel de l’inférence
L’entraînement se déploie par campagnes distinctes — des runs de 3 à 6 mois, avec des ressources mobilisées puis libérées. L’inférence IA en production fonctionne en continu, 24h/24, au cœur des services commerciaux du neocloud. Ce caractère permanent modifie les paramètres de planification de l’infrastructure : la capacité disponible, la densité par bloc, la localisation géographique et la qualité opérationnelle de l’exploitant doivent être définies sur un horizon correspondant à la durée de vie d’un service en production, soit plusieurs années. ABI Research projette que les neoclouds et les hyperscalers atteindront une parité de capacité d’inférence aux alentours de 2035, à respectivement 15 GW et 16 GW. Pour atteindre ces volumes, les opérateurs de colocation capables de livrer des blocs haute densité dans des délais prévisibles et sur des géographies adaptées à la latence constituent le goulot d’étranglement de la filière.
Conformité CADA niveau 4 : pourquoi la nationalité de l’opérateur est devenu un critère de sélection
Le Cloud and AI Development Act (CADA), entré en vigueur le 4 août 2026, introduit un cadre à quatre niveaux de qualification souveraine pour les services cloud et datacenter utilisés par les entités publiques et les opérateurs d’infrastructures critiques. Le niveau 4 conditionne la qualification à la nationalité capitalistique de l’opérateur : un fournisseur soumis au Cloud Act américain ne satisfait pas ce niveau, quelle que soit la localisation physique de ses serveurs. Pour les neoclouds qui servent des clients dans ces catégories, ou qui anticipent de le faire, le choix d’un opérateur de colocation de nationalité européenne est un prérequis réglementaire. En raison de l’entrée en vigueur du CADA au moment précis où la demande d’inférence accélère, les décisions d’infrastructure prises en 2026 et 2027 conditionnent la capacité de qualification souveraine sur la décennie suivante.
Voltekko : colocation inférence IA haute densité, souveraine, en Europe de l’Ouest
Voltekko conçoit et opère des datacenters de colocation exclusivement dimensionnés pour les workloads d’inférence IA haute densité. Les blocs de 6 à 7 MW IT sont livrés en 6 à 9 mois sur deux sites (région parisienne et Alcochete, Portugal), géographiquement positionnés sur des marchés à forte densité d’utilisateurs finaux, conformément aux contraintes de latence de l’inférence en production. Le refroidissement liquide direct est natif, en configuration DLC 70/30, intégré dès la conception des blocs. Les blocs sont dédiés, sans mutualisation de la couche infrastructure entre clients.
L’exploitation est assurée par EQUANS, filiale de Bouygues spécialisée dans les services techniques industriels avec vingt ans d’expérience datacenter. La solidité financière sur la durée est garantie par REED, adossé au groupe Société Générale. Compte tenu des exigences du CADA niveau 4 en vigueur depuis août 2026, Voltekko couvre la nationalité capitalistique, la résidence des données et la conformité opérationnelle sur la durée des déploiements.
Questions fréquentes sur l’infrastructure d’inférence IA
Quelle est la principale différence technique entre infrastructure d’inférence et infrastructure d’entraînement ?
L’entraînement tolère des densités rack inférieures à 30 kW, des localisations géographiques éloignées et des déploiements ponctuels. L’inférence haute densité exige des configurations rack de 50 à 100 kW avec refroidissement liquide natif, une localisation proche des marchés de consommation finaux pour satisfaire les contraintes de latence P99 (inférieure à 10 ms), et une disponibilité opérationnelle permanente sur un horizon pluriannuel.
Pourquoi les pays nordiques sont-ils moins adaptés à l’inférence IA en production ?
Les pays nordiques offrent des avantages énergétiques réels pour les workloads d’entraînement batch. Toutefois, la distance aux marchés de consommation finaux génère une latence incompatible avec les exigences des applications d’inférence IA en production. Par ailleurs, les exigences du CADA niveau 4 sur la souveraineté capitalistique restreignent la qualification des opérateurs pour les workloads relevant du règlement.