Le prochain goulot d'étranglement à mille milliards de dollars dans l'IA ne concerne pas les algorithmes, mais l'énergie et le refroidissement

Depuis deux ans, le débat public autour de l'intelligence artificielle se concentre sur une seule métrique : le nombre de paramètres. Des modèles plus grands, de meilleurs benchmarks, un nouveau bond en avant dans le raisonnement. Mais derrière les annonces de lancement, une course aux armements différente se déroule, menée non pas dans le code mais dans le béton, le cuivre et les tours de refroidissement. the-17-articles-that-will-define-2025s-tech-narrative

Le problème est simple. La puissance de calcul nécessaire pour entraîner les modèles de pointe a doublé environ tous les six mois depuis 2018, tandis que les gains d'efficacité en densité de transistors et en performance des puces ont ralenti à un niveau très faible. La loi de Moore, l'observation selon laquelle le nombre de transistors sur une puce double environ tous les deux ans, a effectivement décéléré. Il en résulte une faim sans précédent en énergie, en espace et en gestion thermique que l'industrie des centres de données n'a jamais été conçue pour satisfaire. nvidia-nemo-automodel-delivers-37x-faster-moe-fine-tuning-via-expert-parallelism-and-deepep

Une tempête parfaite de demande et de physique

L'entraînement d'un seul grand modèle de langage comme GPT-4 ou Gemini Ultra peut consommer des dizaines de mégawatts pendant des semaines, soit une consommation d'énergie équivalente à celle d'une petite ville. Chaque requête servie par un modèle déployé ajoute un coût énergétique non négligeable qui, multiplié par des milliards de requêtes quotidiennes, transforme l'inférence en un poste de dépenses significatif dans les bilans de toute entreprise opérant à grande échelle.

Le goulot d'étranglement ne se limite pas à la seule production d'énergie. Les centres de données étaient traditionnellement construits pour exécuter des charges de travail qui pouvaient être planifiées, mises en pause et mises en file d'attente, et non les charges thermiques ininterrompues et à haute densité que produisent les accélérateurs d'IA modernes. Un GPU Nvidia H100, par exemple, peut consommer jusqu'à 700 watts en charge, et les racks remplis de dizaines de ces puces génèrent des densités de chaleur qui submergent les systèmes de refroidissement par air conventionnels.

Le refroidissement liquide, autrefois une solution de niche pour les laboratoires de supercalcul, est passé d'exotique à essentiel. Plusieurs grands fournisseurs de colocation, dont Equinix et Digital Realty, ont commencé à moderniser leurs installations avec des technologies de refroidissement direct sur puce et par immersion. Le changement est coûteux et lent, mais il remodèle déjà l'endroit et la manière dont les plus grands clients du cloud choisissent de construire.

La réponse des hyperscalers et l'opportunité pour les startups

Les hyperscalers, Amazon Web Services, Microsoft Azure et Google Cloud, ont chacun leur propre feuille de route, mais la direction est la même : construire plus grand, construire différemment et construire plus près des sources d'énergie disponibles. Amazon a annoncé son intention de dépenser plus de 150 milliards de dollars en infrastructures de centres de données au cours de la prochaine décennie. Microsoft s'est engagé à doubler sa capacité mondiale de centres de données environ tous les deux ans, avec un accent particulier sur les sites en Irlande, en Suède et dans d'autres régions où l'énergie renouvelable est abondante. inside-meta-ai-the-lab-betting-billions-on-open-source-intelligence

Pourtant, les hyperscalers seuls ne peuvent pas combler le déficit d'infrastructure à la vitesse exigée par le marché. Une nouvelle cohorte de startups parie que le prochain marché de mille milliards de dollars ne réside pas dans la construction de modèles plus grands, mais dans la réimagination du substrat physique sur lequel l'IA fonctionne. Des entreprises comme Crusoe Energy, qui déploie des centres de données modulaires sur des puits de gaz abandonnés pour capturer le gaz naturel autrement torché comme source d'énergie, sont pionnières dans le calcul "derrière le compteur". D'autres, comme CoreWeave, ont commencé comme une opération de minage de crypto-monnaie et se sont tournées pour devenir l'un des plus grands fournisseurs de calcul cloud accéléré par GPU, louant du matériel Nvidia à une échelle qui rivalise avec celle des hyperscalers. y-combinators-new-ai-stack-gives-students-25000-in-free-credits

La question du refroidissement

Le refroidissement représente aujourd'hui environ 30 à 40 pour cent du budget d'exploitation d'un centre de données. À mesure que les charges thermiques augmentent, ce chiffre devrait grimper, à moins que de nouvelles approches ne changent la donne. Le refroidissement par immersion, qui consiste à immerger les serveurs dans un fluide diélectrique non conducteur, peut éliminer les ventilateurs et réduire considérablement l'énergie consacrée à l'évacuation de la chaleur. Plusieurs fournisseurs, dont Submer et LiquidStack, vendent désormais des systèmes d'immersion préfabriqués qui réduisent la consommation d'énergie de refroidissement jusqu'à 90 pour cent par rapport au refroidissement par air traditionnel.

Mais la transition a un coût en capital. Une installation modernisée pour le refroidissement par immersion nécessite une nouvelle disposition des sols, des systèmes de manipulation des fluides et des procédures de maintenance qui s'écartent de décennies de pratique opérationnelle. Les opérateurs sont confrontés à un choix : absorber les dépenses initiales et se préparer pour l'avenir, ou risquer de se retrouver avec des actifs qui ne peuvent pas supporter la prochaine génération d'accélérateurs.

Dimensions géopolitiques

La course aux infrastructures est indissociable de la géopolitique. Les contrôles à l'exportation sur les semi-conducteurs avancés, en particulier les puces H100 et à venir B100 de Nvidia, ont forcé certains pays et régions à accélérer leurs propres initiatives nationales en matière de puces et de centres de données. L'Union européenne, à travers sa loi sur les puces et l'entreprise commune EuroHPC, subventionne la construction de supercalculateurs optimisés pour l'IA qui peuvent servir les États membres sans dépendre des chaînes d'approvisionnement américaines. La Chine, quant à elle, continue d'investir massivement dans la conception de puces nationales et la construction de centres de données malgré les restrictions à l'exportation. anthropic-launches-claude-founder-house-in-paris-to-unite-europes-ai-startup-ecosystem

Il en résulte une carte mondiale fragmentée des infrastructures où l'énergie et la physique, et pas seulement la demande du marché, décident où se trouvera la capacité de calcul de la prochaine décennie.

L'essentiel

Les avancées les plus célébrées de l'industrie de l'IA, de GPT-4 à Claude 3 en passant par Gemini, reposent sur une base d'installations physiques qui est poussée à ses limites. Les entreprises qui résoudront le puzzle de l'infrastructure, que ce soit grâce à de nouvelles technologies de refroidissement, à un approvisionnement énergétique alternatif ou à des conceptions de puces plus efficaces, détiendront un avantage qui dépasse la sortie d'un modèle unique. La course pour la prochaine frontière de l'IA se construit non seulement dans le laboratoire, mais aussi dans le centre de données, un watt à la fois. openais-gpt-56-launch-rewrites-the-economics-of-frontier-ai