Jensen Huang, le PDG de Nvidia, avait manifesté son désir d’investir dans le marché des data centers dès 2016. Huit ans plus tard, lors de la conférence GPU Technology Conference 2024, son objectif est atteint. Porté par la demande croissante en puissance de calcul pour l’intelligence artificielle, Nvidia vend ses GPU à prix d’or. Huang va même plus loin en affirmant que Nvidia ne se contente pas de produire des puces, mais construit désormais des data centers.
Intéressé par le marché en plein essor du data center, estimé à 250 milliards de dollars en 2023 avec une croissance annuelle de près de 25%, Nvidia vise à s’imposer parmi les nombreux fabricants de GPU. Huang qualifie ces nouveaux data centers de « usines d’IA » (AI Factories) conçus pour générer des tokens à partir de données, comparables à des centrales électriques, marquant ainsi une révolution industrielle selon le PDG.
La « fonderie d’IA » de Nvidia et les microservices d’inférence
Nvidia dévoile sa « fonderie d’IA » (AI Foundry) qui promet des modèles d’IA générative sur mesure et optimisés pour chaque entreprise, s’éloignant des modèles génériques du cloud public. Cette approche vise à personnaliser la génération de contenu pour chaque utilisateur, selon Jensen Huang.
Adoptant la technique de « retrieval-augmented generation » et les Nvidia Inference Microservices (NIMs) à la GTC 2024, Nvidia offre des microservices conteneurisés regroupant modèles d’IA, runtime et moteur d’inférence dans un seul package facile à utiliser. Cette approche s’intègre facilement aux solutions Kubernetes, garantissant une mise en œuvre fluide.
Partenariats stratégiques et vision prospective
Avec un objectif clair de cibler les entreprises disposant de leurs propres data centers, Nvidia propose des services de personnalisation de modèles d’IA et fournit le matériel nécessaire. Le PDG souligne l’importance d’amener l’IA aux données, un concept fondamental pour les secteurs de la finance et de la santé.
Un partenariat clé a été annoncé avec SAP lors de la conférence, soulignant l’ambition de devenir leader de la « business AI ». SAP s’appuiera sur Nvidia pour développer l’utilisation de l’IA générative dans les processus métier, marquant ainsi une collaboration stratégique entre les deux géants.