NVIDIA Dévoile Blackwell Ultra : Une Révolution pour le Raisonnement en IA !

Révolution dans le domaine de l’IA avec Blackwell Ultra

NVIDIA prépare le lancement de Blackwell Ultra, une plateforme de calcul accéléré révolutionnaire, qui s’adapte parfaitement aux exigences croissantes du raisonnement en IA. Ce système promet d’optimiser les capacités des modèles d’intelligence artificielle en affinant les phases d’entraînement, de post-entraînement et d’évaluation.

Une montée en puissance du pré-entraînement

Au cours des cinq dernières années, la demande en pré-entraînement des systèmes d’IA a explosé, atteignant des niveaux 50 millions de fois supérieurs. Tandis que nous avons enregistré d’importants progrès, l’accent se déplace désormais vers la raffinement des modèles afin d’améliorer leurs compétences en raisonnement. Cela implique l’utilisation de données spécifiques à un domaine et synthétiques pour perfectionner les compétences conversationnelles de l’IA et sa compréhension des contextes subtils.

Nouvelles lois de mise à l’échelle

Une approche novatrice, désignée sous le nom de test-time scaling ou long thinking, a vu le jour. Cette méthode consiste à augmenter les ressources de calcul de manière dynamique durant l’inférence de l’IA, permettant ainsi un raisonnement plus approfondi. Contrairement aux modèles traditionnels qui donnent des réponses en une seule fois, ces modèles avancés sont capables de réfléchir et d’affiner leurs réponses en temps réel, se rapprochant de l’intelligence autonome.

Caractéristiques de la plateforme Blackwell Ultra

Blackwell Ultra constitue le cœur des systèmes NVIDIA GB300 NVL72. Ce système massif, refroidi par liquide, relie 36 CPUs NVIDIA Grace et 72 GPUs Blackwell Ultra. Cette configuration impressionnante engrange un domaine de GPU avec une bande passante NVLink totale de 130 To/s, accentuant considérablement les performances d’inférence de l’IA.

Avec jusqu’à 288 Go de mémoire HBM3e par GPU, Blackwell Ultra facilite l’exécution de modèles d’IA à grande échelle et de tâches complexes tout en améliorant les performances et en réduisant la latence. Ses Tensor Cores offrent 1,5 fois plus de FLOPS de calcul AI comparé aux modèles précédents, optimisant ainsi l’utilisation de la mémoire et permettant des percées dans la recherche en IA et l’analytique en temps réel.

Performances d’inférence et connectivité réseau

Le système Blackwell Ultra de NVIDIA présente également une connectivité PCIe Gen6 dotée de NVIDIA ConnectX-8 800G SuperNIC, permettant d’atteindre une bande passante réseau de 800 Gb/s. Cette amélioration de la bande passante optimise les performances à grande échelle, soutenue par NVIDIA Dynamo, une bibliothèque open-source qui élargit les services d’IA et gère efficacement les charges de travail à travers les nœuds GPU.

Dynamo offre un service désagrégé qui optimise les performances en séparant les phases de contexte et de génération pour l’inférence des grands modèles de langage (LLM), permettant ainsi de réduire les coûts et d’améliorer l’évolutivité. Avec un débit total de données de 800 Gb/s par GPU, le GB300 NVL72 s’intègre parfaitement aux plateformes NVIDIA Quantum-X800 et Spectrum-X, répondant aux exigences des usines d’IA modernes.

Conséquences pour les Usines d’IA

L’introduction de Blackwell Ultra devrait considérablement améliorer les résultats des usines d’IA. Les systèmes NVIDIA GB300 NVL72 prévoient un accroissement de 10 fois de la productivité par utilisateur et une amélioration de 5 fois du rendement par mégawatt, culminant en une augmentation globale de 50 fois de la performance des sorties des usines d’IA.

Cette avancée dans le raisonnement en IA promet d’offrir des aperçus en temps réel, d’améliorer l’analytique prédictive et d’optimiser les agents d’IA dans divers secteurs, y compris la finance, la santé et le commerce électronique. Les entreprises pourront gérer des modèles et des charges de travail plus importants sans sacrifier la vitesse, rendant ainsi les capacités avancées d’IA plus pratiques et accessibles.

Les produits NVIDIA Blackwell Ultra devraient être disponibles chez des partenaires dans la seconde moitié de 2025, avec le soutien de grands fournisseurs de services cloud et de fabricants de serveurs.