Nvidia a annoncé les détails d’une nouvelle plate-forme de mise en réseau conçue spécifiquement pour les charges de travail d’IA génératives, promettant une mise en réseau sans perte à la vitesse de l’éclair.
La nouvelle technologie Spectrum-X de la société est construite à l’aide du commutateur Ethernet Spectrum-4 et du DPU BlueField-3, et promet des augmentations de performances et d’efficacité énergétique allant jusqu’à 1,7x.
Dans un communiqué de pressela société a déclaré : « La fourniture de capacités de bout en bout réduit les durées d’exécution de modèles d’IA génératifs massifs basés sur des transformateurs », ce qui permet aux entreprises de fonctionner et de prendre des décisions plus rapidement, libérant ainsi un potentiel de réduction des coûts.
Spectre-X Ethernet
Gilad Shainer, vice-président principal de la mise en réseau de Nvidia, a déclaré : “Spectrum-X est une nouvelle classe de réseau Ethernet qui supprime les obstacles pour les charges de travail d’IA de nouvelle génération qui ont le potentiel de transformer des industries entières.”
Son composant clé, le commutateur Ethernet Spectrum-4, est capable d’atteindre des vitesses de 51 Tb/s. Cela signifie pour les consommateurs que, en conjonction avec les DPU BlueField-3 et les optiques Nvidia LinkX, un réseau Ethernet 400 Gigabit est activé.
L’entreprise a cherché à donner un aperçu des puissantes capacités de mise en réseau que les supercalculateurs d’IA peuvent désormais exploiter dans des cas réels :
« Nvidia Spectrum-X permet une évolutivité sans précédent de 256 ports 200 Gb/s connectés par un seul commutateur, ou 16 000 ports dans une topologie leaf-spine à deux niveaux pour prendre en charge la croissance et l’expansion des clouds IA tout en maintenant des niveaux élevés de performances et en minimisant le réseau. latence.”
Ailleurs, le PDG de Nvidia, Jensen Huang, a brandi la puce de commutation Spectrum-4 lors de sa présentation lors du discours d’ouverture de l’exposition Computex, partageant plus d’informations sur sa conception. Les cent milliards de transistors sur une matrice de 90×90 mm consomment environ 500 watts, a-t-il déclaré.
Déjà, Nvidia teste son Spectrum-X dans son centre de données israélien en Israël 1, un supercalculateur IA génératif à grande échelle exécutant des serveurs Dell PowerEdge XE9680 basés sur la plate-forme Nvidia HGX H100 à huit GPU.