NVIDIA a lancé Dynamo, surnommé le "système d'exploitation de l'usine d'IA"

Golden Ten Data a rapporté le 19 mars que Nvidia (NVDA.O) a officiellement publié Dynamo, qui est connu comme le « système d’exploitation des usines d’IA ». Dynamo est une « bibliothèque de service d’inférence distribuée ». Essentiellement, il s’agit d’une solution Open Source au problème entre les utilisateurs qui ont besoin de jetons et ceux qui ne peuvent pas produire suffisamment de jetons. Jensen Huang a montré un graphique sur l’inférence, avec l’axe X montrant le nombre de jetons par seconde pour les utilisateurs et l’axe Y montrant le nombre de jetons par seconde pour les usines. Avec la prise en charge des superpuces Dynamo et Grace Blackwell NVLink72, Blackwell peut améliorer ses performances de 25 fois par rapport à Hopper. Dans le modèle d’inférence, Blackwell surpasse Hopper de 40 fois. Jensen Huang a également plaisanté sur le fait qu’avec les dernières technologies, les fabricants qui construisent des usines d’IA « achètent plus, économisent plus ».