NVIDIA выпустила Dynamo, который называется "операционной системой для AI-фабрики"

19 марта данные Jinshi сообщили, что Nvidia (NVDA.O) официально выпустила Dynamo, который называется "операционная система для AI-фабрики". Dynamo - это "распределенная библиотека сервисов вывода". По сути, это решение с открытым исходным кодом для проблемы недостатка токенов, необходимых для производства токенов, в ответ на потребности пользователей. Дженсен Хуанг продемонстрировал диаграмму вывода, по X-оси отображается количество токенов в секунду для пользователей, а по Y-оси - количество токенов в секунду для фабрики. Под воздействием Dynamo, Grace Blackwell и суперчип NVLink72 на 25 раз увеличили производительность по сравнению с Hopper. А в модели вывода производительность Blackwell в 40 раз превышает производительность Hopper. Дженсен Хуанг также пошутил, что благодаря новейшим технологиям "чем больше покупаешь, тем больше экономишь" для компании, строящей AI-фабрику.