NVIDIA: DeepSeek R1 официально запущен на платформе NIM от NVIDIA

По сообщению BlockBeats, 31 января, на сайте NVIDIA (NVDA.O) была опубликована предварительная версия NIM-микросервиса DeepSeek R1 671b в качестве части предварительной версии NIM от NVIDIA на build.nvidia.com. Микросервис NIM DeepSeek R1 может обрабатывать до 3 872 токенов в секунду на одной системе NVIDIA HGX H200. Разработчики могут проводить тестирование и эксперименты с API, и ожидается, что это API в скором времени станет частью программного обеспечения NVIDIA AI Enterprise в виде загружаемого NIM-микросервиса. (Kin10)