英偉達發佈Dynamo,號稱“AI工廠的操作系統”

robot
摘要生成中

金十數據3月19日訊,英偉達(NVDA.O)正式發佈Dynamo,號稱是“AI工廠的操作系統”。Dynamo是一個“分佈式推理服務庫”。本質上,它是一個針對用戶需求token而無法生產足夠token之間問題的開源解決方案。黃仁勳展示了一張關於推理的圖表,X軸顯示用戶每秒的Token數,Y軸顯示工廠每秒的Token數。在Dynamo、Grace Blackwell NVLink72超級芯片的加持下,Blackwell相比Hopper可實現25倍的性能提升。而在推理模型中,Blackwell的性能是Hopper的40倍。黃仁勳還打趣道,有了上述最新技術加持,搭建AI工廠的廠商“買得越多、省得越多”。

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 讚賞
  • 留言
  • 分享
留言
0/400
暫無留言
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)