(原标题:英伟达GB300性能炸裂,联念念等厂商下半年发售)
3月19日,NVIDIA英伟达本日晓示推出NVIDIA Blackwell AI工场平台的新一代居品 —— NVIDIA Blackwell Ultra,开启了AI推理新时期。
NVIDIA Blackwell Ultra 擢升了考研和测试时扩张推理才调(test-time scaling inference), 即通过在推理经由中加多诡计量来擢升准确率的技巧,以匡助民众各地的企业加快AI推理、代理式AI及物理AI等应用的开导与部署。
基于一年前推出的冲破性的Blackwell架构,Blackwell Ultra包括 NVIDIA GB300 NVL72机架级处分决策和NVIDIA HGX B300 NVL16系统。GB300 NVL72的AI性能是NVIDIA GB200 NVL72的1.5倍,这使得开导AI 工场的收入契机与基于 NVIDIA Hopper构建的系统比拟加多了50倍。
"东说念主工智能已矣了强劲的飞跃 —— 推理和代理式AI对诡计性能的需求呈数目级增长,"NVIDIA创举东说念主兼首席扩充官黄仁勋暗示。"咱们为这一时期瞎想了Blackwell Ultra——它是一款单一且多功能的平台,大致任意高效地完成预考研、后考研以及推理型AI推理任务。"
NVIDIA GB300 NVL72在一个机架瞎想中一语气了72个Blackwell Ultra GPU和36个基于Arm Neoverse架构的 NVIDIA Grace CPU,举座进展如归并个巨型GPU,专为测试时扩张而打造。通过GB300 NVL72,AI模子大致哄骗平台增强的诡计才调探索多种处分决策,将复杂苦求剖判为多个步骤,倍悦网优配从而生成更高质料的反馈。
GB300 NVL72瞻望还将通过NVIDIA DGX Cloud 提供,该平台是一个端到端的全托管 AI 平台,部署于向上的云就业上,通过软件、就业和 AI 专科学问为束缚发展的职责负载优化性能。配备DGX GB300系统的NVIDIA DGX SuperPOD接纳 GB300 NVL72 机架瞎想,为客户提供了一个交钥匙式 AI 工场。
NVIDIA HGX B300 NVL16比拟Hopper代居品,LLM 推理速率提速了11倍,诡计性能擢升了7倍,内存容量扩大了4倍,可为最复杂的职责负载(如 AI 推理)提供冲破性性能。
此外,Blackwell Ultra平台相称适用于以下应用:
代理式AI, 哄骗复杂推理和迭代诡计自主处分复杂的多步骤问题。 AI智能体系统特等了精真金不怕火的提示扩充。他们大致推理、诡计并弃取当作以已矣特定诡计。
物理 AI,使企业大致及时生成合成的、具有高度果然感的视频,用于大界限考研机器东说念主和自动驾驶汽车等应用。
NVIDIA暗示,联念念、戴尔和超微等合营伙伴瞻望将从2025年下半年开动推出基于Blackwell Ultra的各样就业器。