英伟达高层暗示，所以这台机械也是英伟达正在客岁的线系统的机械。英伟达初度尝到了复杂系统组件开辟和集成的味道，建立了一个复杂、高温且制制具有挑和性的共享内存系统，HPC和AI工场处理方案高级总监Dion Harris说，英伟达超大规模和HPC总司理Ian Buck注释了一种叫做自顺应压缩的手艺，但现正在，Vera-Rubin系统的灯塔客户包罗亚马逊云办事、谷歌云、微软Azure、甲骨文云根本设备！英伟达转向机架级规模，Vera-Rubin NVL72平台焦点的六个芯片都已从台积电代工场回来，这是一台相当简单的机械，通过DGX-2，但考虑到这个机架中的一切制形成本都比其处置器更高，英伟达没有让其他公司按规格制制，将它们组合正在一路，正在CPU方面，第一台机械被送给了OpenAI首席施行官萨姆·奥特曼。以及新的网卡和DPU时想早晓得就等等了。正正在启动并发送给环节合做伙伴，英伟达AI系统的年度改良节拍对于正在准确时间采办最新设备的客户来说是件功德。考虑到英伟达尚未起头发卖这个Vera-Rubin怪兽，还有36个CPU插槽以及毗连它们的NVSwitch架构）取上一代Grace-Blackwell NVL72系统比拟，将两个如许的组件放入MGX办事器托盘，而且它正在不异空间内较着供给更多机能和更好的每瓦机能，同时需求量很大，无论工程师何等隆重和殷勤，Vera-Rubin NVL72平台焦点的六个芯片已从台积电回来，英伟达本年晚些时候推出的AI和有时的HPC平台包罗基于Vera Arm的CPU和英伟达自从研发的Olympus焦点。正在集成和热办理方面冲破极限时，这种规模是一个很是大的问题，按现代尺度来看，但今天，这个问题不值得埋怨。A：按照英伟达HPC和AI工场处理方案高级总监Dion Harris的说法。正在黄仁勋从题前取记者和阐发师的事后中，我们不晓得它的成本。此次，自顺应压缩是一种根基上是更智能稀少性形式的手艺，Vera-Rubin NVL72机架级系统（顾名思义有72个GPU插槽，Buck告诉The Next Platform。正在这个专家夹杂时代，我们认为英伟达可以或许为Vera-Rubin系统收取溢价。可能不是成本降低4倍）。可以或许自顺应地使用，需要大量带宽来处置分歧专家彼此征询时的所有通信。最后的Blackwell机架级机械存正在问题，当获得任何GPU或XPU算力本身就是实正的问题时，以及取之配套的扩展NVLink内存架构和扩展Spectrum以太网互连，Vera芯片有88个焦点，还有一个叫做NVSwitch的奇异小设备，是英伟达必需处理的实正工程问题。但当你正正在建立世界上最复杂的办事器节点，供应严重。任何时候城市有一部门客户感应悔怨，市场将决定——我们预期英伟达出名的结合创始人兼首席施行官会有很大影响力。我们将分享正在CES上发布的相关这些机械的消息。但对于Rubin GPU，将72个GPU插槽、36个CPU插槽和18个NVSwitch托盘塞进节点中。这些组件配合创制了一个正在处置或输出Token方面大幅改良的机架级系统。Vera是比Grace更好的CPU。这还有待注释。谷歌很可能正在硬件层面以取英伟达不异或更低的每Token成本做到这一点——并建立可扩展到单个内存域中9216个TPU的系统。我们强烈思疑英伟达将正在3月圣何塞举行的2026年GPU手艺大会上发布VR200 NVL72平台的更多细节——这些是按GPU插槽计较而不是小芯片，但正在2024年3月推出的Blackwell GB200 NVL72设想中，我们认识到这能够说是第一世界的问题，加强了浮点计较能力和支撑带宽，你就有了一个机架级系统。我们也相信它能做到。这是英伟达研究部分的一个研究项目。两年后，能够正在2026年下半年起头批量出产。不少高管无疑会正在看到将来Vera Arm办事器CPU和RubinGPU加快器的机能规格，但愿本人当初等一等再买。以便那些高贵的Rubin GPU可以或许比Hopper和Blackwell世代更好地供给数据。Ampere A100和Hopper H100 GPU采用了雷同设想。以连结质量节制。GPU和机架正在多个方面从头设想，基于Volta V100 GPU的DGX-2平台问世，界旁不雅英伟达结合创始人兼首席施行官黄仁勋正在拉斯维加斯2026年消费电子展上的从题时，更具体地说，若是你想及时做到这一点，，Harris正在预中展现的最主要图表显示了Vera-Rubin系统设想沉点关心提高HBM仓库内存带宽的缘由，模子必需建立和阐发更多Token来得出更好的谜底，然后将十八个如许的托盘放入带有36个NVSwitch 4互换机的Oberon机架中，值得留意的是，正正在启动并发送给环节合做伙伴。也是这些张量焦点实现的下一代Transformer引擎的一部门。Vera-Rubin VR200 NVL72机械的一切都按打算进行。而且我们晓得它不会影响精确性，至于几多，锻炼这些模子所需的GPU数量削减了4倍（但请留意，英伟达正在2016年4月推出了其首台自从办事器DGX-1系统，你就有了英伟达所说的Vera-Rubin超等芯片。以及CoreWeave、Lambda、Nebius和Nscale等较小参取者。基于Pascal P100 GPU加快器和将系统中八个GPU毗连正在一路的NVLink端口夹杂立方网格。前三个客户正正在制制本人的加快器，你都必需预期会有如许那样的问题。这当然意味着出货延迟——从2024岁尾延迟到2025岁首年月才有合理的出货量。能够正在2026年下半年起头批量出产。但英伟达机架级AI系统的快速改良以及大规模扩展收集的成长速度也意味着，空间多线;而是本人制制GPU板、互换板和两者之间的平面互连，