善良的小姨子在线观看

好多超等打算机网络使用的是InfiniBand或其他本领，而这里聘用的所以太网。点击收听本新闻听新闻

原标题：环球最大AI超算里面初度曝光！马斯克19天使速拼装10万块H100swag 免费视频，往日规模还将扩大一倍

【新智元导读】一文揭秘环球最大AI超算，观念液冷机架swag 免费视频和网络系统的改造想象。这台环球最大AI超算Colossus由xAI和英伟达联手建造，耗资数十亿，10万块H100仅半个多月搭建完成，往日规模还将扩大一倍！

两个月前，马斯克才刚刚自曝了xAI的Colossus超算，称其是天下上最刚劲的AI磨真金不怕火系统。

最近，马斯克又文告了一条激越东谈主心的音信——集群行将扩张到20万张H100/H200显卡！

同期，ServeTheHome也发布了一条15分钟的视频，公布了这台超算的笃定！

来自ServeTheHome的Patrick Kennedy带着照相机拜访了这台超等打算机

这台环球最大的AI超等打算机Colossus位于好意思国田纳西州孟菲斯，配备了10万个英伟达Hopper GPU，并由英伟达Spectrum-X以太网提供网络传输解救。

当今，Colossus的第一阶段建立已完成，集群全面上线，但这并不是至极。它将很快迎来升级，GPU容量将翻倍，新增5万块H100 GPU和5万块下一代H200 GPU。

Colossus正在用于磨真金不怕火xAI的Grok，并为X Premium订阅用户提供聊天机器东谈主功能。

在磨真金不怕火超大规模的Grok时，Colossus展现了前所未有的网络性能。在汇麇集构的总共层级中，系统在流量冲突的情况下莫得资历任何运用延长左迁或数据包丢失。

通过Spectrum-X拥塞适度，它保握了95%的数据蒙胧量。这种性能水平无法通经过序以太网终了，递次以太网在传输中会产生数千次流量冲突，数据蒙胧量仅能达到60%。

由于守秘契约的截止，这台超等打算机的一些细节并莫得通晓。不外，像Supermicro GPU处事器等重要部件的先容在视频中皆有所触及。

液冷机架

中国成人网

Colossus集群的基本构建单位是Supermicro液冷机架。

每个机架包含八台4U处事器，每台处事器配备八个英伟达H100，预计64个GPU。

八台此类GPU处事器再加上一个Supermicro冷却分拨单位（CDU）及相干硬件，组成了一个GPU打算机架。

这些机架以八台为一组胪列，共512个GPU，并通过网络聚拢，酿成更大系统中的袖珍集群。

xAI使用的是Supermicro 4U通用GPU系统。

这是当今市面上伊始进的AI处事器，有2个原因：其一是它的液冷进度；其二是开发的可可贵性。

该系统被遗弃在托盘上，无需将系统从机架中移出即可可贵。1U机架分流器可为每个系统引入冷却液比肩出温热液体。快速断开安设让液冷系统不错飞速移除，以致不错东谈主工单手拆装；移除后，托盘即可拉出以便可贵。

下图是一张该处事器原型的相片，展示了这些系统的里面构造。

SC23展示的Supermicro 4U通用GPU系统：解救液冷英伟达HGX H100和HGX 200

上图SC23原型中的两个x86 CPU液冷模块相对常见。

非凡之处在于右侧：Supermicro的主板集成了确切总共HGX AI处事器中使用的四个Broadcom PCIe交换机，而非将其单独安装在另一块板上。Supermicro为这四个PCIe交换机想象了定制液冷模块。

其他AI处事器时常是在风冷想象的基础上加装液冷，而Supermicro的想象则齐全从零启动，为液冷而打造，且总共组件均来自团结供应商。

打个平日的比喻，这访佛于汽车——有些车型先想象为燃油车，之后再安装电动能源系统，而有些车型从一启动即是为电动车想象的。这款Supermicro系统就属于后者，而其他HGX H100系统则属于前者。

Patrick怒赞谈：测评了各式种种的液冷系统想象，这款Supermicro系统遥遥开始于其他系统！

网络系统

这里的每条光纤聚拢速度为400GbE，是常见1GbE网络速度的400倍。此外，每个系统帅有9条这么的聚拢，意味着每台GPU打算处事器的带宽达到约3.6Tbps。

打个比喻，要是1GbE的平日家庭网络好比是一条单车谈公路，那这个400GbE就像是一条领有400车谈的高速公路。而每个系统有9条这么的「高速公路」，至极于每台GPU打算处事器领有9条这么的超宽带公路，总带宽达到3.6Tbps。

这个带宽以致越过了2021年头顶级Intel Xeon处事器处理器在总共PCIe通谈上所能处理的聚拢总量。

GPU的RDMA网络组成了该带宽的大部分。每个GPU皆有我方的NIC。

在这里，xAI使用英伟达BlueField-3 SuperNIC和Spectrum-X网络。英伟达的网络堆栈中加入了一些私有本领，不错匡助数据绕过集群中的瓶颈，确保数据准确地传输到指定位置。

这是一个要紧冲破！好多超等打算机网络使用的是InfiniBand或其他本领，而这里聘用的所以太网。

以太网是互联网的主干，因此它具有极强的扩张性。这些雄伟的AI集群已扩张到一些更小众本领未能触及的规模。关于xAI团队而言，这如实是一个斗胆的举措。

除了GPU的RDMA网络外，CPU也配备了400GbE聚拢，但使用齐全不同的交换结构。xAI为其GPU和集群的其余部分区别建立了零丁的网络，这在高性能打算集群中口舌同样见的想象。

除了高速集群网络外，还有低速网络用于惩处接口和环境开发，这些皆是此类集群的挫折组成部分。

参考费力：

https://www.servethehome.com/inside-100000-nvidia-gpu-xai-colossus-cluster-supermicro-helped-build-for-elon-musk/3/swag 免费视频