当前位置:首页 > 数码资讯 > 正文内容

NVIDIA推出面向超大规模生成式AI的加速以太网平台

2023-07-28 12:01数码资讯

全新的 NVIDIA Spectrum-X 网络平台集 NVIDIA Spectrum-4、BlueField-3 DPU和加速软件于一身;全球头部云服务提供商采用该平台来横向扩展其生成式 AI服务

全新的 NVIDIA Spectrum-X 网络平台结合了 NVIDIA Spectrum-4、BlueField-3 DPU 和加速软件;全球头部云服务提供商采用该平台来横向扩展其生成式 AI 服务

COMPUTEX — 2023 年 5 月 29 日NVIDIA 于今日宣布推出 NVIDIA Spectrum-X 网络平台,该平台是一个加速网络平台,致力于提高基于以太网 AI 云的性能与效率。

NVIDIA Spectrum-X 是基于网络创新的新成果而构建 —— 将 NVIDIA Spectrum-4 以太网交换机与 NVIDIA BlueField -3 DPU 紧密结合,取得了 1.7 倍的整体 AI 性能和能效提升,同时可在多租户环境中提供一致、可预测的性能。Spectrum-X 还提供 NVIDIA 加速软件和软件开发套件(SDK),使开发人员能够构建软件定义的云原生AI应用。

这种端到端的功能交付,可以减少基于transformer的大规模生成式AI模型的运行时间,助力网络工程师、AI数据科学家和云服务商及时取得更好的结果,并更快做出明智的决策。

全球头部超大规模云服务商正在采用 NVIDIA Spectrum-X,包括领先的云创新企业。

作为 NVIDIA Spectrum-X 参考设计的蓝图和测试平台,NVIDIA 正在构建一台超大规模生成式 AI 超级计算机,命名为 Israel-1。它将被部署在 NVIDIA 以色列数据中心,由基于 NVIDIA HGX 平台的戴尔 PowerEdge XE9680 服务器, BlueField-3 DPU 和 Spectrum-4 交换机等打造而成。

NVIDIA 网络高级副总裁 Gilad Shainer 表示:“诸如生成式 AI 等革命性技术正在推动各家企业提升数据中心性能的极限,从而获得更多竞争优势。作为新一代以太网络,NVIDIA Spectrum-X 为新一代 AI 工作负载扫清障碍,将会彻底改变整个行业。”

NVIDIA Spectrum-X 网络平台具有高度的通用性,可用于各种 AI 应用。它采用完全标准的以太网,与现有以太网的堆栈实现互通。

该平台起步于 Spectrum-4 ,这是全球首款专为 AI 网络打造的 51Tb/s 以太网交换机。先进的 RoCE 扩展功能可以跨 Spectrum-4 交换机、BlueField-3 DPU 和 NVIDIA LinkX 光纤相互协同,共同构建了一个专为 AI 云优化的端到端 400GbE 网络。

NVIDIA Spectrum-X 通过性能隔离增强了多租户环境,确保租户的 AI 工作负载能以最佳性能持续运行。NVIDIA Spectrum-X 还提供了更好的 AI 性能可见性,它可以识别性能瓶颈,而且具有全自动网络验证功能。

驱动 Spectrum-X 的加速软件包括Cumulus Linux、纯 SONiC 和 NetQ 等性能强大的 NVIDIA SDK,共同助力该网络平台实现极致性能。另外,Spectrum-X 还包括 BlueField DPU 的核心软件——NVIDIA DOCA 软件框架。

NVIDIA Spectrum-X 单台交换机即可实现突破性的 256 个 200Gb/s 端口的连接,使用两层叶脊拓扑可以连接 16,000 个端口,以支持 AI 云的增长和扩展,同时保持极高的性能和极低的网络延时。

生态采用情况

提供 NVIDIA Spectrum-X 方案的公司包括戴尔科技、联想和超微。

供货情况

NVIDIA Spectrum-X、Spectrum-4 交换机、BlueField-3 DPU 和 400G LinkX 光纤现已上市。

聆听 COMPUTEX 主题演讲,进一步了解 NVIDIA Spectrum-X。

扫描二维码推送至手机访问。

版权声明:本文由ZBLOG发布,如需转载请注明出处。

本文链接:http://youzheba.com/s/6529.html

分享给朋友:

相关文章

Verizon关闭3G网络,美国告别3G时代?

北京时间1月5日晚间消息(蒋均牧)Verizon紧随其竞争对手AT&T和T-Mobile美国之后,于2022年底关闭了其3G CDMA网络。这家美国运营商在2016年便开始着手停用3G网络,但将关闭日期从2019年延长至20222年底,以留给用户更多迁移时间,尽一切努力将关停带来的影响降至最...

浙江5G全连接工厂系列故事之企业篇(温州) 乘风破浪,5G引领温州产业大脑蝶变

浙江5G全连接工厂系列故事之企业篇(温州) 乘风破浪,5G引领温州产业大脑蝶变

2021年,温州市出台 《“5G+工业互联网”创新应用行动计划 (2021~2023年)》,计划到2023年打造工业互联网平台30个以上、培育形成 “5G+工业互联网”应用场景超100个,加速构建5G新业态,让制造更 “智”造。2022年,温州构建了以“产业大脑+未来工厂”为核心的数字经济系统,乐清...

苏州移动在全国首届“光华杯”千兆光网应用创新大赛中斩获奖项

日前,由工信部指导、中国信息通信研究院主办的全国首届“光华杯”千兆光网应用创新大赛在上海圆满落幕。中国移动苏州分公司(以下简称“苏州移动”)牵头申报的2个项目荣获三等奖,并作为优秀应用案例在会上进行分享。本次大赛以“光联万物、华彩未来”为主题,自项目启动以来,得到了社会各界的广泛关注。经过历时6个月...

南通移动创新开展“红色大巴行走的党课”主题实践活动

南通移动创新开展“红色大巴行走的党课”主题实践活动

为进一步感受时代沧桑巨变,增强党员党性修养,江苏南通移动党委组织党员干部前往市区开展“红色大巴行走的党课”主题党日活动,通过全景式、交互式、沉浸式的体验教学,一路追寻红色印记、传承红色基因、弘扬奋斗精神、激发前行动力。近日,载着南通移动80名党员同志的红色大巴正式启程。此次,南通移动组织综合部党支部...

华为认证协作专家HCIP-Collaboration V3.0正式发布

1月10日消息(安迪)华为认证协作专家HCIP-Collaboration V3.0(中文版)近日正式在中国区发布。HCIP-Collaboration V3.0于2023年1月3日正式对中国区发布,主要面向使用华为协作产品的用户、合作伙伴工程师、内部工程师、高校学生以及ICT从业人员等。据华为介绍...

神话吹破 台积电3nm良率远没有80%:仅有苹果少量下单

在3nm工艺上,虽然三星抢在2022年6月份就宣布量产3nm,成为全球首发,而台积电在12月29日才开始量产,只不过在3nm订单及良率上,台积电一直被认为远超三星,更有实际意义。此前的传闻说是三星的3nm良率仅有10-20%,台积电的3nm良率可达70-80%,差不多五倍优于三星,这意味着3nm工艺...