当前位置:首页 > 数码资讯 > 正文内容

NVIDIA推出面向超大规模生成式AI的加速以太网平台

2023-07-28 12:01数码资讯

全新的 NVIDIA Spectrum-X 网络平台集 NVIDIA Spectrum-4、BlueField-3 DPU和加速软件于一身;全球头部云服务提供商采用该平台来横向扩展其生成式 AI服务

全新的 NVIDIA Spectrum-X 网络平台结合了 NVIDIA Spectrum-4、BlueField-3 DPU 和加速软件;全球头部云服务提供商采用该平台来横向扩展其生成式 AI 服务

COMPUTEX — 2023 年 5 月 29 日NVIDIA 于今日宣布推出 NVIDIA Spectrum-X 网络平台,该平台是一个加速网络平台,致力于提高基于以太网 AI 云的性能与效率。

NVIDIA Spectrum-X 是基于网络创新的新成果而构建 —— 将 NVIDIA Spectrum-4 以太网交换机与 NVIDIA BlueField -3 DPU 紧密结合,取得了 1.7 倍的整体 AI 性能和能效提升,同时可在多租户环境中提供一致、可预测的性能。Spectrum-X 还提供 NVIDIA 加速软件和软件开发套件(SDK),使开发人员能够构建软件定义的云原生AI应用。

这种端到端的功能交付,可以减少基于transformer的大规模生成式AI模型的运行时间,助力网络工程师、AI数据科学家和云服务商及时取得更好的结果,并更快做出明智的决策。

全球头部超大规模云服务商正在采用 NVIDIA Spectrum-X,包括领先的云创新企业。

作为 NVIDIA Spectrum-X 参考设计的蓝图和测试平台,NVIDIA 正在构建一台超大规模生成式 AI 超级计算机,命名为 Israel-1。它将被部署在 NVIDIA 以色列数据中心,由基于 NVIDIA HGX 平台的戴尔 PowerEdge XE9680 服务器, BlueField-3 DPU 和 Spectrum-4 交换机等打造而成。

NVIDIA 网络高级副总裁 Gilad Shainer 表示:“诸如生成式 AI 等革命性技术正在推动各家企业提升数据中心性能的极限,从而获得更多竞争优势。作为新一代以太网络,NVIDIA Spectrum-X 为新一代 AI 工作负载扫清障碍,将会彻底改变整个行业。”

NVIDIA Spectrum-X 网络平台具有高度的通用性,可用于各种 AI 应用。它采用完全标准的以太网,与现有以太网的堆栈实现互通。

该平台起步于 Spectrum-4 ,这是全球首款专为 AI 网络打造的 51Tb/s 以太网交换机。先进的 RoCE 扩展功能可以跨 Spectrum-4 交换机、BlueField-3 DPU 和 NVIDIA LinkX 光纤相互协同,共同构建了一个专为 AI 云优化的端到端 400GbE 网络。

NVIDIA Spectrum-X 通过性能隔离增强了多租户环境,确保租户的 AI 工作负载能以最佳性能持续运行。NVIDIA Spectrum-X 还提供了更好的 AI 性能可见性,它可以识别性能瓶颈,而且具有全自动网络验证功能。

驱动 Spectrum-X 的加速软件包括Cumulus Linux、纯 SONiC 和 NetQ 等性能强大的 NVIDIA SDK,共同助力该网络平台实现极致性能。另外,Spectrum-X 还包括 BlueField DPU 的核心软件——NVIDIA DOCA 软件框架。

NVIDIA Spectrum-X 单台交换机即可实现突破性的 256 个 200Gb/s 端口的连接,使用两层叶脊拓扑可以连接 16,000 个端口,以支持 AI 云的增长和扩展,同时保持极高的性能和极低的网络延时。

生态采用情况

提供 NVIDIA Spectrum-X 方案的公司包括戴尔科技、联想和超微。

供货情况

NVIDIA Spectrum-X、Spectrum-4 交换机、BlueField-3 DPU 和 400G LinkX 光纤现已上市。

聆听 COMPUTEX 主题演讲,进一步了解 NVIDIA Spectrum-X。

扫描二维码推送至手机访问。

版权声明:本文由ZBLOG发布,如需转载请注明出处。

本文链接:https://youzheba.com/s/6529.html

分享给朋友:

相关文章

AMD发超强AI芯片锐龙7040:比苹果快30%、比英特尔快45%

AMD发超强AI芯片锐龙7040:比苹果快30%、比英特尔快45%

北京时间1月6日下午消息(蒋均牧)超威半导体(AMD)首席执行官兼董事长苏姿丰(Lisa Su)在CES 2023的主题演讲中发布了锐龙7040(Ryzen 7040)系列处理器,她声称该处理器比苹果(Apple)快30%、比英特尔(Intel)快45%。锐龙7040处理器带有一个内置的一个人工智能...

浙江移动和华为5G新通话荣获ICT产业龙虎榜最佳5G核心网创新产品奖

浙江移动和华为5G新通话荣获ICT产业龙虎榜最佳5G核心网创新产品奖

近日,在通信世界全媒体举办的2023年ICT行业趋势年会暨“2022年度ICT产业龙虎榜”颁奖盛典上,浙江移动联合华为申报的5G新通话解决方案凭借优秀的用户体验和卓越的创新能力,荣获最佳5G核心网创新产品奖。浙江移动和华为5G新通话荣获ICT产业龙虎榜最佳5G核心网创新产品奖新通话解决方案是在话音基...

戴尔已注销中国多家分支机构

戴尔已注销中国多家分支机构

近日,据消息,戴尔计划到2024年停用中国制造的芯片。天眼查显示,戴尔在国内的关联公司戴尔(中国)有限公司在中国共有20余家分支机构,包括沈阳分公司、西安分公司、南京分公司等,其中戴尔(中国)有限公司杭州办事处、戴尔(中国)有限公司成都分公司等8家已被注销或吊销。据悉,戴尔在去年年底告诉供应商,它的...

5项数字化转型国家标准正式立项

国家标准化管理委员会近日下达2022年第四批推荐性国家标准计划,由全国信息化和工业化融合管理标准化技术委员会(SAC/TC573)归口管理的《数字化转型管理参考架构》《数字化转型管理能力体系建设指南》《数字化供应链体系架构》《数字化供应链成熟度模型》和《数字化供应链通用安全要求》5项国家标准正式获批...

三星预估2022Q4营业利润暴跌 69%,韩钟熙:将在机器人和元宇宙领域寻找新动力

三星预估2022Q4营业利润暴跌 69%,韩钟熙:将在机器人和元宇宙领域寻找新动力

三星电子副董事长兼联合首席执行官韩钟熙表示,三星已经做好未来一年打硬仗的准备,并强调会在机器人和元宇宙等未来科技领域寻求新的增长动力。图源:三星电子在拉斯维加斯召开的 CES 2023大展间隙,三星在上周五举办了一场简短的媒体见面会,韩钟熙在会上表示:“长期的经济衰退、地缘政治紧张、供应链风险和气候...

河南联通楼宇覆盖天线集采:西安摩比和中天宽带入围

1月9日消息(林想)河南联通日前正式公布楼宇覆盖天线集中采购公开招标项目中标候选人,西安摩比和中天宽带两家企业入围。此前公告显示,河南联通此次集采内容包括四端口双极化板状天线3200副;新型楼宇立体覆盖天线2000副;大张角射灯美化天线3100副,项目预算554.05万元(不含税)。该项目2022年...