显著提升万卡GPU训练性能,浪潮信息X400荣获"2024 DPU&AI Networking Awards"!
北京2024年8月21日 /美通社/ -- 2024 DPU & AI Networking创新大会日前在北京圆满落幕,显著U训息大会表彰了在DPU与AI网络技术创新及实践应用中取得卓越成就的提升单位与项目。会上,练性浪潮信息「X400超级AI以太网解决方案」凭借领先的潮信端网协同技术,显著提升了大模型训练效率,荣获荣获"2024 DPU & AI Networking Awards 创新引擎奖"。显著U训息
随着AIGC的发展,大模型的练性参数量越来越大,如何借助 AI 网络将上千台AI 服务器系统互联,潮信充分释放算力资源的荣获全部潜力,加速 AI 大模型训练,显著U训息成为 AIGC 时代的提升新挑战。此次获得"2024 DPU & AI Networking Awards 创新引擎奖"的练性浪潮信息X400 AI Fabric专为AIGC场景打造,能够为用户构建可弹性扩展至524,潮信288个GPU的超大规模AI系统,凭借AR自适应路由、荣获端到端拥塞控制、亚毫秒级故障自愈等技术,性能提升至传统RoCE网络的1.6倍,实现了AI网络的超高吞吐量、高可扩展性和超高可靠性,极大提升大模型训练性能,大幅缩短训练时长并降低训练成本。
■ 端网协同,网络性能提升1.6倍:针对生成式AI场景下GPU之间会突发超高吞吐的通信特点,浪潮信息采用X400 + BF-3 SuperNICs的协同调度方式,通过自适应路由、报文保序、可编程CC等技术,实现交换机和网卡更紧密的配合,为AI大模型提供零丢包、无阻塞的全链路交换网络,机间互联性能高达400G,有效带宽从传统的60%提升到95%,性能提升1.6倍。同时,AI大模型训练的网络优化离不开NCCL通信库支持,X400 AI Fabric和InfiniBand一样,天然地与NCCL无缝衔接,能够为大模型提供顶尖的性能。
■ 灵活拓展、极致稳定,全力加速大模型训练:X400 超级 AI 以太网交换机凭借超高的端口密度以及弹性可拓展的能力,提供高性能、灵活可拓展的网络服务,支持大规模 AI服务器系统。其中,X400 AI Fabric在二层组网下,GPU服务器数量可达1024台,支持8,192张GPU卡,并可灵活拓展到三层组网,GPU服务器规模可达65,536台,最大支持GPU卡的数量可以达到524,288张。随着AI算力系统的规模不断攀升,对可靠性的要求越来越高,浪潮信息X400集成系统级的高可用技术,在硬件上独创IGE智能防护单元,对核心部件器件进行冗余备份,对关键硬件信号进行全面的监控和故障隔离,具有芯片级、系统级以及链路完整的监控,实时掌握AI节点间通信状态,实现对潜在的故障链路进行自动隔离,在上层应用无感的情况下实现故障自愈,全方位保障AI网络的极致稳定,降低大模型训练成本和周期。
■ 敏捷易用,部署周期从数周缩短到天:传统RoCE方案的网络建设中,交换机涉及一系列的拥塞控制配置,不仅配置繁琐,拉长部署周期,而且容易配置错误,导致训练性能下降。为此,X400超级AI以太网解决方案提供RTTCC拥塞控制算法,无需交换机的参与,避免在交换机上进行复杂的参数调优,即插即用,部署周期从数周缩短到天,加速业务上线,彻底解决调参复杂、配置困难等问题。
目前,X400超级AI以太网解决方案已经在互联网等行业实现测试应用。在大规模AI算力系统网络调度过程中,相比传统RoCE网络方案,性能提升1.6倍,带宽利用率超过95%,通信时延降低30%,并且在多租户AI Cloud场景中,NCCL通信性能提升1.5倍,同时,该方案通过其卓越的成本效益,助力客户大幅提高投资回报,实现成本与效益的完美平衡,为智算中心客户带来更快、更好、更省的网络业务体验。
-
文章
3
-
浏览
35
-
获赞
64
热门推荐
-
一图读懂今年访华的跨国公司CEO除了盖茨还有谁?
赖陕西延安一煤矿瓦斯爆炸 已致7人死亡
8月21日22时许,陕西省延安市延川县永坪镇高家屯乡新泰煤矿发生一起瓦斯闪爆事故。造成7人死亡,4人被困井下。当地应急、消防、矿山救援、公安等部门连夜赶赴现场开展救援,各项救援正在进行中。据了解,延川引 领行业发展 守护千万家庭
【建材网】“自我放逐90天”:54岁澳洲渔夫与狗的漂流
潘功胜:亲历“大行蝶变”,擅长风险处置
潘功胜。视觉中国/图)2023年7月1日下午,央行召开领导干部会议。中央组织部有关负责同志宣布了中央决定:潘功胜同志任中国人民银行党委书记,免去郭树清同志的中国人民银行党委书记职务、易纲同志的中国人民回顾丨ZHEPAI浙派的流火八月
【建材网】流火的8月,浙派迎来了蓝影旗舰新品发布会,斩获了多项行业重磅奖项,参展了中国建博会等大型行业展会、新一轮的秋季加盟活动开启,招募美代言人活动蒸蒸日上,全国招商工作也正式进入如火如荼的旺季..外派到非洲工作是一种什么体验?
2023年6月12日,两位工程师在坦桑尼亚姆万扎省布斯韦卢供水项目高位蓄水池旁交流新华社/图)淘金梦常在,“应届生去非洲”正在成为一种选项,吸引越来越多年轻人关注,询问留言越垒越多。去国外打工,原来更品质领跑·感恩有你
【建材网】为感恩回馈赣州市广大工长、泥瓦工朋友一直以来对东鹏辅材的肯定与支持,9月3日,以“品质领跑·感恩有你”为主题的2022东鹏辅材工长感恩答谢盛典在赣州市章央行对财付通、平安银行、邮储银行和人保财险等四家公司开出罚单
拍雪豹的牧民摄影师,在镜头里重新认识家乡
2023年8月4日上映的纪录片电影《雪豹和她的朋友们》里,次丁、达杰、更求曲朋——三位藏族牧民摄影师在片中贡献了许多珍贵的镜头。 巢穴中,雪豹妈妈已经好几天没回家了。有一天,两只小雪豹也突然消失。外面内蒙古审计:挪用义务教育经费2.65亿元,18名公职人员入股银行
在多省市审计报告中,首见义务教育经费出现问题。视觉中国/图)2023年8月8日,内蒙古审计厅发布了《关于2022年度自治区本级预算执行和其他财政收支的审计工作报告》下称“审计报告”)。审计报告写道,自《孤注一掷》,三星半
2018年,由宁浩监制的《我不是药神》一举成为现象级电影,横扫票房30亿,豆瓣评分9.0,大获成功。5年之后,以宁浩为灵魂人物的“坏猴子72变电影计划”推出了《孤注一掷》,以现实主义题材再一次点燃国内圆梦凯旋丨神舟十五号乘组返回全纪实
2023年6月3日21时29分,神舟十五号载人飞船与空间站组合体成功分离。地面搜救人员和媒体提早驻守于东风着陆场,盼望着一场盛大的邂逅。2023年6月4日,神舟十五号乘组乘机平安抵京,“圆梦之旅”顺利“自我放逐90天”:54岁澳洲渔夫与狗的漂流
投教品质子榜:细分领域中,哪家成为标杆?哪家垫底?丨基金投教测评⑤
《投教品质总榜:谁傲居榜首?谁落在榜尾?|基金投教测评④》发布之后,基民、基金管理公司和第三方独立基金销售公司等相关各方高度关注。那么,在各投教细分领域,哪家公司成为标杆?哪家公司垫底?南方周末新金融