北京2024年8月21日 /美通社/ -- 2024 DPU & AI Networking创新大会日前在北京圆满落幕,显著U训息大会表彰了在DPU与AI网络技术创新及实践应用中取得卓越成就的提升单位与项目。会上,练性浪潮信息「X400超级AI以太网解决方案」凭借领先的潮信端网协同技术,显著提升了大模型训练效率,荣获荣获"2024 DPU & AI Networking Awards 创新引擎奖"。显著U训息
随着AIGC的发展,大模型的练性参数量越来越大,如何借助 AI 网络将上千台AI 服务器系统互联,潮信充分释放算力资源的荣获全部潜力,加速 AI 大模型训练,显著U训息成为 AIGC 时代的提升新挑战。此次获得"2024 DPU & AI Networking Awards 创新引擎奖"的练性浪潮信息X400 AI Fabric专为AIGC场景打造,能够为用户构建可弹性扩展至524,潮信288个GPU的超大规模AI系统,凭借AR自适应路由、荣获端到端拥塞控制、亚毫秒级故障自愈等技术,性能提升至传统RoCE网络的1.6倍,实现了AI网络的超高吞吐量、高可扩展性和超高可靠性,极大提升大模型训练性能,大幅缩短训练时长并降低训练成本。
■ 端网协同,网络性能提升1.6倍:针对生成式AI场景下GPU之间会突发超高吞吐的通信特点,浪潮信息采用X400 + BF-3 SuperNICs的协同调度方式,通过自适应路由、报文保序、可编程CC等技术,实现交换机和网卡更紧密的配合,为AI大模型提供零丢包、无阻塞的全链路交换网络,机间互联性能高达400G,有效带宽从传统的60%提升到95%,性能提升1.6倍。同时,AI大模型训练的网络优化离不开NCCL通信库支持,X400 AI Fabric和InfiniBand一样,天然地与NCCL无缝衔接,能够为大模型提供顶尖的性能。
■ 灵活拓展、极致稳定,全力加速大模型训练:X400 超级 AI 以太网交换机凭借超高的端口密度以及弹性可拓展的能力,提供高性能、灵活可拓展的网络服务,支持大规模 AI服务器系统。其中,X400 AI Fabric在二层组网下,GPU服务器数量可达1024台,支持8,192张GPU卡,并可灵活拓展到三层组网,GPU服务器规模可达65,536台,最大支持GPU卡的数量可以达到524,288张。随着AI算力系统的规模不断攀升,对可靠性的要求越来越高,浪潮信息X400集成系统级的高可用技术,在硬件上独创IGE智能防护单元,对核心部件器件进行冗余备份,对关键硬件信号进行全面的监控和故障隔离,具有芯片级、系统级以及链路完整的监控,实时掌握AI节点间通信状态,实现对潜在的故障链路进行自动隔离,在上层应用无感的情况下实现故障自愈,全方位保障AI网络的极致稳定,降低大模型训练成本和周期。
■ 敏捷易用,部署周期从数周缩短到天:传统RoCE方案的网络建设中,交换机涉及一系列的拥塞控制配置,不仅配置繁琐,拉长部署周期,而且容易配置错误,导致训练性能下降。为此,X400超级AI以太网解决方案提供RTTCC拥塞控制算法,无需交换机的参与,避免在交换机上进行复杂的参数调优,即插即用,部署周期从数周缩短到天,加速业务上线,彻底解决调参复杂、配置困难等问题。
目前,X400超级AI以太网解决方案已经在互联网等行业实现测试应用。在大规模AI算力系统网络调度过程中,相比传统RoCE网络方案,性能提升1.6倍,带宽利用率超过95%,通信时延降低30%,并且在多租户AI Cloud场景中,NCCL通信性能提升1.5倍,同时,该方案通过其卓越的成本效益,助力客户大幅提高投资回报,实现成本与效益的完美平衡,为智算中心客户带来更快、更好、更省的网络业务体验。
文章
86
浏览
137
获赞
8873
农民工权益无小事 用心“护薪”显担当
付出的劳动应当得到相应的报酬。农民工遭遇欠薪,检察机关有什么妙招?近段时间以来,雅安市检察机关积极履行检察执法为民的责任,在春节等重大节假日认真开展“清零”百日行动、根治欠薪“利剑”行动,把辛苦了一年信用评级惨不忍睹!育碧明年或将破产 引发玩家热议
据外媒消息,外网媒体That Park Place发文称:在研究了育碧今年10月30日的财报后,他们一致认为育碧极可能将于明年宣告破产。除了此前我们曾报道过的营收过低外,育碧的信用评级也是其倒闭的一大GOG喜加1《小鸡刺客》点击就送 超猛肉鸡拯救女友大作战
由拉脱维亚工作室 OneShark 于 2016 年推出的点击冒险游戏《小鸡刺客:再度上阵》Chicken Assassin: Reloaded)目前正在 GOG 平台上进行限时免费活动,玩家在活动期“金九银十”或难达预期 瓷砖企业何以赢市场
【建材网】一年一度的“金九银十”往往是各个行业促销的良机,但是各种节日促销过后,消费者已经深陷疲劳之中,从各大建材卖场形式看来,今年的“金九银十”并未给发挥社会科学普及基地的功能,促进学生健康快乐地成长
市、县社科联的相关负责人前往石棉县希望小学进行调研。本报讯:近日,市社科联和石棉县社科联的负责人一行前往石棉县希望小学,指导该校“希望文化”社科普及基地的相关事务。一群人通过参观功能教室、拜访师生和查andaseaT安德斯特助力2024FSPL职业联赛总决赛燃力开启!
2024FSPL职业联赛总决赛的号角即将吹响,作为全球电竞家居知名品牌,andaseaT安德斯特电竞椅全程助力,职业级电竞座椅为参赛选手们提供无与伦比的舒适体验与强大助力。安德斯特麒麟Pro,融合现代追破罪孽,重返黎明!法医真人互动影游《重返现场真人版》今日发售
国内首款法医题材真人互动游戏《重返现场:真人版》于今日12月20日)在steam平台上线,游戏售价35元,首周折扣20% ,仅需28元。游戏将还原法医现场,融合多重冒险解谜玩法,给玩家提供沉浸式破案体地板行业开拓农村市场需调整战略方向
【建材网】近年来,伴随城镇化建设脚步的加快,地板市场上渠道下沉俨然成为一大趋势。在一二线城市已经日趋饱和的市场上,越来越多的企业开始将发展目标定位在三四线市场,希望在农村市场分得一杯羹。尽管农村市场存开学新装备 这款学习神器请收好
春节已过,开学在即。孩子们在泪别春节假期过后,也是时候重返校园,迎接新学期了。作为家长,除了替孩子们加油打气外,往往还要准备合适的开学新装备。如何提高孩子的学习兴趣?怎样帮助孩子弯道超车?能否随时随地《超级键盘侠》全新版本上线!新角色“永雏塔菲”+多人竞速模式震撼来袭
《超级键盘侠》迎来了全新版本更新,带来了超人气新角色“永雏塔菲”和备受期待的“同种竞技”模式!为庆祝这次重大更新,游戏将于12月20日冬促开启25%折扣《怪物猎人荒野》更新直播逐句分析!片手不再是人下人
《怪物猎人 荒野》于今日上传了一段预录好的谈话直播,由游戏总监德田优也讲述了在 OBT 后对游戏进行的改动,这些改动都将在正式版上线。正式版清晰度首先是很多人关注的画面,PS5 的画质模式输出解析度为《如龙8外传:夏威夷海盗》细节曝光 豪华支线与娱乐场
SEGA预定于2025年2月21日正式推出动作冒险游戏《如龙8外传:夏威夷海盗》,预计登陆PS5、PS4、Xbox Series X|S、Xbox One及Steam平台。近日,开发团队首次公开了玩家知农事学农耕 弘扬劳动精神
本报讯取土、碾磨、装杯、放种子、盖土、浇水、覆膜……4月12日上午,在天全县新场镇结柳路旁一片绿化地上,少先队队旗飘扬。10多名身着志愿者马甲的小朋友埋头忙碌,经过一个多小时的努力,共育下100粒葵花《潜行者2》1.1版本重大更新高达110GB!开发商回应
《潜行者2:切尔诺贝利之心S.T.A.L.K.E.R. 2: Heart of Chernobyl)》1.1重大更新已于昨日正式上线,解决了超过1800个问题。有玩家注意到,这次更新的文件大小高达恐怖《明日方舟》日版与三丽鸥家族联动活动盛大开启!
Yostar正式宣布旗下人气策略手机游戏《明日方舟》日版)iOS / Android)开启与三丽鸥家族的联动合作活动“虹彩茶会Nanairo's Tea Party)”