浪潮信息联合英特尔发布新一代AI服务器,支持8颗Gaudi2加速器
北京2023年7月12日 /美通社/ -- 7月11日,浪潮联合浪潮信息联合英特尔发布面向生成式AI领域创新开发的信息新一代AI服务器NF5698G7。该AI服务器支持8颗OAM高速互联的英特Gaudi2加速器,具备高性能、布新高扩展、支持高能效和开放生态等优点,加速将为AI客户提供强大的浪潮联合大模型训练和推理能力。
浪潮信息NF5698G7
浪潮信息NF5698G7在6U空间支持8颗基于开放加速模组OAM高速互联的Gaudi2 AI加速器,每颗Gaudi2芯片配置96GB HBM高速内存,英特共提供2.1Tbps的布新P2P互联带宽,支持全互联拓扑,支持满足大模型训练张量并行的加速通信需求;搭载2颗第四代至强处理器,支持AMX/DSA等AI加速引擎。浪潮联合Gaudi2是信息英特尔推出的深度学习加速器,以多方位性能与能效比提升,英特为业界提供了高性能、高性价比的AI算力选项,在MLPerf的GPT-3、ResNet-50、Unet3D、BERT等基准测试中,均取得了优异的性能表现。
NF5698G7采用高扩展设计,支持12个PCIe5.0 X16的IO扩展,最大支持4800Gbps节点间互联带宽,满足大模型流水线并行和数据并行的通信需求,可扩展至万卡AI集群。NF5698G7通过精细化分区、智能散热调控、12V & 54V N+N双输入供电等创新设计,实现高功率负载动态匹配和低电源功率损耗,系统功耗降低8%。
NF5698G7基于全球开放计算OCP开放加速器规范 OAM/UBB进行产品设计,支持PyTorch、TensorFlow等主流AI框架和Megatron/DeepSpeed等流行开发工具,为生成式AI提供成熟、高性价比的开放生态产品方案。NF5698G7支持浪潮信息的AI算力资源平台AIStation,通过对计算资源、数据资源、深度学习软件栈资源进行统一管理,有效提升大模型算力平台的使用效率,助力客户加速AI大模型开发与部署。
浪潮信息高级副总裁、AI&HPC产品线总经理刘军表示:"NF5698G7为生成式AI应用提供了极具吸引力的AI算力平台,我们与英特尔紧密协作,优化了NF5698G7在多种生成式AI场景的性能表现,为AI客户提供强大的大模型训练和推理能力,加速AIGC创新步伐、赋力生成式AI产业创新。"
英特尔执行副总裁兼数据中心与人工智能事业部总经理Sandra Rivera表示:"英特尔致力于提供基于至强处理器和 Gaudi 深度学习加速器的业界领先的人工智能解决方案,以及开放、安全且易于编程的软件,降低AI应用门槛,让AI惠及所有人。对寻求高性能和高性价比的客户来说,浪潮信息 NF5698G7 是绝佳选择。我们将继续与浪潮信息合作,在人工智能时代不断创新。"
浪潮信息是全球领先的AI服务器厂商。据IDC数据报告显示,浪潮信息在中国AI服务器市场份额连续六年保持第一。
-
文章
3592
-
浏览
154
-
获赞
1152
热门推荐
-
“空姐和乘客被抛向天花板”!国航最新回应
7月10日,多位网友在社交平台发文称,当天从上海飞往北京的国航CA1524航班在空中经历了2次严重颠簸,有空姐和乘客被抛到了天花板,事件引发关注。今天11日),国航发布情况说明:该航班在飞行过程中突遇骑马踏春 武汉悄然兴起青少年学马热潮
如今,武汉悄然兴起了青少年学习马术的热潮。3月5日下午,记者在武汉ihorse青少年马术俱乐部里看见,一群孩子正从外教手中拿过纸条,进行抽签。5名年龄在10岁左右的小选手,在这里进行一场马术比赛。据i天津再加强危险废物管理 废铅酸蓄电池纳入监管
为扎实推进危险废物管理,有效防范环境风险,在2015年天津市危险废物及废弃危险化学品环境监管大检查大排查大整改基础上,日前,全市各区县环保部门进一步加强危险废物监管工作。新环保法实施这一年多:2658起监测数据造假案
排水口“吐”着脏水,烟囱冒着黑烟,在线监测设备却显示达标排放。监测软件“动手脚”、空气样本作弊、人为设定污染上限……环境数据“创新驱动焕兴未来”万事兴2022湖南核心经销商恳谈会圆满召开
【建材网】7月26日,以“创新驱动焕兴未来”为主题的万事兴湖南核心经销商恳谈会在株洲圆满召开。本次会议聚集了来自湖南各地的经销商,大家齐聚一堂,共同分享、学习、探索、蜕变!经销"构网型技术与新型电力系统"技术论坛在南瑞集团召开
南京2024年12月9日 /美通社/ --12月7日,"紫金论电"专题论坛——"构网型技术与新型电力系统"技术论坛在南瑞集团国网电科院)召开。本次论坛由国网电力河北东兴“百万金锤”一骑绝尘摘得武汉“乐在马城”首冠
2月25日,武汉速度赛马公开赛“乐在马城”主题赛马日在东方马城国际赛马场进行。5场比赛吸引了国内59匹优秀的赛驹前参赛。在首场比赛中,河北东兴赛驹“百万金锤”一路领先最终夺冠。本场比赛是1000米途程一年“揪出”2000多起 钢牙“咬”出环保监测数据造假
排水口“吐”着脏水,烟囱冒着黑烟,在线监测设备却显示达标排放。监测软件“动手脚”、空气样本作弊、人为设定污染上限……环境数据一字之差,一场变革:一年内超150个国家重点实验室重组更名
虚拟现实技术与系统全国重点实验室是全国首批重组的20个标杆实验室。 实验室官网/图)成立30周年之际,位于武汉的作物遗传改良全国重点实验室再次举行开放日活动,时间从2023年3月25日持续到28日。这玉龙育马场“车票”配种开启:40匹冠军子嗣吸金超6200万
他是两项国际二级赛冠军得主、著名种公马“利得精选”子嗣、职业生涯奖金超300万、配种后40匹冠军子嗣赢取奖金超6200万!他就是“车票”,在国外明码标价5万元配种费,作为玉龙的顶级宝驹,“车票”国内配2017年上海环球马术冠军赛竞赛日程
2017年上海环球马术冠军赛将于4月28日至30日在上海市中华艺术宫外区域马术场地举行。竞赛日程新环保法实施这一年多:2658起监测数据造假案
排水口“吐”着脏水,烟囱冒着黑烟,在线监测设备却显示达标排放。监测软件“动手脚”、空气样本作弊、人为设定污染上限……环境数据科创地图之深圳:企业主导科创发展的城市到底有多强?
2022年,深圳全口径工业增加值工业GDP)达1.13万亿,首次超过上海的1.08万亿,成为中国城市工业增加值和规模以上工业总产值的双榜首,成为名副其实的“工业第一城”。从小渔村、“三来一补”低端制造16家企业领环保罚单 柳州首单“按日计罚”达280万
广西壮族自治区柳州市首张“按日计罚”环保罚单开出,涉罚金额280万元。柳州市环保局4月13日通报今年第一季度环境监管执法“成绩单”,全市16家企业领到2喜羊羊新作五连发,重磅亮相全球授权展中国站
日前,全球授权展·中国站(LEC)在上海虹桥国家会展中心正式开幕!全球授权展作为全球授权业的顶尖展会,现场汇集了海内外425个知名授权品牌。此次中国国民动画IP《喜羊羊与灰太狼》带全新国