Supermicro 拓展人工智能解决方案
借助即将上市的 NVIDIA HGX H200 和配备 HBM3e 内存的 MGX Grace Hopper 平台
Supermicro 通过对 NVIDIA HGX H200 和 Grace Hopper 超级芯片的支持,拓展了 8-GPU、人工4-GPU 和 MGX 产品线,解决用于满足 LLM 应用的拓展需求,并搭载了更快、人工更大容量的解决 HBM3e 内存。创新款 Supermicro 液冷 4U 服务器搭载了 NVIDIA HGX 8-GPU,拓展使每个机架的人工计算密度翻倍,高达 80 千瓦/机架,解决并降低了总体拥有成本 (TCO)
加利福尼亚州圣何塞和丹佛市2023年11月14日 /美通社/ -- Supercomputing Conference (SC23) - Supermicro,拓展 Inc.(纳斯达克股票代码:SMCI) 作为人工智能、云技术、人工存储和 5G/边缘整体 IT 解决方案供应商,解决借助对新款内置 H200 Tensor Core GPU 的拓展 NVIDIA HGX H200 提供支持,进一步拓展其人工智能的人工产品线。 作为业界领先的解决人工智能平台,Supermicro 涵盖了 8U 和 4U 通用 GPU 系统,可随时应用 HGX H200 8-GPU 和 4-GPU。与 NVIDIA H100 Tensor Core GPU 相比,其具有近 2 倍的容量和 1.4 倍更高带宽的 HBM3e 内存。另外,Supermicro NVIDIA MGX™ 系统拥有最丰富的产品组合,并兼容即将推出的搭载 HBM3e 内存的 NVIDIA Grace Hopper 超级芯片。凭借其空前的性能、可扩展性和可靠性,Supermicro 的机架规模人工智能解决方案可在满足日益增长的模型尺寸需求的同时,快速提升高强度生成式人工智能、大语言模型 (LLM) 训练以及高性能计算应用的算力。 借助积木式架构,Supermicro 能够快速将新技术推向市场,让客户更快提升生产效率。
Supermicro 4U 8GPU H200
Supermicro 充分借助最新的 Supermicro 液冷解决方案,采用液冷 4U 系统,并基于 NVIDIA HGX H100 8-GPU 系统,推出了业界最高密度的服务器。作为业界最紧凑的高性能 GPU 服务器,其能够帮助数据中心工作人员减降低对占地面积的需求,并节约能源成本,同时提供顶级的单机架高性能人工智能训练能力。利用最高密度的 GPU 系统,组织可通过采用尖端的液冷解决方案降低其总体拥有成本 。
Supermicro 总裁兼行政总裁 Charles Liang 表示:"Supermicro 与 NVIDIA 携手设计了先进的系统,用于人工智能训练和高性能计算应用" 。"借助积木式架构,我们能够在市场上率先推出最新科技,让客户更迅速地部署生成式人工智能。我们能够利用全球化生产设施,更快地向客户交付这些新系统。新系统采用搭载了 NVIDIA® NVLink™ 和 NVSwitch™ 高速 GPU-GPU 互联技术(速度高达 900GB/s)的 NVIDIA H200 GPU,在我们的机架规模人工智能解决方案中,可为每个节点提供高达 1.1TB 的高带宽 HBM3e 内存,以实现 LLM 和生成式人工智能的最佳模型并行性能。同时,对于能提供全球最为紧凑的 NVIDIA HGX 8-GPU 液冷服务器,直接将我们的机架规模人工智能解决方案密度翻倍,并降低能源成本,为当今速度更快的数据中心实现绿色计算,我们深感兴奋。"
深入了解搭载 NVIDIA GPU 的 Supermicro 服务器
Supermicro 设计制造众多不同外形尺寸的人工智能服务器。广受欢迎的 8U 和 4U 通用 GPU 系统搭载了四通道和八通道 NVIDIA HGX H100 GPU,现已支持新款 H200 GPU,可在更短时间内完成更大规模语言模型的训练。每个 NVIDIA H200 GPU 都搭载了 141 GB 内存,带宽高达 4.8 TB/s。
"Supermicro 即将推出的服务器设计采用了 NVIDIA HGX H200,能够帮助加速生成式人工智能和高性能计算的工作负载,让企业和机构能够充分发挥其人工智能架构的能力," NVIDIA 的高性能计算、人工智能和量子运算数据中心产品解决方案总监 Dion Harris 表示,"搭载高速 HBM3e 内存的 NVIDIA H200 GPU 将能够应对各种来自工作负载的海量数据。"
此外,近期推出的 Supermicro MGX 服务器搭载了 NVIDIA GH200 Grace Hopper 超级芯片,专为整合搭载 HBM3e 内存的 NVIDIA H200 GPU 解决方案而设计。
最新的 NVIDIA GPU 使得加速当今和未来的大型语言模型 (LLM) 成为可能,这些模型具有的数千亿的参数使其能够适应更紧凑、高效的集群,从而在更短时间内训练生成式人工智能。此外,其还支持在单个系统中容纳多个更大的模型,用于实时 LLM 推理,从而服务于数百万用户的生成式人工智能。
Supermicro 将在 SC23 上展示其最新产品——配备八通道 NVIDIA HGX H100 及最新的液冷创新技术的 4U 通用 GPU 系统,用于进一步提升密度和能效,进而推动人工智能的演化。搭配 Supermicro 业界领先的 GPU 和 CUP 冷却板、专为绿色计算设计的 CDU(冷量分配单元)和 CDM(冷量分配歧管),其新款液冷 4U 通用 GPU 系统同样可搭载八通道 NVIDIA HGX H200,并且,通过 Supermicro全集成的液冷机架解决方案和我们的 L10、L11 和 L12 验证测试,其能够大幅降低数据中心的体积、削减能源成本并减少部署中的各种阻碍。
如需了解更多信息,敬请莅临 Supermicro 在 SC23 上的展位
-
文章
7
-
浏览
47
-
获赞
35554
热门推荐
-
部委多次喊话防范房地产金融风险 房企融资艰难时刻
摘要:此时发改委再对海外发债进行规范管理,无疑是从两头堵住了房企融资输血的通路。2019年第二季度大量房企的大额度融资将会减少,抢地现象也将退烧,尤其对于融资渠道较少的企业来说压力非常大。正蹊堂新中式布鞋闪耀“驻华使节夫人文化交流嘉年华系列主题活动”
2024年10月30日,驻华使节夫人文化交流嘉年华系列“美好生活·世界共赏”主题活动在北京圆满落下帷幕。本次活动由中国国务外事国宾礼管理中心指导,大使夫人俱乐部、纯正日本制造问鼎奖金最高2800万香港杯:松冈正海执缰“胜出光采”夺冠
四场一级赛奖金便高达9300万港元当日10场赛事总奖金达1亿365万港元)的2019浪琴表香港国际赛事12月8日在沙田马场圆满举行,全日上演四项精彩一级赛,日本赛驹勇夺其中三项大赛冠军,莫雷拉更是时隔耐心讲解网络诈骗风险,捍卫新市民财产安全权
近年来,随着网络技术的发展,诈骗手段快速翻新,迷惑性不断增强,严重侵害公众财产安全与合法权益。为此平安人寿河南分公司客服中心全员协力开展金融消费者权益保护宣传教育,力求帮助更多广大群众提高风险防范意识外交部:春节走向世界是文明交流互鉴的生动体现
新华社北京2月6日电(记者曹嘉玥)外交部发言人汪文斌6日表示,春节走向世界,是中华文明与不同文明交流互鉴、美美与共的生动体现。祝福各国人民分享春节的欢乐,携手迈向更加幸福、美好的明天。“春节是万家团圆两匹赛马在美国洛斯阿拉米托斯赛马场同一场比赛中丧命
大陆赛马网讯 上周末,在美国加利福尼亚州橙县下属的洛斯阿拉米托斯Los Alamitos)赛马场同一场比赛中出现两匹马死亡。其中一匹是伤到左前腿,无奈被实施安乐死。另外一匹是直接摔到在场内,据悉是体内泰康长寿人生,一站式养老财富解决方案
大家总说“人口老龄化”,但似乎很多人并没有真正意识到人口老龄化的到来。就在前段时间,#我国进入长寿时代#登上了热门话题,在第三届中国人口与发展论坛上,中国人口与发展研究中心的专定义时代风潮 北京极光星徽x艺术家李永飞联名艺术展圆满开幕
金秋送爽、丹桂飘香的季节里,北京极光星徽联合艺术家李永飞作品展《紫薇》于今日在北京极光星徽展厅盛大开幕。此次展览由奔驰北京极光星徽主办,精心策划展出知名艺术家李永飞先生其最新力作。展览将从2024年9多次袭击红海商船后,胡塞武装将如何收场?丨军事
2023年12月12日,也门海岸护卫队在红海南部的曼德海峡附近巡逻新华社/图)近日,因也门胡塞武装加大对红海一带往来船只的攻击力度,全球两家最大的航运公司决定暂停进入红海的运输业务,丹麦马士基和德国赫“灵犀体验计划”再次升级!阳光人寿推出灵犀“服务指南” 为客户送上贴心导航
在这个快节奏的时代,客户服务的便捷性和效率性成为了衡量企业服务质量的重要标准。自2022年阳光人寿推出“灵犀体验计划”以来,公司依托数据智能产品充分发展新质生产力,让保险服务变科技助力,让更多客户享受三省服务
“平安科技真是太棒了,办理业务真的是省心、省时又省钱!”刘女士笑着对柜员小王称赞道。近日,刘女士到平安人寿经三路客服门店办理满期金领取业务,到达门店后经查询有笔满期生存金需要儿八城集结,上抖音沉浸探寻宝藏小城烟火人间
自抖音生活服务「发现宝藏小城」活动上线以来,凭借深度挖掘小城美食与文化的优质内容、明星与地方美食达人的多元推荐形式、以及线上线下联动的强大传播效应,引发大众对「宝藏小城」的广泛关注。截至目前,活动话题泉州市区共享电单车开始挂牌上路 还配安全头盔
上牌车辆配备安全头盔■早报记者 傅恒庄丽祥 文/图近年来,共享单车乱停乱放问题已经成为交通治理的一个难点。昨日,细心的市民发现,市区停放的部分共享电单车已经挂上了车牌。记者了解到,为了规范共享单车的管“友好心翼”17周年追光行公益活动举行
用艺术与慈善,2019圣卢西亚CECF国际驭马文化节点亮当地青年赛马梦
大陆赛马网讯 2019圣卢西亚CECF国际驭马文化节艺术品慈善拍卖会,是圣卢西亚皇家赛马会对圣卢西亚社会的一次艺术贡献和博爱体现。此次拍卖会汇集来自圣卢西亚当地多位艺术大师参与,届时将有18件作品进行