借助即将上市的 NVIDIA HGX H200 和配备 HBM3e 内存的 MGX Grace Hopper 平台
Supermicro 通过对 NVIDIA HGX H200 和 Grace Hopper 超级芯片的支持,拓展了 8-GPU、人工4-GPU 和 MGX 产品线,解决用于满足 LLM 应用的拓展需求,并搭载了更快、人工更大容量的解决 HBM3e 内存。创新款 Supermicro 液冷 4U 服务器搭载了 NVIDIA HGX 8-GPU,拓展使每个机架的人工计算密度翻倍,高达 80 千瓦/机架,解决并降低了总体拥有成本 (TCO)
加利福尼亚州圣何塞和丹佛市2023年11月14日 /美通社/ -- Supercomputing Conference (SC23) - Supermicro,拓展 Inc.(纳斯达克股票代码:SMCI) 作为人工智能、云技术、人工存储和 5G/边缘整体 IT 解决方案供应商,解决借助对新款内置 H200 Tensor Core GPU 的拓展 NVIDIA HGX H200 提供支持,进一步拓展其人工智能的人工产品线。 作为业界领先的解决人工智能平台,Supermicro 涵盖了 8U 和 4U 通用 GPU 系统,可随时应用 HGX H200 8-GPU 和 4-GPU。与 NVIDIA H100 Tensor Core GPU 相比,其具有近 2 倍的容量和 1.4 倍更高带宽的 HBM3e 内存。另外,Supermicro NVIDIA MGX™ 系统拥有最丰富的产品组合,并兼容即将推出的搭载 HBM3e 内存的 NVIDIA Grace Hopper 超级芯片。凭借其空前的性能、可扩展性和可靠性,Supermicro 的机架规模人工智能解决方案可在满足日益增长的模型尺寸需求的同时,快速提升高强度生成式人工智能、大语言模型 (LLM) 训练以及高性能计算应用的算力。 借助积木式架构,Supermicro 能够快速将新技术推向市场,让客户更快提升生产效率。
Supermicro 充分借助最新的 Supermicro 液冷解决方案,采用液冷 4U 系统,并基于 NVIDIA HGX H100 8-GPU 系统,推出了业界最高密度的服务器。作为业界最紧凑的高性能 GPU 服务器,其能够帮助数据中心工作人员减降低对占地面积的需求,并节约能源成本,同时提供顶级的单机架高性能人工智能训练能力。利用最高密度的 GPU 系统,组织可通过采用尖端的液冷解决方案降低其总体拥有成本 。
Supermicro 总裁兼行政总裁 Charles Liang 表示:"Supermicro 与 NVIDIA 携手设计了先进的系统,用于人工智能训练和高性能计算应用" 。"借助积木式架构,我们能够在市场上率先推出最新科技,让客户更迅速地部署生成式人工智能。我们能够利用全球化生产设施,更快地向客户交付这些新系统。新系统采用搭载了 NVIDIA® NVLink™ 和 NVSwitch™ 高速 GPU-GPU 互联技术(速度高达 900GB/s)的 NVIDIA H200 GPU,在我们的机架规模人工智能解决方案中,可为每个节点提供高达 1.1TB 的高带宽 HBM3e 内存,以实现 LLM 和生成式人工智能的最佳模型并行性能。同时,对于能提供全球最为紧凑的 NVIDIA HGX 8-GPU 液冷服务器,直接将我们的机架规模人工智能解决方案密度翻倍,并降低能源成本,为当今速度更快的数据中心实现绿色计算,我们深感兴奋。"
深入了解搭载 NVIDIA GPU 的 Supermicro 服务器
Supermicro 设计制造众多不同外形尺寸的人工智能服务器。广受欢迎的 8U 和 4U 通用 GPU 系统搭载了四通道和八通道 NVIDIA HGX H100 GPU,现已支持新款 H200 GPU,可在更短时间内完成更大规模语言模型的训练。每个 NVIDIA H200 GPU 都搭载了 141 GB 内存,带宽高达 4.8 TB/s。
"Supermicro 即将推出的服务器设计采用了 NVIDIA HGX H200,能够帮助加速生成式人工智能和高性能计算的工作负载,让企业和机构能够充分发挥其人工智能架构的能力," NVIDIA 的高性能计算、人工智能和量子运算数据中心产品解决方案总监 Dion Harris 表示,"搭载高速 HBM3e 内存的 NVIDIA H200 GPU 将能够应对各种来自工作负载的海量数据。"
此外,近期推出的 Supermicro MGX 服务器搭载了 NVIDIA GH200 Grace Hopper 超级芯片,专为整合搭载 HBM3e 内存的 NVIDIA H200 GPU 解决方案而设计。
最新的 NVIDIA GPU 使得加速当今和未来的大型语言模型 (LLM) 成为可能,这些模型具有的数千亿的参数使其能够适应更紧凑、高效的集群,从而在更短时间内训练生成式人工智能。此外,其还支持在单个系统中容纳多个更大的模型,用于实时 LLM 推理,从而服务于数百万用户的生成式人工智能。
Supermicro 将在 SC23 上展示其最新产品——配备八通道 NVIDIA HGX H100 及最新的液冷创新技术的 4U 通用 GPU 系统,用于进一步提升密度和能效,进而推动人工智能的演化。搭配 Supermicro 业界领先的 GPU 和 CUP 冷却板、专为绿色计算设计的 CDU(冷量分配单元)和 CDM(冷量分配歧管),其新款液冷 4U 通用 GPU 系统同样可搭载八通道 NVIDIA HGX H200,并且,通过 Supermicro全集成的液冷机架解决方案和我们的 L10、L11 和 L12 验证测试,其能够大幅降低数据中心的体积、削减能源成本并减少部署中的各种阻碍。
如需了解更多信息,敬请莅临 Supermicro 在 SC23 上的展位
文章
935
浏览
3
获赞
85157
行走在山野间的“最美巡护员”
“机不离手,心随网行”,这是信息时代普通人的日常写照。然而对于荥经县人大代表宋心强来说,“网络不在线”却是他的常态,常年游走于山野之中的他,是别人眼中的“失联人员”。2017年,看似瘦弱的宋心强走进了2024国外艺术类大学排名
今天,美行思远小编为大家准备了国外艺术类大学排名,准备申请国外艺术留学的同学可以把这个排名作为参考,希望能帮助到大家。国外艺术类大学排名top5:1、皇家艺术学院Royal College of Ar平衡PVE、PVP比重 《三国演义》将推出400人大型战场
大型3D网游《三国演义》继推出全服攻城战玩法后,计划推出为辅助攻城战、提升玩家实力为目的,全新设计定制的超大型PVP战场,在让游戏玩家体验《三国演义》原著剧情的同时,体验到多人战场所带来的激烈对抗。这2024美国环境专业大学排名
近几年,人们的环保意识逐渐增强,也更重视环境建设,环境专业也因此成为了美国比较热门的留学专业。那么美国有哪些环境专业的大学呢?美行思远小编对此为大家整理了美国环境专业大学排名,共大家参考。美国环境专业开学新装备 这款学习神器请收好
春节已过,开学在即。孩子们在泪别春节假期过后,也是时候重返校园,迎接新学期了。作为家长,除了替孩子们加油打气外,往往还要准备合适的开学新装备。如何提高孩子的学习兴趣?怎样帮助孩子弯道超车?能否随时随地加拿大留学期间实习,Co
选择加拿大留学的人都会有考虑毕业后在当地找工作、申请移民,能在求学期间有正规的实习工作经验,对于毕业后的就业帮助非常大。所以,一些带有实习的课程,就很有吸引力。加拿大大学或学院的课程中,除了co-op英国的提赛德大学好吗?
提赛德大学是一所拥有美丽校园环境的著名学府,在该国备受赞誉。那提赛德大学在国内的知名度怎么样呢?下面小编带大家全面了解了解。“提赛德大学文凭国内承认吗”确实是许多人们都很想了解的话题。提赛德大学是中国2024美国游戏设计学校排名
近几年,游戏产业的发展十分迅速,更是突显了游戏行业的市场潜力与发展前景,游戏设计专业也因此成为了美国艺术留学中十分受欢迎的专业。今天,美行思远小编就来给大家介绍一下美国的游戏设计学校排名情况,供大家参虽然并不富有 却乐于帮助人
秦光辉左)带着生活物品看望困境家庭出钱为偏远山村学校建阅览室、向因故陷入困境的家庭提供帮助、资助困境家庭学生、为敬老院老人按摩……秦光辉虽然不是芦山人,但长期在芦山打拼,将芦山视为第二故乡,一直用自己芬兰的赫尔辛基大学相当于国内什么大学?
一些同学想选赫尔辛基大学留学,毕业后回国发展。想了解赫尔辛基大学国内认可度高吗?这个问题我们会从赫尔辛基大学本身的优势以及和国内找工作的关联性做详细介绍。首先“赫尔辛基大学的文凭在国内承不承认”一定是《兵王》8月10日将开启双线新区【光荣使命】
2012国战之王《兵王》将在8月10日开启双线新区【光荣使命】,此次新区声望军衔系统焕然一新,不仅军衔分星级晋升更快速,授勋获赠的礼物也更合理。绝对精彩,绝对超值,你准备好了吗?骑宠战斗更多军衔细分,英雄、技能与战争《传奇》12年军戎岁月
12年!我是传奇!《传奇》12周年庆典火热开启!还有比时间更暖昧的吗?翻看这12年的《传奇》技能历史,翻看这12年的人类战争历史如伊战),看到的是一场场以技能战术勾勒的战争艺术,即便偶有英雄末路红名萨全省首批!四川省“天府妹子”巾帼家政技能人才孵化基地落地雅安
2月17日,四川省巾帼家政发展促进会成立大会在成都召开,省妇联党组书记、主席杨娟向省巾帼家政发展促进会授牌。会议线上线下同步举行,在各市州)设立分会场。成立大会上,促进会命名了首批6个四川省“天府妹子澳门科技博士学费及奖学金解析
随着全球高等教育的发展,越来越多的学生选择攻读博士学位,以提升自己的学术水平和专业能力。澳门作为中国的一个特别行政区,拥有多所优秀的大学,澳门科技大学就是其中之一。本文将重点介绍澳门科技博士学费及奖学多伦多大学是名校吗?
提起当地的多伦多大学,绝对是大多数留学生所向往的院校,那么多伦多大学相当于国内什么大学呢?下面我们就详细介绍一下我们梦寐以求的多伦多大学。当然“多伦多大学的文凭被大陆承认嘛”一定是很多人很关切的疑问。