Supermicro 拓展人工智能解决方案
借助即将上市的 NVIDIA HGX H200 和配备 HBM3e 内存的 MGX Grace Hopper 平台
Supermicro 通过对 NVIDIA HGX H200 和 Grace Hopper 超级芯片的支持,拓展了 8-GPU、人工4-GPU 和 MGX 产品线,解决用于满足 LLM 应用的拓展需求,并搭载了更快、人工更大容量的解决 HBM3e 内存。创新款 Supermicro 液冷 4U 服务器搭载了 NVIDIA HGX 8-GPU,拓展使每个机架的人工计算密度翻倍,高达 80 千瓦/机架,解决并降低了总体拥有成本 (TCO)
加利福尼亚州圣何塞和丹佛市2023年11月14日 /美通社/ -- Supercomputing Conference (SC23) - Supermicro,拓展 Inc.(纳斯达克股票代码:SMCI) 作为人工智能、云技术、人工存储和 5G/边缘整体 IT 解决方案供应商,解决借助对新款内置 H200 Tensor Core GPU 的拓展 NVIDIA HGX H200 提供支持,进一步拓展其人工智能的人工产品线。 作为业界领先的解决人工智能平台,Supermicro 涵盖了 8U 和 4U 通用 GPU 系统,可随时应用 HGX H200 8-GPU 和 4-GPU。与 NVIDIA H100 Tensor Core GPU 相比,其具有近 2 倍的容量和 1.4 倍更高带宽的 HBM3e 内存。另外,Supermicro NVIDIA MGX™ 系统拥有最丰富的产品组合,并兼容即将推出的搭载 HBM3e 内存的 NVIDIA Grace Hopper 超级芯片。凭借其空前的性能、可扩展性和可靠性,Supermicro 的机架规模人工智能解决方案可在满足日益增长的模型尺寸需求的同时,快速提升高强度生成式人工智能、大语言模型 (LLM) 训练以及高性能计算应用的算力。 借助积木式架构,Supermicro 能够快速将新技术推向市场,让客户更快提升生产效率。
Supermicro 4U 8GPU H200
Supermicro 充分借助最新的 Supermicro 液冷解决方案,采用液冷 4U 系统,并基于 NVIDIA HGX H100 8-GPU 系统,推出了业界最高密度的服务器。作为业界最紧凑的高性能 GPU 服务器,其能够帮助数据中心工作人员减降低对占地面积的需求,并节约能源成本,同时提供顶级的单机架高性能人工智能训练能力。利用最高密度的 GPU 系统,组织可通过采用尖端的液冷解决方案降低其总体拥有成本 。
Supermicro 总裁兼行政总裁 Charles Liang 表示:"Supermicro 与 NVIDIA 携手设计了先进的系统,用于人工智能训练和高性能计算应用" 。"借助积木式架构,我们能够在市场上率先推出最新科技,让客户更迅速地部署生成式人工智能。我们能够利用全球化生产设施,更快地向客户交付这些新系统。新系统采用搭载了 NVIDIA® NVLink™ 和 NVSwitch™ 高速 GPU-GPU 互联技术(速度高达 900GB/s)的 NVIDIA H200 GPU,在我们的机架规模人工智能解决方案中,可为每个节点提供高达 1.1TB 的高带宽 HBM3e 内存,以实现 LLM 和生成式人工智能的最佳模型并行性能。同时,对于能提供全球最为紧凑的 NVIDIA HGX 8-GPU 液冷服务器,直接将我们的机架规模人工智能解决方案密度翻倍,并降低能源成本,为当今速度更快的数据中心实现绿色计算,我们深感兴奋。"
深入了解搭载 NVIDIA GPU 的 Supermicro 服务器
Supermicro 设计制造众多不同外形尺寸的人工智能服务器。广受欢迎的 8U 和 4U 通用 GPU 系统搭载了四通道和八通道 NVIDIA HGX H100 GPU,现已支持新款 H200 GPU,可在更短时间内完成更大规模语言模型的训练。每个 NVIDIA H200 GPU 都搭载了 141 GB 内存,带宽高达 4.8 TB/s。
"Supermicro 即将推出的服务器设计采用了 NVIDIA HGX H200,能够帮助加速生成式人工智能和高性能计算的工作负载,让企业和机构能够充分发挥其人工智能架构的能力," NVIDIA 的高性能计算、人工智能和量子运算数据中心产品解决方案总监 Dion Harris 表示,"搭载高速 HBM3e 内存的 NVIDIA H200 GPU 将能够应对各种来自工作负载的海量数据。"
此外,近期推出的 Supermicro MGX 服务器搭载了 NVIDIA GH200 Grace Hopper 超级芯片,专为整合搭载 HBM3e 内存的 NVIDIA H200 GPU 解决方案而设计。
最新的 NVIDIA GPU 使得加速当今和未来的大型语言模型 (LLM) 成为可能,这些模型具有的数千亿的参数使其能够适应更紧凑、高效的集群,从而在更短时间内训练生成式人工智能。此外,其还支持在单个系统中容纳多个更大的模型,用于实时 LLM 推理,从而服务于数百万用户的生成式人工智能。
Supermicro 将在 SC23 上展示其最新产品——配备八通道 NVIDIA HGX H100 及最新的液冷创新技术的 4U 通用 GPU 系统,用于进一步提升密度和能效,进而推动人工智能的演化。搭配 Supermicro 业界领先的 GPU 和 CUP 冷却板、专为绿色计算设计的 CDU(冷量分配单元)和 CDM(冷量分配歧管),其新款液冷 4U 通用 GPU 系统同样可搭载八通道 NVIDIA HGX H200,并且,通过 Supermicro全集成的液冷机架解决方案和我们的 L10、L11 和 L12 验证测试,其能够大幅降低数据中心的体积、削减能源成本并减少部署中的各种阻碍。
如需了解更多信息,敬请莅临 Supermicro 在 SC23 上的展位
-
文章
866
-
浏览
719
-
获赞
988
热门推荐
-
2022中国建博会(广州)回顾
【建材网】7月8日-11日,为期4天的2022中国建博会广州)圆满落下了帷幕。近2000家TOP企业在超35万㎡的展馆绽放着一场百花齐放、百花争鸣的热闹景象,各大参展商携手新品和新技术花式展出,以创新老中医珍藏几辈的腰腿痛秘方
老中医祖辈留下来的治疗各类风湿病,关节炎、脊椎肩周、腰腿痛、四肢麻木-五莲山药酒秘方方,秘方是经得起考验的经验药方,用起来真的是妙不可言,这些药方的配伍您在网上是搜不到的,在药书上也找不出相同的药方,优供给、促消费,第三届华侨城团圆季启幕
深圳2024年11月12日 /美通社/ -- 消费是推动经济增长的持久动力,是培育国内需求市场、畅通国内大循环的重要引擎。2024年是"消费促进年",国务院先后出台《推动大规模设备广东省人大出台法规规范垃圾处理设施选址
垃圾围城、垃圾围村的报道近年来频见诸报端,而民众反对垃圾集中处理设施建在社区附近的新闻也屡见不鲜。如何破解垃圾处理设施选址过程中的“邻避困境”?广东将率先尝试用法治思维和法治方合肥男童坠楼背后:儿童家暴受害者救助之难
视觉中国/图)2023年6月25日,安徽省合肥市长丰县一栋居民楼外发生了惊险一幕,一名男孩站在窗户外侧的空调外机上,窗户里伸出一根朝他挥舞的黑色长杆,男孩紧贴墙壁躲闪,随后从五楼纵身一跳,摔落在地,还固废处理还需“老调重弹” 垃圾分类势在必行
垃圾围城,来势汹汹。这已是经年累月的老话题,但多数人尚觉无关痛痒,甚至没有建立起对垃圾的基本认知,因此有必要“老调重弹”。垃圾围城已经大敌当前,垃圾处理压力前所未有地严峻,要不一路为梦想前行,追梦者联盟
新生代实力派偶像嘉潼,不出意料的在追梦者联盟的首次选拔中顺利通过。才华与美貌并存的嘉潼,是陕西安康人,从小对影视音乐的执着,让嘉潼一直没有放弃过自己的信念,在追梦者联盟的选拔中,嘉潼崭露头角,用实力证浙江桐庐:29个行政村取消保洁员为哪般?
“评了12个‘无保洁员村’,我们村榜上有名。”11月24日,当桐庐旧县街道鸿儒村党总支书记张新宇看到县里最新一批“无保洁员村”名澳磊再聚首厦门石材展,惊艳绽放闪耀新“石”界!
【建材网】7月30日,因疫情原因多次推迟的第二十二届厦门国际石材展览会在万众瞩目中盛大开幕。作为厦门石材展的忠实伙伴,澳磊22年从未缺席。今年,澳磊也不例外地,以崭新面貌亮相厦门石材展。本次石材展,澳浙江省丽水市遂昌县深入推进乡镇垃圾一体化清运
升降,翻转,倾倒,复位……随着垃圾清理工作人员按下按扭,两只绿色垃圾桶自动完成垃圾倾倒入车的工作。日前,浙江省丽水市遂昌大柘镇茶青交易市场门口的封闭式压缩车正式上岗,这聪明理念一变,天广地宽——厕所革命必须认识先行
厕所人人离不了,但大家又都避讳谈厕所、谈如厕,觉得不雅。因此,要抓好厕所这个大“小事”,必须从改变理念开始。近年来的实践证明:厕所革命必须认识先行,“理念一变,天广千山木鱼石 一个美丽的传说
“有一个美丽的传说,精美的石头会唱歌,它能给勇敢者以智慧,也能给勤奋者以收获,只要你懂得它的珍贵呀啊,山高那个路远也能获得。”还记得当年红遍大江南北的中国大陆电视剧《木鱼石四川一地呼吁少洗澡引争论:高温之下,庄稼都缺水干枯了
在高温橙色预警之下,一位成都市民“全副武装”走在街上。 人民视觉/图)“过于频繁洗澡并不对皮肤健康有好处,每月以2-4次最为适宜。”这是2023年5月29日,四川省凉山州会东县自来水公司发布的一个节水“互联网+”、“产业化”能否拯救垃圾分类?
环保部近日发布了《2016年全国大、中城市固体废物污染环境防治年报》,其中提到,去年工业固体废物产生量为19.1亿吨,生活垃圾产生量约为1.8亿吨,后者处置率达97.3%。面对生活垃圾逐年增加的趋势,美团旅行与赤水战略合作 签下千万大单
近日,美团点评旗下一站式旅游平台美团旅行与贵州省遵义市赤水市达成战略合作,双方将在旅游目的地营销、大数据共享及运营、“旅游+”等领域进行深度合作,通过线上、线下多种资源进行合作