国际最新AI基准测试SPEC ML首提模算效率,填补大模型计算效率评测空白
北京2025年1月8日 /美通社/ -- 日前,国际国际标准性能评估组织SPEC公布了AI基准测试SPEC ML最新进展,最新该基准已完成面向不同AI负载下的基准软硬件系统的性能、扩展性和模算效率三大关键指标构建。测试测空其中模算效率首次纳入SPEC ML基准评测,首提算效将填补大模型计算效率评测基准领域的模算研究空白。
随着人工智能更加广泛的应用,为AI/ML建立强大的填补基准测试比以往任何时候都更加重要。SPEC ML基准委员会主席Arthur Kang表示,大模统一的率评基准评测方法不仅有助于简化模型比较,还将为注重效率、国际准确性和可持续性的最新创新铺平道路。目前AMD、基准英特尔、测试测空NVIDIA、首提算效浪潮信息、NetApp和Red Hat等科技企业正在共同参与开发 SPEC ML基准测试,SPEC呼吁更多伙伴参与到项目中,通过产业上下游的合作,为大模型的开发应用树立新的性能评估标杆,为AI技术的高效、绿色、可持续发展注入新动力,共创更加繁荣与可持续的AI新时代。
近年来,随着预训练模型的快速发展,人工智能领域迎来了显著的技术进步。这些模型通过大规模数据集的预训练,并结合微调技术来适应不同任务,在自然语言处理和计算机视觉等多个领域取得了显著成效。然而,随着模型结构和参数量的日益复杂,其在不同软件框架和硬件平台上的表现存在差异,如何全面、公正地比较模型、算力系统的综合性能变得愈加困难。为了在不增加大规模计算资源投入的情况下提升模型的准确性和效率,建立统一的基准测试体系已成为AI领域的迫切需求,这不仅可以帮助开发者选择最适合的技术方案,还能为优化计算资源利用、降低碳排放提供科学的参考依据。
但当前业界在模型、框架和硬件协同效能评估方面存在显著空白,缺乏统一的评估基准,评估过程难以量化,导致开发者难以做出最优的技术选择。尤其是在大型模型的训练和推理过程中,计算资源和能源的消耗成为行业面临的重要挑战。如何在满足性能需求的同时优化计算资源的利用,降低能源消耗,是当前研究和应用的关键所在。为此,SPEC ML首次提出将模算效率纳入基准评测,模型本身精度越高、在对应软件上对硬件性能利用率越高、推理及训练所需算力越小,模算效率越高。模算效率的评价对象涵盖了AI大模型、运行框架和硬件算力平台的一整套软硬件系统。
模算效率的首次提出,将增强不同预训练模型、软件框架和硬件系统之间的可比性,促进模型与硬件的协同优化,推动AI计算系统的能效提升和技术创新:
- 提升可比性与公正性:统一的基准测试标准能够提供公平的评估平台,帮助开发者、研究人员和企业通过可量化的指标对不同模型、框架和硬件平台进行公正比较。
- 促进模型与硬件的协同优化:通过标准化的基准测试,不仅能提高模型的效能,还能指导硬件平台与软件框架的协同发展。通过合理配置计算资源,可以在保证高效性和准确性的前提下,减少不必要的计算开销,从而降低成本和碳排放。
- 推动绿色发展与可持续性:随着模型规模和计算需求的增长,能源消耗和碳排放问题日益严峻。标准化的基准测试能够帮助行业识别效率低下的环节,促进绿色计算技术的发展,推动AI技术朝着更可持续的方向发展。
- 激发创新与优化:明确的评估标准为开发者提供了方向,能够帮助开发者识别现有技术的瓶颈,进一步推动技术突破和创新。通过标准化的测试,软硬件的开发中可以更加专注于如何提升模型的效能和计算效率,而不是陷入复杂且不一致的评估过程中。
-
文章
2856
-
浏览
43646
-
获赞
3
热门推荐
-
国家矿山安全监察局:已对山西、辽宁瞒报事故查处进行挂牌督办
为打击和严厉惩处矿山瞒报谎报事故行为,近日,国家矿山安全监察局紧急召开党组会和党组扩大)会议,部署针对矿山瞒报谎报事故和以病亡为幌子的事故开展大整治、大起底,以“零容忍”态度从严从重查处瞒报谎报事故。如何跨越保险新周期?众险企走出“数字化+医养”双路径
摘要:我国商业保险在多层次保障体系中的更大价值有待发掘,打造“中国式医疗健康服务生态”势在必行。商业医疗险要持续做好“三个衔接”:第一,匹配国家医保,做“多层次保障与医疗健康服务”;第二,配合主体医院第六届应用生物技术国际会议落幕,天津科技大学等共同主办
天津2023年7月17日 /美通社/ --7月14—15日,由中国生物工程学会、天津科技大学、天津凯博思科技有限公司共同主办、蒲公英Ouryao承办的第六届应用生物技术国际会议在天津召开。来自中国、澳湖北发现“直立人”头骨化石 欧亚最完整
左图:“郧县人”3号头骨化石。/受访者供图;右图:考古团队在湖北十堰学堂梁子遗址发掘现场。国家文物局副局长关强在28日举行的“考古中国”重大项目发布会上应急管理部:今年重特大事故有所反弹,长峰医院火灾严重冲击安全底线
2023年6月8日上午,国务院新闻办公室举行“权威部门话开局”系列主题新闻发布会。南方周末记者李桂 图2018年到2022年,全国生产安全事故总量和死亡人数分别下降80.8%、51.4%,自然灾害死亡希尔顿集团深圳五家酒店亮相2023粤港澳大湾区婚博会
深圳2023年7月18日 /美通社/ -- 希尔顿集团深圳区域五家酒店 -- 深圳蛇口希尔顿南海酒店、深圳国际会展中心希尔顿酒店、深圳大中华希尔顿酒店、深圳机场希尔顿逸林酒店与深圳龙华希尔顿逸林酒店将如何跨越保险新周期?众险企走出“数字化+医养”双路径
摘要:我国商业保险在多层次保障体系中的更大价值有待发掘,打造“中国式医疗健康服务生态”势在必行。商业医疗险要持续做好“三个衔接”:第一,匹配国家医保,做“多层次保障与医疗健康服务”;第二,配合主体医院全过程人民民主最生动实践:全国县乡两级人大换届选举完成
图:去年12月,江苏无锡市举行县乡两级人大代表换届选举投票。据新华社报道:根据宪法和法律规定,全国县乡两级人大换届选举从2021年上半年起陆续展开,至今年6月底全面完成。31个省、自治区、直辖市直接选近1500万浏览量! WAZZOR瓦瑟系统门窗霸占流量C位
【建材网】2022中国建博会广州)已于7月11日落下帷幕,WAZZOR瓦瑟系统门窗以“W•视界—别让视界束缚你的世界”为主题参展,“W&bul你知道分开之后,前任的心态变化吗? -
起初的你,面对前任提出的分手,可能只是以为他说的是气话,不过当年发现他是动真格时,可能已经来不及了。当你彻底醒悟,意识到情感真的在溜走,拼命的拉住他,苦苦的哀求,希望他能够再给你一次机会,就像原来争哈罗德全球首家私人会员俱乐部将于上海启幕
全新俱乐部将开设米其林星厨Gordon Ramsay独家餐厅,并提供世界知名的臻酿佳品上海2023年7月18日 /美通社/ -- 享誉全球的旗舰百货哈罗德Harrods)今日宣布,哈罗德全球首家私人会中国电信国际与中国建筑国际签署战略合作框架协议
香港2023年7月18日 /美通社/ -- 近日,中国电信国际有限公司以下简称"中国电信国际")与中国建筑国际集团有限公司以下简称"中国建筑国际")在香港签署战家有老人,客厅要如何布置才能“窗”造便利?
【建材网】就我国目前的养老形式和格局而言,居家养老仍是老年人主要的选择。给家中父母、老人更多的关怀,可以从一个良好的居住环境开始。给他们一个舒适的环境、一个温馨的家庭、一个安全的空间、一个祥和的氛围,湖北发现“直立人”头骨化石 欧亚最完整
左图:“郧县人”3号头骨化石。/受访者供图;右图:考古团队在湖北十堰学堂梁子遗址发掘现场。国家文物局副局长关强在28日举行的“考古中国”重大项目发布会上2招逆转分手死局,让前任回头主动找你挽回! -
分手后做好这两点,让前任主动找你复合!我今年25岁,正在读研,男朋友和我是一个学校不同专业的学生。我和男友是在大学新生军训时认识的,到大二才确定关系。谈恋爱那会,同时还有好几个男生追我,一开始我不是很