高交会焦点:墨芯人工智能软硬件协同解决方案,赋能未来大模型算力
2023-11-17
墨芯人工智能展台
墨芯的前沿技术,也吸引了各界领导、嘉宾的关注和重视。11月17日,深圳市投资控股有限公司(简称“深投控”)副总经理杜秀峰亲临参观了墨芯展台,并对稀疏计算以及相关产品做了深入了解。
深投控副总经理杜秀峰莅临参观墨芯展台
墨芯本次展出的是其成熟核心产品——Antoum®️芯片以及高稀疏倍率AI计算卡S4、S10、S30。Antoum®️芯片作为业界领先的AI芯片产品,支持高达32倍的稀疏率,专为数据中心AI推理应用设计。在去年的高交会上,Antoum®️芯片就已获评为优秀创新产品奖。而今年,三款搭载Antoum®️芯片的计算卡S4, S10、S30,全面展示了墨芯稀疏计算完整的产品体系。这些产品不仅在算力、能效比与成本等方面实现了数量级的优化,更是针对互联网、运营商、生命科学等多个行业提供了高算力、低功耗、高精度、高性价比的AI算力服务。
值得一提的是,墨芯的产品也在持续刷新业界算力记录。在今年9月举行的最新一届MLPerf Inference 3.1评测中,MLPerf首都引入GPT大模型推理测试,吸引了前所未有的关注。这次评测收到了来自全球知名企业如英伟达、英特尔、谷歌、高通等的13500多项性能提交,竞争激烈程度空前。在这样高标准的竞赛中,墨芯人工智能再次证明了其卓越的技术实力。其S30计算卡在处理拥有60亿参数的大模型GPT-J任务上,无论是单卡、4卡还是8卡配置,均以卓越的性能荣获算力第一,这不仅是墨芯在MLPerf评测中的连续第三次卫冕,更是对其在AI算力领域领导地位的进一步巩固。
此前,在MLPerf Inference 3.0,2.0与2.1的评测中,墨芯已经连续两届获得了第一的成绩。这一连串的成就不仅展示了墨芯在AI算力领域的持续领先,更是其在软硬协同创新方面的实力的体现。通过结合AI模型与计算平台,墨芯成功挖掘出更大的算力潜能,为处理复杂的AI任务提供了强大的支持。
这些成绩再次印证了一个重要的趋势:在大模型时代,以稀疏计算为代表的创新技术,将成为推动算力发展的关键因素。墨芯将继续以其稀疏计算技术为基础,推动AI计算平台和服务的发展,以满足日益增长的大模型应用算力需求。墨芯的技术和产品不仅能够降低基础设施成本,还能显著减少AI计算的能耗,优化AI计算解决方案的总拥有成本(TCO),推动AI在各行业的广泛应用,助力科技改革和创新驱动发展。
随着高交会的持续进行,墨芯期待与更多合作伙伴共同探索AI领域的新前沿。通过不断地技术革新,墨芯致力于推动AIGC等大模型在多行业的应用,为企业和科研机构提供强大的算力支持,加速科技成果的社会化进程,共同迎接智能科技的美好未来。
墨芯人工智能在2023年深圳高交会上的亮相,展示了其技术实力和对未来人工智能领域发展的承诺。随着步入大模型算力时代,墨芯将继续引领行业,为全球AI发展贡献中国智慧和力量。