引领稀疏化计算,墨芯入选机器之心年度AI技术趋势报告
2022-04-29
2022年4月27日,墨芯作为稀疏化计算领导企业,凭借领先研发优势,以及产业化取得的积极进展,入选机器之心《2021-2022年度AI技术趋势报告》。
新锐创企墨芯和大公司引领稀疏化技术
《2021-2022 年度 AI 技术趋势发展报告》由国内权威人工智能技术媒体机器之心最新发布,系统介绍了人工智能领域下的不同技术分支,并以定性分析的方法讨论了各分支技术当时所处的发展阶段、瓶颈以及未来的发展方向。
报告中,稀疏化算法技术被列为年度AI技术趋势TOP3,报告介绍了行业中多个主流厂商在此领域的探索。墨芯人工智能与英伟达、华为和百度等公司被收录其中,并居于领先地位。
稀疏化是AI计算的未来
稀疏化算法技术现在由大公司及墨芯人工智能等初创公司领导,已成为AI计算发展的一个重要驱动因素。
随着人工智能正成为社会核心生产力,算力、算法和数据成为人工智能时代的三大要素,稀疏化计算在人工智能领域正变得特别重要。
人工智能时代对于算力的需求是空前的。公开资料显示,目前AI计算对算力的需求每3.5个月就翻一番。而与此同时,根据摩尔定律,算力每18个月左右翻一番。换言之,只依靠遵循摩尔定律的传统半导体技术的AI芯片已无法满足AI应用的巨大算力需求。
企业在AI应用场景中,不仅面临增速空前的算力挑战,还需要解决随之而来的高能耗、高成本的问题。墨芯认为,稀疏化计算能够解决这些问题,是AI计算中最可持续、最有潜力的技术方向。
什么是稀疏化
简单来说,稀疏化计算是指在原有AI计算的大量矩阵运算中,将含有零元素或无效元素剔除,以加快计算速度。比如在人脸识别的场景中,传统算法会将图片中的每一个元素输入模型,然后计算结果。而稀疏化计算,会先在图片中找出人脸相关的有效元素,然后输入模型得到结果。
稀疏化算法的优势在于,它能让神经网络模型消减冗余和重复的内容,减少运算压力,提升有效性能,如果能将之商业化落地,则能以可持续而又经济的方式,来应对AI时代所需要的海量计算。
墨芯首创32倍稀疏率张量运算核心
由于市面上的芯片不能很好支持稀疏化算法,墨芯选择自主研发能为之提供底层技术的算力芯片。
墨芯首创高达32倍稀疏率张量运算核心,独创基于双稀疏技术研发的AI计算卡,相较于行业其他产品,墨芯的稀疏化计算卡能提供超高性能、极低TCO(Total Cost of Ownership ,即总拥有成本,是服务器成本和能耗成本的总和)。
基于墨芯首颗芯片ANTOUM®️ 打造的SparseOne™️ S100和SparseMegatron™️ S300计算卡是全球率先支持高达32倍稀疏率的AI计算卡。能效比相较于业界主流产品提高了1个数量级,计算ResNet50标准模型的算力超过90000 FPS。
由于算力极大提升,S100和S300能助力公有云和私有云服务商,将TCO降低10倍以上,将同等运算量的耗电量降至1/10。
墨芯SparseRT软件开发环境可以高效支持通用的AI编程框架,如TensorFlow、PyTorch、ONNX和MXNet等。用户可以在熟悉的TensorFlow或PyTorch环境里进行开发之后再进行迁移与交付。
目前,墨芯的主要客户面向数据中心AI推理应用,在互联网、运营商、安防、生物制药和FinTech等场景下已有了具体的实践。
墨芯秉持科技向善。墨芯认为,稀疏化不仅能帮助企业在向AI转型中降本增效,在更大意义上,还能为实现碳达峰和碳中和的战略目标贡献积极力量。