一半功耗六倍算力提升:墨芯联手浪潮开拓稀疏化计算生态_稀少_生态
机器之心编辑部
6 月 13 日,墨芯人工智能与浪潮签订元脑计策互助协议。这是在浪潮计策投资墨芯之后,双方的进一步计策互助。
墨芯将携手浪潮信息,以领先的稀疏化打算技能和产品,广阔的生态潜能,领悟资源与算法,共创全栈 AI 办理方案,为各行各业 AI 运用供应强大算力引擎和生态支撑,为企业降本增效,并加速家当的人工智能化进程。
***加载中...
AI 打算的新锐势力——稀疏化打算
墨芯人工智能科技创立于 2018 年,总部位于深圳,致力于通过稀疏化算法构建高性能低 TCO(总拥有本钱)的 AI 算力,其产品紧张是用于云端和终真个 AI 加速器方案,可广泛运用于互联网、运营商、生物医药等数据中央 AI 推理场景,并积极致力于稀疏化生态培植。今年 1 月,墨芯刚刚完成数亿元 A 轮融资。
在 AI 时期算力需求呈指数级剧增、传统摩尔定律面临失落效的背景下,稀疏化打算是打破 AI 芯片算力瓶颈的创新方向之一。当前,谷歌、OpenAI、Meta 等 AI 巨子纷纭布局稀疏化打算。墨芯人工智能作为专注于稀疏化技能的先入局者,已经建立起环球领先的稀疏化核心技能以及家当化上风。
在机器学习领域中,稀疏化是一种高效的数据处理和模型压缩办法。它从人类大脑得到灵感,让神经网络在打算时仅启用所需神经元。稀疏化打算的技能事理是指在原有AI打算的大量矩阵运算中,将含有零元素或无效元素剔除,以加快打算速率。它在须要海量数据处理的 AI 加速打算中上风尤为突出,能让算力超越极限,让企业得以完成繁芜的 AI 任务,同时能为企业显著降落能耗和本钱。
为领先 AI 生态赋能
浪潮信息是 AI 做事器的领导厂商,「浪潮元脑」是为应对家当 AI 化的寻衅、加速家当 AI 化的发展进程,与互助伙伴共同构建的 AI 生态体系,其成立于 2019 年,包含人工智能根本举动步伐、深度学习框架与工具等产品,为人工智能供应生态支撑。
本次互助是墨芯所代表的新一代 AI 打算技能,与浪潮代表的 AI 前辈生态的强势联合,有望打造面向未来的「高算力+强生态」的家当新实践。
元脑生态的生态伙伴分为两类:左手伙伴即技能型伙伴,右手伙伴即计策型伙伴、能力型伙伴,分别代表前辈优化的 AI 开拓能力,和实际可操作的精良 AI 落地支配能力。墨芯作为左手伙伴加入元脑生态,将有力增强元脑的 AI 算力底座,为右手伙伴推动更多创新 AI 运用处景的实现,为 AI 生态的发展带来更多元的机会。
浪潮元脑卖力人张强表示:如果说「元脑生态 1.0」是为人工智能而生,「元脑生态 2.0」便是为了智算而生,为千行百业而生。我们会特殊看重左手伙伴的技能支撑实力,稀疏化打算产品以其高算力、高精度、低功耗、低 TCO(Total Cost of Ownership)的上风让我们面前一亮。他还表示,迄今为止,我们看到墨芯 SparseOne™️ S100 打算卡在浪潮内部测试中表现突出,让我们对稀疏化打算推动商业赋能的技能实力深具信心,并充满期待。
家当化提速
稀疏化打算开释积极生态力量
墨芯一贯在积极推进基于稀疏化算法及架构的 AI 芯片及打算卡的家当化进程。2021 年 12 月 31 日,墨芯首颗芯片 Antoum®️ 顺利回片,第一次上电即点亮,仅用 24 小时就跑通主流 AI 模型 ResNet50。
墨芯人工智能 SparseOne️ S100 打算卡基于 Antoum®️ 芯片,专注为数据中央 AI 推理运用。实测数据显示,S100 打算卡的性能领先行业,如 ResNet50 打算速率高达 33197 FPS,BERT 打算速率达到 7832 SPS——与国际头部厂商同类产品比较,S100 打算卡在知足精度哀求的同时,仅以一半的功耗,便可带来 6 倍算力提升。
墨芯表示,S100 可广泛运用于互联网、运营商、生物医药等浩瀚 AI 推理场景。
墨芯 SparseRT™️ 软件开拓环境为快速开拓供应了完全的可扩展平台并激活稀疏打算的潜力。SparseRT™️ 可以高效支持通用的 AI 编程框架,如 TensorFlow、PyTorch、ONNX 和 MXNet 等。用户可以在熟习的 TensorFlow 或 PyTorch 环境里进行开拓之后再进行迁移与交付。
据先容,在未来互助中墨芯人工智能将针对大模型、聪慧医疗等的办理方案上架元脑生态平台 AIStore,并联合浪潮,探索稀疏化打算赋能各行各业的更多可能,助力浪潮元脑 AI 集成、支配和做事能力,帮助用户完成业务智能转型升级,携手步入智算生态新时期。
墨芯人工智能创始人兼 CEO 王维表示,稀疏化打算产品可以供应空想的 AI 算力,它知足人类 AI 前沿技能的打算需求,高效而又环保地驱动 AI 天下,同时能以极低的迁移本钱,一键式地将稀疏打算功能添加到现有的打算举动步伐中,在算力、本钱和能耗上给 AI 天下带来惊喜。同时,稀疏化蕴含广阔的生态发展潜力,墨芯将构建涵盖软件、硬件、运用的 AI 打算平台,与研究职员、开拓者、软件开拓商等互助伙伴一起,为各行各业用户供应高性能 AI 打算做事,共同构筑场景丰富、活气勃勃的稀疏化生态。
本文系作者个人观点,不代表本站立场,转载请注明出处!