深度学习框架素有人工智能操作系统之称,决定了人工智能算法和运用的技能高度,是人工智能芯片等底层硬件的软件入口,近年来被越来越多的业内人士看到,已成为人工智能领域的“必争之地”。

瞄准AI底层架构「一流科技」打造人工智能深度进修框架OneFlow_框架_深度 科技快讯

目前,国际上研发开源深度学习框架的公司不在少数,个中谷歌的TensorFlow和脸书的PyTorch更是在浩瀚竞争对手中杀出重围,实现了一定程度的领先;在海内,百度、华为等公司也在积极布局深度学习框架赛道——上述企业无一例外都拥有雄厚的实力。

而以初创企业的身份做到这件事,目前环球已知仅北京一流科技有限公司(以下简称“一流科技”)一家。

这支由清华大学博士袁进辉带领,核心成员是清华大学、北京大学、中科院等多所高校研究员的创业团队创立于2017年1月,是一家AI根本举动步伐供应商,专注于人工智能根本举动步伐软件的研发事情,立足于通用性深度学习框架的研发和推广利用,力争打造人工智能深度学习框架产品的事实工业标准。

创始人兼CEO袁进辉博士毕业于清华大学打算机系,师从中国科学院院士、人工智能泰斗、清华人工智能研究院院长张钹院士(兼任公司首席科学家)。

公司自成立以来,已经递交人工智能操作系统及云打算干系核心专利申请34项,得到发明专利授权19项,得到注册牌号15项、软件著作权17项,且连续完成了由九合创投、天目创投、快手战投、高瓴创投等海内有名投资机构及公司的近亿元风险投资。

“多年的学习经历,以及在微软亚洲研究院的事情履历,使我在早期就敏锐地察觉到了实现弯道超车的打破点;再加上团队的高实行力,和蔼于总结、实事求是的团队互助思维,各类成分的浸染下,我们才能得以‘创业团队’的身份立足深度学习框架赛道。
”创始人袁进辉见告创业邦。

一流科技创始人袁进辉

创始四大核心技能,办理异构集群分布式扩展寻衅

作为创业团队,一流科技拥有的完备自主知识产权的分布式深度学习框架OneFlow到底有何过人之处?

资料显示,在深度学习出身之初,演习模型的数据量尚小,更多是“单机单卡”模式。
随着深度学习在各行业的广泛运用,演习模型的数据量呈指数级增长,“单机单卡”已不能供应足够的算力,须要将打算分布在更多的机器和芯片上,即“分布式演习”。

而传统的深度学习框架在设计之初,并未考虑到“分布式”的场景,以是在“多机多卡”的场景下,只能大略的把机器和芯片串联起来,在数据传输的过程中算力摧残浪费蹂躏情形严重,随着芯片数量的增加,算力的边际效益不断低落,乃至涌现增加机器和芯片也不能增加算力的情形。

而一流科技在最初就以“分布式”为基因研发了新一代深度学习框架OneFlow,着重办理传统深度学习框架在“多机多卡”的场景下算力摧残浪费蹂躏的问题。

作为天下首个面向大模型大数据打造的人工智能打算框架,也是天下首个专为深度学习打造的异构分布式流式系统,OneFlow针对超大规模演习、分布式、异构等对深度学习框架带来的寻衅提出理解决方案。

OneFlow环绕提升框架性能的目标,采取静态编译和流式系统架构,创始自动数据模型稠浊并行、静态调度、去中央化和全链路异步流式实行四大关键核心技能,办理了动态网络下的静态存储分配机制、多流并行处理掌握技能、大数据大模型的自动分割并行技能、操作符异步机制、流控背压与内存共享机制、数据搬运为一等公民等一系列创新性难题。

例如在基于Transformer的超大规模预演习模型研究中,如利用传统深度学习框架则须要数月的韶光去调试才能使其适配自身需求,且可能涌现性能不知足需求的情形。
在选用 OneFlow的大规模预演习模型库LiBai后,该研究的模型上手、算法迭代开拓的周期被大幅缩减,仅需1-2周就能利用LiBai在超大规模集群上完成一个超过 130亿规模参数的模型的开拓和调试。

事实上,OneFlow不仅能够大幅提升单机硬件资源利用率,而且能够大略方便地实现基于异构集群演习任务的大规模分布式扩展,将系统整体性能提升到极致。
2020年信通院的测试证明显示,OneFlow性能超越国外主流框架,高效性上风明显。

“与谷歌的TensorFlow和脸书的PyTorch比较,后来者从完备性、易用性等角度切入市场已经不具备任何上风。
因此团队瞄准技能顶点,从高效性的角度切入赛道,直接从根源上办理技能难题,这也是OneFlow得以与国外垄断企业相反抗的关键。
”袁进辉坦言。

坚持开源的运营模式,打造更多的商业化产品

作为人工智能领域的“操作系统”,OneFlow本身并没有运用的局限性。
在运营上,OneFlow深度学习框架在研发之初就确认了开源的运营模式。

目前,已经有开拓者及企业采取OneFlow开拓的运用包括但不限于图像识别检测、语音识别、自然措辞处理、广告分发与推举等。

同时,基于OneFlow框架和核心技能、集成大数据、云打算等组件,一流科技除了深度学习框架OneFlow,还对外供应了商业化产品OF智能云,个中包括MLOps人工智能开拓平台OneBrain、强化学习办理方案OneAgent及AI实训及编程平台OneLab。

由于OneFlow新一代深度学习框架旨在支持超大数据量、超大打算和超大模型的特点突出,以是其市场定位是面向全体AI行业的深度学习框架市场,尤其是具有大模型、大打算和大数据需求的AI开拓者和利用者,以及对付完备自主可控AI家当链关注的企奇迹单位部门。

目前,已有科研、政务、军工、金融等诸多行业客户与一流科技建立互助关系。
这些机构和用户均已经培植了大数据平台,经历了信息化向大数据化的转化,同时已步入数据化向人工智能化的进程:一方面他们积累了数以PB级别的数据,另一方面他们对付性能、易用性、安全可靠性等也有诸多考量。

“后续我们将开拓更多的商业化产品,进一步盘踞市场。
另一方面,作为人工智能运用开拓的架构层根本核心软件,OneFlow将持续利用开源的办法来运营——这意味着越多人用OneFlow,越能完善OneFlow;而产品的完善又可以帮助OneFlow吸引更多的用户,从而形成良性循环,终极发展壮大。
”袁进辉表示。

从商业模式上看,OneFlow开源后,在开拓者社区、头部互联网公司、头部AI公司产生了较大影响,随着利用OneFlow的开拓者群体逐渐扩大,公司由供应环绕大规模深度学习演习的私有化办理方案,以及供应模型演习支持、运维支持与硬件适配等项目制收费商业模式逐步拓展至订阅制、公有云做事模式,并考虑在得当的机遇向软硬一体化产品延伸并进入国际市场。

图片来源:一流科技、图虫网