微软游戏《光环》中角色——科塔娜(图源网络)

AI走向终端掌上“万能助手”离我们还遥远吗?_终端_高通 云服务

正如统统抱负都须要建立在认知之上,人们对付AI的终极思考和抱负,无论如何也是绕不开现实天下的。

实际上,只管人工智能代表了最前沿科学技能,但它间隔我们并不迢遥,对大部分人来说,日常用到AI的次数,实在远频年夜家想象中多得多。

AI,随处可见

眼下谈及AI,大家会想到以ChatGPT代表的浩瀚天生式AI运用。
它们可以自动天生文本、择要、翻译、对话,也可以用于天生逼真的图像、***和动画,乃至帮忙用户创作音乐,帮助开拓者撰写代码等等。

AI能做的事情远不止这些,只不过ChatGPT的到来,让人们对付AI能做什么有了切实体验。

手机人脸识别

其实在日常生活中,AI运用随处可见,比如在AI视觉方面,小区的门禁系统,手机的人脸解锁,超市的人脸支付等等都用到了AI人脸识别技能。

还有每个人都离不开的智好手机,同样运用了大量的AI技能。
最范例的便是影像场景,手机以远不及相机的光学本色却能拍出媲美专业设备的夜景照片和***,AI在个中起到了决定性的浸染。

以最新的骁龙8Gen2第二代骁龙8旗舰手机为例,高通给第二代骁龙8移动平台注入了刁悍的AI“灵魂”,使得智好手机的拍照体验得到了进一步的提升。
高通在骁龙平台打造了业内首个“认知ISP”,由此还实现了一种叫“实时语义分割”的技能,该技能有点类似PS中的图像分层,可针对图像中的不同区域进行独立优化,大到背景,小到面部细节,都能进行独立优化。

详细来说,大家平时拍照时用到的背景虚化,或者改换风格化背景图案,以及针对人像用到的一些美颜、美肤处理等等,借助实时语义分割实现起来将变得更加轻松。

这是AI在移动影像中的大略用例,但透过这个例子,不难创造本日的智好手机早已和AI深深绑定。
事实上,除了OCR扫描、智能语音助手、图库分类、屏幕识别、面部识别这类比较常见的手机AI运用外,AI还在网络连接、音频、游戏、续航方方方面发挥着重要浸染,比如上网时,合理分配网络,让蜂窝旗子暗记、Wi-Fi更稳定;玩游戏时,智能调用系统资源,让画面更流畅等等。

终端侧算力大涨,AI大模型下沉

和智好手机一样,AI在汽车、XRP、PC、物联网领域同样有着广泛的运用,也正是基于这种“AI+”的形式,从而呈现出了更多创新的运用处景,进一步丰富用户体验。

无论是手机还是汽车,作为独立的终端产品,与AI相结合确实有那么点天作之合的意思。
但必须承认,只管此前业界谈论AI的声量很大,但间隔大模型AI真正落地终端侧,还是有一段间隔的。

不同于云端AI,在终端侧支配AI不是说想做就能轻易实现的,比如算力问题。
和云端可以供应的算力比较,终端侧所能供应的算力就很有限了,像目前比较火的一些大模型,过去就很难在智好手机这样的终端产品上运行。
这就意味着,想要AIGC运用在智好手机上有个很好的体验,实在很不随意马虎,正如在云端天生一张AI图片可能只须要十几秒,但在手机上可能就要几分钟乃至更久,体验可以说是大打折扣。

不过“有难度”并不代表“没可能”。
实在早在今年2月份,高通就已经发布了环球首个运行在Android手机上的Stable Diffusion终端侧演示,Stable Diffusion本身便是一个基于输入的文本天生图片的AI模型,它的参数超过10亿,这样的参数规模过去只能在云端打算集群内运行,现如今也终于可以在终端侧运行了。

很显然,没有强力的算力作为支撑,实现这样的“壮举”险些是不可能的。
而高通之以是可以首个实现,这里不得不说到骁龙移动平台。

以最新的第二代骁龙8移动平台为例,这款芯片的AI打算能力已经是天花板级别的了。

根据环球有名的AI基准测试网站AI-Benchmark排名统计,我们创造在前十位的智好手机中,搭载第二代骁龙8移动平台的机型就霸占了八席,个中就包括第一到第七名。

事实上,第二代骁龙8移动平台能够在AI打算方面大杀四方并不令人感到意外,它搭载最新的高通AI引擎,全新升级了Hexagon处理器,支持更高规格的张量加速器,并且增加硬件加速,从而可以快速高效地运行Transformer网络,这也使得第二代骁龙8在自然措辞处理运用上有着更突出的上风。

除此之外,骁龙移动平台一向具备出色的可拓展性,大部分骁龙移动平台常日都有一个Hexagon处理器,但如果面向的工具对AI打算量需求更高,比如汽车,则会利用两个乃至多个Hexagon处理器来提高算力,这无疑为在更多元的终端设备上支配AI供应了强大的算力支持。

高通AI软件栈,跨终端支配利器

借助第二代骁龙8移动平台,让我们看到了高通在硬件方面的一些上风,其实在推动终端侧AI支配过程中,高通在软件方面所供应的技能,同样起到至关主要的浸染。

此前高通发布了可使AI由单一终端较随意马虎地扩展到其他各种终真个高通AI软件栈(Qualcomm AI Stack),它为OEM厂商和开拓者供应一套完全的AI办理方案,这套方案是集成所有AI框架、开拓者库、操作系统的整合平台,也同时具备了“一次开拓,多终端利用”的特点,大略来说,用户只须要开拓一次模型,就能在不同的高通产品创建、优化和支配其AI运用,充分利用高通AI引擎的性能。

前面我们提到了高通AI Research利用高通AI软件栈实行全栈AI优化,这一全栈优化终极让Stable Diffusion能够在智好手机上运行,在15秒内实行20步推理,天生一张512x512像素的图像。

而在智好手机上运行Stable Diffusion只是开始。
目前,高通已经能够实现在搭载骁龙打算平台的条记本电脑上运行Stable Diffusion,凭借行业领先的高通AI引擎,基于骁龙打算平台的条记本电脑在MLCommons V3.0上率先实现了出色的MLPerf基准测试结果。
在终端侧运行如此大规模AI用例,高通再一次走在了行业前面。

末了:

作为终端侧AI的主要推动者,高通已经成为推动终端侧AI规模化发展的关键力量,干系技能正在赋能数十亿的终端产品。
如今看来,无论是单一产品精良的性能功耗表现,还是规模化成果,以及跨AI运用、模型、硬件与软件的全栈终端侧AI优化,高通都存在着显著上风。

很显然,在AI即将迎来“质变”的关键时候,高通正扮演着愈发关键的角色。
乃至就在不久前,高通正式发布《稠浊AI是AI的未来》白皮书,明确提出了云边一体稠浊AI发展路径。
从架构设计来看,稠浊AI适用于险些所有天生式AI运用和终端领域,而且具备低本钱、高效率、低能耗、运行稳定、隐私性强等上风,对开拓者,对用户,都可以说是非常值得期待的。

无论如何,AI发展的终极目标还是更好做事于人,这个过程肯定困难的,不过也正由于有了更多人的努力,才让目标离我们越来越近,直至触手可及。