巧合的是，天生式AI运用在2023年开始火爆。
只管在硬件设备层面，市场上已经有了内置NPU的AI PC，但是大众关注天生式AI运用的焦点依然勾留在以ChatGPT、文心一言、通义千问为代表的云端大模型做事上，大家利用更多的依然是通过网页的形式来打开的云端大模型做事。

▲2023年，AI PC朝阳东升，但是大众关注天生式AI的焦点仍在云端大模型做事上。

变革发生在2024年。
2023年底，AMD、英特尔相继推出新一代内置NPU的处理器，搭载这些全新处理器的条记本新品大多数在2024年春季上市，伴随着新产品的上市，芯片巨子和OEM都在努力推广“AI PC”观点。
在这个过程中，芯片巨子、OEM包括一些ISV做事商还在不断完善和发展AI软件运用生态，让AI运用适配AI PC，以发挥出AI PC硬件的实力。
于是我们看到华硕、遐想、惠普、光彩、雷神等条记本厂商今年都在加速打造自家的AI大模型运用，并内置在条记本中。

▲AMD在2023年1月份为x86平台首次带来Ryzen AI NPU，从此打开了AI PC时期的大门。

华硕在a豆14 Air条记本中推出了全新的“豆叮AI助手”，它由字节大模型供应技能支持，为用户供应对话沟通、资料查找、笔墨创作等AI功能。
遐想推出个人智能体“遐想小天”，它由嵌入本地的天禧大模型驱动，通过自然措辞交互，能够在事情、学习和生活等诸多场景中带来全新的AI体验。
惠普推出新一代“惠小微”个人助理，结合云端大模型和本地大模型，为用户带来全新的AI体验。
光彩则在MagicBook Pro16上推出全新的“YOYO AI超级助理”，其接入在线大模型并领悟本地算力，支持聪慧搜索、文档总结、聪慧推举、文本创作等AI功能。
雷神在今年5月的发布会上不仅推出了内嵌本地AI大模型Euler的雷神aibook 15神启版，进而可以利用个人助理—“小雷AI”。

▲伴随着新产品的上市，芯片巨子和OEM都在努力推广“AI PC”观点。

无论是AMD锐龙7040系列、锐龙8040系列还是最新发布的锐龙AI 300系列处理器，这些内置NPU的处理器都可以在PC上供应CPU+GPU+NPU的综合AI算力，因而实现常见的各种AIGC图文创作或者进行繁芜的图形处理、大型数据剖析等高负载任务的处理。
伴随着各家AI软件生态的不断发展，现如今AI PC市场发生的最大变革是人们关注的AI运用体验从以往的云端转向了端侧，AI PC行业参与者都在努力发掘本地AI算力的潜力。

如果现在入手一台AI PC，它和普通PC有什么差异？答案是现在的AI PC都内置了AI算力很强的NPU，能够高效地原生支持端侧的AI运用，而且在此根本上多数在出厂时就搭载了AI干系的软件和做事，可以实现许多基于本地硬件加速的AI功能，比如AI***增强、AI语音对话、AI文本天生、AI抠图、AI绘画等。

接下来我们通过一款AMD锐龙AI PC来详细体验，看看在出厂时就搭载了AI干系软件和做事的条记本电脑究竟有何不同。
我们本次选择的条记本是遐想小新Pro16 AI元启锐龙版，它搭载AMD锐龙7 8845H处理器，这款处理器内置AMD Ryzen AI NPU，NPU算力达到16 TOPS，在CPU、GPU和NPU三大引擎的加成下，AMD锐龙7 8845H平台的整体算力高达38 TOPS。

▲2024年，条记本厂商都在加速打造自家的AI大模型运用，并内置在条记本中。

须要解释的是，本文截稿前搭载AMD锐龙AI 300系列处理器的条记本新品暂未发售，而酷睿Ultra平台的整体算力（34 TOPS）不及AMD锐龙7 8845H平台，以是本次通过遐想小新Pro16 AI元启锐龙版来体验AI运用对大家来说具备一定的可参考性。
为了便于阅读，我们将从以下几个大的方面来逐一体验。

▲AMD锐龙7 8845H处理器的整体算力达到38 TOPS。

个人智能体遐想小天

这是这款AI PC的一大亮点，如今各个条记本厂商都推出了自己的智能助理，而各家的功能基本上大同小异，以是我们这里紧张以“遐想小天”为例。
遐想小天内置在遐想小新Pro16 AI元启锐龙版中，它由基于本地的天禧大模型驱动，通过自然措辞交互，能够在事情、学习和生活等场景中带来全新的AI体验，借助用户确当地文档，遐想小天还能够不断加深对用户的认知和理解，从而供应更加精准和个人化的做事。

▲遐想小天是用户专属的“个人智能体”，由嵌入本地的天禧大模型驱动，通过自然措辞交互，能够在事情、学习和生活等诸多场景中带来全新的AI体验。

遐想小天的核心功能点有四个方面，一是拥有本地知识库；二是本地知识总结天生，基于个人指定文档的“总结/归纳”功能，并可自动匹配输出措辞；三是数据安全保护，遐想小天供应了芯片级的安全方案并结合遐想账号的管理系统，可以担保用户的知识库只能被本地大模型调用；四是自然交互的AI生态，可以通过手写识别、语音识别实现自然交互，形成具备个人风格的图片、内容等。

▲遐想小天的AI PPT功能须要在联网状态下运行，它能够根据用户上传的资料、文档以及输入的主题，自动一键天生PPT。

遐想小天支持本地个人知识库的管理和问答、AI画师、AI PPT、问答等功能。
我们先来看本地个人知识库的管理和问答功能。
这个功能只会调用本地大模型来处理用户上传的PPT、Word文档、PDF等文件（暂不支持上传图片），不会联网处理。
以是它在数据私密性和安全性上更有保障。
上传文件之后，用户可以针对上传的文件进行问答，比如哀求遐想小天为你翻译、朗读、总结、天生PPT等。
我上传了一份AMD的英文***稿，让它翻译成中文，遐想小天翻译得很准确，而且由于是离线大模型在处理这个任务，以是在断网的情形下也能完成翻译任务。
其余，还可以让遐想小天来总结文档内容，它处理得也比较准确。

▲本地个人知识库的管理功能会调用本地大模型来处理用户上传的PPT、Word文档、PDF等文件，上传文件之后，用户可以针对上传的文件进行问答。

遐想小天的AI PPT功能须要在联网状态下运行，它能够根据用户上传的资料、文档以及输入的主题，自动一键天生PPT。
我让AI PPT做一个条记本推举的PPT，上传一份Word文档资料之后，遐想小天能够自动总结出PPT的大纲，此时用户也可以手动变动调度。
之后就进入选择PPT模板的界面，系统供应了扁平简约、商务科技、文艺清新、卡通手绘、中国风等多种不同风格的模板，能够知足大多数办公人士的需求。
之后AI PPT会自动天生PPT，并供用户***，如果不满意也可以返回去重新编辑。

总体来说，AI PPT功能天生的PPT效果较好，对不会做PPT的人或者很少做PPT的用户来说绝对是救星。
如果你是PPT老手的话，它也能起到很好的赞助浸染。
对了，AI PPT天生的PPT还能以PPT、图片或者PDF文件的形式***，对新手用户来说很友好。

接下来看看AI画师功能。
遐想小天的AI画师功能是基于云端大模型的文生图功能，用户通过输入笔墨描述，AI画师会天生对应的图片。
这个功能对付办公人士、设计师来说很有帮助，能够随时触发新的灵感。
在遐想小天中，AI画师能够按照哀求天生一个趴在沙发上可爱的白色狗狗。
遐想小天中的AI画师并不是这个功能的完备体，它的完备体是另一个软件——Creator Zone。
在这个内置的软件中，用户能够更风雅地设置文生图的各项参数，包括风格、比例、分辨率、迭代步数等，功能更丰富、完全。

▲在遐想小天中，AI画师能够按照哀求天生一个趴在沙发上的可爱的白色小狗。

遐想小天由大模型驱动，以是它也支持知识问答、文本创作等其他大模型对话助手的常用功能。
主要的是，遐想小天支持本地大模型和在线云端大模型，以是无论是断网还是联网都能利用，这在其他条记本上非常少见。
用户可以通过对话框上方的图标在本地和云端大模型之间相互切换。

▲在Creator Zone软件中，用户能够更风雅地设置文生图的各项参数，包括图片风格、比例、分辨率、迭代步数等。

我们来看看本地大模型和云端大模型的差异。
讯问同一个问题时，可以看到在断网状态，遐想小天基于本地大模型能够准确地回答“柔情似水，佳期如梦”的意思，只是回答得比较精简。
而在云端大模型下，基于云真个高算力，遐想小天回答得相称准确，既阐明了这句话的来源，也向我们详细先容了它的意思。

▲遐想小天支持本地大模型和在线云端大模型，以是无论是断网还是联网都能利用，不过它在云端大模型状态下的回答内容更详细一些。

遐想小天还具备小程序商店功能，遐想这是操持通过小程序来接入其他AI运用，从而打造出自己的AI生态。
现在小程序商店中已经凑集了Kimi智能助手、美图抠图、印象条记的H5网页天生、通义万相、闪光简历、网易有道翻译、百度度加等有名运用，用户可以根据自己的实际需求通过小程序商店一站式利用或者开通对应的AI做事，省去了单独***软件或者打开网页的麻烦。
此外，遐想小天还支持“嗨聊模式”，在这个模式中，用户会仿照和遐想小天进行沉浸式的语音通话，和它深入互换，谈论各种话题。

▲遐想小天还具备小程序商店功能，现在小程序商店中已经凑集了Kimi智能助手、美图抠图、通义万相、网易有道翻译、百度度加等有名运用。

端侧AI大模型

去年AI PC出身的时候，有的人可能会以为在PC上成功运行天生式AI运用很难做到，但现在已经不是难事。
我们这里说的端侧AI大模型指的是将各种类型的大模型支配在AI PC本地，实现在断网的情形下也能完整天然措辞的处理和其他操作。
这里说的端侧AI大模型分成两类，一类是OEM自己开拓的自带本地大模型的智能助理，类似遐想小天这种基于天禧大模型的个人智能体，我们在前文已经体验过了；另一类则是由其他厂商开拓的能够帮助用户在PC上支配大模型的类似软件，比如我们接下来要体验的AMD锐龙AI助手。

AMD锐龙AI助手依托清昴智能面向LLM推出的自研优化推理工具链MLGuider开拓，基于AMD锐龙7040和锐龙8000系列AI PC平台开拓运行，可加载多个类型的端侧大模型，无需联网即可快速体验天生式AI，现已支持常规问答的文生文、代码天生和康健赞助建议等功能。

由于AMD Ryzen AI平台能够供应CPU+GPU+NPU的综合AI算力，以是在AMD锐龙AI PC上通过支配本地大模型来供应AI运用办理方案，这在商用场景和消费场景中都已经实际落地。
目前这些大模型涉及医学影像、编程、医疗、教诲、法律等多个垂直领域，它们可以融入用户的事情流，帮助用户天生知识图谱、条约、法律见地、简报等，从而提升用户的事情效率。
比如无问芯穹公司开拓的高性能大模型——无穹天权，善于逻辑推理和长文本处理，支持长达256k字符的文本，能直接处理整本《三体3：去世神永生》，它可以在AMD锐龙AI PC上实现精良的推理加速。

在遐想小新Pro16 AI元启锐龙版上，我们通过锐龙AI助手支配了几个主流的大模型，来看看这台机器运行大模型的实际表现吧！
这些大模型包括千问14B-Chat、百川2-13B-Chat、ChatGLM3-6B、扁鹊2等。

在实际体验中，千问14B-Chat的模型参数最大，它回答的准确性也更高。
遐想小新Pro16 AI元启锐龙版运行千问14B-Chat模型的时候处理器功耗能够飙升到51W-60W旁边，处理器占用率达到65%旁边，毕竟这个大模型的参数量大，须要更强大的性能才行。
ChatGLM3-6B的反应速率很快，但它彷佛对中文的文学知识理解得不多。

▲千问14B-Chat的模型参数最大，它回答的准确性也更高。

▲ChatGLM3-6B的反应速率很快，但它彷佛对中文的文学知识理解得不多。

百川2-13B-Chat比较千问14B-Chat和ChatGLM3-6B来说，回答得过于简洁，但回答的准确性很高。
CodeGeeX2-6B则是一款轻量级的开源代码天生模型，它可以实现对多种编程措辞的自动天生，有着代码天生与补全、添加注释、代码翻译及技能问答方面的强大能力。
支配在PC本地之后，它可以在断网的环境下准确地回答类似“用java实现一个大略贪心算法”的问题，对付程序员群体来说很有帮助。

▲CodeGeeX2-6B大模型是一款轻量级的开源代码天生模型，它可以实现对多种编程措辞的自动天生，有着代码天生与补全、添加注释、代码翻译及技能问答方面的强大能力。

▲百川2-13B-Chat比较千问14B-Chat和ChatGLM3-6B来说，回答得过于简洁，但好在回答准确性很高。

Stable Diffusion图像天生

要说目前最火的AI运用，除了天生式大模型之外，以Stable Diffusion为代表的图像扩散模型运用也受到大家广泛追捧。
与各种在线AI出图的工具比较，Stable Diffusion拥有出色的高自由度，同时也拥有大量免费的资源，支配在PC本地，于用户而言在安全性、私密性、便捷性上都也有保障。

AMD AI PC在CPU、GPU、NPU三大引擎的算力协同之下，自然能够轻松玩转Stable Diffusion。
Stable Diffusion Web UI紧张由GPU驱动，AMD锐龙7 8845H处理器内置的AMD Radeon 780M显卡采取RDNA 3架构，配备12个CU单元，768个流处理器，具备强大的算力根本，以是AMD AI PC在Stable Diffusion图像天生方面也颇有上风。

▲在4GB显存设置下，通过AMD Radeon 780M显卡加速天生一张512×512分辨率的图片仅耗时43秒。

从实际测试来看，在4GB显存设置下，通过AMD Radeon 780M显卡加速天生一张512×512分辨率的图片耗时43秒，这样的效率能够知足类似新媒体运营人群对AIGC的利用需求。

***会议增强

***会议增强对付AMD锐龙AI PC来说是一个很常见的功能，这里紧张是说AMD联合微软推出的Windows Studio Effects。
借助NPU支持，Windows Studio Effects可以在系统底层为相机添加背景模糊、自动取景、眼神纠正等AI功能。
对普通用户来说，在AMD AI PC的“摄像头”设置中就能便捷地开启由NPU驱动的Windows Studio Effects。
须要把稳的是，现如今AMD锐龙AI PC还带来了一个新变革——有名的HWinfo软件目前支持监控AMD NPU的占用情形，这在去年是无法实现的。

▲如今AMD锐龙AI PC还带来了一个新变革—HWinfo软件支持监控AMD NPU的占用情形，这在去年是无法实现的。

Windows Studio Effects是来自Windows系统底层的功能，它不仅浸染于Windows系统的“相机”运用，还支持任何***通话软件。
比如我们通过TIM软件进行***通话时，由于TIM不支持任何***效果，以是如果你的条记本不支持Windows Studio Effects，那么当通话所处的环境凌乱无章时，你可能会略感尴尬。
而在Windows Studio Effects的帮助下，用户用TIM进行***通话时也能享受到背景模糊、自动取景、眼神纠正等功能的魅力，而且这个功能是由NPU驱动的，以是开启之后也不会增加CPU或者GPU的占用率。

▲借助NPU支持，Windows Studio Effects可以在系统底层为相机添加背景模糊、自动取景等AI功能。

▲通过两张图片比拟可见，有了Windows Studio Effects，用户用不支持任何***效果的TIM软禁进行***通话时也能享受到背景模糊、自动取景等功能的魅力。

游戏赞助

AMD锐龙AI PC已经赋能千行百业，除了端侧大模型、***会议增强之外，在游戏娱乐方面也发挥出了自身代价。
目前游戏赞助工具《游戏加加》的“超能时候”、“外设灵动光控”、“AI游戏教练”等功能已经加入了对AMD NPU的支持。
个中“超能时候”功能紧张是利用AI技能来自动识别并记录游戏中的击杀瞬间，帮助玩家轻松保存和分享游戏中的高光时候，不须要玩家手动来录制。
目前该功能支持的游戏涵盖《永劫无间》《无畏左券》《绝地求生：大逃杀》《APEX英雄》《义务召唤20：当代战役3》等。

▲用户在“超能时候”设置中可以选择AMD Ryzen AI NPU模式来开启NPU的支持。

我们通过《永劫无间》来大略体验一下NPU驱动的“超能时候”功能，首先在设置界面可以看到该功能的AI识别模式有两种：通用模式、AMD Ryzen AI NPU模式。
在通用模式下，实现该功能须要占用GPU额外的资源，而在Ryzen AI NPU模式下，全体AI的推理全部由NPU完成，以是不会占用到GPU额外的资源，这对实际游戏的帧率影响更小，而且AMD和游戏开拓商还在AI模型的演习中深度互助，进一步提升了该功能中AI识别的准确性。

▲开启AMD Ryzen AI NPU模式并进入游戏之后，《游戏加加》能够实时监测到NPU的频率和占用率。

在“超能时候”功能的设置中开启AMD Ryzen AI NPU模式进入游戏之后，《游戏加加》能够实时监测到NPU的频率和占用率。
玩了一局之后，精彩的超能时候***会自动保存在电脑里，很方便。

经由一年多韶光的发展，以AMD Ryzen AI平台为代表的AI PC已经发展到一个全新阶段。
现在人们已经将CPU、GPU和NPU视作AI PC的三大算力引擎，而AMD也是业界在这三个方面都有上风的创新领导者，通过三者的相互协作推动AI运用办理方案的实际落地来真正发挥出AI PC的实力。
正因如此，我们才看到端侧AI大模型运用进入百家争鸣的时期。

实际上，AMD的ISV做事商和生态互助伙伴已经超过150家，未来还有更多互助伙伴加入。
目前适用于AMD Ryzen AI平台的AI运用办理方案远不止我们本次体验的这几个功能，上到医疗、教诲、咨询等行业领域，下到绘图、游戏赞助等消费级场景，AMD Ryzen AI平台已经带来了空前的AI PC新体验。

从云端到端侧，这是AI PC发展过程中的一定路径。
一方面，AI PC在CPU、GPU、NPU的协同下本来就具备强劲的端侧AI算力，为本地支配大模型运用供应了根本；另一方面，从我们本次的体验测试也能看到，如今大模型运用已经越来越实用，能够真正为用户的日常生活和娱乐带来帮助，而且端侧大模型运用的发展也降落了普通用户体验AI运用的门槛。

末了，我们也不能忽略端侧AI运用所具备的一些上风，比如经济性—端侧支配大模型省去了在云端购买增值做事的用度，数据在本地处理也降落了云做事的本钱；安全性—数据勾留在用户手中，免去了隐私透露的麻烦；便利性—本地AI做事在断网状态也能运行，避免了网络上的限定。

综合来看，以AMD锐龙AI为代表的AI PC，如今已不再勾留在观点上，而是普通用户可以感知，可以体验，并且能真正给用户带来帮助的更有代价的工具。
在时期的浪潮前面，大家是时候拥抱AI PC，并向AI时期迎风启航了。