“稠浊式人工智能是一定路径。
”遐想集团董事长兼CEO杨元庆在近日举行的第十届遐想创新科技大会Tech World上分享说，公共大模型是AI遍及的催化剂和加速器，但在网络速率、云端效率、本钱考量、数据隐私等方面存在局限性。
而在稠浊式人工智能框架中，个人大模型和企业大模型，以及在其根本上开拓出的个人智能体和企业智能体，将与公有大模型共存互补，供应更加个性化的做事并知足隐私保护需求。

杨元庆认为，个人智能体，将通过大模型压缩技能，在个人智能终端或边缘设备上运行，以自然交互的办法吸收指令，通过个人的旅行记录、购物偏好这些存储于设备上的信息，更好地进行推理，做出行动，它乃至可以根据你的思维模式和行为频率去预测下一个任务，并主动提出建议，自主探求办理方案。

企业也将受益于企业智能体。
它分散在企业的多个终端设备和根本举动步伐中，将能够对大量的本企业数据进行学习推理，在保障信息安全的同时，支持企业运营决策，提升管理效率，提高生产力 。

稠浊人工智能，还需其他维度稠浊

2022年11月尾，ChatGPT横空出世，掀起了大模型的热潮。
从百亿参数，到千亿参数，再到万亿参数，大模型能力越来越强大；从措辞模型，到***模型，再到最近的音乐模型，大模型的表现越来越出色；AI历史上，无论是统治语音识别30年的隐马尔可夫模型，还是称霸全体90年代的支持向量机，从来没有任何一个技能，能够像本日的大模型这样强大。

不过，遐想集团高等副总裁、首席技能官芮勇认为，大模型一方面能力很强，另一方面有局限性，以是要“扬长补短”，扬长，是要持续发扬并增强大模型的强大能力；补短，则是要打造基于大模型的智能体技能，真正办理运用处景的问题。
“不能再纯挚地用大数据+大算力+大网络来堆砌大模型，而是要超越大模型，探索更靠近人类的思维和行为办法。
”芮勇说，“遐想倡导稠浊人工智能框架，是公有大模型和私有大模型的稠浊。
从技能角度看，还有几个主要维度的稠浊。
”

首先，小模型不会消逝。
今后一定是基于大模型和小模型稠浊的“意图理解”技能。
大家知道信息论里面的熵 entropy 是度量信息量的。
越有序，熵越小，越无序，熵越大。
遐想利用交叉熵 cross entropy 丢失最小化原则，将意图理解任务最优地分配给大模型和小模型，从而兼顾精准度和繁芜性。

第二，基于CPU、GPU、NPU稠浊调度的“异构打算”技能。
本日，在大模型的演习和推理过程中，瓶颈每每不在于芯片算力，而在于数据传输。
这个方程式是说，我们来同时优化打算负载和数据传输，使总体实行韶光最短。

第三，基于模型微调 (SFT) 与检索增强 (RAG) 稠浊的“智能问答”技能。
相信很多人都听过RAG和模型微调。
这两种技能哪个更好呢？实在，这两种技能各有是非。

第四，基于硬件加密与全栈可信架构的稠浊“隐私安全”技能。
光用硬件是不足的，光用软件也是不足的。
在前量子时期，我们是通过把一个非常大的整数进行质数分解进行加密。
但在后量子时期，就须要通过在一个高维实数空间里进行因式分解来进行加密。

清华大学智能家当研究院（AIR）院长、中国工程院院士张亚勤也认为，模型表现出一些局限性，我们可以运用稠浊式的理念来提升它的能力，权衡算法精度、算力需求、内存容量、通讯带宽、隐私安全等成分。
例如，公有模型和私有模型的结合，大模型和小模型的结合，传统机器学习和当代深度学习的结合，云侧、边侧、和本地设备支配的结合，CPU/GPU/NPU异构算力的结合，通用知识、领域知识、和个人知识的结合。

目前，清华大学智能家当研究院已经与遐想在进行产学研互助，未来期待双方能够携手发展人工智能智能技能，加速家当落地，共同推动智能化时期的转型。

人工智能下半场，关键是“落地”

遐想集团董事长兼CEO杨元庆认为，人工智能的下半场，一定是从技能打破进入到落地运用的阶段，须要我们在实际运用中积累用户反馈，不断完善，连续创新。
而此时此刻的关键词便是“落地”。
落地的路子，便是涵盖智能设备、智能根本举动步伐、智能办理方案和做事的三大支柱。

遐想集团实行副总裁、方案做事业务集团（SSG）总裁黄建恒认为，稠浊人工智能对付方案做事领域带来的巨大机遇！
在史诗级的机遇面前，遐想SSG如何捉住机遇全面重构AI原生的方案做事，紧张是三个方面：

第一、遐想软、硬、服一体化的方案能力。
遐想通过方案设计与交付方面的履历，打磨和沉淀了很多精良的水平办理方案。
这些通用的模块加上行业AI的运用和遐想强大的做事能力，可以为客户供应便捷的一站式交付。

第二、遐想在长期为客户的端-边-云稠浊根本举动步伐做事的过程中，积累了丰富的设计、支配、管理与掩护履历，为客户培植了很多高效、平衡和安全的IT根本举动步伐环境。
遐想在IDC统计的中国非运营商IT做事市场中，已经是排名第二的IT做事商。

第三、作为环球领先规模的科技企业，遐想自身已经完成了从传统IT到新IT的升级，并且沉淀了一套智能化转型的方法论和体系。
这些履历将通过SSG通报给同样须要智能化转型的客户，帮助他们更快速地完成变革。

据理解，遐想与很多客户和互助伙伴深度互助、共同创新。
阿里巴巴便是个中的一个主要代表，当天遐想创新科技大会Tech World现场，阿里巴巴集团首席实行官、阿里云智能董事长兼首席实行官、淘天集团董事长兼首席实行官吴泳铭也涌如今现场，并向大家打了个呼唤。
在AI PC和面向行业和企业的智能体办理方案方面，遐想与阿里巴巴有着广泛和广阔的互助。