除了OpenAI、谷歌等公司采纳的供应云端大模型运用程序编程接口（API）的商业模式之外，另一条备受关注的商业化路径是发卖“软硬件结合”的大模型训推一体机。
这种商业模式在中国市场上热度较高，特殊是多家中小型科技企业都推出了大模型训推一体机产品。
这类“开箱即用”的人工智能产品可以在企业内进行本地化支配，使最新人工智能技能能够方便地在工业场景中落地运用，实现从人工智能技能莅临盆力的转化，加速人工智能与家当深度领悟。

大模型训推一体机一样平常指集成了大模型演习和推理功能的“全栈式”人工智能设备，常日包含中心处理器（CPU）、图形处理器（GPU）、存储器、操作系统、深度学习模型等软硬组件，能通过大规模数据演习节制数据处理和预测等能力。

与通过运用程序编程接口利用大模型功能比较，企业利用训推一体机实现大模型支配具有多方面上风。
首先，训推一体机可以针对企业的特定业务需求供应“开箱即用”的定制化大模型办理方案，并通过软硬件协同优化提高性能，降落大模型支配、业务方案培植和调适的门槛。
例如，佳都科技基于华为“昇腾AI”根本软硬件平台推出了“佳都知行交通畅业大模型训推一体机”，可面向轨道交通、城市交通、城市安全等聪慧城市重点培植领域，供应智能化、高效实时的办理方案和决策支持。

其次，由于训推一体机将所有打算资源集中到一台设备上，在大规模数据演习中可大幅减少数据传输韶光，提高打算速率和模型演习效率，使企业能够更快捷地利用和管理资源。

此外，本地化支配的训推一体性能最大程度保障数据隐私和模型安全可控，知足企业对数据安全监管的需求。
英国《金融时报》日前宣布说，在企业内支配的大模型训推一体机产品正在对一些大型科技企业供应的基于公共云的人工智能做事形成冲击。

该宣布说，近期曝出的人工智能企业安全漏洞加剧了用户对数据安全的担忧。
例如，ChatGPT将用户搜索历史分享给他人，以及韩国三星员工在利用ChatGPT处理事情时无意间透露了商业机密等。
宣布援引中国科大讯飞董事长刘庆峰的话说，机构须要能够保护他们的数据，而建立私有云是防止有代价数据透露的方法。

但也有不雅观点认为，训推一体机性能会受到硬件技能限定，这提高了技能持有和更新的本钱。
《金融时报》的宣布援引半导体行业研究机构SemiAnalysis的首席剖析师迪伦·帕特尔的话说，比较于公共云做事或利用运用程序编程接口接入大模型，训推一体机效率更低下。
该模式对人工智能大模型的利用非常零散，这意味着企业持有的昂朱紫工智能硬件没有得到充分利用。

许多企业在衡量利弊后选择了训推一体机，这正在成为中国算力行业的趋势之一。
2023年7月，华为联合多家伙伴共同发布“昇腾AI”大模型训推一体化办理方案，加速大模型在各个行业落地运用。
目前，科大讯飞等多家中国科技企业都发布了基于华为“昇腾AI”根本软硬件平台的训推一体机产品。

华为董事、ICT（信息与通信技能）产品与办理方案总裁杨超斌在今年3月举行的华为中国互助伙伴大会上表示，2024年中国区人工智能训推一体机市场规模有望达到168亿元公民币。

来源： 新华逐日电讯