自动驾驶的汽车安全穿行在城市的车流中，人工智能（AI）天生的文章与图片在社交媒体上频频涌现，工厂里搭载着智能系统的流水线以前所未有的高效率运转……人工智能正在成为重塑生产生活、引领时期变革的主要力量。
与此同时，随着人工智能技能的持续发展，运用处景不断拓展，一系列安全风险与寻衅随之产生。
如何让人工智能在安全、稳定、高效的轨道上良性发展，成为业界普遍关注的问题。

垂直领域机遇空前

作为前辈技能的标杆，人工智能领域的任何风吹草动都可能引发环球关注。
从ChatGPT横空出世到Sora刷新认知，只用了1年多的韶光。
在此期间，海内的“百模大战”打得风起云涌，一批通过备案的大模型已经向各行业及社会"大众年夜众开放。
环球范围内，人工智能的竞争日趋激烈。

咨询机构麦肯锡估量，以AIGC为代表的AI技能将给环球经济带来超过7.9万亿美元代价，到2030年之前，如果天生式AI运用于各行业，每年总经济效益高达6.1万亿美元至7.9万亿美元。

近日，在中国发展高层论坛2024年年会“人工智能发展与管理专题研讨会”上，中国科学院副院长吴朝晖表示，人工智能将成为第四次工业革命的标配，将加速传统家当的转型升级，实现质量变革、效益变革和动力变革，重塑工业的根本再造、生产和做事模式创新的各个环节，引领新型工业化发展，为智能经济发展供应全新动能。

如何在新一轮家当革命中抢占先机？这是机遇，也是寻衅。

人工智能作为一种技能工具，须要与家当结合，推动家当数字化转型，从而促进经济社会发展。
我国弘大的人口规模、运用处景与完全的家当链，为家当落地供应了坚实的环境支持。
360集团创始人周鸿祎表示，如果企业在某个业务领域有独特的业务数据，就应在这一垂直领域把大模型演习好，并将其与企业业务工具结合在一起。
未来，企业里将不会只有一个超级大模型，而是有多个小规模的、百亿级的大模型，每个大模型只从事一个场景的事情。

充分发挥场景落地上风，在垂直领域发力，正成为当前海内企业发展人工智能的共识。
腾讯云副总裁、腾讯云智能卖力人、优图实验室卖力人吴运声先容，目前，腾讯已将AI大模型运用到多个业务场景中，在家当落地方面，基于腾讯云TI平台推出的行业大模型，通过结合行业专业知识和数据演习，以及企业自身的数据进行精调，帮助企业快速天生专属模型，目前已经面向20多个行业输出了超过50个行业大模型办理方案。

3月27日，百度智能云“AI Cloud Day：大模型运用产品发布会”发布通过大模型重构和升级之后的7款产品，覆盖营销内容的创作、数字人、智能客服等七大垂直领域。
百度智能云副总裁喻友平表示，大模型作为一种普适性的运用，一定要和场景紧密结合。
当前业界普遍思考，若何把大模型用到企业中去。

业内人士认为，对多数企业，特殊是中小微企业而言，以小规模、垂直化的大模型作为切入点，可以高效快速实现人工智能对家当的数字化赋能。
同时将企业在垂直领域的智能化运用开拓交给专业的智能产品做事商，使“专才”更专，效率更高。

作为生产智能化产品和解决方案的做事商，山东浪潮智能生产技能有限公司基于根本通用模型，正在演习研发环绕智能生产的“智产大模型”。
浪潮智能生产总经理宋志刚表示，对付制造业来说，以人工智能与行业场景的深度领悟为主线，与制造业企业生产环节深度结合，充分发挥深度学习、自主决策等上风，才能提升生产过程的智能化水平。
浪潮智能生产以智产大模型为支撑，以“多维数据领悟与智能优化引擎”为技能核心，打造了智能生产数据剖析平台，并已实际运用于多家制造业企业，对生产效率有显著提升浸染。
据理解，专精于发动机活塞环制造的福建东亚机器有限公司在采取该智能平台后，通过机器视觉数据与行业数据集微调，生产效率提高20%，产品合格率由之前的90%提升到99%。

监管面临新的寻衅

人工智能在创造前所未有机遇的同时，也伴随着超越以往范畴的风险，对监管提出了严厉磨练。

人工智能带来的安全问题，呈现在AI模型的数据获取、数据演习以及运用上线运营全过程。
吴运声认为，AI本体安全或AI内平生安，要重点关注AI模型和算法自身在可靠性、公正性、可阐明性、透明性等方面的安全毛病；AI运用安全，是AI模型从开拓、测试、支配到运行交互等完全生命周期内的运用安全；AI衍平生安，也叫AIGC内容安全，紧张是天生内容的涉黄、涉暴等违法违规内容的审核。
长期来看，伴随着天生式AI的发展，AI伦理和AGI可控性将是AI安全的焦点。

百度法律研究中央主任陈晨表示，随着大模型的遍及和快速迭代，确保其输出的内容符合用户预期和法律哀求变得至关主要。
大模型的内容输出风险，实质上是模型的推理能力和逻辑风险。
这些风险紧张表示在模型可能涌现“偏见”“误判”“幻觉”等现实情形。
因此，多元数据集对大模型发展至关主要。
当前，我国天生式人工智能和大模型技能创新仍处于低级阶段，数据演习须要尽可能地原谅和多样，而高质量、具有良好代价不雅观的数据每每具有版权。
如果由于高质量内容的缺失落，而使天生式人工智能产生某种偏见，产生推理逻辑风险，将不利于家当的深度领悟和公共做事水平的提升。

从企业角度出发，宋志刚认为，数据是一个核心点。
智能模型的决策，建立在演习数据根本之上，一方面，演习数据的不准确会影响智能模型的决策，而用于演习样本的数据则面临被透露或者被修改的风险。
他建议，可以基于传感器等生产智能扮装备，多维度采集数据，建立起与数据准确性、完全性、有效性干系的管理机制。
同时，加强技能攻关，基于小样本数据进行快速学习，不断调优模型参数。
此外，还可以建立数据多重授权和安全防护机制来保障数据安全。

随着人工智能越来越广泛运用于生产生活的方方面面，在利用中产生的关于真实性、道德哀求、权责归属等议题的谈论逐渐增多。

大模型具有工具属性，既可以成为年夜大好人的帮手，也可能成为坏人的帮凶。
周鸿祎表示，合理的监管，可以对人工智能带来正向的推动浸染。
除了监管，还要探求技能方法，比如在AI生产***里加入不可变动、不可更换、不可修正的内部水印等。

中国政法大学数据法治研究院教授张凌寒认为，应通过技能发展回应和解决安全问题。
不发展是最大的不屈安，我们在技能和家当的国际竞争中必须以发展为制度设计的总目标。

管理体系逐步完善

人工智能的安全与管理问题，关乎家当发展方向与速率，关乎供给双方权利与责任，更关乎国际竞争中的上风与主动。

北京航空航天算夜学法学院院长助理、副教授赵精武表示，一国对人工智能的法律规制不仅影响着本国的家当发展和风险管理，更决定着该国在环球人工智能管理中的话语权。
同时，在环球化的背景下，人工智能技能的发展和运用的跨国特性也哀求国际社会共同面对和解决技能发展带来的寻衅。

2023年10月18日，我国发布《环球人工智能管理倡议》，环绕人工智能发展、安全、管理三方面系统阐述了人工智能管理中国方案。
倡议提出，人工智能技能带来难以预知的各种风险和繁芜寻衅，各国应在人工智能管理中加强信息互换和技能互助，不断提升人工智能技能的安全性、可靠性、可控性、公正性。

行之有效的管理方案，既能够为人工智能的创新发展与家当运用供应良好的发展环境，还能妥善应对技能发展过程中的风险与问题。

中国信通院政策与经济研究所高等工程师程莹见告，算法管理是在已有成熟业态之后，环绕网络平台展开的相对稳定、清晰、可预期的管理。
当下的大模型具有扩展性强、迭代快速、商业模式尚在探索的阶段特性，环球紧张经济体共同面临着“边发展边摸索边管理”的重大寻衅。
在我国，人工智能管理正从原则理念转化为可落地的规则规范。
立法层面，既有民法典、个人信息保护法、电子商务法等条款针对深度假造、大数据杀熟等详细问题的管理，也有在部门规章层面关于算法推举、深度合成、AIGC领域的哀求。
伦理层面，在《关于加强科技伦理管理的见地》规范下，进一步推进《科技伦理审查办法（搜聚见地稿）》落地履行。
标准层面，我国发布了《国家新一代人工智能标准体系培植指南》《天生式人工智能做事安全基本哀求》等，对人工智能提出了详细落地哀求。

人工智能领域的专门法也在逐步推进中。
今年，在十四届全国人大二次会议***发布会上，大会发言人娄勤俭表示，下一步将研究推进科技创新方面的立法，特殊是深入研究人工智能、生物技能等前沿科技领域有关伦理、道德、安全等主要问题，不断完善科技法律体系。
（中国经济网梁 木 李 方 许 怡）

来源： 经济日报