10月18日，在第三届“一带一起”国际互助高峰论坛上，中国提出《环球人工智能管理倡议》（以下简称《倡议》），这是我国继今年7月出台环球首部天生式人工智能规范性政策文件《天生式人工智能做事管理暂行办法》后，在人工智能管理领域的又一重大举措。
《倡议》提出了构建开放、公道、有效的环球人工智能管理机制，为干系国际谈论和规则制订供应了原本，对付促进人工智能技能造福全人类，推动构建人类命运共同体具有主要意义。

一、《倡议》提出的背景

（一）通用人工智能带来重大发展机遇的同时，也伴随着难以预测的重大风险，须要国际社会共同应对。

通用人工智能是人工智能发展的终极目标。
目前对通用人工智能有两种理解：通用性的人工智能（General Artificial Intelligence，GAI）是媒体和社会公众年夜众的一样平常理解，指的是能够处理多种任务的人工智能；人工智能专业领域的理解是人工通用智能（Artificial General Intelligence，AGI），指的是在所有方面都达到和超越人类水平的智能系统，能够自适应地应对外界环境寻衅，完成人类能完成的所有任务的人工智能，也称强人工智能、超级人工智能等。
前者该当鼓励，后者该当严防。

近年来，大模型通过持续扩大规模，涌现了从量变到质变的能力“呈现”征象，在措辞理解天生、逻辑推理等方面表现出预见之外的能力，拉开了迈向通用人工智能的序幕，成为新一轮科技革命和家当变革的主要驱动力量，将带来10年到20年旁边的发展红利期。

大模型取得的打破性进展基本上是通过履历模式取得的，其背后的智能发生和呈现机理尚不清晰。
随着智能水平的高速增长，风险也同步增长，已涌现误用、滥用等一系列风险和寻衅，当前国际社会对如何构建一个安全的人工智能系统仍知之甚少，人类面临着全新寻衅。

通用人工智能（GAI）和人工通用智能（AGI）都是高度繁芜的系统，特点是难以预测。
特殊的，GAI什么时候蜕变为AGI也是难以预测的。
根据掌握论的“阿什比定律”：任何有效的掌握系统都必须和它掌握的系统一样繁芜。
如果人类实现了比自己更强大的AGI，从理论上说不可能掌握这些系统，极度情形是导致人类灭绝的“生存危急”。

因此，戒备人工通用智能（AGI）不是未来的事情，现在就要开始，不仅要研究应对AGI的计策，还要研究GAI蜕变为AGI的可能性及对策，这是天下各国共同面临的事关人类未来的重大课题。

（二）通用人工智能技能发展将会进一步拉大国家之间的智能鸿沟，环球人工智能管理进入新阶段，须要建立公正公道的环球人工智能管理体系。

随着通用人工智能技能的不断发展，各个国家在智能技能节制与运用能力上的差距将形成智能鸿沟，加剧技能发展的不平等问题。
在环球层面上，人工智能目前尚未形成统一标准和规范的人工智能管理体系。

与此同时，环球人工智能管理涌现了单边主义、国家主义、保护主义的趋势，少数发达国家试图掌控人工智能干系的法律法规、政策和原则，发展中国家话语权较弱，乃至无法参与干系谈论。
中国作为最大的发展中国家和人工智能发展大国，须要积极参与环球人工智能管理事情，提升发展中国家在环球人工智能管理中的影响力与话语权，推动人工智能管理朝着更加公正公道的方向发展。

二、《倡议》的紧张内容

《倡议》内容共十一条，环绕人工智能发展、安全、管理三方面系统阐述了人工智能管理的“中国方案”。

（一）明确发展原则，推动人工智能向善而治。

人工智能的发展应回归人本主义，致力于办理人类面临的共同寻衅。
《倡议》提出了人工智能发展的基本原则，推动人工智能康健发展。

一是坚持以人为本、智能向善，以匆匆进人类共同福祉为目标，确保人工智能始终朝着有利于人类文明进步的方向发展，共同戒备和打击胆怯主义、极度势力和跨国有组织犯罪集团对人工智能技能的恶用滥用。

二是坚持相互尊重、平等互利，鼓励环球共同推动人工智能康健发展，共享人工智能知识成果，开源人工智能技能。
尊重各国主权，技能做事应充分尊重所在国的法律、法规，反对利用人工智能技能干涉内政、妨碍他国社会制度及秩序。
反对以意识形态划线或构建排他性集团，恶意阻挡他国人工智能发展。

（二）打造安全体系，构建安全可信的人工智能系统。

针对大模型发展面临的隐私和数据透露、误用滥用、不透明、不公正、任务认定等安全问题，《倡议》通过“内外兼修”的办法，推动构建安全可信的人工智能系统。

在外部方法方面，一是推动建立风险等级测试评估体系，履行敏捷管理，分类分级管理，快速有效相应。
二是逐步建立健全法律和规章制度，保障人工智能研发和运用中的个人隐私与数据安全，反对盗取、修改、透露和其他造孽网络利用个人信息的行为。
三是坚持伦理先行，建立并完善人工智能伦理准则、规范及问责机制，形成人工智能伦理指南，建立科技伦理审查和监牵制度，明确人工智能干系主体的任务和权力边界，充分尊重并保障各群体合法权柄，及时回应海内和国际干系伦理关怀。

在人工智能系统内部安全能力提升方面，一是针对系统透明度问题，倡议各研发主体不断提高人工智能可阐明性和可预测性，提升数据真实性和准确性，确保人工智能始终处于人类掌握之下，打造可审核、可监督、可追溯、可信赖的人工智能技能。
二是针对偏见和不公正问题，倡议坚持公正性和非歧视性原则，避免在数据获取、算法设计、技能开拓、产品研发与运用过程中，产生针对不同或特定民族、崇奉、国别、性别等偏见和歧视。

（三）倡导环球管理，推动实现多边的开放性管理生态。

单丝不成线，孤树不成林。
人工智能的发展并不是一场“零和游戏”，人工智能管理须要全天下的广泛参与，在充分尊重各国人工智能管理原则和实践的条件下，形成具有广泛共识的国际人工智能管理框架和标准规范，推动环球人工智能管理迈向更加完善的新阶段。

《倡议》以开放姿态，以关怀全人类发展为初衷，抵制“俱乐部”式的霸权操纵模式，积极推动真正的多边对话的实现，促进环球发达国家和发展中国家人工智能管理的协同发展。
一是鼓励各国积极对话和分享最佳操作实践，推动国际人工智能管理领域形成广泛共识。
二是建议增强发展中国家在人工智能环球管理中的代表性和发言权，开展面向发展中国家的国际互助与声援，不断弥合智能鸿沟和管理能力差距。
积极支持在联合国框架下谈论成立国际人工智能管理机构，折衷国际人工智能发展、安全与管理重大问题。
三是倡导“以技能监管技能”，积极发展用于人工智能管理的干系技能开拓与运用，支持以人工智能技能戒备人工智能风险，提高人工智能管理的技能能力。

结语

确保人工智能安全、康健、可控发展是人类共同的任务，《倡议》为人工智能管理提出了一个覆盖管理多元主体，推动搭建多方共建的可落地“中国方案”。
智源研究院作为人工智能领域的新型研发机构，将从技能研发角度推动《倡议》的落地。
一是坚持开源开放原则，构建全面开源、共建共享、开放透明的人工智能技能底座，持续开展人工智能算法可阐明性、鲁棒性、可信性等研究，不断提升人工智能系统的透明性和可靠性。
二是开展大模型安全与代价不雅观对齐、大模型安全评测技能等人工智能管理技能研究，为环球人工智能管理供应强有力的技能工具链，促进人工智能和人类智能的良性互动和代价共塑，构建人工智能和人类智能友好共处的人类命运共同体。
（北京智源人工智能研究院）