当前，我国人工智能家当已经进入快速发展期。
中国信息通信研究院公布的数据显示，2022年中国人工智能核心家当规模达5080亿元，同比增长18%；初步统计，2023年规模达到5784亿元，增速达13.9%。

但随之而来的，一系列诸如算法歧视、算法黑箱、信息茧房、算法霸权等法律乃至伦理问题也开始呈现，人工智能技能发展所带来的隐私安全和伦理道德等问题也须要得到重点关注。

在今年全国两会上，全国政协委员、金杜状师事务所高等合资人张毅便带来了一份关于进一步完善人工智能算法管理体系的提案。
他在接管《中原时报》时表示，如何在促进发展的同时，更好完善人工智能算法管理体系，监管手段和能力如何提升，对我国干系家当的发展和国家管理能力当代化至关主要。

监管难以问责

“我非常关注人工智能家当的发展。
人工智能家当三大要素：算法、算力和数据。
去年全国两会上我的提案关注了数据问题。
两会结束后不久，我就开始酝酿算法管理体系的提案。
去年下半年，我作为上海新联会会长，针对先导家当组织了多次调研，形成的专报之一涉及算力问题。
因此，这次历时近一年的研究和调研后形成的算法提案，是我长期以来关注人工智能家当的顺理成章的成果。
”张毅说。

在调研过程中，张毅把稳到，我国已出台的算法管理规定存在不敷。
详细表现在，当前干系管理规定紧张为部门规章、规范性文件和推举性国家标准，法律效力较低；监管客体仅限于民商本家儿体供应算法做事，不直接规制政府算法行为；法律任务上多为框架化、倡导性原则，导致算法管理内容与违法侵权间未形成充分对应关系；实践中紧张通过算法备案和天生式人工智能（大模型）备案两项制度作为问责出发点，但大模型备案尚在“实验期”，缺少成熟规则指引。
受限于部门规章的效力层级，未形成算法问责完全架构；在任务主体上，未对“做事供应者”等观点进行明确划分，不敷以应对实践中繁芜角色定位，也造成监管难以问责。

同时，张毅指出，管理机构部门化，存在监管竞合或真空。
我国尚未设立统一的算法监管机构，依据《天生式人工智能做事管理暂行办法》，网信、发改、工信、公安等均有权对其权益范围内的算法问题进行监管。
部门化的监管格局对综合型算法监管时随意马虎产生监管竞合，但对新型算法又随意马虎涌现监管真空。

此外，算法侵害的认定和维权困难。
张毅表示，算法供应者拥有信息资源和技能上风，算法机制和决策过程不可阐明或难以理解等缘故原由，被算侵害工具面临“理解难、取证难”问题，而司法者也面临“认定难”问题。

张毅还指出，天生式人工智能技能（AIGC）带来了新的寻衅。
他表示，AIGC大模型具有基于海量数据进行自学习特性，迭代快，其在垂类领域运用也在快速多样化，难以为现有监管体系和技能/工具覆盖，从而产生监管真空或失落焦的情形。

强化算法透明度

据《2022环球人工智能创新指数报告》显示，中国人工智能创新指数近三年一贯保持环球第二水平，在人才、教诲、专利产出等方面均有所进步。

为推动人工智能家当康健有序发展，张毅建议，首先，应尽快推进《人工智能法》的出台，构建人工智能算法管理体系，填补监管体系空缺。
同时，可考虑通过针对性的法规予以补充规范。
针对家当链上各主体，采纳权责雷同一原则，根据不同主体对付人工智能系统的掌握力度来加诸相应的合规责任。
将人工智能和算法技能按风险等级进行划分并采纳不同监管方法，并设置事前、事中和事后全生命周期监管方法责任。

同时，张毅提出，强化和创新算法监管。
强化由网信牵头，发展改革、数据、工信、公安等多部门共同参与的算法管理联席会议制度，完善“横向协同，纵向联动”算法管理格局。
借助市场力量，外聘或者借调算法及人工智能领域的专家共同参与监管流程，补齐监管技能短板。
引入“监管沙盒”制度，许可算法及人工智能企业在监管机构的监督下，于相对可控的环境内进行试验性的开拓、测试和验证。
此外，或可考虑探索将人工智能技能运用于人工智能监管，以提高监管效率。

张毅还表示，要进一步保障用户权利。
推进算法做事商以个人能够理解办法表露算法风险与可能产生的危害、算法运行步骤与决策结果间关系等运行规则，减少专业术语，便于用户理解和决策。
哀求算法做事商在个人用户决定选择谢绝利用算法做事的情形下，进一步优化用户便捷关闭算法做事的选项。

此外，张毅认为，还须要拓展算法侵害行为维权路径与任务模式，增强用户维权力量。
在算法侵权的诉讼中采纳“差错推定”归责原则，实施 “举证任务颠倒”。
用户仅承担受到算法危害的任务，由算法做事商对算法和危害之间无因果关系，以及无差错承担举证任务。
探索人工智能算法领域的民事公益诉讼制度。
此外，不宜局限于哀求详细危害结果的任务模式，可考虑综合考量演习数据、科技伦理等多维度规定算法侵害行为的违法任务，增强源头管理，形成任务闭环。

任务编辑：徐芸茜 主编：公培佳