【环球网科技宣布 李文瑶】近日，关于番茄小说平台增设“AI演习补充协议”的谈论仍在持续，乃至引发了平台作者的集体抵制。

个中一个主要的争议方向是：由AI大模型演习天生的网文作品版权，究竟属于谁？

图片来源：东方IC

对此，北京大学法学院教授、北京大学人工智能研究院AI安全与管理中央主任张平教授在中国人工智能家当发展同盟（以下简称“AIIA”）安全管理委员会成果发布会上对环球网科技表示，由人工智能技能发展所带来的版权问题、专利问题，已经处于非常紧迫地须要办理的状态。

“人工智能归根到底不是一个技能问题。
”天生式人工智能引领了新一轮人工智能家当的发展，但在带来机遇的同时也引发了安全伦理问题，在张平等行业专家看来，人工智能不仅仅是技能问题，它还涉及伦理、法律、社会、文化等多个层面，这也是行业、国家等多个层面共同推动人工智能管理的主要缘故原由。

人工智能：从技能问题到伦理安全问题

数据语料是演习AI必不可少的主要“质料”。

根据这次番茄小说发出的“AI演习补充协议”显示，“甲方（番茄小说）可将签约作品的全部或部分内容及干系信息（如作品名称、简介、大纲、章节、人物、作者个人信息、封面图等）作为数据、语料、文本、素材等用于标注、合成数据/数据库培植、AI人工智能研发、机器学习、模型演习、深度合成、算法研发等目前已知或未来开拓的新技能研发/运用领域。
”

这也意味着，网文作者在签署该协议后，平台可以将作者的网文语料、干系作品信息、作者信息用作大模型演习利用。
同时平台强调：“签署后，演习生产内容受平台版权保护，不许可抄袭或盗版行为。
”

这也引发了网文作者的不满。
首先是目前演习后生产的内容，带有极强的作者个人写作特色，如果不做分外标明，险些无法判断是作者本人撰写还是机器天生。

这与近期一贯在谈论的“AI换脸拟声”的情形类似。
今年4月，北京互联网法院对全国首例AI天生声音人格权侵权案做出宣判，一审判决，被告方利用原告声音、开拓案涉AI文本转语音产品未得到合法授权，构成侵权，书面赔罪道歉，并赔偿原告各项丢失25万元。

在外洋，演员与AI企业之间的诉讼也在引发关注。
今年5月，漫威超英“黑寡妇”的扮演者斯嘉丽·约翰逊将OpenAI告上法庭，控诉ChatGPT造孽利用自己的声音，哀求下架AI合针言音。

AIIA安全管理委员会办公室主任石霖对说道：“现在随着AIGC内容越来越多，我们须要在一定程度上去区分到底哪些是人工天生，哪些是人工智能天生的。
”

另一方面，对付抄袭或者盗版行为的剖断，也引发了作者的担心。
有作者反馈，自己撰写的小说大纲、网文等信息被“投喂”给AI大模型进行演习后，平台反而判断自己的原创内容属于抄袭，而机器生产的内容属于原创。

这也引发了行业对付AI内容安全管理的担忧。
对此，中国人工智能秘书长、中国信息通信研究院余晓晖院长对表示，人工智能本身的技能创新，运用和发展有非常大的不愿定性，如何开释出人工智能最大向善的能力，造福于人类，促进我们经济社会发展，须要天下各国一起共同进一步推动。

“开展人工智能安全管理事情不仅是我们国家推动人工智能发展和安全的一个非常主要的事情，实在也是环球和我们人类共同须要对待的重大问题。
”

人工智能管理成为新寻衅

如何更好地进行人工智能安全管理事情？石霖说道，AIIA安全管理委员会是希望能够建立统一内容标识的平台，去实现内容可溯源、可追溯的能力，从而提升整理的人工智能管理能力。

目前，我国已颁布履行《互联网信息做事深度合成管理规定》《天生式人工智能做事管理暂行办法》等干系法律，但在针对AI领域的法律管理仍有进一步细化空间。

AIIA安全管理委员会主任委员、公安部信息安全等级保护评估中央原副主任、研究员毕马宁表示，过去一年，大模型发展速率之快，赋能范围之广，让我们看到通用人工智能的实现路径与曙光，但人工智能安全问题的严重性与紧迫性不容忽略。
当我们从不同层面核阅人工智能安全问题时，可以创造人工智能所带来的安全寻衅已经从技能本身所带来的数据、算力、系统等传统安全问题，逐渐向对个人、组织、国家社会、人类生态的衍平生安问题蔓延。

在余晓晖看来，开展人工智能安全管理事情，可以从以下几个方面来进行思考：一是完善人工智能安全风险识别方法论。
目前，人工智能技能日益融入经济社会发展各领域全过程，其安全风险面不断扩大，须要建立更加敏捷、精准的安全风险识别机制。

二是通过强化风险评估与戒备，重点从人工智能根本举动步伐、算法模型、上层运用以及家当链等方面进行评估，尽快尽早创造风险。

三是加强人工智能安全技能管理，加强对算法模型毒性、鲁棒性、公正性等方面的评测技能工具研究，通过技能管理技能。

四是须要加强国际互助，中国须要和环球一起共同研究推动环球性人工智能，我们达成更广泛的共识，共同开释我们人工智能潜力，也戒备管理风险。

目前，中国信通院已经开展了大模型安全基准测试（AI Safety Benchmark）事情，联合家当界、学术界30余家单位对国内外开源、商用大模型开展安全测试，帮助家当界理解大模型的安全水位；同时发布了大模型安全加固办理方案，给出提升安全能力的实际方法。

人工智能安全已经成为环球议题

在AI管理规范方面，环球多个大首都已开始行动。
去年11月，英国举办了首届环球人工智能安全峰会，美国、英国、欧盟、中国、印度等多方代表参加。
今年5月，欧盟议会批准欧盟《人工智能法案》，这是天下上首部对人工智能进行全面监管的法案。

毕马宁先容，目前，新加坡在原来管理框架根本上推出了《天生式人工智能管理模型框架》，提出人工智能评估需考虑的九个维度。
日本发布《人工智能运营商指南》，为开拓者、供应者、利用者制订行为准则。
我国从《互联网信息做事算法推举管理规定》到《天生式人工智能做事管理暂行办法》，对人工智能技能进行了精准化管理供应干系依据。

AI管理正在展现框架化、协同化趋势，我国也正积极拓展国际互助，7月1日，第78届联合国大会以协商同等办法通过了中国主提的“加强人工智能能力培植国际互助”决议，140多个国家参加联署。
在7月2日外交部例行会上，外交部发言人毛宁表示，这充分反响了各国在加强人工智能能力培植方面的广泛共识，彰显了各国通过联络互助加强能力培植、弥合智能鸿沟的意愿。

在张平看来，在人工智能管理上，可以从三个维度来进行拆解：从最宏不雅观层面，在联合国这个层面上倡导办理全人类共同面对的AI安全，以是我们就要强调以人为本，以人类利益为本。
中不雅观层面，从国家出发，关注国家安全、网络安全、根本举动步伐安全；微不雅观层面上便是进一步推动个人信息安全。

据理解，AIIA安全管理委员会已经启动推出“人工智能安全守护操持”，打造AI Guard品牌。
中国信息通信研究院与国际组织开展了双边和多边的谈论互换，共同推动人工智能在环球的发展和安全管理。

面对人工智能带来的不愿定性、安全风险和寻衅，国际社会须要共同互助，共同推动人工智能安全管理。

中国科学院自动化研究所研究员、国家新一代人工智能管理专委会委员、联合国人工智能高层顾问机构专家曾毅表示，人工智能安全与能力不是相互掣肘的关系，更安全的系统实际上具有更强的认知能力，同时，人工智能安全事情也不应仅仅是修复问题，而应是建构性的，从被动反应转为主动设计。
“人工智能的发展和安全已经成为环球性的议题，须要国际社会共同努力。
”他说道。