——“人工智能与信息保护”系列宣布之二

AI“换脸”履行诱骗、AI假造图片传播谣言、AI“复活”逝者引发争议……随着人工智能技能的不断发展，AI深度假造的例子习认为常。
不少网民惊呼，以前总说“有图有原形”，如今我们连图片和***也不敢轻易相信了。

AI深度假造是怎么回事？该如何戒备干系风险？用户、平台、监管、法律等社会各界该如何形成协力，建立天生式AI信息安全规范？我们对此进行了采访。

“眼见不一定为实”

关于AI深度假造的热点事宜，正引发全天下广泛关注。

今年1月，美国一位盛行歌手被人用AI恶意天生虚假照片，在社交媒体迅速传播，给歌手本人造成困扰。
2月，喷鼻香港一家公司遭遇“AI变脸”诱骗，丢失高达2亿元港币。
据悉，这家公司一名员工在***会议中被首席财务官哀求转账。
然而，会议中的这位“领导”和其他员工，实际都是深度假造的AI影像。
诱骗者通过公开渠道获取的资料，合成了首席财务官的形象和声音，并制作出多人参与***会议的虚假场景。

基于深度合成技能引发的侵权案例，常见的手腕是伪装熟人履行电信诱骗。
不久前，江苏句容的杨女士，在收到自己“女儿”多条哀求缴纳报名费的语音后，向骗子账户转账3.5万元。
干系办案民警反复提醒：“碰着转账一定要慎之又慎，眼见不一定为实。
”

“深度假造技能利用AI深度学习功能，实现图像、声音、***的修改、假造和自动天生，产生以假乱真的效果。
”上海人工智能研究院院长宋海涛给"大众年夜众应对深度假造支了三招：一是节制甄别AI“换脸”的大略技巧，比如哀求对方在***对话时在脸前招招手，看是否涌现图像扰动等；二是学会利用检测深度假造的工具和软件；三是保持合理疑惑。
“保持谨慎和当心，是"大众年夜众应对AI造假的第一道防线。
”宋海涛说。

“用技能管理技能”

如何把天生式AI的强大能力用于建立信息安全规范，将制约行业发展的“绊脚石”变为“压舱石”？业界一贯在探索“用技能管理技能”的方案。

瑞莱聪慧是清华大学人工智能研究院孵化的企业，专攻人工智能安全领域。
瑞莱聪慧总裁田天先容，其公司研发的天生式人工智能内容检测平台，支持多种合成类型的图片、***、音频、文本的真伪检测，运用处景包括打击网络诱骗和荣誉侵害行为、检测网络内容合规性、检测音***物证真实性等。

“利用AI技能管理AI犯罪，本身也是一个不断博弈的过程。
”田天先容，“红队测试”是目前天生式AI管理的主要手段，旨在通过仿照攻击者行为，对目标系统进行全面网络攻击，针对性地创造、修补潜在系统漏洞，使模型在面向公众年夜众开放前，充分接管安全技能考验。
***合成AI平台Sora，在上市前就曾约请数名从事信息安全漏洞研究的专家充当红队进行对抗测试，找出相称数量的安全漏洞。

此外，业界也在推动落实AI天生内容标识制度。
中国政法大学数据法治研究院教授张凌寒表示，全国信息安全标准化技能委员会在《网络安全标准实践指南——天生式人工智能做事内容标识方法》中给出了内容标识方法：通过在交互界面中添加半透明笔墨的办法显示水印标识，或通过人类无法直接感知但可通过技能手段从内容中提取的隐式水印标识，提示内容由人工智能天生。
“标识制度可以提升AI信息内容管理能力，减少虚假信息天生，防止虚假信息污染下一代演习数据，营造良好的网络信息生态环境。
”张凌寒说。

国际测试委员会创始人、中国科学院打算所研究员詹剑锋建议，应将AI深度假造纳入监测机制，碰着负面影响较大的造假行为，第一韶光快速反应。
通过建立针对深度假造有害内容的群众举报机制，提高"大众年夜众的判断力、鉴别力。

“制度勾引技能向善”

天生式AI技能是一把双刃剑，如何在开释创新活力的同时，有效戒备信息安全风险？

不少专家表示，尽快建立健全干系管理规范至关主要。
“这一领域的管理不能完备寄希望于企业自治，更须要法律硬性监管。
”对外经济贸易大学数字经济与法律创新研究中央主任张欣表示，“通过立法为AI开拓划定基本底线，明确合规责任，可以从源头戒备风险，避免‘先污染后管理’的被动局势。
”

去年国家网信办等部门发布的《天生式人工智能做事管理暂行办法》标志着天生式AI有了专门性行政法规。
2023年1月施行的《互联网信息做事深度合成管理规定》明确提出，“任何组织和个人不得利用深度合成做事制作、复制、发布、传播法律、行政法规禁止的信息”“可能导致公众年夜众稠浊或者误认的，应该在天生或者编辑的信息内容的合理位置、区域进行显著标识”，等等。

在法律层面，中国已经出台了《中华公民共和国网络安全法》《中华公民共和国数据安全法》《中华公民共和国个人信息保护法》等法律，但针对AI领域的法律管理仍有进一步细化的空间。
“现有法律法规对数据权属、保护范围等问题暂无详细规定。
在人工智能天生结果的保护方面，《民法典》的原则性条款在详细适用方面还有一定难度。
”北京互联网法院综合审判三庭卖力人颜君建议，要进一步加快人工智能方面的法律供给，推动国家层面天生式人工智能规范的确立。
对已有案例涌现的疑难法律问题，要通过学术谈论和法律实践，逐步形成共识，总结确立法律适用规则，推动《人工智能法草案》的立法进程。

在伦理层面，AI“复活”等行为引起部分用户的反感和恐怖。
对此，科技部等10部门印发《科技伦理审查办法（试行）》，列出了须要开展伦理审查复核的科技活动清单，个中就包括具有社会动员能力和社会意识勾引能力的算法模型、运用程序及系统研发等。

“我们要精确看待新业态带来的可能性，但也不能让其偏离合法性、合理性轨道。
无论是技能开拓者、利用者还是监管者，都有必要用类似的伦理视角来核阅技能发展。
在追求科技进步的同时，确保AI技能循着以人为本和技能向善的理念发展。
”张凌寒说。
（公民日报外洋版）

来源： 公民日报外洋版