本报演习生 郝嘉伟

在网络时期，眼见并不一定为“实”，也有可能是诱骗分子正在利用AI（人工智能）技能精准对你进行“围猎”……

来自内蒙古鄂尔多斯的李女士某天溘然在微信上收到了老同学“贾某”的好友申请。
其后双方在谈天过程中，“贾某”发来***通话约请，只管李女士创造***中的画面很模糊，声音也很卡顿，但确实看到了“老同学”的样貌，终极将40万元转到了对方所供应的银行账号上。
所幸李女士创造事有蹊跷后报警，警方启动了紧急止付机制，及时将被骗的钱款拦截。

李女士遭遇的AI制造“老同学”诱骗案并非个例，《法治日报》把稳到，近年来，随着AI技能的发展和运用，网络诱骗也升级了新手腕，不法分子频频利用深度假造等技能通过AI换脸、AI变声履行“精准”诱骗。

AI技能在带来新一轮技能变革的同时，也引发了一系列技能与安全运用的谈论。
今年全国人大会议期间，多位关注AI发展与安全的全国人大代表环绕AI技能的安全运用建言献策，加快推进人工智能立法、为人工智能技能安全运用供应法治保障，成为多方共识。

深度假造诱骗手段难以分辨

一家跨国公司喷鼻香港分部的职员受邀参加总部“首席财务官”发起的一场“多人***会议”，并按哀求先后将2亿港元转到5个本地银行账户。
其后，他向总部查询才得知受骗。
后警方调查创造，这起案件所谓的***会议中只有受害人一人是真人，别的“参会职员”都是经由AI换脸后的诱骗职员。

陕西省西安市某公司财务职员张女士接到老板的***通话，哀求她转账186万元到一个指定账号。
由于***中那个人的声音、脸庞都跟老板千篇一律，且这笔款要得非常急，张女士没有犹豫便迅速转账。
转账后，她将电子凭据发到公司财务内部群中，被老板讯问这笔资金的来由时才意识到上当，终极报警保住了大部分被骗资金。

在这两起真实发生的范例案件中，受害人在转账时之以是没有丝毫疑惑，缘故原由便是在高度仿真的脸庞与声音面前放松了当心，这也正是当前不少诱骗团伙利用AI技能频频“得手”的最紧张缘故原由。

骗子履行AI换脸诱骗时，会深度假造被骗者所熟知人的***和声音，诱骗成功率非常高。
中国网络空间安全协会人工智能安全管理专委会专家薛聪慧阐明称，AI换脸过程紧张包括人脸识别追踪、面部特色提取、人脸变换领悟、背景环境渲染、图像与音频合成等几个关键步骤，其最核心技能包括三个部分，首先是利用深度学习算法精准地识别***中的人脸图像，并提取如眼睛、鼻子、嘴巴等关键面部特色；其次是将这些特色与目标人脸图像进行匹配、更换、领悟；末了再通过背景环境渲染并添加合成后的声音，天生逼真度较高的虚假换脸***。

值得把稳的是，在此类诱骗案背后，同样暴露出用户个人信息透露的严重问题。
除节制AI换脸等核心技能外，获取受害人的通讯录、照片库等个人隐私信息，也是“成功”诱骗的主要条件。

广东省深圳市某网络安全科技公司卖力人肖坚炜先容，很多公民个人隐私信息会在一些渠道被打包***，这些隐私信息除了由行业内鬼窃取***外，另一紧张路子便是利用一些造孽链接、二维码和手机App进行勾引套取。
比如，某些小卡片上会有App***地址，用户只要进行安装，或扫码去看直播、浏览网站等，其通讯录、照片等就可能被传到后台。

随意利用AI换脸存法律风险

事实上，当前AI换脸类诱骗中远不止***杀熟一种套路。
还有些诱骗职员会利用交友软件等渠道领导受骗人进行***谈天，然后通过软件截取受骗者面部特色，再通过AI技能合成黄色***，以此来进行敲诈打单。

“人工智能衍生出的各种新型手段，粉饰不了犯罪分子造孽霸占的目的。
”近年来持续关注“AI与安全”话题的全国人大代表、上海富申评估咨询集团董事长樊芸认为，无论是电信诱骗，还是升级后的AI诱骗，违法者的目的都是不择手段去造孽霸占不正当利益，刑法、反电信网络诱骗法等现有法律是可以对AI诱骗犯罪进行制裁的。

樊芸指出，当前部分网民随意利用AI天生换脸***等行为，也存在法律风险。
根据民法典规定，任何组织或者个人不得以丑化、污损，或者利用信息技能手段假造等办法侵害他人的肖像权。
未经肖像权人赞许，不得制作、利用、公开肖像权人的肖像，但是法律另有规定的除外。
因此，随意制作AI换脸***可能涉嫌陵犯他人肖像权。
民法典规定，对自然人声音的保护，参照适用肖像权保护的有关规定，因此这类行为同样可能涉嫌陵犯他人声音权。
如果在未经著作权人授权情形下，私自利用AI换脸技能等“加工”他人作品，也涉嫌陵犯著作权。

AI换脸诱骗紧张依赖于深度合成技能，对这一技能可能诱发的违法犯罪问题，干系部门也已关注并进行规范限定。

2023年1月10日起施行的《互联网信息做事深度合成管理规定》（以下简称《规定》），为深度合成做事划定了“底线”和“红线”，明确了深度合成做事供应者的法定义务。
比如，任何组织和个人不得利用深度合成做事制作、复制、发布、传播法律、行政法规禁止的信息；供应人脸、人声等生物识别信息编辑功能的，应该提示深度合成做事利用者依法奉告被编辑的个人，并取得其单独赞许；应该采纳技能或人工办法对深度合成做事利用者的输入数据和合成结果进行审核等。

当前很多短***平台和社交平台均哀求用户上传AI天生的内容时要作明确标记，正是落实《规定》中提出的深度合成做事供应者对利用其做事天生或者编辑的信息内容，应该采纳技能方法添加不影响用户利用的标识的哀求。
这些明确标记既可以提醒用户这是AI天生内容，也可以在须要时追溯内容来源。

2023年8月15日起施行的《天生式人工智能做事管理暂行办法》规定了天生式人工智能做事的基本规范，同时明确了天生式人工智能做事的供应者和利用者的责任与哀求，细化了监管部门的管理方法。

完善人工智能领域法律培植

据2023年工信部统计数据显示，我国人工智能核心家当规模已达5000亿元，企业数量超过4300家。
把稳到，在***2023年度立法事情操持中，人工智能法草案被列入个中。
在高速发展之际，多名全国人大代表提出，应不断完善人工智能领域法律法规培植，加快推进人工智能法出台。

全国人大代表、中国电信抚州分公司云网运营支撑中央“宗强班”班长宗强指出，随着人工智能技能的发展，犯罪手段迭代升级，虽然当前已有一些缓解安全风险的掌握方法、技能标准等手段，但人工智能安全风险管理还需与管理手段相结合，健全人工智能安全政策法规至关主要。
他建议推动人工智能干系立法事情，强化AI技能滥用法律约束，为我国人工智能安全管理供应法律支撑。

“当古人工智能算法演习和利用过程中面临的各种数据安全、网络安全、隐私透露等问题，已成为制约人工智能康健发展的关键痛点，亟须形成一套可信人工智能技能标准和评估体系来加以规范。
”全国人大代表、中国移动河南公司党委布告楼向平把稳到，诸如人工智能侵权问题以及虚假天生内容的任务认定、人工智能天生物的可版权性以及权利归属、隐私保护问题等在当前法律制度体系中仍存在一定立法空缺。
他建议加快推动人工智能领域立法进程，促进人工智能家当康健发展。
在人工智能法颁布前，可通过在现有数据安全法、著作权法等法律规定根本上制订行政法规或发布法律阐明等办法阶段性缓解人工智能发展中面临的法律问题。

楼向平还建议明确天生式人工智能“事前—事中—事后”全链条监管机制，要出台人工智能风险等级规范，针对不同类型、不同风险等级，施加不同的监管方法。

全国人大代表、中国电信湖北公司党委布告张敏提出，应增强人工智能技能安全运用的法治保障能力，这个中最主要的便是要加快推进人工智能法的立法事情。

除加快推进立法外，张敏认为还应增强关键信息根本举动步伐智能化安全合规的监管能力。
比如，强化人工智能系统的安全性评估，加强对人工智能算法和模型的审计；严格落实网络安全等级保护的基本哀求，常态化开展安全威胁的智能化监测和处置；提升智能化防护水平，构建更加智能、安全的网络环境。

来源： 法治日报