秦志伟

随着人工智能的迅猛发展，一些利用Deepfake（人工智能换脸工具）深度假造技能制作的换脸***也在网络上习认为常。
这项技能乃至被别有用心的人利用，成为履行诱骗、诬陷等恶行勾当的工具。

“要用人工智能（AI）来检测恶意AI。
”清华大学人工智能研究院教授朱军说。

在2021天下人工智能大会上，依托清华大学人工智能研究院成立的孵化企业——北京瑞莱聪慧科技有限公司（以下简称瑞莱科技），发布了一款能够一秒识别真伪的鉴别“神器”——DeepReal深度假造内容检测平台，让“假脸”无处遁形。

中国科学院院士、清华大学人工智能研究院院长张钹曾提出“第三代人工智能”的观点，也便是安全、可靠、可信的人工智能。
在他看来，DeepReal平台是一个很好的技能应对。

AI也会“作歹”

人脸是人类身份信息识别最为显著的特色之一。
然而，随着AI技能的飞速发展，这统统正在被深度假造技能所瓦解。

深度假造也被译作深度造假，译自英语Deepfake，是打算机的“深度学习”（Deeplearning）和“假造”（fake）的组合。
所谓深度假造，是指把图片和声音输入机器学习的算法，从而可以轻易地进行“面部操作”，即把一个人的脸部轮廓和表情放置在其他任何一个人的脸上，同时利用对声音的逼真处理，制造出实为合成却看似极真的***，用以躲避识别、稠浊视听、娱乐用户及实现其他虚假宣扬的目的。

近年来，造孽利用AI技能假造他人肖像吸引流量牟利，乃至从事侮辱、诋毁、网络诱骗、色情宣扬等违法犯罪活动的案例已习认为常。

“科技是发展的利器，也可能成为风险的源头，AI的发展也不例外。
我们既要抓AI的创新发展，也要抓AI的管理，两手都要抓。
”张钹说。

束之有“术”

门槛低、影响大、变革快是深度假造技能的显著特色，且肉眼难以识别，更无法大量检测。

朱军表示，实网环境中的假造***不断变革，须要有强对抗的手段加以遏制，最好的方法便是“深度检测”。
而在检测效果上，不仅要有高准确率与高效率，还须要具有可阐明性，让检测结果可靠、可信服。
此外，要能够快速即时应对新型的深度假造类型。

针对以上痛点，瑞莱科技基于第三代人工智能技能研发出了DeepReal，能够通过研究深度假造内容和真实内容的表征差异性辨识、不同天生路子的深度假造内容同等性特色挖掘等问题，快速、精准地对多种格式与质量的图像进行真伪鉴别。

检测准确率是衡量该平台代价主要的指标。

瑞莱科技副总裁唐家渝先容，检测效果紧张受到数据集多元化程度和算法可靠程度两个成分的影响。
DeepReal深度假造检测平台算法基于大数据量进行演习和测试。

据先容，截至目前，该平台数据量已达到千万级，数据集已覆盖三大类，包括学术深伪数据集、网络深伪数据集和自研深伪数据集。
同时，通过结合贝叶斯学习框架和深度神经网络，来估计模型在预测新样本时的不愿定性。

在测试结果上，DeepReal在学术数据集和ZAO等主流办法天生的网络数据集中，已达到99%以上的准确率。
而在实际运用中，DeepReal的检测准确率也已达到业界顶尖水平，远超 Facebook此前举办的Deepfake检测寻衅赛所公布的最好成绩。

此前，瑞莱科技团队在国际安全极客大赛GeekPwn 2020 首届 CAAD 虚假人脸 AI 识别大赛上，以绝对上风独占鳌头；在国家网信办与公安部共同辅导的第二届“中国人工智能·多媒体信息识别技能大赛”中，斩获“创新之星”奖以及深伪检测竞赛A类奖。
此外，DeepReal在深伪干系领域也已揭橥顶级会媾和期刊论文十余篇。

值得一提的是，DeepReal深度假造内容检测平台可实现每帧画面的检测韶光仅用时30毫秒。
同时，还支持横向拓展与集群支配。
检测完毕，平台还支持天生检测报告。

AI界的安全之盾

事实上，深度假造技能的滥用，给个人生活、国家安全和社会稳定带来诸多问题和寻衅，而且随着仿真精度的提升，这种问题有愈演愈烈的趋势。

今年1月1日正式施行的《民法典》明确规定，任何组织或者个人不得以丑化、污损，或者利用信息技能手段假造等办法侵害他人的肖像权。
未经肖像权人赞许，不得制作、利用、公开肖像权人的肖像，但是法律另有规定的除外。

也便是说，禁止利用信息技能手段假造的办法陵犯他人的肖像权和声音。

据唐家渝透露，针对深度假造技能的戒备，他们已与工业和信息化部、公安部、国家互联网应急中央等多家机构展开深入互助。

此前，该公司就与国家工业信息安全发展研究中央联合制订我国人脸模型算法自身安全干系的第一个标准《信息安全技能人脸比对模型安全技能规范》；作为第二编写单位与中国信息通信研究院联合体例《人工智能安全框架（2020年）》蓝皮书。
此外，他们也参与包括机器学习算法安全干系的国家标准以及人工智能合成音***、人工智能生物特色识别干系的行业标准等多项标准的制订事情。

唐家渝表示，未来DeepReal平台将在网络虚假内容甄别、人脸资料审核以及影像物证真实性考验等实际运用处景中发挥强大浸染。
而瑞莱科技也将持续迭代技能、打磨产品，确保在这场深度假造的“攻防战”中持续发挥浸染。

来源： 《中国科学报》