近年来，我国人工智能家当规模快速增长。
据工信部发布数据显示，人工智能核心家当规模超过4000亿元，比2019年同期增长6倍多，企业数量超过3000家，比2019年同期增加15%，在制造、交通、医疗、金融等重点行业形成一批范例运用处景。
“伴随运用处景日益广泛以及利用频次快速增长，人工智能安全风险发生的范围和可能性持续提高。
”中国科学院院士、清华大学人工智能研究院名誉院长张钹认为，以深度学习为代表的算法爆发拉开了人工智能浪潮序幕，在打算机视觉、智能语音、自然措辞处理等浩瀚领域取得长足发展。
但以数据驱动的第二代人工智能在可阐明性、稳健性方面的毛病也逐渐暴露出来，导致安全事宜频发。
如何实现高质量发展和高水平安全良性互动，是当古人工智能家当面临的最为主要命题。

中国信息通信研究院发布的《人工智能白皮书（2022年）》同样指出，随着人工智能运用暴露出各种风险和寻衅，以及人们对人工智能认识的不断深入，人工智能管理已经成为环球各界高度关注的议题，对可信安全的呼声不断增多。

“人工智能安全风险紧张从‘人’与‘系统’两个角度阐发。
从人的视角看，人工智能安全风险存在技能滥用乃至‘武器化’问题。
”北京瑞莱聪慧科技有限公司CEO田天以深度合成技能为例阐明，该技能能够大幅提升内容制作效率与质量，但其负向运用——深度假造的风险正持续加剧且已产生本色危害。
比如，通过“AI换脸”捏造虚假讲话***等勾引公众舆论。
对此，清华大学人工智能研究院根本理论研究中央主任朱军认为，技能是中性的，应加强对运用处景、利用者的监管，防止技能滥用等衍生风险发生，保障其运用可控。

大赛现场演示的人脸识别破解则展示了人工智能系统层面风险，它来自深度学习模型本身存在薄弱和易受攻击的毛病，通过输入数据添加扰动，使系统作出错误判断，导致其可靠性难以得到信赖。
这一漏洞在自动驾驶感知系统同样存在：正常情形下，自动驾驶系统识别到路障、指示牌、行人等目标后，会立即制动车辆，但对目标物体添加滋扰图案后，车辆感知系统就会出错，引发碰撞危险。
“与传统信息系统不同，人工智能系统存在高度不愿定性，技能漏洞更为繁芜。
”朱军建议，在算法模型外支配安全防护组件，利用算法安全检测与防御加固等方法，抵御模型盗取、对抗样本等新型攻击，提高攻击门槛与防御本钱，让攻击者无利可图，从而在源头上实现安全。

北京航空航天算夜学软件开拓环境国家重点实验室副主任刘祥龙则认为，构建科学评测手段是提高人工智能系统防御能力的另一项有效办理方案。
人工智能算法不仅种类浩瀚，还包含数据集、模型等浩瀚要素，涉及演习、测试、验证等多个环节，这使得人工智能算法安全性评测成为一项繁芜命题。
因此，应配备从测试、剖析到加固的完全技能手段，形成标准化测试流程。
人工智能安全评估不仅局限于算法，未来还应拓展至数据、运用等多个层面，形成全面测评，保障人工智能全周期安全。

从长远看，人工智能安全问题须要从算法模型事理上探求打破口。
张钹提出构建第三代人工智能，即在第二代人工智能具有的数据、算法、算力3个要素根本上，再领悟知识要素，建立新的可阐明、稳健的人工智能方法。

筑牢人工智能安全樊篱须要不断在攻防演习训练中升级对抗能力。
大赛聚焦人脸识别、自动驾驶等场景中的范例漏洞及风险，通过考察漏洞创造、挖掘等能力，探求新型安全需求场景，推动人工智能安全攻防技能创新，为强化人工智能管理体系与安全评估能力培植供应支撑。

作为人工智能家当发展主要基石，算力根本举动步伐的加快培植将知足人工智能爆发式增长的算力需求。
国家工业信息安全发展研究中央日前发布的《人工智能算力根本举动步伐安全发展白皮书》指出，安全的算力根本举动步伐应保护数据模型不被盗取，有效戒备恶意攻击，供应可信任的运行环境，保障人工智能系统安全稳定。

但人工智能算力根本举动步伐发展仍处于初期阶段，专门的安全标准、技能体系、评估规范、监测和检讨手段仍在培植中。
为进一步推动人工智能算力根本举动步伐安全发展，国家工业信息安全发展研究中央副主任何小龙认为，算力根本举动步伐与人工智能的安全问题相互交织，应构筑具有针对性的一体化、全链路标准体系，实现协同联防。
同时，鼓励算力根本举动步伐企业和算法企业加强互助，推动安全技能工具集成到人工智能算力根本举动步伐中，降落企业运用人工智能本钱，形成安全发展良好氛围。
（经济日报 李芃达）

来源： 经济日报