2024世界人工智能大年夜会 | 齐向东:用好“AI+安然”促进数字化转型_数据_风险
人工智能是引领新一轮科技革命和家当变革的核心技能,为各行各业带来了全新赋能和全新机遇。但在享受人工智能技能红利的同时,也不能忽略随之而来的安全风险。齐向东总结,AI的安全风险紧张来自三个方面。
一是AI本身存在安全风险,数据污染和投毒轻而易举。二是AI运用存在安全风险,数据透露和数据滥用防不胜防。当员工向人工智能工具“投喂”数据时,极易造成敏感信息、核心机密和其他数据透露风险;更恐怖的是,不法分子还能利用所节制的信息和数据,通过AI深度假造技能创建虚假身份,进行换脸、换声,达到不可告人的目的。三是AI被黑客利用加剧安全风险,饱和式攻击专横獗。天生式AI可以天生恶意软件、钓鱼邮件,也可以快速创造目标系统中的漏洞,从而加速和扩大攻击规模,这大幅降落了网络攻击门槛,网络攻击数量大幅增加。
AI引发的安全风险固然不容忽略,但同时,当AI在网络安全领域被精确利用,也能够进步提升安全能力,更加高效、智能地对抗网络威胁。齐向东表示,针对攻击者打破单点设备、打破防护体系、隐蔽踪迹的三个进攻阶段,AI能给安全防护带来十倍、百倍乃至千倍的效率跃升,将攻击扼杀在事发之前。
如何用好“AI+安全”,为数字化转型供应助力?齐向东提出,要积极构建高可靠人工智能安全体系,着力为用户供应有效的安全防护,既要用AI去驱动安全,又要做好AI自身安全。第一,高质量的数据是高水平AI的根本。第二,体系化的网络安全培植是AI发挥效率的平台。第三,统一的标准能为AI驱动安全的体系化落地肃清障碍。一方面,统一的数据输入标准,能让AI读懂“多国措辞”,完成体系化剖析;另一方面,要统一指令输出标准,让AI实现跨设备、跨系统的能力协同和全局联动。不仅如此,还要做好AI自身的安全防护,让安全合规贯穿全生命周期,确保AI在需求侧落地运用。
文/北京青年报 温婧
编辑/野外
本文系作者个人观点,不代表本站立场,转载请注明出处!