提出新哀求

人工智能时代若何打造收集安然“新范式”?_人工智能_收集平安 智能写作

随着环球网络空间计策博弈的升级和攻防对抗的持续加剧,网络安全形势正在发生深刻变革。
一方面,网络攻击强度烈度不断升级。
网络攻击手段不断升级、强度持续提升、规模不断扩大,网络攻击主体更加多元,涉及个人、企业、社会组织乃至国家。
另一方面,网络安全形势发生深刻变革。
随着人工智能、物联网、大数据等技能不断创新和相互渗透,网络空间与物理空间高度领悟,二者关联愈发密切、边界趋于模糊。
因此,网络空间攻击可对物理空间造成威胁,乃至引发国计民生领域干系业务结束,安全风险从单点向全局蔓延。

同时,信息技能的持续演进催生了新的安全防护需求。
例如,6G、算力网络、人工智能等新一代信息技能赋能行业创新发展,在“技能红利”加速开释之际,安全问题也愈发凸显,安全防护需求急剧增加。

一是6G多元领悟运用引发增强级安全防御需求。
6G网络具有海量多模数据、多元领悟场景、全域网络领悟等特点,在沉浸式通信、聪慧城市运营、智能制造交互等场景运用方面,产生了轻量化、细粒度、可定制、原子化、可编排等新的安全防护需求。

二是算力网络提速发展面临错综繁芜的安全寻衅。
算力网络已成为千行百业数字化转型的基石底座,“云、网、边、算”等环节安全风险积聚,风险点位和攻击入口增多;算力、网络、管理方面风险交织,安全风险级联影响范围不断扩大。

三是人工智能运用带来新的安全风险。
ChatGPT引发环球大模型竞赛,推动人工智能从专用弱智能向通用强智能迈进,智能水平的跃迁、运用模式的变革加剧了人工智能安全风险。
“类人”的通用强智能使得大模型具有很强的逻辑、影象、理解、推理和天生能力,可以做到举一反三和智能呈现。
但同时,人工智能技能也将大幅降落网络攻击的技能“门槛”,批量“钓鱼”邮件天生、批量漏洞挖掘、批量恶意代码天生等手段,显著加剧整体威胁态势。
此外,人工智能发展也将带来安全风险,包括数据隐私透露、虚假信息泛滥、算法偏见歧视、算法弱可靠性、“数据投毒”等。

在此背景下,传统的网络安全技能已无法知足日益增长的安全防护需求,基于人工智能的新型网络安全技能和产品应运而生。

02

政策、标准就位

“人工智能+安全”风口已至

人工智能技能经由数十年的积累和酝酿,经历了专家系统、机器学习与神经网络、深度学习、大模型四个阶段的发展,终于开启了实践运用之路。
目前,人工智能正驱动新一轮根本举动步伐培植,并与实体经济深度领悟,赋能千行百业,引发“链式”变革。

人工智能计策法规

当前,人工智能家当发达发展,环球紧张国家和地区纷纭发布人工智能发展计策方案,构建人工智能安全标准体系,人工智能已然成为国际竞争的新焦点。
美国公布了《国家人工智能研发计策操持》等一系列环绕人工智能利用和发展的新举措;欧盟委员会发布了《人工智能法案》,依法对人工智能发展进行监管;日本提出了超智能社会5.0计策,人工智能是实现该计策的核心技能之一;韩国也发布了人工智能研发计策。

而我国早在2017年就正式印发了《新一代人工智能发展方案》(以下简称《方案》),从计策态势、总体哀求、资源配置、立法、组织等层面阐述了我国人工智能发展方案。
《方案》还哀求加强人工智能标准框架体系研究,个中包括人工智能网络安全、隐私保护等技能标准。

人工智能干系标准

在人工智能的发展浪潮下,环球紧张国家和标准组织积极研究制订人工智能干系标准。
ISO/IEC JTC1制订了《信息技能人工智能 人工智能可信度概述》《信息技能人工智能风险管理》《信息技能人工智能伦理和社会关注概述》等标准;IEEE制订了《个人数据人工智能代理标准》《伦理驱动的机器人和自动化系统的本体标准》等标准;美国国家标准与技能研究院发布了《关于政府如何制订人工智能技能标准和干系工具的辅导见地》。

2020年,我国国家标准化管理委员会等五部门印发《国家新一代人工智能标准体系培植指南》,哀求建立人工智能标准体系,全面引领人工智能家当规范化发展的新格局。
目前,国家标准化管理委员会和中国通信标准化协会(CCSA)等标准组织正在开展人工智能干系技能研究及标准化事情。

在国家标准方面,2018年1月,国家标准化管理委员会正式成立国家人工智能标准化总体组,卖力人工智能标准化事情的统筹折衷和方案布局,目前已发布《人工智能安全标准化白皮书(2019版)》《人工智能伦理风险剖析报告》等标准规范,正在研究制订人工智能术语、人工智能伦理风险评估等标准。

在行业标准方面,中国通信标准化协会聚焦人工智能大模型的技能、开拓、安全、评估等方面展开研究,正在制订《人工智能开拓平台通用哀求》《可信人工智能 人工智能系统风险管理能力哀求》《移动智能终端可信人工智能安全指南》《天生式人工智能技能及产品评估方法 》等行业标准。

显然,人工智能赋能网络安全已得到足够的政策支持,并且有全方位的标准辅导,我国进入全面智能防护时期指日可待。

03

人工智能助力网络

安全范式转变

人工智能技能的快速发展使得网络安全领域迎来前所未有的变革。
在人工智能的加持下,5G、6G网络安全防护能力将大幅提升,具备内平生安自感知、自适应、自觉展等特点;运营商网络安全运营能力体系培植将更加完善,实现对海量数据的降噪与剖析,对新型、未知网络威胁的自动化监测和预警等。

5G内平生安

基于人工智能技能,在5G设备、5G网络边界、5G网元等多元视角下,构建各种5G网络安全知识库(如增强防御能力规则库、行为库、关联关系库、攻击对抗策略库等);基于5G网络安全知识库,设计并演习人工智能算法,如基于状态和行为特色挖掘的漏洞检测算法、基于API关系图的聚类检测算法、基于行为特色的关联剖析算法等,进而构建5G网元的影象和学习能力系统,实现智能的5G安全感知和检测等。

6G内平生安

6G网络安全将具备主动免疫、弹性自治、虚拟共生和泛在协同四个特点。
主动免疫是指6G网络需构建安全可信的通信环境,使网络根本举动步伐具备一定的主动防御能力;弹性自治紧张是为了适应6G云化网络的安全哀求,因6G的弹性可伸缩网络框架已完备冲破传统的安全边界,以是须要实现安全能力的按需定制、动态支配和弹性伸缩;虚拟共生旨在赋能安全演习训练、安全运维等场景,6G时期物理天下与虚拟天下深度领悟,须要实现物理网络与虚拟孪生网络安全的统一支配,利用数字孪生技能可帮助物理网络实现低本钱试错和智能化决策;泛在协同指的是6G网络将建立“端、边、网、云”智能主体间的泛在交互和协同机制,借助人工智能技能,精准感知网络安全态势并预测潜在风险,进而实现主动防御和风险自动处置。

在6G内平生安框架中,新增独立的安全平面,推动资源层、网络层、运用层和做事层实现智能协同,并灵巧调度网元、设备的安全策略,针对运用与做事按需支配安全功能,进而实现主动、纵深安全防御。

自动化网络安全运营

运营商网络是国家主要的信息根本举动步伐,一旦遭受网络攻击,可能会导致通信中断和业务丢失,因此须要对运营商网络通信系统面临的安全威胁进行监测、剖析和预警。
然而,现有网络安全运营能力尚不能完备知足日益增长的网络安全防护新哀求,须要不断提升安全威胁的检测能力和处置效率。

以人工智能大模型技能赋能网络安全已成为行业共识。
一方面,人工智能技能(如安全沙箱人工智能技能)可用于恶意样本监测,深度学习技能可用于恶意程序家族识别、恶意加密攻击流量监测和DGA(域名天生算法)域名监测等。
另一方面,借助大模型技能,可以自动实行数据网络、提取以及威胁搜索与检测等重复且啰嗦的任务,并通过大略的自然措辞提示实现任何检测、调查或相应事情流程,降落安全运营的韶光和人力本钱;可以对超大规模网络威胁信息进行检测剖析,对海量数据进行精准降噪,深度挖掘数据代价;可以帮助履历不敷的安全运维职员更快更好地作出决策,安全大模型拥有丰富的网络安全知识,具备高等安全职员的逻辑思维和推理能力,可助力运维职员实行繁芜的安全操作,进而提升网络安全运营的智能化、自动化水平。
人工智能大模型赋能网络安全关键技能如图1所示。

图1 人工智能大模型赋能网络安全关键技能

04

结语

目前,人工智能技能在网络安全领域的运用日渐成熟,我国主流厂商已先后推出多款网络安全大模型产品,紧张用于办理网络安全运营告警数据量大、人工剖析研判效率低、高等安全专家资源稀缺等问题。
可以预见,网络安全大模型将以“虚拟安全专家”等形态快速提高网络安全智能化水平,推动网络安全防护更加高效、精准和全面。

本文刊载于《通信天下》
总第947期 2024年7月10日 第13期
原文标题:人工智能赋能网络安全新范式的研究

END

无人驾驶“下一城”在哪?

上天!
中国移动成立星地领悟技能研究所

“萝卜”跑的快烦懑,要看背后的网络强不强

作者:中国信息通信研究院 杨红梅 吴红红 戴爽

责编/版式:王禹蓉

审校:王 涛 梅雅鑫

监制:刘启诚

【通信天下新媒体矩阵】

央*** | 微软MSN | ***号 | 微博 | 今日 | 百家号 | 网易号 | 搜狐 | 腾讯***

新浪看点 | 雪球号 | 抖音 | 快手 | 爱奇艺 | 知乎 | 哔哩哔哩 | 咪咕*** | CSDN | 36氪

【新媒体团队】
监制|刘启诚
审校|王涛 梅雅鑫
编辑|王禹蓉 盖贝贝
***剪辑|黄杨洋 卢瑞旭
运营|林嵩

在这里,读懂通信!
\"大众 data-weuitheme=\"大众light\"大众>
点分享
点收藏