AI病毒比通俗病毒恐惧百倍人工智能的阴暗面易感染难根治？_病毒_人工智能

2024-12-08 11:22:44 科技快讯

铅笔道专栏作者 | 智能相对论

AI病毒比通俗病毒恐惧百倍人工智能的阴暗面易感染难根治？_病毒_人工智能科技快讯

普通电脑病毒有招可防，但AI病毒可以通过人脸识别，语音识别，大数据剖析等实现对用户的侦测与剖析，让人防不胜防。

在刘慈欣的科幻小说《中国2185》中，除领土、领海、领空之外，还有一个被称为电子领土的地方，这个地方除了随意马虎受常规武器毁坏外，还随意马虎受到软件武器的威胁。

软件武器分为软件病毒和软件炸弹两大类，个中软件病毒是一种程序，它在电脑系统中碰着一个程序时，就把自己复制成两份，个中一份进入到所碰着的程序中，以毁坏这个程序，并随着这个程序把自己传染到电脑网络系统的其它部分。
软件炸弹和软件病毒类似，但它仅仅是在电脑系统中飞快地复制自己，使自己的数量以几何级数增长，末了占敌方电脑系统的内存而使其系统瘫痪。

事实上，伴随着人工智能技能的发展，AI病毒乃至比小说中描述的还要刁悍。
最近，IBM研究院在打算机安全大会BlackHat上展示了他们制造的恶意软件DeepLocker。
它“静若处子，动若脱兔”，卧薪尝胆18年也在所不惜，只有目标涌现时才会精准产生发火。

普通病毒尚有招可应，AI病毒则致毁坏于无声

《神雕侠侣》中的杨过在石壁上创造了剑魔独孤求败刻下的字，个中有这么几句：

「紫薇软剑」三十岁前所用，误伤义士不祥，仇恨无已，乃弃之深谷。
重剑无锋，大巧不工。
四十岁前恃之横行天下。
四十岁后，不滞于物，草木竹石均可为剑。
自此精修，渐进于无剑胜有剑之境。
在这之中提到了三把剑：紫薇软剑、玄铁重剑、无剑。
智能相对论（aixdlun）剖析师雷宇认为，这三把剑可以预示电脑病毒发展的三个阶段。

第一阶段：紫薇软剑，用剑作为“器”的性状来发挥威力。

这一阶段的代表是熊猫烧喷鼻香病毒。
熊猫烧喷鼻香作为一种蠕虫病毒的变种，2007年，在全国范围盛行，被传染用户系统中所有.exe可实行文件全部被改成熊猫举着三根喷鼻香的样子容貌。
虽然这款病毒能自动传播、自动传染硬盘且毁坏力大，但只要用户及时***更新杀毒软件，或者一些杀毒软件推出的专杀工具，就可以对熊猫烧喷鼻香病毒进行查杀。

对付以“器”的形状发挥威力的病毒来说，只要有更厉害的“器”，便可制服。

第二阶段：玄铁重剑，通过一些特定的招式驱动剑。

2017年5月，wannacry敲诈打单病毒环球大规模爆发。
被该打单软件入侵之后，用户系统的图片、文档资源等都会被加密，同时桌面上会弹出打单对话框，向用户打单一定数额的比特币赎金。
最周造成很多打算机用户的主要资料丢失，丢失巨大。
事实上，WannaCry紧张是利用Windows系统漏洞传播，打上安全补丁就可以有效戒备。

对付以特定招式发挥威力的病毒来说，只须要在招式上改进，功力精进倒也可以避免这种威胁。
但是，AI病毒却让人防不胜防。

第三阶段：无剑，以无剑胜有剑。

AI病毒可能节制繁芜和灵巧的对抗样本，“欺骗”杀毒软件，“偷偷隐蔽”，并不好对付。
DeepLocker的针对性特殊强，而且它隐蔽在某些软件中，用户毫无知觉的将其***。
它可以通过人脸识别，语音识别，大数据剖析等实现对用户的侦测与剖析，但是程序并不会显示它正在进行某种操作。

一样平常目标属性识别采纳了繁芜的DNN构造，目标属性和密匙则被加密到了DNN中，只有通过DNN来判断多个维度的目标属性符合时，病毒才会启动攻击，不再“深藏功与名”。

实际上，AI病毒有点像扫地僧，看似不起眼，实则因此不变应万变，要么不出招，要么放大招。

AI病毒大概专横獗，但AI对抗AI的“一出好戏”正在上演

Darktrace（中文或可译为“白夜追凶”？）是一家市值超过8.5亿美元的英国公司，紧张采取人工智能办法来保障网络安全。
不仅能够应对人类黑客的攻击，而且还能搞定机器学习的威胁。
该公司主推的一款产品名为“企业免疫系统( Enterprise Immune System )”，利用机器学习技能增强自身防御能力，把大部分网络攻击在追踪过程中消灭掉。
除此之外，以色列初创公司SecBI也相继推出了更前辈的机器学习和AI技能来大家网络黑客打击。

AI病毒无孔不入，资产数据成“出头鸟”

AI病毒最常见的行为便是对资产和数据的网络敲诈，以下是针对49个组织的345个网络安全预测。

数据来自文章《Cybersecurity in 2017: A roundup of predictions》，2017

物联网的安全问题被排在了首位。
工厂设备，医院的核磁共振设备以及自动贩卖机破坏时，须要及时修复，不然势必会让网络黑客或AI病毒有机可趁，涌现须要支付赎金才能规复联机的情形。
同时须要及时备份数据，不然企业很可能会在数据规复上再大费周章。

由于现阶段对物联网软件和硬件的内部事情机制的理解非常有限，如果物联网设备被盗用，很难说会发生什么。
《物联网安全》一书中曾提到，数据，无论是***、音频、环境或其他敏感信息，每每都可以通过受入侵物联网设备盗取出去，可能还会为犯罪分子供应组织有代价的信息来利用。

每隔不久我们就会看到不法分子盗取***乃至微信，骗取其好友钱财的，为什么这样的事会屡禁不止呢？除了被害者缺少安全意识，还有便是现在的手段越来越高阶。
比如AI病毒可以通过学习被攻击工具的电子邮件，谈天记录，语音等，模拟受害者的写作风格和语音语色，从而进行诱骗。

大概在未来，对面和你语音，斗图，侃房价的那个人，是想骗你钱的AI病毒。
更恐怖的是，你可能很难区分，毕竟前不久在谷歌开拓者大会上亮相的语音助手就险些与真人无异了。

当AI病毒开始攻击AI，AI还能“绝地反击”吗？

AI攻击AI，每每会使人工智能系统精度低落终极使得输入结果涌现偏差。
实际上，影响不仅仅在于把猫识别成老虎这样的小事。
更恐怖的是，具有定源、定向攻击的病毒误导机器，比如在无人驾驶中，把长颈鹿识别成塑料袋，把绿灯识别为红灯等。
而这产生的后果不堪设想。

但在AI病毒攻击AI之前，它也须要节制一些“敌情”。
紧张有如下两点：

1.数据。
包括用于演习网络的演习数据集、网络构造（详细包含神经网络的层数及类型），神经元的激活函数、权重及偏置项矩阵等。

2.算法。
“敌方”演习数据以及演习网络时的算法细节。