让人工智能敌我不分的病毒到底有多厉害?_人工智能_数据
最近呀,“新基建”这个词溘然爆了,通过了疫情磨练的人工智能,也等来了属于自己的高光时候。
但是,人工智能也难逃被攻击的命运,而且过程悄无声息,后果难以预见。
被攻击的人工智能想象一下,夏天来了,空调和 WiFi 已经配齐,只需一个冰西瓜,便是人间值得。于是,你揣动手机出门买瓜,走进小区门口的水果店,几十个貌美如花的西瓜正等着你翻牌子,关键时候,你却犹豫了:到底哪一个甜呢?
图片来源于网络
这个时候,你想起了妈妈的话:耳朵凑近,用手拍一拍,声音“空灵”的瓜,便是好瓜,又熟又甜,如果声音很沉闷,八成还不熟。于是,你左拍右拍之后,拎着两个瓜回家了,切开一尝,只有一个甜。
失落望之余,你打开浏览器,在搜索框里输入“怎么挑选西瓜”,只用了零点几秒,你就知道了更多方法,比如外皮颜色深奥深厚,就解释熟透了,甜;瓜屁股小的瓜,口感更好;在水里能浮起来的瓜,又熟又甜...。
照着网上的挑瓜攻略,你在瓜届勉强入了门,能大概率的选到又甜又脆的西瓜。
但是,有一天,你有了女朋友,这才创造,女朋友喜好吃的是又甜又沙的西瓜,为了博女朋友一笑,你又开始搜索“怎么挑选又甜又沙的西瓜”。
好烦呀。
你干脆关掉浏览器,敲起了代码,用搜索出的选瓜标准做了一个打算机程序,手动输入又甜又沙的西瓜特色,这便是传统机器学习,须要每一步手动下定义,随着定义越来越丰富,打算机就能越来越准确地辨别出目标物体。于是,每次买完瓜回家,你都要根据本次挑瓜标准和实际口感,在程序里修正相应的规则,但是,要想得到一个全面精准的挑选西瓜规则,非常困难。由于品种多,产地多,你不可能通过人工下定义,穷举出涵盖全宇宙的最佳西瓜挑选规则。以是说,传统的机器学习效率很低,准确率也不高。
很绝望对不对?生活该当大略点嘛,这时,你溘然想到,为什么不让打算机像人一样,自己总结规律呢?
图片来源于网络
于是,你在网上搜索,国产的瓜都有什么品种,什么纬度的瓜甜度高,源自哪些国家的入口西瓜成熟度高档等、等等,尽可能多的搜集到数据后,你做了一个数学模型,让打算机自己去总结因果联系,这便是深度机器学习,能够以人的判断为标准,像人一样去总结规律。
此时,可以说,你就拥有了一个人工智能。
图片来源于网络
这下,你基本不用担心买不到又甜又沙的西瓜了,女朋友稳了。
不仅如此,夏天结束后,不管是春天的草莓,秋日的柚子,还是冬天的甘蔗,你都可以用大量的数据去演习模型,这下,只要你想,就没有你不会挑的水果。
这里强调一下三者的关系:深度学习是实现机器学习的方法之一,机器学习则是实现人工智能的方法之一。
但是老话说的好啊,防人之心不可无,你切切没想到,竟然有人由于妒忌你有女朋友,而对你的人工智能下了手。此人趁你不备,偷偷修正了机器用来学习的样本数据,导致你在女朋友最想吃西瓜的时候,买回了一个既不甜也不沙、乃至都不太熟的瓜,气的女朋友摔门而去。
图片来源于网络
你忍不住仰天长问:这到底是怎么回事?我来见告你吧,你刚刚遭遇了一场“数据投毒”。
毁坏于无声的 AI 病毒数据投毒是一种恶意攻击,目标是深度机器学习的样本数据,手段是投毒。
《植物大战僵尸》你肯定玩过吧,就算没玩过也该当听说过。游戏里面有一栽种物,叫做魅惑菇。这货可绝了,你只要种下它,它就能魅惑一个僵尸为你而战,六亲不认地把恶行的双手伸向自己的同类,咬去世一个是一个,以是说,俊秀的蘑菇都有毒。(跑远了,快回来~
图片来源于网络
人工智能是在弘大的数据海洋中演习出来的,数据的完全性非常主要。如果数据不完全,在数据缺失落或有误的区域,人工智能就懵圈了,只能原地自闭,就像你的挑瓜人工智能,如果哪天见了一个蓝色的新品种瓜,它肯定就蒙了:这是谁?我在哪儿?我要干什么?数据投毒恰好便是对数据完全性的一种攻击,不是给数据掺点沙子,便是下点毒,勾引人工智能产生缺点、乃至是危险的认知。
大数据时期,凡事彷佛都得跟人工智能沾点边儿,才不至于弱了气势,以是你瞧,什么智好手机、智能监控、智能汽车,听着就不是路边摊的货物,但现实却是,戴上一个分外眼镜,就能轻松解锁别人的手机;胸前贴一张特制贴纸,就能在监控中隐形;一支激光笔,就能让正常行驶的智能汽车转头逆行,究其缘故原由,便是人工智能系统学习用的数据样本,被坏人“下毒”了,这才六亲不认、敌我不分。
溘然有个疑问:遭遇数据投毒的人工智能,还会遵守「机器人三定律」吗?如果答案是否定的,试想有一天,赞助人类生活的人工智能,在遭遇数据投毒后,溘然失落控,我曾被科幻片《机器公敌》(我,机器人)中恒河沙数机器人瞩目的噩梦,恐怕就要回来了。
图片来源于网络
以是说:保重生命,阔别毒品;保护数据,大家有责。
嗨,这里是浅黑科技,在未来面前,我们都是孩子。想看更多科技故事,欢迎戳→微信"大众号:浅黑科技(qianheikeji)
本文系作者个人观点,不代表本站立场,转载请注明出处!