若何“愚弄”人工智能?_人工智能_地图
很多人用过手机舆图,导航给生活带来的极大的方便,但是最近,导航舆图碰着了点小麻烦——
外国一名网友,用99部手机放在小拉车里,通过在马路上缓慢行走。
有趣的事情发生了:
在他走过的大街上,谷歌舆图识别出了用户高度集中的地段,还标注了“交通缓慢”。
如果此时有司机途经该路段,舆图会提示司机重新方案路线,避开这条“拥堵”线路。
很神奇,通过大略的办法就可以愚弄一下谷歌舆图。
一、愚弄人工智能?
随着人工智能科技技能的飞速发展,人们生活中的智能化机器越来越多,从居家到出行与人们息息相关,为改进人们生活水平做出了巨大贡献,比如说打车做事、舆图导航、人脸识别、无人驾驶和智能语音等等。
这里头也不乏有厉害的巨子,比如开头提到的谷歌舆图,还有现在的支付宝扫脸支付、特斯拉无人驾驶等等。
人工智能让我们惊艳科技改变生活,也让我们思考:人工智能真的比我们聪明吗?
这个天下上,总有那么一些人,不走平凡路,喜好不按套路出牌,电脑出身的时候,有些人不想好好利用它,而是捣鼓它,这群人后来有了一个名字——黑客,这群人有着高超的技能和超乎凡人的耐力;人工智能的技能产生,彷佛让黑客的门槛变低了,很多人都可以愚弄它一下。
愚弄人工智能的办法大概分这几种:仿照欺骗、逻辑欺骗和平台漏洞:
1. 仿照欺骗
便是在理解人工智能的事情能力,通过物理相似的性能进行欺骗;这种攻击因其不易察觉而引人瞩目。
2017年,一个打算机科学家在一个停车标志上贴了一些贴纸,愚弄了一种常见的图像识别人工智能——自动驾驶人工智能,使自动驾驶的汽车误以为这是一个每小时45英里的限速标志,这个结果肯定会让自动驾驶汽车公司抓狂。
这种愚弄可能会造成车毁人亡,假如放在海内的话,小广告到处贴,指不定这车会作出什么样不可思议的举动。
另一种比较广泛的便是大家常用的人脸识别,实名认证的时候扫扫脸,购物支付的时候扫扫脸。
如果你听到这样的:“某个人成功欺骗包括支付宝和微信在内的人脸识别支付系统,完成了购物支付程序,还用同样的办法乃至进入了中国的火车站。”
很吓人吧?确实,瞬间让很多人担心起“手机钱包”的安全。
这是美国一家名为Kneron的人工智能公司号称自己利用3D面具打破了支付宝、微信的人脸识别系统,还在火车站成功刷脸进站。
虽然火车站不许可你带着一个面具或者一个假人头去坐车,但是密码就写在脸上,往后出门是不是要带口罩了,就像密码保护遮住部分位数一样。
2. 逻辑欺骗
在深度理解和学习人工智能的实现事理和逻辑,环绕产品逻辑做出来的滋扰行为。
我对一件事情印象很深:
当时我刚注册利用了某个购物APP后,正巧朋友家小孩子出生了,我就在上面看了一些小孩子的衣服和玩具,结果接下来的一段韶光一发不可整顿,短信、app推送全是婴儿产品,打开APP,首页“猜你喜好”都是母婴类的产品。
这明显是被电商平台的个性推举打了奶爸的标签,这也是大部分互联网产品的逻辑。
如今,个性推介在各个地方运用广泛,比如电商推举、推举和短视频推举等等,个性推举本来是更好的做事用户体验,结果有些人就钻了漏洞,我见过淘宝刷单的物理外挂——猫池,
还有为了提升短视频浏览量和有名度,几百部手机24小时物理刷视频的僵尸手机集群。
这些属于钻空子赢利的黑客,还有一些闲来无事的搞怪,比如说你朋友圈的总有一个每天跑步第一名的人物,要么他是快递小哥,要么他可能用了摇一摇物理外挂欺骗了手机。
3. 第三种便是平台漏洞
这一种便是传统黑客比较喜好的,深挖人工智能平台的BUG,比较有名的韶光便是“海豚音攻击”。
如今,智好手机、可穿着设备以及智能家居等都搭载着语音助手,Siri、小biu智能家居等语音掌握系统变得越来越盛行,但你以为语音掌握是安全的吗?
如果将语音命令频率转换成为海豚音级别的超声波,由于超出人耳吸收频率的范围,无法被人听见,却可以被手机、智能家居以及智好手表等智能设备的语音掌握系统吸收到。
再利用麦克风的硬件漏洞进行还原成原始的语音命令,就可以让智能语音助手实行海豚音的掌握命令,造成人工智能识别和决策的失落误;
人工智能是美好的,也是薄弱的,轻微愚弄一下就可能变成了人工智障;现有的“深度学习”机器的还是存在一定的局限性。
二、为什么可以愚弄人工智能?
我们来翻一翻人工智能历史——人工智能是打算机的第三次发展浪潮,是对传统打算机的延伸和扩展。
我们先来看看传统的打算机,它的事情事理便是有一个确定的输入,就有一个确定的输出。
对付机器来讲,事理也一样。
机器通过感知到一种旗子暗记,然后作出相应的回应,人工智能也是相仿;你给它一个感知的旗子暗记,通过机器学习后,它会有一个特定的输出,
如果你滋扰了他的输入或者欺骗了他的输入,他便是有缺点的输出的,也便是我们看到的“变成了人工智障”。
现在的人工智能就像90年代的喷鼻香港僵尸片里的僵尸,撒上一把糯米粉在脸上,僵尸就看不见你了!
不过,这也让我想起来一件很好玩的事情:
作为女人,扮装是一件很正常的事情,无论是她扮装还是不扮装,身边的朋友都能认出她来。
但是在一次车站坐火车,现在的火车站是人脸识别扫描进站,无人值守检票。
我前面的一位美女拿着身份证刷了半天,便是没刷进去——原来身份证与本人相差太大。
我瞄了一眼,前面的美女挺俊秀的,便是身份证没扮装,人脸识别失落效了,终于走了又长又慢的人工通道才进站的。
针对机器来讲,她看不出来你有没有扮装,他只知道扮装的你和身份证上的你不一样,轻微的一个扮装就给人工智能产品的运用带来了抓狂的烦恼。
以是提个小建议,下次录入智好手机面部识别密码的时候,一定得扮装的漂俊秀亮,不然就识别不到美女了!
三、拥抱未来
因此,只管人工智能产品具有所有好处和技能带来的便利,但是人工智能产品的薄弱性也不能忽略——矛与盾天生便是一对冤家,人工智能和愚弄人工智能也是一对冤家,在“尔虞我诈”的较劲中,相信人工智能产品能够逐渐强大起来。
虽然完备取代人类的事情的道路还很长,不过很快就会到来;我还是非常光彩自己能生在这样一个时期,有机会能经历人工智能快速发展、融入我们生活的时期。
末了,通过我最喜好的周星驰的话做个结尾:
周星驰:他彷佛一条狗哎!小朋友:他是孙悟空!人工智能:猴子…猴子…猴子…
本文由 @产品包工头 原创发布于大家都是产品经理,未经作者容许,禁止转载
题图来自Unsplash,基于CC0协议
本文系作者个人观点,不代表本站立场,转载请注明出处!