CDA数据剖析研究院出品，转载需授权

人工智能这个观点在良久之前就已经提出了，现在又重新进入人们的眼球，不断的进行发展，但是对付人工智能的好与坏，领域内的专家们都抱有各自的态度，并且在各种影视剧中也有对人工智能的谈论，比如电影《人工智能》磋商了人工智能是否会拥有爱，《闭幕者》描述了未来人工智能觉醒，并反抗人类的故事，这些电影都在磋商人工智能对付人类来说究竟是一件好事or一件坏事。
相信在读这篇文章的你或多或少也有对未来人工智能的判断，或许认为人工智能是会造福人类的，或许会相信人工智能对付人类来说是灭顶之灾，当然你也可能是名中立者，抱着不管我的事或者以为可能是好也可能是坏，要看人类如何利用人工智能。
好的，不管你是抱着什么样的态度，看完这篇文章可能你对人工智能的态度会朝着坏的方向发展。
Statsbot团队网络了人工智能发展中最具有里程碑意义的和最令人不寒而栗的一些故事。

1.同类相食

这个故事是由Mike Sellers见告我们的，他在21世纪初为DARPA做过一些社交的人工智能。
他们打算并且正在培养能够在社交方面代理人进行互换的人工智能。

“在一次仿照中，我们利用了两个代理的人工智能，并且在刚开始自然给他们命名为亚当和夏娃。
他们一开始知道就明白如何干事，但并不知道其他的事情。
列如：他们知道如何吃东西，但是他们不知道吃什么，什么可以吃。
我们给了他们一棵苹果树（说真的，当时我们没有想到给他们这个有什么象征意义），他们创造了吃苹果可以让他们很愉快。
他们也试过吃树，屋子等，但都没有成功。
还有另一个名叫斯坦的代理人工智能，他想要进行社交，但是他并不是很善于社交，以是常常闲逛，有点孤独。

“当然，系统中存在一些BUG。

“以是，有一次，亚当和夏娃正在吃苹果的时候......这便是第一个缺点涌现的地方：他们创造吃的不足快。
于是他们加快速率吃了所有的苹果。
现在，这些代理人学会了遐想：如果他们在看到狗的时候经历了痛楚，他们就会学会将狗与痛楚联系起来。
因此，由于斯坦在他们吃东西时一贯在附近闲逛，他们开始将可怜的他与食品联系在一起（第2个BUG - 你可以看到它的发展方向）。

“在这个非常分外的仿照实验中，正如我们恰巧看到的那样，亚当和夏娃在树上吃完了苹果，但他们仍旧感到很饥饿。
于是他们环顾四周探求其他潜在的可以吃的目标。
嘿，看那是什么，一块行走的食品，在他们的脑筋里，可怜的斯坦看起来就像食品一样。

“以是他们每个人都咬了斯坦一口。

“Bug＃3：人体的质量没有进行精确的初始化。
默认情形下，每个工具的质量为1.0，以是这便是斯坦的身体质量。
每咬一口食品都会带走0.5单位的食品资量。
以是很明显的，当亚当和夏娃都咬了一口斯坦时，他的质量就达到了0.0，然后神奇的事情就发生了 - 他消逝掉了。
据我所知，他是虚拟同类相食的第一个受害者。

“事实上，事后我们不得不从代理中的内部遥测中重修个中的一些内容。
当时我们意识到所发生的统统，那是相称恐怖啊。
在这种人工智能体系构造中，我们试图尽可能少地限定其行为...但是在那件事发生之后，我们确实设置了一个不能吃人的限定：无论他们多么饥饿，它们都不会再去吃对方了。

“我们还确定了他们的体重，他们吃得有多快，并将于其他人的联系从一种食品转变为吃的行为：当你常常和一个人一起用饭的时候，当你再次见到他们，你可能会想吃东西—但是你不会想到把他们当初食品吃掉。

2.你怎么确定你是不是同性恋

近年来，社会中积极谈论了机器学习中的人脸识别算法，用它可以区分同性恋和异性恋，精确度高达91％。
但是该模型在女性中表现较差，以71％的准确率区分了同性恋和异性恋。

在技能方面而言，这个项目非常有趣。
该数据集取自一个约会网站。
分类器采取的人脸面部特色包括固定的（例如，鼻子形状）和瞬态面部特色（例如，润色风格）。

但是我们不能在概率问题上依赖神经网络。
最多10％的缺点率也是很高的。
此外，91％和71％的结果只能通过比较两张照片得到，个中一张是完备同性恋，第二张绝对不是。
哦对了，我没有提到这是在实验室里面给出的结果。
如果将算法开释到自然环境中，那么概率会小得多。

在道德方面，很多人认为这个项目实在是失落败的。
特殊是考虑到在一些国家，非传统的性取向是非法的。
如果政府决定在非常传统的地方推出这个别系，那么面临风险的不仅仅只有男性的同性恋。

3.种族主义和性别歧视的怪物

你们中的许多人该当都知道或者听说过Tay.人工智能的故事，但你知道它在关闭之后又重新启用了么？微软于2016年推出了名为Tay的人工智能机器人。
它隐蔽在一名19岁女孩的化身后面。
他们本身的想法是，Tay会对推文和谈天做出回应，并从普通民众的推文中进行学习演习。
但事情涌现了偏差，一些地方涌现了问题，在上线运行了16个小时之后，Tay变成了一个种族主义和性别歧视的怪物。

但是实际上Tay是非常精良的，她能够处理各种任务，例如，与用户开玩笑，像你发送给她的图片提出建议，讲故事，玩游戏以及将用户的陈述反响给他们。
当然，在线用户教Tay的第一件事便是如何揭橥攻击性和种族主义辞吐。
微软不得不让它下线，而Tay成为了人工智能界的传奇人物。

然而，一周后，Tay回来了。
她出人意料的来到网上，并开始发布与毒品干系的推文，表明她的阴郁面依然坚挺的存在。
很快，她再次被下线，她的帐户也变成了私人账户。

顺便说一句，在之前微软推出了一款名为Rinna的女学生谈天机器人。
她陷入了深深的烦闷，并开始回答一些有关于希特勒的问题。

4.通过摧毁竞争对手取得胜利

我们是在Quora上创造了这个故事，它属于来自夏威夷的ESL老师Shay -Zykova。
这个故事是在一些大学校园的机器人竞赛中展开的。

“每个团队都设计了一个机器人，它的事情便是将”小型机器羊“赶进机器人指定的围栏中。
机器人必须“思考”并为自己制订计策（由于它不能通过操纵杆来掌握），而末了有最多羊的机器人将成为赢家。

“比赛开始了，机器人们猖獗地开始赶羊。
但是有一个机器人将一只羊扔进他的围栏并关上了门。
它的团队很困惑，由于它须要更多的羊才能取得胜利。
然而噩梦发生了，令他们恐怖的是，机器人四处摧毁或让其他机器人参赛者无法动弹。

“它制订的计策规定是，它本身实际上并不是善于将羊赶回围栏中，但它可以做的是肃清掉其他的竞争者，以赢得胜利。
”

我认为在现实生活中的人也会有同样的行为，特殊是当他们无法让自己得到想要的东西的时候。

5.通过停息来让自己不输掉比赛

2013年，程序员兼CMU博士Tom Murphy提出了一个“办理”如何玩NES游戏的程序，就像它只是另一种数学问题一样。
他的想法是，这个程序会做一些事情来提高分数，然落后修如何一次又一次地重现它们，从而得到高分。

他的基本思想是从玩家对游戏输入的简短记录中推导出一个目标函数。
然后利用目标函数来辅导利用仿照器搜索可能的输入。
这使得玩家对付进步的观点能够被一样平常化，从而产生一些全新的游辱弄法。

它适用于各种不同的游戏，如超级马里奥兄弟，泡泡球，吃豆人等。
然而，在俄罗斯方块游戏中，这种方法完备失落败了。

墨菲写道： “虽然掉落的东西看起来或多或少的很自然（但很难不自然，由于游戏会为你掉下碎片），这种放置的办法是很屈曲的 - 比随机的还要糟糕。
这可能是由于放置一块会给带来你少量的积分，这可能看起来像进步，以是有动力尽快的堆叠碎片而不是将它们打包。
“

很快，屏幕就满了，只要“赢得比赛的唯一路子便是不要玩游戏”，那么AI就会停息了游戏。
直到永久。

6.创造属于自己的措辞

在两个人工智能程序溘然开始利用一种只有它们才懂得的奇怪措辞谈天后，Facebook放弃了它们的实验。

当时他们的想法是开拓能够以自然措辞进行多议题互换的谈天机器人。
研究职员哀求他们试着就一项交易与对方进行会谈，试图交流帽子，球和书本，每一种物品都被授予了一定的代价。

建立一个能够与人们进行故意义的对话的对话系统并不随意马虎。
机器人须要将对对话的理解与它对天下的理解结合起来，然后产生一个有助于实现其目标的新句子。
在这项研究中，对话系统的繁芜构造被演习有素的RNN取代，对话策略则通过强化学习进行演习。

在团队让机器人用自然措辞谈天之后，他们之间的实际的对话彷佛变得非常奇怪：

鲍勃：我可以......我可以做其他任何事情..............

爱丽丝：球对我来说是零，对我来说是零，对我来说是零，对我来说是零，对我来说是零，对我来说是零

鲍勃：你是我的统统..........

爱丽丝：对我来说球对我来说是对我，对我来说是对我

鲍勃：我可以做其他事情。
。
。
。
。
。
。
。
。
。
。
。
。
。

爱丽丝：球给我，球给我，球给我，球给我，球给我，球给我，球给我，球给我，球给我，球给我，球给我，球给我，球给我

鲍勃：我...................

有趣的是，以这种奇怪的措辞进行的一些互换乃至终极成功的结束了。
谈天机器人开拓了属于他们自己的措辞，使他们能够更有效地交谈。
由于研究职员想要创建可以与人交谈的机器人，他们决定放弃这个项目。

结束语

以上这些便是我们网络来的一些有关于人工智能的故事，不知道看完这些故事，你心里的秤会更倾向于哪一边。
不管如何人工智能将会在未来不断的发展，并且肯定也将会实现，我们现在的统统谈论都是基于我们针对以往履历来做出的判断，而这个天下的发展，却是在以指数级的进行发展，以是我们能做的也只有不断的学习，以免被这股席卷全人类的浪潮打翻。
如果你有一些有关人工智能的故事或者一些对付人工智能的意见， 欢迎你不才边评论，让我们一起磋商一下。

如果你因此下几种情形之一：

1、想理解更多大数据剖析、数据挖掘、数据科学、人工智能领域的内容；

2、职业遭遇瓶颈，想提升自己在数据剖析或人工智能领域的硬件技能；

3、寻求新出路、新发展，故意向转行到数据剖析行业或人工智能领域。

可点击下面的【理解更多】，获取更多有效信息和内容！