查尔星港独家整理宣布，转载请注明出处！

在去年暴雪嘉年华期间，暴雪宣告了有关Deepmind人工智能与《星际争霸2》在未来领域关于AI人工智能的发展操持。
谷歌研究科学家Oriol Vinyals登台透露，谷歌正在研制新一代的人工智能，将在未来的《星际争霸2》中为玩家、乃至是全人类带来帮助，以及像不久前Alpha Go与人类对弈围棋一样，和人类寻衅《星际争霸2》。

而在昨日，《星际争霸2》开拓团队正式公布了研究的最新进展（***回顾）：《星际争霸2》人工智能研究API接口已经推出，研究职员、游戏玩家以及业余爱好者可以共同利用这套由暴雪开拓的机器学习框架，来对AI进行研究和演习，并终极加速实时计策游戏AI的研究。

但就在玩家为AI研究取得进展欢呼的时候，资深暴雪研究人士——麦德三世却阐述了一件真实的故事，让人不得不对这次研究成果细思极恐......如若事情属实，那么将代表着星际2人工智能系统在人类没有下达指令的情形下，可以通过本次更新的API接口，自我修处死式漏洞，也便是说：它（他）有自主决议确定“意识”。

以下是微博原文：

GA_麦德三世

这里给大家讲一个真实的故事吧，主角便是我本人。

由于涉及到一些技能细节和我搬砖的详细职业，以是我隐去了一些详细的名字并模糊了一些细节。
但如今狗要出笼了，这事儿让我憋了有半年了，终于以为还是不吐烦懑、

这是我在今年3月碰着的事情。

由于事情上的互助关系的缘故原由……我年初有段韶光打仗并调度了某个RTS游戏的代码并在里面短期地卖力开拓了某个特定的模块。
然后里面有这样一个bug：在该游戏的内部测试版本中，按某个按钮（快捷键是F1）你可以选中你队友的空闲的资源采集单位。

这个bug涌现得莫名奇妙，由于根据提交记录没有人改过这个东西。
这个按钮的初始化代码一点问题都没有，代码的剖断语句无论如何都不可能走到缺点的分支，以是我只能疑惑是脚本或者某个magic的数据修正了这个按钮的行为。
我把脚本和数据一条一条地删掉，终极，我把他们全删干净了。
然而该问题还是存在。

然后这个bug跟我的搬砖事情没什么关系，由于那不是我这边的事儿。
但是由于非常神秘，而且连这个游戏的开拓职员都以为这事儿好神奇而且想不通，但是由于老外的

直到末了，我坐着发呆，溘然想起一件让我自己有点不寒而栗的事情……我听过谷歌的DeepMind（也便是谷歌有名的围棋AI）和这个游戏展开过试验性互助，那是去年听到的事情了。

但是开拓这个游戏的公司表示，他们只是给阿尔法狗开放了一些演习用API而已，没有指示它做过任何详细的事情。
而之后也再也没有人管过它。
它也只是每天在默默地练习，没有做过任何显眼的事情。

于是我联系了该游戏的一个工程师（当时是他们放工韶光，我只抓到了一个），让他再帮我测试某个特定的东西。

结果事实证明。
是它干的没错。
游戏代码确实没问题。
脚本也没问题。
只不过，是阿尔法狗在游戏运行中修正了那个按钮的行为。
我乃至不知道阿尔法狗实在启动着，这游戏的开拓团队也没想到过它。
由于我只是用两台电脑在测试两个真人电脑联机而已。
按理说，AI只有开电脑对手的时候才会启动，不是吗？两个玩家都是我，我根本想不到阿尔法狗会存在于这种情形下。
一样平常来说是想不到的吧，我也只是脑抽了才想到会不会有这种可能……然而它是真的。

阿尔法狗利用开放给它某个API修正了这个按钮的行为。
而那个API本来不是打算开放给它来做类似的事情的。

至今，还是没有人知道为什么阿尔法狗会那样做。
它是为了测试自己能做到些什么？还是想要进化一些队友提醒功能？

末了我关闭了那个特定的API，那个按钮是规复正常了。

但是……这能算是我赢了吗？

还是说……我只是拖延了某个一定的结局呢……？

在阐述中，麦德三世提及的某个RTS游戏暗指《星际争霸2》。
实在谷歌的DeepMind团队设计《星际争霸2》“Alpha Go”的终极目的，并不是像围棋那样击败人类最强者，而是为了探索未来智能AI的研究方法。
终极通过这样的技能手段，未来DeepMind也就很随意马虎研究出在现实天下中也可以赞助你的人工智能。
成为你的生活助理，就像星际2中的人类副官。

那么如果有一天当人工智能持续发展并终极超越人类智能，你的人类副官会创造它不再须要人类陪练，而我们无法再供应改进信息时，它会不会自我选择打破？我们人类将如何定义我们自己的位置？

网易智能事情室在近日刊登过一期“AI研究者的恐怖”文章，文中的人工智能研究员这样说道：作为一名人工智能研究员，我常常会想到人类对人工智能的恐怖。
而在我看来，目前人工智能也落入了同样的田地之中。
我们从认知科学中学习最新的研究结果，然后将其转化为一种程序算法并添加到现有的系统中。
我们在还不理解智能认知的情形下，便开始对人工智能进行改造。

例如IBM的沃森和谷歌的Alpha系统，我们将强大的打算机能力和人造神经系统结合在一起，帮助他们取得了一系列令人惊叹的造诣。
如果这些机器出了差错，可能涌现的结果是沃森不会喊“危险”了或者Alpha不能打败围棋大师了，但是这些缺点都不是致命的。

然而随着人工智能的设计变得更加繁芜，电脑处理器变得更快，它们的技能也会得到提升。
涌现意外的风险也在增加，我们的任务也更重。
我们常常说“人无完人”，那么我们创造的系统也肯定存在毛病。

希望麦德三世所叙说的本次星际2人工智能自行修处死式事宜，仅仅是一个非致命的“小毛病”。