小时候，我听爸爸妈妈说最多的一句话便是：“你不懂！
终年夜之后你就明白了。
”

以我五岁的智商，我把这句话翻译为：滚蛋。

我内心是不服的，大人判断一件事情的逻辑，难道就真的没办法给小孩子阐明明白？一种被当成智障的屈辱感油然而生。
。
。

这种事情在人生中反复发生，例如多年后，一个妹子泪眼婆娑地望着我说：你不懂！
然后转身消逝在夕阳的余晖下，那辆玛莎拉蒂里。
留下我默默地推着自行车百思不得姐。

多年后我才创造这个事实：你的朋友、亲人、爱人、你所珍惜和依赖的人，当他说出“为你好！
”“你不懂！
”“听我的！
”的时候，多数是由于没办法给出让你理解和信服的阐明。

你看过《ET》吗？两个人之间的互换，并不比人和一个外星人互换更大略。
你可以细品品。
。
。

然而我究竟想说：

一万句“我爱你”，不如一句“我懂你”。

试图理解，是我们的本能。
事实上，理解一个人很难；理解一个人工智能也很难。

接下来的五分钟，我们就来谈论两个科幻问题：

1、我们有没有可能理解人工智能的每一个决定？

2、如果有，我们用什么方法来理解人工智能？

邢新宇

邢新宇，便是本日的主咖了。
这位宾州州立大学的教授，在和京东安全互助，试着用算法来阐明人工智能的每一个决策。
（至于为什么是和京东安全互助，看到后面你就明白了。
）

Let's ROCK

1、我们真的可以“懂”人工智能吗？

先纠正一下绝大部分人的误区：

如果你以为，人们可以像理解“1+1=2”那样理解人工智能所做的每一个决策。
那么恭喜你，请关注浅黑科技，来日诰日连续来打卡学习。

事实上，人工智能的绝大部分决策，人是不能理解的。
哪怕是制造他们的科学家——这些人工智能的“爸爸妈妈”也不能理解。

你可能会说，纳尼？人造出来的东西，自己怎么会不理解？

举个例子，当年我们的先人发明钻木取火的时候，他们实在并不懂燃烧的事理。
先利用，后理解，这本便是我们认识天下的规律。

举一个大多数人都知道的例子：

阿法狗，这个最著名的人工智能围棋大师。

在详细的对弈中，科学家爸爸只为它设定了目标——赢得比赛，却根本没有规定阿法狗必须按照人类的套路来落子。
当然也正是由于如此，它才有可能“青出于蓝胜于蓝”，完虐柯洁大棋渣。

人工智能的决策过程，就像这个男人画画一样，全程察看犹豫者都会感到“莫名其妙”，直到末了一秒绝杀，你才会恍然大悟。

OK，误区纠正完毕，结论是：

从某个角度看，人工智能的水平已经超过人脑太多，如何理解人工智能（AI），实在是个国际难题。

如果只是用 AI 下个棋，不理解也就不理解了。
但是，AI 可是越来越遍及，这个我们无法理解的东西开始环绕在生活中，就像一个朋友，他永久戴着面具和你说话，想想就让人头皮发麻。

邢教授举了几个栗子：

在美国军队，现在已经在无人机上安装了 AI，可以自主实行攻击任务。
但是，这个 AI 肩负了一个主要职责，那便是只能攻击军事目标，不能误伤平民目标。
这时，如果 AI 失落手，分分钟便是几十条人命。

在华尔街，金融大鳄们已经开始用人工智能来编写量化交易程序，人工智能会根据自己的判断，选择买入和卖出股票。
这时，如果 AI 失落手，分分钟便是几十亿高下。

在京东，安全研究员已经开始用人工智能来识别恶意账号。
人工智能会自动判断哪一个账号有刷单嫌疑，然后进行封号。
这时，如果 AI 失落手封杀缺点，分分钟投诉电话就会挤爆客服。

你可能知道著名的阿西莫夫机器人三大定律：

第一定律：机器人不得侵害人类个体，或者目睹人类个体将遭受危险而袖手不管；

第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；

第三定律：机器人在不违反第一、第二定律的情形下要尽可能保护自己的生存。

阿西莫夫“机器人三大定律”

好，现在机器人把你逼到墙角，然后见告你：为了您丫的利益，请干了这碗翔。
（这条哀求完美符合第一第二第三定律，想不明白的加我微信谈论。
）

你内牛满面：吃翔可以，但老板您是不是须要给我个阐明先。

这下你明白了吧。
我们想阐明 AI，不仅是由于好奇，更是由于某些时候 AI 一旦犯错，会让我们付出很大的代价。

啰嗦了这么多背景知识，我们到底有没有可能对人工智能进行阐明呢？接下来上干货。

2、你想看到人工智能的思想内部吗？我们做到了！

如果你想研究人的生命特色，显然并不能解剖一个活人。
那么，你有什么好方法？

你可以去解剖一只猴子。
理解了猴子的生理机制往后，就可以类推到人类。

邢教授说。

实际上，他和京东安全互助研究的“人工智能解析技能”，便是类比了猴子和人的关系。

这个被用来阐明人工智能的“猴子”便是：

高斯稠浊模型

我知道，我的文章里每涌现一个“生词”，读者就会跑掉一半儿。
向毛主席担保，这是本篇文章唯一的生词。
爱我别走。

啥是高斯稠浊模型呢？

举个例子吧：

如果说人工智能的核心技能“深度学习”是一个打算器，那么高斯稠浊模型便是一个算盘。

为什么这么说呢？给你阐明一下：

1、打算器和算盘的事理完备不同，但是他们的浸染类似。

2、打算器的效率高，但是难明得。

3、算盘的效率低，但是每一步的“三下五除二”的事理都能给别人讲清楚。
（这就叫可阐明）

你想想看，如果一家几万人公司（例如京东）的财务用算盘来算账，只要有足够多的韶光和人力，是能算明白的。

当然在现实中，不会有人傻到用算盘而不用打算器（或者 Excel）。

这个比喻是为相识释：

算盘可以用来阐明打算器的事理；同样，高斯稠浊模型也可以阐明人工智能：

1、理论上，高斯稠浊模型（算盘）可以代替深度学习（打算器），但是，会耗费多几个数量级的存储和算力。

2、也正是由于效率的问题，在实际中，高斯稠浊模型只可以用来“阐明”人工智能，而不能代替它。

还记得在三体里，大刘写到了“人肉打算机”这种东西吗？实在，这便是一种对打算机事理的“阐明”。
用人肉来仿照打算机理论上是行得通的，只是，恐怕秦始皇也难以征发这么多人来做这件事。

不过，仅仅是“阐明”这一个浸染，对付邢教授来说就足够了。

把稳，邢教授见告我：这个神奇的数学模型，可以仿照统统智能决策，包括人的决策。

那么，我们打开人工智能的脑壳，究竟看到了什么呢？

3、我们看到了若何的天下？

我又想起我妈常常说一句话： 真不知道你那小脑袋里整天想的是什么。
（幸好当时我妈不知道我想的是什么，否则她会大吃一惊。
）

同样，当我们真正看清人工智能的“小脑袋”里想的是什么的时候，还真是会大吃一惊。

举个例子吧。

人工智能一个日常操作，便是判断一张图片里的人究竟是男人还是女人。

判断男女，统共分三步：

1、给人工智能看一堆男人的照片

2、给人工智能看一堆女人的照片

3、它根据这些资料自学成才。

机器用来学习的资料就像这样

科学家用这种方法演习人工智能之后，会创造在某些时候，人工智能的判断还是会存在缺点。
也便是把男人认成了女人，把女人认成了男人。

这是为什么呢？

如果在原来，由于人工智能不可阐明，人们也就不知道它犯错的缘故原由。
但是，邢教授用“剖析模型”剖析之后创造：

原来用于学习的照片里，所有男人的背景都有不同程度的蓝色，而女人的背景里，都有不同程度的赤色。
而人工智能傻傻地认为，背景里有蓝色，这个人是男人的概率就更大；有赤色，是女人的概率就更大。

你可能以为，用背景的颜色判断男女，这不是有点智障么？

没错，当你看懂之后，会创造自己赖以依赖的人工智能，便是这么智障。

这是一种顿悟。

我们睁开了看天下的另一双眼睛。

邢教授把这种技能用于真正的商业场景中，还创造了很多有趣的功能。

举几个栗子：

1）漏洞研究

险些所有的程序都存在漏洞。
以是，我们要把漏洞找出来。

现在的“漏洞挖掘奇迹”中，紧张是黑客的聪慧在起浸染。
当“阐明程序”上线之后，人类就可以理解机器是怎么想的。
这个时候，人工智能就像一个黑客志同道合的朋友，可以给他不小的启示。

这个方法我们已经给很多安全研究员利用了，看到人工智能的剖析，很多研究员都以为有所启示，帮助他们拓宽了思路。

邢教授说。

2）黑产标记

记得前面我们说过吗，京东安全正在用人工智能技能来判断哪个账号属于“恶意账号”，而且已经卓有成效了。
但是苦于人工智能的准确性没有到达100%，以是还没有大规模运用到实战中。

他们其实在等待这个“人工智能审核技能”的进展。
当机器可以对人阐明“为什么把这个账号归类为恶意”的时候，京东客服妹妹也能对打来电话的用户阐明“为什么你的账户被封禁了”。

3）图形验证码

虽然用人工智能判断黑产账户还有几个月的路要走。
但是就在此时此刻，京东安全把人工智能和监督程序用到场景比较大略的实践中了。

你来看这张图：

有时候，你登录京东的时候，须要输入验证码。

然而，人可以输入验证码，坏人同样可以用人工智能来仿照输入验证码。
京东安全和邢教授互助，用阐明程序研究了一下黑产用于判断验证码的事理。

末了他们创造，只要有针对性地对验证码图片做一些改动，黑产的人工智能立马歇菜，判断出来的数字全是错的。

例如上图，虽然人类看来是“ASM5”，但是 AI 判断出来，就可能把“A”认成“C”，把“5”认成“K”，等等等等，完备缺点。

上面的几个例子，实在都可以为我们带来很多商业代价。

4、AI 的温情

正如我之前所说，“理解”是每个生命的本能。

AI+阐明程序，在未来很可能合并为“可阐明的 AI”

邢教授说。

很多人都熟习的人工智能专家吴恩达，也在做这样的考试测验。
他参与的自动驾驶公司“Drive.ai”，在人工智能汽车上装载了一个屏幕：

一辆汽车看到行人，就会停下来，与此同时，它会通过显示屏见告行人：“我在礼让您过马路”。
同样，在它并道超车或者转弯的时候，也会给身边的人车相应的提示。

这种“自我阐明”，会让冰冷的技能变得有温度。

同样，“可阐明的 AI” 还能做更多的事情。

在未来，人们会把“AI+阐明程序”用于 DNA 研究，AI 很可能会见告人类，哪一个基因对应着哪一个疾病，如何调度可以让人得到康健的同时，又付出最小的代价。
而这统统，都是有理有据的。

在此根本之上，大概我们可以把人类占领癌症的韶光点大大提前。
果真如此的话，很多原来会目睹亲人由于癌症离世的人，命运里就少了一场遗憾的生离去世别。

如果你以为这样的日子太过迢遥，那么我会给你一个非常近的目标。

刚才提到的京东安全利用阐明程序来赞助人工智能判断“黑产账户”的技能，很快就会上线。
很多人会由于科技的力量而免受侵害或欺骗。
而这些人中，大概就有你的亲人、朋友，你所爱的人。

人工智能之父 阿兰·图灵

你还记得吗？

邢教授提到了一个巨大的脑洞，那便是——人类的情绪同样可以被阐明。

多年往后，

我们可能终于明白，

父母当年的“为你好”和“听我的”，

究竟是出于若何深奥深厚的爱。

当我们拥抱着亲人的时候，大概 AI 就在一个角落里，闪烁着温情的光芒。