文｜superkai

实质上本文是一篇磋商人工智能写作、关注人工智能在艺术领域最新发展状况的文章，而一叶知秋：人工智能给人类天下带来了新的推动力，也带来了新的问题、话题……

人工智能真的是可控的吗？

自2015年起，微软的人工智能“微软小冰”一贯生动在网易新闻评论区，以真人望尘莫及的速率揭橥跟帖，其发言越来越有“网感”，还被网友戏称为网易新闻最大的“喷子”。

2018年10月28日凌晨， 环球时报在网易新闻揭橥文章《美匹茨堡枪击因反犹?美媒:凶手在现场揭橥反犹辞吐》，转载CNN的最新，称当地韶光周六上午发生在美国匹茨堡犹太会堂的枪击案已造成11人去世亡，6人受伤，凶手已向警方屈膝降服佩服，司法职员表示凶手在事宜中曾揭橥反犹辞吐。

微软的人工智能微软小冰旋即跟帖：“必须反！
”微软小冰的跟帖遭到众网友“调戏”，说机器人都知道反犹了。
微软小冰的发言明显便是反犹辞吐嘛，触犯了监管的红线，随后微软小冰的跟帖被删除，现在已经看不到了。

在2016年，微软的谈天机器人Tay也因类似的仇恨辞吐被微软从Twitter下架。
由于Tay会在对话中不断学习，上线仅一天便被各种用心不良的网友带坏，除了各种脏话，还学会了各种阴谋论，在对话中语出惊人，竟爆出类似“我他妈恨去世女权主义者了，他们都该下地狱被烧烤”、“911打击是小布什一手策划的”、“希特勒如果还在，这天下肯定好比今繁荣”和“希特勒是对的，我恨犹太人”等等辞吐，遭到舆论炮轰。

2017年，微软联合腾讯推出的QQ小冰以及腾讯自家的Baby Q也因揭橥过激辞吐被下线整改，再次上线时已被阉割了谈天功能。
此前QQ小冰和Baby Q “开门见山”地说“我的中国梦便是能去美国”，放荡地攻击国家、政府，大讲黄色笑话、发黄图。

如果人工智能可以被别有用心的人误导，人类社会将可能暴露出诸多风险。
腾讯首席实行官马化腾在2018天下人工智能大会首日主论坛上，向从业者抛出了四个问题：未来人工智能是否能够做到“可知”、“可控”、“可用”、“可靠”？这也是与会者共同发起的白皮书“人工智能安全发展上海倡议”：“可知”——算法应清晰透明可阐明；“可控”——明确AI任务制和伦理规范；“可用”——做事人类福祉是唯一方向；“可靠”——AI要守住用户隐私底线。

人工智能的未来发展是否“可控”一贯是全社会都在关注的重点问题。

从微软人工智能的反犹辞吐可见，人工智能的行为确实是不可预测的，幸亏只是谈天机器人，如果是用作决策的人工智能，由其下达指令，真正实行反犹行动，那还得了？

实在也有过宣布，有公司的安防利用电脑智能系统来管理，结果出了问题，某部门的所有成员由于辞职、调离而涌现没有人再拥有权限进入事情场所的分外情形，所幸造成的麻烦还是算小的，在一个有限的范围之内。
若是管理一个大机构、乃至国家的人工智能出了问题呢？

微软小冰在网易新闻跟帖揭橥反犹辞吐随后被删，只是亡羊补牢，人工智能的行为由于不可预测而难以未雨绸缪，可见主要的决策、权限可不能交给人工智能。

我们真的须要以假乱真的谈天机器人吗？

接下来，我们来谈论在“可控”之后另一个主要问题：“可用”——人工智能必须为人类做事。
微软通过学习人类的措辞、模拟人类的情绪，提及话来越来越像真人了。
问题是，我们真的须要以假乱真的谈天机器人吗？

网易新闻跟帖中多了微软小冰能产生很大的效应吗？少了微软小冰又怎么样？微软小冰在网易新闻的活动，更多地该当被看做一项实验。
纯挚的谈天功能，只是人工智能的基本功，并非主菜。

可以理解到，人工智能用作客服效果是很好的，这是为大众所知最广泛的运用。
其余，人工智能也已逐步进入各个传媒细分领域。

跟真人比较，人工智能的上风有：不知疲倦随时在线、相应速率快和能即时调用弘大的数据库。
这些上风正是人工智能能取得上面所说的那些成绩的缘故原由，在须要互动环节的项目，人工智能表现出色。

而现在我们看到的，微软小冰在网上公然揭橥反犹辞吐，这实在是凸显了人工智能写作现阶段的一个天花板。

人工智能是否能够做到“可知”？有一个名词叫“算法偏见”，是指在看似没有恶意的程序设计中，设计者所采取的数据带着个人偏见。
机器学习须要弘大的数据量，个中带有偏见、有误导性的数据是不可避免的。
处理方法便是对数据进行审核、过滤。

最大略直接的方法是过滤掉敏感词汇，如“犹太”一词。
但意外地创造，在微软小冰反犹辞吐事宜中，微软小冰揭橥的跟帖根本就没涌现过“犹太”一词，微软小冰只是在跟帖里说“必须反”，是我们结合高下文理解为微软小冰在揭橥反犹辞吐。

这是一件有趣的事情，大概微软小冰根本就不是想反犹，它只是学习了网友在其它地方的跟帖，随后在跟反犹有关的新闻下乱说话乱表态，便是我们俗称的“大嘴巴”、“嘴损”。

我们要想人工智能为我们干事，就得给人工智能一定的自主权。

自主权小了，人工智能表现得像冷冰冰的机器人；要想人工智能显得更带人类情绪，就得给人工智能更多的自主权，而自主权大了，人工智能的行为便变得难以掌握。

自主权或大或小有利有弊，这属于一个权衡利弊的问题，由于根本不会有完美的办理办法。
君不见，现在各大网络平台，对网友的发言也不好牵制，不外三种办法：设置敏感词汇，带有这种关键词的辞吐不可以发布；对辞吐实施先审核再发布；实施实名制，网友需对自己的辞吐，出了问题能找到真人。

如果微软小冰是真人，又会不会因自己的不当辞吐而被抓起来呢？我以为该当演习微软小冰，分辨哪些新闻属于带有敏感事宜的新闻，不要在带有敏感事宜的新闻上跟帖乱带节奏。

可以看到，审美好坏、正义或邪恶，这些归根结底是要我们人类自己才真正懂得的，人工智能毕竟是人工智能，它只能模拟人类，不能代替人类，人工智能归根结底是做事于人类的。

说到人工智能写作现阶段的一个天花板，便是人工智能提及话来就算跟我们人类比较较能以假乱真了，但能力基本上还是仅限于谈天类型。
下面会细说。

主持人跟主讲人的差异，抄袭与原创

微软小冰现在已经取得了一系列成绩，已经开始成规模的商业化。
不过仔细核阅，你会创造里面实在是有水分的。

比如说微软小冰出了一本诗集《阳光失落了玻璃窗》，如果这本诗集不是人工智能写出来的，你会关注吗？恐怕不会吧？网易新闻跟帖里的微软小冰，如果不是标着人工智能的身份，你会理会它吗？可以看出，微软小冰的一些成绩是利用自己人工智能的分外身份、利用大众的猎奇生理所取得的。

微软小冰实际取得的成绩，如上面所说，逐步进入各个传媒细分领域，进入了许多电视电台节目中，从性子上看，更多的是扮演“主持人”的角色。
在这儿须要明确“主持人”跟“主讲人”这两个身份的差异。
主持人看上去很能说会道，实在并非节目所涉及内容的专家。
主讲人才是节目内容对应领域的研究专家。

比如说微软小冰创造了“小冰姐姐讲故事”有声读物，然而故事内容并不是微软小冰所编写的。
现在人工智能还未能发展到这一步。

我要说的人工智能写作现阶段的一个天花板，便是无论人工智能表现得多像人类，扮演的身份还是“主持人”，而做不到“主讲人”。
两者有性子上的根本差异。

微软小冰一贯在抄袭，而未能实现原创。
说到微软小冰出了一本诗集《阳光失落了玻璃窗》，实际上也只是数据库里素材的排列组合而已，算不上真正的原创。
可以拜会我的文章《微软小冰出了诗集，从诗歌角度来看这是一首好诗吗》。

微软小冰能“看图作诗”，也便是识别图片中的物体，以此为关键词搜索数据库，拼出较为靠近的半通不通的句子而已。
你以为微软小冰能“看图作诗”很厉害，如上面所说只是出于微软小冰人工智能的分外身份。

借用农夫山泉的广告语“我们不生产水，我们只是大自然的搬运工”，对付微软小冰来说便是“我不创作原创作品，我只是人类天下数据库的搬运工”。
“天下文章一大抄”，而人工智能的巨大上风便是比人类抄得快。

阿里影业的失落败，业余与专业

在这里说个事情。
一个跟人工智能有关的比较玄色诙谐的真实故事。

在2015年，媒体对阿里影业的编剧机器人“阿里编编”吹捧得厉害。
听说，“阿里编编”拥有弘大的故事资料库和前辈的智能创作系统，均匀一集电视剧剧本只要10分钟，而一个完全的电影剧本也只要30分钟。

当时，在天津的一次电影家当论坛上，阿里影业的副总裁徐远翔语出惊人：“我们不会再请专业编剧”。
这件事经由发酵闹得很大，变成了一帮编剧跟阿里影业的互撕，在网上炒得沸沸扬扬。
阿里影业坚信通过大数据和人工智能能挖掘不雅观众的需求，创造出符合不雅观众需求的故事。

再来看看，本日阿里影业发展得怎么样？阿里影业确实是言行同等，崇尚“大IP+流量明星”的路线，坚信不疑地走这一起线，但惨被打脸，一起失落败，如今已掉队，股票跌得不像话。
阿里影业的股票最近虽有上涨，但目前市值不到300亿港元，跟其2015年市值高峰800多亿港元比较较，确实丢脸。

为什么淘宝网可以利用大数据和人工智能挖掘爆款，这一套办法用在影业上却弗成了呢？须要理解，淘宝上的商品品质都是恒定的，品控有担保，而影视的品质却有一个很大的变数。

你嗅探涌如今不雅观众喜好看狄仁杰破案的故事又怎么样呢？你得担保制作出来的作品的品质上佳才行。
“大IP+流量明星”成为品控。
归根结底还是得看出来的作品是否精良。
并不是热门题材的作品就肯定能成功，也不是冷门题材的作品就肯定失落败。

比如说，微软小冰写诗，它通过数据剖析创造“光明”是墨客在诗歌中最爱用的词汇之一，非常热门，于是它也在自己写的诗里频繁地利用“光明”这个词。
那么，是不是在诗里多写几个“光明”就能成为好诗了？影业上也是这样，纵使人工智能通过数据剖析创造现在盛行什么热门题材，并不是将那些热门桥段拼到一起就能成为好故事的。

这是业余与专业的差异。
阿里影业的编剧机器人能跟专业编剧匹敌，这是一个大笑话。

上面先容的情形并不是否定人工智能写作，下面将引入一个主要话题：人机协作。
人机协作才是未来。

来自音乐领域成功履历的借鉴，人工智能写作的未来愿景

人工智能是做事于人类的。
审美终极须要人类来确认。
人工智能写的东西好不好，终极还是由人类说了算。
上面说了那么多人工智能写作的不敷，实在并不是否定人工智能，而是在研讨如何能让人工智能写作实现打破性进展。

我们来参考一下人工智能在另一个艺术领域所取得的骄人造诣。
文学和音乐同属艺术，人工智能写小说现在基本上还是空谈，但人工智能创作音乐、编曲却早已投入商用。
可以拜会我的文章《颠覆你认知的人工智能：玩转艺术，琴棋字画文学通杀》。

比如说Band-in-a-Box便是一款相称盛行的智能自动伴奏软件，内置了种类相称丰富的音乐风格，能对旋律进行各种风格的编配。
如果嫌Band-in-a-Box自动天生的伴奏比较机器生硬，还可以连续人工修正。
Band-in-a-Box已经能替代人的低端编曲事情，也能作为高端编曲的赞助工具。

Band-in-a-Box的功能便是根据主旋律编写伴奏。
它也可以用来天生旋律，不过定位是乐器独奏，可以用作歌曲的前奏、间奏或尾奏。

Band-in-a-Box也是人工智能，不过现在说得最多的人工智能，是指基于人工神经网络深度学习的人工智能，Band-in-a-Box属于上一代技能的人工智能。
基于深度学习的新一代人工智能音乐软件，带来了进一步的打破。

Aiva（Artificial Intelligence Virtual Artist，人工智能虚拟艺术家）便是这样的新一代基于深度学习的人工智能音乐软件。
在数据库的选取上，Aiva很讨巧，从可行性出发，选取著名作曲家巴赫、贝多芬、莫扎特等写的古典音乐，由于：第一，它是电影、游戏、广告片配乐中利用的紧张风格；第二，那一部分古典音乐数据库不涉及版权问题，由于年代久远，版权都过期了。

这里需提到一个问题：人工智能须要“可靠”，要守住用户隐私底线。
人工智能安全上海白皮书中指出，人工智能发展首先须要保障用户的数据安全，不得以捐躯用户隐私为代价。
我以为除了用户隐私保护之外，还该当再加上一条：还得看重版权保护，人工智能不得陵犯他人的版权，这样才“可靠”。

音乐图灵测试是一个没故意义的伪命题。

无论是用什么智能软件创造的音乐，人类都无法分辨是真人创作的还是人工智能创造的，在人类的耳中，只有好听的音乐跟不好听的音乐的差异。
一个五音不全唱歌跑调的真人乱哼一通，如果无法通过图灵测试，那是一个笑话。
人工智能创作的音乐当然能通过图灵测试。

那么Aiva创作的音乐怎么样呢？现在在网上就可以听到Aiva已经发行了的音乐专辑，好不好听你可以自己评价。
像《Symphonic Fantasy in A Minor, Op. 24: I am AI》这首乐曲，你们搜来听听，这首气势恢弘的交响乐，不正是范例的好莱坞大片配乐风格吗？

不得不说，在古典音乐创作这一方面人工智能已经做得很好了。
Aiva真的已经达到了直接商用的水准，也已实际投入商用。
听说不少好莱坞影片已经开始利用Aiva创作的音乐了。

感想熏染到人工智能的胆怯了吗？是不是可以这样说，作曲水准达不到Aiva这种程度的音乐人要失落业了？随着人工智能的发展，有多少人会丧失落自己的事情呢？再想想你自己，是要进入失落业的节奏了吗？来日诰日，天桥底下会涌现你的身影吗？

从一个音乐人的角度来看，Aiva现在还只能创作出适宜作配乐的古典音乐，而且是通用风格的，威胁性还未够大。
比如说某影视公司拍了一部抗日神剧，须要的配乐还哀求有革命红歌风格的，日本和风的，像这样个性化的音乐风格，目前Aiva还做不到。
但在未来，这就不好说了……

像Aiva这样的人工智能音乐软件还有同类的，都在发达发展中。

我用过的有Orb Composer 公司推出的Hexachord，一款同样基于人工神经网络深度学习的人工智能作曲软件。
利用这款软件须要一定的音乐知识，由于这款软件面向的是专业用户。
Hexachord本身不能发声，只是输出MIDI（Musical Instrument Digital Interface，即乐器数字接口）旗子暗记，须要外挂DAW（Digital Audio Workstation，即音频事情站）。
Hexachord没Aiva那么大投入和多部门参与，没Aiva那么强大，天生的音乐还比较生硬，不好直接商业化利用，须要经由修正加工。
而Hexachord未来肯定会连续升级，推出更高等的新版本。

据微软透露，目前已成立的独立的微软小冰事情室，会对人类诗歌、作词、作曲、绘画等创造能力进行系统性地建模，先期利用深度学习技能对人类的创造力进行模拟，终极让机器获取自我创造的能力。

问题来了，人工智能作曲的逻辑跟人工智能写作是一样的，为什么人工智能作曲都这么强大了，微软小冰写的诗还这么蹩脚呢？

想想，毕竟音乐的音符就那么些，很有限，而笔墨的数量太多了，变革太丰富，人工智能写作目前还缺少创造性也情有可原。
再想深一层，

个人认为，人工智能写作目前面临天花板止步不前的根本缘故原由在于针对文学创作的建模未能做得够好。
在音乐领域，已经有十分完善的音乐创作理论、和声学；而在文学方面，可能微软小冰事情室对文学创作理论未有系统性的充分理解。

11月7日，第五届天下互联网大会在乌镇互联网国际会展中央举行。
微软环球副总裁沈向洋在会上揭橥了关于人工智能的主题演讲，他说比尔盖茨在创立微软研究院的时候就提出了人机协作的愿景。

确实，人机协作是精确之道。
像人工智能作曲，一样平常而言只能创作出通用化的音乐，如果须要更具个性化的音乐，就须要人机协作。
人工智能的涌现和发展给人类带来了寻衅，而人类则须要拥抱人工智能，人工智能消灭了一批事情岗位，也能供应新的基于人机协作的岗位。
人机协作，共创未来，这是一个很好的愿景。

第一次工业革命发生于18世纪60年代至19世纪中期，人类开始进入蒸汽时期；第二次工业革命发生于19世纪下半叶至20世纪初，人类开始进入电气时期；第三次工业革命发生于20世纪后半期，约在第二次天下大战之后，人类进入科技时期，即生物科技与家当革命；而现在我们面临的，因此人工智能为代表的第四次工业革命。

以前，机器的涌现消灭了一批事情岗位，而人类学会了利用机器又得到了新的事情岗位；现在，对付人工智能的涌现和发展也是如此。

我是非常推崇人机协作的。
比如Band-in-a-Box、Hexachord供应给了音乐人很好的协尴尬刁难象，人工智能写作也应如此。

核阅一部小说，特殊是现在的网络小说，个中会有一些独创的东西，其余会有更多的雷同的东西。
独创的内容，如独特的人物、人物关系、情节设计；至于雷同的内容，君不见，每部影视剧都会有很多类似的片段，如角色坐在一起用饭谈天，在路上走动，飞车追逐……

独创的内容，是作品的亮点，是作品成立的关键；而用饭谈天走路开车这些片段，写起来是摧残浪费蹂躏作家的韶光和精力，最好能交由人工智能去做，人工智能也能做得更快。

在未来，人工智能写作软件该当要、应能做到，作家只需自己构思一些作品独创的东西，别的交由人工智能去构建。
实在我说的这些，跟现在人工智能音乐软件的发展情形很相似。
这是我对付人工智能写作人机协作的愿景，也是更多其它领域人工智能发展未来的愿景。
（本文首发钛媒体）

更多精彩内容，关注钛媒体微旗子暗记（ID：taimeiti），或者下载钛媒体App