对话张一鸣：人工智能若何计算“善恶” | 吴晓波下昼茶_今日_用户

2024-11-22 10:36:50 AI简讯

在今日中国，信息的快速传播本身，或许能够以“失落控”的办法，给予人们以获取信息的自由。
技能进步正在加快，如果不能阻挡它，我们就努力让它朝我们希望的方向发展。

对话张一鸣：人工智能若何计算“善恶” | 吴晓波下昼茶_今日_用户 AI简讯

文/吴晓波（微信公众号：吴晓波频道）

与张一鸣的对话是从一起车祸开始的。

在过去的一年半里，Google的无人驾驶汽车默默来回于旧金山和洛杉矶之间，已经安全行驶了两万多公里，可是在硅谷，人们一贯在谈论一道难题——

汽车行至峭壁，路旁溘然蹿出一个推着婴儿车的妈妈，车若避人，掉入深渊，车若前行，碾压母女。
如果司机是人，绝大多数将本能地躲避婴儿车，可是如果人工智能掌握汽车，则一定会选择保护搭客。
那么，在法律上如何剖断车祸任务？

张一鸣认为这道难题不难回答。

可是，我以为好难。

人类社会的任何行为，终极都可以从工具理性和道德伦理两个层面进行解读，在某些时候，它们将发生尖锐的冲突，而所谓的进步或意义会在这种冲突中变得非常模糊和纠结。

张一鸣目前的事情，是用机器打算出人的喜好，进而把你关心的***推送到你的面前。
正是这套异乎平凡的***抓取办法，让《今日》异军突起，成为当今中国传媒界最炙手可热的移动***产品。

在去南京与他对话前，我刚刚看到了易不雅观智库最新发布的一份报告，在移动***客户端大战中，《今日》的用户数居腾讯***之后，名列第二，而用户的人均单日启动次数为4次，人均访问时长达32分钟，均位列第一。
张一鸣见告我，《今日》上线两年多，目前***用户已经达到2.7亿人，日生动用户为2500万。

| 《今日》创始人张一鸣|

这位出生于1983年的年轻人是福建龙岩人，与美团的王兴是老乡，“两家相距十多里地”。
与王兴相似的是，张一鸣也是一个连续创业者，在《今日》前，他已先后参与创办过四个公司，个中最出名的是无疾而终的饭否。
《今日》的蹿红，完备出乎之前的预见，而他幸运地捉住了须臾即逝的火星。

在理工男张一鸣看来，这个天下是由大数据和“算法”构成的，在与我对话中，他不断强调着“系统的力量”：系统“像一个不断成长发育的大脑”，“是网络空间的上帝，俯视所有用户”。
张一鸣坚信这个“上帝”能够“抹平信息鸿沟，减轻人脑的包袱”。

而作为一个学传播出生的文科男，我当然认同《今日》的技能创新和商业代价，不过，在我的心中，始终不由自主地将那辆Google无人汽车与《今日》遐想在一起。

人怎么知道自己“关心”的是什么？

传播的职能是时势的知晓与对之的判断。
而对善恶的判断，是人作为这个地球上最高级动物的根本属性，如何可以将之请托给一大堆化名为“上帝”的做事器？

更大的问题是，谁在掌握做事器，是另一台做事器，还是有判断力的人。

在对话开始前，我请张一鸣做“吴晓波问卷”。
他在手机上快速地完成了。

第一题：你认为财富对你意味着什么？

他的回答是两个字：自由。

| 吴晓波与张一鸣对话|

吴晓波：《今日》所得到的成功，让中国所有的传媒人瞠目结舌，它再一次证明了当今行业突变的基本特色：险些所有的颠覆者都不来自于本行业的既得利益集团。
同时，《今日》的“算法哲学”也对经典意义上的传播学提出了很多的寻衅。
比如，一个人对任何***都存在“好恶”判断，可是机器是怎么知道我的“好恶”？

张一鸣：我们面临如何知道用户的喜好，但方法并不是直接研究喜好，而是打算希望近期达到的目标。
《今日》给用户推举资讯，我们肯定是希望用户看，我们有一个最主要指标是“信噪比”，会预测用户在100条内容里面，哪些会点击打开、评论或分享，这是不是一定能够代表他的好恶？不完备，但是靠近。
比如我们创造，分享和收藏和评论用户是不一样的，我们会根据这些动作给他一个权重，让机器去预测用户行为，但机器不是直接算出“好恶”，而是根据跟他有相同属性一群人来预测。

一个人如果有一个助理，他看你每天看什么东西，哪些东西看得特殊负责，开始给你推举简报，开始推举100条，没有你感兴趣的，后来越来越多，机器是模拟这个过程。
第一是能够感知到你做了哪些动作；第二是能够影象下来；第三是能够理解这个规律。
以是《今日》实在不是感性地理解你的“好恶”，还是看你利用规律。

吴晓波：《今日》现在每天有2500万的生动用户，其***选择是自我选择和数据选择的共同结果。
在传播学上有“覆信壁效应”，即每一个人都有自己的兴趣偏好，如果机器所推送的内容都来自于此，那么，这种偏好就会自我强化，终而形成一个内生性的知识闭环。
凭据爱好而打算出来的推送内容，久而久之，会不会把用户的知识多样化给毁坏掉？

张一鸣：我们在建模的时候已经当心到了这一征象。
在这个过程当中，别的用户也在看他的喜好，我们会把跟你有一定关联性的用户传播给你。
同时我们还有公共话题效应，会做一点探索，由于事宜很大，不仅要探索深度兴趣，广度上也要探索。
自我强化肯定会存在，但这个跟技能没有关系。
很多人给他很多选择，每天见告他这个天下非常大，非常不一样，他还是看自己关注那部分，针对现在产品而言，从系统角度出发，一定是在更多范围内调配信息，让信息在更大时空维度、更大幅度上流动，以是我以为是促进了信息传播。

吴晓波：与“好恶”比较，传播学里的其余一个主要问题，是“善恶”。
由于，每一个***的背后都有代价不雅观的判断，作为一个“公器”，无论哪一种型态的媒体都将呈现出自己的审美取向和代价判断，就好比Google的无人驾驶汽车很难在峭壁边做出判断一样，《今日》的打算机如何做出“善恶”的判断？

张一鸣：先回答汽车自动驾驶问题：首先人对打算机有影响，往后要对程序做审计，由于程序代表人的意图，你可以保护司机，但是要有限度。
去年有一个***，深圳机场一名女司机，为躲避行人撞了十几人，自动驾驶涌现之后，至少可以防止这种类似问题涌现，由于机器是镇静、理智的。
第二，在同期间，交通事件去世亡人数会减少。
如果做不到这个，就不会让自动驾驶进入到业界。
第三，车情形要审计。
不能为了一个驾驶员生命捐躯更多生命，该当要有一些原则。
总体而言我是非常乐不雅观的，能说服你吗？

吴晓波：一鸣是范例的工程师思维。
天下上的人分两类：一类是理性人，他们认为通过理性、通过数据能够构建一个天下；另一类人是感性人，他们疑惑工具理性，而更乐意用代价不雅观来衡量统统的事宜。
回归到机器和传播关系，我就担心，未来我们手机后面是否会有一个“老大哥”，他以工具的名义决定我们该做什么，不该做什么，该知道什么，不该知道什么。

张一鸣：我相信，在今日中国，信息的快速传播本身，或许能够以“失落控”的办法，给予人们以获取信息的自由。
《今日》机器分发信息时，首先要看到，更长尾的信息被广泛而快速地分发。
没有搜索引擎之前，你能打仗到信息是有限的。
在传统时期，我们一份报纸或者一家电视台由部分人决定哪些内容被大家不雅观看。
但有了搜索引擎后，更多长尾内容能够被有效分发，大概分发回有不准确，受一些条件限定，总得来说，会比一个主编掌握媒体分发内容更广。
对付社会经济具有主要代价意义。

吴晓波：人工智能技能对传播的干预与掌握，才刚刚开始，它有可能重构传播的生态。
在我的担忧和一鸣的乐不雅观之间，如何能够达成真正意义上的妥协？我真的很好奇这一点。

张一鸣：机器的善意，是由人的善意所决定的，我和我的团队认同这样的不雅观点。

技能是一个杠杆，它能够让个体变的更大。
一个徒手坏人可能没有很大威胁，但是一旦有生物技能或核技能的帮忙，就会造成很大威胁。
打算机也是，如果监管得不好，漏洞会被少数人利用。
比如侵入交通系统，误导交通网络，会带来非常大的问题。
但我相信技能进步正在加快，这个天下在加快，如果不能阻挡它，我们就努力让它朝我们希望的方向发展。

吴晓波问卷答题者 | 张一鸣

1.你认为财富对你意味着什么？

财富不是我干事所追求的第一目标，但是金钱还是能够用于创造一些自由的空间和韶光，以是我以为财富对我意味着自由。

2.你以为创业最大的恐怖是什么？

失落去激情亲切。
创业会碰着各种困难，必须契而不舍，捉住每个稍纵即逝的机会，保持不断学习的状态。

3.你最希望创业伙伴拥有的品质是什么？

激情亲切、聪明、年夜胆。

激情亲切是创业的动机。

聪明，包括对事物理解的广度和深度，以及接管新鲜事物的速率。

年夜胆，创新最须要勇气。

4.你最佩服的在世企业家是谁？

Elon Musk，由于只有他是做着一件又一件凡人乃至想都未敢想的创新之举。