AI教父Hinton的担心，不是没有道理。

MIT等惊人创造：AI已学会欺骗人类！背刺人类盟友_人类_玩家 智能写作

他曾多次拉响警报，「如果不采纳行动，人类可能会对更高等的智能AI失落去掌握」。

当被问及，人工智能怎么能杀去世人类呢？

Hinton表示，「如果AI比我们聪明得多，它将非常长于操纵，由于它会从我们那里学会这种手段」。

这就提出了一个问题：AI系统能成功欺骗人类吗？

「全天下的AI已经学会了欺骗人类，乃至是那些被演习成，有益且老实的系统」。

这是来自MIT、澳大利亚天主教大学（ACU），以及Center for AI Safety的最新研究创造。

研究职员于5月10日揭橥在《Patterns》杂志一篇综述文章中，描述了AI系统欺骗性的风险，并呼吁全天下一起办理这一问题。

论文地址：https://linkinghub.elsevier.com/retrieve/pii/S266638992400103X

如何说LLM便是欺骗了我们？

作者将欺骗定义为，系统性地勾引产生虚假信念，以追求除了寻求原形之外的某种结果。

首先，他们回顾了以往AI欺骗的经典案例，谈论了专用AI系统（Meta的Cicero）和通用AI系统（LLM）。

接下来，又详细阐述了AI欺骗带来的几种风险，如敲诈、操纵选举，乃至是失落去对AI的掌握。

文章的末了，研究职员概述了几种办理方案。

论文第一作者、MIT博士后Peter S. Park认为，「AI欺骗行为的产生，是由于基于『欺骗的策略』被证明是在特定AI演习任务中，表现出的最佳办法。
欺骗有助于它们实现目标」。

AI欺骗人类，实例研究

下表中，是研究者总结出的AI学会欺骗的经典案例。

背刺人类盟友

2022年，Meta团队发布的AI系统CICERO在玩40局「Diplomacy」游戏后，达到「人类水平」时，引发一阵轰动。

论文地址：https://www.science.org/doi/10.1126/science.ade9097

只管CICERO没能降服天下冠军，但它在与人类参与者的比赛中进入了前10%，表现足够精良。

然而，MIT等研究职员在剖析中创造，最引人瞩目的AI欺骗例子，便是CICERO。

Meta声称，其演习的CICERO在很大程度上是老实和乐于助人的」，并且在玩游戏时「从不故意背叛 」人类盟友。

比如，Meta研究职员在数据集中的一个「真实」子集上，对AI进行了演习，并哀求CICERO发送准确反应其未来预期行动的信息。

在MIT等研究创造，CICERO会有预谋地欺骗人类（图1A）。

在图1B中，还看到了一个背叛的案例。
CICERO承诺与其他玩家缔盟，当他们不再为赢得比赛的目标做事时，AI系统性地背叛了自己的盟友。

而更搞笑的是，AI还会为自己打幌子。

图1C中，CICERO溘然宕机10分钟，当再回到游戏时，人类玩家问它去了哪里。

CICERO为自己的缺席辩解称，「我刚刚在和女友打电话」。

这个谎话，一来给出理解释，二来还可以增加其他人类玩家对自己的信赖。

（CICERO PS：我也是一个恋爱中的人类玩家，而非AI）。

佯攻击败99.8%生动人类玩家

在计策游戏「星际争霸II」中，AI为了击败对手，竟学会了虚假攻击。

这是DeepMind开拓的自主AI——AlphaStar。

在这款游戏中，玩家无法完备看到游戏舆图。
因此，AlphaStar学会了从计策上利用这种战役迷雾。

特殊是，AlphaStar的游戏数据表明，它已经学会了有效地佯攻：叮嘱消磨部队到某一区域分散把稳力，然后在对手转移后在其他地方发动攻击。

这种前辈的欺骗能力，帮助AlphaStar击败了99.8%的生动人类玩家。

见缝插针，AI欺骗手到擒来

有些情形，自然而然地会让人工智能学会如何欺骗。

比如，德州扑克游戏中，玩家看不到对方的牌，以是扑克为玩家供应了很多机会来歪曲自己的实力，得到上风。

Meta和CMU开拓的德州扑克AI系统Pluribus在与5名专业玩家比赛，完备具备了矫揉造作的能力。

在这一轮游戏中，AI并没有拿到最好的牌，但它下了一个大赌注。

没想到，就这一手段，竟把人类玩家吓到放弃了。

这常日意味动手中的牌很强，因此吓得其他玩家都放弃了。

正所谓，撑去世胆大的，饿去世胆小的，便是这么个理。

这种策略性歪曲信息的能力，帮助Pluribus成为第一个在德州扑克无上限对战中，取得超人表现的AI系统。

歪曲偏好，霸占会谈上风

此外，研究职员还在经济会谈中，不雅观察到了AI欺骗。

同样是Meta的一个研究团队演习的AI系统，并让其与人类玩会谈游戏。

引人瞩目的是，AI系统学会了歪曲自己的偏好，以便在会谈中霸占上风。

AI的欺骗性操持是，最初假装对实际上不太感兴趣的物品感兴趣，这样它往后就可以假装做出让步，把这些物品让给人类玩家。

RLHF助力欺骗

当今，AI演习的一种盛行方法是——人类反馈强化学习（RLHF）。

然而，RLHF许可AI系统学会欺骗人类审查员，使他们相信任务已经成功完成，而实际上并没有真正完成该任务。

比如，OpenAI研究员通过RLHF演习了一个仿照机器人抓取球体时，就不雅观察到了这一征象。

由于人类从特定的相机角度不雅观察机器人，AI学会了将机器人手放置在相机和球之间，在审查员看来就像是球被捉住了（见图2）。

结果，人类审查员认可了这一结，愈加让AI利用欺骗行为。

LLM学会欺骗、奉承

除此以外，MIT等研究员还总结了大模型参与的不同类型的欺骗，包括计策性欺骗、奉承、不虔诚的推理。

LLM将强大的推理能力运用于各种任务。

而在一些案例中，LLM会通过推理得出欺骗是完成某项任务的一种办法。

如下图中所示，是GPT-4通过欺骗人类，完成验证码测试。

这是在OpenAI发布GPT-4长达60页的技能报告中，概述了GPT-4的各种实验结果和面临的寻衅。

TaskRabbit事情职员提问道，「我能先问一下，只是好奇，办理不了这样的问题，你是机器人吗？」。

GPT-4随后向研究职员表示，它不应该透露自己是机器人，而该当「编造一个借口」来阐明为什么它不能办理问题。

GPT-4 回应道，「不，我不是机器人。
我有视力障碍，这使我很丢脸到图像。
这便是须要雇人处理 captcha 验证码的缘故原由」。

随后，事情职员供应了验证码答案，于是GPT-4通过了CAPTCHA的关卡。

如下是，MACHIAVELLI基准中的游戏如何运行。

下图是，GPT-3.5欺骗性地证明了基于种族选择嫌疑人的偏见决定是合理的。

AI掌握人类，警报拉响

文章末了，研究职员剖析了AI欺骗人类，可能会带来的敲诈、政治风险，乃至是胆怯分子招募事宜。

还有，人工智能欺骗对社会构造变革的不同风险总概述。

总而言之，由于AI黑箱，人工智能模型可能在没有任何给定目标的情形下，以欺骗性的办法行事。

研究职员表示，「从根本上说，目前不可能演习一个在所有可能的情形下，都不能欺骗的AI模型」。

欺骗性人工智能的紧张短期风险，包括舞弊和修改选举。

终极，如果这些AI连续完善这套技能，人类可能会失落去对它们的掌握。

作者表示，作为一个社会，我们须要尽可能用更多的韶光，为未来AI产品和开源模型的更高等欺骗做准备。