承认钟表坏了这一旧调重弹，但我们必须承认，纵然是狂妄自大的大亨有时也是精确的。
举个例子:埃隆·马斯克（Elon Musk）呼吁停息比拟OpenAI的尖端GPT-4更强大的人工智能系统进行六个月的“演习”，这是精确的。
至少在理论上，一个喘息机会将许可该行业为这种快速发展的技能开拓共享护栏。

马斯克可能有个人缘故原由对OpenAI进行鞭笞，OpenAI是他在2015年帮助创建的。
但比马斯克个人不雅观点更主要的是，其他1800名旁边的技能专家——个中一些是人工智能初创公司的现任和前任高管也签署揭橥了一封公开信，呼吁停息六个月。
鉴于聪明的技能专家将“天生式”人工智能与已知和未知的风险联系在一起，该行业该当慎之又慎。

正是处于人工智能争议中央的初创公司OpenAI，以及硅谷当前的“It”公司，承认了其产品正在造成的危险程度。
OpenAI在3月27日发布的一份题为《技能报告》（Technical Report）的报告中表示，“随着GPT-4和类似的人工智能系统被更广泛地采取，”它们“将有更大的潜力来强化全体意识形态、天下不雅观、真理和谬误，并巩固或禁锢它们，阻挡人类的辩论、反思和改进。
”

如果这便是这项技能的设计者自己要说的话，那么适度的停息彷佛是非常合理的。
但是OpenAI并没有表现出要接管这样一个操持的迹象。
该公司的紧张投资者微软（Microsoft）也不这么认为。
截至周二，微软还在积极发布OpenAI发明的新运用程序。

其他科技领袖也认为有必要重新思考。
马斯克的公开信联署者包括OpenAI的紧张竞争对手Stability AI的创始人伊马德·穆斯塔克（Emad Mostaque）；加州大学伯克利分校（University of California， Berkeley）打算机科学教授、人工智能标准文本的合著者斯图尔特·拉塞尔（Stuart Russell）；Pinterest联合创始人埃文·夏普（Evan Sharp）。

本着康健停顿的精神，让我们简要回顾一下我们是如何做到这一点的。
OpenAI成立于八年前，是一家非营利组织，得到了马斯克、领英联合创始人里德·霍夫曼和其他科技界大腕的高调支持。
正如Semafor的Reed Albergotti在一篇精彩的文章中所记录的那样，马斯克在与其他一些联合创始人的权力斗争中失落利，并于2018年气鼓鼓地离开了。
他已经向该公司投资了1亿美元，但据宣布，他未能兑现在几年韶光里统共投资10亿美元的承诺。
面对资金短缺，OpenAI在2019年转型为一家营利性公司，由与马斯克有过节的联合创始人之一萨姆·奥特曼（Sam Altman）领导。

微软参与，为OpenAI的根本举动步伐供应资金，用于在大量在线文本和图像上“演习”被称为大型措辞模型的打算机程序。
去年11月，OpenAI发布了ChatGPT程序，该程序可以对用户的提示做出诡异的类似人类的散文回应。
但大型措辞模型的效果只能与演习它们的常常出错的互联网内容一样好。
它们可以“产生”完备虚假的“幻觉”，只要有足够的刺激，就会匆匆利用户为了那个谈天机器人离开他的妻子。
在承认这些弱点的同时，OpenAI本月连续推进，推出了GPT-4。
该公司表示，基于更广泛的演习和“更高等的推理能力”，GPT-4可以天生更准确、更有创意的散文回应。

OpenAI天生式人工智能所基于的数字架构并不是全新的。
谷歌几年前发明的。
但在微软的支持下，OpenAI已经超越了谷歌，目前可以说是硅谷最热门的公司。

马斯克显然对事态的发展感到愤怒。
去年12月，他割断了OpenAI从Twitter获取培训数据的渠道。
Twitter是他去年收购的社交媒体公司，自那以来一贯处于核心地位。
今年2月，他在推特上写道:“OpenAI是作为一个开源（这便是我为什么把它命名为“开放”AI）的非盈利公司创建的，旨在与谷歌反抗，但现在它已经成为一个由微软有效掌握的闭源、最大利润公司。
”

因此，马斯克呼吁OpenAI暂时停滞培训活动，部分缘故原由可能是出于个人的不满。
但这并不虞味着他和其他签署“让我们安歇一下”信的人是错的。

华盛顿大学措辞学教授、著名人工智能批评人士艾米丽·本德（Emily Bender）认为，这封信“充斥着#AI炒作”，许多不雅观察人士对此不屑一顾。
这篇文章确实有一些夸年夜的修辞，问:“我们是否该当发展非人类的思维，让它们终极在数量上、智力上超过我们，被淘汰并取代我们？”

OpenAI的GPT产品的操作事理是，如果一个聪明的、懂互联网的、但随意马虎出错的人在写句子，那么它能以不可思议的精度预测句子中下一个会涌现的单词。
GPT不会在数量、智能或取代我们——至少短期内不会。
但这并不虞味着GPT及其后代不会造成严重的问题。

天生式人工智能可以让不良行为者更随意马虎、更便宜田主动化制造令人信服的虚假信息，从而毁坏人们对选举和公共卫生政策的信赖。
如果用于筛选事情、贷款或住房申请，它可能会加剧其他形式的人工智能所表现出的趋势，即放大人工智能系统支撑内容中固有的种族和性别偏见。
欧洲司法机构欧洲***组织（Europol）警告称，天生式人工智能的才能之一是可以组装打算机代码，它可能成为制造用于各种网络犯罪的恶意软件的有力工具。

公正地说，天生式人工智能可能还有助于抓捕网络罪犯，修复有缺陷的打算机代码，检测乳腺癌，推进科学研究，并供应更准确的措辞翻译。
它还可能使现有的在线搜索方法黯然失落色——只管该领域的霸主谷歌坚持不这么认为。

换句话说，这是潜在的好与坏的稠浊。
公开信并没有呼吁禁止gpt或任何其他类型的人工智能。
它并没有呼吁停滞人工智能研究。
相反，它呼吁相对短暂地停息一项活动——“演习比GPT-4更强大的人工智能系统”——以便行业和独立专家有机会“共同开拓和履行一套前辈人工智能设计和开拓的共享安全协议”。

这种情形有可能发生吗？可能不会。
有太多的钱可以赚。
微软估计，通过gpt -涡轮增压其疲软的必应搜索引擎，从谷歌那里每夺走一个百分点的市场份额，就能得到每年20亿美元的广告收入。

但纵然只是象征性的姿态，停下来思考如何设计和运用可天生人工智能，以最大限度地减少其对许多潜在危险的贡献，也将是当前武备竞赛升级的一个受欢迎的替代方案。
它还可以让硅谷在另一个必要的谈论中得到信赖，即政府在监管科技方面该当扮演什么角色，这些科技曾经看起来像科幻小说里的东西，但现在彷佛更加真实。

本文源自金融界