论文作者、美国加州机器情报研究所的卡特娅·格拉斯说:“这是一个主要的旗子暗记,表明大多数人工智能研究者并不认为前辈人工智能毁灭人类是非常难以置信的。
我认为,这种认为存在非眇小风险的普遍意见比确切的风险百分比更能解释问题。
” 但俄亥俄州凯斯西储大学的埃米尔·托雷斯说,目前还没有必要惶恐。
他们说,许多人工智能专家在预测未来人工智能发展方面“没有良好的记录”。
格拉斯及其同事承认,人工智能研究者不是预测人工智能未来发展轨迹的专家,但他们表示,他们2016年的调查在预测人工智能里程碑方面做得“相称好”。

人工智能会息灭人类吗 科学家认为可能性仅为5%_人工智能_研讨者 AI简讯

与2022年进行的同一项调查得出的答案比较,许多人工智能研究者预测,人工智能将比此前预测的更早达到某些里程碑。
这与2022年11月聊天生成预演习转换器(ChatGPT)问世和硅谷急于广泛支配基于大型措辞模型的类似AI谈天机器人的做事吻合。
参与调查的研究职员预测,未来10年人工智能系统有50%或更高的概率成功完成39项样本任务中的大部分,包括谱写与泰勒·斯威夫特的热歌难以区分的新歌,或从头开始编写全体支付处理站点的代码。
其他任务,比如给新家实际安装电线或办理长期存在的数学难题估量须要更长的韶光。

到2047年,人工智能在每项任务上的表现都超过人类的可能性为50%,而到2116年,所有人类事情实现完备自动化的可能性为50%。
这些估计比去年调查结果中给出的韶光分别提前了13年和48年。
但托雷斯说,对人工智能发展的高期望也可能落空。
他说:“这些打破有很多是很难预测的。
而人工智能领域完备有可能经历另一个寒冬。
”他们指的是上世纪七八十年代人工智能领域资金和企业兴趣的枯竭。

在没有任何超人类人工智能风险的情形下,还存在一些更紧迫担忧。
绝大多数人工智能研究者认为,涉及深度造假、操纵舆论、基因工程武器、对人口履行独裁掌握和经济不平等日益恶化等的人工智能驱动场景令人严重或极度担忧。
托雷斯还强调了人工智能在景象变革或民主管理恶化等生存问题上助长虚假信息的危险。

来源: 参考