人工智能导致人类灭绝的可能性有多大年夜?_人工智能_人员
这一创造来自对2700名人工智能研究职员的调查,这些研究职员都曾在最近召开的6个顶级人工智能会议上揭橥过研究成果。
这是迄今为止规模最大的一项调查。该调查哀求参与者分享他们对未来人工智能技能里程碑的设想,以及这些造诣带来的或好或坏的社会后果。
近58%的研究职员表示,导致人类灭绝或其他与人工智能干系的极其糟糕的结果的可能性为5%。
“这是一个主要的旗子暗记,表明大多数人工智能研究职员并不认为前辈的人工智能会摧毁人类。”干系论文作者之一、美国机器智能研究所的Katja Grace说,“我认为,人们普遍认为的风险并非微不足道,这比确切的风险百分比更能解释问题。”
但美国凯斯西储大学的Emile Torres说,目前还没有必要惶恐。许多人工智能专家在预测未来人工智能发展方面并“没有良好的记录”。
Grace和同事承认,人工智能研究职员不是预测人工智能未来轨迹的专家,但在2016年的一项调查中,他们在预测人工智能里程碑方面表现得“相称好”。
与2022年,同类调查的结果比较,许多人工智能研究职员预测,人工智能将比之前预测的更早到达某些里程碑。与此同时,ChatGPT于2022年11月首次亮相,硅谷也急于广泛支配基于大型措辞模型的类似人工智能谈天机器人的做事。
接管调查的研究职员预测,在未来10年内,人工智能系统有50%或更大的概率成功完成39项样本任务中的大多数任务,个中包括写一首与泰勒·斯威夫特的歌曲毫无差异的新歌,或者从头编码一个完全的支付处理网站。其他任务,如在新家安装电线或办理长期存在的数学难题,人工智能系统估量将花费更永劫光。
到2047年,人工智能在每项任务上的表现都超过人类的可能性为50%,而到2116年,所有人类事情完备自动化的可能性为50%。这些估计比去年的调查结果分别早了13年和48年。
不过Torres表示,对人工智能发展的高期望也可能落空。“很多打破都是不可预测的。人工智能领域完备有可能经历另一个冬天。”此前的遇冷可溯及20世纪七八十年代人工智能领域资金枯竭和企业兴趣的损失。
纵然在没有任何超级人工智能风险的情形下,也有其他更直接的担忧。70%以上的人工智能研究职员认为,人工智能驱动的场景涉及深度假造、"大众年夜众舆论操纵、工程武器和日益恶化的经济不平等,这些要么令人严重关怀,要么令人极为担忧。
本文系作者个人观点,不代表本站立场,转载请注明出处!