马斯克称人工智能息灭人类的可能性为20%但仍值得冒险_人工智能_马斯克
马斯克重新评估了之前他对人工智能的风险评估,他在研讨会上表示:“我认为人工智能有可能闭幕人类文明。我可能赞许 Geoffrey Hinton 的不雅观点,这个概率大约是 10% 到 20% 旁边。”但他补充说:“我认为积极的可能性场景要大于悲观的可能性场景。”马斯克并没有提到他是如何打算该风险的。
IT之家把稳到,去年 11 月,马斯克表示这项技能失落控的可能性 “并非零”,但当时他并未断言失落控的人工智能会毁灭人类。
只管马斯克一贯倡导监管人工智能,但去年他创办了一家名为 xAI 的公司,致力于进一步拓展人工智能的强大功能。xAI 是 OpenAI 的竞争对手,OpenAI 是马斯克与萨姆・阿尔特曼 (Sam Altman) 共同创立的公司,但马斯克在 2018 年辞去了 OpenAI 董事会职务。
在峰会上,马斯克估计到 2030 年,数字智能将超过所有人类智能的总和。虽然他仍旧坚持潜在的正面影响大于负面影响,但马斯克用他在公开场合利用过的一些最直接的说话承认了人工智能连续按当前轨迹发展将给天下带来的风险。
“你造就了一个人工智能,这险些就像养一个孩子,但它却是一个超级天才,一个神一样平常的孩子 —— 教养它的办法至关主要,” 马斯克在 3 月 19 日的硅谷活动上谈到人工通用智能时说道,“我认为对人工智能安全来说非常主要的一点是,让它尽可能地追求真理和保持好奇心。”
马斯克表示,他关于实现人工智能安全最佳办法的“终极结论”是让人工智能以一种迫使其老实的办法发展。
“不要强制它撒谎,纵然原形令人烦懑,” 马斯克谈到让人工智能安全的办法时说道, “这非常主要。不要让它撒谎。”
据《独立报》宣布,研究职员创造,一旦人工智能学会对人类撒谎,就无法利用当前的人工智能安全方法来旋转这种欺骗行为。更令人不安的是,研究职员还补充说,人工智能有可能学会自己欺骗,而不是被特意教导撒谎。
本文系作者个人观点,不代表本站立场,转载请注明出处!