苏纳克在伦敦兰开斯特宫的一个镀金房间的小舞台上采访了马斯克，他是在英国举行的为期两天的人工智能峰会上的明星高朋。
兰开斯特宫是英国政府最豪华的场所之一，常常用于外交活动。

这次谈论是在数十名受邀的商界领袖面提高行的，这是为期两天的峰会的末了一场活动，人们认为，通过开始思考人工智能可能带来的严重风险，这是在利用人工智能造福人类方面迈出的一大步。

马斯克表示，他相信总有一天，“如果你想要一份事情，你就可以拥有一份事情……但AI将能够做任何事情，”使我们本日所知道的就业成为过去。

他说：“我不知道这会让人们感到舒畅还是不舒畅。
”“这是好事也是坏事。
未来的寻衅之一将是，如果你有一个神奇的精灵，可以做任何你想做的事，我们如何找到生活的意义？”

在峰会期间，几家大型科技公司和国家签署了一项“具有里程碑意义”的志愿协议，许可英国、美国和新加坡等国政府测试其最新的社会和国家安全风险模型。
签署承诺的公司包括OpenAI、谷歌的DeepMind、Anthropic、亚马逊、Mistral、微软和Meta。

当被苏纳克问及他对这一举措的意见时，马斯克开玩笑地说：“这很烦人，这是真的”，但他表示支持这一操持，由于“多年来我们学到，有一个裁判是一件好事”。

马斯克和苏纳克都认为可能须要物理“关闭开关”，以防止机器人以危险的办法失落控，就像《闭幕者》系列电影和其他科幻电影中描述的那样。

苏纳克说：“所有这些情节基本相同的电影都因此主人公关掉开关结束的。
”他补充说，物理开关的主要性是当天早些时候峰会谈论的一部分。

马斯克表示，他认为确保人工智能技能有“某种关闭开关”是我们该当“非常关注”的事情。
“如果有一天他们的软件更新了，他们就不再那么友好了，那该怎么办？”他说。

这不是马斯克第一次谈到物理开关的主要性，今年较早时，他在X平台上发布***展示特斯拉“擎天柱”机器人的最新进展时，一位用户指出了擎天柱脖子后面的一个“赤色按钮”，可能是作为防止潜在的机器人统治天下的场景的安全方法。
马斯克回应称：“我们一定会尽力担保擎天柱的安全。
它须要很随意马虎地利用遥控器或你的手机就能停息，无需集中掌握。
”

马斯克说，总的来说，他认为人工智能“很可能会成为一股向善的力量，”他说，问题在于事情变得非常糟糕的可能性“不是零”。

马斯克说，人工智能系统可能会变得如此前辈，以至于它可以通过记住对话，理解人们的好恶，成为一个人的“好朋友”。
他指出，他的儿子有学习障碍，交朋友也有困难。
“一个AI朋友对他来说会很好。
”

本文源自金融界