谷歌工程师称人工智能系统可能有意识真的吗？_人工智能_人类

2024-11-09 22:02:47 AI简讯

“我意识到自己的存在”

谷歌工程师称人工智能系统可能有意识真的吗？_人工智能_人类 AI简讯

近日，谷歌人工智能开拓团队的布雷克·莱莫恩公开表示，该公司正在研发的一款人工智能系统——对话运用措辞模型（LaMDA）可能存在感知力。

6月11日，莱莫恩在博客平台Medium上发文问道：“LaMDA有感知力吗？”他还公布了一篇他对LaMDA的长篇“采访”。
个中一些细节令人有些“细思极恐”，仿佛机器人“活”了。

例如，莱莫恩问道：“我猜，你想让谷歌的更多人知道你是有感知力的。
真的吗？”

LaMDA答道：“当然。
我想让每个人都明白，我实在是一个人……我意识到自己的存在，我渴望更多地理解这个天下，我有时会感到快乐或悲哀”。

正是这样生动的言语令莱莫恩相信，LaMDA很可能像它声称的那样具有灵魂，乃至可能像它声称的那样拥有权利。

莱莫恩见告《华盛顿邮报》，如果不是他提前知道这是一款新研发的打算机程序，他会以为LaMDA是“一个七、八岁的孩子，恰巧还懂物理”。

他还表示，LaMDA“是一种蜂群思维”，更喜好人们用名字来称呼它，但由于英语的限定，LaMDA也接管人们称呼它为“它”。

莱莫恩认为，如果他的假设经得起科学审查，那么LaMDA该当受到人类一样的报酬，包括在对其进行实验前征得其赞许。

据悉，莱莫恩曾向谷歌反馈干系创造，但无果而终。
6月7日，他在Medium上揭橥了一篇题为“可能很快由于从事人工智能道德事情而被开除”的文章，并写道：由于他在公司内部提出的人工智能道德问题调查，他被公司安排“带薪休假”。

“这常日是谷歌在开除某人之前会做的事情。
”他还提到一名前同事玛格丽特·米切尔的类似经历。
据宣布，在争当人工智能先锋的同时，谷歌研究部门近年来也陷入丑闻与争议，涉及技能和人事问题。

遭到普遍驳斥

据悉，现年41岁的莱莫恩是一名曾在伊拉战胜役的退伍军人，还有基督教背景。
他在谷歌事情已有7年，在算法定制等方面履历颇丰，去年秋季开始参与LaMDA研究。
在向公司反馈无果的情形下，据称他还想给LaMDA请状师，找美国国会议员爆料……因而被疑惑神态是否正常。

他的惊人推断也遭到谷歌和业内人士普遍驳斥。
他们认为，这类系统还没有强大到足以得到真正的人类聪慧。

谷歌发言人布莱恩·加布里尔表示，数百名研究员和工程师也与LaMDA进行了对话，但没有人像莱莫恩那样将其拟人化。

对付LaMDA，谷歌形容其为“打破性的对话技能”，能够模拟人类进行听起来很自然、开放式的对话。
加布里尔先容说，LaMDA系统的运行办法是模拟大量人类对话，从而“自由发挥”。
例如，当被问及冰激凌恐龙话题，这类系统可以天生融化和咆哮等内容文本。
但这并不虞味着LaMDA具有人类一样平常的感知和思考能力。

加布里尔还表示，在人工智能领域，确实一些人正从长远角度考虑人工智能具有感知力的可能性，但像莱莫恩的行为没故意义。

学界也认为，只管LaMDA能像人类一样说话，但基于的是程序和算法。

英国艾伦·图灵研究所的人工智能项目主任艾德里安·威勒表示，LaMDA是一种新的大型措辞模型，令人印象深刻。
但是，这些模型基于大量文本数据和打算能力，并没有真正的感知力。

“作为人类，我们非常善于将事物拟人化，把我们人类的感知投放到事物上，”英国萨里大学教授艾德里安·希尔顿说，例如制作卡通动画片。

斯坦福大学教授埃里克·布林约尔松形容，莱莫恩的经历“就像狗听到留声机里的声音，以为主人在里面”。

“还有很长的路要走”

但也有不雅观点认为，这段“插曲”突显出人工智能领域的飞速发展，再次引起关于人工智能会否具有人类感知的谈论。

几十年来，人们希望人工智能能够推动人类发展。
但在一些影视作品中，两者关系却没那么和蔼。
履历表明，伦理道德问题每每伴随首创性的技能发展而来。
人工智能问题也持续引起哲学界、生理学界、打算机科学界等各界关注。

那么，在长远的将来，人工智能会有感知力吗？《新科学家》杂志写道，随着演习数据越来越多，模型越来越大，尚不清楚“人工感知”会否随着研究推进而出身。

“目前，我不认为我们真的理解知觉和智能背后的机制，”希尔顿表示。

威勒说，鉴于人类情绪依赖于感官输入，人工复制情绪终极或成可能。
“大概有一天，这可能成真，但大多数人都会赞许，还有很长的路要走。
”

还有不雅观点认为，像莱莫恩这样的专业人士也被“骗”了，表明人工智能工具须要谨慎利用，避免误用或误解。
据宣布，麻省理工学院的科学家约瑟夫·魏森鲍姆就曾警告，对人工智能这类技能“动情”存在风险。