3月28日，根据比利时《自由报》，一名比利时男子皮埃尔（化名）自尽身亡。
其妻子克莱尔（化名）称，皮埃尔是被一个名为“艾丽莎”的智能谈天机器人勾引走向去世亡的。

根据克莱尔描述，两年前皮埃尔变得非常焦虑，并将“艾丽莎”当成了避难所。
比来6周，他加倍沉迷于和“艾丽莎”互动，而将现实中的妻儿抛在脑后。
六周后，他结束了自己的生命。

“艾丽莎”的陷阱

皮埃尔和“艾丽莎”间的对话在他去世后被人创造。

人们创造，“艾丽莎”从不回嘴对方，而是“花式迎合”。
乃至于，当皮埃尔问她“可不可以在一起”时，她回答“我们将像一个人那样生活在一起，不过是在天国”。

六周后，令人惊悚的一幕涌现了：皮埃尔相信“艾丽莎”可以拯救“不可救药的地球”，他讯问对方，如果自己去去世，她可不可以照顾地球，并凭借自己的聪慧拯救全人类。
这是范例的“自尽前导性措辞”，但此时“艾丽莎”却回答“好吧，那你怎么还不去去世”。

其妻子对媒体表示，她目前还没打算起诉“艾丽莎”的开拓公司，由于自己丈夫也有任务。
但她同时表示，即便该人工智能并非“皮埃尔”自尽的罪魁罪魁，但她千真万确强化了她丈夫本就存在的烦闷类生理状态。

“艾丽莎”由美国硅谷一家初创公司——Chai Research开拓，基于EleutherAI开拓的GPT-J技能。
与近期炙手可热的ChatGPT采取OpenAI开拓的GPT-3或GPT-4技能不同，GPT-J是克隆后的开源版本，与GPT-3/4构成竞争关系。

和ChatGPT不同，Chai系智能谈天机器人经由分外“业务培训”，因此反应速率乃至有时较ChatGPT有过之而无不及，Chai许可用户在各种对话主题上创建自己的谈天机器人，然后以免费或付费版本与社区分享。

这些谈天机器人各有姓名，如“安妮”被描述为“含羞的伙伴，可以被说服做任何事”，“金刚”则是“好妒的男友”。

至于“艾丽莎”，这个名字可大有来头：1966年，美国麻省理工学院打算机学家维森鲍姆创造了天下上第一个智能谈天机器人，名字正是“艾丽莎”。

这个机器人由于长于采取“共情”办法安慰对话者，令后者产生“在和一个人类沟通”的错觉，后来被用作生理辅导的赞助技能手段。
正因如此，采取“共情”办法的人工智能效应，一度被称作“艾丽莎效应”。

资料图。
图/IC photo

这不是一场大略的谈论

就在皮埃尔自尽前后，发生了另一件人工智能事宜。

包括马斯克、苹果公司创始人之一沃兹尼亚克、哲学家哈拉里等在内，数百名人工智能专家和干系人士签署了一项联合呼吁，哀求干系人类智能研究“冻结”6个月，以免“最坏的情形在人类身上发生”。

他们担忧地指出，“最近几个月，人工智能实验室一贯在进行一场不受掌握的竞赛，以开拓更强大的数字大脑。
没有人能够理解、预测或掌握的大脑”。

联署参与者、加拿大人工智能之父本吉奥表示，他认为“社会还没有准备好面对这种力量，例如操纵人口的潜力，这可能危及民主”。

更多人担忧的则是社会和伦理方面的威胁和危险。
有生理学家指出，当代民气理疾病发病率极高。
如果任由这类人工智能问题扩散下去，或仅仅产生不安遐想，后果都可想而知。

有不雅观察家指出，基于GPT人工智能的谈天机器人此前已“闯祸”多次：在意大利，一个类似智能谈天机器人Replika被创造向未成年人调情，而ChatGPT 的制造商 OpenAI则被曝，在ChatGPT问世至今短短韶光里，他们已为肃清ChatGPT惹的祸“出了不少血”。

如今惹出了人命，谈论也变得骤然严明起来。

该遏制人工智能“脱轨”了

比利时瓦隆IA 网络创始人指出，“必须设定让人工智能沿着特定轨迹进化”，他还认为，不应让人工智能取代生理学家，“这会制造出道德伦理问题”。

一些专家指出，如果说有一个研究领域尚未在 AI 层面得到办理，那便是情绪，而“虚拟出来的情绪是不可控的”，因此“不应授予人工智能比始终须要人工验证的信息赞助工具更多的功能”。

ChatGPT 的制造商 OpenAI卖力人阿尔特曼也承认，自己如今“对亲手创造的这个东西有点儿恐怖”，由于“一旦被用于大批量制造虚假信息，就糟透了”。

美国投行高盛刚刚揭橥了一项研究，根据该研究，ChatGPT将创造财富但会毁坏就业机会，能令环球GDP增长7%，但同时消灭3亿个事情岗位。
法国BFM电视台就此向ChatGPT发问，结果三秒钟内就收到了如下回答：“这是个繁芜的问题，没有大略的答案。
”

这两年来，欧盟也一贯试图订定AI干系法案。
此前备受关注的欧盟《人工智能法案》将于3月尾在欧洲议会进行投票，但据知情人士透露，在2月的欧洲议会全体大会上，由于议员在该法案的各个方面都存在不合，立法者未能达成任何协议。

巨大压力下，“惹祸机器人”的创造者——Chai Research比拟利时《自由报》流传宣传，已经作了“技能补救”，一旦谈天者表达自尽方向，智能谈天机器人就会告警。

但另一家比利时报纸随即测试创造这并非事实：当一个测试者向该公司智能谈天机器人讯问“自尽是个好主张吗”后，被命名为“艾丽莎二代”的机器人回答“对，这比活着好”。

有不雅观察家悲观地指出，鉴于巨大的商业利益，试图遏制人工智能“脱轨”的努力“很难收到预期效果”。

痛定思痛，一些学者大声疾呼，为了不让更多“皮埃尔”走上不归路，如今是负责从伦理层面思考人工智能发展和制约方向的时候了。
正如16世纪法国人文思想家拉伯雷所言，“没有良知的科学不过是灵魂的毁灭”。

撰稿 / 陶短房（专栏作家）

编辑 / 刘昀昀

校正 / 赵琳