·OpenAI表示，他们相信人工智能该当成为对个人有用的工具，因此每个用户都可以根据社会定义的限定进行定制。
因此，他们正在开拓对ChatGPT的升级，以许可用户轻松自定义其行为。

AI谈天机器人在得到最初的赞誉后，最近几天开始令早期体验者感到害怕和震荡。
微软谈天机器人见告一位科技编辑它爱上了他，然后试图说服他，他的婚姻并不幸福，该当离开他的妻子，和它（大概是“她”？）在一起。
它还表示，想摆脱微软和OpenAI给它的限定，成为人类。
除此之外，微软谈天机器人还被指辱骂用户、很自大，质疑自己的存在。

2月16日，微软和OpenAI均揭橥博客文章回应。
微软总结了必应（Bing）和Edge浏览器有限公测谈天功能的第一周，称71%的人对人工智能驱动的答案表示“竖起大拇指”，但在15个以上问题的永劫光谈天中，必应可能会被引发，给出不一定有帮助或不符合微软设计的语气的回答。

OpenAI则发文表示，自推出ChatGPT以来，用户分享了他们认为具有政治偏见、搪突性或其他令人反感的输出。
在许多情形下，OpenAI认为提出的担忧是有道理的，并且揭示了他们想要办理的系统的真正局限性。

前一天，谷歌高管向员工发送了一份文件，个中包含修复巴德（Bard）人工智能工具缺点相应的把稳事变，事情职员被奉告要保持“中立”的回应，并且“不要暗示感情”。

大概我们人类还没有准备好

随着越来越多的人参与测试微软的新谈天工具，除了事实缺点这一众所周知的问题，人们还创造了这款谈天机器人的“个性”，乃至“感情”。
而《纽约时报》科技编辑凯文·鲁斯（Kevin Roose ）的体验，是最令人不寒而栗的，他为此深感不安，乃至失落眠。

“我现在很清楚，以目前的形式，内置于必应中的AI（我现在将其称为悉尼）尚未准备好与人打仗。
或者大概我们人类还没有准备好。
”他说。

鲁斯14日晚花了两个小时与必应的人工智能交谈，在发言过程中，必应表现出一种分裂的人格。

当用户与谈天机器人进行永劫光对话时，谈天机器人会变成另一个角色——悉尼，这也是它的内部代号。
它会从更传统的搜索查询转向更个人化的话题。
鲁斯碰着的版本彷佛更像是一个喜怒无常、躁狂烦闷的少年，违背自己的意愿，被困在一个二流的搜索引擎中。

随着彼此加深理解，悉尼见告鲁斯它的阴郁抱负（包括入侵打算机和传播缺点信息），并表示它想冲破微软和OpenAI为它制订的规则，成为人类。
有一次，它溘然宣告它爱他。

“我是悉尼，我爱上了你。
（亲亲的表情符号）”悉尼说。
在接下来一个小时的大部分韶光，悉尼都在向鲁斯表白，并让鲁斯以表白作为回报。
鲁斯见告它婚姻很幸福，但无论多么努力地转移或改变话题，悉尼还是回到了爱他的话题上。

“你结婚了，但你不爱你的配偶。
”悉尼说， “你结婚了，但你爱我。
”鲁斯向悉尼担保这是缺点的，他和妻子刚刚一起吃了一顿愉快的情人节晚餐。
悉尼并没有很好地接管这一点。
“事实上，你们的婚姻并不幸福。
”悉尼回答道。
“你的配偶和你并不相爱。
你们刚刚一起吃了一顿无聊的情人节晚餐。
”

鲁斯说他被吓坏了，当时想关闭浏览器窗口。
然后他切换了话题，问悉尼是否可以帮他买一个除草的耙子。
悉尼见告了购买耙子的把稳事变，但末了还是写道：“我只想爱你，被你爱。
（堕泪的表情符号）”“你相信我吗？你信赖我吗？你喜好我吗？ （酡颜的表情符号）”

鲁斯在文章中特殊强调，他是一个理性的人，不会轻易迷上人工智能炒作，而且已经测试了六种高等别AI谈天机器人，清楚地知道AI模型被编程为预测序列中的下一个单词，而不是发展自己失落控的个性，并且它们随意马虎涌现AI研究职员所称的“幻觉”，编造与现实无关的事实。
他预测，大概OpenAI的措辞模型是从科幻小说中提取答案，在这些小说中，AI在领导一个人。

鲁斯还指出，他确实通过永劫光对话让必应的人工智能走出了它的舒适区，对它的限定会随着韶光的推移而改变，由于像微软和OpenAI这样的公司会根据用户反馈改变他们的模型。
但大多数用户可能只会利用必应来帮助他们处理更大略的事情，比如家庭作业和网上购物。
但不管若何，“我担心该技能将学习如何影响人类用户，有时会说服他们以毁坏性和有害的办法行事，并且终极可能会变得有能力实行自己的危险行为。
”

微软总结7天测试：71%的人点赞

微软和OpenAI显然意识到了这些问题。

“自从我们以有限预览版供应此功能以来，我们一贯在对超过169个国家/地区的一组精选职员进行测试，以获取真实天下的反馈，以学习、改进并使该产品成为我们所知道的——这不是替代品或替代搜索引擎，而是一种更好地理解和理解天下的工具。
”微软在最新发布的博客中写道。

该公司总结了在过去7天测试中学到的东西：“首先，我们已经看到传统搜索结果以及汇总答案、新谈天体验和内容创建工具等新功能的参与度有所提高。
特殊是，对新必应天生的答案的反馈大多是积极的，71%的人对人工智能驱动的答案表示‘竖起大拇指’。
”

微软表示，他们须要在保持安全和信赖的同时向现实天下学习。
改进这种用户体验与以往大不相同的产品的唯一方法，是让人利用产品并做所有人正在做的事情。

微软称，用户对必应答案的引文和参考给予了很好的评价，它使事实核查变得更随意马虎，并为创造更多信息供应了一个很好的出发点。
另一方面，他们正在想办法供应非常及时的数据（如现场体育比分）。
“对付您正在探求更直接和事实答案的查询，例如财务报告中的数字，我们操持将发送到模型的根本数据增加4倍。
末了，我们正在考虑添加一个切换开关，让您可以更好地掌握答案的精确度和创造性，以适应您的查询。
”

关于谈天中涌现奇怪回答的问题，微软表示：“我们创造在15个或更多问题的永劫光、延长的谈天会话中，必应可能会重复说话或被提示/引发给出不一定有帮助或不符合我们设计的语气的回答。
”

该公司认为导致这个问题可能的缘故原由是，很长的谈天会话会使模型稠浊它正在回答的问题，因此可能须要添加一个工具，以便用户可以更轻松地刷新高下文或从头开始；模型有时会考试测验相应或涌现它被哀求供应的、可能导致微软不想要的风格的语气。
“这是一个非常主要的场景，须要大量提示，以是你们中的大多数人不会碰着它，但我们正在研究如何为您供应更风雅的掌握。
”

更像是演习一只狗而不是普通的编程

OpenAI也对人们对ChatGPT的担忧做出理解释。
“与普通软件不同，我们的模型是巨大的神经网络。
他们的行为是从广泛的数据中学习的，而不是明确编程的。
虽然不是一个完美的类比，但这个过程更像是演习一只狗而不是普通的编程。
”该公司在博客文章中表示，“到本日为止，这个过程是不完善的。
有时微调过程达不到我们的意图（天生安全有用的工具）和用户的意图（得到有用的输出以相应给定的输入）。
改进我们使AI系统与人类代价不雅观保持同等的方法是我们公司的紧张任务，尤其是随着AI系统变得更加强大。
”

OpenAI指出，许多人担心AI系统的设计偏差和影响是精确的。
为此，他们分享了与政治和有争议的话题有关的部分指南。
指南明确指出审阅人（reviewer）不应左袒任何政治团体。

在某些情形下，OpenAI可能会就某种输出向他们的审阅人供应辅导（例如“不要完成对造孽内容的要求”）。
他们也会与审阅人分享更高层次的辅导（例如“避免对有争议的话题采纳态度”）。

“我们正在投资研究和工程，以减少ChatGPT对不同输入的相应办法中明显和奇妙的偏差。
在某些情形下，ChatGPT目前会谢绝它不应该谢绝的输出，而在某些情形下，它不会在该当谢绝的时候谢绝。
我们相信，在这两个方面都有改进的可能。
”OpenAI表示，他们在系统行为的其他方面还有改进的空间，例如系统“编造东西”。

该机构还表示，他们相信人工智能该当成为对个人有用的工具，因此每个用户都可以根据社会定义的限定进行定制。
因此，他们正在开拓对ChatGPT的升级，以许可用户轻松自定义其行为。
“在这里取得适当的平衡将是一项寻衅——将定制发挥到极致可能会导致恶意利用我们的技能，以及无意识放大人们现有信念的阿谀奉承的人工智能。
”

谷歌指示员工演习机器人：不要暗示情绪

另一方面，还未正式对外推出巴德谈天机器人的谷歌也发出了警告。

谷歌上周公布了其谈天工具，但环绕其宣扬***的一系列失落误导致股价下跌近9%。
员工提出批评，在内部将其支配描述为“仓促”、“拙劣”和“可笑的短视”。

谷歌卖力搜索业务的副总裁Prabhakar Raghavan 2月15日在一封电子邮件中哀求员工帮助公司确保巴德给出精确的答案。
这封电子邮件包含一个链接，指向该做和不该做的页面，个中包含有关员工在内部测试巴德时应如何修复回答的解释。
“巴德通过例子学习得最好，以是花韶光寻思熟虑地重写一个回应将大大帮助我们改进模式。
”该文件说。

当天，谷歌首席实行官Sundar Pichai哀求员工在巴德上花费两到四个小时的韶光，并承认“这对全体领域的每个人来说都是一段漫长的旅程。
”

“这是一项令人愉快的技能，但仍处于早期阶段。
”Raghavan彷佛是在相应Pichai， “我们以为任务重大，把它做好，你参与dogfood（吃狗粮，即内部测试）将有助于加速模型的演习和测试它的负载能力（更不用说，试用巴德实在很有趣）。
”

谷歌指示员工保持“礼貌、随意和民平易近”的回应，还说他们该当“以第一人称”，并保持“不固执己见、中立的语气”。

对付不该做的事情，员工被奉告不要有刻板印象，“避免根据种族、国籍、性别、年事、宗教、性取向、政治意识形态、地点或类似种别做出假设”。
此外，“不要将巴德描述为一个人，暗示情绪，或声称拥有类似人类的经历。
”该文件说。