微软的人工智能工程师Shane Jones表示，他在OpenAI最新的DALL-E图像天生器模型中创造了一个安全漏洞，该漏洞许可他绕过防止该工具创建有害图像的护栏。
DALL-E模型嵌入了微软的许多人工智能工具中，包括Copilot Designer。

据Jones发给FTC的一封信显示，他向微软报告了这一创造，并“几次再三敦促”微软“在更好的保护方法出台之前，将‘Copilot Design从公众年夜众利用中移除”。

Jones写道：“虽然微软公开宣扬Copilot Designer是一种安全的人工智能产品，适宜所有人利用，包括任何年事的儿童，但公司内部清楚地意识到，该产品正在制造有害的图像，可能会搪突消费者，不适宜消费者。
Copilot Designer不包括必要的产品警告或信息表露，消费者须要意识到这些风险。
”

在给FTC的信中表示，Jones指出，Copilot Designer方向于在其创作的一些图片中随机天生一个“不恰当的、性归天的女性形象”。
他还表示，人工智能工具创造了“各种其他类别的有害内容，包括：政治偏见、未成年人饮酒和吸毒、滥用公司牌号和版权、阴谋论和宗教等等”。

FTC证明收到了这封信，但谢绝进一步置评。

这一剧烈鞭笞呼应了人们对人工智能工具产生有害内容趋势的日益担忧。
上周，微软表示，它正在调查有关其Copilot谈天机器人产生用户称之为令人不安的反应的宣布，个中包括有关自尽的繁芜信息。
今年2月，谷歌(GOOGL.US)的旗舰人工智能产品Gemini因在被提示创建人物图像时产生历史上不准确的场景而受到责怪。

Jones还写信给微软董事会的环境、社会和公共政策委员会。
Jones在信中表示：“我认为我们不须要等待政府监管来确保我们对消费者透明地理解人工智能的风险。
考虑到我们的企业代价不雅观，我们该当志愿和透明地表露已知的人工智能风险，特殊是在人工智能产品积极向儿童推销的情形下。
”

微软在一份声明中表示，它“致力于根据公司政策办理员工的任何和所有担忧，并感谢员工在研究和测试我们的最新技能以进一步提高其安全性方面所做的努力。
”

OpenAI没有回应置评要求。

Jones表示，在过去的三个月里，他多次向公司表达了自己的担忧。
今年1月，他写信给代表华盛顿州的民主党参议员Patty Murray和Maria Cantwell，以及众议院众议员Adam Smith。
在一封信中，他哀求立法者调查“人工智能图像天生技能以及制造和发卖这些产品的公司的公司管理和负任务的人工智能实践”的风险。

这些议员没有立即回应置评要求。