教皇方济各就人工智能带来的潜在危险发出警告。
教皇承认他本人曾是人工智能恶作剧的受害者，称迅速发展的技能可能会导致“扭曲现实”，而没有“道德规范”。

方济各在周三揭橥的一篇长文中表示，人工智能的最新发展既“令人愉快又令人困惑”，但也对人类与技能的关系提出了更深层次的问题。
“我们如何保持完全的人性，并勾引这种文化转型为一个好的目的做事?”他写道。

教皇写道:“人工智能系统可以帮助战胜无知，促进不同民族和世代之间的信息互换。
”“然而，与此同时，它们也可能成为‘认知污染’的来源，通过部分或完备虚假的阐述来扭曲现实，人们相信并传播它们，就彷佛它们是真的一样。
”

教皇接着提到了“以假***形式存在的虚假信息的长期问题”，并指出他自己便是“深度假造”的受害者——高度令人信服的人工智能天生的图像或音频，常日用于伪装"大众人物。

方济各连续说:“这些程序背后的仿照技能在某些特定领域是有用的，但当它扭曲了我们与他人和现实的关系时，它就变得反常了。
”

数字革命可以给我们带来更大的自由，但如果它把我们禁锢在如今被称为“覆信室”的模式中，那就行不通了。

去年，这位教会领袖被描述成一张假造的照片，照片上他穿着一件时髦的及踝羽绒服。
据其自称的创作者称，这款游戏是利用基于人工智能的美术工具Midjourney制作的。
这张照片在社交媒体上疯传，愚弄了许多用户。

虽然人们该当“抛开”对人工智能未来的“灾害性预测”，但教皇认为，这项技能可能“终极创造出基于获取信息的新种姓”，并引发“新形式的剥削和不平等”。
为了避免最坏的结果，他强调有必要“理解、欣赏和监管这些工具，这些工具如果落入坏人之手，可能会导致令人不安的情形”。

“就像人类聪慧和技能的其他产品一样，算法也不是中立的。
出于这个缘故原由，有必要采纳预防性行动，提出道德监管模式，以防止利用人工智能系统产生有害、歧视性和社会不公道的影响，并打击它们的滥用，”他说，并呼吁制订一项“有约束力的国际条约”来管理人工智能的利用和发展。

图片：2024年1月24日，教皇方济各在梵蒂冈保罗六世礼堂。