IT之家注：去年 5 月，杰弗里・辛顿宣告离开他事情了十年的谷歌公司，缘故原由是他对人工智能技能的发展越来越担忧。

谈到当初从谷歌离职的缘故原由时，辛顿称希望自己离职后能够“自由地传播”自己相信的东西。
去年 4 月，他曾与自己的上司 —— 首席科学家杰夫・迪恩（Jeff Dean）交谈，自己提出了 AI 有可能带来事关人类生存危急的意见。
迪恩试图挽留辛顿，并发起留在谷歌研究 AI 的安全对策，但终极被辛顿谢绝。
辛顿表示，自己非常尊敬迪恩，“纵然不会被明确限定，但若身为谷歌的一员，讲话时也不得不考虑到公司的利益。
”

辛顿之以是认为 AI 有可能威胁人类，是由于若给 AI 设定目标，作为办理对策，它可能会找出对人类不利的方法。

比方说，假设向 AI 下达遏制景象变革的指令。
AI 会意识到为了达到目的而有必要将人类打消，我担心真的会付诸履行的风险。

今后还可能会涌现不同的 AI 相互竞争的局势。
例如，如果 AI 之间发生数据中央等资源的争夺，这将是一个像生物体一样推动进化的过程。
面对通过竞争变得更聪明的 AI，我们人类将落在后面。

很多人主见，要防止 AI 失落控，只要关掉电源开关就可以。
但超越人类聪慧的 AI 可以用措辞操纵我们，或许会试图说服我们不要关掉开关。

日本经济***提到了 OpenAI 联创伊尔亚・苏茨克维（Ilya Sutskever）在去年曾试图开除该公司首席实行官 (CEO) 山姆・阿尔特曼（Sam Altman）的话题，辛顿称伊尔亚非常担心 AI 的危险性。
“以前我们都认为数字的智能不会像人类那么精良，理解措辞和繁芜的东西或将是良久之后的事情。
伊尔亚率先改变了意见，但我并没有立时赞许，现在我以为他是对的。
”

半个世纪以来，辛顿一贯在培养 ChatGPT 等谈天机器人背后的核心技能。
但是现在，他担心 AI 会造成严重危害。

本文源自IT之家