（来源：X）

大略来讲，苏茨克维创办了一家叫做“安全超级智能”（Safe Superintelligence，简称SSI）的新公司，目标是“一步到位”地创造一个安全的超级智能。

安全第一、直通终极目标

苏茨克维打算在一个纯粹的研究机构里，直接创造一个安全、强大的人工智能系统，同时不会在短期内推出任何商业化产品或做事。
他对媒体先容称：“这个公司很特殊，由于它的第一个产品就会是安全的超级智能，直到（实现）那一天前不会做任何其他事情，完备隔离于外部压力，不必去处理大型、繁芜的产品或陷入激烈的竞争中。
”

安全第一、不搞商业化、不理睬外界压力，整段话里苏茨克维没有提到过一次OpenAI，但背后的意思已经不言自明。
虽然OpenAI的“宫斗”事宜以奥尔特曼的大胜、速胜结束，但整件事情背后加速主义与安全主义的路线之争并没有结束。

虽然理念不同，但双方私下里依然坚持着尚可的关系。
在今年5月15日宣告离开事情十年的OpenAI之时，苏茨克维也发布了一张管理层的合照，并表示相信在奥尔特曼等人的带领下，OpenAI将构建出安全又有益的AGI（通用人工智能）。

（来源：X）

对付苏茨克维的分道扬镳，奥尔特曼回应称“深感悲哀”，并表示没有苏茨克维就没有OpenAI的本日。

自去年的“宫斗”事宜结束后，苏茨克维一贯对付整件事保持沉默，直到本日依然如此。
在被问及他与奥尔特曼的关系时，苏茨克维只是大略地回答了一句“很好”，而被问及过去几个月的经历时，他也只是表示“非常奇怪”。

“像核安全一样的安全”

从某种意义上来看，苏茨克维目前也无法准确界定AI系统安全与否的分边界，只能说有一些不一样的想法。

苏茨克维暗示称，他的新公司将考试测验利用“嵌入AI系统的工程打破”来实现安全，而不是技能上临时运用的“防护栏”。
他强调：“我们所说的安全，是指像核安全一样的安全，而不是类似于‘信赖与安全’那样的东西”。

他表示花了很多年来思考AI安全方面的问题，并且在心目中已经有了几种实现的方法。
他先容称：“在最基本的层面上，安全的超级智能该当具有这样的特性，即不会对人类造成大规模侵害。
在此之后，我们可以说希望它成为一种善的力量，一种建立在关键代价不雅观上的力量。
”

除了大名鼎鼎的苏茨克维外，SSI还有两名创始人——前苹果公司机器学习主管、有名科技风险投资人丹尼尔·格罗斯，另一个是与苏茨克维一同在OpenAI演习大模型的工程师丹尼尔·莱维。

莱维表示，我的愿景与苏茨克维完备同等：一个小而精干的团队，每个人都专注于实现安全超级智能的单一目标。

虽然目前并不清楚SSI为何敢于喊出“一步到位”（到底有多少投资人、投了多少钱），但格罗斯明确表示，公司的确会面临许多问题，但找钱不会是个中之一。

回归OpenAI的初心

从一系列愿景中不难创造，所谓“安全超级智能”，实质上便是OpenAI创立初期的观点。
但随着演习大模型带来的用度激增，OpenAI不得不与微软互助，换取资金和算力支持延续他们的奇迹。

这样的问题也会涌如今SSI未来的路上——公司的投资人真的乐意投入大量资金，看着这家公司没有任何产出，直到实现“超级智能”的终极目标吗？

顺便一提，“超级智能”本身也是一个理论上的观点，指的是一种超越人类水平的人工智能系统，比起环球大多数超级科技公司正在追求的成果更加前辈。
但业内对付能否实现这样的智能，或如何构建这样的系统尚未形成共识。

而令人在意的是，在SSI公司发布的首个公告中，第一句话便是“超级智能已经近在咫尺”。

附：SSI公告

安全超级智能公司 (Safe Superintelligence Inc.)

超级智能已经近在咫尺。

构建安全的超级智能是我们这个时期最主要的技能问题。

我们已经启动了天下上第一个直击目标的SSI实验室，目标和产品只有一个：安全的超级智能。

它叫做安全超级智能公司。

SSI是我们的义务、我们的名字和我们全部的产品路线图，由于这是我们唯一的关注点。
我们的团队、投资者和商业模式都同心协力实现SSI。

我们将安全性和能力并行，视为须要通过革命性工程和科学打破办理的技能问题。
我们操持在确保安全性始终优先的情形下尽可能快地提高能力。

这样，我们就能在沉着的状态中扩展。

我们的专把稳味着不会因管理事务或产品周期而分心，我们的商业模式意味着安全性和技能进步都不会受到短期商业压力的影响。

我们是一家美国公司，在帕洛阿尔托和特拉维夫设有办事处，这些地方是我们的根基所在，也能在这些地方招募到顶尖的技能人才。

我们正在组建一个精简的、出类拔萃的天下顶尖工程师和研究职员团队，只专注于SSI。

如果你是那样的人，我们供应一个机会，让你完成生平的奇迹，帮助办理我们这个时期最主要的技能寻衅。

现在是时候了。
加入我们。

伊利亚·苏茨克维、丹尼尔·格罗斯、丹尼尔·莱维

2024年6月19日