离开 OpenAI 仅一个月后,前首席科学家、ChatGPT-4 创建者 Ilya Sutskever 周三宣布成立新的 AI 初创公司 Safe Superintelligence (SSI),专注于开发安全而强大的超级智能 AI。
SSI 由 Sutskever、前 Y Combinator 合伙人 Daniel Gross 和前 OpenAI 工程师 Daniel Levy 共同创立。该公司总部位于加利福尼亚州帕洛阿尔托,在以色列特拉维夫设有办事处。据 Sutskever 称,SSI 的主要目标是创造有益的超级智能 AI,他认为这可以在“十年内”实现。
与 OpenAI 最近转向商业产品不同,SSI 仍将是一个纯粹的研究机构,不受短期商业压力的影响。虽然融资细节尚未披露,但格罗斯自信地表示:“筹集资金不会成为我们的挑战之一。”
苏茨克弗在 X(以前的 Twitter)上分享了这一消息,并表示:“我们将全力以赴地追求安全的超级智能,只有一个重点、一个目标和一个产品。”
超级智能已经触手可及。
构建安全的超级智能(SSI)是我们这个时代最重要的技术问题。
我们已经启动了世界上第一个直线 SSI 实验室,其目标和产品只有一个:安全的超级智能。
它被称为安全超级智能……
— SSI Inc. (@ssi) 2024 年 6 月 19 日
今年 5 月,Sutskever 在 X 上提到他正在从事一个“非常具有个人意义”的项目,并将在适当的时候分享更多细节,有关这一新项目的暗示开始浮出水面。
在 OpenAI 任职期间,Sutskever 与 Jan Leike 共同领导了 Superalignment 团队,后者也于 5 月离职,加入了竞争对手 AI 公司 Anthropic。Superalignment 团队专注于引导和控制 AI 系统,在 Sutskever 和 Leike 离职后不久就解散了。在 SSI,Sutskever 将继续优先考虑 AI 安全。
该公司在 X 上的官方账号写道:“SSI 是我们的使命、我们的名字,也是我们整个产品路线图,因为这是我们唯一的关注点。我们的单一关注点意味着不会受到管理开销或产品周期的干扰,我们的商业模式确保安全、保障和进步不受短期商业压力的影响。”
苏茨克弗离开 OpenAI 之前,该公司经历了一段动荡时期,其中包括解雇 OpenAI 联合创始人兼首席执行官山姆·奥特曼 (Sam Altman),引发了争议。苏茨克弗后来对自己参与董事会行动深表遗憾,他在 X 上表示:“我从未打算伤害 OpenAI。我热爱我们共同建立的一切,我将尽一切努力让公司重新团结起来。”
奥尔特曼突然被罢免,随后又迅速复职,这导致苏茨克弗公开为自己在此次事件中扮演的角色道歉。他在 11 月 20 日发表在 X 上的一篇帖子中写道:“我对自己参与董事会行动深感遗憾。我热爱我们共同建立的一切,并将尽我所能重新团结公司。”
您可以在下面阅读 Sustkever 的完整帖子。
“超级智能已经触手可及。
构建安全的超级智能(SSI)是我们这个时代最重要的技术问题。
我们已经启动了世界上第一个直线 SSI 实验室,其目标和产品只有一个:安全的超级智能。
它的名字是 Safe Superintelligence Inc.
SSI 是我们的使命、我们的名字和我们的整个产品路线图,因为这是我们唯一的重点。我们的团队、投资者和商业模式都致力于实现 SSI。
我们将安全性和性能并重,将其视为需要通过革命性的工程和科学突破来解决的技术问题。我们计划尽快提高性能,同时确保我们的安全性始终处于领先地位。
这样,我们就可以安心地扩大规模。
我们的专注意味着我们不会受到管理费用或产品周期的干扰,而我们的商业模式意味着安全、保障和进步都不会受到短期商业压力的影响。
我们是一家美国公司,在帕洛阿尔托和特拉维夫设有办事处,我们在那里拥有深厚的根基和招募顶尖技术人才的能力。
我们正在组建一支精干的团队,由世界上最优秀的工程师和研究人员组成,他们专注于 SSI,不关心其他任何事情。
如果您愿意,我们将为您提供一个机会,让您毕生致力于此,帮助解决我们这个时代最重要的技术挑战。
现在是时候了。加入我们。 伊利亚·苏茨克韦尔、丹尼尔·格罗斯、丹尼尔·利维 2024 年 6 月 19 日”