10人團隊融了10億美元，Ilya最新訪談：Scalling Law并非一成不變
“超級智能安全會變得非常關鍵”
魚羊 發自 凹非寺
量子位 | 公眾號 QbitAI
公司剛10人，種子輪融資就融了10億美元。
這種驚掉人下巴的事兒，也只有發生Ilya Sutskever身上，才稍顯“正常”。
Ilya，在大模型席卷全球的當下，他的貢獻被公認為達到了改變世界的級別：
他是AlexNet三位作者之一，和恩師Hinton一起被挖到谷歌之后，又深度參與了震驚世界的AlphaGo項目。
2015年，他參與了OpenAI的創立，出任首席科學家。ChatGPT再次改變世界，他被認為是背后最關鍵的人物之一。
從去年11月至今，Ilya的一舉一動更是被推到臺前，受到全球科技圈的矚目：
由他發動的OpenAI董事會內訌揭開大模型發展路線之爭，而他在今年5月與OpenAI徹底分道揚鑣之后，所有人都在等待他的下一步創業動向。
現在，塵埃初定。一向低調的Ilya本人，也在這個時間點上，同外界分享了更多有關他的公司SSI，以及他本人對AGI思考的信息。
在與路透社的交流中，Ilya回答了關鍵的6個問題。以下，原文奉上：
為什么創立SSI？
我們已經發現了一座與我之前的工作有些不同的“大山”……一旦你登上這座山的頂峰，范式就會改變……我們所知的關于人工智能的一切都將再次改變。
到那時，超級智能安全工作會變得非常關鍵。
我們的第一個產品將會是安全的超級智能。
在超級智能之前，會發布和人類一樣智能的AI嗎？
我認為關鍵在于：它是否安全？它是否是世界上一股向善的力量？我認為，當我們做到這一點時，世界將會發生很大的變化。因此現在就給出“我們將要做什么”的明確計劃是相當困難的。
我可以告訴你的是，世界將會變得非常不同。外界對AI領域正在發生的事情的看法將會發生巨大變化，并且很難理解。這將是一場更加激烈的對話。這可能不僅取決于我們的決定。
SSI如何判定何為安全的人工智能？
要回答這個問題，我們需要開展一些重要的研究。特別是如果你和我們一樣，認為事情會發生很大變化……很多偉大的想法正在被發現。
很多人都在思考，當AI變得更加強大時，需要對其采取哪些測試？這有點棘手，還有很多研究要做。
我不想說現在已經有了明確的答案。但這是我們要弄清楚的事情之一。
關于尺度假設和AI安全
每個人都在說“尺度假設”，但每個人都忽略了一個問題：我們在scaling什么？
過去十年深度學習的巨大突破，是一個關于尺度假設的特定公式。但它會改變……隨著它的改變，系統的能力將會增強，安全問題將變得最為緊迫，這就是我們需要解決的問題。
SSI會開源嗎？
目前，所有人工智能公司都沒有開源他們的主要工作，我們也是如此。但我覺得，取決于某些因素，會有很多機會去開源超級智能安全工作。也許不是全部，但肯定會有一些。
對其他AI公司安全研究工作的看法
實際上，我對業界有很高的評價。我認為，隨著人們繼續取得進展，所有公司都會意識到——可能是在不同的時間點——他們所面臨的挑戰的本質。因此，我們并不是認為其他人都做不到，而是說，我們認為我們可以做出貢獻。
10億美元用來干什么
最后，補充一些Ilya話外的背景信息。
SSI的消息最早在今年6月釋出，目標很明確，搞Ilya在OpenAI沒干成的事：構建安全超級智能。
目前SSI只有10名員工，融完資后，計劃利用這筆資金買算力并聘請頂尖人才——
認同他們的理念，已經做好AI有一天會超越人類智能的心理準備的那種。
聯合創始人Daniel Gross還透露，他們并不過分看重資歷和經驗，反而會花好幾個小時審查候選人是否具有“良好的品格”。
算力方面，SSI計劃和云廠商及芯片公司開展合作，具體和哪些公司合作、怎么合作尚未明確。
除了Ilya本人之外，SSI的聯創還有Daniel Gross和Daniel Levy。
△左：Daniel Gross；右：Daniel Levy
Daniel Gross畢業于哈佛大學計算機系，此前也是Y Combinator的合伙人之一，也曾創辦或參與創辦了多家公司，包括Citrus Lane、WriteLaTeX（后更名為Overleaf）等。
他被《時代100》雜志列為“人工智能領域最具影響力的人物”之一。
Daniel Levy則畢業于斯坦福計算機系，此前是OpenAI優化團隊的負責人。
- 蘋果芯片主管也要跑路！庫克被曝出現健康問題2025-12-07
- 世界模型和具身大腦最新突破：90%生成數據，VLA性能暴漲300%｜開源2025-12-02
- 谷歌新架構突破Transformer超長上下文瓶頸！Hinton靈魂拷問：后悔Open嗎？2025-12-05
- 90后華人副教授突破30年數學猜想！結論與生成式AI直接相關2025-11-26
相關閱讀
