GPT-5別整了！馬斯克Bengio等聯名疾呼：所有先進AI系統暫停研發6個月
如果不迅速實施，那么政府應該介入強制執行。
楊凈 發自 凹非寺
量子位 | 公眾號 QbitAI
GPT-4讓大牛慌了，緊急聯名成立人類拯救派：
所有AI實驗室立即暫停訓練GPT-4更先進的AI系統！
至少6個月限期。
包括馬斯克、Bengio在內的上千位產學研代表聯名發表公開信“暫停巨型AI實驗”，瞬間引起軒然大波。
信中強調：如果不迅速實施，那么政府應該介入強制執行。
我們熟知的一些大咖，比如Stability AI CEO、07年圖靈獎得主、蘋果聯合創始人、多位DeepMind工程師也都赫然在列。
有網友表示：這是三體照進現實？降臨派、拯救派和幸存派不是開玩笑的。
我目前是幸存派。
馬斯克Bengio聯名呼吁
在這封聯名公開信中，他們提出了三個方面的需求和建議舉措：
首先、立即暫停比GPT-4更先進的AI系統訓練，時間至少是6個月。
這一要求是覆蓋了所有的人工智能實驗室，尤其是這當中的關鍵參與者。
并且暫停舉措必須是公開、可驗證的。如果AI機構不能立即實施，那么政府應該介入強制執行。
其次，利用這段時間，開發和實施一套共享安全協議，用于高級人工智能設計和開發，并由獨立外部專家進行嚴格審核和監督。
信中還明確指出：這并不意味著總體限制一般人工智能的發展，而是從目前危險的競技中退后一步，避免更強大、更不可預測的黑箱模型和新興能力出現。
人工智能的研究和發展，應該重新聚焦于朝著更準確、安全、可信可解釋等的AI系統開發工作上來。
第三，開發者應同政策制定者一道，共同加速開發人工智能治理系統。這個治理系統至少包括：
- 專門負責人工智能的全新監管機構；
- 監督和跟蹤高能力的AI系統和大型算力池；
- 注明出處和水印系統，幫助區分真實和合成、以及跟蹤模型泄露；
- 健全的審計和認證生態系統；
- 對人工智能造成的傷害進行責任認定；
- 為人工智能安全技術研究提供強大的公共資金；
- 以及提前預防人工智能導致的巨大經濟政治破壞。
最后，還暢想了一下未來。
在成功創造出強大的AI系統之后，我們現在享受一個“人工智能夏天”。但這個夏天希望能夠漫長一點，需考慮到所有人的利益，并給社會一個適應的機會，暫停使用一些危害系統；而不是毫無準備地沖進“秋天”。
內涵OpenAI和奧特曼
這么做的原因，無非就是忌憚當前GPT-4的強大。
畢竟連OpenAI老板奧特曼自己也承認：AI確實可能殺死人類。
在公開信的最前面，他們（用一堆車轱轆話）解釋了這么做的原因，其中不乏一些內涵OpenAI和老板奧特曼的話。
比如一上來就是，正如廣泛研究和頂級人工智能實驗室所承認的那樣，能與人類競爭的AI系統會對社會和人類構成風險。
本該進行謹慎的規劃和管理沒有進行，反而演變成一場失控的AI競速。沒有人——甚至他們的創造者——能夠理解、預測或可靠地控制。
甚至還發四連問：
我們應該讓機器人在我們的信息渠道中充斥著宣傳和不真實嗎？
我們是否應該把所有的工作都自動化，包括那些有成就感的工作？
我們是否應該開發非人類的大腦，使其最終超過我們的數量，勝過我們的智慧，淘汰我們并取代我們？
我們是否應該冒著失去對我們文明的控制的風險？
他們認為這樣的決定決不能委托給未經選舉的技術領袖。
（奧特曼：直接報我名字得了）
而OpenAI最近關于人工通用智能的聲明提到「獨立的審查」、「限制先進模型的計算增長速度」等方案，他們認為應該現在就開始進行。
截至現在，這個公開信已有1100+的AI從業者簽署，其中不乏一些知名的大牛。
學界包括伯克利計算機系教授Stuart Russell、Hopfield網絡發明者John J Hopfield，2007年圖靈獎得主Joseph Sifakis、IEEE計算機先驅UML之父Grady Booch、沃爾夫物理學獎得主斯坦福教授Pablo Jarillo-Herrero等。
產業界有蘋果聯合創始人Steve Wozniak、Stable Diffusion背后公司Stability AI首席執行官Emad Mostaque，多位Deepmind工程師等。
不過需要多說一句的是，這封聯名信屬于公開署名，任何人都可以申請，后續名單的真偽性有待查證。
甚至還有人發現名單里還出現了同名奧特曼。（狗頭）
LeCun：我不簽
回過頭再來看深度學習三巨頭看待ChatGPT，如今Bengio態度已經是再明顯不過。
至于Hinton還忙著追趕，他的社交平臺還停留在15日，稱RLHF機制是在催熟AI。
至于LeCun則是忙著“破防”，前幾日還痛批GPT系列沒前途，世界模型 is the best。
不過對于這場聯名行為，他明確持反對態度。
看來又要跟馬庫斯打一架了（不是）。
對于這項“拯救行動”，你覺得你是什么派呢？
參考鏈接：
[1]https://weibo.com/1646802810/MztAJ7DVy
[2]https://futureoflife.org/open-letter/pause-giant-ai-experiments/?continueFlag=d19c796896f3776241c518f8747afa68
[3]https://twitter.com/GaryMarcus/status/1640884040835428357
- 空間智能卡脖子難題被杭州攻克！難倒GPT-5后，六小龍企業出手了2025-08-28
- 陳丹琦有了個公司郵箱，北大翁荔同款2025-08-28
- 英偉達最新芯片B30A曝光2025-08-20
- AI應用如何落地政企？首先不要卷通用大模型2025-08-12
相關閱讀
