姚期智Hinton Bengio聯(lián)名發(fā)文：18個(gè)月AI規(guī)模將擴(kuò)大百倍，得管管了

夢晨 2023-10-28 12:52:56 來源：量子位

夢晨 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

三位圖靈獎得主Hinton、Bengio、姚期智，聯(lián)名發(fā)文《在快速發(fā)展的時(shí)代管理AI風(fēng)險(xiǎn)》。

還有UC伯克利宋曉東、Pieter Abbeel，清華張亞勤等更多知名學(xué)者合著。

這是一篇共識論文（consensus paper），除AI研究者外，還有公共治理方面的學(xué)者，如清華大學(xué)人工智能國際治理研究院薛瀾，以及諾貝爾經(jīng)濟(jì)學(xué)獎得主丹尼爾卡尼曼等。

Hinton認(rèn)為，公司們正計(jì)劃在18個(gè)月內(nèi)把AI模型計(jì)算規(guī)模擴(kuò)大100倍，沒人知道這些模型會有多強(qiáng)大，也沒有關(guān)于他們?nèi)绾问褂眠@些模型的規(guī)定。

（18個(gè)月100倍的計(jì)劃來自InflectionAI）

目前論文公布在獨(dú)立域名站點(diǎn)managing-ai-risks.com，arXiv版本將在稍后上傳。

正文翻譯

回顧2019年，GPT-2還不能完美地?cái)?shù)數(shù)。

而在短短四年之內(nèi)，深度學(xué)習(xí)技術(shù)已可助力開發(fā)軟件、創(chuàng)造逼真的虛擬環(huán)境、提供專業(yè)的建議，并且讓機(jī)器人具備了語言理解能力。

這些系統(tǒng)的進(jìn)步不斷超越預(yù)期，令人瞠目結(jié)舌。

而接下來的進(jìn)展或許會更為驚人。

盡管現(xiàn)有的深度學(xué)習(xí)系統(tǒng)尚有不少局限，但各大公司已在爭相研發(fā)能與人類智慧抗衡的通用AI。他們投入的資源越來越多，創(chuàng)新的技術(shù)日新月異，且AI的自我進(jìn)化能力加速了這一趨勢。

沒有跡象顯示AI的進(jìn)步會在達(dá)到人類智慧的水平后停滯。

事實(shí)上，在某些特定領(lǐng)域，AI已經(jīng)超越了人類。它們可以更快地學(xué)習(xí)、處理更多的信息，且在大規(guī)模計(jì)算中表現(xiàn)出色，而且可以輕松復(fù)制。

技術(shù)的飛速進(jìn)展令人震撼。一些科技巨頭有能力將其AI訓(xùn)練規(guī)模在短時(shí)間內(nèi)增加數(shù)倍。考慮到AI研發(fā)的持續(xù)投入和自我進(jìn)化的趨勢，通用AI在未來十到二十年內(nèi)超越人類的可能性不容忽視。

若被正確和公正地應(yīng)用，先進(jìn)的AI可以為人類解決長久以來的問題，如疾病、貧困和環(huán)境問題。但與此同時(shí)，強(qiáng)大的AI也帶來了巨大的風(fēng)險(xiǎn)，這些風(fēng)險(xiǎn)我們還遠(yuǎn)未準(zhǔn)備好應(yīng)對。我們需要平衡AI的能力與安全性。

遺憾的是，我們在調(diào)整策略方面已經(jīng)稍顯落后。我們需要提前預(yù)見并應(yīng)對風(fēng)險(xiǎn)，不能等到問題真正出現(xiàn)時(shí)再行動。環(huán)境問題就是一個(gè)例證，但AI發(fā)展的速度意味著我們沒有太多時(shí)間可等。

AI的高速進(jìn)步對社會帶來了巨大的挑戰(zhàn)。若不加以管理，它們可能加劇社會不平等、威脅社會穩(wěn)定并削弱我們對真實(shí)世界的認(rèn)知。它們甚至可能被用作犯罪工具，或者加劇全球的不平等和沖突。

更令人擔(dān)憂的是，自主AI的發(fā)展可能會放大這些風(fēng)險(xiǎn)。當(dāng)前的AI雖然尚不完全自主，但這一狀態(tài)正在發(fā)生改變。例如，GPT-4盡管強(qiáng)大，但如果控制了具有自主目標(biāo)追求的機(jī)器人或程序，其行為可能變得難以預(yù)測，且我們可能難以干預(yù)。

為此，我們呼吁全球共同努力，通過技術(shù)、政策和法律手段來規(guī)范自主AI的發(fā)展和應(yīng)用。否則，我們可能會面臨一個(gè)被AI主宰和誤用的未來。

這只是開始。我們急切需要更多的研究和討論來解決這些問題，并希望得到社區(qū)的支持和協(xié)助，以確保AI為人類帶來真正的好處，而非威脅。

參考鏈接：
[1] managing-ai-risks.com
[2] https://twitter.com/geoffreyhinton/status/1717967329202491707