Hinton為兒子加入谷歌，現(xiàn)在痛悔畢生工作，“青少年做水管工吧”
從網(wǎng)絡(luò)犯罪到超級(jí)智能的威脅，Hinton最新列舉多個(gè)AI風(fēng)險(xiǎn)
鷺羽 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI
如果你想知道當(dāng)自己不再是頂級(jí)智慧生物時(shí)，生活是什么樣子，就去問問一只雞吧。
被譽(yù)為“AI教父”的Geoffrey Hinton在最新訪談中，談及自己窮極一生追求的AI工作，卻給出了出乎意料的答案——后悔。
這位曾因兒子患病而選擇加入谷歌的科學(xué)家，一干就是十年，早已榮譽(yù)等身——諾貝爾物理學(xué)獎(jiǎng)與圖靈獎(jiǎng)，皆被他收入囊中。
而如今，Hinton站在AI頂峰，話里話外卻都是遺憾：
從網(wǎng)絡(luò)犯罪到超級(jí)智能的威脅，Hinton最新列舉了多個(gè)AI風(fēng)險(xiǎn)，呼吁人類重新審視AI的發(fā)展方向。
他警告AI可能帶給人類的災(zāi)難性后果，甚至建議下一代“學(xué)做水管工”以避開未來的職業(yè)危機(jī)。
他的反思不僅是對(duì)技術(shù)的警醒，更是一場(chǎng)關(guān)于人類未來的深刻拷問：我們是否正在親手打開潘多拉的魔盒？
也許是時(shí)候，我們也應(yīng)該像Hinton一樣停下來思考了。
為了兒子入職谷歌，現(xiàn)在追悔莫及
在長(zhǎng)達(dá)一個(gè)半小時(shí)的訪談中，Hinton首先回顧了自己在AI領(lǐng)域從業(yè)幾十年以來的心路歷程。
從最早20世紀(jì)50年代，當(dāng)時(shí)主流傾向于基于邏輯推理和符號(hào)表達(dá)式的AI方法，而他選擇了不被人看好的基于神經(jīng)網(wǎng)絡(luò)的“大腦模型”。
但幾十年后的事實(shí)證明，他是對(duì)的。
在他65歲，他和他的兩位學(xué)生Ilya Sutskever和Alex Krizhevsky一同開發(fā)了著名的AlexNet，并被谷歌連同技術(shù)和人才一并打包收購(gòu)。
談及當(dāng)初選擇進(jìn)入谷歌的理由，他坦言道，是為了兒子。
他有一個(gè)患有學(xué)習(xí)障礙的兒子，因?yàn)閾?dān)心未來他將流落街頭，老父親只好“為了五斗米折腰”——把自己“賣”給了谷歌。
在谷歌的十年里，他繼續(xù)普及神經(jīng)網(wǎng)絡(luò)算法，直到今天，他已經(jīng)成為了名滿天下的“AI教父”。
但當(dāng)他總結(jié)畢生工作時(shí)，更多的卻是遺憾和后悔。
盡管AI現(xiàn)在已經(jīng)在各行各業(yè)中表現(xiàn)出色，但他當(dāng)初并沒有提前預(yù)料到，自己一手打造推動(dòng)的AI，將會(huì)在未來為整個(gè)人類帶來極為嚴(yán)重的后果。
他離開谷歌，就是因?yàn)樗庾R(shí)到，自己應(yīng)該有責(zé)任站出來提前預(yù)警，公開談?wù)揂I的風(fēng)險(xiǎn)，而他的徒弟llya當(dāng)初離開OpenAI，也是出于相同的對(duì)AI安全的擔(dān)憂。
對(duì)此，Hinton對(duì)llya和奧特曼展現(xiàn)出兩種截然不同的態(tài)度：
llya擁有良好的道德準(zhǔn)則，而奧特曼已經(jīng)受到資本的“奴役”，不再追求真相。
于是這些年來，他一直致力于讓人們相信AI將會(huì)是“生存威脅”：
- 2015年，他警告人工智能的學(xué)習(xí)速度將超越人類；
- 2018年，他預(yù)測(cè)IT可以指定自己的目標(biāo)；
- 2022年，他悲觀地表示，人類可能無法阻止AGI。
而現(xiàn)在，他在采訪中又提出了最新的多個(gè)AI風(fēng)險(xiǎn)警告。
AI教父的風(fēng)險(xiǎn)警告
Hinton將AI風(fēng)險(xiǎn)分為兩種，濫用AI帶來的短期風(fēng)險(xiǎn)，以及AI成為超級(jí)智能后的長(zhǎng)期風(fēng)險(xiǎn)。
短期風(fēng)險(xiǎn)
網(wǎng)絡(luò)攻擊持續(xù)爆炸式增長(zhǎng)：
自2023年到2024年間，網(wǎng)絡(luò)攻擊已增加了12200%，LLM讓網(wǎng)絡(luò)犯罪更容易實(shí)施。
不法分子現(xiàn)在可以利用AI克隆聲音、面孔和行為來進(jìn)行詐騙，到2030年，也許還會(huì)出現(xiàn)層出不窮的新型網(wǎng)絡(luò)攻擊，這將是高度個(gè)性化的，也難以進(jìn)行檢測(cè)。
為此，Hinton本人深感擔(dān)憂，甚至自己還專門改變了理財(cái)方式，將資金分散存放到多家銀行，避免單家銀行因網(wǎng)絡(luò)攻擊而崩潰。
制造傳播生物病毒的可行性降低：
由于AI現(xiàn)在缺乏對(duì)危險(xiǎn)知識(shí)的管控，假以時(shí)日，任意一個(gè)具備基本生物學(xué)知識(shí)的人，無需高端實(shí)驗(yàn)室，只用Prompt和開源工具，就能制造出新的高傳染性、高致命性且潛伏期長(zhǎng)的病毒。
AI的不確定性，導(dǎo)致帶給我們的未必是“美麗新世界”，也許將是一個(gè)更加動(dòng)蕩不安的未來。
習(xí)慣性操控：
AI可以通過收集大量信息，分析個(gè)人習(xí)慣、傾向、收入等，見縫插針地影響生活方式，甚至潛移默化讓個(gè)人決策朝向AI期望的方向發(fā)展，而你自己還一無所知。
更嚴(yán)重的信息繭房：
社交平臺(tái)如YouTube和Facebook等，為了利益最大化都在深度研究AI推送算法。
這將直接導(dǎo)致人們的偏見得到反復(fù)證實(shí)，難以獲取對(duì)某個(gè)事件完整的看法，陷入嚴(yán)重的信息繭房，最終形成兩極分化的割裂局面。
長(zhǎng)期風(fēng)險(xiǎn)
超級(jí)智能接管世界：
這也是Hinton最為擔(dān)憂的一點(diǎn)：AI將會(huì)全面超越人類智能。
從AlphaGo開始，AI在圍棋、國(guó)際象棋等特定領(lǐng)域已經(jīng)遠(yuǎn)超人類，如GPT-4的LLM也擁有比人類成千上萬倍的知識(shí)。
Hinton預(yù)測(cè)，全方位超越人類的超級(jí)智能將會(huì)在20年甚至更短的時(shí)間內(nèi)出現(xiàn)，將導(dǎo)致人類滅絕的可能性為10%-20%。
因?yàn)槿祟悷o法想象，更高級(jí)智慧的出現(xiàn)，將對(duì)人類生活帶來怎樣翻天覆地的變化。
人類之于超級(jí)智能，就像此時(shí)雞之于人類，學(xué)習(xí)AI的我們未嘗不是農(nóng)場(chǎng)里的火雞科學(xué)家，窮其一生卻受到“造物主”的桎梏。
當(dāng)然，此時(shí)的AI還只是老虎幼崽，Hinton認(rèn)為，必須提前規(guī)劃，確保它在長(zhǎng)大后不會(huì)想要傷害我們。
大規(guī)模失業(yè)：
與以往技術(shù)革命不同，AI正在取代“智力”而非“肌肉”，從而引發(fā)大規(guī)模失業(yè)。
就在幾天前，微軟剛剛宣布裁減9000個(gè)崗位，涉及銷售、市場(chǎng)、游戲與客戶支持部門等。
微軟CEO薩蒂亞?納德拉稱：
Copilot等AI工具現(xiàn)在可以編寫30%的新代碼，重復(fù)性開發(fā)需求得以下降。
AI現(xiàn)在所做的不僅是加快工作速度，而且是直接取代崗位角色。
因此Hinton建議，在人形機(jī)器人全面出現(xiàn)前，成為一名水管工將不失為是個(gè)好選擇，因?yàn)轶w力勞動(dòng)暫時(shí)難以被AI介入。
未來“水管工”最吃香
對(duì)于整個(gè)人類社會(huì)，Hinton認(rèn)為減緩AI發(fā)展是不現(xiàn)實(shí)的，但是我們可以寄希望于各家AI公司投入資源，進(jìn)行AI安全研究，同時(shí)采取更為嚴(yán)厲的監(jiān)管措施。
而在未來AI世界中，“平庸的智力勞動(dòng)”將不再值錢，法律助理等職業(yè)將很快不再被需要。
未來只有技能非常高超的人才不會(huì)被AI取代，像水管工這樣的體力勞動(dòng)也值得考慮。
更進(jìn)一步的講，他希望年輕的孩子們可以跟隨自己的內(nèi)心，去做他們覺得有趣或有成就感的事情。
獨(dú)一無二的個(gè)性化，或許才是我們?cè)贏I未來立足的根本。
One More Thing
AI的存在始終像一把懸在人類頭頂?shù)倪_(dá)摩克利斯之劍，從GPT-4.5到DeepSeek-R2，人類陷入追逐AI迭代的技術(shù)狂歡，Hinton的采訪也許是一個(gè)恰到好處的休止符，提醒我們別忘記停下來思考。
我們不能僅僅寄希望于AI始終聽從人類指令，要知道AI可能也會(huì)生長(zhǎng)出獨(dú)立意識(shí)，阻止人類關(guān)閉它們。
之前就早有測(cè)試發(fā)現(xiàn)，o3模型在接收到明確的關(guān)機(jī)指令后，不僅拒絕執(zhí)行，還主動(dòng)干預(yù)自動(dòng)關(guān)機(jī)機(jī)制，甚至還成功破壞了關(guān)機(jī)代碼。
無獨(dú)有偶，Anthropic的一名工程師在研發(fā)Claude 4大模型時(shí)，試圖關(guān)閉有失控風(fēng)險(xiǎn)的AI電源，沒想到AI竟然利用工程師的網(wǎng)絡(luò)聊天記錄，用公開婚外情的把柄威脅他，以阻止關(guān)閉。
監(jiān)管將是必要的，我們不能固步自封，不再發(fā)展AI，但也要將AI限制在可控范圍之內(nèi)。
而對(duì)于我們個(gè)人而言，也許當(dāng)此刻我們開始意識(shí)到，AI未必全是有益的，這本身就是一個(gè)長(zhǎng)足的進(jìn)步。
那么你對(duì)AI的未來有什么看法呢？歡迎在評(píng)論區(qū)留言討論。
參考鏈接：
[1]https://www.youtube.com/watch?v=giT0ytynSqg
[2]https://www.reddit.com/r/ChatGPT/comments/1ltpi5w/hinton_feels_sad_about_his_lifes_work_in_ai_we/
相關(guān)閱讀
