OpenAI CEO要求監(jiān)管AI，還提出三點(diǎn)方案，美議員：沒見過這么主動(dòng)的

夢(mèng)晨 2023-05-17 12:35:14 來源：量子位

夢(mèng)晨 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

Sam Altman，作為OpenAI的CEO你賺了很多錢吧？

我沒有OpenAI的股權(quán)，我的薪酬剛剛夠健康保險(xiǎn)……我做這個(gè)是出于熱愛。

就在昨晚，這段對(duì)話發(fā)生在美國華盛頓一場(chǎng)聽證會(huì)。

Sam Altman與IBM副總裁Christina Montgomery、紐約大學(xué)名譽(yù)教授Gary Marcus一同出席作證。

討論的核心問題在于，ChatGPT與其他AI技術(shù)的風(fēng)險(xiǎn)。

與過去的其他科技公司高管不同，Altman表示非常歡迎對(duì)AI進(jìn)行監(jiān)管。

如果這項(xiàng)技術(shù)出了問題，那就可能會(huì)是大問題……我們希望與政府合作，防止這種情況發(fā)生。

議員們的態(tài)度也與過去大不相同，減少了批評(píng)和刁難，像是真的在征求三位證人的意見。

AI如何監(jiān)管？OpenAI提出三點(diǎn)方案

聽證會(huì)開始，參議員Richard Blumenthal作開場(chǎng)白，闡述了AI造成虛假信息擴(kuò)散、社會(huì)不平等加劇等潛在風(fēng)險(xiǎn)。

但坐在主席臺(tái)的Blumenthal，嘴卻一直緊閉。

這是一段錄音，文本由ChatGPT生成，聲音由AI軟件合成，聽起來與本人幾乎一致。

有圍觀網(wǎng)友表示：議員們這次居然認(rèn)真準(zhǔn)備了，這很難得。

錄音結(jié)束后，真正的Blumenthal補(bǔ)充道，雖然ChatGPT這次表達(dá)地和他本人觀點(diǎn)一致，但同樣的技術(shù)也可以輕松合成虛假消息，“那將非常可怕”。

Altman在證詞中也表示，AI可能被用于操縱輿論也是他最擔(dān)心的問題之一，特別是明年將舉行大選。

當(dāng)Photoshop剛出現(xiàn)時(shí)，有一段時(shí)間人們真的會(huì)被P圖騙到。

然后很快人們就會(huì)有“圖可能是被P過的”這個(gè)意識(shí)，AI將帶來相似的情況。

在場(chǎng)的其他參議員還指出，由少數(shù)科技公司主導(dǎo)是人工智能市場(chǎng)的另一大風(fēng)險(xiǎn)，OpenIAI與微軟合作便是一例。

對(duì)于像OpenAI這樣的AI公司應(yīng)如何被監(jiān)管，Altman準(zhǔn)備了三條方案：

• 成立一個(gè)新的部門，負(fù)責(zé)為AI大模型頒發(fā)許可，并擁有撤銷許可的權(quán)力。
• 為AI模型創(chuàng)建一套安全標(biāo)準(zhǔn)，對(duì)危險(xiǎn)性做評(píng)估，包括它們是否能夠“自我復(fù)制”、“逃出實(shí)驗(yàn)室自己行動(dòng)”。
• 要求獨(dú)立專家對(duì)模型的各種指標(biāo)做獨(dú)立審計(jì)。

華盛頓郵報(bào)認(rèn)為，方案中明顯缺少對(duì)訓(xùn)練數(shù)據(jù)的披露，而這也是一同出席的Marcus一直呼吁的。

對(duì)于OpenAI是否會(huì)進(jìn)入廣告業(yè)務(wù)，Altman表示不排除這種可能性。

我不能說永遠(yuǎn)不會(huì)……但我真的喜歡訂閱模式。

有議員擔(dān)心基于廣告的商業(yè)模式會(huì)讓AI重蹈社交媒體的覆轍，發(fā)展出操縱用戶的產(chǎn)品和令人上癮的算法。

如果不采取比對(duì)社交媒體更快、更有效的行動(dòng)，AI可能會(huì)對(duì)社會(huì)經(jīng)濟(jì)和文化造成更大傷害。

一同作證的IBM副總裁Montgomery認(rèn)為，AI發(fā)展不能像Facebook的口號(hào)那樣“迅速行動(dòng)、打破常規(guī)（move fast and break things）”，但也不必對(duì)創(chuàng)新猛踩剎車。

Altman與Montgomery都反對(duì)暫停人工智能開發(fā)。

對(duì)于AI造成的失業(yè)問題，兩人觀點(diǎn)也一致，認(rèn)為AI會(huì)減少一些工作崗位，但也會(huì)創(chuàng)造新的。

Marcus則一如既往對(duì)“OpenAI聲稱為了造福全人類，但與微軟形成商業(yè)聯(lián)盟”、“AI生成虛假信息”、“ChatGPT的訓(xùn)練數(shù)據(jù)不透明”等問題做出批評(píng)。

他形容AI為“像一只在瓷器店的公牛一樣，強(qiáng)大、魯莽且難以控制”。

Marcus提議成立一個(gè)像歐洲核子研究中心CERN一樣的國際合作組織，專門研究AI安全問題。

AI完成任務(wù)，而不是整個(gè)工作

這不是Altman第一次因AI問題來到華盛頓。

本月初他與其他科技公司CEO參加了白宮關(guān)于AI發(fā)展的一場(chǎng)討論，本周一他還與60名議員共進(jìn)晚餐并展示了ChatGPT的各種用法。

據(jù)在場(chǎng)的眾議員Ro Khanna透露，Altman在晚宴上強(qiáng)調(diào)“AI是一種工具，而不是一種生物”，“能幫人完成具體任務(wù)，而不是整個(gè)工作”。

這次公開聽證會(huì)結(jié)束后，Altman繼續(xù)與議會(huì)AI核心小組舉行閉門會(huì)議。

美國司法委員會(huì)知識(shí)產(chǎn)權(quán)部門也表示計(jì)劃在未來兩個(gè)月內(nèi)舉行多場(chǎng)聽證會(huì)，討論AI對(duì)版權(quán)和專利法帶來的影響。

完整視頻回放：
https://www.youtube.com/watch?v=TO0J2Yw7usM

參考鏈接：
[1]https://www.washingtonpost.com/technology/2023/05/16/ai-congressional-hearing-chatgpt-sam-altman/
[2]https://www.bizjournals.com/sanjose/news/2023/05/16/mr-altman-goes-to-washington.html