LeCun：對人工智能末日的擔憂被夸大了，Meta正在構建超級智能助手

奇月 2024-12-30 21:15:01 來源：量子位

奇月 發自 凹非寺
量子位 | 公眾號 QbitAI

AI末日將近？

深度學習三巨頭之一、被稱為AI教父的Hinton教授在最新演講中指出，技術的發展速度遠遠超出了他的預期，如果再不加以監管人類將會在10年內滅絕：

不過，同為深度學習三巨頭之一的LeCun教授則表示：夸大了。

在最新采訪中，LeCun表示，自己還是非常看好人工智能的未來的。

對人工智能末日的擔憂被夸大了。

我覺得，對于推動社會進步來說，智能是我們社會目前最急需的、最寶貴的東西之一。能有效增強人類智能的機器所產生的影響，可能會和15世紀印刷術的發明一樣具有變革性。

與LeCun對談的主持人是加州大學圣地亞哥分校校長杰出物理學教授Dr.Brian Keating，他還特地帶上了最新的Meta Ray-Ban智能眼鏡，表示非常欣賞這個產品。

雖然LeCun曾主張“LLM還沒有貓聰明”，但其實他在Meta的FAIR團隊一直在努力建構下一代被稱為“世界模型”的AI模型：

單純憑借預測下一個單詞很難抽象出事物的運行規律，所以我們需要更高級的視覺預測，這也是JEPA架構正在做的事情。

談到Meta的規劃，LeCun表示人類級別的人工智能是Meta不可避免的“產品需求”，他們正在開發超級智能助手，未來這些助手會將人與人、人與知識和他們所需的幫助聯系起來。

有網友看完表示非常贊同，人類水平的AI可以重新定義當下的技術與互動：

下面是采訪的主要內容，在不改變原意的前提下，量子位對部分內容做了梳理，希望能帶給你更多啟發。

下一代模型需要類JEPA新架構

一開始，主持人就cue到了他那句經典的“現在的LLM還沒有貓聰明”，楊立昆也再次重申了大型語言模型（LLM）的局限。

他認為，這些大型語言模型主要就是靠著文本訓練出來的，它們對現實世界的了解，全是通過人類帶有象征意味的、近似且離散的描述來獲得的，所以難以處理復雜現實世界中的事物。

雖然LLM可以輕松通過律師資格考試這種偏文本知識的事，但生活中普通10歲小孩或者小貓能輕松做到的事，比如規劃一下怎么夠到高處的東西、根據實際情況推理、還有對身邊那些直觀物理原理的把握，這些它們就無法實現了。

它們更像是知識的搬運工，只能檢索已有知識，缺乏像愛因斯坦那樣能創造新物理定律的洞察力，也很難用于預測化學反應、材料特性這類需要創新突破的科學發現事務中。

同時，楊立昆還著重介紹了自己鉆研多年的聯合嵌入預測架構（JEPA）這一自監督人工智能方法。

目前常見的自監督學習方式在處理自然數據，比如視頻、圖像等方面存在不足，類似掩碼自編碼器之類的方法效果欠佳。

主要原因在于預測連續、高維的連續信號并表示其所有可能的概率分布非常復雜，所以常常導致預測結果僅是所有可能情況的平均值，容易出現畫面模糊不清等情況。

而JEPA則有著獨特的理念，涉及對信號進行表征形成 “嵌入”，以及利用圖像及其變換后版本進行 “聯合嵌入” 等操作。

什么是嵌入呢？就好比一幅圖像，我們不關心每個像素的精確值，而是用一個數字列表，也就是向量來代表圖像內容，這就是嵌入，它不展現所有細節。

而聯合嵌入，就是拿一幅圖像和它稍微變換后的版本，比如換個視角的圖像，它們內容其實一樣，那嵌入結果也該相同。

JEPA的訓練過程就是給它同一事物的兩個不同版本圖像，讓它生成相同嵌入結果。“預測” 部分是這樣的，如果一個圖像版本是視頻里的一幀，被破壞的版本是前一幀，那就根據前一幀預測下一幀或接下來幾幀。

這樣就有兩個嵌入，一個對應視頻未來部分，一個對應過去部分，還有個預測器根據過去表征預測未來表征。

他表示，用這個架構訓練系統學習圖像表征效果很棒，最近連視頻表征也能學得不錯了。

在介紹完新架構之后，楊立昆也表達了自己對于機器學習和物理學之間的聯系的理解：

機器學習與科學，尤其是與物理學相聯系的本質所在，就是系統在接受訓練時，它會同時訓練自己去找到輸入內容的良好的抽象表征層級，盡可能多地保留輸入信息，但同時又要保證具有可預測性，這才是智能的根源所在 。

自監督學習就像AI的暗物質

在深度學習先驅的身份之外，楊立昆表示，自己也一直是一位務實的物理學家。

他曾在8年前的一次演講中提出“自監督學習就像是人工智能領域的暗物質”這個說法，當時他的同事凱爾·克蘭默（紐約大學高能物理學家）還指正說，用暗能量類比更合適，畢竟宇宙大部分質量是暗能量。

在物理學中，暗物質的存在是公認的，比如中微子是暗物質的一種形式，可它的量又不足以解釋人類觀測到的缺失物質總量。

楊立昆解釋道，人類學的大部分東西，都不是靠別人告訴答案或者試錯學來的，而是通過自監督學習（或者類似方式）去了解感官輸入信息的結構、自己慢慢感悟出來的，而不是監督學習或者強化學習。

監督學習就是給系統明確的輸入和輸出，比如給它看大象圖片，告訴它這是大象，答錯了就調整參數讓它答對。

強化學習是給系統看大象后，只告訴它答得對不對，或者給個類似分數的評價，如果有無限個答案，它就得在里面慢慢找正確的，效率很低。

強化學習和監督學習都解釋不了在人類和動物身上看到的高效學習現象。像章魚、鳥類這些動物，沒有過多的教育，卻懂得很多，這就是不太明確的無監督學習，而且大型語言模型的成功也證明了自監督學習能力很強。

他還表示，自己一直對物理學和計算之間的聯系很著迷，約翰·惠勒曾做了一個叫《萬物源于比特》的演講，說世界到底就是信息，得從信息處理角度闡釋物理內容，他覺得這個想法很有趣。

談到AGI實現的時間，他表示：

要打造出一個至少在大多數人看來具備和人類同等智能水平的系統，前提是我們設想的所有計劃都能奏效，比如JEPA以及其他一些想法，即便如此，我覺得這在不到五六年的時間內是實現不了的。而且人工智能發展的歷史表明，人們總是低估它的實現難度，五六年是最理想的情況。

同時， 他還強調人們對于AI末日的擔憂被夸大了：

我們可以設定相應的“護欄”機制確保人工智能系統擁有安全的目標，而且只會處理信息的LLM還不存在像人類和動物一樣的社會性驅動力，比如更多的領地、更大的權力等。

在探索科學的道路上犯錯很常見

在訪談的最后，楊立昆還分享了他對AI發展歷程、自身職業經歷以及未來的展望。

他表示，自己既是一名科學家，也是一位教育者，在工業界和學術界的時長都差不多。

早年從貝爾實驗室工作，后在日本電氣公司（NEC）研究院短暫任職，直至40歲出頭成為教授，隨后加入Meta，負責運營臉書人工智能研究院（FAIR）長達4年，如今擔任 Meta 的首席人工智能科學家。

目前，他正在以獨立貢獻者的角色推動人工智能技術的進步，致力于探索實現人類水平智能的道路，這也是他畢生的科學追求。

在談及Meta公司的未來發展方向時，楊立昆指出，Meta公司在馬克·扎克伯格的引領下，有一個宏大的愿景，就是通過技術手段連接人們，不僅是人與人之間的連接，還包括人與知識的連接以及在日常生活中為人們提供幫助。

未來，每個人都將擁有超級智能助手，這種智能助手的廣泛應用需要具備人類智能水平的人工智能技術作為支撐，Meta 也在朝著這個方向積極打造相關設備，并已在印度農村地區開展了智能眼鏡的試用。

當地農民借助智能眼鏡解決了諸多農業生產中的實際問題，比如農作物病蟲害識別、天氣查詢以及收割時機判斷等，同時還能使用本地語言進行操作。

談到人工智能對教育職業的影響時，他認為，隨著人工智能技術的不斷發展，知識傳授這一傳統職業將面臨深刻變革，科研與學術研究領域可能需要探索新的經濟模式，以適應技術發展帶來的變化。

盡管如此，他還是強調：

博士培養過程中導師與學生之間的關系具有非常重要的意義，這種關系不僅僅是知識的傳遞，更包含行為規范、道德倫理等方面的交流與傳承，而在未來，每個人包括學生都將在人工智能系統的輔助下進行學習與研究，這將成為一種新的趨勢。

值得一提的是，楊立昆還分享了自己在學術觀點上的轉變歷程：

在探索科學的道路上犯錯是非常正常的。

在神經網絡發展的早期，尤其是在1987至1988年跟隨Hinton做博士后期間，他對無監督學習這一概念并不認同，認為其定義不夠清晰，缺乏實際意義。

然而，Hinton當時專注于玻爾茲曼機的研究（后因此獲得諾貝爾獎，盡管如今玻爾茲曼機已較少使用），并堅信無監督學習將是學習的主體部分。

隨著時間的推移和技術的發展，在進入21世紀后，他才初逐漸認識到無監督學習的重要性，并從2010年開始積極倡導這一理念。

更多采訪內容請點擊下方鏈接查看。

參考鏈接：
[1]https://www.youtube.com/watch?v=u7e0YUcZYbE