LeCun：概率論無法實現(xiàn)真正AI，我們要退回原點重新開始

Pine 2022-09-26 13:31:48 來源：量子位

詹士 Pine 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

馬庫斯又開炮了，直指LeCun最新一篇采訪。

「LeCun所說的一切，我之前幾乎逐字逐句都說過。」

「大部分內(nèi)容就在2018年一篇論文中，而LeCun當(dāng)時還嘲笑，大部分內(nèi)容是錯誤的」。

同樣在Twitter上，馬庫斯也發(fā)布數(shù)十條相關(guān)主題推文，還是針對LeCun的這篇內(nèi)容，引發(fā)不少業(yè)內(nèi)人關(guān)注。

目前，相關(guān)媒體ZDNet已注意到馬庫斯的聲音，并在原報道中刊出相關(guān)爭議——

但目前LeCun尚未回應(yīng)。

所以，這究竟是怎樣一篇采訪？LeCun又說了什么？

往下看。

LeCun：AI現(xiàn)在的路走窄了

事情起因是9月24日商業(yè)技術(shù)媒體ZDNet對LeCun進行了采訪，主題關(guān)于他在6月發(fā)表的一篇探討AI未來的一篇論文。

該論文中，LeCun披露了自己在未來十年的研究方向：自主機器智能（Autonomous Machine Intelligence），更多細節(jié)之前有過介紹，請參考這篇文章。

此番采訪，LeCun介紹了更多信息，更對此前專注的路線予以不小否定。

尤其在深度學(xué)習(xí)研究路徑問題上，他表達了懷疑態(tài)度。

目前GPT-3、Transformer擁護者們相信，只要將一切標(biāo)記化，再訓(xùn)練出巨大模型來做離散預(yù)測，AI就會以某種方式出現(xiàn)。但他認為，這還只是未來智能系統(tǒng)的組成部分之一，但不是關(guān)鍵必要的部分——

而即便是強化學(xué)習(xí)，也無法解決上述問題，他解釋道，盡管它們是下棋好手，但仍只是專注于「動作」的程序。

LeCun還補充，很多人都聲稱要以某種方式推動AI進步，但這些想法誤導(dǎo)了我們，目前智能機器的常識性甚至還不如一只貓，這也許才是解決問題的原點。

由此，LeCun坦誠，自己已放棄用生成網(wǎng)絡(luò)從這一幀預(yù)測視頻下一幀的研究——

「這是一次徹底的失敗」他補充道。

LeCun總結(jié)了失敗的原因，概率理論基礎(chǔ)的模型限制了他自己。同時，他譴責(zé)了那些認為概率論迷信者。他們認為，概率論即解釋機器學(xué)習(xí)的唯一框架，但事實上，一個100%概率構(gòu)建的世界模型雀食難以實現(xiàn)。

LeCun認為，目前所有AI都面臨的基本問題是——

如何測量「信息」。

目前這一底層問題他自己也沒能很好解決，不過，LeCun希望去重新思考并打了個比方：

「這好比我們要去月球，于是建了個梯子，但梯子無法到達那里，我們需要退回來重新思考基本原理」。

不止分享學(xué)研觀點，LeCun提醒，產(chǎn)業(yè)界也需要重新思考目前AI技術(shù)面臨的問題。

尤其在自動駕駛領(lǐng)域，他認為相關(guān)公司一直都過于樂觀，從業(yè)者以為將數(shù)據(jù)扔進大型神經(jīng)網(wǎng)絡(luò)就能讓它學(xué)到一切。但事實上，我們可能會擁有一個沒有常識的L5自動駕駛系統(tǒng)，這將使相關(guān)功能變得十分脆弱，仍有很多極端狀況無法照顧到。

「終極解決方案是一個能更好理解世界運作方式的系統(tǒng)」，LeCun提出了自己的思路。

ZDNet還問了LeCun為何此時又出來發(fā)聲。

他解釋道，自己很早就在思考監(jiān)督學(xué)習(xí)、強化學(xué)習(xí)的不足，Hinton也是，他感慨「我們不再年輕，時間不多了」。

值得一提的是，LeCun在采訪中直言不諱聊了聊自己的批評者，其中就包括紐約大學(xué)教授，加里?馬庫斯，LeCun評價道「從未對AI做任何貢獻」。

至于另一位常在社交網(wǎng)絡(luò)開炮的人，LSTM之父、Dalle Molle人工智能研究所聯(lián)合主任Jürgen Schmidhube，LeCun也小小諷刺了下「提想法容易，有貢獻才難」。

大概正是這些言論，為他招來了爭議。

馬庫斯又來了

不出意外，這篇采訪前腳剛發(fā)，后腳馬庫斯就來了。

不同于以往的爭辯，這次馬庫斯發(fā)布篇幅超過6000個單詞的長文，直指LeCun剽竊觀點。

馬庫斯稱LeCun觀點自己很早之前就已經(jīng)說過，并表示：

從來沒有人比LeCun在采訪中更嚴密地重復(fù)我的觀點了。

甚至從采訪中摘出原話，和自己曾經(jīng)的觀點一一作出比對。

一直以來，馬庫斯就對當(dāng)前人工智能的架構(gòu)不抱期待，稱要實現(xiàn)通用人工智能還需要引入其他的技術(shù)。

對馬庫斯關(guān)于AI的一些觀點，LeCun總是認為其在博取關(guān)注。此前，他就發(fā)布一篇“如何在推特吸引AI圈眼球”的方法論，在其中，若有所指地羅列道：

• 一再指出深度學(xué)習(xí)的局限性（其實這是每個人都知道的）。
• 根據(jù)某人新言論，聲稱他們改變自己的想法，同意自己N（N=5/10/15/20）年前說的；
• 利用觀點模糊性，宣稱某人觀點出自自己早年言論，指控對方剽竊；
• 堅持發(fā)推/寫小作文；

…

如前文提及，LeCun也在此次采訪更是專門點名馬庫斯，「他是一位心理學(xué)家，根本不懂AI」。

不出意外，馬庫斯做了回應(yīng)。

他引用了LeCun的諷刺原文回應(yīng)稱，ZDNet已經(jīng)在報道中補充了他的博客，希望LeCun也能作出相應(yīng)的解釋。

值得一提的是，關(guān)于LeCun采訪中提及的那篇論文，LSTM之父Jürgen Schmidhube也表達過不滿，稱其沒有正確引用自己實驗室1990-2015年的成果。

參考鏈接：
[1]https://www.zdnet.com/article/metas-ai-guru-lecun-most-of-todays-ai-approaches-will-never-lead-to-true-intelligence/
[2]https://garymarcus.substack.com/p/how-new-are-yann-lecuns-new-ideas?sd=pf&s=09