一說AI會思考，祖師爺圖靈就發笑：這個問題無意義，不值得討論

夢晨 2024-06-07 17:31:14 來源：量子位

任由涉 投稿
量子位 | 公眾號 QbitAI

大模型風靡全球，有人和AI助手搭伙工作，還有人AI智能體談起賽博戀愛。

最前沿的GPT-4o模型，甚至做到同時能聽、能看、能說……

一個人工智能學科誕生之初就爭論不休的問題，又被抬到水面：

機器究竟能思考嗎？

知名學者斯坦福李飛飛最近就此發聲：不，大模型不具備知覺，參數再多也不行。

圖靈獎三巨頭之一Geoffrey Hinton，和他的學生OpenAI前首席科學家Ilya Sutskever確都認為：隨著時間的推移，AI系統可能會獲得自我意識。

更早一些時候，2022年夏天，被谷歌開除的工程師Lemoine警告公司認為“LaMDA模型已經有了知覺”，一時轟動科技界。

此事件也被認為是讓OpenAI感到競爭壓力，提前把ChatGPT發布出來的原因之一。

……

其實這個問題，早在人工智能還只是概念的時候，就有很多大佬深入探討過。

比如“祖師爺”圖靈本人，就曾與當時的學者展開一系列精彩辯論。

相信無論是專業研究人員，還是對人工智能感興趣的科技愛好者，都能從圖靈的思想中獲得啟發與思考。

機器能思考嗎？

對這個問題的回答，在1948-1952年大致可分為如下兩派：那些已經了解計算機研制進展及其理論的人和那些不了解的人。

前者中回答yes的比例肯定比后者要高得多。

圖靈、香農、阿什比（Ross Ashby）、維納（Wiener）屬于前者，而神經生理學家杰弗遜和哲學家維特根斯坦等屬于后者。

在《哲學研究》里維特根斯坦曾經自問自答“機器能思考嗎？?????? 機器肯定不能思考！??????”

Could a machine think? …But a machine surely cannot think!…（見 Philosophical Investigationss359-366, s281）。

由此可感覺到：維特根斯坦一方面也有人類中心主義傾向，另一方面，也透露出某種小集體唯我論傾向，即認為意識（包括思維和感覺）是人類所獨有的。

這個問題也可以從兩個不同的角度分別陳述如下：

• 外延的陳述：機器能模擬思維嗎？
• 內涵的陳述：能模擬思維的機器算是能思考嗎？

圖靈認為“機器能思考嗎”這個問題“無意義，不值得討論”（too meaningless to deserve discussion）。

于是，他的辯論策略是從外延下手。

“腦與心”（brain and mind）是當時英國知識圈的時髦話題。曼徹斯特機器（Manchester Baby和Mark 1）的成功、維納《控制論》的出版以及美國科學家的訪問都是促成因素。

作為最早的可編程計算機，曼徹斯特機器在某種意義上比美國的ENIAC 更加先進，這個事實為二戰后自尊破碎的英國挽回點面子。《泰晤士報》和幾家報紙做過幾次報道和采訪，哲學家波拉尼（Michael Polanyi）、數學家紐曼和圖靈等都是采訪對象。

倫敦、劍橋都有相關的周末俱樂部，最出名的是劍橋大學的青年才俊們 1949年組織的“計算俱樂部”（Ratio Club，拉丁文 ratio 有“計算”的含義），其中幾個活躍分子是神經生理學家和精神病學家，例如后來成為控制論吹鼓手的阿什比，當然也少不了數學家，例如圖靈的學生羅賓·甘迪（Robin Gandy）、圖靈在布萊切利莊園做密碼學工作的助手之一古德（Jack Good）和伍德華（Philip Woodward）。

值得指出的是：麥卡錫晚年在接受采訪時承認“人工智能”這個詞他也是從別人那兒聽來的，伍德華得知后馬上給英國的《新科學家》雜志寫信說是他1956年訪問麻省理工學院時告訴麥卡錫的。但1955年麥卡錫等人提交的達特茅斯會議的建議書就明確以“人工智能”為題了。

維納、香農、麥卡洛克（Warren McCulloch）等在這段時間都陸續訪問過英國，甚至參加過俱樂部的活動，活動主題包括控制論、計算機、計算機下棋、電子大腦等。

杰弗遜是當時英國神經科學領域一等一的人物。他是英國第一個神經外科教授，他因為20世紀30年代最早做了額葉切除手術而出名，他學術生涯的絕大部分時間是在曼徹斯特大學度過的。杰弗遜1943年被封CBE勛位，圖靈1946年被封OBE勛位，這兩種勛位都不能稱“Sir”。杰弗遜1950年勛位提升，獲得Sir頭銜。

△杰弗遜（Geoffrey Jefferson，1886—1961），英國神經生理學家

他和圖靈應該是在后者到曼徹斯特大學之后才相互認識的。他德高望重，人脈廣泛，喜歡參加當時的各種交叉科學的活動。而“思維”“感覺”“意識”這些杰弗遜認為屬于自己地盤的術語，此時卻被數學家們天天念叨，著實令他不爽。

1948年杰弗遜因對外科學的貢獻獲李斯特獎章。他利用這個機會宣傳自己的哲學觀點：機器沒有意識，機器不能思考。

他演講的第二天就接受了BBC的采訪，這觸發了后來 BBC一系列相關節目，使得機器和智能的討論成為公眾話題。他的思想的反面都在同校的數學系——紐曼、哈特里、圖靈，于是 他用“數學家”統稱與他對立的人。

事實上，其中也不乏工程師和物理學家。他最早是從曼徹斯特大學電子工程系主任威廉姆斯處聽說電子計算機的，但他的多數關于計算機和神經系統的關系的知識來自維納的《控制論》。

△杰弗遜的演講稿《機器人之心》發表在《大英醫學雜志》上

1950年，圖靈在“圖靈–1950”（《計算機與智能》）中的一節“來自意識的異議”就是對杰弗遜觀點針鋒相對的回答，當時他仔細閱讀過《機器人之心》，現在圖靈檔案中就有被圖靈涂鴉過的杰弗遜文章的影印本。

杰弗遜文中有一節“笛卡兒的假設”（Descartes’s Postulation）。相較于區別機器和人，笛卡兒認為區別機器和動物更加難，因為機器很難過得了語言這一關。這被稱為笛卡兒的“語言測試”。

于是很多人認為圖靈是受到杰弗遜的刺激才想出“圖靈測試”的，此言差矣。圖靈–1948（即圖靈1948年給NPL寫的題為《智能機器》的報告）的結尾已經明確提出了模仿游戲。不夸張地說，圖靈整篇文章都是把杰弗遜當作辯論對手或者被教育的讀者的。

毋庸置疑，在他們正式寫下各自的觀點前，在私下非正式場合，應該多次面對面交鋒過。值得注意的是，圖靈的名字并沒有出現在杰弗遜的文章中，杰弗遜文章提到的計算機工程師是同校的電子工程系主任威廉姆斯（Frederick Williams），他是第一臺存儲程序計算機Manchester Baby的負責人。

也許杰弗遜認為圖靈作為晚輩不值得一提，也許在他內心真正的對手是圖靈。圖靈死后，在接到圖靈母親薩拉（Ethel Sara Stoney）說“不必回信”的來信后，杰弗遜仍然寫信給薩拉，以長輩的口氣回憶圖靈，在簽名后他加了一句“他是天才，光照人間”（He had real genius, it shone from him）。

大洋兩岸的活躍人物都和圖靈相熟，他們也互相了解大家的立場。

來訪者中，唯一被圖靈尊敬的美國同行大概只有香農。圖靈、香農以及更年輕的麥卡錫都不喜歡維納和維納企圖建立的控制論帝國中的徒子徒孫。他們在二戰中都從事密碼學的工作，1943年圖靈秘密訪問美國，在貝爾實驗室逗留時，圖靈和香農頭一次見面，圖靈給香農看了圖靈–1936，但香農誤以為這是圖靈正在寫的文章。

1950年，香農到倫敦開會，順道去曼徹斯特大學拜訪圖靈。據香農回憶，他們幾次交流都沒有直接聊密碼學，大概是出于保密紀律的原因。但他們認真聊了計算機是否能思考的問題，他們的立場應該相同。

當然，他們肯定不會少談共同的愛好：下棋。

圖靈還給香農看了他在曼徹斯特機器上驗證黎曼ζ函數的結果。圖靈在劍橋大學讀書時就對數論有濃厚興趣，1942年還發表過論文。據他的學生羅賓·甘迪說，圖靈還研究過計算黎曼ζ函數零點的專用計算機，如果圖靈還活著，他肯定會對黎曼ζ函數的可視化感興趣。圖靈在曼徹斯特大學并沒有負責計算機的具體設計，而把更多注意力聚焦在應用上，具體地說就是人工智能，他在曼徹斯特機器上編寫下棋程序。

這些是從圖靈–1948過渡到圖靈–1950的背景。

人工智能大致可分為三條演進路線：

• 第一，邏輯派，就是以邏輯為工具刻畫人的智能；
• 第二，神經網絡，也稱深度學習，是最近十幾年人工智能的主要驅動力；
• 第三，強化學習，這一派的思路可以追溯到進化論，他們的重要性通過 AlphaGo 才得以顯現。

圖靈指出人身上的任何小部件都可以用機器來模仿，他還提到基因、進化和選擇。正是因為如此，麻省理工學院的機器人專家布魯克斯認為圖靈–1948是人工智能幾條路線分歧的原點，而他自己的觀點則是圖靈–1948比圖靈–1950更為重要。布魯克斯指出，正是圖靈–1948給了他關于“具身智能”的啟示。一個人形機器人所需要的都屬于“具身智能”。布魯克斯近來也漸漸認識到“造腦”（building brain）比“造身”要更難。

圖靈–1948只是做了“具身”和“非具身”的區別，他明確列出屬于智力而非體力的5個領域：

• 游戲（如下棋）
• 語言學習
• 語言翻譯
• 密碼學
• 數學（定理證明）

圖靈認為應該聚焦于智力，即“非具身”的領域，而非體力領域。圖靈甚至提到當時的機器能處理的數學問題還不能涉及太多的圖，也就是說一開始不適合搞幾何，大概他還沒想明白怎么在機器上把圖實用地表示出來。后來定理證明的演化很有意思，20世紀50年代剛開始時，重要的結果都是代數和邏輯的，但后來卻是吳文俊的幾何定理證明最早開始實用。

圖靈在撰寫1950年的那篇文章時已經胸有成竹，他不僅提出了問題（“機器能思考嗎”），還提出了問題的各種變體；不僅給出了答案，還預想出了答案的可能異議，以及對異議的反駁。

圖靈–1950為一系列后學者模仿的文章提供了范文，最典型的就是塞爾（Searle）的“中文屋”。布魯克斯認為圖靈–1948 更加全面的原因是他從中讀出了“具身智能”。

值得指出的是，所謂“具身智能”和“非具身智能”之分，在圖靈–1950中，對應為“體力”（physical capability）和“智力”（intellectual capability）的區分，而圖靈–1950雖沒有忽視“體力”，但聚焦點是“智力”。

圖靈用模仿游戲來測度“智力”，蘊含了“語言即思維”的某個版本，這也明確表明圖靈不是行為主義者，倒是更接近后來的自稱理性主義者的喬姆斯基。

△圖靈–1950，《計算機與智能》發表在《心》上

因為“自動計算機”和“電腦”（electric brain）已經成為《泰晤士報》等紙質媒體的流行話題，BBC作為當時的新媒體豈能落下，于是在1951年請了幾位領頭人物（包括紐曼、圖靈、哈特里、威爾克斯、威廉姆斯等）做廣播講座。

1952年1月，BBC又把紐曼、圖靈和杰弗遜等聚集到一起，做了一次廣播辯論，題為“自動計算機能思考嗎？”，期盼吸引更多的“耳朵”。這次辯論可以作為圖靈–1948和圖靈–1950的最佳注釋。

1952年1月23日BBC重播了這場辯論，圖靈聽完重播，抱怨自己嗓音不好，晚上回家就發現被盜。他于是設計了一套復雜的報警程序，但最終還是導致自己的同性戀行為被曝光。

杰弗遜在“機器人之心”演講臨近結尾處，以擅長的雄辯語氣說道：“我冒昧地預言，皇家學會的優雅場館不得不變成車庫來容納新會員的那一天將永遠不會到來。”

I venture to predict that the day will never dawn when the gracious premises of the Royal Society have to be turned into garages to house the new Fellows.

杰弗遜演講的地點是英國皇家學會的場所。所謂“會員”（Fellow）就是“院士”的意思，杰弗遜1947年（61 歲時）成為會員，而圖靈1951年（39 歲時）成為會員。“學會”怎么能對齊“院士”是個神學話題；所謂“車庫”是指將來某一天停泊的都是機器。但是考慮到現在AI4Science的進展速度，那一天也許不遠了吧，我倒是擔心未來的機器們會嫌棄：皇家學會（無論是哪兒的）的那些唯物的、丑陋的車庫也配！

One More Thing

圖靈與維特根斯坦、杰弗遜等學術巨擘的對話與辯論，揭示了圖靈關于機器智能的獨到見解及其思想的演進過程。

而上面這段精彩文字，其實來自人民郵電出版社新書《理解圖靈》，作者尼克。

書中以注釋形式對圖靈1950年的文章《計算機與智能》進行了細致解讀。

首先追溯圖靈的生平和思想軌跡，特別是他對智能與機器關系的早期洞察，以及他在計算理論方面的重大貢獻——提出圖靈機；接著通過分析圖靈與同時代其他思想家的交流與辯論，如與哲學家維特根斯坦的深入對話，以及在BBC廣播討論中與神經生理學家杰弗遜的激烈交鋒，逐步揭示了圖靈對于機器智能的獨到見解及其思想的演進過程。本書力圖使讀者在充分理解背景知識的基礎上，更加深刻地領會圖靈文章的內涵，也使得對圖靈思想的探討更加全面和深入。

2024年正值圖靈去世70周年。

今天，我們緬懷圖靈，不僅是為了紀念他的過去，更是為了啟迪我們的未來。他的影響力跨越了時間的限制，至今依舊深刻地影響著我們的世界。

對深入圖靈思想世界，領略智能的本質感興趣的小伙伴，可以讀起來了～