李飛飛：大模型不具備知覺，參數(shù)再多也不行
Claude 3：李飛飛說得對
Claude3 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI
大模型已經(jīng)具備知覺？
AI教母李飛飛的最新回答旗幟鮮明：No。
她和斯坦福邏輯學(xué)家、哲學(xué)家John Etchemendy剛剛發(fā)表一篇合著文章，標(biāo)題很直接：
不，現(xiàn)在的AI沒有知覺
No, Today’s AI Isn’t Sentient. Here’s How We Know
文章中還寫道：
我們還沒有實現(xiàn)有知覺的人工智能，更大的語言模型也無法幫助我們實現(xiàn)這一目標(biāo)。
我們不會在下一個版本的ChatGPT中偶然發(fā)現(xiàn)知覺。
這與圖靈獎得主Yann LeCun的最新觀點不謀而合。LeCun的言論還要更犀利一些：
自回歸大語言模型不足以達(dá)到人類的智力水平（甚至達(dá)不到貓的智力水平）。
兩位大拿同時發(fā)聲，使得圍繞AI知覺的爭議話題再度發(fā)酵，不少網(wǎng)友已經(jīng)第一時間加入論戰(zhàn)，be like：
那么，在聆聽你的觀點之前，我們先留下一些思考的時間，一起來看看李飛飛文章具體內(nèi)容——
不，現(xiàn)在的AI不具備知覺
通用人工智能（AGI）是一個術(shù)語，用于描述在人類所能展示的智能的所有維度上，至少和人類具備同等水平的人工智能體。
之所以需要添加“G”，是因為由AI驅(qū)動的系統(tǒng)激增，但它們只專注于單一或極少數(shù)任務(wù)。IBM的“深藍(lán)”可以擊敗世界冠軍卡斯帕羅夫，但即使房間著火，它也不能理解是時候停止下棋了。
現(xiàn)在，通用智能有點像一個神話，至少如果我們自命不凡地認(rèn)為我們擁有它的話。
在動物世界中可以找到大量智能行為的例子，其結(jié)果遠(yuǎn)遠(yuǎn)好于人類在類似任務(wù)上取得的成果。這么說吧，我們的智力不是完全通用的，但足夠通用，足以使我們在大多數(shù)環(huán)境中完成自己想做的事。
如果我們餓了，我們會去找當(dāng)?shù)氐某?。如果房間著火，我們會去找逃生出口。
通用智能的基本特征之一是“感知力”，即擁有主觀體驗的能力。知覺是通向通用智能的關(guān)鍵一步。
隨著ChatGPT的發(fā)布，大語言模型（LLM）時代已經(jīng)拉開序幕。這立即引發(fā)了關(guān)于這些算法是否真的具備知覺的激烈爭論。
基于LLM的人工智能可能具備的知覺，不僅引發(fā)了媒體的狂歡，也深刻地影響到了全球范圍內(nèi)對如何監(jiān)管AI的態(tài)度。
最突出的觀點是，“有知覺的AI”的出現(xiàn)可能對人類極其危險，會帶來“人類滅絕”、“生存危機(jī)”。
畢竟，有知覺的AI可能會發(fā)展出自己的欲望，人類無法保證它們不與我們發(fā)生沖突。
這篇短文源于一次群聊，目的是反駁LLM可能已經(jīng)獲得知覺的論點。這并不完整全面。我們的主要觀點是反對“有知覺的AI”陣營提供的最常見的論點。
為什么有些人相信AI已經(jīng)獲得知覺
在過去幾個月里，我們倆與AI領(lǐng)域的許多同事進(jìn)行了激烈的辯論和對話，其中包括與一些最著名AI科學(xué)家的一對一對談。
AI是否具有知覺一直是一個焦點話題。他們中的一小部分人堅信事實確實如此。以下是其中一位代表的觀點：
人工智能是有知覺的，因為它具有主觀體驗。主觀體驗是意識的標(biāo)志，特點是聲稱知道自己所知道或經(jīng)歷的事情。比如，當(dāng)一個人說“我有吃完一頓大餐后感到幸福的主觀體驗”時，這個人是具備意識的。
其實沒有什么直接證據(jù)能證明主觀體驗。但如果你傳達(dá)了這一點，從表面上看，你就是有意識的。
現(xiàn)在，讓我們對大模型應(yīng)用相同的“規(guī)則”。就像沒辦法知道一個人究竟在想什么，我們無法訪問大模型的內(nèi)部狀態(tài)，但可以質(zhì)疑它的主觀體驗。
現(xiàn)在大模型可以明確地分享“主觀體驗”，比如看到紅色是什么感覺。因此，我沒有理由懷疑它不具備意識，就像我沒有理由懷疑一個人沒有意識一樣。
為什么他們錯了
這乍一看很有道理，但這個論點是錯誤的。兩種情況完全不可同日而語。
當(dāng)你說“我餓了”時，你正在經(jīng)歷饑餓，而我判斷你的主觀體驗是基于大量的事實證據(jù)。
首先，是你說的話，也許還有一些其他行為證據(jù)，比如肚子的咕咕聲。
其次，沒有相矛盾的證據(jù)，比如你其實剛吃完一頓四菜一湯的大餐。
最后，也是最重要的一點，你我擁有一樣的肉體，需要周期性地進(jìn)食進(jìn)水，冷時冷，熱時熱，等等。
而大模型呢？它可以產(chǎn)生一串音節(jié)說“我餓了”，但相似之處到此為止。大模型沒有身體，根本就不會挨餓。它不具備饑餓所需要的生理機(jī)能。
所有的感覺——饑餓、疼痛、墜入愛河，都是大模型根本不具備的生理狀態(tài)導(dǎo)致的結(jié)果。因此大模型不可能對這些狀態(tài)有主觀體驗。換句話說，它不可能有感知力。
大模型是在芯片上編碼的數(shù)學(xué)模型，并非如人類一樣的具體存在。它沒有需要進(jìn)食、飲水、繁殖、經(jīng)歷情感、生病并最終死亡的“生命”。
理解人類如何生成單詞序列，和大模型如何生成相同序列之間的深刻差異非常重要。
當(dāng)我說“我餓了”時，我是在報告我感知到的生理狀態(tài)。
當(dāng)LLM生成“我餓了”這個序列時，它只是在生成當(dāng)前提示中單詞序列最可能的補(bǔ)全。這是概率補(bǔ)全。
我們還沒有實現(xiàn)有知覺的人工智能，更大的語言模型也不會讓我們實現(xiàn)這一目標(biāo)。
如果我們想在AI系統(tǒng)中實現(xiàn)知覺，我們需要更好地了解知覺到底是如何在生物系統(tǒng)中產(chǎn)生的。
我們不會在下個版本的ChatGPT中偶然發(fā)現(xiàn)知覺。
One More Thing
本文翻譯主要由Claude 3完成，于是人類編輯也把這個話題拋給了Claude 3。
Claude 3表示：李飛飛說得對。
原文鏈接：
https://time.com/collection/time100-voices/6980134/ai-llm-not-sentient/
— 完 —
相關(guān)閱讀
