最懂AI的諾獎經濟學得主去世，大模型關鍵技術受他研究啟發

魚羊 克雷西 發自 凹非寺

量子位 | 公眾號 QbitAI

一位90歲巨擘的逝世，正在牽動整個科技圈的關注。

正如YC創始人Paul Graham所說：

我關注的每一個人，都在對丹尼爾·卡尼曼表達敬意。

關注大模型技術的人，應該都對這位以心理學家身份獲得諾貝爾經濟學獎的傳奇人物并不陌生——

他在著作《思考，快與慢》中提出的“人類思維的快慢兩個系統”，深刻地影響了思維鏈、大模型訓練和微調等關鍵技術的發展。

特斯拉前AI總監、OpenAI創始成員Karpathy曾在演講中指出，卡尼曼的雙系統理論，正是思維鏈背后核心利用的原理。

除了AI，卡尼曼對人類判斷的見解，還影響了經濟學、金融、醫學等廣泛的學科。

卡尼曼生前工作的普林斯頓大學校長評價稱：

丹尼爾·卡尼曼改變了我們理解理性及其局限性的方式。

而他90年的人生，也如同他所提出的的理論一樣，充滿了傳奇。

“人們會習慣由機器做出判斷”

盡管并未直接從事AI研究，卡尼曼的名字卻隨著大模型熱潮在AI領域被反復提及。

他在暢銷書《思考，快與慢》中，提出了思維的二元性，認為人類的認知系統包括System1和System2兩個部分。

System1主要靠直覺，而System2是邏輯分析系統。通俗來說，System1是一個快速自動生成的過程，而System2是經過深思熟慮的部分。

這一理論對之后的大模型的訓練和微調，以及“思維鏈”方式都大有啟發。

特斯拉前AI總監、OpenAI創始成員Andrej Karpathy就在一場演講中指出，要想讓自然語言處理中Transformer的表現更好，需要讓它一步一步地處理信息，而不能直接拋給它一個非常復雜的問題。

比如即使是很簡單的數學題，如果要求大模型一步到位地給出答案，也很難得到正確結果。

UW-Madison的助理教授Kangwook Lee分享了一道題，定義了一種“Q運算”，規則是aQb=a+b-1（未直接在prompt中說明），要求大模型仿照規律進行計算，結果GPT4、Claude和Gemini這些最先進的大模型無一答對。

只有讓模型一步步推理，甚至需要不斷地給出引導，才能讓它輸出正確結果。

像這樣“一步一步”的處理方式是思維鏈的核心，而背后所利用的原理，正是卡尼曼提出的雙系統理論。

除了被廣泛引用，卡尼曼本人從本世紀第一波AI浪潮開始，就對人工智能技術保持著高度關注。

他曾在2017年的一場演講中公開發表觀點，認為AI終有一天會代替人們所做的一切事情。

而在ChatGPT問世后，卡尼曼再次對AI做出了相似的判斷：

我相信最終（AI）算法會比人類更正確，最終人們會信任算法。這一切都需要時間，但我不認為人們不可能信任算法。

因為在他看來，即使是簡單的變量組合，算法的“噪聲”也肯定要比人類少得多。

所謂“噪聲”，是卡尼曼在Noise: A Flaw in Human Judgment（噪聲：人類判斷力的缺陷）一書中定義的，他將“噪聲”解釋為導致人類針對相同事件做出不同判斷的原因。

舉個例子，兩位放射科醫生對同一張X光片，可能得出不同的診斷結果，導致兩人判斷不同的原因，這就是卡尼曼認為的“噪聲”。

在后來的一次訪談中，卡尼面將“噪音”的概念進一步明確為“判斷錯誤中不希望出現的變化”。

但在肯定AI將會非常有幫助的同時，卡尼曼也毫不掩飾地表達了對AI可能對人類產生的影響的擔憂。

在被問及是否擔心像ChatGPT這樣的AI的發展會不受人類限制時，他毫不猶豫地給出了肯定的答復：

我認為關注這種情況的每個人都會感到擔憂，因為從短期來看，它的使用方式可能會顛覆新聞業，因為很難區分真假。

這只是可能出現的問題之一，像這樣的問題還有很多。從長遠來看，擁有卓越的智力是一個巨大的威脅。

所以，我想很多人都很關心，我也一樣。

行為經濟學的奠基人

獲得了諾貝爾經濟學獎的卡尼曼，本不是經濟學家，而是一名心理學家，準確說是首位獲得諾貝爾經濟學獎的心理學家。

獲獎的理由是，卡尼曼與他的同事兼好友阿莫斯·特沃斯基（Amos Tversky）合作，將認知心理學應用到了經濟分析當中，為新的研究領域——行為經濟學奠定了基礎。

頒獎詞中寫到，“他的工作啟發了新一代經濟學和金融學研究人員，利用認知心理學對人類內在動機的洞察來豐富經濟理論。”

△卡尼曼（左）接受頒獎，來源：諾貝爾獎官網

其中涉及了他和特沃斯基提出的前景理論（Prospect Theory，又稱展望理論），從人的心理特質、行為特征揭示了影響選擇行為的非理性因素。

通過一系列的實驗觀測，他們發現人的決策選擇取決于結果與預期的差距，而非結果本身。

對于高于預期的收益型結果，人們往往表現出風險厭惡，偏好確定的小收益，比如在100%概率獲得1000元和50%概率獲得2000元之間，雖然二者的數學期望相同，但更多人傾向于選擇前者。

而對于低于預期的損失型結果，人們反而會為了避免確定的損失而表現出“風險偏好”，比如在100%損失1000元和51%概率損失2000元之間，盡管后者損失的數學期望更大，卻仍然被更多人所選擇。

正是這一理論改變了傳統經濟學關于人類行為的假設，而傳統經濟學中認為人們都是理性的。

卡尼曼的理論更準確地描述和預測人類在各種經濟環境下的實際行為，影響了金融市場分析、消費者行為研究、公共政策制定等多個領域。

除了為經濟學帶來全新的視角，卡尼曼一場名為“經驗與記憶之謎”的TED演講也吸引了不少人的目光，在全球一共獲得了數百萬次觀看。

演講中，卡尼曼提出了人類的“兩種自我”——“經驗自我”和“記憶自我”，經驗自我活在當下，感受和體驗每一個瞬間，而記憶自我則負責記錄和講述生活故事。兩者的不同在于處理時間的方式和對故事的構建。

進一步地，卡尼曼在此之上探討了快樂的本質和人們對快樂的不同認知方式。他指出，人們對快樂的理解仍存在一些認知上的陷阱，這些陷阱增加了理解快樂本質的難度。

對于快樂而言，經驗自我記錄了我們生活中具體時刻的體驗，記憶自我則決定了我們對自己生活的整體滿意度。

卡尼曼指出，經驗自我和記憶自我之間不可避免地存在沖突，而把握好這兩種自我系，有助于我們更好地認識自己的幸福感，并在追求快樂時做出更明智的選擇。

以上種種只是卡尼曼諸多理論中的一部分，卻足以體現他對于人的深刻理解與認識，這或許與他豐富的成長經歷密切相關。

“人是無限復雜和有趣的”

卡尼曼1934年出生在現在的以色列特拉維夫，童年時光則是在法國巴黎度過的。

他與心理學的結緣，從這段人生歷程開始就已經埋下伏筆：

1940年，納粹德國占領巴黎，卡尼曼一家人當時就生活在那里。

身為猶太人，卡尼曼一家被要求佩戴六芒星標志，并且遵守下午6點的宵禁。

有一次，小卡尼曼跟朋友玩得太晚，回家時街道上已經空空蕩蕩。他把毛衣翻過來藏住了星星標志，但還是倒霉地遇上了德國黨衛軍士兵，并且就在他試圖快點溜走時，對方叫住了他。

令小卡尼曼意外的是，這名德國士兵對他表現得非常親切，不僅擁抱了他，還用德語溫和地跟他說了些話。士兵對小卡尼曼展示了錢包里一張小男孩的照片，還給了他一些錢。

小卡尼曼至此更加確信了母親對他的教導：

人是無限復雜和有趣的。

1948年，卡尼曼和他的家人一起搬回了由英國暫時管理的巴勒斯坦。此后，十幾歲的卡尼曼表現出了與同齡人的一些不同。

比如，他進入的是一所宗教學校，但在15歲的某一天，走在回家的路上，他突然“福至心靈”：

我突然意識到，我沒辦法相信上帝會關心我是否打飛機。

如果我無法想象上帝關心我，那么我們就彼此毫無關聯，他是否存在也并不重要。從那一刻起，我成為了一個無神論者。

在后來的訪談中，卡尼曼對此進一步解釋說，在他十幾歲的這個階段，他發現相比于“上帝是否存在”，他對“人們相信上帝的原因”更感興趣。從那時起，他已經決心要投身心理學研究。

△Midjourney生成

在耶路撒冷希伯來大學，卡尼曼用兩年的時間獲得了自己的第一個學士學位，主修心理學，輔修數學。

他對自己感興趣的事情熱情非常高：曾經頂著41℃的高燒去聽神經生理學教授耶沙亞胡·萊博維茲的講座。

畢業后，他被征召入伍。后于1958年赴美國加州大學伯克利分校攻讀心理學博士學位。

在伯克利，他師從心理語言學家、女權主義先驅Susan Ervin，研究語義差異中形容詞之間的關系，這使他能夠“從事最喜歡的兩項工作：復雜相關結構的分析和FORTRAN編程”。

1961年，卡尼曼進入希伯來大學擔任心理學講師，正式開啟學術生涯。他和特沃斯基的長期合作也是在耶路撒冷啟動的。

有人用約翰·列儂和保羅·麥卡特尼來類比卡尼曼和特沃斯基的關系，對此，卡尼曼本人的評價是，“這是一種恭維”。

實際上，卡尼曼和特沃斯基的性格相差甚遠：

特沃斯基永遠是party里最亮的那個仔，而卡尼曼從學生時代就很“社恐”，這種嗨皮的場合更是連去都不去。

特沃斯基的辦公桌上只放一支自動鉛筆，而卡尼曼的辦公室堆滿了他沒讀完的書籍和論文。

但卡尼曼說，他倆總是“有共同的想法”。

這種思維方式的共鳴，使他們的私人關系也非常密切。甚至在文章和著作署名這種事上，他倆都能用拋硬幣來決定。

阿莫斯·特沃斯基在1996年去世，沒有趕上成果獲頒諾貝爾獎的時候。

2022年，在一次采訪中，當卡尼曼被問到“你每天都會想他嗎？”

盡管在20世紀80年代后，兩人的合作已逐漸減少，但卡尼曼的回答是，“是的”。

2018年，卡尼曼的妻子、認知心理學家安妮·特雷斯曼去世。兩年后，他從伯克利搬到了紐約，和特沃斯基的遺孀芭芭拉·特沃斯基住在一起。

One More Thing

說起來，卡尼曼的學術成果，或許能解釋一個許多人疑惑的問題：

為什么迪士尼這樣的地方大排長隊，還是有很多人愿意二刷三刷甚至N刷？

因為，“有時，記憶中的經歷比經歷本身更重要”，而記憶中的經歷很大程度上是由最高峰時刻及其結束決定的。

迪士尼花那么多錢在最后時刻進行煙花表演，可不是白放的。

參考鏈接：
[1]https://www.princeton.edu/news/2024/03/28/daniel-kahneman-pioneering-behavioral-psychologist-nobel-laureate-and-giant-field
[2]https://www.washingtonpost.com/obituaries/2024/03/27/daniel-kahneman-dead/
[3]https://en.wikipedia.org/wiki/Daniel_Kahneman
[4]https://www.nobelprize.org/prizes/economic-sciences/2002/kahneman/biographical/