普林斯頓計算機教授炮轟“偽AI”：精心炮制的隨機數生成器罷了
魚羊 發自 凹非寺
量子位 報道 | 公眾號 QbitAI
AI時代，以AI之名行騙的“偽AI”產品屢見不鮮，甚至影響越來越廣泛。
有位名叫阿文德·納拉亞南（Arvind Narayanan）的普林斯頓CS副教授坐不住了。他炮轟道：
某些公司為了賣貨，利用公眾的不了解，不管賣的是什么通通貼上“AI”的標簽。
更可怕的是，像AlphaGo這樣優秀的AI們吸引來了大量的投資者。光環之下，“偽AI”產品同樣能募集到巨額資金，甚至在資本的推動之下，成為趨勢，影響越來越多的人。
阿文德以AI面試舉例。現在，全球已有百萬求職者經歷過或正在經歷AI面試官的“凝視”。
提供這類產品的公司非只一家，其中最知名的HireVue，聲稱全球有超過700家公司使用他們的產品，其中不乏世界500強企業。目前，這家公司已募集資金9300萬美元（約合6.55億元人民幣）。
△康奈爾大學調研結果
阿文德指出：
沒有經過同行評審的證據能夠表明，這些東西真的可以預測工作績效。數百萬求職者面對的不過是精心設計的隨機數生成器。
令人懷疑的，還遠不只是這一種產品。
為了讓大家不被這樣的最新“智商稅”收割，阿文德決心教會大家如何識別這些AI界的騙子們。
他的這份“防騙指南”登場數小時，就已經在推特上收獲了1500贊。
AI騙子長什么樣
首先，阿文德認為，現在的AI應用可以分成三類：
- 真正卓有成效的項目
- 不完美但進展明顯的項目
- 根本不靠譜的項目
總結起來，在人臉識別這樣的感知任務，和推薦算法這樣的自動判斷任務上，AI的表現都比較靠譜。
而“偽AI”嫌疑人所做的，是預測和人有關的“未來”。
人們無法預測未來本來應該是常識，但遇上AI，常識總是被拋到腦后。
當然，口說無憑，阿文德引用了普萊斯頓大學脆弱家庭和兒童福祉研究的一項研究結果（地址見文末）。
這項研究旨在探明孩子們的表現到底是不是可以預測的。
流程是這樣：先通過深入訪談和家庭觀察收集大量孩子及其家庭的數據。然后，用這些數據訓練預測模型。輸入的變量有近13000個，輸出結果將預測這些孩子在15歲時6種表現。
如果模型能夠完美預測出結果，R^2=1，如果模型啥也沒學會，R^2=0。
但訓練的結果，卻讓參與研究的研究人員們大跌眼鏡。
即使是表現最好的模型，也并沒有哪一項預測結果是讓人信服的，甚至不如用4個變量線性回歸擬合出來模型靠譜。
△綠線：4變量線性回歸結果
這一結果并非個例。在一項再犯罪率的預測研究中（論文鏈接見文末），AI的預測準確率只比隨機結果好一點點，還是比邏輯回歸的結果低了2個百分點。
并且，不止是預測結果不靠譜，這樣的預測AI，還暗含著更多風險。
首先，訓練這樣的AI需要收集大量個人隱私數據。誰都沒有辦法保證，這些數據會絕對安全。
其次，人們對這類AI的盲目信任，會使得一個領域的話語權，從領域專家和從業人員身上，大規模轉移到掌握AI的科技公司。
更重要的是，AI的黑盒子屬性使得它給出的結果缺乏解釋性。
就像是一開始舉的AI面試的例子，AI面試官給你打了個低分，誰也沒法兒解釋，到底是因為你表現不夠自信，還是你身邊的噪聲影響了它的判斷。
不是每一只AI都叫AlphaGo。阿文德承認，人工智能在某些任務上表現得十分出色，但如果有人把AI當成了萬金油，只為了分得AI風口上的一杯羹，那么，就要擦亮雙眼，該反對反對，該抵制抵制。
一石激起千層浪
天下苦“偽AI”久矣。阿文德的“防騙指南”一經公布，就在社交網絡上引發了熱烈的討論。
有人指責“人工智能”一詞本就帶有營銷色彩，如果要討論技術，就應該換一個詞。
有人提及，連Facebook、Google這樣的科技巨頭都在AI方面造假。
注：谷歌能夠自動打電話、被稱贊通過圖靈測試的AI Duplex，被《紐約時報》曝出4次成功完成的任務中，有3次靠的是人工。
有人認為，真正的AI會改變游戲規則，讓人無法忽視，也無需大肆宣傳。
還有人對“防騙指南”做出了補充：
我曾經采訪過這樣一家AI初創公司。領英顯示，他們對開發人員不屑一顧，但對“培訓師”卻頗為關注。
我很懷疑他們到底是不是真的在造AI。
自AlphaGo一鳴驚人，震驚世界以來，人工智能逐漸被推上高地，吸引了大量的資金、人才，也吸引了大眾的矚目。風口之中，真正的硬核技術光芒四射，而這樣的光芒之中，也掩映著投機者的身影。
但濫竽充數者終會露出馬腳。你覺得呢？
以及，有什么AI項目是你覺得“偽AI”的嗎？
傳送門
PPT地址：
https://www.cs.princeton.edu/~arvindn/talks/MIT-STS-AI-snakeoil.pdf
Hacker News討論：
https://news.ycombinator.com/item?id=21577156
普萊斯頓大學脆弱家庭和兒童福祉研究：
https://fragilefamilies.princeton.edu/about
累犯預測：
https://advances.sciencemag.org/content/4/1/eaao5580
— 完 —
- 蘋果芯片主管也要跑路！庫克被曝出現健康問題2025-12-07
- 世界模型和具身大腦最新突破：90%生成數據，VLA性能暴漲300%｜開源2025-12-02
- 谷歌新架構突破Transformer超長上下文瓶頸！Hinton靈魂拷問：后悔Open嗎？2025-12-05
- 90后華人副教授突破30年數學猜想！結論與生成式AI直接相關2025-11-26
相關閱讀
