「看臉識罪犯」？這樣的研究能發表，LeCun等1700名研究者怒了
Springer已緊急撤稿
魚羊 發自 凹非寺
量子位 報道 | 公眾號 QbitAI
看面相，就能算出一個人會不會犯罪？
這種《少數派報告》式的研究，還真有人做了：依靠面部識別技術，僅憑照片，來預測某個人是否是罪犯。
論文被學術出版商Springer Nature接收，計劃刊載在《Springer Nature-研究叢書：計算科學與計算智能學報》上。
這個消息，讓包括LeCun在內的，來自哈佛、MIT、谷歌和微軟等機構的1700名教授、研究人員怒了：
這種論文寫出來也就算了，Springer Nature這個看上去濃眉大眼的學術出版商，竟然還要公開刊載？
于是，他們給Springer Nature寫了一封聯名信，嚴正要求出版商撤回論文，并承諾不再發表類似研究。
機器學習，反而會放大歧視
盡管論文的作者稱，其算法具有「80%的準確性，并且沒有種族偏見」，但聯名發信的AI研究者們認為：
根本沒有辦法開發出沒有種族偏見的預測犯罪系統，因為數據本身就是含有偏見的。
所謂「沒有種族偏見」，實際上是把算法偏見和社會偏見混為一談。
信中強調了這樣的觀點：刑事司法系統產生的數據不能用于「識別罪犯」或預測犯罪行為。
要用讓AI通過看「面向」，預測犯罪，看似不偏不倚，但實際上基于一個假設前提：有關犯罪逮捕和定罪的數據，都是可靠、中立、無偏見的。
然鵝，引爆全美的喬治·弗洛伊德事件已經再一次用事實表明，這個假設是不成立的——這些數據當中，本身就記錄了現實中存在的社會偏見。
信中談到，這一關乎數據有效性的基本問題，無法通過數據清洗和收集更多數據來解決。
即使研究人員本身不帶有任何偏見，機器學習模型也會繼承數據集中的偏見，甚至放大歧視性結果。
此外，還有一個更重要的問題。
人臉識別技術之所以能取得現在的成績，是因為涉及到的任務不存在不確定性。舉個例子，給出兩張照片，AI只需要判斷是不是同一個人就行了。
但是，面部特征和犯罪，真的存在這樣的邏輯關系嗎？
「犯罪身體特征」，恐怕根本是個偽命題。
因此，犯罪預測技術，再現了不公正現象，并且有害。
于是，1700名來自多個研究領域的教授、研究者聯名要求：
撤銷該論文的公開發表，并解釋用于評估該研究的標準。
Springer發表聲明，譴責使用刑事司法統計數據預測犯罪行為的做法，并承認錯誤。
所有出版商今后不要出版類似研究。
網友熱議
聯名倡議一經發出，獲得了眾多響應，并在社交媒體上引發了網友的熱烈討論。
有網友提到了斯皮爾伯格的《少數派報告》，AI就像里面的“先知”，根據預測提出的指示/建議甚至可能完全不可靠。
這樣的研究就是危險的sh*t。
還有網友認為，依據面部圖像去識別罪犯，這種想法并沒有比讓麥當勞通過面相，預測你今天是要吃麥辣雞腿堡還是板燒雞腿堡高明。
也有人擔心，這樣的“客觀”算法會成為執法部門掩蓋歧視、不公正的借口。
壓力之下，Springer Nature也已作出回應：不會發表這篇文章。
參考鏈接
https://medium.com/@CoalitionForCriticalTechnology/abolish-the-techtoprisonpipeline-9b5b14366b16
https://www.vice.com/en_us/article/889xyb/over-1000-ai-experts-condemn-racist-algorithms-that-claim-to-predict-crime
https://www.reddit.com/r/MachineLearning/comments/heiyqq/dr_a_letter_urging_springer_nature_not_to_publish/
— 完 —
- 蘋果芯片主管也要跑路！庫克被曝出現健康問題2025-12-07
- 世界模型和具身大腦最新突破：90%生成數據，VLA性能暴漲300%｜開源2025-12-02
- 谷歌新架構突破Transformer超長上下文瓶頸！Hinton靈魂拷問：后悔Open嗎？2025-12-05
- 90后華人副教授突破30年數學猜想！結論與生成式AI直接相關2025-11-26
相關閱讀
讓Hinton后悔投少了的AI公司：吳恩達弟子徒孫創辦，LeCun李飛飛Jeff Dean投資，產品讓人無法拒絕
Geoffrey Hinton、Yann LeCun、李飛飛、Jeff Dean都投了同一家公司CovariantAI，Hinton還后悔投少了
