清華校友研究再登Nature：3種方法解決自動駕駛“稀疏度災難”

賈浩楠 2024-06-17 13:07:54 來源：量子位

賈浩楠 發(fā)自 副駕寺智能車參考 | 公眾號 AI4Auto

清華校友，最新自動駕駛研究成果再登Nature。

去年，Nature正刊曾罕見的將封面給了自動駕駛研究“仿真效率提升2000倍”——同樣是這個這個團隊的成果，成為自動駕駛圈內一時熱議的重大進展，智能車參考也詳細介紹過。

這次新研究發(fā)表在Nature子刊《Nature Communications》，關注更加底層、更加核心的AI技術難題：

稀疏度災難。

研究了個啥？

有點“神乎其神”，稀疏度是個啥東西，咋就成了自動駕駛的災難？

嚴謹?shù)亩x是這樣：

高維變量空間中安全關鍵事件的稀疏度。

通俗的說就是，拿來喂給AI司機的訓練數(shù)據(jù)中，真正有用的不多。

舉個例子，現(xiàn)在車企、自動駕駛公司動輒說自己有幾百上千萬公里實測里程，或者仿真測試里程過億，但都回避了關鍵問題：

這些數(shù)據(jù)中，真正對系統(tǒng)能力有關鍵性提升的有多少？

比如自動駕駛在平直無車的高速上測試百萬公里，可能都不如在城市中遇見一次“鬼探頭”的提升大。

關鍵場景的查漏補缺，行業(yè)內通常稱為“長尾場景”。

現(xiàn)在一般有兩種解決思路，一種是大力出奇跡，盡可能多的車，跑盡可能多的路，期望最大程度覆蓋各種罕見的交通狀況，讓自動駕駛能力從量變積累到質變飛躍。

其實，包括現(xiàn)在成為行業(yè)共識的端到端技術體系，本質上仍然是通過這樣的思路解決問題，只不過把整個自動駕駛流程中更多環(huán)節(jié)的權限移交給了AI。

另外一種，則是在有限算力、參數(shù)限制下，用人為手寫的規(guī)則，給自動駕駛套上“安全殼”，極限情況下通過降級或者剎停等等手段兜底。這是現(xiàn)在大部分量產(chǎn)智駕的方法，但劣勢很明顯：系統(tǒng)決策僵硬死板，泛化性差，體驗更差。

不知大家發(fā)現(xiàn)沒有，無論是哪一種方式，都沒有在AI算法這個層面剖析“稀疏度”本質，自然也就提不出針對性的解決方案。

作者在論文開篇就直接指出了這個問題：

盡管在公共道路上積累了數(shù)百萬英里的測試里程，但自動駕駛仍難以有效處理頻發(fā)的“安全關鍵事件”。能商用的L4也一直落不了地。

所以將“稀疏度”稱為“自動駕駛的災難”。

新研究解決稀疏度災難的方法，是打開AI黑箱，嘗試用數(shù)學表達稀疏度本質，并提出了三種對應的解決辦法。

怎么辦到的

具體來說，作者認為傳統(tǒng)上比較重視的安全關鍵事件的概率分布，其實并不核心。

相反，真正挑戰(zhàn)在于如何定義高度復雜場景中安全關鍵情況的稀有性，例如不同的天氣條件、不同的道路基礎設施以及道路使用者的行為差異…

這些安全關鍵情況，可能由于多種原因而出現(xiàn)，比如對未知物體的錯誤識別，或對附近行人運動軌跡錯誤預測…這類事件發(fā)生的概率很低，大多數(shù)可用數(shù)據(jù)只包含很少的罕見事件信息。

因為罕見事件的寶貴信息可能被大量正常數(shù)據(jù)所掩蓋，所以深度學習模型其實很難有效學習到這些安全關鍵事件。

關鍵的地方來了。深度學習的本質是通過優(yōu)化目標函數(shù)對具有特定分布的數(shù)據(jù)期望，來獲得神經(jīng)網(wǎng)絡的最優(yōu)參數(shù)。

為了解決這個優(yōu)化問題，最常用的方法是基于梯度下降，在每個訓練步驟使用一批數(shù)據(jù)通過蒙特卡洛估計來估計梯度。

然而，隨著安全關鍵事件的罕見性增加，估計方差會呈指數(shù)增加，導致“稀疏度災難”。

解決方法有三個。

首先是使用更多罕見事件數(shù)據(jù)進行有效訓練。

這種方法側重數(shù)據(jù)，專門利用與罕見事件相關的數(shù)據(jù)來不斷改進系統(tǒng)能力。但定義和識別罕見事件不是那么簡單的。因為它們依賴于特定于問題的目標函數(shù)，并受到安全關鍵事件的時空復雜性的影響。更重要的，現(xiàn)在學界仍然缺乏可以指導罕見事件數(shù)據(jù)利用的理論基礎。

對于這樣的安全驗證任務，團隊之前的試圖通過密集深度強化學習 (D2RL) 方法來解決（即登上Nature封面的研究），實驗結果表明，D2RL 可以顯著降低策略梯度估計的方差，這是解決 CoR 的重要一步。

其次是提高機器學習模型的泛化和推理能力。實際上作者在這里討論的就是AGI的問題，目前在自動駕駛領域最前沿的嘗試是端到端模型。

人類可以在有限的經(jīng)驗（通常少于一百小時的訓練）下學習駕駛，所以未來的AI也有可能在不依賴大量特定于任務的數(shù)據(jù)的情況下克服 CoR。這就要求AI同時具備自下而上的推理（感知數(shù)據(jù)驅動）和自上而下的推理（認知期望驅動）能力。

可以參考大型語言模型 (LLM) 和視覺語言模型 (VLM) 的方案，它們的基礎模型通過采用完全監(jiān)督微調、情境學習和思路鏈等技術，展現(xiàn)出了出卓越的泛化和推理能力。

第三種方法，是通過減少安全關鍵事件的發(fā)生來減輕CoR對整個系統(tǒng)的影響。

直白的說就是盡量降低系統(tǒng)對場景、目標的錯檢漏檢。具體方法有很多，比如將傳統(tǒng)深度學習模型和強化學習想結合，訓練AI“預防性駕駛”能力、車路協(xié)同多傳感器融合、車云一體化方案等等。

三種解決 CoR 問題的潛在方法，從不同角度出發(fā)。不過作者強調，這些方法并不相互排斥，結合起來會有巨大的潛力。

有什么意義？

CoR的影響不僅僅局限在感知環(huán)節(jié)，而是滲透進了自動駕駛各個流程，逐級累加。一個概率極低的安全關鍵情況一旦出現(xiàn)，可能造成很嚴重的后果。

例如，單幀中的物體分類錯誤可能不是什么大問題，而一系列幀（clips）中的多個物體分類錯誤可能會導致嚴重的錯誤識別和誤判，此類事件的發(fā)生概率遠低于任何單個錯誤的發(fā)生概率，因此 CoR 問題變得更加嚴重。

軌跡預測層面上，一個小小的預測錯誤可能會導致誤報或漏報，從而導致過于謹慎的駕駛決策或過于自信的決策而導致事故。所以行為預測模型必須有效處理容易出現(xiàn)CoR的罕見事件。

決策環(huán)節(jié)，以往由于現(xiàn)實世界數(shù)據(jù)的缺乏和偶然性，深度學習模型很容易受到CoR的影響，這可能導致策略梯度估計的嚴重差異。

自然而然，由于CoR的存在，理論上評估自動駕駛的安全性能需要數(shù)億英里，這是不切實際且效率低下的，這也是為何仿真測試成了主流。但問題是，許多現(xiàn)有方法僅限于處理有限目標的短場景段，無法捕捉現(xiàn)實世界安全關鍵事件的全部復雜性和多變性。

所以CoR盡管不是一個看得見、摸得著的bug，但危害深刻滲透進自動駕駛每個環(huán)節(jié)。

這項新研究最大的意義，是解釋了CoR的數(shù)學本質，并提出了幾種可能的解決方法。

作者團隊介紹

這項研究由美國密西根大學和清華大學研究人員合作完成。

一作、通訊作者劉向宏博士，現(xiàn)任美國密歇根大學講席教授、Mcity主任（密歇根大學主導的智能交通模擬城市項目）。

他在國內最被外界熟悉的身份是滴滴前首席科學家。

劉向宏1993年本科畢業(yè)于清華大學汽車工程系，2000年在威斯康星大學麥迪遜分校取得博士學位。

劉教授是交通工程領域論文引用率最高的學者之一，他發(fā)明的用于精確測量交叉路口的排隊長度和旅行時間的SMART-Signal系統(tǒng)于2012年取得美國國家專利，并已在美國明尼蘇達州和加州得到廣泛應用。

本文共同一作、通訊作者封碩，現(xiàn)在在清華自動化系任助理教授，曾前在劉向宏教授的Traffic Lab做博士后、研究員。

封碩本科和博士學位都在清華大學自動化系獲得，研究方向是優(yōu)化控制、互聯(lián)和自動駕駛評估以及交通數(shù)據(jù)分析。

從封碩和劉向宏教授團隊以往發(fā)表的成果和科研方向來看，他們一直在持續(xù)推進自動駕駛安全驗證評估和仿真測試的優(yōu)化升級。

比如之前我們報道過的D2RL，就是通過強化學習手段針對性生成高價值數(shù)據(jù)，提高仿真測試的效率。

有趣的是，無論是自動駕駛、智能汽車產(chǎn)業(yè)界從工程實踐出發(fā)，還是高校學者從數(shù)學原理層面抽象歸納總結，竟然都指向了AGI、端到端、數(shù)據(jù)驅動的路徑。

所以端到端會是自動駕駛的最優(yōu)解，或者說它會是自動駕駛“歷史的終結”嗎？