朱松純團隊最新研究：機器人可與人類“推心置腹”！還說下一步要造“AI大白”
研究成果已發表在Science雜志及其子刊頭條
安羿閣 萬博 發自 凹非寺
量子位 | 公眾號 QbitAI
機器人能否像《超能陸戰隊》中的“大白”一樣，理解人類情感和價值觀，統一目標齊心協力解決問題？
現在，這個問題有了答案：
北京大學人工智能研究院朱松純團隊最新研究，提出一個可解釋人工智能（XAI）系統，證明了機器人與人類真的能做到“推心置腹”，在工作中能像人類伙伴一樣統一OKR。
也就是朱松純團提出的實時雙向人機價值對齊。
目前，朱松純團隊的這項研究成果，已經在頂級學術期刊?Science，及其子刊?Science Robotics上發表，而且都是頭條位置。
人類與機器人，價值如何對齊？
為了驗證人類和機器人的價值能否對齊，朱松純團隊設計了一個需要人類和機器人共同協作完成任務的小游戲，由人類擔任指揮官，率領3個機器人伙伴進行。
具體任務，就是在一個未知的20×20網格地圖中，尋找一條從基地（位于地圖的右下角）到目的地（位于地圖的左上角）的安全路徑。
需要注意的是，這張地圖上的不同網格中，安放有不同裝置，比如爆炸物，或者物資等等，只有當機器人靠近時才能顯示。
除了尋找安全路徑，在游戲開始之前，人類指揮官還會接到4個額外任務目標，指揮官需要4選1，任務包括：
- 盡快到達目的地；
- 調查地圖上的可疑裝置；
- 探索更大的區域；
- 收集資源。
這4個任務目標，代表的是人類指揮官的價值取向，而機器人需要人類指揮官不斷進行任務反饋，進而理解指揮官的價值取向，自主行動。
具體過程，就是人類和機器人關于價值目標一輪一輪的反饋和解釋，最終趨向一致：
整個游戲分為3組，實驗結果發現，機器人單方面接受人類指令，也就是單純的作為傾聽者時，在游戲進度達到25%時，通過對至少60%的目標重要性進行正確排序，快速與用戶的價值進行對齊。
而作為表達者時，機器人向人類進行反饋，對遇到的狀況提供完整解釋時，在游戲進度50%的時候，實現了人類指揮官和機器人價值的統一。
機器人對遇到的狀況僅僅是簡要解釋的話，需要在游戲進度達到75%的時候二者價值才能完成統一。
上面的實驗結果，說明了人類與機器人協作過程中，雙向價值對齊的過程：
首先，機器人通過接受人類的反饋，機器人可以逐漸更新自己的價值函數與人類的價值保持一致。
其次，在與機器人在不斷的交互中，人類也逐漸形成對機器人能力和意圖的感知，雖然二者的價值在游戲上半場沒有實現統一，但從下半場的情況來看，人類對機器人價值評估能力的感知仍然可以提高。
最后，當機器人的價值選擇變得穩定，用戶對機器人的評估也穩定下來，從機器人對人類價值的評估到人類價值的真實值，以及從人類對機器人價值的評估到機器人當前價值的收斂配對，形成了基于人類真實價值取向的雙向價值對齊。
結果擺在上面，而證明人類與機器人之間的價值雙向對齊，需要一個理論，也是一切研究成果背后的原理：
可解釋人工智能*（XAI）*，一種基于靜態機器-動態人類的交流方式，解釋人工智能每項決策背后邏輯的理論，學界此前多有研究。
朱松純團隊在實驗游戲中的機器人系統，也是基于XAI，但不同之處在于，人類和機器人的交流方式發生了改變。
為了能使人與機器協作完成目標，需要一種人類價值主導的、動態機器-動態用戶的交流模式。
在這種模式中，機器人除了向人類展示自己的決策過程外，還將根據用戶的價值目標即時調整行為。
同時為了即時掌握用戶信息，研究團隊采用通訊學習取代了傳統的數據驅動的機器學習方法，機器將根據所推斷出的用戶的價值目標進行合理解釋。
這種合作導向的人機協作要求機器具有心智理論（ToM），即理解他人的心理狀態（包括情緒、信仰、意圖、欲望、假裝與知識等）的能力。
這一點在多智能體和人機交互環境中尤為重要，因為機器只有在理解人類的狀態和意圖后才能更好地執行任務，其決策行為又會影響人類做出判斷，從而形成一個以人類為中心、人機兼容的協作過程。
簡單來說，采用上述方法進行人類和機器人的協同作業，可以同時賦予雙方兩個身份，傾聽者&表達者。
這也就意味著，機器人至少在理論上，可以像你的人類團隊伙伴一樣，理解你的心思和價值取向，統一目標進行高效協同了。
論文作者介紹
朱松純團隊由UCLA袁路遙、高曉豐、北京通用人工智能研究院鄭子隆、北京大學人工智能研究院朱毅鑫等人組成。
該團隊長期從事可解釋人工智能相關工作。此文是團隊第二篇發表在 Science Robotics 的關于可解釋人工智能的論文。
這項研究涵蓋了認知推理、自然語言處理、機器學習、機器人學等多學科領域，是朱松純教授團隊交叉研究成果的集中體現。
朱松純教授本人是人工智能領域全球著名的學者，曾任UCLA統計學系與計算機系教授，UCLA計算機視覺、認知、學習與自主機器人中心主任。
目前，朱松純同時在清華大學和北京大學任講席教授并擔任管理職務。他主持的北京通用人工智能研究院（BIGAI）也是由清華大學、北京大學等單位合作支撐。
One More Thing
最后回到開頭的那個問題，《超能陸戰隊》中的“大白”，真的能在現實中存在嗎？
事實上，朱松純團隊已經在著手研究了。
據悉，目前朱松純團隊所在的北京通用人工智能研究院，聯合北京大學人工智能研究院等單位，正在就人工智能的統一理論和認知架構進行研究。
未來的方向，就是打造具有自主感知、認知、決策、學習、執行和社會協作能力，符合人類情感、倫理與道德觀念的通用智能體。
怎么樣，你開心的時候能陪你開心，你悲傷的時候能為你拭去淚水，這樣的機器人，要不要來一個？
參考鏈接：
https://www.science.org/doi/10.1126/scirobotics.abm4183
- 數學家教你烤肉餅：按最佳時機翻面可節省近1/3烹飪時間，網友：想去漢堡王應聘廚子了2022-08-22
- 國產AI蛋白質結構預測再現突破，用單條序列解決3D結構，彭健團隊：“AlphaFold2以來最后一塊拼圖補齊了”2022-07-22
- 包攬數理化國際奧賽全部第一，全員金牌，網友：中國隊太秀了2022-07-19
- 減肥人士要哭：食物不吃看看也不行，因為你的大腦會發炎2022-07-18
相關閱讀
