NeurIPS今年將加入道德評審，論文作者還需聲明財務資助，獲正面評價才能接收

曉查 2020-02-25 09:52:57 來源：量子位

曉查發自凹非寺
量子位報道 | 公眾號 QbitAI

AI研究的道德問題越來越突顯。

上周，YOLO之父Redmon宣布退出CV研究，因為不想看到自己研發的技術被用于軍事和隱私窺探。

有人說，Redmon很難以一己之力改變學術界。然而事實上，Redmon的做法正是因為學術界開始重視AI的道德倫理，他這一激進的決定來自于與其他學者之間的爭論。

全球最大的AI學術會議NeurIPS組織方在最新公告中表示，今年向大會提交論文的學者必須陳述其研究潛在的更廣泛的影響，以及自己的研究是否存在任何財務利益沖突。

社會影響力聲明將要求AI研究人員說明其工作的正面和負面潛在結果，而財務披露要求闡明行業和大型科技公司在該領域中發揮的作用，以及與提交的研究直接相關的潛在利益沖突。

NeurIPS是首批制定該要求的頂級AI學術會議，不知其他學術會議是否會跟進。

NeurIPS 2020通訊主席Michael Littman表示，每篇論文都會發表“道德方面和未來社會后果”的聲明。

但是聲明只會出現在最初發表的論文版本中，因此不會影響評審過程的雙盲性質。具有潛在道德問題的研究將增加一輪評審程序。

評審員和領域主席的評估將僅基于技術。但是如果將某篇論文標記為潛在的道德問題，則該論文將被發送給另一組具有道德和機器學習專長的審稿人。

這些論文的最終接受也取決于第二批審稿人的正面評價。

大會要求的財務披露，要求研究者公布受捐助的資金、數據集、計算硬件、云計算服務等。受科技公司資助的AI研究者將收到該條款的影響。

NeurIPS的新要求也令一些學者感到不滿。CIFAR成員Roger Grosse說，新政策將“導致重要問題的瑣碎化”，希望將這類問題交給注重倫理或社會影響的研究者。

作為回應，目標識別算法YOLO發明者Joseph Redmon直接宣布退出CV界，因為擔心該技術對世界的潛在危險。

實際上去年的NeurIPS就已經開始考慮AI的社會影響，大會組織者曾建議今年論文作者提交計算過程的碳排放，即訓練模型對氣候變化的影響，不過今年大會并沒有加入這一條。

2020年的NeurIPS仍將在加拿大溫哥華舉行，時間為12月6日至12日。今年論文提交的截止日期為5月12日。

參考資料：

NeurIPS requires AI researchers to account for societal impact and financial conflicts of interest

https://nips.cc/Conferences/2020/CallForPapers