美國(guó)最大警用攝像頭廠商對(duì)人臉識(shí)別說(shuō)No，稱其會(huì)帶來(lái)嚴(yán)重偏見(jiàn)

安妮 2019-07-01 14:20:21 來(lái)源：量子位

銅靈 發(fā)自 凹非寺

量子位 出品 | 公眾號(hào) QbitAI

自家人斷自家人后路？

全美最大的警用穿戴式攝像頭的最大制造商Axon，已經(jīng)正式宣布：

在技術(shù)改進(jìn)之前，不會(huì)在其警用穿戴式攝像頭中使用面部識(shí)別技術(shù)。

這家為47家美國(guó)最大的警察機(jī)構(gòu)提供攝像設(shè)備及軟件的公司，這一次竟然割愛(ài)，主動(dòng)放棄了人臉識(shí)別這一在安防領(lǐng)域頗具潛力的技術(shù)。

Axon到的委員會(huì)給出的說(shuō)法是，人臉識(shí)別技術(shù)不夠可靠，還無(wú)法證明其使用的合理性。

到底怎么回事？

偏見(jiàn)+隱私

事件的導(dǎo)火索是一份長(zhǎng)達(dá)28頁(yè)的研究報(bào)告。

這是一份來(lái)自Axon內(nèi)部人工智能道德委員會(huì)的報(bào)告，報(bào)告題目為First Report of the Axon AI & Policing Technology Ethics Board（譯為《Axon AI &警務(wù)技術(shù)倫理委員會(huì)第一份報(bào)告》）。

報(bào)告表示，當(dāng)前的面部識(shí)別技術(shù)，有“證據(jù)表明種族，種族，性別和其他身份群體的表現(xiàn)不平等且不可靠。”

報(bào)告進(jìn)一步表示，與白人相比，這項(xiàng)技術(shù)對(duì)有色人種不那么友好，對(duì)女性比男性友好，對(duì)年輕人比老年人更友好。

Axon道德委員會(huì)成員、紐約大學(xué)法律學(xué)院Policing Project主任Barry Friedman表示，這項(xiàng)技術(shù)不夠準(zhǔn)確，表示在修復(fù)這些問(wèn)題前，不會(huì)再考慮了。

即使可能需要很多年的時(shí)間。

除了技術(shù)本身的限制外，報(bào)告中還提到了人臉識(shí)別帶來(lái)的隱私問(wèn)題。

Axon在報(bào)告中表示：

技術(shù)的發(fā)展的速度遠(yuǎn)遠(yuǎn)快于立法機(jī)構(gòu)和法院反應(yīng)的速度。因此，我們認(rèn)為，對(duì)于技術(shù)領(lǐng)導(dǎo)者來(lái)說(shuō)，努力理解新技術(shù)的倫理、法律和社區(qū)含義至關(guān)重要，因?yàn)檫@些新技術(shù)太過(guò)新穎，無(wú)法被現(xiàn)有法律有效覆蓋。

作為一家大型安防公司，Axon當(dāng)然也想擁抱新興的AI科技。

比如，美國(guó)多地警方的持有的AI執(zhí)法記錄儀，就可以分析攝像頭捕捉的物體進(jìn)行物體分類，對(duì)執(zhí)法信息自動(dòng)歸檔。

美國(guó)MuckRock的一篇博文顯示，在今年年初，Axon開(kāi)始向大規(guī)模在其設(shè)備中部署人工智能技術(shù)，Axon希望通過(guò)AI替代警察的文書和資料編輯等工作。

雖然Axon大力提倡AI，但是，對(duì)于人臉識(shí)別這項(xiàng)技術(shù)，他們顯得甚是謹(jǐn)慎。

甚至于，還沒(méi)有真正在其產(chǎn)品中部署這項(xiàng)技術(shù)，就已經(jīng)宣布擱置了。

“解脫了”

這則消息讓國(guó)外網(wǎng)友覺(jué)得大爽，網(wǎng)友突然興奮了起來(lái)。

網(wǎng)友感慨，人臉識(shí)別帶走了城市生活提供的最后一絲隱私：

那么現(xiàn)在，就是自由的感覺(jué)吧！

網(wǎng)友@ProfFerguson認(rèn)為，Axon禁止人臉識(shí)別這件事代表著勝利，一是道德委員會(huì)的勝利，二是對(duì)于那些關(guān)注面部識(shí)別的人來(lái)說(shuō)，這也算是個(gè)好

OpenAI政策方向的研究科學(xué)家@Miles_Brundage表示，看到Axon AI倫理委員會(huì)的第一份報(bào)告，感到非常興奮，自己也是參與報(bào)告調(diào)研的一員。

他認(rèn)為，可穿戴攝像頭中的人臉識(shí)別技術(shù)目前還非常不成熟，預(yù)計(jì)還有很長(zhǎng)的路要走。

有網(wǎng)友認(rèn)為，Axon宣布暫時(shí)禁用也是為了把控自身風(fēng)評(píng)，明知道技術(shù)不靠譜還去用，可能會(huì)產(chǎn)生壞的影響，因此謹(jǐn)慎行事。

有專家分析稱，即使這個(gè)禁令禁止了人臉識(shí)別技術(shù)在警用攝像頭中的應(yīng)用，但若有人真想鉆空子，也不能完全杜絕。

Axon發(fā)言人表示，執(zhí)法官員可以下載第三方應(yīng)用，比如亞馬遜的Rekognition。但約翰杰伊刑事司法學(xué)院的副教授Piza卻認(rèn)為這樣也不容易，還需要花錢額外購(gòu)買另一項(xiàng)技術(shù)，最后操作的難度很大。

人臉識(shí)別禁令

一邊是遠(yuǎn)高于人眼的識(shí)別效率，另一邊卻又陷入了隱私和偏見(jiàn)的泥潭，人臉識(shí)別的應(yīng)用陷入了兩難的境地。

對(duì)于美國(guó)來(lái)說(shuō)，持保守觀望狀態(tài)的不止Axon。

上個(gè)月，史上首個(gè)人臉識(shí)別禁令出臺(tái)，來(lái)自硅谷中心舊金山。舊金山監(jiān)事會(huì)通過(guò)的禁令名為《停止秘密監(jiān)察條例（Stop Secret Surveillance Ordinance ）》顯示，禁止舊金山的政府機(jī)構(gòu)使用人臉識(shí)別技術(shù)，哪怕是需要探案抓人的警察也不行。

條例中說(shuō)，以人臉識(shí)別為代表的監(jiān)視技術(shù)總是被用在壓迫某些種族、宗教、性取向不同的特殊群體，人臉識(shí)別技術(shù)對(duì)公民權(quán)利和自由的危害大大超過(guò)所帶來(lái)的好處。

因此，條例認(rèn)定舊金山的政府部門無(wú)論是直接使用人臉識(shí)別技術(shù)，還是靠人臉識(shí)別技術(shù)獲得某些信息，都是違法行為。

也就是說(shuō)，不能直接在公共場(chǎng)所裝人臉識(shí)別攝像頭，也不能偷偷地用人臉識(shí)別技術(shù)來(lái)自動(dòng)匹配嫌犯。

相比之下，國(guó)內(nèi)的人臉識(shí)別技術(shù)部署進(jìn)展就快得多了。

前有熱心歌神張學(xué)友的全國(guó)巡演中，人臉識(shí)別AI領(lǐng)取抓捕逃犯五連殺成就。

后有北大弒母案疑犯，逃亡三年后，被重慶機(jī)場(chǎng)最新配置的人臉識(shí)別系統(tǒng)成功匹配。

技術(shù)在進(jìn)步，法規(guī)在完善。關(guān)于人臉識(shí)別技術(shù)的落地之旅，其實(shí)才剛剛開(kāi)始。

— 完 —

誠(chéng)摯招聘

量子位正在招募編輯/記者，工作地點(diǎn)在北京中關(guān)村。期待有才氣、有熱情的同學(xué)加入我們！相關(guān)細(xì)節(jié)，請(qǐng)?jiān)诹孔游还娞?hào)(QbitAI)對(duì)話界面，回復(fù)“招聘”兩個(gè)字。

量子位 QbitAI · 頭條號(hào)簽約作者

?’?’ ? 追蹤AI技術(shù)和產(chǎn)品新動(dòng)態(tài)