明年1月1日起,AI造假視頻不得隨意發(fā)布
問耕 發(fā)自 凹非寺
量子位 出品 | 公眾號(hào) QbitAI
新規(guī)來了。
在這份剛剛印發(fā)的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》中,四次直接提及深度學(xué)習(xí),基本可以看做是針對(duì)AI造假視頻的一次針對(duì)性管控。
2017年底,deepfake換臉技術(shù)出現(xiàn)以來,各種使用AI技術(shù)造假的視頻層出不窮。而且隨著技術(shù)的進(jìn)步,造假視頻已經(jīng)變得越來越真假難辨,也引發(fā)了全球范圍內(nèi)的擔(dān)憂。
現(xiàn)在,不能使用AI技術(shù)亂來了。
國(guó)內(nèi)的各位朋友,再搞AI換臉的視頻等操作,請(qǐng)注意這些新規(guī)定。
對(duì)普通用戶:
- 發(fā)布非真實(shí)AI音視頻時(shí),要以顯著方式標(biāo)識(shí)出來。
- 不得使用AI技術(shù)制作假新聞。
對(duì)于服務(wù)商,除了上述要求還有:
- 上線AI音視頻服務(wù),應(yīng)展開安全評(píng)估。
- 部署非真實(shí)音視頻鑒別技術(shù)。
- 及時(shí)停止傳播未顯著標(biāo)識(shí)的非真實(shí)AI音視頻內(nèi)容。
- 建立健全辟謠機(jī)制。
相關(guān)規(guī)定條款,我們截圖如下。
新規(guī)定將于明年1月1日起施行。
《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》的詳細(xì)內(nèi)容,可以訪問這個(gè)頁(yè)面查看:http://www.cac.gov.cn/2019-11/29/c_1576561820967678.htm
deepfake“改變”世界
對(duì)于deepfake等基于深度學(xué)習(xí)的AI技術(shù),全球都在想辦法應(yīng)對(duì)。
畢竟這種技術(shù),可以用來?yè)Q臉:
還能用來給身體造假:
本月,推特發(fā)布了首個(gè)反deepfake策略草案,并征集公眾意見。根據(jù)這個(gè)草案,如果一份deepfake偽造的內(nèi)容威脅到某人的人身安全或可能造成嚴(yán)重傷害,將會(huì)被刪除。
包括微軟、Google等國(guó)外公司也在研究如何自動(dòng)鑒別換臉視頻。
AI造假視頻,也是最近幾個(gè)月美國(guó)國(guó)會(huì)中最有爭(zhēng)議的話題之一。此前,美國(guó)國(guó)際戰(zhàn)略研究中心(CSIS)發(fā)布報(bào)告稱,偽造信息正在通過互聯(lián)網(wǎng)迅速傳播,破壞了民主進(jìn)程。
來自人民看點(diǎn)的報(bào)道中寫道:
Deepfake被認(rèn)為是一種破壞民主的工具。美國(guó)情報(bào)界發(fā)布的2019年全球威脅評(píng)估(Worldwide Threat Assessment)中就警告稱,惡意攻擊者或戰(zhàn)略競(jìng)爭(zhēng)對(duì)手可能會(huì)使用deepfake技術(shù)或類似的機(jī)器學(xué)習(xí)技術(shù)來創(chuàng)建看似逼真但其實(shí)是偽造的圖片、音頻和視頻文件來加大針對(duì)美國(guó)和其盟友的活動(dòng)的影響。
CNBC網(wǎng)站在其報(bào)道中稱,“deepfake”將成為“2020年美國(guó)總統(tǒng)選舉中的大事件”。就像2016年的“虛假新聞”一樣,“deepfake”視頻將在2020年的美國(guó)大選中,掀起更強(qiáng)大的血雨腥風(fēng)。
2019年10月,美國(guó)加州州長(zhǎng)Gavin Newsom簽署AB-730法令,明確指出,如果散布偽造的信息使公眾對(duì)政治人物的言論、行動(dòng)產(chǎn)生錯(cuò)誤或有害的印象,將是犯罪行為。
7月,美國(guó)弗吉尼亞州也發(fā)布了禁止deepfake濫用的禁令:未經(jīng)當(dāng)事人允許分享他人的裸露視頻、照片屬于違法行為,無論該照片或視頻是真實(shí)的還是偽造的。
今年6月,斯坦福、普林斯頓等大學(xué)發(fā)布了一項(xiàng)最新研究:給定任意文本,就能隨意改變一段視頻里人物說的話。并且,改動(dòng)關(guān)鍵詞后人物口型還能對(duì)得奇準(zhǔn)無比,絲毫看不出篡改的痕跡。
除了視頻造假,AI在音頻造假方面也不在話下。
來看一個(gè)真實(shí)的案例。
有人用AI技術(shù)偽造老板的聲音,打電話要求轉(zhuǎn)賬,結(jié)果一家公司上當(dāng)了,損失了173萬(wàn)元。這家公司,是總部位于英國(guó)的一家能源公司。
要不是因?yàn)轵_了一次還想立刻騙第二次,這個(gè)騙局可能也不會(huì)馬上曝光。
毫無破綻的變臉
如果你還沒見識(shí)過deepfake的威力,以下是一些網(wǎng)友的大作。
此前,有一個(gè)名為“換臉哥”的B站用戶將《射雕英雄傳》中朱茵飾演的黃蓉?fù)Q成了楊冪的臉,并且把處理過的視頻發(fā)在了B站。
類似的還有,徐錦江換臉海王。
把《回家的誘惑》里男主的臉換到了“穿著品如衣服”的女性角色艾莉臉上:
更多例子就先不舉了。
如果你想試試AI模仿聲音的感覺,可以試試搜狗輸入法里的“變聲”功能。
如果你想試試AI換臉的感覺,可以試試此前曾在國(guó)內(nèi)外掀起一陣旋風(fēng)、繼而引發(fā)廣泛爭(zhēng)議的App:ZAO。
One More Thing
北京下雪了,今天一早,量子位有個(gè)小姐姐跑去故宮看雪景。
這張是她發(fā)回的現(xiàn)場(chǎng)報(bào)道:
祝大家周末快樂~
— 完 —
- 泰合資本梅林:2021是資本市場(chǎng)結(jié)構(gòu)性轉(zhuǎn)折的一年2021-12-14
- 獨(dú)家!扒出騰訊新高管余總的真面目!2021-04-01
- 點(diǎn)云處理不得勁?球卷積了解一下2019-10-24
- Dota2冠軍OG如何被AI碾壓?OpenAI累積三年的完整論文終于放出2019-12-14




