靠「老板語音」騙走182萬！音頻版Deepfake讓員工真假難辨乖乖轉(zhuǎn)賬，專家：目前無解
還學(xué)會了公司boss的德國口音
賈浩楠 發(fā)自 凹非寺
量子位 報道 | 公眾號 QbitAI
Deepfake模仿生成人臉效果出眾，真假難辨。
由此引發(fā)的爭議和擔(dān)憂，使得各大平臺先后封殺了Deepfake。
但最近，外媒又報道了不法之徒用音頻版Deepfake開始了新的詐騙活動，“一血”就拿下24.3萬美元（約182萬人民幣）。
棘手的是，目前安全專家毫無破解之法。
發(fā)生了什么？
今年6月，一家美國的科技公司員工收到了“自家”CEO發(fā)來的語音郵件，要求他“馬上協(xié)助完成一筆緊急的生意”。
但是，這次CEO的聲音聽起來卻有一點怪：
音頻Deepfake來自量子位00:0000:05
是boss的聲音沒錯，但是感覺機械了點，尖銳了點，而且這種語音郵件的聯(lián)系方式也很反常。
這位員工還是比較機敏，把事情上報給了公司法務(wù)，終于證實這是一起合成人類語音的詐騙事件。
隨后，這家公司把相關(guān)資料提供給了美國安全咨詢公司Nisos來調(diào)查，但結(jié)果卻無法令人滿意。
專家撓頭，表示無解
Nisos使用Spectrum3d音頻頻譜圖工具分析了Deepfake語音郵件的音頻記錄。
技術(shù)人員注意到了音頻頻譜圖中的峰值反復(fù)出現(xiàn)。Nisos懷疑是Deepfake創(chuàng)作者用多個軌道的聲音合成后播放，以此來偽造某一目標(biāo)人物的音色。
此外，音頻頻譜斷斷續(xù)續(xù)，與正常的人類錄音不一致。以1.2倍速度播放時，這段音頻聽起來更像是文本轉(zhuǎn)語音的軟件合成結(jié)果。
最重要的一點，研究人員沒有在這段音頻中檢測到任何背景噪音。
比較Deepfake音頻和正常人類錄音，可以發(fā)現(xiàn)真實情況下，頻譜的音高和音調(diào)更加平滑，而且背景中總能檢測到噪音。
但是，Nisos的分析也只能到此為止了，因為缺乏更多的數(shù)據(jù)樣本，研究人員無法知曉或推測生成音頻的算法模型細(xì)節(jié)。
Nisos找到了一個疑似詐騙犯使用的電話號碼，但是沒有任何注冊身份信息，出于法律原因，Nisos沒有回?fù)芴柎a去聯(lián)系。
所以，目前來看，還沒有識別和追蹤詐騙者的技術(shù)手段。
但研究人員總結(jié)了Deepfake音頻的特點。Deepfake音頻創(chuàng)作者為了創(chuàng)建更為逼真的音頻，通常需要滿足如下幾個條件：
1、截獲目標(biāo)人物幾乎沒有背景噪音的高質(zhì)量音頻；
2、在對方不需要或無法回電、交談的情況下發(fā)送音頻；
3、以留言的形式避免與音頻接收者實時交談。
以前發(fā)生過嗎？
2019年9月，英國出現(xiàn)了第一起Deepfake音頻詐騙事件。
犯罪分子使用音頻版Deepfake對英國一家能源公司高管的聲音進行模仿。
該公司的執(zhí)行董事在接聽詐騙電話后將超過24.3萬美元匯入了一個匈牙利賬戶。
第一筆進賬后，騙子接著打了第二個要求轉(zhuǎn)賬的電話，這才引起了懷疑。
目前，該罪犯仍未被抓獲，但據(jù)外媒報道，這起案件中的Deepfake音頻效果及其逼真，不僅模仿了音色，對于標(biāo)點、語調(diào)的把握也十分到位，甚至還學(xué)會了公司boss的德國口音。
今年2月，互聯(lián)網(wǎng)安全公司Symantec報告了三起Deepfake音頻詐騙案例，犯罪分子通過電話會議、YouTube、社交媒體以及TED演講獲得了公司高管的音頻，然后用Deepfake算法復(fù)制高管的聲音，致電財務(wù)部門的高級成員要求緊急匯款。
騙子一般利用VoIP網(wǎng)絡(luò)電話賬號聯(lián)系攻擊對象，繞過通話，直接使用語音郵件功能發(fā)送合成音頻。
Nisos認(rèn)為，現(xiàn)在的小規(guī)模發(fā)送Deepfake音頻，可能只是犯罪分子在“試水”，隨著Deepfakes的創(chuàng)建或購買變得越來越容易，音頻、視頻的合成處理質(zhì)量不斷提高，此類電子詐騙將更為普遍。
普通人該怎么辦
盡管Nisos的研究人員說，目前這種Deepfake算法還沒有外包給單個個體或大規(guī)模生產(chǎn)的可能。
但Nisos通過“特殊渠道”聯(lián)系到了熟悉Deepfake項目的開發(fā)者，他們說不確定這種情況將來會不會成為可能。
音頻Deepfake的核心問題不僅要捕捉人的音色，還要捕捉具體的言談舉止習(xí)慣。
然而，類似Yandex反向圖像搜索工具的語音版，可以用來收集大量樣本，然后建立和訓(xùn)練Deepfake模型，幫助將源語音轉(zhuǎn)換為目標(biāo)語音。
那么當(dāng)下普通人如何預(yù)防類似的詐騙呢？
Nisos認(rèn)為，盡管Deepfake真假難辨，但能力畢竟有限。
對于可疑的留言或語音郵件，可以使用已知號碼回?fù)茉摪l(fā)送者進行通話；
公司員工也可以針對公司內(nèi)部信息或某些機器無法輕易回答的問題在通話過程中進行挑戰(zhàn)性提問，以查明通話對象的身份。
你曾經(jīng)遇到過AI生成的語音詐騙嗎？
參考鏈接
https://www.nisos.com/white-papers/rise_synthetic_audio_deepfakes
相關(guān)閱讀
標(biāo)貝科技推出情感合成TTS 多情感、強表現(xiàn)力聲效讓交互更有溫度
5月28日，標(biāo)貝科技重磅推出情感合成方案，主打高音質(zhì)及高自然度的情感語音合成效果，滿足有聲閱讀、兒童教育、車載、泛娛樂等多場景使用。據(jù)悉，標(biāo)貝科技本次打造情感合成方案，是繼3月成功推出留聲機方案之后，推出的又一全新TTS解決方案，通過整體提高情感合成聲音效果，提升用戶的交互體驗。
