靠「老板語音」騙走182萬！音頻版Deepfake讓員工真假難辨乖乖轉賬，專家：目前無解
還學會了公司boss的德國口音
賈浩楠 發自 凹非寺
量子位 報道 | 公眾號 QbitAI
Deepfake模仿生成人臉效果出眾，真假難辨。
由此引發的爭議和擔憂，使得各大平臺先后封殺了Deepfake。
但最近，外媒又報道了不法之徒用音頻版Deepfake開始了新的詐騙活動，“一血”就拿下24.3萬美元（約182萬人民幣）。
棘手的是，目前安全專家毫無破解之法。
發生了什么？
今年6月，一家美國的科技公司員工收到了“自家”CEO發來的語音郵件，要求他“馬上協助完成一筆緊急的生意”。
但是，這次CEO的聲音聽起來卻有一點怪：
音頻Deepfake來自量子位00:0000:05
是boss的聲音沒錯，但是感覺機械了點，尖銳了點，而且這種語音郵件的聯系方式也很反常。
這位員工還是比較機敏，把事情上報給了公司法務，終于證實這是一起合成人類語音的詐騙事件。
隨后，這家公司把相關資料提供給了美國安全咨詢公司Nisos來調查，但結果卻無法令人滿意。
專家撓頭，表示無解
Nisos使用Spectrum3d音頻頻譜圖工具分析了Deepfake語音郵件的音頻記錄。
技術人員注意到了音頻頻譜圖中的峰值反復出現。Nisos懷疑是Deepfake創作者用多個軌道的聲音合成后播放，以此來偽造某一目標人物的音色。
此外，音頻頻譜斷斷續續，與正常的人類錄音不一致。以1.2倍速度播放時，這段音頻聽起來更像是文本轉語音的軟件合成結果。
最重要的一點，研究人員沒有在這段音頻中檢測到任何背景噪音。
比較Deepfake音頻和正常人類錄音，可以發現真實情況下，頻譜的音高和音調更加平滑，而且背景中總能檢測到噪音。
但是，Nisos的分析也只能到此為止了，因為缺乏更多的數據樣本，研究人員無法知曉或推測生成音頻的算法模型細節。
Nisos找到了一個疑似詐騙犯使用的電話號碼，但是沒有任何注冊身份信息，出于法律原因，Nisos沒有回撥號碼去聯系。
所以，目前來看，還沒有識別和追蹤詐騙者的技術手段。
但研究人員總結了Deepfake音頻的特點。Deepfake音頻創作者為了創建更為逼真的音頻，通常需要滿足如下幾個條件：
1、截獲目標人物幾乎沒有背景噪音的高質量音頻；
2、在對方不需要或無法回電、交談的情況下發送音頻；
3、以留言的形式避免與音頻接收者實時交談。
以前發生過嗎？
2019年9月，英國出現了第一起Deepfake音頻詐騙事件。
犯罪分子使用音頻版Deepfake對英國一家能源公司高管的聲音進行模仿。
該公司的執行董事在接聽詐騙電話后將超過24.3萬美元匯入了一個匈牙利賬戶。
第一筆進賬后，騙子接著打了第二個要求轉賬的電話，這才引起了懷疑。
目前，該罪犯仍未被抓獲，但據外媒報道，這起案件中的Deepfake音頻效果及其逼真，不僅模仿了音色，對于標點、語調的把握也十分到位，甚至還學會了公司boss的德國口音。
今年2月，互聯網安全公司Symantec報告了三起Deepfake音頻詐騙案例，犯罪分子通過電話會議、YouTube、社交媒體以及TED演講獲得了公司高管的音頻，然后用Deepfake算法復制高管的聲音，致電財務部門的高級成員要求緊急匯款。
騙子一般利用VoIP網絡電話賬號聯系攻擊對象，繞過通話，直接使用語音郵件功能發送合成音頻。
Nisos認為，現在的小規模發送Deepfake音頻，可能只是犯罪分子在“試水”，隨著Deepfakes的創建或購買變得越來越容易，音頻、視頻的合成處理質量不斷提高，此類電子詐騙將更為普遍。
普通人該怎么辦
盡管Nisos的研究人員說，目前這種Deepfake算法還沒有外包給單個個體或大規模生產的可能。
但Nisos通過“特殊渠道”聯系到了熟悉Deepfake項目的開發者，他們說不確定這種情況將來會不會成為可能。
音頻Deepfake的核心問題不僅要捕捉人的音色，還要捕捉具體的言談舉止習慣。
然而，類似Yandex反向圖像搜索工具的語音版，可以用來收集大量樣本，然后建立和訓練Deepfake模型，幫助將源語音轉換為目標語音。
那么當下普通人如何預防類似的詐騙呢？
Nisos認為，盡管Deepfake真假難辨，但能力畢竟有限。
對于可疑的留言或語音郵件，可以使用已知號碼回撥該發送者進行通話；
公司員工也可以針對公司內部信息或某些機器無法輕易回答的問題在通話過程中進行挑戰性提問，以查明通話對象的身份。
你曾經遇到過AI生成的語音詐騙嗎？
參考鏈接
https://www.nisos.com/white-papers/rise_synthetic_audio_deepfakes
- 商湯Seko上線一個月，超10萬創作者選擇它2025-09-29
- 戴爾 x OpenCSG，推出?向智能初創企業的?體化 IT 基礎架構解決方案2025-12-10
- 看完最新國產AI寫的公眾號文章，我慌了！2025-12-08
- 共推空天領域智能化升級！趨境科技與金航數碼強強聯手2025-12-09
