AI換臉以假亂真！螞蟻數科發布反DeepFake產品，還設百萬獎金池邀請黑客找bug

白交 發自 凹非寺

量子位 | 公眾號 QbitAI

生成式AI人臉造假套路多，怎么辦？

現在，專門用于DeepFake的綜合性產品上新了——

ZOLOZ Deeper，螞蟻數科ZOLOZ出品。我們日常的支付寶刷臉支付，正是依托于他們技術支撐。

值得注意的是，這可不僅僅是簡單的AI檢測算法，而是一套覆蓋全鏈路的技術產品體系——

它能夠有效應對系統、服務器、應用等多環節Deepfake安全威脅。

而為了不斷精進它的能力，內部實驗室每個月都會對他進行超過20000次“攻擊”測試。

甚至，ZOLOZ還對外拿出百萬獎金池，邀請“白帽黑客”參與找Bug。

螞蟻數科DeepFake產品上新

AIGC時代，DeepFake已經不再簡單替換技術來生成，還有像活化（Animation）、編輯（Editing）以及合成（Synthesis）等攻擊手段。

攻擊形式，DeepFake也從簡單的呈現式攻擊朝著更為復雜的注入式攻擊轉變。

呈現式攻擊，顧名思義，也就是在攝像頭前放一張假臉，來突破檢測技術。注入式攻擊則是從系統層面來劫持攝像頭，注入準備好的圖片/視頻，替換攝像頭畫面。

這也就給檢測技術帶來了不少的挑戰。

ZOLOZ Deeper則是專門針對注入式、活化等復雜攻擊手段的產品。

現在，ZOLOZ Deeper主要用于在用戶刷臉場景中攔截 “AI換臉”風險。

從身份安全切入之后，他們還將進一步擴展到內容合規AIGC防控、金融詐騙場景、社交詐騙場景、輿情AIGC風險等多個實踐中去。

如何實現？

最直接的思路是，用魔法打敗魔法。

據透露，在技術實現上，ZOLOZ主要采取攻和防兩條路線。

防這方面，ZOLOZ Deeper 搭建了端云一體的全鏈路技術體系，能應對系統、服務器、應用等多環節的安全威脅。

前端通過精密的傳感器校驗與多維特征動態風控，對攝像頭狀態、設備及網絡環境、輸入圖像等進行嚴格審查，確保軟硬件環境安全無風險，采集到的生物特征數據真實無篡改；

在用戶操作過程中，運用深度學習模型對用戶面部動態進行細致入微的分析，捕捉微表情、肌肉紋理、眼神流轉等細微特征，精準判斷其是否為真人實時互動。

攻則是借助天璣實驗室來進行自動化攻防測評。

此前量子位曾探訪過，這是一個高自動化的生物識別安全實驗室。

天璣實驗室投入大量的科研資源，自主研究生成了當下黑產攻擊人臉安全的“道具”，定義了上百種不同級別的攻擊方法和假體制作工藝。

此次，天璣實驗室則是通過GAN模型生成超30萬測試樣本，來交給ZOLOZ Deeper 進行判別訓練。

除此之外，每個月還會對它進行超過20000次的攻防測評，模擬上百種偽造攻擊情況。

誰是ZOLOZ？

ZOLOZ是由螞蟻數科孵化出來的科技品牌，主攻生物識別技術。最早在2015年支付寶上線的刷臉和支付，背后技術正是由他們來支撐。

2019年，他們就啟動了DeepFake相關算法研發。當時還主要針對是一些簡單的人臉攻擊，比如將圖片、視頻、面具等Fake內容呈現在攝像頭面前，攻破人臉識別系統。

而隨著攻擊手段逐漸復雜，ZOLOZ技術與產品也在不斷升級迭代之中，ZOLOZ Deeper正是應對當下AIGC時代下的產品。

這樣的研發實力，得到了市場和權威組織的認證。

比如在服務印尼某頭部銀行時，其產品上線一個月時間內實現了 Deepfake 風險“0 漏過”。

除此之外，ZOLOZ在2020年，作為亞太第一家，獲得iBeta國際生物安全認證組織最高等級Level2認證。

另外在2023 年，ZOLOZ通過了中國信通院深度偽造視頻檢測服務能力檢驗，滿足安全可靠、透明性、數據保護、明確責任、公平性等方面的可信能力要求。

上個月，有20年風險管理經驗的趙聞飆擔任螞蟻數科 CEO。支付寶和螞蟻集團的核心風控體系就是他牽頭搞的。

ZOLOZ Deeper，也是他上任CEO以來首推的安全產品。

還懸賞百萬給新產品找bug

最后，ZOLOZ還聯合螞蟻安全響應中設立了超百萬的獎金池，誠邀白帽黑客們來給產品找bug，可以通過“螞蟻集團安全響應中心”官網提報漏洞。

所以極客們趕緊關注起來～