Sora問世，如何用大模型反詐？

十三 2024-04-18 21:44:45 來源：量子位

允中 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

龍年伊始，Sora橫空出世。

2月15日（美國當地時間），人工智能研究公司OpenAI正式對外發(fā)布人工智能文生視頻大模型：Sora。一年多前該公司發(fā)布的革命性產品ChatGPT影響還在持續(xù)，而Sora一經發(fā)布便立即轟動全球AI領域，再次成為輿論焦點。

根據OpenAI的技術報告顯示，Sora這類視頻生成模型是世界的模擬器，能夠理解和模擬現實世界模型的基礎、了解物體在物理世界中的存在方式，可以根據使用者的文本提示創(chuàng)建最長達60秒的視頻，視頻內容能夠深度模擬真實物理世界，能生成具有多個角色、包含特定運動的復雜場景。

文生視頻大模型并非OpenAI獨創(chuàng)，Runway、Pika、Stable Video Diffusion等大量AI創(chuàng)業(yè)公司在這條賽道上百家爭鳴，但Sora發(fā)布后造成如此大轟動與熱議的原因，在于它突破性的進展，滿足了AI領域新一代生產力工具愿景，從“生成視頻的長度”、“鏡頭切換與畫面流暢度”、“使用的基礎模型架構”三個方面均遠超現有同類產品水平。

目前OpenAI官網已更新了數十個視頻DEMO，在這些范例視頻中，Sora不僅精準呈現了細節(jié)，還能理解物體在物理世界中的存在，并生成了具有豐富情感的角色。

△視頻來源：OpenAI官網

△視頻來源：OpenAI官網

Sora的出現，可以預見未來將對影視、游戲、廣告等內容行業(yè)產生巨大影響，同時還將推動AI服務器、AI芯片與光通信等上游行業(yè)的發(fā)展，但在暢享正面影響的同時，存在的隱患我們也需要警惕。

在Sora問世前已有多起利用AI偽造視頻進行詐騙的案例，昭示了AI生成視頻可能被濫用于非法目的的風險。而今后Sora的普及將會進一步降低偽造視頻的門檻，由深度偽造進行的欺詐行為可能會更加泛濫。

AI技術再升級，欺詐檢測三重難關：識別、檢測、追溯

Sora的出現意味著今后利用AI升級技術實施欺詐行為門檻將變低，反欺詐產品服務類科技公司在面對更強大的欺詐攻擊時，將面臨更加嚴峻的挑戰(zhàn)。其中，可預見最大的變化會來自“深度偽造”。“深度偽造”的危險不僅在于生成虛假視頻和圖片，還在于其所促成的整個詐騙生態(tài)系統：一個由機器人、虛假賬戶和匿名服務組成的錯綜復雜的網絡運作，所有這些都旨在制作、放大和分發(fā)捏造的信息和內容，具有識別難、檢測難和追溯難的問題。

除“深度偽造”外，AI生成視頻包含違法或倫理道德風險內容、合成身份、虛假信息傳播以及版權隱私侵犯等，也都是Sora將來可能帶來的棘手問題。要想防御與打擊這些問題造成的欺詐行為，一方面需要識別檢測偽造的視頻、圖片和信息（有效甄別出虛假偽造的內容）；另一方面需要實行諸如“深度偽造”欺詐行為的渠道和平臺網絡進行識別與檢測（多方面提升數字賬號的安全性）、同時還要防范由類似AI生成工具引發(fā)的假證濫用情況。

針對Sora問世后公眾產生的造假焦慮，OpenAI稱在真正面向公眾推出產品時，將確保生成視頻包含來源元數據，并推出檢測視頻真?zhèn)蔚墓ぞ摺penAI還承諾，在產品中使用Sora前將采取安全措施，包括由“錯誤信息、仇恨內容和偏見等領域的專家”對模型進行對抗性測試來評估危害或風險；核查并拒絕包含極端暴力、性內容、仇恨圖像、他人IP等文本輸入提示等。即便如此，OpenAI也承認，盡管進行了廣泛的研究和測試，“我們仍無法預測人們將使用我們技術的所有有益方式和濫用我們技術的所有方式”。

隨著技術水平的提升，AI生成視頻的反欺詐審核迎來了新的挑戰(zhàn)，ADVANCE.AI作為全球領先的人工智能科技企業(yè)，致力于為全球金融機構和互聯網企業(yè)提供中立、可靠、合規(guī)的數字身份驗證和風險管理解決方案。一直以來，ADVANCE.AI都在密切關注“深度偽造”與“合成身份”欺詐領域技術的進展，并不斷提升產品實力。由ADVANCE.AI推出的“星鑒”數字身份驗證與風險管理解決方案，產品中包含了全新升級的“3D活體檢測功能”，通過引導用戶移開/靠近相機，進行活躍度檢測，捕捉用戶近景和遠景圖像，確保用戶圖像采集的實時性，提高對重拍和深度偽造欺詐的檢測準確性，高效防范Al換臉、人臉合成等“深度偽造”身份欺詐攻擊。而同樣防范身份偽造的“假證檢測”產品，則通過全自動化的工作流程、智能的機器學習模型，確保能夠準確、快速地識別出6大證件偽造類型，確保用戶提供的身份證件的真實性，預防欺詐行為，保護企業(yè)和機構免受身份證件偽造風險的影響。

Sora發(fā)布以來，ADVANCE.AI一直給予高度關注，面對未來由此帶來的欺詐升級，相應的反欺詐解決方案產品已加入升級計劃，有能力與信心應對欺詐領域日新月異的變化，持續(xù)為企業(yè)全球化發(fā)展保駕護航。針對此次Sora的發(fā)布，我們采訪了ADVANCE.AI技術負責人范懷宇與ADVANCE.AI人工智能產品負責人余江波，二人分享了Sora在AI生成欺詐領域的影響判斷與防范應對的看法。

對抗“深度偽造”的黑暗升級，從算法與數據訓練上提升反欺詐技術

“在‘AI視頻生成’這件事上，Sora的發(fā)布有點劃時代的意思，多年后我們甚至可以用‘Sora前時代’和‘Sora后時代’來進行描述，等Sora正式面向公眾發(fā)布且大面積鋪開使用后，影視、游戲、廣告等行業(yè)肯定會有不小的變革，而在AI生成視頻欺詐領域也會有影響，欺詐者的犯罪成本和門檻進一步降低了。”ADVANCE.AI技術負責人范懷宇說到，“而該技術對‘深度偽造’這一欺詐行為的加持將是最明顯的，以往我們應對“深度偽造”監(jiān)測識別的常見方法有利用圖像的特征，尋找特定篡改證據的[圖像特征檢測]，以及[圖像構成真實性比對]的方法，利用人工智能技術深度偽造的圖像或視頻，在圖像細節(jié)上，還是會出現一些與基于實物正常拍攝的圖像之間的明顯偏差，比對其中的差異后進行反欺詐應對。”

范懷宇還表示“在動態(tài)視頻的深度偽造監(jiān)測上，以往我們會通過檢測、觀察動態(tài)人像在一些指定角度扭動時圖像特征或構成的異常變化，可以發(fā)現是否存在偽造。有了Sora的加持后，這類偽造視頻細節(jié)上的真實程度會大幅提升、漏洞與破綻可能會變得難以察覺，這就要求我們要提升ADVANCE.AI現有的‘活體檢測功能’產品的欺詐行為識別能力，從算法與數據訓練上下功夫。”

Sora加持后的潛在欺詐行為并非完美無缺，深挖不同點賦能產品是關鍵

在Sora震撼發(fā)布后的極短時間內，ADVANCE.AI內部團隊便敏銳的感知到Sora未來可能為反欺詐領域造成的影響。雖說成熟產品還未面向大眾，但一旦正式投入市場，Sora作為利器很快便會被欺詐者瞄上作為潛在的犯罪工具，因此反欺詐戰(zhàn)線需要提前做出防范。

“這次OpenAI發(fā)布Sora能在各領域產生如此大的轟動，用‘遙遙領先’一詞可以比較準確的定義”，ADVANCE.AI人工智能產品負責人余江波表示，“在其他AI生成視頻公司的普遍水平還在4秒左右時，Sora直接支持最大生成60秒長度視頻，直接跨越式升級15倍。從官方發(fā)布的DEMO視頻看，Sora能夠在保持主體一致性的前提下實現多角度鏡頭無縫切換，整個畫面干凈流暢，實現了真正的視頻大片效果。而在基礎模型架構的使用上，此前的AI生成視頻大部分都是基于‘大模型+大數據’架構，因此在AI幻覺這個問題上難以突破，但Sora則已經具有了世界模型的雛形，因此內容更加符合、邏輯也更加令人信服。”

余江波還表示,“從技術上講，Sora的技術基礎包括Transformer、圖片字幕、擴散模型、視頻patches和Dit等，這些技術都是之前已經存在的，但OpenAI結合了更強大的算力和豐富的訓練數據，這些因素共同推動了Sora在AI生成視頻領域的創(chuàng)新。更強的矛勢必催生更強的盾，Sora被應用在金融欺詐領域不可避免，但結合Sora背后的這些技術特點，我們可以模擬可能發(fā)生的欺詐行為，例如畫面更逼真、漏洞更少的深度偽造的AI視頻發(fā)起的欺詐行為，找出與以往既有深度偽造、合成身份欺詐行為的不同之處，進而提升我們ADVANCE.AI反欺詐解決方案產品的防御能力，讓客戶用著安心。除了畫面識別之外，通過更多維度的信息能更好的檢測潛在欺詐行為。這些信息網可以幫助我們搭建更加安全的反欺詐體系，包括用戶行為特征和網絡關系。”

ADVANCE.AI 數字身份驗證與風險管理解決方案領航者

作為全球領先的人工智能技術企業(yè)，ADVANCE.AI“星鑒”數字身份驗證與風險管理解決方案可以幫助互聯網金融、數字銀行、社交直播平臺等容易面臨高欺詐風險的企業(yè)輕松實現數字化管理，管理用戶注冊風險、交易風險等。ADVANCE.AI在東南亞、拉丁美洲、非洲等新興國家市場積累了豐富的本土化服務經驗，自2016年成立以來，ADVANCE.AI的技術服務已得到全球超過500家金融機構和企業(yè)客戶的認可，服務客戶遍布印尼、菲律賓、墨西哥、哥倫比亞、尼日利亞、新加坡、馬來西亞等國家，身份驗證產品的API調用量達到400萬次，年調用量已接近20億次，OCR準確率高達99.4%、能夠精準識別3000+證件類型，產品數據安全符合多項ISO權威認證。

△ADVANCE.AI一站式數字身份驗證與合規(guī)反欺詐解決方案

其中，“星鑒”數字身份驗證與風險管理解決方案包含以下功能：

3D活體檢測功能，可以通過引導用戶移開/靠近相機，進行活躍度檢測，在過程中實時反饋和指導正確姿勢，捕捉近景和遠景圖像，高效識別身份欺詐，提高對重拍和深度偽造欺詐的檢測準確性。同時，該功能增強了前端交互和后端模型性能，支持客戶根據自身品牌調性自定義配置背景顏色、UI樣式、指示位置等等。

此外，身份證件作為用戶個人最重要的身份證明信息，ADVANCE.AI 的證件識別功能針對各個證件定制化開發(fā)，可實時、準確地從身份證件的圖像中提取結構化的身份信息，顯著提升數據記錄、遠程注冊、實名認證、身份識別等方面的準確性和工作效率。

同時，假證識別功能可以有效識別偽造身份證圖片，如屏幕翻拍，黑白復印，人臉貼圖，身份證號碼篡改等，多重保障用戶身份證件的真實性。

“星鑒”解決方案中涵蓋的生物識別、人臉比對功能的識別精準率超過99%，領先市場同類產品，并特別針對東南亞、拉丁美洲、非洲等地區(qū)的用戶使用習慣進行了優(yōu)化，識別不受當地用戶低配手機攝像頭或驗證環(huán)境光照條件的影響，且控制識別響應時速在1秒以內。同時，ADVANCE.AI的生物識別技術還對用戶戴著帽子、眼鏡、妝效等進行人臉識別時的驗證效果進行了優(yōu)化。

為了便利企業(yè)或金融機構可以根據展業(yè)的不同目的地市場，自身不同的成本規(guī)劃，落地更因地制宜的技術部署選擇，ADVANCE.AI支持云端SaaS、本地化、可視化平臺等多元部署方式。

除了數字身份（KYC）產品，ADVANCE.AI還與海外當地官方數據庫、運營商、征信機構合作，確保數據服務中立、可靠、合規(guī)。企業(yè)和金融機構可以結合社交媒體/手機號碼/電話號碼狀態(tài)檢測工具、IP風險檢測工具、郵箱檢測工具、身份信用評分、企業(yè)信息篩查（KYB）等多種工具一起使用。同時，支持自動化數字身份驗證流程（KYC）與反洗錢制裁和風險名單篩查一體化部署，高效助力企業(yè)及時識別與發(fā)現合規(guī)與風險管理流程本身衍生出的漏洞或風險問題，同時更好地釋放AI技術的效率價值。

如果您對ADVANCE.AI“星鑒”數字身份驗證與風險管理解決方案感興趣，可以點擊下方鏈接申請免費試用。

https://share.hsforms.com/1EaMCAmKzTTSo7EddiKQcow3hyt9