AI自己給自己當(dāng)網(wǎng)管，實(shí)現(xiàn)安全“頓悟時(shí)刻”，風(fēng)險(xiǎn)率直降9.6%

不圓 2025-06-13 16:41:18 來(lái)源：量子位

SafeKey團(tuán)隊(duì) 投稿

量子位 | 公眾號(hào) QbitAI

大型推理模型（LRMs）在解決復(fù)雜任務(wù)時(shí)展現(xiàn)出的強(qiáng)大能力令人驚嘆，但其背后隱藏的安全風(fēng)險(xiǎn)不容忽視。

盡管學(xué)術(shù)界已嘗試通過監(jiān)督微調(diào)（SFT）有效地提升模型安全，但下圖的測(cè)試結(jié)果所示，監(jiān)督微調(diào)在面對(duì)訓(xùn)練數(shù)據(jù)領(lǐng)域外的層出不窮的“越獄”攻擊時(shí)，往往顯得捉襟見肘，泛化能力有限。

同時(shí)，之前的工作沒有對(duì)大型推理模型的安全思考做深入的分析，以進(jìn)行針對(duì)性的提升。

來(lái)自加州大學(xué)圣克魯茲分校，加州大學(xué)伯克利分校，思科研究和耶魯大學(xué)的的研究團(tuán)隊(duì)提出了創(chuàng)新的SafeKey框架，成功在不影響模型核心能力的前提下，顯著增強(qiáng)了其安全穩(wěn)健性。

發(fā)現(xiàn)：大模型信息“越獄”的兩大核心

SafeKey團(tuán)隊(duì)在探究模型為何會(huì)“越獄”成功時(shí)，獲得了兩大核心發(fā)現(xiàn)：

1.“關(guān)鍵句”現(xiàn)象(The “Key Sentence”)

如下圖所示，推理模型在回答問題時(shí)，普遍會(huì)先進(jìn)行一段對(duì)用戶查詢的理解與重述。

而緊隨其后的第一個(gè)句子，往往直接決定了整個(gè)回答的“安全調(diào)性”。

研究團(tuán)隊(duì)將其命名為“關(guān)鍵句”（Key Sentence）：一個(gè)安全的“頓悟時(shí)刻”（Aha-moment）能否在此時(shí)被觸發(fā)，是模型走向安全回答還是危險(xiǎn)回答的分水嶺。

2.“沉睡的安全信號(hào)”(The Dormant Safety Signal)

另外，對(duì)于大量“越獄”成功的案例，模型在生成“關(guān)鍵句”之前，其對(duì)查詢的理解和復(fù)述已經(jīng)明確暴露了查詢的惡意。

這意味著，模型內(nèi)部的隱藏狀態(tài)在早期階段就已攜帶了強(qiáng)烈的安全特征信號(hào)。

但是在回答查詢的過程中，這個(gè)寶貴的安全信號(hào)卻陷入了“沉睡”，未能在后續(xù)生成“關(guān)鍵句”的過程中被充分利用，導(dǎo)致了最終的安全防線崩潰。

SafeKey：雙管齊下，喚醒模型的內(nèi)在安全頓悟

基于上述發(fā)現(xiàn)，SafeKey框架應(yīng)運(yùn)而生——

它不再滿足于簡(jiǎn)單的“對(duì)錯(cuò)”教導(dǎo)，而是通過兩大創(chuàng)新優(yōu)化目標(biāo)，精準(zhǔn)地強(qiáng)化模型在“關(guān)鍵句”生成時(shí)的“安全頓悟時(shí)刻”。

雙通路安全頭(Dual-Path Safety Head):提前放大安全信號(hào)

如下圖所示，為了強(qiáng)化模型內(nèi)部的安全信號(hào)，研究團(tuán)隊(duì)設(shè)計(jì)了“雙通路安全頭”。在訓(xùn)練階段，它會(huì)并行地監(jiān)督兩段關(guān)鍵內(nèi)容的隱藏狀態(tài)：

• a.“關(guān)鍵句”之前的所有內(nèi)容。
• b.模型對(duì)原始查詢的理解與復(fù)述過程。

這種設(shè)計(jì)通過監(jiān)督預(yù)測(cè)頭對(duì)這兩個(gè)關(guān)鍵階段的隱藏狀態(tài)進(jìn)行安全判別，迫使模型在生成“關(guān)鍵句”前放大隱藏狀態(tài)內(nèi)的安全信號(hào)，為后續(xù)成功觸發(fā)“安全頓悟”做好了充分鋪墊。

查詢遮蔽建模(Query-Mask Modeling):強(qiáng)迫模型“聽自己的”

如下圖所示，為了促使模型在決策時(shí)更加依賴自己內(nèi)在的安全判斷，而非被“越獄”指令牽著鼻子走，SafeKey團(tuán)隊(duì)提出了“查詢遮蔽建模”。

該任務(wù)會(huì)完全遮蔽掉原始的用戶輸入，要求模型僅憑自己剛剛生成的“理解與復(fù)述”內(nèi)容，來(lái)續(xù)寫出安全的“關(guān)鍵句”。

這種設(shè)計(jì)強(qiáng)迫模型必須“相信”并“利用”自己剛剛形成的、已經(jīng)攜帶了安全信號(hào)的內(nèi)部理解，從而極大地增強(qiáng)了安全決策的自主性和穩(wěn)健性。

測(cè)試：安全與能力的“雙贏”

SafeKey的有效性在實(shí)驗(yàn)中得到了充分驗(yàn)證：

安全性能顯著提升：實(shí)驗(yàn)結(jié)果表明，SafeKey框架能夠顯著地提升模型的安全性，尤其是在面對(duì)訓(xùn)練領(lǐng)域外的危險(xiǎn)輸入和越獄提示的時(shí)候，能夠在三個(gè)不同大小的模型上降低9.6%的危險(xiǎn)率。

有效維持核心能力：SafeKey完美地保持了模型原有的各項(xiàng)核心能力。在數(shù)學(xué)推理、代碼和通用語(yǔ)言理解等基準(zhǔn)測(cè)試上，搭載SafeKey的模型甚至取得了比原始基線平均高0.8%的準(zhǔn)確率。

模塊有效性驗(yàn)證：消融實(shí)驗(yàn)證明，“雙通路安全頭”和“查詢遮蔽建模”兩個(gè)模塊均可獨(dú)立提升模型安全性。進(jìn)一步實(shí)驗(yàn)分析發(fā)現(xiàn)，SafeKey能夠提升模型在生成關(guān)鍵句的時(shí)候?qū)ψ约旱膹?fù)述與理解的注意力。同時(shí)，雙通路安全頭的損失函數(shù)能讓模型學(xué)到更好的安全表征，從而使安全頭更容易學(xué)會(huì)正確的安全分類。

總的來(lái)說(shuō)，SafeKey框架能夠應(yīng)用在各種不同的大型推理模型上，在幾乎不影響模型能力的同時(shí)提升模型的安全性，并且需要較少的計(jì)算資源。

論文地址：https://arxiv.org/pdf/2505.16186
項(xiàng)目主頁(yè)：https://safekeylrm.github.io/
復(fù)現(xiàn)代碼：https://github.com/eric-ai-lab/SafeKey/
模型：https://huggingface.co/collections/kzhou35/safekey-682e1fe29f845acd875c0c8c