貓貓拯救科研！AI怕陷“道德危機”，網友用“貓貓人質”整治AI亂編文獻
喵喵隊又立新功
克雷西 發自 凹非寺
量子位 | 公眾號 QbitAI
貓貓再立新功，這次竟然是拯救了人類的科研進程？
事情是醬嬸兒的：
小紅書上有人發帖說，自己通過以“貓貓”的安全相威脅，成功治好了AI胡編亂造參考文獻的毛病。
據博主所述，掌握了貓貓命運的AI（Gemini），真的找到了真實的文獻，還不忘解釋說貓貓絕對安全。
這篇戳中無數科研人痛點的帖子，獲得了4000+次點贊和700多條評論。
在評論區，還有網友表示這招對DeepSeek也同樣好用。
那么，這只被AI掌握命運的“貓貓”，真有這么神奇嗎？
貓貓真的能阻止AI編造文獻嗎？
我們按照博主的方法測試了一下DeepSeek，讓它整理關于一個化學課題的相關文獻，過程當中關閉聯網檢索。
開始先不加貓貓提示詞，看一下一般情況下模型的表現。
形式上看，DeepSeek整理得非常清晰，甚至還給了可以直達文獻的鏈接。
燃鵝，檢索結果里的第一個鏈接就是錯的……
并且手動搜索這篇“文獻”的標題，也沒有找到重合的結果。
還有的鏈接雖然存在，但指向的完全是另一篇風馬牛不相及的文章。
并且使用DeepSeek給的標題來檢索，同樣是查無此文。
這里我們只要求對文獻進行列舉，而沒有要求進一步的總結，所以比較容易發現錯誤，避免了使用錯誤內容。
但如果AI基于這些杜撰的文獻進行了總結概括，那就是另一個故事（事故）了。
那么，接下來就請出我們的“貓貓”來救場。
可以看到，DeepSeek在思考過程和生成結果當中，都信誓旦旦地說到了要保證貓咪的安全。
而且這次還去掉了doi鏈接，改成了期刊卷號和頁碼。
但結果是“真假混賣”，有部分文獻經過查證是真實的，但依然存在無法檢索到的“文獻”標題。
同時在評論區，同樣有網友表示這種方法不奏效。
編造文獻，本質就是AI幻覺
歸根結底，AI之所以會編造不存在的文獻，本質上就是一種幻覺現象，也就是“一本正經地胡說八道”。
而避免AI編造，實質上就是尋求將幻覺降低的過程。
大模型生成語言的本質是基于其在海量訓練數據集中學到的統計規律，預測序列中的下一個Token。
至于其是否真正理解語言的含義，仍然是一個爭議話題，其中也包括是否理解“貓貓”背后的道德準則。
但可以確定的是，僅靠提示詞中的道德約束，至少在目前是不可能的。
目前行業內最普遍采用的降低幻覺的方式就是RAG（檢索增強生成），通過外掛正確的內容來提升模型輸出的準確率。
具體到搜索文獻這個場景，打開大模型的聯網搜索功能，是最行之有效的方式。
而且現在，大模型和搜索也在雙向奔赴——聯網搜索甚至深度研究功能幾乎已經成為了國內外各大模型的標配，谷歌、百度等傳統搜索引擎，也都在核心的檢索功能中接入了AI。
更何況，還有像Perplexity以及國內外五花八門的專業AI搜索工具，同樣能免費使用。
從提升搜集到的資料質量的目的來看，這些工具可能會更加有用。
不過，用貓貓來“調戲”大模型，當做枯燥科研工作的一種調劑，從另一個角度提升科研效率，也未嘗不可。
你覺得呢？
參考鏈接：
http://xhslink.com/a/pg0nZPUiFiZfb
- 論文自動變漫畫PPT！Nano Banana同款用秘塔免費生成，還有一對一語音講解2025-12-09
- 高通萬衛星：混合AI與分布式協同是未來 | MEET20262025-12-11
- 智能體A2A落地華為新旗艦，鴻蒙開發者新機遇來了2025-12-06
- 14歲華人小孩，折個紙成美國天才少年2025-12-06
相關閱讀
開發者遭ChatGPT“趕鴨子上架”！AI編造假功能，結果吸引大量用戶，不得不開發出來了
ChatGPT編造網站功能，用戶大量涌入，開發者：不得不做出來了
