近日，南開大學(xué)計算機學(xué)院媒體計算實驗室取得最新研究成果，不僅從評估的角度揭示了現(xiàn)有AI檢測方法的性能不足，還創(chuàng)新性地提出了“直接差異學(xué)習(xí)”優(yōu)化策略，教會AI用“火眼金睛”辨別人機不同，實現(xiàn)AI檢測性能的突破。相關(guān)成果論文已被計算機多媒體領(lǐng)域國際頂級會議ACM MM2025接收。

目前AI生成內(nèi)容檢測主要有兩種路線：一種是“基于訓(xùn)練的檢測方法”，使用特定數(shù)據(jù)訓(xùn)練一個專用的分類模型；另一種是“零樣本檢測方法”，直接使用一個預(yù)訓(xùn)練的語言模型并設(shè)計某種標(biāo)準(zhǔn)進行分類。

多項研究表明，現(xiàn)有檢測方法在應(yīng)對復(fù)雜的現(xiàn)實場景時常顯不足。此前曾有媒體報道，《荷塘月色》《流浪地球》等作品被某常用論文AI率檢測系統(tǒng)檢出高AI率。

為何現(xiàn)有的AI檢測工具會“誤判”？論文第一作者、南開大學(xué)計算機學(xué)院計算機科學(xué)卓越班2023級本科生付嘉晨解釋：“如果把AI文本檢測比作一場考試，檢測器的訓(xùn)練數(shù)據(jù)等同于日常練習(xí)題，現(xiàn)有檢測方法是機械刷題、死記硬背答題的固定套路，難以學(xué)會答題邏輯，一旦遇到全新難題，準(zhǔn)確率就會顯著下降。”

“要想實現(xiàn)通用檢測，理論上需收集所有大模型的數(shù)據(jù)進行訓(xùn)練，但在大模型迭代飛速的今天幾乎不可能。”付嘉晨說，讓檢測器真正學(xué)會舉一反三，即提升檢測器的泛化性能，是提升AI文本檢測性能的關(guān)鍵。

為此，研究團隊另辟蹊徑，通過直接優(yōu)化模型預(yù)測的文本條件概率差異與人為設(shè)定的目標(biāo)值之間的差距，幫助模型學(xué)習(xí)AI文本檢測的內(nèi)在知識，可以精準(zhǔn)捕捉人機文本間的深層語義差異，從而大幅提升檢測器的泛化能力與魯棒性。

“我們的檢測器如同有了‘火眼金睛’，即便只‘學(xué)習(xí)’過DeepSeek-R1的文本，也能精準(zhǔn)識別像GPT-5這樣最新大模型生成的內(nèi)容。”付嘉晨說。

團隊還提出了一個全面的測試基準(zhǔn)數(shù)據(jù)集MIRAGE，使用13種主流的商用大模型(如豆包、DeepSeek、Kimi等)以及4種先進的開源大模型(如Qwen等)，從AI生成、潤色、重寫三個角度構(gòu)造了接近10萬條人類-AI文本對。

“MIRAGE是目前唯一聚焦于對商用大語言模型檢測的基準(zhǔn)數(shù)據(jù)集。直觀地說，之前的基準(zhǔn)數(shù)據(jù)集是由少而且能力簡單的大模型命題出卷，而MIRAGE是17個能力強大的大模型聯(lián)合命題，形成一套高難度又有代表性的檢測試卷。”論文通訊作者、南開大學(xué)計算機學(xué)院副教授郭春樂說。

MIRAGE的測試結(jié)果顯示，現(xiàn)有檢測器的準(zhǔn)確率從在簡單數(shù)據(jù)集上的90%驟降至約60%；而使用團隊的檢測器仍保持85%以上的準(zhǔn)確率。與斯坦福大學(xué)提出的DetectGPT相比，性能相對提升71.62%；與馬里蘭大學(xué)、卡內(nèi)基梅隆大學(xué)等共同提出的Binoculars方法相比，性能相對提升68.03%。

“AIGC發(fā)展日新月異，我們將持續(xù)迭代升級評估基準(zhǔn)和技術(shù)，致力于實現(xiàn)更快、更準(zhǔn)、更低成本的AI生成文本檢測，以AI之力，讓每一篇成果更出彩。”研究團隊負責(zé)人、南開大學(xué)計算機學(xué)院教授李重儀說。

關(guān)鍵詞：