快消息!精準(zhǔn)識(shí)別AI生成內(nèi)容:讓AI“識(shí)破”AI
近日,南開(kāi)大學(xué)計(jì)算機(jī)學(xué)院媒體計(jì)算實(shí)驗(yàn)室取得最新研究成果,不僅從評(píng)估的角度揭示了現(xiàn)有AI檢測(cè)方法的性能不足,還創(chuàng)新性地提出了“直接差異學(xué)習(xí)”優(yōu)化策略,教會(huì)AI用“火眼金睛”辨別人機(jī)不同,實(shí)現(xiàn)AI檢測(cè)性能的突破。相關(guān)成果論文已被計(jì)算機(jī)多媒體領(lǐng)域國(guó)際頂級(jí)會(huì)議ACM MM2025接收。
目前AI生成內(nèi)容檢測(cè)主要有兩種路線:一種是“基于訓(xùn)練的檢測(cè)方法”,使用特定數(shù)據(jù)訓(xùn)練一個(gè)專(zhuān)用的分類(lèi)模型;另一種是“零樣本檢測(cè)方法”,直接使用一個(gè)預(yù)訓(xùn)練的語(yǔ)言模型并設(shè)計(jì)某種標(biāo)準(zhǔn)進(jìn)行分類(lèi)。
多項(xiàng)研究表明,現(xiàn)有檢測(cè)方法在應(yīng)對(duì)復(fù)雜的現(xiàn)實(shí)場(chǎng)景時(shí)常顯不足。此前曾有媒體報(bào)道,《荷塘月色》《流浪地球》等作品被某常用論文AI率檢測(cè)系統(tǒng)檢出高AI率。
(資料圖)
為何現(xiàn)有的AI檢測(cè)工具會(huì)“誤判”?論文第一作者、南開(kāi)大學(xué)計(jì)算機(jī)學(xué)院計(jì)算機(jī)科學(xué)卓越班2023級(jí)本科生付嘉晨解釋?zhuān)?ldquo;如果把AI文本檢測(cè)比作一場(chǎng)考試,檢測(cè)器的訓(xùn)練數(shù)據(jù)等同于日常練習(xí)題,現(xiàn)有檢測(cè)方法是機(jī)械刷題、死記硬背答題的固定套路,難以學(xué)會(huì)答題邏輯,一旦遇到全新難題,準(zhǔn)確率就會(huì)顯著下降。”
“要想實(shí)現(xiàn)通用檢測(cè),理論上需收集所有大模型的數(shù)據(jù)進(jìn)行訓(xùn)練,但在大模型迭代飛速的今天幾乎不可能。”付嘉晨說(shuō),讓檢測(cè)器真正學(xué)會(huì)舉一反三,即提升檢測(cè)器的泛化性能,是提升AI文本檢測(cè)性能的關(guān)鍵。
為此,研究團(tuán)隊(duì)另辟蹊徑,通過(guò)直接優(yōu)化模型預(yù)測(cè)的文本條件概率差異與人為設(shè)定的目標(biāo)值之間的差距,幫助模型學(xué)習(xí)AI文本檢測(cè)的內(nèi)在知識(shí),可以精準(zhǔn)捕捉人機(jī)文本間的深層語(yǔ)義差異,從而大幅提升檢測(cè)器的泛化能力與魯棒性。
“我們的檢測(cè)器如同有了‘火眼金睛’,即便只‘學(xué)習(xí)’過(guò)DeepSeek-R1的文本,也能精準(zhǔn)識(shí)別像GPT-5這樣最新大模型生成的內(nèi)容。”付嘉晨說(shuō)。
團(tuán)隊(duì)還提出了一個(gè)全面的測(cè)試基準(zhǔn)數(shù)據(jù)集MIRAGE,使用13種主流的商用大模型(如豆包、DeepSeek、Kimi等)以及4種先進(jìn)的開(kāi)源大模型(如Qwen等),從AI生成、潤(rùn)色、重寫(xiě)三個(gè)角度構(gòu)造了接近10萬(wàn)條人類(lèi)-AI文本對(duì)。
“MIRAGE是目前唯一聚焦于對(duì)商用大語(yǔ)言模型檢測(cè)的基準(zhǔn)數(shù)據(jù)集。直觀地說(shuō),之前的基準(zhǔn)數(shù)據(jù)集是由少而且能力簡(jiǎn)單的大模型命題出卷,而MIRAGE是17個(gè)能力強(qiáng)大的大模型聯(lián)合命題,形成一套高難度又有代表性的檢測(cè)試卷。”論文通訊作者、南開(kāi)大學(xué)計(jì)算機(jī)學(xué)院副教授郭春樂(lè)說(shuō)。
MIRAGE的測(cè)試結(jié)果顯示,現(xiàn)有檢測(cè)器的準(zhǔn)確率從在簡(jiǎn)單數(shù)據(jù)集上的90%驟降至約60%;而使用團(tuán)隊(duì)的檢測(cè)器仍保持85%以上的準(zhǔn)確率。與斯坦福大學(xué)提出的DetectGPT相比,性能相對(duì)提升71.62%;與馬里蘭大學(xué)、卡內(nèi)基梅隆大學(xué)等共同提出的Binoculars方法相比,性能相對(duì)提升68.03%。
“AIGC發(fā)展日新月異,我們將持續(xù)迭代升級(jí)評(píng)估基準(zhǔn)和技術(shù),致力于實(shí)現(xiàn)更快、更準(zhǔn)、更低成本的AI生成文本檢測(cè),以AI之力,讓每一篇成果更出彩。”研究團(tuán)隊(duì)負(fù)責(zé)人、南開(kāi)大學(xué)計(jì)算機(jī)學(xué)院教授李重儀說(shuō)。
標(biāo)簽:
搶先讀
- 快消息!精準(zhǔn)識(shí)別AI生成內(nèi)容:讓AI“識(shí)破”AI
- 今日看點(diǎn):西北華北等地多降雨和對(duì)流天氣 黃淮江淮等地有持續(xù)性高溫
- 【獨(dú)家焦點(diǎn)】水利部維持針對(duì)北京、四川等6省區(qū)市洪水防御Ⅳ級(jí)應(yīng)急響應(yīng)
- 暑期入境游持續(xù)紅火 各地打造特色旅游產(chǎn)品 將入境流量轉(zhuǎn)化為消費(fèi)增量-每日消息
- 文化“加碼” 旅游“升溫”
- 只有初中學(xué)歷卻破解了世界級(jí)難題,他為什么能?|今日精選
- 每日動(dòng)態(tài)!秦皇島:農(nóng)村公路總里程已達(dá)7485公里
- 快消息!文化“加碼” 旅游“升溫”
- 蔚縣:多業(yè)態(tài)深度融合推動(dòng)文旅產(chǎn)業(yè)高速發(fā)展_焦點(diǎn)關(guān)注
- 山洪+積水內(nèi)澇雙預(yù)警 北京這些地區(qū)需注意防范 精彩看點(diǎn)
- 載人登月,要過(guò)幾道關(guān) 當(dāng)前看點(diǎn)
- 每日消息!300分也能上“本科”?警惕社交媒體精準(zhǔn)“釣魚(yú)”
- 哈爾濱工業(yè)大學(xué),太寶藏了吧!
- 房主任回應(yīng):這么好的“清?!?,你也享受一下呢? 要聞速遞
- 財(cái)政部擬發(fā)行2025年記賬式附息(十六期)國(guó)債|今日熱聞
- 房主任回應(yīng):這么好的“清福”,你也享受一下呢?-獨(dú)家焦點(diǎn)
- 今日看點(diǎn):財(cái)政部擬發(fā)行2025年記賬式附息(十六期)國(guó)債
- 參賽隊(duì)談機(jī)器人運(yùn)動(dòng)會(huì):檢驗(yàn)自身、學(xué)習(xí)交流、共同進(jìn)步_看熱訊
- 8月18日人民幣對(duì)美元中間價(jià)報(bào)7.1322元 上調(diào)49個(gè)基點(diǎn)
- “絲路主播”電商實(shí)訓(xùn)營(yíng)在固原市涇源縣開(kāi)營(yíng)|要聞
- 鄭州機(jī)場(chǎng)一天兩破紀(jì)錄 觀點(diǎn)
- 中國(guó)全面打通人工硐室儲(chǔ)氣技術(shù)路線
- 今日熱搜:廈門(mén)港再添“金磚航線” 總數(shù)增至24條
- 當(dāng)前看點(diǎn)!“金融+”特色服務(wù)激活暑期文旅市場(chǎng) 多重優(yōu)惠發(fā)力“點(diǎn)燃”消費(fèi)熱潮
- 每日信息:廈門(mén)港再添“金磚航線” 總數(shù)增至24條
- 市場(chǎng)規(guī)模持續(xù)擴(kuò)大 我國(guó)冷鏈物流運(yùn)行上半年數(shù)據(jù)出爐
- 業(yè)界人士話中國(guó)零售業(yè)創(chuàng)新發(fā)展:數(shù)字化、個(gè)性化、國(guó)際化
- 外國(guó)游客激增 暑期“中國(guó)游”有哪些新特點(diǎn)?
- 業(yè)界人士話中國(guó)零售業(yè)創(chuàng)新發(fā)展:數(shù)字化、個(gè)性化、國(guó)際化
- 業(yè)界人士話中國(guó)零售業(yè)創(chuàng)新發(fā)展:數(shù)字化、個(gè)性化、國(guó)際化 焦點(diǎn)報(bào)道
- 新消息丨首屆世界人形機(jī)器人運(yùn)動(dòng)會(huì)閉幕 明年8月擬舉辦第二屆
- 谷愛(ài)凌:因“人為事故”意外受傷
- 成都世運(yùn)會(huì)|高手云集 中國(guó)隊(duì)四人晉級(jí)霹靂舞八強(qiáng)
- 焦點(diǎn)速訊:成都世運(yùn)會(huì) | “迂回”還是“直給”,輪滑入奧路在何方?
- 成都世運(yùn)會(huì) | 中國(guó)輪滑隊(duì)再添一金|焦點(diǎn)訊息
- 每日時(shí)訊!成都世運(yùn)會(huì)丨何志豪:盤(pán)不落地、永不放棄
- 成都世運(yùn)會(huì)|高手云集 中國(guó)隊(duì)四人晉級(jí)霹靂舞八強(qiáng)
- 成都世運(yùn)會(huì) | 體操大項(xiàng)收官 中國(guó)隊(duì)再獲一金一銅 每日觀察
- 成都世運(yùn)會(huì) | 德國(guó)包攬世運(yùn)會(huì)皮艇球項(xiàng)目?jī)擅督鹋?天天資訊
- 成都世運(yùn)會(huì)|無(wú)人機(jī)競(jìng)速賽中國(guó)香港選手摘銀 每日熱議
- 成都世運(yùn)會(huì)|無(wú)人機(jī)競(jìng)速賽中國(guó)香港選手摘銀
- 每日簡(jiǎn)訊:成都世運(yùn)會(huì)|無(wú)人機(jī)競(jìng)速賽中國(guó)香港選手摘銀
- 男籃隊(duì)長(zhǎng)趙睿:越是危險(xiǎn)的時(shí)候,越要向前走|觀速訊
- CBA夏季聯(lián)賽:新疆戰(zhàn)勝青島 山西不敵廣東 視訊
- 中超綜合:申花三輪不勝讓出榜首
- 十五運(yùn)會(huì)羽毛球資格賽:石宇奇逆轉(zhuǎn)取勝 鄭思維復(fù)出告捷 熱門(mén)
- CBA夏季聯(lián)賽:新疆戰(zhàn)勝青島 山西不敵廣東 今日精選
- 快報(bào):男籃非洲杯:安哥拉、埃及小組頭名晉級(jí)八強(qiáng)
- 英超綜合:哈蘭德“雙響” 曼城大勝狼隊(duì)
- 曼城主帥瓜迪奧拉:陣容臃腫 需要精簡(jiǎn) 當(dāng)前熱門(mén)
- 焦點(diǎn)觀察:沙特斯諾克大師賽:羅伯遜險(xiǎn)勝奧沙利文 贏得冠軍
- 追光丨世運(yùn)會(huì)啦啦操賽場(chǎng),中國(guó)隊(duì)男生撐起“半邊天”!
- 每日熱議!杜絕球童助攻——“界外球自取”會(huì)成為足壇新趨勢(shì)嗎?
- 兩年一次!醫(yī)保“打包付費(fèi)”將實(shí)行動(dòng)態(tài)調(diào)整-即時(shí)
- 兩年一次!醫(yī)?!按虬顿M(fèi)”將實(shí)行動(dòng)態(tài)調(diào)整
- 每日時(shí)訊!3萬(wàn)艘漁船出海 廣東海事部門(mén)全力護(hù)航南海開(kāi)漁
- 中東部大范圍高溫悶熱天氣持續(xù)發(fā)力 華南部分地區(qū)累計(jì)雨量大_精彩看點(diǎn)
- 山西榆社:守好一個(gè)湖 潤(rùn)澤一座城
- (尋味中華|非遺)方寸間“顯山露水” 福州軟木畫(huà)簪起坊巷風(fēng)雅
- 活力中國(guó)調(diào)研行|重慶地標(biāo)建筑的“空調(diào)”竟然是長(zhǎng)江水,年減碳6萬(wàn)噸
- 沙漠里也能養(yǎng)海鮮、種水稻?看新疆如何“點(diǎn)沙成金”
- 受熱帶低壓影響,部分進(jìn)出海南島列車(chē)運(yùn)行秩序調(diào)整
- 受熱帶低壓影響,部分進(jìn)出海南島列車(chē)運(yùn)行秩序調(diào)整 快看
- (活力中國(guó)調(diào)研行)在綠水青山間感受三峽庫(kù)區(qū)“綠”動(dòng) 播資訊
- 廣東陽(yáng)江以西海域所有海上作業(yè)漁船需回港避風(fēng)
- 臺(tái)灣青年嶺南行海上絲綢之路文化探尋營(yíng)在湛江開(kāi)營(yíng)
- 跨越兩代的“中國(guó)情緣”:越南父女接力留學(xué)路|滾動(dòng)
- 當(dāng)前關(guān)注:水利部針對(duì)海南省啟動(dòng)洪水防御Ⅳ級(jí)應(yīng)急響應(yīng)
- 體味青少年“勤”思妙想:第二十屆宋慶齡少年兒童發(fā)明獎(jiǎng)優(yōu)秀作品展側(cè)記|每日熱訊
- 今日看點(diǎn):1至7月全國(guó)鐵路完成固定資產(chǎn)投資4330億元 同比增5.6%
- 五個(gè)關(guān)鍵詞解碼七月經(jīng)濟(jì) 焦點(diǎn)速遞
- 當(dāng)前關(guān)注:“兩山”理念提出二十周年:數(shù)覽綠意盎然的中國(guó)
- 長(zhǎng)8792米!我國(guó)首條穿越賀蘭山鐵路隧道貫通|觀察
- 廈門(mén)物流通道海鐵聯(lián)運(yùn)與中歐班列共促發(fā)展-熱門(mén)看點(diǎn)
- 每日速訊:青島機(jī)場(chǎng)單日旅客吞吐量突破10萬(wàn)人次 創(chuàng)歷史新高
- 今年前7月中國(guó)鐵路固定資產(chǎn)投資同比增長(zhǎng)5.6%
- 駐華外交官聚焦陜西低空經(jīng)濟(jì)新質(zhì)生產(chǎn)力 共話“空中絲路”新機(jī)遇
- 天天資訊:廈門(mén)物流通道海鐵聯(lián)運(yùn)與中歐班列共促發(fā)展
- 沈陽(yáng)市“養(yǎng)老服務(wù)消費(fèi)季·銀齡好貨集”活動(dòng)啟動(dòng) 每日快播
- 2025第一堂HarmonyOS公開(kāi)課:以青春之力共筑鴻蒙未來(lái)
- AI時(shí)代的領(lǐng)導(dǎo)力何在?專(zhuān)家創(chuàng)新提出“共生領(lǐng)導(dǎo)力”_快訊
- 挑戰(zhàn)世界屋脊 新藏鐵路構(gòu)筑西部邊疆新動(dòng)脈-微資訊
- 2025第一堂HarmonyOS公開(kāi)課:以青春之力共筑鴻蒙未來(lái)
- 每日熱點(diǎn):黑龍江省18個(gè)邊境城市旅游市場(chǎng)持續(xù)火爆
- 2025“爽爽貴陽(yáng)·世界風(fēng)味嘉年華”暨“爽爽貴陽(yáng)·咖啡飄香”系列活動(dòng)啟幕 最資訊
- 筑牢經(jīng)濟(jì)底盤(pán) 夯實(shí)發(fā)展支撐 ——看中國(guó)經(jīng)濟(jì)之“重”
- 快訊:國(guó)家統(tǒng)計(jì)局:中國(guó)投資增長(zhǎng)面臨的壓力是階段性的
- 專(zhuān)訪清華火神隊(duì)隊(duì)長(zhǎng):拿下機(jī)器人世界杯的火神隊(duì),踢球有何特點(diǎn)
- 2025年上半年全國(guó)大學(xué)英語(yǔ)四、六級(jí)考試明天開(kāi)始查分 今日播報(bào)
- 國(guó)家醫(yī)保局印發(fā)《醫(yī)療保障按病種付費(fèi)管理暫行辦法》 每日觀點(diǎn)
- 2025年上半年全國(guó)大學(xué)英語(yǔ)四、六級(jí)考試明天開(kāi)始查分
- 專(zhuān)訪清華火神隊(duì)隊(duì)長(zhǎng):拿下機(jī)器人世界杯的火神隊(duì),踢球有何特點(diǎn) 今日觀點(diǎn)
- 國(guó)家醫(yī)保局印發(fā)《醫(yī)療保障按病種付費(fèi)管理暫行辦法》
- 2025年上半年全國(guó)大學(xué)英語(yǔ)四、六級(jí)考試明天開(kāi)始查分 當(dāng)前看點(diǎn)
- 每日觀點(diǎn):海南熱帶雨林旗艦物種:從“瀕危”到“希望”
- 暴雨黃色預(yù)警:京津冀等17省區(qū)市部分地區(qū)將有大到暴雨-熱消息
- 前沿資訊!開(kāi)館兩年仍用“樣片”遭質(zhì)疑,赤峰博物院等各方回應(yīng):不存在“拖欠尾款”
- 快訊:南海熱帶低壓將于24小時(shí)內(nèi)生成 海南要求漁船暫緩出海
- 當(dāng)前焦點(diǎn)!國(guó)家防總辦公室:預(yù)測(cè)北方地區(qū)多雨態(tài)勢(shì)仍將維持
- 要聞:(活力中國(guó)調(diào)研行)從維也納到重慶,垃圾焚燒廠的“逆襲美學(xué)”