人民網(wǎng)北京12月10日電 眼前這篇論文是AI寫的嗎？這篇稿子的信源是AI提供的嗎？大批人工智能創(chuàng)作工具廣泛使用，網(wǎng)絡(luò)內(nèi)容治理、學(xué)術(shù)規(guī)范面臨全新挑戰(zhàn)。

12月9日，人民網(wǎng)正式發(fā)布“天目”智能識(shí)別系統(tǒng)，探索“用AI治理AI”的內(nèi)容風(fēng)控新模式。（體驗(yàn)入口：http://117.80.234.9:5080/welcome）。

“天目”由傳播內(nèi)容認(rèn)知全國重點(diǎn)實(shí)驗(yàn)室（人民網(wǎng)）研發(fā)，能夠?qū)θ斯ぶ悄苌蓛?nèi)容進(jìn)行識(shí)別，對(duì)深度偽造內(nèi)容進(jìn)行檢測，對(duì)合成手段進(jìn)行追根溯源。公開測試數(shù)據(jù)顯示，“天目”對(duì)國內(nèi)外主要人工智能大模型生成中文文本的識(shí)別準(zhǔn)確率達(dá)到93%。系統(tǒng)支持單次最多10萬字的數(shù)據(jù)檢測，對(duì)疑似AI生成句段明確標(biāo)識(shí)，一鍵生成檢測報(bào)告。同時(shí)，系統(tǒng)不留存、不轉(zhuǎn)用任何檢測數(shù)據(jù)，充分保護(hù)用戶的數(shù)據(jù)隱私與安全。

圖為“天目”系統(tǒng)檢測頁面。

傳播內(nèi)容認(rèn)知全國重點(diǎn)實(shí)驗(yàn)室首席科學(xué)家張勇東表示：“我們以語言模型的困惑度、詞頻特征為切入點(diǎn)，研究發(fā)現(xiàn)AI生成模型傾向于采用高頻詞，而人類寫作的選詞則更具有隨機(jī)性?！被诖?，人民網(wǎng)研發(fā)了語義與風(fēng)格特征融合的語言模型評(píng)價(jià)方法，推出“天目”系統(tǒng)，用于快速區(qū)分機(jī)器生成內(nèi)容與人工創(chuàng)作內(nèi)容。

“我們肯定AI的技術(shù)價(jià)值，積極研發(fā)，主動(dòng)運(yùn)用。我們也同樣重視人的創(chuàng)新創(chuàng)作創(chuàng)意?！比嗣窬W(wǎng)內(nèi)容風(fēng)控負(fù)責(zé)人辛瑞佳表示，人類的靈感和創(chuàng)造力無法被機(jī)器替代，也不應(yīng)被機(jī)器替代，過度依賴AI可能會(huì)削弱人的獨(dú)特性?！白R(shí)別AI生成的信息，從更深層講，也是保護(hù)人類的創(chuàng)造價(jià)值?！?/p>

此外，人民網(wǎng)內(nèi)容風(fēng)控的另一個(gè)智能產(chǎn)品“人民審?！保诮谕缴?jí)4.0版本，新增了標(biāo)識(shí)審校、地標(biāo)審校、商標(biāo)審校、版式審校等能力，優(yōu)化自定義詞庫功能，在涉政信息表述審校精度和廣度方面實(shí)現(xiàn)全面提升。

下一步，人民網(wǎng)將加大力度研發(fā)建設(shè)主流價(jià)值語料庫，幫助國產(chǎn)AI系統(tǒng)建設(shè)安全合規(guī)的語料體系，更好實(shí)現(xiàn)價(jià)值觀對(duì)齊，助力AI產(chǎn)業(yè)健康安全發(fā)展。

分享讓更多人看到