首頁(yè)>

AI謠言肆虐，如何精準(zhǔn)治理？

2025-08-12 15:52:13 來(lái)源：法治網(wǎng)微信公眾號(hào) -標(biāo)準(zhǔn)+

如今，人類(lèi)信息技術(shù)已達(dá)到前所未有的高度，只需輸入幾個(gè)關(guān)鍵詞，AI就能立馬“一鍵生成”圖文視頻。然而，這項(xiàng)技術(shù)甫一出現(xiàn)，就被一些不法分子盯上——“AI謠言”正成為侵蝕社會(huì)信任、侵害公民權(quán)益、擾亂市場(chǎng)秩序的新型網(wǎng)絡(luò)毒瘤。對(duì)此，清華大學(xué)新聞與傳播學(xué)院新媒體研究中心2024年發(fā)布的報(bào)告《揭秘AI謠言：傳播路徑與治理策略全解析》指出，人工智能工具的不當(dāng)使用，使得AI謠言量高速增長(zhǎng)、逐步成勢(shì)，近半年信息量增長(zhǎng)65%。

日前，法治網(wǎng)研究院邀請(qǐng)最高人民檢察院檢察理論研究所信息部主任石磊、北京互聯(lián)網(wǎng)法院綜合審判二庭副庭長(zhǎng)張倩、南開(kāi)大學(xué)法學(xué)院副院長(zhǎng)陳兵教授、中國(guó)人民大學(xué)刑事法律科學(xué)研究中心主任時(shí)延安教授、《法治日?qǐng)?bào)》律師專(zhuān)家?guī)斐蓡T曾鐵山，深度剖析AI謠言的深層威脅與治理難點(diǎn)，并建言獻(xiàn)策，探討如何在擁抱技術(shù)創(chuàng)新的同時(shí)，讓AI發(fā)展守住法治的邊界和底線(xiàn)，構(gòu)建精準(zhǔn)高效的AI謠言治理體系，守護(hù)清朗網(wǎng)絡(luò)空間。

法治網(wǎng)研究院：當(dāng)前，AI技術(shù)在文本生成、圖片創(chuàng)作、視頻制作等方面的應(yīng)用越來(lái)越廣泛，只需輸入幾個(gè)關(guān)鍵詞即可快速生成一篇文章、一幅圖片、一段視頻。近年來(lái)，一些不法分子利用AI軟件生成編造虛假信息，使AI類(lèi)網(wǎng)絡(luò)謠言滋生擴(kuò)散，引發(fā)社會(huì)廣泛關(guān)注。近期，更是接連出現(xiàn)了多起關(guān)于汛情通報(bào)、警情通報(bào)的AI謠言。與其他類(lèi)型謠言相比，您怎么看待AI謠言的危害性及其特點(diǎn)？

石磊：作為網(wǎng)絡(luò)謠言的變種，AI謠言背后隱藏著的是人。一些不法分子對(duì)AI技術(shù)的不當(dāng)應(yīng)用，讓網(wǎng)絡(luò)謠言“如虎添翼”，使得AI謠言從廣度、深度、后果、傳播速度等方面都比傳統(tǒng)的網(wǎng)絡(luò)謠言更強(qiáng)大。

此類(lèi)謠言或惡意編造不實(shí)信息，破壞社會(huì)信任，或捕風(fēng)捉影歪曲事實(shí)，侵害公眾利益，需要各界引起高度關(guān)注。

張倩：近年來(lái)，隨著人工智能工具日漸普及，利用人工智能技術(shù)炮制虛假不實(shí)信息在互聯(lián)網(wǎng)散布謠言的現(xiàn)象越來(lái)越突出。AI謠言制造者通過(guò)AI軟件輸入關(guān)鍵詞，對(duì)網(wǎng)絡(luò)中海量真實(shí)存在的音視頻、文字圖像等內(nèi)容進(jìn)行針對(duì)性提取，并定制化生成虛假信息。信息內(nèi)容接近真實(shí)和客觀存在的水平，擬真度高、迷惑性強(qiáng)。

AI造謠行為涉及深度偽造、內(nèi)容精準(zhǔn)分發(fā)等技術(shù)，需要抓取、運(yùn)用用戶(hù)身份信息、網(wǎng)絡(luò)行為數(shù)據(jù)、生物性數(shù)據(jù)等行為，對(duì)公眾隱私權(quán)、肖像權(quán)、名譽(yù)權(quán)等多種個(gè)人權(quán)利的潛在威脅和直接侵犯。比如，采用深度偽造技術(shù)將具有可識(shí)別的核心面部肖像摳出、進(jìn)行“AI換臉”造謠，這就涉及人臉監(jiān)測(cè)、人臉關(guān)鍵點(diǎn)定位、人臉特征提取等多項(xiàng)技術(shù)。

AI謠言易成為不法分子吸粉引流，開(kāi)展商業(yè)不正當(dāng)競(jìng)爭(zhēng)的手段?；ヂ?lián)網(wǎng)內(nèi)容平臺(tái)根據(jù)用戶(hù)點(diǎn)擊量、閱讀量給予創(chuàng)作者獎(jiǎng)勵(lì)，而為了吸粉引流，部分造謠者在AI工具輔助下編造虛假信息進(jìn)行商業(yè)炒作，為電商平臺(tái)產(chǎn)品銷(xiāo)售引流，甚至炮制涉企不實(shí)信息，將會(huì)嚴(yán)重破壞營(yíng)商環(huán)境。

法治網(wǎng)研究院：當(dāng)前，AI謠言的治理難點(diǎn)在哪里？

陳兵：就法律層面而言，AI謠言的治理難點(diǎn)在于責(zé)任主體認(rèn)定困難。首先，在AI造謠中，造謠者作為直接發(fā)起者，必須承擔(dān)主要法律責(zé)任。

其次，AI工具提供者是否擔(dān)責(zé)需要具體判斷。如果工具提供者未履行合規(guī)義務(wù)，例如未在生成內(nèi)容中添加人工智能生成合成內(nèi)容標(biāo)識(shí)、未攔截敏感詞等，就可能因技術(shù)漏洞被追責(zé)。根據(jù)《生成式人工智能服務(wù)管理暫行辦法》《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等規(guī)定明確要求，AI生成內(nèi)容必須可溯源、可識(shí)別，否則提供者需承擔(dān)連帶責(zé)任。

再次，平臺(tái)是否擔(dān)責(zé)關(guān)鍵在于是否“明知或應(yīng)知”謠言存在卻未干預(yù)。如果平臺(tái)未審核AI生成內(nèi)容，或通過(guò)算法推薦擴(kuò)大謠言傳播，就可能因未盡到“合理注意義務(wù)”承擔(dān)連帶責(zé)任?！凹夹g(shù)中立”不能成為平臺(tái)的“免責(zé)金牌”。

需要注意的是，近年來(lái)一直熱議的避風(fēng)港原則，即“通知—?jiǎng)h除”原則在AI時(shí)代的適用需要相應(yīng)調(diào)整。但是如何調(diào)整，平臺(tái)對(duì)平臺(tái)內(nèi)用戶(hù)特別是經(jīng)營(yíng)者用戶(hù)的監(jiān)管義務(wù)和職責(zé)如何確定，還需要進(jìn)一步明確，平臺(tái)的信息過(guò)濾義務(wù)的設(shè)定及邊界還需要進(jìn)一步科學(xué)化、精細(xì)化設(shè)計(jì)。在這一過(guò)程中，一定要注意平衡好創(chuàng)新發(fā)展與安全運(yùn)行之間的動(dòng)態(tài)平衡，既要為創(chuàng)新應(yīng)用特別是在應(yīng)用中創(chuàng)新留出空間，也要為各類(lèi)應(yīng)用劃出紅線(xiàn)和底線(xiàn)，為應(yīng)用場(chǎng)景制定好規(guī)則和規(guī)矩。

時(shí)延安：AI謠言問(wèn)題，本質(zhì)就是AI技術(shù)的濫用問(wèn)題，就是不法分子利用AI技術(shù)生成虛假信息并加以散布。其治理難點(diǎn)在于：第一，目前不法分子獲取AI技術(shù)的渠道是比較容易的，生成圖片、視頻高度逼真，具有較強(qiáng)的欺騙性，很容易令人誤以為真。

第二，這類(lèi)信息的散布和其他網(wǎng)絡(luò)謠言一樣，具有快速傳播、輻射面大的特點(diǎn)，一旦形成散布趨勢(shì)，就很難從網(wǎng)絡(luò)上清除。

第三，這類(lèi)信息往往以圖片、視頻為主，且將大量真實(shí)影像夾雜其中，客觀上提升了事后澄清真相、恢復(fù)被侵害人聲譽(yù)的難度。

張倩：我們?cè)谡{(diào)研中發(fā)現(xiàn)，一個(gè)突出治理難點(diǎn)在于AI造謠行為門(mén)檻及成本低，行為隱蔽。AI謠言是基于大量訓(xùn)練數(shù)據(jù)的模擬結(jié)果，數(shù)據(jù)源往往難以追溯。目前，面對(duì)海量傳播數(shù)據(jù)，現(xiàn)有技術(shù)下以被動(dòng)辟謠為主，信息鑒別難度大，一些時(shí)候難以實(shí)現(xiàn)對(duì)謠言的有效識(shí)別和源頭防范。

曾鐵山：AI謠言治理的難點(diǎn)主要有三點(diǎn)：一是技術(shù)層面難以辨認(rèn)真?zhèn)?。隨著AI技術(shù)的快速迭代發(fā)展，AI深度偽造的文字、圖片、音頻和視頻等擬真程度極高且能互相“印證”，部分內(nèi)容甚至真假參半，極大增加了識(shí)別真?zhèn)蔚碾y度。同時(shí)，AI謠言多借助匿名賬號(hào)、自媒體賬號(hào)渠道擴(kuò)散，缺乏統(tǒng)一的數(shù)字水印或溯源標(biāo)識(shí)，技術(shù)手段難以精準(zhǔn)識(shí)別和追蹤源頭。

二是澄清和清理成本，遠(yuǎn)高于制作和傳播成本。如今許多AI工具簡(jiǎn)單易上手，在極短時(shí)間內(nèi)即可制作大量難以辨認(rèn)真?zhèn)蔚闹{言載體，并可借助短視頻或社交平臺(tái)快速?gòu)V泛傳播，由于目前人工智能對(duì)謠言判斷能力尚且不足，從識(shí)別、清理到澄清，都需要專(zhuān)業(yè)技術(shù)支持和大量人力和資源去偽，治理成本巨大。

三是法律規(guī)制滯后，懲戒力度不足。目前對(duì)于AI謠言的治理，主要依據(jù)我國(guó)刑法、民法典以及治安管理處罰法等規(guī)定，且現(xiàn)行法律法規(guī)多基于傳統(tǒng)人工發(fā)布和主觀惡意標(biāo)準(zhǔn)，難以覆蓋自動(dòng)生成內(nèi)容與多主體協(xié)作傳播的復(fù)雜場(chǎng)景。但面臨AI謠言這種危害性更嚴(yán)重、傳播范圍更廣、澄清難度更大、來(lái)源更隱蔽的治理時(shí)，對(duì)“AI造謠”的“定性難”“入罪難”成為法律適用的痛點(diǎn)和難點(diǎn)，例如在面對(duì)偽科普AI謠言時(shí)，除了采取平臺(tái)禁言之外，還需要考慮如何進(jìn)一步懲戒。

法治網(wǎng)研究院：對(duì)于精準(zhǔn)治理AI謠言，您還有什么建議？

時(shí)延安：對(duì)AI謠言的治理，第一，要解決AI技術(shù)的濫用問(wèn)題，對(duì)高風(fēng)險(xiǎn)AI技術(shù)要給予必要的管控；使用AI技術(shù)生成圖片、視頻等，應(yīng)予以強(qiáng)制標(biāo)識(shí)，無(wú)標(biāo)識(shí)發(fā)布虛假內(nèi)容的AI作品，應(yīng)承擔(dān)必要的法律責(zé)任。

第二，網(wǎng)絡(luò)平臺(tái)要加強(qiáng)運(yùn)用AI技術(shù)制作影像的識(shí)別工作，在發(fā)布者沒(méi)有進(jìn)行標(biāo)識(shí)的情況下，網(wǎng)絡(luò)平臺(tái)應(yīng)予以標(biāo)識(shí)或者責(zé)令發(fā)布者標(biāo)識(shí)。

第三，對(duì)于明知是運(yùn)用AI技術(shù)制作虛假信息而故意大范圍轉(zhuǎn)發(fā)的行為，也應(yīng)予以必要的懲戒，構(gòu)成違法的，應(yīng)當(dāng)追究治安違法責(zé)任。

陳兵：平臺(tái)需提升技術(shù)能力，加強(qiáng)內(nèi)容審核。一是提升多模態(tài)AI檢測(cè)能力，結(jié)合聲紋、語(yǔ)義、畫(huà)面匹配度識(shí)別AI賬號(hào)內(nèi)容，提高對(duì)謠言的識(shí)別準(zhǔn)確率和效率，降低謠言的傳播權(quán)重；二是建立“AI+人工”分層審核機(jī)制，AI 負(fù)責(zé)對(duì)大量?jī)?nèi)容進(jìn)行快速檢測(cè)和初步判斷，篩選疑似 AI 造謠內(nèi)容的賬號(hào)，推送人工復(fù)審。

自媒體需強(qiáng)化合規(guī)底線(xiàn)。自媒體從業(yè)者需增強(qiáng)自身責(zé)任意識(shí)，自覺(jué)遵守法律法規(guī)和道德規(guī)范，堅(jiān)持真實(shí)、準(zhǔn)確、客觀的原則發(fā)布信息，不為了流量和關(guān)注而制造、傳播虛假信息。對(duì)于自己發(fā)布的錯(cuò)誤信息及時(shí)更正和澄清，積極主動(dòng)地進(jìn)行辟謠，引導(dǎo)公眾正確認(rèn)知。

用戶(hù)要提高識(shí)別能力。主動(dòng)了解AI技術(shù)的應(yīng)用特點(diǎn)，面對(duì)疑似謠言，在轉(zhuǎn)發(fā)傳播前核實(shí)信息的來(lái)源和真實(shí)性，避免成為謠言的傳播者。發(fā)現(xiàn)疑似AI謠言或其他虛假信息時(shí)，及時(shí)向平臺(tái)和監(jiān)管部門(mén)舉報(bào)，為凈化網(wǎng)絡(luò)環(huán)境貢獻(xiàn)自己的力量。

相關(guān)監(jiān)管部門(mén)除了進(jìn)一步完善AI生成內(nèi)容等法律法規(guī)以外，也要同步加強(qiáng)對(duì)網(wǎng)絡(luò)平臺(tái)和自媒體的常態(tài)化檢測(cè)機(jī)制，提高對(duì)AI謠言的監(jiān)測(cè)、識(shí)別和處置能力，以技術(shù)監(jiān)管技術(shù)。

曾鐵山：我認(rèn)為，對(duì)于AI謠言治理可以嘗試從以下五個(gè)層面進(jìn)行：一是對(duì)AI生成內(nèi)容進(jìn)行強(qiáng)制標(biāo)識(shí)與溯源管理。落實(shí)國(guó)家關(guān)于《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（2025年9月1日施行）要求，對(duì)于AI生成合成內(nèi)容進(jìn)行顯式和隱式標(biāo)記，便于公眾識(shí)別和監(jiān)管部門(mén)溯源。

二是提升AI技術(shù)對(duì)謠言的識(shí)別與攔截能力。用魔法打敗魔法，用技術(shù)制衡技術(shù)。加強(qiáng)AI對(duì)AI謠言特征的模型訓(xùn)練，構(gòu)建謠言知識(shí)庫(kù)，利用AI鑒別“AI味”，增強(qiáng)自動(dòng)化識(shí)別效率。

三是強(qiáng)化社交媒體和平臺(tái)的審核機(jī)制。要壓實(shí)平臺(tái)主體責(zé)任，特別是要求社交平臺(tái)、短視頻平臺(tái)建立完善的內(nèi)容審核機(jī)制、違法信息特征庫(kù)及風(fēng)險(xiǎn)預(yù)警體系，同時(shí)強(qiáng)化對(duì)多次發(fā)布虛假信息用戶(hù)的限制，落實(shí)信息安全主體責(zé)任，建立AI謠言的全鏈條監(jiān)控機(jī)制，阻斷謠言傳播鏈條。

四是完善立法，加快出臺(tái)對(duì)生成式AI內(nèi)容及AI謠言治理的法規(guī)體系。對(duì)“AI造謠”的“定性難”“入罪難”的痛點(diǎn)和難點(diǎn)，明確造謠者、傳謠者和平臺(tái)等的法律責(zé)任，提高懲戒力度。

五是加強(qiáng)AI謠言公眾警示教育。增強(qiáng)社會(huì)對(duì)AI謠言的“免疫力”，培養(yǎng)公眾對(duì)網(wǎng)絡(luò)來(lái)源內(nèi)容查來(lái)源、查邏輯、查證據(jù)等思維習(xí)慣，引導(dǎo)新聞媒體、社會(huì)公眾積極反對(duì)AI謠言。

專(zhuān)家簡(jiǎn)介