新華網(wǎng)北京9月2日電（曹玥）2025年9月1日零時(shí)，國(guó)家網(wǎng)信辦、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合制定的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》)正式生效，“標(biāo)識(shí)辦法”提出強(qiáng)制添加顯式和隱式標(biāo)識(shí)等規(guī)范要求，即用AI生成的每一段文字、每一張圖片、每一條音頻、視頻，都必須強(qiáng)制亮明“數(shù)字身份證”。

新華網(wǎng)整理發(fā)現(xiàn)，在9月1日前，包括騰訊、抖音、快手、B站在內(nèi)的多個(gè)平臺(tái)分別針對(duì)上述《標(biāo)識(shí)辦法》出臺(tái)了細(xì)化規(guī)則，其中抖音平臺(tái)發(fā)布公告進(jìn)一步規(guī)范平臺(tái)上的AI內(nèi)容創(chuàng)作與傳播，并上線了兩項(xiàng)功能，一是，內(nèi)容標(biāo)識(shí)功能，協(xié)助創(chuàng)作者為AI內(nèi)容添加提示標(biāo)識(shí)；二是，AI內(nèi)容元數(shù)據(jù)標(biāo)識(shí)讀寫功能，可識(shí)別并寫入AI內(nèi)容的元數(shù)據(jù)信息，為內(nèi)容溯源提供技術(shù)支撐。

AI生成內(nèi)容生態(tài)鏈進(jìn)入規(guī)范化管理階段

人工智能技術(shù)正重塑信息生產(chǎn)和傳播方式。中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心（CNNIC）發(fā)布的《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》顯示，2024年，我國(guó)人工智能產(chǎn)業(yè)規(guī)模已突破7000億元，連續(xù)多年保持20%以上的增長(zhǎng)率。

技術(shù)快速普及的同時(shí)帶來(lái)新的內(nèi)容風(fēng)險(xiǎn)。人工智能技術(shù)被用于制造虛假新聞、實(shí)施網(wǎng)絡(luò)詐騙的案例逐年增長(zhǎng)。中國(guó)信通院發(fā)布的《人工智能治理藍(lán)皮書（2024年）》中指出，隨著人工智能技術(shù)通用泛化的水平提升，內(nèi)容安全管理將面臨著重大挑戰(zhàn)。

政策的核心在于雙重標(biāo)識(shí)要求。顯式標(biāo)識(shí)需讓普通用戶“一眼可見(jiàn)”，如在AI生成文章的開(kāi)頭或結(jié)尾添加文字說(shuō)明，在音視頻內(nèi)容中加入語(yǔ)音提示或特殊圖標(biāo)。隱式標(biāo)識(shí)則需在文件元數(shù)據(jù)中嵌入“隱藏信息”，包括內(nèi)容屬性、服務(wù)商信息及唯一識(shí)別編碼。

當(dāng)前我國(guó)人工智能領(lǐng)域正在飛速發(fā)展，相應(yīng)的安全標(biāo)準(zhǔn)和法律準(zhǔn)則在不斷完善當(dāng)中，《標(biāo)識(shí)辦法》承接了《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》構(gòu)建的基礎(chǔ)法律框架，并與2023年8月實(shí)施的《生成式人工智能服務(wù)管理暫行辦法》以及2023年10月發(fā)布的《生成式人工智能服務(wù)安全基本要求》共同完善了我國(guó)內(nèi)容協(xié)同治理的體系。

浙江大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院院長(zhǎng)任奎教授是《生成式人工智能服務(wù)安全基本要求》的起草參與者之一，他對(duì)新華網(wǎng)表示，《標(biāo)識(shí)辦法》的正式實(shí)施有三個(gè)層面上的重大意義：一是，首次將生成服務(wù)提供者、內(nèi)容傳播平臺(tái)、終端用戶納入統(tǒng)一治理框架，以內(nèi)容的顯式標(biāo)識(shí)和隱式標(biāo)識(shí)為抓手，將生成式人工智能服務(wù)的各利益方串接在一塊。同時(shí)也與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等形成制度遞進(jìn)，明確責(zé)任邊界。二是，有助于推動(dòng)AIGC行業(yè)的規(guī)范化發(fā)展，倒逼企業(yè)建立合規(guī)體系，通過(guò)標(biāo)識(shí)這一技術(shù)合規(guī)前置的制度設(shè)計(jì)，促使企業(yè)將倫理考量融入技術(shù)研發(fā)全流程；同時(shí)通過(guò)建立可信的內(nèi)容標(biāo)識(shí)體系，提高內(nèi)容使用的透明度，重塑公眾對(duì)AIGC技術(shù)的信任基礎(chǔ)。三是，有效的提高了我國(guó)在人工智能安全與治理領(lǐng)域的話語(yǔ)權(quán)?！稑?biāo)識(shí)辦法》和《標(biāo)識(shí)方法》是全球首個(gè)由政府主導(dǎo)，同時(shí)通過(guò)技術(shù)標(biāo)準(zhǔn)化進(jìn)行強(qiáng)制性實(shí)施的治理模式，為全球內(nèi)容治理提供了范本。

雙重標(biāo)識(shí)體系：顯式可感知，隱式嵌元數(shù)據(jù)

從新規(guī)實(shí)施最大的特點(diǎn)來(lái)看，《標(biāo)識(shí)辦法》的核心是構(gòu)建了“顯式+隱式”雙重標(biāo)識(shí)體系，對(duì)不同類型的AI生成內(nèi)容提出明確標(biāo)注要求，確保用戶與監(jiān)管方能夠清晰識(shí)別內(nèi)容的AI屬性。

在顯式標(biāo)識(shí)層面，要求以用戶可直接感知的方式標(biāo)注：文本內(nèi)容需在開(kāi)頭、結(jié)尾或關(guān)鍵位置標(biāo)注“人工智能生成”或“AI生成”，字體需清晰可辨，不得刻意縮小或模糊。

而隱式標(biāo)識(shí)更側(cè)重于技術(shù)層面的追溯，要求在AI生成內(nèi)容的文件內(nèi)部嵌入元數(shù)據(jù)，且字段名稱必須包含“AIGC”標(biāo)識(shí)符號(hào)。元數(shù)據(jù)需涵蓋AI生成確認(rèn)狀態(tài)、生成服務(wù)提供方信息、內(nèi)容傳播平臺(tái)名稱、唯一編號(hào)，以及數(shù)字簽名或哈希校驗(yàn)值等關(guān)鍵信息，為內(nèi)容溯源與責(zé)任認(rèn)定提供技術(shù)支撐。

對(duì)于文本內(nèi)容，要求在起始、末尾或中間適當(dāng)位置添加文字提示或通用符號(hào)提示；對(duì)音頻內(nèi)容，要求在起始、末尾或中間添加語(yǔ)音提示或音頻節(jié)奏提示；對(duì)視頻和圖片，則要求在適當(dāng)位置添加顯著提示標(biāo)識(shí)。

任奎教授認(rèn)為，“嵌入的標(biāo)識(shí)有不同的功能和類型。例如，對(duì)于某個(gè)生成內(nèi)容，可以只是簡(jiǎn)單的標(biāo)識(shí)出它們是自然真實(shí)存在的還是由AI模型生成的。此外，標(biāo)識(shí)還可以標(biāo)記生成這些內(nèi)容的具體模型。更進(jìn)一步地說(shuō)，標(biāo)識(shí)還可以同時(shí)標(biāo)記用戶和模型，合成內(nèi)容標(biāo)識(shí)在功能性上也可以進(jìn)一步劃分，以滿足監(jiān)管的不同要求?！?/p>

在明確AI生成內(nèi)容標(biāo)識(shí)體系的同時(shí)，《標(biāo)識(shí)辦法》著重落腳在適當(dāng)?shù)毓膭?lì)用AI進(jìn)行原創(chuàng)性的內(nèi)容創(chuàng)作。公安部第三研究所副所長(zhǎng)金波發(fā)文表示，“《標(biāo)識(shí)辦法》體現(xiàn)出在數(shù)據(jù)內(nèi)容創(chuàng)作與打擊濫用間尋求平衡的考量，也表明在立法思路上對(duì)當(dāng)前蓬勃發(fā)展的人工智能產(chǎn)業(yè)整體上的鼓勵(lì)傾向，可理解為早期確立的平臺(tái)避風(fēng)港原則在新時(shí)代背景下的創(chuàng)新性發(fā)展?！?/p>

明確主體責(zé)任邊界，但監(jiān)管仍面臨挑戰(zhàn)

《標(biāo)識(shí)辦法》的另一重意義在于在法律層面上，對(duì)不同主體設(shè)置了不同義務(wù)。服務(wù)提供者有義務(wù)確保其生成的內(nèi)容符合標(biāo)識(shí)要求，并在生成內(nèi)容時(shí)主動(dòng)添加標(biāo)識(shí)。

傳播平臺(tái)需要核驗(yàn)文件元數(shù)據(jù)中是否含有隱式標(biāo)識(shí)，對(duì)于含有隱式標(biāo)識(shí)的，應(yīng)當(dāng)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí)。

應(yīng)用分發(fā)平臺(tái)則需在應(yīng)用程序上架或上線審核時(shí)，核驗(yàn)服務(wù)提供者是否按要求提供生成合成內(nèi)容標(biāo)識(shí)功能。

《標(biāo)識(shí)辦法》的實(shí)施對(duì)普通人而言，通過(guò)顯性標(biāo)識(shí)對(duì)AIGC進(jìn)行鑒別可以更加清晰地認(rèn)識(shí)接收到的信息是否可信。但從落地實(shí)踐來(lái)看，《標(biāo)識(shí)辦法》并不能徹底地杜絕AI生成謠言、假消息的產(chǎn)生。

例如，對(duì)于顯性標(biāo)識(shí)，用戶可以刪除相關(guān)文字及標(biāo)識(shí)圖形來(lái)去除；對(duì)于隱性標(biāo)識(shí)，用戶也可以通過(guò)轉(zhuǎn)碼等方式進(jìn)行一定程度的規(guī)避。也就是說(shuō)，基于標(biāo)識(shí)的識(shí)別無(wú)法對(duì)于惡意用戶發(fā)布的內(nèi)容進(jìn)行精準(zhǔn)鑒別。

“AI生成也只是謠言等產(chǎn)生的工具，沒(méi)有AI的時(shí)候也存在同樣問(wèn)題?！敝袀愇牡侣蓭熓聞?wù)所上海辦公室高級(jí)合伙人王祺律師對(duì)新華網(wǎng)表示，AI生成內(nèi)容應(yīng)用的風(fēng)險(xiǎn)是無(wú)法完全規(guī)避，“對(duì)于惡意使用者，即使沒(méi)有AI也可以通過(guò)雇傭人來(lái)批量產(chǎn)生造謠內(nèi)容。”

從權(quán)、責(zé)、利層面來(lái)看，王祺還指出，內(nèi)容發(fā)布平臺(tái)或?qū)⒊袚?dān)更多的責(zé)任，“從盡量平衡生成式人工智能的收益與風(fēng)險(xiǎn)的角度，除了要求人工智能應(yīng)用服務(wù)提供者盡到更加嚴(yán)格的注意義務(wù)外，建議監(jiān)管使內(nèi)容發(fā)布平臺(tái)承擔(dān)更多的責(zé)任。”

例如，如果AI生成內(nèi)容只有在內(nèi)容發(fā)布平臺(tái)算法的助推下才會(huì)吸引更多人的關(guān)注，而目前算法難以真正對(duì)于非正常流量增長(zhǎng)的謠言等進(jìn)行及時(shí)控制?！皟?nèi)容生成平臺(tái)欲思算法推送流量之利，則也應(yīng)盡相應(yīng)的內(nèi)容監(jiān)管之義務(wù)。這也是權(quán)責(zé)相適應(yīng)的價(jià)值要求?！蓖蹯鲗?duì)新華網(wǎng)說(shuō)。

鑒于《標(biāo)識(shí)辦法》在落地實(shí)踐中所面臨的挑戰(zhàn)，從技術(shù)層面，任奎教授建議，大力發(fā)展安全保證的內(nèi)容隱式標(biāo)識(shí)技術(shù)?！袄脙?nèi)容隱式標(biāo)識(shí)的魯棒性與難以去除能力，配合顯式標(biāo)識(shí)和元數(shù)據(jù)隱式標(biāo)識(shí)共同維護(hù)基于標(biāo)識(shí)的內(nèi)容治理體系。”

最后，標(biāo)識(shí)是AI生成內(nèi)容治理邁出的關(guān)鍵一步，但它只是多層次防控體系的一部分。要真正規(guī)避風(fēng)險(xiǎn)，還需要細(xì)化法律法規(guī)、建立行業(yè)自律標(biāo)準(zhǔn)、加大執(zhí)法力度和國(guó)際合作。

“AI生成內(nèi)容跨國(guó)傳播時(shí)，數(shù)據(jù)主權(quán)歸屬與執(zhí)法管轄權(quán)爭(zhēng)議頻發(fā)。如何在全球化背景下實(shí)現(xiàn)跨境的AIGC執(zhí)法也是面臨的挑戰(zhàn)之一?！比慰淌诒硎荆斑M(jìn)一步推動(dòng)技術(shù)標(biāo)識(shí)協(xié)同，建立跨境執(zhí)法互助機(jī)制。與‘一帶一路’國(guó)家、金磚國(guó)家聯(lián)合構(gòu)建互認(rèn)標(biāo)識(shí)體系，并推動(dòng)AI生成內(nèi)容快速響應(yīng)機(jī)制，支撐跨境執(zhí)法是未來(lái)內(nèi)容治理的重點(diǎn)方向之一。