2025年國(guó)家網(wǎng)絡(luò)安全宣傳周于9月15日至21日舉辦。今年活動(dòng)主題為“網(wǎng)絡(luò)安全為人民，網(wǎng)絡(luò)安全靠人民——以高水平安全守護(hù)高質(zhì)量發(fā)展”。當(dāng)前，人工智能等新技術(shù)快速融入社會(huì)發(fā)展的方方面面，賦能發(fā)展的同時(shí)，也帶來(lái)政務(wù)安全、數(shù)據(jù)治理、個(gè)人信息保護(hù)等領(lǐng)域的嚴(yán)峻考驗(yàn)，網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的系統(tǒng)性、突發(fā)性特征愈加明顯。專業(yè)聲音認(rèn)為，既要把握信息技術(shù)智能化快速發(fā)展帶來(lái)的歷史機(jī)遇，也要把控好人工智能網(wǎng)絡(luò)安全的新威脅新風(fēng)險(xiǎn)，依法科學(xué)推進(jìn)網(wǎng)絡(luò)安全法治建設(shè)，以適應(yīng)人工智能發(fā)展需求。

（來(lái)源：人民論壇網(wǎng)）

專家指出，隨著人工智能的加速突破和應(yīng)用，網(wǎng)絡(luò)安全范式隨之發(fā)生變化，網(wǎng)絡(luò)安全法治建設(shè)也面臨新的挑戰(zhàn)。中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)專家咨詢委員會(huì)常務(wù)副主任趙志國(guó)表示，人工智能技術(shù)創(chuàng)新以數(shù)據(jù)、算法、算力三要素共同驅(qū)動(dòng)，數(shù)據(jù)的依賴性、算法的復(fù)雜性、算力的集中性等內(nèi)在屬性，使得模型幻覺(jué)、算法黑箱、數(shù)據(jù)可信等特有的安全風(fēng)險(xiǎn)更加凸顯。同時(shí)，人工智能驅(qū)動(dòng)的攻擊手段正朝著智能化、自動(dòng)化方向發(fā)展，在顯著降低攻擊門檻、提升攻擊頻率的同時(shí)，進(jìn)一步增強(qiáng)了攻擊的隱蔽性與變異性。深度偽造欺詐、自動(dòng)化攻擊、開(kāi)源生態(tài)投毒等新型網(wǎng)絡(luò)威脅日漸增多。對(duì)于上述風(fēng)險(xiǎn)與挑戰(zhàn)，我國(guó)網(wǎng)絡(luò)安全法治體系仍有不足。

中國(guó)社會(huì)科學(xué)院法學(xué)研究所研究員周輝、中國(guó)現(xiàn)代國(guó)際關(guān)系研究院研究員陳向陽(yáng)等人指出：一是立法工作滯后凸顯。當(dāng)前，我國(guó)網(wǎng)絡(luò)安全法治體系在應(yīng)對(duì)人工智能風(fēng)險(xiǎn)、打擊人工智能違法犯罪、劃分人工智能侵權(quán)責(zé)任等方面滯后性明顯。傳統(tǒng)網(wǎng)絡(luò)安全立法在解決人工智能法律問(wèn)題方面針對(duì)性不足，在適用過(guò)程中需要對(duì)法條進(jìn)行擴(kuò)張性解釋，但也容易出現(xiàn)法理難題。二是監(jiān)管技術(shù)鴻溝擴(kuò)大。人工智能技術(shù)在進(jìn)一步降低網(wǎng)絡(luò)攻擊成本的同時(shí)，也使攻擊手段更為復(fù)雜。算法黑箱使得開(kāi)發(fā)人員和監(jiān)管者難以真正掌握算法內(nèi)部的工作機(jī)制和決策過(guò)程，增加了監(jiān)管難度；新的算法、模型和架構(gòu)不斷涌現(xiàn)，使得監(jiān)管政策和標(biāo)準(zhǔn)難以跟上技術(shù)更新的速度，導(dǎo)致監(jiān)管滯后。三是治理機(jī)制難以適應(yīng)。人工智能網(wǎng)絡(luò)安全往往需要跨部門、跨領(lǐng)域治理，但各部門之間的職能分工存在交叉和重疊、數(shù)據(jù)共享和信息流通不暢、治理思路一致性欠缺等問(wèn)題。不同經(jīng)濟(jì)發(fā)展水平的地區(qū)之間以及綜合監(jiān)管部門和行業(yè)監(jiān)管部門之間，治理能力和治理資源存在較大差異。

專家建議，科學(xué)完善網(wǎng)絡(luò)安全立法與監(jiān)管工作，助推人工智能高質(zhì)量發(fā)展和高水平安全的深度融合。綜合周輝、北京理工大學(xué)啟元實(shí)驗(yàn)室研究員徐源、甘肅政法大學(xué)法學(xué)院黃榮昌等人觀點(diǎn)，一是推進(jìn)網(wǎng)絡(luò)安全政策法規(guī)“立改廢釋”。首先，完善網(wǎng)絡(luò)安全法律規(guī)范銜接。網(wǎng)絡(luò)安全法律規(guī)范應(yīng)當(dāng)適應(yīng)人工智能的時(shí)代需求，關(guān)注人工智能發(fā)展新形勢(shì)、新需求，完善現(xiàn)有規(guī)范與人工智能技術(shù)的有機(jī)銜接。近期，我國(guó)正推動(dòng)網(wǎng)絡(luò)安全法修改工作，建議聚焦人工智能等熱點(diǎn)領(lǐng)域，進(jìn)一步通過(guò)立法框架強(qiáng)化技術(shù)應(yīng)用的合規(guī)性和安全性，推動(dòng)模型算法、數(shù)據(jù)資源、基礎(chǔ)設(shè)施、應(yīng)用系統(tǒng)等安全能力建設(shè)，加強(qiáng)前瞻評(píng)估和監(jiān)測(cè)處置，以確保網(wǎng)絡(luò)新技術(shù)應(yīng)用合規(guī)、透明和可信賴。其次，起草制定人工智能法律法規(guī)和政策體系，將制度規(guī)范貫穿到人工智能的設(shè)計(jì)、研發(fā)、部署和維護(hù)各個(gè)環(huán)節(jié)，加快推進(jìn)人工智能基礎(chǔ)設(shè)施保護(hù)、個(gè)人隱私保護(hù)與數(shù)據(jù)安全、安全服務(wù)認(rèn)證等領(lǐng)域的立法工作，完善人工智能安全管理的追溯和問(wèn)責(zé)制度、風(fēng)險(xiǎn)監(jiān)測(cè)研判和防范制度等，明確人工智能模型算法研發(fā)者、服務(wù)提供者、使用者等相關(guān)主體的權(quán)利、義務(wù)與責(zé)任。

二是探索網(wǎng)絡(luò)安全技術(shù)監(jiān)管制度方案。“以技治技”是人工智能監(jiān)管的必然選擇。一方面，提高人工智能技術(shù)監(jiān)管投入，加強(qiáng)技術(shù)研發(fā)，提高監(jiān)管水平。加快人工智能監(jiān)管技術(shù)部署，推動(dòng)人工智能監(jiān)管技術(shù)更廣泛應(yīng)用。同時(shí)，加強(qiáng)人工智能與安全產(chǎn)業(yè)的深度融合、雙向賦能，發(fā)揮人工智能在數(shù)據(jù)處理、模式識(shí)別、告警研判、惡意軟件識(shí)別等方面的優(yōu)勢(shì)，加速人工智能相關(guān)的技術(shù)與安全防護(hù)的深度耦合，賦能網(wǎng)絡(luò)安全創(chuàng)新發(fā)展。另一方面，新興技術(shù)的發(fā)展離不開(kāi)人才，相關(guān)部門要加大對(duì)人工智能人才與網(wǎng)絡(luò)安全人才的政策支持力度，推動(dòng)網(wǎng)絡(luò)安全與人工智能創(chuàng)新復(fù)合型人才的培養(yǎng)，培育既熟悉人工智能和網(wǎng)絡(luò)安全技術(shù)，又有法學(xué)素養(yǎng)和法治思維的復(fù)合型人才。

三是創(chuàng)新網(wǎng)絡(luò)安全協(xié)同治理機(jī)制。第一，繼續(xù)推進(jìn)現(xiàn)有的人工智能治理體系運(yùn)行機(jī)制，建立具有統(tǒng)籌協(xié)調(diào)能力的決策組織機(jī)構(gòu)，發(fā)揮多部門綜合治理成效，避免我國(guó)網(wǎng)絡(luò)安全治理與人工智能監(jiān)管出現(xiàn)“九龍治水”的治理格局。分析并破解不同監(jiān)管部門制定的監(jiān)管規(guī)則與政策之間的矛盾，建立具有全方位可操作性的統(tǒng)一監(jiān)管標(biāo)準(zhǔn)，實(shí)現(xiàn)網(wǎng)絡(luò)安全治理與人工智能技術(shù)監(jiān)管實(shí)質(zhì)層面上的協(xié)調(diào)與統(tǒng)一。第二，促進(jìn)人工智能研發(fā)企業(yè)與國(guó)家、政府間的良好合作，推動(dòng)政企協(xié)同治理。構(gòu)建研發(fā)企業(yè)的技術(shù)規(guī)制與內(nèi)部審查機(jī)制，確保所有相關(guān)研發(fā)活動(dòng)都在法律規(guī)范的框架內(nèi)進(jìn)行，保障人工智能的安全與規(guī)范性，發(fā)揮企業(yè)防范人工智能風(fēng)險(xiǎn)“前沿陣地”的作用，從源頭化解風(fēng)險(xiǎn)。

參考資料：

1. 工信部原總工程師趙志國(guó)：積極探索人工智能與網(wǎng)絡(luò)安全融合發(fā)展機(jī)遇和路徑

2. 孫欣然 黃榮昌｜ChatGPT視角下我國(guó)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)與治理機(jī)制研究

3. 人工智能快速發(fā)展下的網(wǎng)絡(luò)安全法治建設(shè)

4. 總體國(guó)家安全觀視角下的人工智能安全治理之道

5. 專題·人工智能安全 | 生成式人工智能的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)及應(yīng)對(duì)策略

輿情分析師 趙鴿