天津大學(xué)法學(xué)院王燃在《法律科學(xué)》2024年第2期上發(fā)表題為《論網(wǎng)絡(luò)暴力的平臺技術(shù)治理》的文章中指出：

隨著社交網(wǎng)絡(luò)媒體的深入發(fā)展，侮辱、謾罵、造謠、誹謗等行為開始在網(wǎng)絡(luò)空間蔓延，網(wǎng)絡(luò)暴力成為法律亟須回應(yīng)的社會熱點問題。網(wǎng)絡(luò)暴力是以網(wǎng)絡(luò)為媒介，通過誹謗侮辱、煽動滋事、公開隱私等人身攻擊方式，侵害他人人格權(quán)益，危害網(wǎng)絡(luò)空間正常秩序的失范行為。網(wǎng)絡(luò)暴力的治理，從賬號管理、信息發(fā)布審核、監(jiān)測預(yù)警到舉報救助等各個環(huán)節(jié)，均離不開平臺技術(shù)手段的支持。

網(wǎng)絡(luò)暴力的行為特殊性導(dǎo)致既有法律治理難見成效。無論是傳統(tǒng)個案司法救濟模式，還是網(wǎng)信部門“信息內(nèi)容”監(jiān)管模式，均無法有效預(yù)防、控制網(wǎng)絡(luò)暴力。平臺技術(shù)治理成為目前的主要方案并被相關(guān)立法所規(guī)定。技術(shù)治理可實現(xiàn)對網(wǎng)絡(luò)暴力的事前預(yù)防、事中阻斷以及信息的準(zhǔn)確識別；平臺作為“守門人”，是控制網(wǎng)絡(luò)暴力信息的最佳著力點，其數(shù)據(jù)壟斷地位也使得相關(guān)技術(shù)方案有落地可能性。

在技術(shù)治理方式上，相關(guān)立法規(guī)定建立網(wǎng)絡(luò)暴力識別模型、用戶保障機制以及阻斷處置機制等。其中，建立網(wǎng)絡(luò)暴力識別模型是關(guān)鍵，其包括對信息內(nèi)容的識別模型和對高危賬號的識別模型。此外，除了傳統(tǒng)的方式外，平臺可傳播良性信息與有害信息進行對抗性互動，以遏制、降低網(wǎng)絡(luò)暴力信息的影響?？赏ㄟ^社交機器人等智能生成技術(shù)來對網(wǎng)絡(luò)暴力言論進行正向引導(dǎo)。社交機器人是自動化的軟件程序，通過算法自動生成內(nèi)容并建立互動，很容易被視為人類賬戶。社交機器人技術(shù)本身是中立的，其完全有能力去生成并引導(dǎo)正向信息的傳播，從而減輕網(wǎng)絡(luò)暴力信息對用戶的傷害。

平臺在進行網(wǎng)絡(luò)暴力技術(shù)治理的過程中，面臨著諸多法律與技術(shù)風(fēng)險：針對“不良信息型”網(wǎng)絡(luò)暴力的認(rèn)定，應(yīng)將個體感受、人物關(guān)系、上下文情境等要素納入識別模型；針對平臺用戶權(quán)利保障風(fēng)險，引入“技術(shù)正當(dāng)程序”與比例原則，保障用戶的被通知權(quán)、知情權(quán)、算法解釋權(quán)等權(quán)利并限制平臺權(quán)力；針對社交機器人安全風(fēng)險，要考慮網(wǎng)絡(luò)暴力治理場景的正當(dāng)性，加強其價值觀引導(dǎo)，確保內(nèi)容可靠并控制傳播邊界；此外，要合理界定注意義務(wù)主體范圍，由大型平臺與超大型平臺承擔(dān)網(wǎng)絡(luò)暴力治理義務(wù)。