近年來，人工智能在司法實(shí)踐中呈現(xiàn)深度嵌入態(tài)勢(shì)，廣泛應(yīng)用于立案審查、繁簡分流、證據(jù)比對(duì)、卷宗解析、量刑建議、裁判文書生成等核心環(huán)節(jié)，在提升司法效率、統(tǒng)一法律適用、保障司法公正、踐行司法為民理念以及推動(dòng)基層社會(huì)治理現(xiàn)代化等方面展現(xiàn)出顯著優(yōu)勢(shì)，但同時(shí)也對(duì)傳統(tǒng)司法價(jià)值觀念發(fā)起了沖擊與挑戰(zhàn)，衍生出一系列應(yīng)用風(fēng)險(xiǎn)。專家建議，亟需從完善規(guī)范體系、細(xì)化應(yīng)用規(guī)則、健全監(jiān)管制度、加強(qiáng)倫理審查等方面入手，形成全方位、多層次的風(fēng)險(xiǎn)治理格局，推動(dòng)人工智能司法應(yīng)用向更高水平邁進(jìn)。

（來源：《經(jīng)濟(jì)日?qǐng)?bào)》）

專家指出，人工智能應(yīng)用于司法實(shí)踐的過程中，引發(fā)法律、技術(shù)、倫理等方面的潛在風(fēng)險(xiǎn)。一是法律風(fēng)險(xiǎn)。中國政法大學(xué)錢端升講座教授劉艷紅等人表示，一方面，人工智能對(duì)效率的極致追求在一定程度上壓縮了正當(dāng)程序的環(huán)節(jié)，忽略了公眾與司法溝通的橋梁紐帶，可能會(huì)產(chǎn)生主觀上的不信任感。算法偏見、算法歧視等可能影響人工智能的可靠性和公正性，在一定程度上消解了司法程序的中立性。另一方面，法律事實(shí)認(rèn)定與法律條文適用的數(shù)字化轉(zhuǎn)換，并借助算法運(yùn)算輸出是人工智能司法應(yīng)用的基本過程。數(shù)據(jù)的準(zhǔn)確性、模型設(shè)置的科學(xué)性都將對(duì)最終輸出結(jié)果造成影響。一旦算法和有關(guān)參數(shù)未得到合理設(shè)計(jì)，就可能產(chǎn)生系統(tǒng)性偏差，影響實(shí)體結(jié)果的準(zhǔn)確性，對(duì)司法公正產(chǎn)生沖擊。二是技術(shù)風(fēng)險(xiǎn)。湖北省社會(huì)科學(xué)院政法研究所研究員李濤等人指出，目前，人工智能技術(shù)仍處于發(fā)展階段，算法的深度學(xué)習(xí)水平還遠(yuǎn)未達(dá)到能取代人類審判的程度，主要是機(jī)械適用法條處理高度類型化的案件，尚未實(shí)現(xiàn)更高智能的輔助裁判。同時(shí)，人工智能技術(shù)發(fā)展迅速，司法領(lǐng)域引入人工智能技術(shù)可能面臨更新?lián)Q代，如果不能及時(shí)跟進(jìn)，會(huì)導(dǎo)致司法工作效率下降，甚至出現(xiàn)技術(shù)與司法實(shí)踐相脫節(jié)的情況。此外，人工智能技術(shù)的數(shù)據(jù)密集型特征對(duì)技術(shù)防護(hù)提出更高要求。若缺乏有效技術(shù)規(guī)制與制度約束，可能引發(fā)數(shù)據(jù)泄露、算法篡改與系統(tǒng)失控等風(fēng)險(xiǎn)。三是倫理風(fēng)險(xiǎn)。北京師范法學(xué)院教授何挺等人認(rèn)為，開發(fā)者作為人工智能初始規(guī)則與架構(gòu)的構(gòu)建者，其自身價(jià)值取向?qū)⒉豢杀苊獾厝谌胂到y(tǒng)設(shè)計(jì)中，若其秉持的價(jià)值觀念與司法規(guī)律、法律價(jià)值追求存在偏差，這些隱含的價(jià)值傾向?qū)⒃谌斯ぶ悄艿臎Q策邏輯中體現(xiàn)，埋下倫理風(fēng)險(xiǎn)隱患。

專家建議，多措并舉，積極應(yīng)對(duì)人工智能司法應(yīng)用的潛在風(fēng)險(xiǎn)。綜合劉艷紅、李濤、何挺等人觀點(diǎn)，一是完善法律規(guī)范體系。充分考慮人工智能技術(shù)發(fā)展的特點(diǎn)和趨勢(shì)，對(duì)人工智能司法應(yīng)用的場景、潛在風(fēng)險(xiǎn)和發(fā)展趨勢(shì)進(jìn)行深入分析，按照“急用先立、成熟先立”的原則，以倫理標(biāo)準(zhǔn)為依據(jù)，綜合多方主體力量共同制定專門針對(duì)人工智能司法應(yīng)用的規(guī)范框架，明確人工智能在司法中的定位、應(yīng)用限度等問題，規(guī)范人工智能技術(shù)在司法數(shù)據(jù)采集、存儲(chǔ)和使用等環(huán)節(jié)的操作流程。

二是細(xì)化應(yīng)用規(guī)則。在數(shù)據(jù)方面，建立統(tǒng)一、規(guī)范的司法數(shù)據(jù)采集標(biāo)準(zhǔn)和體系，確保各類司法數(shù)據(jù)的完整性、準(zhǔn)確性和及時(shí)性；加強(qiáng)司法數(shù)據(jù)的整合與共享，打破不同地區(qū)、不同層級(jí)司法機(jī)關(guān)之間的數(shù)據(jù)壁壘，實(shí)現(xiàn)數(shù)據(jù)互聯(lián)互通，為人工智能算法訓(xùn)練提供豐富樣本。在算法方面，建立備案審查制度，保證算法使用符合法律規(guī)定；開發(fā)能夠解釋算法決策過程和依據(jù)的技術(shù)，使司法機(jī)關(guān)能夠理解人工智能給出建議或預(yù)警的邏輯，減少對(duì)算法黑箱的擔(dān)憂，增強(qiáng)公眾對(duì)人工智能輔助結(jié)果的信任。在安全保障方面，制定人工智能司法應(yīng)用的安全認(rèn)證制度，定期進(jìn)行壓力測試和漏洞檢測。

三是健全監(jiān)管制度。其一，依據(jù)各領(lǐng)域、各地區(qū)人工智能技術(shù)的實(shí)際應(yīng)用情況，制定與之適配的監(jiān)管規(guī)則，可選擇部分司法機(jī)關(guān)或特定類型案件試點(diǎn)，借助沙盒在可控范圍內(nèi)進(jìn)行監(jiān)管測試，充分積累經(jīng)驗(yàn)再逐步推廣。其二，對(duì)于一些新興的人工智能應(yīng)用，要具備前瞻性眼光，提前預(yù)判潛在應(yīng)用可能帶來的風(fēng)險(xiǎn)挑戰(zhàn)，預(yù)先制定監(jiān)管框架，以便在相關(guān)技術(shù)成熟并推廣時(shí)，能夠迅速、有效地進(jìn)行監(jiān)管。其三，按照人工智能司法應(yīng)用的風(fēng)險(xiǎn)等級(jí)、風(fēng)險(xiǎn)類型、數(shù)據(jù)敏感性以及對(duì)社會(huì)的影響程度等因素，進(jìn)行細(xì)致分類，如根據(jù)人工智能司法應(yīng)用是否影響人身權(quán)利、用于輔助性或程序性事務(wù)處理還是僅提供基礎(chǔ)服務(wù)支持等標(biāo)準(zhǔn)，將其風(fēng)險(xiǎn)等級(jí)分為高、中、低三類并分別予以監(jiān)管。

四是加強(qiáng)倫理審查。結(jié)合司法的特點(diǎn)和規(guī)律，針對(duì)人工智能司法應(yīng)用制定倫理準(zhǔn)則，區(qū)分不同場景和案件類型，明確倫理準(zhǔn)則的責(zé)任歸屬，規(guī)定開發(fā)者、使用者和監(jiān)管者各自所應(yīng)承擔(dān)的具體責(zé)任及其相應(yīng)追責(zé)路徑，兼顧人類文明的基本價(jià)值理念與人工智能司法應(yīng)用的長遠(yuǎn)發(fā)展。建立分階段的倫理審查機(jī)制，包括研發(fā)前的評(píng)估審查、研發(fā)中的監(jiān)督審查和研發(fā)后的應(yīng)用審查，對(duì)人工智能司法應(yīng)用項(xiàng)目進(jìn)行全周期倫理評(píng)估，確保符合倫理準(zhǔn)則。

參考文章：

1.李濤：司法人工智能的應(yīng)用邏輯與風(fēng)險(xiǎn)治理｜《行政法學(xué)研究》2025年第5期

2.劉艷紅｜人工智能司法安全風(fēng)險(xiǎn)的算法中心治理模式

3.王福華：人工智能介入司法應(yīng)用面臨制度倫理挑戰(zhàn) | 品茗

4.【重磅首發(fā)】游勸榮：人工智能賦能新時(shí)代審判工作高質(zhì)量發(fā)展的機(jī)遇、挑戰(zhàn)及應(yīng)對(duì)｜中國應(yīng)用法學(xué)

5.張衛(wèi)平、冉博：對(duì)司法智能化應(yīng)用局限性的觀察與思考——以民事司法智能化應(yīng)用為中心

6.未成年人司法引入人工智能：潛在風(fēng)險(xiǎn)與范式重構(gòu)

7.防范AI技術(shù)濫用風(fēng)險(xiǎn) 切實(shí)保護(hù)未成年人身心健康

8.人工智能技術(shù)賦能司法的現(xiàn)實(shí)困境與制度回應(yīng)

9.高艷東 | 人工智能在司法領(lǐng)域的運(yùn)用及風(fēng)險(xiǎn)防控

輿情分析師 劉暢