◎文 《法治日?qǐng)?bào)》記者 辛紅 《法人》見(jiàn)習(xí)記者 姚瑤
9月2日,機(jī)器人企業(yè)宇樹(shù)科技在社交平臺(tái)上宣布,公司預(yù)計(jì)在2025年第四季度向證券交易所提交申報(bào)文件,屆時(shí)相關(guān)運(yùn)營(yíng)數(shù)據(jù)將正式披露。這意味著,這個(gè)曾在春晚爆火出圈的科技企業(yè)即將上市。消息公開(kāi)后,立即獲得市場(chǎng)關(guān)注。
如今,我國(guó)具身機(jī)器人既能在世界人形機(jī)器人運(yùn)動(dòng)會(huì)中取得優(yōu)異成績(jī),也能在不同場(chǎng)景應(yīng)用中落地。然而,在產(chǎn)業(yè)狂飆的背后,具身機(jī)器人的數(shù)據(jù)安全問(wèn)題隨之浮現(xiàn)。具身機(jī)器人依賴(lài)傳感器采集環(huán)境數(shù)據(jù),采集的內(nèi)容涉及人臉、聲音、地理位置等敏感信息,企業(yè)將如何面對(duì)其中的法律風(fēng)險(xiǎn)?又應(yīng)如何平衡具身機(jī)器人的技術(shù)創(chuàng)新與隱私保護(hù)?
▲8月9日,以“讓機(jī)器人更智慧,讓具身體更智能”為主題的2025世界機(jī)器人大會(huì)在北京舉行,匯聚200余家企業(yè)、1500余件創(chuàng)新產(chǎn)品,其中包括100余款首發(fā)新品。 CFP
近日,《法人》記者采訪了北京盈科數(shù)字經(jīng)濟(jì)和人工智能研究會(huì)主任王風(fēng)和、北京金誠(chéng)同達(dá)(上海)律師事務(wù)所管理合伙人、高級(jí)合伙人張?jiān)蒲嘁约氨本┦锌颠_(dá)律師事務(wù)所高級(jí)合伙人茍博程三位專(zhuān)家,談?wù)劸呱頇C(jī)器人在數(shù)據(jù)安全和保護(hù)方面的法律熱點(diǎn)。
開(kāi)發(fā)企業(yè)面臨三重法律風(fēng)險(xiǎn)
記者:具身機(jī)器人在運(yùn)行過(guò)程中需要采集環(huán)境數(shù)據(jù),其開(kāi)發(fā)企業(yè)將可能面臨哪些法律風(fēng)險(xiǎn)?
張?jiān)蒲啵耗壳皝?lái)看,最大的風(fēng)險(xiǎn)主要體現(xiàn)在個(gè)人隱私保護(hù)、知識(shí)產(chǎn)權(quán)保護(hù)、數(shù)據(jù)跨境三個(gè)方面。首先,在個(gè)人隱私保護(hù)方面,如果企業(yè)在采集數(shù)據(jù)時(shí)未取得用戶(hù)的知情同意,或超出“最小必要”范圍,就可能違反《中華人民共和國(guó)個(gè)人信息保護(hù)法》(以下簡(jiǎn)稱(chēng)“個(gè)人信息保護(hù)法”),不僅面臨行政處罰,還可能引發(fā)大規(guī)模的人格權(quán)訴訟。
其次,涉及知識(shí)產(chǎn)權(quán)保護(hù),尤其是當(dāng)機(jī)器人需要處理或存儲(chǔ)文本、圖像、視頻等內(nèi)容時(shí),如果這些數(shù)據(jù)本身受到著作權(quán)、商標(biāo)權(quán)保護(hù),而企業(yè)未取得授權(quán),就可能構(gòu)成知識(shí)產(chǎn)權(quán)侵權(quán)。
最后,在數(shù)據(jù)跨境傳輸環(huán)節(jié),如果機(jī)器人依賴(lài)云端服務(wù)或跨境算力,或有意與境外企業(yè)開(kāi)展產(chǎn)學(xué)研合作,企業(yè)若未經(jīng)安全評(píng)估就將數(shù)據(jù)傳出境,會(huì)觸碰《中華人民共和國(guó)數(shù)據(jù)安全法》(以下簡(jiǎn)稱(chēng)“數(shù)據(jù)安全法”)《數(shù)據(jù)出境安全評(píng)估辦法》的合規(guī)紅線。
王風(fēng)和:為平衡AI數(shù)據(jù)采集需求與用戶(hù)隱私保護(hù),企業(yè)應(yīng)采取技術(shù)、管理、法律等多維度措施,強(qiáng)化數(shù)據(jù)保護(hù)、合規(guī)管理、技術(shù)倫理和問(wèn)責(zé)機(jī)制,實(shí)現(xiàn)AI技術(shù)的可持續(xù)發(fā)展與用戶(hù)隱私保護(hù)的平衡。
記者:在技術(shù)開(kāi)源方面,具身機(jī)器人企業(yè)是否會(huì)面臨一些容易被忽視的法律風(fēng)險(xiǎn)?
張?jiān)蒲啵涸诩夹g(shù)開(kāi)源方面,企業(yè)很有可能面臨知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)。很多機(jī)器人底層軟件、模型用的都是開(kāi)源資源以節(jié)省成本,用的比較多的就是大語(yǔ)言模型,如DeepSeek。但是大語(yǔ)言模型很多訓(xùn)練用語(yǔ)料都來(lái)自于所謂的“公開(kāi)資源”,其本身就可能存在權(quán)利瑕疵。例如,ChatGPT就是因?yàn)橛?xùn)練時(shí)包含《紐約時(shí)報(bào)》的語(yǔ)料而被起訴索賠。如果企業(yè)盲目使用開(kāi)源模型制作產(chǎn)品,就可能侵犯他人權(quán)利。
王風(fēng)和:技術(shù)開(kāi)源與知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)是研發(fā)環(huán)節(jié)最典型的“內(nèi)嵌陷阱”,這個(gè)問(wèn)題有點(diǎn)復(fù)雜,經(jīng)營(yíng)者要高度重視,否則會(huì)帶來(lái)潛在的法律風(fēng)險(xiǎn)。比如,開(kāi)源協(xié)議并非意味著“免費(fèi)隨意使用”,例如,部分開(kāi)源協(xié)議(如Apache 2.0)包含明確的專(zhuān)利授權(quán)條款,貢獻(xiàn)者會(huì)授予使用者相關(guān)專(zhuān)利的許可,但協(xié)議錯(cuò)綜復(fù)雜,可能存在未明確聲明的專(zhuān)利風(fēng)險(xiǎn)。公司使用了某個(gè)開(kāi)源組件,但其功能可能無(wú)意侵犯了第三方的某項(xiàng)專(zhuān)利(該專(zhuān)利并未包含在開(kāi)源協(xié)議的授權(quán)中),從而導(dǎo)致隱蔽的專(zhuān)利侵權(quán),其復(fù)雜性會(huì)給商業(yè)產(chǎn)品帶來(lái)巨大風(fēng)險(xiǎn)。
數(shù)據(jù)合規(guī)是核心問(wèn)題
記者:具身機(jī)器人企業(yè)應(yīng)如何平衡數(shù)據(jù)采集需求與用戶(hù)隱私保護(hù)?
王風(fēng)和:數(shù)據(jù)采集與用戶(hù)隱私保護(hù)是一體兩面,二者都要做好,不能偏廢,需要構(gòu)建平衡的機(jī)制。這里的平衡并非意味著“犧牲業(yè)務(wù)保安全”,而是通過(guò)架構(gòu)化、流程化的設(shè)計(jì),將隱私保護(hù)內(nèi)嵌于業(yè)務(wù)流程之中,實(shí)現(xiàn)“合規(guī)驅(qū)動(dòng)增長(zhǎng)”的良好局面。
具體來(lái)講,首先在開(kāi)發(fā)新產(chǎn)品、新功能的最初階段就引入法務(wù)、合規(guī)、安全團(tuán)隊(duì),進(jìn)行隱私影響評(píng)估(PIA),而不是事后補(bǔ)救。比如,建立數(shù)據(jù)分類(lèi)分級(jí)制度,因?yàn)椴皇撬袛?shù)據(jù)都需要同等級(jí)別的保護(hù)。對(duì)企業(yè)收集的數(shù)據(jù)(如個(gè)人普通信息、個(gè)人敏感信息、非個(gè)人信息)進(jìn)行分類(lèi)和分級(jí),并據(jù)此制定不同的采集、存儲(chǔ)和訪問(wèn)控制策略。同時(shí)建議設(shè)立數(shù)據(jù)保護(hù)官一職,對(duì)于處理大量個(gè)人信息的企業(yè),應(yīng)設(shè)立專(zhuān)職的數(shù)據(jù)保護(hù)負(fù)責(zé)人(DPO),負(fù)責(zé)監(jiān)督企業(yè)的數(shù)據(jù)合規(guī)工作。
其實(shí),數(shù)據(jù)的采集和隱私保護(hù)的核心是數(shù)據(jù)合規(guī)問(wèn)題,若希望企業(yè)行穩(wěn)致遠(yuǎn),數(shù)據(jù)采集的合規(guī)性是必須要面對(duì)的課題。企業(yè)過(guò)去不太重視數(shù)據(jù)的合規(guī)性,企業(yè)須從根本上轉(zhuǎn)變思維,數(shù)據(jù)資產(chǎn)的合規(guī)才是企業(yè)底層資產(chǎn)的信任基礎(chǔ),數(shù)據(jù)資產(chǎn)的依法合規(guī)、可持續(xù)增長(zhǎng)才是品牌的核心競(jìng)爭(zhēng)力。
記者:具身機(jī)器人企業(yè)應(yīng)如何保護(hù)已采集的數(shù)據(jù)安全?為滿(mǎn)足數(shù)據(jù)安全合規(guī)要求,企業(yè)應(yīng)采取哪些措施?
茍博程:可通過(guò)數(shù)據(jù)分類(lèi)分級(jí)與加密技術(shù),對(duì)敏感數(shù)據(jù)進(jìn)行識(shí)別,例如,對(duì)視覺(jué)、語(yǔ)音、生物特征等隱私數(shù)據(jù)進(jìn)行分類(lèi)分級(jí),采用差分隱私(如添加噪聲)和聯(lián)邦學(xué)習(xí)技術(shù)(一種AI訓(xùn)練方法),降低數(shù)據(jù)關(guān)聯(lián)性。采用端到端加密,確保數(shù)據(jù)鏈路安全。例如,鴻道操作系統(tǒng)通過(guò)微內(nèi)核架構(gòu)和加密通信協(xié)議保障數(shù)據(jù)傳輸安全。
另外,還可將訪問(wèn)控制與權(quán)限隔離,限制數(shù)據(jù)訪問(wèn)范圍,如通過(guò)角色權(quán)限管理(RBAC)和硬件隔離技術(shù)(如物理隔離開(kāi)發(fā)環(huán)境)防止越權(quán)操作??梢栽谶吘壴O(shè)備(如微控制器)中劃分安全區(qū)域,確保關(guān)鍵指令僅在內(nèi)核態(tài)執(zhí)行。此外,還要注意數(shù)據(jù)生命周期的管理,訓(xùn)練數(shù)據(jù)集進(jìn)行去標(biāo)識(shí)化處理,明確數(shù)據(jù)保留期限,定期安全擦除過(guò)期數(shù)據(jù),記錄數(shù)據(jù)操作日志,結(jié)合區(qū)塊鏈技術(shù)實(shí)現(xiàn)數(shù)據(jù)流轉(zhuǎn)可追溯。
記者:有企業(yè)擔(dān)心,對(duì)數(shù)據(jù)安全的要求可能會(huì)增加成本,也可能限制產(chǎn)品功能實(shí)現(xiàn)。對(duì)此,你怎樣看?
茍博程:可通過(guò)技術(shù)優(yōu)化降低成本。例如,開(kāi)發(fā)數(shù)據(jù)隱私影響評(píng)估(PIA)工具,自動(dòng)識(shí)別高風(fēng)險(xiǎn)數(shù)據(jù)處理場(chǎng)景并生成合規(guī)建議。企業(yè)也可以?xún)H采集必要數(shù)據(jù),通過(guò)語(yǔ)義理解減少冗余傳感器輸入,同時(shí)提供隱私設(shè)置界面,允許用戶(hù)選擇關(guān)閉非必要功能。
政策引導(dǎo)和行業(yè)協(xié)作也較為重要,如果能推動(dòng)統(tǒng)一的數(shù)據(jù)格式和共享協(xié)議,則可降低企業(yè)重復(fù)開(kāi)發(fā)成本。此外,政府也可適當(dāng)給予補(bǔ)貼與稅收優(yōu)惠,例如,對(duì)采用隱私增強(qiáng)技術(shù)(PETs)的企業(yè)給予研發(fā)補(bǔ)貼。
建議構(gòu)建數(shù)據(jù)安全保護(hù)屏障
記者:當(dāng)前我國(guó)各地出臺(tái)的監(jiān)管細(xì)則標(biāo)準(zhǔn)不一,是否應(yīng)建立全國(guó)統(tǒng)一標(biāo)準(zhǔn),對(duì)此有何建議?
茍博程:當(dāng)前各地標(biāo)準(zhǔn)側(cè)重不同,導(dǎo)致企業(yè)跨區(qū)域合規(guī)成本高,在技術(shù)壁壘方面也缺乏統(tǒng)一的測(cè)試認(rèn)證體系,無(wú)法實(shí)現(xiàn)產(chǎn)業(yè)鏈協(xié)同創(chuàng)新。《上海市具身智能產(chǎn)業(yè)發(fā)展實(shí)施方案》支持企業(yè)、高校和科研院所聯(lián)合研發(fā)多模態(tài)數(shù)據(jù)融合處理技術(shù),打造自主操作系統(tǒng),搭建模型、數(shù)據(jù)、算法、操作系統(tǒng)、工具鏈等全要素開(kāi)源體系?!逗贾菔写龠M(jìn)具身智能機(jī)器人產(chǎn)業(yè)發(fā)展條例(草案)》提出,探索構(gòu)建分級(jí)分類(lèi)監(jiān)管體系與沙盒監(jiān)管機(jī)制,依法推動(dòng)市政、交通、文旅、自然資源等與具身智能機(jī)器人應(yīng)用環(huán)境相關(guān)的重點(diǎn)領(lǐng)域公共數(shù)據(jù)開(kāi)放共享。建議設(shè)定框架性國(guó)家標(biāo)準(zhǔn)時(shí)參考《人形機(jī)器人分類(lèi)分級(jí)應(yīng)用指南》(L1-L4技術(shù)等級(jí)),制定數(shù)據(jù)安全、倫理審查等基礎(chǔ)性標(biāo)準(zhǔn)。鼓勵(lì)上海、北京等地先行先試,通過(guò)產(chǎn)業(yè)聯(lián)盟(如國(guó)家、地方共建具身智能創(chuàng)新中心)推動(dòng)標(biāo)準(zhǔn)互認(rèn)。在國(guó)際標(biāo)準(zhǔn)對(duì)接方面,建議融入ISO/IEC JTC1/SC42(人工智能標(biāo)準(zhǔn)委員會(huì))框架,提升國(guó)際話(huà)語(yǔ)權(quán)。
記者:如果具身機(jī)器人開(kāi)發(fā)企業(yè)不注重這些風(fēng)險(xiǎn),可能帶來(lái)什么后果?尤其是初創(chuàng)企業(yè),哪些制度必不可少?
張?jiān)蒲啵浩髽I(yè)在采集、處理和存儲(chǔ)用戶(hù)數(shù)據(jù)時(shí),如果不嚴(yán)格遵守法律法規(guī),很容易觸碰個(gè)人信息保護(hù)法和數(shù)據(jù)安全法的紅線。比如,沒(méi)有取得用戶(hù)同意就采集敏感信息,或者數(shù)據(jù)存儲(chǔ)和跨境傳輸不符合要求,都可能帶來(lái)行政處罰、民事賠償甚至商譽(yù)損害等風(fēng)險(xiǎn)。所以企業(yè)要建立全流程數(shù)據(jù)管理機(jī)制,做到依法合規(guī)收集、最小必要原則、去標(biāo)識(shí)化處理,同時(shí)明確用戶(hù)告知和授權(quán)流程,讓數(shù)據(jù)利用在合規(guī)、安全的前提下進(jìn)行。
王風(fēng)和:企業(yè)在擁抱科技浪潮的同時(shí),必須將“科技合規(guī)”與“法律風(fēng)控”提升到戰(zhàn)略高度,將其內(nèi)化為企業(yè)核心競(jìng)爭(zhēng)力。
具體來(lái)說(shuō),在數(shù)據(jù)安全方面,要構(gòu)建安全與隱私保護(hù)屏障,在產(chǎn)品架構(gòu)中內(nèi)置安全模塊(如數(shù)據(jù)加密、安全啟動(dòng)、入侵檢測(cè))。優(yōu)先采用匿名化、聯(lián)邦學(xué)習(xí)等技術(shù),在源頭上減少數(shù)據(jù)風(fēng)險(xiǎn)。
同時(shí),建立AI科技公司雙層公司治理機(jī)制,落實(shí)全面風(fēng)控,開(kāi)放合作共贏。建立在公司法基礎(chǔ)上更嚴(yán)格的公司治理體系,進(jìn)行全面科學(xué)AI知識(shí)產(chǎn)權(quán)布局,防止新科技、新方法被侵犯,積極申請(qǐng)核心專(zhuān)利,構(gòu)建專(zhuān)利池,逐漸自然形成技術(shù)壁壘和科技競(jìng)爭(zhēng)優(yōu)勢(shì)。
此外,應(yīng)用開(kāi)源技術(shù),應(yīng)確保新產(chǎn)品不侵犯他人權(quán)利,也要防止開(kāi)源協(xié)議隱含的合規(guī)風(fēng)險(xiǎn)。企業(yè)運(yùn)營(yíng)者要建立危機(jī)應(yīng)對(duì)機(jī)制,制定詳細(xì)的數(shù)據(jù)泄露、安全事故、產(chǎn)品召回等應(yīng)急預(yù)案,并進(jìn)行演練,確保在危機(jī)發(fā)生時(shí)能夠迅速、妥善地響應(yīng),最大限度減少損失。
審核|白馗 王婧 渠洋
校對(duì)|惠寧寧 張雪慧 張波
編輯:張波