中新經(jīng)緯2月26日電 (袁媛)2026年被業(yè)內(nèi)視為“智能體加速落地期”，人工智能正從單純的對(duì)話工具走向能夠自主執(zhí)行任務(wù)的智能體系統(tǒng)。用戶只需一句指令，智能體就可以跨應(yīng)用完成查詢信息、下單支付、發(fā)送消息等復(fù)雜操作，逐漸成為連接不同應(yīng)用場(chǎng)景的“數(shù)字代理”。

　　但在便利不斷提升的同時(shí)，新的風(fēng)險(xiǎn)也在顯現(xiàn)。2月24日，在對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心舉辦的“智能體的高質(zhì)量發(fā)展與治理路徑”研討會(huì)上，多位專家與業(yè)內(nèi)人士圍繞智能體安全、隱私保護(hù)與責(zé)任歸屬問題展開討論。

　　權(quán)利“梭哈”真的好嗎？

　　與傳統(tǒng)大模型相比，智能體最大的變化在于具備行動(dòng)能力。智能體通常由感知、記憶、規(guī)劃和執(zhí)行等多個(gè)模塊構(gòu)成，能夠調(diào)用工具并自動(dòng)完成任務(wù)。

　　北京郵電大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副教授李朝卓指出，智能體具備更強(qiáng)自主性，但也因此引入更復(fù)雜的安全隱患。例如在感知層面可能出現(xiàn)模型幻覺與錯(cuò)誤理解，在規(guī)劃層面可能形成偏離初衷的惡意規(guī)劃，而在工具調(diào)用層面則存在API(應(yīng)用程序編程接口)濫用、工具劫持與權(quán)限失控等風(fēng)險(xiǎn)。

　　智能體逐步介入應(yīng)用運(yùn)行邏輯，原有的軟件生態(tài)也在發(fā)生變化。智能體風(fēng)險(xiǎn)往往集中體現(xiàn)在資金安全、個(gè)人信息保護(hù)以及內(nèi)容與倫理邊界等方面。

　　小紅書技術(shù)合規(guī)負(fù)責(zé)人田云飛表示，隨著智能體介入應(yīng)用運(yùn)行邏輯，用戶授權(quán)給智能體更高的自由度。傳統(tǒng)APP相對(duì)閉環(huán)服務(wù)的生態(tài)邊界受到挑戰(zhàn)，過去承擔(dān)的是與用戶完整交互的角色，如今已變成內(nèi)容或服務(wù)的提供者。

　　智能體通常還依賴長(zhǎng)期記憶機(jī)制與跨應(yīng)用調(diào)用能力，這意味著用戶需要一次性授權(quán)更多權(quán)限。螞蟻集團(tuán)隱私保護(hù)研究中心主任李海英指出，手機(jī)智能體往往通過調(diào)用無障礙組件及系統(tǒng)級(jí)權(quán)限實(shí)現(xiàn)跨應(yīng)用操作，這種底層權(quán)限整合在提升效率的同時(shí)，也對(duì)用戶知情權(quán)與同意權(quán)構(gòu)成挑戰(zhàn)。

　　在資金安全方面，智能體執(zhí)行能力的提升使攻擊路徑更加復(fù)雜。GEEKCON(新極棒)技術(shù)負(fù)責(zé)人肖軒淦以AI眼鏡為例，展示了攻擊者在取得設(shè)備控制權(quán)后，可進(jìn)一步竊取用戶支付信息并實(shí)施盜刷，暴露出硬件平臺(tái)安全、身份認(rèn)證機(jī)制以及隱私合規(guī)管理等方面的薄弱環(huán)節(jié)。此外，在手機(jī)智能體場(chǎng)景中，如果系統(tǒng)權(quán)限控制與行為校驗(yàn)機(jī)制不足，智能體甚至可能被惡意操縱，通過發(fā)送偽裝短信誘導(dǎo)用戶泄露手機(jī)銀行驗(yàn)證碼，從而形成鏈?zhǔn)焦麸L(fēng)險(xiǎn)。他強(qiáng)調(diào)，當(dāng)前智能體生態(tài)呈現(xiàn)“功能先行、安全滯后”的發(fā)展態(tài)勢(shì)，安全問題不再局限于模型層面，而是貫穿硬件、系統(tǒng)接口、應(yīng)用場(chǎng)景與用戶交互全過程。

　　隱私風(fēng)險(xiǎn)同樣受到關(guān)注。李海英指出，視覺驅(qū)動(dòng)型智能體在執(zhí)行任務(wù)過程中可能通過錄屏或界面解析方式獲取頁(yè)面信息，其數(shù)據(jù)處理路徑及是否上傳云端往往缺乏透明度，使“最小必要原則”的落實(shí)面臨現(xiàn)實(shí)困難。

　　面壁智能法律業(yè)務(wù)線解決方案總監(jiān)邵帥表示，智能體應(yīng)用正在重塑隱私與責(zé)任結(jié)構(gòu)，風(fēng)險(xiǎn)從“平臺(tái)內(nèi)靜態(tài)存儲(chǔ)”轉(zhuǎn)向“跨場(chǎng)景動(dòng)態(tài)流轉(zhuǎn)”。在自動(dòng)化執(zhí)行鏈條中，數(shù)據(jù)跨系統(tǒng)調(diào)用、拼接與畫像生成日益常態(tài)化，用戶卻難以實(shí)時(shí)感知其權(quán)限邊界與執(zhí)行路徑。一旦發(fā)生錯(cuò)誤或泄露，責(zé)任在模型、平臺(tái)與用戶之間分布式擴(kuò)散，現(xiàn)行法律框架面臨新的治理挑戰(zhàn)。

　　出了事誰負(fù)責(zé)？

　　面對(duì)不斷顯現(xiàn)的風(fēng)險(xiǎn)，與會(huì)專家普遍認(rèn)為，應(yīng)在技術(shù)推廣初期就建立基本治理規(guī)則。

　　自由討論環(huán)節(jié)中，有專家提出，智能體治理的底線可聚焦三個(gè)方面：一是權(quán)限分級(jí)與用戶授權(quán)機(jī)制，避免一次性獲取過多權(quán)限；二是關(guān)鍵操作流程可審計(jì)，使系統(tǒng)行為可以追溯；三是面向用戶的透明公示與風(fēng)險(xiǎn)提示機(jī)制，讓用戶能夠理解授權(quán)可能帶來的后果。

　　在技術(shù)層面，應(yīng)通過工程化手段實(shí)現(xiàn)風(fēng)險(xiǎn)控制。美團(tuán)數(shù)據(jù)與隱私保護(hù)法務(wù)負(fù)責(zé)人朱玲鳳指出，智能體治理應(yīng)圍繞“動(dòng)作可控、輸入可控、生態(tài)可控、記憶可控”構(gòu)建控制體系，通過最小權(quán)限、預(yù)算限制、熔斷回滾等機(jī)制，使智能體能夠在可控條件下運(yùn)行。

　　北京大學(xué)光華管理學(xué)院應(yīng)用經(jīng)濟(jì)系長(zhǎng)聘教授翁翕則從更宏觀角度提醒，在智能體高度介入的環(huán)境下，人類“慢自我”的反思與糾偏能力可能被削弱，公共政策目標(biāo)需要在人工智能的建構(gòu)理性與人類有限理性之間重新尋找平衡。

　　2025年9月上海徐匯區(qū)法院一審判決AI伴侶聊天應(yīng)用APP“AC(Alien Chat)”的兩名開發(fā)/運(yùn)營(yíng)者構(gòu)成制作淫穢物品牟利罪，分別獲刑四年、一年半。這款A(yù)I伴侶聊天應(yīng)用，定位是為年輕群體提供親密陪伴和情感支持。用戶在AC注冊(cè)會(huì)員后，可與AI聊天。其中，高頻次、大比例的聊天記錄，在案發(fā)后被法院認(rèn)定為淫穢物品。

　　在案件審理過程中，各方對(duì)責(zé)任歸屬問題存在明顯分歧。一種觀點(diǎn)認(rèn)為，相關(guān)內(nèi)容由算法自動(dòng)生成，開發(fā)者并非直接“生產(chǎn)者”，平臺(tái)提供的只是技術(shù)工具，責(zé)任不應(yīng)簡(jiǎn)單歸于服務(wù)提供者；另一種觀點(diǎn)則認(rèn)為，開發(fā)者通過模型訓(xùn)練、提示詞設(shè)計(jì)及功能設(shè)置，對(duì)內(nèi)容生成具有實(shí)質(zhì)性控制能力，應(yīng)當(dāng)對(duì)系統(tǒng)運(yùn)行結(jié)果承擔(dān)主要責(zé)任。也有法律界人士指出，智能體在接受用戶模糊指令后，通過上下文推理形成輸出結(jié)果，其運(yùn)行機(jī)制具有一定不可預(yù)見性，傳統(tǒng)以“行為人—行為結(jié)果”為基礎(chǔ)的責(zé)任認(rèn)定方式正面臨挑戰(zhàn)。

　　人工智能責(zé)任問題已經(jīng)開始從理論討論走向現(xiàn)實(shí)司法實(shí)踐，“用戶、服務(wù)商與技術(shù)系統(tǒng)之間如何分配責(zé)任”成為智能體治理中亟待回答的核心問題之一。

　　北京交通大學(xué)法學(xué)院副教授付新華指出，智能體具備自主決策與自動(dòng)執(zhí)行能力，使用戶與服務(wù)提供者都難以實(shí)現(xiàn)全過程控制，容易在現(xiàn)有制度框架下形成責(zé)任斷裂。她認(rèn)為，現(xiàn)行法律條件下難以賦予人工智能獨(dú)立主體資格，也不能簡(jiǎn)單將智能體等同于用戶代理人，智能體更應(yīng)被理解為介于工具與主體之間的中間構(gòu)造，需要通過多主體協(xié)同治理形成責(zé)任重疊機(jī)制。

　　中國(guó)政法大學(xué)法與經(jīng)濟(jì)學(xué)研究院副教授謝堯雯指出，手機(jī)智能體在操作系統(tǒng)層與應(yīng)用層之間嵌入了“數(shù)字代理層”，能夠理解用戶意圖并自主調(diào)用服務(wù)，這改變了數(shù)字交互的資源調(diào)度邏輯與控制權(quán)歸屬，也引發(fā)兩類核心關(guān)切。其一，智能體可能通過算法實(shí)施自我優(yōu)待或歧視性接入，在資源調(diào)度層面存在減損公平競(jìng)爭(zhēng)秩序的風(fēng)險(xiǎn)。其二，在控制權(quán)層面存在責(zé)任界定難題。為此，有必要依據(jù)風(fēng)險(xiǎn)等級(jí)建立分級(jí)干預(yù)機(jī)制：在高風(fēng)險(xiǎn)場(chǎng)景中保留人類最終審查與決策權(quán)，在低風(fēng)險(xiǎn)領(lǐng)域賦予智能體更大自主空間。(中新經(jīng)緯APP)

　　中新經(jīng)緯版權(quán)所有，未經(jīng)授權(quán)，不得轉(zhuǎn)載或以其他方式使用。