近日，在深圳市大數據研究院建院十周年暨產學研發展論壇上，研究院與深圳市中級人民法院共同簽署《戰略合作協議》，雙方將聯合開展司法人工智能通用標準研究、技術創新研發與應用場景落地，致力於推動審判體系與審判能力現代化，全面支撐數字法院高質量發展。
作為本次戰略合作的重要成果，深圳市中級人民法院、深圳市大數據研究院與清華大學互聯網司法研究院三方聯合編製並發布《司法領域“智能體技術”應用指南》（以下簡稱《指南》）。本《指南》旨在為法院系統應用智能體技術提供方法論指導、明確應用邊界、提示潛在風險，推動人工智能在司法審判輔助領域實現穩健、審慎、規範的應用。
《指南》提出，人工智能技術（包括大語言模型技術、智能體技術等）在司法領域的研發與應用應遵循以下四項基本原則，包括錨定輔助工具定位：明確人工智能作為輔助工具的屬性，不得替代法官行使審判職能；深度融入審判環節：推動技術與審判流程深度融合，提升司法工作效率與質量；同步落實司法責任：在技術應用過程中始終堅持司法責任主體明確，確保權責清晰；全程確保數據安全：貫徹數據全生命周期安全管理，保障司法數據隱私與系統安全。
此外，《指南》特別指出，智能體技術仍存在不容忽視的安全隱患，其在數據安全、權限管控、惡意利用及系統防護等方面仍存在風險。若未經嚴格約束即應用於司法場景，可能對程序正義、責任歸屬、權限管理及司法公信力造成嚴重衝擊。
具體而言，智能體技術在司法應用中主要存在以下四類風險：（一）權責邊界風險：存在核心司法職權不當轉移的潛在可能；（二）指令理解風險：任務指令可能被曲解或錯誤執行；（三）執行規範風險：能力組件調用與流程執行可能偏離法定程序；（四）系統安全風險：存在越權操作、數據泄露等安全隱患。
為統籌智能體技術的應用潛力與安全風險，《指南》在四項研發原則基礎上，進一步提出以下四項“負面清單”，通過明確禁止性行為框定技術應用的安全底線：
（一）禁止轉授決策性職權：不得將裁判權、審批權等核心司法決策職能交由智能體行使。
（二）禁止注入未治理數據：不得使用未經清洗、脫敏、合規審查的數據訓練或驅動智能體。
（三）禁止應用未認證技能：不得調用未經安全評估、功能認證與合規審核的能力組件。
（四）禁止逾越安全性護欄：不得繞過或破壞系統內置的權限控制、審計跟蹤與風險阻斷機制。
相關人員介紹，該清單旨在以“底線思維”實施技術規制，一方面為技術創新保留合理空間，避免對技術路徑作過度限制；另一方面堅決守住司法倫理與安全紅線，確保智能體應用始終在法治軌道上運行。
采寫：南都n視頻記者 吳靈珊
