代碼大模型安全規範正式定稿，中國信通院啟動首輪評估

it之家 6 月 20 日消息，近年來，代碼大模型已成為企業研發人員輔助編程必備助手，能夠生成、翻譯、補全代碼，幫助定位和修復錯誤。然而，代碼大模型背後隱藏的風險挑戰還有待討論。

中國信息通信研究院（以下簡稱「中國信通院」）依託中國人工智慧產業發展聯盟（aiia），聯合業內近 30 家單位共同編製了《代碼大模型安全風險防範能力要求及評估方法》規範（簡稱「規範」），聚焦代碼大模型的安全能力，從基礎功能出發，評估代碼大模型的基礎能力和安全風險防範能力。

2024 年 6 月 18 日，規範第三次研討會成功舉辦，對規範內容做出進一步的完善和修訂，現已完成定稿。

it之家附部分參編單位如下（排名不分先後）：

• 中國信息通信研究院

• 北京百度網訊科技有限公司

• 科大訊飛股份有限公司

• 螞蟻科技集團股份有限公司

• 中國郵儲銀行

• 中國民生銀行

• 中債金科信息技術有限公司

• 交通銀行

• 華夏銀行

• 龍盈智達（北京）科技有限公司

• 北京市商湯科技開發有限公司

• 阿里雲計算有限公司

• 北京大學

• 小米移動軟體有限公司

• 維沃移動通信有限公司

• 海信視像科技股份有限公司

• 浪潮軟體科技有限公司

• 北京雲起無垠科技有限公司

• 浙江大學濱江研究院

• 廣東拓思軟體科學園有限公司

• 浙江御安信息技術有限公司

• 萬商天勤（上海）律師事務所

• 深圳開源互聯網安全技術有限公司

據介紹，規範的制定旨在全面評估代碼大模型在安全風險防範方面的能力，通過分析和測試，確保模型在各個關鍵環節的安全性能。

本規範的評估不僅包括代碼大模型的核心功能，也涵蓋了與之相關的多個細分領域，如數據集、演算法、模型、網路以及服務等。

根據評估結果，規範將確定代碼大模型的安全能力級別，為模型的進一步優化和安全加固提供指導，同時也為用戶從安全性角度提供選型依據。

目前，中國信通院正式啟動首輪代碼大模型安全風險防範能力試評估工作，報名將於 8 月底截止，預計年底發布評估結果。