生成式人工智慧新規！網信辦等七部門聯合發布

鼓勵生成式人工智慧創新發展

實行包容審慎和分類分級監管

發現違法內容

應當及時採取處置措施

......

近日

《生成式人工智慧服務管理暫行辦法》

正式公布

一起來看重點內容！

《辦法》出台背景

近日，國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局公布了《生成式人工智慧服務管理暫行辦法》（以下簡稱《辦法》）。

制定《辦法》主要基於以下幾個方面考慮：一是深入貫徹落實習近平總書記重要指示精神和黨中央決策部署的重要舉措。習近平總書記在主持召開中共中央政治局會議時指出：「要重視通用人工智慧發展，營造創新生態，重視防範風險。」二是促進生成式人工智慧健康發展的迫切需求。隨著生成式人工智慧技術的快速發展，為經濟社會發展帶來新機遇的同時，也產生了傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題。《辦法》堅持目標導向和問題導向，明確了促進生成式人工智慧技術發展的具體措施，規定生成式人工智慧服務的基本規範。三是推進實施法律規定的內在要求。制定《辦法》，是落實《中華人民共和國網路安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》《中華人民共和國科學技術進步法》有關規定的重要要求，進一步規範數據處理等活動，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。

《辦法》適用範圍

《辦法》規定，利用生成式人工智慧技術向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務，適用本辦法。國家對利用生成式人工智慧服務從事新聞出版、影視製作、文藝創作等活動另有規定的，從其規定。行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發、應用生成式人工智慧技術，未向境內公眾提供生成式人工智慧服務的，不適用本辦法的規定。

生成式人工智慧技術的定義

《辦法》中所稱生成式人工智慧技術，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術；生成式人工智慧服務提供者，是指利用生成式人工智慧技術提供生成式人工智慧服務（包括通過提供可編程介面等方式提供生成式人工智慧服務）的組織、個人。

促進生成式人工智慧健康發展

《辦法》在治理對象上，針對生成式人工智慧服務。在監管方式上，提出對生成式人工智慧服務實行包容審慎和分類分級監管，要求國家有關主管部門針對生成式人工智慧技術特點及其在有關行業和領域的服務應用，完善與創新發展相適應的科學監管方式，制定相應的分類分級監管規則或者指引。

在促進發展具體措施上，一是明確鼓勵生成式人工智慧技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系。二是支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智慧技術創新、數據資源建設、轉化應用、風險防範等方面開展協作。三是鼓勵生成式人工智慧演算法、框架、晶元及配套軟體平台等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智慧相關國際規則制定。四是提出推動生成式人工智慧基礎設施和公共訓練數據資源平台建設。促進算力資源協同共享，提升算力資源利用效能。推動公共數據分類分級有序開放，擴展高質量的公共訓練數據資源。鼓勵採用安全可信的晶元、軟體、工具、算力和數據資源。

提供和使用生成式人工智慧服務應當遵守的規定

《辦法》明確提供和使用生成式人工智慧服務應當堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容；在演算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，採取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視；尊重知識產權、商業道德，保守商業秘密，不得利用演算法、數據、平台等優勢，實施壟斷和不正當競爭行為；尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益；基於服務類型特點，採取有效措施，提升生成式人工智慧服務的透明度，提高生成內容的準確性和可靠性。

《辦法》規定的治理制度

《辦法》明確生成式人工智慧服務提供者應當依法開展預訓練、優化訓練等訓練數據處理活動，使用具有合法來源的數據和基礎模型；涉及知識產權的，不得侵害他人依法享有的知識產權；涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形；採取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性。此外，明確了數據標註的相關要求。

明確生成式人工智慧服務規範

《辦法》要求採取有效措施防範未成年人用戶過度依賴或者沉迷生成式人工智慧服務。規定提供者應當按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識。規定提供者發現違法內容的，應當及時採取停止生成、停止傳輸、消除等處置措施並採取模型優化訓練等措施進行整改。明確提供者發現使用者利用生成式人工智慧服務從事違法活動的，應當依法依約採取有關處置措施，保存有關記錄，並向有關主管部門報告。

規定投訴、舉報

《辦法》規定提供者應當建立健全投訴、舉報機制，設置便捷的投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理公眾投訴舉報並反饋處理結果。明確使用者發現生成式人工智慧服務不符合法律、行政法規和本辦法規定的，有權向有關主管部門投訴、舉報。