最近打開社交平台，一些筆記多了個“AI生成”的標誌。有人用AI讓古畫里的貓靈動起舞，有數字藝術家借AI打造東方神話主題短片，與此同時，一批靠機器批量生產內容的賬號，也被平台限流甚至下架。
面對AI，平台究竟該扮演什麼角色？是雙手插兜的旁觀者，還是主動介入的守夜人？近日，小紅書首次系統發布了AI治理主張，鼓勵AI作為創意放大器，反對AI作為造假工具與低質內容生產機器。這種鮮明的態度，切中當下互聯網內容生態的普遍痛點。
“數字泔水”泛濫，治理不是“選修課”
AI工具正在改變內容生產的整體面貌。過去需要經過專業訓練、耗費數小時才能完成的文案撰寫、配圖生成、視頻製作，如今短短几分鐘就能落地。創作門檻的大幅降低，實實在在幫不少創作者突破了創作瓶頸。
例如央美畢業的一方專攻宋代院體畫，一幅作品往往要耗時近一個月。2024年末起，她開始嘗試用AI為畫作賦予動態，讓小龍貓角色可以實現穿雲而過的效果，靜態的國畫由此有了呼吸感，傳統文化的表達也找到了新的出口。
創作者@一方畫貓呢 利用AI讓國畫動起來的視頻截圖
但技術便利的另一面，是失序的蔓延。有人用AI換臉偽造名人視頻帶貨，有人批量生成“真人測評”筆記做矩陣號，有人把聊天記錄、消費憑證等截圖用AI篡改後當作“親測”經歷發布，還有人靠AI“託管”賬號實現全自動發文、回帖、互動。流水線上批量灌裝的“數字泔水”，稀釋了真實分享的空間。等到虛假內容傳播開來再刪帖封號，人工審核根本追不上機器的腳步。
面對這一態勢，被動應對已遠遠不夠。國家層面，國家互聯網信息辦公室等四部門聯合印發《人工智能生成合成內容標識辦法》，自2025年9月1日起施行，明確“規範人工智能生成合成內容標識，保護公民、法人和其他組織合法權益，維護社會公共利益”。此後，中央網信辦部署“清朗·2026年營造喜慶祥和春節網絡環境”專項行動，督促網站平台集中整治借AI生成傳播“數字泔水”等垃圾信息問題。
從建章立制到專項行動，國家層面的信號已經清晰，這也意味着，平台的AI治理不能再停留於“頭痛醫頭”的零散規則，必須走向體系化的頂層設計。
要刻度，也要溫度
AI治理的核心價值在於“有所鼓勵、有所禁止”的清晰態度。在鼓勵方向上，小紅書支持用AI將複雜知識轉化為可視化科普，支持創作者獨立設計的原創虛擬角色，以及有審美、有敘事邏輯的短片。公域流量將優先傾斜給那些具備審美、敘事與真實信息增量的優質內容。同時，要求AI生成內容必須主動標識，引入社區用戶參與監督，還上線了專屬申訴通道，既把知情權還給了用戶，也為合規創作者留出了空間。
與之對應的，是四條清晰、具體的行為紅線。小紅書明確制止四類行為：AI違規運營，包括利用AI教唆做號、AI及第三方託管批量運營賬號；AI造假行為，包括仿冒名人、虛構人設信息、偽造經歷、魔改經典、低差營銷；AI侵權行為，侵犯肖像權和著作權；利用AI進行低質創作，傳播不良價值觀、生成獵奇內容、批量生產同質化內容。
事實上，對AI亂象的治理並非個別平台的單打獨鬥。今年以來，行業共識正在加速落地：微信在二季度批量處置了大量AI自動化創作內容，對機器批量灌裝的營銷號實施梯度處罰；紅果短劇一季度下架違規漫劇1718部，用硬性門檻為內容質量托底；小紅書通過密集迭代規則，在2月明確AI生成內容須主動標識、3月重拳整治AI託管賬號，對全自動運營、冒充真人互動的行為予以嚴格打擊。各平台看似打法不同，實則殊途同歸——從源頭壓縮劣幣驅逐良幣的生存空間，在保障用戶知情權與創作者權益的同時，牢牢守住內容社區“真人、真心、真分享”的核心根基。
治理的重點從來不是AI工具本身，而是那些“用AI替代真實、消解真實”的行為。對於能輔助真實表達、提升創作效率的AI應用，平台持開放態度；對缺乏真實經驗支撐、可以批量複製、不斷侵蝕用戶信任基礎的內容，則持續清理。
AI治理從來沒有放之四海而皆準的統一模板。短視頻、資訊類、長視頻平台的用戶構成各不相同，治理方案自然不能一概而論。但無論形態如何變化，行業底線是共通的：不能放任機器內容淹沒真人創作。唯有以清晰規則引導技術向善，以主動作為守護生態底色，才能讓技術真正服務於人的創作與表達。
技術奔流不息，內容生態的治理挑戰也將長期存在。小紅書此次發布 AI 治理主張，是一次以“真實”為核心競爭力的線上內容社區對技術邊界的主動探索。當越來越多的平台開始從被動應對走向主動立規，行業才有可能在創新與秩序之間找到可持續的平衡。
歸根結底，技術可以生成無限趨近完美的畫布，但唯有真實的人生經歷與真誠的情感表達，才能在畫布上繪就真正有溫度、有生命力的作品。
來源：新華社、中國青年網
以上圖片版權均歸作者所有
