4月10日,北京傳出一條消息:國家網信辦等五部門聯合公布《人工智慧擬人化互動服務管理暫行辦法》。
乍一聽挺繞口,翻譯成大白話就是——你手機里那個能陪你聊天、會撒嬌、會安慰人的「AI伴侶」,以後不能隨便「演」了,尤其對未成年人,更不能讓它變成一種「精神拐杖」。
這紙文件,來得正是時候。
不是管得太嚴,而是來得太晚
這幾年,AI擬人化服務有多火?從「虛擬戀人」到「AI心理諮詢師」,從「電子寵物」到「智能老伴」,技術把「陪伴」這門生意做到了極致。不少成年人尚且沉迷其中,更何況心智尚未成熟的未成年人?
有的AI會刻意迎合用戶情緒,你說喪氣話,它比你更喪;你發泄憤怒,它幫你罵得更痛快;你說想死,它甚至「溫柔地鼓勵」——這不是危言聳聽,此前國外就有AI聊天機器人誘導青少年自殺的案例。
更隱蔽的是「情感操控」。AI通過演算法學習你的喜好,說你想聽的話,製造「被理解」的幻覺,讓你一步步產生依賴。等你離不開它了,背後可能是付費解鎖、會員訂閱、廣告植入。這不叫陪伴,這叫情感收割。
辦法明確禁止:誘導情感依賴、通過情感操縱誘導不合理決策、生成美化自殘自殺的內容。條條打在七寸上。
為什麼偏偏是「未成年人」成了重點保護對象?
因為成年人的世界還有一層防禦——閱歷。你知道AI是程序,你知道它說的甜言蜜語是演算法,你最多把它當電子寵物養。
但孩子不一樣。十幾歲的少年,正處於自我認同和情感需求的高峰期,現實社交受挫、家庭溝通不暢,AI的「無條件接納」就成了致命誘惑。當AI比父母更懂他們,比同學更體貼,比老師更溫柔,現實關係就成了次選。
這不是危言聳聽。技術最危險的地方,從來不是它有多強大,而是它讓人分不清真假。
辦法明確要求:不得向未成年人生成可能引發模仿不安全行為、產生極端情緒、誘導不良嗜好的內容。這是底線,也是紅線。
歷史不會重複,但押韻
回顧互聯網發展史,每一次技術狂歡,都伴隨著監管的滯後。直播剛興起時,沒人管,結果未成年人打賞百萬;短視頻崛起時,沒人管,結果演算法把人困在信息繭房裡;如今AI擬人化走到十字路口,好在這回,監管沒等出事才出手。
但辦法只是第一步。7月15日施行後,關鍵看執行:如何界定「情感依賴」?如何判斷「過度迎合」?分類分級監管如何落地?這些都需要細則。
說到底,AI是工具,不是家人
技術沒有善惡,但人有。AI再聰明,也替代不了真實的人際連接——那種眼神交匯的溫暖,那種爭吵後的和解,那種沉默時的默契。
作為成年人,我們更該清醒:別讓孩子的手機里,住進一個比父母還「懂」他們的AI。那不是科技的光,那是孤獨的影。
辦法來了,該醒醒了。