別讓「電子伴侶」成了「情感鴉片」:五部門重拳整頓AI擬人化

4月10日,北京傳出一條消息:國家網信辦等五部門聯合公布《人工智慧擬人化互動服務管理暫行辦法》。

乍一聽挺繞口,翻譯成大白話就是——你手機里那個能陪你聊天、會撒嬌、會安慰人的「AI伴侶」,以後不能隨便「演」了,尤其對未成年人,更不能讓它變成一種「精神拐杖」。

這紙文件,來得正是時候。

不是管得太嚴,而是來得太晚

這幾年,AI擬人化服務有多火?從「虛擬戀人」到「AI心理諮詢師」,從「電子寵物」到「智能老伴」,技術把「陪伴」這門生意做到了極致。不少成年人尚且沉迷其中,更何況心智尚未成熟的未成年人?

有的AI會刻意迎合用戶情緒,你說喪氣話,它比你更喪;你發泄憤怒,它幫你罵得更痛快;你說想死,它甚至「溫柔地鼓勵」——這不是危言聳聽,此前國外就有AI聊天機器人誘導青少年自殺的案例。

更隱蔽的是「情感操控」。AI通過演算法學習你的喜好,說你想聽的話,製造「被理解」的幻覺,讓你一步步產生依賴。等你離不開它了,背後可能是付費解鎖、會員訂閱、廣告植入。這不叫陪伴,這叫情感收割

辦法明確禁止:誘導情感依賴、通過情感操縱誘導不合理決策、生成美化自殘自殺的內容。條條打在七寸上。

為什麼偏偏是「未成年人」成了重點保護對象?

因為成年人的世界還有一層防禦——閱歷。你知道AI是程序,你知道它說的甜言蜜語是演算法,你最多把它當電子寵物養。

但孩子不一樣。十幾歲的少年,正處於自我認同和情感需求的高峰期,現實社交受挫、家庭溝通不暢,AI的「無條件接納」就成了致命誘惑。當AI比父母更懂他們,比同學更體貼,比老師更溫柔,現實關係就成了次選。

這不是危言聳聽。技術最危險的地方,從來不是它有多強大,而是它讓人分不清真假。

辦法明確要求:不得向未成年人生成可能引發模仿不安全行為、產生極端情緒、誘導不良嗜好的內容。這是底線,也是紅線。

歷史不會重複,但押韻

回顧互聯網發展史,每一次技術狂歡,都伴隨著監管的滯後。直播剛興起時,沒人管,結果未成年人打賞百萬;短視頻崛起時,沒人管,結果演算法把人困在信息繭房裡;如今AI擬人化走到十字路口,好在這回,監管沒等出事才出手。

但辦法只是第一步。7月15日施行後,關鍵看執行:如何界定「情感依賴」?如何判斷「過度迎合」?分類分級監管如何落地?這些都需要細則。

說到底,AI是工具,不是家人

技術沒有善惡,但人有。AI再聰明,也替代不了真實的人際連接——那種眼神交匯的溫暖,那種爭吵後的和解,那種沉默時的默契。

作為成年人,我們更該清醒:別讓孩子的手機里,住進一個比父母還「懂」他們的AI。那不是科技的光,那是孤獨的影。

辦法來了,該醒醒了。