近日,《法治日報》記者調查發現,「外國山海經」「AI山海經」等AI魔改(指利用AI技術對原作品進行大幅或顛覆性改編的行為)內容在網路上迅速走紅,甚至滲透到低齡群體中。
夾雜暴力、血腥內容
「外國山海經」爆火小學生圈
「Tung Tung Tung Sahur」(音同「通通通通撒呼啦」)、「Lirili larlla」(音同「哩哩哩辣力辣」)……這些近來經常出現在小學生們口中,宛如神秘咒語的辭彙,實則是幾幅AI生成的動畫形象的名字,比如上述兩個辭彙分別對應「木棒人」「仙人掌象」。
諸如此類由AI拼接而成的形象還有很多,它們被孩子們統稱為「外國山海經」或者「AI山海經」。

▲「外國山海經」(圖源:潮新聞)
有家長發現,「孩子彷彿『著了魔』,口中時不時蹦出來這些詞語,跟他一起玩耍的小朋友們也都如此。」
這些將毫不相干元素強行拼湊出的怪異形象,為何能在孩子們的圈子裡流行起來?」上述家長百思不得其解,而且,這「外國山海經」不僅造型詭異,更夾雜不少暴力、血腥辭彙和內容,「孩子或許並不理解其中的含義,但會模仿學習,很容易對他們產生負面影響」。
更讓部分家長憂心的是,這孩子第一次接觸「山海經」的概念,竟然是通過這些外來的且由AI生成的產物。甚至還有孩子認為,「山海經就是國外的,中國的山海經一點兒也不好看」。
「外國山海經」的來歷也很可疑。有記者發現,由於「外國山海經」等AI圖片和視頻製作流程十分簡單,幾乎任何用戶都能在多款常見的AI視頻網站上,通過向AI發送基礎的人物形象圖片、文字描述以及有關指令,就能快速生成一段動態視頻,還可加入音效和背景音樂。
奧特曼懷孕、卡通人物挖眼珠子吃
「邪典視頻」捲土重來
最近廣東一家長發現,自己3歲的女兒在短視頻平台上刷視頻或者動畫片時,頻繁被推送動畫風格的「邪典視頻」。
「這些視頻大多是卡通或3D風格,很吸引小孩子,但是卻暗藏著很多令人不適的畫面。」該家長舉例,視頻中存在殘害肢體、角色從高處墜落等血腥場景,甚至有「把自己的眼珠子挖出吃掉」這樣的可怕畫面。
浙江也有家長發現,孩子在看完正版動畫片後,平台會自動彈出一批顏色鮮艷卻毫無營養的衍生視頻,其中不乏「奧特曼懷孕」「小豬佩奇打骷髏」等暴力惡搞內容。
然而,當上述家長試圖為孩子屏蔽「邪典視頻」內容時,卻發現,無論是投訴視頻、點擊「不喜歡」,相關內容仍會被持續推送給孩子。
有一名曾在某視頻公司任職的受訪者向記者透露,其前公司旗下幾百個視頻號都在持續推送「邪典動畫」,將經典的動漫人物用AI生成技術進行二次創作,這些視頻色彩鮮艷,更吸引兒童。

▲「白雪公主霸凌艾莎」 「米奇在山頂腳踹蜘蛛俠」「兔頭面具奧特曼打暈綁架小奧特曼」(圖源:潮新聞)
「這類視頻不僅曝光度高,流量表現優異,甚至能獲得平台支持。這類視頻在創作時為博取關注,內容套路化嚴重:以動漫角色為外殼,填充戀愛情節或暴力衝突、混戰場面。由於兒童的判斷能力有限,容易信以為真。」這名受訪者強調,平台演算法助推不良內容形成傳播閉環,「孩子一旦刷到觀看,平台就會推送更多同類內容。」
此外,《紅樓夢》中的人物進行「魔法戰爭」,《三國演義》兩軍對壘演變成「激光大戰」等,通過「AI魔改」對中華優秀傳統文化進行歪曲和污名化的,也屬於「邪典視頻」。
有專家指出,AI魔改對經典的傷害早已超越內容層面,它將「低俗獵奇」包裝為「趣味創新」,逐步侵蝕文化傳承與下一代成長的健康土壤,甚至可能在他們心中埋下「經典可隨意解構」「歷史可肆意戲說」的錯誤認知。
AI魔改催生畸形產業鏈
記者發現,在社交平台有關帖文和短視頻平台評論區,有許多用戶公然教學如何用關鍵詞讓AI生成大尺度圖片。
比如,如何通過替換關鍵詞,規避平台既有限制,免費生成包含性暗示等元素的「二次元」風格的兒童軟色情圖片,甚至出現「兒童懷孕」等惡劣內容。
現實世界也在被AI魔改內容逐漸「侵入」。
在電商平台上,有不少「外國山海經」里角色形象被印在衣服上或做成盲盒、積木等產品售賣;還有些商家表示可以製作AI生成手辦定製照片,商品展示圖衣著暴露、動作挑逗,並且未作年齡區分。
「外國山海經」的衍生產品銷量也較高。比如某店鋪一款包含24盒的盲盒公仔售價僅11.99元,付款人數已超2萬;一些知名遊戲IP推出與「外國山海經」聯名的盲盒、卡牌。有小學教師反映,學生頻繁向家長要錢,只為購買同學手中的「外國山海經」卡牌。
對此,有家長指出,「外國山海經」衍生出的相關產品會引發未成年人之間的「隱性」攀比。「孩子們聚在一起玩耍的時候,如果別人有自己沒有,孩子會產生心理落差,甚至遭到排擠。」
不能讓「AI魔改」的畸形產業鏈「作妖」
藉助AI技術,進行趣味創新,傳承傳統文化,本是新瓶裝好酒的有益實踐。然而,現實中卻是糟蹋精華、製造糟粕的歪曲醜化。
正如在上述「外國山海經」「邪典視頻」中的角色,有的外形怪誕低俗、名稱晦澀難懂;有的形象詭異驚悚,充斥暴力與血腥元素。這些內容荒誕、邏輯混亂的視頻受到青少年追捧,進而發展成為一種流行於學生群體間的亞文化,其造成的危害不容小覷。
眼下,AI技術的出現,大幅降低了製作門檻和成本,任何人只需簡單操作,即可生成魔改動畫和「邪典視頻」。然而,「殺人的不是刀,而是執刀的手」,錯不在科技進步本身,根本原因還是畸形產業鏈在「作妖」。
當用心用情用力去創作提升文化認知、開闢成長凈土的文藝作品,變得「吃力不討好」,甚至無法得到應有的認可和收益;而藉助AI之手,製造推送「邪典視頻」,則是一本甚至無本萬利的生意時,有些人就動起利用「毒流量」的歪心思,收割孩子和家長的錢包。
由此可見,剎住「邪典動畫」的歪風,讓所謂「外國山海經」「惡搞紅樓夢」不再侵蝕未成年人的心智,單靠個人自覺,很難從根本上凈化市場環境,唯有重拳出擊,方能讓魑魅魍魎無處藏身。
具體而言,家長亟需加強健康上網引導,樹立家庭防護網,如手機、平板等電子產品,都要確保開啟未成年防沉迷模式。在家裡要增強有效陪伴,帶頭對網路依賴說不,更別把孩子簡單丟給手機和短視頻。
網路平台是信息內容管理第一責任人。維護清朗網路空間,責無旁貸。除按國家要求完善青少年模式,堵住賬號切換的漏洞以外,還需主動凈化平台內容,塑造正向的網路導向,為青少年健康上網保駕護航。
實際上,青少年對世界充滿好奇,AI可以提供個性化學習資源,可以根據孩子興趣,拓展知識邊界,提供有針對性的深度內容。關鍵在於,如何有效激勵優質作品,讓有良知、有底線的創作者得到應有的回報。只有形成正向循環,才能讓青少年得到真正有營養的知識「投喂」。
如今,網路生活已經成為每個人避不開的第二生存空間,製造所謂「無菌室」一樣的斷網環境,不現實也不可行。堵不如疏,進一步提升孩子接觸虛擬空間的數字素養,增強其在人工智慧浪潮中前行的能力,也是現代教育的應有之義。
來源:重慶晨報綜合每日經濟新聞、央視網、法治日報、極目新聞、紅星新聞、潮新聞