賣公眾人物AI拜年視頻，賬號被處置！去AI標識教程，下架！

本文自南都

2月12日，南都n視頻記者從「網信中國」獲悉，近期，部分網路賬號發布ai生成合成信息時，不添加ai標識，存在利用虛假不實內容欺騙誤導公眾的問題。網信部門依法依約處置賬號13421個，清理違法違規信息54.3萬餘條。

網信中國：有賬號發布ai生成合成信息時，不添加ai標識，欺騙誤導公眾

在「網信中國」披露的部分典型案例中，「澄馫」「玲子愛狗狗」「空空說電影」等賬號，發布狗在高鐵站救下嬰兒、狗拆炸彈救人、鱷魚傷人等視頻時，未添加ai生成標識，借虛構感人故事、獵奇事件惡意博取流量。相關賬號已被依法依約處置。

此外，「浮萍9419」「乘風已歸來」「東東情感」等賬號，以ai換臉、聲音克隆等方式，假冒運動員、演員、主持人、企業家等公眾人物，發布不實言論，藉此吸粉引流，或未經授權，售賣ai生成的公眾人物「送祝福」「拜年」等視頻，從中不當牟利。相關賬號已被依法依約處置。

利用虛假視頻擾亂公共秩序的賬號也被依法處置。例如，「巷子里的魚」「禾粟」「朵姐正能量」「小豬豬」等賬號，發布ai生成的虛假火災現場圖片、視頻，惡意編造、炒作火災事故，混淆視聽，擾亂公共秩序。相關賬號已被依法依約處置。

除此之外，借ai魔改劇情的賬號同樣被依法處置。「真難我知道」「小奧特曼大智慧」「清崽影視」等賬號，借ai魔改未成年人喜愛的動畫角色，製作刀切小馬寶莉頭部、奧特曼懷孕等視頻，傳播低俗驚悚、血腥暴力內容，宣揚不良價值觀，侵擾未成年人身心健康。相關賬號已被依法依約處置。

在社交平台售賣去ai標識的賬號也受到下架處理。「浪淘達人」「南坤的店」等賬號，發布「豆包圖片去水印神器」等內容，分享去除ai標識教程、軟體。「浙江智意ai」「鼎建祥旗艦店」等店鋪，售賣去ai標識教程、軟體及服務。相關賬號已被依法依約處置，違規商品已下架。

南都此前報道，2025年9月1日起，《人工智慧生成合成內容標識辦法》正式施行，要求對人工智慧生成合成內容進行顯式標識和隱式標識。有專業人士告訴南都記者，執法部門應提高執法能力、配備相應技術，以快速有效識別利用人工智慧等新型手段欺騙消費者的行為。

「網信中國」發文稱，下一步，網信部門將對無ai標識的虛假不實信息保持高壓嚴管態勢，發現即處置，嚴厲打擊違規行為。同時，也呼籲廣大網路內容創作者按照相關規定主動添加ai標識，避免誤導公眾。 

小紅書：ai生成合成內容如未標識，將限制推薦

2月12日，小紅書薯管家發布公告，呼籲站內用戶對ai生成合成內容進行主動標識。以下為公告全文： 

近期，平台收到多例利用ai生成合成技術仿冒公眾人物形象、製作虛假視頻的用戶舉報。此類未經本人授權製造的內容，即侵害了公眾人物的合法權益，也因部分內容未主動做ai生成/合成標識，有損社區用戶的信任。 

為此，我們呼籲用戶在發布由ai生成合成的圖文或視頻內容時，主動添加ai生成合成標識，便於用戶甄別。標明ai創作手段不僅不會減損作品價值，反而能讓交流更透明。 

依據《人工智慧生成合成內容標識辦法》要求，平台將持續加強ai生成合成內容的識別檢測能力，如創作者在發布環節未主動對ai生成合成內容做標記，平台將基於檢測結果對未聲明內容添加標識。此類未主動標識的ai生成合成內容，平台將限制分發。 

對於藉由ai生產虛假仿冒信息、魔改經典、宣揚不良價值觀的內容，發布教唆去除ai標識的教程，平台將予以嚴厲打擊。 

接下來，平台將繼續完善ai標識和ai造假內容的識別工作，也歡迎小紅薯們積极參与平台共治，如發現ai生成不良內容，請第一時間通過舉報按鈕向平台反饋。 

 該圖片疑似ai生成