這幾天ai圈子裡又出事了！
4月14日消息，央視點名多款ai應用存在涉黃生成漏洞，其中哩布哩布ai的漏洞被重點提出。
圖源：微博
到底咋回事？
4月12日，在被央視點名批評哩布哩布ai存在安全漏洞後，哩布哩布火速發佈了一份《關於加強內容安全管理的說明》，態度倒是挺端正，直接就是認錯、道歉、整改三連。
4月14日中午，哩布哩布ai官方發公告稱，在複雜的提示詞組合後，確實存在違規內容生成的問題，並發佈道歉通告。通篇看完總結起來就是：我們錯了，我們已經改了，大家別罵了。
圖源：哩布哩布ai公眾號
在小雷看來，其實不僅是哩布哩布，現在可能所有的生成式ai都有這個風險，這條安全漏洞背後已經形成了一條灰色產業鏈。
有人專門研究怎麼繞過審核，然後把「越獄提示詞」打包成教程甚至直接賣錢，再配合ai批量生成擦邊內容，引流到色情網站或付費群。
哩布哩布這次被曝光的漏洞，很可能就是被這些人盯上了。
風險遠不止涉黃這麼簡單，還有其他隱患要解決。
作者聲明：該圖片由ai生成
圖源：ai生成
首先第一個就是未成年的風險。
你想啊，現在ai平台那麼多，用戶群體里就有大量的未成年，如果平台沒監管好，孩子輸入幾個關鍵詞就可以生成涉黃的內容，那後果可太嚴重了。家長舉報，監管部門介入，平台扛不住的。
然後是侵犯名譽權和肖像權。有人用它惡意生成別人的不雅照片或醜化形象，到處傳播，被侵害的人根本沒法維權，因為生成者用的是虛擬賬號。如果審核不力，等於給ai造黃謠提供了機會。
最近半年已經有多起利用ai生成虛假淫穢圖片的案件，源頭就是像哩布哩布這些內容安全有漏洞的平台。
其實漏洞本質上是平台的失職，但是平台的功能沒有錯，只是被不安好心的人鑽了空子。
平台本身也有競爭壓力，功能要完善，如果沒有用戶，自然也就賺不到錢，就會關掉ai。將來真正想用ai生成自己喜歡的東西的人，就無辜躺槍了。
好在央視及時發現問題，哩布哩布還算火速回應，認錯、修復、復盤、接受監督，態度那就一個誠懇。
圖源：微博
在小雷嗶嗶（id：xiaoleibbb ）看來，哩布哩布這次翻車，給整個ai應用行業提了個醒。
平台的內容安全是底線。ai平台是這樣，其他的內容平台也是這樣。
央視點名ai漏洞只是開始，後續監管肯定會有動作。
還有網友看到這則新聞後吐槽說：要是別的ai也有這個風險，我就不讓我家小孩繼續用ai了。
說到最後，這次哩布哩布ai因涉黃生成漏洞被央視點名這事，剛好把這些漏洞，灰產暴露在我們面前。
平台不能總等着媒體曝光了再重視，平時就該做好日常的審查工作。
各位對ai生成內容涉黃這個情況有什麼看法呢，歡迎評論區留言討論。
