之企業經驗
如何過濾不良信息的侵擾，保護青少年的健康成長，推動互聯網音視頻直播行業的健康長遠發展？12月2日上午，由南方報業傳媒集團主辦，南方都市報社承辦的“2020音視頻直播綠色內容生態共建峰會”在北京舉行，政府、專家、平台、媒體等社會各界代表，共話行業內容生態治理的痛點、經驗和發展管理方向。
AI智能識別+人工實時審核
南都大數據研究院網絡內容生態治理研究中心研究員張雨亭發布《網絡音頻社交“軟色情”侵害風險研究報告》。報告選取25家網絡音頻社交平台作為樣本，立足於2020年的研究數據和現實案例，對當下網絡音頻社交行為中出現的內容違規風險、輿論傾向風險、未成年人保護風險逐一剖析，並結合南都觀察與專家研究，對行業內容生態治理提出參考思路和可行建議。
對於《網絡信息內容生態治理規定》的出台，中國傳媒大學文化經濟研究所所長張洪生認為目前軟色情的概念較為模糊，判斷標準制定存在困難。國家層面的判斷標準、政策不能完全涵蓋所有內容，也存在被鑽空子的可能性。他表示，企業可以通過數據庫的不斷豐富、人工智能的學習，把更多的可能性納入到判斷標準中。網易CC直播首席風控官王振華認為，目前平台主要通過綁定手機號碼的方式對用戶進行“弱識別”，而考慮到收集用戶隱私信息的權限限制，目前平台暫未啟動用戶身份信息的強識別措施，如進行人臉識別等。
他建議，在內容產出方面，要在源頭上杜絕違法違規的內容，鼓勵主播或者公會進行優質內容的產出。通過算法推薦曝光優質內容，下沉劣質內容。在內容的傳播途徑方面，在AI算法初步識別的基礎上再人工識別，加強審核，杜絕違法違規內容的傳播。
“網易CC一直以來非常關注青少年的健康成長，作為平台方，我們一直以來堅決打擊色情相關信息。”網易CC直播首席風控官王振華作為互聯網平台方的代表，向南都記者分享了網易開展未成年人保護和構建綠色網絡環境的經驗。
作為一家大型遊戲娛樂直播網絡平台，網易CC的用戶量超過2.8億，月活突破4000萬、簽約主播逾20萬名。隨着用戶的不斷增長，監管難度也在加大，網易CC如何面對給青少年成長帶來不良影響的網絡音視頻“軟色情”現象呢？
網易CC直播首席風控官王振華表示，網易CC一直以來堅決打擊色情相關信息，在色情信息這方面，網易CC採取了“AI圖像智能識別+高效審核模式+人工實時審核”的綜合管理模式，並且不斷優化自主研發的色情識別模型，有效地打擊了對青少年的侵害行為。
設立風控團隊+制定監管方案
據了解，網易CC平台設立專業風控團隊、制定專業的平颱風險監管方案，利用先進的技術監管手段，力求迅速、海量地篩查、發現、處罰平台違規內容；同時提供端內舉報入口與客服投訴入口：用戶在觀看直播間時可隨時舉報違規，平台配備7×24小時全天候審核團隊：實時監控用戶內容，及時處罰違規用戶。
針對視頻直播監管，網易CC自主開發AI圖像智能識別模型，如色情模型，槍支模型等，視頻流實時以實時快速截圖放入方式生成直播快照，交由AI圖像模型識別，若發現高風險違規內容，系統將直接對相關直播間斷流，其餘風險內容全量進行人工審核，不放過任何一個違規。
對於音頻直播監管，平台通過引入語音轉文字技術，對所有直播間語音內容進行語音轉文字處理，轉譯後的文字再通過敏感字庫進行篩查。
2019年3月28日，國家網信辦指導組織“抖音”“快手”“火山小視頻”等短視頻平台試點上線青少年防沉迷系統，旨在預防和干預青少年沉迷網絡。有觀察人士指出，從目前的效果上看，“青少年模式”形同虛設，有不良信息內容通過引導網友在不同平台之間跳轉來傳播，規避平台監管。到底青少年防沉迷系統的優化空間，跨平台防沉迷機制的可行性有多大？
王振華介紹，網易CC自2005年起就開始構建成套的未成年人保護體系，該體系在2019年更是提升到全新高度，上線了未成年人防沉迷系統，升級了“網絡家長關愛平台”，在直播平台推出青少年模式，並成立了專門的未成年人守護團隊，進一步強化主動服務的解決思路。平台發揮青少年模式作用，有賴於平台對用戶信息的識別，但是由於擔心過度收集用戶（包括青少年用戶）的個人隱私，在沒有出台相應法律法規的情況下，平台對於用戶的個人實名信息的關聯目前主要是集中在手機號認證上，而手機號識別屬於弱識別，難以準確定位識別青少年用戶。
青少年模式僅僅只是其中的一種引導手段，對於青少年的引導和監管，不僅僅只是政府和企業需要努力，家長作為孩子的直接監護人也需要靠前站位，發揮主動作用，引導孩子正確理解並使用互聯網，幫助孩子合理選擇適合孩子年齡段收看的網絡內容。
同時，網易CC直播平台積極配合網信辦、公安局、檢察院、法院等相關部門，主動報告未成年人網絡保護的整體思路、工作目標、發展進度等情況，認真聽取指導建議，努力推進未成年人網絡安全保護工作。
聯手地方監管部門 營造綠色網絡生態
為未成年人營造一片綠色健康的互聯網成長空間，逐步成為社會的共識。廣州市檢察機關在辦案中發現，不乏未成年人因受網絡上的暴力、色情信息影響，引發盜搶、猥褻等違法犯罪，也有未成年人因缺乏警惕在網上遭受詐騙、性侵等犯罪侵害。未成年人網絡安全問題需要全社會共同推進治理。
今年9月1日，廣州市人民檢察院與網易CC直播平台《正能量》頻道聯合打造的公益直播視頻專欄“小Law號CC課堂”正式上線並舉行了開播儀式，廣州市檢察院、市司法局、市教育局等職能部門出席了啟動儀式，共同構建青少年網絡安全法治教育體系。
據了解，為突破傳統法治課程覆蓋範圍有限的問題，廣州市檢察院與網易CC直播平台共建青少年網絡安全法治教育基地，打造“互聯網+法治課”模式，充分發揮廣州市人民檢察院“小Law號”宣講團的師資優勢以及網易CC直播平台的技術特長，實現法治課程“線下-線上”全覆蓋。“小Law號CC課堂”打造的20多個主題的法治課程將在未來一年陸續上線，為未成年人打造優質的“未檢產品”和優質教育精品課程。
在公益專欄“小Law號CC課堂”上，由檢察院選派優秀普法宣講人、研發設計精品法治課程，由網易CC直播平台協助製作、推廣，結合民法典實施、憲法日等時間節點，定期更新不同主題內容的法治課程。此外，市檢察院與網易公司還將不定期開展線下未成年人法治教育論壇、講座、案例分享會等活動，通過網易CC直播平台，擴大普法宣傳效果，發動全社會各方力量，共同構建網絡綠色生態。
文：吳廣宇 製版：朱林 章玲 劉俊文
