网易CC直播：还青少年一片远离不良信息的绿色网络

之企业经验

如何过滤不良信息的侵扰，保护青少年的健康成长，推动互联网音视频直播行业的健康长远发展？12月2日上午，由南方报业传媒集团主办，南方都市报社承办的“2020音视频直播绿色内容生态共建峰会”在北京举行，政府、专家、平台、媒体等社会各界代表，共话行业内容生态治理的痛点、经验和发展管理方向。

AI智能识别+人工实时审核

南都大数据研究院网络内容生态治理研究中心研究员张雨亭发布《网络音频社交“软色情”侵害风险研究报告》。报告选取25家网络音频社交平台作为样本，立足于2020年的研究数据和现实案例，对当下网络音频社交行为中出现的内容违规风险、舆论倾向风险、未成年人保护风险逐一剖析，并结合南都观察与专家研究，对行业内容生态治理提出参考思路和可行建议。

对于《网络信息内容生态治理规定》的出台，中国传媒大学文化经济研究所所长张洪生认为目前软色情的概念较为模糊，判断标准制定存在困难。国家层面的判断标准、政策不能完全涵盖所有内容，也存在被钻空子的可能性。他表示，企业可以通过数据库的不断丰富、人工智能的学习，把更多的可能性纳入到判断标准中。网易CC直播首席风控官王振华认为，目前平台主要通过绑定手机号码的方式对用户进行“弱识别”，而考虑到收集用户隐私信息的权限限制，目前平台暂未启动用户身份信息的强识别措施，如进行人脸识别等。

他建议，在内容产出方面，要在源头上杜绝违法违规的内容，鼓励主播或者公会进行优质内容的产出。通过算法推荐曝光优质内容，下沉劣质内容。在内容的传播途径方面，在AI算法初步识别的基础上再人工识别，加强审核，杜绝违法违规内容的传播。

“网易CC一直以来非常关注青少年的健康成长，作为平台方，我们一直以来坚决打击色情相关信息。”网易CC直播首席风控官王振华作为互联网平台方的代表，向南都记者分享了网易开展未成年人保护和构建绿色网络环境的经验。

作为一家大型游戏娱乐直播网络平台，网易CC的用户量超过2.8亿，月活突破4000万、签约主播逾20万名。随着用户的不断增长，监管难度也在加大，网易CC如何面对给青少年成长带来不良影响的网络音视频“软色情”现象呢？

网易CC直播首席风控官王振华表示，网易CC一直以来坚决打击色情相关信息，在色情信息这方面，网易CC采取了“AI图像智能识别+高效审核模式+人工实时审核”的综合管理模式，并且不断优化自主研发的色情识别模型，有效地打击了对青少年的侵害行为。

设立风控团队+制定监管方案

据了解，网易CC平台设立专业风控团队、制定专业的平台风险监管方案，利用先进的技术监管手段，力求迅速、海量地筛查、发现、处罚平台违规内容；同时提供端内举报入口与客服投诉入口：用户在观看直播间时可随时举报违规，平台配备7×24小时全天候审核团队：实时监控用户内容，及时处罚违规用户。

针对视频直播监管，网易CC自主开发AI图像智能识别模型，如色情模型，枪支模型等，视频流实时以实时快速截图放入方式生成直播快照，交由AI图像模型识别，若发现高风险违规内容，系统将直接对相关直播间断流，其余风险内容全量进行人工审核，不放过任何一个违规。

对于音频直播监管，平台通过引入语音转文字技术，对所有直播间语音内容进行语音转文字处理，转译后的文字再通过敏感字库进行筛查。

2019年3月28日，国家网信办指导组织“抖音”“快手”“火山小视频”等短视频平台试点上线青少年防沉迷系统，旨在预防和干预青少年沉迷网络。有观察人士指出，从目前的效果上看，“青少年模式”形同虚设，有不良信息内容通过引导网友在不同平台之间跳转来传播，规避平台监管。到底青少年防沉迷系统的优化空间，跨平台防沉迷机制的可行性有多大？

王振华介绍，网易CC自2005年起就开始构建成套的未成年人保护体系，该体系在2019年更是提升到全新高度，上线了未成年人防沉迷系统，升级了“网络家长关爱平台”，在直播平台推出青少年模式，并成立了专门的未成年人守护团队，进一步强化主动服务的解决思路。平台发挥青少年模式作用，有赖于平台对用户信息的识别，但是由于担心过度收集用户（包括青少年用户）的个人隐私，在没有出台相应法律法规的情况下，平台对于用户的个人实名信息的关联目前主要是集中在手机号认证上，而手机号识别属于弱识别，难以准确定位识别青少年用户。

青少年模式仅仅只是其中的一种引导手段，对于青少年的引导和监管，不仅仅只是政府和企业需要努力，家长作为孩子的直接监护人也需要靠前站位，发挥主动作用，引导孩子正确理解并使用互联网，帮助孩子合理选择适合孩子年龄段收看的网络内容。

同时，网易CC直播平台积极配合网信办、公安局、检察院、法院等相关部门，主动报告未成年人网络保护的整体思路、工作目标、发展进度等情况，认真听取指导建议，努力推进未成年人网络安全保护工作。

联手地方监管部门 营造绿色网络生态

为未成年人营造一片绿色健康的互联网成长空间，逐步成为社会的共识。广州市检察机关在办案中发现，不乏未成年人因受网络上的暴力、色情信息影响，引发盗抢、猥亵等违法犯罪，也有未成年人因缺乏警惕在网上遭受诈骗、性侵等犯罪侵害。未成年人网络安全问题需要全社会共同推进治理。

今年9月1日，广州市人民检察院与网易CC直播平台《正能量》频道联合打造的公益直播视频专栏“小Law号CC课堂”正式上线并举行了开播仪式，广州市检察院、市司法局、市教育局等职能部门出席了启动仪式，共同构建青少年网络安全法治教育体系。

据了解，为突破传统法治课程覆盖范围有限的问题，广州市检察院与网易CC直播平台共建青少年网络安全法治教育基地，打造“互联网+法治课”模式，充分发挥广州市人民检察院“小Law号”宣讲团的师资优势以及网易CC直播平台的技术特长，实现法治课程“线下-线上”全覆盖。“小Law号CC课堂”打造的20多个主题的法治课程将在未来一年陆续上线，为未成年人打造优质的“未检产品”和优质教育精品课程。

在公益专栏“小Law号CC课堂”上，由检察院选派优秀普法宣讲人、研发设计精品法治课程，由网易CC直播平台协助制作、推广，结合民法典实施、宪法日等时间节点，定期更新不同主题内容的法治课程。此外，市检察院与网易公司还将不定期开展线下未成年人法治教育论坛、讲座、案例分享会等活动，通过网易CC直播平台，扩大普法宣传效果，发动全社会各方力量，共同构建网络绿色生态。

文：吴广宇 制版：朱林 章玲 刘俊文