网络视听产品智能内容审核中如何融入未成年保护机制

未成年用户作为互联网的特殊群体，还未形成明确的是非判断标准，同时拥有旺盛的学习能力。无论是作为移动短视频内容的受众或传播者，对各大网络视听内容中隐含的不良价值观等信息无法做出正确的判断，甚至会出现盲目模仿的情况。

自发生一系列对未成年人价值观产生危害的内容事件之后，我国致力加大网络视听层面对未成年人的保护力度，各平台都出台了关于未成年人接触内容的保护政策，各大网络视听平台相继根据有关内容设立未成年人保护机制。

短视频内容审核
移动短视频方面，我国主流平台推出了相关的未成年人风控模型，通过对全产品线下架视频进行大数据分析，提取大量触犯法规和违背道德标准的模型，梳理并扩充了视频审核相关敏感词，设置人工智能算法识别和前置拦截。

使用智能内容审核系统，通过图像人脸识别技术对于图像中的人物最小年龄为未成年人的，实行专门队列审核；通过应用自然语义识别技术，检测和过滤评论私信等文本内容中的不良信息与风险内容，其中包括儿童色情、网络欺凌等；通过分析用户的行为特征，对存在侵犯或骚扰未成年人风险的用户进行监控，甚至封禁。

若出现未成年人说脏话、骂人、炫富、攀比等在法规层面没有具体的规定，但给社会和未成年传递的价值观存在问题，相关内容会被限制传播或者下架，以此在平台上对未成年人进行保护。

直播视频内容审核
直播视频方面，我国主流直播视频平台设立了儿童专区内容和青少年模式，开始不断充实儿童内容专属内容池，并采用智能算法推荐加信息流的模式，基于青少年爱好精准推荐内容，构建起青少年与网络有害信息之间的防火墙。

平台用户在不同时期使用直播产品时系统设立多重保护机制，通过平台自有系统检测设置未成年人入驻限制。

如签约时，利用图文识别、人脸识别技术检测注册者和身份证信息是否是本人，并自动识别身份证出生年月信息，未满18周岁无法入驻，不能成为主播；开播前，利用人脸识别技术检测开播者和注册者信息是否为同一人，防止未成年人用别人账号开播...

同时，直播平台利用AI技术实时监控识别对青少年有不良影响的直播画面，这项技术可以实现对画面中人物的服装、年龄、样貌、动作的高效识别，极大提升了审核效率，为青少年的直播开启另一道保护屏障。

播客音频内容审核
播客音频产品方面，我国平台上线了青少年保护模式，通过限制使用时长、限制充值消费、限制使用时段等方式来保护未成年用户的权益。通过这个模式，未成年用户可培育良好的应用使用习惯，更容易找到适合自己的节目，家长也能更好保护孩子。

未成年用户在使用相关产品时，超过设定时间将需要通过多种系统监测验证通过才能继续使用，同时平台内相关的音频产品的标题、实时评论弹幕等用户内容生产区均有人工智能内容审核系统把关，配合后续平台在已实名的用户中抽调回访，了解账号使用情况、是否将账号与小孩共享使用，根据回访的情况打上标签。