内容平台将持续加强对未成年人视听产品的审核监管 内容审核 图片审核

最新文章

我国未成年人的互联网普及率已超过90%,未来青少年群体将逐渐成为互联网平台的重要媒体受众。众多网络内容平台以不同形式为未成年网民提供了一个更开阔、更容易获取知识的渠道,却不得不警惕平台内容对这些判别是非能力尚且不足的群体造成的负面影响,防止平台内容生产的不良信息未经过筛选就被未成年人触达。

近年来,国家监管部门及相关行业机构,先后出台网络视听渠道未成年人保护机制的管理政策,由此网络视听平台的内容审核团队正陆续调整相关平台内容审核机制以符合政策要求:

1、消除内容审核中擦边球现象
根据过去的违规情况统计分析,不良信息中网站淫秽色情和低俗内容占比最高,其次恐怖暴力和丑恶行为、危害社会公德和封建迷信内容等。

没有设置未成年人保护模式的网络视听平台将成为其接收违规内容的渠道,未来监管审核中对于这种平台内没有明确划定违规内容标准成为审核弹性区域和模糊地带的情况将严肃整顿。考虑到网络视听平台中内容产品的海量数据,平台高效内容审核的准确率和效率将更加依赖其智能审核系统进行提升。


2、平台与监管部门共建共享审核库
近年来网络视听行业的内容产品种类繁多,巨量的审核强度无疑增大了审核监管难度。未来相关网络监管部门和行业组织将建立行业共享敏感词库,通过实时更新共享词库,及时解释网络敏感用语,就可以防范隐喻、暗讽等高难度的违规问题,不但提升企业审核效率,而且一定程度上会降低政府监管成本。

随着我国青少年群体接触国外的视音频内容的机会增多,外语能力的提升将使其有机会接触更多低俗涉黄涉性的内容,进而对三观产生负面影响,有的平台因审核时受语言限制,未能有效甄别。若监管部门、行业组织和平台共同构建实时数据审核库,并不断更新违规内容样本,平台AI系统根据样本识别违规内容的精准度和广度将大幅度提升,这将有效建立起过滤不良信息的防火墙。

3、行业社会助力未成年人网络素养教育
网络传播机制中对于视听平台的监督,社会各界的全面参与和配合也非常关键。随着网络视听应用的拓展,平台的内容产品已是未成年人接受教育重要的途径,疫情期间未成年人依托网络视听平台接受教育更是达到了顶峰。

但是在监护人不能现场监控的情况下,未成年人对网络视听平台选择的自由度非常高。在此种情况下,行业社会加强对未成年人的网络媒介素养教育尤其重要,使他们正确认识网络媒体的积极作用和消极影响,增强辨别是非的能力,并让其积极主动地利用网络提高个人素养。


平台可以通过人工智能内容审核系统对传播内容进行账户分级设置,尽可能帮助未成年人隔离有害信息,同时指导学校和家庭帮助未成年人正确、合理、积极运用网络视听资源,从而更好地安全上网。