智能审核应用在移动短视频平台的优势

最新文章

近年来随着我国移动短视频在各大平台的上线,相关管理部门对短视频市场的监管力度随着加大,陆续出台了关于移动短视频平台的内容管控的规范细则,包括但不限于:所有移动短视频平台的生产内容需经过内容审核合格后播出,涵盖了标题、简介、弹幕和评论等范围。

移动短视频审核分类
内容安全:通过审核发现移动短视频中不合法的、不健康的内容。
质量审核:控制移动短视频内容的质量、有控制各类内容推送力度。
考虑到移动端视频的海量数据,内容审核通常使用人工智能进行效率提升,一般情况下的视频审核会在几分钟内结束。


移动短视频审核机制
移动短视频平台采用视频内容初审、产品及流量推荐复审等视频审核机制,由智能算法内容审核、人工审核两个部分协同进行。

初审判别内容中是否有违反国家法律的风险,人工智能技术淘汰有明显违规信息的内容,再将审核出的疑似违规内容进行分级,转送人工审核;若视频内容初审合格,则进入内容分发。

但是智能内容审核系统在平台正常推荐过程中仍旧发挥监测作用,若基于用户的各种观看行为出现的数据异常,比如某内容有很高的点击率且负面评论、举报过多,则该内容产品将进入复审。

若在复审中被发现存在标内容问题,相关视频内容将被停止推荐。


移动短视频智能审核
移动短视频平台的用户皆可成为其内容生产者,因此海量的短视频内容审核工作无法仅依靠人工团队进行,人工智能过滤系统可以有效提高内容审核效率。如审核机制中提到,短视频内容上传到后台之后首先将由人工智能进行筛选,过滤掉有明显违禁信息的内容,审核正常的内容直接进行分发,部分疑似违规内容机器不能判断的再会分级至人工审核渠道。

人工智能系统的研究方向是将机器学习、自然语言理解、计算机视觉、人机交互与机器人等研究成果应用于审核系统中,内核是基于数据挖掘的人工智能技术,包含了上亿条数据的数据库。

移动短视频内容生产平台借助数据库将图像、文字、视频识别模型进行不断训练,以提高审核的智能化程度。随着视频分析与检索技术通过对视频内容自动深入的理解,可以快速辅助审核人员在每天上传的短视频中,筛选出不适合分发的色情、低质、盗版等问题视频。


两种短视频审核手段
人工智能技术目前的审核手段主要包括图片审核、文字审核。

主流的图片审核的方式通过移动视频转化成多张截图,利用图像识别系统进行审核甄别。该系统主要利用了人工智能视觉识别技术,通过对平台常出现的不良信息进行标注及汇总后,技术团队将数据交给机器进行训练,让机器逐渐掌握各种形态的不良信息的主要形态,经过反复训练提高人工智能的审核准确率。

文字识别主要是对短视频的字幕、评论等进行审核。短视频发布之后,系统在评论中发现用户对相关短视频内容、呈现的事件本身的评价。上传的内容进行初步违规审核过后,会进行重复率的审核,将短视频内容与数据库数据进行比对,认定为重复内容的视频进行低流量推荐。