社交媒体利用智能内容审核审核有助于其商业化发展

最新文章

在审核策略方面,国内平台型媒体大多采用人机并用的方式,即利用人工智能技术进行第一轮智能审核,确保快速得出结果;当内容涉及“灰色区域”时,则人工介入进行第二轮审核。

从内容形式来看,平台型媒体审核类型包括文本审核、图片审核、语音审核、视频审核等;从审核对象来看,主要包括平台上用户昵称、用户头像、用户评论、用户发布的文字、图片、音视频动态等;从审核目标来看,重点包括不良内容、内容原创性、有无水印等。

一般而言,针对不同业务线,平台媒体会采用不同策略,也就是决定“先审后发”还是“先发后审”。若采取“先审后发”策略时,页面会显示“内容审核中,内容将在审核通过后自动发布”的字样;而遵循“先发后审”策略时,用户可以搜索或看到即时发布的内容,但平台方会在较短时间内完成审核,发布的违规内容会被设置为“用户自见”或者被删除处理。


智能审核能够大规模处理内容审核,其中关于文本、图片、语音、视频等内容的审核要求较高,如对音频内容进行审核时,人工智能审核系统识别语音转换成的文本,再匹配关键词,将与模型相似度最高的垃圾内容进行剔除;在对直播内容、短视频、长视频等内容进行审核时,人工智能审核系统往往会抽取关键帧对视频内容进行审核,而人工团队则会对智能审核系统无法判断的内容进行再审核,作为审核的最后防线。

国内平台型媒体的人工审核往往要经过两三次人力审查。首先是对违反底线的内容进行排查,严重违反规则的内容被设置为自见或者删除;符合内容质量要求的会进入二次审核的内容池,进一步判断其是否符合美食、旅游、科技、历史、教育、时尚等垂类优质内容的标准,审核重点包括内容抄袭率、是否有错别字、标点符号是否规范、图片是否清晰等。

在二次审核内容池里,每条内容会被至少两个审核员判断,二者判断一致,则内容没有问题;二者判断不一致,则会有抽检监督员来进行最终判断。也就是说,人工智能审核系统能够在一定程度上自动剔除大量违规内容;而人工要做的是根据规则对其他内容维度进行标签化判断,在一定程度上纠正算法偏差,为算法保驾护航。


以平台的角度,内容审核是对平台内容生态的规范化治理,也是对内容消费者的一种保护,可以帮助用户规避虚假信息。平台型媒体鼓励用户生产内容,其中不可避免地会存在暴力内容、虚假广告,同时部分用户也不具备甄别虚假信息的能力,平台内容审核一定程度上可以减少不良内容,帮助用户规避风险和不必要的损失。

从长远来看,内容审核也有利于平台型媒体的商业化发展。一方面,内容审核类似于信息清洗,可以帮助平台建立起健康的内容生态。而健康生态能够鼓励用户进行优质内容生产,形成比较好的内容生产与消费氛围。另一方面,平台的用户群会吸引品牌商进行广告投放。

最后,平台型媒体的内容审核行为能够管控与品牌相关的评论信息,帮助优质品牌构建和维护形象,有助于提高优质产品和品牌的曝光率,提高商业价值。如此,更多品牌将主动加入这一阵营,在平台型媒体投放广告。