社交媒体利用智能内容审核审核有助于其商业化发展

在审核策略方面，国内平台型媒体大多采用人机并用的方式，即利用人工智能技术进行第一轮智能审核，确保快速得出结果；当内容涉及“灰色区域”时，则人工介入进行第二轮审核。

从内容形式来看，平台型媒体审核类型包括文本审核、图片审核、语音审核、视频审核等；从审核对象来看，主要包括平台上用户昵称、用户头像、用户评论、用户发布的文字、图片、音视频动态等；从审核目标来看，重点包括不良内容、内容原创性、有无水印等。

一般而言，针对不同业务线，平台媒体会采用不同策略，也就是决定“先审后发”还是“先发后审”。若采取“先审后发”策略时，页面会显示“内容审核中，内容将在审核通过后自动发布”的字样；而遵循“先发后审”策略时，用户可以搜索或看到即时发布的内容，但平台方会在较短时间内完成审核，发布的违规内容会被设置为“用户自见”或者被删除处理。

智能审核能够大规模处理内容审核，其中关于文本、图片、语音、视频等内容的审核要求较高，如对音频内容进行审核时，人工智能审核系统识别语音转换成的文本，再匹配关键词，将与模型相似度最高的垃圾内容进行剔除；在对直播内容、短视频、长视频等内容进行审核时，人工智能审核系统往往会抽取关键帧对视频内容进行审核，而人工团队则会对智能审核系统无法判断的内容进行再审核，作为审核的最后防线。

国内平台型媒体的人工审核往往要经过两三次人力审查。首先是对违反底线的内容进行排查，严重违反规则的内容被设置为自见或者删除；符合内容质量要求的会进入二次审核的内容池，进一步判断其是否符合美食、旅游、科技、历史、教育、时尚等垂类优质内容的标准，审核重点包括内容抄袭率、是否有错别字、标点符号是否规范、图片是否清晰等。

在二次审核内容池里，每条内容会被至少两个审核员判断，二者判断一致，则内容没有问题；二者判断不一致，则会有抽检监督员来进行最终判断。也就是说，人工智能审核系统能够在一定程度上自动剔除大量违规内容；而人工要做的是根据规则对其他内容维度进行标签化判断，在一定程度上纠正算法偏差，为算法保驾护航。

以平台的角度，内容审核是对平台内容生态的规范化治理，也是对内容消费者的一种保护，可以帮助用户规避虚假信息。平台型媒体鼓励用户生产内容，其中不可避免地会存在暴力内容、虚假广告，同时部分用户也不具备甄别虚假信息的能力，平台内容审核一定程度上可以减少不良内容，帮助用户规避风险和不必要的损失。

从长远来看，内容审核也有利于平台型媒体的商业化发展。一方面，内容审核类似于信息清洗，可以帮助平台建立起健康的内容生态。而健康生态能够鼓励用户进行优质内容生产，形成比较好的内容生产与消费氛围。另一方面，平台的用户群会吸引品牌商进行广告投放。

最后，平台型媒体的内容审核行为能够管控与品牌相关的评论信息，帮助优质品牌构建和维护形象，有助于提高优质产品和品牌的曝光率，提高商业价值。如此，更多品牌将主动加入这一阵营，在平台型媒体投放广告。