视频审核中，内容风控在“控”什么？ 内容审核

随着互联网用户每周上网时长的持续上升，内容偏好的娱乐化和碎片化，消费者触媒重心逐渐由图文形式向视频形式转移，很多企业都着重发展自己的视频内容。但是，很多企业对于视频内容审核方面却存在很大的问题。

关于视频审核，内容风控在“控”什么？

对于视频而言，来自内容侧的风险主要有三类。

第一是政策层面的内容合规，要符合监管的要求。监管要求的内容可参考最新实行的《网络信息内容生态治理规定》，对于各项违规内容都做了详细规定，大致概括可分为涉政、违禁、暴恐、色情等四类，这部分是政策红线，一旦触及，轻则约谈，重则下架、封禁。

第二是社区氛围的良性导向，如谩骂、隐私等。这一类型的内容虽然不会触及监管红线，但倘若内容社区充斥各种负能量，对于社区氛围是非常严重的损害，伤及用户体验，导致用户流失，影响产品商业利益。这一类型内容风控还包括对于产品运营主体的保护，例如对吐槽公司工作人员的内容进行限流处理、对平台和产品的诅咒进行删除等，属于商誉和公关层面的维护，同时也是对产品官方公信力的维护。

第三是社区用户安全的保证。对于内容和社区产品而言，平台内一定会存在导流、灰产、诈骗等不法手段，如何保护平台内用户的财产安全和产品体验，是非常关键的，互联网发展至今，导流、诈骗等行为往往是成熟的灰黑产产业链所为，他们拥有丰富的反监查和防过滤经验，揪出他们并进行处理，需要平台与其斗智斗勇。

企业如何才能做好视频内容的风险把控？

内容审核对于任何一个企业来说都是很重要的一部分，是企业核心竞争力的重要体现。要想加强企业的竞争力，需要加强视频内容审核，做好视频内容的风险把控。

企业需要从以下三点入手：

1、明确行业痛点与过滤标准

每个行业的数据都有自己的独特性，且审核侧重点不同，比如交友网站类产品会特别注重广告的审核，而资讯类网站则更要注意涉政、谣言一类的非法信息……因此，在做视频内容审核工作之前，企业应先对自身产品的内容数据进行分析，每天的数据量大概是多少？什么时段是用户活跃的高峰期？什么类型的内容更受用户观看？然后才能对症下药。

2、建立合适的视频内容审核体系

在明确自身问题后，就要根据实际问题建立起合适的视频内容审核体系，如：如果你的产品进入发展中期，用户开始增长，内容也开始呈现多样化的形态，此时的视频内容审核就应该让技术打好前战，以关键词匹配模式辅助人工判断即可解决80％以上的问题；如果数据更复杂，则建议找专业的第三方平台，毕竟它们对于视频内容审核的技术已经趋于成熟，审核人员也更加专业，准确率有保障。

3、加强优质内容的呈现与用户的引导

现在越来越多的企业秉承着“用户喜欢什么我们就推荐什么”的原则，然而这样的做法，很大程度上会促进标题党、娱乐、内涵段子等内容充斥网络，久而久之用户很容易自然流失，所以，企业要帮助用户筛选优质信息，让用户看到正能量的一面；另一方面，还要引导用户在使用过程中去主动举报违规内容，让更多用户深度参与到产品的建设中来。

跨模态智能治理，“白泽”助力企业做好内容风控

我们知道，早期的视频内容审核，只能通过人工审核，这种方式需要大量的人力物力，而且需要时间长；之后，诞生了关键词过滤等手段，对于命中预设的违禁关键词的内容，直接阻止发出或者转交人工审核，这种方式基本可以过滤掉大多数的违规内容，但也存在关键词过滤准确率较低，出现误伤和漏网的情况。

之后就进入了AI+策略的时代，也就是机器学习+人工审核的方法。随着人工智能技术的不断成熟，自然语言处理、图像识别、声纹识别等技术已可成熟地应用于大部分数字媒体领域。

人工智能技术的引入将彻底改变传统的内容审核形式，实现对互联网内容信息的实时审核，无论是审核效率还是审核精度，都将得到极大提升。

人民中科拥有世界领先的内容理解能力，并在国内率先实现亿级/秒的视频比对，对全网海量图文及音视频内容进行高通量感知、机器理解、智能检索、深度挖掘、全息展示等，提供面向政府和企业的内容安全服务、内容监测及版权保护、内容情报挖掘、内容安全测评和互联网内容审核、风控、巡检等系统。

“白泽”是人民网、人民中科推出的内容风控大脑，是对全网海量内容进行高通量感知、机器理解、智能检索并自主进化的计算平台。

“白泽的核心能力”

“白泽”可跨模态实现文本搜图片、文本搜视频、图片搜视频、视频搜视频、图片搜文字、视频搜文字等功能，是探索数字世界的重要工具。

“白泽”的主要功能

基于类脑认知过程的“拷贝-检索-生成” 跨模态智能理解网络，实现了跨模态内容检索、视频内容描述、视频标签和标题生成的一体化解决方案。

在综合治理上

在网信、安全等领域，面向互联网内容风控、舆情感知、情报研判、对象管控、目标落查等业务场景，提供对数字世界的事前、事中、事后全生命周期的空间治理解决方案。

在政务服务上

可以提供集约化管理、智能搜索、智能问答等应用服务，实现“按需融合”的智能服务体系，帮助提升利企便民体验。

在互联网行业

可以提供版权保护、商品监测、监播审核智能风控、智能营销等应用，助力互联网企业实现平台内容统一管控和高效营销管理。

在教育行业

可以提供教师课件内容审核、学生课程作业查重审批、校园风险监测及互联网涉校舆情感知等应用，为课程思政和规范教学行为提供智能化手段。

在金融行业

可以提供合规风险自查自纠、金融业务智能风控、网络声誉整体感知以及跨渠道内容/产品精准营销等应用，助力金融风险智能管控和业务价值提升。

在当前2022年“清朗”系列专项行动的背景下，人民中科已面向政府以及其他合作者，提供互联网音视频风控系统、内容巡检平台、内容风险检测平台、版权监测平台、隐匿网络监测、党政智能文库等产品或服务，同时“白泽”作为核心能力为以上产品提供了内容的查询、识别、检索、关联等支撑。为建立健全国家内容安全机制及谣言溯源机制贡献一份力量。