内容审核存“空白领域”人工智能助力行业发展 图片鉴黄

随着互联网迅猛发展，内容呈海量爆发趋势；随着5G商用、人工智能、大数据、区块链等出现，互联网内容在形态、载体、体量、交互等方面正在走向新阶段，内容风控领域也出现新特点。网络内容和流量呈爆炸式增长，短视频、无人机、VR/AR、直播等新媒体技术也愈发成熟，大幅度突破传统媒介范围，使得常规内容审核和质检难度攀升。另一方面，内容的激增、延伸、交互伴随的内容安全问题日益凸显。海量的互联网数据产生了大量的音、视频信息，这些信息中可能包含了大量的不良信息，不利于社会的良性发展，对于互联网公司来说也是重要的风险点。

“互联网内容风控”，如今已是整个互联网行业公认的生存之基。近年来，从中央到地方陆续发布多项针对互联网内容治理的措施，如网络音频专项整治、未成年人暑期网络环境专项整治、手机浏览器整治行动等。在此背景下，内容型互联网企业将AI审核技术作为主要突破点，不断提升对海量UGC内容的审核精度和效能。

今年三月底，有两家企业因为品牌传播引发内容风险而登上热搜。一是卫龙辣条因包装印刷内容不妥，被指涉嫌低俗营销；二是宝洁会员中心发布的一条推文引发网友强烈不满。

短短的一周之内，连续曝出两起品牌传播相关的内容风险事件，可以看到在这个“传播即出版”的时代，不仅内容型、社交型企业产出的UGC内容形同网络出版，而且技术、制造、消费、食品等各类非内容型企业发布的所有信息也需要同等重视。内容秩序、传播秩序和商业秩序，每个环节都离不开内容安全。

从资质和内容监管，到运营和变现途径监管，“全链条”是当下监管的主要特征之一，也为企业内容安全带来更高要求。

近日召开的“当前内容风险特征及风控策略研讨会”，政府机构、央国企及互联网平台内容风控负责人，就当前复杂国内外形势下出现的风险新特点和应对方案展开探讨。相关负责人表示，对于内容层面的监管，国家有关部门对所有企业的要求是一样的，很多标准相当于对传媒行业的要求。纵观近来发生的非内容型企业风险，究其原因，主要是因为企业存在两大缺失：第一，品牌传播专人化、专业化管理缺失；第二，内容审核风控流程缺失。许多企业的品牌对外宣发内容由负责其他岗位的员工兼职发布，或者虽有专人负责，但是负责人的内容专业素养不够，意识不到其中的风险。此外，有的企业只限于审核错字病句，但是在传播导向、价值取向、版面语言、宣发流程等方面处于审核空白，而问题往往就出现在这些“空白领域”，这无疑给企业带来巨大风险隐患。

“作为智慧教育领域企业，内容风控日益成为我们的关注重点。这是专业性极强的工种，而人才匮乏是我们面临的主要问题。”中电鹰硕（深圳）智慧互联有限公司董事长卢启伟在研讨会上表示。

研讨会上多数企业人士认为，破解“专业人才匮乏”这个难题的最佳路径，就是联动具备专业能力的主流媒体，助力企业的全链条内容安全建设。

“通过扩展概念，我们已经服务了多家客户，包括支撑广交会内容安全等。这只是一个新的开端，我们挖掘的也只是海量企业需求的冰山一角。可以肯定地说，内容风控是所有内容型、非内容型企业的刚需，不仅是保障企业安全发展的基石，也影响着社会对于企业信誉形象和商业价值的判断，发展潜力巨大、前景十分广阔。”相关风控负责人认为，产品和运营风控在未来将与基础审核一道，成为企业内容安全的“微笑曲线”两端。时代呼唤人工智能技术，同样呼唤专业技能，以减轻非内容企业跨专业风控的痛点。