内容审核存“空白领域”人工智能助力行业发展

最新文章

随着互联网迅猛发展,内容呈海量爆发趋势;随着5G商用、人工智能、大数据、区块链等出现,互联网内容在形态、载体、体量、交互等方面正在走向新阶段,内容风控领域也出现新特点。网络内容和流量呈爆炸式增长,短视频、无人机、VR/AR、直播等新媒体技术也愈发成熟,大幅度突破传统媒介范围,使得常规内容审核和质检难度攀升。另一方面,内容的激增、延伸、交互伴随的内容安全问题日益凸显。海量的互联网数据产生了大量的音、视频信息,这些信息中可能包含了大量的不良信息,不利于社会的良性发展,对于互联网公司来说也是重要的风险点。

“互联网内容风控”,如今已是整个互联网行业公认的生存之基。近年来,从中央到地方陆续发布多项针对互联网内容治理的措施,如网络音频专项整治、未成年人暑期网络环境专项整治、手机浏览器整治行动等。在此背景下,内容型互联网企业将AI审核技术作为主要突破点,不断提升对海量UGC内容的审核精度和效能。

    今年三月底,有两家企业因为品牌传播引发内容风险而登上热搜。一是卫龙辣条因包装印刷内容不妥,被指涉嫌低俗营销;二是宝洁会员中心发布的一条推文引发网友强烈不满。

    短短的一周之内,连续曝出两起品牌传播相关的内容风险事件,可以看到在这个“传播即出版”的时代,不仅内容型、社交型企业产出的UGC内容形同网络出版,而且技术、制造、消费、食品等各类非内容型企业发布的所有信息也需要同等重视。内容秩序、传播秩序和商业秩序,每个环节都离不开内容安全。

    从资质和内容监管,到运营和变现途径监管,“全链条”是当下监管的主要特征之一,也为企业内容安全带来更高要求。

    近日召开的“当前内容风险特征及风控策略研讨会”,政府机构、央国企及互联网平台内容风控负责人,就当前复杂国内外形势下出现的风险新特点和应对方案展开探讨。相关负责人表示,对于内容层面的监管,国家有关部门对所有企业的要求是一样的,很多标准相当于对传媒行业的要求。纵观近来发生的非内容型企业风险,究其原因,主要是因为企业存在两大缺失:第一,品牌传播专人化、专业化管理缺失;第二,内容审核风控流程缺失。许多企业的品牌对外宣发内容由负责其他岗位的员工兼职发布,或者虽有专人负责,但是负责人的内容专业素养不够,意识不到其中的风险。此外,有的企业只限于审核错字病句,但是在传播导向、价值取向、版面语言、宣发流程等方面处于审核空白,而问题往往就出现在这些“空白领域”,这无疑给企业带来巨大风险隐患。

    “作为智慧教育领域企业,内容风控日益成为我们的关注重点。这是专业性极强的工种,而人才匮乏是我们面临的主要问题。”中电鹰硕(深圳)智慧互联有限公司董事长卢启伟在研讨会上表示。

    研讨会上多数企业人士认为,破解“专业人才匮乏”这个难题的最佳路径,就是联动具备专业能力的主流媒体,助力企业的全链条内容安全建设。

    “通过扩展概念,我们已经服务了多家客户,包括支撑广交会内容安全等。这只是一个新的开端,我们挖掘的也只是海量企业需求的冰山一角。可以肯定地说,内容风控是所有内容型、非内容型企业的刚需,不仅是保障企业安全发展的基石,也影响着社会对于企业信誉形象和商业价值的判断,发展潜力巨大、前景十分广阔。”相关风控负责人认为,产品和运营风控在未来将与基础审核一道,成为企业内容安全的“微笑曲线”两端。时代呼唤人工智能技术,同样呼唤专业技能,以减轻非内容企业跨专业风控的痛点。