内容审核机制⎪互联网平台业务审核形式的竞争走向

最新文章

在目前互联网平台媒体内容审核中,普遍存在的问题及挑战在于其内容量过大、审核机制存在偏倚以及受到平台外部监管和内部规则的影响导致审核标准产生不确定性;与此同时,平台内容审核规则的透明度逻辑也不再明晰。所以平台型媒体需要从社会、经济以及平台参与方的资本和经历入手寻求突破困境的办法。

具体来说,主要是将部分经济机会让渡给社会第三方机构,同时与平台内部的其他参与主体共同建立起内容生态的规则,且在内部进行人工智能算法的迭代升级,进而打造有自洁功能的内容生态环境。

多元化的内容审核机制
考虑到互联网媒体平台内参与群体的构成复杂,内部其他参与也在寻求新的突破方法,甚至改变维度规则。具体来说,内容风控业务会逐渐延伸出更多元的模式、内容审核行业也会涌现新的人才。在平台型媒体的维度里,逐渐呈现出一种趋势,即正式员工精英化、中低端工作外包化,体现在缩减正式岗位,把机械化的工种交给外包临时工。

在实际工作中,人工内容审核作为内容行业的底层工作,工作签约多为外包岗。相关外包公司也被称为第三方内容审核机构,目前有两类,分别是主流媒体主导建立的内容风控业务机构、依托人工智能与大数据技术的外包技术公司。


主流内容风控业务形式
近年来,人民网陆续颁发互联网内容风控师证书,且提供相关内容风控方面的业务,包括与大型客户签订长期外包服务协议和对中小客户提供云服务后台等方式。如此一来,内容审核成为传统主流媒体新的盈利模式,同时也成为主流媒体提高引导力的新方式。

主流媒体引领内容风控业务的标准与规则,原因在于在过去很长一段时间中,其在内容把关上积累起来的职业规则以及通过媒体业务在社会维度内积累起来的文化资本与社会资本。例如,主流媒体长期跟踪时政类内容,在该类内容风控上有更为老道的经验,不少平台型媒体也愿意高价招聘具有主流媒体编辑经验的人员,以保证内容生态的安全性。

与此同时,各大平台型媒体也将审核标准化业务外包给相应的技术公司,随着平台型媒体内容空间和市场规模的扩张,内容审核需求也会越来越大。


不过,内容平台方对坚持自身品牌特色的坚持、第三方机构与平台方审核标准的统一、双方责任划分等问题仍然仍有提升空间。

另外,目前国内内容行业规则的建立并非由互联网公司主导;政府主导建立的内容行业相关法律法规,包括互联网新闻信息服务条例等,发挥着主流作用。不过在行业内,平台型媒体可以自主建立相关数据库配合人工智能算法审核系统,通过对共性问题的搜集、分析和解决,建立起行业共通准则。

平台型媒体也可能将社会力量纳入审核体系当中,如用户监督与专家团队审核。具体来说,用户标记与举报能够在一定程度上为平台提供反馈,并且在此过程中参与到内容规则的执行中。用户参与审核体系,既可以节省审核资源,也可以对平台内容质量进行反馈。用户能够及时对个人首页出现的涉嫌违法犯罪、低俗色情的内容举报;同时用户标记或者举报的内容能够引起平台关注,被优先处理;


此外,还可针对常被举报的内容类型建立审核准则。如监督员体系:对招募到的用户进行统一培训后,组成线上监督团队,根据工作量给予报酬。至于依托政府机构、新闻媒体、传播学者等建立的专家团队,平台方则可赋予更多功能权限,让其对内容质量进行把关与评鉴,从而在保证平台内容质量方面发挥持久的作用。