平台违规内容审核标准的等级与维度|图普智能审核系统

最新文章

聚合新闻平台在对新闻内容进行审核过滤之前有一套内部的新闻审核标准,既符合国家的政策法既要做到新闻内容的严格把关,又要兼顾商业化利益。让审核从业人员准确、一致理解审核标准的同时,也要通过人工智能算法对审核系统留有一定的处理空间。

自相关细则发布后,网络视听内容审核设立了明确而基本的标准,对聚合新闻平台的新闻内容审核也具有明确的指导作用。

聚合新闻平台为了加强对新闻内容的审核,通过建立大量的审核团队对新闻内容进行先审后发的机制,所有在聚合新闻平台中生产上传的新闻内容都必须被审核过才能发布。

以国内头部聚合新闻平台为例,其审核团队规模在千人以上,审核地点遍布全国各地。数量如此庞大的审核团队以及复杂多变的审核内容,要求平台建立一套更行之有效的审核标准细则。

从对违规新闻内容的处罚行为上看,我国大平台的审核标准大概可以分为两种等级及四个维度。


两种等级:即有新闻报道资质的新闻媒体、国家机构,以及没有新闻采编权的自媒体、个人和组织等。
通过对账号的类型和等级进行划分,聚合新闻平台可以依据不同等级不同类型的账号给予账号不同的权益,放宽或收紧审核尺度。

享有最高等级的权益的新闻机构,可以生产和发布所有类型的新闻内容,其生产上传的新闻内容基本不会进行过滤,只需通过人工智能审核系统对新闻内容中最基本的语义、字符内容等常识性错误进行审查;

而对于其他自媒体而言,时政类、军事类、外交类、社会新闻突发事件等内容会进行严格的审核和把关,以减少新闻内容传播所带来的政策性风险。

四个维度:是指聚合新闻平台对违规失范的新闻内容,依据其审核标准以及违规大小,进行四种处理方式。


1、新闻内容中存在的基本常识性错误

若存在语句或者逻辑不通顺、字符使用错误、标题或者封面夸张、歧义、与内容不符、内容格式存在问题等较低影响的新闻内容,人工智能审核系统会第一时间对该类新闻内容进行退回,要求新闻生产者重新修改新闻内容后再次上传,这也是最基本的审核处理行为。


2、新闻内容中存在的侵权的新闻内容

这类新闻内容可能本身不存在问题,但可能给聚合新闻平台带来潜在的侵权风险,所以审核系统会对该类内容进行一定程度的过滤,系统处理此类抄袭内容时有不同的标准等级,与新闻账号权限登记、是否涉及侵权法案有关;同时,为避免同一事件可能存在的合理性较大重复内容,审核团队可以通过智能审核系统设置一定时间、一定图文重复比率等过滤条件对平台生产内容进行自动化处理。

3、严格违反平台审核标准和国家法律法规内容

智能审核系统认定的违反国家法律法规、发布诱导色情内容和发布虚假信息造成恶劣影响等12类重大违规失范的内容,将其中的违规程度,对新闻账号进行不同程度的扣分,多次违规的甚至可以直接封禁账号。

4、高等级账号未经证实的新闻内容

对于那些本身没有存在违规行为的内容,或者账号类型为新闻媒体、账号等级较高的账号发布的未经证实的新闻内容,智能审核系统会对该类内容审核通过但是对其传播渠道、传播影响力进行降权、打压的行为。

总的来说,新闻平台的审核制度一般由人工智能算法和人工团队组成,涉及到新闻生产媒体的类型、账号等级、平台的商业利益会通过这种相互配合的审核把关方式对新闻内容进行审核。