斗鱼回应吃播主播浪费:将加强内容审核 杜绝浪费行为

近日央视新闻报道称,所谓的大胃王吃播浪费十分严重。据联合国粮农组织统计显示,全球每年约1/3粮食被损耗和浪费,总量约每年13亿吨。世界76.33亿人口中至少还有8.2亿面临饥饿。现在有些所谓大胃王吃播秀浪费严重,有的甚至吃了再把食物吐掉。珍惜粮食,拒绝浪费。

直播平台斗鱼随后表示,将会积极响应相关号召,加强对之后的美食类直播内容审核,杜绝餐饮浪费行为,共创风清气朗的直播氛围。在视频网站以及社交平台中搜索“吃播”,就会有各种五花八门的频道和视频出现。大胃王,更是成为了吸引流量的工具。

直播作为近年来新兴的互联网模式,如何吸引眼球成为了赚取流量的重要手段。吃播和美食节目其实并没有过错,但为了吃而吃,造成了浪费就不太可取了。

走进科技,高薪的“鉴黄师”,如何快速有效“鉴黄”?

俗话说“360行,行行出状元”。随着互联网时代的到来,我们每个人在互联网上感受到了便利,不需要出门就可以了解到世界上所发生的事情。而其实网络的环境并非我们所浏览到的这样,相反,看似平静的互联网之上,实则暗流涌动!每天都有着非常多的净网使者在为我们的互联网展开清查。

今天跟随小编走进科技,带你看看高薪的“鉴黄师”,如何快速有效“鉴黄”?可能这个职业让很多人听起来都是那么的羡慕,其实在我们国内非常多的互联网公司中,“鉴黄师”都是一个一定要存在的这么一个行业,他们的工作很简单,简单到做电脑前看一天“小电影”。

但是就是这么一个看一整天“小电影”的工作,年薪都能够达到十万以上!这可谓是让不少人都对这个工作羡慕。但其实大家可能不知道,这样的工作其实是非常的累的,上班开始就要浏览海量的视频、图片,对于任何一个人来说,大脑都会难以承受这样的负荷。

而且对于任何一个人来说,精神上的压力是非常大的,任何一个人长期浏览这样的视频、图片都会造成身体和精神上的双重疲劳,如果不好好处理的话,也有可能会造成身体的损坏。于是腾讯为了结果这样的问题,发明了一项AI技术,专门用来帮助“鉴黄师”工作。

而且智能AI可以节省下来非常大的人工,现如今AI也已经可以达到百分之95以上的成功率了,不得不为腾讯的科技技术点一个赞。最主要的是后这工作薪资虽然高,但是和朋友相互聊起工作的话还多多少少是会有些尴尬。

谁能想到,现如今我们的科技已经可以发展到了如此的地步,越来越多的职业已经不需要人类的参与,越来越多的行业开始被机器人所代替了,在未来不知道究竟是好还是坏。

盖茨称TikTok是烫手山芋,要应对更加复杂的内容审核

近日,传闻最有可能购买Tiktok美国业务的公司就是微软,作为几大科技巨头中,微软在社交领域的存在感很低,旗下几乎没有拿得出手的社交平台,因此微软想借助Tiktok在短视频社交领域的影响力让自己在社交领域有一席之地。

比尔盖茨 微软

对于微软可能收购Tiktok,创始人比尔·盖茨近日在接受媒体采访时表示:微软收购TikTok的部分业务并不容易。盖茨说:“谁知道这笔交易将会发生什么。” 他还指出,在社交媒体业务中扮演重要角色“绝非易事”,因为微软将不得不面对全新的内容审核挑战。

当被问到盖茨是否对微软进入社交媒体游戏持谨慎态度时,他表示Facebook有更多竞争是“可能是一件好事”,但“让特朗普杀死唯一的竞争对手,这很奇怪。”

盖茨和我们其他人一样,似乎对这项潜在的TikTok交易如何进行感到困惑,尤其是在特朗普总统暗示美国财政部将在这笔交易中获得“抽成”。盖茨说:“我也同意交易原则非常奇怪。”盖茨说,“抽成的事情更是奇怪。微软必须应对这一切。”

目前美国政府已经给出了最后的期限,在限期到期时,美国企业将无法与Tiktok以及Tiktok的母公司进行任何交易,也就意味着届时Tiktok不得不做出是否出售的决定。

因存在涉未成年人在线学习违法违规行为 腾讯旗下QQ浏览器、腾讯网等平台APP遭查

据中国网信网消息,针对在利益驱使下,一些学习教育类网站平台和APP借机传播一些有害和不良信息,恶意弹窗引流,严重干扰青少年正常学习等问题,国家网信办在7月初启动的2020“清朗”未成年人暑期网络环境专项整治中,依法查处了一批影响恶劣的网站平台。

其中,腾讯网及其APP“小学”“上课啦”“开课”等频道推送涉网络游戏、娱乐综艺、网络小说、恋爱技巧等与学习无关的内容。QQ浏览器(含腾讯QQ、腾讯电脑管家)存在捆绑安装多个弹窗插件,在青少年上网课时频繁弹出,部分弹窗过大影响网课呈现等问题,严重干扰青少年上网课。

此外,“腾讯微信公众号”、“腾讯QQ”还存在传播不适合未成年人观看的暴力血腥“邪典”动画片、涉死亡游戏、诱导自杀、未成年人贷款、未成年人炫富等不良信息或群组等问题。

针对网站平台存在的突出问题,国家网信办视违规情节和问题性质,依法分别采取约谈、责令限期整改、暂停相关频道栏目更新、全面下架,停止互联网接入服务、严肃处理相关责任人等处罚措施。

国家网信办有关负责人指出,学习教育类APP和网站平台网课学习栏目严格禁止游戏、直播、恋爱、娱乐等与学习无关的内容,坚决打击淫秽色情、暴力血腥、诱导犯罪等危害青少年身心健康的信息。

评论内容审核至关重要,解析网易云为何变成网“抑”云?

今天,你“网抑云”了吗?

“生而为人,我很抱歉”

“一开口就是老网抑云了”

“兄弟们,打开网抑云给我哭”

网易云本是一个很普通的听音乐软件,不知从何时起逐渐演变为青年网友的情绪发泄的聚集地。而无论什么歌曲,都能被广大网友强行“抑郁起来”,其中的民谣,舒缓音乐区尤为严重。

大量悲春伤秋的评论,丧都有了模版。评论消息区域中的常见关键字是:失恋、考研、大海、酒精等。他们中的大多数人还是在粗暴地复制和粘贴,充满了满满消极的负能量,而一些走心的评论却上不了热评。可以说,劣币驱逐良币。也难怪现在的人们调侃网易云为“网抑云”了。

悲伤本来是一种正常的情绪状态,但它却被恶意地玩弄,嘲笑和调侃其他人,因此,某些真正将网易云音乐评论区用作树洞的用户不再敞开心扉与陌生人互动。现在的一些恶意违规的评论也真得该好好整顿一下了,让大家听好音乐的同时还能看到一些好的评论,感受一下美好!

8月3日,官方及时发现并进行救治方案 。

针对“网抑云”现象,网易云音乐正式推出了“云村评论治愈计划”,并启动了三大举措,邀请心理学家和万余名心理专业志愿者加入“云村治愈所”,万名乐评达人组成云村乐评团发起乐评征集大赛,以建立一个温暖友爱、真实有趣的音乐社区。

就网易云的网抑云事件,同时也带给了人们很沉重的话题——评论审核对于现在一些APP来说有多重要呢?

国家互联网信息办公室发布的《互联网跟帖评论服务管理规定》建议建立跟帖评论审查管理,实时检查,应急响应和其他信息安全管理系统,以及时发现和处理非法信息。

国家网络空间管理局有关负责人表示,这是针对用户公开发布的信息,而不是个人通讯信息,不会损害个人隐私;所需要处理的是非法信息,不存在妨碍言论自由等的问题。

网络跟帖评论已成为网民互动,表达意见和监督公众舆论的重要方式,但也存在不受欢迎的现象,例如散布在线谣言,散布某些极端负面信息以及发布非法和非法信息。该法规旨在贯彻《网络安全法》的精神,促进互联网健康,有序发展。

就目前来说,评论审核成为各大APP,如音乐软件视频软件等评论多的优先级最高需求,不管是通过人工审核还是AI审核,都要以最能安全并且最适合的审核方式为主,不要让网民们说是限制言论自由。当前,随着国家对自媒体行业监管的力度不断提升,评论信息健不健康,安不安全也已然成为国家的重点关注对象了。

在各大平台中,常见的违规评论,比如说一些带有谩骂、黄色、侮辱人等的一些评论,这种违规评论很容易被人所看到;而有些评论则是很需要仔细进行评论审核的,如:一些变形语气的评论,还有一些通过‘打包伪装’之后的评论,这些对于通过关键违规词的AI审核来说是很难去审核出来的。

当然,如上述所说的网抑云传播的负面评论“生而为人,我很抱歉”等的话语对于AI审核来说更是难上加难,单纯利用AI审核,是不彻底的,需要全面去消除这些不好的评论的,所以说现在大部分的企业纷纷启用了人工+AI两种审核的方式,这种评论审核的方式极大地去抑制了违规评论的流出。

中国演出行业协会发布倡议书:加大内容审核力度、规范主播带货行为

8月5日,针对8部门通报网络直播行业专项整治和规范管理工作,中国演出行业协会发布倡议书,督促会员企业加大内容审核力度,及时果断处置违法和不良信息;深入推进主播“黑名单”联合惩戒机制;引导用户理性消费,避免造成不良围观效应和消费误导;规范主播带货行为;全面自查平台运营资质。

中国演出行业协会表示,将在主管部门指导下,开展行业调研,汇总企业意见,并召集专家学者进行论证,为行业规范管理提出政策建议,推动主播账号分级分类管理和规范打赏等行业规则出台。同时,带领行业企业共同构建起激励高质量信息内容供给的新型直播管理体系,配合监管部门扎实有效推进源头治理。

针对会员企业的具体倡议包括:1.加强本平台网络信息内容生态治理工作,引导培育践行社会主义核心价值观、积极健康、向上向善的网络文化。加大内容审核力度,及时果断处置违法和不良信息。

2.提升直播平台文化品位,加大、鼓励知识分享、传统文化、爱心公益等高品质、正能量内容生产。

3.保护青少年健康成长,进一步优化青少年模式,净化“网课”直播生态,全面清理各类违法违规内容,加大青少年“内容池”供给,为青少年成长提供绿色、健康的网络环境。建立起涉未成年人举报或投诉的绿色解决通道。

4.深入推进主播“黑名单”联合惩戒机制,坚决打击网络直播违法犯罪行为,对色情低俗、网络赌博、网络诈骗等违反国家法律法规的行为绝不姑息。对炒作热点事件,博眼球吸流量造成严重社会影响等行为,即发现即封禁,坚决扼制歪风邪气。

5.引导用户理性消费,避免造成不良围观效应和消费误导。加强主播管理,引导主播合理使用直播打赏等互动手段,不得利用违法违规手段诱导打赏,引导主播为广大网民提供优秀健康的互联网直播内容。

6.规范主播带货行为,直播频道内禁止出现破坏交易秩序、牟取不正当利益、侵犯消费者合法权益的行为。如虚假宣传、售卖三无产品、假冒产品等等。

7.全面自查平台运营资质,根据相关主管部门的要求,如实、完善备案手续。

来源:北京商报

「净网2020」“暗网”不是法外之地和避罪天堂

暗网(深网,不可见网,隐藏网)是指那些存储在网络数据库里、但不能通过超链接访问而需要通过动态网页技术访问的资源集合。

关于暗网

互联网是一个多层结构,我们平时所浏览访问的内容仅仅是处于互联网表层的“表层网”。其他还没有被传统搜索引擎索引的内容统称为“暗网”,“暗网”的深处,仅能在电脑上进行一系列特殊的操作设置或在特殊软件的辅助之下又或对本机的特殊授权之后方能进入访问。

关于“暗网”,最出名的一句话应该是这句:暗网也称深网,也称隐形网,hideweb,deepweb。深网的意思就是说冰山上露出的那一角是我们现在看到的 “明网”,整个数据量的 96% 在下面。

“暗网”成为滋生犯罪的温床

“暗网”的显著特点就是使用特殊加密技术对互联网信息刻意隐藏,利用加密传输、P2P、多点中继等方式为登录用户提供匿名访问。“暗网”作为一种具有隐藏、易逃脱监管性质的网络,逐步成为网络违法犯罪滋生的摇篮,从黑客窃密、倒卖公民个人信息、传播色情恐怖非法信息、非法收售违禁品到国家间谍活动,都依托着“暗网”进行。

虽然“暗网”具有匿名性和隐蔽性等特点,但“暗网”不是“法外之地”和“避罪天堂”

“暗网”并非法外之地

犯罪嫌疑人武某行,男,1982年出生,山西省临汾市古县人(捕前住运城市盐湖区)。因犯侵犯公民个人信息罪被判处有期徒刑三年,并处罚金五千元。

案情回顾

2018年秋以来,犯罪嫌疑人武某行主动了解“暗网”(买卖枪支弹药、毒品、公民个人信息及证件信息等违禁物品的场所)登录及操作技术,利用付费VPN(虚拟专用网络)非法登录暗网,通过比特币交易方式购买大量低俗色情视频、木马程序、洗钱话术教程及公民个人信息数量达10余G。

2019年10月至11月,犯罪嫌疑人武某行主动将其中数百万条公民购物信息的数据提供给朋友张某,让其筛选使用以获取商业利益。期间,武某行还多次将其在暗网购买的公民网贷数据通过QQ、微信主动联系买家计划交易,企图获取非法利益。

后虽因某种原因未获利,但其通过暗网非法获取公民个人信息并提供给他人欲获取非法利益的行为已构成侵犯公民个人信息罪。

最终,犯罪嫌疑人武某行因犯侵犯公民个人信息罪,被判处有期徒刑三年,并处罚金五千元。

网警提示

互联网不是法外之地,在网络上的行为一定要遵守法律法规,切实做到知法、守法、敬法、畏法,不被利益所驱使,作出违法犯罪行为。我们要注重保护个人信息,合理利用网络资源,共同营造和谐清朗的网络环境。

如何从5W模式入手,助力内容审核

新媒介环境下,“人人都有麦克风”、“把关人”缺失、不受时空限制的网络传播渠道使得内容可以迅速扩散。这些都给内容安全带来了挑战,内容审核成为内容平台的重中之重。无论内容、形式、平台如何发展变化,传播的5W模式都是通用的,对内容的审核可以围绕着5个要素展开。

一、5W模式与内容审核

1948年,拉斯韦尔提出了传播过程及其五个基本构成要素,即:

Who:谁——内容的生产者;

What:内容——生产者说了什么;

Which-In Which Channel:渠道——内容通过什么渠道传播;

Whom-To Whom:受众——谁接受到了内容;

With-With What Effect:效果——内容传播后取得了什么效果。

所有的传播行为都可以围绕这5个要素展开。

所谓内容审核,也不仅仅是对内容本身进行识别,尤其是在目前机器识别无法达到100%的准确、内容数量本身及其庞大的情况下,通过对各个传播要素的“监控”,也是完善机器审核的数据维度、提升审核效率的有效途径。

5W要素应用到内容审核中,分别与以下角色环节相对应:

Who:生产者是否靠谱?是否是一个“可信”的人?他发布不合规信息的可能性有多大?

What:内容本身是否是合规的?

Which:渠道想要做好“把关人”的角色,应该如何开展内容审核 ?

Whom:受众本身有无异常?受众的行为是否合规(如发布不良评论)?

With What Effect:传播的情况是否正常?

内容审核目前都是通过机器+人工的方式进行,审核的机制既可以是先发后审也可以是先审后发。

如何选择这些方式和机制、在提升审核效率的同时最大程度地保障内容安全、同时又不影响用户体验,维护三者的平衡,可以围绕上述各要素来进行规划设计。

二、五要素在内容审核中的应用

1. Who:对内容的生产者的风险评分和标签体系

1)建立对于内容生产者的风险评分

从内容生产者发布第一条内容开始,就对他展开内容识别,基于静态的注册信息、此前的行为信息建立初步的风险情况后,根据其后续发布内容的情况动态实时调整,同时建立黑名单制度。

如:一个内容生产者,此前浏览的内容都是财经、商务类型的,而且绑定了银行卡,则前期的静态评分可以认为他是一个低风险用户。

后续其发布的内容在一段时间内多次触发人工审核机制,则可以提高他的风险等级;随后他发布的内容被用户举报且人工审核确实违反了规则,则可以视情况将其纳入黑名单,限制之后的内容发布行为。

2)建立对于内容生产者的标签体系

针对内容发布者进行画像,可以实现对异常行为的监控。

标签体系可以包括用户的性别、年龄段、常用地理位置、常用设备、发布的内容类型等信息。一旦某些信息发生变化,则需要对其内容进行重点监控,防止异常行为,如用户被盗号后此账户被用来发布不合规内容。

此外也可以设置优秀内容生产者等标签,对此类用户发布的内容免审核或可以先发后审。

2. What:对内容的识别规则和手段

建立内容审核的规则,审核的规则大体上来说源于监管的要求和业务的政策。

1)监管的要求

内容不能涉及黄赌毒暴政恐,《网络信息内容生态治理规定》、《网络短视频内容审核标准细则》等也对内容审核提出了详细的要求。

2)业务的政策

为营造社区的良好氛围,保证用户体验,内容不能涉及侵权、谩骂、隐私、低俗、垃圾内容等;为保障平台的正常运营和利益,不能违规发布广告、添加链接等;为社区用户安全考虑,内容不能涉及导流、诈骗等。

3)丰富审核的技术手段

充分利用人工智能等技术手段,实现对文本、图片、声音、视频的自动识别,不断提高机器的召回率和准确率。

4)搭建机器审核和人工审核的流转机制

包括内容在何种情况下触发审核、何种情况下触发人工审核,人工审核是否需要复核等,完善的流程设置对效率的提升大有助益。

3. Which:助力审核人员扮演好“把关人”的角色

1)设置有效的任务分配机制

提升分发效率和审核效率,保证需审核视频100%分发,且在最短时间内到达审核人员,同时按照一定的规则给审核人员分配需要审核的视频。

按照触发人工审核的原因来分发,可以使审核人员积累在某一领域的审核经验,提升审核效率。

2)为审核人员提供配套的功能

“工欲善其事必先利其器”,提供审核的辅助功能,助力人工审核提速。

如针对文本的审核对敏感词高亮显示,针对音视频的审核标注关键帧、设置倍速浏览功能,审核的信息通过信息流的方式自动呈现,减少操作点击环节。

4. Whom:通过受众识别违规内容的“蛛丝马迹”

1)为受众提供举报功能

一方面可以节约审核资源,另一方面也是对机器和人工审核错误率的一种弥补。

2)建立受众的标签体系

和针对传播者的标签体系一样,对用户的画像除了用于针对用户的内容推荐外,也可以是对内容质量反馈的一个维度。

例如:同一个内容被大量不同标签的用户关注,可能内容本身存在了诱导行为,就需要人工审核予以确认。

3)进行受众聚集情况分析

针对受众的集中情况进行分析,是否过于聚集。

不过此方式多用于直播中刷量行为等的监控,在内容审核中,可以辅助判断内容是否存在诱导、违规广告营销等。

5. With What Effect:通过传播的效果发现内容的异常

1)通过观看、点赞、转发、评论数等的监控发现异常行为

传播范围广泛的内容中若存在风险,造成的后果更为严重,因此要对观看、点赞、转发、评论量比较大的内容特别关注。

另外:这些指标的异常也是一个值得关注的风险点,此前点赞数一直不过百的用户新发布的内容突然点赞过万,可能需要对内容进行人工审核。

2)对评论进行内容识别

评论同样是内容审核需要关注的部分,对评论内容的识别。

一方面是监控评论是否有违规行为,另一方面通过关注评论内容中是否存在对内容本身的举报等,来进行内容审核。

三、小结

从5W模式入手建立内容审核的体系,是基于传播要素的完整模式。

内容审核的重点还是在对内容本身的识别方面,从提升机器审核的召回率和准确率,到提升人工审核的效率,再到搭建完整的流转机制,从其他要素着手也主要是为优化这三个环节来服务。

当机器能够实现对违规内容的100%精准识别,甚至具备了自我学习的本领,能够自己去拓展发现审核的“要义”,或许其他环节也就不那么必要了。

来源:人人都是产品经理

TikTok宣布将公开驱动其内容审核算法的代码,并指责Facebook进行恶意攻击

TikTok新任首席执行官Kevin Mayer在其官网以“公平竞争和透明度使我们所有人受益”为题发表公开声明,表示该公司将发布驱动其内容审核算法的代码,以便专家可以实时观察其执行情况。他说,TikTok将在洛杉矶成立一个透明和问责中心,以进行审核和数据实践。此外,Kevin Mayer在这份声明中称,Facebook推出了另一个模仿TikTok产品Reels(与Instagram绑定)。但他认为这是Facebook“伪装成爱国主义”的恶性攻击。

揭秘FB内容审核人员工作状态:心理已不健康 每日被色情、暴力所笼罩

据外媒报道,数以万计的外国内容审核人员将无数有争议或恶意内容从Facebook上删除,他们在这个过程中身心都受到巨大伤害。然而与美国同行相比,他们几乎没有得到雇主的太多支持。这种情况会改变吗?

今年早些时候,当Facebook与代表美国四个州1万多名前任和现任内容审核人员的律师达成5200万美元的和解协议时,他们在印度和菲律宾的同事却完全被排除在外。在针对Facebook的案件中,美国的内容审核人员声称,检查这家社交媒体巨头平台上的内容,包括筛选从儿童色情到恐怖分子斩首视频的一切内容,已经导致了严重的心理健康问题。

和他们的美国同事一样,数以千计的亚裔员工受雇于Genpact和Cognizant等外包公司担任内容审核人员。他们总是报告说,令人精疲力竭的工作条件让他们暴露在各种暴力、色情以及其他恶意内容中,给许多人留下了持久的精神创伤。

Facebook在全球拥有超过15000名内容审核人员。虽然这起诉讼让美国的部分审核人员松了一口气,但它并没有解决那些在海外为该公司工作的人面临的困境。

外包热潮始于20世纪80年代末和90年代初的印度和菲律宾,当时西方科技公司开始将客户服务或IT等后台职能转移给受过良好教育但劳动力成本低得多的国家。如今,业务流程外包(BPO)公司在菲律宾雇佣了120多万名员工,在印度雇佣了110多万名员工。当Facebook在本世纪末开始外包其部分业务时,这两个国家确立了自己作为BPO中心的地位,其中最引人注目的是呼叫中心工作。

对于美国的内容审核人员来说,这份工作通常是临时性的,但在许多印度和菲律宾的审核人员眼里,业务流程外包本身就是一条值得追求的职业道路。这些工作通常由受过良好教育、精通英语但不是特别富裕的人担任,可以作为他们进入中产阶级的跳板。如果没有这些外籍员工,Facebook平台上将被暴力内容淹没,最终导致用户和广告商流失。

纽约大学商业与人权中心副主任保罗·巴雷特(Paul Barrett)表示:“鉴于内容审核工作的重要性,将其外包似乎不太恰当。这从一开始就存在些问题,因为这份工作的功能太重要了。”

现年30岁的拉胡尔(Rahul)是印度海得拉巴居民,他要求使用化名来保护自己的身份,他在一家银行的客户服务部门工作了几年后加入了Genpact。起薪不错,接近每月500美元(现在接近200美元),他发现在Facebook现场工作的机会很诱人。

当拉胡尔到达该公司的海得拉巴办事处时,他惊叹于那里的豪华沙发、乒乓球桌和城里最好的餐厅提供的餐饮。拉胡尔以前从来没有见过这样的东西。告诉他的朋友们自己在高科技城(Hitech City)工作,那种感觉似乎太好了,不容错过。高科技城中有许多最著名的国际科技公司,这也是拉胡尔接受这份工作的主要原因。

拉斐尔(Rafael)是一名菲律宾男子,为了保护自己的身份,他在接受采访时也要求使用化名。他说,他接受了内容审核工作以推进自己的职业生涯。作为一名喜欢写作的前新闻系学生,他乐于通过为公司的一些其他客户撰写博客帖子来锻炼自己的创造力。除此之外,他还从事内容审核工作。

即使这项工作被证明是艰难的,但他把重点放在了职业成长的潜力上。拉斐尔说:“为了丰富我的工作经验,我坚持了一段时间。”而当他看到了离开内容审核并接受新工作的机会,并在工作两年后,他就“抓住了机会”。

达拉斯律师丹尼尔·查雷斯特(Daniel Charest)代表了美国内容审核人员提起了诉讼。他说,他的成功在很大程度上源于能够在法庭上讨论内容审核工作对他的当事人们造成的心理伤害,这些人被心理学专业人士诊断为患有创伤后应激障碍、抑郁和焦虑。但在印度和菲律宾等国,社会耻辱和缺乏心理健康诊治渠道往往会阻碍人们公开谈论心理问题,更不用说一开始就得到正确诊断了。

拉斐尔觉得很舒服,甚至很有信心,能够将仇恨言论、色情内容等剔除出去。但让他难忘的是一段儿童被虐待的视频。在看到视频后,他开始注意到自己行为的变化,这让他感到担忧。他说:“我不是一个坏人,但是我发现自己在做一些邪恶的小事,说一些我会后悔的话,想一些我不想做的事。”

当时,拉斐尔工作的公司没有为内容审核人员提供任何形式的内部咨询帮助,所以他自己花钱支付了治疗费用。当被问及是否认为像Facebook这样的公司应该负责代表内容审核人员承担这类成本时,拉斐尔表示,他已经与目前的公司签署了保密协议,阻止他回答这样的问题。但他承认:“有时候,人们的绝望和黑暗会影响到你,即使你说是专业人士也无法应付。”

在接受这份工作的头几周,拉胡尔对他遇到的车祸和虐待儿童的图形视频感到震惊。最终,他变得麻木了。他说:“习惯了这些东西,可以让你一边吃午饭一边看某人死亡的视频。但归根结底,你还是要有人情味。”拉胡尔说,他没有去看治疗师,这对他没有用。

一位与Genpact合作并要求保持匿名的前顾问称,拉胡尔的糟糕经历反映了其他内容审核人员面临的困境。当内容审核人员最终寻求治疗时,通常是当内容会让他们想起个人生活中的事件,他们惊讶地发现自己也受到了影响。根据这位前顾问的说法:“他们会说:‘我做这行已经很久了。为什么我现在会有这种感觉?’”

据海得拉巴的精神病学家K·乔瑟尔马伊博士(K. Jyothirmayi)说,感到耻辱,比如心理健康诊断对婚姻前景的影响,往往会阻止印度年轻人寻求治疗。虽然菲律宾的精神卫生立法相对进步,但障碍和耻辱依然存在。

据在菲律宾工作的美国在线咨询初创公司MyGolana创始人劳伦斯·王(Lawrence Wang)说,从马尼拉臭名昭著的交通到令人望而却步的精神卫生保健费用等一系列问题,可能会让普通菲律宾业务流程外包(BPO)人员无法获得治疗。虽然拉斐尔不得不寻求私人咨询,但一些BPO公司在菲律宾确实提供这项服务,尽管即使这份服务也可以外包。

玛丽尔(Mariel)同样要求使用化名,因为她受到保密协议的约束,曾在一家BPO公司担任热线顾问。她的客户是其他BPO公司的员工,包括Facebook的内容审核人员。由于治疗是通过电话进行的,玛丽尔无法提供心理诊断。

在为公司工作的两年中,玛丽尔有几个客户在审核了与自杀相关的内容后开始考虑自杀。表达自杀想法或倾向的来电者被标记到处理内容审核的公司,并被转介给面对面的咨询顾问。但是,玛丽尔说,对于经历其他问题(如焦虑、抑郁或睡眠剥夺)的内容审核人员来说,没有这样的协议,这些问题可能会提醒公司注意正在酝酿的心理健康危机。

这名仰光男子在手机上使用Facebook。内容审核人员的工作时间很长,从审核仇恨言论到色情内容无所不

拉斐尔说:“深深沸腾的思绪会萦绕在你的心头,它会让你觉得毛骨悚然。这些东西无法轻易摆脱,因为我看到了,它已经记录在我的脑海里了。”拉斐尔将他从观看视频中恢复的能力归功于治疗。他表示:“我觉得,如果我当时没有咨询专家,被这段视频困扰的感觉可能会以某种形式表现出来,那样可能会让我后悔终生。”

即使内容审核人员接受了面对面的咨询服务,他们也会遇到不友好的法律环境。在印度,工人赔偿诉讼是通过各种法律进行裁决的,但该国的法律框架并不认为心理健康属于职业危害。印度互联网与社会中心的研究员阿尤什·拉蒂(Ayush Rathi)表示:“印度劳动法框架的设计只考虑到了雇主的利益。”

劳工律师、IT员工论坛(Forum For IT Employees)顾问吉达·德瓦拉加(Geetha Devarajan)表示,印度内容审核人员可能会根据该国1947年的《劳资纠纷法》提起诉讼。该论坛是IT和BPO工人的工会。但在根据该法案提起诉讼之前,内容审核人员必须成立工会,并与雇主进行仲裁,以试图达成可接受的和解。

尽管菲律宾的劳动法通常规定,第三方公司对为承包公司工作的员工分担责任,但这些规定并不适用于BPO行业,因为该行业允许将工作外包给BPO公司的第三方公司逃避对从事这项工作的员工承担责任。

赖斯大学在菲律宾研究内容审核工作的助理教授奥尔登·萨约尔·马特-伍德(Alden Sajor Marte-Wood)说:“菲律宾的整个法律体系旨在吸引外国投资进入业务流程外包等行业,这在一定程度上意味着没有美国那样的劳工保护措施。”这两个市场都有大量的廉价劳动力和高失业率,这意味着BPO工人也感觉自己可以被随意替换。

致力于保护菲律宾BPO工人权利的BPO行业雇员网络(BEN)主席玛琳·卡巴罗纳(Meline Cabalona)指出:“为了让人们保持听话,公司会说,如果工人不遵守规定,没有达到客户的目标,那么客户就会退出,把工作带到另一个国家。当然,人们害怕丢掉工作。”

智库塔克沙希拉研究所(Takshashila Institution)的政策分析师罗汉·塞斯(Rohan Seth)补充说:“虽然内容审核可能不是薪酬最高的工作,但有总比没有强。这几乎是从业公司妥协的理由。”

自美国的诉讼以来,Facebook已经同意做出改变,以更好地支持内容审核人员,包括要求外包公司提供更多心理支持。Facebook的一名代表称,这些改变也将适用于在美国以外工作的内容审核人员。然而,这起诉讼不会对那些已经遭受心理伤害的国际内容审核人员进行赔偿。

马特-伍德担心,美国未来诉讼的威胁可能会将内容审核工作推向印度和菲律宾等地,这些地方的劳动法更为宽松,遭遇类似诉讼的可能性较小。

对于纽约大学的保罗·巴雷特来说,唯一的解决方案是让内容审核人员进入公司内部,尽管他承认Facebook雇佣承包商的成本仍然较低。他说:“我认为Facebook知道它必须雇佣大量听得懂地道英语、了解美国风俗习惯的美国人,花5200万美元打发掉1万多名内容审核人员来说并不贵。”