泛娱乐APP出海背后：“审核内容商”高效解决多语言内容风险

赤子城、FunPlus、紫龙游戏、中手游、盖娅互娱……近几年一众国内企业“出海”披荆斩棘，泛娱乐行业空前繁荣背后，存在一个不容忽视的隐形巨头，守护着这些企业的品牌形象和正常运营。

内容风险成企业“出海”绊脚石

在线上社交逐渐成为主流的今天，全球互联网不仅增加了陌生个体之间的交流频率，也拉近了不同语言用户之间的距离，跨语言交流变得频繁。即使是同一种语言，我们也需要“懂”得用户用这种语言表达了什么。而且，随着音视频社交普及，用户表达的内容不只限于文字。
如果忽略上述现实，品牌和产品就很可能会暴露于敏感内容风险当中，一些令人不适的内容会降低用户的交流体验，无法为用户提供干净、高质量的线上社交体验，从而影响用户留存，对于出海企业的自身品牌形象也造成严重冲击。
据不完全统计，带社交属性的应用，大抵都逃不过这些内容风险——
一、涉毒、涉赌、涉黄、涉暴、儿童安全。对于未成年人，其个人隐私与权益保护能力薄弱，安全问题自不必说。根据谷歌透明度报告，2021年Q3，旗下视频网站623万个视频被移除，与这些类别直接相关的达到80%以上；11亿条评论被移除，涉及儿童安全的达到1.7亿以上。
二、涉政、极端主义、歧视。线上社交应用出现的涉政、极端主义或者歧视内容，是各国网络监管部门重点关注的对象。今年1月，月活达到5亿的某知名国外社交应用，因为极端分子可以不受阻碍地传播仇恨言论与策划攻击，被德国内政部长点名警告，不排除在德国禁用该应用的可能性。即使政府机构不直接点名，应用商店也会因为监管政策的影响，下架有内容风险的应用。
三、拉人广告。应用内拉人广告是行业普遍痛点。即使我们对应用的口碑与人气有信心，但仍然需重视应用内的拉人广告。花费高成本获得的优质新用户尚未具备粘性，竞品却能花费极低的代价引流。在出海场景，拉人广告经常使用WhatsApp作为联系方式，包括各种“WhatsApp”的变体文本。类比国内的微信，其变体如“vx”等。此外，在“出海”场景中，结合“陌生”的语言和当地文化，敏感内容风险变得更加复杂，“出海”应用的全球化推广和本地化运营都面临不小的挑战。
审核服务商成“最高效”解决方案
人工审核曾是唯一的解决方案，通过建立敏感词库作为初级机器审核系统也曾流行。但如今，包括图片与音视频在内海量的内容以及层出不穷的文本变体，使得机器审核成为高效解决方案的核心。而且机器审核能够降低这些劣质与敏感内容对人工审核者的身心影响。自研机器审核系统未尝不可，但自研意味着从0到1的“踩坑”，内容审核服务商应运而生。
“相比自研，从成本与效果而言，审核服务商更值得优先考虑，企业可以更专注于产品推广或核心功能的打磨。”一家游戏出海企业负责人坦言。
但由于出海场景的特殊性，陌生又复杂的语言和当地文化又给内容审核提出新的挑战。该负责人表示，大部分审核服务商的经验与解决方案来自于国内互联网，并不能很好地满足包括音频在内的多语言内容审核痛点需求。
最近，国内一家支持24种语言的内容审核服务商——云上曲率，走进了“出海”开发者的视野。记者注意到，云上曲率给“出海”互联网企业带来的惊喜：自主研发的实时数据传输服务，支持每日千亿级、每秒千万级的数据吞吐量，全球范围内数据传输时延平均低于100毫秒；比肩微软Azure的多语言实时语音互动Demo近期发布，支持中、英、日语三种语音内容互译；实时翻译，根据BLEU、NIST测评，在泛娱乐场景性能超越谷歌；多语言内容审核能力领先，支持包括中文，英语，日语，韩语，泰语，印尼，越南，马来语，阿拉伯语，西班牙语，德语，法语等24种语言，实时检测涉黄，涉暴，谩骂，种族歧视，仇恨言论，儿童安全等违规内容。
据了解，目前云上曲率已和多家行业Top级客户展开深度合作，包括赤子城、Holla、LiveU、TT语音、绿洲游戏、FunPlus、紫龙游戏、中手游、盖娅互娱等。通过自研算法模型，云上曲率多语言智能内容审核已覆盖文本、图片、音频、视频四种内容形式，满足全场景需求。还具备专业的语言工程师团队，帮助机器审核更有效地屏蔽隐晦敏感内容。在图片审核方面，云上曲率基于深度学习的图片检测技术，融合多个前沿的算法模型。对违规图片内容进行多模型判断，识别更精准，避免漏检与误伤。图片审核除了在常规图片、未成年人、二维码、OCR识别等场景表现卓越，画中画、马赛克、头像小图、角度偏移、敏感部位边缘露出、多肤色、广告法等复杂场景同样具备精准识别能力。而在音频审核方面，云上曲率的音频审核分为发声类型检测与说话内容审核。声音类型检测，通过融合端到端与帧级别声纹识别模型进行综合判断，主要关注敏感声纹以及未成年人发声检测；说话内容审核，支持24种语言，覆盖95%以上出海客户的需求。云上曲率的视频审核融合了自动抽帧技术、图片与音频审核能力，覆盖视频通话、短视频社交、直播、点播视频等常见场景。
多语言内容审核保护企业品牌形象
据悉，针对各国家和地区监管政策比较关注的未成年人问题，云上曲率还提出多语种未成年人保护方案。
在内容侧，通过多语言内容审核阻断未成年人接触劣质与敏感内容；在用户侧，解决方案结合人脸识别、音色识别、多语言内容检测来识别未成年人。双管齐下，保护未成年人隐私，帮助平台建立未成年人专属的智能内容推荐方案，也极大程度避免了包含未成年形象的低俗内容给平台用户带来的负面体验。此外，云上曲率的多语言内容审核体系在经典敏感内容类别基础上划分至50余种二级标签。运营者可根据内容是否适合在自己的应用内展示，来决定这些二级标签的开启或关闭。二级标签体系还支持新增定制，运营者可根据当地的风俗与禁忌制定个性化审核策略。
正是多语言内容审核的出现，让志在“出海”的互联网企业披坚执锐，使自身的稳健增长免受敏感内容风险侵袭。通过高质量的内容环境构建一个负责任的品牌形象，这对于平台的长期商业利益大有裨益。云上曲率有关负责人表示，未来，云上曲率将继续扩展多语言能力边界，深耕“出海”泛娱乐领域，继续助力“出海”互联网企业成功，为全球线上交流技术的发展做出应有的贡献。