游戏爱好者能够轻松找到玩伴,只要打开耳麦,就能与团队讨论开黑的战略,或是倾诉胜利的喜悦,甚至是吐槽失误,一切都变得易如反掌。
素未谋面的人带着共同的兴趣相约线上房间,一起听故事,一起线上 K 歌,一起自在闲聊,不再是孤零零的一个人,趣味性得到极大提升。
近年来,随着移动互联网技术的发展,人们也逐渐将娱乐的重心转移到线上,打游戏、看直播、语音聊天等成为众多用户在线娱乐及在线社交的选择。TT 语音通过先进的音视频技术突破了时空的界限,让分隔两地的用户能够近距离交流,虽然隔着屏幕,朋友般的温暖陪伴仿佛近在咫尺。
营造良好的平台社区氛围并非一朝一夕之功,背后是 TT 语音创造者“趣丸科技 ”有意识的营造与主动探索。公司不仅专业、高效、及时地对 UGC 内容(用户生成内容)进行筛选,并且根据国家监管和舆论热点,更新社区安全策略。在一系列“内容风控”目标中,将针对未成年人建立全方位、立体化的网络保护放在了重要位置。
一段时间以来,趣丸科技与网易易盾合作,在 AI 算法技术、运营策略、审核经验上获得助力,加强对不良内容的打击力度,高标准地维持安全对话,为平台用户保驾护航。趣丸科技认为,整个审核格局变化迅速,社交平台企业应全面部署,及时作出调整,以更快的速度围堵内容漏洞。
以声会友,TT语音让“社交”更高效
“语音”已融入社交,广为用户接纳,语音社交潮流兴起,Facebook,Twitter,Spotify 等巨头相继投身试验新产品。
实际上,国内的语音社交赛道发展多年,早在 2014 年底,TT 语音就推出了即时语音功能,帮助用户在平台内轻松找到队友开始游戏或群聊。TT 语音鼓励用户之间的社交互动,通过语音、直播等实时互动方式,帮助年轻一代建立更真实的社交关系。
成立不久,TT 语音便一炮而红,快速收获超 300 万注册用户。时至今日,不同兴趣圈层聚集于此,一个在线的社交空间就此形成,汇聚了数亿年轻人在这里交流感情、纾解压力、展示自我。
根据公开数据显示,趣丸科技旗下的拳头产品 TT 语音 2021 年上半年的平均月活跃用户达到 1620 万,是国内领先的兴趣社交平台,成为中国游戏爱好者寻找伙伴和分享乐趣的首选线上平台。
如今,TT 语音的业务已经不再局限于中国,秉承着“让天下没有孤单的玩家”的使命与“打造文化生活新方式”的愿景,相继在东南亚和中东地区建立业务,将更便利的社交方式推广到海外。
“内容”作为社交货币的挑战
内容是社交的“硬通货”,交友需要基于音频、视频、图片等形式多样的实时多媒体内容。2021 年上半年公开数据显示,TT 语音超过 90% 的用户年龄在 30 岁或以下。每位用户平均每天在语音聊天室花费大约 158 分钟,平均每天发起超过 850,000 个语音聊天室,同比增长 45.6%。
取得不俗成绩的同时,TT 语音遇到了更大的挑战:即时性带来了更真实的社交,也让内容管理必须求新与求变。
相较于文字和图片,语音和视频表达更生动直接,但内容管理审核也更棘手。一方面是速度提升,语音涉及音调、节奏、方言等变化,对人工智能算法要求高,甚至需要人工对细微之处进行审核;另一方面是证据存留,如果有用户发生违规行为,平台在及时纠察之外,还需给予反馈,目的是让用户知晓哪些行为属于违规。对于 TT 语音而言,“内容风控”是一项艰巨的任务,至关重要。
来到广州天河区的办公间内,一支年轻、稳重的团队正密切关注着平台社区动态,将一些关键的数据指标纳入统计监测范围,对各种风险做到“心中有数”。一直以来, 趣丸科技高度重视内容安全方面的工作。经过多年探索,趣丸科技形成了自己的内容风控要诀。
由趣丸科技总编室主导,联动运营、审核、法务等部门共同组成内容安全工作小组,制定内容审核标准、工作规范、流程制度、审核员的培训考核制度等。相关内容审核标准及制度均根据法律法规、主管部门相关最新要求,结合平台业务情况进行实时修订。
从技术角度而言,通过人工智能技术来优化或加强的审核流程,在当下已经成为常规操作。如 TT 语音一般的社交平台企业,已经转向专业人员与人工智能技术相互配合,将每一个漏网填补上,进行即时内容的审核。
安全风控助力社区风气建设
趣丸科技在创新社交方式的同时,也在内容风控工作上主动求变,构建了一套独特的内容安全管控机制,包括“舆情预警”、“三级审核流程”、“志愿者联盟”与“审核员培训”,加强互联网内容建设,营造清朗的网络空间。
01建立舆情预警机制
为了做好信息安全的事前监管,趣丸科技分别通过舆情监测、用户举报、监管部门对接等方式建立舆情预警机制,确保对各类安全事件做到第一时间有效拦截处置。
运用舆情系统搜索境内外网络传播的有害言论和热点问题,并在规定时间段内进行分享。根据政策要求,实时调整搜集方向,确保全面预警,对审核遇到热点事件进行舆情评估并制作舆情工作报告,上报主管部门。
02建立三级审核流程规范
趣丸科技根据主管部门统一的工作部署,按照“严要求部署、高标准落实”原则,采取“预防、技防、人防、群防”四类工作措施,建立“机器+人工+巡查举报”三级审核流程,全面开展信息安全审核工作,确保公司产品信息安全保障工作落到实处,不断提高信息安全治理水平。
在机器审核方面,基于大数据精准化层级管理应用,对用户生产的内容数据进行等级管理,建立不同层级违规、违法内容数据库,通过人工智能技术对违规、违法等内容进行建模,并持续丰富完善模型数据库,提高审核效率和准确率。
03建立志愿者联盟
趣丸科技建立了信息安全志愿者巡查队伍,现志愿者联盟规模近万人,均为平台优质用户,采用信用分制度,根据举报信用分等级,授予志愿者一至五星认证,鼓励更多用户参与平台的网络信息安全共建,构建清朗网络空间。
04建立审核员培训制度
趣丸科技拥有与业务相匹配的内容审核团队,分设初审、复审、策略、质检、培训等业务组,对公司业务涉及的所有形态的信息内容,包括图、文、音视频,进行 7×24 小时全天候的内容审核及监管响应。同时,为了不断提升审核人员的安全意识和审核技能,趣丸科技建立审核员相关培训管理制度,搭建审核员系列培训体系。
在趣丸科技看来,内容风控任务中重要的不是任何一个“孤点”,而是形成一套高效运作的“机制”,随着经验的积累,审核耗时将越来越短,精准度越来越高。事实证明,多措并举的内容安全机制,正是 TT 语音的压舱石。得益于此,TT语音营造出和谐、纯粹、有趣的社区氛围,用户存留率和社区活跃度取得了显著增长。
如今,数字内容风控已被赋予了更深远的意义,作为社交平台社区运营的重要工作,需谨慎且坚定地持续进行。
