随着移动互联网的快速发展,各种新型网络电信诈骗方式层出不穷,让人防不胜防。为此,近年来公安机关不断开展“净网”“清朗”等专项行动,以持续挤压网络犯罪的空间。与此同时,Soul CEO张璐团队也将平台生态安全治理置于重中之重,充分发挥企业社会责任,推动平台生态治理体系化、公开化、常态化运行。
建设严密风控体系,维护平台生态安全
良好生态安全,离不开严密风控体系的建设。Soul借助自身技术优势,通过AI识别和黑灰产识别技术不断完善反诈防火墙,从算法到产品,从上线动态查重功能到建立多项反诈机制,持续提高虚假内容人设的识别,狙击潜在诈骗风险。例如,早在去年,Soul CEO张璐就带领团队开发并上线了查重识别模型,开启国内社交平台动态查重的先例。利用该技术,如果发布者的图片曾经在站内内容广场出现过,在其个人主页对应的内容帖下方就会出现“该内容曾在站内出现过”的提示字样,该类识别和显化提醒更好地强化虚假人设、“杀猪盘”和跟风博眼球内容的打击,目前仍是行业领先技术。而截至目前,Soul已上线六大风控技术手段和500多种场景布控反诈策略,多维度专项保障用户的网络安全。
根据数据显示,Soul平台发生的电信网络诈骗,有99%以上的比例会引流至第三方社交平台。针对这一特点,Soul CEO张璐在平台的反诈实践中积极引入各类事前预防的新方法来增强用户的反诈意识,进一步完善风控体系。
一方面,在Soul CEO张璐的指导和要求下,平台内的多个主要场景均都加入了显著的反诈提醒。比如,当用户下载并注册了Soul后,系统会推荐《星球防诈骗指南》,以图文和案例的形式传递防诈骗知识。在私聊场景中,当用户发送‘支付’等相关字眼时,系统会屏蔽相关消息,需要完成反诈骗答题才能解锁消息。在广场公域场景中,用户如果在平台搜索‘诈骗’、‘杀猪盘’、‘鹦鹉杀’等字眼时,《Soul星防诈骗指南》和Soul反诈中心科普帖也会呈现置顶显示,引导用户了解学习反诈骗知识,提高警惕意识。
另一方面,为加强年轻用户的反诈骗意识,Soul持续联动公安部门在线上线下举办反诈科普活动,帮助用户提升反诈意识。由其首创的“反诈群聊课堂”新模式已联合上海市反诈中心连续举办两年,通过Rap、脱口秀等趣味方式将反诈科普的知识在年轻群体中传播开来,较好地提升了用户的防诈骗意识;此前在《孤注一掷》上线时,Soul还邀请了上海市反诈中心、浦东反诈中心民警与用户一同参与包场观影活动,将“反诈课堂”搬到电影院,通过线上线下联动的方式,宣传反诈知识。
加强用户参与度,共创清朗网络空间
除了反诈之外,良好平台风气的引导和维持也是Soul CEO张璐在推动的平台生态治理工作重点之一。为更有效防止网暴、治理骚扰,Soul不断创新、升级社交安全保护工具。此前,Soul上线“今日自闭”功能以来广受好评,有效帮助用户抵御网络暴力和无诚意用户的骚扰,当前“自闭”状态默认时长已增至72小时。平台还升级“魂淡君守护弹窗”功能,系统将主动识别疑似骚扰信息,为用户开启“一键防骚扰”。
前段时间,Soul在平台生态安全治理方面再度升级,重磅推出防网暴骚扰“神器”——消息盒子。消息盒子可以开启“智能收纳”与“自定义收纳”两种模式。在智能收纳模式下,消息盒子将根据风控模型策略拦截潜在违规用户的信息;在自定义收纳模式下,用户可以自定义选择不希望收到的消息关键词,后续带有该类关键词的消息将被折叠进消息盒子。对于这类被折叠收纳的消息,用户可以选择“不点击查看”或“一键批量删除”,充分享有社交对话内容的选择权。
与此同时,作为一个内容生态成熟和丰富的新型社交空间,在平台生态建设方面Soul一直重视与用户共建和共创,清朗网络空间自然也不例外,很早就开启了“用户共治众裁”模式。例如,Soul面向用户发起了风纪委和护星圆的招募活动,邀请用户对炫富拜金、挑唆男女对立等不良价值观内容进行打分,共同仲裁,与广大年轻人一起维护真实、友好的社区氛围。数据显示,截至目前已有2万+位Souler成为风纪委成员,日均超3000位Souler参与其中。此外,Soul还成立了反诈先锋组织,邀请用户成为反诈先锋,成员发现盗图、黑灰产和疑似诈骗的人员积极举报,同时积极宣传反诈知识,共创清朗平台环境,形成了平台治理的新合力,有力地维护了Soul的生态安全。
持续发布《生态安全治理报告》,治理工作常态化运行
目前,Soul CEO张璐指导构建的平台生态治理体系已经进入常态化运转阶段,平台会不定期发布《生态安全治理报告》,对当前平台生态治理工作进行总结回顾,为下阶段的工作提供参考与借鉴。例如,《Soul第四季度生态安全报告》显示日均拦截95%以上的导流欺诈行为、日均识别打压搬运抄袭帖2.9万条,日均3000+用户参与平台众裁活动……辨识真伪、平台打击、用户宣导和治理众裁四部分组成的循环反馈双擎生态安全治理模式初步形成。
《2023年第一季度Soul生态安全报告》显示,本季度Soul重点围绕反电信网络诈骗、社交礼仪引导、用户共治众裁、防治网暴骚扰四大用户安全生态专项展开治理。特别是在社交礼仪引导、用户共治众裁方面,Soul创新社区治理模式,进一步保障平台用户的安全感和体验感;《2023年第二季度Soul生态安全报告》显示,Soul CEO张璐在2022年第四季度的基础上进一步升级创新了用户共治众裁模式,不但继续邀请充满正能量的用户成为风纪委成员,还设立了正向内容推荐官,让更多正能量内容获得更多流量扶持,并在本季度上线了可以进行智能收纳和自定义收纳消息盒子功能,同时升级了可以“一键防网暴”的今日自闭功能,更好地保护用户的社交体验。
可以说,从去年四季度到今年二季度,通过这些一脉相承的创新共治模式的实行,Soul持续与用户共建了善意、真实、有趣的平台氛围。
开放的平台需要更稳固的底层架构,不断涌入的Z世代需要善意、真实、有趣的社交空间,Soul CEO张璐团队未来将持续严抓平台生态安全治理工作。除了从技术研发、产品设计及多方协同打击方面着手,不断迭代治理模式、丰富治理工具、创新共治模式、引导内容风向外,Soul还将尽其所能助力建立健全行业标准、行业准则和自律管理制度,与业界同仁一起共同推动网络生态环境的改善。
（来源：News快报）
