守护网络安全 Soul App在行动
来源:人民网 发布时间:2022-12-16 原文链接:https://mp.weixin.qq.com/s/r9hCbCGGE3-PDI0B41p7mQ
12月12日下午,“2022网络安全治理机制高峰论坛”在京召开。论坛上,中国互联网协会调解工作委员会、广西壮族自治区互联网协会、北京邮电大学网络空间安全学院联合发布《2022网络安全运营服务机制及网络反诈应对报告》。
《报告》中反诈需求推动安全监督与管理创新部分收录了中国电信、百度、京东、Soul等企业网络安全预防与治理措施,对通信运营商、互联网运营商的安全运营、反诈机制建设提出借鉴建议。作为国内年轻人喜爱的新型社交平台,Soul通过AI识别和黑灰产识别技术上线动态查重功能和多项反诈机制,从技术研发、产品设计及多方协同打击方面着手,建立严密的风控机制,并打造了由辨识真伪、平台打击、用户宣导和治理众裁四部分组成的循环反馈双擎生态安全治理模式,与各方一起,携手共建安全、清朗的网络环境。
青年群体是互联网的深度参与者,同时也是反诈工作需要重点关注的群体。据中国信通院发布的电信网络诈骗治理研究报告,在全国受骗用户中,90后占比63.7%,不少年轻用户在网络环境的警惕意识薄弱。Soul上线于2016年,致力与用户共同建立一个以Soul为链接的社交元宇宙,让用户获得归属感、幸福感。2021年,Soul月活用户达3160万,其中74.9%是以90后、00后为代表的Z世代青年。
聚焦青年群体以及互联网用户网络安全保护,在不断的实践和摸索中,Soul探索出了一条适合自己的网络安全治理之路。
一、辨识真伪:AI能力精准识别网络欺诈意图
安全的社交环境是保障用户体验的基础。在Soul上,用户无法直接进行金钱交易,切断了用户在平台被诈骗的途径。
此外,从用户注册前序行为、注册进入平台、站内行为、举报申诉以及到账号注销等用户全生命周期,Soul风控体系都会开启风险管控与安全守护机制,全程守卫用户在平台内的安全。
据了解,Soul自主研发建立的风控机制会在不同应用场景与环节对用户异常行为进行建模监测。在疑似风险用户与“易受害体制”用户群中间建立有效防火墙。
一方面尽量阻断疑似风险用户对正常用户的影响,另一方面在监测发现高危风险时迅速采取“熔断”机制,并及时提示、“叫醒”可能潜在受害者。通过不断收集和扩充导流风险平台和内容黑库,结合人工策略和机器策略双管齐下治理,高效拦截风险内容。
2022年,Soul上线了“动态查重”功能,为用户提供了辨别搬运内容、虚假人设甚至“杀猪盘”的工具。该功能一经上线广受好评,甚至登上热搜,引发行业热议。 具体来说,如果发布者的图片曾经在Soul的内容广场出现过,在其个人主页对应的内容帖下方将出现相关提示,这能更好地保护原创作者的权益,还能强化对盗取豪宅豪车图打造“假人设”等行为的打击。
据Soul App技术副总裁张高政介绍,该功能是Soul基于深度学习构建的大规模向量检索框架SIMAGE,把站内存量的近百亿内容构建成特征向量,能够根据局部特征以及全局特征的索引方式检索相同或相近的内容,同时具备较高的召回率和精准度。
《Soul第三季度生态安全报告》数据显示,基于动态查重机制等技术能力,Soul日均识别、打击搬运抄袭帖3.2万条,搬运、抄袭类相关举报日均下降42%。
**二、平台打击:构建全景化智能生态治理体系,联防联控多环节布控治理 **
除了加强技术投入,目前,Soul还搭建了全景化智能风控治理体系,在反欺诈、反营销作弊、反支付风控、反虚假流量、反黑灰产方面等多项场景布控,从风险感知、识别、限制、保护以及最终处置等各个环节进行布控和治理。
数据显示,Soul每日运行的反诈策略有3000+个,在风险前、中、后期全链路引入AI模型,实时打击、提升风险拦截效率。其中,每日主动拦截超过95%的欺诈行为。根据《Soul第三季度生态安全报告》,Soul反诈中心2022年第三季度阶梯式处罚91W人次。
由于不法分子无法直接在Soul平台内行使诈骗,便选择将潜在目标引流到第三方平台。基于此,Soul联合多方外部力量对黑灰产进行联合整治,有力阻断不法分子在平台之间导流的链条,为用户社交空间安全保驾护航。
在对外合作方面,Soul通过企业与政府多部门联动,实现预警、劝阻、黑库、情报等能力共享、协同打击。及时阻断和叫醒用户,持续加强警企合作走访提醒,提升平台安全感。
此外,在有关部门的技术指导下,Soul成立了反诈专项小组,积极推动联防联控机制,形成打击合力增强防范治理效果。在2022年第三季度,Soul配合公安部专项行动提供有效线索1.9万条,抓获犯罪嫌疑人200余人。
三、用户宣导:反诈Rap脱口秀广受年轻用户喜欢
日常运营中,Soul站内设立反诈中心,通过分享案例、时时提醒,成为网络安全宣传的大喇叭。
为增强年轻人反诈意识和能力,Soul正尝试以年轻群体更加喜闻乐见的方式进行反诈宣传教育。
举例来说,今年年初,由于临近春节,诈骗活动高发,平台专门邀请了上海市公安局刑侦总队委派反诈民警做客Soul的反诈群聊课堂,通过Rap、脱口秀、群聊派对连线答疑等多种寓教于乐的新型反诈形式,科普反诈知识,在Soul平台以Z世代为代表的年轻用户群体中引发热烈反响。
四、倡导用户共治:邀请用户参与绿色生态共建
为进一步激发更多用户参与反诈工作与安全网络生态共建的热情,Soul也在持续探索一系列创新的机制,用户参与的“风纪委”组织便是其中的代表案例。
当代年轻人反感说教式强制管束,与此同时,年轻群体受教育程度越来越高且正能量十足,愿意承担起社区共建责任。
因此,Soul通过邀请用户成为生态安全审核志愿者,并作为平台“风纪委”成员为广场内容、违规内容举报处理进行打分等举措,凝聚用户力量,共创清朗氛围。数据显示,目前已有两万余名用户成为风纪委,日均有3000+成员参与平台众裁。
电信网络诈骗是一个复杂的社会治理问题,正如Soul技术副总裁张高政所说,“互联网社交平台众多,在守护网络安全方面应该发挥协同效应、凝聚行业合力。Soul希望与各方一起推动生态安全治理的标准化建设,在强化行业自律的同时探索社区生态共建机制,发展用户风纪组织;合力推动社交动机识别机制,有针对性地打击过度包装,以及虚假、搬运、抄袭内容,通过工具创新强化‘虚假’人设的识别;共同搭建网络安全的联防联控机制,基于发展数据安全与隐私安全等技术,将关键数据互通,最终形成网状打击,巩固网络空间薄弱环节,减少不法分子的可趁之机。”
12月1日,《中华人民共和国反电信网络诈骗法》正式实施,明确了互联网服务提供者的反诈风险防控义务和责任。未来,Soul将继续肩负平台主体责任,强化网络安全守护,助力青年成长。同时Soul也将与各方一道,携手共建网络空间命运共同体。