维护真实社交生态，Soul App创始人张璐团队推出“瞬间假人设风险提醒”功能

近年来,随着互联网的迅速发展,网络环境的治理问题逐渐成为社会关注的焦点。为此,国家网信办不断强化监管力度,实施了“清朗”系列专项行动,整治网络生态中的突出问题。在此背景下,Soul App创始人张璐团队积极响应国家的号召,开展平台净化工作,通过技术创新打击“假人设”现象,致力于为用户打造一个更加真实、安全的社交环境。

所谓“假人设”,指的是部分不法分子通过技术手段盗取他人照片,构建虚假的个人形象,以此在社交平台上获得不正当的社交优势。这种行为不仅误导了其他用户,还可能滋生诈骗等不法行为。特别是在图片和个人信息管理不严的情况下,虚假信息的扩散会让用户产生不信任感,影响线上社交的健康发展。为了应对这一挑战,Soul生态风控团队建立了专项小组,针对“假人设”问题展开深入分析,并推出了“瞬间假人设风险提醒”功能。

“假人设”诈骗往往伴随着图片盗用的现象。为此,Soul此前就上线了图片查重功能,能够识别平台内重复出现的图片并发出提醒。随着“瞬间假人设风险提醒”上线,Soul也对图片识别模型进行了进一步升级。通过升级图片分析技术,Soul的图片识别范围拓展到全网,不仅能识别站内的盗图行为,还能对站外出现过的重复图片进行预警,提醒用户注意辨别图片的真实性,避免遭受诈骗。

有些不法分子在构建虚假身份时,会出现与实际情况不符的信息,或前后叙述中存在不一致的地方,这些细节往往是“假人设”暴露的关键。为此,Soul App打造了全维度的风控体系,对私聊、发帖及公域场景中的图片、语音和文字内容进行监控与识别。通过对用户行为的追踪与分析,系统能够准确捕捉到这些矛盾点和破绽,进而识别出潜在的虚假身份,并对相关用户进行警示或后续交涉。

在技术与策略的双重推动下,Soul在“假人设”治理方面成效显著。据统计,“瞬间假人设风险提醒”功能上线以来,其识别准确率已超95%,覆盖率达60%。仅近一个月内,该功能已累计发送风险提醒超过57万次。此外,自2024年7月以来,Soul团队还上线了“AI辅助识别”“网络乞讨行为识别”等技术能力。

通过技术创新与策略调整,Soul的反诈能力得到提升,相关案件数量也持续下降。数据显示,在第三季度,从Soul导流的案件数较上一季度下降了13%。这一系列积极成果不仅体现出平台治理措施的有效性,也展示出Soul App创始人张璐团队在网络安全治理上的决心。