- Soul App发布《2024年第三季度生态安全报告》,日均保护1万名用户免遭骚扰
- 2024年10月23日来源:中国网
提要:自今年以来,国家网信办实施“清朗”系列专项行动,严厉打击自媒体违规行为,整治网络暴力、网络水军、网络谣言以及直播和短视频领域的混乱现象等网络生态中的突出问题,相关行动严格处理违规平台和账号,取得明显成效,有效震慑违规行为的同时,也促进网络环境的持续改善。
近日,Soul App(下简称“Soul”)生态安全中心发布《2024年第三季度生态安全报告》。报告显示,2024年第三季度,Soul重点聚焦反电信网络诈骗、优化社交礼仪体系建设、防治网络暴力、未成年保护四大用户安全生态专项展开治理。
自今年以来,国家网信办实施“清朗”系列专项行动,严厉打击自媒体违规行为,整治网络暴力、网络水军、网络谣言以及直播和短视频领域的混乱现象等网络生态中的突出问题,相关行动严格处理违规平台和账号,取得明显成效,有效震慑违规行为的同时,也促进网络环境的持续改善。
Soul积极响应国家倡议,履行了其作为平台的社会责任,主动探索并实施了针对网络安全重点和常见问题的治理措施。特别是在打击诈骗、低俗内容、人身攻击、炫耀财富和网络暴力等方面,Soul取得了显著的成果。
持续上线反诈新举措 为用户社交安全保驾护航
在保障用户社交安全方面,Soul持续推出新的反诈举措以应对网络诈骗的挑战。在本季度,Soul进行了多项技术与功能升级,提高用户识别和防范诈骗的能力——
在第三季度,Soul对假人设识别能力进行了迭代,通过技术手段提高对虚假身份的识别精度,从而保护用户免受诈骗的侵害;平台引入网络乞讨文本识别和提示功能,帮助用户识别并避免网乞行为的骚扰;与此同时,平台还新增发帖场景中的假图风险提醒功能,通过技术手段检测用户上传的图片是否真实,并提醒其他用户注意图片的真实性,有效防止虚假信息的传播。
这些技术升级和功能革新,不仅帮助用户提升反诈骗意识,同时也极大增强用户在平台上的安全感,在本季度,Soul 日均自动识别处理各类网乞相关内容超1万起,日均发出假图风险提醒约4千次。
Soul还与执法机构积极合作,通过平台与警方的联合行动,打击诈骗、灰黑产等犯罪行为。在本季度,Soul 协助警方打击黑产团伙1起,配合警方案件侦查工作4起,并获赠公安机关的感谢信和锦旗。
通过这些举措,Soul展示了在维护网络安全方面的坚定决心,以积极行动践行了在保护用户社交安全方面的承诺并取得了显著成效。
完善社交礼仪 打造健康、友善的交往环境
一直以来,Soul始终致力于营造一个健康、文明的社交环境,坚决抵制任何形式的不文明行为。在本季度,平台通过技术升级,显著提高对广场违规内容的机器审核能力,可更加精准地识别出低俗擦边、攻击辱骂、炫富以及软性广告引流等内容,从而及时采取措施,维护社交环境的清朗。
此外,Soul还引入了基于设备维度的治理策略,对于短时间内在同一设备上多次违规的账号,平台将采取设备封禁的措施,有效打击违规行为。通过这些举措,本季度,平台累计识别处理各类违规帖子超80万篇次,累计处理擦边、骚扰、引战、引流等低质评论超50万条。
在本季度,Soul教育用户文明发言和遵守社区规范,相关内容日均触达超过1900名用户,进一步强化了用户对网络文明的认识和参与度。多治理举措外,在社区共建共治方面,Soul鼓励用户参与到社区管理中,截至2024年第三季度,站内内容推荐官在任用户达3.3万人,风纪委在任用户1万人,他们积极参与平台对争议性动态的评审工作,参与社区共建的用户案件投票日均超过5万起。
在私聊社交生态建设上,Soul同样采取多种措施:骚扰消息自见策略日均保护超过1万名用户免遭信息骚扰;“消息盒子”功能辅助用户日均收纳消息超5000条;针对平台用户,Soul下发守护弹窗,日均触达用户超1.6万人,主动保护用户的同时,也为他们营造更加健康、友好的社交环境。
加强网络暴力治理,向不文明社交说“不”
自2023年9月起,随着最高人民法院、最高人民检察院、公安部联合发布《关于依法惩治网络暴力违法犯罪的指导意见》,到2024年6月国家互联网信息办公室出台《网络暴力信息治理规定》,抵制网络暴力已成为政府和企业共同的坚守。Soul作为社交平台,积极响应国家政策,通过技术创新和策略更新,不断强化对站内网络暴力问题的打击力度。
在本季度,Soul通过其平台功能和用户教育,大力推广网络文明,倡导用户在私信交流中保持礼貌和尊重。平台日均提醒引导私聊文明发言超21万次,日均提醒用户以友好方式发表评论1092次。为了营造一个没有网络暴力的社区环境,Soul 鼓励用户积极参与抵制网络暴力的行为。截至第三季度,超过26万用户签署友善互动声明,这反映了Soul社区成员对于促进积极网络文化建设的广泛支持。
除此之外,Soul平台通过其官方账号“风纪球长”发布69条关键通告,聚焦于平台的生态安全。这些通告涵盖了对发布低俗内容、不实信息、恶意引战等违规账号的处罚公告,同时也包括了对平台安全准则和社交礼仪的推广、对不实信息的辟谣等内容。信息成功触达116万用户,展现Soul在维护网络文明和保障用户安全方面的持续努力。
精准识别未成年人,提供坚实网络安全保障
长期以来,Soul平台明确规定,不允许未成年人在平台上注册账户,并且对于极少数已经注册的未成年用户,平台会自动切换到青少年模式。为了更精确地识别和保护未成年用户,Soul平台采用多重认证机制,结合内容分析、设备识别和用户反馈等手段,显著提升了对未成年用户的检测能力。
在本季度,Soul App推出了超过50项针对未成年用户的识别和保护策略,相关策略在识别虚假成年人身份方面取得高达98.6%的成功率,证明其有效性和精确度。同时,平台日均处置600余条可能危害未成年人的内容,守护其网络安全,助力健康成长。Soul的这些努力不仅显示了平台在技术迭代和策略创新方面的能力,也体现了平台对未成年人网络安全的重视。