Soul 创始人张璐团队公布一季度生态安全成果：AI治理能力进一步升级
|
《 环球日报 》 Soul 创始人张璐团队发布Q1生态安全报告，以AI技术筑牢平台生态安全网 随着互联网社交场景不断细化，平台生态治理正在面临更复杂的挑战，各类风险问题的隐蔽性和变体化趋势愈发明显。在这一背景下，Soul App在创始人张璐团队的带领下，于近日发布《2026年第一季度生态安全报告》，集中披露平台在反诈治理、网络暴力整治、社交场景管理以及社区文明建设等方面的治理举措与阶段性成果。 近年来，人工智能技术正逐步成为互联网平台生态治理的重要支撑。Soul在一季度进一步强化AI技术在风险识别、内容审核与用户保护中的应用，通过技术识别、用户提醒以及协同治理机制的结合，持续提升平台安全治理效率。针对虚假人设、“杀猪盘”、网乞骚扰等高风险问题，Soul持续升级AI识别模型，重点提升对隐晦表达、变体话术以及视觉干扰内容的识别能力。平台通过多模态语义理解技术，对风险内容进行前置识别与精准拦截，同时结合场景化风险提示，帮助用户增强安全防范意识。 在虚假人设治理方面，Soul建立起覆盖图片路径检测、设备与账号关联分析、站内人像识别以及评论语义分析等多个维度的识别体系。通过多链路交叉判断，平台能够更快锁定异常账号及违规内容。一季度，平台日均识别并处置假人设相关内容超过7万条，并同步对违规账号进行限制和管控，进一步压缩黑灰产账号的活动空间。除了平台自身治理能力的提升，Soul 创始人张璐团队也在持续深化警企协同机制。一季度，平台累计参与多项反诈及黑灰产专项打击行动，向相关部门报送有效线索50余次，通过信息协同与联合治理，进一步增强平台风险处置能力。 网络暴力治理也是一季度生态治理的重要方向之一。针对攻击性言论、情绪对立以及骚扰行为，Soul对网暴治理体系进行了进一步升级。平台依托AI情感识别模型以及动态违规词库，对不文明内容进行实时监测与识别，并结合人工复核与快速响应机制，提高违规内容处理效率。平台还通过典型案例公示、防网暴指南推送以及文明发言倡议等方式，加强用户教育与行为引导。数据显示，一季度平台日均保护用户避免网暴与骚扰四千余次。通过技术治理与社区引导相结合的方式，平台持续降低不良互动带来的负面影响，推动社区形成更加理性、友善的交流氛围。 围绕“清朗”专项行动要求，Soul 创始人张璐团队在一季度还进一步加强社交生态治理能力建设。平台通过AI模型与人工审核协同机制，重点整治低俗擦边、恶意辱骂、有偿交友以及违规引流等问题，并不断提升对低质内容的识别与处置能力。治理数据显示，一季度平台机审直接拦截违规内容477万条，累计处理违规账号16.2万个。在低质内容治理方面，平台日均处理低质帖子超过12万条，低质评论处置量日均超过18万条。通过持续优化审核模型与治理策略，平台内容生态质量得到进一步提升。 在群聊和私聊等高频互动场景中，Soul 创始人张璐团队持续完善产品治理机制。在群聊治理方面，平台通过自动化识别与中断机制，对违规语音和文字内容进行实时处置。一季度，平台日均中断语音违规消息超过3万条，拦截违规文字消息4万余条，群聊自动化中断次数达到5800余次。在私聊场景中，Soul则重点强化骚扰防护与用户自主治理能力。平台上线骚扰消息自见、消息盒子分类管理以及风险提示弹窗等功能，帮助用户更高效地识别潜在风险内容。数据显示，一季度平台日均保护用户免受骚扰6.4万余人次，风险保护弹窗日均触发7万余次，重度违规用户日均被限制私聊功能5.8万余次。 在治理机制持续升级的同时，Soul也在不断推进社区规则透明化与社交礼仪建设。一季度，平台通过官方账号发布安全生态相关内容38篇，内容涵盖违规处罚公示、谣言辟除以及社区规范宣导等主题，累计触达用户22.81万人次。通过持续的信息公开与规则传播，平台不断强化用户对社区规范的认知，推动形成共建共治共享的治理氛围。 从反诈治理到社交生态优化，从技术识别到用户引导，Soul正在逐步形成更加系统化、精细化的生态治理体系。在互联网社交场景不断演变的背景下，生态安全治理已成为平台长期发展的重要基础，而Soul 创始人张璐团队在技术治理、用户保护以及协同治理等方面的持续投入，也为行业生态治理提供了新的实践方向。 |
