抖音发布《2025第一季度黑产治理数据报告》指出，今年第一季度，抖音封禁水军、欺诈和违规导流相关黑产账号260万个，并将涉嫌违法犯罪的线索上报有关部门。
公告称，在大模型基础上，通过构建以 AI 为核心的治理体系，构建覆盖风险感知、智能决策、闭环处置的治理体系，系统性提升AI在复杂场景下的风险治理应用，单个案例的处理时间达秒级，各环节运行综合准确率达到85%以上。
以水军治理为例，利用 AI 能力搭建智能机器人工具，实现了风险发现、预警、巡检、研判和回扫等环节的自动化运营。这使得平台在“刷量”识别和处置上的效率大幅提升，不仅能3分钟内完成自动研判，且准确率高达95%以上。
在今年第一季度的试运行中，平台网络水军服务违规的巡检效率提升了10.25倍，日均拦截违规请求6000万次，封禁水军账号超20万个。
在欺诈治理方面，进一步完善了仿冒、购物、刷单、交友等多个场景的安全模型。2025年至今，抖音共封禁欺诈相关账号140万个，每日下发提醒短信超80万条，拨打反诈预警电话近17万次。
针对违规导流问题，在AI技术的深度运用下，一季度站内相关违规的举报量下降了73.3%，平台封禁导流违规账号近100万个，处置违规视频内容745万条。