抖音:2024年通过AI大模型提升识别能力 处罚违规账号超600万个

2025年01月14日 09:01浏览次数:3531次编辑:圣灵科技-小圣

抖音近日对外公布了其在2024年度针对网络黑色产业链的治理情况。在过去的一年里,该平台持续加大对网络黑产的打击力度,通过一系列技术创新和策略升级,有效提升了识别和治理网络黑产的能力。


据抖音官方介绍,平台在过去一年中封禁了超过600万个涉及欺诈、水军和违规导流等黑产行为的账号,并向相关部门提供了多条涉嫌违法犯罪的线索。这些举措的实施,得益于抖音在AI大模型技术、风控策略迭代以及举报机制优化等方面的持续投入。


在打击欺诈行为方面,抖音重点关注了仿冒领导、亲友和官方客服等欺诈类型,以及刷单诈骗和购物诈骗等黑产活动。平台通过前置拦截欺诈信息、上线反诈客服“验证助手”等措施,有效阻断了黑产触达受害者的途径。同时,平台还在站内外多个渠道发送反诈提醒,日均保护潜在受害人达200万次。警方根据抖音提供的线索,成功打击了多个诈骗团伙,抓获了大量犯罪嫌疑人。


针对网络水军行为,抖音重点打击了售卖水军服务、恶意控评、流量造假和恶意举报等四大类违规行为。平台通过搭建刷手、买手用户模型,精准识别风险账号,并实施拦截异常操作,有效阻断了水军造假途径。同时,抖音还利用AI技术提升识别能力,对机器账号和受骗用户进行差异化处置。在过去一年中,抖音日均拦截违规信息达6200万次,封禁了110万个相关账号,并将涉嫌违法行为的线索上报了相关部门。


此外,针对违规外链这一黑产集中的方向,抖音风控团队也采取了多项措施进行应对。平台通过新增自动黑样本库、升级视频截取关键帧模型能力以及新增弹幕场景模型等措施,有效识别并处置了违规行为。在过去一年中,抖音封禁了超过120万个涉及违规外链的账号,同时警方根据平台提供的线索,成功打击了多个违规导流团伙,抓获了多名嫌疑人。


抖音表示,将继续加大对网络黑产的打击力度,通过技术创新和策略升级,不断提升识别和治理能力,为用户提供更加安全、可靠的社交环境。


  1. 来源:站长之家


关注圣灵科技公众号,免费获得更多企业互联网发展方案!

圣灵科技公众号二维码.jpg

友情链接: 百度腾讯抖音小红书今日头条企业盟重庆互联网微星球建筑劳务网云人脉圈全民创收网全民财多多圣灵建站系统圣灵溯源系统圣灵客服系统圣灵人事系统创投100圣灵短视频圣灵传媒圣灵商学院重庆网海南网贵州网云南网广西网甘肃网宁夏网山西网陕西网山东网黑龙江网重庆百科web专家U站网青海网新疆网西藏网安徽网福建网湖北网湖南网四川网河北网河南网吉林网辽宁网AI应用工厂

Copyright @ 2004-2023 cqslkj.cn All Right Reserved @重庆市渝中区圣灵科技信息有限公司 版权所有

渝ICP备16004600号-5 渝公网安备 50010802001399号 电子营业执照

联系方式
023-62897001

77981978
023-62897001
81623110
62891977
微信公众号