IT之家 1 月 13 日消息，抖音今日发布了 2024 网络黑产治理盘点。过去一年平台持续打击网络黑色产业链，通过升级 AI 大模型技术、迭代风控策略、优化举报机制等系列举措，加强对网络黑产的识别和治理能力，封禁欺诈、水军和违规导流相关黑产账号超 600 万个，并向相关部门提供涉嫌违法犯罪的线索。IT之家附官方介绍如下：
01、前置拦截欺诈信息，多渠道提醒用户谨防被骗
2024 年，仿冒领导、亲友和官方客服是最受关注的欺诈类型，尤其是仿冒抖音客服的黑产，用广撒网方式拨打电话、发送短信、即时通讯软件拨号等方法，与受害人直接联系，一步步引导对方共享屏幕或者下载第三方 App，从中获取用户银行卡账户信息、诱导用户不断转账等。
刷单诈骗、购物诈骗也是 2024 年平台重点打击的欺诈类型。刷单诈骗黑产以招工、兼职、致富为由，或伪装成单身交友人设，诱导用户下载第三方软件进行欺诈；另一类黑产链路则以售卖演唱会内部门票、赠送小马宝莉卡、低价转游戏皮肤等噱头，锁定目标用户去第三方平台进行交易欺诈。
平台根据黑产作弊链路，在评论、建群、拉人等多个场景阻断黑产触达受害者，上线反诈客服“验证助手”，并根据黑产的特征每月迭代反诈策略 200 个以上，在站内外多个渠道发送反诈提醒，日均保护潜在受害人 200 万次。2024 年，警方根据抖音提供的线索，打击诈骗团伙 69 个，抓获犯罪嫌疑人 451 名。
02、精准识别网络水军，重点打击四大类
售卖水军服务、恶意控评、流量造假、恶意举报，是过去一年抖音重点打击的四类水军行为。黑产在站内售卖刷粉刷赞、招募水军等违规服务，或有组织、有目的地批量发布评论错误引导用户认知，利用作弊手段伪造虚假流量、炒作热度，甚至利用平台举报规则牟利，恶意举报导致他人账号受影响。
2024 年抖音搭建刷手、买手用户模型，精准识别风险账号，并实施拦截异常操作，阻断水军造假途径；通过大模型技术提升识别能力，对机器账号和受骗用户差异化处置。一年来抖音日均拦截违规信息 6200 万次，共封禁账号 110 万个，并将涉嫌违法行为的线索上报相关部门。过去一年根据抖音提供的线索，警方抓获水军黑产犯罪嫌疑人 90 名。
03、升级视频关键帧识别能力，阻断违规外链导流风险
除了欺诈和水军，黑产集中的另一方向是违规外链。黑产组织通过作弊手段绕过平台风控策略，在多种渠道插入二维码、联系方式、图片、网址等，引导用户点击跳转至第三方违规、违法网站，这些第三方网站则大多以提供色情、赌博等违法服务为主。
为应对黑产新手法，抖音风控团队在前置识别的基础上，新增了自动黑样本库，通过 AI 技术可自动识别、归类违规行为并进行处置；结合黑产行为模式，升级视频截取关键帧模型能力，可第一时间定位黑产在视频中植入的违规页面；新增弹幕场景模型，有效运行该场景的违规拦截策略。2024 年，抖音封禁相关违规账号超 120 万个，同时警方根据抖音提供的线索，打击违规导流团伙 8 个，抓获嫌疑人 40 名。
