发力风险识别能力，2024年小红书主动拦截94.3%诈骗行为

3月10日，小红书在首个“反诈治理开放日”上公布了2024年社区反诈成果。数据显示，2024年小红书共处置涉诈违规账号492万个，主动拦截94.3%的诈骗行为，用户举报量同比下降60%；月均拦截风险登录6亿次，推送风险提醒3700万次，保护易受害人群140万人，向潜在受骗用户外呼12.3万次，反诈成果显著。

小红书反诈治理负责人苍连透露，社区已建立超100个识别模型，覆盖内容、行为、关系等多维度特征，结合大模型技术实现跨场景风险发现，极大提升主动拦截率。

开放日邀请了法律学者、警方代表参与讨论反诈问题，现场参会者达成共识，反诈应采取“共同治理”的策略，电信企业、互联网企业、金融机构、社会组织和公众共同积极参加犯罪防治。会上还讨论了AI时代下网络诈骗的挑战和应对思路。

主动拦截诈骗行为，加强保护易受害人群

“赶紧去薅骗子的羊毛”、“一起追回投资损失”……这些乍一看是用户面对诈骗团伙的应对智慧和抱团互助，其实是新型的诈骗类型。

苍连介绍：随着社会大环境的变化，一些手法被诈骗分子放弃，例如涉疫药品类诈骗，但更多新诈骗手法在不断出现。苍连现场分享了一组数据，2024年小红书上累计有120种诈骗方式，比2023年的96种增长了25%。同时，诈骗话术也在不断变种以对抗平台打击，例如“导流到其他平台”的话术变体，目前有不下500种。

小红书诈骗治理负责人苍连分享平台治理策略和措施

面对诈骗方式和手法的迅速变化，小红书反诈团队在诈骗风险发现机制和风险提醒机制上重点发力。据介绍，目前小红书已经建立100多个诈骗信息识别模型，这些模型综合了内容、行为、关系和基础环境等特征，同时应用了大模型能力对诈骗风险实现跨场景深度理解，较大提升了对诈骗风险识别效率。识别出风险后，小红书会在笔记、私信、评论等不同的场景中，用不同的形式对用户进行提醒，在诈骗行为发生过程中，进行拦截阻断。

苍连举了主动拦截诈骗的例子。暑期出游、娱乐活动较多，诈骗分子通常发笔记说自己可以代订票或有低价票，随即通过评论、私信导流到第三方平台进行诈骗。对此，小红书建立了门票交易风险模型，及时发现异常链路，前置拦截诈骗，保护用户财产安全，“成功打击了一大批涉诈黄牛，并封禁账号5万个，其中最大的门票团伙就被处置账号5千余个。“

得益于此，小红书在2024年对诈骗行为的主动拦截率达到了94.3%，月均推送风险提醒3700万次，月均保护易受害人群140万人。苍连说：“用户对诈骗的投诉明显下降，单日举报量，2024年底比年初下降了60%。”

提升技术手段让警企联动更高效

在开放日上，小红书安全调查负责人艾吉介绍了以涉诈情报合作为核心的警企联动模式。2024年，小红书反诈案件打击团队向公安机关提供涉诈线索1665条，移交窝点线索213期，协助打掉21个跨省犯罪团伙。

其中，与河南警方合作侦破的一起“幽灵账号”案件引发关注，2024年9月，小红书AI风控系统通过跨维度异常数据预警，发现一批活跃于互联网上的“幽灵账号”：这些账号使用不同地区手机号注册，且短期内密集触发“拍立得相纸交易投诉”预警，单日资金流水呈现“小额多笔转入—集中转出清零”的异常规律。

平台发现该线索后与当地公安部门紧密配合，警方依托平台提供的线索与数据，锁定一个以00后为主体的犯罪团伙。该团伙通过非法购买借贷用户隐私数据，诱饵骗取他人手机号及验证码，批量注册虚假商家账号，利用“低价摄影耗材”等话术诱导受害者多次转账，每完成3到5次诈骗即废弃账号，关联账户转入专业洗钱平台，最终以虚拟币化整为零提现。专案组突破传统反诈技术瓶颈，反查100余个关联作案账号的登录行为，精准锁定6名嫌疑人物理身份。该案1个月内实现全链条收网，有效打击新型诈骗犯罪行为。

小红书安全调查负责人艾吉介绍平台打击诈骗典型案例

艾吉表示，通过技术手段与大数据分析，小红书向公安机关提供高质量的线索和数据支持， 依托交易行为分析模型等，及时发现异常链路并向警方推送精准诈骗线索 ；同时建立了涉诈资金快速冻结机制，对于公安反馈的涉诈资金进行及时拦截；平台还针对高发诈骗成立专项进行打击，目前重点打击专项包括，涉未成年的诈骗专项、涉公检法诈骗专项、暑期涉诈黄牛专项等。

AI时代诈骗治理挑战与破局

中国犯罪学会副会长兼信息犯罪防控专业委员会主任、同济大学法学教授皮勇介绍，为了有效遏制电信网络诈骗犯罪，我国实施“打防结合、共同治理”新策略，强化了对包括电信网络诈骗犯罪在内的网络犯罪的刑事打击，同时，要求电信企业、互联网企业、金融机构、社会组织和公众各方共同防治犯罪。

皮勇教授介绍“打防结合、共同防治”的反诈模式

在谈到当前电信网络诈骗的挑战时，皮勇表示，人工智能时代已来，大量高度仿真的音视频信息、人形仿真机器人都会被用于网络诈骗犯罪，电信网络诈骗犯罪会升级到更高层次的自主智能诈骗，目前已经发生盗用知名人士的声音、影像，利用深度合成技术制作虚假音视频，向网络用户推销伪劣商品或虚假服务的案件，打击这类犯罪的难度更大，需要国家机关、人工智能研发应用单位、网络平台和公众与时俱进，提高防治新型智能诈骗犯罪的能力。

针对当前一些诈骗分子利用AI技术伪造素材的情况，以及诈骗可能利用深度理解大模型来降低成本提升效率的问题，苍连表示平台也会不断提升自己的AI能力进行反制，并将AI技术与传统平台治理手段结合，实现更好的应对。