小红书社区举办反诈治理开放日 去年共处置违规涉诈账号492万个
-
小红书诈骗治理负责人苍连分享平台治理策略和措施。 -
近年来，电信网络诈骗犯罪案件高发，已成为社会各界高度关注的焦点问题。不过，随着科技进步，以及相关治理体系的完善，电信网络诈骗的防治取得了一定成效。小红书公布的2024年平台反诈治理成果显示，通过不断完善全链路治理体系，平台全年共处置涉诈违规账号492万个，主动拦截94.3%的诈骗行为，诈骗举报量下降60%。
开放日上，电信企业、互联网企业、金融机构、社会组织和公众等各方均表示，未来，需继续采取“共同治理”的策略，才能打好反电信网络诈骗这场事关民生的持久战。
大模型深度理解能力帮助提升主动拦截率
在刚刚结束的全国两会上，最高人民法院工作报告指出，2024年审结电信网络诈骗案件4万件8.2万人，件数同比增长26.7%；最高人民检察院工作报告指出，依法惩治电信网络诈骗犯罪，起诉7.8万人，同比上升53.9%。电信网络诈骗发案率增长迅速，给互联网平台治理带来了严峻挑战。
小红书反诈治理负责人苍连介绍，网络诈骗具有“更新迅速，链路复杂”的特征。过去一年，小红书平台累计发现近120种诈骗方式，比2023年的96种增加四分之一。比如，“追回投资损失诈骗”“薅骗子羊毛诈骗”都是去年在小红书上新出现的诈骗方式。与此同时，诈骗话术也迅速更新，仅“导流到其他平台”的话术就包含超500种变体。
此外，网络诈骗环节多、角色多、技术工具多，链路和层级都极其复杂。比如，有人在最前端扮演获客人，目的是找到对应的受害人；有人在中间扮演建联，目的是通过沟通让受害人产生信任；还有人扮演第三方角色，在最后阶段引导受害人完成支付等。“这对治理的‘及时性’和‘对抗性’都提出了很大的考验。”苍连说。
针对网络诈骗的特质，小红书不断完善全链路治理体系，对诈骗行为的实施和诈骗上下游链路进行打击，对平台内风险进行持续挖掘、识别、处置和监控，不断发现和打击新型诈骗行为，保护用户财产安全，重点发力方向为风险发现机制和风险提醒机制。
苍连表示，2024年，平台对诈骗行为的主动拦截达到了94.3%，月均推送风险提醒3700万次，月均保护易受害人群140万人，月均向潜在受骗用户外呼12.3万次。截至2024年底，平台用户对诈骗的单日举报量比年初减少60%。
警企联合打击诈骗案件
在加强对平台诈骗行为治理的同时，小红书还大力开展与警方的合作。2024年，小红书反诈案件打击团队全年累计向各地公安机关提供涉诈案件线索1665条，移交有效诈骗窝点线索213条，协助打掉跨省涉诈犯罪团伙21个。
开放日上，小红书案件打击负责人艾吉介绍了以涉诈打击情报合作为核心的警企联动模式——小红书平台通过技术手段与大数据分析，向公安机关提供高质量的线索和数据支持，及时发现并识别潜在的诈骗风险；同时建立涉诈资金快速冻结机制，对公安反馈的涉诈资金进行及时拦截；平台还针对高发诈骗成立专项进行打击，目前重点打击专项包括涉未成年的诈骗专项、涉公检法诈骗专项、暑期涉诈黄牛专项等。
比如，去年，小红书平台与河南警方合作，打击的一起诈骗案尤为典型。2024年9月，小红书AI风控系统通过跨维度异常数据预警，发现一批活跃于互联网上的“幽灵账号”，随即便与当地公安部门紧密配合，反查100余个关联作案账号的登录行为，精准锁定6名嫌疑人物理身份。该案1个月内实现全链条收网，有效打击了新型诈骗犯罪行为。
“警企联动模式不仅提高了反诈工作的效率，还有效降低了各类网络诈骗案件的发生率，保护了用户的财产安全。”艾吉说。
苏州市公安局金牌反诈讲师朱钰也表示，警方非常希望平台发现诈骗风险后能及时同步警方，警企联动，早发现快打击，避免人民群众受损失。
AI时代，防诈也需与时俱进
人工智能时代已来，大量高度仿真的音视频信息、人形仿真机器人都会被用于网络诈骗犯罪，电信网络诈骗犯罪会升级到更高层次的自主智能诈骗，打击这类犯罪的难度将会加大，对网络平台的人机结合的审查机制也提出了新挑战。
“这就需要国家机关、人工智能研发应用单位和公众与时俱进，提高防治新型智能诈骗犯罪的能力。”中国犯罪学会副会长兼信息犯罪防控专业委员会主任、同济大学法学教授皮勇指出，应对诸如此类仿真度越来越高的诈骗信息和真假难辨的生成信息，需要国家制定新的犯罪防控立法，主管部门采取新的监管措施，网络平台要依法履行人工智能与网络安全管理义务，用户提高辨别和应对新型智能诈骗犯罪的能力。
面对人工智能诈骗带来的新挑战，作为平台方，苍连表示，人工智能技术的迭代升级让网络诈骗更隐蔽、成本更低、效率更高、素材伪装性更强，因此，平台方将会持续强化自身的人工智能能力，通过更有效的方式去识别和对抗各类新型诈骗。“当然，人工智能技术也要与传统的平台治理手段相结合，从而实现更好的应对。”
反诈需“打防结合、共同治理”
开放日上，在分享治理措施和经验的同时，各方均认为，平台诈骗治理面临不少难点，需要更多互联网平台、相关企业，以及用户共同参与解决。
首先是站外导流难追踪的问题，诈骗者往往将用户引导至第三方平台实施进一步诈骗活动，这一比例高达95%，导致难以实现有效追踪。其次是平台需要在打击诈骗时兼顾隐私保护，诈骗行为多发生在私聊、群聊等私密场景，需要对用户隐私进行保护，一定程度上也会影响打击效率。此外，用户反诈意识也需要提高，虽然平台把反诈提醒功能不断加强，但这些提醒却容易遭到用户的忽视和抵触。平台数据显示，诈骗提醒外呼直接挂断率高达75%。
皮勇介绍，为了有效遏制电信网络诈骗犯罪，我国实施“打防结合、共同治理”新策略，强化了对包括电信网络诈骗犯罪在内的网络犯罪的刑事打击，同时，要求电信企业、互联网企业、金融机构、社会组织和公众各方共同防治犯罪。
皮勇表示，在电信网络诈骗犯罪的共同治理体系中，网络服务提供者具有特殊的地位，具有特别重要的作用。网络服务提供者是网络空间的创造者、网络活动规则的制定者和直接监督者，应对其网络用户提供有安全保障的服务。
“但是，网络平台只是经营单位，没有调查、扣押、讯问的客户的权力，若指望其完全杜绝平台上的电信网络诈骗行为，特别是‘线上引流，线下施骗’的诈骗活动，并不现实。”因此，皮勇特别指出，防范电信网络诈骗犯罪的关键，是在犯罪形成过程中及时阻断犯罪的发展，这需要网络用户在网络空间生活工作中，要时时绷紧防范诈骗的心弦，真心接受公安机关和网络平台的提示、帮助和教育，做好反电诈第一责任人。
网络用户如何才能当好自己的反诈第一责任人？朱钰根据警方的反诈工作，总结出一些建议——1.要警惕预付费用，切勿轻易转账；2.要保护好个人信息，尤其不可以开启屏幕共享，守好验证码这最后一道防线；3.要及时报警求助，一旦发现被骗，应立即保存相关证据（如聊天记录、转账凭证等），并第一时间向公安机关报案；4.要提高反诈意识，关注公安机关发布的反诈宣传信息，了解常见的诈骗手法和防范措施，从源头上提高识骗防骗能力。