当一位边境的快递员,不再因为每天拨打上百通客户电话而被系统误判停机;
当一位老人收到诈骗短信,在点击链接之前便已被精准拦截;
当反诈中心的工作人员,不再需要面对每天数百万条告警逐条筛查,而是把精力集中在真正高风险事件上……
这些变化,并非来自更多的人力,也不是更多的规则,而是来自一种新的能力——AI开始参与安全决策。
今天,网络安全正在经历一次深刻的范式转换。
过去,安全依赖规则;如今,安全开始依赖智能。
面对诈骗手法以周、甚至以天为单位持续演化,仅靠人工经验和静态规则,已经越来越难以应对真实世界的复杂变化。能够持续学习、自主推理、动态演进的大模型和智能体,正在成为网络安全新的基础能力。
近日,在2026世界人工智能大会“模型驱动安全产业重构——AI产业技术安全生态论坛”上,中国网络安全产业创新发展联盟正式发布《“AI+网信安全”典型案例集》。
历经半年评审,专家组从通信、金融、公共安全等重点行业案例中,围绕创新性、可落地性、应用成效等多个维度,最终遴选出60项代表性实践。
东软联合运营商打造的两项案例成功入选,分别归属“人工智能赋能业务服务安全”和“人工智能赋能内容安全治理”领域。
这不仅是两项案例的入选,更代表着AI正在从“辅助安全”走向“重构安全运营”。
从“误伤”与“漏网”之间,走出第三条路
电信诈骗治理,一直存在一道行业难题。
为了防止诈骗号码漏网,系统往往采取更加严格的拦截策略;但与此同时,快递员、外卖骑手、网约车司机等大量高频通信群体,又容易因此被误判停机。
拦得严,容易误伤;放得松,又容易漏判。
长期以来,整个行业始终在两难之间寻找平衡。
东软与运营商联合打造的反诈智能体赋能电诈治理运营方案,重新定义了这一治理逻辑。
方案以大模型、多智能体协同、RAG知识增强和反诈知识图谱为核心,融合多维数据,让系统不仅能够识别风险,更能够理解风险、判断风险,并持续学习新的诈骗模式。
不同于传统依赖静态规则引擎,这套体系将反诈运营拆解为多个智能体协同完成。
有的负责发现新的涉诈特征;有的负责识别可信号码;有的持续评估模型效果;还有的自动生成分析报告,并推动模型持续优化。
整个反诈体系,从“人工运营”升级为“持续进化”。
在实际应用中,系统每天对海量通信号码进行智能研判,稳定保障外呼核验准确率,减少误判,大幅降低正常号码被误停机的发生率。
这意味着,每一天,都有上千名快递员、外卖骑手、网约车司机等高频通信用户,不再因为算法误判影响正常工作。
AI不仅识别风险,也开始守护每个人正常通信的权利。
当诈骗不断变化,AI开始理解内容本身
如果说反诈治理解决的是“谁值得信任”的问题,那么内容安全面对的,则是另一个更复杂的挑战——
诈骗内容本身正在不断变化。
变体词、谐音字、图片、音频、视频……
传统依赖关键词和固定规则的内容审核方式,越来越难跟上诈骗演化速度。
东软联合运营商打造的基于AI的消息实时研判与拦截管控方案,建立起“规则+AI”双层协同防护体系。
方案具备多模态识别能力,构建覆盖8大类、91个细粒度风险标签的识别体系,并通过AI技术,实现通信环境下的高并发、低时延、稳定运行。
更重要的是,大语言模型赋予系统真正的理解能力。
系统能够扩充识别能力,实时结合语义理解推理及用户行为进行风险推理;并持续对误判样本进行回溯训练与反馈学习,让模型不断成长。
整个安全体系形成“事前预测、事中研判、事后优化”的持续闭环。
运行实践表明:信息整体拦截准确率处于行业领先水平,漏拦、误判比例维持在低位;每天精准拦截大量风险信息,大幅缩减人工审核工作量。
这一系列成果的背后,是每天数十万次诈骗尝试,在用户毫无感知的情况下被提前化解。
安全,不再依赖“人海战术”,而开始依赖AI持续进化。
从“AI赋能安全”到“AI重构安全”
两项案例共同揭示了一个正在发生的产业趋势。
AI正在改变网络安全的底层运行方式。
过去,AI只是帮助安全系统识别更多风险;今天,AI已经开始参与分析、推理、决策、优化整个运营流程。
真正改变的,不是一项产品,而是一种运营模式。
这也是东软持续推进AI产业化落地的重要方向——不是把AI作为传统系统的一个功能模块,而是让AI成为业务运行的新引擎。
目前,依托自主可控的大模型、智能体、多模态识别等核心技术,东软已将AI能力广泛应用于医疗健康、政务民生、通信运营、智慧养老、能源、汽车等30多个重点行业,覆盖100余类业务场景,持续推动AI从实验室走向真实业务,从模型能力走向产业价值。
世界人工智能大会典型案例集收录的,不只是两项成功实践。
更是一份来自产业一线的答案:
AI真正的价值,不是在展示模型有多强,而是在真实业务中持续做出更准确、更可靠、更高效的决策。
这,正是东软持续探索和实践的方向——让AI深入产业、服务产业、改变产业,成为千行百业数字化升级最可靠的智能引擎。