天融信联合广东电信获“数信杯”数据安全大赛银奖#大模型数据安全#

admin 2026-03-27 14:03:23 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: 天融信联合广东电信凭借《面向AI大模型的数据安全立体防护方案》获数信杯银奖。该方案以天融信大模型数据安全监测系统为底座,通过协议解构实现语义级审计,以资产测绘厘清API风险,并提供AI供应链安全扫描,构建了覆盖事前、事中、事后的全生命周期防护闭环,有效应对大模型应用中的数据泄露与模型安全风险。 综合评分: 65 文章分类: 数据安全,AI安全,解决方案,安全建设,云安全


cover_image

天融信联合广东电信获“数信杯”数据安全大赛银奖#大模型数据安全

赛查查

2026年3月25日 10:24 北京

近日,由中国电子信息产业发展研究院、中国信息通信研究院、国家工业信息安全发展研究中心、中国软件评测中心联合主办的第三届“数信杯”数据安全大赛圆满落幕。天融信联合广东电信申报的《面向AI大模型的数据安全立体防护方案》从数百个参赛案例中脱颖而出,获评优秀案例征集赛银奖。

双方携手在中国电信三维联动数据防泄漏体系基础上,深入开展大模型数据安全防护研究与实践。案例以天融信大模型数据安全监测系统为底座,针对大模型应用场景复杂、接口调用的随机性和不确定性、大模型专有的通信协议等难点问题,构建覆盖全生周期的数据安全防护方案。

当前,随着AI大模型应用加速落地,安全风险暗流涌动。各类开源AI智能体框架被恶意利用,通过语义诱导、API漏洞利用等手段,轻易绕过传统防御,造成数据泄露、模型越权等严重后果。面对这一挑战,天融信大模型数据安全监测系统构建“看得见、管得住、可追溯”的安全防线,在保障安全的同时兼顾效率

协议解构,透视“语义迷雾”

针对大模型特有的提示词注入风险,系统依托AI原生流量语义理解引擎,深度解析MCP(模型上下文协议)、A2A及Function Calling等大模型专属协议。它不干预模型推理,却能像“读心术”一样,实时还原用户意图与模型交互逻辑,将原本不可读的Token流转化为可审计的业务语义。

系统不仅能精准识别随机噪声、角色扮演、反向诱导等传统注入攻击,更能深入分析推理过程中的密钥泄露、恶意代码植入及不可见字符隐藏等深层威胁。通过将“语义迷雾”转化为清晰的审计日志,让每一次人机交互都透明可控。

资产测绘,构筑“数字账本”

针对大模型API接口繁杂、资产不清的痛点,系统采用“被动镜像+主动探针”双模机制,自动梳理全量API资产清单。无论是RAG检索接口、Agent协作接口,还是内部自研与第三方合作接口,皆被纳入基线管理。

系统内置30余种异常行为与弱点检测模型,可实时监测高频访问、成员推断、训练数据提取等大模型特有风险,并能主动发现接口未鉴权、参数可遍历等安全缺陷。一旦出现异常调用或敏感数据外传,系统即刻生成包含5W1H全要素的审计日志,让每一次数据流转都“有迹可循”,彻底消除“未知接口盲区”。

智能体与组件的“供应链体检”

随着AI Agent(智能体)的广泛应用,大模型技术栈日益复杂,开源组件与插件成为新的攻击面。天融信系统率先布局供应链安全,提供针对PyTorch、LangChain、Ollama等核心AI组件及MCP代码的专项漏洞扫描,实时发现版本迭代中的安全隐患。

在模型上线前,系统提供深度的模型安全扫描与对抗性评估,不仅检测模型文件中是否潜藏恶意代码或序列化攻击载荷,还可通过体系化的评估题库验证模型的安全性、公平性与可解释性,从源头剔除“带病模型”与“脆弱组件”,确保智能体协作环境的纯净与安全。

全链路闭环,实现“双重免疫”

系统打破了单点防护的局限,构建了“事前评估+事中监测+事后审计”的全生命周期闭环。事前对训练语料进行多维度合规筛查,阻断违规数据进入模型;事中通过流式计算架构,实现对输入输出内容的毫秒级识别,精准拦截敏感信息泄露与违规内容生成;事后基于全行为审计机制,构建用户、接口、应用等多维度画像,支持溯源分析与合规报表生成。这种全方位的保护机制,完美帮助企业满足法律法规合规要求。

从年初Seedance2.0引爆行业变革,到“养龙虾”热潮引发的安全与效率思考,再到“315大模型投毒”暴露的安全隐忧,人工智能正以前所未有的速度渗透进我们的生产生活。

保障数据安全,是促进人工智能健康发展的客观要求和必要条件。天融信将始终紧跟政策导向与市场需求,持续推动“人工智能+”在数据安全领域的应用,携手产业合作伙伴在拥抱AI的同时筑牢安全防线,为数字中国建设构筑坚实屏障。

来源:天融信

交流分享


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:赛查查 《天融信联合广东电信获“数信杯”数据安全大赛银奖#大模型数据安全#》

评论:0   参与:  0