文章总结: 天融信大模型数据安全监测系统获2026年度北京网络空间安全协会科学技术奖技术发明奖二等奖。该系统聚焦大模型全生命周期数据安全风险,提供语料合规筛查、模型漏洞扫描、交互攻击防护及API资产管控等能力,覆盖训练-部署-运营-管理环节,帮助企业应对数据安全、模型安全及合规监管挑战。 综合评分: 56 文章分类: 产品介绍,AI安全,数据安全,应用安全,网络安全
天融信AI安全防护产品获推技术发明奖!
天融信
2026年8月20日 15:48 北京
在小说阅读器读本章
去阅读
当前,大模型深度融入企业生产、经营、研发各环节,智能客服、代码助手、数据分析等AI应用赋能千行百业。但企业核心业务上AI之后,安全挑战接踵而至:训练语料隐私风险如何把关?模型恶意代码隐患怎样排查?Prompt诱导泄露风险如何拦截?隐蔽的影子API又该如何管控?
数据安全风险、模型安全威胁、合规监管压力——三座大山,正压在每一个拥抱大模型的企业身上。
技术发明奖
近日,2026年度北京网络空间安全协会科学技术奖(WAL奖)初评推荐获奖名单公示,天融信大模型数据安全监测系统成功入选榜单获技术发明奖二等奖,为企业落地大模型全生命周期安全建设开辟了新思路。
据悉,该奖项依据科技部《社会力量设置科学技术奖管理办法》设立,是在北京市科学技术委员会报备的社会力量办奖奖项,旨在奖励在网络空间安全系统或相关技术产品中具有重要技术发明或突破、在技术思路、原理或方法上有重大创新的项目成果。
聚焦大模型数据安全监测
提供全生命周期防护
聚焦大模型全生命周期数据安全风险,天融信大模型数据安全监测系统融合AI协议解析(MCP/A2A协议解析)与深度内容识别(文本/图像/音视频频多模态检测)技术,提供覆盖训练-部署-运营-管理的专业化、体系化安全监测能力。
语料合规筛查,源头阻断“带病”数据风险
金融客户隐私、政务涉密信息、患者医疗数据一旦混入训练数据集,极易造成模型输出泄密。产品内置合规内容特征库、多行业敏感信息特征库,支持金融、政务、医疗等细分行业专属检测规则,覆盖银行卡号、身份证号、涉密政策、患者隐私等多类敏感字段;可对Excel、CSV、PDF等多格式训练语料完成全量扫描,打通从语料采集到输出溯源的全链路合规管控,从源头规避数据泄露隐患。
模型漏洞扫描,让”带病”模型无处遁形
当下大量企业基于DeepSeek、LLaMA、Qwen等开源基座搭建大模型应用,普遍搭载Ollama、RAGFlow、LangFlow等开源组件。开源组件数量繁多、版本迭代快速,组件漏洞持续扩大大模型攻击面。
产品内置大模型专属漏洞知识库,针对模型安装文件、MCP代码、开源第三方组件开展安全扫描,精准识别恶意代码与预置后门威胁,并输出可落地的漏洞修复方案,为模型部署上线完成上线前“安全体检”。
交互攻击防护,拦截每一句“精心算计”
针对角色扮演、反向诱导、DAN逃逸、Prompt拆分、目标劫持等主流大模型对抗攻击手段,产品实现提示词流量实时监测、风险行为及时拦截处置;内置多套API异常行为检测模型、API弱点检测模型,覆盖 OWASP API Security TOP10 全部风险场景;叠加攻击规则库、僵木蠕病毒检测规则,实现大模型交互攻击与传统Web攻击、僵尸木马威胁的一体化防御。
API资产管控,让“影子API”无处可藏
企业内部大模型依赖JavaServlet、Kafka、Restful、XML、SOAP、JSON-RPC、GraphQL等组件接口,各类业务系统接口繁多,影子API、僵尸API成为安全盲区。产品采用被动流量捕获+主动探测技术,自动梳理所有大模型及相关业务系统关联的API资产,标记活跃/休眠/僵尸状态,有效降低未知或失活API带来的潜在风险。
同时,产品支持与大模型安全网关、大模型安全评估系统等联动,构建起大模型纵深安全防护体系,全方位守护AI应用平稳落地。
合规,是硬需求,也是硬实力
伴随《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》《个人信息保护法》等监管法规深入实施,语料合规、输出可溯源已经成为企业大模型建设的刚性需求。
天融信大模型数据安全监测系统将法规要求转化为可落地的检测规则,从训练语料筛查、模型评估到运营监测,全链路保障数据与内容合规。一方面帮助客户规避带病训练、违规输出引发的监管处罚风险;另一方面通过多维度安全审计报表,留存完整安全记录,为监管核查提供详实依据,夯实企业AI业务安全底座。
近期热点
Hugging Face遭入侵并非纯AI自主,天融信对话央视:大模型安全应同步建设
九维透视、39项检查、三大主流智能体专项检测,天融信AI智能体安全评估服务正式发布!
全国首批、级别最高!天融信获AI服务安全能力评定“建设+检测”双证
天融信:网安独家登榜企业级AI Agent卓越者,智能体安全入编典型案例
第十一届(2026年)全国高校密码数学挑战赛盛大收官!
关注天融信了解更多信息
免责声明:
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。
任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。
本文转载自:天融信 《天融信AI安全防护产品获推技术发明奖!》
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。











评论