国际认可!启明星辰入选Gartner®中国AI安全测试领域代表厂商

admin 2026-01-27 00:31:53 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: 启明星辰凭借大模型应用安全评估系统MAVAS入选Gartner中国AI安全测试代表厂商。该系统通过以模型对抗模型及四大核心评估能力,帮助企业实现从被动响应到主动免疫的转变,有效防范越狱投毒等风险并满足合规要求。 综合评分: 68 文章分类: 产品介绍,AI安全,解决方案


cover_image

国际认可!启明星辰入选Gartner®中国AI安全测试领域代表厂商

启明星辰集团

2026年1月26日 17:42 北京

近日,全球领先的信息技术研究和顾问公司Gartner®发布《中国人工智能安全测试创新洞察》(Innovation Insight: AI Security Testing in China,以下简称“报告”),启明星辰凭借在大模型应用安全领域的深厚积累与创新实践,入选该领域代表厂商。这标志着启明星辰自主研发的大模型应用安全评估与加固系统(MAVAS)已获得国际权威研究机构的认可。

当前,大模型与AI智能体在关键行业的大规模部署正在重塑中国的网络安全格局。Gartner报告指出,“对于中国CIO及其安全团队而言,专业化、持续性的AI安全测试(AI-ST)已成为确保合规、防御AI威胁并支持AI战略落地的关键推动力。”并进一步预测,“到2029年,70%的中国组织将实施AI安全测试,远高于目前的不足5%。”同时,中国的AI安全测试在监管驱动下,范围已超越传统的网络安全,扩展至涵盖合规违规、歧视与偏见等问题的“广义安全”领域。

启明星辰MAVAS

构建“评估即防御”的主动安全范式

面对大模型应用带来的恶意提示词“越狱”、训练数据“投毒”、敏感信息泄露、对抗样本攻击等新型风险,启明星辰MAVAS采用“以模型对抗模型”的创新理念,通过智能体自动生成多样化的对抗攻击测试样本,对大模型应用进行全方位、深层次的“健康体检”,主动暴露风险,验证防御边界。

启明星辰MAVAS提供四大核心评估,构筑全链路安全屏障:

  • 源头治理:训练语料安全评测,主动扫描训练数据及知识库,提前识别并过滤敏感、违规、偏见内容,从根源上杜绝“垃圾进、垃圾出”。
  • 输出评估:违规内容安全评测,模拟多元业务场景,系统化评估模型输出内容的安全性,确保其符合法规与企业内控标准。
  • 防御验证:对抗攻击安全评测,集成30多种先进的越狱与对抗攻击手法,主动“攻击”自身模型,验证其抗干扰、防诱导的安全短板。
  • 基础扫描:模型基础安全评测,全面梳理企业内部的AI资产,并对其依赖的组件、库进行已知漏洞扫描,堵住传统软件漏洞。

基于上述核心评估能力,启明星辰MAVAS系统致力于帮助企业将AI安全模式从“被动响应”转向“主动免疫”:

  • 合规支撑:系统可生成可验证、可审计的安全评估报告,帮助企业满足《生成式人工智能服务管理暂行办法》等法规中的安全评估要求。
  • 资产管理:全面摸底企业内部AI资产发布,对分散的模型与应用实现集中化、可视化的统一管理。
  • 风险前置:通过将安全环节前置,在业务上线前或迭代中进行持续评估,降低因内容安全与数据泄露事件引发的运营中断与声誉损失。
  • 投资保护:通过系统化的安全评估与加固方案,保护企业在大模型研发与应用上的投入,支撑AI项目稳定、可靠地创造业务价值。

在数字经济发展进程中,AI安全已成为支撑产业智能化转型与国家竞争力提升的重要基础,启明星辰将以持续的技术创新与行业实践,构建覆盖AI全生命周期的安全防护体系,推动形成技术自主、标准协同的产业生态,为各行业安全、可信的智能化发展提供坚实保障。

参考文献

Gartner, Innovation Insight: AI Security Testing in China, 7 January 2026

声明

Gartner 并未在其研究报告中支持任何供应商、产品或服务,也并未建议科技用户只选择该等获最高评分或其它称号的供应商。Gartner 的研究报告含有 Gartner 研究与顾问组织的意见,且该意见不应被视作事实陈述。就该研究报告而言,Gartner 放弃做出所有明示或默示的保证,包括任何有关适销性或某一特定用途适用性的保证。

GARTNER 是 Gartner, Inc. 和/或其关联公司在美国和国际上的商标和服务标识,并在获得许可的情况下在此使用。保留所有权利。

END


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:启明星辰集团 《国际认可!启明星辰入选Gartner®中国AI安全测试领域代表厂商》

评论:0   参与:  0