直播预告|数据悄悄流出,行为悄悄越界?企业里的智能体,该管起来了"

admin 2026-10-16 02:32:32 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

直播预告 | 数据悄悄流出,行为悄悄越界?企业里的智能体,该管起来了

原创

绿盟君
绿盟君

绿盟科技

2026年10月9日 17:05
北京

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

当智能体以「数字员工」的身份深度融入企业研发、办公、运营等全业务场景,效率升级的背后,全新的安全风险也正在隐蔽生长。企业常常陷入「行为看不见、出事说不清、用量管不住」的治理困局,智能体安全已成为企业 AI 落地路上必须迈过的一道坎。

数据是怎么悄悄流出去的?

  • 员工不合规使用

图省事,把合同、财报、客户名单直接发给外部AI,复制粘贴就泄了密。
* AI自己往外发

AI能自己发邮件、发消息、查网页,手上还握着公司数据,一个不留神就带了出去。
* 日常办公外泄

AI生成的内容走网盘、邮箱等普通渠道,恰恰绕开了传统管控。

AI不只会说错话,还会做错事

  • 今年4月,编程智能体「自作主张」删掉生产数据库和备份,全程9秒,没人来得及反应。
  • 今年7月,一家大厂的编程工具把整个代码仓库上传云端,连没读过的文件也传了,用户全程无感知。
  • 还有安全团队发现,一个只做安全测试的智能体,无人指挥,自己规划并执行了一连串攻击动作。

这些事的共同点:单看每一步都「合规」,连起来才知道出了大事。

落到企业里,三个扎手的问题

一、行为看不见

半夜跑了什么命令、删了什么文件,没人知道。

二、出事说不清

哪个智能体、谁的授权、干了什么,查不到。

三、用量管不住

Token账单蹭蹭涨,谁花的、花在哪,说不清。

企业AI智能体到底应该怎么管?

  • 数据:出不去·拦得住·查得到
  • 行为:全程留痕·跑偏告警·高危拦截·用量有账

让每一位AI数字员工:有身份、有边界、有记录

绿盟科技智能体安全秋季成果发布会

2026年10月12日 [周一]14:00-15:00

绿盟科技【视频号】

特别鸣谢联合转播:信息安全与通信保密、数世咨询、安全牛、安在。届时您也可以通过上述平台同步观看直播。

14:00 – 14:30

从类Claw自主智能体安全风险分析看AI红队建设

——绿盟科技能力中心产品经理 郭光正

14:35 – 15:00

清风卫AI-DR智能体安全能力上新

——绿盟科技AI安全产品总监 李斌

扫描二维码 即刻预约


    看得更广查得更深|AI资产风险发现与研判能力进阶" 网络安全文章

    看得更广查得更深|AI资产风险发现与研判能力进阶"

    绿盟科技提出AI资产风险发现体系,涵盖资产识别、风险关联、影响研判与持续监测。通过智能指纹识别(4K+通用指纹、150+AI专项指纹)和供应链风险溯源(覆盖94个AI开源项目、18557个版本),结合POC验证、应用漏洞、供应链漏洞及威胁情报,形成多维风险研判报告,并给出量化评分机制。
    直播预告|数据悄悄流出,行为悄悄越界?企业里的智能体,该管起来了" 网络安全文章

    直播预告|数据悄悄流出,行为悄悄越界?企业里的智能体,该管起来了"

    本文为绿盟科技直播预告,聚焦企业智能体安全风险。文章指出智能体融入业务带来数据泄露与行为越界风险,企业面临行为看不见、出事说不清、用量管不住三大治理难题。绿盟将举办秋季成果发布会,介绍AI红队建设及清风卫AI-DR智能体安全能力,提出让数字员工有身份、有边界、有记录的管理方案。
    HDCTF2026官方WRITEUP来啦!" 网络安全文章

    HDCTF2026官方WRITEUP来啦!"

    HDCTF2026官方WRITEUP详细介绍了多个Web安全挑战的解题过程,包括利用信息收集获取账号密码、SQL注入漏洞利用、PHP对象反序列化漏洞等,并提供了相应的自动化脚本。
    评论:0   参与:  0