企业开始用AI了，安全怎么测？今晚19点直播聊聊

FreeBuf

2026年9月29日 18:00
上海

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

大模型正在进入企业的办公、研发、知识库等业务场景，Agent也开始从回答问题，逐步走向调用工具、访问数据和执行任务。

但新的安全问题也随之出现。

敏感数据会不会泄露？Prompt注入和越狱风险怎么发现？当Agent真正拥有工具调用权限，企业又该如何判断它的执行行为是否安全？

更现实的问题是：传统安全测试，是否还能覆盖AI应用带来的新风险？

从识别模型风险，到验证Agent行为，再到建立持续评测机制，企业需要重新思考AI安全测试的方法与边界。

今晚（9月29日）19:00，FreeBuf邀请两位来自金融与制造业的一线安全工程师，从实际企业场景出发，一起聊聊AI安全评测。

直播预告

直播主题：《企业AI安全评测：从模型风险到Agent行为边界》

直播时间：9月16日18:00

直播平台：FreeBuf视频号

本期嘉宾：

欧阳宁东｜微牛证券｜安全工程师

Sam Qian｜知名外资制造企业｜安全工程师

本期直播重点讨论4个问题：

• 01 企业开始用AI以后，最先暴露出来的安全问题是什么？

敏感数据、Prompt攻击、第三方模型与API、工具调用权限……当大模型真正进入企业业务，哪些风险需要优先关注？
* 02 传统安全测试，为什么不一定能发现AI系统的问题？

敏感数据、Prompt攻击、第三方模型与API、工具调用权限……当大模型真正进入企业业务，哪些风险需要优先关注？

• 03 Agent开始调用工具以后，安全边界发生了什么变化？

当Agent开始访问数据、调用接口甚至执行任务，企业该如何控制权限？如果最终回答正常，但执行过程已经越权，又该如何判断风险？

• 04 企业真正落地AI安全评测，最难的是什么？

测试场景怎么选？安全测试Case如何建立？哪些环节适合自动化？企业又该如何将AI安全评测纳入日常研发和上线流程？

直播中场还将设置弹幕答疑环节，两位嘉宾将回应大家关心的实际问题。

测试场景怎么选？安全测试Case如何建立？哪些环节适合自动化？企业又该如何将AI安全评测纳入日常研发和上线流程？

感兴趣的话，欢迎来直播间一起聊聊。

直播福利

直播期间参与评论

即有机会抽取直播间福袋

获得斗象实物礼品

AIBEAT交流群将同步开展4轮话题互动

每题有效参与可获得50知识币

4题全部参与再额外奖励100知识币

每轮话题互动结束后同步发放群红包

手气最佳者还有机会获得斗象实物礼品

加入AIBEAT交流群

如果你正在关注大模型安全、Prompt攻击、Agent行为安全或AI安全红队测试，欢迎加入AIBEAT交流群。

扫描下方二维码，添加「小星星」

回复「AIBEAT」即可进群

👇

直播中没来得及展开的问题

也欢迎在群内继续交流

今晚19:00，FreeBuf视频号直播间见

推荐阅读

电报讨论