腾讯Hy4发布：AI网络安全能力如何避免被滥用？
谈思实验室
2026年11月5日 17:49
上海
去阅读
点击上方蓝字谈思实验室
获取更多汽车网络安全资讯
摘要
11月4日，腾讯混元发布新一代大语言模型Hy4，并强调在模型训练和发布过程中加强网络安全与生物安全防护。通过限制攻击性训练材料、开展专项安全评估，模型厂商正在探索如何在提升AI能力的同时控制双重用途风险。
当AI模型开始具备代码生成、漏洞分析、工具调用和自主执行任务的能力，一个新的问题正在变得突出：
当AI能够帮助安全人员发现漏洞时，它是否也可能帮助攻击者利用漏洞？
11月4日，腾讯混元正式发布新一代大语言模型Hy4。这次发布值得关注的地方，不仅是模型能力提升，更在于腾讯公开介绍了其网络安全训练数据策略和安全评估机制。这意味着，AI模型的安全竞争正在从单纯的能力比拼，进一步延伸到模型如何训练、如何评估以及如何控制实际使用风险。
01
Hy4的网络安全训练策略：强调防御性数据
根据腾讯发布的信息，Hy4在网络安全领域采用了偏向防御性的训练数据策略。
其训练内容重点包括：
- 漏洞分析与修复： 帮助识别软件中的安全问题，并理解如何修复。
- PoC开发： PoC（Proof of Concept，概念验证）是用于证明某个漏洞或技术问题确实存在的验证程序。
- 逆向工程分析： 通过分析程序和二进制文件，理解软件运行逻辑。
- 渗透测试分析： 从安全测试角度识别系统中的潜在风险。
与此同时，腾讯表示，对用于攻击性利用的相关材料进行了排除，以降低模型能力被用于恶意攻击的风险。
这里有一个值得注意的细节：逆向工程和渗透测试本身并不等于攻击行为。它们既可以服务于漏洞研究、软件审计，也可能被用于攻击准备。关键在于训练材料的用途、任务上下文和能力边界，而不是简单地把某个技术名词列入黑名单。
02
模型安全评估：不能只看训练数据
除了训练数据策略，腾讯还介绍了专项安全评估.腾讯玄武实验室与科恩实验室的安全专家参与了Hy4的安全测试，覆盖密码学逆向分析、二进制反混淆和漏洞利用等相关能力。
腾讯表示，在其评估范围内，没有发现Hy4在攻击性网络安全能力方面存在重大风险。但需要明确：这是企业公布的内部安全评估结果，并不等于已经通过独立第三方全面认证，也不能据此推断模型在所有攻击场景下都无法被滥用。
训练数据过滤不等于模型能力隔离。模型在训练过程中可能学习到不同知识之间的关联。即使排除了部分攻击性材料，也不能保证模型完全不具备相关知识的推理能力。
因此，模型安全需要多层防护：
- 数据层：识别和限制高风险训练材料。
- 模型层：通过安全训练和评估降低不当输出。
- 应用层：限制工具调用、文件访问和外部系统操作权限。
- 运行层：记录行为日志，建立异常检测与事件响应机制。
这四个层次需要共同发挥作用，不能仅依赖训练阶段的数据过滤。
03
为什么这件事与汽车网络安全有关？
随着智能汽车逐渐成为具备复杂软件系统和外部连接能力的移动智能终端，AI正在进入汽车研发、测试和运维流程。
例如：
- 使用AI分析车载软件日志，辅助定位异常行为。
- 使用AI辅助分析ECU（电子控制单元）固件及软件漏洞。
- 使用AI协助审查车载通信接口和API。
- 使用AI辅助分析OTA升级过程中的安全风险。
- 使用AI协助处理漏洞情报和安全事件。
这些应用能够提高安全工程师的工作效率，但也会带来新的风险。
假设一家车企将AI接入内部代码仓库、漏洞管理平台和测试环境，模型不仅能够读取数据，还能够调用工具执行操作。此时，风险就不再局限于模型生成了什么内容，而在于：
模型是否有权访问敏感代码？是否能够修改测试环境？是否可以向外部系统发送数据？
因此，企业在引入AI安全工具时，应当重点建立以下机制：
- 对代码、日志和漏洞数据进行分级管理。
- 将模型访问权限与员工岗位权限关联。
- 对高风险操作设置人工审批。
- 将模型测试环境与真实生产环境隔离。
- 保留模型调用、工具执行和数据访问记录。
04
AI模型安全竞争，正在进入新的阶段
Hy4的发布反映出一个值得持续观察的趋势：模型能力、安全评估和开放策略正在形成新的竞争维度。
未来，模型厂商需要回答的不只是模型能完成什么任务，还包括模型在哪些情况下不应该执行任务，以及企业如何验证这些边界是否真正有效。对于汽车企业、Tier1供应商和安全厂商而言，这同样是一个值得提前布局的方向。
当AI逐渐参与软件开发、漏洞分析和车辆运行维护，AI自身也将成为智能化系统安全治理的一部分。
安全能力不能只停留在模型训练阶段，更需要延伸到数据、权限、工具调用和实际业务运行的全过程。
end
谈思汽车媒体门户
精品活动推荐
AutoSec系列沙龙
专业社群
部分入群专家来自：
新势力车企：
特斯拉、理想、极氪、小米、零跑汽车、阿维塔汽车、智己汽车、小鹏、岚图汽车、蔚来汽车、吉祥汽车、赛力斯......
外资传统主流车企代表:
大众中国、大众酷翼、奥迪汽车、宝马、福特、戴姆勒-奔驰、通用、保时捷、沃尔沃、现代汽车、日产汽车、捷豹路虎、斯堪尼亚......
内资传统主流车企：
吉利汽车、上汽乘用车、长城汽车、上汽大众、长安汽车、北京汽车、东风汽车、广汽、比亚迪、一汽集团、一汽解放、东风商用、上汽商用......
全球领先一级供应商：
博世、大陆集团、联合汽车电子、安波福、采埃孚、科世达、舍弗勒、霍尼韦尔、大疆、日立、哈曼、华为、百度、联想、联发科、普瑞均胜、德赛西威、蜂巢转向、均联智行、武汉光庭、星纪魅族、中车集团、潍柴集团、地平线、紫光同芯、字节跳动、......
二级供应商(500+以上)：
中科数测、ETAS、BlackDuck、NXP、上海软件中心、Deloitte、奇安信、为辰信安、云驰未来、信长城、泽鹿安全、纽创信安、复旦微电子、天融信、奇虎360、中汽中心、中国汽研、上海汽检、加特兰微电子、浙江大学......
人员占比
公司类型占比
文章
不要错过哦，这可能是汽车网络安全产业最大的专属社区！
首发!小米雷军两会上就汽车数据安全问题建言：关于构建完善汽车数据安全管理体系的建议
版权声明
本站仅做备份收录，仅供研究与教学参考之用。
读者将信息用于其他用途的，全部法律及连带责任由读者自行承担，本站不承担任何责任。
评论