中科院信工所数据安全研究室古晓艳课题组科研成果被USENIXSecurity2026录用

admin 2026-03-03 09:46:39 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: 中科院信工所古晓艳课题组论文被USENIXSecurity2026录用。该研究针对模型微调后的血缘追溯难题,提出基于知识演进视角的验证方法。通过捕捉知识一致性演进规律,利用知识向量相似性判断亲缘关系,解决了传统水印技术无法追溯来源的缺陷。实验表明该方法可识别至少四代演化,准确率超97%,有效支持模型知识产权保护与合规审计。 综合评分: 88 文章分类: AI安全,数据安全,解决方案,安全大事件


cover_image

中科院信工所数据安全研究室古晓艳课题组科研成果被USENIX Security 2026录用

信息网络安全杂志

2026年2月14日 17:00 上海

近日,中科院信工所数据安全研究室在模型谱系判别方面取得重要进展,古晓艳老师课题组科研成果《Attesting Model Lineage by Consisted Knowledge Evolution with Fine-Tuning Trajectory》,被信息安全领域国际顶级会议USENIX Security 2026(The 35th USENIX Security Symposium)录用。

随着深度学习模型微调技术的普及,微调后的模型之间逐渐形成了复杂的血缘关系。然而,目前仍缺乏有效手段精准追溯基础模型的真实来源。这一问题在开源模型库与商业应用中尤为突出,极易引发模型盗用、来源不明、责任归属难辨等安全风险。相比之下,传统的水印、指纹技术更像为模型办理身份证,通常只能验证模型是否为同一实体,却难以回答“模型源自何处”或“经由何种微调链条传承”等深层次问题。

 

针对这一问题,本文首次从“知识随微调演进”的视角系统刻画模型血缘。实验发现,模型参数与知识的演进保持高度一致,即在多代微调中,尽管参数发生复杂变化,模型能力与行为仍呈现出可度量、可追踪的“知识一致性演进规律”。子模型既继承父模型的部分知识,又在新数据驱动下形成新能力,这一继承与变化轨迹并非随机,而是可稳定捕捉与对齐。基于该规律,文章提出了一种面向真实模型生态的血缘验证方法:不再简单比对参数,而是将模型在关键输入上的行为抽象为“知识向量”,通过知识相似性判断模型间的亲缘关系。

 

该技术不仅适用于传统的分类模型,也能够扩展到扩散生成模型与大语言模型等主流架构。在多代微调、剪枝、参数扰动等更贴近真实场景的复杂条件下,实验结果显示:该方法可以稳定识别至少四代的模型演化关系,血缘检测准确率达到97% 以上,并保持较低误报。这项成果为模型管理平台提供了一种更可靠的溯源工具,可用于模型知识产权保护、来源审计、合规取证等场景,帮助构建更可信、更规范、可追责的模型使用生态。

论文信息:

Zhuoyi Shang, Jiasen Li, Pengzhen Chen, Yanwei Liu, Xiaoyan Gu, Weiping Wang, Attesting Model Lineage by Consisted Knowledge Evolution with Fine-Tuning Trajectory, The 35th USENIX Security Symposium (USENIX Security), 2026.

往期精彩回顾

从竞赛“练兵场”到人才“孵化器”: 湖南大学、复旦大学、四川大学、西安邮电大学引领塑造网络安全新生力

守护语音安全: 华中科技大学CPSS团队如何打造Anti-Deepfake系统斩获创意作品赛冠军?

芯片安全漏洞难检测?看西工大“抽象四次方”如何破解芯片安全难题

顶会论文“存活”指南:从清华、天大、杭电审稿人视角看网络安全顶会 | IEEE S&P 审稿流程全解析

信息网络安全

《信息网络安全》创刊于2001年,是由公安部主管,公安部第三研究所、中国计算机学会主办,面向国内外公开发行的国内首批信息安全类期刊之一,于2015年成为中国科技核心期刊,2017年成为中国科学引文数据库来源期刊,2018年成为中文核心期刊,2022年入选CCF计算领域高质量科技期刊分级目录。

中文核心期刊

中国科技核心期刊

中国科学引文数据库来源期刊

CCF计算领域高质量科技期刊

我们在不断努力和完善中,期待您的关注和支持!


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:信息网络安全杂志 《中科院信工所数据安全研究室古晓艳课题组科研成果被USENIX Security 2026录用》

评论:0   参与:  0