山东大学网络空间安全学院郭山清教授团队在人工智能安全方向取得新成果

admin 2026-03-18 21:01:46 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: 山东大学郭山清教授团队提出针对文生视频模型的成员推理攻击框架VidLeaks,被USENIXSecurity2026接收。该框架利用稀疏重建保真度和时序生成稳定性信号,解决了视频数据时空复杂性带来的隐私审计难题。实验显示在黑盒设置下检测AUC最高达97.01%,填补了该领域空白,为构建合规安全的视频生成系统提供了关键理论与技术支撑。 综合评分: 85 文章分类: AI安全,数据安全,漏洞分析


cover_image

山东大学网络空间安全学院郭山清教授团队在人工智能安全方向取得新成果

信息网络安全杂志

2026年3月11日 17:00 上海

近日,山东大学网络空间安全学院郭山清教授团队在人工智能安全方向的新成果“VidLeaks: Membership Inference Attacks Against Text-to-Video Models”被网络与系统安全顶级会议USENIX Security 2026 接收。论文第一作者为山东大学网络空间安全学院博士后王粒,通讯作者为学院教授李政、郭山清。

文生视频(Text-to-Video, T2V)大模型(如Sora、Kling等)的快速发展开启了人工智能生成内容的新纪元。然而,其强大的生成能力建立在对海量网络数据训练的基础之上,不可避免地引发了版权侵权与数据隐私泄露的严重风险。成员推理攻击(MIA)是审计此类数据风险的关键技术手段,但现有方法主要针对图像或文本等静态数据设计,难以有效应对视频生成过程中所涉及的复杂时空结构与随机动态特性。

针对上述难题,团队开展了针对文生视频模型的系统性成员推理攻击研究,并提出了名为“VidLeaks”的稀疏时空检测框架。该成果首次揭示了视频生成模型在时空维度上的隐私泄露机理,创新性地利用“稀疏重建保真度(SRF)”和“时序生成稳定性(TGS)”两个互补信号,分别捕捉模型对稀疏关键帧的空间记忆,以及在多次生成过程中的时序稳定性。在AnimateDiff、InstructVideo等多个代表性T2V模型上的评估表明,即使在极具挑战的黑盒设置下,VidLeaks仍能达到最高97.01%的检测AUC。该研究成果不仅填补了文生视频模型隐私审计领域的空白,也为未来构建更安全、合规的视频生成系统提供了至关重要的理论依据与技术支撑。

USENIX Security与IEEE S&P、ACM CCS、NDSS并称网络与系统安全领域四大顶级会议,为计算机学会(CCF)推荐A类会议。USENIX Security 自1990年创办,近十年平均录用率仅为19%,论文代表了人工智能安全领域国际最前沿的研究水平。

来源:山东大学网络空间安全学院

推荐阅读

从开源小白到社区领袖!华中科技大学、西安电子科技大学、重庆邮电大学三校导师绘制开源能力“打怪升级”指南

保研、毕业答辩、评奖学金都能用!部分高校网安学院开始“认”开源贡献了

论文从被拒到被接收、引用量猛涨!西安交通大学、中国科学技术大学、南京理工大学青年学者谈论文代码公开的利与弊

AI查重系统频“误判”,学生何时能自证清白?中山大学、东南大学网安学者揭露检测系统技术困局与出路

用AI“写”论文算作弊吗?中山大学、东南大学、兰州大学网安学院导师拆解“真创新”

让论文“跑”起来!如何用开源项目“喂”出实战型网安人才?华中科技大学、西安电子科技大学、重庆邮电大学联手揭秘

信息网络安全

《信息网络安全》创刊于2001年,是由公安部主管,公安部第三研究所、中国计算机学会主办,面向国内外公开发行的国内首批信息安全类期刊之一,于2015年成为中国科技核心期刊,2017年成为中国科学引文数据库来源期刊,2018年成为中文核心期刊,2022年入选CCF计算领域高质量科技期刊分级目录。

中文核心期刊

中国科技核心期刊

中国科学引文数据库来源期刊

CCF计算领域高质量科技期刊

我们在不断努力和完善中,期待您的关注和支持!


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:信息网络安全杂志 《山东大学网络空间安全学院郭山清教授团队在人工智能安全方向取得新成果》

网络安全文章

文章总结: OpenClaw工具爆火后迅速反转,从高价安装演变为付费卸载,形成讽刺的商业闭环。工信部点名其存在隐私泄露风险,国家信息安全部门披露其含82个漏洞,
评论:0   参与:  0