文章总结： 长亭科技杨坤指出国产大模型面临国家级对抗、数据泄露及安全设计滞后三大威胁，存在内容偏见、数据泄露、伦理合规及恶意滥用四类风险。他强调安全是产业发展前提，需将安全理念贯穿全流程构筑可靠防线。 综合评分： 72 文章分类： AI安全,数据安全,安全建设

【光明网专访】长亭科技杨坤谈大模型安全风险挑战

长亭安全观察

2025年12月30日 17:14 北京

编者按

自2025年初，DeepSeek走红，国产大模型在全球竞争赛道上不断跑出加速度。前段时间，国际知名大模型竞技场榜单LMArena公布排名，多款国产大模型名列前茅。从技术创新到生态构建，从单点突破到梯队成型，经过近一年的快速“成长”，国产大模型正稳步迈入全球第一梯队。

长亭科技联合创始人、首席安全研究员杨坤接受光明网采访，在光明网“网络强国·百人谈”品牌专栏“国产大模型成长记”系列内容中，分享灼见。

网络强国·百人谈——

“国产大模型成长记”系列③：风险挑战

（视频转载来源：光明网）

随着2025年初DeepSeek的全球爆火，各类网络攻击也接踵而至，引发业界多方对大模型安全的关注。与此同时，在网络攻击“你方唱罢我登场”的同时，大模型的数据安全隐患也开始显现。业内有观点认为，守护大模型安全将是一场旷日持久的网络攻防博弈，为AI产业构筑安全可靠的网络防线势在必行。

“大模型兴起后，其安全威胁主要呈现三大显著特征。”在长亭科技联合创始人、首席安全研究员杨坤看来，一是威胁层级极高，正在向国家级对抗层面演进；二是数据安全风险显著增加；三是技术发展过快，许多新技术在设计之初优先考虑解决生产与效率问题，安全设计普遍滞后，导致其面世之初就可能存在严重隐患。

杨坤还提到，大模型的风险更呈现多层次、广覆盖特点，其不仅用于简单问答，更被集成到日益复杂的业务场景。大致可归纳为四类：其一为内容安全风险，内容生成能力可能催生偏见性、不正当言论；其二是数据安全风险，训练数据中的敏感信息或系统漏洞易引发数据泄露；其三是伦理风险，涉及训练数据与生成内容的知识产权与合规使用问题；其四是滥用风险，不法分子可利用大模型生成诈骗内容、辅助制造有害工具等，从事违法犯罪活动。

安全是产业发展的前提。国产大模型在技术突破与场景落地的同时，还需要将安全理念贯穿全流程，筑牢发展根基。

（来源：光明网）

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：长亭安全观察 《【光明网专访】长亭科技杨坤谈大模型安全风险挑战》