文章总结： 文章讨论了大模型在金融领域的应用与风险，指出虽然大模型在风控、合规检查等方面有重要价值，但存在算法诱导和幻觉等风险。国家信息中心研究员李新友认为，通过工程化与智能化相结合的方法，系统化提升大模型的可信程度，可有效管控相关风险。国内26家机构联合发布的《大模型金融领域可信应用参考框架》为解决这些问题提供了指导。 综合评分： 80 文章分类： AI安全,数据安全,安全建设,技术标准,政策法规

热点观察｜李新友：工程化、智能化结合，让大模型更可信

信息安全研究

2025年12月17日 15:00 北京

#

点击蓝字 关注我们

大模型引领的新一代人工智能技术，正深刻重构金融行业生态格局。但技术固有 的 “幻觉” 缺陷、复杂任务适配障碍、决策可控性短板及数据安全隐患，成为其在高价值金融场景规模化应用的核心瓶颈。

本期热点观察由本刊与光明网网络安全频道、数字化频道联合策划，聚焦大模型金融可信应用的痛点、难点，解码破局思路与应对之策。

近日，“2025中关村论坛系列活动——数字金融与科技金融大会”在北京举行。会上，国内26家机构联合发布国内首个金融领域大模型团体标准——《大模型金融领域可信应用参考框架》。

已关注

关注

重播 分享 赞

关闭

观看更多

更多

退出全屏

切换到竖屏全屏退出全屏

信息安全研究已关注

分享视频

，时长01:47

0/0

00:00/01:47

切换到横屏模式

继续播放

[ ]

进度条，百分之0

播放

00:00

/

01:47

01:47

倍速

全屏

倍速播放中

0.5倍 0.75倍 1.0倍 1.5倍 2.0倍

超清 流畅

继续观看

热点观察｜李新友：工程化、智能化结合，让大模型更可信

观看更多

转载

,

热点观察｜李新友：工程化、智能化结合，让大模型更可信

信息安全研究已关注

分享点赞在看

已同步到看一看写下你的评论

视频详情

国家信息中心研究员、全国网络安全标准化技术委员会WG4工作组副组长李新友在接受光明网记者采访时表示，人工智能大模型在金融领域已展现出显著应用价值，但其潜在风险同样不容忽视。他认为，推动工程化、智能化相结合，是提升大模型可信度、降低应用风险的有效路径。

李新友

国家信息中心研究员

全国网络安全标准化技术委员会WG4工作组副组长

李新友介绍，大模型在金融领域拥有诸多典型应用场景。在金融风控、合规检查、金融监管支持等方面展现出重要作用。

“但是，大模型在金融领域的风险也同样突出。”李新友提醒，需重点关注两类风险：一是“算法诱导”问题，不法企业可能利用大模型引导用户进行投资或贷款；二是模型本身存在的“幻觉”现象，可能产生不准确或不适当的结论，给用户带来安全风险。

针对上述挑战，李新友认为，《大模型金融领域可信应用参考框架》倡导以“工程化与智能化相结合”的方法，系统化提升大模型的可信程度，有效管控相关风险。

光明网网络安全频道＆数字化频道出品

（来源：光明网）

征集热点话题

▶ 欢迎大家在公众号后台留言感兴趣的网络安全话题，更希望留下您的想法和建议（您的想法和建议如果被采纳，我们将为您送上一份小小纪念品），对于其中关注度最高的话题，我们将在后续陆续邀请专家、学者就该话题进行探讨。

▶ 欢迎在数字经济安全方面（尤其是可信数据空间安全等热点议题）有研究的专家、学者积极投稿，内容将择优发布在“信息安全研究”微信公众号及相关媒体平台上，投稿或咨询请在公众号后台留言。

相关阅读

更新中……

可信数据空间安全

热点观察︱绿盟科技刘文懋：可信数据空间的关键是构建一个安全可证明的数据传播或使用机制

热点观察︱山石网科赵胜：解锁可信数据空间 · 数字时代的密钥

热点观察︱蚂蚁密算潘无穷：国家数据基础设施从“三统一”走向“四统一”

热点观察｜天融信科技集团张超：量子VPN构建可信数据流通新通

热点观察｜美创科技丁斐：数据安全× 价值共创？可信数据空间的 “双向奔赴”

热点观察｜中检天帷刘京：可信数据空间的安全体系如何支撑国家数据安全战略实施？

网络安全

热点观察︱蚂蚁集团王宇：数字时代网络安全“新范式”

AI安全

……

查看原文：《热点观察｜李新友：工程化、智能化结合，让大模型更可信》