训练了一个3亿参数推理模型做序时账清洗,准确率97.39%,开源,本地部署不泄密

admin 2026-10-07 05:04:27 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: 本文介绍基于开源模型微调出3亿参数模型用于会计凭证自动归类,准确率97.39%,并开源训练框架。采用教师模型加AI审查保证数据质量,模型反哺程序实现闭环,支持本地GPU部署保护数据隐私。对经侦审计中流水自动分类有借鉴价值,体现小参数专用模型替代人工判读的可行性。 综合评分: 78 文章分类: ai安全,数据安全,安全建设,安全工具


训练了一个3亿参数推理模型做序时账清洗,准确率97.39%,开源,本地部署不泄密

子午猫 子午猫

网络侦查研究院

2026年10月4日 06:20 湖南

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

一、从硬编码程序到“会归类”的模型

作者基于开源模型 BAAI/bge-large-zh-v1.5 微调出 320M(3亿)参数模型,用于会计凭证业务归类。测试显示:付材料款至存货采购、付打车费至日常费用、付设备款至长期资产,模型自己“注意”到“材料款/打车费/设备款”关键词,而非硬编码。验证准确率 97.39%。训练数据去重后 17424 条、实际投入约 12 万张凭证,共训练 5 次。

二、“教师模型+AI审查”保证数据质量

先用程序当“教师模型”给凭证打分类标签喂给模型;再用 AI 逐句审查、删掉分类错误或拿不准的数据(首轮删约 40%),甚至让 AI 自编薄弱数据补训。数据去重(相似度大于 75% 且同科目则合并)砍掉约 60% 冗余,既保质量又省上下文。整个训练框架已随项目开源,用户可本地 GPU(显存大于 8GB)自行重训。

三、“左脚踩右脚”:模型反哺程序

模型训到第三版后融入程序,程序得分权重 20%、模型概率权重 80% 主导;遇模型没见过的科目或用户没装模型时,程序 100% 主导。另设模型置信度:概率大于 80% 高置信、50%-80% 中、小于 50% 低,中低置信建议人工核查。CPU 版(约 40 条/秒、精度略降)默认部署,GPU 版满血快 2-3 倍。

情报价值:本文展示“程序打标→AI审数据→训小模型→模型反哺”的闭环,对经侦/审计取证中“海量流水/凭证自动分类”有直接借鉴:一是小参数(0.3B)专用模型即可替代人工逐笔判读,适合批量但不重复的作业;二是“教师模型+AI审查”的数据质量治理思路可迁移到涉案资金归类、异常交易标注;三是本地部署零隐私外泄,契合敏感案情数据不出域的要求。

来源:呆叫兽2058(2026-08-16 21:16 广东),《序时账清洗功能2.0:训练了一个3亿参数的推理模型,现在开源!》


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。

本文转载自:网络侦查研究院 子午猫 子午猫《训练了一个3亿参数推理模型做序时账清洗,准确率97.39%,开源,本地部署不泄密》

评论:0   参与:  0