AI圈黑话大全一篇搞懂

围巢安全笔记
围巢安全笔记

围巢安全笔记

2026年10月16日 09:00
北京

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

AI 安全笔记 · 第 4 篇

前几天参加一个AI行业的沙龙，台上的人讲得唾沫横飞：\"我们的产品基于大语言模型，用了RAG检索增强，支持Agent自主调用工具，还做了SFT微调和RLHF对齐。\"台下的我一脸懵逼，每个字都认识，连在一起就不知道在说啥了。后来花了一周时间，把AI圈的黑话全搞懂了，今天一次性分享给你。

这篇把AI圈最常用的20个专业名词讲透，每个都用大白话解释，约 3400 字，附 2 个实用干货。

01｜基础概念篇：先搞懂AI到底是什么

1. 大语言模型（LLM，Large Language Model）

大白话解释：一个读了全世界所有书的\"超级学霸\"，你问它什么，它都能根据读过的内容，预测下一个词该说什么，然后一个词一个词地\"编\"出回答。它不是真的\"懂\"，而是\"猜\"得特别准。

举个例子：你说\"今天天气真\"，它读过无数篇文章，知道后面大概率接\"好\"或者\"不错\"，然后就接上去了。接完\"好\"之后，再预测下一个词，可能是\"，适合\"，然后继续预测\"出去\"，\"玩\"……就这样一个词一个词地接，最后形成一段通顺的话。

常见的大模型：GPT-4、Claude、文心一言、通义千问、Llama、Qwen等。

2. Token（令牌）

大白话解释：AI处理文字的最小单位。你可以把它理解成\"词块\"——AI不是一个字一个字地处理，而是把文字切成一个个Token来处理。一个Token可能是一个字、一个词、甚至半个词。

举个例子：\"我爱中国\"这4个字，可能被切成\"我\"、\"爱\"、\"中国\"3个Token。英文的话，\"unbelievable\"这个长单词，可能被切成\"un\"、\"believ\"、\"able\"3个Token。

为什么Token很重要：因为大模型是按Token收费的，你输入多少Token、输出多少Token，都要花钱。一般来说，1个中文字约等于1.5个Token，1个英文单词约等于1.3个Token。GPT-4的上下文窗口是128K Token，大概能放下一本中篇小说。

3. 上下文窗口（Context Window）

大白话解释：AI的\"短期记忆\"容量。AI在回答你的问题的时候，只能看到上下文窗口里的内容，超出这个范围的内容它就\"忘了\"。

举个例子：如果AI的上下文窗口是8K Token，你跟它聊了很长的对话，前面的内容超过了8K Token，AI就不记得前面说过什么了。这就是为什么有时候你跟AI聊到后面，它会忘记前面的约定。

发展趋势：上下文窗口越来越大，从最早的4K、8K，到现在的128K、200K，甚至有1M（100万）Token的。上下文窗口越大，AI能\"记住\"的东西越多，就能处理更复杂的任务。

4. 预训练（Pre-training）

大白话解释：AI的\"基础教育\"。在AI正式上岗之前，先让它读全世界的书、网页、文章，学语言、学知识、学逻辑。这个过程就叫预训练。预训练完成之后，AI就有了基本的语言能力和知识储备。

为什么叫\"预\"训练：因为这是在正式使用之前的训练。预训练完成之后，还可以根据具体需求做\"微调\"（后面会讲）。预训练是最花钱的阶段——训练GPT-4这种级别的大模型，要花几亿甚至几十亿美元。

02｜模型优化篇：怎么让AI变得更好用

5. 微调（Fine-tuning）

大白话解释：AI的\"专业培训\"。预训练之后，AI有了基本能力，但你想让它在某个特定领域更专业（比如法律、医疗、编程），就给它喂这个领域的专业数据，再训练一轮，让它更擅长这个领域。这个过程就叫微调。

举个例子：通用的AI写法律文书可能写得一般，但你用10万份法律文书对它进行微调之后，它写法律文书就特别专业，甚至能超过普通律师。

微调的好处：比预训练便宜得多（预训练要几亿，微调可能几万块就够了），而且能让AI在特定领域的表现大幅提升。现在很多公司做的\"垂直领域大模型\"，本质上就是在通用大模型的基础上做了领域微调。

6. SFT（监督微调，Supervised Fine-Tuning）

大白话解释：微调的一种，就是\"老师手把手教\"。给AI一堆\"问题-标准答案\"的配对，让AI学习\"遇到这种问题，应该这么回答\"。因为有标准答案监督，所以叫监督微调。

举个例子：你想让AI学会写公众号文章，你就给它1000篇\"标题-正文\"的配对，让它学习\"这种标题应该配这种正文\"。学完之后，你给它一个标题，它就能写出风格类似的文章。

7. RLHF（基于人类反馈的强化学习）

大白话解释：让AI学会\"说人话\"的关键技术。SFT之后，AI能回答问题了，但回答得可能很生硬、很机械、不符合人类偏好。RLHF就是让人来给AI的回答打分——回答得好就加分，回答得不好就扣分。AI根据打分不断调整，慢慢就学会了人类喜欢什么样的回答。

为什么RLHF很重要：GPT-3和ChatGPT用的是同一个基础模型，但是ChatGPT比GPT-3好用得多，核心原因就是ChatGPT做了RLHF。RLHF让AI从\"一个能说话的模型\"变成了\"一个好用的助手\"。

8. 对齐（Alignment）

大白话解释：让AI的行为符合人类的价值观和期望。AI很强大，但如果它\"不听话\"——比如生成有害内容、歧视性言论、危险建议——那就很危险。对齐就是通过各种技术手段（包括RLHF），让AI\"听话\"，只做人类希望它做的事。

对齐的目标：三个词——有用（Helpful）、诚实（Honest）、无害（Harmless），简称HHH。有用是能帮人解决问题，诚实是不说谎不瞎编，无害是不生成有害内容。现在的大模型都在朝这个方向努力。

03｜应用技术篇：AI是怎么落地的

9. RAG（检索增强生成，Retrieval-Augmented Generation）

大白话解释：让AI\"开卷考试\"。AI的知识是预训练的时候学的，有截止日期，而且可能记错。RAG就是在AI回答问题之前，先去你的知识库（文档、数据库、网页）里检索相关内容，然后把检索到的内容和问题一起交给AI，让AI基于这些内容来回答。这样AI的回答就更准确、更有时效性，而且不会瞎编。

RAG架构：先从知识库检索相关内容，再交给大模型生成回答

举个例子：你问AI\"我们公司的报销流程是什么\"，通用AI根本不知道你们公司的规定，只能瞎编。但是用了RAG之后，AI先去你们公司的制度文档里检索\"报销流程\"，找到相关内容之后，再基于这些内容回答你，答案就准确了。

RAG的好处：不需要微调，成本低；能实时更新知识；能引用来源，可追溯；不会泄露训练数据（因为数据不需要喂给模型训练）。现在大部分企业级AI应用，本质上都是\"大模型+RAG\"。

10. 向量数据库（Vector Database）

大白话解释：RAG的\"图书馆\"。普通数据库是按关键词搜索的，向量数据库是按\"意思\"搜索的。它把每段文字转换成一串数字（向量），意思相近的文字，数字也相近。搜索的时候，把你的问题也转换成向量，然后找数据库里和它最相近的内容。

举个例子：你搜索\"怎么退机票\"，普通数据库可能找不到，因为文档里写的是\"退票流程\"。但是向量数据库能理解\"退机票\"和\"退票流程\"是一个意思，就能找到相关内容。

常见的向量数据库：Pinecone、Milvus、Chroma、Weaviate、Qdrant等。

11. Embedding（嵌入/向量化）

大白话解释：把文字转换成数字的过程。前面说向量数据库把文字转换成向量，这个转换过程就叫Embedding。Embedding模型能把任何文字转换成一串固定长度的数字，而且意思相近的文字，转换出来的数字也相近。

举个例子：\"猫\"和\"狗\"都是动物，它们的向量可能很接近；\"猫\"和\"汽车\"意思差很远，它们的向量就差很远。这样搜索的时候，只要找向量最接近的内容，就能找到意思最相关的内容。

12. Agent（智能体）

大白话解释：能\"自己干活\"的AI。普通的AI是\"你问一句，它答一句\"，不会主动做事情。Agent不一样，你给它一个目标，它会自己拆解任务、自己调用工具、自己执行步骤，直到完成目标。它就像一个真正的助手，你说\"帮我订一张明天去北京的机票\"，它会自己查航班、选座位、下单支付，不用你一步步指挥。

Agent的核心能力： - 规划（Planning）：把大目标拆成小步骤 - 记忆（Memory）：记住之前做过什么，避免重复 - 工具调用（Tool Use）：调用外部工具（搜索、计算器、API等）来完成任务 - 反思（Reflection）：做完一步之后反思做得对不对，不对就调整

常见的Agent框架：AutoGPT、LangChain、LlamaIndex、CrewAI、Devin等。

干货一张图搞懂AI应用的技术栈

现在的AI应用，基本上都是这个技术栈，搞懂了这张图，你就搞懂了AI应用是怎么回事：

# AI应用技术栈（从下到上）：

第1层：基础设施
- 算力：GPU（NVIDIA A100/H100）、TPU、CPU
- 云服务：AWS、Azure、阿里云、腾讯云
- 这一层是\"发动机\"，提供算力支持

第2层：基础大模型（Foundation Model）
- 通用大模型：GPT-4、Claude、Llama、Qwen
- 这一层是\"大脑\"，提供基础的语言能力和知识
- 经过了预训练（Pre-training）

第3层：模型优化
- 微调（Fine-tuning/SFT）：让模型更擅长特定领域
- RLHF：让模型符合人类偏好
- 对齐（Alignment）：让模型安全可控
- 这一层是\"培训\"，让模型更好用

第4层：应用框架
- RAG（检索增强生成）：让模型能访问外部知识
- Agent（智能体）：让模型能自主完成任务
- LangChain/LlamaIndex：把大模型、RAG、Agent串起来
- 这一层是\"手脚\"，让模型能干活

第5层：数据层
- 向量数据库：存Embedding，支持语义搜索
- 传统数据库：存结构化数据
- 文档库：存PDF、Word等文档
- 这一层是\"知识库\"，给AI提供外部知识

第6层：应用层
- 聊天机器人、智能客服、AI写作助手
- 代码助手、数据分析助手、法律助手
- 这一层是\"产品\"，用户直接用的东西

# 一个典型的企业AI应用：
# 用GPT-4做基础模型（第2层）
# 用公司的文档做RAG（第4层+第5层）
# 用LangChain搭框架（第4层）
# 最后做成一个\"公司知识库问答机器人\"（第6层）
# 用户问问题，机器人去公司文档里找答案，然后回答

搞懂了这个技术栈，再看AI圈的各种名词，就不会一头雾水了。每个名词都对应技术栈里的某一层。

04｜其他高频名词：这些也得知道

13. 幻觉（Hallucination）

大白话解释：AI\"一本正经地胡说八道\"。AI有时候会编造一些不存在的事实、数据、引用，而且说得跟真的一样。这不是AI在撒谎，而是它的工作原理决定的——它是在\"预测下一个词\"，不是在\"查询事实\"，所以有时候会预测出不符合事实的内容。

怎么减少幻觉：用RAG（让AI基于真实资料回答）、让AI引用来源、在提示词里强调\"不知道就说不知道，不要编造\"。

14. 温度（Temperature）

大白话解释：控制AI\"创造力\"的参数。温度越高，AI的回答越随机、越有创造性，但也可能越离谱；温度越低，AI的回答越确定、越保守，但也可能越单调。

怎么设置：写文章、写诗、创意写作，温度设高一点（0.7-1.0）；写代码、做数学题、事实问答，温度设低一点（0-0.3）。

15. 多模态（Multimodal）

大白话解释：AI能处理多种类型的输入。早期的AI只能处理文字，现在的多模态AI能处理文字、图片、音频、视频。你可以给它看一张图，让它描述图里的内容；给它听一段音频，让它转成文字；给它看一段视频，让它总结视频内容。

16. 推理（Reasoning）

大白话解释：AI\"思考\"的能力。早期的AI是\"直觉型\"的，直接给答案，容易错。现在的推理模型（比如o1、DeepSeek-R1）会\"一步一步思考\"，先分析问题，再推导过程，最后给出答案。就像人做数学题要打草稿一样，AI也会在内部\"打草稿\"，然后再给答案。推理模型在数学、逻辑、编程等需要深度思考的任务上表现好得多。

17. 量化（Quantization）

大白话解释：给大模型\"瘦身\"。大模型本来很占内存（比如70B的模型要140GB内存），量化就是用更少的位数来存储模型参数，让模型变小、变快，能在普通电脑甚至手机上跑。代价是精度会有一点点损失，但一般影响不大。

常见的量化精度：FP16（半精度）、INT8（8位整数）、INT4（4位整数）。INT4量化能把模型体积缩小到原来的1/4，而且精度损失很小，现在非常流行。

18. 蒸馏（Distillation）

大白话解释：让\"大老师\"教\"小学生\"。用一个很大很强的模型（老师），来训练一个很小很轻的模型（学生），让学生模型学会老师模型的能力。蒸馏之后，小模型的能力接近大模型，但体积小得多、速度快得多。

19. 开源模型 vs 闭源模型

闭源模型：模型的参数和代码不公开，只能通过API调用。比如GPT-4、Claude、文心一言。好处是效果好、不用自己部署；坏处是要花钱、数据要传给第三方、不能自定义。

开源模型：模型的参数和代码公开，可以免费下载、自己部署、随便修改。比如Llama、Qwen、Mistral。好处是免费、数据不出内网、可以自定义；坏处是效果可能比闭源的差一点、需要自己有算力部署。

20. MaaS（Model as a Service，模型即服务）

大白话解释：把AI模型当成水电一样的服务来用。你不用自己训练模型、不用自己部署服务器，直接通过API调用，用多少付多少钱。就像你不用自己建水厂，打开水龙头就有水用一样。现在大部分AI应用都是基于MaaS的——调用OpenAI、Anthropic、百度、阿里的API，然后在上面做自己的应用。

干货AI圈黑话速查表

把这20个名词整理成一张速查表，收藏起来，下次看到就不会懵了：

基础概念：
LLM（大语言模型）  = 读了全世界书的超级学霸
Token（令牌）      = AI处理文字的最小单位（词块）
上下文窗口          = AI的短期记忆容量
预训练              = AI的基础教育（读全世界的书）

模型优化：
微调（Fine-tuning） = AI的专业培训（学特定领域）
SFT（监督微调）     = 老师手把手教（问题-标准答案配对）
RLHF                = 让人打分，让AI学会说人话
对齐（Alignment）   = 让AI听话，符合人类价值观

应用技术：
RAG（检索增强生成） = 让AI开卷考试（先查资料再回答）
向量数据库          = 按\"意思\"搜索的图书馆
Embedding（嵌入）   = 把文字转换成数字的过程
Agent（智能体）     = 能自己干活的AI（会规划、会用工具）

其他高频：
幻觉（Hallucination）= AI一本正经地胡说八道
温度（Temperature）  = 控制AI创造力的参数（越高越随机）
多模态（Multimodal） = AI能处理文字+图片+音频+视频
推理（Reasoning）    = AI一步一步思考的能力（像打草稿）
量化（Quantization） = 给大模型瘦身（变小变快）
蒸馏（Distillation） = 大老师教小学生（用大模型训练小模型）
开源 vs 闭源         = 免费自己部署 vs 付费API调用
MaaS（模型即服务）   = 把AI当水电用（API调用，按量付费）

这张表收藏起来，以后再看到AI圈的黑话，对照一下就懂了。

好了，20个AI圈最常用的黑话都讲完了。现在你再去听AI行业的沙龙，台上的人说\"我们的产品基于大语言模型，用了RAG检索增强，支持Agent自主调用工具，还做了SFT微调和RLHF对齐\"，你就能听懂了——不就是\"用了个大模型，能查资料，能自己干活，还做了专业培训和人类偏好优化\"嘛。

AI圈的黑话看起来吓人，其实拆开来都是很简单的概念。不要被这些名词吓到，搞懂了底层原理，这些名词就是纸老虎。

这是AI系列的第四篇，也是这个系列的收尾。接下来我们会回到网络安全的主题，继续聊渗透测试的实战技巧。我们下篇见。

围巢安全笔记

不生产焦虑，只分享踩过的坑和挖过的洞

还有什么AI黑话你搞不懂？评论区聊聊 👇

有想聊的话题，后台留言告诉我

往期回顾

• 提示词注入攻击：AI时代的新安全威胁
• 如何用好提示词：5个技巧让AI输出质量翻倍
• AI提示词的重要性：为什么同样的AI，别人用得比你好？
• Cobalt Strike：内网渗透神器的使用技巧