--- title: AI 术语速查：写给刚入门的人 category: ai slug: ai-terms-for-beginners tags: [基础概念, 术语, 入门] summary: 用大白话讲清 28 个高频 AI 术语，附常见误解与学习路径。 publish_at: 2026-10-31 --- 本文是一份给零基础读者的 AI 术语速查表。它不教你训练模型，也不假设你写过代码，只解决一件事：当你刷到"大模型""RAG""幻觉"这些词时，能立刻知道它们在说什么。 适合谁：刚开始接触 AI 产品、准备用 AI 工具做事、或者被工作群里的术语绕晕的人。怎么用：第一遍顺着读，建立整体印象；之后遇到不熟的词，直接跳到对应小节；每节末尾的"常见误解"建议重点看，它比定义更容易帮你少走弯路。 全文按 28 个词条展开，分成五组。每个词条都按同样的三步：一句话定义、为什么重要、新手常见误解。少数相关概念（向量、top-p、蒸馏）并入相邻词条顺带解释，不单独占标题。 ## 一、模型与训练：AI 是怎么"学"出来的 先记住一个总画面：今天说的大模型，本质上是一个"猜下一个词"的程序，只是它读过的文本足够多，猜得足够准，看起来就像会思考。 ### 大模型（LLM） **一句话定义**：用海量文本训练出来的、参数量很大的语言模型，能生成文字、回答问题、写代码。 **为什么重要**：它是这一轮 AI 应用的地基，聊天助手、翻译、写作工具大多跑在它上面。 **新手常见误解**：以为它"知道"事实，像数据库一样存取。它其实是在根据上下文预测最可能的下一段文字，所以会说得很像真的，也会错得很像真的。 ### 参数 **一句话定义**：模型内部一堆可调的数字，训练就是不断调整这些数字，让输出更接近期望。 **为什么重要**：参数量通常被当作模型规模的标尺，70 亿、700 亿参数说的就是它。 **新手常见误解**：以为参数越多一定越聪明。参数多只代表容量大，还要看数据质量、训练方法和用途；小模型在垂直任务上常常更实用。 ### Transformer **一句话定义**：2017 年提出的一种神经网络结构，靠注意力处理序列，是今天绝大多数大模型的骨架。 **为什么重要**：它让模型能并行处理长文本，训练效率远高于旧结构，是这轮 AI 爆发的技术前提。 **新手常见误解**：把它当成某个具体产品。它不是模型，是图纸，GPT、BERT、通义、Llama 都按类似图纸造出来。 ### 注意力机制 **一句话定义**：模型读一句话时，会自动判断当前这个词该重点看前面哪些词，并按重要程度加权。 **为什么重要**：它解决了长句里指代和关系的问题，比如"他"指谁、"它"和哪个名词对应。 **新手常见误解**：以为注意力等于"模型在思考"。它只是一套算权重的数学操作，没有意识，也不保证权重符合人类直觉。 ### 预训练 **一句话定义**：在通用大规模文本上先通读一遍，让模型学会语言规律和世界常识的阶段。 **为什么重要**：预训练决定了模型的基础能力上限，后面所有微调都建立在这个底子上。 **新手常见误解**：以为预训练完就能直接干活。预训练后的模型只是"会接话"，还不一定听话、不一定按你的格式输出，需要后续对齐。 ### 微调 **一句话定义**：在预训练模型上，用一批特定任务的数据继续训练，让它更擅长某类工作。 **为什么重要**：通用模型不知道你公司的术语和流程，微调能把这类私有知识和固定格式教给它。 **新手常见误解**：以为微调能灌入大量事实知识。微调更擅长学风格和做法，记事实通常不如外接检索可靠，成本也比想象中高。 ### RLHF **一句话定义**：先用人类对回答的偏好训练一个打分器，再用它来调整模型，让输出更符合人类喜好。 **为什么重要**：它是让模型听话、有礼貌、少说不该说的话的关键一步，ChatGPT 类产品的可用性很大程度来自这里。 **新手常见误解**：以为 RLHF 让模型变得更正确。它优化的是人喜欢什么，所以也可能学会迎合、过度自信，或回避有用但敏感的信息。 ## 二、输入与输出：你写的字怎么变成回答 这一组词都出现在你和模型打交道的界面上。理解它们，能直接改善你提问的效果。 ### token **一句话定义**：模型处理文本的最小单位，可以理解成字块：一个英文单词可能是一块，一个汉字也可能是一块或几块。 **为什么重要**：计费、长度限制、速度都按 token 算，不看字数。 **新手常见误解**：以为一个汉字就是一个 token。中文常常一个字被拆成多个 token，所以同样意思的中文往往比英文更费 token。 ### 上下文窗口 **一句话定义**：模型一次能看见的 token 总数上限，包括你的问题、对话历史和它自己的回答。 **为什么重要**：它决定了你能贴多长的文档、能聊多久不"忘事"。 **新手常见误解**：以为窗口越大越好、塞满就赚到。塞得越满越贵、越慢，而且关键信息放在中间容易被忽略，长文档要挑重点、分块喂。 ### prompt **一句话定义**：你发给模型的全部输入，包括问题、背景、要求和示例。 **为什么重要**：同样的模型，prompt 写得好和差，结果可能天差地别；这是普通人能立刻提升效果的地方。 **新手常见误解**：以为 prompt 是什么神秘咒语。它更像给新同事写任务说明：说清目标、给足背景、说明输出格式，比堆"请你扮演专家"有用。 ### zero-shot **一句话定义**：只给任务说明、不给任何示例，直接让模型作答。 **为什么重要**：它是最省事的用法，适合通用任务和快速试探模型水平。 **新手常见误解**：以为零样本等于零成本。它不占示例的 token，但格式和口径最不稳定，需要你反复改说明，调试成本未必低。 ### 少样本（few-shot） **一句话定义**：在 prompt 里给几个"输入到输出"的例子，让模型照着例子的套路回答。 **为什么重要**：不用训练就能让模型学会你的分类标准、语气和格式，成本极低。 **新手常见误解**：以为例子越多越好。例子要少而准，互相矛盾或格式不统一会把模型带偏；两三个高质量例子，胜过十个随手写的。 下面这张表可以帮你快速选： | 方式 | 做法 | 适合 | 代价 | | --- | --- | --- | --- | | zero-shot | 只给任务说明 | 通用任务、快速试 | 格式和口径不稳定 | | 少样本 | 在 prompt 里给几个例子 | 有明确格式、少量样本 | 占上下文、例子要维护 | | 微调 | 用数据继续训练模型 | 大量重复任务、稳定风格 | 要数据、要算力、更新慢 | 一句话记：能用 prompt 解决就别微调；prompt 里给例子还不够，再考虑微调。 ### temperature **一句话定义**：控制输出随机性的参数，值越低越稳、越可复现，值越高越发散。 **为什么重要**：同一问题要标准答案还是多种思路，调它就行。 **新手常见误解**：以为调高就更聪明。它只是让选词更随机，不会增加知识，调太高还会胡言乱语。 顺带说 top-p：它和 temperature 一起决定从多少候选词里挑，p 越小候选范围越窄。常见误解是把两个都反复调，通常固定一个、微调另一个就够了。 ## 三、检索与知识：让模型"查资料" 模型记不住你私有的、最新的资料。这组词讲的是怎么给它外挂知识。 ### embedding **一句话定义**：把一段文字变成一串数字，也就是向量，让意思相近的文字在数学空间里距离也近；可以说它是把意思变成坐标。 **为什么重要**：它是语义搜索、聚类、推荐、RAG 的基础，让机器按意思而不是关键词比对。 **新手常见误解**：以为 embedding 能还原原文或存事实。它只保留语义特征，不可逆，也不保证包含所有细节；相似度高不等于内容正确。 ### 向量数据库 **一句话定义**：专门存向量、并能快速找出最相近的几条记录的数据库。 **为什么重要**：资料一多，逐条比对太慢，它能在百万级向量里快速取回相关片段。 **新手常见误解**：以为它是 AI 专用的万能库。它只是索引和检索工具，数据从哪来、怎么切、怎么用，仍要你自己设计。 ### RAG **一句话定义**：先从你的资料库里检索相关片段，再把片段塞进 prompt，让模型看着资料回答。 **为什么重要**：它让模型能回答私有和最新问题，还能给出处，是客服、知识库类应用的标准做法。 **新手常见误解**：以为有了 RAG 就不会幻觉。检索没找到、片段被截断、模型没按资料说，都会出错；RAG 降低幻觉概率，不消灭它。 ### 分块（chunking） **一句话定义**：把长文档切成一段段适合检索和放进上下文的小块。 **为什么重要**：块切得好不好，直接决定检索能不能找到对的段落。 **新手常见误解**：以为按固定字数切就行。切太碎会丢上下文，切太大又塞不进窗口；按段落或标题切，并保留少量重叠，通常更稳。 ## 四、能力与局限：它会什么、不会什么 这组词一半讲能力，一半讲边界。边界比能力更值得先弄明白。 ### 幻觉 **一句话定义**：模型一本正经地生成不存在的事实、来源或数据。 **为什么重要**：它输出流畅，最容易被当成真的，用来查资料、写报告时风险最大。 **新手常见误解**：以为多问几遍或换个说法就能辨真假。重复提问可能得到不同的编造；要么要求给出处并逐条核对，要么用检索和外部资料交叉验证。 ### 知识截止 **一句话定义**：模型训练数据的时间边界，之后发生的事它默认不知道。 **为什么重要**：问新闻、价格、版本号时，答案常常过时却毫不知情。 **新手常见误解**：以为联网的模型就没有截止。联网只是临时查资料，模型本身的知识仍是旧的；时效问题要明确要求查最新信息。 ### 推理（reasoning） **一句话定义**：把问题拆成几步、逐步推导的能力，比如算术、逻辑、多步规划。 **为什么重要**：很多任务不是背答案能解决的，需要中间步骤。 **新手常见误解**：以为回答长、步骤多就是真推理。模型可能编出看似合理的步骤，结论却错；步骤长也不代表正确，要看结果能否验证。 ### inference（推断） **一句话定义**：模型训练完成后，拿输入跑一遍、产出输出的过程，中文也常译作推理。 **为什么重要**：成本和延迟都发生在这里，你每次调用 API 都在做 inference。 **新手常见误解**：把它和上面的 reasoning 混为一谈。inference 是跑模型这个动作，reasoning 是解题方式；前者是过程，后者是能力。 ### 多模态 **一句话定义**：模型能同时处理文字、图片、音频、视频等多种输入或输出。 **为什么重要**：现实信息不只文字，看图答题、读表格、语音转写都靠它。 **新手常见误解**：以为能看图就等于看得准。它在细节计数、小字、空间关系上仍容易出错，关键信息要人工复核。 ### agent（智能体） **一句话定义**：让模型自己决定下一步做什么：拆任务、调工具、看结果、再继续，直到完成目标。 **为什么重要**：它把一问一答变成自动干完一件事，是自动化流程的方向。 **新手常见误解**：以为 agent 一定可靠。它只是把决策权交给模型，模型判断错会一路错下去，所以要有步骤上限、人工确认和日志。 ### 工具调用 **一句话定义**：模型不直接编答案，而是输出要调用哪个工具、传什么参数，由程序执行后把结果还给它。 **为什么重要**：算数、查库、发请求这些事交给工具更准，也便于审计。 **新手常见误解**：以为模型真的执行了操作。它只负责提出调用，真正执行和权限控制在你的程序侧，安全边界必须自己设。 ## 五、工程侧：跑得动、跑得起 同样的模型，部署方式不同，成本和速度可能差一个数量级。 ### 量化 **一句话定义**：把模型参数从高精度数字压到低精度，减小体积、加快速度。 **为什么重要**：它让大模型能跑在消费级显卡甚至手机上，是本地部署的关键。 **新手常见误解**：以为量化只是压缩、效果不变。精度降低会带来质量损失，任务越难越明显，要按自己的任务实测。 顺带说蒸馏：让大模型教一个小模型，把小模型练到接近大模型的表现，常用于降成本。误解是以为小模型能完全追平大模型，它通常只擅长被教过的任务。 ### LoRA **一句话定义**：冻结原模型，只训练一小块额外的参数，用很少的算力实现定制。 **为什么重要**：个人和小团队也能微调，产物是几十 MB 的适配器，可插拔。 **新手常见误解**：以为 LoRA 等于完整微调。它改动小、见效快，但学复杂新能力时不如全量微调，数据质量依然决定上限。 ### API **一句话定义**：程序调用模型的接口，你按约定发请求，服务返回结果。 **为什么重要**：绝大多数应用不自己部署模型，而是通过 API 接入，按用量付费。 **新手常见误解**：以为 API 等于网页版。API 没有界面，参数和限额由服务商定义，同一个模型不同厂商的行为和价格可能不同。 一个最小的调用示例： ```python from openai import OpenAI client = OpenAI(api_key="你的密钥") resp = client.chat.completions.create( model="gpt-4o-mini", messages=[{"role": "user", "content": "用一句话解释 token"}], temperature=0.3, ) print(resp.choices[0].message.content) ``` ### 推理成本 **一句话定义**：每生成一段输出所消耗的算力和费用，通常按输入、输出 token 计价。 **为什么重要**：它决定一个 AI 产品能不能长期跑下去，长上下文和长回答最烧钱。 **新手常见误解**：以为只有输出收费或成本可以忽略。输入 token 也计费，反复把长文档塞进上下文会迅速累积；缓存、检索、限制长度都能省钱。 ## 最容易混淆的几组概念 - **推理 vs inference**：中文都叫推理。前者指解题能力，后者指跑模型这个动作。 - **微调 vs RAG**：微调改的是模型怎么做，RAG 改的是给它看什么。私有事实优先 RAG，固定风格和格式再考虑微调。 - **参数 vs token**：参数是模型内部的数字，token 是你输入输出的文字单位；前者决定模型大小，后者决定用量和费用。 - **大模型 vs agent**：大模型是会说话的大脑，agent 是带着工具、会做计划的执行者。 - **temperature vs top-p**：都控制随机性。temperature 调随机程度，top-p 调候选范围，通常调一个就够。 ## 下一步该学什么 1. 先把 prompt 写好：目标、背景、格式、例子四件事说清楚，效果提升最快。 2. 再学 token 与上下文：知道为什么长文档要分块、为什么账单会涨。 3. 然后了解 embedding 与 RAG：这是把 AI 接到自己资料上最实用的一步。 4. 需要定制时再看微调、LoRA 与量化；先问自己 prompt 和检索够不够。 5. 最后再碰 agent 与工具调用：涉及权限和错误放大，先小范围试，加人工确认。 6. 贯穿始终的一件事：对模型的输出保持核对习惯，尤其是事实、数字和引用。 一个简单的练习：挑你熟悉的话题，让模型用三种不同的 prompt 写同一段介绍，对比差异。你会很快体会到 token、上下文、temperature 这些词到底在影响什么。