大模型原理与训练 / 知识点
大模型从选型到部署术语速查
选择模型并读懂规格
通过大规模语料学习语言规律、用于理解或生成文本的模型;用于明确选型对象,不把参数规模直接当作任务能力或事实可靠性的证明。Hugging Face
大语言模型(LLM)
大语言模型(Large Language Model,LLM)是通过大规模文本等数据训练、根据上下文处理和生成语言内容的模型。查这个术语时,重点是确认选型对象是否属于语言模型,以及它能否满足当前任务,而不是只看模型名称或参数规模。
边界
LLM 描述的是一类模型及其语言处理能力,不等于“任何生成式 AI”,也不保证输出内容真实、最新或符合业务规则。模型能够生成流畅答案,只说明它学到了可用于预测和生成语言的模式,不能据此证明答案已经过事实核验。
参数量、训练数据、上下文长度、后训练方法、推理配置和部署方式都可能影响实际表现。因此,“参数更多”不能单独作为某个具体任务上能力更强的证明。
与相邻概念的区别
| 概念 | 关注点 |
|---|---|
| 大语言模型(LLM) | 以语言理解、生成及相关任务为核心的一类模型 |
| 生成式 AI | 能生成文本、图像、音频等内容的更大范围技术类别 |
| 参数规模 | 模型规格之一,描述可学习参数的数量,不直接等同于任务效果 |
| 事实可靠性 | 输出是否符合可验证事实,需要独立评测、检索或外部校验 |
最小例子
一个模型能够根据问题生成自然语言回答,可以属于 LLM;但如果要判断它是否适合代码生成、长文档问答或特定语言,应查看对应任务评测并实际测试,而不能从“它是 LLM”直接推出结论。
常见误解是把“模型很大”理解为“所有任务都更好且答案更可靠”。选型时应把模型类别、规格和具体任务效果分开判断。
基座模型侧重预训练获得的通用能力,指令模型经过指令类后训练;用于选择续写或对话模型,不能只凭同一系列名称判断交互方式。arXiv
基座模型与指令模型
基座模型通常指完成大规模预训练、主要学习通用语言规律的模型;指令模型则在此基础上经过指令类后训练,使模型更倾向于理解任务要求并按指令作答。查这个术语时,可用它判断应选择偏续写的模型还是面向问答、对话和任务执行的模型。
边界
“基座”和“指令”描述的是模型训练阶段与预期交互方式,不代表两个模型一定具有不同架构,也不意味着指令模型在所有任务上都优于对应基座模型。同一模型系列可以同时发布基座版和经过不同后训练方法得到的指令版。
模型名称中出现同一系列名,也不能据此认为它们具有相同的输入格式。实际使用时仍需核对模型卡、聊天模板以及部署框架要求。
两者怎么区分
| 类型 | 主要训练目标 | 常见使用方式 |
|---|---|---|
| 基座模型 | 从预训练数据中学习语言分布和通用表示 | 文本续写、研究、继续训练或定制后训练 |
| 指令模型 | 在基座能力上学习遵循自然语言指令 | 问答、聊天、摘要、提取和其他指令驱动任务 |
这里的区别不是“能不能生成文字”:两者都可以生成文本,差异主要在于模型是否专门接受过遵循指令的后训练,以及推荐的交互格式。
最小例子
给模型输入“法国的首都是”,基座模型可能把它视为待继续的文本并接着生成;给指令模型输入“请回答:法国的首都是哪里?”,它通常更倾向于把内容识别为需要直接完成的任务。
常见误解是认为把基座模型套上聊天界面就自动变成指令模型。界面或提示词可以改变输入形式,但不会替代模型本身的指令类后训练。
能够处理文本与图像、音频等多种模态的模型;用于判断图片问答或语音应用是否适配,支持某种输入并不代表也支持同类输出。Hugging Face
多模态大模型
多模态大模型是能够在一次模型能力体系中接收、理解或生成两种及以上信息模态的模型,例如文本、图像、音频或视频;判断模型是否适合具体应用时,需要分别核对它支持哪些输入模态和输出模态。
边界
“多模态”不等于“所有模态都双向支持”。一个模型可以接受文本和图片,却只能输出文本;也可以理解音频但不能直接生成音频。模型页面写有 vision、audio 或 multimodal 时,仍应继续检查具体任务、输入格式、上下文限制以及输出能力。
多模态能力也不意味着不同模态可以任意组合。例如支持单张图片问答的模型,不一定支持多图比较;支持音频输入的模型,也不一定接受长时间连续音频或视频中的音轨。实际选型应以模型卡、API 或推理框架声明的能力边界为准。
与相邻概念的区别
| 概念 | 核心含义 | 容易混淆的边界 |
|---|---|---|
| 文本大模型 | 主要处理文本或词元序列 | 外部程序把图片转成文字后再交给模型,不代表模型本身具备视觉输入能力 |
| 视觉语言模型 | 主要联合处理视觉与语言信息 | 通常属于多模态模型,但“多模态”还可能包含音频、视频等其他模态 |
| 多模态大模型 | 在统一能力体系中处理两种及以上模态 | 必须分别确认输入和输出方向,不能由“支持图片”推断“能够生成图片” |
最小例子
假设模型 A 接受“图片 + 文本问题”,并返回文本答案,那么它具备视觉与文本的多模态输入理解能力,但不能据此断定它能够生成图片。
模型 B 如果既能接收语音并理解内容,又能直接返回语音,则它同时具有音频输入和音频输出能力。这与“先用独立语音识别服务转文字,再调用纯文本模型”不同,后者是多组件应用链路,不代表其中的文本模型本身是多模态模型。
常见误解是把“支持某种模态”理解为“该模态的输入、理解、生成全部支持”。真正需要确认的是具体方向、组合方式和限制条件。
总参数量统计模型全部参数,激活参数量描述每个词元实际调用的部分;用于比较稠密模型与专家模型,不能只按激活量估算权重显存。Hugging Face
总参数量与激活参数量
总参数量是模型所包含全部可训练参数的规模;激活参数量通常描述一次前向计算中,针对某个词元实际参与计算的参数规模。两者在稠密模型中通常接近,而在混合专家模型中可能相差很大。
边界
总参数量回答“模型一共拥有多少参数”,因此与完整权重需要存储、加载或分片的规模直接相关。激活参数量回答“推理这个词元时实际调用了多少参数”,更接近单次计算路径的规模,但它不是完整模型权重大小的同义词。
“激活参数量”尤其常见于 Mixture of Experts,也就是 MoE 模型。路由器通常只为每个词元选择少量专家参与计算,而其他专家虽然本次未被选择,其权重仍属于模型。不同模型对共享层、路由器和专家参数的统计口径可能不同,因此比较规格时应优先采用同一来源和同一口径的数据。
两个指标怎么区分
| 指标 | 回答的问题 | 常见用途 |
|---|---|---|
| 总参数量 | 整个模型拥有多少参数 | 估算权重文件规模、设备容量、分片与加载需求 |
| 激活参数量 | 单个词元的一次计算路径大约使用多少参数 | 理解 MoE 的计算开销以及与稠密模型的计算量差异 |
对于普通稠密 Transformer,大部分层的参数都会参与每个词元的前向计算,因此总参数量与激活参数量通常没有 MoE 那样显著的差距。
最小例子
假设一个示意性的 MoE 模型共有 100B 参数,但路由策略让每个词元只经过部分专家,使一次前向路径约有 20B 参数参与计算。这里 100B 是总参数量,20B 是激活参数量。
这并不意味着部署时只需要保存 20B 参数的权重。若所有专家都常驻同一设备集合,仍要为完整的 100B 权重安排存储或显存;只有采用专家分片、CPU 或磁盘卸载等具体部署方案时,单设备常驻量才可能下降。
常见误解是把激活参数量当成“模型实际大小”。它更适合描述计算路径;判断能否装入设备时,应首先核对总权重及部署方式。
开放权重意味着可获取模型参数,不自动满足开源人工智能的完整条件;用于筛选可部署模型,还需分别核对许可、代码与数据信息。Open Source Initiative
开放权重与开源模型
开放权重指模型训练后的参数可被获取;开源模型或开源人工智能通常还涉及允许使用、研究、修改和再分发所需的许可与配套信息,因此“能下载权重”不能自动推出“完整开源”。
成立边界
判断一个模型是否适合自行部署,首先可以确认权重是否可获得,但这只是一个维度。还应分别核对许可证允许的用途、是否限制商业使用或再分发、推理与训练代码的开放程度,以及是否提供足以理解模型来源和训练过程的数据信息。
“开放权重”描述的是参数可获得性,不等价于许可证宽松,也不保证训练代码、数据处理流程或完整训练数据公开。同样,“可免费下载”也只是获取成本,不代表获得修改、再发布或商业使用的权利。
与相邻概念的区别
| 概念 | 核心判断 |
|---|---|
| 开放权重 | 能否取得模型参数 |
| 开放代码 | 训练、推理或相关工具代码是否可取得和修改 |
| 开放许可 | 是否明确授予使用、修改、再分发等权利及其条件 |
| 开源人工智能 | 需要综合核对权重、代码、许可及理解和修改系统所需的信息,不能只看其中一项 |
因此,模型列表中的 open weights 标签适合回答“参数能否拿到”,却不足以单独回答“能否合法商用”“能否发布修改版”或“是否符合某套开源定义”。
最小例子
模型 A 允许下载参数,但许可证限定非商业用途。它可以被称为开放权重模型,但不能仅凭权重公开就推断为可自由商用的开源模型。
模型 B 同时提供参数、相关代码和明确许可,也仍应继续检查许可条件以及理解和修改模型所需的信息是否充分,再判断它是否符合所采用的开源人工智能定义。
常见误解是把“权重在公开仓库里”直接等同于“开源”。选型时应把权重可得性、许可证、代码和数据信息拆开核对。
模型处理文本的离散单位,可以是字、子词或符号;用于理解输入长度与生成长度,不能把词元数量固定换算成汉字数或英文单词数。Hugging Face
Token(词元)
Token 是分词器把文本转换后得到的离散处理单位;它可能对应一个字、一个词的一部分、标点、空白相关片段或其他符号,模型实际接收的是这些 Token 对应的编号序列。
成立边界
Token 的切分方式由具体分词器决定,而不是由自然语言中的“字”或“单词”直接决定。同一段文本换用不同模型或分词器,Token 数量可能不同,因此不存在适用于所有模型的固定“1 Token 等于多少汉字或英文单词”的换算公式。
计算上下文长度、输入费用或最大生成长度时,应使用目标模型实际采用的 tokenizer 计数。部分系统还会加入开始、结束、角色或其他特殊 Token,所以接口最终计算的数量也可能高于只对可见正文进行分词得到的数量。
与相邻概念的区别
| 概念 | 含义 |
|---|---|
| 字符 | 文本中的字符单位,例如字母、汉字或标点 |
| 单词 | 自然语言中的词汇单位,边界依赖语言规则 |
| Token | tokenizer 按其词表和算法切出的模型处理单位 |
| Token ID | Token 在模型词表中对应的整数编号 |
一个英文单词可能是一个 Token,也可能被拆成多个子词 Token;一个汉字也不保证始终对应一个 Token。Token 与字符、单词之间只能针对指定 tokenizer 和指定文本实际计算,不能固定换算。
最小例子
假设某个 tokenizer 把 unbelievable 作为一个完整 Token,另一个 tokenizer 可能把它拆成若干子词。两者看到的原始字符串相同,但送入模型的 Token 序列长度不同。
同理,中文短语、数字、代码和标点的切分也取决于具体 tokenizer。需要判断一段提示词是否超过上下文窗口时,应直接用目标模型的 tokenizer 统计,而不是先数汉字或英文单词再乘固定比例。
常见误解是把 Token 当成“单词”的同义词。Token 是模型分词规则产生的计算单位,只有在指定模型和 tokenizer 后,Token 数量才有确定含义。
依据词表与编码规则将文本转换为词元编号的组件;用于比较长度统计或排查乱码,分词器必须与模型匹配,不能随意跨模型替换。Hugging Face
Tokenizer(分词器)
Tokenizer 是按照特定词表和编码规则,把文本转换为模型可处理的 token ID,并能在需要时把 token ID 解码回文本的组件。
边界
Tokenizer 决定的是文本怎样映射成词元序列,不是模型怎样理解文本。同一句话换用不同词表或分词算法,得到的 token 数量和 ID 都可能不同,因此长度估算、截断位置和上下文预算必须基于目标模型实际使用的 Tokenizer。
一个 token 也不等于一个汉字、一个英文单词或一个字节。英文单词可能被拆成多个 token,中文字符、标点、空格、Emoji 和特殊符号也可能采用不同切分方式。
与相邻概念的区别
| 概念 | 主要作用 |
|---|---|
| Tokenizer | 在文本与 token ID 序列之间编码、解码 |
| Vocabulary(词表) | 定义可用 token 及其 ID,是 Tokenizer 的组成基础之一 |
| Token | Tokenizer 切分和编码后得到的离散单位 |
| Embedding | 把 token ID 映射成模型内部使用的向量表示 |
Tokenizer 负责产生 ID;Embedding 则在模型内部把这些 ID 转成向量,两者不是同一个步骤。
最小例子
文本 unbelievable 在某个 Tokenizer 中可能被编码成一个 token,也可能拆成 un、believ、able 等多个片段。真正的切分方式必须以目标模型对应 Tokenizer 的实际编码结果为准。
因此,要判断一段提示词会占用多少上下文,不应按字符数或单词数直接估算,而应使用与目标模型匹配的 Tokenizer 统计 token 数。
常见误解是把 Tokenizer 当成通用的“分词规则”。它实际上与具体词表、特殊 token、归一化和编码规则绑定;跨模型比较 token 数量时,也必须确认双方使用的 Tokenizer。
模型单次推断可利用的词元范围;用于规划历史消息、检索材料与输出预算,最大窗口不等于长期记忆,也不保证所有位置都利用充分。Anthropic
上下文窗口
上下文窗口是模型在一次推断中能够接收并利用的有限 token 范围,用来约束当前请求可同时容纳的指令、历史消息、检索材料以及生成内容预算。
边界
上下文窗口描述的是单次推断可处理的信息容量,不是长期记忆,也不表示模型会永久保存窗口中的内容。下一次请求若没有再次提供相关信息,模型通常不能仅凭上一轮窗口内容继续访问它。
具体服务如何计算窗口需要以对应模型文档为准。有的模型把输入与最大输出共同计入总上下文限制,有的接口还会分别规定最大输入或最大输出,因此不能只看到一个“上下文长度”数字就直接把全部额度用于提示词。
较大的窗口也不等于所有位置的信息都会被同等有效地利用。材料过长、重复、相互冲突或关键证据埋得过深,都可能降低实际使用效果。
与相邻概念的区别
| 概念 | 回答的问题 |
|---|---|
| 上下文窗口 | 一次推断最多能同时处理多少 token 范围 |
| 输出上限 | 单次响应最多允许生成多少 token |
| 对话历史 | 本次请求实际重新提供给模型的历史消息 |
| 长期记忆 | 跨请求保存并在以后重新取用的信息机制 |
因此,“聊天界面还能看到旧消息”不代表这些消息一定仍完整处于当前模型请求的上下文窗口中,具体取决于应用怎样裁剪、摘要或重新组装历史内容。
最小例子
假设某次请求已经放入系统指令、20 轮历史消息和一批检索文档,它们都会占用当前请求的 token 预算;如果总量接近模型允许的上限,应用就可能需要删除旧消息、压缩资料或减少预留输出长度。
规划长文档问答时,真正需要核对的是“当前发送给模型的总 token 数、接口的输出限制以及模型规定的上下文规则”,而不是只看原始文档有多少字。
常见误解是把“支持超长上下文”理解为“拥有长期记忆”或“可以无损读取任意长度材料”。上下文窗口只定义容量边界,信息是否被保留、怎样检索以及能否稳定利用,是另外的问题。
训练过程某一时刻保存的模型状态;用于恢复训练、版本比较和模型发布,恢复训练所需状态通常比仅供推断使用的权重文件更多。Hugging Face
Checkpoint(检查点)
Checkpoint 是训练过程中在某个时间点保存的一组模型及相关训练状态,用来恢复训练、比较阶段结果,或从其中提取可用于发布和推断的模型权重。
边界
“检查点”不等于“只有模型权重”。如果目标只是加载模型进行推断,参数权重通常已经足够;如果要从中断位置继续训练,往往还需要优化器状态、学习率调度状态、当前步数等训练上下文,具体保存内容取决于训练框架和配置。
因此,一个文件或目录是否能称为“可恢复训练的 Checkpoint”,关键不是扩展名,而是它是否保存了恢复训练所需的状态。
与权重文件的区别
| 概念 | 主要用途 | 常见内容 |
|---|---|---|
| Checkpoint | 恢复训练、阶段比较、保存训练进度 | 模型参数,以及按框架配置保存的优化器、调度器、训练步数等状态 |
| 模型权重 | 加载模型进行推断或后续处理 | 模型参数 |
| 发布模型 | 面向实际推断或分发 | 权重、配置、分词器等运行所需资产,具体组成取决于模型生态 |
Checkpoint 可以包含模型权重,但模型权重文件不一定包含完整训练状态。
最小例子
训练在第 12000 步保存一个 Checkpoint,随后机器重启。若该检查点同时保存了模型参数和必要的优化器等状态,训练程序可以从接近第 12000 步的位置继续;如果只保留了权重,则通常还能加载模型,但无法完整恢复原来的训练进度与优化状态。
常见误解是把“能加载模型”当成“能无损续训”。判断前应先确认保存内容,而不是只看文件名里是否出现 checkpoint。
前者指运行模型得到输出的计算过程,后者指解决问题时的推理能力或过程;用于区分服务性能与解题效果,计算更快不代表推理更强。arXiv
Inference 与 Reasoning
Inference(推断)是把输入送入已训练模型并计算输出的执行过程;Reasoning(推理)描述模型解决需要分析、组合条件或多步判断的问题时所表现出的能力或过程。
边界
Reasoning 通常发生在一次或多次 Inference 计算之中,但两者回答的问题不同。Inference 关注“模型怎样被执行以及执行成本如何”,例如延迟、吞吐量、显存占用和生成速度;Reasoning 关注“模型能否正确完成需要推理的问题”。
某些模型会在推断阶段使用更多生成 token 或额外计算来处理复杂问题,但这属于具体推断策略,不能把 Inference 本身直接等同于 Reasoning。
容易混淆的概念
| 概念 | 回答的问题 | 常见关注点 |
|---|---|---|
| Inference | 已训练模型如何从输入计算出输出 | 延迟、吞吐量、显存、计算量 |
| Reasoning | 模型能否完成分析、推导和多步判断 | 正确率、任务完成质量、推理稳定性 |
| Training | 模型参数如何通过数据和优化过程被更新 | 数据、损失函数、优化器、训练计算量 |
Inference 是运行阶段的计算行为,Reasoning 则是可以在任务结果中观察和评估的能力维度。
最小例子
同一个模型从一块较慢的 GPU 换到更快的 GPU 后,单次回答延迟可能从较高水平下降,这说明 Inference 性能改善;如果模型参数、提示方式和推断策略都没有变化,不能仅凭速度提升就判断它的 Reasoning 能力变强。
常见误解是把“生成得更快”理解为“思考得更好”。比较模型时应分别观察服务性能指标与具体推理任务的结果。
准备提示并控制输出
提交给模型以引导当前输出的输入内容,可包含任务、约束和示例;用于设计交互,不会因为写入要求就永久修改模型参数或能力。Hugging Face
Prompt(提示词)
Prompt 是在一次模型调用中提供给模型、用于说明任务并影响当前生成结果的输入内容,可以包含问题、指令、上下文、约束和示例。
边界
Prompt 主要作用于当前推理上下文。把“始终这样回答”“记住这个规则”等文字写进 Prompt,可以影响模型在当前可见上下文中的行为,但不会仅凭这段文字永久修改模型权重、训练数据或基础能力。
Prompt 不只等于用户最后输入的一句话。在聊天应用中,系统消息、用户消息、历史对话、工具返回结果等都可能共同形成模型实际看到的上下文;应用还可能通过聊天模板把这些消息转换为模型需要的输入格式。
Prompt 能提高输出符合要求的概率,但不是绝对执行机制。长度限制、模型能力、上下文冲突以及生成随机性都可能影响最终结果。
与相邻概念的区别
| 概念 | 主要作用 | 是否修改模型参数 |
|---|---|---|
| Prompt | 在调用时描述任务、约束和上下文 | 否 |
| System Prompt | 以系统角色提供较高层级的会话指令 | 否 |
| Fine-tuning | 使用训练样本继续调整模型行为 | 通常会修改参数或适配参数 |
| Chat Template | 把多角色消息整理成模型预期的输入格式 | 否 |
因此,“改 Prompt”和“重新训练模型”解决的是不同层面的问题:前者调整当前输入,后者改变模型经过训练后表现出的行为模式。
最小例子
用户只输入“总结这段文章”时,任务目标较宽;改成“用三条要点总结这段文章,每条不超过 30 字,不补充原文没有的信息”,就同时加入了任务、格式约束和内容边界。这些要求构成 Prompt 的一部分,并用于约束本次生成。
常见误解是认为 Prompt 中写下的任何要求都会被模型永久记住,或者能够保证百分之百执行。判断 Prompt 是否有效,应看当前调用是否获得更符合目标的输出,而不是把它当作修改模型参数的机制。
把系统、用户和助手等消息序列转换为模型预期格式的规则;用于接入对话模型,同样的消息文字使用不同模板可能产生不同结果。Hugging Face
聊天模板(Chat Template)
聊天模板是把系统、用户、助手等结构化消息转换成模型预期文本或特殊标记序列的格式规则,使对话消息能够按该模型训练时熟悉的形式进入推理流程。
边界
聊天模板处理的是消息怎样被序列化,不是替用户决定消息内容。应用可以保存同一组系统消息和用户消息,但不同模型可能要求不同的角色标记、分隔符、特殊 Token 或助手回复起始位置,因此不能假设所有对话模型共享一种拼接格式。
模板是否存在以及具体规则取决于所使用的模型、Tokenizer 或推理框架。某个模型能够接受纯文本,并不意味着任意手工拼接的“System:”“User:”格式都等价于它官方或随模型提供的聊天模板。
与相邻概念的区别
| 概念 | 回答的问题 |
|---|---|
| 消息列表 | 会话里有哪些角色和内容 |
| Prompt | 模型本次需要理解的任务与上下文是什么 |
| 聊天模板 | 这些角色消息按什么格式转换成模型输入 |
| Tokenizer | 转换后的文本或特殊标记怎样编码为 Token ID |
聊天模板位于结构化消息与 Tokenizer 编码之间。它可以插入角色边界和模型需要的特殊标记,但不会因为改变模板就训练出新的模型能力。
最小例子
假设应用保存了两条消息:系统消息要求“回答简洁”,用户消息询问“什么是向量数据库”。聊天模板会按照当前模型约定,把这两条消息组织成带角色边界的输入,再交给 Tokenizer。换用另一种模板时,消息文字可以完全不变,但最终输入序列可能不同,模型输出也可能随之变化。
常见误解是先手工把角色文字拼进消息内容,再让框架应用聊天模板。这样可能造成角色标记重复或边界错误。接入已有对话模型时,应优先确认该模型要求的聊天模板,而不是凭经验自行复制另一模型的格式。
模型在当前输入中利用任务说明或示例完成新任务,而不更新权重;用于理解零样本和少样本提示,不应与少量样本微调混为一谈。arXiv
上下文学习(ICL)
上下文学习(In-Context Learning,ICL)是指模型仅依据当前上下文中的任务说明、输入输出示例或其他提示信息适应任务,并在推理时生成结果,而不通过这次任务更新模型权重。
成立边界
ICL 的关键边界是任务信息进入上下文,而不是进入模型参数。提示中的示例会影响当前请求及其可见上下文内的输出,但通常不会因为一次 ICL 请求而把这些示例训练进模型权重。
零样本提示也可以视为这一范畴:上下文只提供任务说明,没有示例;少样本提示则在任务说明之外加入少量示范。二者都不要求执行训练步骤。
与少样本微调的区别
| 概念 | 示例放在哪里 | 是否更新权重 | 主要作用范围 |
|---|---|---|---|
| 上下文学习 | 当前提示或上下文 | 否 | 当前上下文中的任务执行 |
| 少样本提示 | 当前提示或上下文 | 否 | 用少量示例约束当前输出 |
| 少量样本微调 | 训练数据集 | 是 | 改变后续推理所使用的模型参数 |
因此,“给模型几个例子”本身不能判断是不是微调;需要看这些例子是随请求发送,还是进入了训练流程并产生参数更新。
最小例子
向模型提供两组“用户反馈 → 情感标签”的示例,再给出一条新反馈并要求输出标签。如果模型直接依据这些上下文示例完成分类,而没有训练或保存新权重,这就是 ICL 的典型用法。
常见误解是把“模型从示例中学会了规则”理解成参数已经改变。ICL 描述的是推理阶段对上下文信息的利用,不等同于永久学习或模型训练。
以中间推理步骤组织问题求解的方式,常用于多步计算或逻辑任务;用于理解分步提示,步骤连贯或篇幅更长不等于结论一定正确。arXiv
思维链(CoT)
思维链(Chain of Thought,CoT)是把一个多步问题按若干中间推理步骤组织后再得到结论的求解方式,常用于需要连续计算、条件组合或多阶段判断的任务。
成立边界
CoT 描述的是按中间步骤组织求解过程,而不是“输出越长越会推理”。一个回答即使包含很多解释,只要这些内容没有形成与问题求解相关的中间关系,也不能仅凭篇幅认定为有效的 CoT。
同样,生成了连贯步骤也不代表最终答案必然正确。前面的假设、计算或条件判断一旦出错,后续步骤可能在错误前提上继续保持表面一致。
与直接回答的区别
| 方式 | 输出组织 | 更适合的任务 |
|---|---|---|
| 直接回答 | 从问题直接给出结论 | 简单事实、短判断或无需展开的任务 |
| 思维链式求解 | 通过中间步骤连接问题与结论 | 多步计算、逻辑组合、规划或复杂约束问题 |
CoT 也不应与模型内部真实计算过程简单画等号。用户看到的分步说明是生成的输出表达,不能仅据此证明模型内部采用了完全相同的推理轨迹。
最小例子
题目要求先根据单价和数量算出小计,再应用折扣,最后加税。按“小计 → 折扣后金额 → 含税金额”的顺序组织求解,就是典型的思维链式分解;若直接只给最终金额,则属于直接回答。
常见误解是认为“要求逐步思考”就能保证正确。实际仍需要核对关键前提、中间结果和最终结论,特别是计算、逻辑约束或信息不完整的任务。
在生成阶段为多步求解、候选采样或验证分配额外计算资源;用于权衡质量、延迟与成本,增加预算并不保证每类任务都持续获益。arXiv
测试时计算与推理预算
测试时计算是指模型参数已经确定后,在生成答案阶段额外投入推理步骤、生成长度、候选采样、搜索或验证等计算;推理预算则描述允许为这些过程投入多少资源。
边界
这里的“测试时”指推理或生成阶段,不是重新训练模型。增加预算可能让模型尝试更多路径、检查候选或延长思考过程,但具体收益取决于任务、模型和使用的推理策略,不能假定预算越大质量就一定越高。
预算也不只等于输出词元数量。一次请求可以通过生成更多候选、对候选重新排序、调用验证器或反复修正来消耗更多计算,即使最终答案仍然很短。
与训练计算的区别
| 概念 | 发生阶段 | 主要改变 |
|---|---|---|
| 训练计算 | 模型训练或继续训练阶段 | 更新模型参数或其适配参数 |
| 测试时计算 | 模型生成答案阶段 | 增加当前请求的求解、搜索或验证工作 |
| 推理预算 | 推理阶段的资源约束 | 限制允许投入的时间、词元、候选数或其他计算量 |
最小例子
下面只是预算差异的概念表示,不对应任何具体厂商 API 或参数名。
低预算:问题 -> 生成 1 个候选 -> 返回答案
高预算:问题 -> 生成多个候选 -> 检查或排序 -> 返回答案第二条路径承担了更多生成和验证工作,因此通常会增加延迟和计算成本;是否得到更好的答案,需要用同一任务集实际评测,而不能仅从预算大小判断。
常见误解是把“允许更多思考”理解为“答案必然更正确”。测试时计算提供的是额外求解机会,不是正确性的保证,并且在简单任务或收益已饱和时可能只增加成本。
前者是归一化前的候选得分,后者是概率取对数后的表示;用于分析模型选词与候选排序,不能把单个词元的高概率当成答案可信度。Hugging Face
Logits 与对数概率
Logits 是模型在概率归一化之前为候选词元给出的相对得分;对数概率是词元概率取对数后的数值表示,用于比较和累计候选序列的生成可能性。
边界
Logit 本身不是概率,没有必须落在 0 到 1 之间的约束,也不能直接解释成“80% 可信”。模型通常先根据 logits 形成词元概率分布,再依据解码策略选择下一个词元。
对数概率对应已经归一化的概率。若某词元概率为 1,其对数概率为 0;概率越接近 0,对数概率越小。不同系统是否暴露原始 logits、完整概率分布或仅部分候选的 log probabilities,取决于具体接口能力。
三者的区别
| 概念 | 表示什么 | 典型用途 |
|---|---|---|
| Logit | 归一化前的相对得分 | 构造候选词元概率分布 |
| 概率 | 当前上下文下词元被选中的相对可能性 | 采样、排序和观察模型偏好 |
| 对数概率 | 概率的对数表示 | 累计序列得分、比较候选生成路径 |
只比较同一次预测中的 logits 可以判断候选的相对高低,但不能把 logit 的绝对数值直接当成概率。
最小例子
假设某一步只有两个候选词元,归一化后概率分别约为 0.73 和 0.27,那么对应的自然对数概率约为 -0.31 和 -1.31。第一个候选在这一生成位置更受模型偏好,但这只描述局部词元选择。
如果一句答案中的某个词元具有很高概率,也不能据此推出整句事实正确。常见误解正是把“模型很倾向于生成这个词元”当成“这个陈述具有很高事实可信度”;二者并不是同一个量。
通过缩放候选得分调节采样分布的尖锐程度;用于控制输出多样性,不是事实准确率开关,低温也不能替代业务校验或来源核实。Hugging Face
Temperature(温度)
Temperature 是生成式模型采样时用于调整候选 token 概率分布尖锐程度的参数:温度较低时概率更集中,温度较高时分布更平坦,因此会影响输出的确定性与多样性。
边界
Temperature 作用于采样分布,通常可理解为在 softmax 前对候选的 logit 按温度进行缩放。它不会修改模型已经学到的知识,也不会验证生成内容是否真实。
只有在实际进行概率采样时,温度变化才直接影响随机选择结果。若解码策略已经退化为确定性的贪心选择,或具体推理服务对某个特殊温度值另有定义,最终行为应以该模型或 API 的实现为准。
与确定性和准确率的区别
| 概念 | 主要回答的问题 |
|---|---|
| Temperature | 候选概率分布要多集中或多平坦 |
| 输出确定性 | 相同输入重复生成时结果是否容易变化 |
| 事实准确率 | 生成的事实是否正确、可被可靠来源验证 |
降低 Temperature 往往会让高概率候选更占优势,使结果更稳定,但“更稳定”不等于“更正确”。一个高概率但错误的事实仍可能在低温下被稳定生成。
最小例子
假设某一步三个候选 token 的原始倾向依次为 A、B、C。降低 Temperature 后,A 相对 B、C 的优势会被放大,更容易反复选中 A;提高 Temperature 后,B、C 获得更大的被采样机会,因此输出路径更容易变化。
常见误解是把 Temperature 当成“事实准确率旋钮”。需要事实可靠性时,仍应使用来源核实、检索结果约束、结构化校验或业务规则验证,而不是单独依赖低温。
前者保留固定数量的高概率候选,后者按累计概率确定候选集合;用于调整采样范围,不同于检索系统中表示返回条数的同名参数。Hugging Face
Top-k 与 Top-p 采样
Top-k 和 Top-p 都是在生成下一个 token 前缩小采样候选集合的方法:Top-k 保留概率最高的固定数量候选,Top-p 则保留累计概率达到阈值所需的一组高概率候选。
边界
Top-k 的核心约束是候选数量。例如 k = 5 表示只在排序最靠前的一小组候选中继续采样;具体实现还可能受到其他过滤规则影响。
Top-p 又称 nucleus sampling,核心约束是累计概率质量。候选按概率从高到低排列后,保留累计概率达到给定 p 阈值所需的最小候选集合,再在过滤后的分布中采样。因此候选数量会随每一步概率分布变化。
两者的区别
| 方式 | 固定的量 | 候选集合大小 |
|---|---|---|
| Top-k | 最高概率候选的数量 k |
通常固定 |
| Top-p | 累计概率阈值 p |
随概率分布变化 |
当模型在某一步非常确定时,Top-p 可能只保留很少候选;当概率较分散时,为达到同一累计概率阈值,它可能保留更多候选。Top-k 不会根据这种概率集中程度自动改变目标候选数量。
与检索 Top-k 的区别
生成采样中的 Top-k 是解码阶段的候选 token 过滤规则;检索系统中的 top-k 通常表示“返回得分最高的前 k 个文档、向量或结果”。名称相同,但作用对象和处理阶段不同。
最小例子
假设四个候选的概率依次为 0.55、0.25、0.15、0.05。使用 top-k = 2 时,只保留前两个候选;使用 top-p = 0.8 时,前两个候选的累计概率刚好达到 0.80,因此此例中候选集合恰好相同。若概率分布改变,Top-p 保留的候选数量也可能随之改变。
常见误解是认为 Top-k 和 Top-p 只是两种写法不同的“随机度参数”。它们实际控制的是候选集合的截断方式;具体模型或推理框架还可能把它们与 Temperature 等参数组合使用,组合顺序和特殊取值应以对应实现为准。
贪心每步选择最高分候选,束搜索同时保留多条候选序列;用于理解生成策略差异,局部最优或更高序列得分都不等于业务答案更好。Hugging Face
贪心解码与束搜索
贪心解码是在每一步只保留当前得分最高的下一个 token;束搜索则在每一步保留固定数量的高分部分序列,再继续扩展并比较整条候选序列。两者都在做生成搜索,但搜索宽度和计算成本不同。
边界
这里讨论的是解码搜索策略,不是模型本身的知识能力,也不是“答案质量”的保证。贪心选择的是当前一步的局部最高分;束搜索通常依据累计序列得分保留候选,但有限束宽、停止规则、长度惩罚等都会影响最终结果,因此也不保证找到全局最优序列。
在相同候选处理和停止规则下,束宽为 1 时通常可视为退化到贪心式选择。
核心区别
| 策略 | 每一步保留什么 | 主要特征 |
|---|---|---|
| 贪心解码 | 1 条当前最高分路径 | 计算和内存开销低,但一旦早期选择错误就不会回退 |
| 束搜索 | beam_width 条高分路径 |
能比较多条后续发展,但开销随束宽增加 |
更高的序列得分只表示更符合当前打分规则,不等于事实更准确、业务更合适或更符合人工偏好。
最小例子
下面用固定概率构造两步生成。贪心第一步选择 A,但保留两条路径的束搜索能发现 B -> Z 的整条序列得分更高。
from math import prod
first = {"A": 0.60, "B": 0.40}
second = {
"A": {"X": 0.40, "Y": 0.35},
"B": {"Z": 0.90, "W": 0.05},
}
greedy_first = max(first, key=first.get)
greedy_second = max(second[greedy_first], key=second[greedy_first].get)
greedy_score = prod([first[greedy_first], second[greedy_first][greedy_second]])
candidates = []
for t1, p1 in first.items():
for t2, p2 in second[t1].items():
candidates.append((p1 * p2, (t1, t2)))
beam_best = max(candidates)
print("greedy:", greedy_first, greedy_second, f"{greedy_score:.2f}")
print("beam:", *beam_best[1], f"{beam_best[0]:.2f}")预期输出:
greedy: A X 0.24
beam: B Z 0.36这个例子只用于说明搜索边界;真实大模型通常在对数概率、logits processor、长度处理和停止条件上还有额外规则。
常见误解是把束搜索理解为“更聪明的模型”。它只是扩大搜索范围,是否更适合任务仍取决于生成目标与评测标准。
对已出现内容的候选得分施加调整,以减少机械重复;用于理解循环输出的控制手段,不同惩罚机制并非同义,也可能伤及必要术语。Hugging Face
重复惩罚
重复惩罚是在生成时根据已出现的 token、词片段或 n-gram 调整后续候选得分,从而降低模型机械重复同一内容的倾向。
边界
“重复惩罚”不是单一算法。不同框架可能对已出现 token 的 logits 做缩放,也可能直接禁止重复 n-gram;有些 API 还区分“是否出现过”和“出现次数”两种惩罚。参数同名时也不能默认公式完全一致,应以所用框架和版本的生成文档为准。
惩罚过弱可能压不住循环,过强则可能误伤必须重复的专有名词、代码标识符、表格列名或固定格式。
与相邻机制的区别
| 机制 | 依据 | 典型效果 |
|---|---|---|
| 重复惩罚 | 已出现内容影响候选得分 | 降低再次选择相同内容的机会 |
| 禁止重复 n-gram | 某个 n-gram 是否已经出现 | 直接阻止相同 n-gram 再次生成 |
| Presence 类惩罚 | 是否出现过 | 出现一次后即施加固定方向的惩罚 |
| Frequency 类惩罚 | 出现次数 | 重复越多,惩罚通常越强 |
这些机制都能减少重复,但约束强度和副作用不同,不能互换理解。
最小例子
下面是一个教学化的得分调整示例:已出现的 foo 被降低分数,未出现的 bar 保持不变。它只演示“按历史内容调整候选”的概念,不代表某个框架的精确公式。
scores = {"foo": 4.0, "bar": 3.8}
seen = {"foo"}
penalty = 1.5
adjusted = {
token: (score / penalty if token in seen else score)
for token, score in scores.items()
}
print("before:", max(scores, key=scores.get))
print("after:", max(adjusted, key=adjusted.get))预期输出:
before: foo
after: bar常见误解是把重复惩罚当成“重复越少越好”。生成任务若天然要求术语、结构标记或关键实体反复出现,过度惩罚反而会降低可读性或正确性;应结合实际输出检查,而不是只看参数数值。