20 min · 知识截止、幻觉的机理、上下文学习、思维链、推理模型
🎒 预备知识：完成上一课「L4」（零基础入口：第 0 课）
训练数据有个截止日期，之后的世界对模型不存在——问"最新版本是多少"它会自信地答一个过时答案， 而不是说不知道。对策分两级：模型侧（provider 挂搜索工具，各家产品形态不同）、 工程侧（你的 agent 自己挂检索工具——A2/A8 的内容）。判断标准依旧： 这个信息在时间中会变吗？会变就必须走工具。
L1 说过：模型在补全不在检索。三个来源放大幻觉：① 被迫回答（"不知道"没被训练奖励）； ② 训练噪声里的错误关联；③ 你的提问方式暗示了不存在的答案（"他 2019 年获奖的原因是？" ——前提是假的，模型也顺着编）。工程缓解清单：
允许说不知道：system 写"无法确认时明确说不确定，不要编造"（有效但非根治）
给地面真值：把事实放进上下文（RAG/工具），让模型做"阅读理解"而非"回忆"
降低诱导：问题不带假前提；让模型先复述/核查前提再回答
验证外置：关键事实走代码校验（A11 结果级评测）根治不存在——这是补全机的结构性质，所以 A12 的防御阶梯里"留痕对账"是最后一道。
权重冻结（L1），但模型能在上下文里当场适应：给几个示例，它就照着模式做—— GPT-3 论文标题即 "Language Models are Few-Shot Learners"。关键认知： few-shot 是"当场模仿"不是"学会"——示例出了上下文就忘（所以每次调用都要带）， 且示例即分布：示例的格式、风格、甚至错误都会被模仿。给示例的纪律： 覆盖边界情况（最短合法输出长什么样、遇到缺失字段怎么办）， 比给三个"完美案例"有效得多。
CoT（Wei et al. 2022）：让模型"一步步想"再答，多步推理正确率显著提升—— 因为每步推理 token 给了模型更多计算空间。零成本版本是加一句"先分析再给结论"。 推理模型（o 系/R1/带 thinking 的模型）把这个内化：强化学习（RL）训练模型生成超长内部思考链， 按 thinking token 计费。何时值得：多步推理、规划、数学、代码调试； 何时浪费：分类、抽取、格式转换——thinking 烧十倍 token 换不回质量。 Easel 的场景（文案、路由、流程执行）大多不需要重型推理，但发布决策、评分类任务受益。
模型的弱项往往不是"智力"而是表示（L2 伏笔回收）：字符级任务（数字母、反转字符串、 精确字数）、大数算术、日期推算（"30 天后是周几"）——token 碎片化让这些对模型是"隔纱看物"。 对策统一而简单：精确计算和计数一律代码化，模型只决定"算什么"。
坑 1：用"你是个诚实专家"治幻觉。角色设定提升语气不改变机制——缓解靠 "允许说不知道 + 给地面真值 + 外置验证"三件套。
坑 2：few-shot 给三个相似完美案例。模型学到的是"输出都长这样"， 遇到边界情况没有先例可模仿——示例要覆盖边界。
坑 3：所有任务都上推理模型。分类抽取用 reasoning 档，账单十倍质量持平—— 按任务选档，模型路由（A10 模式 2 的变体）本身就是优化点。
给四个任务各配一种对策并说理由：① "昨天的股价"；② "把这段合同的关键条款抽成表格"； ③ "这个 bug 可能出在哪"；④ "数一下用户名里有几个字母 a"。发到对话里我批改。