单元 H2 教师备课卡：大模型的内部——嵌入·注意力·训练管线

📌 本单元是平台差异化最强的”机制深度”单元。可视化是简化模型，备课时请把握”类比 ↔ 真实机制”的边界。

单元定位与教师备课背景

🎯 单元目标

1. 认知：理解大模型把语言变成可计算的嵌入向量，用注意力决定”重点看谁”，并经预训练→微调→对齐三段管线被训练出来。
2. 思维：建立”接近论文级”的直觉，知道哪些是真实机制、哪些是教学比喻。
3. 价值观：看懂机制后，对模型输出形成更准确的信任判断（不神化、不恐惧）。

💡 教师备课背景

• 嵌入：线上用真实二维向量 + 欧氏最近邻；“国王 − 男人 + 女人 → 女王”是真实向量加减当场算出。提醒学生：真实模型是几百上千维、用余弦相似度，这里是降维后的教学投影。
• 注意力：线上是真实的缩放点积自注意力 softmax(q·kᵀ/√d)。点”她”，注意力权重最高的是”小红”——强调它不是靠语法规则找指代，而是靠”谁和我最相似”的权重。
• 训练管线：预训练用真实 bigram 现场建模演示”只会接龙”；微调演示”学会回答”；对齐让学生当评分员体会 RLHF。

课时建议

• 线上导学：约 25-30 分钟，走完 ModelInternals 三段。
• 线下项目：1-2 课时，“白盒讲解员”或可解释性小调研。
• 线上复盘：约 10 分钟，完成可解释性自述通关。

线上模块 · 课堂带法

模块①：嵌入语义空间

• 怎么带：先点词看最近邻（同类聚团），再点”现场计算”做类比向量运算。
• 小高潮：连”类比”都能用加减算出来——这就是语义被数字化的地基。
• 易误区：别让学生以为模型真的是二维。强调这是”为了能看见”做的投影。

模块②：注意力（真实自注意力）

• 怎么带：点不同查询词，尤其点”她”，看注意力分布。
• 小高潮：“她”的注意力自动指向”小红”——指代不是查语法，是算相似度权重。同词换查询，重点变、意思变。

模块③：训练管线

• 怎么带：从”小”逐词 bigram 接龙；勾”多喂材料”看变顺；再看微调对比；最后当评分员做 RLHF 三选择。
• 小高潮：预训练给知识、微调教回答、对齐教态度——三步缺一不可。

线下项目 · 组织指引

项目：当一回”白盒讲解员”（进阶）

• 形式：用自己的可视化/类比，向同学或低年级讲清”大模型怎么工作”；或做一次”模型为什么这样答”的可解释性小调研。
• 产出：讲解海报 / 短视频 / 调研报告 + 答辩。
• 评分 rubric：① 机制讲解是否准确、不把类比当真相；② 能否讲清嵌入/注意力/训练管线各自解决什么；③ 可解释性结论是否有证据支撑。

学生可能反应与引导建议

反应一：“注意力就是探照灯，只照一个词”

• 引导：纠正——注意力是同时给所有词分配权重（softmax 求和为 1），只是有的高有的低。这正是通关任务要点出的”比喻与真实的差异”。

反应二：“模型就是个大号搜索/背书”

• 引导：用模块③的 bigram 说明它是在学概率分布、猜下一个词，不是检索数据库；再用嵌入说明它把语义压成了向量。

课堂评价指标

• 机制准确度：能否分清真实机制与教学比喻。
• 表达：白盒讲解是否清晰、面向听众。
• 批判：通关自述里能否指出一处”比喻 ≠ 真实”。

安全与注意事项

• 本单元线上互动不接入大模型 API，纯前端真实算法，断网可用，无隐私风险。