项目 07：Mini-former 训练实战：从随机扰动到文本预测
实现完整的训练循环，包含数据加载、损失计算、反向传播与学习率调度，亲历模型如何从乱码中进化出语言模式
项目 08：训练目标对比：Causal、Masked 与 Prefix LM
深入理解模型如何‘看’数据：通过对比不同的训练目标，掌握 GPT、BERT 与 T5 等架构背后的核心差异
项目 09：概率的剪裁：解码策略与采样 Dashboard
深入探讨从 Logits 到文本生成的概率变换过程，分析 Temperature、Top-K、Top-P 与重惩罚机制对生成熵与多样性的数学影响
项目 10：打破串行咒语：投机解码（Speculative Decoding）
深入研究如何利用大小模型协同并行，通过预测-验证算法绕过自回归生成的串行瓶颈，实现无损的推理加速
项目 11：显存的吞噬者：KV Cache 机制与显存预算
系统性探讨 LLM 推理过程中的冗余计算问题，通过显存计算模型量化 KV Cache 的空间开销，并理解 PagedAttention 的演进动力
项目 12：架构的进化：MQA、GQA 与 MLA 深度解析
探讨如何通过压缩 KV Head 的数量来降低推理显存压力，分析从共享 Head 到低秩 latent 压缩的技术演进路径
项目 13：跨越万词鸿沟：长上下文（Long Context）的系统性挑战与解法
从注意力二次复杂度分析到信息丢失（Lost in the Middle）现象，全方位探讨长上下文模型在算法、存储与检索维度的工程极限
项目 14：频率的炼金术：RoPE Scaling 与长度外推（Extrapolation）
深入解析旋转位置编码（RoPE）的数学几何特性，探讨线性插值、NTK-Aware 插值与 YaRN 等长度扩展技术的演进逻辑与数学证明
项目 15：IO 感知的艺术：FlashAttention 的硬件级优化
深入剖析 FlashAttention 如何通过 Tiling 与计算重构绕过 GPU 显存带宽瓶颈，详细解析 Online Softmax 算法与硬件级分块策略
项目 16：硬件精算：显存带宽、算力与硬件预算（Hardware Budget）
系统性拆解 LLM 推理与训练阶段的硬件资源消耗，从 Roofline 模型出发，掌握带宽瓶颈、算力利用率与多卡互联的精算方法