从迷你 GPT 到 ChatGPT：预训练之后还经历了什么
你训练出的是一个续写模型，它与 ChatGPT 之间还间隔着预训练的规模、SFT 与对齐——把完整的三个阶段讲清楚
Chroma轻量入门
用 Chroma 快速搭一个本地向量检索原型，并接入 LangChain 完成最小 RAG 试验
完整训练：从随机输出到通顺文字
把模型与训练循环结合起来，设定好超参数完整训练迷你 GPT，观察损失的下降与生成文字的逐轮改善
FAISS实战
用可运行的 Python 代码上手 FAISS，并比较 Flat、IVF 与 HNSW 三种索引的使用方式
构建完整的 GPT 结构
把多头注意力、前馈网络、残差连接、层归一化与位置编码组合起来，得到一个完整的 GPT 模型
IVF与乘积量化PQ
理解 IVF 如何缩小搜索范围、PQ 如何压缩向量，以及两者组合后的经典折中
注意力机制：让模型看见上下文
从对前文取平均出发，逐步推导出自注意力——查询、键、值与因果掩码，这是 GPT 最核心的部件
近似最近邻ANN算法
从暴力扫描为什么不可行讲起，理解 ANN 的工程动机与 HNSW 的工作机制
反向传播：模型如何确定参数的调整方向
拆解 loss.backward() 这一环节，讲清梯度、梯度下降与反向传播——整个模型训练的核心机制
向量数据库到底是什么
从传统数据库的精确匹配出发，理解向量数据库为何在大模型时代成为基础设施