番外 10:Embedding 演化实战,从 TF-IDF 到 LLM 的 token 表
顺着历史走一遍:TF-IDF、word2vec、BERT、LLM 的 embedding 层,每一步都给具体公式、具体数字、具体代码
把问题拆开,用实验和代码留下可以复查的答案。
顺着历史走一遍:TF-IDF、word2vec、BERT、LLM 的 embedding 层,每一步都给具体公式、具体数字、具体代码
一个把碎瓷复原的师父,先把瓶子打成尘土,再一步一步从尘土里把瓶子'倒着'还原出来——讲清现代图像生成最美的一种思想
从 one-hot 编码、维度灾难一路走到向量空间,把第 05 篇没讲透的原理补齐
四个主流 Agent 框架的设计哲学差异——以及一个老问题:到底要不要用框架
一个村子里每个孩子出生时都要抽签,大多数是空白,少数注定不凡——一个深度学习里被严肃对待的奇怪猜想
把图片、声音、视频接入 LLM 应用,理解多模态的能力边界与工程取舍
Agent 上生产到底要做哪些工程——把前面所有篇讲过的东西收拢成一份 checklist
一个村子十个专家,但大多数时候只有一两个被叫醒——讲清现代万亿参数大模型的核心架构秘密
理解 prompt injection 的攻击面、典型案例、Spotlighting、内容审核与最小权限设计
Agent 的调试是地狱——trace 系统、replay 机制、LLM-as-judge、端到端 eval 全套方法