应用机器学习
微调、对齐、压缩，并理解现代模型背后的架构。
适合训练与适配模型的 ML 工程师 · 20 篇 · 约 27.8 小时 · 5 个阶段
这条轨道假设你已经了解
- 1
训练必备
- 2
微调与对齐
- 微调到底是怎么工作的在你自己的数据上继续训练一个现成的模型。它会改变什么、改变不了什么，以及为什么数据集就是全部工作。训练与适配
- LoRA 与参数高效微调只训练少量额外权重，而不是全部权重。用一小部分成本拿到几乎全部收益，外加可热插拔的适配器。训练与适配
- 模型蒸馏训练一个小模型去模仿大模型。这通常比从头训练小模型效果更好，也是便宜模型变好用的原因。训练与适配
- 合成数据用模型生成训练数据。只要你能验证或过滤输出，它就管用；不能验证时，它会安静地失败。训练与适配
- 模型是怎么被对齐的把一个文本预测器变成助手，靠的是偏好训练。它加上了什么、代价是什么，以及为什么拒答时灵时不灵。训练与适配
- 推理模型是怎么工作的被训练成先想很久再作答的模型。同一条「token 即计算」的原则，从你的 prompt 里搬进了训练过程。训练与适配
- 3
效率优化
- 4
架构前沿
- 专家混合参数存很多，每个 token 只用一小部分。模型如何在不变慢多少的前提下做得大得多。进阶架构
- 注意力变体：稀疏、线性与滑动窗口全注意力让每个 token 和所有其他 token 两两比较，成本随长度平方增长。打破这个平方项的几种变体，以及各自放弃了什么。进阶架构
- 状态空间模型一种替代注意力的方案：开销线性、内存恒定。它在哪里赢、在哪里输，以及为什么混合架构正在胜出。进阶架构
- 长上下文是怎么成为可能的上下文窗口从几千 token 长到上百万。四方面的改变促成了这件事，而它们没有一个废掉了平方级成本。进阶架构
- embedding 模型如何训练通用模型的内部向量并不等于一个好的 embedding。对比目标到底在优化什么，以及为什么难负样本决定成败。进阶架构
- 5
衡量模型