构建与生产
把 AI 功能真正做上线：成本、延迟、可靠性与运维。
14 篇教程，横跨 17 个学习层中的 2 个——按前后衔接顺序编排。
9应用落地
- 你的第一次 LLM API 调用从零到跑通第一个请求，外加路上一定会撞上的四个报错。
- 你怎么知道它管用？没有评测，你调 prompt 全靠感觉。存下十几个样例就够开始了，而它会改变你的工作方式。
- 从 Demo 到生产环境一个能跑通的 demo 大概只走完了五分之一。五个鸿沟，隔开了「你试的时候能用」和「所有人都用的时候还能用」。
- 该用哪个模型？按任务挑模型档位，而不是默认上最大的那个。一套能熬过下一次模型发布的决策框架。
- 砍掉 API 账单成本藏在四个地方，按通常能省多少排序。多数账单都由一个可修的因素主导。
- 响应为什么要流式输出逐个 token 地送达不是界面上的小花招，而是生成本来的形态。它对感知延迟的改变，超过任何一项优化。
17生产实践
- 延迟优化用户感知到的快慢主要由首 token 延迟决定，而这部分又大半花在预填充上。这些毫秒到底去了哪。
- LLM 系统的可观测性下周有用户反馈答案不对，你需要能还原当时发生了什么。该记哪些日志，以及那个所有人都漏掉的字段。
- 成本监控与归因token 支出很容易测量，也很容易被忽略，直到账单寄到。该追踪哪些指标，以及哪个维度才真正解释了你的成本。
- Prompt 版本管理Prompt 是会改变行为的代码。按代码对待它，并把评测结果挂在版本上。
- A/B 测试 AI 功能输出不确定、质量又主观，常规的实验设计在这里行不通。该改测什么，以及为什么先做离线评测。
- 在模型之间迁移新模型，基准分数更高，输出反而更差。prompt 是冲着具体模型调出来的，迁移是一个正经项目，不是改一行配置。
- 可靠性模式厂商会限流、会超时、会返回畸形的输出。当一个依赖不可靠时，让系统撑住的那些模式。
- 自托管模型在自己的硬件上跑开放权重模型。什么时候值得做、真实成本是多少，以及该先算清的那笔账。