安全与防护
提示注入、护栏、治理，以及敏感数据的处理。
7 篇教程，横跨 17 个学习层中的 1 个——按前后衔接顺序编排。
16安全防护
- 模型供应链风险下载权重，就是在自己的硬件上运行别人的文件。模型、适配器或工具服务器里都能藏什么。
- 处理 PII 与敏感数据prompt 会离开你的基础设施，日志会长久留存，模型会记住东西。三条暴露路径，以及各自该怎么应对。
- AI 治理与合规把 AI 做上线所涉及的文档与流程义务。哪些要求不随司法辖区而变，以及该写下什么。
- 提示注入指令和数据以同一种形态到达。这就是那个漏洞，它没有彻底的修法，防御只能靠架构。
- 越狱与护栏为什么安全训练只是一种倾向而非规则，以及如何构建真正生效的强制层。
- 内容审核过滤进来和出去的内容。分类器该放在哪里，以及为什么拦得太多和拦得太少一样是真故障。
- 对 AI 系统做红队测试趁别人还没动手，先对自己的系统做对抗测试。该试什么、怎么组织、拿到发现之后怎么办。