做 AI 应用不是把 Prompt 塞进接口就结束了。真到项目里，马上会遇到上下文长度、结构化输出、RAG 召回、工具权限、评测回归、成本和稳定性这些问题。

大模型 API 看起来只是一段请求和一段返回，实际落地时问题都藏在细节里：Token 怎么花掉、上下文为什么塞不下、采样参数会不会让答案飘、结构化输出为什么偶发失败、上线前怎么证明效果真的变好了。

RAG 不只有“文档切块 + 向量检索”。解析、权限、排序、生成、更新和评测都会影响最终答案。

Prompt Demo 能跑起来，只说明模型在某个样例里给过一个可用回答。放到生产环境，还要继续回答几个工程问题：模型怎样路由，失败时怎么兜底，Token 成本如何归因，一次 Agent 请求如何还原，敏感工具由谁授权和审计。

Agent 不是“会调用工具的聊天机器人”。一旦任务变长，它就要处理状态、记忆、权限、失败重试、上下文裁剪和执行边界。