8 月 27 日,LangChain 八月更新对外发布:Managed Deep Agents 与 LLM Gateway 正式进入公测,同时带来 Deep Agents v0.7、Tuned Evaluators 与 AWS BYOC(Bring Your Own Cloud)支持。信号很明确——LangChain 正在把「Agent 从实验原型搬到生产」这件事,做成托管服务。本教程带你理解这套新架构并跑通部署。
🕸️ 本教程适合:已用 LangChain / LangGraph 做过原型、正愁生产部署与评测的开发者与架构师。需要 LangChain 账号,BYOC 部分需要 AWS 账号。
Step 1:先搞懂「托管」解决了什么问题
1 自建 vs 托管,差在运维
自建 LangGraph 应用,你要负责:
· 服务器与扩缩容:流量上来要能扛住
· 长任务稳定性:Agent 跑半小时挂了怎么办
· 观测与排查:trace、日志、告警一整套
· 模型管理与成本:多模型切换、限流、降级
托管 Deep Agents 之后:
· 逻辑与人格你来写,底层服务器 LangChain 管
· 自带重试、恢复与可观测性
· 网关统一管理模型供应商
💡 判断标准:团队已有 SRE 能力 → 自建 LangGraph 更可控;想把精力花在 Agent 逻辑而非服务器上 → 托管更划算。取舍逻辑与《Agent Harness 五强选型》一致。
Step 2:进入公测的入口
2 注册并把项目升级到新能力
1. 登录 LangChain 控制台(LangSmith 同一账号)
2. 找到 Managed Deep Agents 公测入口
(新项目或已有项目启用)
3. 若从旧版本迁移,确认 Deep Agents v0.7
的接口变化(v0.7 强化了深度递归推理的
规划与执行修正能力)
4. 连接你的模型供应商(OpenAI / Anthropic /
通义 / DeepSeek 等)
🚀 公测功能迭代快,先在小流量项目试点,别一上来替换核心生产链路。
Step 3:LLM Gateway——集中管理所有模型
3 一个网关,管住所有模型供应商
1. 在控制台配置 LLM Gateway
2. 添加多个模型供应商与各自密钥
3. 设定路由策略:
· 默认路由:复杂任务走强模型,
简单任务走便宜模型
· 降级策略:主模型限流 / 报错时自动切换备用
4. 接入日志与用量统计,按项目看成本
密钥是命根子:所有模型密钥统一收口到网关,应用侧不再散落明文 Key。网关本身的访问权限也要按环境隔离(开发 / 测试 / 生产分网关或分项目)。
Step 4:Tuned Evaluators——给 Agent 装上领域化评分卡
4 告别「凭感觉看效果」
通用评测器常抓不住领域细节,Tuned Evaluators 针对这一点:
1. 为你的任务定义一个「评测基准集」:
例如 30 条典型的客服 / 检索 / 分析查询
2. 为每条基准标注期望行为与评分维度
(准确性、格式、步骤完整性…)
3. 用 Tuned Evaluators 在基准集上跑评测,
得到可对比的分数
4. 每次改提示词或工具后重跑,用分数代替
主观「感觉好像变好了」
💡 评测是 Agent 工程的「体重秤」。没有基准集,优化就是玄学。方法论可结合本中心《Agent 评测 Evals》一起看。
Step 5:AWS BYOC——把运行环境搬进你的云
5 数据主权与合规的解法
1. 在控制台启用 BYOC(Bring Your Own Cloud)
2. 选择 AWS 区域,按向导在你自己账号里
创建运行基础设施(VPC、计算、存储)
3. 将 Agent 项目绑定到该环境部署
4. 敏感数据全程留在你的 VPC 内,
满足数据驻留与合规要求
BYOC ≠ 与世隔绝:数据在你自己云里,但控制面仍是 LangChain 托管。合规审计时要把「谁控制什么」写清楚——数据面归你,控制面归平台,按需评估。
Step 6:用 LangSmith Engine 观测 + 选型建议
6 上线只是开始
1. 部署后打开 LangSmith Engine 面板
(本次升级强化了复杂观测与评测的
后端处理能力)
2. 监控:trace 链路、token 用量、失败率
3. 设告警:成本突增、成功率下降自动通知
4. 周期复盘:把线上失败案例补进评测基准集
选型小结:团队小 / 周期紧 / 重视数据主权 → 托管 + BYOC;深度定制 / 完全自控 → 自建 LangGraph。想了解自建路线,可看《LangGraph 有状态工作流》与《LangChain OAP 零代码》;云原生底座可对比《阿里云 AgentRun》。
🎉 六步走完,你手里的 Agent 从「能跑」变成「能扛、能评、能审计」——这才是进入生产该有的样子。