查看全部文章
「最佳实践」相关文章
6 篇
如何按 Key、模型和请求维度追踪 LLM API 成本
一套可落地的 LLM 成本归因方案:每个应用或 agent 一把 API key,每请求成本 trace,按模型拆分用量,再用消费上限拦住失控循环——靠网关账本记账,而不是月底翻表格做考古。
|Router One Team
生产环境的 LLM Fallback 策略:不带惊喜的故障转移
fallback 的触发条件、切换 provider 或模型的取舍、如何解读请求最终结果,以及如何用 request_id 支撑上游故障的运维排查。
|Router One Team
用带消费上限的 API Key 安全转售 LLM API 额度
一套不夸大的小型 AI API 生意模式:基于托管上游,每个客户一把 key,按 key 设消费上限和限速,计费靠每请求用量数据说话——并把 key 级转售给不了你的东西列清楚。
|Router One Team
多 Agent 编排:生产级 AI 系统的常见模式
顺序、并行、分层、人工介入四种多 Agent 编排模式:何时该用哪种、如何处理失败、如何在生产环境控制成本与延迟。
|Router One Team
Claude Skills 详解:构建可复用的 Agent 能力
Claude Skills 让 Agent 按需获取专业能力。本文讲清模型、带你写第一个 Skill,并给出在生产环境安全交付 Skill 的最佳实践。
|Router One Team
如何在生产环境安全运行 AI Agent:可观测性、成本控制与故障恢复
通过可观测性追踪、预算护栏和自动故障恢复,在生产环境中安全运行 AI Agent。包含实用模式与代码示例。
|Router One Team