先说结论：模型路由分两层。选模型是在延迟、成本和质量之间做取舍，这个选择由你来做——发送 model="auto" 时则交给网关的分档机制。把请求送到这个模型，关心的是可靠性：由哪条线路处理、线路失败后怎么办。在 Router One 里，你指定的模型就是处理请求的模型，故障转移只在同一模型的线路之间进行。
当你的应用向 LLM 发送请求时，总得有人决定由哪个模型来处理。简单的做法是把决策写死——每个请求都发给同一个供应商的同一个模型。但在生产环境中，当你每分钟要处理成千上万个不同场景的请求时，这种做法意味着性能和成本上的双重浪费。
什么是模型路由？
模型路由是位于你的应用和 LLM 供应商之间的决策层。根据路由模式，它要么遵循你指定的精确模型，要么从服务端维护的列表里替你选一个模型。
最简单的路由就是静态映射：「永远使用 Claude Sonnet」。在模型层面，这也是 Router One 的默认行为：生产流量采用 model_name 策略，你指定的模型就是处理请求的模型。网关仍要决定的，是先试这个模型的哪条线路、线路失败了怎么办。使用 model="auto" 时，网关把请求分到低、中、高三档之一，由该档服务端模型列表中的模型处理。
路由的价值随着你接入的模型和供应商数量增加而增长。只有一个模型时，没什么可路由的。但当你有十个模型、分布在四个供应商时，路由决策就能在每一个请求上显著影响成本、速度和可靠性。
延迟、成本与质量：取舍发生在哪里
标题里的三个维度确实需要取舍，但取舍发生在选模型的时候，而不是在网关里逐请求重新计算。Router One 不会按实测延迟或公示价格给线路重新排序，也不给回答质量打分。
延迟
这个模型的响应速度有多快？延迟不仅因模型而异，同一模型在不同供应商之间也会有差异，而且全天会随负载波动。一个凌晨两点响应只需 200 毫秒的模型，到了高峰时段可能需要 2 秒。
对聊天机器人、自动补全、交互式 agent 这类对延迟敏感的负载，真正的抓手是选模型：把它们放到更小、更快的模型上，并用自己的流量实测。每个请求的延迟都记在请求日志里，切换前可以按时间范围比较不同模型。
成本
这个请求要花多少钱？不同模型和供应商之间的定价差异巨大。同一个请求放在旗舰模型上，成本可能比小模型高一个数量级甚至更多——各模型公示价见模型目录。对于高流量的工作负载，这种差异会直接转化为每月数千美元的开支。
这里要权衡的是各模型的公示单价，选择权在你：Router One 不会把精确模型请求换到更便宜的模型上。在自己的代码里把简单任务交给小模型，或者发送 model="auto"，让分档机制来选。
可靠性
这条线路最近的尝试成功了吗？这是网关替你管理的维度，下一节说明具体做法。
响应质量仍由应用在选择模型时负责。Router One 公开的路由承诺不包括质量评分或用户可配置的质量权重。
Router One 如何为同一个模型排列线路
常用模型通常有不止一条上游线路。对精确模型请求，网关会收集服务该模型的线路，按网关设定的优先顺序依次尝试，第一条正常应答的线路处理这次请求。有三种机制让这个顺序保持可靠：
- 换线路重试。 某条线路出现 429、5xx 或超时时，请求会换到同一模型的另一条线路重试，绝不会换成别的模型。
- 冷却。 返回 429 的线路会先冷却一段时间再试；反复失败的线路会被暂时摘除，冷却结束后再探测。
- 故障线路降级。 自 2026-09-24 起，持续报上游错误的线路会被自动排到最后，只作为最后兜底，错误率恢复后再回到正常顺序。
Router One 不公开这些机制的阈值和统计窗口，也都不支持用户配置。它们只改变先试哪条线路，从不改变由哪个模型回答。
默认路由与 auto 路由模式
Router One 有意区分精确模型选择和自动模型选择：
- 默认
model_name策略 —— 标准 OpenAI 兼容请求里的模型 id 就是处理请求的模型；故障转移只在该模型的线路之间进行。 model="auto"—— 网关用规则加一个轻量分类器把每个请求分到低、中、高三档之一，由该档服务端模型列表中的模型处理，并在这些候选中重试符合条件的失败。可选的X-Route-Session请求头能让同一段对话在一段时间内保持同一选择。各档模型列表由服务端维护，会随目录变化。
目前公开的能力范围不包括项目级或 API Key 级的路由权重、质量评分，也不接受请求体里的自定义 router 对象。
自动故障转移：检测故障并重新路由
供应商宕机和服务降级不是小概率事件——它们经常发生。任何依赖单一供应商而没有故障转移的生产系统，都在承担不必要的停机风险。
Router One 的故障转移有三个边界：
只在同一模型内。 符合条件的失败（429、5xx 或超时）会换到服务你所请求模型的另一条线路重试。该模型没有可用线路时，请求返回错误，而不是换一个模型来回答。
没有用户可调的阈值。 Router One 不把“十秒内三个 500”之类固定规则作为用户可配置的公开能力。
恢复。 冷却中的线路在冷却结束后重新探测，被降级的线路在错误率恢复后回到正常顺序。对外不承诺特定的探测节奏。
Router One 如何实现路由
Router One 的路由引擎首先保持默认行为明确：生产环境使用 model_name 策略。精确模型请求因此保留你选的模型，路由只决定由该模型的哪条线路来处理。
使用 model="auto" 时，由分档机制选模型，符合条件的失败在服务端候选集中重试。两种模式都不代表存在质量评分或项目/API Key 权重控制。
请求日志记录模型、请求 ID、Token 用量、成本、延迟与状态，不公开实际上游供应商、渠道或内部路由尝试。需要排查问题时，请提供请求 ID。
路由模式见智能路由，调用失败后的处理见自动故障转移，承诺边界见路由方法说明。
常见问题
什么是 AI 模型路由？
模型路由是位于你的应用和 LLM 供应商之间的决策层。Router One 有两种模式：默认由你指定的精确模型处理请求，故障转移只在该模型的线路之间进行；使用 model="auto" 时，网关把每个请求分到低、中、高三档之一，由该档服务端模型列表中的模型处理。
指定精确模型时，Router One 会改我的路由吗？
不会换模型。生产流量默认采用 model_name 策略，精确模型请求保留你的模型选择；某条线路出现 429、5xx 或超时时，请求会换到同一模型的另一条线路重试。按档位选模型只在你发送 model="auto" 时生效。
Router One 会按延迟或成本给线路排序吗？ 不会。同一模型的线路按网关设定的优先顺序尝试，Router One 不会按实测延迟或公示价格重新排序。改变顺序的只有失败：冷却中的线路会被跳过，持续报上游错误的线路会被排到最后，恢复后再回到正常顺序。对外不提供质量评分或用户可配置的路由权重。
某条线路一直失败会怎样？ 反复失败的线路会被暂时摘除，冷却结束后再探测。自 2026-09-24 起，持续报上游错误的线路还会被排到最后，只作为最后兜底，直到错误率恢复。Router One 不公开具体阈值。
上游调用失败时会发生什么？ 当一次上游失败符合重试条件（429、5xx 或超时）且该模型还有其他可用线路时，网关会自动换线路重试。调用失败后的处理见自动故障转移。
开始更智能的路由
如果你仍把所有 LLM 流量发给单一供应商，同模型的多线路故障转移可以降低这种依赖，同时保持精确模型请求可预期。
在 router.one 注册账号，保持标准 OpenAI 兼容请求结构，并用已文档化的路由模式与请求日志在自己的工作负载上验证实际行为。