模型路由故障时尝试其他供应商

当上游供应商返回可重试错误时，如果存在其他提供同一精确模型的健康供应商，Router One 可以继续尝试。你请求的模型 ID 不会改变；只有显式使用 model="auto" 时，服务端候选才可能跨模型或厂商。客户侧 Trace 展示最终模型、供应商与请求指标，中间失败尝试则由支持团队通过 request_id 在运维日志中关联排查。一个端点接入 40+ 支持模型，全球与中国大陆均可访问。

故障转移带来的三件事

什么会触发故障转移

故障转移是有条件的：响应必须符合重试条件，同时还要有其他健康供应商提供该精确请求模型。以下常见情况可能满足条件：

重试的概念

对于精确模型 ID，符合条件的调用可以尝试提供同一模型的健康供应商路由，并返回第一个成功结果；使用 model="auto" 时，服务端候选才可能跨模型或厂商。你只发一个请求，符合条件的供应商重试由 Router One 处理。

// 精确模型 -> 兼容供应商路由 -> 第一个成功结果
for (const route of healthyRoutes(modelFamily)) {
  try {
    return await call(route, request);
  } catch (e) {
    if (isRetryable(e)) continue; // 5xx, timeout, 429, 529
    throw e;
  }
}

竞品往往覆盖不足的可靠性

全球与中国大陆均可靠访问

可靠性不只是处理供应商错误——可达性同样重要。Router One 的端点在全球和中国大陆网络下均可访问。基于 2026-05-15 更新的中国延迟基准测试，Router One 在北京、上海、深圳的 p50 延迟为 110-130ms；实际表现会随网络和地区变化。

常见问题

相关页面

• LLM API 网关
• OpenAI 兼容 API
• LLM 可观测
• 智能路由方法论