跳到主要内容
注册

一个 LLM API 网关,调用所有模型

LLM API 网关(也叫大模型 API 网关)是所有模型调用都要经过的统一入口,不必再把每个模型逐个接进应用。Router One 是一个 OpenAI 兼容的网关,用一个 base URL、一把 Key 即可调用 30+ 个模型——GPT、Claude、Gemini、Grok。直接调模型是个黑盒;经过网关,你得到一本账(每次调用花了多少)、一条轨迹(模型、请求 ID、用量和状态)和一套管控(按 Key 的预算)。全球与中国大陆均可直连。

网关能做什么

一个 OpenAI 兼容端点

把现有的 OpenAI SDK 指向 https://api.router.one/v1,即可通过同一套 Chat Completions 接口调用 30+ 个模型——GPT、Claude、Gemini、Grok。无需逐模型换 SDK,无需重写代码。

智能路由

生产流量默认使用 model_name 策略,请求由你指定的模型处理:它的各条线路按网关管理的顺序尝试,持续报上游错误的线路会被排到最后,恢复后再回到正常顺序。发送 model="auto" 时,网关先把请求分到低、中、高三档之一,再从该档服务端维护的模型列表中选模型处理。

自动故障转移

指定模型的请求遇到可重试上游错误时,网关可能尝试下一个能提供同一模型的健康供应商,不会悄悄换成另一个模型。

逐请求 Trace

请求日志展示已记录调用的模型、请求 ID、Token、结算费用、总耗时(产生过输出的流式请求另有首字延迟)、状态及已有的脱敏错误,不公开上游供应商身份、线路或内部尝试。

各带预算的多 Key

一个账号可创建多把 API Key,每把都有独立的消费上限(maxSpend)和过期时间。为每个应用或环境分配独立作用域的 Key。限流(rateLimit、tokenLimitTpm)按平台默认值执行,可申请调高。

预付费按量钱包

充值预付费钱包,按量调用按各模型公示单价逐笔计费,汇率与支付通道费在结账页单独列出。支付宝或银行卡在同一个托管收银台完成充值,也支持 6 条链上的 USDT/USDC。用多少扣多少。

Claude Code 与 Codex 原生支持

Claude Code 对接 Anthropic 兼容端点 https://api.router.one;OpenAI Codex CLI 使用 OpenAI 兼容 base URL。Claude Code 设置 ANTHROPIC_BASE_URL 与 ANTHROPIC_AUTH_TOKEN 两个环境变量即可;Codex CLI 在 ~/.codex/config.toml 里写一行顶层的 model = "gpt-5.6-sol"(与一键安装一致),再加一段三行的 provider 配置(base_url、wire_api = "responses"、env_key),并导出对应的 Key。

全球 + 中国直连

同一个网关既可从全球网络访问,也可从中国大陆直连,一次集成即可同时服务两侧团队,无需另做配置。

账本、轨迹与管控

网关位于你的应用和模型之间,因此能做三件直接调用做不到的事。账本记录每次请求按公示费率的花费,从预付费钱包中扣减。请求日志记录模型、请求 ID、Token、结算费用、已记录延迟、状态及已有的脱敏错误。管控层在请求到达供应商之前就执行按 Key 的预算与默认限流,让失控循环或泄露的 Key 无法掏空钱包。

改一个 base URL 即可接入

Router One 使用 OpenAI Chat Completions API 规范,绝大多数集成只需改 base URL 和 Key 即可迁移。设置好两个环境变量,现有代码照常运行。

terminal
# 把每一次模型调用都路由经过网关
export OPENAI_BASE_URL=https://api.router.one/v1
export OPENAI_API_KEY=sk-your-router-one-key

常见问题

什么是 LLM API 网关?

LLM API 网关是你把每一次模型调用都路由经过的统一端点,无需逐个接入各家供应商。它在一处提供调用 30+ 个模型的统一接口,加上路由、故障转移、成本与延迟 Trace,以及按 Key 的预算管控——为你的模型用量提供一本账、一条轨迹和一套管控。更完整的解释见 /blog/what-is-ai-api-gateway。

Router One 是 OpenAI 兼容的吗?

Router One 是 OpenAI 兼容的:它在 https://api.router.one/v1 实现了 OpenAI Chat Completions API,所有支持 OpenAI 的库和工具改个 base URL 就能用。Claude Code 使用 Anthropic 兼容端点 https://api.router.one。

可以调用哪些模型?

覆盖主流模型族的 30+ 个模型——GPT、Claude、Gemini、Grok,都通过同一个统一端点调用。完整目录和每个模型的费率见 /models 页。

路由如何决定用哪个模型?

生产环境默认使用 model_name 策略,按你指定的模型路由:只尝试提供该模型的线路,按网关管理的顺序进行,持续报上游错误的线路会被排到最后,恢复后再回到正常顺序。发送 model="auto" 时,网关把请求分到低、中、高三档之一,再从该档服务端维护的列表中选模型。控制台 → 日志展示模型与请求 ID。

供应商故障了怎么办?

指定模型的请求遇到可重试上游错误(429、5xx、超时)时,可能改由下一个能提供同一模型的健康供应商重试;持续出错的线路会被排到最后,恢复后再回到正常顺序。控制台 → 日志(请求日志)展示模型调用的用量、结算费用、已记录延迟与状态,不公开上游供应商、服务线路或内部尝试。

计费如何运作?

你充值预付费钱包,按量调用按各模型公示单价逐笔计费,汇率与支付通道费在结账页单独列出。支付宝或银行卡在同一个托管收银台完成充值,也支持 6 条链上的 USDT/USDC。每把 API Key 可设独立的消费上限,用量始终在预算之内。也可以订阅 Pro、Max、Ultra 套餐:按请求计的月度配额,由每个档位内的适用模型共享;超出配额或不在套餐覆盖范围内的调用,按公示按量费率从钱包扣费。套餐与费用见 /pricing。

按网关评估任务选择下一步

按你手头的任务选:迁移现有 OpenAI 客户端、了解路由与故障转移、追踪请求成本、把网关与中转平台或其他网关对比、接入你的客户端,或在上面搭自己的服务。

迁移迁移现有 OpenAI 客户端在切换生产流量前,先按准确的 base URL 与 Key 配置完成替换,并确认 SDK 兼容请求约定。请求约定核对经网关的结构化输出网关在调用模型前校验 response_format 的哪些部分、原样转发什么,以及为什么强制执行仍由模型负责。路由理解模型与供应商选择了解指定模型请求、同模型故障转移、故障线路自动降级与 model="auto" 分档如何协同。成本管控追踪请求与 API Key 花费从单次请求的 Token 与计费成本继续查看 API Key 和账号级用量。验证核对请求用量、延迟与费用通过请求 Trace 核对模型与请求 ID、Token 数、延迟、状态和计费成本。用量明细核对缓存 token 与请求成本按协议读取 usage 字段,区分缓存读写,避免把同一批输入 token 重复相加。选型对比生产级网关与中转 API 平台从稳定性、可追溯与计费口径五个维度,对比托管网关与拼接式中转平台的实际差异。可靠性看请求失败后会发生什么可重试的上游错误(5xx、超时)在存在可用健康线路时按同一个精确请求模型重试——有条件生效,不是零停机保证。客户端接入把你的客户端或 SDK 接进来按客户端进入各自的接入指南,把编辑器、CLI 或 SDK 指向网关端点。框架配置 LlamaIndex把 LlamaIndex 的 OpenAI 兼容 LLM 类指向网关 base URL,改字符串切换模型。模型目录复制当前的模型 ID 与单价实时目录列出网关服务的每个模型 ID、每 1M token 单价、上下文窗口、能力标签,以及它响应的端点。快速开始发出第一个请求创建 Key、选对 base URL(带不带 /v1),再用 curl、OpenAI SDK 或 Anthropic SDK 发出第一个请求。转售方在托管上游上搭你自己的 LLM API 服务每个下游客户一把 API Key、各设 maxSpend 预算,再按 Key 的日志、用量与 CSV 导出对账。证据切换前先核对可用性证据/models 上各模型 7 天与 30 天的成功占比、/status 上的活跃事件状态,以及 SLA 条款。
与其他网关对比(7)

让每一次模型调用都经过同一个网关。

立即接入