给所有 Dify 应用一个统一的模型供应商
Dify 是目前使用最广的 LLM 应用与 Agent 工作流平台之一。每个上线的应用背后都要接一个模型供应商——如果每个系列都单独开号,就意味着多套 key、多份账单、多种故障模式。把 Router One 以 OpenAI-API-compatible 方式注册一次,一份凭证覆盖整个模型目录,每次应用调用都有成本 trace。
配置
在 Dify 中打开 设置 → 模型供应商 → 添加 OpenAI-API-compatible 模型,填入模型 ID、base URL 和 key:
dify-model-provider
# Dify → Settings → Model Provider → OpenAI-API-compatible Model Name: <model-id-from-/models> API endpoint: https://api.router.one/v1 API Key: sk-your-router-one-key
选择模型
从 /models 页复制精确的模型 ID——ID 区分大小写,页面同时列出每个模型的上下文窗口、能力和当前单价。建议为每个工具单独建一个 API Key,并设置 maxSpend 消费上限,这样单个工具跑飞不会影响其他工作负载。
验证与观测
发出第一个请求后,到 Dashboard → Logs 查看它的完整 trace:模型、tokens、花费、延迟和状态码。Dify 的每一次调用从此都有账本和轨迹,不再是黑盒。
常见问题
- 在 Dify 里选哪种供应商类型?
- 在模型供应商列表里选「OpenAI-API-compatible」。想暴露给应用的每个模型加一条,模型 ID 用 /models 页的精确 ID——添加后即可在 Dify 应用里选用。
- Dify 能通过网关用哪些模型?
- 目录里任何具备对话能力的模型——GPT、Claude、Gemini、DeepSeek、Mistral 等系列。/models 页是模型 ID 与单价的事实来源。
- 中国大陆能直连吗?
- 能。网关在大陆可直连、无需 VPN,配置与全球环境完全一致。
- 报 401/403/429 怎么排查?
- 先到 Dashboard → Logs 看请求有没有到达网关以及状态码,再对照错误码速查页逐项检查环境变量、Key 状态和限额。