重点信息
准备工作
工具特定要求
- Dify Cloud 或已启用插件的自托管 Dify
- 有权限安装模型插件并管理 workspace 模型的 Dify 账号
本指南只配置 LLM Chat。不要把 GPT 聊天模型添加成 Text Embedding、Rerank、Speech-to-Text 或 Text-to-Speech 模型。
安装
安装 OpenAI-compatible 模型插件
1
打开 Model Providers
在 Dify workspace 中进入 Integrations > Model Providers。
2
安装官方插件
点击 Install model providers,搜索并安装 OpenAI-API-compatible。Dify 官方将模型能力作为 workspace 级插件管理。安装完成后,同一 workspace 中有权限的应用都可以选择该 provider 下的模型。
3
添加自定义模型
在 OpenAI-API-compatible 卡片中点击 Add Model。如果界面先显示 Setup 或 Configure,进入后再选择添加模型。
手动配置
主要通过 Dify 的模型供应商界面完成以下设置,不需要手动编辑配置文件。填写模型配置
按照下表填写首个模型:
对于其他可选能力,先按保守配置保存:
- Thinking Mode Support:只有确认当前模型支持时才开启
- Stream function calling:首次验证选
Not Support - Vision Support:只有模型和当前接口都支持图片输入时才开启
- Structured Output:先关闭;普通对话成功后再测试
在应用中使用模型
1
创建或打开 Dify 应用
打开 Chatbot、Agent、Chatflow 或 Workflow。
2
选择模型
在应用的模型选择器或 LLM 节点中,选择 OpenAI-API-compatible 下刚添加的模型。
3
先测试普通对话
使用一条不带工具、不带图片的短输入完成首次调用:
4
再启用 Agent 能力
普通对话成功后,如果你需要工具调用,再编辑模型配置,将 Function Call Type 改为模型实际支持的模式。OpenAI-compatible 工具调用通常使用
Tool Call,但必须以当前模型和 endpoint 的实际支持情况为准。验证连接
发送一条简短测试消息。工具正常返回内容,并且没有认证或 Model ID 错误,就说明连接成功。修改配置后请完全退出并重新启动工具。切换模型
打开模型选择器,或修改配置中的Model 字段。请填写模型广场中的完整 Model ID,然后重新启动当前会话。
Dify 的自定义模型按模型 ID 单独配置。需要另一个 受支持提供商的模型时,在同一个 provider 下再次点击 Add Model,使用新的 Model Name 和 model name for API endpoint,Base URL 与 API Key 可以继续复用。
常见错误
保存时返回 401
- 检查 API Key 是否完整
- 确认Model ID 来自 受支持提供商
- 检查 BetterToken Dashboard 中的密钥状态和余额
保存时返回 404
- API Base URL 必须是
https://bettertoken.ai/v1 - 不要追加
/chat/completions - 检查 model name for API endpoint 是否与模型广场中的 ID 完全一致
显示 model not found
Model Name 可以影响 Dify 中的显示和选择,而实际请求使用的模型名称由 model name for API endpoint 决定。建议两个字段都填写同一个 受支持提供商的模型 ID。普通对话成功,但 Agent 工具失败
先把 Function Call Type 恢复为Not Support,确认基础 LLM 节点正常。只有在所选模型支持工具调用时,才改为 Tool Call 并重新测试工具参数。
Knowledge 无法选择当前模型作为 Embedding Model
这是正常的。聊天 LLM 不能替代 embedding 模型。本指南没有确认 BetterToken 提供 Dify 所需的 embedding 或 rerank 接口,请为 Knowledge 单独配置受支持的 embedding provider。进阶配置
支持的提供商
状态仅针对本页介绍的 BetterToken 接入方式。
配置方式说明
配置方式说明
- 手动配置:填写 API Key、Base URL 和 Model。
- 不支持:当前没有经过验证的直接配置方式。
相关指南
- Dify Model Providers
- Dify 官方 OpenAI-API-compatible 插件
- OpenAI-compatible API 和 Anthropic-compatible API 有什么区别?
- 如何选择模型?
技术说明
协议、endpoint 与 provider 内部字段
协议、endpoint 与 provider 内部字段
本页配置使用
https://bettertoken.ai/v1。工具会自行拼接 OpenAI-compatible endpoint;除非具体字段明确要求,否则不要在 Base URL 后附加 /chat/completions 或 /responses。
