https://www.bettertoken.ai/v1。
开始前准备
- Dify Cloud 或已启用插件的自托管 Dify
- BetterToken API Key(注册并获取)
- 从模型广场复制的 GPT 分组模型 ID
- 有权限安装模型插件并管理 workspace 模型的 Dify 账号
本指南只配置 LLM Chat。不要把 GPT 聊天模型添加成 Text Embedding、Rerank、Speech-to-Text 或 Text-to-Speech 模型。
安装 OpenAI-compatible 模型插件
1
打开 Model Providers
在 Dify workspace 中进入 Integrations > Model Providers。
2
安装官方插件
点击 Install model providers,搜索并安装 OpenAI-API-compatible。Dify 官方将模型能力作为 workspace 级插件管理。安装完成后,同一 workspace 中有权限的应用都可以选择该 provider 下的模型。
3
添加自定义模型
在 OpenAI-API-compatible 卡片中点击 Add Model。如果界面先显示 Setup 或 Configure,进入后再选择添加模型。
填写模型配置
按照下表填写首个模型:
对于其他可选能力,先按保守配置保存:
- Thinking Mode Support:只有确认当前模型支持时才开启
- Stream function calling:首次验证选
Not Support - Vision Support:只有模型和当前接口都支持图片输入时才开启
- Structured Output:先关闭;普通对话成功后再测试
在应用中使用模型
1
创建或打开 Dify 应用
打开 Chatbot、Agent、Chatflow 或 Workflow。
2
选择模型
在应用的模型选择器或 LLM 节点中,选择 OpenAI-API-compatible 下刚添加的模型。
3
先测试普通对话
使用一条不带工具、不带图片的短输入完成首次调用:
4
再启用 Agent 能力
普通对话成功后,如果你需要工具调用,再编辑模型配置,将 Function Call Type 改为模型实际支持的模式。OpenAI-compatible 工具调用通常使用
Tool Call,但必须以当前模型和 endpoint 的实际支持情况为准。添加更多模型
Dify 的自定义模型按模型 ID 单独配置。需要另一个 GPT 分组模型时,在同一个 provider 下再次点击 Add Model,使用新的 Model Name 和 model name for API endpoint,Base URL 与 API Key 可以继续复用。常见问题
保存时返回 401
- 检查 API Key 是否完整
- 确认密钥属于 GPT 分组
- 检查 BetterToken Dashboard 中的密钥状态和余额
保存时返回 404
- API Base URL 必须是
https://www.bettertoken.ai/v1 - 不要追加
/chat/completions - 检查 model name for API endpoint 是否与模型广场中的 ID 完全一致
显示 model not found
Model Name 可以影响 Dify 中的显示和选择,而实际请求使用的模型名称由 model name for API endpoint 决定。建议两个字段都填写同一个 GPT 分组模型 ID。普通对话成功,但 Agent 工具失败
先把 Function Call Type 恢复为Not Support,确认基础 LLM 节点正常。只有在所选模型支持工具调用时,才改为 Tool Call 并重新测试工具参数。