跳转到主要内容
在 Dify 中接入 BetterToken 时,安装官方 OpenAI-API-compatible 模型插件,然后为每个要使用的 GPT 分组模型添加一条自定义 LLM 配置。API Base URL 填 https://www.bettertoken.ai/v1

开始前准备

  • Dify Cloud 或已启用插件的自托管 Dify
  • BetterToken API Key(注册并获取
  • 模型广场复制的 GPT 分组模型 ID
  • 有权限安装模型插件并管理 workspace 模型的 Dify 账号
本指南只配置 LLM Chat。不要把 GPT 聊天模型添加成 Text Embedding、Rerank、Speech-to-Text 或 Text-to-Speech 模型。

安装 OpenAI-compatible 模型插件

1

打开 Model Providers

在 Dify workspace 中进入 Integrations > Model Providers
2

安装官方插件

点击 Install model providers,搜索并安装 OpenAI-API-compatibleDify 官方将模型能力作为 workspace 级插件管理。安装完成后,同一 workspace 中有权限的应用都可以选择该 provider 下的模型。
3

添加自定义模型

OpenAI-API-compatible 卡片中点击 Add Model。如果界面先显示 SetupConfigure,进入后再选择添加模型。

填写模型配置

按照下表填写首个模型:
API Base URL 只填 https://www.bettertoken.ai/v1。不要追加 /chat/completions,Dify 插件会自行请求对应 endpoint。
对于其他可选能力,先按保守配置保存:
  • Thinking Mode Support:只有确认当前模型支持时才开启
  • Stream function calling:首次验证选 Not Support
  • Vision Support:只有模型和当前接口都支持图片输入时才开启
  • Structured Output:先关闭;普通对话成功后再测试
点击 Save。Dify 会验证 API Key、Base URL 和模型 ID。

在应用中使用模型

1

创建或打开 Dify 应用

打开 Chatbot、Agent、Chatflow 或 Workflow。
2

选择模型

在应用的模型选择器或 LLM 节点中,选择 OpenAI-API-compatible 下刚添加的模型。
3

先测试普通对话

使用一条不带工具、不带图片的短输入完成首次调用:
4

再启用 Agent 能力

普通对话成功后,如果你需要工具调用,再编辑模型配置,将 Function Call Type 改为模型实际支持的模式。OpenAI-compatible 工具调用通常使用 Tool Call,但必须以当前模型和 endpoint 的实际支持情况为准。

添加更多模型

Dify 的自定义模型按模型 ID 单独配置。需要另一个 GPT 分组模型时,在同一个 provider 下再次点击 Add Model,使用新的 Model Namemodel name for API endpoint,Base URL 与 API Key 可以继续复用。

常见问题

保存时返回 401

  • 检查 API Key 是否完整
  • 确认密钥属于 GPT 分组
  • 检查 BetterToken Dashboard 中的密钥状态和余额

保存时返回 404

  • API Base URL 必须是 https://www.bettertoken.ai/v1
  • 不要追加 /chat/completions
  • 检查 model name for API endpoint 是否与模型广场中的 ID 完全一致

显示 model not found

Model Name 可以影响 Dify 中的显示和选择,而实际请求使用的模型名称由 model name for API endpoint 决定。建议两个字段都填写同一个 GPT 分组模型 ID。

普通对话成功,但 Agent 工具失败

先把 Function Call Type 恢复为 Not Support,确认基础 LLM 节点正常。只有在所选模型支持工具调用时,才改为 Tool Call 并重新测试工具参数。

Knowledge 无法选择当前模型作为 Embedding Model

这是正常的。聊天 LLM 不能替代 embedding 模型。本指南没有确认 BetterToken 提供 Dify 所需的 embedding 或 rerank 接口,请为 Knowledge 单独配置受支持的 embedding provider。

相关文档