https://www.bettertoken.ai/v1.
Что потребуется
- Dify Cloud или собственный экземпляр Dify с включёнными плагинами
- API Key BetterToken (зарегистрироваться)
- ID модели группы GPT из model plaza
- Права на установку model plugins и управление моделями workspace
Инструкция относится только к LLM Chat. Не добавляйте GPT chat model как Text Embedding, Rerank, Speech-to-Text или Text-to-Speech.
Установка OpenAI-compatible model plugin
1
Откройте Model Providers
В workspace Dify перейдите в Integrations > Model Providers.
2
Установите официальный плагин
Нажмите Install model providers, найдите OpenAI-API-compatible и установите его.Dify управляет model providers как плагинами уровня workspace. После установки приложения с нужными правами смогут выбирать модели этого provider.
3
Добавьте custom model
На карточке OpenAI-API-compatible нажмите Add Model. Если сначала отображается Setup или Configure, откройте этот раздел и выберите добавление модели.
Конфигурация модели
Для первой модели заполните поля так:
Для остальных возможностей сначала выберите консервативные значения:
- Thinking Mode Support: включайте только после проверки поддержки моделью
- Stream function calling: для первого теста выберите
Not Support - Vision Support: включайте, только если модель и endpoint принимают изображения
- Structured Output: сначала выключите и проверьте обычный чат
Использование модели в приложении
1
Создайте или откройте приложение Dify
Откройте Chatbot, Agent, Chatflow или Workflow.
2
Выберите модель
В model selector приложения или в узле LLM выберите модель, добавленную в OpenAI-API-compatible.
3
Сначала проверьте обычный чат
Выполните первый запрос с коротким текстом, без инструментов и изображений:
4
Затем включите возможности Agent
Когда обычный чат заработает, при необходимости измените конфигурацию модели. Укажите в Function Call Type режим, который поддерживает модель. В OpenAI-compatible API обычно используется
Tool Call, но поддержку нужно проверять для выбранных модели и endpoint.Добавление других моделей
Dify хранит отдельную custom-конфигурацию для каждого model ID. Чтобы добавить ещё одну модель группы GPT, снова нажмите Add Model в том же provider. Укажите новый ID в Model Name и model name for API endpoint. Base URL и API Key можно использовать повторно.Решение проблем
При сохранении возвращается 401
- Проверьте API Key
- Убедитесь, что ключ относится к группе GPT
- Проверьте статус ключа и баланс в Dashboard BetterToken
При сохранении возвращается 404
- API Base URL должен быть
https://www.bettertoken.ai/v1 - Не добавляйте
/chat/completions - Проверьте, что model name for API endpoint полностью совпадает с ID в model plaza
Dify сообщает model not found
Model Name влияет на отображение и выбор модели в Dify. В запрос отправляется значение model name for API endpoint. Укажите в обоих полях один и тот же ID модели группы GPT.Обычный чат работает, а инструменты Agent — нет
Верните Function Call Type вNot Support и проверьте базовый узел LLM. Выбирайте Tool Call, только если модель поддерживает вызов инструментов, а затем повторно проверьте их параметры.