Перейти к содержимому
Зарегистрироваться бесплатно
Подключение AI-платформ

Dify OpenAI API: Base URL и устранение timeout

Подключите Dify к OpenAI API-compatible endpoint BetterToken, задайте API Key и Model ID и устраните timeout, 401 или 404. С примерами и частыми ошибками.

Чтобы подключить Dify к OpenAI API-compatible endpoint BetterToken, установите плагин модели, укажите Base URL https://bettertoken.ai/v1, API Key и точный Model ID.

Dify OpenAI API-compatible timeout

При timeout сначала проверьте обычный чат без Agent tools, затем увеличьте timeout в настройках Dify и повторите короткий запрос. Сравните интеграцию с n8n, проверьте правильный Base URL и выберите модель по руководству.

Ключевые параметры

ПолеЗначение
API KeyAPI Key BetterToken
Base URLhttps://bettertoken.ai/v1
ModelАктуальный Model ID из каталога моделей

Подготовка

Установка

Установка OpenAI-compatible model plugin

Откройте Model Providers

В workspace Dify перейдите в Integrations > Model Providers.

Установите официальный плагин

Нажмите Install model providers, найдите OpenAI-API-compatible и установите его.

Dify управляет model providers как плагинами уровня workspace. После установки приложения с нужными правами смогут выбирать модели этого provider.

Добавьте custom model

На карточке OpenAI-API-compatible нажмите Add Model. Если сначала отображается Setup или Configure, откройте этот раздел и выберите добавление модели.

Ручная настройка

Выполните эту настройку в интерфейсе провайдеров моделей Dify. Редактировать конфигурационный файл вручную не требуется.

ПолеЗначение
API KeyAPI Key BetterToken
Base URLhttps://bettertoken.ai/v1
ModelАктуальный Model ID из каталога моделей

Что потребуется

  • Dify Cloud или собственный экземпляр Dify с включёнными плагинами
  • API Key BetterToken (зарегистрироваться)
  • Model ID из model plaza
  • Права на установку model plugins и управление моделями workspace

Конфигурация модели

Для первой модели заполните поля так:

Поле DifyРекомендуемое значение
Model TypeLLM
Model NameModel ID из model plaza
Model display nameможно повторить Model Name
API KeyAPI Key BetterToken
API Base URLhttps://bettertoken.ai/v1
model name for API endpointтот же ID, что и в Model Name
Completion modeChat
Model context sizeпо возможностям модели; если не уверены, оставьте значение плагина
Upper bound for max tokensне выше лимита модели; для первого теста оставьте значение плагина
Compatibility modeOpenAI compatible / strict
Token parameter nameAuto
Function Call TypeNot Support для первого теста

Для остальных возможностей сначала выберите консервативные значения:

  • Thinking Mode Support: включайте только после проверки поддержки моделью
  • Stream function calling: для первого теста выберите Not Support
  • Vision Support: включайте, только если модель и endpoint принимают изображения
  • Structured Output: сначала выключите и проверьте обычный чат

Оставьте Include Usage in Stream (stream_include_usage) со значением по умолчанию Enabled. Параметр добавляет stream_options: {include_usage: true}, чтобы получить число токенов в последнем фрагменте потока; отключайте его, только если endpoint отклоняет это поле. Для Stream mode auth (stream_mode_auth) по умолчанию задано Not Use; значение Use включает потоковый запрос для проверки учётных данных, не меняя обычные настройки генерации. См. официальные поля provider.

Нажмите Save. Dify проверит API Key, Base URL и ID модели.

Использование модели в приложении

Создайте или откройте приложение Dify

Откройте Chatbot, Agent, Chatflow или Workflow.

Выберите модель

В model selector приложения или в узле LLM выберите модель, добавленную в OpenAI-API-compatible.

Сначала проверьте обычный чат

Выполните первый запрос с коротким текстом, без инструментов и изображений:

Ответь только: Подключение работает

Затем включите возможности Agent

Когда обычный чат заработает, при необходимости измените конфигурацию модели. Укажите в Function Call Type режим, который поддерживает модель. В OpenAI-compatible API обычно используется Tool Call, но поддержку нужно проверять для выбранных модели и endpoint.

Решение проблем

При сохранении возвращается 401

  • Проверьте API Key
  • Убедитесь, что Model ID указан в model plaza
  • Проверьте статус ключа и баланс в Dashboard BetterToken

При сохранении возвращается 404

  • API Base URL должен быть https://bettertoken.ai/v1
  • Не добавляйте /chat/completions
  • Проверьте, что model name for API endpoint полностью совпадает с ID в model plaza

Dify сообщает model not found

Model Name влияет на отображение и выбор модели в Dify. В запрос отправляется значение model name for API endpoint. Укажите в обоих полях один и тот же Model ID из model plaza.

Обычный чат работает, а инструменты Agent — нет

Верните Function Call Type в Not Support и проверьте базовый узел LLM. Выбирайте Tool Call, только если модель поддерживает вызов инструментов, а затем повторно проверьте их параметры.

Knowledge не позволяет выбрать эту модель как Embedding Model

Это ожидаемо: chat LLM не заменяет embedding model. Инструкция не подтверждает наличие у BetterToken embedding или rerank endpoints для Dify. Подключите для Knowledge отдельный поддерживаемый embedding provider.

Проверка подключения

Отправьте короткий тестовый запрос. Если инструмент возвращает ответ без ошибок авторизации или Model ID, подключение работает. После изменения конфигурации полностью перезапустите инструмент.

Смена модели

Откройте селектор моделей или измените поле Model в конфигурации. Используйте точный Model ID из каталога моделей, затем перезапустите текущую сессию.

Dify хранит отдельную custom-конфигурацию для каждого model ID. Чтобы добавить ещё одну модель из model plaza, снова нажмите Add Model в том же provider. Укажите новый ID в Model Name и model name for API endpoint. Base URL и API Key можно использовать повторно.

Частые ошибки

ОшибкаЧто проверить
401 или UnauthorizedПроверьте API Key и удалите лишние пробелы.
403Проверьте, доступен ли выбранный Model ID для API Key.
timeoutСначала проверьте обычный чат без Agent tools, затем увеличьте timeout и повторите короткий запрос.
404Проверьте Base URL и не добавляйте путь конкретного endpoint.
model not foundСкопируйте актуальный Model ID из каталога моделей.
Настройки не применилисьСохраните файл и полностью перезапустите инструмент.

Расширенная настройка

Связанные материалы

Технические детали

Протокол, endpoint и внутренние параметры provider

В описанном сценарии используется Base URL https://bettertoken.ai/v1. Инструмент сам добавляет путь OpenAI-compatible endpoint. Не добавляйте /chat/completions или /responses к Base URL, если это не требуется конкретным полем.