Wichtige Einstellungen
Voraussetzungen
- Die aktuelle Version des Tools ist installiert
- Ein BetterToken API Key: Registriere dich und erhalte einen
- Eine Model ID aus der model plaza
Zusätzliche Anforderungen
- Dify Cloud oder eine selbst gehostete Dify-Instanz mit aktivierten Plugins
- Berechtigung zur Installation von Modell-Plugins und Verwaltung von Workspace-Modellen
Diese Anleitung konfiguriert nur LLM Chat. Füge ein GPT-Chatmodell nicht als Text Embedding, Rerank, Speech-to-Text oder Text-to-Speech hinzu.
Installation
OpenAI-kompatibles Modell-Plugin installieren
1
Model Providers öffnen
Gehe im Dify-Workspace zu Integrations > Model Providers.
2
Offizielles Plugin installieren
Klicke auf Install model providers, suche nach OpenAI-API-compatible und installiere es.Dify verwaltet Modell-Provider als Plugins auf Workspace-Ebene. Nach der Installation können Apps mit den erforderlichen Workspace-Berechtigungen Modelle dieses Providers auswählen.
3
Eigenes Modell hinzufügen
Klicke auf der Karte OpenAI-API-compatible auf Add Model. Wenn die Karte zuerst Setup oder Configure zeigt, öffne sie und wähle dann die Option zum Hinzufügen eines Modells.
Manuelle Einrichtung
Führe diese Einrichtung in der Dify-Benutzeroberfläche für Modell-Provider durch. Du musst keine Konfigurationsdatei bearbeiten.Modellkonfiguration eingeben
Verwende diese Werte für das erste Modell:
Verwende für die übrigen optionalen Funktionen konservative Werte:
- Thinking Mode Support: aktiviere dies erst nach Bestätigung der Modellunterstützung
- Stream function calling: wähle für den ersten Test
Not Support - Vision Support: aktiviere dies nur, wenn Modell und Endpunkt Bildeingaben akzeptieren
- Structured Output: lasse es deaktiviert, bis normaler Chat funktioniert
Modell in einer App verwenden
1
Dify-App erstellen oder öffnen
Öffne einen Chatbot, Agent, Chatflow oder Workflow.
2
Modell auswählen
Wähle in der Modellauswahl der App oder in einem LLM-Knoten das Modell, das du unter OpenAI-API-compatible hinzugefügt hast.
3
Zuerst einfachen Chat testen
Führe die erste Anfrage mit einer kurzen Texteingabe ohne Tools oder Bilder aus:
4
Agent-Funktionen anschließend aktivieren
Bearbeite nach erfolgreichem einfachem Chat die Modellkonfiguration, wenn du Tool-Aufrufe benötigst. Setze Function Call Type auf den vom Modell unterstützten Modus. OpenAI-kompatibles Tool Calling verwendet normalerweise
Tool Call, aber du musst die Unterstützung für das ausgewählte Modell und den Endpunkt prüfen.Verbindung überprüfen
Sende eine kurze Testanweisung. Wenn das Tool ohne Authentifizierungs- oder Model-ID-Fehler antwortet, funktioniert die Verbindung. Starte das Tool nach einer Konfigurationsänderung vollständig neu.Modelle wechseln
Öffne die Modellauswahl oder ändere das FeldModel in der Konfiguration. Verwende die genaue Model ID aus der model plaza und starte dann die aktuelle Sitzung neu.
Dify speichert die eigene Konfiguration pro Model ID. Um ein weiteres Modell eines unterstützten Providers hinzuzufügen, klicke unter demselben Provider erneut auf Add Model. Verwende die neue ID sowohl für Model Name als auch für model name for API endpoint. Du kannst Base URL und API Key wiederverwenden.
Häufige Fehler
Speichern gibt 401 zurück
- Prüfe, ob der API Key vollständig ist
- Bestätige, dass die Model ID vom unterstützten Provider stammt
- Prüfe Key-Status und Guthaben im BetterToken Dashboard
Speichern gibt 404 zurück
- Die API Base URL muss
https://www.bettertoken.ai/v1sein - Hänge nicht
/chat/completionsan - Stelle sicher, dass model name for API endpoint genau der ID aus der model plaza entspricht
Dify meldet Modell nicht gefunden
Model Name kann beeinflussen, wie Dify das Modell anzeigt und auswählt. Das tatsächlich angeforderte Modell wird durch model name for API endpoint gesteuert. Verwende in beiden Feldern dieselbe Model ID eines unterstützten Providers.Einfacher Chat funktioniert, aber Agent-Tools schlagen fehl
Setze Function Call Type zurück aufNot Support und überprüfe einen grundlegenden LLM-Knoten. Ändere es nur zu Tool Call, wenn das ausgewählte Modell Tool Calling unterstützt, und teste dann die Tool-Argumente erneut.
Knowledge kann dieses Modell nicht als Embedding Model verwenden
Das ist zu erwarten. Ein Chat-LLM kann kein Embedding-Modell ersetzen. Diese Anleitung bestätigt keine BetterToken-Embedding- oder Rerank-Endpunkte für Dify; konfiguriere für Knowledge separat einen unterstützten Embedding Provider.Advanced setup
Unterstützte Provider
Die Statusangaben gelten für die auf dieser Seite beschriebene BetterToken-Konfiguration.
Bedeutung der Einrichtungsmethoden
Bedeutung der Einrichtungsmethoden
- Manuelle Konfiguration: Gib API Key, Base URL und Model ein.
- Nicht unterstützt: Derzeit gibt es keine verifizierte Methode für die direkte Verbindung.
Verwandte Anleitungen
- Dify Model Providers
- Offizielles OpenAI-API-kompatibles Dify-Plugin
- OpenAI-kompatible API und Anthropic-kompatible API: Unterschiede
- Modell auswählen
Technische Details
Protokoll, Endpunkt und interne Provider-Felder
Protokoll, Endpunkt und interne Provider-Felder
Diese Einrichtung verwendet
https://www.bettertoken.ai/v1. Das Tool hängt den OpenAI-kompatiblen Endpunktpfad an. Füge /chat/completions oder /responses nicht hinzu, sofern ein bestimmtes Feld dies nicht ausdrücklich verlangt.
