Comment résoudre les erreurs serveur ou délais dépassés sur les longues requêtes ?
Résolvez les délais dépassés avec le streaming dans Cherry Studio ou l’API. Découpez les tâches et vérifiez la consommation avant de renvoyer la requête.
Symptômes
- Vous envoyez un texte volumineux, de plusieurs dizaines à plusieurs centaines de milliers de caractères, ou demandez une réponse très longue.
- Après quelques minutes, vous voyez
Server error, please try again later (openai_error),bad response status code 524, un délai dépassé ou une connexion fermée. - Les requêtes courtes fonctionnent au même moment, mais changer de réseau, de VPN ou de point de connexion ne résout pas les échecs des longues tâches.
Cause
Avec une réponse non diffusée en streaming, le client ne reçoit le résultat qu’une fois la réponse entièrement générée. Une longue tâche peut dépasser le délai du client ou d’un intermédiaire de connexion avant l’arrivée du résultat.
Si seules les longues requêtes échouent régulièrement, vérifiez d’abord le mode de sortie et la taille de la tâche plutôt que de changer sans cesse de VPN. Le message d’erreur seul ne permet pas d’exclure un problème réseau ou une surcharge du service.
Solutions
1. Activer le streaming
Le streaming renvoie le contenu progressivement et réduit les délais dépassés dus à une longue absence de données. L’attente du premier fragment, le délai total du client ou une surcharge peuvent toujours provoquer un échec.
Cherry Studio
Ce chemin a été vérifié dans l’interface anglaise de Cherry Studio 2.0.14 :
- Ouvrez le chat de l’assistant et cliquez sur son nom en haut pour ouvrir Edit Assistant (modifier l’assistant).
- Sélectionnez Model (modèle).
- Vérifiez que Stream output (sortie en streaming) est activé.
Un utilisateur de Cherry Studio a signalé que l’activation du streaming avait résolu les délais dépassés récurrents sur ses longues tâches.
Appels directs à l’API
Définissez votre BetterToken API Key dans la variable d’environnement BETTERTOKEN_API_KEY et remplacez ... par votre tâche. Ajoutez "stream": true au corps de la requête ; --no-buffer désactive la mise en mémoire tampon de la sortie curl.
curl --no-buffer https://bettertoken.ai/v1/chat/completions \ -H "Authorization: Bearer $BETTERTOKEN_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "claude-opus-5-5", "stream": true, "messages": [{"role": "user", "content": "..."}] }'La réponse arrive sous forme d’événements SSE, et non d’un seul objet JSON complet. Avec un SDK, utilisez son interface de streaming pour lire les fragments.
2. Découper la tâche si le streaming est indisponible
Traitez les grands textes par sections ou demandez le résultat par étapes. Si le streaming échoue encore, réduisez l’entrée ou la longueur de chaque réponse.
3. Ne pas renvoyer plusieurs fois la même requête
N’attendez pas qu’une connexion fermée se rétablisse automatiquement. Un délai dépassé ou une déconnexion ne prouve pas que le serveur n’a pas exécuté la requête ni qu’aucune facturation n’a eu lieu. Vérifiez d’abord l’historique de consommation et conservez l’ID de requête, s’il existe, ainsi que l’erreur. Un nouvel envoi peut être exécuté et facturé à nouveau.
Heures de pointe
Une charge élevée peut ralentir les réponses et favoriser les délais dépassés. Les pics varient selon le modèle et la région : les soirées et week-ends ne garantissent pas de meilleures performances. Réessayez plus tard pour les tâches non urgentes.
Le problème persiste ?
Transmettez au support :
- L’heure approximative de l’erreur, avec le fuseau horaire.
- Le Model ID.
- Le nom et la version du client.
- Si le streaming était activé et si une partie de la réponse était arrivée avant l’erreur.
- Le message d’erreur, l’ID de requête s’il existe et la longueur approximative de l’entrée.
Ne transmettez pas de clé API complète ni de texte confidentiel.