Puis-je réduire la latence de l’API ?
Puis-je réduire la latence de l’API ?
Pour obtenir les informations les plus complètes et à jour sur la réduction de la latence, nous vous recommandons de consulter nos bonnes pratiques d’optimisation de la latence.
Via l’API, vous pouvez également optimiser le processus de génération de l’IA à l’aide du paramètre optimize_streaming_latency, mais celui-ci est obsolète et nous ne recommandons plus de l’utiliser. Pour en savoir plus, consultez notre documentation API.