Aller au contenu principal

3 documents tagués avec "LLM"

Voir tous les tags

Gestion des Limites de Tokens

Lors de l’utilisation d’API de modèles de langage (LLM) comme OpenAI GPT-4, chaque appel API est soumis à une limite maximale de tokens (par exemple, 8192 ou 128k tokens). Les conversations longues dépassent facilement cette limite, surtout si l’on conserve l’historique pour assurer la continuité.

Utilisations de l'API OpenAI

La structure du client API OpenAI fournie révèle plusieurs cas d'utilisation courants pour interagir avec les modèles d'OpenAI :