Fenêtre de contexte
La fenêtre de contexte, c’est la quantité de texte qu’un modèle peut garder sous les yeux en même temps : tes questions, ce que tu as collé et ses propres réponses, le tout ensemble. Elle se mesure en tokens, et quand elle est pleine, le début de la conversation disparaît.
Ce qu’est vraiment la fenêtre de contexte
C’est un bureau, pas une mémoire. Ce qui est sur le bureau, le modèle le voit. Ce qui en est tombé n’existe plus pour lui, même si tu l’as écrit il y a vingt minutes.
Sa taille s’exprime en tokens. Une grande fenêtre de contexte peut contenir des centaines de pages, mais la taille ne garantit pas que le modèle regarde le milieu de la pile aussi attentivement que les extrémités.
Pourquoi le modèle oublie
Quand une conversation dépasse la fenêtre de contexte, la partie la plus ancienne disparaît. C’est l’expérience familière d’un modèle qui ignore soudain une règle posée au début.
La solution, c’est la répétition plutôt que la persuasion : redis la contrainte, dans le prompt, là où elle compte.
Comment travailler avec un gros document
Découpe le travail. Un chapitre, une question, un résultat, puis une nouvelle conversation pour la suite.
Si tu dois faire passer un long document par plusieurs étapes, demande un court résumé en chemin et transporte-le à la place du texte complet.
Questions fréquentes
Quelle est la taille d’une fenêtre de contexte ?
Elle varie selon le modèle, de quelques milliers de tokens à plusieurs millions. La documentation du modèle donne le chiffre actuel, et il est relevé assez souvent.
Pourquoi le modèle oublie-t-il le début d’une conversation ?
Parce que cette partie est sortie de la fenêtre de contexte. Elle n’a pas été effacée, le modèle ne peut simplement plus la voir : c’est pourquoi il faut répéter les contraintes importantes.