Kontextfenster
Das Kontextfenster ist die Textmenge, die ein Modell gleichzeitig im Blick behält: deine Fragen, alles, was du eingefügt hast, und die eigenen Antworten des Modells, zusammen. Es wird in Tokens gemessen, und wenn es voll ist, fällt der Anfang des Gesprächs heraus.
Was das Kontextfenster eigentlich ist
Es ist ein Schreibtisch, kein Gedächtnis. Was auf dem Tisch liegt, kann das Modell sehen. Was heruntergerutscht ist, existiert für das Modell nicht, auch wenn du es vor zwanzig Minuten geschrieben hast.
Die Größe wird in Tokens angegeben. Ein großes Kontextfenster fasst Hunderte Seiten, aber die Größe ist kein Versprechen, dass das Modell die Mitte dieses Stapels so sorgfältig beachtet wie die Enden.
Warum das Modell vergisst
Wächst ein Gespräch über das Kontextfenster hinaus, fällt der älteste Teil weg. Das kennst du: Das Modell ignoriert plötzlich eine Regel, die du am Anfang aufgestellt hast.
Abhilfe schafft Wiederholung, nicht Überzeugungsarbeit: Wiederhol die Vorgabe im Prompt, genau dort, wo sie gilt.
So arbeitest du mit einem großen Dokument
Zerleg die Arbeit. Ein Kapitel, eine Frage, ein Ergebnis, dann ein frisches Gespräch für das nächste Stück.
Musst du ein langes Dokument durch mehrere Schritte tragen, lass dir unterwegs eine kurze Zusammenfassung geben und nimm diese mit, statt des vollen Textes.
Häufige Fragen
Wie groß ist ein Kontextfenster?
Das hängt vom Modell ab, von ein paar Tausend Tokens bis zu mehreren Millionen. Die aktuelle Zahl steht in der Dokumentation des Modells, und sie wird ziemlich oft angehoben.
Warum vergisst das Modell den Anfang eines Chats?
Weil dieser Teil das Kontextfenster verlassen hat. Er wurde nicht gelöscht, das Modell kann ihn nur nicht mehr sehen. Deshalb musst du wichtige Vorgaben wiederholen.