Kontextfenster
Die maximale Textmenge — Prompt, Verlauf, Dokumente und Antwort —, die ein Modell auf einmal berücksichtigen kann, gezählt in Tokens.
Definition
Das Kontextfenster ist das Arbeitsgedächtnis eines Modells: der Prompt, das bisherige Gespräch, alle bereitgestellten Dokumente und die gerade entstehende Antwort müssen zusammen hineinpassen, und seine Größe wird in Tokens gezählt. Stell es dir wie einen Schreibtisch vor, auf den nur eine bestimmte Zahl Seiten passt — legst du ein Buch darauf, das länger ist als der Tisch, müssen einige Seiten herunter, bevor das Modell den Rest lesen kann.
Warum es wichtig ist
Ist ein Dokument oder Gespräch größer als das Kontextfenster, muss etwas wegfallen — deshalb kann ein Assistent vergessen, was du vorhin gesagt hast, oder einen Teil einer langen Datei übersehen. AskClear umgeht das im Fakten-Modus, indem es die für deine Frage wichtigsten Passagen auswählt, statt blind einen ganzen Bericht hineinzustopfen, sodass die Antwort in den wirklich relevanten Stellen verankert bleibt.