Context Window
Simpele Uitleg
De context window is hoeveel tekst een AI model tegelijk kan "onthouden". Groter = meer context, maar ook langzamer en duurder.
Technische Definitie
De context window is de maximum aantal tokens dat een LLM kan verwerken in één inference call, inclusief zowel input prompt als output. Dit is een hardware en architectural constraint bepaald door de self-attention mechanism van transformers die quadratisch schaalt met sequence length. Moderne modellen hebben 32K-200K token windows.
Waarom Dit Belangrijk Is
Context window bepaalt hoeveel informatie je aan een AI kunt geven. Wil je een heel boek analyseren? Je hebt een grote context window nodig. Groter is niet altijd beter: het kost meer, is langzamer, en modellen presteren soms slechter met te veel irrelevante context.
Praktische Toepassingen
Document Analyse
Claude heeft 200K tokens = 500 pagina's in één keer analyseren
Code Review
Hele codebase in context laden voor debugging
Tools Die Dit Gebruiken
Gerelateerde Termen
Token
Een token is het kleinste stukje tekst dat AI begrijpt - denk aan het als "woord-achtige stukjes". Ongeveer 1 woord = 1.3 tokens. Waarom belangrijk? Tokens bepalen wat je BETAALT en hoeveel tekst AI kan lezen. ChatGPT API rekent per token: 1000 tokens input + 500 tokens output = €0.01. Als je dagelijks 100.000 tokens gebruikt, ben je €1/dag = €30/maand kwijt. Tokens zijn letterlijk je AI budget.
LLM
Een LLM (Large Language Model) is een AI systeem dat getraind is op enorme hoeveelheden tekst en daardoor menselijke taal kan begrijpen en genereren. Denk aan ChatGPT, Claude, of Gemini.
RAG
RAG is de techniek waarmee je AI toegang geeft tot jouw eigen documenten en data. In plaats van dat ChatGPT alleen maar "gokt" op basis van wat het geleerd heeft, kan het met RAG eerst jouw bedrijfsdocumenten doorzoeken en dan antwoorden met échte informatie uit jouw bestanden. Het is als een super-slimme medewerker die instant alle bedrijfsdocumenten kan raadplegen voordat hij antwoordt.
Leer Context Window in de Praktijk
Wil je Context Window echt beheersen? Volg onze hands-on training en leer het in 4 uur.
Bekijk Trainingen