Context window
Fereastră de context
Cantitatea maximă de text (măsurată în tokenuri) pe care un model o poate procesa într-un singur schimb — incluzând instrucțiunile, istoricul conversației și documentele injectate. Când conversația o depășește, modelul „uită" partea cea mai veche dacă nu există un mecanism de memorie.
- A apărut
- Concept de la primele LLM-uri; ferestrele au crescut puternic din 2023.
- Tactici
- Gestionăm fereastra prin sumarizarea istoricului și prin [RAG](#rag) selectiv, ca să încapă doar contextul relevant — păstrând [latența](#latenta) mică.
Termeni similari
„Context window” face parte din Glosar · Chatbot AI — parte din Atlas, referința Websem de termeni de căutare AI, marketing și date.