Janela de Contexto

A quantidade máxima de texto que um modelo de linguagem processa numa única inferência, medida em tokens.

Definição

A janela de contexto é o orçamento total de tokens que o modelo tem para uma única inferência. Histórico da conversa, system prompt, definições de tools, conteúdo de arquivos e outputs contam contra esse limite. Em workflows agênticos, a janela de contexto é o recurso principal a gerenciar. Instructions carregadas no início da sessão consomem orçamento que poderia guardar histórico ou resultados de tools. Conforme a janela enche, conteúdo mais antigo é removido ou comprimido.

Fonte

• Context window - Wikipedia

Relacionados

• behavioral-modeling
• Hooks
• Context