Contexto

O input que o modelo recebe num dado turno, incluindo o system prompt, o histórico da conversa e os resultados de tools de turnos anteriores.

Definição

Contexto é tudo que o modelo consegue ver ao gerar uma resposta: o system prompt, o histórico da conversa e os resultados de tools acumulados ao longo dos turnos. Cada turno adiciona a resposta do modelo e quaisquer resultados de tools ao contexto para o próximo turno. Contexto é diferente de janela de contexto: contexto é o que está na janela, janela de contexto é o tamanho da janela.

Fonte

• Large language model - Wikipedia

Relacionados

• Context Window
• behavioral-modeling