OpenAI amplia cache de prompts para 12 horas

Em 20 de outubro de 2026, a OpenAI adicionou à Responses API uma opção de cache de prompt com vida mínima de 12 horas. Isso atende aplicações que repetem instruções, ferramentas e contexto entre chamadas separadas por horas.

Crédito da imagem: OpenAI.

O cache de prompt da OpenAI reaproveita prefixos iguais

O cache guarda o estado calculado de um prefixo reutilizável. Quando uma chamada posterior começa com o mesmo prefixo, a API pode reaproveitá-lo e ainda processa a nova entrada para gerar outra resposta.

A correspondência depende do prefixo renderizado. Se instruções, ferramentas ou configurações anteriores ao ponto de cache mudarem, a chamada seguinte pode não encontrar a mesma entrada.

A retenção de 12 horas traz um custo de gravação maior

Para GPT-5.6 e posteriores, a Responses API configura essa retenção em prompt_cache_options.ttl. A documentação lista 30m como padrão e 12h como opção de vida mínima mais longa.

A taxa total de gravação de 12 horas equivale a 2,5 vezes a taxa de entrada sem cache, não é uma sobretaxa adicional. Para 30 minutos, a taxa total é 1,25 vez, então a janela maior tende a fazer sentido quando o prefixo estável volta após pausas longas.

Como testar o cache de 12 horas no seu fluxo

Comece com instruções e definições de ferramentas estáveis no início do prompt. Compare chamadas equivalentes, o uso de tokens em cache e o custo total, sem presumir que toda requisição terá reaproveitamento ou menor latência.

Para GPT-5.6 e posteriores, a documentação informa um mínimo cacheável de 1.024 tokens. O limite varia em modelos anteriores, por isso vale conferir a página de cache de prompt da OpenAI antes de alterar a aplicação.

Em fluxos com agentes, cache compartilhado também aumenta a importância de instruções e permissões previsíveis, tema abordado na proposta da Microsoft sobre Guardian Agents. Para contexto de código, veja também o Beam da Reflection, modelo aberto para código e agentes.