billion-context comprime o contexto de agentes de código e promete sessões de meses

O billion-context, repositório de ranxianglei no GitHub, é um plugin de compressão de contexto para agentes de programação. Está em alta na plataforma, com 764 estrelas ganhas hoje. O projeto afirma que reduz o consumo de tokens em cinco vezes e permite sessões de meses em janelas de 100 mil tokens.

O problema e a proposta

Sessões longas de programação com IA estouram a janela de contexto, e os provedores cobram por token. Passado o limite, a sessão perde qualidade ou morre.

O billion-context se posiciona entre qualquer agente e a API do modelo, reescrevendo os fluxos Anthropic e OpenAI. Em vez de truncar a conversa, o modelo decide quando e o que resumir. Segundo o README, a compressão é incremental, reversível e preserva o prefix cache, ao contrário de resumidores embutidos nos agentes.

Como funciona

O proxy injeta quatro ferramentas na conversa: compress, decompress, search_context e acp_status. O modelo as chama conforme o contexto cresce. O proxy executa a compressão no servidor, e os trechos resumidos podem ser restaurados quando o detalhe exato volta a ser necessário.

O README lista integrações com mais de uma dezena de clientes, entre eles pi, opencode, Claude, Codex, Gemini CLI, Qwen Code, aider e Kimi. Conforme o cliente, o uso é por launcher (como o comando bili claude), plugin nativo ou prefixo de URL. A instalação global é feita via npm.

Números do projeto e maturidade

O README cita um estudo de 4,5 meses em três máquinas, com 174.327 chamadas a modelos e nenhuma violação de janela em modelos de 204.800 tokens. Também reporta taxa de acerto de prefix cache de 95% a 97%. Num conjunto de benchmarks que descreve como independentes, o projeto diz ter alcançado 79,20% no LongMemEval-S, contra 62,60% do melhor método de RAG. São números divulgados pelo próprio projeto.

O repositório foi criado em 6 de agosto de 2026 e tem 5.725 estrelas e 434 forks. O último commit é de 9 de novembro. Escrito em TypeScript, usa licença classificada como "Other" pelo GitHub; o paper que acompanha o código está sob MIT. O boletim japonês GitHub Daily, do note, registrou a estreia do projeto no GitHub Trending.

Cuidados ao adotar

Como o proxy intercepta o tráfego entre agente e modelo, vale revisar a licença e o acesso a dados da conversa antes de usar em código proprietário.

Na aba de discussões, usuários perguntam como lidar com compressão frequente e com modelos que tratam conteúdo comprimido como nova instrução do usuário. Outro tópico relata testes em que a ferramenta não pareceu compensar e pergunta se houve erro de uso.

Pontos-chave

• Paper v0.2 do método está no repositório, sob licença MIT
• Segundo o projeto, custo da compressão é de até 2% no cache
• Integra-se a mais de uma dezena de agentes, por launcher, plugin nativo ou prefixo de URL
• Benchmarks citados são do próprio projeto e usam ContextBench, LongMemEval-S e MemoryAgentBench

Texto escrito por IA a partir das reportagens e páginas listadas abaixo e checado contra elas por uma segunda revisão automática. Atualizado em 09/11/2026 às 20:15 (Brasília).