O minimind, repositório de jingyaogong no GitHub, reúne o código para treinar do zero um modelo de linguagem de cerca de 64 milhões de parâmetros. Está entre os projetos de IA em alta hoje, com 488 estrelas novas no dia e 68.121 no total. Segundo o README, a etapa de fine-tuning supervisionado leva 2 horas numa única GPU NVIDIA 3090.
O que é e que problema resolve
O autor diz que quer baixar a barreira de aprendizado em LLMs. Para ele, bibliotecas como transformers, trl e peft escondem a implementação atrás de interfaces de alto nível. O minimind implementa os algoritmos centrais em PyTorch nativo, para que o leitor entenda cada linha.
O README afirma que o custo é de cerca de 3 yuans de aluguel de GPU, no mesmo intervalo de 2 horas, que corresponde a uma época de SFT. O projeto também funciona como tutorial de introdução a LLMs.
Como funciona
O repositório cobre tokenizer, pré-treino, SFT, LoRA, DPO, PPO, GRPO e CISPO, além de tool use, Agentic RL e destilação. A versão atual, minimind-3, tem variante densa de cerca de 64M e uma MoE de 198M com 64M ativos. A arquitetura segue o ecossistema Qwen3.
O projeto traz um servidor compatível com a API da OpenAI, que suporta tool_calls e reasoning_content. Ele se conecta a interfaces como FastGPT e Open-WebUI. Os modelos também funcionam com llama.cpp, vLLM e ollama. Há ainda uma interface web em Streamlit.
O repositório inclui extensões experimentais, como modelos de difusão e de atenção linear, e projetos irmãos para visão e multimodalidade.
Como começar
O README lista um ambiente de referência com oito placas RTX 3090, Python 3.10 e CUDA 12.2. O treino também roda em CPU ou MPS, com diferenças grandes de velocidade e compatibilidade. Para reproduzir o modelo de conversa básico, bastam dois arquivos de dados: pretrain_t2t_mini.jsonl e sft_t2t_mini.jsonl.
Os scripts salvam checkpoints e retomam o treino, inclusive com número diferente de GPUs. Pesos já treinados estão disponíveis para teste direto.
Maturidade e repercussão
O repositório foi criado em 27 de julho de 2024, tem 8.903 forks e recebeu commit em 21 de novembro de 2026. A licença é Apache-2.0.
Um autor da plataforma note testou a versão GGUF do minimind-3 em CPU com llama.cpp. Mediu 373 tokens por segundo e pico de 558 MB de memória, mas relata que o modelo não deu respostas úteis.
Pontos-chave
- Dados abertos para todas as etapas de treino, segundo o README
- minimind-3, lançado em 1º de abril de 2026, traz Agentic RL com GRPO e CISPO
- Segundo o README, o modelo principal tem cerca de 1/2700 do tamanho do GPT-3
- O arquivo GGUF em F16 do minimind-3 tem cerca de 128 MB
Texto escrito por IA a partir das reportagens e páginas listadas abaixo e checado contra elas por uma segunda revisão automática. Atualizado em 21/11/2026 às 20:15 (Brasília).
Fontes usadas no texto
Anúncio oficial
Site do projeto minimind jingyaogong.github.ioSite oficial resume o pipeline completo, a compatibilidade com vLLM, ollama, llama.cpp e SGLang e o servidor compatível com a API da OpenAI.
Notícia
[64M LLM Measured] 373t/s on CPU, the answer is 'Simple Gidek': Playing with minimind in 150MB note · 2026-11-19Artigo na note mede o minimind-3 em CPU com llama.cpp (373 tokens/s, 558 MB), cita o GGUF de 128 MB e relata respostas sem utilidade.
GitHub
jingyaogong/minimind no GitHub GitHub · 2026-11-21README descreve objetivo, etapas de treino, modelos lançados, changelog do minimind-3, licença e passos de início rápido.

