Motif 3 é modelo MoE de 314 bilhões de parâmetros com licença MIT e contexto de 256K

A Motif Technologies, startup sul-coreana, liberou o Motif 3, um modelo de linguagem Mixture-of-Experts treinado do zero, com pesos abertos sob licença MIT. Segundo a empresa, ele marcou 47 pontos no índice AAII da Artificial Analysis, o melhor resultado entre os modelos do programa sul-coreano de IA soberana.

O que é e o que traz de novo

O Motif 3 é um modelo decoder-only com 314 bilhões de parâmetros no total e 13,2 bilhões ativos por token. São 53 camadas (2 densas e 51 com MoE) e 384 especialistas roteados, dos quais 8 são ativados, mais 1 especialista compartilhado.

A atenção usa a arquitetura própria Grouped Differential Latent Attention (GDLA), que combina atenção diferencial agrupada com a representação comprimida de chave e valor da Multi-head Latent Attention. O modelo também traz hyper-connections com restrição de variedade (mHC) modificadas, ativações PolyNorm específicas por especialista e uma cabeça de Multi-Token Prediction, que permite decodificação autoespeculativa.

O contexto nativo é de 262.144 tokens. O pré-treino usou cerca de 12,5 trilhões de tokens, com ênfase em coreano, raciocínio, dados jurídicos e financeiros. O pós-treino combina ajuste supervisionado, seis professores treinados com RL, um professor de engenharia de software e destilação on-policy multi-professor (MOPD).

A empresa publicou três repositórios no Hugging Face: o Motif-3 ajustado para instruções, o Motif-3-Base, indicado para fine-tuning e pesquisa, e o Motif-3-NVFP4, versão quantizada para máquinas menores. Pesos, código de treino e bibliotecas saem sob MIT, o que permite uso comercial. Módulos de visão (7 bilhões de parâmetros), áudio (0,7 bilhão) e VAE de vídeo (1,2 bilhão) estão prontos, e a empresa planeja integrá-los ao modelo de linguagem.

Desempenho divulgado

No Artificial Analysis Intelligence Index, o Motif 3 fez 47 pontos. A empresa afirma que isso o coloca em nono entre os LLMs globais e em quarto entre os de pesos abertos. Entre os quatro modelos da segunda fase do programa sul-coreano, aparecem depois dele o Solar Open 2 (37), o A.X-K2 (35) e o K-EXAONE 2.0 (31).

Nos benchmarks práticos, a Motif Technologies relata 74,9 no Terminal-Bench 2.1, 76,2 no SWE-bench Verified, 35,3 no τ³-Banking e 37,0 no Humanity's Last Exam. Também cita 72,3 no AA-LCR, de raciocínio em contexto longo, e 38,7 no GDPval v2. No τ³-Banking, segundo a empresa, ele superou o DeepSeek V4 Pro, que fez 30,1.

Repercussão

O boletim Interconnects AI classificou o Motif 3 como uma das joias escondidas do ecossistema aberto, por mostrar inovação no treino com recursos limitados em comparação com outros laboratórios. O lançamento chegou sem press release, post de blog ou anúncio no site da empresa.

A NVIDIA publicou receitas do framework Dynamo para o Motif-3 em GPUs B200, ao lado de outros modelos coreanos. Segundo o StorageReview, a empresa promete ganho de até 2 vezes em desempenho.

Para quem faz sentido

A licença MIT e a versão base atendem equipes que querem adaptar o modelo a domínios próprios, como finanças e direito, ou fazer pesquisa. A ênfase em uso de ferramentas e em tarefas de terminal, destacada pelo laboratório, interessa a quem constrói agentes de código. A versão NVFP4 reduz a exigência de hardware, mas o modelo completo continua grande.

Pontos-chave

• Segundo a empresa, o desenvolvimento, do pré-treino ao pós-processamento, levou cerca de cinco meses.
• O AAII responde por 25 dos 100 pontos da segunda fase de avaliação do programa sul-coreano de IA soberana.
• Os 47 pontos abrem 10 de vantagem sobre o segundo colocado do programa e superam a mediana de 16 de modelos comparáveis.
• O Motif-3-Base não passou por ajuste supervisionado, RL nem alinhamento de preferências.
• O tokenizador busca boa taxa de bytes por token em inglês, coreano, código e matemática.

Texto escrito por IA a partir das reportagens e páginas listadas abaixo e checado contra elas por uma segunda revisão automática. Atualizado em 10/11/2026 às 21:30 (Brasília).