Localizador de modelos

Método

Como escolher um modelo open-weight

A maioria das listas de modelos começa com a pergunta sobre qual é o melhor, e nunca se recupera disso, porque 'melhor' não é uma propriedade inerente ao modelo. É uma propriedade de um modelo, uma tarefa, uma licença e um hardware específico considerados em conjunto. A estratégia útil é ordenar suas restrições para que a mais difícil e menos negociável venha primeiro. Aplicado aos modelos nesta tabela, essa ordenação geralmente reduz a lista a um punhado em dois passos.

1. Defina o orçamento de memória em gigabytes, não em parâmetros. Uma contagem de parâmetros não significa nada até que você escolha uma precisão e um comprimento de contexto. Dos 63 modelos aqui, 44 cabem em 24 GB com Q4_K_M e contexto de 4K, 35 cabem em 16 GB e apenas 24 cabem em 8 GB. Digite seu número real na caixa de orçamento acima e veja a tabela diminuir.
2. Decida seu comprimento de contexto antes de criar a lista, não depois. O contexto é pago em KV cache e, em algumas arquiteturas, esse custo é enorme. O Command R 35B custa 27,4 GB em 4K e 194,8 GB em 128K. O Qwen3 32B vai de 21,7 GB a 55,2 GB na mesma faixa. Liste em 4K, implante em 128K, e você descobrirá a diferença no pior dia possível.
3. Filtre por licença antes de filtrar por capacidade. Capacidade é uma questão de grau e você geralmente pode abrir mão de um pouco dela. Uma licença que proíbe seu caso de uso é uma barreira. 39 desses modelos são Apache 2.0, MIT ou MIT modificado; os outros 24 possuem condições que variam de atribuição simples a uma proibição total de uso comercial.
4. Só agora filtre pelo que o modelo é bom. Os chips de capacidade acima usam as tags que os laboratórios e a comunidade realmente aplicam: code, reasoning, vision, agents, multilingual, rag, edge, long-context. Escolha uma ou duas, não cinco. Cada tag extra que você exige o empurra para um modelo maior do que o trabalho precisa.
5. Selecione três modelos em vez de um e teste-os com seus próprios dados. De trinta a cinquenta exemplos reais da sua carga de trabalho separarão os candidatos mais rápido, e de forma muito mais honesta, do que qualquer leaderboard público. Mantenha os dois que perderam. Modelos são substituídos a cada poucos meses e o harness de avaliação é a parte que vale a pena manter.

Mais uma regra que evita muita dor de cabeça: escolha o menor modelo que atenda ao seu padrão de qualidade e pare. O espaço livre que você não usa é pago em latência em cada solicitação, em eletricidade e em uma placa que fica quase ociosa entre as solicitações.

Dense, mixture of experts e o número que define seu hardware

Cada modelo nesta tabela possui dois números de parâmetros, que respondem a duas perguntas diferentes. O total de parâmetros define quanta memória você precisa, pois cada peso deve estar em um local que a GPU possa acessar rapidamente. Os parâmetros ativos definem a velocidade de execução, pois a geração de um token lê apenas os pesos pelos quais aquele token passa. Em um modelo dense, esses dois números são idênticos e ninguém precisa se preocupar com isso. Em um mixture of experts, eles podem diferir por um fator de trinta, e todo o design existe para tornar essa diferença útil.

Leia a tabela como uma troca, não como um ranking. Um mixture of experts converte memória em velocidade. Você compra VRAM suficiente para manter todos os experts e usa apenas uma pequena parte deles em cada token; assim, a decodificação é rápida e o modelo é mais inteligente do que a contagem de parâmetros ativos sugere. Essa é uma boa troca quando a memória é o recurso que você tem de sobra e a latência é o que você não tem.

É uma má troca na situação oposta, que é onde a maioria das pessoas realmente está. Se você tem uma placa de 24GB, um MoE gasta seu recurso mais escasso em pesos que você mal toca. Qwen3 30B-A3B com 19.7 GB e Qwen3 32B com 21.7 GB ocupam quase a mesma memória, mas o modelo dense coloca dez vezes mais computação por trás de cada token. Em uma única placa sem pressão de throughput, o dense 32B geralmente é a melhor resposta; em uma máquina atendendo muitos usuários simultâneos, o MoE vence confortavelmente.

Há um segundo efeito que vale a pena conhecer. Como um MoE lê poucos pesos por token, ele é muito menos sensível à largura de banda da memória, que é exatamente a restrição que faz modelos dense grandes parecerem lentos em hardware de consumo e no Apple silicon. É por isso que o gpt-oss 120B, apesar de precisar de cerca de 72 GB, gera mais rápido em uma máquina com memória unificada grande do que um dense 70B que precisa de 45 GB. Capacidade e velocidade são definidas por números diferentes, e o filtro de mixture-of-experts acima permite separar os dois.

Por que dois modelos do mesmo tamanho podem precisar de máquinas diferentes

A coluna de attention parece trivial, mas não é. Ela define o custo do seu contexto e, em contextos longos, pode importar mais do que a contagem de parâmetros. Veja o que o mesmo salto de 4K para 128K faz com modelos nos quatro designs de attention deste catálogo.

O Phi-3.5 mini é a entrada que deve mudar como você escolhe modelos. É um modelo de 3.8B, o tipo de coisa que as pessoas presumem que roda em qualquer lugar, e em seu contexto total de 128K ele precisa de cerca de 55 GB porque armazena 32 heads de key-value completas em cada camada. Enquanto isso, um DeepSeek R1 de 671B adiciona apenas nove gigabytes ao passar de 4K para 128K, porque a multi-head latent attention comprime chaves e valores em um único vetor pequeno por token por camada. O tamanho não definiu nenhum dos resultados; a geometria definiu.

A leitura prática é simples. Se sua carga de trabalho consiste em prompts curtos, ignore a coluna de attention e escolha pelos pesos. Se sua carga de trabalho envolve documentos longos, repositórios inteiros ou grandes payloads de recuperação, ordene primeiro pelo design de attention: modelos de sliding-window como a família Gemma 3 e gpt-oss permanecem quase estáveis conforme o contexto cresce, modelos de grouped-query crescem a uma taxa gerenciável, e modelos de multi-head total tornam-se inviáveis entre 32K e 128K, não importa quão pequenos pareçam no papel.

O que a coluna de licença realmente significa

Open weights e open source não são a mesma coisa, e essa lacuna é onde residem a maioria das surpresas jurídicas. Qualquer pessoa pode baixar todos os modelos nesta página. O que você pode fazer com eles varia de genuinamente irrestrito a explicitamente não comercial. Estas são as famílias de licenças neste catálogo e o que cada uma exige de você.

Três detalhes costumam confundir as pessoas. O primeiro é que uma família de licenças não é uniforme em todo um laboratório: a DeepSeek publica o R1 e o V3 sob a licença MIT, mas o Coder V2 Lite sob seus próprios termos; a Alibaba distribui quase todo o Qwen sob a licença Apache 2.0, enquanto o Qwen2.5 3B e o Qwen2.5 72B possuem condições específicas. Verifique o checkpoint específico que você baixou, em vez da marca.

O segundo é que várias dessas licenças mencionam algo sobre as saídas do modelo, não apenas sobre os pesos, e em particular sobre se você pode usar texto gerado para treinar outro modelo. Se o seu plano envolve produzir dados de treinamento sintéticos, essa cláusula é mais importante para você do que qualquer coisa relacionada à implantação.

O terceiro são as obrigações que persistem após o fine-tuning. Os termos de uso proibido do Gemma aplicam-se a qualquer coisa derivada dos pesos. O requisito de nomenclatura do Llama aplica-se a nomes de modelos derivados. Uma licença não comercial permanece não comercial após você treinar com seus próprios dados, porque os pesos base ainda estão lá. Filtrar por Apache e MIT com a caixa de seleção acima é a maneira mais rápida de fazer com que tudo isso deixe de ser um problema para você, e ainda lhe restam 39 modelos. Nada disso é aconselhamento jurídico; a coluna de licença é um resumo de um documento que vale a pena ler uma vez.

Famílias que vale a pena conhecer, agrupadas pelo que fazem bem

Quatorze laboratórios estão representados aqui, mas você só precisa de um mapa funcional de cerca de seis linhas de modelos para tomar boas decisões. Os valores de VRAM abaixo são Q4_K_M com um contexto de 4K, correspondendo ao padrão da tabela.

Programação

O Qwen2.5 Coder 32B com 21.7 GB ainda é o modelo de programação com licença permissiva mais forte que cabe em uma única placa de 24GB, e seu irmão de 7B com 5.5 GB é a escolha padrão para preenchimento inline, onde a latência supera a profundidade. O Devstral Small 24B com 15.7 GB é ajustado para edição agentic em vários arquivos, em vez de preencher apenas uma função. O DeepSeek Coder V2 Lite é a opção de velocidade, ativando 2.4B de 15.7B de parâmetros. O Codestral 22B é bom, mas possui uma licença não voltada para produção, o que o exclui da maioria dos produtos comerciais. Acima do nível de workstation, o DeepSeek V3 e o Kimi K2 são os modelos de programação abertos sérios e ambos exigem um servidor.

Raciocínio

O QwQ 32B com 21.7 GB foi o primeiro modelo aberto a tornar a deliberação de formato longo prática em uma placa de consumo, e os destilados do DeepSeek R1 oferecem o mesmo estilo em 7B, 14B, 32B e 70B sob a licença MIT, o que é incomumente generoso para esta categoria. A linha densa Qwen3 ativa e desativa a deliberação por solicitação, então um único download cobre ambos os modos. O gpt-oss 20B e 120B são focados em raciocínio e sob licença Apache 2.0. O Phi-4 14B com 10.5 GB supera seu tamanho em matemática, mas é limitado a um contexto de 16K, o que é curto para os padrões de 2026.

Contexto longo

O Llama 4 Scout é o ponto fora da curva com uma janela de 10M de tokens, e o Llama 4 Maverick oferece 1M. O DeepSeek R1 e V3 aceitam 163840 tokens, e a maior parte do catálogo moderno se estabiliza em 131072. O importante é o que não está nessa lista: toda a geração Gemma 2 para em 8192 tokens, o Phi-4 em 16384 e o TinyLlama em 2048. Se você estiver inserindo documentos longos, verifique a coluna de contexto antes de qualquer outra coisa, porque nenhuma qualidade compensa uma janela que não comporta sua entrada.

Visão

Seis modelos aqui leem imagens. O Qwen2.5-VL 7B com 5.9 GB é o pequeno cavalo de batalha para documentos, capturas de tela e gráficos. O Gemma 3 vem em tamanhos com capacidade de visão de 4B, 12B e 27B, todos sob os termos do Gemma, e o de 4B com 3.5 GB é notável pela memória. O Llama 4 Scout e Maverick são nativamente multimodais, mas exigem hardware robusto. Lembre-se de que os tokens de imagem consomem o mesmo orçamento de contexto que o texto, então uma carga de trabalho de visão consome sua janela mais rápido do que a contagem de páginas sugere.

Multilíngue e recuperação

O Mistral Nemo 12B com 8.8 GB foi construído com um tokenizador que trata textos não ingleses de forma mais justa do que a linha Llama, o que resulta em melhor qualidade e menos tokens por frase. O GLM-4 9B é forte em chinês e inglês juntos. Para geração aumentada por recuperação (RAG) com citações inline, o Command R e o Command R+ permanecem como designs de referência, com a enorme ressalva de que ambos são não comerciais e o Command R usa multi-head attention total, tornando-se muito caro exatamente nos contextos longos que as cargas de trabalho de recuperação produzem.

Edge e embarcado

Treze modelos possuem a tag edge. O Qwen2.5 0.5B precisa de cerca de 1.0 GB, o Qwen3 0.6B cerca de 1.6 GB, o TinyLlama 1.1B cerca de 1.4 GB e o SmolLM2 1.7B cerca de 2.5 GB, o que coloca todos eles dentro de um telefone, uma aba de navegador ou um Raspberry Pi com um acelerador. O Phi-4 mini 3.8B com 3.5 GB e o Llama 3.2 3B com 3.1 GB são o limite prático para essa categoria e o ponto onde o seguimento de instruções se torna confiável.

Como ler uma alegação de benchmark com ceticismo

Cada post de lançamento contém uma tabela onde o novo modelo vence. Isso não é desonestidade, é seleção: a tabela foi montada após os resultados serem conhecidos, e qualquer linha que não favorecesse o modelo foi silenciosamente excluída. Aqui está o que verificar antes que um número de benchmark mude sua decisão.

• Contaminação. Benchmarks públicos vazam para corpora de treinamento ao longo do tempo, e quanto mais antigo o benchmark, maior a probabilidade de ter sido memorizado. Uma pontuação muito alta em um conjunto de testes de longa data é uma evidência mais fraca do que uma pontuação mediana em algo lançado no mês passado.
• Qual snapshot de comparação. Modelos fechados são alvos móveis. Uma alegação de superar um modelo de fronteira geralmente se refere a uma versão específica de um mês específico, que pode ter sido substituída antes da publicação do post.
• Orçamento de tokens. Modelos de raciocínio podem gastar milhares de tokens ocultos antes de responder. Se uma linha teve permissão para deliberar e outra não, a comparação está medindo o gasto tanto quanto a habilidade.
• Formato de prompt e amostragem. O mesmo modelo pode variar vários pontos no mesmo benchmark dependendo do template de chat, system prompt, temperatura e como a resposta é analisada. Números relatados raramente divulgam todos os quatro.
• Agregação. Uma média de manchete única esconde quais categorias mudaram. Um modelo que ganha em matemática e perde em seguimento de instruções pode mostrar uma média estável enquanto é claramente pior para o seu uso.
• Pass at one versus best of many. Amostrar várias vezes e manter a melhor resposta infla substancialmente as pontuações de programação, e não é assim que sua aplicação será executada.

A substituição para tudo isso é pouco glamorosa e funciona: colete de trinta a cinquenta exemplos da sua tarefa real, escreva como seria uma boa resposta e avalie os candidatos você mesmo. Leva uma tarde, sobrevive a cada lançamento de modelo e responde à única pergunta que importa, que é se este modelo é bom no seu trabalho, em vez de em um exame público.

Combine o modelo com a tarefa, não com o leaderboard

Uma grande parte do trabalho de modelos de linguagem em produção não precisa de um modelo grande. Essas tarefas são rotineiramente bem tratadas por algo na faixa de 3B a 8B, o que significa Llama 3.2 3B com 3.1 GB, Gemma 3 4B com 3.5 GB, Qwen3 4B com 3.7 GB ou Qwen2.5 7B com 5.5 GB, todos os quais cabem em uma placa de 8GB com espaço para contexto.

• Classificação e roteamento: decidir em qual das seis filas um ticket de suporte pertence, ou se uma mensagem precisa de um humano.
• Extração para um esquema fixo: extrair datas, valores, nomes de partes e identificadores de um documento semiestruturado.
• Reformatação: transformar notas em um template, converter entre formatos de marcação, normalizar endereços.
• Resumo curto: um parágrafo de uma página, onde a fonte está presente e o trabalho é de compressão, não de julgamento.
• Marcação e metadados: títulos, palavras-chave, sentimento, detecção de idioma, avisos de conteúdo.
• Reescrita de consulta para busca e reranking de um punhado de passagens recuperadas antes que cheguem a um modelo maior.

As tarefas que genuinamente recompensam o tamanho parecem diferentes: mudanças de código em vários arquivos onde o modelo deve manter uma arquitetura em mente, instruções ambíguas que exigem inferir a intenção, síntese em documentos longos que discordam entre si, matemática com mais de alguns passos e loops de agentes onde um erro inicial se agrava ao longo de vinte turnos. Se sua carga de trabalho não está nessa segunda lista, o dinheiro gasto em um modelo maior compra latência em vez de qualidade.

A arquitetura mais forte na prática geralmente é mista: um modelo pequeno fazendo o volume de rotina, escalando para um grande nos casos em que não tem certeza. A taxa de escalonamento é tipicamente de alguns por cento, o que é a diferença entre uma carga de trabalho que cabe em uma placa e uma que não cabe.

Executar localmente ou chamar uma API hospedada?

Todos os modelos nesta página podem ser baixados, e muitos deles também estão disponíveis como endpoints hospedados, inclusive através deste gateway. A escolha é menos sobre ideologia e mais sobre qual recurso está em falta para você.

Execute localmente quando os dados não puderem sair do ambiente, quando você precisar que os pesos sejam fixos para que o comportamento nunca mude, quando estiver trabalhando offline ou com uma conexão instável, quando tiver tráfego constante de alto volume em uma GPU que você já possui, ou quando pretender fazer fine-tuning. A inferência local também oferece coisas que nenhuma API expõe: logits brutos, decodificação restrita por gramática, amostragem personalizada e decodificação especulativa.

Chame um endpoint hospedado quando o tráfego for instável, quando o modelo que você deseja precisar de mais memória do que você pode comprar razoavelmente, quando você espera trocar de modelo a cada poucas semanas ou quando ninguém na equipe quer operar um servidor de inferência. O catálogo ilustra o ponto da memória vividamente: 44 desses 63 modelos cabem em uma placa de 24GB, mas o DeepSeek R1 com 410 GB e o Kimi K2 com 611 GB são implantações multi-node, e a lacuna entre esses dois grupos não é algo que se supera sendo esperto.

A economia é geralmente decidida pela utilização, e não pelas taxas. Uma placa que opera com dez por cento de ciclo de trabalho é cara por token útil, não importa quão barato tenha sido o hardware, porque você pagou por tudo. Uma placa que opera continuamente é muito difícil de superar em preço. Estime seus tokens por dia honestamente antes de comprar qualquer coisa, e note que a resposta honesta para a maioria dos projetos paralelos e ferramentas internas é que um endpoint hospedado gratuito ou barato vence facilmente.

Perguntas que as pessoas realmente fazem

Como escolho um modelo open-weight?

Ordene suas restrições da mais difícil para a mais fácil. Defina um orçamento de memória em gigabytes em vez de parâmetros, decida o comprimento de contexto que você realmente precisa antes de selecionar, filtre por licença e só então filtre por capacidade. Dos 63 modelos aqui, 44 cabem em 24 GB em Q4_K_M com um contexto de 4K e apenas 24 cabem em 8 GB, então a etapa do orçamento por si só geralmente corta a lista pela metade. Termine testando três candidatos em trinta a cinquenta exemplos do seu próprio trabalho real.

O que significam parâmetros ativos em um modelo mixture-of-experts?

O total de parâmetros decide quanta memória você precisa, porque cada peso deve estar residente. Os parâmetros ativos decidem a velocidade de execução, porque a geração de um token lê apenas os especialistas pelos quais esse token é roteado. O Qwen3 30B-A3B possui 30,5B de parâmetros, mas ativa 3,3B por token, ocupando cerca de 19,7 GB em Q4_K_M, mas decodificando aproximadamente na velocidade de um modelo de 3B.

Um modelo mixture-of-experts é mais barato de executar do que um denso?

Mais barato em computação e tempo, não em memória. Se a VRAM é sua restrição limitante, um MoE é um mau negócio, porque você paga por cada especialista e usa apenas uma fração deles. Se você tem a memória e quer throughput, é excelente. O gpt-oss 120B precisa de cerca de 72 GB em Q4_K_M, mas lê apenas 5,1B de parâmetros por token.

Quais modelos open-weight posso usar comercialmente sem pedir permissão?

Os modelos Apache 2.0 e MIT. Neste catálogo, isso representa 39 de 63 modelos, incluindo toda a linha Qwen3, Qwen2.5 Coder, QwQ 32B, Mistral Small 24B, Devstral, os modelos Mixtral, gpt-oss 20B e 120B, DeepSeek R1 e V3, os destilados do R1, Phi-4 e GLM-4.5 Air. Os outros 24 possuem condições que variam de atribuição a uma proibição total de uso comercial.

A licença da comunidade Llama é uma licença comercial?

Ela permite uso comercial, mas não é uma licença open-source. Ela limita o uso gratuito a 700 milhões de usuários ativos mensais, exige que você exiba Built with Llama e mantenha o nome Llama nos nomes dos modelos derivados, além de incluir uma política de uso aceitável. Para a maioria das equipes, nada disso é um problema, mas é um contrato em vez de uma concessão, então leia antes de construir um produto sobre ela.

Posso usar o Command R ou Command R+ em um produto comercial?

Não com os pesos lançados. Ambos os modelos da Cohere aqui são CC-BY-NC, que é apenas para uso não comercial. Eles são excelentes modelos de recuperação e citação e perfeitamente adequados para pesquisa ou avaliação, mas distribuí-los em um produto pago ou que gere receita requer um acordo separado com a Cohere.

Por que o mesmo modelo precisa de muito mais VRAM em um contexto de 128K?

O KV cache cresce linearmente com o contexto, e a inclinação depende da geometria de atenção. O Command R 35B usa full multi-head attention e vai de 27,4 GB em 4K para 194,8 GB em 128K. O Qwen3 32B com grouped-query attention vai de 21,7 GB para 55,2 GB. O Gemma 3 27B, que usa janelas deslizantes em cinco de cada seis camadas, vai apenas de 18,1 GB para 28,6 GB.

Qual é o menor modelo aberto que ainda é genuinamente útil?

Para classificação, roteamento, extração para um esquema fixo e reformatação, modelos na faixa de 3B a 4B já são confiáveis. O Llama 3.2 3B precisa de cerca de 3,1 GB em Q4_K_M, o Gemma 3 4B cerca de 3,5 GB e o Qwen3 4B cerca de 3,7 GB, então todos os três rodam em uma placa de 8GB com espaço para um contexto real. Abaixo de aproximadamente 2B, os modelos ainda escrevem fluentemente, mas param de seguir instruções de várias etapas de forma confiável.

Eu preciso de um modelo de raciocínio?

Apenas para problemas com uma cadeia verificável de etapas: matemática, código algorítmico, quebra-cabeças de restrição, análise multi-hop. Modelos de raciocínio gastam um grande número de tokens ocultos antes de responder, o que significa maior latência e mais tokens gerados para cada solicitação. Para extração, resumo, reescrita e chat, um modelo sem raciocínio do mesmo tamanho geralmente é mais rápido e não é pior.

Qual modelo open-weight é melhor para programação?

Para uma única placa de 24GB, o Qwen2.5 Coder 32B com cerca de 21,7 GB é a opção com licença permissiva mais forte. O Devstral Small 24B com cerca de 15,7 GB é ajustado para edição agente de múltiplos arquivos em vez de completações únicas. Para completação inline rápida, o Qwen2.5 Coder 7B ou o DeepSeek Coder V2 Lite, que ativa apenas 2,4B de seus 15,7B de parâmetros. No topo, o DeepSeek V3 e o Kimi K2 são mais fortes, mas precisam de centenas de gigabytes.

Um longo comprimento de contexto anunciado significa que o modelo o utiliza bem?

Não. O valor de contexto é o comprimento que os pesos lançados aceitam, não o comprimento no qual a qualidade se mantém. O Llama 4 Scout anuncia 10M de tokens e a maioria dos modelos modernos aqui lista 128K, mas a precisão de recuperação geralmente degrada bem antes do máximo declarado. Trate o número como um teto rígido e meça o desempenho real no comprimento que você planeja usar.

Devo confiar na tabela de benchmarks em um post de lançamento de modelo?

Trate como marketing com números reais. As tabelas de lançamento são escolhidas após o fato, os modelos de comparação geralmente são snapshots mais antigos, os formatos de prompt e as configurações de amostragem diferem entre as linhas, e benchmarks populares vazam para os dados de treinamento ao longo do tempo. O número que deve decidir sua escolha é a pontuação em trinta a cinquenta exemplos da sua própria carga de trabalho.

Quanta qualidade perco ao quantizar para 4-bit?

Menos do que a maioria das pessoas espera em modelos maiores e mais do que a maioria espera em modelos pequenos. O Q8_0 é efetivamente indistinguível dos pesos originais. O Q4_K_M custa uma quantidade pequena, geralmente imperceptível, em modelos acima de aproximadamente 13B, e torna-se visível em modelos de 1B a 3B, onde há menos redundância de sobra. Abaixo de 4 bits, em Q3 e Q2, a degradação é real. Note que o gpt-oss é distribuído nativamente em MXFP4, então 4-bit é sua precisão publicada, e não uma etapa de compressão.

Quando devo executar um modelo localmente em vez de chamar uma API hospedada?

Execute localmente quando os dados não puderem sair da sua máquina, quando você precisar de pesos fixos para que o comportamento nunca mude, quando estiver offline ou quando tiver um alto volume constante em uma GPU que você já possui. Chame uma API hospedada quando o tráfego for instável, quando o modelo que você deseja precisar de mais memória do que você tem ou quando quiser trocar de modelo com frequência. Uma placa de 24GB que fica ociosa a maior parte do dia é mais cara por token útil do que qualquer API.