NVIDIA lança Nemotron 3.5 Embed, Rerank e Parse: modelos abertos de recuperação para RAG e agentes

Fala aí, beleza? A NVIDIA soltou hoje, 21 de outubro de 2026, uma leva nova de modelos abertos na coleção Nemotron Retriever, todos focados em recuperação: embedding, reranking e extração de documentos

Os modelos são o Nemotron 3.5 Embed (8B BF16, 1B BF16 e 1B NVFP4), o Nemotron 3.5 Rerank 8B BF16 e o Nemotron 3.5 Parse, com 631M de parâmetros. O anúncio saiu no blog da NVIDIA no Hugging Face

Se tu monta RAG ou agentes em cima de documentos cheios de tabela, gráfico e esquema, esse lançamento é pra você 🙂

Quais modelos a NVIDIA lançou no Nemotron 3.5 e para que serve cada um

São quatro modelos de recuperação mais o Parse, e cada variante tem um papel diferente no pipeline

O Embed evolui os modelos de embedding de texto da geração anterior, o Nemotron 3 Embed. A diferença é que agora ele também busca evidências em imagens de documentos: tabelas, gráficos, infográficos, datasheets e esquemas, junto com o texto

Ou seja, aquela informação que só existe dentro de um gráfico deixa de ficar invisível pra busca, legal né? 😀

A NVIDIA já vinha expandindo a família, como no Nemotron Nano 9B v2, mas aqui o foco é outro: não é o modelo que responde, é o que acha a evidência certa pra ele

O papel de cada variante, segundo a NVIDIA:

• Embed 8B BF16: busca com foco em qualidade sobre texto e documentos visualmente ricos, com recuperação multilíngue forte
• Embed 1B BF16: destila as capacidades multimodais do 8B num modelo compacto, pra indexar e servir consultas ocupando menos recursos
• Embed 1B NVFP4: aplica quantização NVFP4 nos encoders de texto e de imagem, pensado pra indexação em larga escala e recuperação de alto throughput. A NVIDIA testou essa variante na GPU GB200 e registrou 27,1% mais throughput do que o 1B BF16, saindo de 101,3 pra 128,8 documentos processados por segundo. O anúncio não detalha a lista completa de hardware suportado além desse teste
• Rerank 8B BF16: cross-encoder multimodal que avalia pares consulta-documento em conjunto, pra refinar o ranking de candidatos de texto e imagem em RAG e fluxos agênticos

E o que é um cross-encoder?

Em vez de transformar consulta e documento em vetores separados e comparar depois (o que o embedding faz), ele olha os dois juntos e dá uma nota de relevância pro par. É mais caro, por isso entra como segunda etapa, só em cima dos candidatos que a busca já trouxe

O model card do Rerank informa que ele pontua documentos com texto, imagens de página ou os dois, incluindo gráficos, tabelas e infográficos

Na parte de idiomas, a NVIDIA avaliou a recuperação de texto em 34 idiomas: o português está nessa lista, nos modelos Embed 8B e Embed 1B. Já a recuperação visual multilíngue foi avaliada no MIRACL Vision (18 idiomas) e no KoViDoRe, e o português não aparece entre esses 18. A empresa diz que o modelo pode suportar outros idiomas além dos avaliados

O que se sabe (e o que ainda não) sobre o Nemotron 3.5 Parse

O Parse é o modelo de extração de documentos dessa leva, com 631M de parâmetros. Ele também foi publicado no Hugging Face, com o rótulo de licença OpenMDW-1.1 na página

Na checagem desta vez, não confirmamos os detalhes de como ele estrutura a saída (se usa classes de layout, bounding boxes, ordem de leitura) nem a lista completa de formatos de entrada que aceita, então preferimos não afirmar isso aqui. Se extração de documento é o teu problema, o caminho mais seguro é ler o model card direto antes de testar, em vez de confiar num resumo de segunda mão

Porque boa parte dos problemas de RAG começa antes da busca: documento mal extraído vira chunk bagunçado, e chunk bagunçado vira resposta ruim. Um modelo dedicado a essa etapa ataca o problema na origem, mas sem o model card em mãos não dá pra garantir o que ele faz com precisão

Rerank reduz mesmo os tokens do agente? O que os números da NVIDIA mostram

Segundo a NVIDIA, sim: adicionar o Rerank cortou tokens e melhorou a precisão. Mas se liga, todos os números desta seção são da própria NVIDIA, não de avaliação independente

A lógica do argumento é simples: quando o agente recebe evidência ruim, ele repete busca, abre mais documento e queima token. Evidência melhor no contexto, menos voltas até a resposta

Como a avaliação foi feita:

A NVIDIA rodou um agente que consulta o corpus com uma ferramenta de busca, inspeciona a evidência e refina a próxima busca

Os testes usaram o ViDoRe v3 (entradas de texto e imagem), o BRIGHT e o BrowseComp-Plus (só texto). O LLM do agente, as ferramentas, as tarefas, o corpus e a política de execução ficaram fixos, e só mudou a configuração de recuperação: só embedding ou embedding + reranking

Foram medidos o sucesso em achar a informação relevante e o total de tokens de inferência por tarefa, contando entrada e saída em todos os turnos

Os resultados divulgados:

• Adicionar o Rerank reduziu o custo em tokens do agente por consulta em cerca de 14% com o Embed 8B e 13% com o Embed 1B, e melhorou a precisão da recuperação nas duas configurações
• Com o Embed 8B como retriever, o Rerank teve cerca de 0,9 ponto a mais de nDCG@10 que o Qwen3-VL-Reranker-8B, com custo em tokens do agente parecido
• O Embed 8B marcou 61,17 de nDCG@10 no ViDoRe v3.1, segundo a NVIDIA no dia do anúncio
• Com as receitas de fine-tuning de embedding do Nemotron pra coleções próprias, o ganho relativo de nDCG@10 foi de 18% no Embed 1B BF16 e de 3% no Embed 8B BF16, nos experimentos da NVIDIA com gráficos e infográficos

Repara nesse último ponto: o modelo menor foi o que mais ganhou com adaptação de domínio. Faz sentido olhar pra isso se tu tem um tipo de documento muito específico

E o nDCG@10? É uma métrica que mede se os documentos relevantes aparecem nas primeiras 10 posições, dando mais peso pra quem fica no topo. Quanto maior, melhor o ranking

O que muda para quem monta RAG e agentes

Quem mais ganha são as equipes com bases de documentos visualmente ricos, que até agora dependiam de OCR ou de indexar só o texto e perdiam o que estava dentro de gráfico e tabela

Na escolha entre as variantes, a própria descrição da NVIDIA já dá o caminho:

• Embed 8B quando a qualidade da busca pesa mais
• Embed 1B quando tu precisa economizar recursos
• Rerank 8B como segunda etapa, filtrando o que realmente entra no contexto do agente
• Parse quando o problema é extrair conteúdo de documentos, mas confere o model card antes de assumir o que ele entrega

Onde estão disponíveis:

O Embed 8B BF16, o Embed 1B BF16, o Rerank 8B BF16 e o Parse estão publicados no Hugging Face, na conta da NVIDIA (huggingface.co/nvidia). Não confirmamos nesta checagem se o Embed 1B NVFP4 também tem página própria publicada lá

O Embed 8B BF16 usa a licença OpenMDW-1.1, liberado pra uso comercial ou não comercial, e o modelo base dele (Ministral-3-8B-Instruct-2512-BF16) usa Apache 2.0. O Embed 1B BF16 também usa OpenMDW-1.1 e está liberado pra uso comercial ou não comercial

O Rerank 8B BF16 e o Parse também aparecem no Hugging Face com o rótulo de licença OpenMDW-1.1. No anúncio, a NVIDIA descreve todos os modelos dessa leva, incluindo esses dois, como abertos e comercialmente disponíveis. Ainda assim, nesta checagem não conseguimos confirmar se a frase explícita de liberação pra uso comercial ou não comercial, igual à que aparece nos model cards do Embed 8B e do Embed 1B, também está nas páginas do Rerank e do Parse: o texto consultado veio truncado. Então vale abrir o model card completo de cada um antes de usar em produto

Limitações que vale saber:

• A lista completa de hardware suportado pelo NVFP4 não é detalhada no anúncio, além do teste específico na GB200 citado acima
• A licença e a publicação do Embed 1B NVFP4 no Hugging Face não foram confirmadas nesta checagem
• Os detalhes de função e arquitetura do Parse não foram confirmados nesta checagem, então não afirmamos como ele estrutura a saída
• Os ganhos de desempenho foram medidos pela NVIDIA, com o setup dela. No seu corpus, com o seu agente, o resultado pode ser outro
• O português está nos 34 idiomas avaliados pra recuperação de texto, mas não aparece nos 18 idiomas avaliados pra recuperação visual multilíngue (MIRACL Vision). Se o teu caso de uso depende de buscar evidência em imagens de documentos em português, vale testar antes

Se a ideia de reranker ainda tá meio abstrata, esse vídeo do canal explica o conceito dentro de um agente RAG no n8n, ativando o rerank sobre os resultados de uma base vetorial

Por onde começar a avaliar os modelos

Separa uma amostra dos seus documentos mais visuais, aqueles cheios de tabela, gráfico e esquema, junto com perguntas reais que a sua equipe faz no dia a dia

Aí compara a recuperação que tu usa hoje com o Nemotron 3.5 Embed, primeiro sem e depois com o Rerank, medindo duas coisas: se o agente acha a evidência certa e quantos tokens ele gasta até chegar na resposta

Se o ganho aparecer nos SEUS dados, aí sim vale pensar em produção, e antes disso lê o model card de cada variante pra conferir licença e requisitos

Até o próximo post! 😉

Quer aprender mais sobre inteligência artificial e programação na prática? Conheça o canal Hora de Codar no YouTube e acompanhe os próximos vídeos.