DeepSeek abre o código do DeepInfer, motor de inferência do V4.1 Flash: o que foi liberado e o que ficou de fora

Fala aí, beleza? A DeepSeek abriu o código do DeepInfer, o framework de inferência interno que serve o DeepSeek-V4.1-Flash em produção, e junto veio um relatório com números de produção bem chamativos

O anúncio saiu em 20 de outubro de 2026. O código está no GitHub sob licença Apache 2.0 e vem acompanhado do componente deepseek-recipe, sob licença MIT

A ressalva aparece logo de cara: o gerenciamento de KV cache e o balanceamento de carga não foram liberados por inteiro

Ou seja, o serviço completo da DeepSeek não pode ser reproduzido só com o código aberto, e os números divulgados são da própria empresa, sem auditoria independente

O que a DeepSeek liberou no DeepInfer

O DeepInfer é o motor que a DeepSeek usa pra servir o V4.1 Flash em escala, agora aberto pra comunidade

No anúncio oficial no X, a empresa apresenta o projeto como seu framework de inferência interno, agora de código aberto

Se você ainda está chegando agora nesse ecossistema, vale ler antes o que é a DeepSeek pra entender o contexto da empresa e dos modelos 🙂

O que entrou no lançamento:

• Inferência distribuída
• Speculative decoding
• SWA Bounded Replay
• Saída estruturada
• Kernels customizados e paralelismo distribuído

No hardware, o suporte cobre NVIDIA (GPUs de data center SM100) e Huawei Ascend (Ascend 950)

A licença é Apache 2.0, segundo a cobertura do The Decoder

E o porquê disso tudo? O objetivo declarado pela DeepSeek é compartilhar a stack de produção pra ajudar a comunidade a reduzir custo de computação e consumo de energia, e tornar a IA mais acessível

A empresa também promete publicar no mesmo repositório as próximas implementações e otimizações de inferência de modelos, então esse repo tende a crescer…

Para que serve o deepseek-recipe

O deepseek-recipe é a camada de codificação e decodificação de tokens usada em produção, com processamento compatível com a API oficial da DeepSeek

Ele fica em github.com/deepseek-ai/deepseek-recipe e, segundo a própria página do repositório, é mantido pela organização deepseek-ai e usa licença MIT

E por que isso importa? Porque quem hospeda o modelo por conta própria passa a tratar os tokens do mesmo jeito que a API oficial trata, o que evita diferença de comportamento entre o seu deploy e o serviço da DeepSeek

Números de produção divulgados pela DeepSeek

O relatório de engenharia que acompanha o lançamento traz estes dados:

• 155 trilhões de tokens por dia em um único cluster
• 96% de acerto de cache de entrada
• TTFT médio de 400 ms
• Geração média de 230 tokens/s, chegando a 300 tokens/s em tarefas de código
• Receita de US$ 38 por hora de acelerador, considerando preços fora do horário de pico

Se liga num detalhe: esses números vêm da própria DeepSeek e não passaram por auditoria independente

E eles descrevem um serviço com cache MUITO alto, então não dá pra pegar esses valores e esperar o mesmo resultado num workload com pouca repetição de entrada

Teve muita gente fazendo conta de margem e lucro em cima disso, mas são estimativas de terceiros, não dados da empresa

O que ficou de fora do código aberto

Dá pra reproduzir o serviço da DeepSeek só com o que foi liberado? Não dá

O gerenciamento de KV cache e o balanceamento de carga não saíram por inteiro, porque continuam ligados à infraestrutura interna da empresa

Na prática, o motor está aberto, mas a orquestração no nível do serviço fica por conta de quem fizer o deploy

É como receber o motor de um carro de corrida sem a equipe de box: a peça é boa, mas a operação em volta tu monta sozinho 😛

Como o DeepInfer organiza a inferência

O DeepInfer separa a inferência em estágios: codificação de visão, prefill e decode, e cada um escala de acordo com o próprio gargalo

Que prefill e decode? O prefill é a etapa que processa o prompt de entrada, e o decode é a etapa que gera os tokens de saída, um a um

As recomendações de deploy divulgadas são:

• Prefill: máquinas com 8 aceleradores
• Decode: supernós de 64 a 128 aceleradores, com expert parallelism amplo

Tome cuidado na leitura: isso é recomendação de deploy, não a composição comprovada do cluster da DeepSeek

O DeepInfer é mais rápido que o vLLM?

No cenário testado pelo próprio vLLM, a diferença existe mas é pequena

Segundo a newsletter Latent Space, o DeepInfer foi construído inicialmente sobre o vLLM, com créditos também ao SGLang e ao TensorRT-LLM

Depois do anúncio, o time do vLLM informou throughput de decode até 6% abaixo dos resultados publicados do DeepInfer em GB200, numa configuração equivalente, segundo a AlphaSignal

O teste usou batches de 8 a 256 no DeepSeek-V4.1-Flash, e o vLLM atribui esse desempenho a técnicas como Wide-EP e EPLB, com receitas de reprodução publicadas em recipes.vllm.ai

Veredito honesto: a diferença é pequena, e o resultado relativiza bastante a ideia de que a eficiência da DeepSeek seria inacessível aos motores abertos que já existem

E vale lembrar que é um cenário específico, então fora dele a comparação pode mudar

Quem ganha com o DeepInfer aberto

Quem mais ganha são provedores de inferência e equipes que querem rodar o V4.1 Flash na própria infraestrutura com otimizações próximas às da API da DeepSeek

Só que esse pessoal precisa resolver por conta própria a gestão de KV cache e o balanceamento de carga, que não vieram completos

Se tu só consome a API da DeepSeek, não precisa mudar nada no seu projeto

Pra esse perfil, faz mais sentido cuidar da resiliência da integração, tipo saber lidar com timeout na API do V4.1 Flash

Se você já usa vLLM, dá pra comparar usando as receitas de reprodução publicadas pelo próprio vLLM antes de pensar em trocar de motor

E em qualquer caso, confira licença e escopo no repositório oficial antes de adotar, beleza?

O modelo que roda sobre o DeepInfer

Pra quem quer conhecer o modelo que esse motor serve, este vídeo do canal testa o DeepSeek V4.1 Flash com foco em desempenho e custo

Próximo passo

Se você hospeda modelos, o caminho é partir do anúncio oficial, chegar no repositório do DeepInfer e abrir também o do deepseek-recipe

Nos dois, confirme licença, hardware suportado e o que falta pra montar o seu próprio serviço, principalmente a parte de KV cache e balanceamento

Depois, compare com as receitas de reprodução do vLLM rodando no seu cenário, e só então decida se vale trocar de motor

Até o próximo post! 😀

Quer aprender mais sobre inteligência artificial e programação na prática? Conheça o canal Hora de Codar no YouTube e acompanhe os próximos vídeos.