Dá para rodar o Jev localmente? O que a TypeSafe AI oferece hoje (API, pesos, self-hosting)

Fala aí, beleza? Vou direto ao ponto: hoje o Jev não roda na sua máquina 🙂

Se tu chegou aqui pesquisando "jev local" ou "jev modelo", provavelmente quer uma destas três coisas: privacidade, custo menor ou latência menor

Faz todo sentido querer isso, ainda mais pra um modelo que fica no meio do loop do agente tomando decisão o tempo todo

Neste post vou te mostrar o que a TypeSafe AI publica oficialmente, o que ainda fica em aberto e qual alternativa da comunidade existe pra quem precisa MESMO de algo local

O que é o Jev e por que ele é um modelo fechado?

O Jev é um modelo da TypeSafe AI e é o primeiro modelo System One público da empresa

Que System One? É o nome que a TypeSafe dá pra essa família de modelos que não escreve texto livre: ele recebe um estado e uma lista de perguntas e devolve respostas tipadas com probabilidades

Essas respostas saem em três primitivas:

• Choice: escolhe uma opção de uma lista
• Score: dá uma nota numa rubrica
• Noul: devolve a probabilidade de algo ser verdadeiro ou falso

Se os termos probabilidade e tipado ainda estão meio nebulosos, tem um glossário dos conceitos do Jev aqui no blog que ajuda bastante

Agora o ponto que importa pra este post: fontes que acompanham o Jev o descrevem como um modelo proprietário

Ele foi lançado em acesso antecipado limitado em 15/09/2026, junto com uma rodada seed de US$ 40 milhões liderada pela DCVC

Na documentação de modelos, o alias jev-latest aponta pra versão estável mais recente, que hoje é a jev-1.13.0, e é esse alias que os SDKs oficiais usam por padrão

Modelo proprietário, na prática, quer dizer isto: os pesos ficam com a empresa e você consome o modelo pela infraestrutura dela

Se tu veio do mundo de rodar modelo na própria máquina com pesos abertos, a lógica aqui é outra

Todas as formas de usar o Jev hoje (e qual delas é local):

O quickstart oficial da TypeSafe lista quatro formas de usar o Jev: SDK, API, agent skill e Playground no navegador

Se liga: nenhuma delas é execução local do modelo

Em nenhuma página oficial encontrada a TypeSafe publica pesos do Jev, build self-hosted ou instalador on-premise

Juntei tudo numa tabela, incluindo o jeff, que é da comunidade:

Alguns detalhes de cada linha:

SDK e API

Pra usar o Jev tu precisa pegar uma chave de API no console da TypeSafe e definir a variável de ambiente TYPESAFE_API_KEY

export TYPESAFE_API_KEY="sua-chave-aqui"

Os SDKs oficiais saem pra JavaScript/TypeScript (pacote @typesafe-ai/sdk) e pra Python

Agent skill

O quickstart diz que o jeito mais rápido de integrar é instalar a skill da TypeSafe pelo Claude Code ou via npx, aí o próprio agente de código escreve a integração pra você

O passo a passo da instalação fica no quickstart oficial, então segue por lá antes de rodar

Playground

O Playground roda o Jev no navegador: tu cola um estado, adiciona perguntas e lê as respostas sem escrever uma linha de código

Ótimo pra entender o comportamento do modelo antes de mexer no agente 😀

E a opção enterprise em VPC ou on-prem?

A página enterprise da TypeSafe tem no FAQ a pergunta "Can we run Jev in our own VPC or on-premises?"

Porém a TypeSafe não deixa isso como um recurso documentado nas formas de uso

Então quem precisa rodar em VPC própria ou on-prem tem que falar direto com vendas pelo [email protected]

Privacidade sem rodar local: o que a TypeSafe garante por contrato?

Se o seu motivo pra querer rodar o Jev localmente é privacidade, vale ver o que está publicado na parte legal

Pela documentação legal, a TypeSafe não treina nem faz fine-tuning de modelos com os prompts ou outros inputs do cliente

Pra clientes enterprise existe zero data retention (ZDR), combinado com o time de vendas pelo [email protected]

E a empresa publica três documentos que valem a leitura:

• Data Processing Addendum (DPA): typesafe.ai/legal/data-processing
• Master Customer Agreement (MCA): typesafe.ai/legal/mca
• Trust Center: trust.typesafe.ai

Tome cuidado com um detalhe aqui!

Isso tudo é garantia contratual, não isolamento físico

Seus dados continuam saindo da sua infra e indo pra API da TypeSafe, o que muda é o que ela se compromete a fazer (ou não fazer) com eles

Pra muita empresa isso basta, pra outras (setor regulado, dado ultra sensível, ambiente offline) não basta

Cada um avalia o seu caso, de preferência junto com o jurídico, né? 😛

Custo e latência: a API do Jev compensa contra rodar local?

Agora o outro lado: quem queria rodar local pra economizar ou pra ganhar velocidade

No custo, a página de modelos da TypeSafe traz um esquema bem diferente do que a gente costuma ver em LLM:

• US$ 0,042 por milhão de tokens de entrada (ou US$ 42 por bilhão)
• Saída gratuita, a cobrança é só pelo token de entrada

Faz sentido, já que o Jev devolve resposta tipada e não um textão

Nos limites de taxa do jev-1.13.0:

• 100 mil tokens por segundo
• 80 requisições por segundo

Se liga nisso: esses limites mudam dinamicamente e sem aviso, conforme a capacidade de GPU da TypeSafe

Pra limites maiores existem planos custom/enterprise, também via [email protected]

E a janela de contexto do Jev 1.13 por requisição fica assim:

• 64 mil tokens no total (estado + todas as perguntas)
• 32 mil tokens pra estado + a pergunta mais longa

Caso o seu agente monte estados gigantes, é aqui que ele vai bater no limite, então vale ficar de olho no tamanho do estado antes de culpar o modelo

Sobre latência: não tem número oficial publicado pra te passar aqui

E comparar com hardware próprio também não dá, já que não existe versão do Jev pra rodar na sua máquina

jeff: a alternativa self-hosted da comunidade (e seus limites)

Aqui entra a única opção local que existe hoje pra esse tipo de API

O jeff é uma implementação self-hosted da API System One do Jev, criada por Logan Markewich, com licença MIT

Tome cuidado com o nome: ele não é da TypeSafe, é um projeto independente da comunidade

E o mais importante: o jeff não roda o Jev

Ele roda sobre o GLiFormer, um modelo de 400M parâmetros

É como pegar um carro de outra marca que usa o mesmo tipo de chave: tu dirige do mesmo jeito, mas o motor é outro 😀

Segundo o README do projeto:

• dá pra usar o SDK oficial da TypeSafe com o jeff, apontando a variável TYPESAFE_BASE_URL pro servidor local
• ele suporta as primitivas choice, score e noul
• o próprio autor diz que ele é menos preciso que o Jev em tarefas que exigem mais raciocínio

A troca na prática é só apontar o SDK pro outro endereço:

export TYPESAFE_BASE_URL="<endereço do seu servidor jeff>"

A instalação e os requisitos de hardware do jeff ficam no README do repositório

Então o caminho certo é seguir o passo a passo de lá

Qual caminho escolher para o seu agente?

Beleza, juntando tudo, o veredito fica por perfil:

• Protótipo ou uso normal: vai de API hospedada, pelo SDK ou pela skill, e usa o Playground pra testar sem código
• Empresa com exigência de dados: fala com vendas sobre ZDR e já pergunta direto sobre rodar em VPC própria ou on-prem
• Precisa de execução 100% local ou offline: avalia o jeff, sabendo que tu troca o Jev por outro modelo e perde precisão em raciocínio

Tem um detalhe massa nessa história…

Como o jeff usa a mesma interface via TYPESAFE_BASE_URL, o código do agente pode alternar entre os dois só mudando o endereço

Isso NÃO quer dizer que o resultado vai ser o mesmo, beleza? Mesma interface, modelo diferente, respostas diferentes

Então se tu for por esse caminho, compara as respostas dos dois no seu próprio caso de uso antes de confiar no jeff em produção

Próximo passo:

Recapitulando rapidinho:

• o Jev hoje é só API hospedada, sem pesos públicos e sem versão local documentada
• VPC própria e on-prem ficam pra conversa com vendas
• o jeff é a opção local da comunidade, mas com outro modelo por baixo

Se tu quer começar agora, o passo prático é este:

1. Pega a sua chave de API no console da TypeSafe
2. Define a variável TYPESAFE_API_KEY no seu ambiente (o erro comum aqui é definir num terminal e rodar o código em outro, aí a chave some haha)
3. Testa no Playground ou instala a skill no Claude Code pra ele escrever a integração pra você

E depois disso, bora colocar o Jev pra tomar decisão dentro do seu agente, que é onde o modelo realmente brilha =)

Até o próximo post!