Árvore de decisão ou LLM: qual usar para classificar linhas de planilha?

Jogar a planilha inteira dentro do contexto de um LLM parece a coisa mais moderna do mundo, né?

Mas, se a tabela é feita de colunas numéricas e categóricas, o modelo clássico ainda costuma ganhar

Fala aí, beleza? Bora resolver uma dúvida que aparece MUITO agora que todo mundo tem um LLM aberto na outra aba: tu tem uma planilha e precisa classificar cada linha

Churn ou não churn, aprovado ou reprovado, fraude ou legítimo, e por aí vai

Aí vem a pergunta: árvore de decisão ou LLM? Random Forest e XGBoost, ou cola tudo no prompt e pede pro modelo decidir?

Neste post eu te mostro o que a pesquisa diz sobre isso, o que acontece de fato quando a tabela vira texto e uns sinais práticos pra tu diagnosticar a sua própria planilha 🙂

Por que árvores de decisão vencem em dados tabulares

O trabalho mais citado nessa discussão é o de Grinsztajn, Oyallon e Varoquaux, apresentado no NeurIPS 2022

Eles montaram um benchmark com 45 datasets tabulares de domínios variados e, pra cada modelo de referência, publicaram os dados brutos de 20.000 horas de computação de busca de hiperparâmetros

Ou seja, não foi um teste ‘next, next e finish’ haha

O resultado: modelos baseados em árvore, como XGBoost e Random Forest, continuam no estado da arte em dados tabulares de tamanho médio (cerca de 10 mil amostras)

E isso mesmo SEM contar a vantagem de velocidade que eles já têm

Mas por quê? O estudo aponta 3 desafios que explicam por que redes neurais perdem pra árvores em tabelas

E cada um deles aparece na sua planilha, se liga:

Desafio 1: ser robusto a colunas sem informação

Toda planilha de verdade tem coluna que não serve pra nada na previsão

O clássico é o ID do cliente, ou um carimbo interno de sistema que alguém exportou junto

Árvore lida bem com isso: se a coluna não ajuda a separar as classes, ela simplesmente quase não é usada nos cortes

Desafio 2: preservar a orientação dos dados

Que orientação?

É o fato de que cada coluna tem um significado próprio. ‘Idade’ é idade, ‘valor da fatura’ é valor da fatura, e misturar as duas não faz sentido nenhum

A árvore trata cada coluna separadamente, coluna por coluna, então respeita essa estrutura por natureza

Desafio 3: aprender funções irregulares

Pensa numa regra de negócio do tipo ‘cliente com mais de X dias sem pagar vira inadimplente’

Não é uma curva suave, é um degrau. Antes do corte é uma coisa, depois é outra

Corte abrupto é exatamente o que a árvore faz: ela divide os dados em ‘acima de X’ e ‘abaixo de X’. Pra modelos que preferem funções suaves, isso dá trabalho

O que acontece quando você coloca a tabela dentro do contexto de um LLM

Agora o outro lado. LLM não lê tabela, lê texto

Então alguém precisa transformar a linha da planilha em texto antes

O TabLLM (Hegselmann et al., AISTATS 2023) faz exatamente isso: cada linha vira texto em linguagem natural, processo chamado de serialização, e vai pro LLM junto com uma descrição curta do problema de classificação

Um dos formatos mais simples e eficazes que eles usaram é o Text Template, no formato The <column name> is <value>

Bora ver na prática? Pega uma linha ilustrativa de uma planilha de churn:

idade | plano   | meses_de_casa | chamados_suporte
34    | premium | 18            | 5

Serializada no estilo Text Template, ela fica assim:

The idade is 34. The plano is premium. The meses_de_casa is 18. The chamados_suporte is 5.

E, junto disso, vai a descrição da tarefa, tipo ‘diga se esse cliente vai cancelar’

O resultado verificado do TabLLM: ele supera métodos anteriores de deep learning para tabelas em vários datasets e compete com árvores de gradient boosting, principalmente no cenário com pouquíssimos exemplos rotulados (o tal very-few-shot)

Agora liga isso com os 3 desafios da seção anterior

Quando a linha vira texto, o número vira palavra. O ’34’ não é mais um valor que o modelo corta em ‘acima’ ou ‘abaixo’, é um pedaço de frase

A vantagem do LLM aqui não é a matemática dos valores, é o conhecimento prévio sobre o SIGNIFICADO das colunas

Ele já ‘sabe’ o que é idade, plano premium, chamado de suporte, e consegue chutar algo razoável mesmo com quase nenhum exemplo

Por isso ele brilha justamente quando faltam rótulos 😀

E uma observação: se o seu caso é mais classificar e rotear texto livre (ticket, email, mensagem) do que linha de tabela, aí a conversa é outra, e vale olhar como usar saída estruturada de um LLM pra isso

TabPFN: o meio do caminho entre árvore e LLM

E se existisse um modelo grande, pré-treinado, mas feito especificamente pra tabela?

TEMOS! É o TabPFN, um modelo fundacional para dados tabulares

Ele foi publicado na Nature em janeiro de 2025, no artigo ‘Accurate predictions on small data with a tabular foundation model’, de Hollmann, Müller, Hutter e outros

O pulo do gato: ele faz predições por in-context learning, sem treinar com gradiente em cada dataset

Se você conhece o jeito de mandar exemplos no prompt de um LLM, a ideia é parecida: tu entrega os dados rotulados como contexto e ele já prevê as linhas novas. Só que aqui o ‘idioma’ é tabela, não texto

Como os limites do TabPFN evoluíram

• Versão original: até 10.000 linhas, 500 colunas e 10 classes
• TabPFN-2.5 (6 de novembro de 2025): até 50.000 linhas e 2.000 colunas
• TabPFN-3.5 (setembro de 2026): faz a predição numa tabela com um único forward pass, mantendo a mesma proposta de não precisar de treino nem tuning por dataset

Segundo a própria Prior Labs (ou seja, claim do fabricante, não benchmark independente), o TabPFN-3.5 ficou em primeiro lugar em 7 benchmarks tabulares e, com configurações padrão, superou a solução vencedora da competição Otto no Kaggle

Muito massa se se confirmar, mas vale tratar como promessa até aparecer avaliação de fora, beleza?

Quem mantém o TabPFN hoje?

A Prior Labs, empresa que desenvolve o TabPFN, foi comprada pela SAP. O acordo foi anunciado em maio de 2026 e concluído em julho de 2026

O TabPFN-3.5 Plus está disponível no SAP AI Core desde setembro de 2026

E o código é aberto, no repositório PriorLabs/TabPFN no GitHub

Árvore de decisão x LLM x TabPFN: comparação lado a lado

Bora ver as três lado a lado:

Abordagem	Como recebe os dados	Precisa de treino por dataset?	Onde se destaca	Evidência	Limite de tamanho documentado
Árvore de decisão (Random Forest, XGBoost)	Colunas originais da tabela	Sim	Tabelas de tamanho médio (cerca de 10 mil amostras) com rótulos	NeurIPS 2022 (45 datasets, estudo independente)	Não informado
LLM com serialização (estilo TabLLM)	Linha serializada como texto, com descrição da tarefa	Não informado (trabalha com descrição da tarefa e poucos exemplos rotulados)	Pouquíssimos exemplos rotulados (very-few-shot)	AISTATS 2023	Não informado
TabPFN	Dados da tabela como contexto (in-context learning)	Não	Tabelas pequenas e médias dentro dos limites	Nature 2025 + claims da Prior Labs para o 3.5	Original: 10.000 linhas, 500 colunas, 10 classes. 2.5: 50.000 linhas e 2.000 colunas

Sinais práticos de que seu problema é tabular, não de linguagem

Antes de abrir o chat e colar a planilha, roda esse checklist. Cada item vem ligado ao fato que sustenta ele:

• A maioria das colunas é número ou categoria fechada: é o terreno onde as árvores seguem no estado da arte (NeurIPS 2022)
• Cada coluna tem significado fixo e a ordem das linhas não importa: isso é a ‘orientação dos dados’, que árvores preservam e que é um dos 3 desafios que derrubam redes neurais
• Tem coluna que provavelmente não ajuda (IDs, carimbos internos): robustez a colunas sem informação é outro dos 3 desafios, e árvore aguenta bem
• Você tem centenas ou milhares de linhas rotuladas: o resultado do estudo é justamente em tabelas de tamanho médio com rótulos
• A regra de decisão tem cortes bruscos (acima de X vira outra classe): função irregular, o terceiro desafio, e o tipo de coisa que árvore faz naturalmente

Agora o contraponto. Sinais de que o LLM faz sentido:

• Quase nenhum exemplo rotulado: é o cenário very-few-shot onde o TabLLM compete com gradient boosting
• Colunas de texto livre, como comentário ou descrição: aí o problema já é, em parte, de linguagem
• Nomes de coluna que carregam conhecimento de mundo: a vantagem do LLM é saber o que a coluna significa, então coluna chamada ‘col_17’ não ajuda em nada

Se a sua planilha bateu quase tudo da primeira lista, tome cuidado com a tentação de usar LLM só porque está na moda xD

Veredito: qual usar para classificar linhas de planilha

Sem fórmula mágica, depende do cenário. Em três situações:

1. Planilha numérica/categórica com rótulos suficientes: comece por árvore (Random Forest, XGBoost). É o padrão com a melhor evidência independente pra esse tipo de dado
2. Pouquíssimos exemplos rotulados e colunas com significado semântico rico: um LLM com serialização no estilo TabLLM vira uma opção competitiva
3. Tabela dentro dos limites do TabPFN e vontade de evitar tuning: vale testar o TabPFN como comparação, lembrando que os resultados do 3.5 são claims da Prior Labs

Resumindo: na dúvida entre árvore de decisão ou LLM, quem decide é o tipo de dado e a quantidade de rótulos que tu tem

Conclusão: comece pela árvore e use o LLM com propósito

O tipo de dado decide a ferramenta, não o hype

Tabela de número e categoria, com rótulos, é casa da árvore. LLM entra quando faltam exemplos ou quando o significado das colunas pesa mais do que os valores. TabPFN é o meio do caminho pra quem quer prever sem treinar

O próximo passo é bem concreto:

1. Roda o checklist de sinais na sua planilha
2. Monta um baseline com árvore (Random Forest ou XGBoost)
3. Só então compara com LLM serializado ou com o TabPFN (repositório PriorLabs/TabPFN no GitHub), usando a MESMA divisão de dados

Esse último ponto é o que mais gente esquece: comparar modelos com divisões diferentes de treino e teste é comparar banana com laranja

E vale anotar tudo numa planilha de registro de testes, pra decidir com dados e não com impressão 😛

É isso, até o próximo post!

Perguntas frequentes

Árvore de decisão ou LLM: qual dos dois funciona melhor numa planilha de tamanho médio?

Pra planilhas de tamanho médio, com cerca de 10 mil amostras, o estudo de Grinsztajn, Oyallon e Varoquaux (NeurIPS 2022) mostra que árvores como XGBoost e Random Forest continuam no estado da arte. Isso vale mesmo sem contar a vantagem de velocidade que elas já têm. Então, nesse cenário, a árvore de decisão ainda sai na frente do LLM

LLM consegue classificar uma linha de planilha sem nenhum exemplo rotulado?

O TabLLM, do estudo de Hegselmann et al (AISTATS 2023), foi avaliado principalmente no cenário de pouquíssimos exemplos rotulados, o chamado very-few-shot, não exatamente zero exemplos. Nesse cenário ele compete com árvores de gradient boosting e supera métodos anteriores de deep learning pra tabela. A vantagem vem do conhecimento prévio do LLM sobre o significado das colunas, não da quantidade de exemplos

Por que usar XGBoost ou Random Forest em vez de jogar a planilha direto num LLM?

Porque o benchmark de 45 datasets tabulares do NeurIPS 2022 mostrou que árvores de decisão continuam no estado da arte em dados de tamanho médio. A pesquisa aponta 3 desafios que travam redes neurais nesse tipo de dado: robustez a colunas sem informação, preservar a orientação das colunas e aprender funções irregulares. Árvore resolve os três por natureza, já que corta os dados coluna por coluna

O TabPFN substitui a árvore de decisão e o LLM na hora de classificar planilha?

Não exatamente. Ele é um modelo fundacional publicado na Nature em janeiro de 2025 que faz predição por in-context learning, sem treinar com gradiente em cada dataset. Funciona como um meio do caminho: usa a ideia de contexto do LLM, mas falando a língua de tabela em vez de texto

Dá pra usar o TabPFN numa planilha com mais de 10 mil linhas?

Na versão original não, porque o limite era de 10.000 linhas, 500 colunas e 10 classes. O TabPFN-2.5, lançado em 6 de novembro de 2025, ampliou isso pra até 50.000 linhas e 2.000 colunas. Então depende de qual versão do modelo você está usando

O código do TabPFN é aberto?

Sim, o código fica no repositório PriorLabs/TabPFN, no GitHub. Isso vale pro modelo em si. A Prior Labs, empresa que desenvolve o TabPFN, foi comprada pela SAP, com o acordo concluído em julho de 2026