RAG ou fine-tuning: qual usar para a IA da sua empresa

A conversa costuma começar assim: "queremos uma IA que conheça a nossa empresa". Ela deveria saber a política de trocas, o catálogo de produtos, as cláusulas dos contratos, o procedimento de abertura de cliente. Logo alguém sugere "treinar o modelo com os nossos dados", e a expressão fine-tuning aparece na reunião como se fosse o caminho natural.

Quase nunca é. Há duas formas principais de levar o conhecimento da empresa a um modelo de linguagem. Uma é entregar a ele, a cada pergunta, os trechos certos dos documentos (isso é RAG). A outra é ajustar o próprio modelo com exemplos, para que ele passe a se comportar de um jeito específico (isso é fine-tuning). Elas resolvem problemas diferentes, e confundi-las leva a projetos que respondem errado com muita confiança. A seguir, a diferença sem jargão e o critério que usamos para decidir.

Resposta curta: decida pelo que a IA precisa aprender. Se é conhecimento que muda (políticas, catálogo, contratos, procedimentos) e a resposta precisa citar a fonte, o caminho é RAG. Se é comportamento repetitivo (classificar sempre do mesmo jeito, extrair num formato fixo, responder num tom definido) e bons prompts não bastaram, aí o fine-tuning pode se justificar. A maioria dos casos empresariais começa e termina em RAG com prompts bem escritos.

O que é RAG e o que é fine-tuning, sem jargão

Pense num funcionário novo e muito inteligente.

RAG (geração aumentada por recuperação, na sigla em inglês) é dar a esse funcionário um arquivo bem organizado. Diante de uma pergunta, ele procura os documentos relevantes, lê os trechos certos e responde com base neles, dizendo de onde tirou a informação. Se a política mudar amanhã, basta trocar o documento.

Tecnicamente, o sistema quebra os documentos em trechos, indexa para busca por significado, recupera os mais relevantes para cada pergunta e os envia ao modelo junto com a instrução. O modelo continua o mesmo.

Fine-tuning é mandar esse funcionário para um treinamento intensivo com muitos exemplos resolvidos: "quando chegar um chamado assim, a classificação é esta". Ele sai com hábitos novos, mas não com um arquivo na cabeça: o que absorveu sobre fatos específicos fica vago e impossível de rastrear.

Tecnicamente, você continua o treinamento de um modelo existente com pares de entrada e saída esperada. O resultado é uma versão ajustada, que precisa ser hospedada, versionada e reavaliada.

E há a terceira opção, muitas vezes esquecida: só prompt. Uma instrução bem escrita, com regras e alguns exemplos na própria mensagem, resolve muitos casos sem buscar documento e sem treinar nada.

Conhecimento x comportamento: a distinção que decide

A pergunta que destrava a decisão: o que a IA precisa aprender?

Conhecimento é o "o quê". Qual é o prazo de devolução. O que diz a cláusula de reajuste do contrato com aquele cliente. Qual é o passo a passo para liberar crédito acima do limite. Conhecimento muda com o tempo, precisa ser exato e muitas vezes precisa ser comprovado.

Comportamento é o "como". Classificar um chamado em uma das categorias da empresa, sempre com o mesmo critério. Extrair campos de um documento e devolver num formato fixo que o sistema consegue ler. Responder no tom da marca, com frases curtas e sem termos técnicos. Comportamento é estável, repetitivo e aprendido por exemplo.

A regra prática:

• Conhecimento se entrega na hora (RAG). Tentar "ensinar" fatos por fine-tuning é como pedir ao funcionário que decore o manual inteiro: ele vai lembrar de parte, confundir outra parte e não vai saber dizer qual é qual.
• Comportamento se ensina por instrução e exemplo (prompt primeiro, fine-tuning se o prompt não der conta).

Muitos projetos misturam as duas coisas. Um assistente de atendimento precisa saber a política vigente (conhecimento) e responder no tom da empresa (comportamento). O conhecimento vem por RAG e o tom, quase sempre, se resolve no prompt.

Atualização da informação e citação da fonte

Aqui o RAG tem uma vantagem estrutural, e ela pesa muito em ambiente corporativo.

Atualização. Com RAG, a política nova vale quando o documento é atualizado e reindexado, sem retreino. Com fine-tuning, o que o modelo "aprendeu" fica congelado no treinamento. Se a tabela de prazos muda todo trimestre, seria preciso retreinar todo trimestre, e ainda assim o modelo poderia misturar a regra antiga com a nova.

Citação. Num assistente baseado em RAG, cada resposta pode vir acompanhada dos trechos que a sustentaram: "segundo a Política de Trocas, seção 4". O usuário confere, o auditor confere, e quando a resposta está errada dá para descobrir se o problema foi o documento, a busca ou o modelo. Com fine-tuning, não existe fonte para citar. A resposta sai dos pesos do modelo, e ninguém consegue apontar de onde veio.

Essa rastreabilidade é também a principal defesa contra respostas inventadas: exigir apoio em trechos recuperados, recusar quando não há trecho relevante e conferir a citação são práticas que detalhamos em alucinação de IA: como evitar respostas inventadas. Nenhuma delas é possível quando o conhecimento está diluído dentro do modelo.

Como fica um assistente desse tipo na prática, com busca, citação e permissões, está em assistente de IA que responde com os documentos da empresa.

Permissões de acesso e dados sensíveis

Este ponto costuma ser ignorado na empolgação e vira problema sério depois.

No RAG, a permissão pode ser aplicada na busca. Cada documento indexado carrega quem pode vê-lo, e o sistema só recupera trechos que aquele usuário tem permissão de ler. O diretor financeiro, fazendo a mesma pergunta que o vendedor, pode receber uma resposta mais completa. O modelo só enxerga o que foi entregue a ele naquela consulta.

No fine-tuning, não há permissão por usuário. O que entrou no treinamento faz parte do modelo para qualquer pessoa que o use. Dá para treinar versões separadas por público, mas isso multiplica o trabalho de preparação e manutenção e ainda não protege documento a documento. Se um contrato confidencial ou dados pessoais de clientes entraram nos exemplos, não há filtro confiável que impeça o modelo de reproduzir parte disso. E remover um dado depois exige retreinar.

Por isso, uma regra de projeto que aplicamos: dado sensível não entra em conjunto de treinamento. Exemplos para fine-tuning devem ser anonimizados ou sintéticos, e o conjunto precisa ser revisado antes de qualquer treino.

A LGPD se aplica nos dois casos: dados pessoais enviados a um modelo, como contexto ou como exemplo, precisam de finalidade clara e de um fornecedor com termos adequados de tratamento. Os cuidados de base, como contas corporativas e o que não enviar, estão em uso seguro de IA generativa na empresa. Confirme sempre com o fornecedor do modelo as condições atuais de uso e retenção de dados.

Esforço de preparação: documentos organizados x exemplos rotulados

As duas abordagens exigem trabalho antes da primeira resposta, mas trabalhos de natureza diferente.

O que o RAG pede

• Documentos atualizados e sem duplicatas. Três versões da mesma política em pastas diferentes geram respostas contraditórias.
• Um dono para cada base. Alguém precisa responder pela política de trocas e avisar quando ela muda.
• Estrutura legível. Títulos e seções claros; PDF escaneado sem texto precisa de tratamento antes.
• Metadados de permissão e vigência. Quem pode ver, desde quando vale, o que substitui.
• Um conjunto de perguntas de teste com as respostas esperadas, para medir se a busca está trazendo os trechos certos.

O esforço é de organização da informação, e beneficia a empresa mesmo fora do projeto de IA.

O que o fine-tuning pede

• Muitos exemplos rotulados e consistentes, revisados por quem conhece o processo. Se dois especialistas classificariam o mesmo chamado de forma diferente, o modelo aprende a inconsistência.
• Um critério escrito. Antes de rotular, é preciso definir as categorias e as regras. Muitas vezes, escrever esse critério já resolve o problema por prompt.
• Separação entre treino e teste, para medir se o modelo ajustado é melhor do que o modelo original com um bom prompt.
• Rotina de manutenção. Quando as categorias mudam, os exemplos mudam e o treino precisa ser refeito.

O esforço é de curadoria de dados, e não para depois do primeiro treino.

Tabela comparativa: RAG x fine-tuning x só prompt

Repare na linha de dependência. Um sistema com prompt e RAG troca de modelo quando surgir opção melhor, bastando reavaliar com os mesmos testes. Um modelo ajustado carrega um esforço de preparação que nem sempre se transfere para o próximo modelo base.

Quando escolher cada um

Comece só com prompt quando

• A tarefa é genérica (resumir, reescrever, traduzir, sugerir resposta) e as regras cabem em uma instrução.
• Você ainda está validando se a IA ajuda naquele processo.
• Poucos exemplos dentro do próprio prompt já dão o resultado esperado nos testes.

Para muitas tarefas, um assistente pronto de mercado, com conta corporativa e boas instruções, é a melhor escolha. Não construa nada antes de confirmar que o prompt não resolve.

Escolha RAG quando

• As respostas dependem de documentos internos: políticas, manuais, catálogo, contratos, procedimentos, base de conhecimento do atendimento.
• A informação muda e a resposta precisa refletir a versão vigente.
• O usuário ou o auditor precisa ver de onde veio a resposta.
• Pessoas diferentes podem ver documentos diferentes.
• O custo de uma resposta errada é alto (prazo prometido a cliente, regra de compliance).

Se os documentos são poucos e o público é interno, verifique antes se o pacote de escritório ou a base de conhecimento que a empresa já usa oferece busca com IA sobre os próprios arquivos. Muitos produtos de mercado têm algo nessa linha; confirme com o fornecedor o que está disponível hoje e como funcionam as permissões. Construir sob medida faz sentido quando os documentos estão espalhados em vários sistemas, quando a resposta precisa se integrar a um processo (abrir chamado, consultar pedido) ou quando o controle de acesso é mais fino do que a ferramenta pronta permite.

Considere fine-tuning quando

• A tarefa é estreita, repetitiva e de alto volume: classificar chamados nas categorias da empresa, extrair campos num formato fixo, padronizar descrições de produto.
• Você já testou prompts bem escritos com exemplos e o resultado continua inconsistente.
• Existe um conjunto grande de exemplos corretos, revisados e sem dados sensíveis.
• O critério da tarefa é estável e não muda todo mês.

Dois exemplos onde essa conversa aparece com frequência: a triagem de chamados com IA, em que o critério de classificação é próprio da empresa, e a extração de dados de documentos com IA, em que o formato de saída é fixo. Mesmo nesses casos, o caminho que recomendamos é começar com prompt e validação por regras, medir a precisão e só partir para fine-tuning se os números pedirem.

Sinais de que a escolha está errada

• Fine-tuning para "o modelo saber os produtos". É conhecimento, e muda. Vai responder com o catálogo antigo e sem fonte.
• RAG para padronizar formato. Recuperar documentos não ensina o modelo a devolver uma saída consistente; isso é instrução, validação e, se preciso, ajuste.
• Qualquer um dos dois sem conjunto de testes. Sem respostas esperadas, não há como saber se a mudança melhorou ou piorou.

Combinar as duas coisas, um modelo ajustado para formato e tom alimentado por RAG, é legítimo, mas raramente é o ponto de partida.

Perguntas frequentes

Dá para treinar uma IA com os documentos da empresa?

Dá, mas para documentos quase nunca é o melhor caminho. Fatos aprendidos por fine-tuning ficam vagos, sem fonte e congelados no momento do treino. Para uma IA responder com base nos documentos da empresa, o RAG costuma funcionar melhor: o sistema busca os trechos relevantes a cada pergunta e cita de onde tirou a resposta.

RAG evita que a IA invente respostas?

Reduz bastante, mas não elimina sozinho. O RAG permite exigir que a resposta se apoie em trechos recuperados, recusar quando não há trecho relevante e mostrar a citação para conferência. Sem um conjunto de perguntas de teste com respostas esperadas, porém, não há como medir se a busca está trazendo os trechos certos.

É seguro usar dados sensíveis em fine-tuning?

Não é recomendável. O que entra no treinamento passa a fazer parte do modelo para qualquer pessoa que o use, sem permissão por usuário, e remover um dado depois exige retreinar. Exemplos para fine-tuning devem ser anonimizados ou sintéticos e revisados antes do treino, e a LGPD se aplica aos dados pessoais envolvidos.

Dá para usar RAG e fine-tuning juntos?

Dá. Um modelo ajustado por fine-tuning para formato e tom pode ser alimentado por RAG com o conhecimento da empresa. A combinação é legítima, mas raramente é o ponto de partida: o caminho recomendado é começar por prompts bem escritos e RAG, medir os resultados e só partir para fine-tuning se os números pedirem.

Como a Pervian Tech ajuda a decidir e escolher a abordagem

Começamos pelo problema, não pela técnica. No diagnóstico inicial gratuito, levantamos o que a IA precisa responder ou executar, onde está a informação, quem pode ver o quê e qual é o custo de uma resposta errada. Separamos conhecimento de comportamento e montamos um conjunto de testes antes de qualquer integração.

Quando um assistente pronto de mercado ou a IA que já vem na ferramenta que a empresa usa resolve, recomendamos e ajudamos a configurar. Quando o caso pede integração com os sistemas da empresa, permissões finas, citação de fonte ou uma tarefa automatizada dentro de um processo, desenhamos e construímos a solução sob medida, quase sempre com RAG e prompts bem testados, e com fine-tuning apenas quando os números justificam. Esse desenho faz parte do nosso trabalho de arquitetura de software, e você pode ver o escopo completo em inteligência artificial para empresas. Outros textos sobre o tema estão na categoria de inteligência artificial.

O investimento é definido sob consulta, depois de entender o volume de documentos, as integrações necessárias e o nível de controle exigido. Se a sua empresa quer uma IA que responda com base no que é verdade hoje, conte para nós o que ela precisaria saber.