Alucinação de IA: como evitar respostas inventadas

O assistente interno responde com toda a segurança que o prazo de devolução é de 30 dias. A política da empresa diz 7. O atendente repassa a informação ao cliente, o cliente volta no dia 20 com a nota na mão e a discussão termina com a empresa engolindo o prejuízo para não perder a venda. Ninguém mentiu de propósito: o sistema simplesmente inventou uma resposta que parecia certa.

Esse é o tipo de erro que trava projetos de IA em empresas. Não é o modelo que responde "não entendi"; é o modelo que responde algo plausível, bem escrito e falso. E como o texto soa convincente, o erro passa pela revisão humana com mais facilidade do que um erro grosseiro passaria.

Alucinação não é mistério nem fatalidade: é um comportamento previsível de modelos de linguagem. Para evitá-la em um sistema de negócio, o caminho é fazer a IA responder a partir das fontes da empresa, exigir que ela cite o trecho usado, conferir por código tudo o que for número, código ou data, permitir que ela diga "não sei" e medir as respostas continuamente. Abaixo, cada uma dessas camadas, em ordem de impacto, e quando ela é necessária.

A resposta curta: como evitar alucinação de IA

Não existe configuração que elimine alucinação por completo. O que funciona é uma combinação de camadas, e cada uma pega o que a anterior deixou passar:

1. Contexto controlado. O modelo responde a partir de documentos e dados da empresa entregues a cada pergunta, não da memória dele. É o caminho do RAG, comparado em RAG ou fine-tuning.
2. Citação de fonte. Toda afirmação aponta para o trecho que a sustenta, e o usuário consegue conferir.
3. Validação por regras. Valores, códigos, datas e cálculos são checados por código comum, contra o sistema de origem.
4. Permissão para não saber. Quando a fonte não cobre a pergunta, o sistema diz isso e encaminha para uma pessoa.
5. Limites de escopo e de ação. A IA sugere; ações com consequência passam por confirmação ou por regra determinística.
6. Testes e monitoramento. Um conjunto de perguntas com resposta conhecida roda a cada mudança, e as respostas em produção são amostradas e revisadas.

O restante do texto detalha cada camada e mostra quando ela é necessária.

O que é alucinação e por que acontece

Um modelo de linguagem é treinado para produzir o texto mais provável dado o que veio antes. Ele não consulta um banco de dados de fatos; ele gera palavras que combinam estatisticamente com a pergunta. Na maior parte do tempo, o texto mais provável também é o correto. Quando não é, o modelo continua escrevendo com a mesma fluência.

Alguns gatilhos aparecem com frequência em sistemas de empresa:

• Pergunta sobre algo que o modelo não viu. Sua política interna, o preço da sua tabela, o prazo do seu contrato. Ele não conhece, mas sabe como uma resposta desse tipo costuma ser, e preenche a lacuna.
• Contexto incompleto ou contraditório. O sistema entrega dois documentos com versões diferentes da mesma regra, e o modelo mistura as duas.
• Pergunta que pressupõe algo falso. "Qual o desconto para pagamento em 90 dias?" quando não existe desconto nesse prazo. O modelo tende a aceitar a premissa.
• Detalhes precisos. Números, códigos, nomes próprios, datas e referências a leis são os pontos em que o modelo mais erra, porque pequenas variações parecem igualmente prováveis.
• Instrução que pede resposta a qualquer custo. Um prompt que diz "sempre ajude o cliente" sem dizer "e quando não souber, admita" empurra o modelo a improvisar.

Entender isso muda a pergunta do projeto. Não é "qual modelo não alucina", e sim "como desenho o sistema para que o modelo tenha a informação certa, seja checado e possa recuar".

Onde ela é perigosa e onde é tolerável

Nem todo uso de IA exige o mesmo rigor. Gastar esforço de validação num rascunho de e-mail é desperdício; não gastar numa resposta sobre prazo contratual é imprudência. Uma forma prática de classificar:

A coluna da direita é cumulativa: quanto mais para baixo na tabela, mais camadas da lista inicial o sistema precisa ter.

Responder só com base em fontes da empresa

A camada que mais reduz alucinação é tirar do modelo a tarefa de lembrar. Em vez de perguntar direto ao modelo, o sistema primeiro busca os trechos relevantes nos documentos e dados da empresa e entrega esses trechos junto com a pergunta, com uma instrução explícita: responda somente com base neste material. A técnica é conhecida como geração aumentada por recuperação (RAG), e explicamos o funcionamento passo a passo em assistente de IA que responde com os documentos da empresa.

O que define se essa camada funciona não é o modelo, é o acervo e a busca:

• Uma versão vigente de cada documento. Se a pasta tem a política de 2023 e a de 2025, o sistema precisa saber qual vale. Documento obsoleto no acervo é alucinação com fonte.
• Dado vivo vem do sistema, não do documento. Saldo, preço, status de pedido e prazo de entrega devem ser consultados no ERP ou no sistema de origem no momento da pergunta, por integração, e não copiados para um PDF que envelhece.
• Busca que encontra códigos e siglas. Busca só por significado tende a falhar em código de produto e número de norma. Combinar com busca por palavra exata resolve boa parte dos casos.
• Trechos com contexto suficiente. Cortar um documento no meio de uma tabela entrega ao modelo meia regra. O jeito de dividir o acervo influencia diretamente a qualidade da resposta.

Na prática, quando um assistente desses erra, a investigação quase sempre termina em "o trecho certo não foi encontrado" ou "o trecho encontrado estava desatualizado", e não em "o modelo ignorou a fonte".

Citação de fonte e respostas verificáveis

Pedir que o modelo cite a fonte tem dois efeitos. O primeiro é técnico: obrigado a apontar o trecho, o modelo tende a se ater ao que está no material. O segundo é de uso: a pessoa que recebe a resposta consegue clicar e conferir, e passa a confiar no sistema pelo motivo certo.

Para a citação ter valor, alguns cuidados:

• A citação aponta para um trecho real, não para um título genérico. "Política de devoluções, seção 3" é verificável; "conforme as políticas da empresa" não é.
• O sistema confere a citação. Depois da resposta gerada, um passo de código verifica se o documento citado está mesmo entre os trechos entregues. Citação de documento que não foi entregue é sinal de invenção e a resposta é bloqueada.
• Afirmação sem citação vira alerta. Em usos de risco alto, uma resposta que traz um número ou prazo sem fonte associada não é exibida como está.

No atendimento ao cliente, a citação nem sempre aparece para quem pergunta, mas deve ficar registrada para auditoria. Detalhamos esse desenho em atendimento no WhatsApp com IA.

Validação por regras e por outro sistema

Tudo que pode ser checado por código comum deve ser checado por código comum. O modelo de linguagem é bom em interpretar texto livre; é ruim como fonte de verdade para números. A arquitetura que funciona separa as duas coisas.

Regras determinísticas

Exemplos de checagem que não depende de IA:

• Formato e dígito verificador. CNPJ, CPF, chave de NF-e e código de barras de boleto têm regras de validação conhecidas. Um valor que não passa é rejeitado antes de chegar ao cadastro.
• Soma e coerência. Itens de uma nota extraída devem somar o total; data de vencimento não pode ser anterior à emissão.
• Domínio permitido. Se o campo é "condição de pagamento", a resposta precisa ser uma das condições cadastradas, não um texto inventado.

Conferência contra o sistema de origem

Quando a IA extrai um dado de um documento, o sistema compara com o que já existe: o fornecedor está cadastrado? O pedido de compra citado existe e está em aberto? O valor bate com o pedido dentro de uma tolerância definida? Divergência vai para uma fila de conferência humana, com o documento original ao lado. Esse é o desenho que recomendamos em extração de dados de documentos com IA.

Uma segunda checagem por modelo

Em alguns casos, faz sentido um segundo passo em que outro prompt (ou outro modelo) avalia se a resposta está sustentada pelos trechos entregues. Ajuda, mas não substitui as regras: dois modelos podem errar juntos. Use como camada adicional, não como a única.

Quando a IA deve dizer que não sabe

Um sistema que nunca diz "não sei" vai inventar. A recusa precisa ser desenhada, não apenas pedida no prompt:

• Instrução explícita. O prompt diz o que fazer quando o material não cobre a pergunta: responder que não encontrou a informação e oferecer o próximo passo.
• Limite de escopo. O assistente de RH não responde sobre preço de produto; o de atendimento não opina sobre questão jurídica. Perguntas fora do escopo são reconhecidas e redirecionadas.
• Gatilho de busca vazia. Se a busca não trouxe nenhum trecho relevante o suficiente, o sistema nem chama o modelo para responder: devolve a mensagem de "não encontrei" direto.
• Transbordo para pessoa. Em atendimento, "não sei" sem saída frustra o cliente. A resposta certa é "vou te passar para alguém da equipe", com o histórico da conversa junto.

Para quem decide, a pergunta útil não é "a IA responde tudo?", e sim "quando ela não sabe, o que acontece?". Um bom sistema recusa com frequência no começo e vai recusando menos à medida que o acervo melhora.

Limites de ação: a IA sugere, a regra decide

Quanto maior a consequência, menor a autonomia. Um padrão seguro para sistemas de negócio:

• Leitura livre, escrita controlada. A IA pode consultar dados conforme a permissão do usuário, mas gravar, aprovar ou cancelar passa por uma API com regras próprias.
• Confirmação antes de agir. A IA monta a proposta (o lançamento, o pedido, a resposta ao cliente) e uma pessoa confirma, ao menos até o sistema provar consistência.
• Ações irreversíveis fora do alcance. Pagamento, exclusão de cadastro e emissão de documento fiscal ficam com o fluxo determinístico do sistema, nunca com a decisão do modelo.

Esse desenho também limita o estrago de outro risco: alguém tentar convencer o assistente, por mensagem, a fazer algo que não deveria. Se a IA não tem permissão para executar a ação, a tentativa não passa de texto. É o mesmo princípio que vale para agentes de IA na empresa, que executam ações nos sistemas.

Testes e monitoramento contínuo

Alucinação não se resolve uma vez. Muda o acervo, muda o modelo, muda o jeito como as pessoas perguntam. Sem medição, a qualidade cai sem ninguém perceber.

Checklist para colocar um sistema com IA em produção

• Conjunto de perguntas de referência. Dezenas de perguntas reais, com a resposta correta e a fonte esperada, escritas por quem conhece o assunto. Inclua perguntas que o sistema deve recusar.
• Execução a cada mudança. Trocou o prompt, o modelo ou o jeito de dividir documentos? Roda o conjunto e compara com a versão anterior antes de publicar.
• Registro de cada resposta. Pergunta, trechos encontrados, resposta, citações e versão do sistema, respeitando a LGPD no que diz respeito a dados pessoais e prazo de retenção.
• Botão de "resposta errada". O usuário marca, e o caso vira item de revisão e, depois, pergunta de referência.
• Amostragem periódica. Alguém da área revisa uma amostra das respostas em produção, com atenção às que não tiveram citação ou que geraram transbordo.
• Indicadores simples. Taxa de recusa, taxa de resposta marcada como errada, tempo até transbordo. O valor absoluto importa menos que a tendência.

O conjunto de referência é o ativo mais valioso do projeto. É ele que permite trocar de modelo no futuro sem medo, porque a comparação passa a ser objetiva.

Perguntas frequentes

Existe modelo de IA que não alucina?

Não. Todo modelo de linguagem gera o texto mais provável, e às vezes o mais provável é falso. A alucinação de IA diminui com o desenho do sistema, e não com a escolha do modelo: contexto controlado, citação de fonte, validação por regras, permissão para dizer que não sabe e testes contínuos com perguntas de referência.

O que é RAG em inteligência artificial?

RAG, sigla em inglês para geração aumentada por recuperação, é a técnica em que o sistema busca trechos relevantes nos documentos e dados da empresa e os entrega ao modelo junto com a pergunta, com a instrução de responder só com base neles. É a camada que mais reduz respostas inventadas em assistentes corporativos.

Trocar para um modelo de IA mais novo resolve a alucinação?

Raramente, sozinho. Quando um assistente com RAG erra, a causa costuma ser o trecho certo não encontrado ou um documento desatualizado no acervo, e não o modelo ignorando a fonte. Antes de trocar de modelo, organize o acervo, melhore a busca e use um conjunto de perguntas de referência para comparar as versões de forma objetiva.

Como saber se o assistente de IA está inventando respostas?

Monte um conjunto de perguntas reais com resposta e fonte conhecidas, rode a cada mudança e compare com a versão anterior. Em produção, registre cada resposta do assistente de IA, ofereça um botão de resposta errada e revise amostras periódicas. Acompanhe a taxa de recusa e a de respostas marcadas como erradas, olhando a tendência.

Como a Pervian Tech trabalha IA confiável

Na Pervian Tech, começamos pelo uso, não pelo modelo. No diagnóstico inicial, que é gratuito, entendemos qual decisão a IA vai apoiar, de onde vem a informação, o que acontece se ela errar e quem confere. É isso que define quantas camadas da lista acima o sistema precisa ter, e evita tanto o excesso de controle num rascunho quanto a falta dele num atendimento.

A partir daí desenhamos a arquitetura de software sob medida: integração com os sistemas que são fonte da verdade, acervo organizado, citação conferida por código, validação por regras, limites de ação e um conjunto de perguntas de referência construído com a sua equipe desde o primeiro protótipo. Mais detalhes sobre como aplicamos IA em processos de negócio estão em inteligência artificial para empresas, e outros textos do tema estão na categoria inteligência artificial.

O cronograma segue fases (diagnóstico, protótipo com perguntas reais, piloto com um grupo de usuários, ampliação) e só é definido depois do diagnóstico. O investimento é sob consulta, porque depende do volume de documentos, das integrações e do nível de risco do uso. Se você já tem um assistente que responde com confiança demais, ou quer começar um sem esse problema, conte o que ele precisa responder.