# Alucinação de IA: como evitar respostas inventadas

> Alucinação de IA: como evitar que o sistema invente prazos, preços e regras, com fontes controladas, citação conferida, validação por regras e testes contínuos.

Fonte: https://pervian.tech/blog/alucinacao-de-ia-como-reduzir · Pervian Tech · publicado em 2026-10-01

O assistente interno responde com toda a segurança que o prazo de devolução é de 30 dias. A política da empresa diz 7. O atendente repassa a informação ao cliente, o cliente volta no dia 20 com a nota na mão e a discussão termina com a empresa engolindo o prejuízo para não perder a venda. Ninguém mentiu de propósito: o sistema simplesmente inventou uma resposta que parecia certa.

Esse é o tipo de erro que trava projetos de IA em empresas. Não é o modelo que responde "não entendi"; é o modelo que responde algo plausível, bem escrito e falso. E como o texto soa convincente, o erro passa pela revisão humana com mais facilidade do que um erro grosseiro passaria.

Alucinação não é mistério nem fatalidade: é um comportamento previsível de modelos de linguagem. Para evitá-la em um sistema de negócio, o caminho é fazer a IA responder a partir das fontes da empresa, exigir que ela cite o trecho usado, conferir por código tudo o que for número, código ou data, permitir que ela diga "não sei" e medir as respostas continuamente. Abaixo, cada uma dessas camadas, em ordem de impacto, e quando ela é necessária.

## A resposta curta: como evitar alucinação de IA

Não existe configuração que elimine alucinação por completo. O que funciona é uma combinação de camadas, e cada uma pega o que a anterior deixou passar:

1. **Contexto controlado.** O modelo responde a partir de documentos e dados da empresa entregues a cada pergunta, não da memória dele. É o caminho do RAG, comparado em [RAG ou fine-tuning](https://pervian.tech/blog/rag-ou-fine-tuning).
2. **Citação de fonte.** Toda afirmação aponta para o trecho que a sustenta, e o usuário consegue conferir.
3. **Validação por regras.** Valores, códigos, datas e cálculos são checados por código comum, contra o sistema de origem.
4. **Permissão para não saber.** Quando a fonte não cobre a pergunta, o sistema diz isso e encaminha para uma pessoa.
5. **Limites de escopo e de ação.** A IA sugere; ações com consequência passam por confirmação ou por regra determinística.
6. **Testes e monitoramento.** Um conjunto de perguntas com resposta conhecida roda a cada mudança, e as respostas em produção são amostradas e revisadas.

O restante do texto detalha cada camada e mostra quando ela é necessária.

## O que é alucinação e por que acontece

Um modelo de linguagem é treinado para produzir o texto mais provável dado o que veio antes. Ele não consulta um banco de dados de fatos; ele gera palavras que combinam estatisticamente com a pergunta. Na maior parte do tempo, o texto mais provável também é o correto. Quando não é, o modelo continua escrevendo com a mesma fluência.

Alguns gatilhos aparecem com frequência em sistemas de empresa:

- **Pergunta sobre algo que o modelo não viu.** Sua política interna, o preço da sua tabela, o prazo do seu contrato. Ele não conhece, mas sabe como uma resposta desse tipo costuma ser, e preenche a lacuna.
- **Contexto incompleto ou contraditório.** O sistema entrega dois documentos com versões diferentes da mesma regra, e o modelo mistura as duas.
- **Pergunta que pressupõe algo falso.** "Qual o desconto para pagamento em 90 dias?" quando não existe desconto nesse prazo. O modelo tende a aceitar a premissa.
- **Detalhes precisos.** Números, códigos, nomes próprios, datas e referências a leis são os pontos em que o modelo mais erra, porque pequenas variações parecem igualmente prováveis.
- **Instrução que pede resposta a qualquer custo.** Um prompt que diz "sempre ajude o cliente" sem dizer "e quando não souber, admita" empurra o modelo a improvisar.

Entender isso muda a pergunta do projeto. Não é "qual modelo não alucina", e sim "como desenho o sistema para que o modelo tenha a informação certa, seja checado e possa recuar".

## Onde ela é perigosa e onde é tolerável

Nem todo uso de IA exige o mesmo rigor. Gastar esforço de validação num rascunho de e-mail é desperdício; não gastar numa resposta sobre prazo contratual é imprudência. Uma forma prática de classificar:

| Uso | Risco de uma resposta inventada | Nível de controle recomendado |
|---|---|---|
| Rascunho de texto que uma pessoa revisa (e-mail, post, resumo de reunião) | Baixo, a revisão é natural | Instrução clara e revisão humana |
| Busca interna em manuais e procedimentos | Médio, pode gerar procedimento errado | Contexto controlado e citação obrigatória |
| Atendimento ao cliente com informação de prazo, preço ou política | Alto, vira compromisso da empresa | Contexto controlado, citação, recusa explícita e transbordo para humano |
| Extração de dados de documentos para lançar no sistema | Alto, o erro entra no cadastro ou no financeiro | Validação por regras e conferência contra a origem |
| Ação automática (aprovar, cancelar, emitir, pagar) | Muito alto, consequência imediata | IA só sugere; a ação passa por regra determinística ou confirmação |

A coluna da direita é cumulativa: quanto mais para baixo na tabela, mais camadas da lista inicial o sistema precisa ter.

## Responder só com base em fontes da empresa

A camada que mais reduz alucinação é tirar do modelo a tarefa de lembrar. Em vez de perguntar direto ao modelo, o sistema primeiro busca os trechos relevantes nos documentos e dados da empresa e entrega esses trechos junto com a pergunta, com uma instrução explícita: responda somente com base neste material. A técnica é conhecida como geração aumentada por recuperação (RAG), e explicamos o funcionamento passo a passo em [assistente de IA que responde com os documentos da empresa](https://pervian.tech/blog/assistente-de-ia-com-documentos-da-empresa).

O que define se essa camada funciona não é o modelo, é o acervo e a busca:

- **Uma versão vigente de cada documento.** Se a pasta tem a política de 2023 e a de 2025, o sistema precisa saber qual vale. Documento obsoleto no acervo é alucinação com fonte.
- **Dado vivo vem do sistema, não do documento.** Saldo, preço, status de pedido e prazo de entrega devem ser consultados no ERP ou no sistema de origem no momento da pergunta, por integração, e não copiados para um PDF que envelhece.
- **Busca que encontra códigos e siglas.** Busca só por significado tende a falhar em código de produto e número de norma. Combinar com busca por palavra exata resolve boa parte dos casos.
- **Trechos com contexto suficiente.** Cortar um documento no meio de uma tabela entrega ao modelo meia regra. O jeito de dividir o acervo influencia diretamente a qualidade da resposta.

Na prática, quando um assistente desses erra, a investigação quase sempre termina em "o trecho certo não foi encontrado" ou "o trecho encontrado estava desatualizado", e não em "o modelo ignorou a fonte".

## Citação de fonte e respostas verificáveis

Pedir que o modelo cite a fonte tem dois efeitos. O primeiro é técnico: obrigado a apontar o trecho, o modelo tende a se ater ao que está no material. O segundo é de uso: a pessoa que recebe a resposta consegue clicar e conferir, e passa a confiar no sistema pelo motivo certo.

Para a citação ter valor, alguns cuidados:

- **A citação aponta para um trecho real, não para um título genérico.** "Política de devoluções, seção 3" é verificável; "conforme as políticas da empresa" não é.
- **O sistema confere a citação.** Depois da resposta gerada, um passo de código verifica se o documento citado está mesmo entre os trechos entregues. Citação de documento que não foi entregue é sinal de invenção e a resposta é bloqueada.
- **Afirmação sem citação vira alerta.** Em usos de risco alto, uma resposta que traz um número ou prazo sem fonte associada não é exibida como está.

No atendimento ao cliente, a citação nem sempre aparece para quem pergunta, mas deve ficar registrada para auditoria. Detalhamos esse desenho em [atendimento no WhatsApp com IA](https://pervian.tech/blog/atendimento-no-whatsapp-com-ia).

## Validação por regras e por outro sistema

Tudo que pode ser checado por código comum deve ser checado por código comum. O modelo de linguagem é bom em interpretar texto livre; é ruim como fonte de verdade para números. A arquitetura que funciona separa as duas coisas.

### Regras determinísticas

Exemplos de checagem que não depende de IA:

- **Formato e dígito verificador.** CNPJ, CPF, chave de NF-e e código de barras de boleto têm regras de validação conhecidas. Um valor que não passa é rejeitado antes de chegar ao cadastro.
- **Soma e coerência.** Itens de uma nota extraída devem somar o total; data de vencimento não pode ser anterior à emissão.
- **Domínio permitido.** Se o campo é "condição de pagamento", a resposta precisa ser uma das condições cadastradas, não um texto inventado.

### Conferência contra o sistema de origem

Quando a IA extrai um dado de um documento, o sistema compara com o que já existe: o fornecedor está cadastrado? O pedido de compra citado existe e está em aberto? O valor bate com o pedido dentro de uma tolerância definida? Divergência vai para uma fila de conferência humana, com o documento original ao lado. Esse é o desenho que recomendamos em [extração de dados de documentos com IA](https://pervian.tech/blog/extracao-de-dados-de-documentos-com-ia).

### Uma segunda checagem por modelo

Em alguns casos, faz sentido um segundo passo em que outro prompt (ou outro modelo) avalia se a resposta está sustentada pelos trechos entregues. Ajuda, mas não substitui as regras: dois modelos podem errar juntos. Use como camada adicional, não como a única.

## Quando a IA deve dizer que não sabe

Um sistema que nunca diz "não sei" vai inventar. A recusa precisa ser desenhada, não apenas pedida no prompt:

- **Instrução explícita.** O prompt diz o que fazer quando o material não cobre a pergunta: responder que não encontrou a informação e oferecer o próximo passo.
- **Limite de escopo.** O assistente de RH não responde sobre preço de produto; o de atendimento não opina sobre questão jurídica. Perguntas fora do escopo são reconhecidas e redirecionadas.
- **Gatilho de busca vazia.** Se a busca não trouxe nenhum trecho relevante o suficiente, o sistema nem chama o modelo para responder: devolve a mensagem de "não encontrei" direto.
- **Transbordo para pessoa.** Em atendimento, "não sei" sem saída frustra o cliente. A resposta certa é "vou te passar para alguém da equipe", com o histórico da conversa junto.

Para quem decide, a pergunta útil não é "a IA responde tudo?", e sim "quando ela não sabe, o que acontece?". Um bom sistema recusa com frequência no começo e vai recusando menos à medida que o acervo melhora.

## Limites de ação: a IA sugere, a regra decide

Quanto maior a consequência, menor a autonomia. Um padrão seguro para sistemas de negócio:

- **Leitura livre, escrita controlada.** A IA pode consultar dados conforme a permissão do usuário, mas gravar, aprovar ou cancelar passa por uma API com regras próprias.
- **Confirmação antes de agir.** A IA monta a proposta (o lançamento, o pedido, a resposta ao cliente) e uma pessoa confirma, ao menos até o sistema provar consistência.
- **Ações irreversíveis fora do alcance.** Pagamento, exclusão de cadastro e emissão de documento fiscal ficam com o fluxo determinístico do sistema, nunca com a decisão do modelo.

Esse desenho também limita o estrago de outro risco: alguém tentar convencer o assistente, por mensagem, a fazer algo que não deveria. Se a IA não tem permissão para executar a ação, a tentativa não passa de texto. É o mesmo princípio que vale para [agentes de IA na empresa](https://pervian.tech/blog/agentes-de-ia-na-empresa), que executam ações nos sistemas.

## Testes e monitoramento contínuo

Alucinação não se resolve uma vez. Muda o acervo, muda o modelo, muda o jeito como as pessoas perguntam. Sem medição, a qualidade cai sem ninguém perceber.

### Checklist para colocar um sistema com IA em produção

- **Conjunto de perguntas de referência.** Dezenas de perguntas reais, com a resposta correta e a fonte esperada, escritas por quem conhece o assunto. Inclua perguntas que o sistema deve recusar.
- **Execução a cada mudança.** Trocou o prompt, o modelo ou o jeito de dividir documentos? Roda o conjunto e [compara com a versão anterior antes de publicar](https://pervian.tech/blog/testes-automatizados-para-gestores).
- **Registro de cada resposta.** Pergunta, trechos encontrados, resposta, citações e versão do sistema, respeitando a LGPD no que diz respeito a [dados pessoais e prazo de retenção](https://pervian.tech/blog/retencao-e-descarte-de-dados-pessoais).
- **Botão de "resposta errada".** O usuário marca, e o caso vira item de revisão e, depois, pergunta de referência.
- **Amostragem periódica.** Alguém da área revisa uma amostra das respostas em produção, com atenção às que não tiveram citação ou que geraram transbordo.
- **Indicadores simples.** Taxa de recusa, taxa de resposta marcada como errada, tempo até transbordo. O valor absoluto importa menos que a tendência.

O conjunto de referência é o ativo mais valioso do projeto. É ele que permite trocar de modelo no futuro sem medo, porque a comparação passa a ser objetiva.

## Perguntas frequentes

### Existe modelo de IA que não alucina?

Não. Todo modelo de linguagem gera o texto mais provável, e às vezes o mais provável é falso. A alucinação de IA diminui com o desenho do sistema, e não com a escolha do modelo: contexto controlado, citação de fonte, validação por regras, permissão para dizer que não sabe e testes contínuos com perguntas de referência.

### O que é RAG em inteligência artificial?

RAG, sigla em inglês para geração aumentada por recuperação, é a técnica em que o sistema busca trechos relevantes nos documentos e dados da empresa e os entrega ao modelo junto com a pergunta, com a instrução de responder só com base neles. É a camada que mais reduz respostas inventadas em assistentes corporativos.

### Trocar para um modelo de IA mais novo resolve a alucinação?

Raramente, sozinho. Quando um assistente com RAG erra, a causa costuma ser o trecho certo não encontrado ou um documento desatualizado no acervo, e não o modelo ignorando a fonte. Antes de trocar de modelo, organize o acervo, melhore a busca e use um conjunto de perguntas de referência para comparar as versões de forma objetiva.

### Como saber se o assistente de IA está inventando respostas?

Monte um conjunto de perguntas reais com resposta e fonte conhecidas, rode a cada mudança e compare com a versão anterior. Em produção, registre cada resposta do assistente de IA, ofereça um botão de resposta errada e revise amostras periódicas. Acompanhe a taxa de recusa e a de respostas marcadas como erradas, olhando a tendência.

## Como a Pervian Tech trabalha IA confiável

Na Pervian Tech, começamos pelo uso, não pelo modelo. No diagnóstico inicial, que é gratuito, entendemos qual decisão a IA vai apoiar, de onde vem a informação, o que acontece se ela errar e quem confere. É isso que define quantas camadas da lista acima o sistema precisa ter, e evita tanto o excesso de controle num rascunho quanto a falta dele num atendimento.

A partir daí desenhamos a [arquitetura de software](https://pervian.tech/servicos/arquitetura-de-software) sob medida: integração com os sistemas que são fonte da verdade, acervo organizado, citação conferida por código, validação por regras, limites de ação e um conjunto de perguntas de referência construído com a sua equipe desde o primeiro protótipo. Mais detalhes sobre como aplicamos IA em processos de negócio estão em [inteligência artificial para empresas](https://pervian.tech/solucoes/inteligencia-artificial-para-empresas), e outros textos do tema estão na categoria [inteligência artificial](https://pervian.tech/blog/categoria/inteligencia-artificial).

O cronograma segue fases (diagnóstico, protótipo com perguntas reais, piloto com um grupo de usuários, ampliação) e só é definido depois do diagnóstico. O investimento é sob consulta, porque depende do volume de documentos, das integrações e do nível de risco do uso. Se você já tem um assistente que responde com confiança demais, ou quer começar um sem esse problema, [conte o que ele precisa responder](https://pervian.tech/#contato).