Glossário · Inteligência Artificial
Alucinação de IA
Definição
Alucinação de IA é o erro em que um modelo de inteligência artificial gera informação falsa, inventada ou distorcida com a mesma confiança de uma resposta correta, usado como conceito para entender os limites da IA generativa e definir onde a verificação humana é obrigatória antes de decidir ou publicar.
- AI hallucination
- Alucinação
- Alucinação de LLM
- Confabulação
- Cluster
- Inteligência Artificial
- Classificação
- Conceito
- Nível
- Básico
O que é alucinação de IA?
Alucinação de IA é quando um sistema de inteligência artificial inventa uma informação e a apresenta como fato. O modelo pode citar um livro que não existe, criar uma estatística, atribuir uma frase à pessoa errada ou descrever uma lei que nunca foi aprovada, tudo com linguagem fluente e segura.
O fenômeno é consequência de como os LLMs funcionam. O modelo gera o texto mais provável a partir de padrões, e plausibilidade é diferente de verdade. Em 2025, pesquisadores da OpenAI publicaram um estudo argumentando que os métodos de treinamento e avaliação incentivam o modelo a chutar uma resposta em vez de admitir que não sabe.
Para empresas, a alucinação é o principal motivo para manter revisão humana em processos com impacto em clientes, finanças, saúde ou reputação.
Como funciona na prática?
As alucinações seguem padrões reconhecíveis:
- Fontes inventadas: referências com título, autor e ano verossímeis que não existem.
- Números fabricados: percentuais e valores sem origem.
- Mistura de entidades: atribuir a uma empresa algo que pertence a outra com nome parecido.
- Concordância com premissas falsas: se a pergunta contém um erro, a resposta pode construir em cima dele.
As defesas mais usadas são o RAG, que faz o modelo consultar documentos reais antes de responder, instruções que pedem ao modelo para admitir incerteza e etapas de human-in-the-loop em decisões críticas.
Alucinação de IA vs viés de IA: qual a diferença?
A alucinação é uma invenção pontual: o modelo cria algo que não existe. O viés é uma distorção sistemática: o modelo favorece ou prejudica grupos, opiniões ou resultados por causa dos dados de treinamento. Os dois exigem revisão, mas o viés pede auditoria contínua, e a alucinação pede verificação caso a caso.
Exemplos
- Escritórios de advocacia em vários países já foram repreendidos por tribunais após apresentar petições com jurisprudência inventada por IA.
- Um relatório interno cita uma pesquisa de mercado com números que ninguém consegue encontrar na fonte.
- Um assistente de IA generativa informa a um cliente uma política de reembolso que a empresa não tem.
Erros comuns
- Confiar no tom seguro da resposta.
- Pedir estatísticas à IA e publicá-las sem checar.
- Usar IA em decisões críticas sem etapa de revisão.
- Achar que o modelo mais novo resolveu o problema.
Por que importa para líderes e empresas?
A alucinação define onde a IA pode trabalhar sozinha e onde precisa de supervisão. Líderes que entendem o fenômeno desenham processos com verificação nos pontos certos, protegem a reputação da empresa e evitam tanto o deslumbramento quanto o descarte da tecnologia. Esse equilíbrio é a base de uma governança de IA madura.
Perguntas frequentes
Por que a IA alucina?
Um modelo de linguagem gera texto prevendo a sequência mais provável de palavras, sem um mecanismo interno que garanta a verdade. Quando falta informação no treinamento ou no contexto, o modelo preenche a lacuna com algo plausível. Pesquisas também apontam que o treinamento costuma recompensar respostas confiantes mais do que admitir dúvida.
Como evitar alucinações de IA?
Não existe forma de zerar o risco, mas dá para reduzir. Forneça os dados corretos no próprio pedido, use ferramentas com busca ou RAG, peça que o modelo cite fontes e diga quando não sabe, divida tarefas complexas em etapas e verifique na fonte original todo número, nome, citação e afirmação legal antes de usar.
Qual a diferença entre alucinação e erro comum de IA?
Todo modelo erra. A alucinação é um tipo específico de erro: a invenção de algo que não existe, como um estudo, uma lei ou um dado, apresentado com segurança. Um erro de cálculo ou de classificação pode ser detectado por regras; a alucinação engana porque parece correta, fluente e bem fundamentada.
Modelos mais novos ainda alucinam?
Sim. Modelos mais recentes alucinam menos em muitas tarefas, principalmente quando usam busca e fontes, mas o problema continua. Em perguntas sobre temas pouco documentados, dados recentes ou detalhes específicos, o risco aumenta. A regra prática é tratar qualquer resposta de IA como rascunho até que a verificação seja feita.