Conteúdo revisado:
Uma alucinação (do inglês hallucination) é quando um modelo de IA gera uma informação que parece plausível e é apresentada com confiança, mas é falsa, imprecisa ou inventada. Pode ser uma data errada, uma citação que nunca existiu, um estudo fictício ou um detalhe inventado sobre uma pessoa. O modelo não “mente” de propósito: ele prevê o texto mais provável, e nem sempre o mais provável é o verdadeiro.
As alucinações acontecem porque modelos de linguagem como ChatGPT, Gemini e Claude aprendem padrões estatísticos da linguagem, não um banco de fatos verificados. Quando não “sabem” a resposta, tendem a preencher a lacuna com algo coerente em vez de admitir incerteza. Por isso são um dos principais desafios de confiabilidade da IA generativa.
Técnicas como a busca em fontes externas (RAG), o uso de modelos de raciocínio e a checagem humana ajudam a reduzir o problema, mas não o eliminam por completo. A recomendação prática é sempre verificar informações importantes geradas por IA.
Como reduzir e medir alucinações?
A redução começa com uma tarefa bem definida, fontes confiáveis e um critério objetivo de correção. Recuperação de documentos, ferramentas e citações ajudam, mas não garantem fidelidade. O teste deve separar respostas incorretas, afirmações sem apoio e omissões, usando perguntas que não fizeram parte do desenvolvimento. Em usos importantes, a saída precisa de verificação humana e o sistema deve poder admitir incerteza.
Referência primária: NIST — perfil de risco para IA generativa
Exemplo prático
Ao resumir um processo judicial, um modelo pode inventar um número de decisão com aparência legítima. Pedir citações ajuda somente se o sistema recuperar a fonte correta e se cada afirmação for comparada com ela. Um link existente não prova que o texto gerado é fiel ao documento.
Como distinguir e avaliar
Alucinação é uma saída sem apoio ou factualmente incorreta, não qualquer resposta indesejada. Uma recusa excessiva, uma opinião discutível e uma instrução mal interpretada são falhas diferentes. Separar as categorias permite escolher a correção certa: dados, recuperação, prompt, ferramenta ou política.
Checklist de avaliação
- Transforme afirmações críticas em testes verificáveis.
- Meça fidelidade à fonte separadamente de fluência.
- Permita que o sistema indique ausência de evidência ou baixa confiança.
Conceitos relacionados: RAG · LLM
Fonte primária adicional: Google for Developers — introdução e limites de LLMs
Notícias relacionadas
Perguntas frequentes
Por que a IA alucina?
Porque modelos de linguagem geram o texto estatisticamente mais provável a partir do que aprenderam, sem consultar um banco de fatos verificados. Quando faltam dados, eles completam com algo plausível, que pode ser falso.
Como reduzir alucinações da IA?
Pedir que cite fontes, conectar o modelo a dados confiáveis via busca (RAG), usar modelos de raciocínio mais recentes e, principalmente, verificar manualmente fatos, números e citações importantes.
