Alucinação de IA

Modelos de linguagem escrevem as palavras com mais chance de vir em seguida. Às vezes, a resposta que soa mais provável simplesmente não é verdade.

Um artigo científico de 2025, "Why Language Models Hallucinate", explica o motivo. O treinamento e os testes recompensam o modelo por chutar, em vez de admitir que não tem certeza.

Imagine que você pergunta a uma ferramenta de IA quais formas de pagamento uma pequena loja online aceita. Se ela não encontra uma resposta clara, talvez cite mesmo assim algumas formas comuns. A lista parece certa, mas é um chute.

Quando uma ferramenta de IA fala do seu negócio, ela pode errar seus preços, seu endereço ou seus recursos.

Fatos claros e verificáveis nas suas próprias páginas dão a um sistema com grounding algo real para citar, em vez de algo para adivinhar.

• Coloque os fatos principais em texto simples no seu site: preços, horários, endereços e nomes de produtos.
• Mantenha uma página clara e atualizada para cada fato importante, em vez de várias que se contradizem.
• De vez em quando, pergunte às ferramentas de IA sobre sua marca e anote o que elas dizem errado.
• Use o gerador gratuito de prompts de IA para ter perguntas prontas para testar.

Uma resposta desatualizada

Uma resposta baseada em informação antiga nem sempre é alucinação. Ela pode estar certa para a data de corte de conhecimento do modelo.