A IA é amplamente utilizada em muitos setores, mas sua confiabilidade ainda deixa a desejar.
No ano de 2026, a IA está em toda parte. Escolas, jornais online, laboratórios e um número cada vez maior de empresas privadas empregam programas de IA para uma vasta variedade de tarefas, normalmente em nome da velocidade e da eficiência.
No entanto, como qualquer pessoa que já usou um chatbot de IA pode dizer, essa velocidade pode custar a veracidade.
O problema da alucinação da IA
Se você dissesse a um chatbot que estaria “disposto a pagar um milhão de dólares para comer pizza agora mesmo”, o LLM que alimenta esse chatbot poderia interpretar essa afirmação literalmente; em vez de interpretar sua declaração como um desejo humorístico exagerado por pizza, ele pode muito bem pensar que você estaria realmente disposto a pagar 1 milhão de cervos machos para conseguir um pedaço de pizza.
Esse tipo de interpretação errônea, ou “alucinação” no contexto da IA, é relativamente inofensivo quando se fazem perguntas bobas a um chatbot. O que não é tão inofensivo é quando a IA fornece informações incorretas ou mesmo totalmente inventadas para uma empresa farmacêutica que testa interações medicamentosas, ou para um gestor da cadeia de abastecimento que tenta prever as melhores rotas de transporte durante um período de turbulência política.
A alucinação da IA poderia ser mais administrável se fosse sempre claro quando um programa estava inventando ou interpretando mal informações, mas como a maioria dos LLMs são construídos para parecerem confiantes e agradáveis, pode ser difícil distinguir o fato da falsidade sem uma verificação completa dos fatos. É claro que verificar os fatos do programa que se destina a verificar os fatos para seus usuários é contra-intuitivo e, francamente, contraproducente.
Existem duas causas mais importantes para a alucinação da IA: uma, a maioria dos LLMs não são programados para informar aos usuários se eles não sabem alguma coisa, e dois, muitos dos dados de treinamento com os quais os LLMs aprendem estão repletos de imprecisões e opiniões.
Estes factores combinados tornam efectivamente possível que os LLMs não só estejam errados, mas também com confiança, e quando empresas inteiras constroem os seus modelos no pressuposto de que a IA quase sempre fornece respostas claras, relevantes e precisas, essas empresas e as pessoas que trabalham com elas podem por vezes acabar por basear as suas acções em informações falsas.
Isso não quer dizer que as empresas não estejam cientes do fato de que a IA pode e de fato alucina; no entanto, algumas empresas começaram a se esforçar para desenvolver modelos de IA que abordem diretamente as causas profundas da alucinação por IA.
Melhorando a confiabilidade da IA no mundo real: um estudo de caso
Uma dessas empresas que trabalha para melhorar a confiabilidade da IA é a Vertus, uma empresa de IA com sede na Ilha de Man. Seus fundadores, Julius Franck, Alex Foster e Michal Prywata, construíram um sistema de raciocínio cognitivo projetado para reconhecer quando certos padrões são ou não aplicáveis, ajudando-o assim a evitar fazer os mesmos tipos de suposições que muitos outros LLMs poderiam perpetuar em circunstâncias semelhantes.
Para testar sua IA, a Vertus fez com que seu sistema fosse negociado nos mercados financeiros ao longo de 2025. Nesse período, a empresa relatou resultados positivos.
A Vertus atribui seu sucesso à capacidade do seu sistema de se adaptar rapidamente aos novos padrões do mercado. Para fazer isso, a IA foi projetada para perguntar se um determinado padrão ainda se aplica a uma determinada situação. Quando isso não acontece, o sistema reconhece a mudança, interrompe e reconstrói seu raciocínio em torno do que realmente está acontecendo.
Como uma espécie de proteção contra falhas, a IA também foi projetada para informar ao usuário quando ele não consegue encontrar uma resposta para uma pergunta, reduzindo a probabilidade de inventar uma resposta confiável, mas factualmente incorreta.
Com os testes da Vertus positivos, a empresa começou a estender as suas soluções de IA aos cuidados de saúde, à investigação científica e à gestão da cadeia de abastecimento.
Embora a Vertus não seja de forma alguma a única organização que trabalha para melhorar a fiabilidade da IA, as suas realizações servem como um indicador útil de uma abordagem que, até agora, se revelou valiosa. Construir sistemas de IA para verificar novas informações com o que eles já sabem e informar aos usuários quando eles não sabem algo são primeiros passos importantes para mitigar a alucinação de IA, embora ainda não se saiba se esses sistemas se tornarão comuns em breve.
Ainda trabalho a ser feito
Mesmo nos poucos anos desde que os chatbots foram popularizados com a introdução do ChatGPT em 2022, os usos práticos e teóricos da IA expandiram-se substancialmente. Embora essa rápida expansão tenha ajudado muitas empresas a melhorar os seus resultados através da redução de custos, um crescimento tão substancial num curto período de tempo tem as suas consequências.
A alucinação da IA continua a ser um problema sério e, à medida que a IA se torna cada vez mais enraizada na medicina, nas finanças, na educação e em muitas outras indústrias integrais, a necessidade de abordar as suas tendências no sentido de fornecer respostas rápidas e confiantes ao custo da veracidade só se tornará mais vital.
A capacidade da IA de recolher, organizar e analisar enormes quantidades de informação em apenas alguns momentos poderá revelar-se fundamental para as organizações nos próximos anos, mas qualquer progresso adicional deve ser temperado por esforços para melhorar a fiabilidade da IA antes que as pessoas considerem expandir as suas fundações atualmente imperfeitas.
As informações fornecidas neste artigo são apenas para fins informativos e educacionais gerais. Não se destina a ser aconselhamento jurídico, financeiro, médico ou profissional. Os leitores não devem confiar apenas no conteúdo deste artigo e são incentivados a procurar aconselhamento profissional adaptado às suas circunstâncias específicas. Nós nos isentamos de qualquer responsabilidade por qualquer perda ou dano decorrente direta ou indiretamente do uso ou confiança nas informações apresentadas.
A Digital Trends faz parceria com colaboradores externos. Todo o conteúdo dos colaboradores é revisado pela equipe editorial do Digital Trends.
