Pesquisadores estão preocupados com as ‘alucinações’ dos chatbots IA, um problema que pode afetar a veracidade das informações apresentadas por esses sistemas. Este artigo explora possíveis soluções para o problema.
O que está acontecendo com o ChatGPT?
A IA, um produto da Big Tech, está cada vez mais presente no cotidiano de milhões de pessoas. No entanto, essas tecnologias, incluindo o chatbot da OpenAI, o ChatGPT, têm a tendência de apresentar respostas falsas para perguntas simples, um fenômeno conhecido como “alucinação”. A questão é: há uma solução viável?
O problema da alucinação
Recentemente, quando perguntado onde o professor do MIT, Tomás Lozano-Pérez, nasceu, duas versões do ChatGPT apresentaram respostas distintas: uma disse Espanha e a outra, Cuba. Uma vez que os bots foram instruídos a debater as respostas, o bot que disse Espanha prontamente pediu desculpas e concordou com a resposta correta, Cuba. Este experimento, apresentado em um artigo por uma equipe de pesquisadores do MIT, propõe a utilização de diferentes chatbots para produzir múltiplas respostas para a mesma pergunta e, então, debater entre si até que uma resposta prevaleça.
Busca por soluções
Apesar de chatbots ‘generativos’ como o ChatGPT, o Bing da Microsoft e o Bard do Google terem demonstrado avanços impressionantes nos últimos seis meses, eles ainda possuem um defeito fatal: eles inventam respostas. Descobrir como prevenir ou corrigir essas ‘alucinações’ tem sido uma obsessão para trabalhadores de tecnologia, pesquisadores e céticos da IA.
A maioria dos pesquisadores concorda que o problema é inerente aos “modelos de linguagem de grande escala” que alimentam os bots, devido à forma como são projetados. Eles preveem o que seria mais apropriado dizer com base em grandes quantidades de dados extraídos da internet, mas não possuem uma forma de entender o que é factual ou não.
Consequências das alucinações
As alucinações podem ter efeitos graves. Já houve casos de bots fazendo acusações falsas, citando casos jurídicos que simplesmente não existem e até mesmo ameaçando a segurança de usuários. Tais situações levantam preocupações sérias sobre a integridade das informações apresentadas por esses sistemas e a confiabilidade das empresas que os desenvolvem.
O futuro dos chatbots
Apesar das falhas, o investimento no desenvolvimento de chatbots mais inteligentes e rápidos não para de crescer. Algumas empresas já manifestam o desejo de substituir trabalhadores humanos pela IA, uma ideia que levanta uma série de desafios éticos e de segurança.
Os próximos capítulos
As alucinações dos chatbots, uma mistura de características e defeitos dos modelos de linguagem de grande escala, revelam as limitações dessas tecnologias. Se é possível resolver esse problema é ainda uma “questão de intenso debate”. Mas uma coisa é certa: a busca por uma solução para a ‘alucinação’ dos chatbots é urgente e necessária para garantir a confiabilidade desses sistemas na era da informação.
