Chatbots baseiam respostas em artigos retratados, aponta pesquisa

Encarregar as respostas fornecidas pelos chatbots está se tornando cada vez mais complicado, e um estudo do MIT Technology Review revelou que alguns modelos usam artigos retratados para responder às solicitações dos usuários.

++ Vídeo mostra o momento em que caminhão tenta atravessar uma linha férrea e é atingido por um trem

Muitos usuários, inclusive, já sabem que os chatbots podem inventar links e referências unicamente para atender a uma pergunta. Todavia, fundar respostas em artigos que foram retratados pode ocasionar falhas sérias nas pesquisas.

Weikuan Gu, pesquisador médico da Universidade do Tennessee, comenta que o chatbot está “usando um item real, material real, para lhe manifestar um tanto”, mas alerta que as pessoas se preocupam unicamente com a resposta fornecida e não conferem que o item foi retratado.

Em seu estudo, o ChatGPT fez referência a artigos retratados em cinco casos e recomendou cautela em três deles, e sugere que o protótipo da OpenAI pode não ter identificado corretamente que esses artigos haviam sido retratados.

Outro estudo, inclusive, analisou 217 artigos retratados e considerados de baixa qualidade em diferentes áreas, mas nenhuma das respostas do ChatGPT-4 mini mencionou as retratações ou possíveis preocupações com o teor.

++ Garotinha britânica dá show de fofura ao reproduzir expressões nordestinas que aprendeu com a mãe

“Se [uma ferramenta] está voltada para o público em universal, usar a retratação porquê um tipo de indicador de qualidade é muito importante”, declarou Yuanxi Fu, pesquisadora de ciência da informação na Universidade de Illinois, ao MIT Technology Review. Ela ressalta que, embora artigos retratados devam ser removidos do registro científico, “as pessoas que estão fora da ciência devem ser avisadas” sobre isso ao fazerem suas pesquisas.