Pesquisa identifica coincidência temporal entre aumento de referências falsas ou fabricadas e popularização da inteligência artificial
Em 2023, cerca de quatro em cada 10 mil artigos biomédicos continham ao menos uma referência bibliográfica fabricada. No último trimestre de 2025, a proporção já era de 51,3 por 10 mil e, no começo de 2026, chegou a 56,9 — cerca de 14 vezes mais. A constatação vem de uma auditoria publicada em maio na seção de correspondências do periódico The Lancet, que buscou identificar ocorrências de referências fabricadas, ou seja, aquelas cujos títulos não correspondem a nenhuma publicação existente e que podem ter surgido por má conduta intencional ou uso acrítico de ferramentas de escrita de inteligência artificial (IA).
Para analisar as mais de 125 milhões de referências presentes em 2,5 milhões de estudos biomédicos publicados entre 2023 e fevereiro de 2026, a equipe de pesquisadores desenvolveu um sistema automatizado de comparação entre os registros bibliográficos e artigos reais disponíveis na rede. O levantamento demonstrou uma aceleração da tendência de fabricação de referências em meados de 2024.
“A inflexão […] coincide com o atraso esperado entre a adoção disseminada de LLMs [modelos de inteligência artificial de linguagem de grande escala] e a publicação dos artigos, embora o aumento da atividade de paper mills[pesquisas falsas feitas sob encomenda] e mudanças nas práticas de indexação dos periódicos também possam ter contribuído”, escrevem os autores.
Entre o fim de 2023 e o início de 2024, inicia-se a massificação do uso de ChatGPT, Claude e outros modelos. De 100 a 200 dias depois (tempo médio entre a submissão e a publicação de um artigo, segundo os pesquisadores), o gráfico com a taxa de referências manipuladas começa a subir.
Na carta, os autores sugerem recomendações, como a integração, pelas editoras, de processos de verificação automatizada das referências antes da revisão por pares e a realização de triagens retrospectivas dos periódicos para, quando necessário, emitir correções. Hoje, não existe um padrão bem estabelecido sobre o que fazer com estudos que contêm referências manipuladas. Na seção de comentários da revista The Lancet, Howard Bauchner, da Universidade de Boston, e Frederick Rivara, da Universidade de Washington, propõem a lógica da punição exemplar: “Acreditamos que um manuscrito publicado no qual apareça uma referência falsa deve ser retratado. […] A retratação pode levar ao maior escrutínio das referências por autores de manuscritos”.
Um detalhe irônico da auditoria é que a principal suspeita de fomentar a multiplicação de referências-fantasmas foi utilizada para diferenciar erros de padronização, uma falha menos grave, das referências que realmente não existem. Sim, os autores recorreram à IA — no caso, o Claude — para identificar se as menções a outros documentos não correspondiam aos registros apenas por conterem erros de digitação, abreviações etc.
Impactos da IA
A IA generativa polariza debates tanto na produção dos artigos quanto nas etapas de revisão por pares. Uma reportagem da revista Science esclarece como essa disputa não ocorre no vácuo. Alguns levantamentos sugerem que mais da metade dos revisores recorre à inteligência artificial em alguma etapa do processo. Algumas editoras também têm testado ferramentas. A NEJM AI, afiliada ao prestigiado periódico The New England Journal of Medicine, iniciou um projeto-piloto que oferece um modelo rápido de aprovação baseado em uma análise de IA do manuscrito, seguida da revisão de um editor humano. O atalho estaria disponível apenas para artigos com alta chance de aprovação.
“O uso da IA na revisão é uma questão tanto subestimada como superestimada”, afirmou o sociólogo Luiz Augusto Campos, editor-chefe da revista científica Dados e professor do Instituto de Estudos Sociais e Políticos da Universidade do Estado do Rio de Janeiro (IESP/UERJ). Ele destaca que o próprio termo “inteligência artificial” não descreve muito bem o que essas ferramentas realizam: “Eu brinco que ela é uma máquina de produzir senso comum”. Segundo o professor, isso pode significar que pesquisas mais ousadas saiam perdendo ou mesmo que subespecialidades pouco estudadas recebam análises simplistas.
Há também o receio de que as IAs intensifiquem processos de exclusão. Um estudo em pré-print (ainda não publicado) submeteu vários artigos idênticos, exceto pela autoria, à avaliação de uma ferramenta baseada em LLM, que deveria aprová-los ou rejeitá-los. O resultado foi que pesquisadores de instituições renomadas apresentaram maior taxa de aprovação. “A IA pode reforçar uma geopolítica desigual do conhecimento”, resume Campos.
A reportagem da Science também enumera pesquisas que apontam áreas em que a IA se sai melhor do que os atarefados revisores humanos. Detecção de plágio e erros, validação de métodos estatísticos e contas matemáticas e avaliação das já mencionadas referências bibliográficas estão entre elas.
Por enquanto, cada periódico e revisor tem adotado uma postura. A Política de Integridade na Atividade Científica do CNPq faz uma única menção mais direta ao tema: “É vedada a inserção de projetos de pesquisa de terceiros em ferramentas de inteligência artificial generativa para elaboração de pareceres científicos”.
A restrição também decorre do temor de que dados ainda não publicados sejam, de alguma forma, processados e integrados pelos algoritmos. Já o SciELO vem solicitando aos periódicos da sua rede que estabeleçam critérios e, no passado, fez algumas recomendações gerais em um guia sobre a IA na comunicação científica. A organização reconhece que determinados recursos podem auxiliar os revisores e pede que eles estejam atualizados sobre como utilizá-los adequadamente e como analisar materiais produzidos com IA.
Nos últimos cinco anos, o número de artigos publicados dobrou. Questiona-se se esse aumento tem relação com o surgimento da IA, em um cenário que também sobrecarrega os revisores. Questionado se a inteligência artificial estaria ganhando espaço no mercado editorial da ciência apenas para apagar o incêndio que ela mesma alastrou, Luiz Augusto Campos nega e afirma que a crise da revisão por pares é anterior à disseminação da IA. “Esse modelo está sendo pressionado há pelo menos 20 anos”.
Ele ressalta ainda que a transformação do artigo na principal métrica de sucesso de um pesquisador e o incentivo a fatiar descobertas, dois dos muitos fatores que vêm abarrotando a mesa dos revisores com manuscritos, antecedem os LLMs. No momento, o que a IA parece estar fazendo é ampliar virtudes e defeitos humanos. “Não sei dizer qual o limite ideal entre o lado humano e o artificial da revisão por pares. Só sei que não estamos nele”, conclui.
Fonte: Revista Fapesp