Ética na ciência em tempo de inteligência artificial

Tema foi tratado pelo cientista Esper Cavalheiro em conferência na Escola Interdisciplinar FAPESP 2025. Ele criticou a enorme pressão pela publicação de artigos, que valoriza a quantidade e não a qualidade. E disse que a IA é um poderoso instrumento, tanto para a descoberta quanto para a decepção

José Tadeu Arantes | Agência FAPESP – A ciência vive um momento paradoxal: nunca produziu tanto conhecimento, nunca contou com tantos pesquisadores ativos, nunca dispôs de tantas ferramentas tecnológicas capazes de acelerar experimentos, análises e publicações. Mas também nunca esteve tão exposta a distorções, alegações falsas e fraudes. Principalmente: nunca esteve tão pressionada pela aceleração da atenção, pelo produtivismo acadêmico e pela inteligência artificial.

Foi sobre esse terreno movediço que o neurologista Esper Abrão Cavalheiro, professor emérito da Escola Paulista de Medicina da Universidade Federal de São Paulo (EPM-Unifesp) e assessor da Diretoria Científica da FAPESP, construiu sua palestra “Ética e Integridade na Pesquisa Científica: os riscos da IA”, apresentada na Escola Interdisciplinar FAPESP: Ciências Exatas e Naturais, Engenharia e Medicina.

Com a bagagem de quem tem mais de 500 artigos publicados em periódicos especializados, além de capítulos de livros e livros, e décadas de atuação institucional, inclusive como presidente do Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPq), Cavalheiro afirmou: “Esta é uma das poucas ocasiões em que falo fora da minha zona de conforto. Não vou falar sobre o cérebro humano, nem sobre a pesquisa que venho fazendo. Vou falar de algo que nos preocupa neste século”. E comparou a ciência que se fazia até o ano 2000 com a ciência feita atualmente: “Fazer ciência até 2000 era muito diferente. Não tínhamos regras escritas sobre ética. Existiam normas implícitas. Sabíamos o que devíamos e o que não devíamos fazer. E isso era natural entre os cientistas”.

Com o crescimento acelerado da comunidade científica mundial, essas normas tácitas deixaram de bastar. “Hoje, temos muito mais gente fazendo ciência, no Brasil e no mundo inteiro. E somos uma sociedade humana: temos o bom e o mau, o belo e o feio”, disse. Em outras palavras, a ciência não é um território isolado da condição humana. E precisa lidar com isso.

Cavalheiro falou que integridade científica significa, fundamentalmente, agir com responsabilidade e rigor desde o início; ser honesto e transparente na prática da ciência; comprometer-se com o bem público, protegendo a confiança da sociedade e garantindo que os resultados publicados possam ser reproduzidos por outros pesquisadores. Além disso, destacou um aspecto a mais: o financiamento da ciência. “O dinheiro que recebemos é público. Vivemos em um país pobre. Pessoas que jamais ouviram falar em ciência estão pagando por nossa pesquisa. Elas merecem bons resultados”, sublinhou.

E acrescentou que o cientista deve se orgulhar de explicar para essas pessoas o que está fazendo e por que está fazendo: “O cartão de crédito, o celular, tudo isso contém uma enorme quantidade de ciência. Para chegarem nisso, empresas usaram uma enorme quantidade de pesquisa humana”.

Salami papers e paper mills

Um ponto especialmente crítico do cenário atual é o sistema de avaliação por número de artigos publicados, que contaminou todo o ecossistema acadêmico mundial. “O lema ‘publish or perish’ (publicar ou perecer) nasceu há mais de um século. E isso fazia sentido, porque os outros precisam saber o que estamos fazendo, e publicar é uma forma de promover o progresso da ciência. Mas virou algo estúpido. Começamos a publicar tudo, em qualquer lugar, porque a métrica passou a ser a quantidade de artigos e não sua qualidade”, enfatizou Cavalheiro.

Ele lembrou dos chamados “salami papers”, que consistiam em fatiar os resultados de um único estudo em várias publicações, para aumentar o número de artigos. “Hoje já nem sabemos mais o que significa ‘publicar’. Há pessoas com mil, dois mil artigos. Outro dia, por exemplo, um estudante com doutorado muito recente veio falar comigo. Ele havia terminado o seu doutorado em 2024 e queria fazer pós-doutorado sob minha supervisão. Pedi para ver o currículo. Em um ano, ele tinha publicado 150 artigos. São aqueles tipos de artigos com dez autores, em que, de um artigo para o outro, o primeiro autor vira o último, o segundo vira o terceiro, e assim por diante.”

Uma consequência, como apontou Cavalheiro, foi o surgimento das chamadas “paper mills”, empresas ou grupos que produzem e vendem artigos acadêmicos para pesquisadores ou instituições que desejam aumentar artificialmente sua produtividade científica. E também das revistas predatórias. “É uma expressão que não deveríamos usar, mas todos sabem do que se trata: revistas que, basicamente, só querem o dinheiro dos autores. E não é pouco dinheiro. Pode variar de dois a 10 mil dólares. Por que elas não fazem revisão por pares? Porque não há qualquer controle de qualidade sobre o que publicam”, afirmou.

AI-gierism, o novo plágio

Segundo o palestrante, a inteligência artificial generativa amplifica esses riscos. Além de formas clássicas de má conduta científica, como a fabricação de dados, a falsificação de dados e o plágio, teria surgido uma nova forma, que Cavalheiro, parodiando o termo inglês plagiarism (plágio), chamou de “ai-gierism”: “É quando você pede à IA para escrever o artigo. Ela pega trechos de outros trabalhos, combina, e produz algo plausível, mas que não é seu. E você envia para publicação sem ler. É o plágio assistido artificialmente”.

Além disso, alertou para um fenômeno igualmente novo e perigoso: referências falsas geradas por IA. “Elas vêm com DOI [sigla para Digital Object Identifier (Identificador de Objeto Digital), um código alfanumérico único e permanente que identifica artigos e outras publicações digitais na internet], título, autores, tudo certinho, mas são invenções. Você procura, e o artigo simplesmente não existe. Existe também o problema de imagens falsas produzidas por inteligência artificial. Há uma dificuldade crescente para diferenciar imagens histológicas reais de versões criadas por IA. Mesmo neuropatologistas experientes podem se enganar.”

Na esteira disso tudo, vem ocorrendo um aumento exponencial de retratações. Como mostrou Cavalheiro, as retratações na área de ciências biomédicas quadruplicaram em 20 anos. E ele trouxe exemplos que ilustram o impacto devastador produzido por resultados falsos amplamente difundidos. O mais emblemático foi o artigo Pluripotency of mesenchymal stem cells derived from adult marrow (Pluripotência de células estaminais mesenquimais derivadas da medula óssea adulta), publicado na Nature em 2002. “Esse artigo teve mais de 4 mil citações. Em 2024, foi retratado. Era falso. Foram 20 anos de pesquisa seguindo uma pista errada. Imaginem o dinheiro perdido”, comentou.

Outro exemplo citado foi o artigo Hydroxychloroquine and azithromycin as a treatment of COVID-19: results of an open-label non-randomized clinical trial (Hidroxicloroquina e azitromicina como tratamento da COVID-19: resultados de um ensaio clínico aberto não randomizado), publicado no International Journal of Antimicrobial Agents, em 2020, que recebeu mais de 3 mil citações, e foi retratado em 2024, por criação e falsificação de dados. Os brasileiros conhecem bem todo o malefício causado pelo uso da cloroquina e da azitromicina como opções de tratamento durante a pandemia.

Recorde de retratações

Conforme estudo da revista Nature, comentado por Cavalheiro, mais de 10 mil artigos científicos foram retratados ou retirados de circulação em 2023, um recorde histórico (ainda não há dados disponíveis sobre o período 2024-2025). Principal causa: má conduta científica, como falsificação de dados e plágio, embora erros honestos também tenham ocorrido.

“O número de artigos retratados está aumentando porque hoje temos muito mais revistas predatórias. Você paga e publica”, sublinhou Cavalheiro. “Em consequência, surgiu uma campanha contra o desperdício de ciência. Porque, quando você lê muitos artigos, muitas vezes se pergunta: ‘Por que estão publicando isso? É sempre a mesma coisa. Ou, então, encontra um artigo com uma pergunta interessante, mas com uma metodologia totalmente inadequada para respondê-la. Outros até trazem bons resultados, mas não conseguem fazer uma boa interpretação deles. Há um estudo mostrando que 85% da ciência publicada hoje simplesmente vai para o lixo. É uma quantidade enorme!.”

Cavalheiro finalizou sua palestra com três recomendações aos pós-doutorandos presentes: a integridade científica exige normas, ferramentas e cultura atualizadas; a IA é um poderoso instrumento, tanto para a descoberta quanto para a decepção; pensem duas vezes, usem seus cérebros. A estes conselhos, acrescentou um apelo mais dramático, ressaltando que a pesquisa exige uma forma particular de sofrimento, não imposto por orientadores ou instituições, mas interno: “A falta de conhecimento precisa doer. Pensar, ler, buscar respostas e não encontrá-las… isso é doloroso. Mas é assim que crescemos”.