Cuidado! IA Cria Estudo Falso para Validar Afirmação Falsa

Não é a primeira vez que isso acontece

A inteligência artificial (IA) pode, de fato, gerar estudos aparentemente científicos que sustentam afirmações falsas, conforme demonstrado por um experimento envolvendo o modelo GPT-4, atualmente utilizado pelo ChatGPT. Com o auxílio de software adicional para análise estatística de dados, o processo de criar um conjunto de dados foi simplificado a poucos cliques.

O experimento visava demonstrar os benefícios de uma técnica de tratamento específica em comparação com um método alternativo. O resultado gerado pela IA apoiava exatamente essa afirmação, apesar de não haver dados reais que fornecessem uma vantagem para nenhuma das técnicas.

O artigo destaca a facilidade com que a IA, combinada com ferramentas de análise de dados, pode criar conjuntos de dados fictícios que, à primeira vista, parecem cientificamente válidos. Este processo poderia economizar tempo e esforço, proporcionando resultados desejados com um simples clique do mouse, ao contrário de pesquisas legítimas que poderiam levar meses ou anos.

• Leia também: Ações da Nvidia disparam devido a crescente demanda por IA’s

No entanto, vale ressaltar que o estudo falso gerado pela IA não resistiu a uma análise minuciosa. Inconsistências, como nomes e gêneros que não correspondiam, e anomalias estatísticas foram identificadas, enfraquecendo a validade dos dados fabricados.

Enquanto a IA acelera o processo, este experimento destaca a importância contínua da análise crítica e revisão cuidadosa de estudos, evidenciando que a manipulação de informações para atender a objetivos específicos não é um fenômeno novo, apenas potencialmente mais rápido com o uso da inteligência artificial.

Fonte: Oftalmologia JAMA | Nature