IA em saúde: dados duvidosos ameaçam modelos de previsão de doenças? Entenda!
Dúvidas sobre a Confiabilidade de IA em Previsão de Doenças
Diversos modelos de inteligência artificial, empregados para estimar riscos de condições como diabetes e acidente vascular cerebral (AVC), podem ter sido treinados com dados de origem duvidosa. Uma análise recente levanta sérias questões sobre a confiabilidade dessas ferramentas, algumas já aplicadas em contextos clínicos.
CONTINUA DEPOIS DA PUBLICIDADE
As conclusões derivam de um estudo preliminar divulgado na plataforma medRxiv e reportado pela revista científica Nature na quarta-feira, 15. As falhas detectadas nos dados levantaram suspeitas significativas sobre a integridade das informações.
Inconsistências nos Dados Levantam Suspeitas de Fabricação
Pesquisadores, liderados por Adrian Barnett, da Queensland University of Technology, examinaram dois grandes conjuntos de dados amplamente utilizados. A avaliação apontou inconsistências notáveis, como a quase total ausência de lacunas e a presença de padrões repetitivos.
Essas características sugerem a hipótese de que parte das informações utilizadas possa ter sido fabricada. Segundo Barnett, a descoberta dessas anomalias foi bastante inesperada para a equipe de pesquisa.
Disseminação e Uso dos Dados em Pesquisas
Os pesquisadores rastrearam 124 estudos científicos que utilizaram pelo menos um desses conjuntos de dados para treinar modelos preditivos. Uma parte desses trabalhos foi publicada em periódicos revisados por pares.
Leia também
CONTINUA DEPOIS DA PUBLICIDADE
Algumas revistas científicas já iniciaram investigações sobre a origem e a validade dos dados empregados, e já há registros de artigos sendo retratados após questionamentos sobre o material base.
Análise das Bases de Dados Encontradas
Os conjuntos analisados foram disponibilizados na plataforma Kaggle, mas com informações limitadas sobre a procedência real dos dados. Um dos bancos reúne dados de pouco mais de 5 mil pessoas e foi usado em mais de 100 estudos sobre previsão de AVC.
Entre os problemas identificados está a falta de registros incompletos, o que é atípico em bases de dados reais, que geralmente apresentam falhas de acompanhamento. Outro banco, focado em diabetes, contém dados de cerca de 100 mil pessoas, apresentando pouca variação em indicadores como glicose e possíveis duplicações.
Implicações Clínicas e Alerta dos Especialistas
O estudo indica que pelo menos dois modelos baseados nesses dados foram aplicados em hospitais, incluindo instituições na Indonésia e na Espanha. Foram identificadas também ferramentas online para estimar riscos e um pedido de patente de dispositivo médico.
Apesar disso, não há confirmação de que essas aplicações tenham gerado diagnósticos incorretos. Especialistas alertam que sistemas treinados com dados de procedência desconhecida podem gerar previsões imprecisas.
Necessidade de Transparência e Rigor Científico
Diante desses achados, especialistas defendem um maior rigor na divulgação das fontes utilizadas no desenvolvimento de sistemas de IA na saúde. A recomendação é que periódicos científicos rejeitem estudos sem clareza sobre a origem dos dados.
Além disso, sugere-se que os conjuntos de dados identificados com inconsistências sejam removidos de plataformas públicas, visando evitar seu uso em futuras pesquisas e proteger a saúde pública.
Autor(a):
redacao
Responsável pela produção, revisão e publicação de matérias jornalísticas no portal, com foco em qualidade editorial, veracidade das informações e atualizações em tempo real.
