Inteligência Artificial e a Busca por Equidade em Diagnósticos de Saúde
A utilização de modelos de inteligência artificial para auxiliar na triagem e predição de riscos em saúde tem ganhado espaço, mas levanta questões importantes sobre a equidade dos resultados. Pesquisadores do ICT-Unifesp, em parceria com instituições internacionais, estão desenvolvendo estratégias para mitigar vieses em algoritmos, que podem levar a disparidades no diagnóstico e tratamento de pacientes, considerando fatores como gênero, etnia e faixa etária.
CONTINUA DEPOIS DA PUBLICIDADE
O trabalho, publicado no periódico Applied Soft Computing, busca um equilíbrio entre o desempenho do modelo e a garantia de resultados justos para todos os grupos populacionais.
Desafios na Mitigação de Vieses em Algoritmos
O principal desafio reside no fato de que os algoritmos de aprendizado de máquina tendem a ser treinados com dados desbalanceados, o que pode gerar resultados tendenciosos. Por exemplo, um modelo treinado com dados predominantemente de um grupo etário ou gênero específico pode apresentar menor precisão ao analisar pacientes de outros grupos.
CONTINUA DEPOIS DA PUBLICIDADE
A pesquisadora Lilian Berton destaca que a busca por um desempenho ideal nem sempre leva em conta a equidade, o que pode agravar as desigualdades. O estudo propõe uma abordagem que considera simultaneamente o desempenho do modelo e múltiplas métricas de equidade, buscando um ponto de otimização que minimize as disparidades.
Abordagem Multiobjetivo para Equidade Algorítmica
A estratégia desenvolvida pelo ICT-Unifesp envolve a definição de múltiplos objetivos durante o treinamento do modelo. Isso significa que, além de maximizar a acurácia (a capacidade de identificar corretamente os casos), o algoritmo também deve atender a critérios de equidade, como a redução das diferenças de desempenho entre grupos demográficos.
CONTINUA DEPOIS DA PUBLICIDADE
LEIA TAMBÉM!
A pesquisadora explica que essa abordagem, conhecida como otimização multiobjetivo, permite que o modelo equilibre diferentes prioridades, resultando em resultados mais justos e confiáveis. O estudo utiliza métricas como VP (verdadeiros positivos), FP (falsos positivos), VN (verdadeiros negativos) e FN (falsos negativos) para quantificar o desempenho do modelo em diferentes grupos populacionais.
Resultados Promissores em Diagnósticos de Saúde
A metodologia foi testada em conjuntos de dados públicos de diagnósticos de arritmia, diabetes e hemorragia intracraniana. Os resultados foram promissores, demonstrando que a abordagem de otimização multiobjetivo pode reduzir significativamente as disparidades nos resultados.
Em um estudo com pacientes com arritmia, por exemplo, a implementação das restrições de gênero e idade reduziu a disparidade demográfica em 0,4543 para valores inferiores a 0,1, representando uma redução aproximada de 78% na disparidade. Da mesma forma, no caso do diabetes, a disparidade étnica foi reduzida de 0,0110 para menos de 0,005, representando uma redução superior a 54% no viés racial.
Esses resultados foram confirmados por testes estatísticos rigorosos, utilizando o teste não paramétrico de Wilcoxon, que verifica se as diferenças observadas são realmente significativas ou apenas resultado do acaso.