INTELIGÊNCIA ARTIFICIAL, VULNERABILIDADE E DIREITO À SAÚDE: RISCOS DA DISCRIMINAÇÃO ALGORÍTMICA E DESAFIOS À PROTEÇÃO JURÍDICA DOS PACIENTES
Palavras-chave:
Inteligência Artificial, Direito à Saúde, Vulnerabilidade, Discriminação Algorítmica, Proteção JurídicaResumo
Considerando a crescente incorporação da inteligência artificial nos serviços de saúde e os riscos de reprodução de desigualdades por meio de sistemas algorítmicos, este artigo analisa os impactos dessas tecnologias sobre pacientes em situação de vulnerabilidade. Objetiva-se discutir de que maneira a utilização da inteligência artificial na assistência à saúde pode afetar o direito fundamental à saúde, a equidade assistencial e a proteção jurídica dos pacientes, especialmente diante da possibilidade de discriminação algorítmica. Para tanto, procede-se a uma pesquisa qualitativa, de natureza bibliográfica e documental, orientada por análise jurídico-crítica, com base em legislação brasileira, documentos internacionais e estudos científicos sobre inteligência artificial, vulnerabilidade, proteção de dados e direitos fundamentais. Desse modo, observa-se que sistemas algorítmicos, quando desenvolvidos a partir de bases de dados incompletas, enviesadas ou pouco representativas, podem reproduzir desigualdades sociais, raciais, econômicas e territoriais já existentes nos sistemas de saúde. Também se verifica que a opacidade algorítmica dificulta a transparência, a contestação de decisões e a responsabilização por eventuais danos. Conclui-se que a inteligência artificial somente poderá contribuir para a efetivação do direito à saúde se for submetida a mecanismos de governança, supervisão humana, auditoria, proteção de dados sensíveis e responsabilização institucional.
DOI: 10.56238/IXSevenInternationalMultidisciplinaryCongress-050
