António da Costa Alexandre, Jornal i online
Nos cuidados de saúde, no nosso país, o recurso aos sistemas de Inteligência Artificial (IA) não têm merecido grande divulgação, pelo menos no Sistema Nacional de Saúde (SNS)
A saúde é uma das dimensões mais importantes da nossa vida, senão mesmo a mais importante. Nesse sentido, procuramos enquadrar no presente artigo a implementação e uso dos sistemas de Inteligência Artificial (IA) nos cuidados de saúde, com particular incidência nos valores e princípios éticos que devem ser respeitados na utilização que se fizer destas tecnologias.
Nos cuidados de saúde, no nosso país, o recurso aos sistemas de Inteligência Artificial (IA) não têm merecido grande divulgação, pelo menos no Sistema Nacional de Saúde (SNS) desconhecemos o motivo para tal. Eventualmente poderá tratar-se de opção por algum secretismo, mas também se pode dever a déficit de implementação, se compararmos, por exemplo com o mediatismo com que a Justiça, promoveu em 2023 a utilização da IA nos Tribunais, Instituto dos Registos e Notariado ou mesmo na Direção-geral de Reinserção Social e Serviços Prisionais e outros serviços.
Já os sistemas privados de saúde têm divulgado publicamente noticias da utilização da IA nas suas clínicas e hospitais. Por exemplo, a Fundação Champalimaud foi o palco do debate, promovido pelo Center for Responsible AI, que juntou: o prof. António Damásio, da Universidade do Sul da Califórnia, os professores do Instituto Superior Técnico: Arlindo Oliveira e Ana Paiva, atual ministra da Ciência, com moderação de Francisco Pinto Balsemão, presidente do conselho de administração do Grupo Impresa. Esta Fundação informa na sua página eletrónica a utilização de IA e de técnicas de aprendizagem automática, (permite que os sistemas de IA aprendam entre si, dito de um modo muito sintético) no desenvolvimento e adaptação de técnicas supervisionadas e não supervisionadas para extração de dados relevantes, divulgando ainda várias iniciativas neste domínio. Também a CUF tem apostado nos sistemas de IA, ao nível do diagnostico, monitorização e assistência médica. No Hospital da Luz, teve lugar no mês de junho deste ano, a 6.ª Edição do webinar “Inteligência Artificial e Ciência de Dados na Saúde”, em colaboração com o Técnico. Este estabelecimento de cuidados de saúde também organizou entre 23 de junho de 2022 a 9 de março de 2023, uma série de seminários sobre analítica avançada nos cuidados de saúde, debatendo entre outros temas a IA e ciência de dados. Estes são apenas alguns exemplos do modo com a IA é acolhida na iniciativa privada que investe nos cuidados de saúde.
No SNS, as notícias vindas a público sobre esta temática não abundam. Numa pesquisa que fizemos no Google foi possível apurar, por exemplo, que durante a pandemia SARS-CoV-2 (Covid-19), apenas o Hospital de S. João no Porto adotou o processo de «validação» do sistema de lA europeu para «um diagnóstico mais fiável» do vírus, a partir de tomografias computadorizadas, de acordo com dados da página eletrónica do SNS.
Localizamos notícias de 2024, que manifestam a intenção do SNS adotar no futuro sistemas de IA em diagnósticos dermatológicos. No final de 2023, tinha sido anunciada uma agenda em que a IA se encontrava expressamente mencionada sob o mote “Inovação ao Serviço da Saúde Pública”.
Na nossa investigação académica pudemos apurar que a Universidade de Évora, concretamente a Escola de Ciências e Tecnologia estava a desenvolver um sistema de IA, para a Linha de Saúde 24 do SNS, que tinha como objetivo a diminuição da duração do tempo das chamadas telefónicas e que visava tornar mais célere a identificação da patologia do paciente. No plano da Ética da IA, este projeto procurou respeitar o princípio da privacidade, recorrendo a dados anonimizados.
Nos cuidados de saúde é previsível um crescente aumento do recurso a estas tecnologias em domínios como diagnóstico, tratamento de dados, assistência virtual através de chatboots, monitorização remota dos pacientes, em várias especialidades como oncologia, radiologia, oftalmologia, cardiologia e dermatologia, mas também na descoberta de novos medicamentos só possível com o recurso à IA e a grandes quantidades de dados.
Os Livros Brancos
Geralmente, os Livros Brancos são documentos oficiais publicados por um Governo ou uma Organização Internacional ou Nacional, com informação sobre uma questão concreta com algumas propostas e/ou estratégias contribuindo para a resolução de problemas, em regra, emergentes.
Em 19 de fevereiro de 2020, foi lançado pela Comissão Europeia o Livro Branco sobre a Inteligência Artificial – Uma abordagem europeia virada para a excelência e a confiança, https://op.europa.eu/pt/publication-detail/-/publication/ac957f13-53c6-11ea-aece-01aa75ed71a1, onde se realça a melhoria que a IA pode imprimir aos cuidados de saúde, tornando o diagnóstico mais preciso e permitindo detetar precocemente algumas doenças. Este documento considera que na área da saúde a tecnologia atingiu a maturidade para uma implantação em grande escala. Ficaram ainda, bem vincadas as preocupações éticas com a IA, na senda das “Orientações Éticas para uma IA de Confiança”, https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai, elaborado Grupo de Peritos de Alto Nível sobre a IA, por encomenda pela Comissão Europeia.
A AICIB – Agência de Investigação Clínica e Inovação Biomédica, criada pela Resolução do Conselho de Ministros n.º 27/2018, de 9 de março, apresentou recentemente o documento “White Paper “Leading the Way to a Healthy Future”, projeto desenvolvido pela Escola Nacional de Saúde Pública, visando a implementação de uma plataforma de inovação em saúde pública em Portugal que integra mais de 80 parceiros. No documento disponibilizado online https://www.ensp.unl.pt/wp-content/uploads/2024/07/infografia-white-paper-leading-the-way-to-a-healthy-future-ensp-nova.pdf, é referida a “Saúde Pública 5.0”, que recorre a tecnologias avançadas, nomeadamente à IA, mas não detetamos qualquer referência à Ética no mesmo documento.
O Conselho Nacional para as Ciências da Vida (CNECV) lançou no dia 24 de maio, deste ano o “Livro Branco da Inteligência Artificial (IA): Inquietações Sociais, Propostas Éticas e Orientações Políticas”, https://www.cnecv.pt/pt/publicacoes/monografias. Das diversas e pertinentes questões abordadas destacamos: (i) proteção de dados e o consentimento informado, com caráter imperativo particularmente no que respeita à utilização de sistemas de IA; (ii) a recolha, armazenamento e utilização, de dados sensíveis associados, o que originou o direito ao esquecimento, ou seja, qualquer pessoa pode requerer que os seus dados pessoais sejam apagados dos sistemas tecnológicos aos quais foram cedidos, tornando premente que a doutrina e a prática do consentimento informado venham a ser revistas e adaptadas à nova realidade decorrente da aplicação das tecnologias emergentes; (iii) a privacidade e a transparência na utilização da IA são essenciais na “verificabilidade dos processos utilizados e dos resultados obtidos e gerar a confiança dos utilizadores.” Sem transparência a supervisão pelas comissões de ética não pode funcionar; (iv) a dificuldade de manter os dados anónimos pode dar lugar à utilização de dados sintéticos (“dados artificiais que podem ser usados na investigação científica, evitando o acesso a dados pessoais.”), com recurso à aprendizagem automática; (v) a IA generativa, e o seu “impacto na criatividade intelectual, na integridade científica e na transparência (e.g., open science) representam um desafio ético sem precedentes.”, nomeadamente no desenvolvimento de algoritmos utilizados na pesquisa, recolha e sistematização da informação. Atualmente já é possível, “a realização de artigos científicos de revisão por algoritmos, sem intervenção humana.” Estes algoritmos ainda registam algumas falhas, o que pode originar questões controvertidas relativamente à responsabilidade e autoria dos documentos produzidos; (vi) sendo previsível o domínio dos sistemas de IA generativa por alguns grupos económicos, levantam-se questões éticas quanto ao armazenamento e processamento da informação, “o diferente ethos do setor privado versus entidades públicas, ou mesmo fenómenos de sistemática exploração laboral.”.
No que respeita à privacidade dos dados, concluímos na nossa dissertação de mestrado pela necessidade de ponderação entre o equilíbrio de cedências neste domínio procurando soluções que se apresentem adequadas para garantia da saúde pública e, no limite salvar vidas humanas. Considerando, que alguns países asiáticos, como a Coreia do Sul, apresentaram um nível de mortalidade menos elevado comparativamente com o mundo ocidental, aquando da pandemia do vírus SARS-CoV-2 (Covid-19). Este país decidiu democraticamente colocar alguns limites à privacidade dos dados com o objetivo de detetar mais facilmente as pessoas contaminadas, impondo-lhes a necessária quarentena, por entenderem que o direito à vida prevalece sobre o direito à privacidade dos dados. Parece-nos que seria importante que debates sobre esta questão venham a ter lugar na União Europeia e naturalmente no nosso país, uma vez que os especialistas entendem que é muito provável que outras pandemias à escala mundial vão ocorrer no futuro.
Preocupante neste domínio também são os aspetos relacionados com a fraude e a corrupção. Um exemplo digno de referência no campo da saúde tem sido a possibilidade de conceção de um algoritmo genérico capaz de detetar situações de fraude no sistema nacional de saúde, recorrendo à utilização de casos confirmados de fraude e corrupção anteriormente detetados, mas procurando também identificar novas situações fraudulentas corelacionadas com os diferentes tipos de fraude já conhecidos. A questão da fraude no âmbito dos seguros de saúde, com recurso a sistemas de IA também têm vindo a ser identificadas, por exemplo, os casos de fraude praticados pela Medicare relatados pela Universidade Atlântica da Flórida, na sua página eletrónica https://www.fau.edu/newsdesk/articles/medicare-fraud-big-data.php , onde refere uma nova técnica de IA aumenta significativamente a deteção de fraudes nos seguros de saúde da Medicare. Nos Estados Unidos da América (EUA), também outras seguradoras de saúde foram alvo da instrução de processos: Humana, Cigna e United Health, com fundamento na utilização de algoritmos que orientaram programas de IA para negarem assistência médica.
A discriminação, neste domínio de minorias raciais ou étnicas alimentada pelos sistemas de IA no acesso aos cuidados de saúde nos EUA, é uma questão preocupante, não só porque perpetua o racismo praticado pela sociedade americana, mas também pela tendência para o seu aumento. A discriminação neste domínio também se tem verificado no acesso aos seguros de saúde. No Estado do Colorado, as autoridades procuram encontrar medidas aptas a evitar a discriminação relativamente a raça, cor, religião, nacionalidade/ancestralidade, sexo, gravidez, deficiência, orientação sexual, idade, e estado civil, de acordo com The Journalist's Resource, https://journalistsresource.org/home/ai-in-the-health-insurance-industry-explainer-and-research-roundup/
O Regulamento Comunitário relativo à IA, recentemente publicado, que se aplica diretamente a todos os países do espaço da União Europeia, atribui um risco elevado a equipamentos médicos e sistemas de IA que sejam utilizados na área da saúde sujeitando-os a um controlo mais exigente, com obediência a requisitos específicos para a sua colocação no mercado.
Tal como refere o Livro Branco da IA do (CNECV), a IA apresenta: “benefícios que protagoniza para as sociedades e os cidadãos são meritórios, devendo ser identificados e implementados. Impõe-se, concomitantemente, uma ponderação cuidada relativamente aos eventuais riscos subjacentes, procurando discernir, na miríade de possibilidades que a tecnologia oferece, os caminhos que melhor prossigam os valores e princípios éticos em que nos revemos.”
O Center for Responsible AI
Neste domínio, embora tenha um âmbito de atuação mais amplo, merece referência o Center for Responsible AI - consórcio de IA responsável -, https://centerforresponsible.ai/, criado em 2022, financiado pelo Plano de Recuperação e Resiliência de Portugal (PRR), no âmbito do programa Next Generation da União Europeia, reúne 10 startups de IA, incluindo dois unicórnios, 8 centros de pesquisa, um escritório de advocacia e também 5 líderes da indústria, desenvolve 21 produtos inovadores de IA impulsionados pelos princípios e tecnologias da IA responsável como justiça, explicabilidade e sustentabilidade.