{"id":48499,"date":"2024-08-02T18:15:00","date_gmt":"2024-08-02T18:15:00","guid":{"rendered":"https:\/\/obegef.pt\/wordpress\/?p=48499"},"modified":"2024-08-03T18:18:31","modified_gmt":"2024-08-03T18:18:31","slug":"a-anormalidade-da-fraude-3-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-3-2-2-2-2-2-3-2-2-3-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-3-2-2-2-2-2-3-2-2-2-2-2-2-2-2-2-2-2-2-2-2-3-2-2-2-4-2-2-2-2-2-2-261","status":"publish","type":"post","link":"https:\/\/obegef.pt\/wordpress\/?p=48499","title":{"rendered":"A \u00c9tica da Intelig\u00eancia Artificial em Portugal: cuidados de sa\u00fade, livros brancos e Center for Responsible AI"},"content":{"rendered":"\n

Ant\u00f3nio da Costa Alexandre, Jornal i online<\/span><\/span><\/span><\/strong><\/p>\n\n\n

\n
\"\"<\/a><\/figure><\/div>\n\n\n

Nos cuidados de sa\u00fade, no nosso pa\u00eds, o recurso aos sistemas de Intelig\u00eancia Artificial (IA) n\u00e3o t\u00eam merecido grande divulga\u00e7\u00e3o, pelo menos no Sistema Nacional de Sa\u00fade (SNS)<\/em><\/p>\n\n\n\n\n\n\n\n

A sa\u00fade \u00e9 uma das dimens\u00f5es mais importantes da nossa vida, sen\u00e3o mesmo a mais importante. Nesse sentido, procuramos enquadrar no presente artigo a implementa\u00e7\u00e3o e uso dos sistemas de Intelig\u00eancia Artificial (IA) nos cuidados de sa\u00fade, com particular incid\u00eancia nos valores e princ\u00edpios \u00e9ticos que devem ser respeitados na utiliza\u00e7\u00e3o que se fizer destas tecnologias.<\/p>\n\n\n\n

Nos cuidados de sa\u00fade, no nosso pa\u00eds, o recurso aos sistemas de Intelig\u00eancia Artificial (IA) n\u00e3o t\u00eam merecido grande divulga\u00e7\u00e3o, pelo menos no Sistema Nacional de Sa\u00fade (SNS) desconhecemos o motivo para tal. Eventualmente poder\u00e1 tratar-se de op\u00e7\u00e3o por algum secretismo, mas tamb\u00e9m se pode dever a d\u00e9ficit de implementa\u00e7\u00e3o, se compararmos, por exemplo com o mediatismo com que a Justi\u00e7a, promoveu em 2023 a utiliza\u00e7\u00e3o da IA nos Tribunais, Instituto dos Registos e Notariado ou mesmo na Dire\u00e7\u00e3o-geral de Reinser\u00e7\u00e3o Social e Servi\u00e7os Prisionais e outros servi\u00e7os.<\/p>\n\n\n\n

J\u00e1 os sistemas privados de sa\u00fade t\u00eam divulgado publicamente noticias da utiliza\u00e7\u00e3o da IA nas suas cl\u00ednicas e hospitais.  Por exemplo, a Funda\u00e7\u00e3o Champalimaud foi o palco do debate, promovido pelo Center for Responsible AI, que juntou: o prof. Ant\u00f3nio Dam\u00e1sio, da Universidade do Sul da Calif\u00f3rnia, os professores do Instituto Superior T\u00e9cnico: Arlindo Oliveira e Ana Paiva, atual ministra da Ci\u00eancia, com modera\u00e7\u00e3o de Francisco Pinto Balsem\u00e3o, presidente do conselho de administra\u00e7\u00e3o do Grupo Impresa. Esta Funda\u00e7\u00e3o informa na sua p\u00e1gina eletr\u00f3nica a utiliza\u00e7\u00e3o de IA e de t\u00e9cnicas de aprendizagem autom\u00e1tica, (permite que os sistemas de IA aprendam entre si, dito de um modo muito sint\u00e9tico) no desenvolvimento e adapta\u00e7\u00e3o de t\u00e9cnicas supervisionadas e n\u00e3o supervisionadas para extra\u00e7\u00e3o de dados relevantes, divulgando ainda v\u00e1rias iniciativas neste dom\u00ednio. Tamb\u00e9m a CUF tem apostado nos sistemas de IA, ao n\u00edvel do diagnostico, monitoriza\u00e7\u00e3o e assist\u00eancia m\u00e9dica. No Hospital da Luz, teve lugar no m\u00eas de junho deste ano, a 6.\u00aa Edi\u00e7\u00e3o do webinar <\/em>\u201cIntelig\u00eancia Artificial e Ci\u00eancia de Dados na Sa\u00fade\u201d, em colabora\u00e7\u00e3o com o T\u00e9cnico. Este estabelecimento de cuidados de sa\u00fade tamb\u00e9m organizou entre 23 de junho de 2022 a 9 de mar\u00e7o de 2023, uma s\u00e9rie de semin\u00e1rios sobre anal\u00edtica avan\u00e7ada nos cuidados de sa\u00fade, debatendo entre outros temas a IA e ci\u00eancia de dados. Estes s\u00e3o apenas alguns exemplos do modo com a IA \u00e9 acolhida na iniciativa privada que investe nos cuidados de sa\u00fade.<\/p>\n\n\n\n

No SNS, as not\u00edcias vindas a p\u00fablico sobre esta tem\u00e1tica n\u00e3o abundam. Numa pesquisa que fizemos no Google foi poss\u00edvel apurar, por exemplo, que durante a pandemia SARS-CoV-2 (Covid-19), apenas o Hospital de S. Jo\u00e3o no Porto adotou o processo de \u00abvalida\u00e7\u00e3o\u00bb do sistema de lA europeu para \u00abum diagn\u00f3stico mais fi\u00e1vel\u00bb do v\u00edrus, a partir de tomografias computadorizadas, de acordo com dados da p\u00e1gina eletr\u00f3nica do SNS.<\/p>\n\n\n\n

Localizamos not\u00edcias de 2024, que manifestam a inten\u00e7\u00e3o do SNS adotar no futuro sistemas de IA em diagn\u00f3sticos dermatol\u00f3gicos. No final de 2023, tinha sido anunciada uma agenda em que a IA se encontrava expressamente mencionada sob o mote \u201cInova\u00e7\u00e3o ao Servi\u00e7o da Sa\u00fade P\u00fablica\u201d.<\/p>\n\n\n\n

Na nossa investiga\u00e7\u00e3o acad\u00e9mica pudemos apurar que a Universidade de \u00c9vora, concretamente a Escola de Ci\u00eancias e Tecnologia estava a desenvolver um sistema de IA, para a Linha de Sa\u00fade 24 do SNS, que tinha como objetivo a diminui\u00e7\u00e3o da dura\u00e7\u00e3o do tempo das chamadas telef\u00f3nicas e que visava tornar mais c\u00e9lere a identifica\u00e7\u00e3o da patologia do paciente. No plano da \u00c9tica da IA, este projeto procurou respeitar o princ\u00edpio da privacidade, recorrendo a dados anonimizados.<\/p>\n\n\n\n

Nos cuidados de sa\u00fade \u00e9 previs\u00edvel um crescente aumento do recurso a estas tecnologias em dom\u00ednios como diagn\u00f3stico, tratamento de dados, assist\u00eancia virtual atrav\u00e9s de chatboots<\/em>, monitoriza\u00e7\u00e3o remota dos pacientes, em v\u00e1rias especialidades como oncologia, radiologia, oftalmologia, cardiologia e dermatologia, mas tamb\u00e9m na descoberta de novos medicamentos s\u00f3 poss\u00edvel com o recurso \u00e0 IA e a grandes quantidades de dados.<\/p>\n\n\n\n

Os Livros Brancos<\/strong><\/p>\n\n\n\n

Geralmente, os Livros Brancos s\u00e3o documentos oficiais publicados por um Governo ou uma Organiza\u00e7\u00e3o Internacional ou Nacional, com informa\u00e7\u00e3o sobre uma quest\u00e3o concreta com algumas propostas e\/ou estrat\u00e9gias contribuindo para a resolu\u00e7\u00e3o de problemas, em regra, emergentes.<\/p>\n\n\n\n

Em 19 de fevereiro de 2020, foi lan\u00e7ado pela Comiss\u00e3o Europeia o Livro Branco sobre a Intelig\u00eancia Artificial \u2013 Uma abordagem europeia virada para a excel\u00eancia e a confian\u00e7a, <\/a>https:\/\/op.europa.eu\/pt\/publication-detail\/-\/publication\/ac957f13-53c6-11ea-aece-01aa75ed71a1<\/a>, onde se real\u00e7a a melhoria que a IA pode imprimir aos cuidados de sa\u00fade, tornando o diagn\u00f3stico mais preciso e permitindo detetar precocemente algumas doen\u00e7as. Este documento considera que na \u00e1rea da sa\u00fade a tecnologia atingiu a maturidade para uma implanta\u00e7\u00e3o em grande escala. Ficaram ainda, bem vincadas as preocupa\u00e7\u00f5es \u00e9ticas com a IA, na senda das \u201cOrienta\u00e7\u00f5es \u00c9ticas para uma IA de Confian\u00e7a\u201d, https:\/\/digital-strategy.ec.europa.eu\/en\/library\/ethics-guidelines-trustworthy-ai<\/a>, elaborado Grupo de Peritos de Alto N\u00edvel sobre a IA, por encomenda pela Comiss\u00e3o Europeia.<\/p>\n\n\n\n

A AICIB \u2013 Ag\u00eancia de Investiga\u00e7\u00e3o Cl\u00ednica e Inova\u00e7\u00e3o Biom\u00e9dica, criada pela Resolu\u00e7\u00e3o do Conselho de Ministros n.\u00ba 27\/2018, de 9 de mar\u00e7o, apresentou recentemente o documento \u201cWhite Paper \u201cLeading the Way to a Healthy Future\u201d, projeto desenvolvido pela Escola Nacional de Sa\u00fade P\u00fablica, visando a implementa\u00e7\u00e3o de uma plataforma de inova\u00e7\u00e3o em sa\u00fade p\u00fablica em Portugal que integra mais de 80 parceiros. No documento disponibilizado online https:\/\/www.ensp.unl.pt\/wp-content\/uploads\/2024\/07\/infografia-white-paper-leading-the-way-to-a-healthy-future-ensp-nova.pdf<\/a>, \u00e9 referida a \u201cSa\u00fade P\u00fablica 5.0\u201d, que recorre a tecnologias avan\u00e7adas, nomeadamente \u00e0 IA, mas n\u00e3o detetamos qualquer refer\u00eancia \u00e0 \u00c9tica no mesmo documento.<\/p>\n\n\n\n

O Conselho Nacional para as Ci\u00eancias da Vida (CNECV) lan\u00e7ou no dia 24 de maio, deste ano o \u201cLivro Branco da Intelig\u00eancia Artificial (IA): Inquieta\u00e7\u00f5es Sociais, Propostas \u00c9ticas e Orienta\u00e7\u00f5es Pol\u00edticas\u201d, https:\/\/www.cnecv.pt\/pt\/publicacoes\/monografias<\/a>. Das diversas e pertinentes quest\u00f5es abordadas destacamos: (i) prote\u00e7\u00e3o de dados e o consentimento informado, com car\u00e1ter imperativo particularmente no que respeita \u00e0 utiliza\u00e7\u00e3o de sistemas de IA; (ii) a recolha, armazenamento e utiliza\u00e7\u00e3o, de dados sens\u00edveis associados, o que originou o direito ao esquecimento, ou seja, qualquer pessoa pode requerer que os seus dados pessoais sejam apagados dos sistemas tecnol\u00f3gicos aos quais foram cedidos, tornando premente que a doutrina e a pr\u00e1tica do consentimento informado venham a ser revistas e adaptadas \u00e0 nova realidade decorrente da aplica\u00e7\u00e3o das tecnologias emergentes; (iii) a privacidade e a transpar\u00eancia na utiliza\u00e7\u00e3o da IA s\u00e3o essenciais na  \u201cverificabilidade dos processos utilizados e dos resultados obtidos e gerar a confian\u00e7a dos utilizadores.\u201d Sem transpar\u00eancia a supervis\u00e3o pelas comiss\u00f5es de \u00e9tica n\u00e3o pode funcionar; (iv) a dificuldade de manter os dados an\u00f3nimos pode dar lugar \u00e0 utiliza\u00e7\u00e3o de dados sint\u00e9ticos (\u201cdados artificiais que podem ser usados na investiga\u00e7\u00e3o cient\u00edfica, evitando o acesso a dados pessoais.\u201d), com recurso \u00e0 aprendizagem autom\u00e1tica; (v) a IA generativa, e o seu \u201cimpacto na criatividade intelectual, na integridade cient\u00edfica e na transpar\u00eancia (e.g., open science) representam um desafio \u00e9tico sem precedentes.\u201d, nomeadamente no desenvolvimento de algoritmos utilizados na pesquisa, recolha e sistematiza\u00e7\u00e3o da informa\u00e7\u00e3o. Atualmente j\u00e1 \u00e9 poss\u00edvel, \u201ca realiza\u00e7\u00e3o de artigos cient\u00edficos de revis\u00e3o por algoritmos, sem interven\u00e7\u00e3o humana.\u201d Estes algoritmos ainda registam algumas falhas, o que pode originar quest\u00f5es controvertidas relativamente \u00e0 responsabilidade e autoria dos documentos produzidos; (vi) sendo previs\u00edvel o dom\u00ednio dos sistemas de IA generativa por alguns grupos econ\u00f3micos, levantam-se quest\u00f5es \u00e9ticas quanto ao armazenamento e processamento da informa\u00e7\u00e3o, \u201co diferente ethos do setor privado versus entidades p\u00fablicas, ou mesmo fen\u00f3menos de sistem\u00e1tica explora\u00e7\u00e3o laboral.\u201d.<\/p>\n\n\n\n

No que respeita \u00e0 privacidade dos dados, conclu\u00edmos na nossa disserta\u00e7\u00e3o de mestrado pela necessidade de pondera\u00e7\u00e3o entre o equil\u00edbrio de ced\u00eancias neste dom\u00ednio procurando solu\u00e7\u00f5es que se apresentem adequadas para garantia da sa\u00fade p\u00fablica e, no limite salvar vidas humanas. Considerando, que alguns pa\u00edses asi\u00e1ticos, como a Coreia do Sul, apresentaram um n\u00edvel de mortalidade menos elevado comparativamente com o mundo ocidental, aquando da pandemia do v\u00edrus SARS-CoV-2 (Covid-19).  Este pa\u00eds decidiu democraticamente colocar alguns limites \u00e0 privacidade dos dados com o objetivo de detetar mais facilmente as pessoas contaminadas, impondo-lhes a necess\u00e1ria quarentena, por entenderem que o direito \u00e0 vida prevalece sobre o direito \u00e0 privacidade dos dados. Parece-nos que seria importante que debates sobre esta quest\u00e3o venham a ter lugar na Uni\u00e3o Europeia e naturalmente no nosso pa\u00eds, uma vez que os especialistas entendem que \u00e9 muito prov\u00e1vel que outras pandemias \u00e0 escala mundial v\u00e3o ocorrer no futuro.<\/p>\n\n\n\n

Preocupante neste dom\u00ednio tamb\u00e9m s\u00e3o os aspetos relacionados com a fraude e a corrup\u00e7\u00e3o. Um exemplo digno de refer\u00eancia no campo da sa\u00fade tem sido a possibilidade de conce\u00e7\u00e3o de um algoritmo gen\u00e9rico capaz de detetar situa\u00e7\u00f5es de fraude no sistema nacional de sa\u00fade, recorrendo \u00e0 utiliza\u00e7\u00e3o de casos confirmados de fraude e corrup\u00e7\u00e3o anteriormente detetados, mas procurando tamb\u00e9m identificar novas situa\u00e7\u00f5es fraudulentas corelacionadas com os diferentes tipos de fraude j\u00e1 conhecidos. A quest\u00e3o da fraude no \u00e2mbito dos seguros de sa\u00fade, com recurso a sistemas de IA tamb\u00e9m t\u00eam vindo a ser identificadas, por exemplo, os casos de fraude praticados pela Medicare relatados pela Universidade Atl\u00e2ntica da Fl\u00f3rida, na sua p\u00e1gina eletr\u00f3nica https:\/\/www.fau.edu\/newsdesk\/articles\/medicare-fraud-big-data.php<\/a>  , onde refere uma nova t\u00e9cnica de IA aumenta significativamente a dete\u00e7\u00e3o de fraudes nos seguros de sa\u00fade da Medicare. Nos Estados Unidos da Am\u00e9rica (EUA), tamb\u00e9m outras seguradoras de sa\u00fade foram alvo da instru\u00e7\u00e3o de processos: Humana, Cigna e United Health, com fundamento na utiliza\u00e7\u00e3o de algoritmos que orientaram programas de IA para negarem assist\u00eancia m\u00e9dica.<\/p>\n\n\n\n

A discrimina\u00e7\u00e3o, neste dom\u00ednio de minorias raciais ou \u00e9tnicas alimentada pelos sistemas de IA no acesso aos cuidados de sa\u00fade nos EUA, \u00e9 uma quest\u00e3o preocupante, n\u00e3o s\u00f3 porque perpetua o racismo praticado pela sociedade americana, mas tamb\u00e9m pela tend\u00eancia para o seu aumento. A discrimina\u00e7\u00e3o neste dom\u00ednio tamb\u00e9m se tem verificado no acesso aos seguros de sa\u00fade. No Estado do Colorado, as autoridades procuram encontrar medidas aptas a evitar a discrimina\u00e7\u00e3o relativamente a ra\u00e7a, cor, religi\u00e3o, nacionalidade\/ancestralidade, sexo, gravidez, defici\u00eancia, orienta\u00e7\u00e3o sexual, idade, e estado civil, de acordo com The Journalist's Resource, https:\/\/journalistsresource.org\/home\/ai-in-the-health-insurance-industry-explainer-and-research-roundup\/<\/a><\/p>\n\n\n\n

O Regulamento Comunit\u00e1rio relativo \u00e0 IA, recentemente publicado, que se aplica diretamente a todos os pa\u00edses do espa\u00e7o da Uni\u00e3o Europeia, atribui um risco elevado a equipamentos m\u00e9dicos e sistemas de IA que sejam utilizados na \u00e1rea da sa\u00fade sujeitando-os a um controlo mais exigente, com obedi\u00eancia a requisitos espec\u00edficos para a sua coloca\u00e7\u00e3o no mercado. <\/p>\n\n\n\n

Tal como refere o Livro Branco da IA do (CNECV), a IA apresenta: \u201cbenef\u00edcios que protagoniza para as sociedades e os cidad\u00e3os s\u00e3o merit\u00f3rios, devendo ser identificados e implementados. Imp\u00f5e-se, concomitantemente, uma pondera\u00e7\u00e3o cuidada relativamente aos eventuais riscos subjacentes, procurando discernir, na mir\u00edade de possibilidades que a tecnologia oferece, os caminhos que melhor prossigam os valores e princ\u00edpios \u00e9ticos em que nos revemos.\u201d<\/p>\n\n\n\n

O Center for Responsible AI<\/strong><\/p>\n\n\n\n

Neste dom\u00ednio, embora tenha um \u00e2mbito de atua\u00e7\u00e3o mais amplo, merece refer\u00eancia o Center for Responsible<\/em> AI - cons\u00f3rcio de IA respons\u00e1vel -, https:\/\/centerforresponsible.ai\/<\/a>, criado em 2022, financiado pelo Plano de Recupera\u00e7\u00e3o e Resili\u00eancia de Portugal (PRR), no \u00e2mbito do programa Next Generation <\/em>da Uni\u00e3o Europeia, re\u00fane 10 startups de IA, incluindo dois unic\u00f3rnios, 8 centros de pesquisa, um escrit\u00f3rio de advocacia e tamb\u00e9m 5 l\u00edderes da ind\u00fastria, desenvolve 21 produtos inovadores de IA impulsionados pelos princ\u00edpios e tecnologias da IA respons\u00e1vel como justi\u00e7a, explicabilidade e sustentabilidade.<\/p>\n","protected":false},"excerpt":{"rendered":"

Ant\u00f3nio da Costa Alexandre, Jornal i online Nos cuidados de sa\u00fade, no nosso pa\u00eds, o recurso aos sistemas de Intelig\u00eancia Artificial (IA) n\u00e3o t\u00eam merecido grande divulga\u00e7\u00e3o, pelo menos no Sistema Nacional de Sa\u00fade (SNS)<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_bbp_topic_count":0,"_bbp_reply_count":0,"_bbp_total_topic_count":0,"_bbp_total_reply_count":0,"_bbp_voice_count":0,"_bbp_anonymous_reply_count":0,"_bbp_topic_count_hidden":0,"_bbp_reply_count_hidden":0,"_bbp_forum_subforum_count":0,"_exactmetrics_skip_tracking":false,"_exactmetrics_sitenote_active":false,"_exactmetrics_sitenote_note":"","_exactmetrics_sitenote_category":0,"footnotes":""},"categories":[72,129],"tags":[],"class_list":["post-48499","post","type-post","status-publish","format-standard","hentry","category-cronicas","category-jornal-i-online"],"_links":{"self":[{"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/posts\/48499","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=48499"}],"version-history":[{"count":2,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/posts\/48499\/revisions"}],"predecessor-version":[{"id":48501,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/posts\/48499\/revisions\/48501"}],"wp:attachment":[{"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=48499"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=48499"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=48499"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}