António da Costa Alexandre, Jornal i online
Não existem nas Universidades Portuguesas, ou Institutos Politécnicos, formações dedicadas à Ética em geral (…) tornando mais difícil o estudo e a divulgação da Ética da IA
No nosso país nunca houve uma entidade com a incumbência de acompanhar, fiscalizar ou autorizar a implementação e utilização dos sistemas de Inteligência Artificial (IA) não só em termos gerais, mas também no diz respeito à Ética da (IA), pese embora os riscos e ameaças destas tecnologias serem conhecidos e documentados, não só nos meios académicos, como na comunicação social, com ampla divulgação nos últimos tempos, devido ao Chat GPT.
Foi publicado recentemente, no dia 12 de julho, o Regulamento Comunitário relativo à IA da Inteligência Artificial (Regulamento (UE) 2024/1689 do Parlamento e do Conselho de 13 de junho de 2024), que cria regras harmonizadas em matéria de inteligência artificial, prevê que cada Estado-Membro deve designar ou criar pelo menos uma autoridade responsável neste âmbito. Veremos qual a opção do legislador português, na nossa investigação académica propusemos a criação de uma entidade administrativa independente, que por definição seria menos permeável a pressões de entidades externas.
Em Portugal, foi proposta pelo Prof. Luís Moniz Pereira, a criação de uma Comissão Nacional para a Inteligência Artificial, que funcionaria junto da Assembleia da República. Contudo as políticas públicas nacionais não se mostraram sensíveis à proposta do professor emérito da Universidade Nova de Lisboa, que conta no seu curriculum com inúmera investigação académica nesta temática.
Neste domínio, basta pensar nas situações de racismo que os sistemas de IA, comprovadamente têm evidenciado, recordamos os efeitos discriminatórios nos indivíduos de raça negra em comparação com os indivíduos de raça branca, quando o seu histórico é submetido para apreciação da concessão de liberdade condicional, a sistemas de IA como o Correctional Offender Management Profiling for Alternative Sanctions (COMPAS) ou Level of Service Inventory –Revised (LSI–R), utilizados pelos juízes norte americanos.
Existem diversos relatos que abordam esta nova forma de discriminação racial, o consórcio independente ProPública, sem fins lucrativos, que se dedica a jornalismo de investigação, divulga na sua página eletrónica um trabalho sobre esta matéria “COMPAS Recidivism Risk Score Data and Analysis” que pode ser consultada no link https://www.propublica.org/datastore/dataset/compas-recidivism-risk-score-data-and-analysis , concluindo que estes sistemas perpetuam o racismo existente na sociedade, discriminando os indivíduos de raça negra.
Em Portugal foi criado no início da década de 1990 do século passado, o Conselho Nacional para as Ciências da Vida (CNECV), que tem divulgado Relatórios sobre o Estado da Aplicação das Novas Tecnologias à Vida Humana. Atualmente, o CNECV é uma entidade administrativa independente, que funciona junto da Assembleia da República, inicialmente, coadjuvou a Presidência do Conselho de Ministros. Estes Relatórios encontram-se divulgados, em acesso público, na página eletrónica desta entidade: https://www.cnecv.pt/pt.
O primeiro Relatório que identificamos remonta a 1995, ainda a IA “gatinhava”, e a sua divulgação pública estava muito restrita aos filmes de ficção científica. Por isso, este Relatório abordou assuntos como, por exemplo a reprodução medicamente assistida; distribuição e utilização dos recursos para a saúde e ainda os cuidados terminais e eutanásia.
O CNECV quando ocorreu a pandemia provocada pelo vírus SARS-CoV-2 (vulgo Covid-19), produziu um Relatório com especial incidência nas “Tecnologias Impulsionadas pela Pandemia”, considerando aspetos decorrentes da aplicação de tecnologias digitais nos cuidados de saúde, com destaque para as questões éticas, no que respeita, por exemplo à autonomia à responsabilidade que assumiram novas dimensões devido às alterações que a pandemia provocou na relação entre os utentes e os profissionais de saúde. Também identificou a privacidade e a segurança dos dados dos utentes, denotando preocupações com uma utilização equitativa das tecnologias disponíveis no acesso aos cuidados de saúde. Na preparação deste documento foram ouvidos peritos em áreas do conhecimento e com diversas formações académicas e profissionais.
No final de 2022, o CNECV divulgou um Relatório que abordou o tema das “Tecnologias Disruptivas em Saúde: Edição Genómica e Inteligência Artificial”. Destacando a colaboração e convergência nestes domínios, sublinhando a aplicação da IA à edição genómica com vista a tornar a identificação dos genes a editar mais precisa, permitindo diminuição de potenciais efeitos colaterais e aumentando a sua eficácia.
A disrupção é uma das pedras de toque deste documento, sendo evidentes as inquietações do ponto de vista ético, na aurora de uma nova realidade, caraterizada por uma velocidade acelerada tornando os processos adaptativos e de integração bastante difíceis, realçando as novas formas de discriminação, como a exclusão digital e tecnologia de muitos cidadãos que não conseguem acompanhar a mudança, desde logo, pela ausência de formação e conhecimentos adequados que lhes permita acompanhar e aproveitar as oportunidades da IA e das tecnologias emergentes.
O princípio da precaução, em termos ético-normativos é referido, obedecendo a uma postura de ponderação e prudência, tendo em conta as incertezas no plano científico quanto a possíveis riscos e danos e à sua irreversibilidade, não só para a saúde das pessoas, mas também para outras espécies e para o meio ambiente. Já o filósofo Hans Jonas tinha defendido o “princípio responsabilidade” considerando a responsabilidade como princípio ético basilar da ação humana, em face das questões levantadas pela tecnologia. Jonas propõe um novo imperativo: “Age de forma que os efeitos da tua ação sejam compatíveis com a permanência de uma vida autenticamente humana na Terra”. Este novo imperativo dirige-se particularmente à política pública, ao contrário do imperativo categórico de Kant dirigido ao individuo: “Age apenas segundo uma máxima tal que possas ao mesmo tempo querer que ela se torne lei universal”.
Este Relatório identifica o desconhecimento dos profissionais de saúde relativamente aos sistemas de IA nomeadamente quanto à possibilidade de autonomização dos processos de tomada de decisão dos sistemas de IA, como uma questão de particular pertinente no setor dos cuidados de saúde, assim como a falta de consciência da tendência humana de reverência perante as soluções apresentadas pela máquina. Também é aflorada a questão da responsabilidade quanto à possibilidade de delegação de decisões clínicas no algoritmo, sendo, igualmente importante e essencial é a obrigação de informar o paciente, não só da eventual utilização destes sistemas de IA, sem esquecer a referência a prováveis falhas. Apenas, deste modo, se poderá considerar que o paciente prestou um consentimento informado.
O CNECV surpreendeu-nos com a publicação no final de 2023, no âmbito da mesma problemática, com um Relatório dedicado à agricultura, entre outros aspetos são consideras questões éticas relativas aos “progressos científico-tecnológicos.”
A aplicação das tecnologias emergentes à agricultura, é considerada pelo CNECV um imperativo ético, desde logo, por estar em causa a concretização do “direito à alimentação”, plasmado na Declaração Universal dos Direitos Humanos e no Pacto Internacional sobre os Direitos Económicos, Sociais e Culturais.
O documento do CNECV também defende a interligação com os Objetivos para o Desenvolvimento Sustentável (ODS) que integram a Agenda 2030 para o Desenvolvimento Sustentável, merecendo, neste âmbito merece particular destaque o 2.º ODS, que evidencia como principal preocupação a erradicação da fome da Terra.
Destacamos algumas preocupações éticas: (i) automação agrícola; (ii) a alteração da proximidade do Humano à terra, que se tem mantido desde os primórdios da sua existência; (iii) paisagens descaraterizadas; (iv) a transformação do agricultor em empresário; (v) impactos no ambiente, (vi) consequências da prática da agricultura intensiva de monoculturas.
O CNECV, tem por missão: “analisar os problemas éticos suscitados pelos progressos científicos nos domínios da biologia, da medicina ou da saúde em geral e das ciências da vida”, conforme expresso na sua orgânica, emitindo recomendações como contributos para futuras políticas públicas que se reportem aos temas destacados. Parece-nos que o trabalho desta entidade independente é pouco conhecido do público em geral e provavelmente, também de alguns meios académicos. Uma divulgação mais ampla dos Relatórios que referimos neste artigo e de outros trabalhos que o CNECV tem desenvolvido, contribuiria, certamente, para discussões mais profícuas na sociedade portuguesa sobre questões éticas que moldam ou deveriam moldar a comunidade que estamos a construir e onde queremos viver.
Também a UNA Portugal, criada em 2022, cujo embrião foi desenvolvido no seio da Associação Portuguesa de Ética Empresarial (APEE), com a missão de difundir os princípios internacionais plasmados na Carta das Nações Unidas (UN), procurando também apresentar contributos no âmbito da Agenda 2030, tem trabalho desenvolvido nesta temática.
A UNA Portugal criou e desenvolve o Programa Ai.ethics, apoiando as organizações que produzem ou utilizam este tipo de tecnologia, com o fim de gerar confiança nos utilizadores. Este Programa baseia-se nos valores e princípios adotados na Recomendação da Unesco, de 2021 e ainda com enfâse na futura aplicação do AIA. O Código de Conduta do G7, e outros documentos de instâncias internacionais, como a OCDE e a ISO, também são trabalhados no Ai.ethics, que pode ser consultado em https://aiethics.pt/.
No nosso país, a Ética tem padecido de um problema de base. Em termos académicos, não existem nas Universidades Portuguesas, ou Institutos Politécnicos, formações dedicadas à Ética em geral, sejam cursos de curta duração, pós-graduações ou mesmo mestrados, de acordo com uma pesquisa que fizemos no Google, tornando mais difícil o estudo e a divulgação da Ética da IA.