António da Costa Alexandre, Jornal i online
Em “88 vozes sobre Inteligência Artificial - O que fica para a máquina e o que fica para o homem?” destaca-se a crescente importância que vários autores atribuem às questões éticas associadas à IA
Foi lançado recentemente pelo ISCTE, o livro “88 vozes sobre Inteligência Artificial - O que fica para a máquina e o que fica para o homem?”, de autores de diferentes áreas, da investigação científica à medicina e cuidados de saúde, passando pela comunicação social, publicidade, direito, administração pública, filosofia, cultura e política.
A obra reúne artigos de experts nacionais que traçam cenários e põem à disposição em Portugal um conjunto de “elementos de reflexão sérios e sólidos”. Permitindo construir um pensamento estruturado, que inclua a feitura das leis e se debruce sobre práticas que os sistemas de Inteligência Artificial (IA) em setores diversificados evidenciam a capacidade de “compreender, racionalizar e tomar decisões”, objetivo bem delineado no prefácio.
O pioneirismo é a pedra de toque inicial a dar nota da relevância desta publicação, com testemunhos de especialistas que trabalham com a IA e aceitaram partilhar os seus conhecimentos, experiências, dúvidas, anseios e motivações. Merece também destaque a redação cuidada, mas acessível a leigos. O livro procura e consegue dirigir-se ao público em geral, sem descurar o rigor e a exigência da instituição de ensino superior que o edita.
O desafio de base lançado não deixa ninguém indiferente, ao sublinhar que face à tecnologia temos duas hipóteses: “Ou nos juntamos a ela ou nos juntamos a ela. Em particular em relação à Inteligência Artificial (IA). Com efeito, a presença da IA alcançou já o estatuto de inevitabilidade. Pode considerar-se estar perto da omnipresença em todos os domínios da nossa vida, particularmente nas áreas dos cuidados de saúde, ensino, energia ou transportes - em alguns casos com decisões autónomas sem intermediação humana -, mas também no apoio à execução de políticas públicas.
A Administração Pública tem sido considerada o “motor” da implementação da IA, ideia já defendida em 2020, por exemplo na publicação The use of AI in public services: results from a preliminary mapping across the EU. Por um lado, a Administração Pública produz uma enorme quantidade de dados, indispensáveis para a conceção dos sistemas de IA, considerados por The Economist o novo petróleo[1]. Mas também é o “primeiro comprador”, papel que facilmente se percebe, quer pela ampla dimensão da Administração Pública e das diversas áreas que abarca, quer pela quantidade de entidades que gravitam na sua esfera.
O livro “88 vozes sobre Inteligência Artificial” destaca-se ainda pela importância expressa que vários autores atribuem às questões éticas que a IA tem vindo a suscitar. Merece particular atenção o artigo de Mário Campolargo, Secretário de Estado da Digitalização e da Modernização Administrativa, com o artigo: “Ética, valores e o fator humano na era da IA”. É salutar perceber que ao mais alto nível das políticas públicas o responsável por estas matérias reconhece a importância das questões éticas envolvidas na implementação e uso destas tecnologias. Neste artigo realça a privacidade, a segurança, a transparência dos sistemas de IA e a necessidade de serem evitadas práticas discriminatórias. Refere ainda a importância da inclusão de pessoas de diferentes origens, culturas e perspetivas nas equipas que trabalham no desenvolvimento destas tecnologias. Merecem também destaque os efeitos da IA no mercado de trabalho, capacitação, educação e a importância das políticas públicas na transição para uma nova economia.
Mário Figueiredo, professor catedrático no Instituto Superior Técnico (IST), reputado especialista internacional em machine learning – aprendizagem automática - que permite que as máquinas aprendam entre si -, faz um breve enquadramento histórico sobre a IA. Importa ler com atenção a reflexão deste autor sobre a alegada ameaça existencial trazida pela IA, que considera, como muitos outros especialistas, irrealista tanto a curto como a médio prazo. O autor entende até que este temor ofusca outros riscos, esses sim significativos, nomeadamente algumas questões globais da atualidade, como os impactos das alterações climáticas. “Em vez de se concentrar em riscos futuros incertos, a atenção deve ser dada aos problemas prementes que o uso da IA de forma responsável já está a causar; amplificação de desigualdades e preconceitos, limitação de liberdade e de privacidade, perturbação dos mercados de trabalho, produção de grandes quantidades de desinformação que podem desestabilizar as sociedades democráticas.”
No artigo: “IA (bons) desafios, (algumas) ameaças e muitas (oportunidades)”, Paulo Quaresma, vice-reitor da Universidade de Évora e ex-vogal do Conselho Diretivo da Fundação para a Ciência e Tecnologia, fala do Chat GPT4, tema presente nos últimos tempos tanto na comunicação social, como na sociedade em geral. Começando logo por referir que “é importante alertar que os sistemas baseados em large language models não são «oráculos» baseados em representação do conhecimento. É previsível que as lacunas existentes venham a ser suprimidas com a evolução dos atuais modelos e, sendo certo que estamos num momento de disrupção em termos do uso da inteligência artificial é importante ter uma noção clara das limitações existentes.”
Noutro domínio fundamental, dos cuidados de saúde, são vários os depoimentos neste livro que nos permitem perceber algumas oportunidades que justificam a utilização da IA. Estas tecnologias podem fazer face à falta, para as necessidades, de médicos, enfermeiros e de outros profissionais de saúde, a escassez de profissionais nesta área pode atingir níveis preocupantes, de acordo com os dados disponibilizados pela Organização Mundial da Saúde. A IA pode também permitir “melhorias de produtividade, eficiência e resultados, na prestação de cuidados de saúde, como curiosamente aumentar a sua humanização”. Neste momento, já nos é prometido que a IA pode ir além da deteção da doença, conseguindo prever que determinada pessoa venha a desenvolver uma qualquer patologia. O livro refere ainda outras potencialidades: deep learning em imagiologia médica e deteção de cancro e tumores com computer vision; sinais vitais e monitorização da saúde; reabilitação de doentes em casa; sistemas de orientação cirúrgica, apoio a pacientes com limitações físicas; administração dos serviços de saúde e medicina à distância (teleconsultas), entre outras.
Esta é uma área muito sensível em que as questões éticas se colocam com grande acutilância e em várias dimensões: privacidade, segurança, responsabilidade, ética dos dados, ética de algoritmos, ética na aplicação clínica. No artigo “A Inteligência Artificial nos cuidados de saúde: algumas questões éticas”, publicado pela revista Human em 28 de março de 2023[2], tínhamos já feito uma abordagem introdutória destas questões, nomeadamente no que respeita ao princípio da explicabilidade, que ainda esbarra nos algoritmos de «caixa negra»; consentimento do paciente no caso do suporte à decisão baseado em IA, com explicação quanto aos processos e algoritmos utilizados; e anuência para futura utilização dos seus dados.
Outra área em que o impacto da IA será considerável é a Educação. Nestas “88 vozes” alguns autores falam das várias oportunidades trazidas por estas tecnologias que podem facilitar a aprendizagem, como sistemas tutoriais virtuais que oferecem feedbacks personalizados e orientação aos alunos, adaptando o conteúdo, o ritmo e o estilo de ensino às necessidades individuais, melhorando os níveis de eficácia e a motivação dos formandos. A IA também pode ajudar os professores a preparar aulas, criar fichas de trabalho, avaliações. É encarada como um instrumento para muitos docentes estimularem a criatividade dos seus alunos, estimular as capacidades de reflexão e como resolvem os problemas. João Paulo Costeira, professor do IST, alerta, no entanto, que se a IA fluir sem regras o desmantelamento do sistema da educação será o pior dos riscos que decorrem da utilização destas tecnologias. “Para um país pequeno como Portugal o risco é que, por atavismo ou incompetência institucional, a IA venha a desmantelar a formação de alto nível e tornar-se uma fábrica de sucedâneos … em todas as áreas do saber.”
Também neste domínio são realçadas as questões éticas, afirmando Luis Todo Bom: “No mundo académico as questões da ética vão colocar-se com alguma acutilância, já que é o universo em que estamos a formar cidadãos de futuro, alunos preguiçosos tenderão a utilizar de forma constante, irresponsável, oportunista e desprovida de princípios éticos, estas ferramentas nos seus trabalhos académicos. E professores preguiçosos vão fingir que não sabem ou não percebem a utilização destas ferramentas, limitando o processo de avaliação à classificação destes trabalhos escritos.”
Muitos outros artigos desde livro que nos ocupa mereceriam ser igualmente destacados, mas infelizmente a limitação de espaço não nos permite realçar a importância de outros testemunhos. Para concluir, reforçamos a ideia de que o livro é de leitura fácil e bastante interessante para todos os leitores que tenham curiosidade por estas temáticas. Sendo um volume longo, com 698 páginas, cada um dos 88 artigos sintetiza com assertividade as ideias defendidas pelos seus autores. Por último, deve ainda ser realçado ter um preço acessível, custando apenas 16,90 euros.
[1] https://www.economist.com/leaders/2017/05/06/the-worlds-most-valuable-resource-is-no-longer-oil-but-data
[2] https://www.human.pt/2023/03/28/a-inteligencia-artificial-nos-cuidados-de-saude-algumas-questoes-eticas/