{"id":48730,"date":"2024-11-21T08:53:00","date_gmt":"2024-11-21T08:53:00","guid":{"rendered":"https:\/\/obegef.pt\/wordpress\/?p=48730"},"modified":"2024-11-21T13:18:00","modified_gmt":"2024-11-21T13:18:00","slug":"a-anormalidade-da-fraude-3-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-3-2-2-2-2-2-3-2-2-3-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-3-2-2-2-2-2-3-2-2-2-2-2-2-2-2-2-2-2-2-2-2-3-2-2-2-4-2-2-2-2-2-2-290","status":"publish","type":"post","link":"https:\/\/obegef.pt\/wordpress\/?p=48730","title":{"rendered":"Nobel da F\u00edsica distingue t\u00e9cnicas da Intelig\u00eancia Artificial reconhecendo a import\u00e2ncia das redes Neuronais e aprendizagem autom\u00e1tica"},"content":{"rendered":"\n

Entrevista de Ant\u00f3nio Alexandre a M\u00e1rio Figueiredo, Jornal i online<\/span><\/span><\/span><\/strong><\/p>\n\n\n

\n
\"\"<\/a><\/figure><\/div>\n\n\n

Neste momento a Intelig\u00eancia Artificial (IA) n\u00e3o representa um perigo para a humanidade. O algoritmo apenas reflete os enviesamentos anteriores. A import\u00e2ncia da Interdisciplinaridade, coopera\u00e7\u00e3o e responsabilidade partilhada no dom\u00ednio da IA<\/em><\/em><\/p>\n\n\n\n\n\n\n\n

O Nobel da F\u00edsica de 2024 foi atribu\u00eddo a John Hopfield e Geoffrey Hinton pelo trabalho que desenvolveram em torno de redes neuronais e aprendizagem autom\u00e1tica, modelos utilizados na IA. De acordo, com o comunicado do Instituto Superior T\u00e9cnico (T\u00e9cnico): \u201cEstes trabalhos inspiraram muitos cientistas a explorar redes neuronais e foram contributos muito importantes para o desenvolvimento das t\u00e9cnicas mais modernas de intelig\u00eancia artificial e aprendizagem autom\u00e1tica que est\u00e3o a revolucionar a forma como vivemos e trabalhamos.\u201d (https:\/\/tecnico.ulisboa.pt\/pt\/noticias\/nobel-da-fisica-2024-um-comentario-do-tecnico\/)
M\u00e1rio Figueiredo \u00e9 professor catedr\u00e1tico do T\u00e9cnico e um dos investigadores mais respeitos e citados em todo o mundo, precisamente pelo se vasto trabalho de v\u00e1rias d\u00e9cadas em aprendizagem autom\u00e1tica (machine learning). Merece particular destaque a sua designa\u00e7\u00e3o como \u201cFellow\u201d da European Association for Signal Processing (EURASIP). No artigo que publicou no jornal P\u00fablico tra\u00e7a as linhas gerais do trabalho dos laureados, real\u00e7ando a import\u00e2ncia do poder do pensamento interdisciplinar (Publicado na edi\u00e7\u00e3o de 8 de outubro de 2024 do jornal P\u00fablico, dispon\u00edvel em: https:\/\/www.publico.pt\/2024\/10\/08\/ciencia\/opiniao\/nobel-fisica-salienta-pensamento-)
Tivemos a oportunidade de conhecer o Professor M\u00e1rio Figueiredo numa Confer\u00eancia sobre Intelig\u00eancia Artificial realizada na Culturgest, na sua excelente interven\u00e7\u00e3o tra\u00e7ou as linhas gerais da evolu\u00e7\u00e3o da IA \u2013 Dispon\u00edvel em: https:\/\/www.youtube.com\/watch?v=AHZTzJfpV5s&t=1110s.
Foi um privil\u00e9gio, termos entrevistado o Professor M\u00e1rio Figueiredo no \u00e2mbito da nossa investiga\u00e7\u00e3o acad\u00e9mica, mas tamb\u00e9m o seu acolhimento facilitando que um mestrando da \u00e1rea das humanidades tivesse a oportunidade de ser coorientado pelo T\u00e9cnico.
Pergunta: Come\u00e7ava por perguntar qual \u00e9 a sua opini\u00e3o acerca dos enviesamentos dos sistemas de IA que podem resultar da aplica\u00e7\u00e3o do modelo de aprendizagem autom\u00e1tica?
Resposta: A quest\u00e3o tem sido motivo de debate, especialmente no que respeita ao n\u00edvel em que devem come\u00e7ar as preocupa\u00e7\u00f5es com aspetos \u00e9ticos e de justi\u00e7a. No dom\u00ednio da IA, estes aspetos t\u00eam sido considerados tanto em n\u00edveis mais elevados quanto em n\u00edveis mais pr\u00e1ticos, ou seja, pr\u00f3ximos das aplica\u00e7\u00f5es. Os enviesamentos sociais, raciais, de g\u00e9nero ou outros, que possam estar embutidos em determinados m\u00e9todos ou algoritmos que tomam decis\u00f5es, normalmente t\u00eam origem na fase de treino e aprendizagem.
Pergunta: Na sua opini\u00e3o, deve haver um equil\u00edbrio entre os diversos n\u00edveis onde esta quest\u00e3o \u00e9 considerada?
Resposta: Sim, embora o meu primeiro instinto seja colocar o problema num n\u00edvel mais pr\u00e1tico, ou seja, os algoritmos s\u00e3o muito flex\u00edveis e podem ser usados de v\u00e1rias maneiras. A quest\u00e3o fundamental diz respeito a dois aspetos: como ser\u00e3o usados e por quem. Uma empresa, um banco ou uma institui\u00e7\u00e3o p\u00fablica que usa um algoritmo de IA para tomar decis\u00f5es deve ter muito cuidado com a sua configura\u00e7\u00e3o, treino e parametriza\u00e7\u00e3o, assim como com a forma como o utiliza. Todos estes aspetos s\u00e3o cr\u00edticos.
\u00c9 claro que, num n\u00edvel superior, h\u00e1 muitos outros aspetos que se podem e devem estudar. Os algoritmos de aprendizagem da IA s\u00e3o pass\u00edveis de estudo formal e matem\u00e1tico, por isso entendo que existem v\u00e1rias camadas na abordagem do problema.
Pergunta: Quando se utiliza a aprendizagem autom\u00e1tica, \u00e9 poss\u00edvel programar o algoritmo para evitar os enviesamentos que existem nos dados?
Resposta: Focar estes problemas no contexto da aprendizagem autom\u00e1tica revela que v\u00e1rios enviesamentos estavam j\u00e1 presentes nas decis\u00f5es humanas e que se tornam evidentes quando se analisa a quest\u00e3o com mais aten\u00e7\u00e3o. Esses enviesamentos transferiram-se para o algoritmo porque j\u00e1 estavam nas decis\u00f5es que foram tomadas anteriormente. Assim, os algoritmos foram treinados para replicar, de certa forma, essas decis\u00f5es humanas. Portanto, o algoritmo apenas reflete os enviesamentos anteriores.
Pergunta: Pode citar alguns exemplos?
Resposta: H\u00e1 v\u00e1rios exemplos famosos. Um caso not\u00f3rio \u00e9 o que ocorreu no departamento de recursos humanos da Amazon, onde um algoritmo foi utilizado para selecionar candidatos para determinadas posi\u00e7\u00f5es. Descobriu-se que havia um enviesamento que evitava a contrata\u00e7\u00e3o de mulheres, resultante n\u00e3o do algoritmo em si, mas dos dados com que o algoritmo tinha sido treinado, ou seja, as contrata\u00e7\u00f5es anteriores j\u00e1 apresentavam esse enviesamento. A emerg\u00eancia deste enviesamento no algoritmo, quando sujeito a um escrut\u00ednio mais rigoroso, gerou receios quanto \u00e0s consequ\u00eancias futuras. O enviesamento existia antes do uso do algoritmo e era refletido nos dados.
Pergunta: Quando ocorrem situa\u00e7\u00f5es semelhantes ao exemplo que deu, na sua opini\u00e3o, quem deve ser responsabilizado?
Resposta: A culpa \u00e9 uma palavra carregada. Na minha opini\u00e3o, essa responsabilidade \u00e9 sempre partilhada, em graus diferentes. Os t\u00e9cnicos, ou engenheiros, que montam os sistemas t\u00eam um papel crucial, mas n\u00e3o cabe ao investigador que desenvolveu o algoritmo resolver esse problema. \u00c9 importante que os investigadores, ao disponibilizarem os algoritmos para utiliza\u00e7\u00e3o em empresas ou outras entidades, alertem para o potencial de decis\u00f5es enviesadas se os dados contiverem esses enviesamentos. Quem faz a transi\u00e7\u00e3o dos algoritmos mais abstratos para a pr\u00e1tica deve ter essa consci\u00eancia. Os dirigentes das entidades que utilizam esses algoritmos tamb\u00e9m precisam estar cientes disso. Quando um dirigente configura projetos e escolhe as equipas, deve considerar estas quest\u00f5es nas especifica\u00e7\u00f5es do caderno de encargos.
Pergunta: Na sua opini\u00e3o, nestas situa\u00e7\u00f5es, a responsabilidade deve ser partilhada?
Resposta: A atribui\u00e7\u00e3o da responsabilidade n\u00e3o \u00e9 linear. Por exemplo, num acidente de autom\u00f3vel que resulta na morte de um pe\u00e3o, pode-se questionar quem \u00e9 respons\u00e1vel: o condutor, o engenheiro que desenhou o carro ou a pessoa que comprou o carro. Obviamente, h\u00e1 uma responsabilidade partilhada, mas com diferentes graus. A pessoa que est\u00e1 mais pr\u00f3xima do problema, que utiliza a aplica\u00e7\u00e3o pr\u00e1tica, tem, na minha opini\u00e3o, a maior parte da responsabilidade. Conhecer as potencialidades e limita\u00e7\u00f5es do m\u00e9todo \u00e9 fundamental. N\u00e3o se pode alegar ignor\u00e2ncia, \u00e9 necess\u00e1rio que se recolha a informa\u00e7\u00e3o necess\u00e1ria.
Pergunta: Qual \u00e9 a sua opini\u00e3o sobre a coopera\u00e7\u00e3o entre a universidade, a sociedade civil e a Administra\u00e7\u00e3o P\u00fablica? Da sua experi\u00eancia, quais os est\u00edmulos necess\u00e1rios para que as empresas procurem colabora\u00e7\u00e3o com institui\u00e7\u00f5es de ensino superior?
Resposta: Em Portugal, at\u00e9 n\u00e3o h\u00e1 muitos anos, a rela\u00e7\u00e3o entre universidades e empresas n\u00e3o era das melhores. Isso devia-se, em parte, ao n\u00edvel acad\u00e9mico ou profissional dos empres\u00e1rios, que era relativamente baixo, gerando desconfian\u00e7a em rela\u00e7\u00e3o \u00e0s universidades. Al\u00e9m disso, as universidades muitas vezes concentram-se na sua atividade acad\u00e9mica, o que pode levar a um desinteresse pelos aspetos mais pr\u00e1ticos. Tamb\u00e9m havia pouca incorpora\u00e7\u00e3o de tecnologias avan\u00e7adas na ind\u00fastria portuguesa, devido a quest\u00f5es econ\u00f3micas e de gest\u00e3o.
Pergunta: Como compararia a nossa situa\u00e7\u00e3o com outros pa\u00edses, nomeadamente do espa\u00e7o da Uni\u00e3o Europeia?
Resposta: N\u00e3o se pode comparar com pa\u00edses como a Alemanha ou a Fran\u00e7a. A tecnologia mais avan\u00e7ada que usamos \u00e9, em grande parte, importada, embora haja v\u00e1rias exce\u00e7\u00f5es. Temos empresas em Portugal que fazem investiga\u00e7\u00e3o e desenvolvimento de novos produtos, como nas ind\u00fastrias farmac\u00eauticas e eletr\u00f3nica.
Pergunta: Na sua opini\u00e3o esta situa\u00e7\u00e3o tem tido ou pode vir a ter alguma invers\u00e3o positiva?
Resposta: Nos \u00faltimos 10 \/ 15 anos, a situa\u00e7\u00e3o tem vindo a mudar. A incorpora\u00e7\u00e3o tecnol\u00f3gica na ind\u00fastria portuguesa aumentou significativamente, especialmente com o surgimento de start-ups. \u00c9 comum agora ver empresas a contratar doutorados em v\u00e1rias engenharias, em f\u00edsica e biologia para desenvolverem projetos de investiga\u00e7\u00e3o em contexto empresarial. Esta pr\u00e1tica, que era rara, est\u00e1 a tornar-se mais frequente. Embora muitos doutorados ainda trabalhem na academia ou no estrangeiro, acredito que isso est\u00e1 a mudar.
Pergunta: Como descreveria esta situa\u00e7\u00e3o na Europa e nos Estados Unidos da Am\u00e9rica (EUA)?
Resposta: Nos EUA e, em menor medida, na Europa, especialmente nos pa\u00edses anglo-sax\u00f3nicos, existem internships (programas de est\u00e1gios) que melhoram as rela\u00e7\u00f5es entre universidades e empresas. Os estudantes de doutoramento em \u00e1reas como ci\u00eancia da computa\u00e7\u00e3o podem estagiar em empresas, levando os seus conhecimentos e criando um canal de comunica\u00e7\u00e3o importante. Essas pr\u00e1ticas seriam muito \u00fateis em Portugal e representariam um benef\u00edcio m\u00fatuo, contribuindo para melhorar as liga\u00e7\u00f5es entre ambos os setores. Nos EUA, estes est\u00e1gios s\u00e3o, na minha opini\u00e3o, um dos fatores que ajudam a estabelecer rela\u00e7\u00f5es de confian\u00e7a entre empresas e investiga\u00e7\u00e3o, algo que tem vindo a melhorar em Portugal.
Pergunta: A primeira vers\u00e3o da Estrat\u00e9gia Portuguesa para a IA previa a cria\u00e7\u00e3o de uma Comiss\u00e3o Nacional para a \u00c9tica da IA. Considerando que, no \u00e2mbito do AI Act (Regulamento da IA), publicado em 12 de julho deste ano, Portugal dever\u00e1 indicar uma entidade que fiscalize e autorize alguns sistemas de IA, pensa que nessa entidade tamb\u00e9m dever\u00e1 ser criada uma sec\u00e7\u00e3o para a \u00c9tica da IA?
Resposta: Penso que faz mais sentido termos um organismo abrangente que inclua tanto a regulamenta\u00e7\u00e3o quanto a \u00e9tica. Tudo o que envolve dados deveria estar alinhado com o regulamento geral de prote\u00e7\u00e3o de dados. Acredito que pode ser expandido para incluir a tomada de decis\u00f5es em mat\u00e9ria de dados, integrando uma abordagem global que considere todos os aspetos envolvidos. N\u00e3o \u00e9 poss\u00edvel separar a IA e a aprendizagem autom\u00e1tica dos dados, pois, sem os dados, os sistemas de IA n\u00e3o funcionam e, sozinhos, os dados t\u00eam pouco interesse sem as ferramentas computacionais.
Pergunta: Parece-lhe que se pode equacionar a possibilidade de alargar o \u00e2mbito de atua\u00e7\u00e3o e as compet\u00eancias da Comiss\u00e3o Nacional de Prote\u00e7\u00e3o de Dados (CNPD)?
Resposta: Sim, penso que sim, at\u00e9 a n\u00edvel europeu. Essa \u00e9 uma hip\u00f3tese a considerar, embora ainda n\u00e3o tenha refletido muito sobre a quest\u00e3o. Pode haver contra-argumentos, mas n\u00e3o me ocorre nenhum no momento.
Pergunta: Na sua opini\u00e3o, quais s\u00e3o as principais dificuldades de implementa\u00e7\u00e3o da IA na Administra\u00e7\u00e3o P\u00fablica?
Resposta: A Administra\u00e7\u00e3o P\u00fablica \u00e9 caracterizada por uma excessiva burocratiza\u00e7\u00e3o, o que, embora seja relativamente normal, resulta em morosidade nos processos. As \u00e1reas da IA avan\u00e7am rapidamente e exigem equipamentos que se tornam obsoletos em pouco tempo. Tamb\u00e9m pode ser complicado ter intera\u00e7\u00f5es e colabora\u00e7\u00f5es com entidades privadas. Por exemplo, nos hospitais e centros de sa\u00fade, h\u00e1 sempre escassez de recursos, com as pessoas sobrecarregadas de trabalho e grandes complica\u00e7\u00f5es burocr\u00e1ticas at\u00e9 para adquirir itens b\u00e1sicos. A falta de recursos afeta a motiva\u00e7\u00e3o e a abertura para a colabora\u00e7\u00e3o em inova\u00e7\u00f5es tecnol\u00f3gicas, pois as equipas sentem que precisam resolver quest\u00f5es mais b\u00e1sicas antes de se aventurar em projetos mais ambiciosos.
Pergunta: Quais s\u00e3o as grandes dificuldades da IA nos campos que veem por a\u00ed?
Resposta: Numa perspetiva especulativa, h\u00e1 quest\u00f5es sobre a possibilidade de criar uma IA geral. Quest\u00f5es relativas ao desenvolvidos de sistemas artificiais mais inteligentes do que os humanos e se isso representar\u00e1 um perigo para a humanidade s\u00e3o frequentemente debatidas. No entanto, considero essas quest\u00f5es muito especulativas e n\u00e3o me preocupam. Temos problemas mais prementes a resolver. \u00c9 interessante discutir essas quest\u00f5es do ponto de vista filos\u00f3fico, mas, em termos de aplica\u00e7\u00f5es pr\u00e1ticas, ainda estamos um pouco distantes.
(Entrevista realizada no \u00e2mbito da investiga\u00e7\u00e3o acad\u00e9mica \u201cNovos Desafios da Administra\u00e7\u00e3o P\u00fablica: Intelig\u00eancia Artificial e \u00c9tica nos Sistemas Inteligentes com Autonomia\u201d, que conclu\u00edmos em 2022 e atualizada com o entrevistado em 12.11.2024).<\/p>\n","protected":false},"excerpt":{"rendered":"

Entrevista de Ant\u00f3nio Alexandre a M\u00e1rio Figueiredo, Jornal i online Neste momento a Intelig\u00eancia Artificial (IA) n\u00e3o representa um perigo para a humanidade. O algoritmo apenas reflete os enviesamentos anteriores. A import\u00e2ncia da Interdisciplinaridade, coopera\u00e7\u00e3o e responsabilidade partilhada no dom\u00ednio da IA<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_bbp_topic_count":0,"_bbp_reply_count":0,"_bbp_total_topic_count":0,"_bbp_total_reply_count":0,"_bbp_voice_count":0,"_bbp_anonymous_reply_count":0,"_bbp_topic_count_hidden":0,"_bbp_reply_count_hidden":0,"_bbp_forum_subforum_count":0,"_exactmetrics_skip_tracking":false,"_exactmetrics_sitenote_active":false,"_exactmetrics_sitenote_note":"","_exactmetrics_sitenote_category":0,"footnotes":""},"categories":[72,129],"tags":[],"class_list":["post-48730","post","type-post","status-publish","format-standard","hentry","category-cronicas","category-jornal-i-online"],"_links":{"self":[{"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/posts\/48730","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=48730"}],"version-history":[{"count":2,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/posts\/48730\/revisions"}],"predecessor-version":[{"id":48732,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/posts\/48730\/revisions\/48732"}],"wp:attachment":[{"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=48730"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=48730"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=48730"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}