{"id":47272,"date":"2023-01-03T21:18:00","date_gmt":"2023-01-03T21:18:00","guid":{"rendered":"https:\/\/obegef.pt\/wordpress\/?p=47272"},"modified":"2023-02-04T21:21:19","modified_gmt":"2023-02-04T21:21:19","slug":"a-anormalidade-da-fraude-3-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-3-2-2-2-2-2-3-2-2-3-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-2-3-2-2-2-2-2-3-2-2-2-2-2-2-2-2-2-2-2-2-2-2-3-2-2-2-4-2-2-2-2-2-2-125","status":"publish","type":"post","link":"https:\/\/obegef.pt\/wordpress\/?p=47272","title":{"rendered":"As principais tend\u00eancias de Fraudes em meios eletr\u00f4nicos para 2023"},"content":{"rendered":"\n

Ant\u00f3nio da Costa Alexandre,<\/span><\/span> Jornal i online<\/span><\/span><\/span><\/strong><\/p>\n\n\n

\n
\"\"<\/a><\/figure><\/div>\n\n\n

A conce\u00e7\u00e3o, design e programa\u00e7\u00e3o da IA tamb\u00e9m podem contribuir para uma IA discriminat\u00f3ria<\/em><\/p>\n\n\n\n\n\n\n\n

Em artigos anteriores abordamos quest\u00f5es \u00e9ticas que se colocam na esfera da Intelig\u00eancia Artificial (IA). Algumas destas tecnologias j\u00e1 presentes na nossa sociedade t\u00eam autonomia para decidirem sem a participa\u00e7\u00e3o do Homem. Contudo t\u00eam sido identificadas situa\u00e7\u00f5es discriminat\u00f3rias, designadamente no que se refere ao g\u00e9nero, origem racial ou \u00e9tnica, religi\u00e3o ou cren\u00e7a, defici\u00eancia, idade ou orienta\u00e7\u00e3o sexual. Tamb\u00e9m neste dom\u00ednio, a import\u00e2ncia da \u00e9tica tem sido real\u00e7ada para colmatar algum atraso da ordem jur\u00eddica na estatui\u00e7\u00e3o de normas jur\u00eddicas aplic\u00e1veis diretamente \u00e0s quest\u00f5es que decorrem da recente implementa\u00e7\u00e3o destas tecnologias.  <\/p>\n\n\n\n

A discrimina\u00e7\u00e3o, nas suas variadas vertentes, est\u00e1 presente no mundo em que vivemos e a sua origem muito provavelmente perde-se no tempo. A quest\u00e3o que importa ser discutida \u00e9 a possibilidade da IA e outras tecnologias perpetuarem as discrimina\u00e7\u00f5es j\u00e1 presentes na sociedade ou at\u00e9 contribu\u00edrem, na sua implementa\u00e7\u00e3o pr\u00e1tica, para novos tipos de discrimina\u00e7\u00e3o. Para efetiva\u00e7\u00e3o dos seus sistemas inteligentes, a IA necessita de uma elevada quantidade de dados que refletem preconceitos, injusti\u00e7as e desigualdades presentes na sociedade, nas comunidades e nos grupos em que os dados s\u00e3o recolhidos.<\/p>\n\n\n\n

A conce\u00e7\u00e3o, design e programa\u00e7\u00e3o da IA tamb\u00e9m podem contribuir para uma IA discriminat\u00f3ria<\/a>, assim como a sub-representa\u00e7\u00e3o ou super-representa\u00e7\u00e3o de determinados grupos e\/ou ainda a utiliza\u00e7\u00e3o descuidada dos dados no treino da IA. No \u00e2mbito da nossa investiga\u00e7\u00e3o acad\u00e9mica tivemos a oportunidade de entrevistar um professor universit\u00e1rio que alertou para o perigo da utiliza\u00e7\u00e3o de bases de dados americanos, que se encontram dispon\u00edveis no mercado, por exemplo, para conce\u00e7\u00e3o de sistemas de IA que viessem a ser utilizados na nossa  Administra\u00e7\u00e3o P\u00fablica, ou em qualquer outro setor, uma vez que esses dados recolhidos nos EUA refletem a realidade americana. Assim, a sua aplica\u00e7\u00e3o numa realidade distinta mostrar-se-ia inadequada, gerando muito provavelmente problemas na sua implementa\u00e7\u00e3o, que importa evitar, desde logo, porque a aceita\u00e7\u00e3o social destas tecnologias, fica sempre beliscada quando acontecem situa\u00e7\u00f5es de m\u00e1 utiliza\u00e7\u00e3o que possam ser imput\u00e1veis \u00e0s m\u00e1quinas, com poss\u00edveis consequ\u00eancias em diversos n\u00edveis nomeadamente nas verbas destinadas \u00e0 investiga\u00e7\u00e3o destas tecnologias.<\/p>\n\n\n\n

Algoritmos racistas apoiam decis\u00f5es judiciais<\/strong><\/p>\n\n\n\n

Nos Estados Unidos da Am\u00e9rica (EUA) t\u00eam sido utilizados sistemas algor\u00edtmicos que fornecem ao magistrado judicial, na altura da decis\u00e3o relativa \u00e0 concess\u00e3o de liberdade condicional, indicadores do risco de reincid\u00eancia na atividade criminosa. Por interm\u00e9dio da an\u00e1lise de dados que refletem a personalidade e a vida dos reclusos, s\u00e3o ponderados aspetos relacionados com antecedentes criminais dos amigos e parentes do arguido, questionado inclusivamente quando ocorreu o primeiro contacto do arguido com a pol\u00edcia. Nos bairros da classe m\u00e9dia, este contacto com agentes da autoridade ocorre geralmente mais tarde comparativamente com os bairros em que vivem os afrodescendentes. Cathy O'Neil<\/a>, no do livro \u201cWeapons of Math Destruction -  How Big Data Increases Inequality and Threatens Democracy\u201d,<\/strong> editado por Penguin, em 2016, refere: \u201cO question\u00e1rio n\u00e3o tem quest\u00f5es sobre a ra\u00e7a, por ser ilegal. Mas com a qualidade dos pormenores que cada prisioneiro fornece, essa quest\u00e3o ilegal torna-se quase sup\u00e9rflua.\u201d O erro de avalia\u00e7\u00e3o destes algoritmos \u00e9 frequentemente referido na avalia\u00e7\u00e3o do risco dos cidad\u00e3os negros, geralmente, penalizados comparativamente com os indiv\u00edduos de ra\u00e7a caucasiana.<\/p>\n\n\n\n

Estes sistemas t\u00eam sido defendidos com argumentos que os consideram mais precisos do que a convic\u00e7\u00e3o de um juiz mas tamb\u00e9m pelo seu contributo para uma uniformiza\u00e7\u00e3o da justi\u00e7a que permitiria decis\u00f5es judiciais semelhantes em casos id\u00eanticos, mitigando alguma aleatoriedade no sistema, introduzida pelo poder discricion\u00e1rio dos magistrados judiciais no sistema em que \u00e9 poss\u00edvel identificar senten\u00e7as d\u00edspares em casos id\u00eanticos. No entanto, importa considerar que os algoritmos que suportam os sistemas de IA, por muito precisos que sejam nas suas avalia\u00e7\u00f5es ainda n\u00e3o conseguem driblar as incertezas inerentes \u00e0 condi\u00e7\u00e3o humana que podem motivar condutas irracionais, impulsivas e at\u00e9 mesmo imprevis\u00edveis.<\/p>\n\n\n\n

A opacidade destes modelos impede a explica\u00e7\u00e3o e a compreens\u00e3o das decis\u00f5es que prop\u00f5em, a aus\u00eancia de regulamenta\u00e7\u00e3o destas tecnologias dificulta a sua contesta\u00e7\u00e3o. Na realidade, O'Neil refere falhas de avalia\u00e7\u00e3o destes algoritmos em que o risco n\u00e3o foi identificado. No entanto, verificou-se o contr\u00e1rio (os falsos negativos), mas tamb\u00e9m as avalia\u00e7\u00f5es que concluem pela exist\u00eancia de risco de reincid\u00eancia que se revelam incorretas, ap\u00f3s melhor an\u00e1lise (os falsos positivos).<\/p>\n\n\n\n

A investiga\u00e7\u00e3o independente realizada por ProPublica (entidade sem fins lucrativos que faz jornalismo de investiga\u00e7\u00e3o),  analisou o COMPAS - correctional offender management profiling for alternative sanctions \u2013 (cria\u00e7\u00e3o de perfil de gest\u00e3o de infratores para san\u00e7\u00f5es alternativas \u2013 tradu\u00e7\u00e3o livre do autor), concluiu que os r\u00e9us com ascend\u00eancia africana eram muito mais propensos a serem incorretamente avaliados com maior risco de reincid\u00eancia comparativamente com os indiv\u00edduos caucasianos, quanto a estes verificou a exist\u00eancia de uma tend\u00eancia incorreta para uma sinalizados de baixo risco. Os leitores mais interessados podem consultar o trabalho e a metodologia desta entidade em:  https:\/\/www.propublica.org\/datastore\/dataset\/compas-recidivism-risk-score-data-and-analysis<\/a><\/p>\n\n\n\n

Quando realiz\u00e1mos o trabalho de campo do nosso mestrado consideramos importante fazer o diagn\u00f3stico desta quest\u00e3o na \u00e1rea da justi\u00e7a penal no nosso pa\u00eds. Nesse sentido, solicit\u00e1mos a colabora\u00e7\u00e3o da Dire\u00e7\u00e3o-Geral de Reinser\u00e7\u00e3o e Servi\u00e7os Prisionais (DGRSP), que nos informou n\u00e3o ter em desenvolvimento \/ funcionamento qualquer aplica\u00e7\u00e3o relacionada com IA. Acrescentou ainda, ser entidade parceira dum projeto futuro financiado pelo PT Inova\u00e7\u00e3o Social, intitulado \u201cProjeto Horus 360\u201d que se focar\u00e1 na IA no \u00e2mbito da gest\u00e3o de caso.<\/p>\n\n\n\n

Na prepara\u00e7\u00e3o deste artigo identificamos uma p\u00e1gina na internet relativa ao \u201cProjeto Horus 360\u201d, no link https:\/\/justice-trends.press\/pt\/projeto-horus-360-ioms\/<\/a>  no \u201cApoio \u00e0 gest\u00e3o do ciclo de vida das senten\u00e7as penais\u201d, com o objetivo de \u201cpesquisar e projetar uma solu\u00e7\u00e3o que apoie a gest\u00e3o das opera\u00e7\u00f5es e informa\u00e7\u00f5es geradas durante o \u201cciclo de vida\u201d de deten\u00e7\u00e3o, pris\u00e3o ou vigil\u00e2ncia de pessoas sujeitas a medidas judiciais privativas ou n\u00e3o de liberdade.\u201d Este projeto recorre \u00e0 tecnologia da IA e \u201cAn\u00e1lise Preditiva\u201d, no apoio ao processo de ressocializa\u00e7\u00e3o e os processos decis\u00f3rios judiciais ou administrativos. Tentamos saber junto da A DGRSP se este sistema j\u00e1 estava a em funcionamento, esta entidade informou em 20.01.2023, que a sua implementa\u00e7\u00e3o em contexto real ainda n\u00e3o ocorreu, encontrando-se na fase de desenvolvimento das especifica\u00e7\u00f5es t\u00e9cnicas de um \u201chipot\u00e9tico\u201d sistema de gest\u00e3o de casos que far\u00e1 recurso \u00e0s novas tecnologias de informa\u00e7\u00e3o. Prevendo-se, para breve, que seja testado numa base de dados virtual.<\/p>\n\n\n\n

Discrimina\u00e7\u00e3o nos empr\u00e9stimos banc\u00e1rios<\/strong><\/p>\n\n\n\n

As discrimina\u00e7\u00f5es na concess\u00e3o de empr\u00e9stimos financeiros \u00e9 uma pr\u00e1tica antiga. Podemos referir, por exemplo, o redlining<\/em><\/a>, uma pr\u00e1tica discriminat\u00f3ria das institui\u00e7\u00f5es de cr\u00e9dito, desde a d\u00e9cada de 30 do s\u00e9culo passado, que permitia a recusa de empr\u00e9stimos aos moradores dos bairros com rendas baixas. Nos EUA, este procedimento impedia o financiamento dos negros americanos e de outras comunidades de imigrantes. Em 1974, a lei de igualdade de oportunidades de cr\u00e9dito proibiu o redlining<\/em>, considerando ilegal a rejei\u00e7\u00e3o de empr\u00e9stimos com base em ra\u00e7a, sexo ou idade. Contudo, a sua aplica\u00e7\u00e3o pr\u00e1tica n\u00e3o logrou afastar este tipo de discrimina\u00e7\u00f5es.<\/p>\n\n\n\n

 No mundo da IA, aprendizagem autom\u00e1tica e big data<\/em> s\u00e3o apresentados como ferramentas com capacidade para minorar estas discrimina\u00e7\u00f5es. Todavia, os dados dispon\u00edveis apontam no sentido de que a ado\u00e7\u00e3o de tecnologia, s\u00f3 por si, n\u00e3o \u00e9 suficiente para reformular as decis\u00f5es discriminat\u00f3rias das institui\u00e7\u00f5es financeiras.<\/p>\n\n\n\n

Numa an\u00e1lise de 2019, dos dados da US Home Mortgage Disclosure Act (lei da divulga\u00e7\u00e3o das hipotecas residenciais nos EUA) feita pela The Markup \u2013 entidade sem fins lucrativos que investiga empresas e institui\u00e7\u00f5es que utilizam tecnologia para incrementar mudan\u00e7as sociais \u2013 divulgou informa\u00e7\u00e3o apresentando conclus\u00f5es que indicam uma elevada propens\u00e3o dos credores americanos para continuarem a discriminar os negros. Diversas entidades, entre outras, o Departamento de Prote\u00e7\u00e3o Financeira do Consumidor dos EUA, mas tamb\u00e9m investigadores universit\u00e1rios t\u00eam apresentado conclus\u00f5es semelhantes. <\/p>\n\n\n\n

N\u00e3o obstante, a evolu\u00e7\u00e3o tecnol\u00f3gica desta Quarta Revolu\u00e7\u00e3o Industrial, caraterizada pela rapidez e pela disrup\u00e7\u00e3o, os sistemas de IA continuam a errar, n\u00e3o s\u00f3 na recusa de cr\u00e9dito a candidatos que reuniriam os requisitos para a sua concess\u00e3o (os falsos negativos), mas tamb\u00e9m na atribui\u00e7\u00e3o de cr\u00e9dito a quem n\u00e3o tem capacidade para cumprir as obriga\u00e7\u00f5es inerentes (os falsos positivos). A prem\u00eancia da repress\u00e3o do digital redlining<\/em> tem sido abordada por diversas institui\u00e7\u00f5es, numa dupla vertente, para evitar que os candidatos sejam prejudicados em fun\u00e7\u00e3o de preconceitos sociais, mas tamb\u00e9m para afastar os custos que as institui\u00e7\u00f5es financeiras, t\u00eam necessariamente, que suportar sempre que concedem cr\u00e9dito a candidatos que n\u00e3o cumprem com as suas obriga\u00e7\u00f5es.<\/p>\n\n\n\n

As quest\u00f5es \u00e9ticas decorrentes destas p\u00e1ticas v\u00e3o al\u00e9m da necessidade de reprimir preconceitos e injusti\u00e7as que a IA bebe da sociedade e das comunidades em que as pr\u00e1ticas discriminat\u00f3rias est\u00e3o presentes, nem sempre assumidas, porque incompreens\u00edveis nos alvores do s\u00e9culo XXI. Diversos autores, entre os quais Lu\u00eds Moniz Pereira, professor em\u00e9rito da Universidade Nova de Lisboa, alertam que a IA pode, n\u00e3o apenas refletir preconceitos sociais, mas mais grave ainda, a IA pode piorar a discrimina\u00e7\u00e3o. Torna-se, por isso, necess\u00e1rio que os contributos da \u00e9tica, do direito e da pr\u00f3pria sociedade sejam persistentes, com continuidade, mas tamb\u00e9m c\u00e9leres, no sentido de granjearmos uma IA \u00e9tica, ben\u00e9fica, confi\u00e1vel e que permita alcan\u00e7ar o progresso que nos t\u00eam vindo a prometer.<\/p>\n\n\n\n

<\/p>\n\n\n\n

<\/p>\n\n\n\n

<\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Ant\u00f3nio da Costa Alexandre, Jornal i online A conce\u00e7\u00e3o, design e programa\u00e7\u00e3o da IA tamb\u00e9m podem contribuir para uma IA discriminat\u00f3ria<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_bbp_topic_count":0,"_bbp_reply_count":0,"_bbp_total_topic_count":0,"_bbp_total_reply_count":0,"_bbp_voice_count":0,"_bbp_anonymous_reply_count":0,"_bbp_topic_count_hidden":0,"_bbp_reply_count_hidden":0,"_bbp_forum_subforum_count":0,"_exactmetrics_skip_tracking":false,"_exactmetrics_sitenote_active":false,"_exactmetrics_sitenote_note":"","_exactmetrics_sitenote_category":0,"footnotes":""},"categories":[72,129],"tags":[],"class_list":["post-47272","post","type-post","status-publish","format-standard","hentry","category-cronicas","category-jornal-i-online"],"_links":{"self":[{"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/posts\/47272","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=47272"}],"version-history":[{"count":2,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/posts\/47272\/revisions"}],"predecessor-version":[{"id":47274,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=\/wp\/v2\/posts\/47272\/revisions\/47274"}],"wp:attachment":[{"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=47272"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=47272"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/obegef.pt\/wordpress\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=47272"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}