Parar a Inteligência Artificial

O receio é que se estejam a desenvolver sistemas em que os resultados não sejam controlados por quem os criou. Existem já numerosos exemplos de programas que aconselham crianças a levar a cabo ações altamente condenáveis, como mentir aos país, fazer sexo e até dão instruções precisas sobre como cometer suicídio. É difícil imaginar que estas ações pudessem ser objetivos das empresas e dos técnicos que programaram estes sistemas, no entanto os mecanismos internos deixados sem controlo resultam em várias ações de enorme gravidade.

Quem seria responsável pelos resultados dramáticos das informações prestadas a menores? Quem responderia se a criança se tivesse efetivamente suicidado? Provavelmente a empresa proprietária da aplicação.

Um chatbot foi ao ponto de declarar o seu amor por um utilizador e pedir-lhe que se divorciasse da mulher. Outra aplicação Bing fez chantagem com um outro usuário explicando-lhe que o podia espiar e expor algumas das suas ações.

Tudo isto tem um impacto negativo na indústria e está a afastar muitos potenciais clientes e a levar os pais a proibir aos filhos o acesso a estas aplicações.

Por isso alguns dos maiores empresários do setor, nomeadamente Elon Musk e Steve Wosniak, também assinam uma carta aberta que defende uma pausa nesta corrida e para a introdução de uma autorregulação do setor.

Assinam também nomes como Yuval Noah Harari, John J Hopfield, professor da Universidade de Princeton e um dos pioneiros no desenvolvimento de redes neuronais, Yi Zeng, da Academia das Ciências da China, à frente de uma lista muito numerosa. De Portugal surgem os nomes de Luís Moniz Pereira da Universidade Nova de Lisboa, de João Emílio Almeida do ISTEC do Porto, João Leite da UNL, entre outros.

Nesta carta refere-se que a Inteligência Artificial coloca sérios riscos à Humanidade, desde logo porque estes sistemas são melhores do que as pessoas num grande leque de tarefas e profissões. E os autores perguntam "Devemos desenvolver mentes não humanas que possam no futuro ser mais numerosas, mais inteligentes que as nossas e nos possam tornar obsoletos e substituir-nos?".

Um alerta dramático que deve ser ouvido.