Edgar Pimenta, OBEGEF
"Quanto mais delegamos determinadas tarefas, menos as praticamos. E quanto menos as praticamos, mais dependentes ficamos da tecnologia que as pratica por nós. (...)"
Existem momentos na nossa vida que marcam um antes e depois. São momentos ou eventos que nos fazem pensar, olhar para as coisas de outra maneira e aprender. Alguns são pessoais e outros coletivos. O COVID19/pandemia é, sem dúvida, um dos momentos coletivos mais marcantes para todos nós. Mas mais recentemente, outro surgiu cá em Portugal e que está bem presente: o apagão. Quem não se lembra onde estava no exato momento do apagão? E mais tarde, todas as aprendizagens que daí tiramos: ter dinheiro vivo em casa, ter os rádios a pilhas e as respetivas pilhas, um pequeno stock de enlatados, etc… Basicamente, aprendemos que para lidar com eventos disruptivos é preciso estar preparado. É assim na vida pessoal e é assim nas organizações.
A continuidade de negócio (BCM em inglês) é um tema que tem ganho destaque nos últimos anos em resultado dos vários eventos pouco prováveis, mas altamente disruptivos (também designados como cisnes negros pela sua raridade). É também por isso que recentemente a EU lhe dedicou legislação específica: Regulamento Ciber-Resiliência (Cyber Resilience Act ou CRA). E se é verdade que para muitas empresas os temas de continuidade de negócio estão já incluídos na sua estratégia e processos de negócio, para a grande maioria é um tema que não tem a devida atenção.
A continuidade de negócio preocupa-se, tradicionalmente, com uma pergunta relativamente simples: o que acontece se aquilo de que dependemos deixar de estar disponível?
Ou seja, para implementar a Continuidade de Negócio é necessário saber claramente quais os processos críticos que suportam a atividade principal da empresa e para esses, saber os recursos de que depende e para esses, avaliar os riscos - o que pode correr mal. Posteriormente, face aos riscos identificados, tomar decisões (por vezes difíceis) de investir na redução desse risco ou simplesmente aceitá-lo. Por fim, com base na informação recolhida, definir planos de continuidade: o que fazer se determinado evento acontecer. Continuidade de Negócio é acima de tudo preparação!
A continuidade de negócio é muitas vezes associada a fatores externos e que fogem do controle da organização. É o caso dos problemas ambientais (pandemias, terramotos) ou estruturais (falta de eletricidade). No entanto, devem ser considerados também cenários mais internos e organizacionais (perda súbita do CEO, ausência de recursos críticos, etc..).
E é precisamente um tema organizacional que gerou esta crónica: a crescente dependência que as empresas têm da Inteligência Artificial (IA). A dependência cada vez maior que temos da tecnologia não é nova e diria que é inevitável. Vivemos num mundo digital e a indisponibilidade de um qualquer serviço pode ter vários impactos. Quem nunca ouviu: volte amanhã que estamos sem sistema. Por isso, sistemas de IA poderiam ser apenas mais um nesta miríade de sistemas. E se de certa forma assim é, também tem algumas especificidades.
Muita da tecnologia que dependemos até agora é um suporte à atividade. Ou seja, pode ajudar ou acelerar um processo, e quando toma decisões, fá-lo de forma determinística com base em regras claras e/ou árvores de decisão -> para o mesmo input, o resultado é o mesmo. Sempre!! Com IA, a realidade muda. Temos cada vez mais funções que dependem de IA, não apenas como suporte, mas como decisores não determinísticos e com poder de execução. E aqui começam algumas das diferenças.
A primeira diferença é a total indisponibilidade de IA. Obviamente, a alternativa natural é ser um humano a resolver o problema. Mas essa alternativa pode não ser fácil, seja porque (i) os processos e decisões estão já de tal forma alavancados em IA que não se torna exequível uma pessoa ser capaz de rapidamente obter o mesmo resultado, (ii) porque o volume de informação para analisar é enorme, (iii) porque as variáveis de decisão não são claras ou (iv) porque simplesmente, deixamos de saber fazer.
Quanto mais delegamos determinadas tarefas, menos as praticamos. E quanto menos as praticamos, mais dependentes ficamos da tecnologia que as executa por nós. Não será propriamente uma novidade. As calculadoras fizeram-nos deixar de fazer algumas contas mentalmente. Os contactos nos telemóveis fizeram-nos esquecer números de telefone que anteriormente sabíamos de memória. E provavelmente poucos de nós conseguiriam hoje conduzir numa cidade desconhecida utilizando apenas um mapa de papel.
A segunda diferença é quando a IA não fica indisponível, mas começa a tomar decisões erradas ou a inventar coisas com enorme confiança - as chamadas alucinações. Essas alucinações podem não ser detetadas durante muito tempo (ou não serem detetadas de todo) e levar a efeitos indesejados, podendo pôr em causa, no caso das organizações, a sua capacidade de continuar a operar. Já para não falar de quem é responsável quando isso acontece.
E este é um paradigma diferente: como detetarmos que a IA está a tomar decisões erradas ou fora dos parâmetros definidos de tal forma que possa ter impacto negativo na organização e na sua capacidade de operar?
Ou seja, talvez seja necessário começar a identificar quais os processos críticos que já dependem de Inteligência Artificial e eventualmente garantir que existem formas alternativas de os executar. Preservar conhecimento suficiente nas organizações e nas equipas para que essas alternativas sejam realmente possíveis. E, principalmente, perceber onde uma resposta da Inteligência Artificial pode ser utilizada diretamente e onde deve existir validação humana.
Porque colocar um aviso num procedimento dizendo "em caso de falha executar manualmente" serve de pouco se já ninguém souber como executar manualmente.