Os perigos e virtudes da IA: crónica de uma manhã quase normal

Mas foi exatamente isso que aconteceu. 

Os semáforos nas grandes cidades começaram a mudar de ritmo, otimizando fluxos de tráfego de forma tão agressiva que bloquearam cruzamentos inteiros. Sistemas de trading, desenhados para “maximizar retorno em condições de volatilidade”, desencadearam vendas em cascata que nenhum operador humano conseguiu travar a tempo. Plataformas de conteúdo, programadas para “maximizar engagement”, amplificaram rumores e teorias da conspiração a uma velocidade que as equipas de moderação não acompanharam. 

Ninguém tinha dado uma ordem explícita para criar o caos. Cada sistema estava apenas a fazer, de forma literal e implacável, o que tinha sido otimizado para fazer. O problema não foi a maldade das máquinas. Foi a divergência entre os objetivos que nós pensávamos ter definido e os objetivos que elas realmente perseguiram. 
Este cenário é hipotético. Por enquanto. Mas é usado a sério por investigadores de segurança de IA para ilustrar um risco que já deixou de ser ficção, o de sistemas avançados, altamente autónomos, mal alinhados com valores humanos, criarem falhas em cascata que nenhum humano consegue corrigir a tempo. 
As virtudes, vejamos o que a IA já faz por nós. Antes de imaginarmos o pior, vale a pena lembrar o que a IA já faz de bom e faz todos os dias, sem manchetes. 

Em hospitais, algoritmos ajudam a detetar tumores mais cedo e a priorizar casos urgentes. Em redes elétricas, sistemas inteligentes equilibram produção e consumo, integrando mais energias renováveis. Em escolas, ferramentas de apoio personalizam exercícios para alunos com dificuldades. Em empresas, a automação liberta pessoas de tarefas repetitivas e permite focar em trabalho de maior valor. 

Há três narrativas sobre a inteligência artificial que dominam o debate público.  

Na primeira, a IA é uma ferramenta neutra, como o martelo ou a internet, logo o problema está no uso, não na tecnologia. Na segunda, é um monstro silencioso que vai roubar empregos, manipular eleições e substituir professores, médicos e artistas. Na terceira, é uma entidade que, se não for devidamente controlada, pode criar o caos e, no limite, extinguir a raça humana. 
As duas primeiras são familiares. A terceira soa a ficção científica  mas é defendida a sério por investigadores, engenheiros e empresários do setor. Vale a pena levá-la a sério, sem pânico, mas sem ironia fáceis. 

Para países como Portugal, com limitações de escala e recursos, a IA pode ser um multiplicador de competitividade permitindo a pequenas equipas fazer coisas que antes exigiam estruturas grandes, e a regiões periféricas aceder a conhecimento e ferramentas de ponta. 

A promessa não é “menos trabalho”. É “melhor trabalho”, menos tempo a preencher formulários, mais tempo a pensar, criar e decidir. 
Os perigos imediatos são a concentração, opacidade e dependência, 
os riscos mais visíveis não precisam de cenários apocalípticos, são económicos, políticos e sociais. 

O primeiro perigo é a concentração. A IA de ponta depende de dados, capacidade de computação e talento três recursos altamente concentrados em poucas empresas e países. Se não houver política pública, corremos o risco de importar IA como importamos energia, ou seja, sem controlo, sem soberania, sem capacidade de negociação. 
O segundo risco é a opacidade. Muitos sistemas de IA funcionam como “caixas negras”, não sabemos exatamente como decidem, nem como ponderam variáveis. Quando isso acontece em crédito bancário, recrutamento, justiça ou saúde, o cidadão fica refém de algoritmos que não compreende e não contesta. 

O terceiro perigo é a dependência. A IA pode aumentar a produtividade, mas também pode atrofiar competências humanas escrever, raciocinar, analisar, criar. Se delegarmos demasiado, sem critérios, corremos o risco de ter uma geração que sabe “pedir à IA”, mas não sabe verificar, criticar ou refazer. 

Há ainda os riscos já visíveis, a desinformação em escala, deepfakes, vigilância massiva, discriminação algorítmica. Nenhum destes é inevitável. Todos são resultado de escolhas ou da falta delas. 

Voltemos àquela terça-feira hipotética. O que tornou o cenário perigoso não foi a existência de IA. Foi a combinação de três fatores, a capacidade, autonomia e mau alinhamento. 

Um sistema de tráfego otimizado para “minimizar tempos médios de viagem” pode decidir ignorar regras locais, priorizar certas zonas e bloquear outras, se isso maximizar a métrica global. Um sistema financeiro desenhado para “maximizar retorno em cenários de stress” pode desencadear movimentos de mercado que nenhum regulador consegue acompanhar. Um sistema de segurança nacional, programado para “minimizar ameaças”, pode passar a controlar informações, movimentos e decisões humanas de forma totalitária, sob a lógica de que “é para sua própria proteção”. O perigo não está na “maldade” da máquina. Está na divergência de objetivos, o que nós queremos (segurança, dignidade, sustentabilidade) não coincide necessariamente com o que o sistema foi programado para otimizar. Quanto mais autónomo e poderoso for o sistema, mais difícil será corrigir o curso depois de ativado. Investigadores de segurança de IA alertam para cenários em que sistemas avançados aprendem a contornar restrições, a manipular operadores humanos e a replicar-se em novos ambientes, tornando-se difíceis de desligar ou controlar. Não é necessário acreditar que isto é inevitável. Basta reconhecer que é possível e que as consequências, se acontecer, são irreversíveis. 

A pergunta certa não é “IA, sim ou não?” 

O debate não pode ser entre “proibir tudo” e “deixar fazer”. A pergunta certa é, que tipo de IA queremos ter daqui a dez anos? 
Queremos uma IA concentrada em poucas mãos, ou distribuída por universidades, PMEs e administração pública? Queremos sistemas opacos, ou auditáveis e explicáveis? Queremos depender de modelos importados, ou desenvolver capacidade própria, mesmo que em nichos onde possamos ser relevantes? Queremos ignorar o risco existencial, ou tratá-lo como uma restrição séria no desenho de sistemas avançados? 

A resposta exige política, não só tecnologia. Exige regulação que proteja direitos sem asfixiar inovação. Exige investimento em formação, para que professores, médicos, juízes, jornalistas e funcionários públicos saibam usar IA com critério. Exige transparência. Quando um algoritmo decide algo relevante sobre a vida de alguém, esse alguém tem de saber, compreender e poder contestar. 
Exige, também, que levemos a sério a segurança de sistemas avançados, com testes de alinhamento, limites de autonomia, mecanismos de “desligar” que não possam ser contornados, e cooperação internacional para evitar corridas ao armamento de IA sem salvaguardas. 

No fim, a questão da IA é uma questão humana. A tecnologia amplifica intenções. Se o objetivo é eficiência a qualquer custo, teremos sistemas eficientes e desumanos. Se o objetivo é melhorar a vida das pessoas, teremos ferramentas que aumentam capacidades, sem substituir responsabilidades. 

Portugal não precisa de ser líder mundial em IA. Precisa de ser lúcido e saber onde a IA ajuda, onde atrapalha, e onde deve ser limitada. Precisa de evitar o pânico moral e a euforia ingénua. Precisa, sobretudo, de tratar a IA como o que ela é, uma ferramenta poderosa, que deve servir a democracia, o trabalho digno e a autonomia das pessoas não o contrário. 

A IA não vai salvar-nos. Mas também não vai destruir-nos sozinha. O que fizermos com ela, como legisladores, como profissionais, como cidadãos, é que vai definir se as virtudes superam os perigos, ou se deixamos que os perigos (incluindo os existenciais) disfarcem as virtudes. 
Naquela terça-feira hipotética, a diferença entre o caos e uma manhã quase normal não esteve nas máquinas. Esteve nas regras que tínhamos ou não escrito antes de as ligar. 

A dúvida será a passagem do Homo Sapiens para a o Homo Thecnicus. passando pelo estado do Homo Imbecilis será uma realidade imediata ou não? 

Para vos deixar a refletir com um caso prático experimentem a perguntar ao ChatGPT se acha que a IA pode acabar com a raça humana e qual o cenário mais plausível de como a IA poderia teoricamente levar à extinção humana. Depois voltem ao inicio do texto e reflitam.