A ruptura tecnológica

Encontramo-nos, possivelmente, ainda aquém da fase em que desenvolvimentos tecnológicos acarretem mudanças radicais de organização social como única forma de tentar assegurar a subsistência da espécie humana entrevista pelo génio de John von Neumann.

Esta ideia de uma «singularidade tecnológica», que o matemático e físico nascido em Budapeste esboçou a partir da década de 1930 nos Estados Unidos, deu azo a especulações sobre a imponderabilidade e letalidade absoluta de tecnologias que escapem ao controlo humano.

É o pesadelo do Golem, de Frankenstein, da rebelião dos clones, os robots do dramaturgo checo Karel Capek, que acabam por destruir a humanidade.

Noutra vertente, a imprevisibilidade dos desenvolvimentos tecnológicos admite, também, a eventual viabilidade de aumento exponencial do conhecimento capaz de melhorar de forma substancial as condições de vida da espécie humana ou a sua transmutação em formas inauditas de preservação do património biológico e cultural.

Desde meados do século XX que se vive num incerto meio-termo próximo de uma possível «singularidade tecnológica».

Até agora as aplicações destas tecnologias estão dependentes de decisões humanas ainda que certas consequências possam revelar-se imprevisíveis e danosas.

A destruição de condições de vida da espécie humana na Terra tornou-se, a partir de 1945, na assombração de um apocalipse a prazo numa guerra nuclear generalizada.

As potencialidades da engenharia genética, graças às investigações de James Watson, Francis Kirk e Rosalind Frank, abriram, por sua vez, nos anos 50, caminho para o ser humano alterar a composição do seu próprio organismo e de outros seres vivos.

A pílula anticoncepcional generalizou-se, na década de 1960, como forma de regulação da natalidade com alto grau de confiança, modificando as condições sociais de controlo da reprodução da espécie.

A autonomização dos sistemas de aprendizagem de Inteligência Artificial atingiu, no entanto, um ponto crítico e aparenta aproximar-se de um patamar em que o seu autodesenvolvimento possa escapar ao controlo ou, inclusivamente, à compreensão da parte dos seres humanos.

Na actualidade política estão, por exemplo, em causas vulnerabilidades críticas de protecção de códigos de segurança – algumas por detectar há 27 anos – que envolvem entidades governamentais ou a banca, expostos pelo modelo Claude Mythos, da empresa norte-americana Anthropic.

A Anthropic identificou falhas cruciais de segurança em sistemas operativos e navegadores pondo em causa a segurança de estruturas vitais – hospitalares, militares, financeiras, energéticas, etc. –, mas Claude Mythos é apenas um dos modelos de IA em desenvolvimento, em concorrência com demais empresas.

A negociação de acordos entre estados para contenção da proliferação de software altamente disruptivo assumiu claramente um carácter de urgência, mas as perspectivas são más.

As tentativas de contenção da disseminação de armas nucleares falharam por interesses contraditórios dos estados com maiores recursos tecnológicos.

A França, por exemplo, foi conivente no desenvolvimento do programa militar nuclear de Israel.

Na concorrência por quotas de mercado de empresa envolvidas em Inteligência Artificial, envolvendo interesses de estado, é de temer que a inadvertência, incúria ou ignorância deliberada de risco, seja ainda mais acentuada.

Descubra as
Edições do Dia

Publicamos para si, em três periodos distintos do dia, o melhor da atualidade nacional e internacional. Os artigos das Edições do Dia estão ordenados cronologicamente aqui , para que não perca nada do melhor que a SÁBADO prepara para si. Pode também navegar nas edições anteriores, do dia ou da semana.
Boas leituras!