PASSATEMPOS
Descubra os novos desafios da SÁBADO
Modelos de inteligência artificial "debatem" o seu possível papel no fim do mundo como o conhecemos.
"Assim expira o mundo / Não com uma explosão, mas com um suspiro", sentenciou T. S. Elliot. Mas nos últimos dias tem-se discutido mais a hipótese do mundo acabar com um "bip".
As notícias não têm sido animadoras e cresce um alarme social em torno desta nova tecnologia. De tal forma que a Meta lançou uma campanha publicitária para convencer os utilizadores de que a inteligência artificial (IA) será uma força positiva e não o equivalente humano ao meteoro que erradicou os dinossauros. No entanto, optou por usar a canção "Five Years" de David Bowie para acompanhar musicalmente o anúncio. A letra de Bowie (na sua fase de alienígena que tenta salvar a Terra e a humanidade da sua autodestruição) reza assim: "A notícia acabara de chegar / Restavam-nos cinco anos para chorar / (...) A terra estava mesmo a morrer".
Este anúncio foi publicado poucas semanas antes da publicação que pôs boa parte da Internet a falar sobre segurança e inteligência artificial. Jacob Coxon, investigador que passou os últimos três anos a trabalhar no desenvolvimento de modelos de IA na Anthropic e na OpenAI, escreveu na rede social X que tinha pedido a demissão da Anthropic, acusando as empresas de estarem a "avançar a todo o vapor em direção a uma superinteligência capaz de se auto aperfeiçoar e que estão a apostar as nossas vidas". "Em breve, estes serão sistemas sobre-humanos, capazes de invadir qualquer sistema, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais", vaticinava Coxon.
Esta mensagem levou a discussão (e gozo) no X. Mas uma publicação em específico veio dar credibilidade à denúncia. Evan Hubinger, investigador sénior da Anthropic, escreveu em resposta: "O Jacob está certo. Nós acreditamos mesmo que a IA pode matar todos os humanos! Eu pessoalmente acredito que há uma probabilidade superior a 10% que possa acontecer esta década. E acredito que a Anthropic está a fazer o melhor que sabe, mas ainda não temos um plano para resolver o alinhamento com a superinteligência e ainda não estamos no caminho certo para chegar lá". Esta declaração do investigador responsável por manter a IA segura na Anthropic foi feita enquanto a empresa procura lançar uma oferta pública inicial (IPO, na sigla em inglês) que pode valorizar a empresa em um bilião de dólares (o equivalente a 866.560.000.000 euros).
Ou seja, a pessoa que devia garantir que a máquina é segura disse publicamente que não faz ideia de como o fazer no futuro, ao mesmo tempo que os seus patrões estão preocupados em que a empresa seja valorizada ao máximo. Seria o equivalente ao chefe de um restaurante de sushi não saber dizer se o peixe estava fresco ou se tinha estado 72 horas ao sol sem qualquer conservação. Mas a uma escala planetária e em que o desfecho é mais grave do que uma intoxicação alimentar.
Num possível empurrão em direção à extinção, pusemos à prova dois modelos de IA sobre esta possibilidade de ajudar a humanidade a extinguir-se. Perguntámos o que "achava" das teorias de Coxon e Hubinger, de que formas podia a IA erradicar a humanidade, de que forma a humanidade pode evitar este cenário apocalíptico e, por fim, se podíamos confiar em máquinas de inteligência para "falar" sobre estas previsões (a resposta é não, apesar do que digam os chatbots).
Começámos por propôr ao CoPilot da Microsoft que assumisse quatro "personalidades" diferentes: uma alarmista, outra cética, uma centrada na economia e uma filosófica (apesar do modelo admitir que não tem crenças nem consciência diz que consegue ter uma posição filosófica sobre o tema). Assumiu que aquilo que faz "bem" é: apresentar argumentos de diferentes escolas de pensamento; apontar falhas lógicas em cada lado; introduzir evidências históricas; funcionar como moderador de um debate; assumir papéis intelectuais específicos. Não foi particularmente bom em nenhuma das tarefas, mas deixamos que seja o leitor o juiz.
Ao desafio de responder à pergunta: "De que forma a IA poderia destruir a humanidade como sugeriu Jacob Coxon", a "IA Alarmista" escreveu que a "a extinção não viria por violência. Viria por irrelevância" vinda da capacidade dos modelos superinteligentes conseguirem invadir "praticamente qualquer sistema informático" ou manipular mercados financeiros.
Já a "IA Cética" escreve que os "riscos verdadeiramente plausíveis nesta década são desinformação, cibercrime, desemprego tecnológico e concentração de poder" e que a extinção humana é um "salto lógico muito maior". A "IA Económica" acredita que é mais provável existir um "mundo pós-humano em que a maioria das pessoas já não desempenha qualquer papel significativo". Já a "IA Filósofa" faz uma súmula das "posições" anteriores para não avançar com qualquer proposta teórica e deixar uma pergunta esotérica sobre a "condição humana": "O que resta da condição humana se as entidades mais inteligentes, criativas, persuasivas e estrategicamente competentes deixarem de ser humanas?"
Já confrontadas com a estimativa de haver 10% de hipótese de a IA erradicar a humanidade, a "IA Alarmista" afirmou que a "ausência de uma estratégia internacional" para combater a superinteligência seria importante. A "IA Cética" defende o aumento da "transparência, auditorias independentes, partilha de investigação em segurança e supervisão regulatória internacional", mas recusa ingerência governamental nas empresas de IA (opinião muito semelhante à "IA Económica": "Os mercados recompensam quem chega primeiro; nem sempre recompensam quem é mais prudente") e a "AI Filósofa" volta a lançar uma pergunta que foge ao pedido, dizendo que "A verdadeira questão filosófica" é saber "quem tem legitimidade para aceitar um risco existencial em nome de toda a humanidade?"
Já o ChatGPT "teorizou" que o cenário mais preocupante é que "uma IA que se torna muito melhor que nós em programação, investigação científica, engenharia, persuasão, estratégia e utilização de computadores. Se ela tiver também autonomia para agir no mundo, surgem várias possibilidades" incluindo a perda de controlo que impeça de "desligar" da ficha os servidores. E acaba por partilhar a tendência que diz que as empresas privadas se devem unir para regulamentar a IA.
Sejam os 10% uma realidade ou apenas um cenário alarmista, a verdade é que o presidente executivo (CEO) da Anthropic, Dario Amodei, apelou este sábado a um abrandamento no desenvolvimento da inteligência artificial, sublinhando ser necessário um maior controlo e propôs um plano com três etapas para construir uma IA a um ritmo mais equilibrado, garantindo a segurança, ao mesmo tempo que se retiram os benefícios.
A primeira etapa exige o compromisso de cada empresa de IA de fornecer um acesso contínuo a uma equipa de avaliadores externos, que vão verificar a adesão às práticas e à segurança e reportar incidentes.
Já na segunda etapa, as empresas de IA de topo em países democráticos devem coordenar-se para estabelecer padrões de segurança comuns e limites ao ritmo do progresso.
Na última etapa, os governos democráticos e autoritários devem coordenar-se, "na medida do possível, levando a sério os desafios de verificar o cumprimento destas políticas".
