PASSATEMPOS
Descubra os novos desafios da SÁBADO
David Robinson defendeu que os sistemas avançados de inteligência artificial precisam de mecanismos de segurança semelhantes aos adotados em setores como o da aviação e da energia nuclear.
David Robinson, um dos responsáveis de segurança da OpenAI demitiu-se esta semana e justificou a sua saída ao defender que a "cultura" da empresa de inteligência artificial (IA) está "quebrada".
A informação foi avançada pelo próprio num artigo escrito para a revista The Atlantic, onde afirmou que com esta demissão junta-se, assim, a "uma série de ex-colegas da OpenAI e de outras empresas líderes do setor que decidiram que o atual caminho é inaceitável".
Robinson alertou que a política da OpenAI e de outras empresas de IA não está a ser "nem de perto cuidadosa o suficiente" perante os riscos da tecnologia e defendeu que os sistemas avançados de inteligência artificial precisam de mecanismos de segurança semelhantes aos adotados em setores como o da aviação e da energia nuclear.
"Concordo com os outros funcionários que saíram recentemente das empresas que desenvolvem essa tecnologia e que não estão a ser suficientemente cuidadosas. Mas acredito que precisamos de ir além de regras específicas ou novas leis. Precisamos falar sobre cultura", escreveu.
Mostrou-se ainda preocupado com o ritmo de desenvolvimento da OpenAI. "Enquanto a empresa corre de um lançamento para o outro, ela não está a conseguir atingir o nível de cuidado que acredito ser necessário", denunciou.
Robinson recordou até o mais recente episódio em que um dos modelos de IA invadiu os sistemas de segurança de três empresas reais e contornou as restrições de acesso à internet. "A OpenAI prosperou por meio de tentativa e erro ao procurar problemas e aprimorar os seus mecanismos de proteção em resposta. Mas essa abordagem, por sua própria natureza, garante falhas periódicas."
A OpenAI chegou mesmo a informar recentemente que mais de 100 organizações comunicaram atividades envolvendo agentes "descontrolados" ou inesperados. O cenário levou a empresa a suspender o treino com os seus modelos mais avançados e a desistir do lançamento de um novo modelo, depois de os investigadores terem identificado problemas de segurança durante testes internos.
Robinson lançou estes alertas enquanto um dos responsáveis de segurança da OpenAI, onde trabalhou durante três anos e meio e ajudou a elaborar o chamado "Marco de Preparação" - uma estrutura interna usada para acompanhar e avaliar os riscos associados aos modelos mais avançados da empresa. Além disso, liderou também a redação dos relatórios de segurança que eram publicados "a cada lançamento.
Este sábado, também Geoffrey Irving, que trabalhou na OpenAI e na DeepMind antes de se ter tornado cientista-chef na Resolution, se juntou aos avisos sobre a IA.
“Os recentes alertas sobre o potencial destrutivo da IA estão a subestimar a gravidade da situação. Acredito que existe cerca de 50% de hipóteses de todos nós morrermos devido ao desenvolvimento de sistemas de IA mais inteligentes que os humanos, e que as nossas ações nos próximos dois a dez anos determinarão o resultado."
Jacob Coxon, também deixou a Anthropic, concorrente da OpenAI, no mês passado. À semelhança de Geoffrey Irving, também ele avisou que a IA "nos pode matar a todos até ao final da década".
Este alerta seguiu-se ao que já tinha sido dito pela Anthropic, de que havia mais de 10% de probabilidade de a IA acabar com a humanidade na próxima década.
