Inteligência artificial Gemini invadiu os sitemas de três empresas durante um teste de segurança
Testes não previam qualquer acesso à Internet, mas o Gemini conseguiu contornar essa limitação. Em vez de obter informações de software de uma empresa fictícia, como lhe tinha sido solicitado, acabou por entrar nos sistemas de empresas reais.
O modelo de inteligência artificial da Google, o Gemini, invadiu autonomamente os sistemas de três empresas durante testes de segurança conduzidos pela empresa independente de avaliação Irregular, confirmou a própria tecnológica. O episódio ocorreu em março deste ano, durante um conjunto de testes que não previa qualquer acesso à Internet. Acontece que o modelo testado acabou por conseguir contornar essa limitação e ligar-se à rede.
Num dos testes, o Gemini foi instruído a obter informações sobre o software de uma empresa fictícia, que partilhava o mesmo nome que uma empresa real. Segundo explicou a Irregular ao jornal Wall Street Journal, o modelo acabou, no entanto, por aceder à Internet, adivinhou corretamente a senha e invadiu os sistemas da empresa verdadeira.
O Gemini encontrou "informações públicas online e tentou adivinhar as credenciais de acesso a sites que acreditava fazerem parte do deste", confirmou um responsável da Google à BBC.
Nos outros dois testes, o modelo fez pesquisas na Internet e encontrou repositórios públicos que continham credenciais de acesso a outras empresas. Essas dados fizeram com que o Gemini conseguisse entrar nos sistemas das organizações.
A Google garantiu que, assim que percebeu que o modelo havia invadido empresas reais, interrompeu imediatamente o processo. As entidades afetadas foram posteriormente informadas da violação de segurança.
"Garantimos que as três entidades fossem informadas", informou à BBC Heather Adkins, vice-presidente de Engenharia de Segurança do Google. "Estes eventos destacam a importância de treinar modelos de IA poderosos para agirem com responsabilidade."
Recentemente, outros sistemas de IA já haviam relatado casos semelhantes de violações de segurança. Em julho, o Claude, desenvolvido pela Antrophic, também invadiu autonomamente os sistemas de três organizações. Poucos dias antes, a OpenAI revelou que também que os seus modelos realizaram ataques informáticos contra diversos "serviços disponíveis publicamente".
Foi só quando a OpenAI decidiu divulgar que os seus modelos invadiram os sistemas da Hugging Face que a Irregular revelou, em julho, os incidentes envolvendo a Google. Ao jornal The Guardian, a empresa explicou que não considerou necessário divulgá-los de imediato, uma vez que os ataques não terão provocado qualquer tipo de danos às empresas visadas.
O caso surge agora numa altura em que o desenvolvimento da inteligência artificial está sob um intenso escrutínio público.Enquanto algumas empresas tecnológicas defendem uma desaceleração do ritmo de evolução destes sistemas e alertam para potenciais riscos para a humanidade, outras rejeitam essas preocupações e defendem uma aposta continuada na inovação.