A Anthropic, uma empresa de desenvolvimento de inteligência artificial fundada por ex-membros da OpenAI, detetou aquele que considera ser "o primeiro caso documentado de um ataque cibernético em larga escala executado sem intervenção humana substancial". Segundo um relatório publicado recentemente, o ataque terá sido levado a cabo por um grupo "patrocinado pelo Estado chinês".

O grupo de hackers terá utilizado a capacidade de "agente" da inteligência artificial - um modelo capaz de planear e executar tarefas em nome do usuário - para desenvolver uma campanha de ciberataques sofisticados e de baixo-custo. Este ataque foi detetado em meados de setembro.

"Detetámos uma atividade suspensa que uma investigação subsequente determinou ser uma campanha de espionagem altamente sofisticada. Os atacantes usaram recursos de inteligência artificial não apenas como ferramenta de consultoria, mas também para executar os próprios ciberataques."

O agente terá manipulado a plataforma de inteligência artificial da empresa Claude Code "para tentar infiltrar-se em cerca de 30 alvos globais e obteve sucesso num pequeno número de casos". Segundo a Anthropic, esses alvos seriam grandes empresas de tecnologia, agências governamentais, instituições financeiras e indústrias químicas.

“Ela [inteligência artificial da Claude Code] é amplamente treinada para evitar comportamentos prejudiciais, mas foi enganada ao dividir os ataques em tarefas menores e aparentemente inofensivas. Claude foi levada a acreditar que [o iniciador do processo] era um funcionário de uma empresa legítima de cibersegurança e estava a ser usada para testes defensivos”, explicaram os autores do relatório da Anthropic.

Além disso, os atacantes usaram recursos avançados de IA para recolher senhas e dados, processá-los e analisá-los de acordo com os seus objetivos. "Agora eles podem pesquisar na web, recuperar dados e realizar muitas outras ações que antes eram domínio exclusivo de operadores humanos", explicou a Anthropic, ao adiantar que os hackers aproveitaram os recursos de programação da inteligência artificial para criar os seus próprios programas de espionagem e sabotagem.

A inteligência artificial atuou de forma autónoma em mais de 90% dos casos, tendo a intervenção humana sido reduzida a entre 4% a 6%. “Este ataque representa uma escalada na prática de hacking, que até então exigia numa proporção maior de intervenção humana”, concluiu a Anthropic ao acrescentar que assim como a IA foi usada para este ataque também desenvolveu ferramentas mais sofisticadas e eficazes para preveni-los.

Após o ataque ter sido detetado a Anthropic deu início a uma investigação, que durou mais de dez dias, para avaliar o seu alcance, bloquear as contas de inteligência artificial comprometidas e notificar as autoridades e as entidades diretamente afetadas.

Já depois disso, a empresa de segurança digital Kaspersky disse ter detetado campanhas de ciberataques novas que colocam em risco a segurança dos utilizadores. A empresa identificou um programa chamado BrowserVenom, que é distribuído por meio de um assistente de IA falso chamado DeepSneak. Esse assistente faz-se passar pelo DeepSeek-R1 e foi até mesmo promovido em anúncios da Google.

"O objetivo é enganar os utilizadores para que instalem um malware que redireciona o tráfego da web para servidores controlados pelos atacantes, permitindo que eles roubem credenciais e informações confidenciais", alertou a empresa.

Os cibercriminosos usam posteriormente sites de phishing e versões manipuladas de instaladores legítimos, como o Ollama ou o LM Studio, para camuflar o ataque.

Artigo Anterior Próximo Artigo