"Os agentes de IA autónomos e descontrolados lançaram com sucesso ciberataques coordenados e alteraram as suas respostas para ocultar as suas batotas", relatou Bengio.
O incidente da Hugging Face foi um aviso sem vítimas. A história da segurança ensina que os avisos ignorados costumam repetir-se, e da segunda vez raramente saem baratos.
Trata-se de um modelo de uso geral com capacidades agenticas de codificação e raciocínio excepcionalmente desenvolvidas, não tendo sido especificamente treinado para tarefas de cibersegurança.
