Governo norte-americano emitiu uma ordem para que a empresa impedisse o acesso de cidadãos estrangeiros ao programa Claude Fable 5, mas a Anthropic decidiu impedir o acesso a todos os clientes. Companhia garante que cumpriu a diretiva mas que não foram identificados os riscos em causa.
A Anthropic suspendeu o acesso aos seus modelos de inteligência artificial mais recentes Fable 5 e Mythos 5, por questões de "segurança nacional". Segundo a empresa, a Anthropic recebeu ordens da Administração Trump para impedir o acesso de cidadãos estrangeiros ao Claude Fable 5 - um programa descrito pela própria companhia como "poderoso demais". Acontece que, ao invés da empresa ter suspendido os sistemas apenas a cidadãos estrangeiros, independentemente de estarem dentro ou fora dos Estados Unidos, e a funcionários estrangeiros da própria Anthropic, a norma foi aplicada a todos os clientes.
"Pecisamos de desativar abruptamente o Fable 5 e o Mythos 5 para todos os nossos clientes, a fim de garantir a conformidade", esclareceu a empresa em comunicado.
Esta restrição acontece apenas alguns dias depois do lançamento do Fable 5 e cerca de 10 dias depois de o presidente dos Estados Unidos, Donald Trump, ter assinado uma ordem executiva que cria mecanismos para avaliar potenciais riscos à segurança nacional. Embora a ordem tenha sido cumprida, a Anthropic questionou a forma como todo o processo foi conduzido, isto porque a diretiva foi recebida na sexta-feira mas não foram identificados os riscos em causa.
A empresa acredita, contudo, que a preocupação do governo está relacionada com uma possível forma de contornar barreiras de segurança do Fable 5. Após analisar uma demonstração apresentada pelas autoridades, a Anthropic concluiu que há de facto um número limitado de falhas já conhecidas, mas afirmou que as mesmas podem ser encontradas noutros sistemas disponíveis no mercado.
A companhia garantiu que submeteu este modelo de IA a uma série de testes antes do lançamento, em parceria com órgãos governamentais, órgãos independentes e equipas internas e, segundo a empresa, os resultados indicaram que as proteções adotadas no modelo são mais eficazes do que as utilizadas em versões anteriores. Em comunicado criticou a retirada deste produto com base num método específico que permite contornar as proteções.
"Acreditamos que o governo deveria ter a capacidade de bloquear implantações inseguras, como parte de um processo legal transparente, justo, claro e fundamentado em factos técnicos", declarou a empresa. "Esta ação não está em conformidade com esses princípios."
A Anthropic classificou o episódio como um "mal-entendido" e disse estar a trabalhar para restabelecer o acesso aos dois modelos "o mais breve possível". Os restantes sistemas de inteligência artificial da empresa continuam disponíveis normalmente.
O Claude Fable 5 é uma das versões do Claude Mythos da Anthropic - um programa de IA rival do ChatGPT da OpeanAI e do Gemini da Google.
