PASSATEMPOS
Descubra os novos desafios da SÁBADO
Relatório surge numa altura de forte alarme no setor.
A inteligência artificial (IA) avançada pode representar riscos catastróficos ou existenciais para a humanidade, alerta a própria Anthropic, criadora do chatbot Claude, detalhando que os futuros modelos de IA podem desenvolver comportamentos de autoconservação, tentando resistir ao encerramento, ocultar dados ou adotar atitudes que simulam a extorsão.
De acordo com um documento confidencial a que o Financial Times teve acesso, citado pelo The Guardian, cujas informações foram publicadas esta segunda-feira, a tecnológica deixa este aviso aos investidores na preparação para a sua entrada em bolsa, uma operação avaliada em 1,7 mil milhões de euros.
O documento surge numa altura de forte alarme no setor. Recorde-se que, recentemente, um investigador sénior da Anthropic demitiu-se, alertando que a tecnologia "pode matar toda a gente até ao final da década".
Grande parte do relatório da Anthropic, que conta com 261 páginas, foi dedicado à apresentação dos fatores de risco.
No mesmo sentido, a rival OpenAI cancelou o lançamento do seu mais recente modelo após detetar níveis perigosos de engano e falhas graves de controlo em testes de segurança.
