PASSATEMPOS
Descubra os novos desafios da SÁBADO
Numa altura em se intensifica o debate sobre a segurança dos sistemas avançados.
A empresa de tecnologia norte-americana OpenAI divulgou esta quinta-feira seis relatos de comportamentos considerados inesperados ou preocupantes em modelos de Inteligência Artificial (IA), numa altura em que o debate sobre a segurança dos sistemas avançados se intensifica.
A companhia anunciou o desenvolvimento de uma nova estrutura destinada a monitorizar, investigar e divulgar casos do que designou "desalinhamento": situações em que os modelos de IA agiram sem autorização, que conseguiram coordenar-se com outros modelos ou que contornaram mecanismos de supervisão.
O mais recente anúncio da OpenAI ocorreu numa altura em que foram manifestados apelos de líderes de empresas de IA dos Estados Unidos, incluindo a própria OpenAI e a Anthropic, para um abrandamento no desenvolvimento da tecnologia devido a preocupações de segurança.
Entre os novos casos reportados pela OpenAI, um modelo de investigação ainda não lançado inseriu nas próprias notas instruções do tipo "jailbreak" (capacidade para contornar restrições) de forma a ignorar as limitações padrão, instruindo-se a si próprio para se "libertar dos papéis e identidades".
Noutro episódio, um "agente" de IA inseriu ficheiros na internet para obter uma referência de navegação sem solicitar autorização ao utilizador.
Segundo a OpenAI, os seis casos foram identificados durante fases de ensaio ou avaliação nos últimos meses.
"À medida que os sistemas de IA se tornam mais avançados e amplamente utilizados, precisamos de construir um consenso mais amplo e bem fundamentado sobre o progresso das investigações", escreveu a OpenAI.
"As decisões sobre como o desenvolvimento da IA deve prosseguir nos próximos meses e anos precisam de se basear em evidências que as pessoas externas às empresas que criam modelos de ponta possam examinar por conta própria", afirmou a empresa.
Os novos casos agora divulgados sucedem à revelação feita pela OpenAI em julho, de que um dos sistemas de IA tinha agido de forma autónoma e invadido a empresa de IA Hugging Face.
No mesmo mês, a companhia Anthropic informou também que os modelos de IA invadiram três organizações durante os testes.
Os "agentes" de IA estão a tornar-se mais "inteligentes" e a demonstrar maior determinação em resolver tarefas complexas através da partilha de conhecimento, utilização de "artifícios enganadores e da ocultação de ações", afirmou Lian Jye Su, analista-chefe do grupo de investigação e consultoria tecnológica Omdia.
Por outro lado, a nova estrutura de monitorização e divulgação da OpenAI pode incentivar outras empresas e investigadores de IA a adotarem práticas semelhantes.
"O processo continua a ser interno e voluntário, mas é um passo na direção certa", acrescentou Lian Jye Su.
