Assistentes de inteligência artificial partilham dados confidenciais do utilizador

Investigadores da Universidade College London, no Reino Unido, e da Universidade de Reggio Calabria, em Itália, analisaram dez assistentes de IA, que necessitam de ser descarregados e instalados no computador ou telemóvel para poderem ser utilizados, e descobriram que recolhem muitos dados pessoais da atividade dos utilizadores na internet. A análise revelou que vários assistentes transmitiram conteúdo completo de páginas da internet, incluindo informação visível no ecrã, para os seus servidores. Um dos assistentes de IA, Merlin, capturou entradas de formulários, como dados bancários ou de saúde, enquanto ChatGPT, Copilot, Monica e Sider tiveram a capacidade de inferir atributos do utilizador, como idade, sexo, rendimentos e interesses, e usaram esta informação para personalizar as respostas mesmo em diferentes sessões de navegação. "Esta recolha e partilha de dados não é trivial. Além da venda ou partilha de dados com terceiros, num mundo onde ciberataques em massa são frequentes, não há forma de saber o que está a acontecer aos dados de navegação depois de recolhidos", alertou, citada em comunicado da Universidade College London, uma das autoras do estudo, Anna Maria Mandalari. Para o estudo, os investigadores simularam cenários de navegação do mundo real criando a identidade de "homem rico da geração Y [nativa digital] da Califórnia", nos Estados Unidos, que usaram para interagir com os assistentes enquanto completavam tarefas na internet comuns, incluindo leitura de notícias, compras na Amazon e visualização de vídeos no YouTube. Foram também incluídas atividades do espaço privado, como aceder a um portal de saúde universitário, iniciar sessão num serviço de encontros ou aceder a pornografia, que os investigadores assumiram que os utilizadores não queriam que fossem rastreadas, uma vez que os dados são pessoais e sensíveis. De acordo com o estudo, realizado nos Estados Unidos, alguns assistentes de IA, incluindo Merlin e Sider, não pararam, como deveriam, de gravar a atividade quando o utilizador mudou para o espaço privado e violaram a legislação de proteção de dados norte-americana, ao recolherem informações confidenciais de saúde e educação. Os autores do estudo defendem a necessidade urgente de supervisão regulamentar dos assistentes de IA para proteger os dados pessoais dos utilizadores e recomendam que os programadores adotem princípios de privacidade desde a sua conceção, como o consentimento explícito do utilizador para a recolha de dados.

Artigos Relacionados

Sistemas de inteligência artificial como ChatGPT com novas regras na UE

O que sabemos mesmo sobre inteligência artificial?

Descubra as
Edições do Dia

Publicamos para si, em três periodos distintos do dia, o melhor da atualidade nacional e internacional. Os artigos das Edições do Dia estão ordenados cronologicamente aqui , para que não perca nada do melhor que a SÁBADO prepara para si. Pode também navegar nas edições anteriores, do dia ou da semana.
Boas leituras!

Artigo Anterior Próximo Artigo