União Europeia chegou a acordo para regular a IA. O que ficou decidido?

O objetivo desta legislação é quepossa estar em aplicação em 2026. Até lá, as empresas são encorajadas a assinar voluntariamente o Pacto da IA para implementar estas regras.

Eis algumas das regras que foram acordadas e divulgadas:

Os sistemas de alto-risco

Os sistemas chamados de alto-risco, que são aqueles com elevado potencial de causar danos na saúde, segurança, direitos fundamentais, ambiente, democracia, eleições e aplicação da lei, terão de obedecer a uma série de regras, como uma avaliação de impacto sobre os direitos fundamentais e cumprir obrigações para aceder ao mercado comunitário.

Os sistemas de IA considerados de baixo risco irão ser submetidos a regras mais leves de transparência, como divulgação de rótulos que declarem que o conteúdo foi gerado por IA para que os utilizadores decidam como os utilizar.

O uso na aplicação da lei

O uso de sistemas de identificação em tempo real de dados biométricos por parte das forças de segurança apenas vai ser permitido para a identificação de vítimas de rapto, exploração sexual e para prevenir ameaças terroristas concretas e presentes.

Também vai ser permitido o seu uso em casos de identificação e localização de suspeitos de atos terroristas, tráfico, exploração sexual, assassinato, rapto, violação, assalto armado, participação em organizações criminais e crimes ambientais.

Sistemas de IA de uso geral (GPAI) e modelos de fundação

Estes sistemas e os modelos de fundação vão ser sujeitos a requisitos de transparência, tais como a elaboração de documentação técnica, que cumpra a legislação da UE em matéria de direitos de autor e a divulgação de resumos pormenorizados sobre os conteúdos utilizados para a formação de algoritmos.

Os modelos de base classificados como representando um risco sistémico e os GPAI de elevado impacto terão de realizar avaliações de modelos, avaliar e mitigar os riscos, realizar testes contraditórios, informar a Comissão Europeia sobre incidentes graves, garantir a cibersegurança e informar sobre a sua eficiência energética.

Até à publicação de normas harmonizadas da UE, os GPAI com risco sistémico podem recorrer a códigos de conduta para cumprir o regulamento.

As IA proibidas

A União Europeia vai regular para proibir sistemas de categorização biométrica que usem características sensíveis como sejam políticas, religiosas, crenças filosóficas, orientação sexual ou raça. Também não será permitido fazer uma recolha não direcionada de imagens faciais da internet ou de imagens de CCTV para criar bases de dados de reconhecimento facial; fazer reconhecimento de emoções no local de trabalho em instituições de ensino;rankingssociais com base em comportamento social ou características pessoais; sistemas de IA que manipulem o comportamento humano para limitar o seu livre arbitrío; e ainda IA que possa explorar as vulnerabilidades das pessoas devido à sua idade, deficiência ou situação económica e social.

As sanções previstas

Dependendo da infração e do tamanho da empresa envolvida, as multas podem começar nos 7,5 milhões de euros ou 1,5% do volume de negócios anual global e chegar aos 35 milhões de euros ou 7% do volume de negócios anual global.

Artigos Relacionados

A difícil corrida à regulação da Inteligência Artificial

Criador do ChatGPT admite que empresa saia da Europa. Porquê?

Parlamento Europeu exige "salvaguardas" no uso de inteligência artificial pelas polícias

Como pode a inteligência artificial pôr em risco as eleições?

João Martins: "Se não regularmos a IA vamos deixar a máquina a controlar tudo e nós fazemos o quê?"

Descubra as
Edições do Dia

Publicamos para si, em três periodos distintos do dia, o melhor da atualidade nacional e internacional. Os artigos das Edições do Dia estão ordenados cronologicamente aqui , para que não perca nada do melhor que a SÁBADO prepara para si. Pode também navegar nas edições anteriores, do dia ou da semana.
Boas leituras!

Artigo Anterior Próximo Artigo