Das multas ao maior controlo: como é que Bruxelas vai “policiar” a Inteligência Artificial

As normas de transparência da União Europeia para os sistemas de Inteligência Artificial entram em vigor este domingo, um novo quadro regulatório que obriga estes sistemas a avisar os utilizadores quando estão a interagir com uma máquina ou quando determinado conteúdo foi alvo de manipulação.
A acompanhar estas normas, o Gabinete de Inteligência Artificial da Comissão Europeia, ganha este domingo novos poderes para supervisionar os modelos de IA generativa e impor multas à tecnológicas que teimarem em não cumprir as suas obrigações.
No entanto, o site espanhol “El Economista” destaca que estas novas normas têm várias exceções que atrasam a sua obrigatoriedade em certos casos.
Requisitos de transparência imediatos
Empresas como a Open AI (proprietária do ChatGPT), Google (Gemini) ou Anthropic (Claude) devem conceber os seus sistemas de forma a que os utilizadores saibam que estão a interagir com uma máquina.
Esta obrigação também se aplica aos desenvolvedores de sistemas de inteligência artificial que são usados em serviços públicos, aqueles que as empresas utilizam para interagir com os seus clientes ou, por exemplo, os destinados a gerir denúncias de fraude.
Quem utilizar sistemas de inteligência artificial para o reconhecimento de emoções ou a categorização biométrica também deverá avisar os cidadãos quando estiverem a ser analisados com este tipo de ferramentas, à exceção do que for permitido pelas leis para prevenir ou perseguir crimes.
Requisitos e proibições em dezembro
A partir de 2 de dezembro, os sistemas de IA também terão de incorporar marcas de água para os textos, fotos, vídeos e áudios que tenham sido manipulados, para que os cidadãos possam identificar facilmente que conteúdos foram criados por máquinas.
No entanto, sistemas como o ChatGPT, Gemini, Claude ou as redes sociais que têm ferramentas de IA não serão legalmente responsáveis pelo conteúdo criado pelos utilizadores, mas serão estes que terão de informar se o conteúdo foi manipulado. Ficam isentos deste requisito todos os conteúdos de ficção ou de carácter artístico ou satírico.
Existe uma exceção a esta regra: a partir deste domingo será necessário avisar sobre todo o conteúdo gerado com IA que mostre informações de interesse geral, como as relacionadas com processos eleitorais, judiciais, saúde pública ou qualquer outro acontecimento que possa ser objeto de debate público, a não ser que tenha sido previamente supervisionado por uma pessoa.
Além destes requisitos de transparência, a partir de 2 de dezembro será proibida a criação de imagens sexualizadas geradas por inteligência artificial, sem o consentimento das pessoas envolvidas.
Um veto que as instituições da UE acordaram após o escândalo provocado pelas imagens geradas com o Grok, a ferramenta de inteligência artificial da rede social X, que agora terá até ao final do ano para conceber medidas de proteção adequadas.
Ameaças
A partir de hoje, o Gabinete de IA da Comissão Europeia tem a capacidade de exigir a empresas como a Anthropic que lhes permita aceder a modelos como o Mytohos para avaliar os riscos que possam causar este tipo de sistemas de alto risco.
Fontes comunitárias, não obstante, evitaram detalhar quais serão os seus próximos passos num caso como este, por “razões óbvias”.
Mesmo assim, subsistem dúvidas de até que ponto a Comissão Europeia tem a capacidade para analisar modelos de alto risco deste tipo ou até que ponto poderá aceder a esses modelos se o Governo norte-americano voltar a vetá-lo a cidadãos estrangeiros, como fez de forma temporária em meados de junho.
Bruxelas estão atualmente a negociar com a Anthropic as condições para que a Agência de Cibersegurança da UE (ENISA) avalie o Mythos sem pôr em risco as infraestruturas essenciais europeias ou o possível acesso a informação sensível.
Multas
A Comissão Europeia poderá aplicar multas de 15 milhões de euros ou 3% da sua faturação anual global (a quantia que seja mais elevada) aos sistemas de IA generativa que não cumpram estas obrigações.
A sanção será de até 750 mil euros se forem as instituições ou agências da UE as que incumpram com as suas obrigações de transparência.