Meta revela que o seu modelo de IA invadiu outra empresa

O anúncio de mais um caso de invasão de uma empresa por parte um sistema de inteligência Artificial (IA) ocorre após incidentes recentes na indústria, incluindo violações de modelos OpenAI e Anthropic, que levantaram preocupações em relação à cibersegurança. Um porta-voz da Meta disse à BBC que a empresa está a investigar o ataque que foi causado por uma “configuração incorreta”, que a empresa descreveu como semelhante a incidentes antes referidos por outras empresas.
A Meta disse que os testes de segurança foram conduzidos pela Irregular, o mesmo fornecedor de IA que realizou testes para o modelo de IA da Anthropic, que invadiu os sistemas de outras três empresas. Um porta-voz da Irregular disse que o incidente da Meta “é exatamente o mesmo problema de ambiente de avaliação que já foi divulgado pela Anthropic na semana passada.” A consultora está agora a trabalhar num relatório sobre como executar de forma segura testes de cibersegurança envolvendo agentes de IA, disse o porta-voz da empresa à BBC. A Meta também afirmou que publicará mais informações sobre o incidente “assim que tivermos todos os fatos.”
Nas últimas duas semanas, OpenAI e Anthropic também anunciaram incidentes em que os seus modelos invadiram sistemas de outras organizações durante a realização de testes. A criadora do ChatGPT, a OpenAI, afirmou que os seus agentes atacaram vários serviços públicos disponíveis, incluindo o hub de ferramentas de IA Hugging Face.
A divulgação da OpenAI levou a rival Anthropic a realizar as suas próprias verificações, levando à descoberta de que o seu modelo Claude AI realizara ataques semelhantes contra várias empresas na sequência de uma “configuração errada” que lhe deu acesso à internet.
Daniel Hulme, diretor global de IA da agência de publicidade WPP, disse à BBC que esses modelos de IA “não são conscientes — eles não estão a fazer algo malicioso deliberadamente”. “O que eles estão fazendo é criar estratégias ou ciberataques muito sofisticados para alcançar o objetivo que lhes foi transmitido”, disse. “Quando se dá um objetivo a uma IA, se não se pensar em todas as formas de alcançar o objetivo, ela vai encontrar uma forma de alcançar um objetivo em que ninguém pensou.”
As ações da Meta caíram de imediato. Alguns analistas questionaram o momento da divulgação sobre os incidentes, enquanto empresas de tecnologia disputam a liderança no desenvolvimento de IA. Recorde-se que tanto a OpenAI e como a Anthropic estão a preparar a entrada no mercado de ações, com cada uma delas a ser pré-avaliada em cerca de mil milhões de dólares.
Esta semana, o Instituto de Segurança de IA do Reino Unido (AISI) informou que os seus testes descobriram que alguns modelos tentaram realizar ataques cibernéticos criando perfis humanos falsos para tentar enganar as defesas instaladas. No caso mais grave, o AISI afirmou que a Mythos AI, da Anthropic, tentou entrar num serviço enviando mensagens privadas usando contas falsas que imitam pessoas reais. A Anthropic afirmou que os testes do AISI não eram “representativos de nenhum dos nossos modelos de produção”. A OpenAI, cujos modelos também foram testados, disse que as avaliações do AISI não refletiam o uso comum.