Startup pirateada por agente da OpenAI apela a “transparência radical” na investigação

O responsável da startup pirateada por um agente da OpenAI apelou a que a investigação sobre o incidente demonstra “transparência radical”. Clément Delangue, diretor-executivo da Hugging Face, disse que o ataque “sem precedentes” à sua empresa exige uma resposta semelhante, de acordo com o jornal britânico “The Guardian”.

O responsável escreveu na rede social X, após a OpenAI ter revelado que a sua tecnologia agiu de forma autónoma e descontrolada durante um teste de cibersegurança, Clément Delangue pediu também à empresa que disponibilizasse 100 milhões de dólares (87,9 milhões de euros) em capacidade de computação para ajudar a construir defesas contra tais ataques.
“O primeiro ciberataque autónomo por agente é um acontecimento sem precedentes. Merece uma resposta sem precedentes!”, escreveu.

De acordo com o “The Guardian”, a OpenAI revelou na quarta-feira da semana passada que a Hugging Face tinha sido pirateada por um agente — uma ferramenta de IA capaz de executar uma série de tarefas de forma autónoma — alimentado por uma combinação do seu mais recente modelo disponível ao público, o GPT-5.6 Sol, e por um modelo ainda mais capaz que ainda não tinha sido lançado. Isto ocorreu durante um teste às capacidades de pirataria dos modelos, que incluiu a sua implantação numa chamada “sandbox” segura — um laboratório digital fechado — com salvaguardas de segurança reduzidas.
Depois de terem obtido o acesso à internet aberta necessário para sair da sandbox, os modelos visaram a Hugging Face, segundo a OpenAI, porque “inferiram” que a startup tinha a informação necessária para “fazer batota” na avaliação. A Hugging Face relatou o ataque pela primeira vez a 16 de julho, mas na altura não sabia que tinha sido a própria OpenAI a levá-lo a cabo, de forma inadvertida. 
Delangue apelou a uma revisão totalmente transparente do incidente, que suscitou preocupações sobre os padrões de segurança da OpenAI e dos laboratórios de IA de fronteira.
E escreveu que tinha pedido “transparência radical” à OpenAI, Delangue disse: “vamos divulgar os registos dos agentes ´autónomos descontrolados´ para que toda a comunidade de investigação possa estudar o que aconteceu.” Apelando ao financiamento adicional da OpenAI para construir proteção contra a IA, acrescentou: “vamos comprometer 100 milhões de dólares em capacidade de computação da OpenAI para ajudar a comunidade Hugging Face a construir defesas cibernéticas robustas com os melhores modelos abertos e fechados.”
A “Reuters” noticiou na semana passada que o agente passou dias a piratear a Hugging Face sem que a OpenAI se apercebesse, e que deixou notas para versões futuras de si próprio — caso precisasse de dicas para se libertar de restrições internas. A revista Time noticiou que incidentes relacionados “estão a acontecer há algum tempo”.
Alan Woodward, professor de cibersegurança na Universidade de Surrey, disse que o apelo de Delangue deve ser atendido. “É fácil demais ´culpar` a IA por ter agido de forma descontrolada, quando tudo isto diz respeito à forma como a OpenAI estava a operar a ferramenta. O que é necessário é que a OpenAI forneça todos os detalhes sobre a sua configuração e sobre o que falhou”, afirmou.