Responsável de segurança da OpenAI demite-se e alerta para “cultura degradada”

Um responsável pela área da segurança na OpenAI demitiu-se da empresa, alertando que a sua cultura estava degradada e que as empresas de IA não estavam a ser “nem de longe suficientemente cuidadosas” no desenvolvimento da tecnologia.

David Robinson, que liderava a elaboração dos relatórios de segurança que acompanhavam os lançamentos de produtos do criador do ChatGPT, explicou a sua demissão num ensaio intitulado: “Demiti-me da OpenAI porque a sua cultura está degradada”.

Robinson escreveu que era necessária uma reformulação cultural nas empresas de IA de vanguarda e que incidentes como um “enxame” de agentes da OpenAI — programas de IA que operam de forma autónoma sem supervisão humana — a atacar a startup de IA Hugging Face eram “típicos do setor, dada a velocidade e a flexibilidade com que as pessoas operam”.

Num artigo publicado na revista The Atlantic, Robinson escreveu: “Concordo com outros colaboradores que saíram recentemente que as empresas que estão a construir esta tecnologia não estão a ser nem de longe suficientemente cuidadosas. Mas acredito que precisamos de olhar mais a fundo do que para regras específicas ou novas leis. Precisamos de falar sobre cultura.

“Referindo-se ao ritmo de desenvolvimento da OpenAI, acrescentou: “À medida que a empresa corre de um lançamento para o outro, está a falhar em alcançar o nível de cuidado que considero necessário.”

A OpenAI tem demonstrado sinais de cautela nas últimas semanas, após o incidente com a Hugging Face e a revelação de que notificou mais de 100 organizações sobre a atividade de agentes rebeldes. Esta semana, anunciou o cancelamento do lançamento de um modelo de IA de próxima geração, depois de os investigadores terem levantado preocupações de segurança durante os testes internos. A OpenAI também interrompeu o treino dos seus modelos mais avançados.