Quão perigoso é o Mythos, o novo modelo de IA da Anthropic?

Quando, em 2019, a OpenAI terminou de treinar um novo modelo de linguagem de grande escala chamado GPT-2, o laboratório de inteligência artificial (IA) declarou inicialmente que era perigoso demais para ser lançado. Dario Amodei, então diretor de investigação da empresa, insistiu que o mundo precisava de tempo para se preparar.
No final, o modelo foi lançado ainda nesse ano. Uma sequência de modelos muito mais poderosos foi desenvolvida desde então. Ainda assim, sete anos depois, Darío Amodei, agora à frente da Anthropic, rival direta da OpenAI, está novamente preocupado.
Na última terça-feira, declarou que a mais recente adição à família de modelos Claude, batizada de “Mythos”, é poderosa demais para ser amplamente disponibilizada por enquanto. E, desta vez, pode ter razão.
Segundo a Anthropic, as capacidades do Mythos são “substancialmente superiores às de qualquer modelo que treinámos anteriormente”. O laboratório afirma estar particularmente preocupado com a capacidade do sistema de encontrar vulnerabilidades em software e corrigi-las — se configurado para atuar como defensor — ou explorá-las, se agindo como atacante.
Este tipo de afirmações seria normalmente recebido com alguma desconfiança. A Anthropic construiu o modelo, conduziu os testes e tem a ganhar com a perceção de que o seu sistema é muito mais avançado do que qualquer outro já criado. O laboratório tem estado em alta ultimamente. Na véspera do anúncio do Mythos, afirmou que a sua receita anualizada tinha atingido 30 mil milhões de dólares (25,6 mil milhões de euros), contra apenas nove mil milhões no final do ano passado. A empresa tem certamente interesse em manter esse ritmo.

Ainda assim, há razões para levar a sério os alertas. A primeira é a sua gravidade: a Anthropic afirma que o Mythos já encontrou vulnerabilidades graves em “todos os principais sistemas operativos e navegadores de internet”, incluindo uma que tinha passado despercebida durante 27 anos.

A segunda é a resposta de outras empresas. A par dos alertas, a Anthropic anunciou o Projeto Glasswing, uma iniciativa para ajudar empresas a utilizar o Mythos para reforçar as suas defesas cibernéticas antes de o modelo ser amplamente lançado. A participação de desenvolvedores de software de topo — incluindo a Apple, a Linux Foundation e a CrowdStrike, além da Google, que concorre diretamente com a Anthropic em IA — sugere que a ameaça é real.