Mythos, a nova IA da Anthropic, é assustadora? Os especialistas dividem-se

A Anthropic anunciou no mês passado que limitaria o lançamento do Mythos, o seu sistema mais recente de Inteligência Artificial (IA), a um número reduzido de organizações, incluindo algumas das maiores empresas tecnológicas, como a Microsoft e o Google, e grupos que gerem partes importantes da internet.
De acordo com a Anthropic, o novo sistema é demasiado poderoso para ser partilhado com o público em geral, porque hackers poderiam usá-lo para explorar falhas de segurança em redes informáticas a uma velocidade impressionante.
Executivos de Silicon Valey e autoridades em Washington ficaram alarmados com o potencial do Mythos, e o seu lançamento pode ter contribuído para enfraquecer a resistência do governo Trump à regulamentação da IA.
Agora, a Casa Branca está a avaliar formas de supervisão governamental sobre os novos modelos de IA através de uma ordem executiva que criaria um grupo de trabalho reunindo executivos de tecnologia e responsáveis públicos para examinar possíveis mecanismos regulatórios. A criação de um processo formal de revisão governamental para novos modelos de IA está entre as propostas em discussão.
Mais de um mês depois do lançamento do Mythos, porém, os especialistas em cibersegurança ainda não chegaram a consenso quanto à decisão da Anthropic. Alguns elogiam a empresa por restringir o acesso ao Mythos. Outros criticam-na por não partilhar com um grupo mais alargado de investigadores que poderiam testá-lo e compreender as suas capacidades e limitações. Parece que, até ao momento, o único consenso é que não há consenso sobre o Mythos.
A Anthropic partilhou a tecnologia com cerca de 40 organizações que gerem infraestruturas críticas de computação, para que pudessem usar o sistema com o objetivo de corrigir vulnerabilidades de segurança antes que hackers as explorassem.
Apenas alguns dos grupos ou empresas que passaram algum tempo a usar o Mythos se dispuseram a falar sobre o assunto com o “The New York Times”. Mas empresas e investigadores sem acesso concordaram prontamente em dar a sua opinião sobre a forma como a Anthropic lançou a sua nova IA.
Os comentários têm variado entre a indiferença e a preocupação acentuada. Pode demorar algum tempo até que a comunidade tecnológica em geral conclua se a Anthropic agiu corretamente ao limitar o lançamento do Mythos — desafio que os próprios executivos da empresa reconhecem. “Para recursos como este — ou para um modelo tão poderoso —, a situação atual não tem precedentes, porque de facto não temos todas as respostas. Não sabemos bem qual é a melhor forma de lançar modelos como este”, afirmou Logan Graham, responsável pelo Frontier Red Team da Anthropic, que avalia os riscos do Claude.
Os especialistas podem analisar a mesma situação e chegar a conclusões muito diferentes, dada a natureza inerentemente complexa da cibersegurança. Sistemas como o Mythos podem ser usados para atacar redes informáticas, mas também para as defender. A melhor forma de lidar com esta dualidade é tema de debate há décadas.
A maioria dos especialistas concorda que tecnologias de IA como o Mythos estão a alterar fundamentalmente a cibersegurança. Esta mudança ganhou força há cerca de seis meses, quando a Anthropic e a sua principal concorrente, a OpenAI, lançaram novos sistemas particularmente competentes na criação de código informático. Se um sistema de IA consegue escrever código, tem o potencial de encontrar e explorar vulnerabilidades em aplicações de software.
Quando apresentou o Mythos, a Anthropic afirmou ter usado a tecnologia para descobrir milhares de vulnerabilidades de segurança que tinham permanecido sem deteção durante anos em sistemas de software populares. A empresa declarou ainda que o Mythos é mais eficiente a identificar falhas de segurança distintas e a ligá-las em “cadeias de exploração” (exploit chains), usadas por hackers mal-intencionados para explorar múltiplas brechas no âmbito de um ataque coordenado. Nas palavras da empresa, a tecnologia representa uma “mudança de patamar” no que é possível fazer com a IA.
A Cisco, que desenvolve infraestrutura de hardware e software, é uma das empresas que usaram o Mythos. Segundo Anthony Grieco, vice-presidente sénior e diretor de segurança e confiança da empresa, esta tecnologia é significativamente mais poderosa do que os sistemas existentes em determinadas áreas. “Empresas como a Cisco deviam ser extremamente agressivas na forma como usam esta tecnologia para identificar vulnerabilidades, corrigi-las e disponibilizar essas correções aos clientes o mais rapidamente possível.”
Grieco acrescentou que o Mythos é, de facto, mais eficiente na identificação de cadeias de exploração, mas sublinhou que estas capacidades podem ser usadas para defender uma rede informática — e não apenas para a atacar. “Estamos a usar esta capacidade para ajudar a classificar vulnerabilidades e perceber quais são as mais importantes e precisam de ser corrigidas. Isto demonstra que esta tecnologia também pode ter uma aplicação extremamente positiva no campo da defesa.”
Precisamente por isso, alguns investigadores de cibersegurança argumentam que a Anthropic deveria disponibilizar o seu sistema de forma mais alargada. Como qualquer outra ferramenta de cibersegurança, é útil tanto para o ataque como para a defesa.
“A tecnologia não é assim tão perigosa para não ser divulgada. Se não disponibilizar uma ferramenta como esta — ou se a mantiver em segredo —, não vai resolver o problema real”, observou Gary McGraw, investigador veterano de segurança e IA.
Logo após o anúncio da Anthropic, investigadores independentes demonstraram que os sistemas de IA existentes conseguiam encontrar as mesmas falhas de segurança que o Mythos havia encontrado. Alguns especialistas em cibersegurança argumentaram que a Anthropic tinha exagerado os perigos do Mythos.
Para Pavel Gurvich, cofundador e diretor-executivo da empresa de segurança Tenzai, parte do problema é que os especialistas independentes em cibersegurança não conseguem testar o sistema e obter uma compreensão completa dos seus pontos fortes e fracos. Esse entendimento poderia ajudá-los a defender-se contra ataques provenientes desta tecnologia. “Não creio que partilhar o modelo com um grupo tão restrito de empresas nos ajude a avançar. Isto é especialmente verdadeiro porque o anúncio veio acompanhado de afirmações muito ousadas que não temos como avaliar.”
Já Stanislav Fort, ex-investigador da Anthropic que dirige atualmente uma empresa de segurança chamada Aisle, afirmou que manter a tecnologia de IA em segredo não será possível a longo prazo, uma vez que muitas gigantes tecnológicas, startups e programadores independentes estão a criar sistemas poderosos. Muitas destas organizações estão a disponibilizar a sua IA como código aberto, permitindo que qualquer pessoa use e modifique a tecnologia subjacente.
Acrescentou que, com o passar do tempo, a partilha alargada destas tecnologias será essencial para a cibersegurança. “Segurança por obscuridade é uma das ideias erradas mais antigas da área”, comentou.