Anthropic lança a sua IA mais poderosa com acesso limitado por motivos de segurança

A empresa norte-americana Anthropic disponibilizou terça-feira a versão mais poderosa da sua tecnologia de inteligência artificial (IA), limitando as suas capacidades em áreas sensíveis como a cibersegurança e, pela primeira vez, os riscos de ataques biológicos ou químicos.
Denominado Fable 5, este modelo é o primeiro da classe Mythos, a linha mais avançada da Anthropic, apresentada em abril mas com acesso restrito por motivos de segurança, a ser disponibilizado ao público.
Estará, no entanto, reservado para clientes de ‘gama alta’, aqueles que podem pagar o preço ‘premium’.
Paralelamente, a ‘startup’ sediada em São Francisco está a implementar o mesmo modelo numa versão sem restrições, o Claude Mythos 5, reservado a empresas e organizações que já têm acesso a esta família de IA, que se apresenta como capaz de detetar e explorar vulnerabilidades de segurança com uma velocidade e precisão sem precedentes.
No início de abril, a Anthropic anunciou simultaneamente a existência do Mythos e a sua decisão de limitar o acesso a parceiros de confiança para reforçar a sua cibersegurança.
O anúncio gerou acusações de “marketing do medo” e provocou uma considerável preocupação governamental, para se preparar para ameaças de IA a infraestruturas críticas, como bancos ou setor energético.
Desde então, várias empresas que tiveram acesso ao Mythos confirmaram as suas capacidades, e a administração Trump, apesar da sua longa disputa com a Anthropic, acabou por testá-lo.
Washington estabeleceu, então, um processo de avaliação voluntária para os modelos de IA norte-americanos mais poderosos antes do seu lançamento comercial.
A implementação do Mythos 5 e a seleção dos parceiros que podem aceder estão a ser feitas “em colaboração com o governo dos EUA”, detalhou a Anthropic.
Até então, a empresa justificava a restrição de acesso ao Mythos unicamente com base em riscos de cibersegurança. Com o Fable 5, ela estende essa vigilância à biologia e à química.
A Anthropic cita um salto em capacidade, permitindo-lhe realizar tarefas científicas. A empresa afirma ainda ter acelerado certas etapas do desenvolvimento de medicamentos em aproximadamente dez vezes e formulado novas hipóteses em biologia molecular.
Estas capacidades, alertou a empresa, poderão dar “um impulso” aos agentes maliciosos.
A Anthropic referiu o exemplo do desenvolvimento de vírus adeno-associados (AAV), que são potencialmente perigosos, mas também benéficos na terapia genética.
Por essa razão, a versão sem restrições estará disponível para investigadores selecionados.
De acordo com a empresa, as consultas sobre o Fable 5 relacionadas com cibersegurança, biologia ou química recebem uma resposta do modelo de nível inferior, Opus 4.8.
O mesmo se aplica às tentativas de ‘destilação’, ou seja, copiar o modelo para treinar concorrentes, algo que a Anthropic garantiu ter detetado em larga escala em “países autoritários”.