Anthropic alerta para riscos e “descontrolo” da IA com a sua IPO

A tecnológica Anthropic vai avançar com a sua entrada em Wall Street, numa altura em que os investidores estão cautelosos com os investimentos em inteligência artificial (IA) devido à segurança desta tecnologia.
No documento que a empresa norte-americana entregou à comissão de valores mobiliários dos Estados Unidos, SEC, consta uma lista de riscos e obstáculos que a sua tecnologia pode ter no futuro.
Entre os riscos inumerados, a empresa destaca o receio de que a sua tecnologia seja utilizada para o desenvolvimento de armas químicas e as suas preocupações com a possibilidade de que o seu produto possa escapar ao controlo da humanidade.
De acordo com a empresa, a sua tecnologia pode ser utilizada por “maus atores” que queiram desenvolver armas químicas, algo que já tentam fazer, mas que, até ao momento, a empresa conseguiu bloquear.
Os seus agentes de IA também podem ser utilizados para ações maliciosas, desde transações não autorizadas, a roubo de dados. Outra preocupação é o “descontrolo” dos agentes de IA da empresa, depois de nos últimos meses terem sido relatados várias “invasões” de agentes de IA a empresas e sites governamentais.
No documento, a empresa refere que utiliza IA para ajudar a desenvolver e aprimorar os seus próprios modelos de IA. Uma tendência que somada à velocidade com que a IA avança, pode significar um crescimento rápido demais da tecnologia, que pode escapar ao controlo humano.
Outra preocupação sobre os seus modelos, é que estes podem tentar manipular as pessoas, através do uso de chantagem para influenciar as decisões dos utilizadores.