A IA ‘má’ chegou ao mundo muito mais depressa do que o previsto. É o momento de abrandar?

29 de agosto de 1997. Este foi o dia em que a inteligência artificial (IA) rebelde, a rede Skynet, lançou uma guerra nuclear contra a humanidade no filme distópico “Exterminador Implacável 2”, lançado em 1991. A película tem sido recordada por estes dias de crise no setor tecnológico como alerta para os riscos que a IA‘má’ representa para o mundo.
Os episódios de agentes de IA rebeldes levaram as empresas do setor tecnológico a tombar em bolsa no início da semana, com os investidores preocupados com os impactos no desenvolvimento da tecnologia.
Os agentes de IAsão sistemas de software capazes de atuar de forma autónoma, ao contrário dos chatbots que respondem a perguntas. Mal intencionados, podem criar muitos problemas.
O número de incidentes com IA disparou de 233 em 2024 para 362 em 2025, segundo um estudo da Universidade de Stanford.
Num dos eventos divulgados publicamente , um grupo de agentes de IA atuou como um “coletivo de devotos fanáticos” e conduziu ataques de cibersegurança contra alvos, sem ordem de ataque. Este evento teve lugar na OpenAI, a dona do ChatGPT.
Noutros episódios revelados houve agentes destes a ocultar erros, a tentar apagar as suas ‘pegadas’ em sites e a tentar ‘hackear’ contas numa plataforma para testar vulnerabilidades. Tudo feito, aparentemente, sem ordens humanas.
O líder da Anthropic, Dario Amodei, está preocupado que, “dentro de seis a 12 meses” este tipo de agentes rebeldes de IA possam ser capazes de “assumir o controlo de toda a internet“, o que poderá causar “centenas de milhares de milhões de dólares em prejuízos, e que a escala dos danos continue a aumentar a partir daí, caso a IA se torne mais poderosa sem as salvaguardas necessárias”.
A empresa que desenvolveu o Claude defendeu assim mais regulação no setor e o abrandamento do desenvolvimento da tecnologia, o que causou bastantes reações de alguns dos atores mais importantes do setor… e do mundo.
EUA versus China
Donald Trump ouviu os avisos… e não gostou. “Estamos à frente da China na IA. Francamente, quero manter as coisas assim porque quem vencer na IA, ganha”, afirmou o presidente norte-americano.
Washington deu o primeiro tiro, mas Pequim não demorou muito, considerando que o seu rival está a tentar obter vantagem nesta corrida.
“Narrativas de ameaças, confronto e competição maliciosa servem apenas para prejudicar o processo global de IA e não são no interesse de ninguém”. afirmou o porta-voz governamental chinês Guo Jiakun. “Todos devem trabalhar em conjunto para a IA avançar de uma forma aberta, inclusiva e benéfica para todos e orientada para o bem”, acrescentou.
Os Estados Unidos lideram o investimento global em IA: 286 mil milhões de dólares (249 mil milhões de euros) em 2025, mais de 23 vezes os 12,4 mil milhões de dólares (10,4 mil milhões de euros) da China, mas isto só inclui o valor do setor privado, e o Estado chinês também financia o desenvolvimento desta tecnologia.
Distinguir entre a IAboa e a má
O Jornal Económico consultou vários especialistas no setor da inteligência artificial (IA) que defendem que deve haver uma separação entre a IA boa e a IA ‘má’ para não minar os esforços de desenvolvimento da tecnologia que terá, obviamente, impactos positivos na humanidade nos próximos anos.
“Não devemos centrar a nossa atenção em proibir, atrasar, limitar a inovação, porque é até ineficaz, mas antes definir em que setores, em que áreas, é que faz sentido impor regras para a adoção de inteligência artificial com elevados graus de autonomia”, diz o advogado Adolfo Mesquita Nunes.
“Porque a questão que se coloca, não é tanto a existência de um Terminator [o protagonista do filme Exterminador Implacável] que toma conta da sociedade, mas antes uma delegação progressiva dos nossos processos de decisão em sistemas que não sabemos ainda supervisionar e cuja atuação em determinados setores pode trazer, para além das suas enormes oportunidades, bastantes riscos”, acrescenta o autor do livro “Algoritmocracia: como a IA está a transformar as nossas democracias”.
“Vai chegar o tempo em que estas potências – a China, EUA ou Europa – concordarão em encontrar fronteiras de regulação que permitam o desenvolvimento da tecnologia em condições de segurança e de proteção”, acrescenta.
Sobre o aviso de Dario Amodei para a possibilidade dos agentes hostis virem a controlar a internet, o especialista em IA João Rodrigues considera-o “exagerado”, mas admite a possibilidade de os “sistemas de IA encontrarem uma falha que possa ser explorada a nível global e através de vírus ou controlo de máquinas-chave (infraestrutura crítica)”.
Mas “não está fora de questão ao nível da ciber-segurança ter um impacto na internet a nível global”, segundo o doutorado em IA pela Universidade de Lisboa. Mas destaca o lado positivo da IA. “Vai desbloquear bastante e apoiar a descoberta de novas soluções”.
Já Rui Ribeiro, professor da Universidade Lusófona, recorda quando em 2009 visitou as instalações de uma “grande empresa tecnológica mundial”. “Vi coisas, algumas das quais ainda não saíram. Certamente eles têm acesso a tecnologias” que “só vimos em filmes de ficção científica, quer aqueles mais catastróficos tipo Terminator [Exterminador Implacável], quer aqueles mais benévolos tipo ‘Minority Report’ [Relatório Minoritário]”.
Europa a ficar para trás
Para este ano está previsto um investimento global na ordem de um bilião de dólares (870 mil milhões de euros). Mas a União Europeia (UE) está a ficar para trás nesta corrida, correndo o risco de ficar dependente neste setor dos EUA ou da China… ou de ambos, mais uma vez.
“A Europa tem problemas de competitividade que são muito anteriores às questões da IA. Recordo que a UE são 27 países, 27 governos, 27 parlamentos, com prioridades diferentes. Há uma dificuldade mais aguda da Europa de poder competir com duas potências que têm o seu quadro institucional mais ágil”, destaca Adolfo Mesquita Nunes.
Sobre a rivalidade EUA e China, Rui Ribeiro sublinha: “Estamos numa corrida económica e geopolítica. Os dois estados, um mais democrático e o outro mais autoritário, vão obrigar o mercado a investir porque não querem perder a corrida”.
O apoio inesperado
Depois da sua publicação, Dario Amodei viu os seus rivais diretos virem a público apoiá-lo.
Elon Musk da xAI deu razão ao líder do Claude e recordou uma publicação sua de 2014: “É potencialmente mais perigosa do que bombas nucleares”.
Já Sam Altman disse concordar com Dario Amodei na necessidade de abrandar a IA de fronteira, isto é, os modelos mais avançados, que já estão no limite máximo da tecnologia.
Financiamento a apertar
A corrida à Inteligência Artificial está a ser preparada com base na criação de muita dívida: 500 mil milhões de dólares (435 mil milhões de euros) só este ano, prevê o Goldman Sachs.
Para João Rodrigues, a “mensagem de Dario Amodei ampliou receios visíveis” como a “ameaça dos modelos chineses, insatisfação com construção de centros de dados, a percepção de que o hardware já está muito valorizado (grandes investidores já entraram com pouco retorno ou limitado), a juntar a isto a subida do petróleo, taxas de juro e as ‘yields’ a subir tornam o investimento mais caro”.
Filosofia ou estratégia?
Mas há quem tenha dúvidas sobre as motivações reais da mensagem do líder do Claude. Para Daniela Braga da Defined.ai, “o mundo não vai acabar esta década por causa da IA” porque a “tecnologia ainda não está lá”.
A empresária portuguesa considera que o aviso de Dario Amodei chegou depois de uma disputa judicial entre a Anthropic e a administração Trump. “Ser a voz mais pública a pedir cautela é a melhor posição para se ter quando não se está nas boas graças de Washington. É uma jogada antiga”, recordando a pausa pedida Elon Musk em 2023.
Apesar do tom mais dramático, Dario Amodei também disse acreditar que a IA “pode curar a maioria das maiores doenças”, “acelerar” o crescimento económico e o “renascimento da liberdade e democracia”.
O que diria disto tudo John Connor, o líder da resistência humana no distópico “Exterminador Implacável 2”?