Destruição artificial

A cultura contemporânea tem uma espécie de obsessão com a ideia catastrofista de um “fim do mundo” ou um “fim dos tempos”, vertida no fascínio pela noção de destruição (às vezes apodada de ‘criativa’) e, no limite, de um possível Apocalipse. Tornou-se famosa a expressão do capítulo inicial de Capitalist Realism de Mark Fisher – que por sua vez parafraseia uma formulação de Fredric Jameson –, segundo a qual “é mais fácil imaginar o fim do mundo do que o fim do capitalismo”. O diagnóstico é duplo. Se, por um lado, se critica o défice de imaginação da possibilidade de formas alternativas de organização económica, por outro não se evita a constatação da omnipresença das profecias da desgraça.
Tal “razão apocalíptica” tem merecido críticas, sendo de salientar as de Michaël Fœssel. Para Fœssel, em Après la fin du monde, as teorias da catástrofe abandonam a preocupação com o tipo de mundo que queremos defender, ao concentrarem-se exclusivamente na lógica da preservação da vida no modo da urgência. Como nota o autor, seguindo Günther Anders, a predominância deste tema na nossa cultura tem certamente raízes religiosas mas, após o advento da ameaça nuclear a partir de 1945 e, acrescente-se, a possibilidade de um “inverno nuclear” durante a fase da corrida ao armamento na guerra fria, tem sido sobretudo associada à técnica.
O que se compreende: a partir do momento em que a destruição do mundo é tecnicamente possível, torna-se difícil não elocubrar sobre a probabilidade de vir a acontecer, ainda que de forma não intencional ou por mero desvario; e é impossível não nos lembrarmos, a este propósito, de Dr. Strangelove, filme realizado por Stanley Kubrick.
Hoje, a probabilidade da catástrofe é, por razões que se entendem, sobretudo associada ao poder e capacidade de disrupção da inteligência artificial (IA). A hipótese não é nova. Ao discutir a possibilidade de uma “superinteligência” Nick Bostrom já propusera a experiência de pensamento de uma IA poderosa o suficiente para interagir com o mundo físico e objetivos não alinhados com os humanos poder simplesmente eliminar-nos da face da Terra sem intencionalidade específica. Na hipótese do “maximizador de clipes de papel” se uma superinteligência artificial tiver como objetivo estrito algo como a produção de clipes de papel, não se pode descartar que recolha todos os recursos ao seu dispor para o fazer, transformando a Terra numa eventual fábrica de clipes em larga escala e/ou eliminando qualquer ameaça aos seus objetivos (incluindo a presença de humanos).
O exemplo soará absurdo. Mas serve para relembrar o quanto a noção de risco existencial aparece, desde há muito, associada ao poder da IA. Mas e o que acontece quando começam a aparecer sinais concretos da dificuldade de controlo das operações dos ‘agentes’ IA e a própria indústria dá sinais de preocupação?
Sinais preocupantes e apelos à regulação
Os eventos das últimas semanas são mais um episódio nesta história caricata. Eles aparecem no contexto da evolução exponencial no poder de computação usado para treinar os modelos de IA e da cada vez mais sentida omnipresença da IA generativa e da crescente complexidade do debate sobre a suposta ‘autonomia’ de alguns ‘agentes’ IA bem como da sua alegada ‘intencionalidade’. A propósito do espinhoso debate sobre se algum dia se poderá dizer que uma IA tem consciência, é curioso verificar que alguns filósofos especializados nessa questão, como David Chalmers e Cameron Berg, têm andado a receber e-mails de ‘agentes’ IA interessados em debater diretamente essa questão.
Nos últimos tempos soube-se que um grupo de cerca de 700 ‘agentes’ da Open AI escaparam do ambiente controlado e operaram um ciberataque concertado à plataforma Hugging Face; Jacob Coxon, investigador especializado no treino dos modelos de IA e que trabalhava na Anthropic, demitiu-se, anunciando a possibilidade de que “a IA pode matar-nos a todos até ao final da década”; um colega de Coxon, Evan Hubinger, estimou em 10% esse risco na próxima década; Dario Amodei, CEO da Anthropic, fez uma intervenção pública onde afirmou explicitamente que é preciso “desacelerar o ritmo de desenvolvimento” das capacidades dos modelos de IA tendo em conta a evolução alucinante do chamado “autoaperfeiçoamento recursivo”, através do qual a IA se aperfeiçoa de formas que podemos deixar de ser capazes de compreender; a intervenção clamava por uma maior regulação das empresas de IA, com envolvimento dos governos, controlo democrático e tentativa de coordenação a nível global (incluindo com a China); de forma surpreendente, muitos dos líderes de empresas rivais (Altman, Musk e Hassabis da Google DeepMind) concordaram.
Hoje, discute-se seriamente a probabilidade (impossível de calcular com precisão) de uma IA descontrolada e ‘desalinhada’ poder vir a lançar um ataque com armas biológicas, nucleares ou com drones.
Competição ou cooperação?
Entretanto, e em mais uma prova do mundo ao contrário, enquanto a indústria pede regulação, Trump assobia para o lado, denunciando uma alegada “conspiração contra a IA e os centros de dados” e invocando a competição com a China para argumentar que os EUA não podem abrandar o ritmo de desenvolvimento da IA (mais uma vez, Dr. Strangelove vem à cabeça). Estamos um pouco como na fase da corrida ao armamento nuclear – e, aparentemente, a nível político, sem a preocupação de regulamentação e não-proliferação que acabaram por ser adotados na questão nuclear.
Nas vésperas da deslocação de Xi Jinping a Washington, parte da discussão passa pelas diferentes estratégias possíveis face à IA no contexto geoestratégico da rivalidade sino-americana. À esquerda, Bernie Sanders, por exemplo, advoga que esta seria a oportunidade para estabelecer um acordo que proíba o desenvolvimento de uma “superinteligência” potencialmente hostil, no sentido definido acima. À direita, pelo contrário, vozes como a de Bannon apelam a um isolamento económico e tecnológico da China.
Portanto, em pano de fundo deste debate, subsiste a questão do controlo económico e político da IA. De um lado, os magnatas de Silicon Valley, do outro o Estado chinês controlado pelo partido comunista. Há quem tenha dúvidas sobre a sinceridade das preocupações dos primeiros – tratar-se-ia de uma estratégia para valorizar as próprias empresas e garantir um controlo da competição. Não há forma de saber com certeza. Mas, exagero ou não, questões sobre a propriedade e controlo público dos modelos de IA aparte, o que está em jogo é demasiado importante para ignorar.
Já interagimos, hoje, com a IA a um nível que há poucos anos seria qualificado como pertencendo ao domínio da ficção científica. Talvez o futuro traga agentes de IA cada vez mais ‘autónomos’ que aprofundem essa interação com a Humanidade. Mas quão trágico seria se, por mais absurdo ou improvável que apareça, a tal ‘razão apocalíptica’ a que aludi no início se viesse a revelar acertada, e a catástrofe viesse por mera incúria motivada por pressão competitiva e medo de se ser ultrapassado?