Mark Zuckerberg considera que IA será o “avanço tecnológico mais profundo” que veremos na nossa vida

O fundador e CEO da Meta, Mark Zuckerberg, defendeu numa carta, intitulada The Future is for Everyone (O futuro é para todos), que o desenvolvimento da inteligência artificial (IA), ao qual se refere como superinteligência, será o “avanço tecnológico mais profundo” que veremos nas nossas vidas e destacou a importância de se desenvolver uma filosofia sobre como se pode utilizar melhor esta tecnologia. E pelo meio aborda o impacto que a tecnologia pode ter no emprego e na economia.
Este considera que as pessoas “poderão utilizar” a superinteligência para além da capacidade humana para “criar e descobrir coisas extraordinárias, construir novos negócios, expressar novas ideias, aprender novos conceitos e melhorar a nossa saúde e qualidade de vida”.
Na carta é defendido que à medida que nos aproximamos desse momento “é importante desenvolver uma filosofia” sobre como “podemos utilizar melhor” a superinteligência para garantir que esta melhora as nossas vidas, trabalho, comunidades, liberdade e segurança.
“As questões definidoras da nossa era são: quem terá acesso à superinteligência e para onde a iremos direcionar? Será centralizada e restrita a algumas instituições ou será uma ferramenta que a todos capacita?”, questiona.
Mark Zuckerberg propõe uma filosofia baseada no “empoderamento individual” como fonte de prosperidade, na invenção como “propósito principal” da superinteligência e no equilíbrio de poder como fundamento da segurança.
“Todas as novas tecnologias criam oportunidades e desafios. A superinteligência estará entre as tecnologias mais importantes da história, pelo que as suas oportunidades e desafios serão provavelmente maiores do que quaisquer outros que tenhamos visto nas nossas vidas. Devemos levar isto muito a sério”, afirmou.
Ainda assim, é “surpreendente” que o discurso de muitos desenvolvedores de IA seja tão “carregado” de pessimismo. “Não compreendo porque é que alguém que acredita que a IA eliminará a maioria dos empregos e grande parte da relevância da humanidade se apressaria a construir esse futuro. A noção de que a IA é tão perigosa que o único caminho seguro é uma concentração extrema de poder parece inerentemente problemática. Historicamente, a esperança de que um poder absoluto proverá benevolamente para a humanidade, se suficientemente esclarecido, não conduziu a resultados seguros ou positivos”, defendeu.
Este sublinhou que cada vez que a humanidade faz “avanços transformadores” surge o receio de que algumas pessoas fiquem para trás. “Mas, de cada vez, a humanidade emerge com mais pessoas a desfrutar de maior prosperidade, saúde e liberdade. Acreditamos que o mesmo acontecerá com a IA, e que a abundância do futuro poderá ser partilhada por todos. Acreditamos também que os valores que nos trouxeram até aqui — como a liberdade, a investigação aberta, a livre iniciativa e a igualdade de oportunidades — são os valores certos para construir um futuro positivo”, acrescentou.
“A invenção, e não a automatização, será a maior contribuição da superinteligência”, considerou. “A IA inicial era capaz de responder a perguntas e realizar tarefas rotineiras. Em breve, ela ajudará cada vez mais na descoberta de novos conhecimentos — desde a descoberta de novos medicamentos para curar a doença de um familiar até à procura de novas formas de melhorar o seu negócio. Embora o número de perguntas que uma pessoa pode fazer num dia seja limitado, o número de coisas valiosas que a superinteligência pode inventar para ajudar a alcançar os seus objetivos é ilimitado”, afirmou.
“À medida que a inteligência se torna abundante, a questão mais importante será a forma de a dirigir. Alguns defendem que a própria superinteligência, ou um pequeno grupo de especialistas que a controla, deve decidir o que é melhor para a humanidade. Discordamos. A história da democracia e da economia demonstra que não existe uma única resposta objetiva para a definição de uma vida ideal, e, por isso, a melhor abordagem é deixar que as pessoas decidam o que importa nas suas próprias vidas”, defendeu.
Para Mark Zuckerberg, “disponibilizar a superinteligência a todos” é a forma de responder a esta questão. “Isto segue a tradição de colocar o poder dos supercomputadores e da internet nos bolsos e nas mesas de todos. Em vez de centralizar a superinteligência, devemos distribuí-la amplamente e dar a cada pessoa a capacidade de a dirigir. Isto tem o potencial de inaugurar uma nova era de capacitação pessoal, na qual os indivíduos podem utilizar esta nova e poderosa capacidade para atingir o seu pleno potencial, prosseguir os seus interesses e melhorar as suas vidas e o mundo como nunca antes”, acrescentou.
Os riscos
Contudo, refere a carta, as novas tecnologias também trazem novos riscos. “Há muitas preocupações importantes que estamos focados em abordar — desde as preocupações com a deslocação de empregos e a garantia de que as comunidades locais beneficiam da construção de centros de dados, até às preocupações com a segurança em torno do uso indevido da IA ​​relacionada com a cibersegurança e o biorrisco, passando por evitar a tirania e a vigilância governamentais, garantir que os Estados Unidos (EUA) e os países democráticos lideram e, em última análise, assegurar que a humanidade mantém o controlo sobre a superinteligência para que esta nos sirva em vez de nos colocar em perigo”, elenca.
É proposto que é “mais produtivo” analisar cada uma destas preocupações na perspetiva do equilíbrio de poder adequado, tal como acontece nas instituições de governo democrático da sociedade ocidental. “As pessoas e as instituições com interesses conflituantes fiscalizam-se e equilibram-se naturalmente mutuamente, conduzindo a resultados positivos. O caminho mais eficaz e realista para construir um futuro positivo para a IA é disponibilizar a superinteligência a todos”, diz.
“Quando as pessoas são empoderadas, naturalmente competem e fiscalizam-se mutuamente nos domínios económico, social, político e em todas as outras esferas da interação humana. As pessoas também fiscalizam e equilibram o poder das instituições, incluindo as empresas e os governos. Mas se o poder da superinteligência estiver concentrado nas mãos de um pequeno número de indivíduos, empresas, governos ou da própria IA, isso conduzirá naturalmente a resultados menos favoráveis ​​para todos os outros. Este não é um princípio tecnológico. Trata-se do equilíbrio de poder. Não existe uma superinteligência benevolente singular”, afirmou.
A chave para um futuro positivo para todos é “alcançar um equilíbrio de poder” que favoreça os indivíduos, sublinhando que a solução é “garantir que a superinteligência é amplamente distribuída para capacitar” as pessoas.
Impactos no emprego
Relativamente ao impacto que a IA pode ter no emprego e na economia a carta diz que o resultado que obteremos depende do “equilíbrio” em curso entre a automação, por um lado, e o empoderamento e a inovação individual, por outro. “Se os laboratórios focados na automatização do trabalho intelectual liderarem o processo, acredito que as pessoas e a economia enfrentarão uma transição muito mais difícil. Mas se todos tiverem acesso a uma superinteligência pessoal que expanda as suas capacidades, isso fará pender a balança para o empoderamento individual e para um futuro positivo”, considerou.
“Há vários motivos para otimismo quanto à abundância de emprego no futuro. Não importa o quão inteligente a IA se torne, haverá sempre uma quantidade finita de poder computacional e, portanto, um custo de oportunidade para a forma como o utilizamos. Se as pessoas puderem usar a IA para inventar coisas novas e incrivelmente valiosas, fará mais sentido alocá-la a isso do que para automatizar os empregos existentes. Quanto mais a superinteligência servir como ferramenta de invenção, maior será a probabilidade de a capacidade individual superar a automação e o futuro ser melhor para as pessoas”, afirmou.
“Além disso, as pessoas criam continuamente novas ideias para melhorar as nossas vidas e novos empregos para concretizar essas ideias. Há uma geração, não existiam programadores de aplicações, criadores de conteúdos para redes sociais, técnicos de veículos elétricos e operadores de data centers (ou centros de dados). Num futuro próximo, surgirão novas profissões invulgares nos dias de hoje, como estúdios de produto individuais que criam brinquedos, mobiliário ou vestuário personalizado; criadores de mundos e designers de experiência que desenvolvem jogos, histórias e aventuras; biólogos pessoais que utilizam a superinteligência para formular tratamentos personalizados; e muito mais que ainda não conseguimos conceber”, reforçou.
Mas, sublinha, alguns aspetos da nossa forma de trabalhar “vão mudar”, tal como aconteceu com os computadores, a internet e qualquer nova tecnologia. “Isto significa que as pessoas terão de se adaptar, e isso será um desafio. Mas quanto mais pessoas tiverem um agente pessoal super inteligente capaz de nos ensinar novas competências e de nos ajudar a adaptar às mudanças, mais tranquila será esta transição”, sublinhou.
Mais empresas com menos pessoas
É ainda dito que a dimensão das empresas pode diminuir tal como aconteceu na transição dos gigantes industriais para as empresas tecnológicas. “Mas isso não significa menos emprego no geral. Implica um maior número de empresas com menos colaboradores em cada uma. Há muito mais empresas e serviços valiosos para construir do que as pessoas são capazes de construir hoje. Prevejo que começaremos a ver um pequeno número de pessoas com agentes pessoais superinteligentes capazes de gerir empresas em grande escala. No futuro, as pequenas empresas continuarão a ser a espinha dorsal da economia, mas cada pequena empresa poderá ter um impacto muito maior”, perspetiva.
Relativamente à proteção contra o uso indevido de IA em cibersegurança, bioterrorismo e outras ameaças, é defendido que as estratégias para nos protegermos contra a cibersegurança, o bioterrorismo e outras ameaças “variam”, mas o padrão geral é que a sociedade garante que os defensores que mantêm os agentes mal-intencionados sob controlo “têm sempre um maior equilíbrio” de poder e recursos.
“Alguns defendem que a melhor forma de reduzir o risco é restringir as capacidades a que os indivíduos têm acesso. Mas dar às pessoas capacidades de cibersegurança é também a forma como protegemos a longa cauda de sistemas, e dar às pessoas capacidades científicas é a forma como fazemos avançar a ciência de formas que devem reduzir os riscos de danos a longo prazo. Restringir capacidades leva-nos ao caminho da centralização e da falta de mecanismos de controlo, pelo que devemos ser extremamente cautelosos com isto — especialmente se outras nações seguirem caminhos menos restritivos”, alertou.
Na cibersegurança, os sistemas de código aberto amplamente implementados “têm-se mostrado mais seguros” porque “mais pessoas conseguem identificar vulnerabilidades, fortalecer os sistemas e atualizá-los facilmente” para as versões mais recentes e seguras, sublinhou.
No curto prazo é salientada a importância de “acelerar o processo de reforço dos sistemas críticos” e que a solução a longo prazo “não é reter” capacidades, mas sim “estabelecer um equilíbrio” de poder onde a superinteligência esteja amplamente distribuída.
“Com o tempo, espero que modelos de IA amplamente implementados com fortes capacidades de cibersegurança conduzam a sistemas mais seguros, e não menos. Proponho que as empresas que desenvolvem IA de ponta dediquem recursos técnicos significativos para ajudar o governo a reforçar a infraestrutura crítica. Proponho também que os laboratórios de IA de topo partilhem pontos de verificação intermédios de formação de novos modelos para utilização e revisão governamental, em vez de esperarem até que a formação esteja concluída. Desta forma, o governo terá acesso antecipado aos modelos mais poderosos e a uma equipa de engenheiros capacitados para identificar e corrigir problemas de segurança. Os laboratórios devem também colaborar com as autoridades policiais para ajudar a identificar pessoas mal-intencionadas que tentem utilizar indevidamente os seus sistemas. Estas medidas acelerariam a implementação segura sem abrandar o ritmo da inovação de modelos ou atrasar significativamente o acesso das pessoas a esta tecnologia”, disse.
Relativamente aos riscos biológicos e químicos, a preocupação reside no facto de as mesmas capacidades que permitem aos cientistas desenvolver novos medicamentos “poderem também permitir que agentes mal intencionados” criem compostos nocivos. “Devemos concentrar-nos em limitar a produção e a distribuição física de materiais nocivos. Prevejo que será mais fácil regular e controlar os componentes físicos do que a disseminação do conhecimento, pelo que esta é uma área importante para o foco das políticas públicas. Devemos acelerar a capacidade da sociedade para desenvolver novas curas e imunizar contra novos problemas à medida que estes surgem. Isto inclui a simplificação da forma como a FDA [regulador norte-americano dos medicamentos] e outros organismos reguladores testam e aprovam novos tratamentos. À medida que a IA acelera a descoberta de medicamentos, precisaremos de atualizar estes processos para acompanhar o ritmo da inovação”, afirmou.
Sobre a proteção da liberdade e prevenção da tirania governamental é dito que para manter a liberdade “devemos garantir” que a superinteligência capacita principalmente os indivíduos. É ainda defendido que a privacidade é um “fundamento importante” para o empoderamento e liberdade individual.
“Acreditamos que as pessoas devem ter um modo totalmente privado para os seus dispositivos pessoais, onde nem mesmo a Meta ou qualquer outro fornecedor de serviços possa ver ou conceder acesso às suas informações”, explicou. Contudo, é referido que se deve também garantir que o governo tem acesso às “ferramentas e aos recursos necessários” para aplicar as nossas leis e proteger a nossa segurança.
Quem liderar desenvolvimento vai contribuir para novo equilíbrio geopolítico
O fundador da Meta disse ainda que as nações que liderarem o desenvolvimento e a implementação de IA avançada “contribuirão para um novo equilíbrio geopolítico” de poder que “determinará a prevalência” de valores democráticos, prosperidade e segurança no futuro. “Para garantir que isto atinge um equilíbrio positivo, devemos assegurar que os principais sistemas de IA são aqueles que incorporam os nossos valores, impulsionam a nossa economia e promovem a segurança nacional. A melhor forma de alcançar este objetivo é distribuir os nossos sistemas de forma ampla. A Meta contribuirá para isso, construindo agentes e modelos de superinteligência pessoal de ponta, incluindo modelos de código aberto, e disponibilizando-os a milhares de milhões de pessoas em todo o mundo”, afirmou.
Em relação às infraestruturas, é sublinhado que os Estados Unidos e os seus aliados “detêm atualmente uma vantagem” no design de semicondutores, mas uma “desvantagem” na velocidade com que podemos construir capacidade energética e infraestruturas físicas. “Países como a China estão a colocar em funcionamento mais de 1 gigawatt (GW) de capacidade nuclear a cada duas semanas, pelo que necessitaremos de acelerar a construção tanto de centrais elétricas como de centros de dados para nos mantermos competitivos. Os controlos de exportação de semicondutores têm-se mostrado eficazes para abrandar o progresso dos laboratórios estrangeiros durante este período crítico, sendo, por isso, a estratégia correta a sua manutenção”, alertou.
“Qualquer política que atrase o lançamento de modelos americanos — mesmo que por um mês — pode representar um risco significativo para a liderança americana, ao mesmo tempo que permite que os modelos estrangeiros avancem rapidamente. Ao mesmo tempo, quando surgem novas capacidades, é importante que o governo americano disponha de conhecimentos e recursos avançados para fortalecer os sistemas críticos e, potencialmente, de algum período de vantagem na utilização de sistemas avançados”, reforçou. “É também importante que os Estados Unidos e os seus aliados liderem o ecossistema de IA de código aberto, que representará uma grande percentagem da utilização global da IA“, vincou.
É dito ainda que “restringir” o acesso a modelos de código aberto estrangeiros não é uma solução eficaz. “O nosso objetivo deve ser que os modelos de código aberto americanos sejam os melhores a nível global. Isto exige a remoção dos obstáculos que dificultam a concorrência dos modelos de código aberto americanos. Restringir o acesso de pessoas e empresas aos principais modelos de código aberto — independentemente da sua origem — reduzirá a qualidade da IA ​​acessível a estas e centralizará a IA, em vez de dar mais poder às pessoas”, elencou.
“Este é um momento incrível para se viver. O desenvolvimento da superinteligência será o avanço tecnológico mais profundo que veremos nas nossas vidas. À medida que nos aproximamos disto, torna-se cada vez mais importante termos uma filosofia e valores claros sobre como a superinteligência beneficiará a humanidade. A Meta está empenhada em construir com base nos princípios do empoderamento individual como fonte de prosperidade, da invenção como propósito da IA ​​e de um equilíbrio de poder que favoreça as pessoas como fundamento para lidar com os riscos de segurança. Se estes valores guiarem o caminho, estou otimista de que as próximas décadas serão das mais extraordinárias da história. A trajetória da civilização humana tem-se inclinado para dar mais poder às pessoas para viverem e moldarem o mundo da forma que acreditamos ser a melhor. A superinteligência traz a promessa de dar a todos esse poder e construir um futuro positivo para todos”, concluiu.
Pode ler aqui a carta completa.