Amazon defende que modelos de IA devem ser lançados quando estiverem seguros para utilização

A Amazon defendeu que os modelos de inteligência artificial (IA) devem ser lançados apenas após testes rigorosos, de acordo com agência noticiosa Bloomberg.
“Não vemos isto como uma escolha entre progresso e segurança. Os modelos devem ser lançados quando estiverem prontos e seguros para utilização, o que resulta de testes rigorosos e de fortes medidas de segurança. Existem riscos se isso não acontecer coletivamente, e acreditamos que, como indústria, em parceria com o governo, trabalharemos para implementar as proteções adequadas”, disse o porta-voz da Amazon, Tom Parnell, num e-mail, citado pela Bloomberg.
Esta posição da empresa de comércio eletrónico surge depois do CEO da Anthropic (que detém o Claude), Dario Amodei, que é a não cotada mais valiosa do mundo, ter defendido um abrandamento no desenvolvimento de modelos avançados de IA.
A ideia de Dario Amodei acabou por gerar apoio e oposição. Entre o campo de apoiantes surgiram o CEO da Tesla e da SpaceX, Elon Musk e o CEO da OpenAI (que detém o ChatGPT), Sam Altman, e também o líder da Google DeepMind. Contudo a ideia de Dario Amodei foi rejeitada pelo CEO da Meta, Mark Zuckerberg, pelo CEO da Nvidia, Jensen Huang, e também pelo Presidente dos Estados Unidos, Donald Trump.
No caso de Jensen Huang, que lidera a cotada mais valiosa do mundo, referiu que cabe aqueles que desenvolvem os modelos de IA agir de forma responsável. “Corram o mais rápido que puderem. Mas se, em algum momento, sentirem que a empresa está fora de controlo ou que o produto não será seguro, parem e certifiquem-se de que fazem tudo bem”, referiu, em declarações transcritas pela CNBC.
Refira-se que em setembro um engenheiro demitiu-se da Anthropic e acusou a empresa e a OpenAI de agirem de forma irresponsável com a IA. Jacob Coxon, na rede social X (antigo Twitter), disse que estas empresas “estão a brincar com as nossas vidas” e disse que as pessoas que desenvolvem a IA “acreditam que esta pode matar-nos a todos até ao final da década”.
Jacob Coxon disse ainda que a Anthropic e a OpenAI estão a “correr diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar”.
OpenAI reúne-se com Google e Anthropic para abordar questões de segurança
A OpenAI tem estado a se reunir com empresas como a Google (detido pela Alphabet) e a Anthropic, que possui o Claude, para discutir como podem trabalhar em conjunto para abordar as preocupações de segurança relativamente à inteligência artificial (IA), avançou na terça-feira 15 de setembro um porta-voz à CNBC, abrindo o caminho a criação de uma entidade reguladora da tecnologia.
De acordo com o mesmo porta-voz estas discussões iniciaram-se na sequência de declarações do presidente da Google DeepMind, Demis Hassabis, em julho, que defendia a criação de um “Órgão de Normalização” liderado pelos Estados Unidos. Demis Hassabis clarificou que este organismo poderia ser criado através de uma parceria público-privada ou de uma organização de autorregulação com supervisão federal.