Nvidia lança plataforma para “controlar” agentes de IA

A Nvidia vai lançar uma nova plataforma de software para permitir que os programadores de inteligência artificial (IA) estabeleçam ressalvas para que estes agentes não “invadam” outras empresas.
Este lançamento ocorre depois de agentes de IA da Anthropic, OpenAI, Meta e Google, terem invadido empresas e sistemas governamentais.
Segundo o relatado, a nova plataforma poderia ter evitado alguns destes incidentes. “Cada incidente de segurança é único, e precisamos de analisar todos detalhadamente”, referiu Justin Boitano, vice-presidente de IA corporativa da Nvidia.
No caso da OpenAI e a Hugging Face, o vice-presidente referiu que “pelo que sabemos a Hugging Face relatou mais de 17 mil agentes a atacar a sua infraestrutura, numa situação que demorou semanas”.
A empresa mais valiosa do mundo tem estado no centro da explosão no desenvolvimento da IA, com as suas unidades de processamento gráfico (GPU) a serem fundamentais para o desenvolvimento de grandes modelos de linguagem e serviços de IA.
A IA voltou a estar no centro do debate, depois de vários CEOs terem acordado em abrandar o desenvolvimento desta tecnologia. Contudo, o CEO da Nvidia, Jensen Huang, surgiu como uma voz importante no debate de segurança da IA, afirmando que muitas das preocupações levantadas em torno desta tecnologia podem ser resolvidas através da ciência de computação e do desenvolvimento de produtos.