Oito em cada dez incidentes de IA chegam à administração, mas a governação continua aquém da adoção

Os incidentes relacionados com inteligência artificial (IA) estão a ganhar visibilidade ao mais alto nível das organizações, mas os mecanismos de governação e responsabilização continuam a não acompanhar o ritmo de adoção da tecnologia. A conclusão é de um novo estudo da IBM, realizado junto de mais de 3.200 executivos de topo de oito países da Europa e do Médio Oriente.
Segundo o estudo, oito em cada dez executivos inquiridos afirmam que, no último ano, pelo menos um incidente relacionado com IA chegou ao Conselho de Administração ou à Comissão Executiva. Entre as situações identificadas estão falhas de agentes de IA, exposição de dados, erros em decisões baseadas nesta tecnologia e violações de segurança.
Apesar desta crescente preocupação, apenas 40% das organizações inquiridas afirmam ter alterado as suas políticas ou modelos de governação de IA em resposta a estes incidentes.
A discrepância evidencia um desafio crescente para as empresas: assegurar que os mecanismos de controlo, conformidade e gestão de risco evoluem ao mesmo ritmo que a implementação da inteligência artificial.
Quando a implementação da IA ultrapassa a capacidade de resposta dos modelos de governação e conformidade, 56% dos executivos afirmam que as suas organizações optam por avançar dentro dos limites de risco acordados, enquanto adaptam os respetivos mecanismos de controlo. Apenas um terço prefere adiar totalmente a implementação até que os modelos de governação estejam preparados.
O desafio deverá intensificar-se com a expansão da IA agêntica, que permite aos sistemas executar tarefas e tomar decisões com diferentes graus de autonomia.
Atualmente, 35% dos inquiridos afirmam já ter sistemas de IA agêntica em produção. Além disso, três quartos esperam que, até 2027, os agentes de IA disponham de algum grau de autonomia na tomada de decisões. Ainda assim, apenas 37% consideram que os atuais modelos de governação das suas organizações estão preparados para suportar a adoção desta tecnologia em escala.
Para Ana Paula Assis, Senior Vice President e Chair da IBM para a EMEA e APAC, a discussão em torno da inteligência artificial está a mudar de foco.
“O debate em torno da inteligência artificial evoluiu da adoção da tecnologia para a governação e a responsabilização”, afirma. À medida que as organizações passam de assistentes de IA para agentes autónomos, acrescenta, a governação deixa de ser apenas uma questão de conformidade, tornando-se “um requisito para o negócio e um fator de criação de valor”.
A IBM defende que a governação deve ser incorporada no próprio funcionamento dos agentes de IA, com limites claros de atuação, responsabilidades definidas em caso de falha e mecanismos de controlo capazes de funcionar em tempo real.