A IA não sabe decidir

Vamos ser francos? Todos já recorremos à inteligência artificial (IA). Advogados, professores, juízes, jornalistas e também administradores e CEO de empresas.
A questão, portanto, já não é quem a utiliza, mas como a utiliza. E a questão jurídica é, entre outras, quem responde pelas decisões tomadas com o auxílio da IA.
O debate tem acontecido segundo perspetivas interessantes, ainda que um pouco precoces, como a eventual atribuição de personalidade jurídica à IA, a sua eventual autonomia, os seus direitos e deveres.
Já do ponto de vista do direito positivo, talvez a pergunta mais interessante seja bem menos vanguardista.
Nem o Código Civil nem o Código das Sociedades Comerciais conhecem a inteligência artificial enquanto sujeito de direito e essa necessidade ainda não emergiu enquanto tal: a IA não decide, não tem vontade própria (por enquanto) e não assume obrigações. É um instrumento. Sofisticado, certamente, mas continua a ser um simples instrumento.
Quem decide continua a ser uma pessoa. E, aos olhos do Direito, quem decide continua a responder.
Ora, do ponto de vista das decisões dos gestores de empresas, é aqui que o dever de diligência dos administradores – que o Código das Sociedades Comerciais lhes impõe – pode assumir uma dimensão nova.
O legislador considerou que uma das densificações do dever de diligência é o cuidado na escolha das pessoas, desde logo para os cargos de gestão: gerência e administração.
E hoje? Será que o dever de cuidado não passa também pelo cuidado na utilização das ferramentas de auxílio na tomada de decisões? Não se trata, naturalmente, de convocar aqui a figura da culpa in elegendo, mas o princípio que lhe está subjacente merece ser ponderado: a responsabilidade começa na escolha dos próprios processos decisórios.
A inteligência artificial obriga-nos precisamente a deslocar o eixo da análise. A questão deixa de ser apenas se a decisão final foi prudente. Passa também por saber por que foi utilizada determinada ferramenta, se era adequada ao caso concreto, se era fiável, se os seus resultados foram criticamente validados, quais as razões para confiar nela e que tipo de informação lhe foi fornecida.
A IA pode preparar uma análise, sugerir um cenário, identificar riscos ou até redigir um sumário, mas não lhe podemos atribuir o poder que Direito reserva às pessoas: o juízo, a vontade e a responsabilidade.
Talvez seja esta a verdadeira transformação silenciosa que a inteligência artificial está a introduzir no governo das sociedades. Não a substituição dos gestores, mas a reformulação do núcleo dos seus deveres de diligência.
No final do dia, sempre os casos serão mais que as normas e o Direito permanecerá surpreendentemente fiel a si próprio: mudam os mecanismos, não mudam os princípios, como não mudam os pilares de um monumento secular.