Com a narrativa me enganas

Talvez poucos se lembrem mas, há mais de uma década atrás, em 2013, a noção de “narrativa” foi lançada simultaneamente para a ribalta (por José Sócrates, na sequência de uma entrevista dada à RTP) e para a berlinda (pelos detratores de Sócrates). Curiosamente, a forma como Sócrates se apropriou, na altura, dessa noção, remetia-a para o seu carácter potencialmente enganador; e lembro-me do meu divertimento mesclado com alguma perplexidade perante o escárnio com o qual a noção foi recebida.
Afinal, como saberá quem ande pelas lides da hermenêutica, da teoria literária ou dos estudos culturais, a narrativa é uma noção ambígua. Como seres interpretantes que somos, precisamos dela para conferir sentido às coisas e a nós mesmos. Mas também pode ser um agenciamento deturpado dos factos, no qual se pretenda apresentar como realidade aquilo que mais não é que manipulação.
Em 2013 ainda não tínhamos chegado à onda populista que, entretanto, atravessou a Europa e o mundo e a dinâmica de desinformação não era tão intensa. A hiper-requisição da atenção já se fazia sentir on-line, mas a informação não nos chegava tão mastigada quanto acontece hoje, fruto da Inteligência Artificial (IA) generativa.
Uma IA alucinante
Ora, a omnipresença da IA generativa e o seu uso cada vez mais frequente têm levantado dúvidas não só sobre a qualidade da informação como sobre os efeitos sobre a forma como pensamos.
A primeira questão prende-se com o facto de o conteúdo gerado por IA ser cada vez mais prevalente na Internet – alguns estudos apontam para cerca de 50% do que é publicado na Internet ser gerado por IA. Isto levanta o problema da recursividade no treino dos modelos: há o risco de a qualidade da informação se perder e de as famosas “alucinações” geradas pelos Large Language Models (LLMs) se multiplicarem. E o segundo efeito apontado acima correlaciona-se com o primeiro. A IA oferece respostas rápidas mas tende a deteriorar a capacidade de aprendizagem e, por conseguinte, a consolidação do conhecimento.
Com a velocidade da oferta das respostas o incentivo à verificação das fontes e da fiabilidade da informação tende a ser menor e, portanto, a probabilidade de infração de deveres epistémicos, maior. Logo, a probabilidade de se aceitar acriticamente uma “alucinação” torna-se maior.
A semana passada foi reportado um exemplo concreto com consequências para o ensino de História. No policy brief apresentado por um consórcio internacional do qual fazem parte os investigadores portugueses Nuno Moniz e Miguel Cardina, dá-se conta de como o uso generalizado de LLMs pode distorcer o ensino da História. No caso, e a partir de 3500 interações com o ChatGPT, foram detetados erros sistemáticos (conteúdo fabricado, distorções cronológicas, influência da língua prevalente nos dados de treino e narrativas diferentes ou até contraditórias em função da língua) nas narrativas apresentadas pela IA no que diz respeito a quatro conflitos históricos: a Guerra do Vietname, as Guerras na Jugoslávia, as Guerras coloniais que envolveram Portugal e o conflito entre Israel e a Palestina. O consórcio reporta que o ChatGPT inventou batalhas, datas de acontecimentos importantes ou fontes. E os investigadores propõem um conjunto de medidas para que se compreendam e enfrentem os desafios da utilização da IA no ensino.
Narrativas visuais e deturpações reais
Justifica-se destacar o papel da narrativa neste contexto porquanto a IA destes modelos apresenta-se no modo conversacional. O exemplo aludido acima enquadra-se na tipologia da informação simplesmente falsa ou deturpada, a que o vocabulário anglo-saxónico geralmente se refere como misinformation; mas o caso muda de figura quando se pode especular se a deturpação será intencional (a que o mesmo vocabulário se refere como disinformation), por exemplo para fins políticos.
E, aqui, a fina linha a separar realidade de ficção é ainda mais difícil de traçar quando lidamos com imagens ou vídeos, sobretudo se forem descontextualizados. Suponhamos que um vídeo (real) de um carro da PSP capotado com um grupo de pessoas à volta é divulgado por um líder político com uma legenda afirmando que “um grupo de bandidos perseguiu e abalroou um carro de polícia”, referindo a alegada “selva” em que o país se estaria a tornar, e com isso sugerindo não só a insegurança da zona em questão como podendo levar a crer que o vídeo retratava os tais “bandidos”. E suponhamos que a perseguição é em seguida desmentida pela PSP, esclarecendo que as pessoas (as mesmas da tal ‘selva’ da analogia do político) estavam na realidade a ajudar os agentes a sair da viatura.
O que é mais espantoso nalguns destes exemplos é que, quando são imagens ou vídeos reais, o simples visionamento deveria ser suficiente para dissipar dúvidas – mas não é, porque o efeito de sugestão pode ser maior. A propósito da pós-verdade, Myriam Revault d’Allonnes comenta, em A Verdade Frágil, o exemplo da descrição feita por Sean Spicer, assessor de imprensa de Trump em 2017, sobre o número de pessoas a assistir ao discurso de tomada de posse desse ano. Spicer afirmava ter sido “a maior audiência de sempre” (apesar de as imagens a comparar essa tomada de posse com a de Obama em 2009 o desmentirem). Já Trump alegou que (sabe-se lá, talvez por intervenção divina) a chuva parara e o dia se tornara solarengo quando começou a falar – enquanto o New York Times reporta ter chovido durante toda a duração do discurso. A conclusão, aponta Revault d’Allonnes, é a da pura e simples indiferença para com a verdade.
Já não se aplica, portanto, o chavão da imagem que “vale mais do que mil palavras” porque nem sequer é preciso o vídeo ou a imagem serem pura e simplesmente inventados, como no caso dos deep fakes; mesmo quando não são inventados, podem não ter efeito na crença das pessoas, se a força da narrativa levar cada um a escolher as alegadas “evidências” que prefere.
Por uma aprendizagem lenta
A propósito destas questões, não me canso de repetir: é preciso ensinar a interpretar. Tal tarefa terá sempre de ser multidimensional; passará, por exemplo, pelo esclarecimento do contexto e, como argumentaria Paul Ricœur, pelo equilíbrio entre uma atitude de apropriação benevolente ou de fundada suspeita perante o conteúdo que se nos apresenta.
Sublinhando, por agora, apenas uma dimensão, volto ao tema da leitura. Parece-me que perante a explosão de conteúdo “instantâneo”, devemos voltar à ideia de uma aprendizagem “lenta”. Isto é aplicável em sala de aula – nas minhas aulas, sempre que posso, promovo a leitura comentada de texto – mas as ilações que daqui podemos tirar transcendem esse contexto. É preciso fazer o elogio da lentidão, como faz Lamberto Maffei, a apologia da desaceleração (tantas vezes avançada por André Barata), por exemplo através da leitura lenta e profunda – o que também implica uma gestão criteriosa do tempo e um afastamento do “scroll infinito”. Utopia? Talvez. Mas também um caminho possível para uma vida mais esclarecida.