Recensão

Rui Alexandre Grácio [2025]

Escrito de um modo fluente, e de boa leitura, o livro apresenta-nos muitas informações úteis sobre a IA, sua história e seus impactos. Não sendo um livro sistemático, abrange contudo as principais questões a ter em conta para uma reflexão sobre a IA.
Os autores são, de certa maneira, prudentes na maneira ambivalente como tematizam a IA. Por um lado, expõem as potencialidades e os deslumbramentos associados à IA, mas, por outro, não deixam de evocar questões críticas e deixar em suspenso reflexões preocupadas.
São muito interessantes as reflexões feitas em torno dos chatbots e a questão da apropriação da conversação pela interlocução maquínica.
De qualquer forma, há sempre uma preocupação crítica transversal no livro e também na abordagem da IA. Assim, pode ler-se na página 126: “O risco, aqui, radica em delegar excessivamente aptidões que sejam cruciais para o nosso processo de pensamento e, deste modo, perder autonomia em aspetos essenciais da vida. Da mesma maneira que não podemos dar-nos ao luxo de deixar de caminhar, também não deveríamos habilitar um uso da IA que acabe por hipotecar o nosso futuro e que nos torne realmente dependentes dessa ferramenta”.
Outra afirmação interessante é a que é feita na página 131: “Sem memória, não há pensamento ou inteligência, nem artificial nem humana”. Esta frase faz-me pensar, com efeito, numa das distinções em que me parece devermos considerar quando falamos em inteligência humana e inteligência artificial: a do tipo de memória a que cada uma se associa. Podemos, aliás, perguntar se a memória associada ao processamento digital é uma memória narrativa e como é que nela funcionam os processos de saliência e de filtragem. Teremos aí uma das distinção entre o humano e a IA?
Noutra passagem, os autores colocam a questão do sentido na sua ligação com o corpo. Assim, perguntam: “Quando uma IA faz um trabalho, quem recebe o abraço, a sensação de ter feita alguma coisa que valer a pena e que dá sentido e significado à vida" (p. 147).
Outra questão levantada pelos autores pode ser lida na seguinte passagem da página 186: “A sociedade trabalha ativamente na consciencialização e prevenção de dependências de substância de consumo problemático, mas não vê inconveniente que a Netflix categorize algumas das suas séries ‘aditivas’ ou que videojogos ou redes sociais se valham de mecanismos para nos deixar ‘agarrados’”.
É que é preciso não só perceber quando os humanos são previsíveis como, também, que “os algoritmos conseguem assim compreender de forma inédita a geometria do desejo e as razões que levam alguém a fazer alguma coisa” (p. 186).
Alertando também para os perigos sociais e políticos da IA (o que remete para o termo “algocracia”, utilizado por Paulo Vicente), escrevem os autores: “A inteligência artificial sai da circularidade previsível das máquinas e insere-se, em pleno, no imprevisível, no que foi sempre território da polis, o local mais seleto do devir humano” (p. 203).
Na sequência deste questionamento, os autores relembram também o conceito de “servidão humana” para, uma vez mais, nos fazerem refletir. Assim, escrevem: “É o que Étienne de la Boétie, há quase quinhentos anos, descreveu no seu ensaio Discurso sobre a Servidão Voluntária. O flósofo dizia que a dominação, muitas vezes, começa sob a forma de violência, mas que progressivamente se converte num acordo tácito (como os macacos que deixam de amontoar as caixas sem saber porquê). Diz o ensaísta que toda a servidão procede em exclusivo do consentimento daqueles sobre quem se exerce o poder. Em plena efervescência da IA, ante o temor de que as máquinas nos dominem e o desafio de como apresentar uma resistência humana, convém recordar esta ideia: a dominação só ocasionalmente sucede pela força. Em seguida, instala-se, durante séculos, sob a forma de compulsões e costumes que assentam no que é mais vulnerável na natureza”.
Esta é uma boa passagem para fechar esta pequena passagem de olhos sobre este livro que é estimulante, bastante informativo (sem ser massudo) e que convida de um modo agradável a refletir sobre as questões que a presença da IA coloca, nomeadamente quando, como aconteceu com o surgimento das ciências humana após das ciências da natureza, ao sempre desejado controlo humano da natureza (e inspirado no modelo que parecia cumprir esse designo), se passou agora ao controlo tecno-científico de dominação do humano.