Destaques

Rui Alexandre Grácio [2024]

«RESUMO
Diante dos avanços recentes da inteligência artificial, a presente nota de conjuntura busca recolocar questões fundamentais que emergem nesse contexto. Deslocando-se tanto das leituras salvacionistas quanto apocalípticas, argumentamos que a perda do privilégio do excepcionalismo humano pode ser uma oportunidade para repensar a inteligência a partir de uma perspectiva relacional e co-produzida entre humanos e outros-que-humanos. Tal perspectiva, no entanto, deve ser acompanhada de um olhar atento às relações de poder que em grande medida definem os destinos da IA. Sobre esse aspecto, apontamos as implicações do modelo epistêmico e de negócios hegemônico da IA, um modelo preditivo-aceleracionista dominado por grandes empresas de tecnologia. Finalmente, destacamos alguns riscos envolvidos na inclusão de máquinas inteligentes no campo da saúde, bem como os perigos da subordinação de valores e direitos públicos a interesses comerciais, o que demanda uma atenção e um cuidado coletivos e permanentes na construção dos arranjos sociotécnicos e políticos de implementação da IA nesse campo.
Palavras-chave: Inteligência artificial; Ontologia relacional; Saúde; Extrativismo de dados.» (p. 235)

«Um primeiro movimento para nos ressituarmos diante dos deslocamentos provocados pela chamada “era da inteligência artificial” diz respeito ao problema da perda do excepcionalismo humano, isto é, do lugar privilegiado e central que o homem ocupou na modernidade ocidental.» (p. 237)

«E se, ao invés de nutrir os fascínios e temores que a lógica competitiva suscita, aproveitarmos o “abalo existencial” desencadeado pela perda do privilégio ontológico e epistemológico 2 (BARAD, 2003, 2007) para começar a pensar a inteligência a partir da relacionalidade, coprodução e interpelação mútua entre agentes heterogêneos? Afinal, sabemos que grande parte dos desastres em curso foram produzidos a partir do arrogante pedestal do excepcionalismo humano (ao qual nem todos os humanos tinham acesso, uma vez que o lugar de domínio do humano frente à natureza foi acompanhado de toda sorte de hierarquias e discriminações entre humanos).» (p. 237)

«A física e teórica feminista Karen Barad propõe a noção de ontoepistemologia para descrever o estudo do entrelaçamento de práticas de saberes no ser (Barad, 2007). Para ela, “a separação entre epistemologia e ontologia é o efeito de uma metafísica que pressupõe uma separação intrínseca entre o humano e o não-humano, o sujeito e o objeto, a mente e o corpo, a matéria e o discurso.” (BARAD, 2003, p. 829; tradução nossa).» (p. 237)

«Ao invés de atributo restrito a determinados entes (sempre demasiado humanos, masculinos, brancos, ocidentais), a inteligência pode ser entendida, de acordo com Bridle, como “algo que surge a partir de inter-relações, de pensar e agir em conjunto” (2023, p. 89). Ou como propõe Malabou (2018, tradução nossa), “a inteligência não é. Ela age. Não é de modo algum uma substância, algo que possuímos da mesma forma que possuímos órgãos, por exemplo, mas uma dinâmica. A inteligência constrói relações entre as coisas, entre os indivíduos, as ideias, as máquinas…”. (…) Temos décadas de pesquisa e conhecimento produzidos nesse terreno e as recentes máquinas computacionais nos convocam mais uma vez a recolocar o problema do pensamento e da inteligência humana e de suas conexões com outras formas de inteligência e de agência com as quais agora convivemos. (…) O estranhamento que a performance das IAs generativas nos causam é, assim, uma ocasião para repensar e refazer coletivamente conexões, modos de vida e mundos com as máquinas, entendidas nem como senhoras nem como servas, mas como máquinas companheiras (BEIGUELMAN, 2023; HARAWAY, 2019).
Recolocar o problema a partir dessa perspectiva é uma aposta em uma ontologia relacional (BARAD, 2007, HARAWAY, 2023). Ou seja, não se trata somente de compreender a inteligência como processo relacional, mas também de entender que a relacionalidade modifica os próprios entes nela envolvidos. A questão não é tanto se o humano se tornará (ou não) obsoleto nesse novo arranjo, mas sobretudo como essa relação maquínica-humana, que tende a ser cada vez mais íntima e complexa, transforma o que somos e o que historicamente se entende como o humano.» (p. 238).

«É um modelo preditivo-aceleracionista, regido por uma temporalidade que aposta na otimização ininterrupta como sinal de eficácia, alheio, por consequência, a outras temporalidades mais estendidas e fundamentais para o debate público e para as deliberações políticas coletivas. (…) Focar nossa lente analítica no presente revela que as aplicações de maior impacto da IA tendem a ser aquelas que permeiam instituições e práticas de maneira muito menos visível e cujos efeitos incidem na vida das pessoas de maneira muito mais corriqueira, seja no uso de sistemas biométricos em espaços públicos e privados ou na automatização de decisões em setores como o trabalho, crédito financeiro, segurança pública, habitação, justiça, educação etc. Trata-se, assim de um momento oportuno para dirigirmos nossa atenção para o uso de IA em campos sensíveis como o da saúde e do cuidado.» (p. 239).

«Mais do que más práticas no uso de dados sensíveis ou mau funcionamento dos sistemas, os casos manifestam os perigos de delegar soluções da esfera comum a entes privados, subordinando os valores e direitos envolvidos em uma concepção pública e universal de saúde – como inclusão, equidade, transparência e interesse público – aos valores e interesses comerciais de grandes empresas.» (p. 240)

«Além disso, é preciso que as inovações nesse campo estejam a serviço da redução das desigualdades sociais da saúde (Fassin, 2020) e não percam de vista as assimetrias de poder envolvidas, o que passa pela revisão contínua dos impactos de tais artefatos em indivíduos e populações e pela criação mecanismos de responsabilização e controle voltados para o bem coletivo (COSTANZA-CHOCK, 2020). Passa também pelo combate à dependência dos mercados e das big techs e pelo fortalecimento de práticas colaborativas baseadas em contextos locais, assim como nas diferentes necessidades das comunidades e em seus contextos históricos (ESCOBAR, 2018). A produção da saúde coletiva é marcada pela atenção continuamente renovada ao tecido heterogêneo de processos sociais, políticos, econômicos e subjetivos que constituem a experiência da saúde, jamais reduzida a uma definição biológica ou médica. Essa atenção é desafiada a incluir as recentes formas de inteligência maquínica na teia de coprodução de políticas de saúde, escapando tanto do fascínio pelo solucionismo tecnológico quanto do conforto meramente instrumental.» (p. 240)