Comentário

Rui Alexandre Grácio [2024]

Texto interessante pela questão que coloca e pela maneira como a responde, deslocando o problema dos vieses do plano técnico para o plano político. É também interessante ter convocado o chamado “frame problem” e equacionado a questão de saber se a IA pode replicar o senso comum, questão a que responde negativamente e enfatizando a sensibilidade contextual e a impossibilidade de a formalizar.

Destaques

Rui Alexandre Grácio

"Nesse cenário, argumenta-se que o problema dos vieses está associado a questões não técnicas que devem ser discutidas em espaços públicos.” p. 39

"Algo análogo se dá no caso dos vieses. Não parece possível criar uma teoria geral do viés, que permita aos engenheiros elaborar uma solução geral para a questão. A depender dos objetivos específicos e das situações concretas com as quais lidamos, o que pode ser adequado num caso pode se mostrar inadequado em outro. Isso sugere que pode haver uma dificuldade mais profunda envolvida na tentativa de gerar modelos isentos de viés. Uma dificuldade que não depende da existência ou não de boas técnicas de engenharia, e que não pode, portanto, ser tomada como um mero problema técnico.” p. 46

"Contemporaneamente, contudo, pode-se afirmar que essa concepção de inteligência abarcava somente a ponta do iceberg. Isso se mostra quando deixamos de prestar atenção aos alegados sucessos da IA, e passamos a focar nas razões dos seus fracassos. Foram eles que tornaram saliente a importância da sensibilidade ao contexto, isto é, a capacidade de se adaptar, de modo rápido e fluido, às mais variadas nuanças circunstanciais.” p. 47

"Chamemos os domínios dependentes do senso comum de domínios abertos e os independentes de domínios fechados.” p. 49

"A distinção entre domínios abertos e fechados é importante para compreender os problemas enfrentados pela IA porque, em modelos computacionais, todo contexto é forçosamente tratado como se fosse saturado. A tentativa de modelar contextos insaturáveis enfrenta desafios que muitos autores entendem ser insuperáveis.” p. 50

"Como vimos anteriormente, os contextos que caracterizam nossa estruturação do mundo têm caráter insaturável. Isso significa que, aquilo que é adequado ou não a uma dada circunstância pode variar enormemente em função de uma quantidade potencialmente infinita de elementos.” p. 51

"A mitigação dos vieses, portanto, depende de um pano de fundo regulatório que envolve, necessariamente, o conjunto de valores e interesses públicos vigentes. Tratá-la como uma questão técnica é chegar tarde demais. 
Tudo o que foi discutido até aqui torna saliente o quão potencialmente perigoso é o abuso do termo “inteligência” para caracterizar sistemas automatizados. A recepção que essas tecnologias vêm obtendo nas organizações públicas e privadas raramente leva em conta sua incapacidade de tratar adequadamente o caráter insaturável dos contextos subjacentes às motivações humanas.” pp. 58-59

"Essa prática fez com que, paulatinamente, a ideia da internet como um oceano a ser desbravado de igual modo por todos, fosse substituída pela imagem de uma lagoa artificial construída sob medida para cada indivíduo.” p. 61

"Além disso, é fundamental compreender os modelos como aquilo que são: automações de atividades em domínios fechados. Desse modo, não deixamos de enxergar que a caracterização desses domínios, isto é, a determinação daquilo que deve ser levado em conta no “raciocínio” realizado no interior dos modelos, precisa ficar sob nossa responsabilidade, e não submetida ao arbítrio dos engenheiros ou das plataformas que os financiam.” pp. 66-67