Recensão

Rui Alexandre Grácio [2026]

Trata-se de uma obra de divulgação crítica sobre como os modelos matemáticos e os algoritmos, quando usados em larga escala e sem escrutínio, podem amplificar injustiças sociais em vez de as corrigir. O’Neil chama “WMDs” a sistemas que combinam opacidade (não se percebe como decidem), escala (afetam muita gente) e dano (produzem consequências negativas reais), sobretudo para grupos já vulneráveis.
A autora percorre exemplos em áreas como emprego, educação, policiamento, crédito/seguros e marketing político, mostrando um padrão recorrente: os modelos usam proxies (variáveis que “substituem” o que se queria medir) e dados históricos enviesados; transformam decisões complexas em pontuações aparentemente objetivas; e criam ciclos de retroalimentação em que quem é prejudicado passa a ter ainda menos oportunidades, “confirmando” o próprio modelo. Um dos méritos do livro é explicar, com linguagem acessível, por que a ideia de que “os dados são neutros” falha quando a medição é imperfeita e na medida em que o objetivo do sistema está desenhado para eficiência/controlo não sendo aplicável a questões de justiça.

O livro é convincente na argumentação e forte nos alertas éticos e cívicos: defende auditoria, transparência, responsabilização e métricas de equidade, tratando algoritmos como infraestruturas de poder que devem ser reguladas. A principal limitação é que alguns casos são apresentados mais como narrativa e diagnóstico do que como análise técnica aprofundada, o que pode deixar leitores mais especialistas a pedir maior detalhe metodológico. Ainda assim, é uma leitura importante por ligar tecnologia, economia e desigualdade de forma clara e mobilizadora, funcionando como porta de entrada sólida para pensar IA e decisão automatizada com responsabilidade.