Em “Algoritmos de Destruição em Massa”, a autora Cathy O’Neil promete revelar o “lado sombrio do big data”.

A autora aborda o que chama de ADMs (Armas de Destruição Matemática), como modelos matemáticos nocivos, opacos, de mecanismos invisíveis e com ciclos viciados de feedback (retroalimentação), que têm como objetivo ordenar, atingir ou “otimizar” milhões de pessoas.

Ela fala do uso destes modelos em diversos campos da vida: educação, consumo, esporte, economia (na obtenção de crédito), saúde (na avaliação de contratação de seguros, por exemplo), segurança pública (com os mecanismos – racistas e classistas – de predição criminal) e na vida cívica (por exemplo, em campanhas e eleições).

Ela parte da premissa de que modelos são, por sua própria natureza, simplificações; e nenhum modelo consegue incluir toda complexidade do mundo real ou as nuances da comunicação humana. Apesar de sua reputação de imparcialidade, estes modelos refletem objetivos e ideologias.

Os três elementos de uma ADM são opacidade, escala e dano; e a autora defende que podem existir modelos transparentes, personalizados e controlados pelos usuários.

No entanto, com a forma como estamos (como sociedade) conduzindo a ampliação do uso destes mecanismos (sustentados apenas pelas lógicas do mercado, da eficiência e da geração de resultados e de lucro), “o resultado é criminalizar a pobreza, acreditando o tempo todo que nossas ferramentas não são apenas científicas, mas justas”.

Uma leitura didática a partir dos exemplos que ela apresenta. Apesar de exemplos bem norte-americanos, muito do que ela mostra pode ser considerado para compreender a nossa realidade.