Bem-vindo ao outro lado do Big Data.
Vivemos na Era do Algoritmo. Cada vez mais, as decisões que afetam nossas vidas ― onde estudamos, se obtemos um empréstimo para comprar um carro, quanto pagamos pelo seguro saúde ― estão sendo tomadas por modelos matemáticos. Em teoria, isso deveria nos conduzir para um mundo mais justo: todos são julgados de acordo com as mesmas regras e o preconceito é eliminado. Mas, como Cathy O'Neil revela neste livro urgente e necessário, a verdade é justamente o contrário. Os modelos usados hoje são opacos, não regulamentados e incontestáveis, mesmo quando estão errados. O mais preocupante é que eles reforçam a discriminação: se um estudante pobre não consegue obter um empréstimo porque o modelo matemático o considera muito arriscado (graças ao endereço onde mora), ele também é recusado na universidade que poderia tirá-lo da pobreza.
Os algoritmos criam uma espiral discriminatória. Os modelos amparam os privilegiados e punem os oprimidos, criando um "coquetel tóxico para a democracia.