Os algoritmos que nos julgam: reflexões sobre o livro Algoritmos de Destruição em Massa, de Cathy O’Neil

 

Ler Algoritmos de Destruição em Massa, de Cathy O’Neil, foi como olhar no espelho e perceber que, enquanto acreditávamos viver na era da razão matemática e da neutralidade digital, estávamos, na verdade, sendo governados por uma nova forma de poder — silenciosa, invisível e profundamente injusta.

A autora, que é matemática e trabalhou em grandes corporações financeiras, revela algo perturbador: os algoritmos, esses conjuntos de regras que hoje tomam decisões sobre nossas vidas, não são neutros. São espelhos dos preconceitos humanos, amplificados por sistemas automatizados e sustentados por interesses econômicos.

Ao longo do livro, O’Neil mostra como esses “algoritmos de destruição em massa” estão em todos os lugares — nos processos de seleção de emprego, na concessão de crédito, nas universidades, nas seguradoras e até no sistema prisional. Eles decidem quem merece uma oportunidade e quem será descartado, baseando-se em dados históricos contaminados por desigualdades sociais, raciais e econômicas.

O que me inquietou mais foi perceber que esses algoritmos reforçam o passado em vez de construir o futuro. Se um bairro pobre é considerado “de risco”, os moradores terão menos acesso a crédito; se um aluno vem de uma escola pública, o sistema pode deduzir que ele é “menos promissor”; se alguém tem antecedentes criminais, mesmo que pequenos, a inteligência artificial o condenará novamente — não pelo que ele faz, mas por quem ele é.

Cathy O’Neil usa um termo poderoso: “arma de destruição matemática”. São algoritmos opacos, implacáveis e amplamente utilizados, que destroem vidas em massa sem que ninguém perceba — e, pior, com a aparência de objetividade.
O dado que deveria libertar acaba por aprisionar.
O cálculo que deveria organizar o mundo acaba por desumanizá-lo.

Lendo o livro, pensei muito no Brasil.
Como esses mecanismos já operam aqui, silenciosamente, quando empresas usam modelos preditivos para definir quem é “bom cliente”, escolas privadas selecionam alunos por desempenho digital, e polícias empregam softwares de reconhecimento facial que erram mais com pessoas negras.
A desigualdade brasileira, combinada à automação sem transparência, é um terreno fértil para injustiças algorítmicas.

O’Neil nos convida a romper com a ingenuidade tecnológica. Ela mostra que, por trás da promessa da eficiência, existe uma ideologia de controle.
O poder dos algoritmos está em decidir sem prestar contas — e esse poder, como ela insiste, precisa ser vigiado, auditado e regulado.

Enquanto lia, percebi que a luta pela democracia digital é, hoje, tão importante quanto a luta por direitos civis no século XX.
Precisamos exigir transparência nos algoritmos públicos e privados, avaliação ética das tecnologias, e educação digital crítica, para que as pessoas compreendam como estão sendo classificadas, ranqueadas, vigiadas e moldadas.

O livro me deixou com a sensação de urgência.
Não podemos mais aceitar a desculpa da neutralidade matemática.
Os algoritmos carregam escolhas — e toda escolha é política.

Como Cathy O’Neil diz:

“Os algoritmos não tornam o mundo mais justo; eles apenas automatizam as injustiças que já existem.”

E talvez o primeiro passo para resistir a isso seja recuperar aquilo que nenhum cálculo pode prever: a nossa capacidade de indignação, empatia e transformação.

 

Sugestões de leitura complementar

  • Shoshana Zuboff – A Era do Capitalismo de Vigilância
    (Sobre como as big techs transformam dados pessoais em poder econômico e político.)
  • Virginia Eubanks – Automating Inequality
    (Análise sobre como algoritmos reforçam a pobreza e o racismo nos EUA.)
  • Safiya Noble – Algorithms of Oppression
    (Sobre como mecanismos de busca reproduzem preconceitos raciais e de gênero.)
  • Evgeny Morozov – Big Tech: A ascensão dos dados e a morte da política
    (Uma crítica à ideologia da tecnologia como solução para todos os problemas.)
  • Tarcízio Silva – Racismo algorítmico: inteligência artificial e discriminação nas redes digitais
    (Reflexão brasileira sobre desigualdade e poder no ambiente digital.)

 

Parte inferior do formulário

 

Comentários

Postar um comentário

Postagens mais visitadas deste blog

Na trilha do mestre, no compasso da memória: João Suassuna e Pedro Salustiano no CCBNB Fortaleza

  Hoje, no aconchego do auditório do CCBNB Fortaleza, assisti a um espetáculo que foi mais do que música. Foi uma travessia emocional, um gesto de amor à cultura popular brasileira. Na Trilha do Mestre , com João Suassuna e Pedro Salustiano, me tocou profundamente — talvez porque, mais do que sons e palavras, o que se compartilhou ali foi vida, afeto e legado . João Suassuna, historiador e bacharel em Direito se apresentou como neto, como testemunha sensível da trajetória de seu avô, Ariano Suassuna , um dos maiores nomes da cultura brasileira. E foi com o coração aberto que compartilhou não apenas lembranças, mas vivências íntimas , gestos cotidianos, conversas, silêncios — pedaços de uma convivência real, afetuosa, profundamente formativa.   A música como ponte entre gerações Ao lado de Pedro Salustiano, também herdeiro de um mestre — o saudoso Mestre Salustiano, guardião das tradições do maracatu e do cavalo-marinho — João transformou o palco em território de memóri...
Leia mais

Capiba, a música que pulsa em nossa memória

  Ainda estou com os olhos molhados. E o coração, em compasso acelerado, como se tivesse dançado frevo por dentro. Sentei na poltrona do Teatro RioMar Fortaleza nesta quinta e saí de lá carregando muito mais do que uma melodia: levei comigo pedaços de uma história que também é minha, mesmo sem ser pernambucano, mesmo sem ter vivido o Recife de Capiba. Porque é disso que a boa arte é feita: daquilo que nos atravessa e nos pertence mesmo sem nos pedir licença. O musical "Capiba" , apresentado pelo Projeto Aria Social , é um abraço na memória coletiva brasileira. Um mergulho musical que une o refinamento da música erudita com a força do popular — exatamente como fazia o compositor Lourenço da Fonseca Barbosa, o nosso Capiba. Um gênio do frevo, do lirismo amoroso, das orquestras e da alma nordestina. Logo nos primeiros acordes, já senti algo que há tempos não encontrava em espetáculos musicais: autenticidade. Não era apenas uma homenagem. Era uma encarnação cênica daquilo que...
Leia mais

Fabíola Liper canta Ângela Rô Rô: quando a voz vira testemunho do indizível

  Hoje, no CCBNB Fortaleza, senti algo raro: aquela vibração íntima que só aparece quando uma intérprete não está apenas cantando, mas devolvendo ao mundo, com seu próprio corpo, o peso e a leveza de outra artista que atravessou décadas com uma sinceridade brutal. Fabíola Liper subiu ao palco para cantar Ângela Rô Rô — e, de algum modo difícil de explicar, saiu dali também cantando a nós. Cantando a mim. A apresentação começou sem alarde, como se ela estivesse chegando na sala da nossa casa, segurando com cuidado as canções que moldaram gerações de amores tortos, noites inteiras e sobrevivências. E foi exatamente isso que me tocou: Fabíola não imitou Ângela. Ela a escutou. Escutou seus abismos, seus ímpetos, seu sarcasmo, seu humor ferido, seu erotismo direto, sua coragem sempre entrecortada por dores que o Brasil insistiu — e insiste — em não querer ouvir. Logo nos primeiros versos, minha memória fez aquele gesto automático de procurar a voz grave de Rô Rô. Mas o que vinha era...
Leia mais