“Armas de destrucción matemática” es un libro que arroja luz sobre cómo los algoritmos y los modelos matemáticos, utilizados en diversas áreas como la educación, las finanzas y la justicia penal, pueden perpetuar la desigualdad y amenazar la democracia. Cathy O’Neil, matemática y científica de datos, sostiene que muchos de estos modelos son opacos, operan a gran escala y causan daño, especialmente a las comunidades más vulnerables .

Al leer este libro, se puede aprender:

• Identificación de algoritmos opacos: Comprender cómo ciertos modelos matemáticos funcionan de manera invisible, afectando decisiones personales sin que los individuos puedan discernir los criterios utilizados .

• Impacto en la educación: Analizar cómo los rankings y evaluaciones basados en algoritmos pueden influir negativamente en las instituciones educativas y en los estudiantes, a menudo reforzando desigualdades existentes .

• Discriminación en seguros y finanzas: Descubrir cómo los modelos de riesgo utilizados por compañías de seguros y bancos pueden discriminar a personas de bajos ingresos o pertenecientes a minorías, basándose en datos históricos que reflejan prejuicios .

• Efectos en el sistema de justicia penal: Entender cómo los algoritmos de predicción de reincidencia pueden influir en las sentencias y decisiones de libertad condicional, a menudo en detrimento de los más desfavorecidos .

• Manipulación en publicidad y política: Examinar cómo los datos masivos se utilizan para dirigir campañas publicitarias y políticas de manera personalizada, afectando la privacidad y la autonomía de los individuos .

Este libro es una llamada de atención sobre la confianza ciega en los algoritmos y la necesidad de una mayor transparencia y responsabilidad en su uso. O’Neil aboga por una vigilancia ética de los modelos matemáticos para evitar que se conviertan en herramientas de opresión y exclusión.