Mapeo: Proyectos de IA posiblemente sesgados y perjudiciales en Latam

Los gobiernos de toda América Latina están en la etapa de prueba y pilotaje de una amplia variedad de sistemas de Inteligencia Artificial para ayudar a desplegar los servicios públicos. En este ejercicio inicial de mapeo, pudimos identificar 5 áreas de tendencia: educación, sistema judicial, policía, salud pública y prestaciones sociales. Pero ¿cuáles son las implicaciones feministas y de derechos humanos del uso de la toma de decisiones algorítmicas para determinar la provisión de prestaciones sociales y otros servicios públicos? Este es un proceso en curso para construir críticas feministas anticolonialistas basadas en casos de sistemas de inteligencia artificial.

El siguiente mapa ilustra los proyectos en los que el despliegue de sistemas de inteligencia artificial puede causar o propagar daños y discriminación basados en el género y todas sus intersecciones de raza, clase, sexualidad, edad, territorio, etc. Aunque se trata de un mapeo continuo no exhaustivo para retratar sus propias narrativas en torno a estos proyectos, ya muestra tendencias preocupantes que deberían preocupar a los movimientos feministas. Sin embargo, se necesita más información y una investigación más profunda para evaluar mejor el impacto, algo que hemos hecho para dos de ellos. ¿Has oído hablar de otros proyectos? Ayúdanos a seguirlos aquí.

Projects by area of application: