Acerca de

Dónde nos paramos

In the hype of A.I., we are observing a world where En el hype de la Inteligencia Artificial, observamos un mundo en el que los Estados adoptan cada vez más sistemas algorítmicos de toma de decisiones como varita mágica para «resolver» los problemas sociales, económicos, medioambientales y políticos, gastando recursos públicos de forma cuestionable, compartiendo datos sensibles de las y los ciudadanos con empresas privadas y, en última instancia, desechando cualquier intento de respuesta colectiva, democrática y transparente a los principales retos de la sociedad. Para aumentar el pensamiento crítico frente a esta tendencia, este proyecto pretende contribuir al desarrollo de un conjunto de herramientas feministas para cuestionar los sistemas de toma de decisiones algorítmicas que está desplegando el sector público.

No creemos en una AI justa, ética y/o inclusiva si los sistemas de decisión automatizados no reconocen las desigualdades e injusticias estructurales que afectan a las personas cuyas vidas son objeto de gestión por parte de estos sistemas. La transparencia no es suficiente si no se tienen en cuenta los desequilibrios de poder. Además, criticamos la idea de que los sistemas de IA se conciban para gestionar a los pobres o a cualquier comunidad marginada. Estos sistemas tienden a ser diseñados por demografías privilegiadas, en contra del libre albedrío y sin la opinión o participación desde cero de aquellos que son susceptibles de ser dirigidos o «ayudados», lo que resulta en una opresión y discriminación automatizada por parte de los Estados de bienestar digitales que utilizan las matemáticas como excusa para saltarse cualquier responsabilidad política.

Yendo más allá del enfoque liberal de los Derechos Humanos (que ignora las relaciones de poder), las teorías y prácticas feministas construyen estructuras políticas para que imaginemos otros mundos basados en la solidaridad, la equidad y la justicia socioambiental. Por lo tanto, creemos en el apoyo a los movimientos feministas para entender el desarrollo de estas tecnologías emergentes para poder luchar contra esta injusticia social automatizada, juntes, en solidaridad.

Nota sobre la metodología

Este proyecto pretende acercar los movimientos feministas a los problemas sociales y políticos que conllevan muchas decisiones algorítmicas. Para ello, nos planteamos tres preguntas de investigación:

  • ¿Cuáles son los principales ejemplos de gobiernos en América Latina implementando inteligencia artificial y otros métodos de toma de decisiones algorítmicas para abordar cuestiones de servicios públicos?
  • ¿Cuáles son las implicaciones críticas de estas tecnologías en el cumplimiento de la igualdad de género, la diversidad cultural y los derechos sexuales y reproductivos?
  • ¿Cómo podemos adaptar las teorías feministas para proporcionar directrices de defensa y equilibrar la dinámica de poder impuesta por los usos de la I.A. y otros procesos de toma de decisiones algorítmicas?

Para ello, trabajamos en una extensa revisión bibliográfica, realizamos talleres y seleccionamos estudios de caso en los que se utilizaron estos sistemas para gestionar la pobreza u otros programas de seguridad social. Para ello, trabajamos con información pública, donde nos centramos en interrogar los discursos que poseen los creadores de estas tecnologías y que permean en la opinión pública y en los tomadores de decisiones. Creemos, firmemente, que esto nos permite revelar estrategias y categorías políticas que pueden acercar estos temas a la agenda feminista más amplia y avanzar en una investigación feminista de las tecnologías digitales.

¿Preguntas y sugerencias? Por favor, póngase en contacto con nosotros en contact@notmy.ai.

Créditos del proyecto:

Un proyecto de: Coding Rights in partnership with activist Paz Peña

Investigación y coordinación: Joana Varon and Paz Peña

Diseño e ilustraciones: Clarote

Desarrollo web: Diana K. Cury

Administrador de sistemas: Nanda Monteiro

Comunicaciones: Juliana Mastrascusa and Erly Guedes

Traducciones: Trajano Pontes

Apoyo: Red de Investigación Feminista (FIRN) de la Asociación para el Progreso de las Comunicaciones – APC