# data[].attributes.headline
Premian a Sylvia Marcos, impulsora del movimiento feminista en México

# data[].attributes.subject
Premian a Sylvia Marcos, impulsora del movimiento feminista en México

# data[].attributes.body
Sylvia Marcos, reconocida psicóloga, antropóloga y socióloga, ha sido galardonada con el premio Frantz Fanon "Trayectoria de Vida" 2024, por su destacado compromiso con los movimientos indígenas y feministas en América. Su enfoque en la epistemología crítica feminista y el feminismo decolonial desafía los modelos hegemónicos del norte global y promueve una visión más inclusiva y antihegemónica. En esta noticia talvez no se aborda el feminismo decolonial como tal pero por ella ser reconocida en este tema y ahora premiada . Es un gran paso para que se reconozca y se impulse este movimiento en Mexico. Yo soy creente de que esta es la manera correcta de deconstruir es por la realizacion. Estoy seguro que mucho de los problemas en Mexico es por el feminismo liberal, ya que callan y apagan la severedad del problema . Por la consciencia y la otorgacion de problemas el mundo se mueve y nosotros con el.

# data[].attributes.headline
Reflexiones feministas para el desarrollo de Inteligencia Artificial

# data[].attributes.subject
Reflexiones feministas para el desarrollo de Inteligencia Artificial

# data[].attributes.body
El texto presenta iniciativas en América Latina para desarrollar inteligencia artificial (IA) desde una perspectiva feminista, lo que implica una narrativa que reconoce la importancia de incluir las voces y perspectivas de mujeres en el ámbito tecnológico, desafiando así las narrativas tradicionales que han marginado a las mujeres en este campo. Las dinámicas de poder reflejadas incluyen la reproducción del clasismo, el racismo y sesgos eurocéntricos, ya que históricamente estos sistemas de opresión han excluido a mujeres y comunidades marginadas de participar en la creación y definición de la tecnología. Desde un punto de vista feminista decolonial, se podría deconstruir esta tendencia promoviendo una mayor diversidad y equidad en la industria tecnológica, fomentando la participación activa de mujeres y personas de comunidades marginadas en el desarrollo y toma de decisiones en torno a la IA. Además, se podría trabajar en la descolonización de las metodologías de investigación y desarrollo, incorporando prácticas que respeten y valoren los conocimientos y perspectivas locales, así como en la promoción de políticas inclusivas y medidas afirmativas para contrarrestar los efectos del clasismo, el racismo y los sesgos eurocéntricos en la tecnología. El principal objetivo o problema que se encuentra en este momento es el hecho que la informacion que esta en las redes y base de datos ya tiene machismo o conceptos humanos muy adaptados.

# data[].attributes.attachment_link.readable_text
CC:BY (Maria José Porras Sepúlveda)

Durante el primer semestre de 2022, Derechos Digitales desarrolló, con apoyo de la red f<A+i>r, una guía sobre Inteligencia Artificial (IA) feminista titulada Hacia un marco feminista para el desarrollo de IA: de los principios a la práctica.

El documento comienza con la pregunta " ¿Es posible desarrollar IA que no reproduzca lógicas de opresión? ", invitándonos a reflexionar en torno a cómo entendemos el campo de la IA y cuál es la participación de América Latina en los escenarios de producción de conocimiento en este campo, cuáles son los problemas de discriminación asociados a la manera en que se configura el campo de la IA actualmente y qué propuestas alternativas para la gestión cuidadosa de los datos existen. En el fondo, se trata de intentar comprender cómo las prácticas feministas pueden sentar las bases para el desarrollo de una IA inclusiva y con sentido de justicia social.

Para continuar esta discusión, entre enero y febrero de 2023, Derechos Digitales organizó una serie de conversatorios entre mujeres latinoamericanas que se encuentran desarrollando sistemas de Inteligencia Artificial al alero de la red f<A+i>r, junto a otras mujeres expertas en IA en la región. El objetivo principal de estos encuentros fue incentivar la reflexión a partir de experiencias de desarrollo de proyectos concretos. Intercambiar recomendaciones y metodologías aplicables al diseño de los sistemas, con perspectivas feministas.

Este texto está disponible en inglés y portugués.

Sobre la construcción de este texto

Abajo se encuentra una breve descripción de las temáticas abordadas en cada uno de los espacios de diálogo realizados a lo largo del proyecto:

El primer encuentro, realizado el 26 de enero de 2023, se tituló "Las tecnologías como procesos colectivos" y contó con la participación de Sofía Trejo e Iván Meza, quienes se encuentran desarrollando el proyecto "Agente conversacional para apoyar el ejercicio digno de la interpretación en lenguas indígenas en el ámbito jurídico en México". Conversaron con Karla Prudencio, directora de la Licenciatura en Derecho del Centro de Investigación y Docencia Económicas de México, sobre compromisos metodológicos para el codiseño entre comunidades, entendiendo, comprendiendo y colaborando con sus necesidades.

En el encuentro "Inteligencia Artificial, ¿para qué y para quién?", realizado el 31 de enero de 2023 junto a la experta Fernanda Carles, se intentó responder a la pregunta: ¿cuáles son los pasos a seguir para construir un sistema de IA? Carles mencionó algunas consideraciones a tener en cuenta en cada paso del desarrollo de proyectos de IA con un objetivo social.

La tercera sesión, realizada el 2 de febrero bajo el título "Poder feminista - Poder de la IA. Conexiones y disrupciones", se planteó como una conversación entre Cristina Martínez Pinto y Luz Elena González, coordinadoras del proyecto "Perspectiva de género en el trabajo colectivo de IA en el Sur Global", con Gina Neff, directora ejecutiva del Minderoo Center for Technology and Democracy. Las participantes dialogaron sobre cómo desarrollar posibles estrategias para lograr la participación de las mujeres trabajadoras colectivas o crowd workers en esfuerzos de conexión y organización de forma digital.

En "¿Se puede ajustar el enfoque feminista a los protocolos?", cuarta y última sesión del ciclo, realizada el 8 de febrero, Virginia Brussa, una de las responsables del proyecto "Integración de la perspectiva de género al diseño de proyectos de Data Science para el sector público en Latam", intercambió con Maia Numerosky, ingeniera en ciencia de datos, quien compartió sus perspectivas sobre el desarrollo y despliegue de proyectos de este tipo desde el sector público y la academia.

Los conversatorios contaron con la facilitación de Adriana Castrillón y Juliana Guerra, y la participación activa de personas del equipo de Derechos Digitales y del nodo de América Latina y el Caribe del proyecto f<a+i>r.

Iniciativas de IA feminista en América Latina

CC:BY (Maria José Porras Sepúlveda)

América Latina ha sido un importante centro de producción y reflexión sobre tecnologías feministas y en materia de IA no es diferente. Desde 2020, la red f<a+i>r, viene creando un espacio de intercambio y fortalecimiento de una serie de iniciativas que se proponen pensar y desarrollar una IA inclusiva y transformadora. Actualmente, la red es liderada por Women at the Table, el Tecnológico de Costa Rica y el Tecnológico de Monterrey, con el apoyo del International Development Research Centre ( IDRC), y tiene un activo nodo en América Latina y el Caribe. Además de constituir una red, f<a+i>r promueve la investigación y la experimentación con la producción de IA feminista.

A continuación encontrarás más detalles de los proyectos de IA feminista discutidos durante los diálogos impulsados por Derechos Digitales y que fueron apoyados y financiados por la red f<a+i>r en América Latina entre 2022 y 2023

Agente conversacional para el apoyo al ejercicio digno de la interpretación en lenguas indígenas en el ámbito legal

La iniciativa buscó codiseñar con intérpretes de lenguas indígenas un agente conversacional que permitiera a las personas intérpretes generar datos de forma colaborativa para visibilizar las problemáticas que enfrentan en el día a día al desarrollar su labor; mejorar la planeación y toma de decisiones; dar mayor poder de incidencia en política pública a las personas intérpretes y a sus organizaciones en temas relacionados con interpretación y acceso a justicia en México. De manera complementaria el agente permitiría a las personas intérpretes construir conocimientos colectivos (como glosarios) que pudieran servirles como herramientas de apoyo en su labor.

El proyecto buscó alinear todos sus procesos y resultados con los principios de codiseño, beneficios compartidos, autonomía digital y soberanía de los datos. Para poder accionar estos principios, una parte fundamental del trabajo de investigación se sustentó en talleres presenciales, que sirvieron como espacio de diálogo y escucha. Además de los principios, el proyecto tomó en consideración la perspectiva de género de manera transversal durante todo su desarrollo. No solo al buscar la equidad en cifras, sino al generar un espacio (un taller de género) que permitiera incorporar la perspectiva de género en el diseño del proyecto y del agente.

Fue importante para el proyecto que todos los procesos de desarrollo estuvieran enfocados en balancear las relaciones de poder entre los diversos actores involucrados, particularmente entre el equipo de investigación, las personas intérpretes y los grupos de intérpretes. Este ejercicio se vio reflejado en la metodología de trabajo, que incluyó la elaboración de un protocolo de investigación y acuerdos comunitarios, y el establecimiento de estrategias para accionar los Principios CREA para el manejo de datos indígenas a lo largo del proyecto.

Más información sobre el proyecto y las personas intérpretes que colaboraron en su desarrollo puede ser consultada en su sitio web.

Integración de la perspectiva de género al diseño de proyectos de ciencia de datos para el sector público

Esta iniciativa tuvo por objetivo formular una metodología de diseño de proyectos de ciencia de datos para funcionarios públicos, a partir de dimensiones alternativas de análisis y de propuestas de acción regional. En el análisis se integran enfoques provenientes del campo de la justicia de datos, del diseño y la interseccionalidad, para promover una implementación crítica de la ciencia de datos en la arena pública y profundizar etapas claves que fortalezcan la formulación de preguntas, conformación de equipos y la naturaleza híbrida de los datos inherentes a los procesos de toma de decisiones.

La metodología de desarrollo incluyó la realización de tres talleres en octubre y noviembre de 2022 en Rosario, Argentina, dirigidos a funcionarios públicos y activistas de diversos campos de la región. Durante los talleres se exploraron y validaron cambios a una ficha de diseño de proyecto utilizada en Chile y publicada en una guía del Banco Interamericano de Desarrollo (BID) para América Latina. En esas instancias se buscó entender la necesidad de una estrategia de gobernanza, la importancia de la participación pública en proyectos de ciencias de datos desde el Estado y el concepto de justicia de datos como alternativa a la idea de ética de datos.

Como resultado, la iniciativa propone la reformulación de las fichas de proyectos de ciencias de datos en el sector público considerando una revisión interna, los aportes colectivos de los talleres en línea realizados y un análisis a partir de un conjunto de dimensiones exploratorias. Los cambios principales se refieren a la inclusión de instrumentos participativos en las distintas etapas del diseño, de una estrategia de gobernanza de proyectos y una visión transversal e iterativa de justicia de datos, en clave feminista.

" Tuvimos que adaptar los materiales para los talleres, no solo para hablar de las cuestiones técnicas, sino del enfoque feminista. Surgieron preocupaciones con la afectación al derecho a la privacidad, pero no tanto con los derechos a la comunicación o la información. Hay que seguir pensando en cómo comunicar los temas de ciencia de datos para poblaciones afectadas por este tipo de proyectos y en qué derechos necesitamos", indicaron Virginia Brussa y María Paz Hermosilla, responsables del proyecto.

Un artículo completo sobre el proyecto se puede leer aquí.

Avanzando una perspectiva de género para las Crowd Workers en IA desde el Sur Global

Se trata de un proyecto de investigación sobre las mujeres latinoamericanas que trabajan etiquetando contenidos que serán utilizados para el entrenamiento de modelos de IA, las llamadas Crowd Workers. La investigación incluyó la realización de encuestas para comprender quiénes son, cómo trabajan y cuáles son sus necesidades.

A partir de la comprensión de sus contextos, sus realidades familiares y los principales desafíos que enfrentan, el proyecto propone el desarrollo de una plataforma de IA que incluya perspectivas feministas para las plataformas de Crowd Work, permitiendo a las trabajadoras intercambiar informaciones, generar asociaciones y conseguir escalar los sistemas.

"Encontramos que estas mujeres no cuentan con canales de comunicación para conectar con otras trabajadoras ni con herramientas de traducción para muchas de las tareas que realizan. Nuestra plataforma, apoyada por IA, va a recomendarles herramientas que les ayuden a desarrollar habilidades para su crecimiento profesional y les permitirá conectar con otras colegas", afirman las responsables del proyecto.

La descripción completa del proyecto y sus hallazgos puede ser encontrada aquí.

CC:BY (Maria José Porras Sepúlveda)

La Inteligencia Artificial ha incorporado una serie de conceptos específicos al lenguaje cotidiano y la construcción de sistemas de IA feminista requiere examinarlos e interrogarlos. En IA, como en cualquier campo, el lenguaje no es neutral y las expertas latinoamericanas investigando y desarrollando sistemas han repensado esos conceptos en sus propios términos y palabras.

La misma idea de "Inteligencia Artificial" ha estado sujeta a cuestionamientos y fue objeto de discusión durante los diálogos. Fernanda Carles la define como la capacidad de un sistema de adaptarse a su ambiente para resolver un problema, operando con insuficiencia de conocimientos y recursos. Se trataría de sistemas que están diseñados para procesar una cantidad enorme de información y que pueden resolver problemas que los humanos no. En algunos casos es más rápida " y, bien diseñada, puede ser más objetiva ", apunta.

Carles diferencia dos tipos de IA: la Inteligencia Artificial angosta y la general. "La IA angosta es la que vemos que se está desplegando hoy en día, la que existe fuera de la teoría. Está enfocada en tareas específicas o delimitadas. No tienen conciencia, autoconciencia o habilidad de pensar", a diferencia de lo que la idea misma de "inteligencia" podría sugerir.

Por su parte, la experta apunta que la IA general es un desarrollo que solo existe en teoría, pues no se ha hecho realidad. La idea es generar sistemas computacionales que puedan experimentar la información de formas similares a la de los seres humanos, que tengan la capacidad de aprender, generalizar, aplicar conocimientos y planificar el futuro, que sea creativa, exprese emociones y que pueda trabajar sin supervisión.

Matteo Pasquinelli y Vladan Joler, en un manifiesto sobre la IA como mecanismo de extracción del conocimiento, apuntan que en la expresión "Inteligencia Artificial" el adjetivo artificial conlleva un mito de autonomía de la tecnología, tal como explica Carles sobre la idea de IA general. Según ellos, tal idea mistifica dos procesos de alienación en favor de un régimen corporativo extractivista del conocimiento humano: la autonomía geopolítica de las empresas de tecnología y la invisibilización de la autonomía de las personas trabajadoras. En su trabajo, plantean cambiar tal lógica y pensar el aprendizaje de máquinas como un instrumento para ampliar el conocimiento. Su reflexión completa puede ser leída en portugués aquí.

Fernanda Carles introdujo otros dos conceptos también centrales para el desarrollo de proyectos de Inteligencia Artificial: modelado y ponderación.

El modelado de datos es el proceso de documentar un diseño de sistema de software complejo como un diagrama de fácil comprensión, usando texto y símbolos para representar la forma en que los datos necesitan fluir. El modelado no indica cómo va a ser la red, sino el tipo de datos que lo va a alimentar. "Agrego datos que yo conozco, controlo lo que salga y con eso analizo qué nueva información puede darme", indica Carles.

Ella explica que el análisis de correlación permite entender qué grado de dependencia tiene la variable objetivo (lo que se quiere predecir o clasificar) con otras variables. Con esto es posible tomar decisiones acerca de qué datos usar o no, y qué importancia tiene cada variable en el sistema desde un punto de vista matemático.

Maia Numerosky apunta que "los datos son un aspecto fundamental" en un sistema de IA.Ella enfatiza cómo los datos representan relaciones de poder: la disponibilidad de unos datos u otros representa relaciones sociales más profundas. "Por ejemplo contamos con menos datos de las personas que trabajan de manera informal, menos datos de abortos clandestinos, menos datos de personas trans y no binarias. Ningún trabajo de mitigación de sesgos que se haga sobre los algoritmos produce una mejora sobre la base de datos".

De esta manera, un primer problema a la hora de considerar implementar un modelo de IA está en la disponibilidad y representatividad de los datos, además de los criterios considerados a la hora de su recolección. La indisponibilidad o falta de representatividad de los datos puede producir una serie de problemas. Por ejemplo, respecto del entrenamiento de los sistemas, la falta de datos va a significar que hay cosas que los sistemas nunca van a poder "aprender" y eso va a impactar en sus resultados.

En la investigación Inteligencia Artificial & Inclusión, liderada por Derechos Digitales y desarrollada en alianza con un conjunto de organizaciones académicas y de sociedad civil latinoamericanas, se pudo detectar los impactos de conjuntos sesgados de datos a la decisión mediada por sistemas automatizados. En esos casos, los sesgos pueden impactar en la calidad de vida y la autonomía de las personas afectadas, además de potencialmente reiterar su condición de exclusión y profundizar desigualdades pre-existentes.

Hablando sobre el uso de IA en el ámbito de políticas públicas, Numerosky apunta que " el problema es dónde y cómo se recogen los datos. Los datos deben ser recogidos con calidad y con criterios claros por los distintos organismos". De lo contrario, será imposible analizarlos y generar información relevante para el desarrollo de políticas públicas.

Numerosky distingue entre dos tipos de datos sobre los que trabaja la IA: datos críticos y datos no críticos. Los primeros serían datos personales, mientras que los segundos son datos que refieren a objetos o accesorios. En cualquier caso, puede tratarse de una distinción tenue, porque también los objetos pueden revelar informaciones personales e incluso, sensibles.

La disponibilidad y exactitud de los datos, por lo tanto, puede implicar la existencia de sesgos que, si no son detectados y abordados desde el inicio, pueden impregnar todo el sistema, afectando sus resultados. Un sesgo ocurre cuando hay un peso desproporcionado a favor o en contra de un dato u otro. Ahí es importante recordar lo que resaltaba Numerosky: al hablar de datos, muchas veces nos referimos a informaciones recolectadas o inferidas de personas reales, que serán afectadas por dichos sesgos.

Los sesgos pueden ocurrir en la fuente de recolección, cuando la población no es representativa del fenómeno a ser estudiado. También puede haber sesgos en el diseño del protocolo, sesgos de ingeniería de datos o de los mismos algoritmos. Por ejemplo, arreglos estadísticos realizados en las bases de datos pueden distorsionar la investigación: " si metes basura en tu modelo, te va a devolver basura ", resume Fernanda Carles.

Otro concepto importante surgido en las conversaciones fue el de datos abiertos, que se refiere a una filosofía y práctica que persigue que determinados tipos de datos estén disponibles de forma libre para todo el mundo, sin restricciones de derechos de autor, de patentes o de otros mecanismos de control técnicos o jurídicos. Los datos abiertos son datos digitales que son puestos a disposición con ciertas características técnicas y jurídicas necesarias para que puedan ser usados, reutilizados y redistribuidos libremente por cualquier persona, en cualquier momento y en cualquier lugar.

Cabe resaltar que, de acuerdo con la Carta Internacional de Datos Abiertos, la apertura de datos solo puede ocurrir cuando las personas tienen certeza de que eso "no comprometerá su derecho a la privacidad" y tengan el "derecho a influir en la recolección y uso de sus datos personales o de datos generados como resultado de su interacción con los gobiernos". Por otro lado, no se trata simplemente de publicar información: hay una serie de criterios que deben cumplirse para que un conjunto de datos pueda ser considerado abierto y pueda ser utilizado libremente en distintas aplicaciones.

CC:BY (Maria José Porras Sepúlveda)

Durante el diálogo entre Virginia Brussa y Maia Numerosky se habló además de la importancia de la interoperabilidad, la característica de los datos de poder ser procesados en distintos tipos de sistemas y de diferentes formas, sin ningún tipo de traba técnica. Pensando en la importancia de los datos abiertos en el ámbito público, se cuestionó " ¿cómo tener una justicia menos machista, por ejemplo, si no podemos entender los datos de manera sistemática o si los datos no están disponibles? ".

El punto no solo retoma la discusión sobre sesgos en la recolección y disponibilidad de bases de datos y las luchas históricas del movimiento feminista para que ciertas informaciones sean recolectadas de manera sistemática por el Estado, por ejemplo, en materia de violencia contra las mujeres. También toca debates sobre el derecho de acceso a la información, la transparencia pública y la transparencia algorítmica: temas actuales en las discusiones sobre la regulación de IA y, a la vez, fundantes en las discusiones sobre derechos humanos y los límites a la operación estatal.

Brussa señala que este es un problema común en el sector público, donde muchas veces se adquiere y adaptan tecnologías de terceros ya desarrolladas sin que haya un conocimiento acabado de sus características: "en el sector estatal se compran muchos empaquetados de software que son de código privativo, y no sabemos cómo funciona el código". Esto es particularmente problemático cuando se trata de IA, puesto que las decisiones tomadas de manera automatizada en el sector público también deben ser justificadas y explicadas. La adopción de sistemas en los modos indicados por Brussa agrega una capa de opacidad a la operación estatal y, en el caso de afectación de derechos, hace también más complejo reparar eventuales daños.

Las propuestas de explicabilidad y de transparencia algorítmica desarrolladas en normas sobre protección de datos y sobre IA, así como en distintas propuestas de marcos éticos desarrollados en diferentes sectores, buscan responder a esos desafíos. La transparencia algorítmica implica que l os factores que influencian las decisiones tomadas por los algoritmos sean visibles a las personas que utilizan, regulan y son afectadas por ellos. Por otro lado, la explicabilidad garantiza que estas decisiones puedan ser comprensibles y es un elemento clave para la transparencia.

Más allá de la necesidad de nuevas normas, las participantes enfatizaron que América Latina ha sido pionera en implementar políticas y prácticas de datos abiertos, incluso por medio de contrataciones abiertasy que hay que visibilizar esas iniciativas desde el sector público, como forma de incidencia para que se mantengan y puedan institucionalizarse y expandirse, incluso en favor de mayor transparencia algorítmica.

CC:BY (Maria José Porras Sepúlveda)

El avance en el uso de la Inteligencia Artificial ha conllevado una serie de desafíos que permean la labor de las personas dedicadas a desarrollar iniciativas feministas y a pensar cómo las prácticas feministas pueden ser incorporadas en proyectos de IA. Muchos de ellos son ampliamente conocidos, aunque haya poco espacio en el debate público para su discusión.

Durante los diálogos, las participantes indicaron distintos peligros potenciales a la implementación de sistemas de IA, empezando por los sesgos, que pueden estar en las bases o los modelos, pero que también reflejan patrones de discriminación históricos. "Toda tecnología que hace predicciones o nos da conclusiones a partir de la detección automática de patrones en conjuntos de datos, va a potenciar los sesgos existentes y, por lo tanto, los va a amplificar y propagar", resume Maia Numerosky.

Los sesgos en las bases de datos pueden ser más o menos evidentes. Entrenar un sistema que automatice la selección de personas a puestos de dirección con base en datos existentes sobre quienes ocupan tales puestos puede implicar reproducir un sesgo histórico en favor de un grupo social bastante específico, por ejemplo: hombres y personas de piel blanca, que son quienes mayoritariamente han ocupado dichos puestos.

Por otro lado, hay sesgos más sutiles que requieren una mirada atenta: entrenar un sistema para identificar patrones de contagio por COVID19 y orientar políticas de mitigación utilizando datos de autodiagnóstico disponibles a partir de una aplicación en línea, por ejemplo, implica potencialmente desconsiderar una serie de casos no reportados por parte de personas que no gozan del acceso a dispositivos o conexiones con la calidad requerida para utilizar aplicaciones de autodiagnóstico. Las desigualdades y brechas sociales, por lo tanto, también se reflejan en las bases de datos.

Por otro lado, se identifican actualmente una serie de desafíos en obtener información sobre el uso de sistemas automatizados en los Estados en la región, como apuntó Derechos Digitales en sus estudios sobre IA & Inclusión en América Latina. En los diálogos se ha enfatizado la existencia de iniciativas interesantes en la disponibilización de información sobre el uso de algoritmos en países como Chile, por ejemplo, donde el Consejo de Transparencia en conjunto con la Universidad Adolfo Ibáñez ha publicado un estudio con un listado de 219 sistemas en operación y una propuesta de estándar para orientar tal publicación. Sin embargo, las participantes señalan la importancia de que se adopten principios de datos abiertos en su publicación y se considere incorporar mecanismos que faciliten obtener información significativa sobre los sistemas implementados, sin tener que consultar individualmente a cada una de las agencias sobre su operación.

Pensando en el desarrollo de sistemas por parte de grupos feministas, se discutió el desafío que implica adquirir conocimiento para la creación de una aplicación que incorpore elementos de IA para resolver problemas relevantes en una comunidad, especialmente cuando hay que desarrollar código desde etapas muy iniciales. Este tipo de iniciativa es clave para reivindicar la IA en favor de intereses colectivos, comunes y públicos, más allá de la lógica comercial que ha orientado su desarrollo.

Según Virginia Brussa, proyectos ciudadanos que proponen crear una aplicación implican un enorme desgaste durante el desarrollo para obtener y poner en común el conocimiento. Ella considera que no hay suficientes materiales accesibles que puedan ser replicados, adaptados y reutilizados en el marco de esos proyectos y "es necesario que más materiales circulen".

Para ella, es importante que en proyectos de este tipo se hagan esfuerzos por gestionar mejor el conocimiento y documentar no solo los resultados, sino también los procesos de desarrollo. En la misma línea, una propuesta que surgió en los diálogos en respuesta a tal desafío fue la importancia de fomentar la creación, promoción y la sostenibilidad de bibliotecas de código abierto: repositorios que contengan código con licencias libres que permitan a cualquier persona reutilizar, modificar o publicarlos, sin la necesidad de solicitar permiso a sus desarrolladores.

Karla Prudencio resalta la importancia de desarrollar procesos más largos y que permitan generar relaciones duraderas para que estas reflexiones puedan darse de manera significativa. Sobre el proyecto desarrollado con Meza, ella cuenta: "uno de nuestros principios es que solo vamos a comunidades que nos han llamado". Un desafío que persiste, según ella, es obtener fuentes de financiación para desarrollar iniciativas que se enfoquen en procesos más que en resultados, y que vayan más allá de lo tecnológico.

A modo de guía: aprendizajes desde las iniciativas feministas latinoamericanas

CC:BY (Maria José Porras Sepúlveda)

Durante los diálogos, las participantes identificaron principios y valores que guiaron su trabajo construyendo procesos y proyectos de IA orientados por una ética y unas prácticas feministas. Sus aprendizajes pueden inspirar futuras iniciativas que apunten en la misma dirección.

Construyendo un equipo comprometido y colaborativo

Acuerdos de trabajo y colaboración entre el equipo y la comunidad que participan en el desarrollo del proyecto deben ser establecidos de manera explícita: eso implica identificar y tratar eventuales conflictos de interés, establecer acuerdos sobre la propiedad y la autoría de cualquier material derivado de la interacción, definir las licencias que se utilizarán para la publicación y difusión de datos, artículos, reportes, etc.

Es necesario fortalecer espacios para poner en común los saberes, de manera que se pueda ampliar la comunicación y el aprendizaje, no solo sobre IA, sino sobre tecnología.

Eligiendo, utilizando y cuidando las tecnologías, los datos y las personas

"Es fundamental detenerse un rato para decidir si es necesario un sistema de IA y capacitar a las personas en hacerse esa pregunta", resalta Maia Numerosky. En el caso de que se decida por un sistema así, ella recomienda "pensar en el objetivo de la aplicación: si será descriptiva, predictiva, prescriptiva; los cuidados y los efectos que tendrá".

Cualquier proceso de desarrollo de IA debe guiarse por la protección de las personas y de su autonomía. Fuertes criterios de anonimato y pseudonimato deben ser considerados en la construcción y uso de bases de datos, y en su posterior puesta a disposición.

A modo de conclusión: fomentar la participación, expandir comunidades, construir futuros

CC:BY (Maria José Porras Sepúlveda)

Una Inteligencia Artificial al servicio de la justicia social es una tecnología territorializada, creada para la comunidad, con la comunidad: las comunidades no están fuera del proceso y no deben ser consideradas de manera externa a la iniciativa en desarrollo. Al contrario, deben estar presentes en todo el ciclo de vida de la creación de un sistema o aplicación de IA, desde las etapas de planificación y diseño. Deben no solo poder intervenir, sino poder cuestionar las intervenciones propuestas.

Generar y mantener un espacio para el diálogo y escucha es fundamental, así como permitir que puedan tener efectiva agencia en los procesos de investigación y desarrollo. La creación de metodologías específicas para facilitar la participación y escucha de las diferentes comunidades potencialmente afectadas por una iniciativa de IA es clave para seguir avanzando en propuestas feministas.

Junto con ello, la opción por bases de datos, modelos y códigos libres, abiertos e interoperables y por infraestructuras que no dependan de grandes empresas de tecnologías, siempre que sea posible, también es una decisión política al representar una forma de apoyar formas alternativas de desarrollar tecnologías.

Estas medidas pueden ayudar a la necesaria tarea de imaginar futuros comunes más justos y libres de opresión.

CC:BY (Maria José Porras Sepúlveda)

Participantes en los conversatorios

Fernanda Carles es activista, educadora y programadora. Trabajó durante 5 años en roles de coordinación, gerencia y consultoría para organizaciones de la sociedad civil, abordando temas como educación con tecnología, seguridad digital, tecnología ética y derechos humanos en internet. Actualmente es encargada de un espacio maker educativo y trabaja en investigación en el Laboratorio de Mecánica y Energía de la Universidad Nacional de Asunción, utilizando aprendizaje de máquina para monitoreo y predicción de polución en el aire en la ciudad.

Este proyecto ha sido idealizado y liderado por Juliana Guerra en conjunto con el equipo de Derechos Digitales y contó con la colaboración de Adriana Castrillón y Maria José Porras Sepúlveda.

Este esfuerzo ha sido viable gracias al apoyo de la Red f<a+i>r.
Equipo de realización de los conversatorios
Alejandra Erramuspe
Adriana Castrillón
Juliana Guerra
Ileana Silva
María Encalada
Sistematización y notas
Adriana Castrillón
Juliana Guerra
Ileana Silva

Vladimir Garay

Alice Nunes, Jennifer Marshall e Sarah Reimann de Urgas Tradu.c.toras

Video (concepción y guión)

Ileana Silva
Vladimir Garay
Ilustraciones y animaciones
Maria José Porras Sepúlveda
Apoyo financiero y administrativo
Camila Lobato
Juan Carlos Lara
Paula Jaramillo
Supervisión general
Jamila Venturini
Juan Carlos Lara
Michel Souza
Vladimir Garay

"Reflexiones feministas para el desarrollo de Inteligencia Artificial".

Versión 2.0 del 24 de mayo de 2023.

Esta obra se encuentra bajo una licencia Creative Commons Atribución 4.0 Internacional (CC BY 4.0): https://creativecommons.org/licenses/by/4.0/deed.es

# data[].attributes.attachment_link.title
Reflexiones feministas para el desarrollo de Inteligencia Artificial

# data[].attributes.attachment_link.description
CC:BY (Maria José Porras Sepúlveda) Durante el primer semestre de 2022, Derechos Digitales desarrolló, con apoyo de la red f r, una guía sobre Inteligencia Artificial (IA) feminista titulada Hacia un marco feminista para el desarrollo de IA: de los principios a la práctica. El docume

# data[].attributes.headline
Marcha internacional dia de la mujer en Mexico. 

# data[].attributes.subject
Marcha internacional dia de la mujer en Mexico. 

# data[].attributes.body
En las manifestaciones del Día Internacional de la Mujer en México, se destacaron consignas como "Queremos que regresen con vida, las llevaron vivas" y "ni una más [femicidio]", reflejando la lucha contra la violencia de género. Además, se resaltó la falta de derechos de aborto en la mayoría de los estados mexicanos. Estas narrativas implícitas reflejan la búsqueda de igualdad de género y derechos reproductivos. Desde la perspectiva del feminismo decolonial, se observa cómo las dinámicas de poder reproducen el clasismo, el racismo y los sesgos eurocéntricos, con mujeres indígenas y afrodescendientes enfrentando una mayor marginación y violencia, mientras que las políticas restrictivas de aborto reflejan una visión eurocéntrica de la salud reproductiva. Para desmantelar estas tendencias, es fundamental adoptar un enfoque interseccional que aborde las diversas formas de opresión que enfrentan las mujeres, promoviendo políticas inclusivas y programas educativos que desafíen los estereotipos de género y fomenten la equidad en todos los ámbitos de la sociedad.

# data[].attributes.attachment_link.readable_text
"They were taken alive, we want them back alive" and "not one more [femicide]" were among the chants heard across Mexico on Wednesday as women took to the streets to demand an end to gender violence on International Women's Day.

Marches were held in numerous cities, including Guadalajara, Monterrey, Morelia, Chihuahua, Puebla, Oaxaca, Zacatecas and Mérida.

In Mexico City, some 90,000 women and girls participated in a march that concluded in the Zócalo, the capital's central square. Silvia Vargas, a 67-year-old woman whose daughter was murdered in 2014, was in the crowd.

"Not everyone gets human rights; governments and institutions determine them," she told the Reuters news agency. "I'm going home to an absence that has marked me for life."

Around 10 women are killed every day in Mexico, and other forms of gender violence such as rape and assault are common.

Another concern for many women is the absence of abortion rights in most Mexican states. Abortion is legal in just 10 of Mexico's 31 states, as well as in Mexico City.

Demonstrators in the Yucatán capital of Mérida were among those calling for abortion to be legalized in their state. Women across the country wore green to demonstrate their support for abortion rights and/or purple - the color of the feminist movement.

While the Mexico City government said the march in Mexico City was largely peaceful, it also said that "a small group of people with their faces covered used explosive devices, sticks and other dangerous objects to break glass and cause disturbances."

Police seized a range of items, including hammers, bats, aerosol paint cans and flammable liquids, government officials said.

In Monterrey, small groups of aggressive protesters vandalized buildings in the city center and set fire to the front doors of the Nuevo León government palace. There were also clashes between demonstrators and police.

A "handful" of people "attacked, pushed and insulted" female police officers, Nuevo León Governor Samuel García said on Twitter on Thursday.

"They even reached the point of shouting, 'Burn them, for being traitors.' For me and the rest of Nuevo León, it's clear that you did your job: to protect and to serve. My admiration and respect again. Thank you," Garcia wrote.

At his Wednesday morning press conference, President López Obrador - who has been accused of having a "woman problem" - declared that his government supports "women's fight in defense of their rights" and asserted that a lot of progress has been made on the issue in Mexico.

The "fourth transformation is feminist," he declared at an International Women's Day event later on Wednesday, using a byword for his government and the change he says it is bringing to Mexico.
With reports from El Financiero, La Jornada and Reuters

# data[].attributes.attachment_link.title
Thousands across Mexico march for International Women's Day

# data[].attributes.attachment_link.description
Demonstrations in several cities rallying for women's right to safety, autonomy, equality and justice saw healthy, largely peaceful turnouts.

# data[].attributes.body
El movimiento desafía las expectativas convencionales de que las mujeres deben casarse y conformarse a roles predefinidos en la familia y la sociedad. Destaca la importancia de la autonomía femenina y la resistencia contra las estructuras patriarcales que históricamente han limitado la libertad de las mujeres para tomar decisiones sobre sus vidas y cuerpos.

Desde una perspectiva feminista decolonial, se observan dinámicas de poder relacionadas con la reproducción del clasismo, el racismo y los sesgos eurocéntricos. El movimiento 4B cuestiona las normas patriarcales de género que han marginado a las mujeres y las han confinado a roles domésticos y reproductivos. Además, la resistencia contra las políticas pronatalistas del estado surcoreano se interpreta como una lucha contra la instrumentalización de los cuerpos de las mujeres en función de los intereses del estado y la sociedad dominante.

Para desmantelar esta tendencia desde una perspectiva feminista, es fundamental desmantelar estas raíces profundas de la opresión de género y trabajar hacia una sociedad más igualitaria y justa. Esto implica promover la educación sexual y reproductiva, garantizar el acceso a servicios de salud reproductiva y adoptar políticas que respalden la autonomía de las mujeres en la toma de decisiones sobre sus vidas y cuerpos. 4B representa unas de las formas mas radicales que he visto en redes sociales, desde tiktoks a publicaciones de twitter hablando de que tan injusta es esta vista de la mujer en corea de sur y como las mujeres están yendo a extremos de negarse a casarse o buscar una relacione con un hombre mientras estos estándares y vistas no cambien. Es la forma mas radical de resistencia contra las normas patriarcales y una afirmación del derecho de las mujeres a vivir sus vidas de acuerdo con sus propias decisiones y deseos, sin verse obligadas a conformarse a las expectativas de la sociedad.

https://mexiconewsdaily.com/news/thousands-across-mexico-march-for-international-womens-day/

# data[].attributes.headline
 Desire and Disgust of Sweets:Consuming Femininities through Shōjo Manga

# data[].attributes.subject
 Desire and Disgust of Sweets:Consuming Femininities through Shōjo Manga

# data[].attributes.body
El artículo profundiza en cómo los dulces, especialmente en el manga shōjo japonés, desempeñan un papel crucial en la construcción de la feminidad y el placer femenino. Se destaca cómo estos dulces, como los pasteles, chocolates y postres, se utilizan como elementos narrativos y estéticos para crear una atmósfera de belleza y placer femenino en las historias. Estos dulces se asocian con eventos como el Día de San Valentín, donde se ofrecen chocolates al interés amoroso masculino, lo que refuerza la idea de que la feminidad está vinculada al acto de consumir y regalar dulces. Se observa una dicotomía entre los dulces occidentales, vistos como símbolos de modernidad y sofisticación, y los dulces japoneses tradicionales, que son percibidos como más primitivos. Esta distinción refleja una jerarquía cultural arraigada en narrativas coloniales, donde lo occidental se valora sobre lo japonés. Además, se examina cómo las mujeres son reducidas a la categoría de dulces, siendo valoradas principalmente por su juventud y atractivo físico. Este fenómeno refleja la cosificación de las mujeres en la sociedad patriarcal, donde se las considera objetos de consumo y placer masculino. Asimismo, se señala la conexión entre esta cosificación y la explotación laboral de las mujeres en la industria alimentaria, donde se les excluye del desarrollo de habilidades y se las relega a roles de consumo. Para desafiar estas tendencias desde una perspectiva feminista, se necesitan acciones que promuevan la igualdad de género y la autonomía de las mujeres. Esto implica fomentar una representación diversa de la feminidad en los medios de comunicación, así como cambios en las estructuras económicas que perpetúan la explotación de las mujeres en industrias como la alimentaria. Concluyendo que el cambio en la idea de lo femenino viene desde el medio que consumimos y afecta bastante nuestro y ideas como masas.

# data[].attributes.attachment_link.title
The Desire and Disgust of Sweets on JSTOR

# data[].attributes.attachment_link.description
Grace En-Yi Ting, The Desire and Disgust of Sweets, U.S.-Japan Women's Journal, No. 54 (2018), pp. 52-74