# data[].attributes.body
El artículo que me llamó la atención fue: “El poder de los algoritmos: ¿Cómo influyen en nuestras decisiones diarias sin que nos demos cuenta?” de Francisco María: https://okdiario.com/ciencia/poder-algoritmos-como-influyen-nuestras-decisiones-diarias-sin-que-nos-demos-cuenta-12185789#:~:text=Los%20algoritmos%20tienen%20acceso%20a,el%20uso%20de%20nuestros%20datos.

Este artículo nos explica como los algoritmos juegan un papel fundamental en nuestra vida cotidiana y muchas veces no somos conscientes del impacto que tienen en nuestras decisiones diarias.

¿Qué relaciones podes establecer entre el texto de Gómez Barrera y el artículo que seleccionaste?

La relación que hay entre el texto de Gómez Barrera y el artículo que seleccioné es que ambos presentan una gran desconfianza hacia los algoritmos, ya que consideran que invaden nuestra privacidad cuando recolectan datos sobre nuestros intereses.

¿Qué aspectos que aborda el texto se pueden rastrear en el artículo seleccionado? Justificar citando algún fragmento del texto.

El artículo que elegí habla sobre el beneficio que generan los algoritmos ya que nos permiten acceder a información relevante y atractiva, pero eso tiene un costo, el cual es que crea burbujas de información, donde solo vemos contenido que coincide con nuestras opiniones y puntos de vista, y eso hace que no se nos exponga a ideas diferentes a las nuestras.

Justificación citando un fragmento del texto de Gómez Barrera: “La existencia de múltiples modalidades, sistemas y actores de recolección de datos pone en juego, múltiples problemas relacionados con las formas en las que se recopilan esos datos y las consecuencias que conllevan en lo real".

Una de esas consecuencias de las que habla Gómez Barrera son las burbujas de información de las cuales habla el artículo que seleccioné.

# data[].attributes.body
Al relacionar el texto de Gómez Barrera con un artículo actual sobre el impacto de los algoritmos, se pueden observar varias conexiones que son de importante relevancia. Por ejemplo, el reciente articulo adjunto menciona un fallo judicial contra la empresa Deliveroo donde su algoritmo penalizaba injustamente a trabajadores que no podían cumplir con sus turnos debido a emergencias. Este caso refleja de forma concisa el concepto de "sesgo algorítmico" que menciona Gómez Barrera, donde los algoritmos refuerzan desigualdades sin considerar contextos individuales​, cito textualmente "Según el tribunal, el hecho de que el algoritmo no tenga en cuenta las razones detrás de una cancelación equivale a una discriminación y penaliza injustamente a los trabajadores con razones legalmente legítimas para no trabajar."

por lo tanto en el texto se resalta la importancia de considerar los efectos sociales de los algoritmos, subrayando que su diseño y uso no solo debe enfocarse en la eficiencia, sino también en evitar sesgos que afecten negativamente a ciertos grupos sociales.

# data[].attributes.attachment_link.title
Algoritmos, sesgos y discriminación en su uso: A propósito de recientes sentencias sobre el tema

# data[].attributes.attachment_link.description
Hoy vivimos en un mundo cada vez más automatizado donde los algoritmos[1] son utilizados para la toma de decisiones basadas en sistemas de inteligencia artificial (IA). Muchas veces los mismos gen

# data[].attributes.body
El texto de Juan C. Gómez Barreda "Segmentación y Sesgo en la Programación" nos cuenta, en pocas palabras, como los algoritmos pueden crear y perpetuar desigualdades sociales al segmentar las audiencias y reforzar las normas ya existentes. En la enorme cantidad de información y noticias que encontré en internet relacionada a esta temática, me llamo la atención la noticia que cite.

Me parece un caso notable el de Facebook y su publicidad dirigida (tengo entendido que ya solucionaron este sesgo en la actualidad). Lo que detalla la noticia es que se descubrió que el algoritmo de la plataforma permitía a los anunciantes excluir a ciertos grupos demográficos de su audiencia, los que genero criticas por promover la discriminación. Por ejemplo, se revelo que anuncios de viviendas eran segmentados para evitar que personas de ciertas minorías étnicas puedan ver las publicidades, lo que va en contra de las leyes de igualdad de oportunidades. Esto genero que exista un mayor escrutinio sobre como las plataformas manejan el sesgo algorítmico y la necesidad de regulaciones mas estrictas

# data[].attributes.attachment_link.title
Herramientas de publicidad de Facebook con sesgos de género: estudio

# data[].attributes.attachment_link.description
El hallazgo refuerza el argumento de que los algoritmos de Facebook pueden violar las leyes estadounidenses contra la discriminación.

# data[].attributes.body
El articulo presenta la idea de utilizar la inteligencia artificial en tareas gubernamentales para mejorar la eficacia del mismo y ayudarlo en tareas como identificar puntos críticos de las ciudades donde se cometan delitos y poder llevar a cabo medidas de prevención, pero al igual que Gómez Barrera señala cuando dice que "Se enfoca este proceso en el papel que desempeñan la existencia misma de los datos y no se tiene en cuenta la centralidad que tiene, dentro del proceso algorítmico, la preselección y sesgo de los datos que se consideran útiles para el procesamiento." el articulo indica que podría ser contraproducente utilizar sistemas de IA en tareas gubernamentales sin controles previos a la utilización de los mismos.

# data[].attributes.attachment_link.readable_text
Quizás algunos recuerden la película Minority Report de Steven Spielberg protagonizada por Tom Cruise. En la película, situada en 2054, un departamento de policía especializado, conocido como PreCrimen, puede predecir los crímenes antes de que ocurran, basándose en el conocimiento de tres personas que pueden leer el futuro llamados: precognitivos.

Este escenario futurista comienza a hacerse realidad mucho antes de 2054 de la mano de datos y algoritmos. Con el apoyo de la inteligencia artificial, los gobiernos están aprendiendo a identificar mejor los puntos críticos de las ciudades donde más delitos se cometen y a desplegar políticas de prevención.

Minority Report

Estos usos presentan también muchos riesgos y ya hay algunos países que establecieron prohibiciones. Por ejemplo, la Unión Europea impide la identificación biométrica en tiempo real de las personas en espacios públicos. Pero lo cierto es que no hay ámbito de la política pública que no pueda ser mejor gestionado con la ayuda de la inteligencia artificial.

Desde aplicaciones que emiten alertas para prevenir el abandono escolar (especialmente ahora que tenemos un problema de asistencia intermitente a las escuelas) que ya se usa en algunas provincias de Argentina, o chatbots que permiten identificar cuando un adolescente necesita apoyo psicológico ante un inminente intento de suicidio. En la salud, los avances que se están haciendo son increíbles, por ejemplo, para prevenir un cáncer. En el transporte, semáforos inteligentes en Bogotá ayudan a mejorar la fluidez del tráfico.

En una región como la de América Latina, donde tantas deficiencias tenemos en la gestión de los servicios públicos, ¿cómo podemos usar la inteligencia artificial para mejorar la calidad de vida de los ciudadanos?

De eso vamos a hablar en este sexto episodio de Fantasmas en los Algoritmos con Armando Guio Español, colombiano, abogado, investigador asociado del Berkman Klein Center de la Universidad de Harvard y Director Ejecutivo de Network of Centers, una iniciativa colaborativa entre instituciones académicas relacionadas con el estudio de Internet.

Algunos gobiernos de la región progresaron más. Otros dudan en implementar estas políticas debido a la falta de normas claras que garanticen el uso ético de la IA. Conversamos con Armando si es el momento de avanzar en una regulación de la IA. ¿Aún nos falta mucho para entender completamente lo que estamos intentando regular? ¿Están los gobiernos de nuestra región y sus leyes preparados para el uso de estas tecnologías?

Armando Guio Español junto a Julia Pomares en el episodio 6 de Fantasmas en los algoritmos.

Armando nos cuenta que, según un mapeo en el que participó, hay más de 50 proyectos de ley en los congresos de la región para regular la inteligencia artificial. Por ahora, solo Perú ha legislado y ya incluso tiene una reglamentación completa sobre cómo funcionaría y está muy inspirada en la regulación europea.

"Uno quiere ver regulación basada en evidencias, es decir en lo que efectivamente son los riesgos y los problemas reales que tiene la región y que esta regulación básicamente nos ayuda a enfrentar. ¿Qué sucede? Que en muchos momentos cuando nos encontramos frente a regulaciones y vemos su justificación, varios de estos proyectos están fundamentados en tratados internacionales o en lo que dijo la Unión Europea o documentos de otros países. Difícilmente he visto en la región hacer un análisis de impacto regulatorio, es decir, un análisis económico de cuál puede ser el impacto de la regulación. Soy defensor de regular bien en el momento que corresponda y con toda la información disponible porque es, tal vez, una de las regulaciones más importantes de nuestra generación, de las que más van a impactar nuestras vidas", reflexionó el especialista.

Índice Latinoamericano de Inteligencia Artificial

BID fAIr LAC: Adopción ética y responsable de la inteligencia artificial en América Latina y el Caribe

No te pierdas los episodios anteriores de Fantasmas en los Algoritmos, donde conversamos sobre qué es la IA, sobre su impacto en el trabajo y la educación, cómo podemos tomar mejores decisiones usando la IA y sus sesgos. Podés acceder desde aquí: Fantasmas en los algoritmos
*Julia Pomares es co-fundadora del capítulo latinoamericano de GIDE (The Global Initiative for Digital Empowerment) y Profesora Invitada de la Escuela de Gobierno de la Universidad Di Tella.

# data[].attributes.attachment_link.title
El uso de inteligencia artificial en los gobiernos

# data[].attributes.attachment_link.description
En la sexta entrega de Fantasmas en los algoritmos, el podcast de Infobae, se aborda cómo la IA está transformando la gestión de políticas públicas aunque aún existen riesgos para evaluar y resolver. En América Latina, se discute cómo utilizar esta tecnología para mejorar la calidad de vida y la necesidad de avanzar en una regulación adecuada en base a evidencias y análisis de impacto económico.

# data[].attributes.attachment_caption
Cómo nacen los sesgos tecnológicos que combate Eticas, la consultora que audita algoritmos a empresas e instituciones para evitar que sean discriminatorios.

# data[].attributes.body
Articulo:

Cómo nacen los sesgos tecnológicos que combate Eticas, la consultora que audita algoritmos a empresas e instituciones para evitar que sean discriminatorios.

El artículo de Business Insider España explica de manera sencilla que los sesgos en los algoritmos ocurren cuando estos sistemas, que toman decisiones automáticas, terminan reproduciendo prejuicios que ya existen en la sociedad. Esto pasa porque muchas veces los equipos que crean estos algoritmos no son diversos, y no se dan cuenta de que están incorporando errores. Por ejemplo, un sistema de contratación de Amazon discriminaba a mujeres porque aprendió de datos antiguos que favorecían a los hombres.

Gemma Galdón, experta en tecnología, menciona que es necesario revisar los algoritmos para detectar y corregir estos sesgos antes de que afecten a las personas.

¿Qué relaciones podes establecer entre el texto de Gómez Barrera y el artículo que seleccionaste?

Ambos textos dicen que los algoritmos mantienen los mismos errores que la sociedad y afectan decisiones. Gómez Barrera explica que los algoritmos no son neutrales porque los programadores eligen datos con errores. Gemma Galdón, en Business Insider, menciona que los equipos de desarrollo suelen ser similares, lo que facilita la aparición de estos errores.

¿Qué aspectos que aborda el texto se pueden rastrear en el artículo seleccionado?

Gómez Barrera señala que la selección previa de datos introduce normas sociales y sesgos en los algoritmos. Un ejemplo claro de esto es el caso del algoritmo de Amazon, donde los atributos elegidos para entrenarlo (como palabras asociadas a géneros) mantuvieron desigualdades de género.

En resumen, ambos textos coinciden en que los algoritmos no solo muestran la realidad social, sino que también ayudan a reproducir prejuicios, convirtiéndolos en una parte integral de los sistemas automatizados de toma de decisiones.

Link:

https://www.businessinsider.es/como-surge-como-arregla-sesgo-algoritmo-eticas-778363

# data[].attributes.attachment_link.title
Cómo nacen los sesgos tecnológicos que combate Eticas, la consultora que audita algoritmos a empresas e instituciones para evitar que sean discriminatorios

# data[].attributes.attachment_link.description
Eticas es una consultora especializada en auditar algoritmos para evitar discriminaciones. Su fundadora, Gemma Galdón, explica cómo nacen los sesgos tecnológicos.

# data[].attributes.body
¿Qué relaciones podes establecer entre el texto de Gómez Barrera y el artículo que seleccionaste?

-El articulo que elegi, "Que son los algoritmos y como aprenden de nosotros"(https://www.bbc.com/mundo/noticias-57013905), y el texto tienen en comun el abordaje

sobre como los algoritmos representan , casi repentinamente y sin dar margen a oposicion, un gran porcentaje de todo lo que vivimos y consumimos diariamente, siendo escenciales

tanto para el que los utiliza y la persona que recibe el resultado de estos algoritmos.

Siendo algo de mucho valor actualmente, resulta inevitable su tergiversacion y el propio cuestionamiento humano sobre la moralidad en el uso de estos algoritmos y la

regulacion sobre los mismos, siendo que este concepto es totalmente desconocido por una gran parte de la poblacion general , que convive diariamente con estos algoritmos.

¿Qué aspectos que aborda el texto se pueden rastrear en el artículo seleccionado? Justificar citando algún fragmento del texto.

-Tanto en el texto y en el articulo , se menciona como la peligrosidad de estos algoritmos viene de su falta acutal de regulacion, lo que impide una proteccion acorde

a la masividad de estos; “necesitamos protección legal ahora más que nunca, como sistemas automatizados de toma de decisiones, puesto que manejan un mayor poder en nuestra sociedad”,

en el articulo pone de ejemplo el aprendizaje de la maquina y como la fuente de alimentacion de data que esta puede recibir, se puede afectar para obtener diferentes resultados.

# data[].attributes.body
En síntesis, a partir de diferentes experimentos de búsqueda y la recopilación de informes en torno a cómo los algoritmos de búsqueda generan formas de discriminación, Noble determina que prexiste una mirada hegemónica en la programación que, tal como se vio, depende de la norma que se quiera establecer, hecha por humanos, en el procesamiento de la información. Se evidencia una fuerte influencia en la asignación de valores y normas en la preselección de los datos que son analizados por los algoritmos; es decir, estos nunca reciben un dato enteramente puro o neutral y por lo tanto se puede indicar que trabajan ya con un material que está atravesado por una mirada específica. (Texto Gomez Barrera, pag 12, parrafo 1). Tanto la nota de The conversation como el artículo comparten una mirada preocupada sobre cómo los sesgos humanos se trasladan a los sistemas algorítmicos. Lejos de ser neutrales, reflejan prejucios sociales que influyen en la toma de decisiones. Con el uso de la IA , hay una discriminacion invisible que afecta a las personas en áreas como la contratacion, los servicios financieros o la justicia. Esta situacion ocurre porque los algoritmos son programados con datos sesgados o con normas sociales que replican las desigualdades existentes. Por esta razón, y para exigir más transparencia, la UE exige más control sobre los algoritmos. Los algoritmos están profundamente influenciados por las normas y decisiones humanas, lo que llevaría a generar discriminacion. Y en terminos reales, esto ya sucede en la actualidad y podría ser muy peligroso en el futuro si no se regula adecuadamente. Además, como menciona al final de la nota, con un adecuado control/ regulación de los mismos se puede preveer una correcta utilización e interpretacion de la información de salida. Más control implicaría mejores resultados. https://theconversation.com/como-la-ia-nos-discrimina-en-la-sombra-y-que-plantea-la-nueva-normativa-de-la-ue-para-evitarlo-223066

# data[].attributes.attachment_link.title
Cómo la IA nos discrimina en la sombra y qué plantea la nueva normativa de la UE para evitarlo

# data[].attributes.attachment_link.description
La principal consecuencia de que los algoritmos funcionen como una caja negra es que pueden aplicar sesgos discriminatorios que a veces solo se detectan ‘a posteriori’. La nueva ley de inteligencia artificial europea recoge nuevas medidas para evitarlos.

# data[].attributes.body
Relación entre el texto de Gómez Barrera y el artículo seleccionado: La relación principal entre el texto de Juan Camilo Gómez Barrera y el artículo "La discriminación algorítmica: cuando los datos refuerzan el racismo y el sexismo" es la crítica a la supuesta neutralidad de los algoritmos. Ambos textos destacan cómo las decisiones algorítmicas, basadas en datos preexistentes, refuerzan prejuicios sociales en lugar de corregirlos. Gómez Barrera enfatiza que los programadores juegan un papel crucial al transmitir normas sociales y sesgos a los algoritmos que configuran​. El artículo seleccionado refuerza esta idea al señalar que los algoritmos pueden exacerbar discriminaciones preexistentes, como el racismo y el sexismo, cuando se basan en datos históricos sesgados​.

Aspectos del texto de Gómez Barrera rastreados en el artículo: En el texto de Gómez Barrera, se menciona que los algoritmos dependen de la segmentación y preselección de datos, lo que introduce sesgos sociales y perpetúa prejuicios. Este aspecto es evidente en el artículo periodístico, donde se expone cómo los sistemas algorítmicos discriminan a ciertos grupos en función de datos raciales o de género, como en el caso de las búsquedas en Google o los sistemas de selección de personal en Amazon​.

Un fragmento del texto de Gómez Barrera que justifica esta relación es su análisis sobre cómo los algoritmos, al depender de datos sesgados, crean "perfiles" de individuos que no se basan en una neutralidad objetiva, sino en "fragmentos desdibujados" de la realidad​. Esto se refleja claramente en los casos presentados en el artículo seleccionado, como la discriminación racial en sistemas de vigilancia o la desigualdad de género en los procesos de selección laboral.

Conclusión y Reflexión: Tanto Gómez Barrera como el artículo resaltan que los algoritmos, lejos de ser imparciales, reflejan y amplifican las desigualdades sociales ya presentes en los datos que utilizan, y ambos textos abogan por una mayor transparencia y regulación en el uso de estas tecnologías.

# data[].attributes.attachment_link.readable_text
La tecnología digital y los algoritmos han revolucionado la forma en que vivimos, trabajamos y nos comunicamos. Si bien prometen eficiencia, precisión y conveniencia, estas tecnologías pueden exacerbar los prejuicios y las desigualdades sociales y crear nuevas formas de exclusión. Así, la invisibilización y la discriminación, que siempre han existido, cobran nuevas formas en la era de los algoritmos.

La falta de interés y de datos lleva a la invisibilización algorítmica, motivando que existan dos tipos de abandono algorítmico. El primero de ellos ocurre entre las personas desatendidas en el mundo, que incluye a los millones que no tienen un teléfono inteligente ni una cuenta bancaria y que, por ende, se encuentran al margen de la economía de plataformas y, para los algoritmos, no existen. El segundo tipo de abandono algorítimico incluye a individuos o grupos que son víctimas del fracaso del sistema algorítmico, como sucedió con SyRI (Systeem Risico Indicatie) en Países Bajos que señaló injustamente a unas 20.000 familias de origen socioeconómico bajo de cometer fraude fiscal, llevando a muchas a la ruina en 2021. El algoritmo, que fue declarado ilegal por un tribunal de La Haya meses más tarde, se aplicó en los barrios más pobres del país y bloqueó la posibilidad de muchas familias con más de una nacionalidad de percibir los beneficios sociales a los que tenían derecho por su condición socioeconómica.

Más allá del ejemplo en el sistema público neerlandés, la invisibilización y la discriminación también pueden originarse en el sector privado. Un ejemplo es el algoritmo de ofertas de trabajo de Amazon que mostró un sesgo contra las mujeres al aprender de datos históricos -es decir, datos incompletos al no incluir un universo amplio y representativo-, lo que llevó a Amazon a abandonar el proyecto. Otro ejemplo Apple Card, una tarjeta de crédito respaldada por Goldman Sachs, que también fue señalada cuando se descubrió que su algoritmo ofrecía límites de crédito más favorables a los hombres que a las mujeres.

En general, la invisibilidad y la discriminación algorítmica, en cualquier ámbito, puede derivar en un acceso desigual a los recursos y en una exacerbación de la exclusión social y económica.

Tomar decisiones basadas en algoritmos

Los datos y los algoritmos son componentes interconectados en el ámbito de la informática y el procesamiento de la información. Los datos sirven de base, pero pueden ser desestructurados, con excesiva variabilidad e incompletos. Los algoritmos son instrucciones o procedimientos diseñados para procesar y estructurar estos datos y extraer información, patrones o resultados significativos.

La calidad y relevancia de los datos impacta directamente en la efectividad de los algoritmos, ya que estos dependen de las entradas de datos para generar resultados. De ahí, el principio " basura entra basura sale", que resume la idea de que, si entran datos de mala calidad, sesgados o inexactos en un sistema o proceso, el resultado también será de mala calidad o impreciso. Por su lado, los algoritmos bien diseñados pueden mejorar el valor de los datos al revelar relaciones ocultas o hacer predicciones.

Esta relación simbiótica subraya el papel fundamental que desempeñan tanto los datos como los algoritmos a la hora de impulsar los avances tecnológicos, permitir la toma de decisiones informadas y favorecer innovaciones.

La toma de decisiones algorítmica se refiere al proceso de utilizar conjuntos predefinidos de instrucciones o reglas para analizar datos y emitir predicciones que ayuden a decidir. Cada vez más, se aplica a decisiones que tienen que ver con el bienestar social y la oferta de servicios y productos comerciales a través de plataformas. Es ahí donde se puede encontrar la invisibilidad o la discriminación algorítmica.

Cada vez con más frecuencia, los sistemas de bienestar utilizan datos y algoritmos para ayudar en la toma de decisiones sobre asuntos como quién debe recibir asistencia y de qué tipo o quién presenta riesgos. Estos algoritmos consideran diferentes factores como ingresos, tamaño de la familia o de la vivienda, gastos, factores de riesgo, edad, sexo o género, que pueden incluir sesgos y omisiones.

Por eso el Relator Especial sobre la extrema pobreza y los derechos humanos, Philip Alston, advertía en un informe ante la Asamblea General de Naciones Unidas que la adopción sin cautelas de estos puede llevar a un bienestar social distópico. En dicho estado de bienestar distópico, los algoritmos se utilizan para reducir presupuestos, disminuir el número de personas beneficiarias, eliminar servicios, introducir formas exigentes e intrusivas de condicionalidad, modificar comportamientos, imponer sanciones y "revertir la noción de que el Estado debe rendir cuentas".

Invisibilidad y discriminación algorítmicas: Dos conceptos opuestos

Aunque los datos y los algoritmos tienen mucho en común, la invisibilidad y la discriminación algorítmicas son dos conceptos opuestos. La invisibilidad algorítmica se refiere a lagunas en conjuntos de datos u omisiones en los algoritmos, que resultan en desatenciones en la aplicación de beneficios o servicios. Por el contrario, la discriminación algorítmica habla de puntos críticos que resaltan comunidades específicas o características sesgadas en conjuntos de datos, generando injusticia.

Es decir, la invisibilización algorítmica ocurre cuando individuos o grupos están ausentes en los conjuntos de datos, lo que hace imposible abordar sus necesidades. Por ejemplo, integrar en la toma de decisiones social datos sobre mujeres con discapacidad puede ser vital para la inclusión. A nivel mundial, las mujeres son más vulnerables a la invisibilización algorítmica que los hombres, ya que tienen menos acceso a la tecnología digital y dejan menos trazas digitales.

Los sistemas algorítmicos opacos que incorporan estereotipos pueden aumentar la invisibilización y la discriminación al ocultar, o bien apuntar, a personas o poblaciones vulnerables. Un sistema algorítmico opaco es aquel no permite el acceso a su funcionamiento.

Por otro lado, agregar o desagregar datos sin estudiar las consecuencias cuidadosamente puede resultar en omisiones u errores. Esto ilustra el doble filo de la contabilidad; es decir, la ambivalencia de la tecnología que cuantifica y cuenta, y que puede servir para mejorar la vida de las personas, pero también para perjudicarlas.

La discriminación puede surgir cuando las decisiones algorítmicas se basan en datos históricos, que normalmente incorporan asimetrías, estereotipos e injusticias, porque en el pasado existieron más desigualdades. El efecto de "basura entra basura sale" se produce si los datos están sesgados, como suele pasar con el contenido en línea. Asimismo, las bases de datos con sesgos o incompletas pueden ser incentivos de la discriminación algorítmica. Pueden aparecer sesgos de selección cuando los datos de reconocimiento facial, por ejemplo, se basan en rasgos de hombres blancos, mientras que las usuarias son mujeres de piel oscura, o en contenido en línea generado por una minoría de agentes, lo que dificulta la generalización.

Como se ve, abordar la invisibilidad y la discriminación algorítmica es un reto de primera magnitud que solo se podrá resolver con la concienciación y la colaboración de instituciones, organizaciones de campaña, empresas, e investigación.
Contenido elaborado por Miren Gutiérrez, Doctora e investigadora en la Universidad de Deusto, experta en activismo de datos, justicia de datos, alfabetización de datos y desinformación de género. Los contenidos y los puntos de vista reflejados en esta publicación son responsabilidad exclusiva de su autor

# data[].attributes.attachment_link.description
La tecnología digital y los algoritmos han revolucionado la forma en que vivimos, trabajamos y nos comunicamos. Si bien prometen eficiencia, precisión y conveniencia, estas tecnologías pueden exacerbar los prejuicios y las desigualdades sociales y crear nuevas formas de exclusión.

# data[].attributes.body
Articulo :

Inteligencia artificial: qué impacto tiene la tecnología en la percepción de la belleza

Link : https://www.infobae.com/inhouse/2024/05/27/inteligencia-artificial-que-impacto-tiene-la-tecnologia-en-la-percepcion-de-la-belleza/?outputType=amp-type

El encuentro que organizó Dove abarcó la temática de la inteligencia artificial (IA) como una de las mayores amenazas para la representación de la belleza real.

Se enfatizo la problemática en lo poco realista y representativas que son las imágenes generadas con IA.

Todas las imágenes utilizadas en la campañas fueron generadas con inteligencia artificial, con el propósito de mostrar el sesgo del concepto de belleza que estas herramientas poseen.

Dove sigue con su campaña para desafiar los estándares impuestos y continuar promoviendo la belleza real.

¿Qué relaciones podes establecer entre el texto de Gómez Barrera y el artículo que seleccionaste?

El texto de Gómez Barrera cuando habla de Segmentación y normas sociales en los algoritmos. Expresa ".. la categorización de los datos, muchas veces, es concretamente arbitraria o responde a otros factores ajenos a un simple proceso matemático". Se señala que los programadores, al preseleccionar datos y diseñar algoritmos, influyen en la construcción de perfiles y la interpretación de los datos, lo que puede generar sesgos sociales.

En el articulo referido a la campaña de Dove se mencionaron a varias participantes, donde una de ellas comenta "Me parece que tenemos que dimensionar que detrás de la inteligencia artificial también hay gente que la maneja”..

Ambos artículos hablan sobre el sesgo que presentan los algoritmos cuando se refieren a aspectos mas abstractos.

# data[].attributes.attachment_link.title
Inteligencia artificial: qué impacto tiene la tecnología en la percepción de la belleza

# data[].attributes.attachment_link.description
Dove presentó una disruptiva propuesta en pos de combatir los estándares irreales impuestos por la IA y las redes sociales

# data[].attributes.body
Encontré un artículo que me llamó la atención: "La cara oculta de los algoritmos" (https://andresmacario.com/la-cara-oculta-de-los-algoritmos/). En este, se discuten los problemas que pueden traer los algoritmos al estar influenciados por humanos en varios aspectos. Esto está directamente relacionado con las ideas de J. C. Gómez Barrera, quien explica cómo los algoritmos pueden derivar fácilmente en prejuicios y sesgos sociales.

El texto da a entender que, si los datos de entrada están sesgados, los resultados producidos por los algoritmos también lo estarán.

Da ejemplos como:

Contratación laboral: La cual puede verse afectada, ya que se podrían favorecer a los solicitantes que encajan en ciertos estereotipos, dejando de lado a personas altamente cualificadas pero pertenecientes a grupos marginados.

Justicia: Un sesgo racial en el sistema podría desembocar en penas más severas para ciertos grupos étnicos, perpetuando así la discriminación.

Todo esto también desemboca en lo que Gómez Barrera reconoce en el texto como "gubernamentalidad algorítmica".

Como conclusión, podríamos decir que debemos generar más consciencia en las personas, ya que es necesario lograr que todos seamos bien incluidos en la sociedad mediante el uso correcto de la IA.

# data[].attributes.body
Elegí el artículo "Metodologías activas aplicando tecnologías digitales" https://revistas.unav.edu/index.php/estudios-sobre-educacion/article/view/45667/38146

Ambos textos abordan cómo las tecnologías digitales transforman las prácticas en sus respectivos campos. Gómez Barrera se centra en cómo los algoritmos y la captura de datos afectan la opinión pública y la subjetividad, mientras que el artículo sobre metodologías activas discute cómo las tecnologías digitales pueden cambiar las dinámicas de enseñanza y aprendizaje. En el texto de Gómez Barrera, se menciona la importancia del sesgo y la preselección de datos por parte de los programadores en la creación de algoritmos. De manera similar, en el contexto educativo, el rol del docente es crucial para implementar tecnologías de manera efectiva, ya que su enfoque y metodología pueden influir en cómo se utilizan estas herramientas en el aula.

Un aspecto que aborda el texto se puede rastrear en el artículo: Gómez Barrera señala que "la gubernamentalidad algorítmica mira de soslayo la participación que tienen los programadores en la captación de los datos". Esto implica que los programadores tienen un papel crucial en cómo se configuran los algoritmos y, por ende, en los resultados que producen.

El artículo sobre metodologías activas enfatiza que "la formación docente es fundamental para aprovechar al máximo el potencial de estas tecnologías" . Ambos textos subrayan que los actores (programadores o docentes) son esenciales para el éxito de los sistemas que utilizan.

# data[].attributes.attachment_link.title
Vista de Basilotta Gómez-Pablos, V. y García Barrera, A. (2023). Metodologías activas aplicando tecnologías digitales. Madrid, Narcea, 208 pp.

# data[].attributes.body
El artículo “Reconocimiento facial: una tecnología envuelta en debates éticos y políticos” (https://agencia.unq.edu.ar/?p=15417) discute los problemas y críticas relacionados con el uso de la tecnología de reconocimiento facial, especialmente en vigilancia y seguridad.

Esto está relacionado con las ideas de J. C. Gómez Barrera. El habla sobre cómo los algoritmos, como el reconocimiento facial, no son neutros y reflejan normas sociales que pueden reproducir desigualdades y estructuras de poder.

Por ejemplo, el artículo menciona que el reconocimiento facial tiene más errores con personas de color, lo que aumenta las desigualdades raciales. Gómez Barrera llama a esto “gubernamentalidad algorítmica”, donde los algoritmos no solo toman decisiones basadas en datos, sino que también reflejan y refuerzan las normas y prejuicios sociales.

Además, el artículo también advierte sobre el uso de estas tecnologías para una vigilancia masiva y el control social. Esto se relaciona con la idea de que los algoritmos pueden transformar a las personas en objetos de control.

Como conclusión, esto resalta la importancia de ser conscientes de como diseñamos y utilizamos tecnologías con IA para lograr un impacto positivo en la sociedad.

# data[].attributes.attachment_link.readable_text
Aunque se utiliza en cuestiones vinculadas a la seguridad, la amenaza a la privacidad y el peligro de control social constituyen dos de sus grandes problemas.

Un grupo de 120 organizaciones no gubernamentales y 60 expertos en tecnología y privacidad pidieron suspender la utilización de reconocimiento facial en espacios públicos y en personas migrantes, ya que puede provocar abusos y discriminación. Aunque la carta fue impulsada por el grupo europeo de defensa de los derechos digitales, contó con el apoyo de organizaciones de todo el mundo. Si bien el reconocimiento facial es uno de los puntos ásperos de la Ley de Inteligencia Artificial que está trabajando la Unión Europea, el problema de esta tecnología que incluye derechos digitales y privacidad se replica en muchas partes del mundo.

El reconocimiento facial se emplea cotidianamente para loguearse en el celular y validar la identidad para instalar apps bancarias u organismos de seguridad social. Incluso, solo con una selfie y mostrar el DNI alcanza para sacar un crédito o hacer compras. Aunque hay aplicaciones para la identificación de personas extraviadas y desaparecidas, se utiliza mayormente para el monitoreo de fronteras o de la vía pública para brindar 'mayor seguridad'. Aunque diversos sectores sociales tratan de resguardar la privacidad y apuntan contra este instrumento, cada vez hay más tecnologías que capturan rostros, voces y movimientos.

"La gente trata de resguardarse, pero en realidad tenemos otras fugas de privacidad que son los celulares. Siempre nos parece casual que nos aparezca publicidad de un lugar que me gustaría ir y lo hablé con alguien un rato antes. Los teléfonos móviles todo el tiempo están captando nuestra información e incluso la venden", señala Pablo Negri, investigador del Conicet en el Instituto de Ciencias de la Computación (UBA), en diálogo con la Agencia de Noticias Científicas de la Universidad Nacional de Quilmes.

¿Seguridad o privacidad?

La seguridad es uno de los temas que reina en todos los debates políticos y el reconocimiento facial se ofrece como una herramienta para detectar a aquellas personas consideradas peligrosas. En este sentido, uno de los debates es hasta qué punto la población está dispuesta a perder privacidad para ganar seguridad.

"En este punto, la cuestión radica en la utilización proporcional frente a ciertos casos riesgosos para la sociedad o para las personas. Seguramente hay sociedades más permeables a este tipo de usos que prefieren estar más seguras, y otras que prefieren optar por la privacidad ", destaca Negri.

Pese al debate entre ambas posturas, el peligro es caer en la vigilancia y el control social a través de esta herramienta. De hecho, la Procuraduría de Investigaciones Administrativas denunció penalmente a las autoridades de la Ciudad Autónoma de Buenos Aires por presunto espionaje ilegal con cámaras y datos biométricos sobre funcionarios, dirigentes sociales y gremiales, opositores, jueces, periodistas y empresarios.

La tecnología tampoco es objetiva

Aunque suele pensarse que estos softwares son neutros y eficientes, quienes los diseñan todavía son personas de carne y hueso que cargan con sus prejuicios, estereotipos y errores. Denominado como sesgo tecnológico, el problema está en la construcción de la base de datos. Las primeras que iniciaron en 2015 estaban formadas con millones de fotos de personas famosas, en su mayoría provenientes de Estados Unidos y Europa.

De esta manera, se generó una preponderancia de gente blanca, occidental y masculina. Si bien el margen de error para estos rasgos es mínimo, hay otras razas, etnias y géneros que quedaron por fuera de la validación precisa.

"Esto lleva a que se produzcan más falsas alarmas con personas que no son blancas y europeas. Así, se generan falsas alarmas donde una persona que según los umbrales del sistema es parecida, pueda ser detenida en la vía pública ", señala el científico creador de Siface: un sistema de reconocimiento facial para localizar individuos perdidos y prófugos.

Argentina, Brasil y Estados Unidos tienen más de un ejemplo donde la tasa de error del reconocimiento facial es mayor en personas negras, mujeres o trans, que en hombres blancos. Según un informe de la Red en Defensa de los Derechos Digitales, " estos errores alcanzan casi el 40 por ciento cuando se trata de mujeres racializadas o personas trans, mientras que, en hombres blancos, la tasa de error cae a solo el 0.3 por ciento ".

Por eso, es necesario generar otras bases de datos inclusivas con tecnologías que sean capaces de reconocer con igual eficacia todos los tipos de rostros y todos los tipos de pieles.

Últimas noticias de la sección Sociedad:

# data[].attributes.attachment_link.title
Reconocimiento facial: una tecnología envuelta en debates éticos y políticos - Agencia de noticias científicas

# data[].attributes.attachment_link.description
Aunque se utiliza en cuestiones vinculadas a la seguridad, la amenaza a la privacidad y el peligro de control social constituyen dos de sus grandes problemas.

# data[].attributes.body
Me llamo la atención el articulo "La influencia de los algoritmos en la vida humana" https://andresmacario.com/la-influencia-de-los-algoritmos-en-la-vida-humana/. La mencionada pagina y el texto presentado en la materia ofrecen una visión crítica y profunda sobre el papel de los algoritmos en la sociedad actual, un análisis más exhaustivo sobre el funcionamiento de los algoritmos, sus sesgos inherentes y las implicaciones éticas que conllevan. La necesidad que se solicita de bordar estos temas, en el contexto de un mundo cada vez más mediado por la tecnología, donde los algoritmos no solo influyen en nuestras decisiones diarias, sino que también en nuestras sociedades. La reflexión que tomaría seria un uso mas responsable para un mayor beneficio de todos.

# data[].attributes.attachment_link.title
La influencia de los algoritmos en la vida humana - Andres Macario

# data[].attributes.attachment_link.description
Los algoritmos se han convertido en una parte fundamental de nuestros días debido al avance en el mundo digital

# data[].attributes.body
La gran cantidad de información presente en internet es un recurso muy valioso para las empresas, quienes invierten gran parte de su capital en obtenerla y procesarla, a través de la minería de datos. Actualmente, vemos como gran parte del auge de la IA es consecuencia de la enorme cantidad de información que se les suministra, permitiendo a un software aprender y dar respuestas predictivas basando su funcionamiento en algoritmos probabilísticos. En el artículo ¿Cómo puede ayudar el 'data mining' o minería de datos a las empresas? extraído de https://www.bbva.com/es/ar/, vemos uno de los usos de la minería de datos en el marketing, donde “permite establecer relaciones y segmentar a los clientes, adivinar su comportamiento y desarrollar campañas personalizadas, con el propósito de aumentar la fidelización o captación”. Considero que el uso de estos algoritmos permite a las empresas restar importancia a la individualidad al asociar un perfil a cada persona, para poder centrarse más en satisfacer las necesidades de las masas que compartan el mismo perfil.