Se expone que aunque con la IA se puede incrementar entre un 30 y 40% los resultados satisfactorios para los pacientes, hay muchas predicciones de enfermedades que se entrenan con datos predominantemente masculinos. Eso provoca errores en los diagnósticos hacia mujeres”. Lo mismo pasa según la raza, la edad o, incluso, el estilo de vida de la población muestreada. En este contexto, los expertos advierten de la necesidad de recopilar y usar los datos pertinentes.

"Para Canhoto y Backhouse, los puntos que entran en juego en la selección y agrupamiento de los elementos que son analizados por el procesamiento son esencialmente cuatro: datos, cognición, affordances y normas."

En la noticia elegida se expone la influencia que tiene la elección de los "datos" en la variación de la precisión del algoritmo.

Demostrando que si al realizar los algoritmos se utilizan datos predominantemente masculinos provoca errores en los diagnósticos de los actores que están fuera de este grupo.

Las relaciones que yo establecí entre el texto de Gómez Barrera y este artículo, son:

• El sesgo en los algoritmos: el texto menciona como los sesgos y las normas sociales influyen en la programación de algoritmos. Mientras que en el artículo, se habla de un proyecto argentino que busca identificar y reducir los sesgos en la inteligencia artificial.

  "El proyecto argentino busca identificar y corregir sesgos en algoritmos de inteligencia artificial, un área crítica para garantizar la equidad en los sistemas automatizados."

• Segmentación y normativas sociales: el texto muestra como la segmentación de datos y la formulación de normativas sociales influyen en la manera en que los algoritmos captan y procesan información mientras que en el artículo, se ve como no solo se enfoca en los sesgos, sino también en como están relacionados con las segmentaciones específicas de los datos que se usan en los algoritmos.

  "El objetivo del proyecto es también revisar cómo las segmentaciones en los datos pueden reflejar prejuicios sociales, y ajustar los algoritmos para evitar estos sesgos."

Gómez Barrera menciona que “la categorización de los datos es concretamente arbitraria o responde a otros factores ajenos a un simple proceso matemático”​. Esto se relaciona con la influencia de la IA en las decisiones educativas, donde el sesgo de los datos puede llevar a resultados problemáticos.

Ambos textos coinciden en la necesidad de evaluar críticamente el impacto de los algoritmos en decisiones clave, ya que los sesgos en los datos pueden tener efectos significativos en los resultados educativos, tal como en el caso de la admisión o el rendimiento académico.

Un ejemplo que me llamó particularmente la atención es el del sistema SyR en los Países Bajos, donde personas de bajos recursos fueron injustamente segmentadas y etiquetadas como sospechosas de fraude, lo que evidencia cómo la recolección y uso de datos puede reforzar la exclusión social. Además, el caso del algoritmo de contratación de Amazon, que discriminaba a las mujeres debido a sesgos históricos en los datos, es otra muestra de cómo estos sistemas pueden operar bajo lógicas que perpetúan desigualdades.

Este artículo me parece importante porque no solo cuestiona la supuesta objetividad de los algoritmos, sino que también refuerza la necesidad de una mayor transparencia y responsabilidad en su diseño y aplicación, temas que también son mencionados por Gómez Barrera. La crítica compartida en ambos textos resalta la urgencia de repensar cómo se utilizan estas tecnologías para evitar que continúen generando formas de invisibilidad y discriminación.

Como estudiantes de inteligencia artificial, nuestro rol es fundamental en este proceso. Debemos asegurarnos de que los algoritmos y sistemas que ayudamos a crear consideren la diversidad de quienes los utilizarán. Esto implica trabajar con datos representativos de diferentes grupos, evitar sesgos en el entrenamiento de los modelos y validar que los resultados sean equitativos para todos. Es crucial que nos comprometamos a aprender, cuestionar y proponer soluciones que fomenten una IA más justa y accesible para todas las personas, sin importar sus capacidades, origen o contexto social.

El texto de Gómez Barrera está relacionado con este artículo, especialmente cuando se habla sobre el perfilado de los algoritmos. Los datos con los que se entrenó este algoritmo, fueron recolectados de manera automática a través de múltiples formas, como unas encuestas que eran respondidas por los acusados. Luego, el algoritmo busca correlaciones entre los datos iníciales con la intención de generar patrones. Finalmente, este análisis de datos lleva a la creación de perfiles que buscan predecir el comportamiento y las acciones futuras de las personas.

Como dijo Gómez Barrera, “resulta fundamental hacer hincapié en el hecho de que la función que realiza propiamente un algoritmo depende enteramente de un trabajo previo con los datos y de una configuración anterior de los criterios de búsqueda”. En conclusión, la creación de estos perfiles presenta una falta de subjetividad, ya que son creados a partir de la interpretación descontextualizada de los datos, representando de forma imprecisa la realidad.

En principio, Gómez Barrera cita que la programación, por muy neutral que se plantee, está atravesada por ideas generalizadas. Así, se termina dando fuerza a conceptos que degradan la vida en sociedad de ciertos grupos de personas por incentivar un trato diferenciado. En este artículo se aborda como la asignación de rasgos estereotípicos, por más que sean positivos, marcan una diferencia.

Respecto al racismo, en este texto se enuncia "Borges señala que los estereotipos positivos están “llenos de trampas”, no solo para los periodistas sino también para las poblaciones a las que van dirigidos. “¿Quién no quiere ser visto como feliz y alegre? [...] Por supuesto que es mejor que la prensa muestre a las poblaciones negras y vulnerables como personas que alegran el carnaval y no como criminales”." mientras que Barrera nos expone "Un caso conocido de esto fue la imagen de dos personas negras en la búsqueda en imágenes en Google de “gorilas.".

Entonces vemos la forma en que la proliferación de estereotipos se predispone en medios digitales. Resulta conveniente, consecuentemente, formar sociedades éticas donde se reflexione acerca de las causas por las que la sociedad tiende a diferenciarse tan marcadamente de las personas con determinados rasgos - ya por fuera del racismo en si. Esto se condice con la propuesta de generar una universidad que no solo opere como formadora de unidades de trabajo sino como sujetos sociales con responsabilidad colectiva cuyo trabajo siga principios éticos y morales.

En conclusión, dado lo copioso de los estereotipos referidos a los orígenes de las personas, se debe trabajar en generar sociedades educadas en base a la ética que no tienda a discriminar por razones intrínsecas del sujeto.

Abordando los dilemas éticos que tiene la inteligencia artificial, en especial: “el sesgo en la inteligencia artificial”, en donde ambos textos destacan cómo los algoritmos, lejos de ser neutrales, reflejan normas sociales y prejuicios existentes.

El texto de Gómez Barrera se relaciona con este artículo, especialmente en lo que respecta a la segmentación y el sesgo en los algoritmos. En el artículo se menciona cómo la inteligencia artificial puede mostrar resultados sesgados en motores de búsqueda, dando como resultado estereotipos de género. Y Gómez lo afirma en el siguiente argumento:

Segmentación y normas sociales en los algoritmos

“En consecuencia, lo que se evidencia es que la búsqueda de una predicción a partir de patrones está atravesada por intereses pragmáticos y situaciones o intenciones sociales específicas”

Como antes hemos mencionado, esto da como resultado a los estereotipos de género.

Tanto el artículo como el texto de Gómez, destacan la necesidad de una regulación más efectiva en el desarrollo de tecnologías algorítmicas, la falta de transparencia y responsabilidad en la programación se convierte en un papel fundamental a tener en cuenta.

global líder en la medición y análisis de datos, se especializa en medir audiencias, comportamientos de consumo, hábitos de medios de comunicación y

mercados, aborda temas relacionados con la segmentación, el sesgo y las normas sociales en la programación)

El artículo de Nielsen destaca la importancia de combinar datos contextuales y de comportamiento para mejorar la segmentación de la audiencia y maximizar el retorno de la inversión en campañas publicitarias. Esto pone de manifiesto cómo los datos y algoritmos pueden influir en la percepción y el comportamiento del público.

Este enfoque refuerza la idea de Gómez Barrera sobre la influencia de los algoritmos y la necesidad de reconocer los sesgos y normas sociales que estos pueden incorporar. La transparencia y la responsabilidad en el uso de datos son esenciales para mitigar los efectos negativos y asegurar una segmentación justa y efectiva.

Cito una parte del artículo: “ Para llegar a los consumidores allí donde están, los profesionales del marketing necesitan datos de alta calidad que informen sus estrategias y les ayuden a llegar a más público objetivo. Y según los profesionales del marketing encuestados para el

Informe Anual de Marketing 2022, la segmentación de audiencias es su táctica de

marketing más importante”.