Uno de los trabajos más recientes a la presente investigación sobre el problema del sesgo en la existencia de los procesamientos algorítmicos es la realizada por Noble (2018). Esta investigadora norteamericana ha encaminado diversos análisis en torno a cómo los algoritmos, lejos de tener un carácter neutral y objetivo, discurso predominantemente tecnócrata, tienen una fuerte base en su funcionamiento de sesgos sexistas, racistas o falsas nociones de meritocracia que, adicionalmente, han sido reveladas constantemente en la industria de Silicon Valley

Articulo periodístico:

Riesgos de sesgo y discriminación en Inteligencia Artificial (IA)

Los sesgos en la Inteligencia Artificial pueden llevar a discriminación y dañar la reputación corporativa. Estos sesgos surgen de errores en diseño de modelos y datos sesgados. Se recomienda prácticas como revisión de datos, pruebas de equidad y monitoreo continuo para mitigar estos riesgos y asegurar un funcionamiento ético de la IA.

Uno de los mayores riesgos a los que se exponen las compañías en el empleo de la Inteligencia Artifical (IA) es la obtención de resultados sesgados (lo que llamamos 'el sesgo'), y si este sesgo lo trasladamos a datos personales, podríamos terminar en un riesgo de discriminación/prejuicios (bien por sexo, raza, procedencia, creencia, etc) con el consecuente impacto no deseado sobre ciertos grupos de personas, afectando en la reputación e imagen de las compañías. Por tanto, 'el sesgo' podría definirse como la discriminación o prejuicio sobre la realidad que afectan a la toma de decisiones (o resultados obtenidos) de un sistema de IA.

https://www.bdo.es/es-es/blogs-es/coordenadas-bdo/riesgos-de-sesgo-y-discriminacion-en-inteligencia-artificial-(ia)

¿Qué relaciones podes establecer entre el texto de Gómez Barrera y el artículo que seleccionaste?

Ambos textos abordan la problemática de los sesgos y la discriminación en la inteligencia artificial. Gómez Barrera destaca la dependencia del sesgo en la lógica de la predicción en los algoritmos, señalando que la selección de datos de entrada por parte de los programadores puede generar problemas evidentes relacionados con el sesgo en diversas plataformas y servicios de Internet. Por otro lado, en el artículo periodístico se menciona que los sesgos en la IA pueden llevar a la discriminación y afectar la reputación corporativa, surgiendo de errores en el diseño de modelos y en datos sesgados.

Ambas fuentes coinciden en la importancia de identificar y mitigar los sesgos en la inteligencia artificial para evitar resultados discriminatorios y garantizar un funcionamiento ético de los sistemas de IA. Recomiendan prácticas como la revisión de datos, pruebas de equidad y monitoreo continuo para abordar estos riesgos y asegurar que las decisiones tomadas por los algoritmos no se vean influenciadas por prejuicios o discriminación hacia ciertos grupos de personas.

¿Qué aspectos que aborda el texto se pueden rastrear en el artículo seleccionado? Justificar citando algún fragmento del texto.

El aspecto que se puede rastrear en el artículo seleccionado es la relación entre los sesgos en la inteligencia artificial y su potencial impacto en la discriminación y la reputación corporativa. En el texto de Gómez Barrera se menciona cómo la fuerte presencia del sesgo en el funcionamiento de los algoritmos puede generar problemas evidentes en múltiples plataformas y servicios de Internet debido a la selección arbitraria de datos de entrada por parte de los programadores. Esta idea se refleja en el artículo periodístico cuando se menciona que "Uno de los mayores riesgos a los que se exponen las compañías en el empleo de la Inteligencia Artificial (IA) es la obtención de resultados sesgados", lo que puede llevar a situaciones de discriminación y prejuicios, afectando la reputación e imagen de las empresas.

Ambos textos resaltan la importancia de reconocer y abordar los sesgos en la inteligencia artificial para evitar consecuencias negativas como la discriminación, prejuicios y daños a la reputación corporativa.

Este artículo habla de la importancia de abordar los sesgos en los algoritmos orientados al diagnóstico de enfermedades, desarrollo de fármacos y tratamiento de enfermedades para que puedan ser aprovechados por una mayor parte de la sociedad. Si los datos con los que se entrenan los algoritmos son poco representativos, pueden ser propensos a reforzar el sesgo, lo que puede dar lugar a que distintos grupos queden excluidos de los avances médicos, o mal diagnosticados, o incluso vulnerables a resultados fatales.

¿Qué aspectos que aborda el texto se pueden rastrear en el artículo seleccionado? Justificar citando algún fragmento del texto.

La nota sugiere que para minimizar el sesgo de los algoritmos es esencial abordar estos sesgos a nivel de datos, garantizando que los datos utilizados sean completos, representativos y libres de disparidades históricas. Aunque existe el riesgo de crear algoritmos de IA para la atención sanitaria con sesgos inherentes, hay varios enfoques que los investigadores y programadores pueden adoptar para minimizar los sesgos y garantizar que sus resultados sean eficaces para el mayor número posible de personas. Garantizar la minimización del sesgo algorítmico en la IA sanitaria no es sólo una preocupación tecnológica o práctica, sino una importante consideración ética.

Como menciona Gómez Barrera en el texto "Lo que resulta interesante en el análisis de la segmentación de los datos de entrada para el procesamiento de la información es el hecho de que existe un doble perfilado de los valores o patrones que se intentan establecer. Es decir, dentro de la construcción de perfiles para el procesamiento de la información mediante herramientas algorítmicas hay un proceso previo de categorización de la diversidad de datos iniciales hecha por los individuos que efectúan los análisis y programan los algoritmos. Bajo esa mirada, de acuerdo con Canhoto y Backhouse (2008), hay dos puntos en donde se evidencia cómo el trabajo humano resulta central para el procesamiento algorítmico. Primero, en la determinación del dato que debe ser analizado, tanto su relevancia como su tipo. Segundo, en todo lo que tiene que ver con el dominio y los sesgos que determinan el soporte de la búsqueda y la utilidad de los resultados, es decir, la validación del proceso."

Articulo: https://www.techopedia.com/es/sesgo-algoritmos-ia-sanitaria

La nota trata sobre un estudio que muestra cómo la inteligencia artificial puede transferir los sesgos de sus programadores a los usuarios. A través de un experimento, los participantes utilizaron un algoritmo sesgado para realizar tareas de clasificación, y los resultados mostraron que, después de interactuar con la IA, continuaron aplicando los mismos sesgos en sus decisiones futuras, incluso sin la ayuda del algoritmo. Esto sugiere que los sesgos de la IA pueden transferirse a las personas y afectar sus juicios a largo plazo.

Gómez Barrera dice textual en su artículo: “No obstante, en la construcción teórica de Rouvroy y Berns en torno a la modalidad con la que se captan los datos, se mira de soslayo la participación que tienen los programadores en el diseño de los sistemas algorítmicos; esto es, se enfoca este proceso en el papel que desempeñan la existencia misma de los datos y no se tiene en cuenta la centralidad que tiene, dentro del proceso algorítmico, la preselección y sesgo de los datos que se consideran útiles para el procesamiento. Este punto o elemento de partida de la captación de los datos resulta fundamental, en la medida en que evidencia la continuación de diversos valores, transmitidos a los algoritmos, que pueden derivar fácilmente en prejuicios y sesgos sociales; y que, justamente, deben ser tenidos en cuenta como un punto sustancial en el proceso de configuración de individuación de subjetividades que ellos formulan.”

La relación es clara: datos manipulados alimentando una IA pueden influir directamente en la forma de pensar y en la toma de decisiones de las personas que la utilizan, incluso en el largo plazo cuando el sistema deja de ser usado.

Lo que me resulta más interesante de pensar son los ejemplos y situaciones en las cuales esto puede darse: ¿Una IA podría llegar a tener sesgos machistas o racistas? ¿Con qué motivos? ¿Qué sucede si dichos sesgos terminan trasladándose a los usuarios? ¿Podría una IA sesgada, sin que nos dieramos cuenta, inclinar la balanza en nuestras cabezas hacia un candidato u otro durante un proceso electoral?

Finalmente, lo interesante es que ambos textos mencionan la necesidad de regular y supervisar estos sistemas, aludiendo al impacto que tienen en los individuos y sociedades.

¿Qué relaciones podes establecer entre el texto de Gómez Barrera y el artículo que seleccionaste?

El texto de Gómez Barrera y el artículo de Ferrante comparten una visión crítica sobre los sesgos en los algoritmos y su impacto en la sociedad. Ambos destacan que los algoritmos no son neutrales, ya que incorporan los sesgos y valores de quienes los programan. Gómez Barrera subraya que la preselección de datos introduce normas y prejuicios que afectan la individuación de los sujetos, mientras que Ferrante detalla cómo estos sesgos en inteligencia artificial perpetúan desigualdades al basarse en datos no representativos.

¿Qué aspectos que aborda el texto se pueden rastrear en el artículo seleccionado? Justificar citando algún fragmento del texto.

Por ejemplo, Ferrante menciona el caso de Joy Buolamwini, cuyo rostro no fue reconocido por un sistema de IA debido a la falta de datos de personas negras, lo que refleja el punto de Gómez Barrera sobre la normatividad algorítmica que moldea las identidades. "No hay ejemplo más claro que el caso de Joy Buolamwini, quien descubrió el sesgo racial de los sistemas de detección facial al usarlos en su propio rostro. "

Ambos autores abogan por prácticas inclusivas y la regulación de estos sistemas para evitar que profundicen las desigualdades sociales.

https://nuso.org/articulo/inteligencia-artificial-y-sesgos-algoritmicos/

Creo que lo que pierde de vista el texto es que lo único que se busca en un algoritmo, y mas en algoritmos de redes sociales, es que sean eficientes. Sin un algoritmo es eficiente eso ya basta, y cualquier impacto que pueda tener en la sociedad es descartado o en el peor de los casos explotado. Por ejemplo, el algoritmo de reels en Instagram esta maximizado para logar retención, el único objetivo del algoritmo es que el usuario nunca deje de mirar reels y nunca abandone la página. Aquí entra el juego el perfilado, es decir el algoritmo crea un modelo de la persona, que tiene como objetivo encontrar que reels mostrar para que el usuario no cierre la aplicación. En este sentido ese “desdoblamiento de lo real” es algo intencionalmente buscado, ya que solo se busca la eficiencia y no la duplicidad de un ser humano “real”.  En el articulo seleccionado se perfila a los usuarios para saber que mujeres están embarazadas, de nuevo es extremadamente eficiente al punto que se lo compara con un test de embarazo, pero de nuevo se descartan las consecuencias, el consentimiento, e incluso se produce una invasión de la privacidad y se atenta contra un cuerpo. En este sentido, la mayor subjetividad no solo está en la curación de los datos sino en la selección de los mismos, y en el deseo de por que son elegidos. Es decir la violación de derechos se produce previamente a tocar cualquier código; como en historia, elegir una fuente ya es algo subjetivo incluso antes de realizarle preguntas. Lo mas tenebroso de esto es que hay casos demostrados en donde ya no solo se predice sino se que influencia sobre las decisiones. Como por ejemplo el caso de Cambridge Analítica. En este sentido creo que final del texto es fundamental, citando a Noble : “se deben generar mecanismos de regulación en materia de derecho. Es decir, se apela a un marco normativo que parta del hecho de que ‘necesitamos protección legal ahora más que nunca, como sistemas automatizados de toma de decisiones, puesto que manejan un mayor poder en nuestra sociedad’ ” . Puesto que una “gubernamentalidad algorítmica” enmarcada dentro de conceptos foucaultianos implicaría la coerción y la manipulación para generar y perpetuar poder o otros fines ulteriores.

¿Qué relaciones podés establecer entre el texto de Gómez Barrera y el artículo que seleccionaste?

Tanto el texto de Gómez Barrera como el artículo abordan el tema de cómo los algoritmos y la tecnología pueden ser sesgados y, por ende, injustos. Ambos enfatizan que estos sistemas no son neutrales y que pueden perpetuar desigualdades sociales.

¿Qué aspectos que aborda el texto se pueden rastrear en el artículo seleccionado? Justificar citando algún fragmento del texto.

En el texto de Gómez Barrera, se menciona dos cosas que quiero relacionar con mi articulo:

1. "Los algoritmos, lejos de tener un carácter neutral y objetivo, tienen una fuerte base en su funcionamiento de sesgos sexistas, racistas o falsas nociones de meritocracia"

Esto se refleja en el artículo, ya que se menciona que muchos candidatos son rechazados injustamente debido a sesgos en los sistemas de selección. Por ejemplo, se relata el caso de un usuario, que luego de ser rechazado para el puesto, volvió a subir su CV con su su fecha de nacimiento modificada, para parecer más joven. Con este simple cambio, consiguió una entrevista. Además, se presenta otro ejemplo donde un sistema de selección de CVs favorecía a aquellos que mencionaban "baseball" o "basket" (hobbies que estaban asociados a los empleados exitosos, que en su mayoría eran hombres) mientras que aquellos que mencionaban "softball" (generalmente mujeres) eran penalizados.

Aunque la industria sostiene que la IA proporcionará una visión objetiva y neutral de los datos, la realidad es que los algoritmos de selección pueden encontrar correlaciones indeseadas, las cuales suelen resultar en decisiones injustas y discriminatorias.

2. Los artefactos algorítmicos se han vuelto cada vez más normativos”

   
   

Como detalla el articulo, las desarrolladoras de software de estas IAs están lanzando productos subdesarrollados e incluso defectuosos al mercado para aprovechar la demanda. Las empresas también se suman al "boom" de la inteligencia artificial, confiando en todas sus "ventajas", lo que facilita la presencia de este software en todos lados. Por supuesto, y como ha resultado evidente, la rápida adopción de la IA sin un análisis crítico conlleva consecuencias negativas, ya que muchas veces se ignoran los sesgos inherentes a estos sistemas.