Este tiene claras relaciones con el paper de Gómez Barrera, principalmente en las partes donde se explica cómo los algoritmos de las redes sociales afectan a los individuos en la sociedad y sus decisiones, y crean cajas de resonancia y sesgos de confirmación.

El artículo menciona algo que puede ser rastreado entre líneas en el paper de Barrera: Los algoritmos no recomiendan siempre posts que nos aporten, nos interesen, o siquiera que queramos ver, los algoritmos ni siquiera intentan hacer esto, según Barrera, si no que de forma sesgada, y estadística, elije contenido que pueda captar la atención del usuario.

Curiosamente, por estas mismas razones, en el artículo, dicen que las redes sociales dejaron de cumplir sus funciones originales, y ahora pasaron a ser "redes algorítmicas", donde el contenido que vemos deja de ser de los creadores que seguimos sino que sobre contenido que haya pasado la primera y más grande barrera: la algorítmica.

Como dice Barrera, estos algoritmos están muy lejos de ser objetivos en la forma en que actúan, teniendo sesgos de los programados en sus mismas arquitecturas, por lo que propone que sean regulados por el estado para tener seguridad de que los sesgos que estos posean no sean dañinos para la población.

En relación al tema del artículo de Gómez Barrera, en particular al protagonismo de los algoritmos en la sociedad y el riesgo subyacente en los sesgos del mismo (como fruto de la subjetividad que puedan tener los creadores del mismo) resalto el episodio 1 de la tercera temporada llamado "Nosedive" que podemos traducir como "Caída en picada".

En el episodio se muestra una sociedad (¿utópica? ¿distópica?) compuesta por individuos cuyo comportamiento se encuentra fuertemente controlado por su puntaje en una red social omnipresente. Así, cada acción, cada interacción entre dos personas, es instantáneamente puntuada por quienes participaron. Estos puntajes no son inocentes: la prosperidad de los individuos depende absolutamente de ellos. La protagonista se ve involucrada en una serie de hechos que transforman toda su vida como resultado de su puntaje.

Creo que todavía está pendiente el debate serio sobre la forma en que deben aplicarse este tipo de tecnologías ¿deben ser reguladas? Si así fuera ¿quien debería hacerlo? ¿Un estado que pueda usarlo para otros fines? En mi opiniòn todavía tenemos más preguntas que respuestas pero lo que es innegable es que el impacto en la sociedad yá está ocurriendo ahora.

En línea con esto, el artículo de la UE subraya cómo la nueva legislación busca regular y clasificar los sistemas de IA según su nivel de riesgo, prohibiendo aplicaciones potencialmente peligrosas como el reconocimiento emocional y la manipulación de comportamientos, ya que estos usos pueden afectar negativamente los derechos fundamentales y la dignidad de los ciudadanos. Según el artículo, “la UE asegura que el reglamento ‘tiene como objetivo garantizar que los sistemas de IA utilizados en la UE sean seguros y respeten los derechos fundamentales y los valores europeos’”

Una interrogante que me interesa es el debate sobre la responsabilidad en los errores de estos sistemas y hasta qué punto es posible, o ético, permitir que las máquinas tomen decisiones autónomas que impactan vidas humanas.

Aquí se puede ver cómo el poder de los algoritmos influye en la experiencia y percepción de los usuarios. Gómez Barrera sostiene que los algoritmos no solo capturan información de los individuos, sino que también configuran comportamientos y preferencias a través de la segmentación y el sesgo en la recopilación de datos. Esto sugiere que las plataformas digitales, como TikTok, no son neutrales en sus efectos sobre los usuarios, sino que moldean sus interacciones de manera intencional y potencialmente problemática.

En el artículo de La Nación, se menciona cómo TikTok, mediante algoritmos altamente personalizados, se convierte en una aplicación adictiva y que podría impactar la salud mental de sus usuarios. Esto se relaciona con el concepto de la "gubernamentalidad algorítmica" usado por Gómez Barrera, quien plantea que los sistemas digitales "modelizan, anticipan y afectan los comportamientos posibles" de los usuarios. En este sentido, TikTok utiliza el algoritmo para prever y adaptar el contenido a los intereses de cada usuario, lo cual tiene efectos en la atención y la emocionalidad de los jóvenes, facilitando patrones de uso obsesivo y afectando sus interacciones sociales.

Ambos textos destacan cómo la "construcción de perfiles" y la segmentación de datos no solo atienden a un interés comercial, sino que también influyen profundamente en la percepción y bienestar de los usuarios, haciéndolos más susceptibles a los efectos de las redes en sus vidas diarias.

En el articulo toca estos mismos aspectos sobre la manera en que los algoritmos crean una experiencia homogénea sin diversidad: "Es como si el algoritmo supiera lo que quiero antes de que yo mismo lo haga... Nos lleva siempre por el mismo camino, eliminando todo lo inesperado, lo sorpresivo, lo caótico que en realidad nos hace humanos." Esto refleja como los algoritmos no solo sugieren, sino que también guían las experiencias.

Además, el artículo destaca que "al confiar ciegamente en las sugerencias, nos perdemos lo que está fuera de sus cálculos," lo cual está en línea con la idea de Gómez Barrera de que los algoritmos, al aplicar criterios de segmentación y sesgo, determinan un espectro limitado de opciones, influenciando y, en cierto modo, "gobernando" nuestras preferencias.

Si bien el texto aborda una variedad de problemas interesantes, decidí quedarme con la discriminación como "puntapié" inicial al momento de buscar un artículo ya que, en lo que a mi me parece, es una problemática que como sociedad arrastramos hace muchísimo tiempo y aún no supimos encontrarle una solución que se aproxime a la definitiva. Y no solo eso sino que debido a los nuevos medios, como por ejemplo las redes sociales, este problema tuvo un fuerte retroceso a lo que se acostumbraba previo a estas.

Tanto el texto (". Por lo tanto, la categorización de los datos, muchas veces, es concretamente arbitraria o responde a otros factores ajenos a un simple proceso matemático.") como el artículo("sistemas cuyas predicciones benefician sistemáticamente a un grupo de individuos frente a otro, resultando así injustas o desiguales.") expresan cómo los algoritmos, lejos de ser herramientas neutrales, reproducen y amplifican los sesgos y normas sociales existentes. Y es que este no puede pensar distinto de quien lo diseñó, porque es esa persona quien define sus objetivos y el camino a seguir para llegar a los mismos o quien le entrega el dataset de entrenamiento para obtener los resultados esperados.

Es por esto que debe ser fundamental una mayor diversidad en los equipos de trabajo, buscando generar distintos valores e intereses al momento de nuevos desarrollos. Además de una regulación que garantice los valores éticos y morales de las nuevas tecnologías evitando, sobre todo, que estas amplíen la brecha entre clases o culturas. Algo que supo cumplir, aunque sea brevemente, pero con el tratamiento de los datos, utilizados para cumplir los intereses de sectores minoritarios, se fue perdiendo a lo largo de los últimos años para así beneficiar los objetivos de estos pocos.

Lo que despierta mi interés en el artículo relacionado al texto es el uso que se le puede dar a algo tan nuevo como la inteligencia artificial que recién ahora está apareciendo entre la sociedad y la delicadeza con la que se debe trabajar en su aplicación.

En el texto de Gómez Barrera se habla de cómo el fenómeno de segmentación y sesgo condiciona la individuación y lo subjetivo en la interacción con lo digital, destacando que la percepción de neutralidad de los algoritmos se oculta en la propagación de normas sociales y prejuicios.

El artículo de El Litoral aborda el tema de cómo los sistemas de inteligencia artificial (en este caso, ChatGPT) pueden tener un impacto significativo en el ámbito educativo. Relacionando ambos artículos, Gómez Barrera menciona el funcionamiento de los algoritmos como "una construcción de saberes" en donde se tiene una "mínima intervención humana"; relacionando ambas ideas, se puede destacar la importancia de educar a los estudiantes y prepararlos para un uso crítico y reflexivo de estas nuevas tecnologías, mostrándole los alcances y límites éticos de la aplicación tanto para lo académico como para el día a día

"Para Canhoto y Backhouse, en ese proceso de affordances y normas lo que se buscan son comportamientos sociales que son, o se entienden, como comportamientos normativos, es decir, comportamientos que han sido atravesados ya por una mirada específica o construida de antemano. En consecuencia, lo que se evidencia es que la búsqueda de una predicción a partir de patrones está atravesada por intereses pragmáticos y situaciones o intenciones sociales específicas [...]"

Es decir, previamente tratan de encasillarlo a uno en ciertos arquetipos normales estableciendo como es esperable que nos comportemos o seamos, y nos bombardean algorítmicamente contenido de esas características. En el artículo que comparto en habla de como Spotify además de su algoritmo utiliza "perspectivas basadas en datos y cultura", que si bien no sabemos bien de que se trata tranquilamente podría ser este sesgo previo introducido inicialmente por personas. Por ejemplo, puede ser que a un hombre de avanzada edad Spotify sea menos probable que le recomiende música erróneamente catalogada como "de gente joven".

De la misma manera, la plataforma de streaming musical ha sido cuestionada por insistir en música "mainstream" en detrimento de artistas mas pequeños o indie. Entonces, si se fuerza a la gente a escuchar la música más popular, claramente los artistas más escuchados serán los que el algoritmo quiera, deja de ser verdaderamente orgánico (además de que artistas pagan para aparecer con más frecuencia). La plataforma lejos de utilizar el algoritmo para ayudarnos a encontrar nuevas experiencias musicales, lo que termina haciendo es reforzar los modelos sociales (o comerciales) de quienes la construyeron.

Edit: Agrego una versión del articulo sin el paywall para los que no lo puedan ver https://www.removepaywall.com/search?url=https://www.washingtonpost.com/technology/2024/08/29/find-new-music/

En la nota, Yuval declara: -"Los algoritmos quieren al mayor número de gente enganchada a la plataforma el máximo de tiempo posible”. Este, ha argumentado el académico, es su modelo de negocio. El problema reside en que todos estos mecanismos de Inteligencia Artificial han “descubierto que la manera más fácil de captar la atención humana es pulsar el botón del odio o del miedo o de la rabia en la mente de la gente”. Ante esto, “de forma deliberada difunden fake news y teorías de la conspiración”, lo que hace que la gente no solo se implique, sino que además “envíen el link a sus amigos”-.

Lo relaciono directamente con lo que habla el tecnólogo y emprendedor Santiago Bilinkis en su libro del año 2019, "Guía para sobrevivir al presente", sobre las noticias y fuentes de información que tenemos hoy en día.

"Pese a la endeblez de nuestras opiniones en la mayoría de temas, si estás de acuerdo con la noticia que ves, hay 70% de probabilidad de que decidas compartirla. Si no coincide, hay 80% de probabilidad de que no."

Esto evidencia un problema enorme en el ámbito de la comunicación y las redes. Los algoritmos de recomendación promueven noticias sesgadas que, en lugar de informarnos con objetividad, solo refuerzan nuestro sesgo de confirmación, afianzando nuestras opiniones, incluso cuando son erróneas.

Por eso, hoy más que nunca, es fundamental implementar regulaciones legislativas sobre la inteligencia artificial. Todo esto debe hacerse siempre priorizando la libertad de expresión y el uso responsable de los recursos tecnológicos. Cito parte de la conclusión del texto de Barrera:

“La predicción, el sesgo y el trabajo con datos son herramientas que deben, en primer lugar, ajustar la noción de ‘automatización’ de los sistemas algorítmicos, en tanto desdibujan un carácter aislado de cualquier participación humana.”

En el texto de Gómez Barrera se menciona que los algoritmos “permiten generar saberes a partir de correlaciones directas sobre los datos” y, por lo tanto, tienden a construir juicios sin necesariamente corroborar su validez científica​. Este proceso, que se observa en la selección de palabras en el artículo, resalta cómo la lógica algorítmica puede producir perfiles reduccionistas y sesgados, generando una "dupla de lo real" que define características humanas de manera simplista, incluso atribuyéndole a la inteligencia un enfoque basado en palabras.

El artículo también ejemplifica lo que Gómez Barrera describe como la “subjetividad del programador”, donde decisiones humanas influyen en los resultados algorítmicos. Los sesgos de los programadores pueden dar lugar a etiquetas sociales o “valores asignados a los datos” que presentan a ciertas personas bajo una luz negativa sin un análisis exhaustivo o neutral. En ambos textos, se revela el potencial impacto de estas decisiones en la formación de identidades y estigmas dentro de una sociedad moldeada por la tecnología.

Tanto el texto como el artículo seleccionado comparten un enfoque crítico sobre el papel de los algoritmos en la perpetuación de sesgos y desigualdades sociales. Ambos examinan cómo los algoritmos no son neutros y cómo los programadores, al diseñarlos y seleccionar los datos de entrada, pueden reflejar valores y prejuicios preexistentes en los resultados finales.

Por ejemplo, en cuanto al sesgo en el diseño de algortimos, Gómez Barrera explica que los programadores introducen sesgos al seleccionar y segmentar datos para los algoritmos influyendo en los resultados. Esto se ve reflejado en el artículo de Cambridge cuando menciona cómo “los algoritmos discriminan a ciertas comunidades” y refuerzan desigualdades, como en el caso de los algoritmos de contratación de Amazon, que favorecieron a candidatos masculinos y penalizaron términos como "club de ajedrez femenino"