# data[].attributes.body
La relación entre el texto de Gómez Barrera y el escándalo de Cambridge Analytica es clara en cuanto al impacto de los algoritmos y la captura de datos en la manipulación de la opinión pública. Gómez Barrera expone cómo los algoritmos permiten segmentar a los usuarios y construir perfiles detallados a partir de sus datos personales, lo cual puede emplearse para influir en sus decisiones y comportamientos. En el caso de Cambridge Analytica, se utilizó la información recolectada de manera masiva en redes sociales para manipular elecciones y dirigir mensajes personalizados que influían en las percepciones políticas de las personas, ilustrando perfectamente el concepto de “gubernamentalidad algorítmica” que menciona Gómez Barrera.

Un aspecto destacado en el texto es el sesgo introducido por los programadores al definir qué datos recolectar y cómo interpretarlos. Gómez Barrera afirma que “la preselección y sesgo de los datos que se consideran útiles para el procesamiento... pueden derivar fácilmente en prejuicios y sesgos sociales”. Esto resuena con las prácticas de Cambridge Analytica, que aprovechó los perfiles de usuarios para ajustar sus mensajes políticos a preferencias y vulnerabilidades específicas, reforzando ciertos puntos de vista y manipulando a las personas en función de estos datos previamente segmentados.

Por último, el autor también señala que la creación de perfiles a través de algoritmos no solo responde a una lógica comercial, sino que puede modular indirectamente el comportamiento social. Este efecto es similar al uso de datos por Cambridge Analytica, donde el análisis masivo y el perfilado permitieron influir en el comportamiento electoral de manera prácticamente imperceptible para los usuarios, ejemplificando así la capacidad de los algoritmos para moldear la realidad social.

# data[].attributes.attachment_link.title
5 claves para entender el escándalo de Cambridge Analytica que hizo que Facebook perdiera US$37.000 millones en un día - BBC News Mundo

# data[].attributes.attachment_link.description
Los servicios de la consultora fueron usados en la campaña de Donald Trump, pero también en Argentina, Brasil, Colombia y México. Ahora Cambridge Analytica es acusada de robo de datos, interferencia política y chantajes con prostitutas.

# data[].attributes.body
En su artículo, Gómez Barrera argumenta que “La existencia de múltiples modalidades, sistemas y actores de recolección de datos pone en juego, lejos de una mirada preocupada por el tema de la privacidad, múltiples

problemas relacionados con las formas en las que se recopilan esos datos y las consecuencias que conllevan en lo real, entendido como aquello sobre lo que se extrae, la construcción de perfiles y toda una serie de conocimientos y saberes a partir del cruce de los datos recolectados” (4). En primer punto, me parece interesante que el autor reduzca las aplicaciones previas de conceptos posestructuralistas sólo limitadas a la privacidad. No obstante, tras una mera revisión de la bibliografía reciente, se vuelve lógico que el principal problema se trata de la privacidad y el uso y la recolección de datos pues estos poseen un valor de mercado. Así, el problema central en las discusiones sobre el funcionamiento de la inteligencia artificial se han concentrado en el impacto de la venta de datos “privados” con fines de crear mejores perfiles de consumidor. El artículo, entonces, amplía el problema no a la parte más evidente del esquema de consumo de datos: el autor se interesa por el proceso que motiva la selección, recolección y almacenamiento de ciertos datos. Más aún, su interés principal es cuestionar cómo los algoritmos interpretan ciertos datos en función del concepto foucultiano de gobernabilidad. Ahora bien, si el problema más evidente es la interpretación, su escenario, el sitio donde cobra impacto, serían las aplicaciones de ciertas interpretaciones.

Por ello, me intereso en dos piezas. Por un lado, una breve nota de la Revista PyM, titulada “Analyzer: la IA de THT que optimizará los procesos de contratación laboral”. Por otro lado, el artículo “Los algoritmos, en la picota”, publicado en La Nación. El primero, al contrastarlo con los conceptos desarrollados por Gómez Barrera, se vuelve relevante pues se desarrolla una inteligencia artificial que puede prever el comportamiento de las personas con el objeto de maximizar las contrataciones. En otras palabras, el algoritmo recopila e interpreta información para discriminar ciertos sujetos en entornos laborales para maximizar la producción, por lo que aquellos cuyas personalidades no se adecuen a las expectativas de las empresas quedarían descartados en principio. Esta inteligencia artificial contribuiría a una mayor gobernabilidad y vigilancia, en el sentido foucultiano, al anticipar comportamientos. Más aún, obligaría a las subjetividades a desarrollarse dentro de expectativas restringidas con el objeto de que un algoritmo no los discrimine. La interpretación de la inteligencia artificial, entonces, deviene en un mecanismo para maximizar la producción: una forma de restringir la participación en instituciones económicas. Ahora bien, en el artículo publicado en La Nación se aborda el rol ético de la inteligencia artificial. Como parte de su investigación, el autor cuestiona al generador de textos respecto a su capacidad para reconocer el bien y el mal. Si ligamos esto a que la programación de algoritmos deviene en una interpretación con un impacto real en el mundo, de acuerdo con el artículo de Gómez Barrera, la perspectiva sobre la realidad de estos algoritmos no tendría un elemento ético, por lo tanto su uso devendría en maximizar la productividad y eficacia del entorno en el que se ponga en práctica el resultado de su “acomodo” y lectura de los datos recopilados. No obstante, el artículo va más allá: al citar una reciente votación en la ONU en torno a la urgencia de regular las inteligencias aritificiales, el autor hace énfasis en su rol en una nueva revolución industrial por dos motivos: primero, el uso de inteligencias artificiales llevaría los aparatos de producción y consumo a un nuevo nivel; por otro, las redes de conocimiento generadas en esta revolución marcarían el cómo entendemos y configuramos las sociedades, incluyendo el cómo discriminamos subjetividades. En este sentido, no debe olvidarse cómo las revoluciones industriales crearon mecanismos de repartición de riqueza que acrecentaron muchas veces las brechas entre clases sociales. Aunque en un tono apocalíptico José Claudio Escribano nos invita a reflexionar sobre los costes del uso de inteligencias artificiales en la construcción de nuestra actualidad. En consonancia con Gómez Barrera, nos invita a reflexionar sobre la gobernabilidad tanto al interior de los algoritmos como al exterior, pues su uso tiene un impacto real en los modos relaciónales del mundo empirico.

A manera de breve conclusión, considero que el aspecto más importante no se trata de los mecanismos para la compra y venta de datos; tampoco de sus usos. Sino que radica en la programación de algoritmos para interpretar la realidad y cómo esas interpretaciones repercuten en la configuración de realidades circundantes. Ahora, nuestras subjetividades se encuentran a merced de las lecturas sistematizadas y despersonalizadas de las inteligencias artificiales. El elemento humano para leer la vida de otros humanos se encuentra en riesgo. De ahí que haya que intervenir en los algoritmos que permiten a estas herramientas construir visiones de mundo.

Enlaces a materiales adicionales al de Gómez Barrera:

https://www.lanacion.com.ar/cultura/los-algoritmos-en-la-picota-nid12102024/

https://amp.revistapym.com.co/articulos/comunicacion/80410/analyzer-la-ia-de-tht-que-optimizara-los-procesos-de-contratacion-laboral

# data[].attributes.attachment_link.description
Los avances de la inteligencia artificial plantean complejos dilemas con aristas éticas, legales, científicas y estratégicas

# data[].attributes.body
Elegí este articulo en particular ya que si bien en este caso se trata de algo superficial como la belleza, muestra como un algoritmo puede determinar un estandar, en este caso que es lindo y que es feo, en otro caso podría ser que es lo que está bien y que es lo que está mal, marcando así en términos generales los lineamientos éticos y morales en una sociedad.

Mi preocupación se encuentra en torno a que todo lo que es producido por un algoritmo se toma como objetivo y la verdad absoluta universal, siendo esto erroneo ya que el resultado de los algoritmos hereda intereses subjetivos, y están determinados por ciertos contextos que no son universales, como en este caso "El problema, admite Rothe, es que todos los datos eran de usuarios suizos, mientras que la página web está disponible para uso global." Aquí ya se ve que hay una determinación en la propia selección de los datos a procesar que es muy particular. Todo esto está intimimante relacionado al texto de Gómez Barrera ya que en estos algoritmos se ven reflejados fuertemente la segmentación en los datos recopilados, y sobre todo el sesgo y las normas sociales, ya que los valores y expectativas de la sociedad afectan la forma en que los programadores desarrollan estos algoritmos.

De este modo los algoritmos son un medio para ejercer poder y guiar conductas, de modo casi invisible pueden alterar nuestro modo de pensar y de comportarnos, por lo cual concuerdo con Noble a quien se cita en el texto de Gómez Barrera "se deben generar mecanismos de regulación en materia de derecho" así como exigir transparencia y concientizar a las masas sobre como realmente funcionan los algoritmos.

# data[].attributes.attachment_link.readable_text
Fuente de la imagen, Thinkstock

Pie de foto, Las aplicaciones móviles como Tinder y Blinq utilizan algoritmos para "calificar" la belleza física de sus usuarios.

Autor, Redacción

Título del autor, BBC Mundo

¿Bonito? ¿Feo? ¿O del montón?

Las aplicaciones móviles y sitios web para buscar pareja, como la estadounidense Tinder y la suiza Blinq, buscan responder esas interrogantes sobre tu atractivo físico.

Y lo hacen usando las matemáticas. Específicamente, algoritmos que reúnen una cantidad determinada de datos y los entrecruzan hasta dar con una respuesta.

Para algunas de estas compañías, como Tinder y su competidora Bumble, los algoritmos que utilizan son como la receta de la Coca-Cola: un secreto preciado.

<bold><link type="page"><caption> Cómo hará Facebook para que no sufras tanto al romper con tu pareja</caption><url href="http://www.bbc.com/mundo/noticias/2015/11/151120_tecnologia_facebook_herramientas_ruptura_parejas_il" platform="highweb"/></link></bold>

Dichas empresas, que cuentan con millones de usuarios alrededor del mundo, se reservan esa información porque, según dicen, es la fórmula de su éxito.

Es lo que hace que el perfil de una persona sea compatible con el de otra, para formar así una "potencial" pareja.

Pero, ¿puede un algoritmo definir algo tan subjetivo como la belleza?

Del 1 al 10

Un grupo de investigadores de la Universidad de Zúrich, en Suiza, trabajó con los responsables de la aplicación de citas a ciegas Blinq para crear un "medidor" de belleza.

El usuario entra a una página web llamada "How Hot" ("cuán sexy" en español), sube una fotografía y espera el veredicto final, que puede ser tan bueno como tan malo.

"Nuestro algoritmo se basó en 100.000 imágenes y en 20 millones de calificaciones de belleza de la aplicación Blinq. O sea que los mismos usuarios definían quién les parecía atractivo y quién no", explicó a BBC Mundo uno de los creadores, el estudiante de doctorado Rasmus Rothe.

Fuente de la imagen, HowHot.io

Pie de foto, La página web "How Hot" para medir la belleza y la edad se hizo solamente a partir de datos de usuarios de Suiza.

El problema, admite Rothe, es que todos los datos eran de usuarios suizos, mientras que la página web está disponible para uso global.

Para que sea realmente aplicable a nivel mundial habría que preguntarles a grupos de todas las regiones del mundo qué consideran atractivo en una persona y qué no, señala el investigador.

Para la compañía OKCupid, una de las que acumula una trayectoria más larga en el mercado de citas en línea, no basta solamente con procesar las fotografías de sus usuarios para dar con la pareja perfecta.

Estos deben llenar una amplio formulario con preguntas sobre hábitos, preferencias, gustos y cualidades físicas que luego se entrecruzan en una fórmula matemática, indicó en una conferencia uno de sus fundadores, Christian Rudder.

"Las fotografías son subjetivas. Para medir el atractivo científicamente, las imágenes deben cumplir con unos parámetros de postura, cercanía y ángulo, y eso no siempre sucede", le advirtió a BBC Mundo Brian Wong, cirujano facial de la Universidad de California en Irvine (EE.UU.) que ha realizado diversos estudios sobre la estética facial con el uso de la tecnología y algoritmos.

Muéstrame tu foto

Fuente de la imagen, Thinkstock

Pie de foto, Una fotografía en la que no aparezca la cara de frente y sin accesorios "no sirve" para medir la belleza, según investigadores.

Lo que menos se ve en los perfiles de los usuarios de estas aplicaciones son fotografías como las del pasaporte. Al contrario, son más comunes las imágenes de hombres y mujeres con gafas de sol, cara de lado y plano de medio cuerpo.

Eso dificulta que los algoritmos puedan medir la belleza tan sólo en base a las fotografías.

"Estos servicios venden aspiraciones y estilos de vida, más que una noción concreta de cómo es una persona bella físicamente", señaló Brian Wong.

<bold><link type="page"><caption> "Ghosting", la cruel manera de acabar con las relaciones en la era digital</caption><url href="http://www.bbc.com/mundo/noticias/2015/12/151201_tecnologia_ghosting_relaciones_fin_jg" platform="highweb"/></link></bold>

Sin embargo, el investigador considera como "valiosa" la información que las redes sociales y estas herramientas brindan a la ciencia.

"Antes para hacer un estudio sobre belleza había que juntar a un número limitado de personas en una habitación y hacerles preguntas. Ahora se puede consultar a millones", agregó.

El especialista destaca que el atractivo físico ya ha sido definido por la ciencia y que tiene que ver con la capacidad reproductiva de ambos sexos.

"Sin embargo, el componente cultural y de consumo es importante para redefinir, así sea por una época, cómo se ve una persona bella", concluyó.

Así que si crees que la aplicación que utilizas para tener citas te está incluyendo en la categoría de los feos, quizás no deberías preocuparte.

# data[].attributes.attachment_link.title
Cómo funcionan los algoritmos para medir la belleza física que usan los sitios y apps para buscar pareja - BBC News Mundo

# data[].attributes.attachment_link.description
Las aplicaciones móviles para conseguir pareja se han apoyado en algoritmos para definir quién es bello y, además, juntar a las personas "atractivas" en una cita en persona. Pero, ¿realmente funcionan?

# data[].attributes.body
Elegí el texto titulado: "El papel del algoritmo en la optimización de las carteras" de Vera Castelló. En este se habla de la inteligencia artificial y del procesamiento de datos en el sector de inversión. Se comenta las opiniones de diferentes carteras y son variadas. Algunos son optimistas y otros no tanto respecto a los resultados que se obtienen de los datos obtenidos. En esto lo relaciono con el texto de Gomez Barrera en el que habla de la importancia de los datos seleccionados más allá de la perfección del algoritmo. En el artículo elegido se plantea si la IA reemplazara a los analistas y también habla de que los modelos pueden tender a inventar información. Lo destaca como que puede ser muy creativo y ayudar pero también puede llevar a errores. Incluso en la nota destaca que Indexa Capital utiliza IA puntualmente ya que opinan que para implementarse de manera más generalizada primero debe ser más fiable y no inventarse resultados. Si no sabe algo, debe responder que no lo sabe.

Esto lo relaciono con el texto de Gomez Barrera cuando en la página 4 habla de la extracción y análisis de datos. En dicha parte del artículo menciona que Rouvroy y Berns indican que la recolección de datos no se da de manera que se pueda verificar o establecer siquiera, la veracidad de las fuentes de extracción. Esto quiere decir que un dato perseguido por esos sistemas es recolectado sin determinar o establecer los contextos o las intenciones de almacenamiento originales. En otras palabras, estos datos son almacenados de tal manera que los usos que les dan los usuarios, que pueden ser múltiples en un momento dado, no son tenidos en cuenta. Como conclusión destaco la importancia de la selección de datos ya que al ser el alimento de nuestros algoritmos no sólo debemos saber que datos seleccionar sino también ser lo más objetivo posible para no cargar de sesgos nuestros resultados.

# data[].attributes.attachment_link.title
El papel del algoritmo en la optimización de las carteras

# data[].attributes.attachment_link.description
Las gestoras se apoyan en herramientas de inteligencia artificial para el cribado de datos sobre compañías y la captación de posibles ideas de inversión no contempladas

# data[].attributes.body
El artículo en cuestión, debate sobre un interrogante que me surgió al interpretar la teoría de la Gubernamentalidad Algorítmica, ¿es posible sostener la democracia como se concibe hoy en día? Para lograr mantenerla y sostener sus cimientos, la transparencia del proceso y de las decisiones, la rendición de cuentas de los responsables y la participación ciudadana son elementos clave para poder garantizar un uso responsable y ético de los algoritmos en la toma de decisiones que afecten a la sociedad en su conjunto. Por ende, entender estos desafíos es crucial para promover un debate público informado y para poder desarrollar estrategias que permitan aprovechar el potencial de los algoritmos sin comprometer los valores democráticos concebidos por la humanidad. Mediante el siguiente extracto del texto, se puede identificar la posible erosión de la participación y el juicio ciudadano: “…al estudiar directamente el funcionamiento de la programación de los algoritmos, se puede referenciar y evidenciar cómo el carácter subjetivo, o si se quiere, de intervención humana” no es para nada aislado o mínimo, sino que es sustancialmente importante; de hecho, esto nos lleva a plantear que, si bien el algoritmo tiene un carácter discontinuo, es resultado de su funcionamiento; esto es, es producto de su imposibilidad para dar cuenta de los datos extraídos sin, precisamente, una “verificación” y una puesta en escena de una serie de hipótesis, o valores agregados que permiten su funcionamiento.”

# data[].attributes.attachment_link.title
Gobernanza algorítmica, otro desafío para la democracia

# data[].attributes.attachment_link.description
Gobernar es ya en gran medida –y lo será aún más– un acto algorítmico; una buena parte de las decisiones de gobierno son adoptadas por sistemas automatizados.

# data[].attributes.body
Elegí este artículo de Apolitical ya que aborda la problemática del uso de Big Data y la discriminación, tema que también desarrolla Gómez Barrera al discutir la influencia humana en los sesgos algorítmicos.

Mientras en Gómez Barrera leemos que “los programadores aplican segmentación y sesgo... transmitiendo valores sociales arraigados”, el artículo de Apolitical argumenta que no es la data la que discrimina, sino quienes la usan y cómo la interpretan.

Conclusión: Al analizar ambos textos, observo que la discriminación en Big Data es compleja y multifacética, ya que puede surgir en distintos puntos: en el diseño del algoritmo, en las políticas que lo regulan y en la interpretación del usuario. Aunque Big Data tiene beneficios, abordar y corregir las problemáticas éticas es clave para el avance en esta ciencia.

# data[].attributes.attachment_link.title
No es la gran cantidad de datos lo que discrimina: son las personas las que la usan

# data[].attributes.attachment_link.description
Si bien los datos pueden afianzar la discriminación, depende de quienes los usan para erradicarlos

# data[].attributes.body
Elegí "La Gubernamentabilidad Algorítmica" de Pablo Rodríguez, Doctor en Ciencias Sociales e Investigador Adjunto de CONICET donde aborda como los sistemas están controlando en gran medida las conductas en la población. Citando a Rouvoy y Berns describiéndola como. "La Gubernamentabilidad algorítmica es un tipo de racionalidad normativa o política que reposa sobre la recolección, la agrupación y análisis automatizado de datos en cantidad masiva de modo de normalizar, anticipar y afectar por adelantado los comportamientos posibles".

Los dos coinciden en que el sesgo y la discriminación racial y económica son introducidos por los algoritmos como una nueva posibilidad de control.

En el caso de Barrera, él plantea que se regule en un marco normativo la protección de la privacidad de los individuos, así como también poder controlar que no haya mal uso de los algoritmos y Rodríguez propone que se regule en un marco legal y educativo para garantizar la eficiencia en el buen uso. Es notable que en los dos textos hay una clara inquietud por el impacto que estos nuevos sistemas están ejerciendo continuamente en la sociedad y se ve reflejado en las tomas de decisiones en el día a día.

# data[].attributes.body
El siguiente articulo es un informe sobre la ludopatía digital y la adicción a los juegos en línea. La relación que hago con el texto de Gómez Barrera, es en relación al ejercicio de poder que ejercen los desarrolladores, en éste caso, en el desarrollo de juegos de apuestas, tomando provecho de de las funciones químicas que se producen en nuestro cuerpo relacionadas al placer y recompensa(dopamina), que nos hacen interpretar un suceso como placentero. Dado que los juegos de azar en linea y las plataformas digitales de apuestas están diseñadas para maximizar la liberación de dopamina y te este modo influir en nuestro comportamiento y generar un ciclo de dependencia. Relaciones entre el texto y el articulo: 1"varios elementos se ponen en juego en el procesamiento de la información, relacionados con la construcción de perfiles previos a los datos de entrada. El punto de partida tiene que ver con una clasificación específica de los datos, es decir, el procesamiento requiere un trabajo de ordenamiento de los datos iniciales con los cuales se va a efectuar un análisis, pero también requiere de una estimación de estos, una caracterización específica de los resultados que se quieran obtener". 2"Así, pues, lo que se da en esta nueva forma de gubernamentalidad algorítmica es una constante extracción automatizada de datos considerados “pertinentes” de usuarios cuya finalidad varía de acuerdo con los tipos de actores, bien sean políticos y mercantiles."

# data[].attributes.body
Para explorar el tema del impacto social de la IA, me basé en el artículo de Amnistía Internacional sobre el uso del reconocimiento facial en Nueva York, el cual ilustra cómo esta tecnología puede reforzar prácticas de vigilancia y discriminación racial. Este artículo se relaciona con el texto de Barrera, ya que ambos destacan cómo las tecnologías algorítmicas no solo reflejan, sino que pueden amplificar los sesgos estructurales ya presentes en la sociedad, dado que estos sesgos pueden alimentar un círculo vicioso donde, por ejemplo, mayor vigilancia sobre cierta población puede llevar a mayor cantidad de arrestos, lo cual luego se verá reflejado en los datos que se usarán para entrenar futuros modelos, lo que llevará a aún más vigilancia.

En el estudio de Amnistía Internacional, en particular, se revela que las comunidades negras y latinas en Nueva York enfrentan mayores niveles de vigilancia, y que las cámaras con reconocimiento facial están estratégicamente ubicadas en áreas con predominancia de estos grupos, lo cual convierte a esta tecnología en una “táctica de control” hacia poblaciones específicas, vulnerando sus derechos y afectando su libertad​. Gómez Barrera describe esta “gubernamentalidad algorítmica” como una forma de regulación social que toma decisiones automáticas basadas en estereotipos y patrones de datos que tienden a perpetuar prácticas discriminatorias.

Enlace al artículo: www.amnesty.org/es/latest/news/2022/02/usa-facial-recognition-technology-reinforcing-racist-stop-and-frisk-policing-in-new-york-new-research/

# data[].attributes.body
Algunos interrogantes y debates actuales sobre el impacto social de la IA son el sesgo algorítmico y discriminación, la privacidad y vigilancia, el desempleo y cambios laborales, la ética y responsabilidad en el desarrollo de IA, y la gubernamentalidad algorítmica y control social.

El autor aborda la segmentación, sesgo y normas sociales en la programación de algoritmos, destacando la importancia de considerar los aspectos sociales y políticos en el desarrollo de IA.

Artículo seleccionado: "La inteligencia artificial puede perpetuar la discriminación racial y de género" (BBC News)

Algunas relaciones entre el texto y el artículo son:

1. Sesgo algorítmico: El artículo destaca cómo la IA puede perpetuar la discriminación racial y de género debido a datos sesgados.

2. Gubernamentalidad algorítmica: El texto de Gómez Barrera analiza cómo los algoritmos pueden controlar y influir en la sociedad, lo que se refleja en el artículo al discutir la responsabilidad de los desarrolladores de IA.

Aspectos destacados del texto de Gómez Barrera: "Los algoritmos no son neutrales, sino que reflejan las normas sociales y políticas de quienes los diseñan".

"La gubernamentalidad algorítmica se refiere a la capacidad de los algoritmos para gobernar y controlar la sociedad" (Gómez Barrera, 2020).

En conclusión, es crucial considerar los aspectos sociales y éticos en el desarrollo de IA para evitar la perpetuación de la discriminación y asegurar una gobernanza responsable de los algoritmos.