Grupo 5 - Comisión 2 by Erica

Francisco Conde

2024-10-29 00:55:37 UTC

Me resulta interesante el tema de recolección de datos de las redes sociales para entrenar a las IAs.

El texto de Gómez Barrera y el articulo, ambos indagan en como los algoritmos y sistemas de IA son capaces de generar sesgos que afectan a la sociedad de formas tanto positivas como cuestionables.

Gómez habla de como la segmentación y el sesgo son inherentes al diseño algorítmico, mientras el articulo señala la falta de control y transparencia en los sistemas IA con necesidad de ética de desarrollo.

Gómez menciona que los algoritmos se desarrollan con segmentación y sesgo, viendo que estos tienen "una racionalidad (a)normativa que modela comportamientos" cuando trata con datos "sin correlacionarlos a ninguna norma general". En el articulo se ve esta idea en la preocupación por la falta de control y replica de desigualdades en los sistemas IA que tienen efectos sociales notables.

-citando "La captación de datos a la luz de la gubernamentalidad algorítmica" en el texto(pagina 3) de Gómez Barrera.

Lorenzo Araujo

2024-10-30 21:44:06 UTC

Me interesa tocar el asunto del reconocimiento facial en este asunto ya que en el articulo de Barrera se menciona que se necesita regular aún mas el uso de algoritmos en la captura y procesamiento de datos, lo menciona en la conclusión, al mismo tiempo que cita a Noble (2012) "los individuos y las poblaciones a partir de máquinas algorítmicas, para Noble se deben generar mecanismos de regulación en materia de derecho. Es decir, se apela a un marco normativo que parta del hecho de que “necesitamos protección legal ahora más que nunca, como sistemas automatizados de toma de decisiones, puesto que manejan un mayor poder en nuestra sociedad”"

La relación que encuentro con el reconocimiento facial y sus problemáticas en el país, es ese mismo, la poca regulación que tiene, y mas ahora con el poder que gobierna siguiendo una doctrina Neoliberal. Al tener el poder del reconocimiento facial en cámaras por la ciudad de buenos aires, es solo un fragmento de lo que puede suceder a grandes escalas, ya que las personas están constantemente vigiladas a nivel en que, inicialmente, era orientado a búsqueda y captura termina desviándose en arrestos "equivocados" y vulnerando completamente la privacidad de los ciudadanos, además de no tener una transparencia de los datos y creando así también nuevos sesgos en la población. La vigilancia constante de los ciudadanos, sin un marco legal sólido, lleva a un contexto donde la privacidad y la autonomía se ven amenazadas, haciendo urgente la necesidad de una regulación que limite el uso de estos algoritmos y proteja a los ciudadanos del abuso de poder.

Elegí un articulo de la ONU llamado: Racismo e IA: “Los prejuicios del pasado conducen a prejuicios en el futuro”

2024-10-31 02:39:05 UTC

Gómez Barrera y el artículo de la ONU están de acuerdo en que los algoritmos pueden aumentar las desigualdades sociales al repetir prejuicios que ya existen en nuestra historia. Gómez Barrera habla de cómo la “gubernamentalidad algorítmica” mezcla valores humanos, lo que hace que los datos que usamos sigan manteniendo normas y prejuicios. El artículo de la ONU dice que la vigilancia predictiva puede discriminar más a las comunidades marginadas porque se basa en datos de detenciones pasadas. Así, los prejuicios históricos crean un ciclo de discriminación y generan perfiles injustos sobre estas comunidades.

Ambos textos destacan la importancia de establecer regulaciones que protejan los derechos humanos y que eviten que los algoritmos agraven la desigualdad social.

Ezequiel Bártoli

ezequielbartoli25 — 2024-11-01 00:41:19 UTC

El artículo de Infobae sobre la creación de un organismo de inteligencia artificial en Argentina para la prevención de ciberdelitos se relaciona con el texto de Gómez Barrera al abordar el uso de algoritmos en la vigilancia y control social. Ambos textos comparten la preocupación por el sesgo en la programación y el impacto en la privacidad y autonomía. Gómez Barrera discute cómo la selección de datos y la segmentación algorítmica pueden influir en la identidad, un riesgo también presente en el monitoreo de redes y la predicción de delitos descritos en la nueva agencia de IA.

En el articulo hay una frase que menciona que la nueva agencia de inteligencia artificial se enfoca en la “prevención e investigación de ciberdelitos”, tema tratado en el análisis de Gómez Barrera sobre el rol de los algoritmos en la vigilancia y control social. Este enfoque resalta cómo el uso de algoritmos y la recolección de datos masivos pueden influir en la privacidad individual y colectiva, un aspecto clave en la teoría de "gubernamentalidad algorítmica"