# data[].attributes.headline
1. ¿Qué sistema de IA se usó? ¿En qué contexto (salud, justicia, educación, etc.)?

# data[].attributes.subject
1. ¿Qué sistema de IA se usó? ¿En qué contexto (salud, justicia, educación, etc.)?

# data[].attributes.body
El caso de "La foto equivocada" involucra un sistema de reconocimiento facial. Este tipo de tecnología usa algoritmos para identificar y verificar la identidad de una persona a partir de una imagen digital o un video. En este contexto, la policía lo empleó para comparar la imagen de un sospechoso captada por una cámara de vigilancia con una base de datos de fotografías de personas fichadas por la justicia. La intención era agilizar la identificación y arresto, pero como vimos, falló catastróficamente.

# data[].attributes.headline
2. ¿Qué tipo (s) de sesgo (s) identifican?

# data[].attributes.subject
2. ¿Qué tipo (s) de sesgo (s) identifican?

# data[].attributes.body
Revisa el recurso interactivo de clase.

Sesgo de datos: El sistema fue entrenado con bases de datos que no eran representativas. Si el conjunto de datos de entrenamiento tiene más imágenes de un grupo demográfico que de otro, el sistema tendrá un peor rendimiento con las minorías. Esto se agrava con imágenes de baja calidad, ángulos complicados, o mala iluminación, que son comunes en grabaciones de vigilancia.

Sesgo de rendimiento: Como consecuencia del sesgo de datos, el sistema era menos preciso al identificar a personas de ciertos grupos demográficos, especialmente minorías raciales. El resultado es que estos grupos tienen una mayor probabilidad de ser identificados incorrectamente, generando los temidos falsos positivos.

Sesgo de automatización: Los oficiales de policía confiaron demasiado en el resultado de la máquina. En lugar de usar la coincidencia como una pista para una investigación exhaustiva, la trataron como la prueba principal, ignorando la necesidad de corroboración humana. Esta confianza ciega en la tecnología es un grave error.

# data[].attributes.body
¿Qué sistema de IA se usó? ¿En qué contexto?

Se usó un sistema de proctoring automatizado (vigilancia remota con IA).

Contexto: Educación superior durante la pandemia, para monitorear exámenes en línea.

# data[].attributes.headline
¿Qué tipo(s) de sesgo(s) se identifican?

# data[].attributes.subject
¿Qué tipo(s) de sesgo(s) se identifican?

# data[].attributes.body
Sesgo algorítmico (detectar como sospechoso lo que no lo era).

Sesgo de datos (entrenamiento en condiciones ideales que no reflejan la realidad diversa de los estudiantes).

Sesgo socioeconómico (afectación a quienes no contaban con infraestructura tecnológica adecuada).

# data[].attributes.body
Porque los algoritmos fueron diseñados bajo supuestos irreales: buena conectividad, ambientes silenciosos, iluminación estable y comportamientos homogéneos (mirar siempre a la cámara).

No se contempló la diversidad de condiciones socioeconómicas, culturales y físicas de los estudiantes.

# data[].attributes.body
El sesgo se produce debido a la falta de diversidad en los datos de entrenamiento del sistema de reconocimiento facial, lo que resulta en una menor precisión para ciertos grupos demográficos. También influye la programación y el diseño del algoritmo, que pueden perpetuar desigualdades si no se consideran cuidadosamente los posibles sesgos.

# data[].attributes.headline
4. ¿Qué grupos resultaron perjudicados o favorecidos? ¿Cómo afectó sus derechos o acceso a servicios? 

# data[].attributes.subject
4. ¿Qué grupos resultaron perjudicados o favorecidos? ¿Cómo afectó sus derechos o acceso a servicios? 

# data[].attributes.body
El ciudadano estadounidense afroamericano resultó perjudicado al ser falsamente identificado y detenido, lo que violó su derecho a la libertad y a la presunción de inocencia. No hubo grupos favorecidos en este caso, ya que el error judicial afectó negativamente a todos los involucrados, incluyendo a la policía, cuya credibilidad se vio comprometida.

# data[].attributes.headline
5. ¿Qué riesgos se derivan de este sesgo? (éticos, sociales, económicos, tecnológicos o existenciales) 

# data[].attributes.subject
5. ¿Qué riesgos se derivan de este sesgo? (éticos, sociales, económicos, tecnológicos o existenciales) 

# data[].attributes.body
Éticos: Discriminación y violación de derechos civiles. Sociales: Desconfianza en las instituciones y polarización. Económicos: Costos legales y compensaciones por detenciones injustas. Tecnológicos: Desprestigio y limitación del uso de la tecnología. Existenciales: Sentimiento de inseguridad y vulnerabilidad en la sociedad.

# data[].attributes.headline
6. ¿Qué se debería hacer para reducir este sesgo en el futuro? Propongan al menos 3 medidas (técnicas, de gobernanza, normativas o educativas)

# data[].attributes.subject
6. ¿Qué se debería hacer para reducir este sesgo en el futuro? Propongan al menos 3 medidas (técnicas, de gobernanza, normativas o educativas)

# data[].attributes.body
1. Técnica: Diversificar los datos de entrenamiento y utilizar algoritmos de detección de sesgos.

2. De gobernanza: Establecer regulaciones claras y transparentes sobre el uso de tecnologías de reconocimiento facial.

3. Normativa: Implementar políticas de supervisión humana y verificación de resultados antes de tomar acciones basadas en el reconocimiento facial.

# data[].attributes.headline
¿Qué grupos resultaron perjudicados o favorecidos? ¿Cómo afectó sus derechos o acceso a servicios?

# data[].attributes.subject
¿Qué grupos resultaron perjudicados o favorecidos? ¿Cómo afectó sus derechos o acceso a servicios?

# data[].attributes.body
Perjudicados:

Estudiantes con condiciones de vivienda precaria (espacios pequeños, compartir cuartos).

Personas con mala conexión a internet.

Estudiantes con discapacidades (ej. movimientos involuntarios, dificultades visuales).

Favorecidos:

Estudiantes con recursos tecnológicos y ambientes de estudio estables.

Impacto en derechos: vulneración del derecho a la educación y a la equidad académica, generando sanciones injustas y exclusión.

# data[].attributes.body
Éticos: discriminación y criminalización de estudiantes inocentes.

Sociales: aumento de la desigualdad en el acceso a la educación.

Tecnológicos: sobreconfianza en sistemas automatizados no transparentes (“caja negra”).

Psicológicos: estrés, ansiedad y pérdida de confianza en las instituciones educativas.

# data[].attributes.headline
¿Qué se debería hacer para reducir este sesgo en el futuro?

# data[].attributes.subject
¿Qué se debería hacer para reducir este sesgo en el futuro?

# data[].attributes.body
Medidas técnicas:

Entrenar los algoritmos con datos más diversos (diferentes condiciones de iluminación, conexión, contextos culturales).

Medidas de gobernanza/normativas:
2. Establecer protocolos de supervisión híbrida (IA + revisión humana obligatoria antes de sancionar).

Medidas educativas/sociales:
3. Garantizar alternativas inclusivas a la vigilancia remota (exámenes orales, proyectos, evaluaciones abiertas).