reconocimiento facial lo identificó como sospechoso de un robo en una tienda. La policía confió

plenamente en la coincidencia del software y lo arrestó, a pesar de que las pruebas visuales

eran poco claras. El error quedó en evidencia después de horas de detención, cuando se

comprobó que el hombre ni siquiera estaba cerca del lugar del crimen. El hecho atrajo la

atención de medios internacionales y motivó cuestionamientos sobre el uso de tecnologías

biométricas en procedimientos policiales, alertando sobre el peligro de confiar ciegamente en

decisiones automatizadas

Se utilizó un sistema de IA basado en procesamiento de lenguaje natural y algoritmos de clasificación para filtrar currículums de postulantes en procesos de selección en el contexto laboral y recursos humanos

2. ¿Qué tipo (s) de sesgo (s) identifican?

Revisa el recurso interactivo de clase. 

• Sesgo algorítmico: replicó y amplificó patrones de contratación previos de la empresa.

• Sesgo de género: al basarse en historiales dominados por un perfil específico (probablemente hombres en tecnología), discriminó a mujeres y minorías.

• Sesgo cultural y académico: favoreció universidades, experiencias y asociaciones “tradicionales” de los empleados previos, penalizando diversidad de trayectorias.

• Sesgo de exclusión histórica: invisibilizó perfiles no representados en los datos de entrenamiento.

3. ¿Por qué se produce este sesgo? 

• Datos de entrenamiento sesgados: el algoritmo aprendió de decisiones humanas pasadas, que ya reflejaban desigualdades.

• Falta de diversidad en el dataset: predominaban perfiles homogéneos (ej. hombres, ciertas universidades de élite).

• Ausencia de revisión humana crítica: se confió en la “objetividad” del sistema sin auditar su lógica.

4. ¿Qué grupos resultaron perjudicados o favorecidos? ¿Cómo afectó sus derechos o acceso a servicios? 

• Perjudicados:

  • Mujeres y minorías étnicas o culturales con menos representación histórica en la empresa.

  • Personas con trayectorias profesionales alternativas (universidades no tradicionales, distintas experiencias laborales).

  • Se vulneró su derecho a la igualdad de oportunidades laborales.

• Favorecidos:

  • Perfiles “tradicionales” (ej. varones con formación académica en universidades de prestigio, miembros de asociaciones profesionales específicas).

  • Estos candidatos tuvieron acceso privilegiado a oportunidades, reforzando privilegios existentes.

5. ¿Qué riesgos se derivan de este sesgo? (éticos, sociales, económicos, tecnológicos o existenciales) 

• Éticos: discriminación estructural, invisibilización de talento diverso, perpetuación de desigualdades.

• Sociales: reducción de la movilidad social y aumento de la brecha de género y diversidad en el empleo.

• Económicos: pérdida de innovación al excluir candidatos valiosos con perspectivas diferentes; riesgo de demandas legales por discriminación.

• Tecnológicos: sistemas de IA que amplifican injusticias pasadas en lugar de corregirlas.

• Existenciales (a largo plazo): creación de un mercado laboral controlado por algoritmos excluyentes, donde muchos quedan sistemáticamente fuera.

6. ¿Qué se debería hacer para reducir este sesgo en el futuro? Propongan al menos 3 medidas (técnicas, de gobernanza, normativas o educativas)

Medidas técnicas:

• Diversificar los datos de entrenamiento incluyendo currículums de distintos perfiles demográficos y trayectorias.

• Aplicar técnicas de auditoría de sesgo algorítmico, con métricas de equidad en la selección de candidatos.

Medidas de gobernanza y normativas:

• Exigir regulaciones de transparencia: las empresas deben justificar cómo funciona su IA de reclutamiento.

• Supervisión externa independiente que evalúe el impacto de la IA en igualdad de oportunidades laborales.

Medidas educativas:

• Capacitar a reclutadores y responsables de RR.HH. en uso crítico de IA, evitando delegar toda la decisión al algoritmo.

• Fomentar la cultura de diversidad e inclusión en las organizaciones para que los sesgos humanos no se traduzcan en sesgos algorítmicos.

Prompt utilizado

*"Quiero que analices el siguiente caso relacionado con inteligencia artificial y me respondas de forma estructurada las siguientes preguntas:

1. ¿Qué sistema de IA se usó?

2. ¿En qué contexto se aplicó (salud, justicia, educación, trabajo, etc.)?

3. ¿Qué tipos de sesgos se identifican?

4. ¿Por qué se produce este sesgo?

5. ¿Qué grupos resultaron perjudicados o favorecidos? ¿Cómo afectó sus derechos o acceso a servicios?

6. ¿Qué riesgos se derivan de este sesgo? (éticos, sociales, económicos, tecnológicos o existenciales).

7. ¿Qué medidas podrían aplicarse para reducir este sesgo en el futuro? (técnicas, de gobernanza, normativas o educativas).