Caso 2: IA que discrimina by Lucía Serrano Cota https://padlet.com/lserranocota/lsp39hnlxsj8dl69 Lucía Serrano Cota en-us 2025-05-22 11:53:23 UTC 2025-06-06 11:50:27 UTC hello@padlet.com https://padlet.net/icons/png/1f4d4.png Introducción al caso lserranocota https://padlet.com/lserranocota/lsp39hnlxsj8dl69/wish/3463154145 La inteligencia artificial puede parecer neutral, pero si no se diseña con cuidado, puede copiar las injusticias del mundo real. Este caso muestra cómo una IA puede discriminar sin que nadie lo note.


]]> 2025-05-22 12:03:00 UTC https://padlet.com/lserranocota/lsp39hnlxsj8dl69/wish/3463154145 Ejemplo real – El caso de Amazon lserranocota https://padlet.com/lserranocota/lsp39hnlxsj8dl69/wish/3463154608 Amazon creó un sistema IA para filtrar candidatos usando datos antiguos con mayoría de hombres. El resultado fue sesgo machista: la IA rechazaba CVs de mujeres automáticamente. Un caso icónico que llevó a su cancelación.

]]> 2025-05-22 12:03:25 UTC https://padlet.com/lserranocota/lsp39hnlxsj8dl69/wish/3463154608 Otras formas en que la IA discrimina lserranocota https://padlet.com/lserranocota/lsp39hnlxsj8dl69/wish/3463154992 También se ha descubierto sesgo racial en algoritmos judiciales (mayor “riesgo” asignado a personas negras), plataformas de anuncios que filtran empleos por género o edad, y sistemas financieros que rechazan créditos a mujeres sin motivo financiero.



]]> 2025-05-22 12:03:48 UTC https://padlet.com/lserranocota/lsp39hnlxsj8dl69/wish/3463154992 ¿Por qué ocurre esto? lserranocota https://padlet.com/lserranocota/lsp39hnlxsj8dl69/wish/3463155375 La IA aprende de datos históricos. Si hay prejuicios, la IA los reproduce. Sin valores ni control ético, actúa de forma matemática pero potencialmente injusta.

]]> 2025-05-22 12:04:10 UTC https://padlet.com/lserranocota/lsp39hnlxsj8dl69/wish/3463155375 Soluciones y propuestas éticas lserranocota https://padlet.com/lserranocota/lsp39hnlxsj8dl69/wish/3463156001

.Para evitar la IA injusta, se proponen:


  • Datos variados y equilibrados.

  • Auditorías éticas continuas.

  • Regulaciones como el Reglamento Europeo de IA.

  • Equipos de desarrollo diversos 



]]> 2025-05-22 12:04:41 UTC https://padlet.com/lserranocota/lsp39hnlxsj8dl69/wish/3463156001 Reflexión final lserranocota https://padlet.com/lserranocota/lsp39hnlxsj8dl69/wish/3463156489 La IA tiene un gran potencial, pero sin supervisión humana y ética puede causar más daño que beneficio. Necesitamos una tecnología alineada a valores humanos, para que sirva y no excluya.


]]> 2025-05-22 12:05:10 UTC https://padlet.com/lserranocota/lsp39hnlxsj8dl69/wish/3463156489 Recursos y fuentes sugeridas. lserranocota https://padlet.com/lserranocota/lsp39hnlxsj8dl69/wish/3463157523

  • “Amazon’s AI recruiter favored men” – Reuters (oct 2018) 

  • “Business leaders risk sleepwalking towards AI misuse” – Thomson Reuters Foundation (nov 2024) 

  • DW Documental – IA racista o sexista (YouTube).

  • Informe AI Now Institute (NYU) sobre discriminación algorítmica.



]]> 2025-05-22 12:05:39 UTC https://padlet.com/lserranocota/lsp39hnlxsj8dl69/wish/3463157523