Cita:

• Baker, R. S., & Inventado, P. S. (2014). Educational Data Mining and Learning Analytics. In J. A. Larusson & B. White (Eds.), Learning Analytics: From Research to Practice (pp. 61-75). Springer, New York, NY.
  (Este trabajo fundacional describe cómo los datos educativos se utilizan para adaptar y personalizar el aprendizaje).

En este episodio, exploramos cómo los algoritmos, a pesar de su aparente neutralidad, pueden verse afectados por sesgos inherentes. Descubrirás cómo estos sesgos pueden impactar nuestras vidas diarias, desde recomendaciones en línea hasta decisiones cruciales.

Tipo de fuente: Video Youtube de CENIA (Centro Nacional de inteligencia Artificial)

Tipo de fuente: cita bibliográfica o paper científico

• Baker, R.S., Hawn, A. Algorithmic Bias in Education. Int J Artif Intell Educ 32, 1052–1092 (2022). https://doi.org/10.1007/s40593-021-00285-9

Tipo de fuente: cita bibliográfica o paper científico

Jamiu Adekunle Idowu ^a, Adriano Soares Koshiyama ^b, Philip Treleaven ^a

^a Department of Computer Science, University College London, UK

^b Holistic AI, London, UK Received 29 January 2024, Revised 16 July 2024, Accepted 17 July 2024, Available online 18 July 2024, Version of Record 20 July 2024.

Cita:

• O'Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown Publishing Group.
  (O'Neil define los "sesgos algorítmicos" como procesos que perpetúan la desigualdad de manera sistémica, especialmente en contextos sensibles como la educación).

• Direccionamiento Vocacional: Pueden ser guiadas lejos de áreas STEM (Ciencia, Tecnología, Ingeniería y Matemáticas) debido a recomendaciones basadas en estereotipos.

• Techos de Aprendizaje: El algoritmo podría no ofrecerles desafíos de mayor dificultad, limitando inadvertidamente su potencial.

• Refuerzo de Estereotipos: La plataforma, al tratarlas de manera diferente, envía el mensaje subliminal de que sus capacidades son inherentemente distintas.

Cita:

• UNESCO. (2019). I'd Blush if I Could: Closing Gender Divides in Digital Skills through Education. Equals Global Partnership.
  (Este informe documenta exhaustivamente cómo los sesgos de género en la tecnología y la educación pueden desviar a las mujeres y niñas de las carreras STEM y reforzar estereotipos dañinos).

Cita:

• Bolukbasi, T., Chang, K. W., Zou, J. Y., Saligrama, V., & Kalai, A. T. (2016). Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings. Advances in Neural Information Processing Systems, 29.
  (Este estudio seminal muestra cómo los sesgos de género en los datos de entrenamiento se reflejan en los modelos de IA).

Cita:

• Bucher, T. (2018). If...Then: Algorithmic Power and Politics. Oxford University Press.
  (Bucher analiza cómo las métricas y los criterios de diseño en los algoritmos pueden incorporar valores y prejuicios humanos).

Cita:

• Ensign, D., Friedler, S. A., Neville, S., Scheidegger, C., & Venkatasubramanian, S. (2018). Runaway Feedback Loops in Predictive Policing. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 160-171.
  (Aunque se centra en otro ámbito, el artículo describe perfectamente el fenómeno de los "bucles de retroalimentación" que amplifican los sesgos iniciales en sistemas algorítmicos).

Cita:

• Eubanks, V. (2018). Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. St. Martin's Press.
  (Eubanks argumenta de manera convincente que los sistemas automatizados a menudo institutionalizan y amplifican las desigualdades preexistentes en lugar de eliminarlas).

• Benjamin, R. (2019). Race After Technology: Abolitionist Tools for the New Jim Code. Polity Press.
  (El concepto de "New Jim Code" de Benjamin se aplica aquí para describir cómo la tecnología puede codificar la discriminación, incluido el sesgo de género en la educación).