Estudiantes usan herramientas de IA (ej. generadores de texto) para hacer tareas, ensayos u otros trabajos, sin entender completamente el contenido o reconociendo el uso, lo que socava la integridad académica.

Herramientas que detectan uso de IA o plagio pueden cometer errores, acusando injustamente a estudiantes que no lo han hecho, o no adaptándose bien a estilos diversos (por ejemplo, estudiantes internacionales o con variaciones idiomáticas).

En “AI in the Classroom: Insights from Educators …” se reporta que detectores pueden tener sesgos, especialmente con hablantes no nativos de inglés. MDPI
Reddit: múltiples testimonios de estudiantes acusados falsamente de usar IA.

No todos los estudiantes tienen igual acceso a dispositivos, buen internet o formación tecnológica; esto puede agravar desigualdades entre zonas urbanas/rurales, entre estudiantes con recursos y los que no.

En el artículo “AI in the Classroom: Insights from Educators …” se menciona que la dependencia de tecnologías avanzadas puede exacerbar inequidades. MDPI
UNESCO también advierte que la IA debe considerarse con vistas a reducir la brecha digital, pero si no, puede aumentarla

Los algoritmos de IA pueden reproducir sesgos presentes en los datos con que fueron entrenados, afectando negativamente a ciertos grupos de estudiantes (por etnia, idioma, nivel socioeconómico, etc.).

Que los estudiantes deleguen demasiado en la IA, sin desarrollar habilidades como pensamiento crítico, resolución de problemas, comprensión profunda, escritura original, etc.

Inspera: uso de IA para resolver problemas matemáticos sin entender el proceso

Privacidad y protección de datos

IA requiere manejar datos personales de estudiantes, patrones de aprendizaje, comportamientos; hay riesgo de filtraciones, uso indebido, uso sin consentimiento claro, etc.

Mencionado varias veces en “AI in the Classroom …” como preocupación de privacidad. MDPI
UNESCO también señala necesidad de regulaciones y marcos éticos.

Muchos docentes no están preparados para integrar IA de forma ética y efectiva; carecen de formación técnica, pedagógica, ética para orientar a los estudiantes en su uso.

“Seis retos de la inteligencia artificial aplicada a la Educación” de la Fundación Telefónica menciona capacitación docente como uno de los retos. Fundación Telefónica España -
“Inteligencia Artificial en los procesos de enseñanza-aprendizaje: retos y oportunidades” de UNAM también lo señala.

Muchas veces los modelos son “cajas negras”: no se sabe cómo llegan a sus predicciones, cómo deciden puntajes, retroalimentación, clasificación, etc.; difícil auditar, difícil detectar errores o sesgos internos.

Evaluaciones tradicionales pueden no estar adaptadas al nuevo contexto de IA; exámenes, tareas y métodos de evaluación que no contemplan la existencia de herramientas de generación de contenido, evaluación formativa, ética del uso, etc.

Caso del Reino Unido que reporta muchos casos de trampa con IA sugiere que las evaluaciones no están diseñadas para evitarlo.

Cuestiones de qué usos son permisibles, cuándo la IA viola los derechos del estudiante, hasta qué punto la IA puede sustituir la interacción humana, qué responsabilidad tienen las instituciones si ocurre daño, etc.

“Los retos y las posibilidades…” de UNESCO analiza los dilemas éticos.