INTRODUCCION

Entre los beneficios que se consiguen con la inteligencia artificial en la educación, en el proceso de enseñanza y aprendizaje se encuentran la disminución del tiempo en la generación de diagnósticos, mejoras en la selección de recursos y ejercicios adecuados para el aprendizaje, disminución del uso de papel, tratamiento de información en tiempo real (recoger información y abordarla), potenciación del aprendizaje personalizado, síntesis de resultados individualizados que faciliten el seguimiento, potenciación del trabajo interdisciplinar y aumento de la transparencia de la evaluación (Chalco López et al., 2023). Se abren, con ello, nuevos campos para mejorar las capacidades personales, la potenciación del desarrollo cognitivo, el fomento de habilidades no cognitivas (por ejemplo, el trabajo cooperativo), así como la formación del profesorado, ya que permitiría el acceso a lo que normalmente está ausente y no presente en su ámbito educativo, propiciando así programas de personalización del aprendizaje con el objetivo de desarrollar al máximo el potencial de cada persona (Núñez-Naranjo & Chancusig-Toapanta, 2022). Los desafíos o problemas que implica la implantación de los procesos de aprendizaje digital son la pérdida de potencialidades humanas, la conectividad, el hardware y el acceso; protección de datos; seguridad; responsabilidad social e implementación específica (Acosta Enríquez et al., 2024). Las Tecnologías de la Información y Comunicación, que se ven reflejadas en los diferentes bloques de contenido del currículo oficial y pueden ser agrupadas en torno a las competencias para el aprendizaje permanente que recoge el currículo oficial de las trayectorias educativas.

La aplicación de la inteligencia artificial en la educación exige enfrentar desafíos éticos relacionados con la equidad, la privacidad, la transparencia y la autonomía, evitando que la personalización amplifique desigualdades o limite la diversidad educativa; por ello, su implementación debe guiarse por principios y políticas responsables (Wajahat, 2024; Borenstein, 2021; Aparicio, 2024). Así mismo la IA implica riesgos éticos vinculados a la privacidad de los datos, la equidad y la finalidad formativa. Su uso puede vulnerar la información personal, transformar el rol docente, generar dependencia tecnológica, limitar el pensamiento crítico y la socialización, además de reproducir sesgos que amplían desigualdades. Estos riesgos evidencian la necesidad de garantizar que la IA complemente y no desvíe a la educación de su propósito central: la formación integral del ser humano. (Bu, 2022; Hernández 2024; Lozada et al., 2023).

Referencias

Aparicio-Gómez, O. Y., & Cortés Gallego, M. A. (2024). Desafíos éticos de la Inteligencia Artificial en la personalización del aprendizaje. Revista Interamericana De Investigación Educación Y Pedagogía RIIEP, 17(2), 377-392. doi:https://doi.org/10.15332/25005421.10000

en cuanto a los desafíos éticos, representa una necesidad de garantizar una equidad y  asegurar la transparencia, proteger la identidad digital de los estudiantes, definir el rol del docente frente a la ia y fomentar una formación crítica y responsable en el uso de estas tecnologías.

RIEGOS:

-Los sesgos algorítmicos

Son errores procedente de los algoritmos llevan a que los sistemas automatizados muestren predisposiciones y respuestas sesgadas y discriminatorias en muchas ocasiones.

-Privacidad y derechos de autor

usar información y contenido sin autorización de los autores, recopilar datos personales sin autorización.

-IA-dependencia e IA-fobia: dos caras de la misma moneda

Tendencias opuestas que también son un riesgo, la primera porque porque significa una confianza excesiva en las herramientas de la IA dejando relegadas nuestras habilidades y la segunda por generar un miedo o ansiedad hacia el uso de herramientas proporcionadas por la IA

-Fraude y deshonestidad académica

Mediante el uso inadecuado de las herramientas de la IA para la elaboración de trabajos académicos.

Según la UNESCO La Inteligencia Artificial (IA) proporciona el potencial necesario para abordar algunos de los desafíos mayores de la educación actual, innovar las prácticas de enseñanza y aprendizaje y acelerar el progreso para la consecución del ODS 4. Sin embargo, es necesario abordar los múltiples riesgos y desafíos éticos y sociales que enfrenta la implementación de sistemas de inteligencia artificial en el entorno educativo.

La IA puede ser utilizada para mejorar significativamente el aprendizaje, pero se debe tomar en cuenta la privacidad y seguridad de los datos de las personas que hacen uso de la IA, puesto que se pone en riesgo   su derecho fundamental a la privacidad y el control sobre sus propios datos. Otro riesgo es la posibilidad de que los algoritmos reproduzcan o amplifiquen prejuicios. Según Ibarra Martínez et al. (2023), si los sistemas de IA se desarrollan a partir de datos parciales o no consideran la pluralidad cultural y social de los estudiantes, pueden perpetuar o intensificar las desigualdades ya existentes en la educación al no implementarse de manera equitativa y justa.

Además, el uso excesivo de la IA podría afectar el desarrollo de habilidades socioemocionales al reducir la interacción humana (docente y estudiante), asimismo la dependencia a la IA está afectando negativamente la creatividad, la autonomía intelectual y las habilidades cognitivas de los estudiantes, según Navia Cedeño, L. A., Sánchez Álava, V. L (2025).

Es por ello, el desarrollo tecnológico implica desafíos importantes en temas de privacidad, se debe establecer marcos regulatorios claros que protejan la información personal y garanticen un uso responsable de la IA en la educación, otro desafío que enfrenta es la necesidad de considerar cuidadosamente cómo implementar sistemas de IA que respeten la autonomía del estudiante y promuevan la equidad educativa.

• La privacidad y protección de los datos personales.

Los sistemas de IA recopilan grandes volúmenes de información sobre los estudiantes, incluidos datos de rendimiento académico, comportamiento y participación en línea. El uso inadecuado o la filtración de estos datos puede vulnerar los derechos fundamentales de los estudiantes.

• El sesgo algorítmico.

Los algoritmos utilizados en herramientas de IA pueden perpetuar desigualdades existentes si están entrenados con datos históricos que contienen prejuicios. Por ejemplo, estudiantes de contextos desfavorecidos podrían ser etiquetados incorrectamente como de "bajo rendimiento", reforzando estereotipos y limitando su desarrollo académico.

• Deshumanización del proceso educativo.

La enseñanza no solo se basa en la transmisión de conocimientos, sino también en la interacción emocional y social entre docentes y estudiantes. El uso excesivo de tecnologías automatizadas puede reducir esta dimensión humana, afectando la motivación, el sentido de pertenencia y el bienestar emocional del alumnado.

• Acceso desigual a la tecnología.

No todos los estudiantes tienen las mismas condiciones para beneficiarse del uso de la IA, lo cual puede profundizar la brecha digital y educativa. Las políticas educativas deben asegurar una implementación equitativa que no excluya a comunidades vulnerables.