Personalización del aprendizaje

• IA permite adaptar contenidos, ritmos y estilos de aprendizaje a las necesidades individuales de cada estudiante.

• Por ejemplo, plataformas como Coursera o Khan Academy usan algoritmos para recomendar recursos según el desempeño.

Asistencia al docente

• IA puede ayudar en la planificación de clases, generación de materiales, traducción de contenidos y análisis del progreso estudiantil.

• También permite identificar estudiantes en riesgo académico de manera anticipada.

Ética y privacidad

• Existe preocupación por el manejo de datos personales, vigilancia y el uso indebido de la información recopilada por sistemas inteligentes.

Reproducción de sesgos algorítmicos

• La IA puede reflejar o amplificar sesgos presentes en los datos de entrenamiento, generando decisiones injustas o discriminatorias.

Principios vulnerados:

1. Responsabilidad/transparencia: ambas partes (el estudiante como creador y el docente como figura de revisión) deben estar claros, conscientes y seguros que la información generada por la IA es verídica. Es vital siempre que se usa IA validar la información y las fuentes que esta pueda presentar. No se puede confiar a ciegas. La persona estudiante debe plasmar su criterio y conocimiento en el tema o discusión mediante un proceso estructurado de investigación. Copiar/pegar no aporta nada y, además, la situación se pone peor cuando la información generada es ficticia.

2. Seguridad: al crear o generar información o contenido con IA cada persona debe tomar precaución y evitar difundir datos que no sean reales o estén erróneos. En todos los contextos, pero en los educativos principalmente, la veracidad de los datos, informaciones, resultados y otros, es clave para contar con un conocimiento bien sustentado que funcione para enfrentar los futuros desafíos profesionales y organizacionales.

Acciones éticas sugeridas:

Estudiantes: definitivamente decidir y actuar con criterio y propiedad, no creyendo que siempre la IA va a tener la razón. Comprender que la IA es una herramienta, un apoyo o guía pero que eso no los sustituye a ellos como personas, como estudiantes y como futuros profesionales. Siempre validar las fuentes a utilizar, revisar autores, años de publicación, enfoques y otros. Apoyar el contenido creado por IA con fuentes confiables y científicas, desde las mismas bibliotecas institucionales.

Docentes: entender la IA, capacitarse en diferentes herramientas, sin pretender qué se conocerán todas y cada una de ellas (al ritmo que evoluciona la IA es imposible llevarle el paso). Comprender que la IA puede ser un gran aliado académico si se usa con cuidado y de forma limitada, sin caer en excesos. Inspirar a los estudiantes para que realmente quieran aprender y que no solo presenten las tareas para poder pasar.

Instituciones: establecer posiciones y políticas claras sobre el uso de la IA, incentivar el uso de instrumentos y métodos de evaluación claros, pertinentes y transparentes. Capacitar a los docentes y estudiantes en diferentes herramientas tecnológicas incluyendo la IA, en herramientas puntuales obtener licencias institucionales, etc.

Saludos.

Escenario 2 – Desinformación y uso irresponsable de IA en educación 

Descripción del caso: 
Un estudiante usa una IA para redactar un ensayo con información falsa. El docente no lo detecta y el trabajo recibe una buena calificación. 

Principios éticos vulnerados (UNESCO): 

• Confiabilidad y seguridad 

• Responsabilidad y rendición de cuentas 

• Educación y alfabetización digital 

Acciones éticas propuestas: 

1. Formar a docentes y estudiantes sobre el uso crítico y ético de la IA. 

2. Revisar el proceso de evaluación académica, promoviendo tareas por etapas y herramientas de verificación. 

Reflexión final: 
La IA es una herramienta poderosa, pero su uso sin criterio puede afectar la calidad del conocimiento. Formar una cultura de responsabilidad compartida entre estudiantes, docentes e instituciones es clave para evitar la desinformación y preservar la integridad académica. 

Escenario 4: Dependencia y habilidades.

Muchas de las personas estudiantes comenzaron a utilizar herramientas de IA generativa de forma sistemática para la elaboración de material académico (Ensayos, Artículos, Tareas, etc). Estas herramientas inicialmente se introdujeron como apoyo pero han creado dependencia y pérdida de algunas habilidades criticas, reflexivas y generativas de muchos de estos estudiantes.

Principios éticos:

Se violan algunos aspectos éticos como la transparencia tanto de la IA como de los estudiantes, la rendición de cuentas debido a su uso indiscriminado en estas situaciones y el principio de igualdad equiparando el acceso y el uso de la IA en estos contexto educativos.

Acciones reguladoras:

1. Prononer cambios en el uso, la aplicación y regulación de la IA a las distintas tareas educativas

2. Brindar la capacitación correspondiente para generar usos éticos y reflexivos de la IA

   Conclusión:

   La IA debe emplearse como una herramienta con la cuál se puede trabajar en distintas tareas y que puede complementar mejor el análisis y la reflexión de algunas tareas, sin embargo el estudiante/docente/profesional debe hacer un uso ético, critico y reflexivo de esta herramienta.

Los principios éticos que se están vulnerando son: Humanidad, Igualdad, Rendición de cuentas y Transparencia.

Acciones:

Sería importante comunicar al estudiantado de que el uso de la IA es de apoyo y no como un mecanismo para realizar los trabajos, por ende, puedan utilizar la IA para realizar el trabajo, pero como apoyo, sumado a ello, un apartado donde expliquen la IA utilizada, la forma en cómo utilizaron la IA y los promts utilizados.

Realizar las tareas a puño u letra de cada una de las personas estudiantes.

Realizar el ejercicio que entre ellos se autoevalúen el trabajo, donde deben de corroborar que su par no haya utilizado IA, así se genera esa consciencia de no utilizar las IA para el desarrollo completo de los trabajos.

Utilizar una IA específica para evaluar los documentos de las personas estudiantes y así corroborar que no hayan utilizado IA.

Conclusiones:

Concientizar a la población estudiantil de que el uso de la IA es un complemento y no una solución total, por ende, se incentiva al uso de la IA en los trabajos, pero siempre y cuando exista un apartado donde expliquen la forma en cómo utilizaron la IA en su trabajo, aunado a ello, los promts que utilizaron.

Capacitarse y utilizar plataformas que detecten el uso de IA en el desarrollo de los trabajos de las personas estudiantes.

Coevaluación de los trabajos donde cada una de las personas estudiantes pueda evaluar el trabajo de su compañero o compañera y detectar si utilizó o no IA, esto permite a los estudiantes a que puedan concientizar sobre el mal uso de la IA en el desarrollo de los trabajos.

Este caso es un claro ejemplo del uso irresponsable de la IA.

Los principios éticos de la UNESCO que se están vulnerando son:

·         Igualdad: ya que el uso de IA para la generación del trabajo (aunque en este caso no dio información correcta) puede dar cierta ventaja al estudiante que la uso sobre otros que tal vez utilizando información correcta obtuvieron una calificación menor.

·         Rendición de cuentas: el estudiante no recibe una consecuencia por el mal uso que hizo de la IA que le permita ver su error y corregirlo, sino que más bien recibe una buena calificación lo que refuerza y motiva el uso irresponsable de la IA.

·         Transparencia y Gobernanza: el estudiante no indica que hizo uso de IA por lo que no se sabe qué partes fueron hechas por el estudiante o por la IA. Además, el que el docente no se diera cuenta del uso de IA evidencia la carencia de políticas o protocolos por parte de la institución sobre el uso adecuado y permitido de la IA en los trabajos asignados.

Para abordar esta situación se podría empezar por realizar las siguientes acciones:

1.    Definir una política institucional completa y clara sobre el uso permitido y ético de la IA: La institución educativa, debe definir una política que defina y delimite el uso permitido de la IA en el proceso educativo, tanto en los trabajos asignados a los estudiantes como en el uso docente. Los docentes deben informarse y recibir capacitación sobre esta política para que puedan identificar un uso indebido y aplicar las sanciones correspondientes. Los estudiantes deben conocer y aplicar esta política haciendo un uso ético de la IA y asumiendo su responsabilidad.

2.    Fomentar la alfabetización digital y uso ético de la IA: tanto la institución como los docentes deben brindar una educación sobre el uso ético de la IA, fomentando el análisis y uso crítico de esta tecnología que permita y fomente a los estudiantes a evaluar la veracidad de los resultados de la IA y establecer los límites correctos para su uso.

Los principios éticos vulnerados son:

1. Interés centrado en la persona

2. Inclusión y equidad

3. Transparencia y explicabilidad

4. Responsabilidad y rendición de cuentas

Como acciones concretas y éticas propongo:

1. Formación docente crítica en IA: capacitar al cuerpo docente para incorporar la herramienta como apoyo pedagógico, pero no como un reemplazo.

2. Promover interacciones significativas: fomentar espacios de diálogo con los estudiantes sobre el uso y propósito de la IA.

-Principios vulnerados: Dignidad y Privacidad

• Acciones concretas y éticas para abordar la situación:

  a) Los docentes deben velar porque las plataformas que utilizan en la enseñanza carezcan de otros fines comerciales y si los tienen, deben procurar hacerlo de conocimiento de los estudiantes.

  b) Las instituciones (en este caso, las empresas proveedoras de las plataformas educativas) deberían garantizar que los datos obtenidos del comportamiento de los estudiantes serán utilizados exclusivamente para mejoramiento de los recursos educativos y definitivamente debe haber consentimiento informado previo por parte de los estudiantes, quienes deben exigir ese derecho.

Rosa Cordero

Según los principios de la UNESCO, se vulneran los principios éticos de Privacidad, Dignidad y Transparencia.

Entre las acciones que se proponen son:

- La institución educativa debe elaborar un protocolo, procedimientos y lineamientos para el tratamiento de los datos personales. Si los datos personales se usan para diferentes fines debe expresarlo con claridad en un consentimiento informado y que la población estudiantil indique si está de acuerdo o no con que se utilicen con tales fines.

- Si es en Costa Rica, la institución educativa debe aplicar mínimo lo establecido en la Ley de Protección de la Persona frente al tratamiento de sus datos personales Nº 8968 y su reglamento, a pesar de que la ley debe modernizarse y actualizarse considerando elementos del reglamento de la “General Data Protection Regulation (GDPR)”, ya que es unas de las normas más actualizada en ese tema.

- Crear espacios para generar conciencia en el tratamiento del uso de datos y también en el uso de la IA, por ejemplo, como capacitaciones, talleres, charlas o coloquios.

Melissa Valverde Hernández

• Los principios éticos de la UNESCO que se vulneran en el escenario No. 3 son:

  1. El derecho a la intimidad y protección de datos, dado que infringe el derecho esencial a la privacidad y el uso de los datos para fines que no fueron previamente comunicados.

  2. Transparencia y explicabilidad, por cuanto la plataforma no informa de manera explícita que los datos serás supervisados y comercializados.

  3. Responsabilidad y rendición de cuentas, no se identifica un procedimiento que permita responsabilizar actores por el inadecuado uso de la información.

• Acciones para abordar la situación:

  1. Elaborar e implementar políticas institucionales claras sobre el uso ético de la inteligencia artificial en los diferentes espacios académicos, con el fin de que la comunidad universitaria cuente con las regulaciones y las consecuencias éticas del mal uso de esta herramienta digital.

  2. Generar acuerdos con las pautas para la confidencialidad y uso de la información para fines específicos en la institución.

Principios éticos de la UNESCO vulnerados:

- Derecho a la privacidad y protección de datos personales.

- Consentimiento informado.

- Dignidad humana.

- Responsabilidad y transparencia.

Acciones para abordar la situación:

Implementar políticas de privacidad transparentes y obtener consentimiento explícito:

• La institución educativa debe establecer y comunicar claramente a estudiantes y familias cómo se recopilan, usan y almacenan sus datos.

• Los docentes pueden educar a los estudiantes sobre sus derechos en relación con su información personal y promover una cultura de protección de datos.

Fortalecer la regulación y supervisión institucional:

• Las instituciones educativas deben establecer políticas internas que prohíban la venta de datos sin autorización previa y explícita.

• Los docentes y el personal administrativo deben recibir formación en ética digital y protección de datos para garantizar un manejo responsable de la información.

La situación viola principios de privacidad, consentimiento, dignidad, responsabilidad y transparencia. Para resolverla, es fundamental promover políticas de privacidad claras y obtener consentimiento informado, además de fortalecer la regulación interna y la formación ética de todos los actores involucrados.

Los principios éticos vulnerados en este caso están relacionados con transparencia y explicabilidad así como con la supervisión humana y exceso de confianza.

En relación con el primero, transparencia y explicabilidad, existe un riesgo alto al utilizar sistemas de IA para realizar las tareas básicas de redación o resúmenes de textos ya que no hay claridad sobre la forma en que los algoritmos funcionan. Esta falta de comprensión en la naturaleza de los algoritmos podrían causar errores en el contenido de los textos que el estudiantado obtiene, incluyendo alucinaniones de IA y sesgos.  Una solución para esta problemática es promover la alfabetización tecnológica, incorporando con ello formas acertivas, claras y completas en las peticiones hechas desde la persona estudiante al sistema de IA.

El segundo principio ético vulnerado se relaciona con la supervisión humana y exceso de confianza. Esto implica un riesgo relevante por la alta dependencia que el estudiantado podría sufrir con los sistemas de IA al realizar sus trabajos académicos, específicamente, estas personas pueden perder oportunidades para desarrollar capacidades cognitivas humanas de orden superior necesarias en futuros profesionales graduados de instituciones de educación superior como lo son el pensamiento crítico y habilidades de escritura formal. Además, podrían experimentar un detereoro sobre estas habilidades debido a la dependencia excesiva de la IA para tareas rutinarias.

Algunas propuestas para enfrendar estos retos:

Promover la alfabetización tecnológica entre todos y cada uno de los miembros de la comunidad universitaria.

Establecer lineamientos y regulaciones institucionales claras, humanistas, democráticas, e inclusivas que permitan reconocer las ventajas de la IA, pero que también limiten y expliquen su uso adecuado y posibles consecuencias cuando se de un uso poco ético.

Este caso permite evidenciar la vulnerabilidad de los siguientes principios:

Equidad y no discriminación

Supervisión y decisiones humanas

Transparencia y explicabilidad.

El sesgo de la IA y el "prejuicio" que puede existir a partir de caracterizaciones de género, edad, grupos étnicos se magnifica y se ve reflejado en la forma en que el algoritmo de la IA genera información.

Acciones concretas:

1. La supervision del docente, que es capaz de reconocer el potencial individual de cada estudiante y adaptarlo al momento de evaluar para cumplir el objetivo de clase de forma adaptada.

2. El docente debe ser capaz de entender y explicar la forma en que la tutoría gestionada por IA está desarrollando e individualizando el material. Para poder informar al estudiante (acceso a la información) y a quien requiera conocer la información (validación del material)

   
   

Análisis:

La persona estudiante emplea la IA para hacer un ensayo que incluye información errónea sin respaldo científico y el docente no detecta las fallas y lo califica bien. Esta situación supone una falta grave del estudiante y también omisión por parte del docente que probablemente no contaba con todos los filtros para detectarlo.

Los principios éticos de la UNESCO vulnerados son:

·  Precisión: al emplear información falsa y poco confiable.

·  Responsabilidad y rendición de cuentas: Falta de responsabilidad del estudiante y del docente.

·  Transparencia y explicabilidad: No se declara el uso de IA ni se explica su rol.

·  Derecho a la educación de calidad: Se afecta el aprendizaje al validar contenido erróneo.

Acciones:

1.  Promover acciones institucionales para que esté normado y declarado correctamente el uso de la IA en trabajos, de manera que haya transparencia y explicabilidad. Esto debe ser de amplia difusión y en cada inicio del curso lectivo, dentro de los lineamientos de clase.

2.   Incluir en la rúbrica y consigna que debe declararse el uso de IA, así como la adecuada citación. Además, indicar que deben usarse fuentes confiables y verificables y en caso contrario, se descontará en elementos de rúbrica.

Acciones concretas y éticas para abordar la situación:

• Por parte de las instituciones: debe haber claridad en los parámetros de uso de la IA, en normativa, estrategias, recursos, etc.

• Por parte de los docentes: se debe promover el uso de la IA en las distintas asignaciones de los cursos, ya que se puede aprovechar su aporte, siempre y cuando se detalle su uso en los entregables y se promueva la interacción, discusión y análisis de información, con distintas estrategias de enseñanza-aprendizaje, según los objetivos que se planteen.

• Como estudiantes: tener claridad que se debe documentar su uso y no limitarse a lo que la IA le genera, si no aportar su conocimiento y experiencia a la información aportada, según las actividades asignadas

La incorporación de la IA en el ámbito educativo conlleva aspectos positivos, pero también riesgos. Uno de los principales desafíos y relacionado con los dilemas éticos propuestos, es la dependencia excesiva de esta tecnología, lo que podría disminuir el desarrollo del pensamiento crítico y la creatividad de las personas estudiantes si no se promueve un uso adecuado y ético orientado al aprendizaje activo. Lo anterior va en contra de los fines de la educación, ya que esta pretende crear personas con un pensamiento autónomo, que puedan analizar diversas situaciones y proponer soluciones a los problemas de sus comunidades.

Asimismo, su uso indiscriminado involucra riesgos relacionados a la privacidad de los datos, ya que muchas plataformas recopilan información sensible sin que las personas usuarias hayan consentido la utilización de estos, situación que vulneran los derechos a la intimidad y privacidad.

Otro riesgo importante es la reproducción de sesgos en los algoritmos, los cuales, si no son revisados, pueden perpetuar estereotipos existentes en el sistema educativo, lo que puede violentar principios como la igualdad y equidad.