Organizar clases que integren inteligencia artificial generativa implica asumir una postura ética, crítica y pedagógicamente sólida. Entre los recaudos más importantes podemos citar:

• Familiarización del docente con la IA: antes de implementarla, es clave que comprender sus funciones, limitaciones y riesgos (como sesgos, errores o “alucinaciones”).

• Diseño intencionado y con propósito: no se trata de “usar IA por moda”, sino de pensar qué necesidades educativas puede abordar y cómo mejorar la enseñanza, la evaluación o la gestión.

• Evaluar la transparencia y privacidad: verificar cómo maneja la IA los datos de docentes y estudiantes y que su uso se ajuste a principios éticos y de protección de la información personal.

• Conocer como funciona: la IA no debe ser una “caja negra”, debemos comprender cómo y por qué genera ciertos resultados.

• Favorecer el pensamiento crítico y la creatividad: diseñar actividades que exijan habilidades humanas, evitando delegar el proceso formativo completamente a la IA.

La integración responsable de la IA comienza por el reconocimiento de que sigue siendo una herramienta, no un sustituto del rol docente.

¿Cuáles recomendaciones daríamos a nuestros estudiantes para el uso de IA en la producción de trabajos?

• Usar IA como apoyo, no como reemplazo: la herramienta puede ayudar a redactar, organizar ideas o generar ejemplos, pero el estudiante debe ser autor y responsable del trabajo final.

• Reconocer el uso de IA en los trabajos: se debe indicar cómo se utilizó la herramienta (por ejemplo, incluir al final un párrafo explicando qué prompts usaron y cómo se integraron los resultados).

• Verificar siempre la información: como la IA puede inventar datos o dar información imprecisa, es importante validar todo con otras fuentes confiables.

• Evitar el uso indiscriminado: no todas las tareas se benefician del uso de IA. Hay que enseñar a discernir cuándo es útil y cuándo no lo es.

• Mantener una actitud crítica y ética: el uso de IA debe estar alineado con los principios de honestidad académica y aprendizaje genuino.

Recomendación clave para los estudiantes: “Podés usar IA en este curso, pero usala bien: con criterio, con responsabilidad, y siempre haciendo visible cómo la usaste.”

Chen et al., (2023) explica que una forma de seguir mejorando estos modelos de lenguaje, es por medio de la interacción con los usuarios, lo cual implica la recolección de mayor cantidad de datos para su procesamiento. Por su parte, Jaiswal y Arun (2021)

opinan que la brecha digital a nivel mundial que ya existía antes de la pandemia parece ir en aumento, lo que hace más compleja la situación, por lo que se requiere que las políticas gubernamentales, institucionales y empresariales se involucren más en este asunto. Porque de algún modo, la tecnología llega a todos lados, pero muchos siguen aún hoy sin poder acceder. Un claro ejemplo, es en universidades de gestión estatal (públicas) un primer día de clases en un aula multitudinaria, que accedan a una actividad mediante el escaneo de QR de una pantalla y que trabajen de manera individual completando un formulario, sin antes haber chequeado que todos tengan un dispositivo (como un celular y con dicha tecnología) para poder realizarlo.

Mario Zac

Vanina Fernandez

La IA pone sobre la mesa diferentes formas de ejecutar plagio y por ende recaer en la deshonestidad académica, estas son:

• La elaboración de materiales de cátedra netamente creados por la IAGen y que los mismos no se encuentran sustentados por fuentes bibliográficas confiables o cotejadas y sin aportes personales significativos.

• Elaboración y aplicación de instrumentos de evaluación (de cualquier tipo) con escasa o nula revisión por parte del docente. Lo cual puede incurrir en sesgos a la hora de evaluar siendo que todo el proceso de enseñanza es realizado por el docente y una plataforma de IA arroja respuestas que se limitan a un pedido que desde ya no puede representar TODO un proceso de enseñanza-aprendizaje.

• Parafraseo de textos ya existentes para elaborar “nuevos” documentos, en este sentido es difícil que la IA indique citas bibliográficas y por lo tanto esos documentos parecen ser escritos de forma original y crítica cuando no es la realidad. 

¿QUÉ ESTRATEGIAS PROPONDRÍA PARA ENSEÑAR ÉTICA ACADÉMICA EN ESTE NUEVO CONTEXTO?

Para enseñar ética académica en este contexto donde la IA tiene un lugar protagónico se puede trabajar de la siguiente manera:

• Reconocer y documentar cómo se utilizó la herramienta y qué acciones se realizaron para tomar las propuestas y respuesta que la IA ofrece ante cada solicitud. ej: elaboración de bitácoras de interacción con IA. 

• Tomarnos el tiempo para hacer énfasis sobre la responsabilidad final que las personas (estudiantes o docentes) poseen sobre los productos académicos que elaboran con ayuda de IA. Resaltar la importancia de la revisión, análisis y reflexión de cada tarea coejecutada con inteligencia artificial.

• Generar espacios para compartir las experiencias de los estudiantes con la IA, y brindarles las herramientas adecuadas para un uso responsable y significativo que  también ponga en juego sus habilidades cognitivas y saberes personales previos. 

• Falta de confiabilidad y precisión: las IAs pueden dar respuestas incorrectas o inexactas (errores factuales o “alucinaciones”).

• Sesgos en los modelos: reflejan prejuicios presentes en los datos de entrenamiento, lo que puede reproducir discriminación o estereotipos.

• Exceso de confianza en la IA: puede debilitar el pensamiento crítico y la resolución independiente de problemas en estudiantes y docentes.

• Calidad variable de resultados: las respuestas pueden ser incoherentes o poco pertinentes según el contexto o la calidad de los prompts.

• Falta de explicabilidad: no siempre es claro cómo o por qué una IA llegó a una conclusión (la IA es una "caja negra").

• Privacidad y uso indebido de datos: riesgo de que se recolecten, almacenen o usen datos sensibles sin consentimiento adecuado.

• Producción de contenido dañino: puede generar discursos de odio, noticias falsas o contenido inapropiado si no se controla su uso.

• Impacto ambiental: el entrenamiento y uso de grandes modelos consume mucha energía.

LIMITACIONES:

• Pérdida de contexto en conversaciones largas: puede olvidar partes anteriores o responder de forma ambigua.

• Depende de prompts claros y específicos: si la indicación no es precisa, la calidad de la respuesta disminuye.

• Falta de validación en contextos educativos reales: aún se necesita más investigación sobre su efectividad real en el aula.

• Baja diversidad de datos: al estar entrenadas mayormente en inglés y en ciertos contextos, pueden tener sesgos culturales o lingüísticos.

• Diseño sin participación educativa: la mayoría de los modelos no fueron desarrollados por ni para docentes, lo que limita su adecuación pedagógica.

ESTRATEGIAS PARA MITIGARLOS:

• Verificar el contenido de las respuestas: aplicando sistemas de revisión para garantizar la validez de los resultados.

• Formación docente continua: para la comprensión de las capacidades y limitaciones de estas herramientas.

• Diseño inclusivo y ético: para minimizar la exclusión de poblaciones vulnerables y minorías

• Marco regulatorio institucional: incluir políticas sobre recopilación y manejo de los datos de estudiantes y docentes. Promover la transparencia en el uso de IA.

Maximiliano Kirton

Viviana Domini