# data[].attributes.attachment_link.title
Principios éticos en el uso educativo de la IA

# data[].attributes.attachment_link.description
🔴#EnVivo | Reflexiona sobre el respeto a los derechos y la seguridad de la comunidad educativa con el uso de la IA GenerativaTemas:1. Bienestar digital2. Ve…

# data[].attributes.attachment_link.title
CEPLAN Inteligencia artificial_ desafíos y oportunidades para el Perú

# data[].attributes.attachment_link.title
Dilema Ético de la Inteligencia Artificial

# data[].attributes.attachment_link.title
¿Por qué ética para la Inteligencia Artificial Lo viejo

# data[].attributes.attachment_link.readable_text
Monográfico

Avances y discusiones sobre el uso de inteligencia artificial (IA) en educación

Developments and discussions on the use of artificial intelligence (AI) in education

Avanços e discussões sobre o uso da inteligência artificial (IA) na educação

Consejo Nacional de Investigaciones Científicas y Técnicas - Argentina

Universidad Nacional de Rosario - Argentina

El objetivo de este estudio es realizar un recorrido analítico a través de artículos científicos sobre inteligencia artificial (IA) en el contexto educativo, localizados en Google Scholar y Science Direct, escritos en portugués, inglés y español desde 2021 en adelante. En 2022 se lanzó ChatGPT, tecnología que forma parte del concepto denominado inteligencia artificial generativa, creada mediante técnicas de aprendizaje automático. Este tipo de herramientas ha ganado espacio en las instituciones escolares y ha sido objeto de numerosas discusiones. A raíz de ello, los gobiernos de muchos países, preocupados por sus impactos, intentan regular el uso de la IA. Entre los resultados obtenidos se destaca la presencia de estudios sobre alfabetización en IA, la formación docente, la necesidad de abordar la temática interdisciplinariamente y desde niveles iniciales, entre otros.

Palabras clave: alfabetización digital; inteligencia artificial; enseñanza; ChatGPT

The aim of this research is to analyze scientific articles about artificial intelligence (AI) in an educational context. These articles were located using Google Scholar and Science Direct and were written in Portuguese, English, and Spanish from 2021 onwards. In 2022, ChatGPT was launched, a technology that is part of the concept called generative AI, created by machine learning techniques. This type of tool, which has been the subject of many discussions, has also gained traction in educational institutions. As a result, governments in many countries, concerned about AI's impacts, are attempting to regulate its use. Among these articles, studies about AI literacy, the training of teaching staff, the need to address the topic in an interdisciplinary manner, and starting from elementary school, stand out.

Keywords: digital literacy; artificial intelligence; teaching; CHATGPT

O objetivo deste estudo é realizar uma análise de artigos científicos sobre inteligência artificial (IA) no contexto educacional. Esses artigos foram localizados utilizando o Google Scholar e o Science Direct e foram escritos em português, inglês e espanhol a partir de 2021. Em 2022, foi lançado o ChatGPT, uma tecnologia que faz parte do conceito chamado inteligência artificial generativa, criada a partir de técnicas de aprendizado de máquina. Esse tipo de ferramenta, que tem sido alvo de inúmeras discussões, também tem ganhado espaço nas instituições educacionais. Como resultado, governos de muitos países, preocupados com os impactos da IA, estão tentando regulamentar seu uso. Entre os artigos encontrados, destacam-se estudos sobre alfabetização em IA, formação do corpo docente, a necessidade de abordar o tema de forma interdisciplinar e começar desde o ensino fundamental.

Palavras-chave: alfabetização digital; inteligência artificial; ensino; ChatGPT

1. Introducción

El presente estudio realiza un recorrido analítico por artículos de investigación publicados desde el año 2021 hasta el momento en las bases científicas Google Scholar y Science Direct, cuya temática refiere a la incidencia de las herramientas de IA en el ámbito educativo. Particularmente, se propone contrastar investigaciones que discuten los alcances y limitaciones de estas nuevas tecnologías.

Actualmente, las constantes innovaciones en el área de la lingüística computacional, (Tramallino & San Martín, 2023) específicamente, en la rama del procesamiento del lenguaje natural (PLN), han culminado en la aparición de tecnologías disruptivas denominadas herramientas de IA generativas. Dentro de este campo de estudio se han logrado avances relevantes en el procesamiento y generación del lenguaje. Como consecuencia, entre otras potencialidades, dichas herramientas generan nuevos contenidos bajo la forma de fragmentos de texto, videos o música (Radford et al., 2018). Su funcionamiento puede equipararse a algoritmos matemáticos, estadísticos y computacionales que son capaces de realizar un proceso de inferencia a través del aprendizaje basado en ejemplos (Allende Cid et al, 2019). Es decir, el modelo de IA generativa procesa y aprende a identificar patrones a través del análisis de una enorme cantidad de datos introducidos inicialmente, lo cual le permite tomar decisiones y realizar predicciones sobre dichos datos (). Luego, superada la etapa de entrenamiento, es capaz de producir información nueva y original, emulando así la forma de comprensión y producción textual propia de la especie humana. No obstante, Chomsky et al. (2023) advierten que estas tecnologías aún se encuentran en una fase temprana en lo que respecta al desarrollo cognitivo en comparación con la cognición alcanzada por los seres humanos.

Actualmente, la IA es una tecnología muy vigente; sin embargo, abundan formas de interacción con ella muchas veces no conscientes entre la población (Araújo, 2021). La mayoría de las herramientas digitales de uso frecuente se basan en la programación informática. Así, los teléfonos inteligentes, las tablets, los electrodomésticos y los videojuegos funcionan porque existe un método preciso, es decir, existe una inteligencia que indica a estos dispositivos cómo es que se deben realizar determinadas tareas; un claro ejemplo lo constituyen las búsquedas por preferencias en plataformas como Spotify o YouTube. Dicho de otro modo, la IA se encuentra mucho más presente en los usos cotidianos de lo que los propios usuarios advierten.

En efecto, la IA se ha utilizado en distintos sectores y contextos para automatizar tareas y colaborar con actividades de la praxis humana. En lo que respecta a la educación, la IA impacta, sobre todo, en el nivel superior, en las carreras universitarias de grado y posgrado. Según Vicari (2018), al aplicarse la IA al ámbito escolar resulta en un área de investigación multi e interdisciplinar, ya que implica el uso de tecnologías en sistemas cuya finalidad es contribuir a la enseñanza y el aprendizaje. Sin embargo, a pesar de los crecientes esfuerzos e intentos por comprender las cuestiones que rodean a las tecnologías de la IA, así como la urgencia de brindar a los estudiantes un acercamiento y una apropiación mediante experiencias prácticas, los estudios sobre esta problemática todavía son incipientes. Por lo tanto, este artículo de corte teórico pretende brindar un panorama acerca de las temáticas abordadas y los resultados obtenidos en investigaciones actuales sobre la inserción de herramientas generativas de IA en el contexto educativo. Para ello, en primer lugar, se presenta un estado de la cuestión; a continuación, se explicitan aspectos relacionados con la metodología de trabajo que abarcan los criterios de búsqueda y selección de artículos para su posterior análisis. Finalmente, se exponen los resultados y se abordan las consideraciones finales.

2. Educar en la era de la inteligencia artificial generativa

Los principales sistemas educativos que emplean tecnologías de IA son los sistemas tutores inteligentes (STI), los sistemas de gestión del aprendizaje (SGA), la robótica educativa inteligente y los cursos online masivos y abiertos (MOOC, por sus siglas en inglés), en términos de learning analytics (LA). Sin embargo, cada una de estas aplicaciones utiliza la IA de forma diferente. Según Tavares et al. (2020), existe un gran potencial en el uso de esta para apoyar las tareas del contexto educativo, tanto desde la perspectiva del que aprende como del que enseña. Algunos ejemplos de sus aplicaciones (Vicari, 2018) son los siguientes:

Aprendizaje adaptativo: este método se basa en el análisis de los datos a través de sistemas de IA para poder determinar el proceso de estilo del aprendizaje de los alumnos según el progreso individual (Hernández González & Soberanes Martín, 2024).

Tutores inteligentes que se adaptan de forma dinámica para brindarle retroalimentación al estudiante, y, otorgan una respuesta que se corresponde con una estrategia correctiva.

Herramientas de diagnóstico y sistemas de recomendación que permiten descubrir el estilo de aprendizaje del estudiante a través de su nivel de conocimiento y la velocidad de aprendizaje.

La gamificación, que consiste en trasladar procedimientos propios del juego para fomentar la motivación y participación de los alumnos y beneficiar el aprendizaje.

La minería de datos, que trata de un proceso de preparación y extracción de conocimiento de grandes bases de datos de forma sistemática, interactiva e iterativa.

La robótica, la cual refiere al conjunto de procesos y procedimientos que se sirven de artefactos robóticos pedagógicos para lograr un conocimiento reflexivo (Madureira, 2023).

Un tipo de IA generativa muy extendida es el Generative Pre-Trained Transformer (ChatGPT). Dicha tecnología se basa en large language models (LLMs). Estos grandes modelos de lenguaje contienen billones de parámetros en su diseño y son entrenados con un inmenso volumen de datos procedentes de diversas fuentes, como por ejemplo textos, libros, artículos, códigos y conversaciones en línea, lo que les permite aprender patrones y reglas gramaticales (Pereira & Moura, 2023). De esta forma, se entrenan para predecir palabras siguiendo la sintaxis y el sentido de un texto dado (Anderson et al., 2020). Algunos presentan usos únicos, como, por ejemplo, generar respuestas en conversaciones, describir conceptos o temas complejos, generar códigos nuevos o corregir errores en códigos informáticos existentes.

El chatbot ChatGPT fue lanzado por OpenAI en noviembre de 2022 (Martins Ramos, 2023), dispone de múltiples aplicaciones y se ha popularizado rápidamente. Su exponencial uso ha generado numerosos debates, sobre todo en lo que respecta al ámbito educativo, particularmente sobre las posibles transformaciones que puede ocasionar en la metodología de enseñanza y en las formas de evaluación. Por lo tanto, esta tecnología trajo consigo un debate acerca de las regulaciones necesarias para el ámbito educativo. Steele (2023) afirma que fue considerado una amenaza para el sistema de enseñanza y, como consecuencia, algunas universidades prohibieron su uso rápidamente. Uno de los problemas radica en cómo evaluar los conocimientos y habilidades de los estudiantes si los docentes no pueden determinar cuánto han elaborado ellos mismos y cuánto la herramienta, la cual puede producir ensayos, informes y respuestas coherentes frente a las consignas dadas. A partir de esta inquietud, emergieron como contraparte algunos softwares que detectan el porcentaje de palabras formulado por la IA; aunque no pueden operar de forma eficaz y cubrir la totalidad del texto analizado.

Asimismo, diferentes universidades de todo el mundo han emprendido conversatorios, conferencias y capacitaciones para docentes y estudiantes ante la posibilidad de que esta herramienta pueda cambiar las formas de escribir y de enseñar en las carreras universitarias. En este sentido, Castillejos López (2022) plantea que la era de la "algoritmización" con el uso de la IA trae consigo transformaciones profundas en el ámbito educativo, específicamente, en el estudiante universitario y en la posibilidad de acceder a contenidos producidos por hacks académicos que promueven la realización de prácticas poco éticas. Por lo tanto, el autor identifica un problema de valores en el aprendiz, que ve comprometido el desarrollo del pensamiento crítico, tanto de la inteligencia lingüística como de la lógico-matemática.

En efecto, autores como Su et al. (2023) y ) destacan la importancia de pensar en la alfabetización en IA. Este tipo de competencia es definida por Wang et al. (2022) como la capacidad de reconocer, utilizar y evaluar adecuadamente las tecnologías basadas en ella, sin dejar de considerar los principios éticos. Selwyn et al. (2022) plantean que este es el momento para discutir un uso inclusivo y justo de la IA porque su poder exige utilizarla con sentido y conciencia. Precisamente, uno de esos empleos responde a la apropiación creativa en el área de lenguaje natural y generación de imágenes, como afirman Perrotta y Selwyn (2020).

2.1. La cuestión ética en torno a la IA generativa

Las discusiones actuales ubican en el centro otra preocupación real que es la cuestión de la ética. En este sentido, Flores-Vivar y García Peñalvo (2023) concluyen que es necesario realizar investigaciones que generen acciones políticas, lo que podría concretarse en la creación de un observatorio ético de la IA en el ámbito educativo. Dada su relevancia, cada vez existe una mayor cantidad de literatura especializada que trata de demostrar la necesidad de educar a la comunidad sobre esta cuestión. En concreto, numerosas investigaciones abordan la IA como una asignatura que debe impartirse en todos los niveles educativos. En este sentido, es oportuno mencionar el aporte de Luckin (2017) que parte de la siguiente pregunta: ¿Cómo es posible preparar a los estudiantes para que puedan beneficiarse con la IA? En respuesta, surge la premisa que sostienen muchos educadores: debe incluirse desde edades tempranas. Esta postura acerca de que la IA debe integrar el currículo educativo desde niveles iniciales de enseñanza como el nivel primario, ha sido expuesta por diferentes investigadores, como, por ejemplo, Lin Pei et al. (2021) incluso antes del lanzamiento del famoso chatbot. En la misma dirección, en julio de 2017, China elaboró un plan denominado "Desarrollo de la inteligencia artificial de próxima generación". Este proyecto nacional pretendía su inclusión desde la educación primaria hasta el nivel superior (Yu & Chen, 2018). En coincidencia, Camada y Durães (2020) afirman que, dado que la IA es un área cada vez más omnipresente en la vida cotidiana de la sociedad, comprender sus fundamentos desde los primeros años de la escolaridad reviste un gran interés. Es importante mencionar que resulta esencial abordar no solo la cuestión técnica sino también la ética. Por lo tanto, países como Estados Unidos, Canadá, Japón, Singapur, China, Emiratos Árabes Unidos, Finlandia, Dinamarca, Taiwán, Francia, la Comisión Europea, Reino Unido, Corea del Sur, Australia, Suecia, India, México, Alemania, Portugal e Italia han elaborado planes estratégicos, en los cuales, cada gobierno se ocupa de abordar la cuestión ética como uno de los pilares del desarrollo de la IA.

3. Metodología

La metodología que adopta el presente estudio consiste en realizar una revisión bibliográfica selectiva para "detectar, obtener y consultar la bibliografía" que pueda ser útil al propósito del estudio, con el fin de "extraer y recopilar la información relevante y necesaria" para enmarcar el problema de investigación (Hernández Sampieri et al., 2014, p. 61). Por lo tanto, en primer lugar, se definió la temática a revisitar y se eligieron las bases de datos a consultar. A continuación, se emplearon conceptos precisos o palabras clave para, de esta forma, poder obtener referencias adecuadas. La búsqueda se realizó mediante descriptores, tanto en español como en inglés, dado que un gran número de fuentes primarias se hallaban publicadas en este idioma. Luego de localizar la información se procedió a tabularla, para ello, se optó por clasificarla a través de fichas de registro. Por último, se analizaron e interpretaron los datos con el objeto de organizar y sintetizar el caudal teórico para obtener respuestas al problema en cuestión.

De acuerdo con estos criterios metodológicos, la investigación es de carácter exploratorio y toma el enfoque cualitativo. En cuanto a sus objetivos es descriptiva y, desde la perspectiva del diseño, constituye un estudio bibliográfico. Para alcanzar el objetivo, se realizó una revisión de artículos científicos recopilados en dos bases de datos: Google académico y Science Direct. En esta última se localizó a partir de las siguientes palabras clave: generative AI and education; AI literacy; generative AI and ChatGPT; AI literacy and machine learning. Para estos términos, la estrategia de búsqueda consistió en restringir el año de publicación a las contribuciones correspondientes a 2023. Con respecto a los conceptos sobre IA generativa y educación, se ubicaron artículos publicados en 2021 y 2022. En total, se encontraron 187 estudios.

A continuación, se elaboró una planilla de cálculo de Excel con la información principal de los estudios. Los criterios de inclusión para investigaciones que abarcaran uno o más niveles educativos fueron los siguientes: las investigaciones abordan (a) la alfabetización en IA generativa y ética; (b) la alfabetización en IA y aprendizaje automático; (c) la alfabetización en IA y ChatGPT. Por lo tanto, de los 187 artículos quedaron 49 que cumplían con las variables establecidas.

Las Tablas 1 y 2 exhiben fragmentos de la tabla confeccionada en la planilla de Excel:

A continuación, la Figura 1 muestra una nube de palabras con las palabras predominantes en el total de palabras clave de los 49 artículos revisitados, la herramienta informática que se empleó es Wordart.

Por último, los datos se transfirieron de Microsoft Excel al programa informático Stata v.16 y se calcularon frecuencias y porcentajes para las variables definidas. Asimismo, se analizó la distribución de las publicaciones por año, por país de publicación y por foco temático. Para finalizar, se procedió a la lectura analítica de los artículos seleccionados e incluidos en el presente estudio y se extrajeron los resultados que serán expuestos en la siguiente sección.

4. Análisis de los datos

La Tabla 3 muestra la caracterización cuantitativa de los artículos seleccionados.

Luego de analizar la información, se encontró que 34 de los artículos que alcanzaban el 69.38 % fueron identificados en la base de datos Science Direct, mientras que, para el año de publicación, el 67.3 % fueron difundidos en 2023. Respecto del nivel de instrucción propuesto para incluir en los planes de estudio a la IA, el 28.5 % de las investigaciones indicaron el nivel medio y el 18.36 % el nivel superior. Con respecto al país en el cual se llevó a cabo el estudio y la cantidad de artículos por cada una de estas regiones, los resultados se presentan en la Figura 2.

En esta muestra, el país con mayor número de publicaciones resultó ser China, con seis artículos publicados (12.24 %). La frecuencia de las palabras clave se observa en la Tabla 4.

En cuanto al foco temático, se agruparon los artículos en seis tópicos: la alfabetización, la cuestión ética, el aprendizaje automático, la IA generativa y el ChatGPT, el currículum y, por último, la formación continua de los docentes. Las áreas con mayor cantidad de investigaciones corresponden a IA generativa y ChatGPT, como se aprecia en la Figura 3

A continuación, se detallan en la Tabla 5 los artículos revisados según autor y año de publicación.

5. Resultados y discusiones

En lo que respecta a la alfabetización en IA, Su et al. (2023) señalan ciertos desafíos como la falta de proyectos curriculares y la ausencia de directrices didácticas. En coincidencia, varias investigaciones (Laupichler et al. 2023; Carolus et al., 2023, y Southworth et al., 2023) han demostrado la necesidad de desarrollar planes de estudios en esta área. Sin embargo, la mayor dificultad estriba en elegir qué contenidos se incluirán en el currículo y cómo. En un intento de encontrar soluciones a esta problemática se señaló que al abordar la alfabetización en IA es menester relacionarla con las competencias esenciales del siglo XXI, aunque esto pueda llevar a otra dificultad que se relaciona con acordar qué se entiende por competencias esenciales.

En la búsqueda de dicha respuesta, los autores consultados sostienen que es necesario pensar en el currículo y en las competencias, más allá de los conocimientos puramente técnicos. De esta forma, defienden la idea de que la IA puede trabajarse de forma interdisciplinar, a través de proyectos y actividades extracurriculares con la finalidad de promover acciones que le permitan al estudiante comprender y adquirir conocimientos básicos de ella. Uno de los puntos de coincidencia en las investigaciones radica en que la propuesta curricular debe construirse a partir de los aspectos singulares y únicos de cada contexto, sobre todo en lo concerniente a los aspectos culturales.

La competencia adquiere así una connotación más amplia, significa que la información adquirida a través de la alfabetización puede ayudar a la construcción ciudadana y democrática, y a la comprensión del mundo en que se vive. Asimismo, se plantea que puede trabajarse la IA desde otras disciplinas. Un caso concreto es el que exponen Yetişensoy y Rapoport (2023), quienes analizan la posibilidad de tratar la cuestión ética que se deslinda de esta en el área correspondiente a los estudios sociales.

5.1. ¿Desde cuándo incluir la IA en los planes de estudio?

En cuanto a áreas y carreras universitarias, Laupichler et al. (2022) realizaron una revisión bibliográfica para determinar las tendencias de la investigación sobre la alfabetización en IA en la enseñanza superior y responder así la siguiente interrogante: ¿Qué focos temáticos pueden identificarse en la literatura sobre alfabetización en AI en la educación superior y la educación de adultos? A partir de la pregunta, los autores constatan que la formación de competencias en IA resulta extremadamente relevante para todas las personas, ya que la vida cotidiana está impregnada de acciones que se realizan mediante esta. Además, advierten que en Estados Unidos y Asia se ha publicado un mayor número de estudios en el área investigativa, lo cual puede explicarse debido a que estas regiones geográficas constituyen las principales fuerzas en el desarrollo de tecnologías.

Como conclusión, observamos que el conocimiento del procedimiento con el que actúan las herramientas de IA desde una edad temprana facilitaría la comprensión de su funcionamiento y posibilitaría una mirada crítica hacia sus alcances.

5.2. Aprendizaje automático

En cuanto al aprendizaje automático, Mühling y Große-Bölting (2023) indagaron sobre las concepciones de los alumnos de primaria y secundaria sobre el aprendizaje automático. Una de las preguntas que guio la investigación fue ¿ Cómo conceptualizan los estudiantes el proceso de aprendizaje automático? Las actividades se llevaron a cabo a través de talleres y, posteriormente, comprobaron si los conceptos sobre la temática se habían modificado después de la experiencia. Los resultados fueron positivos ya que quienes habían participado en el programa mejoraron significativamente su comprensión conceptual. Asimismo, Kajiwara (2023) identificó tres retos en torno a esta temática: (a) cómo enseñar a los alumnos de nivel primario y secundario el modelo matemático que subyace al aprendizaje automático; (b) qué temas del proceso de aprendizaje automático no es necesario enseñar a los estudiantes; y, (c) cómo influye la educación en IA en la aceptación de la tecnología de IA. El estudio demostró que la mayoría de los sujetos que experimentaban ansiedad y temor ante la IA cambiaron de opinión al darse cuenta de cómo funcionaba y de que estas herramientas podrían emplearse en la vida cotidiana. Es preciso aclarar que aparece un concepto recurrente que estriba en el área de matemática, concretamente, en cómo enfocar los modelos matemáticos, estadísticos y computacionales hacia los propios estudiantes.

Por otra parte, Ali et al. (2021) desarrollaron una actividad lúdica con alumnos de secundaria acerca del aprendizaje automático generativo, cuyo propósito era acercarlos a las aplicaciones de técnicas de aprendizaje automático como las redes generativas adversariales (GAN por sus siglas en inglés). Para ello se los dividió en dos grupos, uno actuaba como generador de contenidos y el otro, como discriminador de dichos contenidos. Coincidimos con las autoras en que este tipo de abordaje a partir de talleres que fomentan la interacción entre pares y el acceso a diferentes herramientas generativas ayudaría a advertir los peligros éticos en lo que respecta a la producción de medios falsos. Dichas problemáticas conciernen a la difusión de información errónea, la recopilación y distribución de datos, la parcialidad de los conjuntos de datos y la propiedad intelectual o autoría de los productos artísticos.

En síntesis, se desprende que el trabajar estos conceptos teóricos a partir de usos concretos ayudaría a los alumnos a poder distinguir con mayor claridad los contenidos falsos de los reales.

5.3. ChatGPT

En lo que concierne a los estudios sobre IA generativa y ChatGPT, ) trató de identificar los factores determinantes de la alfabetización en el área. En su opinión, para utilizar esta tecnología con eficacia, es fundamental poseer conocimientos y competencias en IA. Basándose en esta idea, construyó un modelo de ecuaciones estructurales para comprender los determinantes de dicha alfabetización: las habilidades informáticas, el acceso a las tecnologías y la absorción cognitiva. Finalmente, los resultados mostraron que tanto el grado de acceso a las tecnologías como el pensamiento computacional influía positivamente en la alfabetización en inteligencia artificial.

Al mismo tiempo, Lin Pei et al. (2023) llevaron a cabo un estudio cuyo objetivo era comparar las respuestas de estudiantes universitarios de la carrera de farmacia con las generadas por el ChatGPT. Los textos fueron evaluados por profesores experimentados mediante una rúbrica de evaluación. Las conclusiones mostraron que el profesorado fue incapaz de diferenciar de forma precisa y consistente la escritura realizada por los estudiantes de la formulada por el chat; en consecuencia, este hecho plantea numerosas preocupaciones.

En esta misma línea, Ternan et al. (2023) afirman que la aparición de ChatGPT ha desencadenado un frenesí de investigación educativa, gran parte del cual se centra en el impacto que esta herramienta puede ocasionar tanto en la evaluación de la escritura y ética académica como en la enseñanza y aprendizaje en términos generales. De esta forma, en el nuevo contexto de digitalización, la alfabetización en IA cobra protagonismo.

En la misma dirección, Grassini (2023) expone que dicha tecnología ha tenido un fuerte impacto en el sector educativo debido a la cuestión del plagio y de la propiedad intelectual de los contenidos. Por ello, desde hace algún tiempo, las instituciones universitarias utilizan aplicaciones de detección de plagio para analizar los trabajos y exámenes de los estudiantes.

En síntesis, los resultados ponen de manifiesto la utilización de ChatGPT como un recurso didáctico para lograr una apropiación creativa por parte de los estudiantes, no obstante, se exige la capacitación para el cuerpo docente.

5.5. Cuestiones éticas

Un término que aparece con frecuencia en los artículos analizados es el de la ética. En este sentido, Gašević et al. (2023) señalan que surgieron importantes cuestiones sobre el uso de la IA generativa en la educación tras el lanzamiento de ChatGPT y DALL-E en 2022. Según los autores, la adopción de esta tecnología por parte de las instituciones debe tener en cuenta la ética, la propiedad de los datos y la alfabetización.

Por otra parte, Rizvi et al. (2023) revisaron 28 artículos sobre la enseñanza de la IA y el aprendizaje automático en primaria y secundaria. Los autores enfatizan la necesidad de realizar ajustes pedagógicos y, también, la exigencia que existe por reflexionar sobre las cuestiones éticas que involucran su uso. Asimismo, Adams et al. (2023) examinaron las políticas públicas en torno a la IA en el contexto educativo. Este análisis estuvo centrado en las políticas de ética para la educación básica; para ello, consideraron 11 principios, por ejemplo: la transparencia, la justicia, la equidad, la responsabilidad, la alfabetización en IA y el bienestar de los docentes. Del mismo modo, Memorian y Doleck (2023) se propusieron analizar cómo se identifican las nociones de justicia, responsabilidad, transparencia y ética en los estudios del campo a nivel de educación superior. La revisión arrojó que existe un alto crecimiento de los estudios sobre ética desde la aparición de la IA.

Asimismo, Lázaro y De Medeiros (2023) señalan la necesidad de integrar las dimensiones éticas y los valores humanos y sociales en la educación sobre IA; mientras que autores como Zammit et al. (2022) proponen trabajar los conceptos de IA, aprendizaje automático y ética a través de un juego digital llamado ArtBot. Por otra parte, Flores et al. (2023) abordan la IA desde la perspectiva de los Objetivos de Desarrollo Sostenible de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) y consideran que la ética es el mayor desafío de la IA en la educación. En palabras de Su y Yang (2023), cuando se trata de ChatGPT, también deben considerarse los aspectos éticos y la seguridad. En efecto, Pereira y Moura (2023) indagan sobre las implicaciones sociales del empleo de las herramientas generativas en la educación, así como sus posibilidades de uso crítico.

Al respecto, resulta interesante lo que señalan Khosravi et al. (2023) acerca de que los avances de la IA han repercutido prácticamente en todos los sectores de la sociedad a pesar de que la mayoría de la gente no posee una comprensión clara de cómo funciona esta tecnología. Por lo tanto, para abordar la cuestión ética, los autores utilizan el concepto de "IA explicable". De este modo, a través de este concepto, se harían comprensibles las nociones acerca de modelos matemáticos y aprendizaje automático. Los autores creen que los problemas relacionados con la ética, la justicia y la responsabilidad que abarcan las nuevas tecnologías podrían mitigarse mediante la enseñanza de este concepto que acuñan.

6. Consideraciones finales

Este estudio permitió identificar importantes especificidades de la IA en el contexto educativo. Se observó que hay diferentes maneras de abordar su enseñanza y proyección, y que esta puede aplicarse a gran variedad de asignaturas y áreas de aprendizaje. Sin embargo, diseñar proyectos de IA aplicables a distintos niveles educativos no resulta una empresa sencilla. A pesar de esto, existen indicios claros de transformaciones en las iniciativas de educación tecnológica respecto de cómo enseñar algunos de sus principios en los distintos niveles escolares.

En lo que respecta a la IA generativa, esta tecnología disruptiva que integra el ChatGPT requiere el conocimiento de sus técnicas y las implicaciones para cada concepto, para entender su funcionamiento. Los artículos analizados dan cuenta de que este aprendizaje puede llevarse a cabo mediante la alfabetización en IA en cualquier nivel educativo, además de que debe realizarse de forma interdisciplinar. Para ello, los investigadores coinciden en que es preciso considerar las dimensiones éticas y la seguridad de la información. Asimismo, el enfoque pedagógico que suele asociarse a esta asignatura se basa en proyectos y se encuentra centrado en el aprendizaje del estudiante. En este proceso, la intención principal es formar ciudadanos que comprendan la incidencia de la IA en la cultura de la cual forman parte. Por lo tanto, los estudios revisados revelan la necesidad de enseñarla cada vez desde edades más incipientes.

Otra conclusión a la que podemos arribar es que la IA adquiere cada vez más importancia en la vida cotidiana; sin embargo, el conocimiento que el usuario tiene sobre ella sigue siendo limitado, como sostienen Khosravi et al. (2023), en coincidencia con otras investigaciones. Por lo tanto, los problemas relacionados con la ética, la justicia y la responsabilidad que circundan a las tecnologías de inteligencia artificial podrían mitigarse mediante la IA explicable, y esto se alcanzaría mediante la alfabetización en esta área emergente. Por consiguiente, algunos gobiernos ya se encuentran analizando la forma de incluirla en el sistema escolar desde niveles iniciales. En este sentido, es esencial abordar no solamente la cuestión técnica, sino también la ética, que a menudo se pasa por alto. En otras palabras, el tratamiento de la IA en el contexto educativo no responde meramente a una cuestión de tecnología que implica el estudio del hardware y software, sino que también debe atender a la ética de forma integral, lo cual puede alcanzarse a través de acuerdos de índole global. Un claro ejemplo de esto es la iniciativa de la Unesco (2021) a través de la Declaración de los principios éticos en el uso de dichas herramientas disruptivas.

Para finalizar, las actividades educativas relacionadas con la alfabetización en IA en las escuelas suelen estar dirigidas a las habilidades técnicas; sin embargo, los desafíos de este aprendizaje también son éticos y requieren un enfoque interdisciplinario y crítico. En coincidencia con Touretzky et al. (2019), actualmente, resulta importante debatir cómo se debe trabajar la educación en esta disciplina, tanto en la escolaridad primaria como en la secundaria, no solo para lograr que la población comprenda el significado de las tecnologías con las que interactúa sino también, y fundamentalmente, para formar a la próxima generación de investigadores.

Por todo lo expuesto anteriormente, se evidencia la urgencia de alfabetizar en el campo de la inteligencia artificial desde la escuela primaria, de incluirla como disciplina obligatoria en los planes de estudio y acompañarla de capacitaciones como política de formación continua para los docentes de todas las áreas.

# data[].attributes.attachment_link.title
Avances y discusiones sobre el uso de inteligencia artificial (IA) en educación

# data[].attributes.attachment_link.description
Monográfico Avances y discusiones sobre el uso de inteligencia artificial (IA) en educación Developments and discussions on the use of artificial intelligence (AI) in education Avanços e discussões sobre o uso da inteligência artificial (IA) na educação Consejo Nacional de Investigaciones Científicas y Técnicas - Argentina Universidad Nacional de Rosario - Argentina El objetivo de este estudio es realizar un recorrido analítico a través de artículos científicos sobre inteligencia artificial (IA) en el contexto educativo, localizados en Google Scholar y Science Direct, escritos en portugués, inglés y español desde 2021 en adelante.

# data[].attributes.attachment_link.title
Conferencia Magistral: “La recomendación sobre la ética de la inteligencia artificial”

# data[].attributes.attachment_link.description
Conferencia Magistral: “La recomendación sobre la ética de la inteligencia artificial”Ponente: Dra. Dafna Feinholz Klip, directora de la sección de Bioética…

# data[].attributes.attachment_link.description
IA ; Inteligencia Artificial ; Ética ; Artificial intelligence ; Ethics ; Ai ethics ; Inteligencia artificial ; Artificial intelligence ; Filosofía y ética ; Philosophy and ethics ; Ética de la ciencia ; Ethics of science ;

# data[].attributes.attachment_link.title
ÉTICA e INTELIGENCIA ARTIFICIAL: Requisitos imprescindibles sin los que debería prohibirse la IA

# data[].attributes.attachment_link.title
Hacia un marco ético de la inteligencia artificial en la educación | Teoría de la Educación. Revista Interuniversitaria

# data[].attributes.attachment_link.description
Este artículo reflexiona sobre el uso de la Inteligencia Artificial en educación desde una perspectiva ética. Lo hace desde un punto de vista externo, considerando su incidencia en los contextos educativos como vivero de los desafíos éticos y políticos que encara la sociedad. Esto permite dimensionar su alcance y profundidad y proponer medidas para afrontarlos.
Sus objetivos se enfocan hacia las bases éticas de la Inteligencia Artificial relacionada con la actividad educativa, buscando identificar: las oportunidades, riesgos asociados y su impacto ético en educación; y b) los principios éticos que puedan guiar el desarrollo, despliegue y uso de estos sistemas inteligentes.
Para ello se realizó un estudio cualitativo, apoyado en una metodología de revisión bibliográfica de: (i) trabajos académicos sobre sus usos actuales y riesgos potenciales de la Inteligencia Artificial; y (ii) un análisis comparativo de distintos códigos éticos, explorando la convergencia de principios aplicables a Sistemas de Inteligencia Artificial en los contextos educativos.
Los resultados obtenidos, en primer lugar, sitúan los problemas identificados en la tradición ética, cuestionando la proliferación de subdominios de la disciplina. Se indaga, después, la posibilidad de un marco ético unificado que evite la superposición de principios para cada dominio específico. Se constata la utilidad de un marco ampliamente reconocido e influyente, cuyos principios se adaptan bien a los desafíos de la educación.
Se concluye señalando las líneas en las que se debe avanzar en la investigación: (I) fundamentación ética y regulación normativa para el desarrollo y uso de la Inteligencia Artificial en educación conforme a los principios seleccionados; y (II) definición del nuevo perfil profesional docente y sus implicaciones para la formación inicial del profesorado.