Referència bibliogràfica:

Farné, A. (2023). Alfabetización digital crítica. Projecte ProDigital. Universitat Jaume I. http://dx.doi.org/10.6035/ALFIN.2023.06

1. Integració respectuosa i sostenible.

2. Transparència i consciència. 

3. Equitat i no discriminació. 

4. Robustesa i seguretat. 

5. Privacitat i protecció de dades. 

6. Supervisió humana. 

7. Compatibilitat amb valors i dignitat humana.

8. Promoció del benestar social i mediambiental. 

9. Foment de la participació de diferents agents.

10. Reflexió i anticipació. Avaluació contínua sobre l'impacte ètic i social.

Referència bibliogràfica:

Instituto Nacional de Tecnologías Educativas y de Formación del Profesorado (INTEF), (2024). Guía sobre el uso de la inteligencia artificial en el ámbito educativo.

https://code.intef.es/wp-content/uploads/2024/07/Gu%C3%ADa-sobre-el-uso-de-la-IA-en-el-%C3%A1mbito-educativo-INTEF_2024.pdf

Referència bibliogràfica:

UNESCO (2023). Currículos de IA para la enseñanza preescolar, primaria y secundaria: Un mapeo de los currículos de IA aprobados por los gobiernos. https://unesdoc.unesco.org/ark:/48223/pf0000380602_spa

Referència bibliogràfica:
UNESCO (2022). Recomendación sobre la ética de la IA. https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa

Referència bibliogràfica:

European Commission (2022). Ethical guidelines on the use of artificial intelligence and data in teaching and learning for educators. https://op.europa.eu/en/publication-detail/-/publication/d81a0d54-5348-11ed-92ed-01aa75ed71a1/language-en

• La competència digital: creació de contingut, recerca i verificació d’informació o resolució de problemes.

• La competència ciutadana: detecció de biaixos, necessitat de pensament crític, comprensió de la realitat i defensa de drets fonamentals, entre d’altres.

  
  

Referència bibliogràfica:

Departament d’educació (2024). Orientacions i recomanacions per a l’ús de la intel·ligència artificial als centre educatius. https://projectes.xtec.cat/ia/general/orientacions-i-recomanacions-per-lus-de-la-intelligencia-artificial-als-centres-educatius/

També recomana especial atenció a:

• Privacitat i vigilància: no introduir dades personals.

• Biaixos i manipulació: cal revisar el contingut generat amb IA per detectar errors, biaixos o discriminacions.

• Pèrdua d'autonomia i excés confiança: la IA no pot substituir les persones. És necessari citar l'ús de la IA per evitar el plagi i parar especial atenció a la dependència.

Referència bibliogràfica:

Departament d’educació (2024). Orientacions i recomanacions per a l’ús de la intel·ligència artificial als centre educatius. https://projectes.xtec.cat/ia/general/orientacions-i-recomanacions-per-lus-de-la-intelligencia-artificial-als-centres-educatius/

• Privacitat i protecció de dades: genera preocupacions sobre la privacitat i seguretat. És crucial garantir que les dades es gestionin de manera ètica i responsable.

• Desigualtat d’accés: risc important d’ampliar la bretxa digital generant desigualtats. Pot limitar les oportunitats a alguns estudiants.

• Impacte en l’aprenentatge: es plantegen interrogants sobre si la personalització pot reduir l'autonomia i la capacitat de pensament crític dels estudiants.

• Ètica del contingut generat: podria reproduir prejudicis i estereotips existents.

• Qualitat educativa: requereix una supervisió per tal que la IA no substitueixi la interacció humana.

  
  

Referència bibliogràfica:

UNESCO (2022). Recomendación sobre la ética de la IA. https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa

• Aprenentatge Basat en Projectes (ABP): permet treballs interdisciplinaris amb IA com a eina de creació i investigació.

• Design Thinking i resolució de problemes: els alumnes poden usar IA per generar idees o prototips.

• Co-creació entre docent i alumnat: fomenta l’ús de la IA a l’aula.

Aquestes metodologies situen a l'alumne com a protagonista del procés d'ensenyament-aprenentatge, mentre el docent actua com a guia i facilitador.

Referències bibliogràfiques:

Fundació Jaume Bofill. (2022). Los algoritmos a examen: ¿Por qué IA en educación? https://fundaciobofill.cat/es/publicaciones/los-algoritmos-a-examen

UNESCO (2022). Recomendación sobre la ética de la IA.

https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa

• Integrar una pedagogia crítica digital, que ensenyi a detectar biaixos i entendre el funcionament dels algoritmes.

• Formar alumnes capaços de fer un ús conscient i adequat de la tecnologia.

L’objectiu no és únicament fer servir la IA, sinó formar ciutadans digitals que siguin crítics i estiguin ben informats.

Referència bibliogràfica:

Fundació Jaume Bofill. (2022). Los algoritmos a examen: ¿Por qué IA en educación? https://fundaciobofill.cat/es/publicaciones/los-algoritmos-a-examen

• Taxonomia de Bloom

• Model SAMR

• Nivell metacognitiu i ètic

Aquesta eina ajuda el personal docent a decidir quines son les estratègies pedagògiques i aplicacions concretes de IA que han de fer servir en funció del nivell de competència que es vol desenvolupar.

Referència bibliogràfica: Jiménez García et al. (2024). RIED. Revista Iberoamericana de Educación a Distancia.

1. Desigualtat d’accés a dispositius i connectivitat: risc de bretxa digital.

2. Formació docent: cal acompanyar el professorat en l’ús crític de la IA.

3. Absència de regulació: cal protegir dades i garantir drets digitals a l’alumnat.

   
   

Referències bibliogràfiques:

UNESCO (2022). Recomendación sobre la ética de la IA.

https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa

Flores-Vivar, J. M., y García-Peñalvo, F. J. (2023). Reflexiones sobre la ética,

potencialidades y retos de la Inteligencia Artificial en el marco de la Educación de Calidad

(ODS4). Comunicar, 74(31), 37-47

https://www.revistacomunicar.com/index.php?contenido=detalles&numero=74&articulo=74

-2023-03

1. Ètica i transparència algorítmica: evitar biaixos i discriminacions automatitzades.

2. Rols educatius en transformació: el docent esdevé facilitador i l’alumne, cocreador.

3. Dependència tecnològica: cal fomentar una relació crítica amb la IA, i no perdre aquest sentit crític per la facilitat d'accés a la informació.

Referències bibliogràfiques:

Fundació Jaume Bofill. (2022). Los algoritmos a examen: ¿Por qué IA en educación? https://fundaciobofill.cat/es/publicaciones/los-algoritmos-a-examen

UNESCO (2022). Recomendación sobre la ética de la IA.

https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa

Flores-Vivar, J. M., y García-Peñalvo, F. J. (2023). Reflexiones sobre la ética,

potencialidades y retos de la Inteligencia Artificial en el marco de la Educación de Calidad

(ODS4). Comunicar, 74(31), 37-47

https://www.revistacomunicar.com/index.php?contenido=detalles&numero=74&articulo=74

-2023-03

• Pot generar respostes incorrectes ("al·lucinacions").

• Facilita el plagi o la generació automàtica de treballs

Aquestes limitacions fan necessari el desenvolupament d’una nova pedagogia adaptativa, centrada en la metacognició i en la supervisió humana constant per garantir un aprenentatge significatiu i ètic.

Referència bibliogràfica: Zapata Ros, M. (2024). IA generativa y ChatGPT en educación: un reto para la evaluación y ¿una nueva pedagogía? Revista Paraguaya de Educación a Distancia, Vol. 5(1), pp. 12–44.

• Bretxa digital: diferències d’accés a dispositius i internet entre estudiants de diferents entorns.

• Formació desigual dels docents: la manca de capacitació específica en IA pot generar inseguretat o ús inadequat d'aquesta.

Molts sistemes estan entrenats amb dades esbiaixades, o en contextos poc representatius.

Referència bibliogràfica: Moreno Padilla, R. D. (2019). La llegada de la inteligencia artificial a la educación. RITI Journal, Vol. 7(14), pp. 260–267.

En l’àmbit educatiu, la irrupció de l’eina ChatGPT, al novembre de 2022, ha suposat un punt d’inflexió. Tot i això, cal tindre present que ChatGPT és només una de les moltes tecnologies generatives basades en IA que estan emergint. 

Però, per a què serveix exactament una IA generativa? García Peñalvo, Llorens-Largo i Vidal expliquen que aquest tipus d’intel·ligència artificial té com a objectiu principal la generació de continguts. A més, assenyalen que: “els models de llenguatge emprats per a aquest fi s’entrenen per determinar quins elements tenen una major probabilitat d’aparèixer prop d’altres (...) sense implicar un raonament, de manera que, tot i que la resposta siga coherent, no implica necessàriament que siga correcta” (p. 16, 2024). 

Podem analitzar l’ús que s’està fent d’aquesta eina a partir de l’estudi desenvolupat per Saz-Pérez i Pizà-Mir (2024), que recopila una selecció representativa de treballs científics publicats durant l’any 2023 relacionats amb ChatGPT i la seua aplicació en el context educatiu. 

De les publicacions revisades, es desprén que, segons l’àrea de coneixement, el major volum d’estudis se centra en educació sanitària, educació STEM i aprenentatge d’idiomes, per aquest ordre. 

En el cas de l’educació sanitària, les autores destaquen la rellevància de reflexionar sobre les implicacions ètiques derivades de l’ús d’aquesta tecnologia. 

En l’àmbit de l’ensenyament-aprenentatge de les STEM (disciplines científiques i matemàtiques), molts estudis se centren en l’ús adequat dels prompts per tal d’obtenir respostes pertinents i útils. 

Pel que fa a l’aprenentatge de llengües, ChatGPT es presenta com una eina útil gràcies a la seua capacitat per generar textos en múltiples idiomes, afavorint així la pràctica i l’exposició lingüística en diversos contextos educatius. 

Referències bibliogràfiques: 

García Peñalvo, F. J., Llorens-Largo, F. y Vidal, J. (2024). La nueva realidad de la educación ante los avances de la inteligencia artificial generativa. RIED-Revista Iberoamericana de Educación a Distancia, 27(1), pp. 9-39. https://doi.org/10.5944/ried.27.1.37716 

Saz-Pérez, F. y Pizà-Mir, B. (2024). Desafiando el estado del arte en el uso de ChatGPT en educación en el año 2023. REIRE Revista d’Innovació i Recerca en Educació, 17(1), 1-13. https://revistes.ub.edu/index.php/REIRE/article/view/44018/41029

Segons la Fundació Bofill (2022), l’ús de sistemes basats en IA ja s’està integrant de manera quotidiana en els entorns educatius: assistents de veu, sistemes predictius, aplicacions de correcció automatitzada o de generació de continguts. Aquestes eines permeten una atenció més ajustada a les necessitats individuals, especialment en el cas de l’alumnat amb dificultats d’aprenentatge o necessitats específiques. 

L’informe destaca que la IA aplicada a l’educació pot reforçar quatre àmbits essencials: 

1. Gestió educativa (organització d’horaris, optimització de recursos), 

2. Acompanyament de l’aprenentatge mitjançant feedback personalitzat, 

3. Empoderament docent, 

4. Aprenentatge al llarg de la vida. 

Tot i el seu potencial, també es posen sobre la taula qüestions ètiques fonamentals: la transparència en l’ús de dades, els biaixos en els algoritmes, la privacitat de l’alumnat o la necessitat d’una regulació clara i inclusiva. L’ús massiu de plataformes comercials amb interessos propis pot introduir riscos com la homogeneïtzació dels aprenentatges o la reproducció de desigualtats socials preexistents . 

Per això, la guia insisteix en la necessitat que la comunitat educativa participe activament en la definició, selecció i ús de la IA. El desenvolupament de competències digitals docents i l’alfabetització digital de l’alumnat són essencials per garantir una implementació crítica, ètica i transformadora de la tecnologia. 

Finalment, el document alerta sobre la invisibilització de la IA i la seua integració no qüestionada en la vida quotidiana, inclosa l’escola. En aquest sentit, promou una mirada crítica que ajude a construir una educació digital democràtica, on la IA siga una eina per a la justícia educativa i no un nou focus de desigualtat. 

Referència bibliogràfica: 
Hernando Calvo, A., Municio Zúñiga, A., Vázquez Gutiérrez, A., Gardó Huerta, H., & Martínez Romero, H. (2022). Los algoritmos a examen: ¿Por qué IA en educación? Fundació Jaume Bofill. https://fundaciobofill.cat 

Els autors també assenyalen que la IA pot facilitar tasques de gestió administrativa, com ara la planificació d’horaris, el registre de l’assistència o la gestió de recursos, fet que redueix la càrrega burocràtica i permet al professorat centrar-se més en la tasca pedagògica.  

A més, aquesta tecnologia pot col·laborar en la creació de continguts educatius personalitzats, ajustats a les característiques i necessitats de cada grup, així com en el disseny de propostes didàctiques basades en l’anàlisi de dades d’aprenentatge.  

Un altre punt rellevant que destaquen és la capacitat de la IA per oferir feedback immediat i automatitzat, útil tant per al seguiment de l’alumnat com per a l’autoreflexió docent.

No obstant això, insisteixen en la necessitat de garantir la formació del professorat perquè puga entendre el funcionament dels algoritmes i participar activament en la selecció i adaptació de les eines utilitzades.  

La IA pot ser un recurs valuós, però el seu ús ha d’estar guiat pel criteri pedagògic i orientat a reforçar la qualitat i l’equitat educativa (Hernando Calvo et al., 2022). 

Referència bibliogràfica:

Hernando, A., Municio, A., Vázquez, A., Gardó, H. & Martínez, H. (2022). Los algoritmos a examen: ¿Por qué IA en educación? Fundació Jaume Bofill. https://fundaciobofill.cat  

Segons la UNESCO (2023), una de les prioritats actuals és capacitar el personal docent perquè adquirisca competències digitals específiques en IA, amb l’objectiu d’utilitzar aquestes tecnologies de manera ètica, segura i significativa en contextos educatius diversos. 

Els currículums nacionals analitzats en l'informe mostren que els governs comencen a incorporar l'ensenyament de la IA no només com a contingut, sinó com a recurs docent.

La UNESCO destaca que cal oferir formació contínua i espais d'experimentació pedagògica perquè el professorat puga entendre i utilitzar la IA generativa per: 

- adaptar activitats d’aprenentatge a diferents nivells i ritmes, 

-generar exemples personalitzats o situacions d’aprenentatge simulades, 

-reforçar competències transversals com el pensament crític o la resolució de problemes, 

- reflexionar sobre l'impacte social i ètic d’aquestes tecnologies. 

Tanmateix, també s’hi apunta la necessitat de garantir que les aplicacions docents de la IA no reforcen desigualtats, ni introdueixen dependències no desitjades.

Per això, la UNESCO recomana desenvolupar marcs normatius i didàctics, així com materials curriculars oberts que permeten un ús pedagògic i reflexiu de la IA. 

Referència bibliogràfica:

UNESCO (2023). Currículos de IA para la enseñanza preescolar, primaria y secundaria: Un mapeo de los currículos de IA aprobados por los gobiernos (ED-2022/FLI-ICT/K-12). París: Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. https://unesdoc.unesco.org/ark:/48223/pf0000385804 

Tot i això, també existeix un intens debat a escala internacional sobre els riscos associats a l’ús de la IA en l’educació. Per aquest motiu, moltes persones professionals de l’educació han iniciat processos de formació per tal d’estar millor preparades per a aprofitar els beneficis d’aquestes eines i minimitzar-ne els perills. 

La participació activa del professorat en el disseny, aplicació i supervisió d’aquestes tecnologies és fonamental per tal d’assegurar que s’alineen amb els principis pedagògics i que responen, de manera efectiva i ètica, a les necessitats reals de les aules. 

Una de les grans fortaleses de la IA és la seua capacitat d’adaptació. No sols ofereix correcció de respostes, sinó que també facilita un seguiment en temps real del procés d’aprenentatge. Açò permet una retroalimentació més precisa i útil, així com adaptacions específiques que poden afavorir el progrés significatiu de l’alumnat, aprofitant els seus punts forts i ajudant-los a superar els desafiaments. 

Segons el Departament d’Educació dels Estats Units (U.S. Department of Education, 2023), cal tindre en compte algunes perspectives clau sobre els beneficis de la IA generativa en contextos educatius: 

- La IA permet noves formes d’interacció, obrint espais que poden atendre millor l’alumnat amb necessitats diverses. 

- Pot ajudar el professorat a afrontar la variabilitat en els processos d’aprenentatge, donant resposta a la diversitat de formes en què l’alumnat pot aprendre amb èxit. 

- Ofereix una capacitat d’adaptació valuosa, facilitant que el progrés educatiu siga gradual i personalitzat. 

- Pot suggerir recursos que milloren tant l’ensenyament com l’aprenentatge, i augmentar la qualitat i quantitat de retroalimentació que reben docents i estudiants. 

- El professorat pot formar part activa en el disseny d’eines potenciades amb IA, contribuint a millorar la pràctica educativa i a reforçar el suport a l’alumnat. 

Així, la incorporació reflexiva de la IA a les aules es presenta com una oportunitat, però també com un repte que exigeix formació, implicació i criteri pedagògic. 

Referència bibliogràfica:

Department of Education. U.S. (2023). Artificial intelligence and future of teaching and 
learning: insights and recommendations. https://www.ed.gov/sites/ed/files/documents/ai-report/ai-report.pdf

Aquesta inquietud s’atribueix, principalment, a la manca de coneixements específics sobre el funcionament i les possibilitats pedagògiques de la IA. Tal com apunten les autores, és fonamental oferir formació específica al professorat per tal de superar aquest desconeixement i afavorir una implementació crítica i eficient de la IA en el sistema educatiu (Delgado et al., 2024). 

Més enllà de la generació de continguts, la IA pot contribuir a fomentar el pensament crític i les competències per a la resolució de problemes. Actualment, s’estan desenvolupant aplicacions capaces de generar situacions didàctiques simulades, entrenades a partir de la intervenció de professionals. No obstant això, per fer-ne un ús realment transformador, és necessari que el professorat adquirisca un coneixement profund de les eines, estiga disposat a repensar les metodologies tradicionals i es comprometa amb un canvi en les pràctiques d’ensenyament (Delgado et al., 2024). 

Així, la IA es presenta no només com un recurs tecnològic, sinó com un element que pot transformar la cultura pedagògica, sempre que es faça des de la formació, l’acompanyament i la reflexió col·lectiva. 

Referència bibliogràfica:

Delgado, N., Campo Carrasco, L., Sainz de la Maza, M., & Etxabe-Urbieta, J. M. (2024). Aplicación de la Inteligencia Artificial (IA) en Educación: Los beneficios y limitaciones de la IA percibidos por el profesorado de educación primaria, educación secundaria y educación superior. Revista Electrónica Interuniversitaria de Formación del Profesorado, 27(1), 207–224. https://doi.org/10.6018/reifop.577211