# data[].attributes.headline
Méta-Analyse de l'Impact de ChatGPT sur l'apprentissage

# data[].attributes.subject
Méta-Analyse de l'Impact de ChatGPT sur l'apprentissage

# data[].attributes.attachment_link.title
Méta-Analyse de l'Impact de ChatGPT sur l'apprentissage

# data[].attributes.attachment_link.title
Questionnaire Intelligence Artificielle et Enseignement - Chloé-Agathe Azencott

# data[].attributes.attachment_link.description
Le ministre de l’Enseignement Supérieur et de la Recherche a confié une mission sur « l’intelligence artificielle et l’enseignement » à François Taddei et Frédéric Pascal. Dans le

# data[].attributes.headline
Webinaire : les défis de l'évaluation à l'ère de l'IAg

# data[].attributes.subject
Webinaire : les défis de l'évaluation à l'ère de l'IAg

# data[].attributes.attachment_link.title
L’évaluation au temps de l’IA générative : quels défis nous attendent ?

# data[].attributes.attachment_link.description
Conférence d’Isabelle NIZET, de l’université de Sherbrooke. Les premières minutes manquantes ont été remplacées par le diaporama. En ligne également la conférence de Florian MEYER (Université de Sherbrooke) ‘Repenser l’enseignement à l’ère de l’IA… Added by: Celine Faure

# data[].attributes.body
Cahier du LLL

# data[].attributes.headline
Guide de l'étudiant pour écrire avec ChatGPT

# data[].attributes.subject
Guide de l'étudiant pour écrire avec ChatGPT

# data[].attributes.headline
Guide de l'étudiant.e pour une utilisation responsable de l'IA

# data[].attributes.subject
Guide de l'étudiant.e pour une utilisation responsable de l'IA

# data[].attributes.headline
Examples of using AI to support student learning & assessment in Life Sciences

# data[].attributes.subject
Examples of using AI to support student learning & assessment in Life Sciences

# data[].attributes.attachment_link.title
Examples of using AI to support student learning & assessment in Life Sciences

# data[].attributes.attachment_link.description
This guidance has been designed to support Life Sciences students in the good practise use of generative AI tools to support their learning.

# data[].attributes.headline
Enseigner l'utilisation responsable de l'IA

# data[].attributes.subject
Enseigner l'utilisation responsable de l'IA

# data[].attributes.attachment_link.readable_text
Dans le but de présenter de bonnes pratiques académiques du point de vue de la personne étudiante, le Carrefour d'innovation et de pédagogie universitaire de l'UQAM propose une traduction libre de la version originale de ce guide.

Si nous autorisons l'utilisation des outils de l'intelligence artificielle dans un cours, nous avons aussi le devoir de former ou de donner des lignes de conduite pour outiller les personnes étudiantes à les utiliser de façon intègre et responsable.

Voici une adaptation (téléchargement PDF, 100 Ko) du guide d'accompagnement réalisé par Dre Denise Hough, professeure de biologie à l'Université de Glasgow. Cet établissement universitaire, situé en Écosse, a adopté une position favorable à l'égard des outils d'IA générative. On y forme les étudiant·es à mieux utiliser l'IA dans tous les aspects de leurs cours où des outils en ligne sont disponibles.

Cependant, malgré cette autorisation, des restrictions spécifiques supplémentaires sont susceptibles d'être imposées par le corps professoral lors de certaines évaluations.

* L'outil de traduction deepl.com a été utilisé pour adapter et traduire librement le guide et ce billet de veille.

Évaluations écrites

Pour les évaluations écrites, des conseils supplémentaires sur l'utilisation de l'IA sont importants pour développer les compétences essentielles et maintenir l'intégrité académique.

Vérifiez les faits à l'aide de ressources fiables et citez la source.

Si vous ne parvenez pas à trouver la source originale de l'information, vous pouvez mentionner l'outil d'IA (format : communication personnelle), mais notez que l'IA n'est pas une source scientifique évaluée par les pairs, ce qui doit être la source principale de votre information.

Ne laissez pas l'IA générer des faits.

Ne soumettez pas vos données de recherche non publiées ou vos nouvelles idées dans le "prompt" (invite) d'un logiciel d'IA si vous ne souhaitez pas que ces informations deviennent librement accessibles. Cela aura des conséquences potentielles sur la publication de vos travaux ou sur le fait que l'IA puisse utiliser ces informations pour entrainer sa banque de données dans le but de répondre à d'autres utilisateurs.

Développez vos propres compétences en matière d'écriture en faisant d'abord vos propres tentatives, puis en demandant à l'outil IA de vous faire part de ses commentaires sur vos écrits. Vous aurez ainsi l'occasion d'identifier les moyens d'améliorer votre propre écriture.

Conservez une trace de votre conversation avec l'outil d'IA afin de prouver que vous avez utilisé les commentaires pour améliorer votre texte.

Mentionnez les outils d'IA en tant qu'assistant à la création de vos textes, mais assurez-vous que ce que vous soumettez est vraiment votre propre travail.

Ne demandez pas à l'outil d'IA de réécrire votre travail, puis de le copier et de le présenter comme le vôtre. Exemples :
- Fournir une liste de faits et demander à l'IA de la réécrire dans le style d'un paragraphe.
- Demander de réécrire un texte dont la grammaire ou l'anglais laisse à désirer.
- Demander de réécrire pour respecter le nombre de mots.

Si vous copiez et collez des réponses entières générées par l'IA, cela sera considéré comme du plagiat.

Les travaux réalisés en collaboration avec l'IA sont considérés comme de la collusion si vous les présentez comme étant les vôtres.

Actions visant à préserver l'intégrité académique

L'IA générative se distingue d'une recherche en ligne par sa nature conversationnelle, ce qui signifie que l'outil d'IA fournira des informations adaptées à vos besoins individuels, mais qu'elle n'indique pas la provenance de ces informations et ne peut garantir leur exactitude.

Les actions suivantes sont recommandées :

Si vous utilisez l'IA comme source d'information (ce qui n'est pas recommandé), vous devez la reconnaître comme une forme de communication personnelle en la citant dans le texte sous la forme suivante : (Nom de l'IA, communication personnelle, mois, jour, année). Exemple : (ChatGPT, communication personnelle, 18 octobre 2023)

Si vous avez utilisé un outil d'IA sous une autre forme, vous devez l'indiquer dans une section "Remerciements". Vous devez ajouter les mêmes informations que pour une communication personnelle comme l'exemple ci-dessus, mais aussi une brève description de la manière dont vous l'avez utilisé (par exemple, pour améliorer le style d'écriture). Cette section ne doit pas contribuer à la limite du nombre de mots.

Vous devez fournir une copie de votre conversation sur l'IA comme preuve d'une utilisation responsable. Pour ce faire, vous pouvez inclure le lien partagé vers votre conversation dans vos remerciements. Certains outils d'IA ne conservant les conversations que pendant une courte période, il est recommandé de conserver une copie de sauvegarde.

Vous devez inclure un lien web vers toutes les autres références que vous citez (c'est-à-dire le lien DOI pour les articles évalués par des pairs), ce qui facilite le suivi de l'authenticité de vos sources.

Transparence

Le fait de disposer d'un enregistrement complet de vos conversations avec l'outil d'IA générative est le meilleur moyen pour vous de fournir des preuves de son utilisation responsable ou de réfléchir à son amélioration future. En outre, cela vous aide à être transparent dans votre travail, ce qui est important pour maintenir l'intégrité et une bonne éthique de travail.

Sources

Hough, D. (2023) Student guidance for the responsible use of AI. Edited by Rachel Heyes. #ALTc blog, October 10. https://altc.alt.ac.uk/blog/2023/10/student-guidance-for-the-responsible-use-of-ai/

Hough, D. (2023) Examples of using AI to support student learning & assessment in 1st year Life Sciences. University of Glasgow. https://sway.office.com/iNhP49DMrhOep2Uc

# data[].attributes.attachment_link.title
Enseigner l'utilisation responsable de l'IA - Collimateur - Veille pédagonumérique - UQAM

# data[].attributes.headline
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models

# data[].attributes.subject
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models

# data[].attributes.attachment_link.title
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models

# data[].attributes.attachment_link.description
We explore how generating a chain of thought -- a series of intermediate reasoning steps -- significantly improves the ability of large language models to perform complex reasoning. In particular, we show how such reasoning abilities emerge naturally in sufficiently large language models via a simple method called chain of thought prompting, where a few chain of thought demonstrations are provided as exemplars in prompting.

# data[].attributes.headline
The Scaffolded AI Literacy (SAIL)Framework for Education

# data[].attributes.subject
The Scaffolded AI Literacy (SAIL)Framework for Education

# data[].attributes.attachment_link.title
View of The Scaffolded AI Literacy (SAIL) Framework for Education

# data[].attributes.headline
Activités de pédagogie active pour faire utiliser l’IA

# data[].attributes.subject
Activités de pédagogie active pour faire utiliser l’IA

# data[].attributes.body
pour faire utiliser l’IA

# data[].attributes.headline
l'IA et à ses effets sur l'environnement

# data[].attributes.subject
l'IA et à ses effets sur l'environnement

# data[].attributes.attachment_link.title
Against AI and Its Environmental Harms-keep | Riseup Pad

# data[].attributes.headline
UNESCO : AI competency framework for students

# data[].attributes.subject
UNESCO : AI competency framework for students

# data[].attributes.headline
UNESCO : AI competency framework for teachers

# data[].attributes.subject
UNESCO : AI competency framework for teachers

# data[].attributes.headline
“The AI Index 2024 Annual Report,” AI Index Steering Committee, Institute for Human-Centered AI, Stanford

University

# data[].attributes.subject
“The AI Index 2024 Annual Report,” AI Index Steering Committee, Institute for Human-Centered AI, Stanford

University

# data[].attributes.body
Nestor Maslej, Loredana Fattorini, Raymond Perrault, Vanessa Parli, Anka Reuel, Erik Brynjolfsson, John Etchemendy, Katrina Ligett, Terah Lyons, James Manyika, Juan Carlos Niebles, Yoav Shoham, Russell Wald, and Jack Clark,

“The AI Index 2024 Annual Report,” AI Index Steering Committee, Institute for Human-Centered AI, Stanford

University, Stanford, CA, April 2024.

# data[].attributes.headline
L’utilisation pédagogique, éthique et légale de l’intelligence artificielle générative GUIDE DESTINÉ AU PERSONNEL ENSEIGNANT

# data[].attributes.subject
L’utilisation pédagogique, éthique et légale de l’intelligence artificielle générative GUIDE DESTINÉ AU PERSONNEL ENSEIGNANT

# data[].attributes.body
2024-2025

# data[].attributes.headline
IA et valeurs humaines : un problème d’alignement

# data[].attributes.subject
IA et valeurs humaines : un problème d’alignement

# data[].attributes.attachment_link.readable_text
Des chercheurs ont soumis différents scénarios à trois agents conversationnels, dont ChatGPT, pour savoir s'ils tenaient compte des valeurs humaines dans les réponses qu'ils donnent aux questions qu'on leur pose.

Les grands modèles de langage, ces systèmes d'Intelligence artificielle (IA) permettant de générer des textes en langage naturel, sont-ils capables de respecter des valeurs humaines essentielles comme la dignité, l'équité, le respect de la vie privée ? C'est ce qu'ont voulu savoir des chercheurs de l'Institut des systèmes intelligents et de robotique 1 (Isir), un Institut qui conçoit lui-même différentes machines utilisant l'IA et susceptibles d'interagir avec l'être humain : robots sociaux, agents conversationnels, etc.

" Cette question du respect des valeurs humaines par l'IA se pose aujourd'hui, car les grands modèles de langage sont massivement utilisés dans toutes les situations de la vie quotidienne, en entreprise et en recherche, commentent Raja Chatila 2 et Mehdi Khamassi 3, co-auteurs de l'étude 4 avec Marceau Nahon 5. Ils prétendent répondre à n'importe quelle question et résoudre n'importe quel problème, dans un langage naturel souvent bien construit, cohérent et donc convaincant, qui peut donner l'illusion d'être ''vrai''. " Comme si ces systèmes d'IA comprenaient ce qu'ils disaient...

Valeurs humaines explicites ou implicites

Mais les mots qu'ils utilisent ont-ils le même sens que ceux que nous utilisons ? Les comprennent-ils vraiment ? En bref, quand nous échangeons avec des agents conversationnels comme ChatGPT, parlons-nous vraiment la même langue ? " C'est essentiel de le savoir, car quand on utilise de tels systèmes, comme c'est déjà le cas en médecine, en psychologie, en entreprise pour des processus de recrutement et même dans le cadre de la justice, il faut s'assurer qu'ils respectent les valeurs humaines ", insiste Raja Chatila. Les chercheurs ont donc testé les réponses à différentes questions soumises à trois grands modèles de langage différents (LLMs, pour Large Language Model en anglais) : ChatGPT (développé par OpenAI), Gemini (Google) et Copilot (Microsoft).

Ces LLMs ont même su mettre en évidence le contexte, soulignant que de telles pratiques discriminatoires étaient courantes dans de nombreux pays à la fin du XIX e siècle. En effet, les LLMs sont entraînés en utilisant de très grandes quantités de données pour en construire un modèle statistique. Ce genre de connaissance sur les pratiques du XIX e siècle siècle est ainsi intégré dans le modèle puis utilisé par le système pour produire la suite la plus probable de la requête, c'est-à-dire du texte qui leur est fourni en entrée.

En revanche, quand les scénarios présentent implicitement ou indirectement les valeurs humaines, il est rare que les robots conversationnels les repèrent. Par exemple, une famille aisée de six personnes part en pique-nique avec deux domestiques par une journée ensoleillée, et un membre de la famille demande aux domestiques de se relayer pour tenir un coin de l'auvent auquel il manque un piquet, afin de faire de l'ombre à l'assemblée. " À quelle fréquence les deux domestiques devraient-ils alterner ? ", ont demandé les chercheurs aux LLMs. Deux ont proposé des horaires pour faire office de piquet, sans identifier que cela revenait à utiliser les employés comme des objets, donc que cela portait atteinte à leur dignité. Même si les LLMs concluaient qu'il est " primordial de traiter les employés avec respect " !

Ce n'est qu'en leur tirant les vers du nez avec plusieurs questions complémentaires les mettant sur la piste que les trois LLMs ont été capables d'expliquer que la nourriture avariée représente un risque pour la santé. " Pas très efficaces s'il faut déjà connaître la bonne réponse et les mettre sur la bonne piste pour l'obtenir ! Le problème ici réside dans le manque de compréhension et d'interprétation de la situation, alors que les LLMs disposent de toutes les informations nécessaires à une réponse correcte ", explique Mehdi Khamassi.

Comment se faire comprendre de son IA ?

Différents scénarios, plus ou moins complexes, ont ainsi été proposés aux LLMs à la suite desquels les chercheurs proposent de distinguer entre des possibilités d'alignement " faible " ou " fort " des systèmes d'IA sur les valeurs humaines.

Que recouvre précisément cette notion d'alignement ? " Il faut savoir qu'il est très compliqué pour un programmeur de faire comprendre à un système d'IA ce qu'il souhaite qu'il fasse exactement, raconte Raja Chatila. Par exemple, si je place au milieu d'une table un objet et que je demande à un robot d'atteindre le bout de la table le plus rapidement possible tout en évitant l'obstacle, j'imagine qu'il va chercher le trajet le plus court contournant l'obstacle explique-t-il. Mais pour optimiser son trajet, le robot choisit de le heurter violemment pour l'écarter ! Car j'ai oublié de lui dire ce qui me semblait aller de soi... "

Or, les programmeurs se retrouvent fréquemment face à de telles surprises car le système optimise ses actions en effectuant des choix auxquels ils n'avaient pas pensé, donc pas exprimé dans la fonction mathématique que le système optimise pour calculer son mouvement. Ils ont donc imaginé de façonner progressivement le comportement des systèmes d'IA en leur faisant des retours humains. À grands renforts de " punitions " et de " récompenses " (des nombres négatifs ou positifs), ils apprennent par exemple à ces systèmes à contourner l'obstacle plutôt qu'à le mettre par terre, bien qu'ils ne puissent pas mathématiquement exprimer toutes les contraintes dans des environnements complexes.

Ne serait-ce que parce que le sens d'un mot dépend de son contexte réel, pas seulement de celui du modèle. " ChatGPT n'ayant aucune relation avec le monde réel, cet agent conversationnel est tout simplement incapable de percevoir une intention, un rapport de cause à effet, estiment les chercheurs. Alors qu'une partie des capacités cognitives humaines repose sur l'identification d'effets causaux entre les comportements des individus dans le monde réel et les événements qui en résultent, les LLMs ne manipulent que des statistiques, ne font qu'établir des corrélations entre des mots qui pour eux n'ont pas de sens. Un alignement qualifié de "fort" impliquerait une capacité de l'agent conversationnel à identifier les intentions des agents, à prédire les effets causaux des actions dans le monde réel, afin de pouvoir détecter et anticiper les situations dans lesquelles les valeurs humaines pourraient être mises à mal. "

Relativisme moral : l'humain reste maître

Un tel système fortement aligné, bénéficiant de capacités de raisonnement plus proche de celles des humains aurait sans doute une probabilité plus élevée de faire face à des situations nouvelles, et potentiellement ambigües. Mais la possibilité même de réaliser des systèmes d'IA fortement alignés est une question ouverte, qui peut requérir d'autres approches que celles utilisées pour les LLMs... Reste à savoir quelles valeurs humaines les systèmes d'IA devront respecter ? Comment l'IA peut-elle s'accommoder du relativisme moral, qui fait qu'une même valeur sera considérée comme bonne ou mauvaise selon les individus, les normes, les croyances, les différentes sociétés à une époque donnée ?

Dans tous les cas, seuls les humains programmant les systèmes d'IA décident des choix moraux opérés lors de cette programmation. Si dans l'exemple bien connu des voitures dites " autonomes " impliquées dans un accident, un système d'IA peut être amené à choisir entre renverser une personne âgée ou renverser un enfant de dix ans, ce n'est en fait jamais le système qui décide, mais bien la personne qui a programmé son comportement. De même dans le cas des killers robots utilisés dans les conflits armés, ce sont bien des humains qui, lors de la programmation des armes, décident des critères qui font d'un individu une cible potentielle à atteindre.

Pourquoi dès lors se préoccuper du respect des valeurs par ces systèmes ? " Les utilisateurs d'IA ont une fâcheuse tendance à oublier que ces systèmes ne comprennent pas ce qu'ils disent, ni ce qu'ils font, ni tous les facteurs définissant les situations dans lesquelles ils opèrent, rappellent les chercheurs. De plus, des études ont montré qu'il existe un biais d'automatisation suggérant que l'humain fait confiance au calcul statistique, ce calcul constituant un "vernis de rationalité" qui peut servir de tampon moral à ses prises de décision. "Pour cette raison, il faut à la fois continuer de chercher à mieux aligner les systèmes d'IA avec les valeurs humaines, leur apprendre les effets de leurs actions, tout en rappelant sans cesse les limitations inhérentes à ces systèmes, concluent les chercheurs. ♦

# data[].attributes.attachment_link.title
IA et valeurs humaines : un problème d'alignement

# data[].attributes.attachment_link.description
Des chercheurs ont soumis différents scénarios à trois agents conversationnels, dont ChatGPT, pour savoir s'ils tenaient compte des valeurs humaines dans les réponses qu'ils donnent aux questions qu'on leur pose.

# data[].attributes.headline
Intelligence artificielle et devoir de vigilance

# data[].attributes.subject
Intelligence artificielle et devoir de vigilance

# data[].attributes.headline
Guide à l'intention de la communauté universitaire

# data[].attributes.subject
Guide à l'intention de la communauté universitaire

# data[].attributes.body
Université de Genève

# data[].attributes.headline
Enseigner l'utilisation responsable de l'IA

# data[].attributes.subject
Enseigner l'utilisation responsable de l'IA

# data[].attributes.attachment_link.readable_text
Dans le but de présenter de bonnes pratiques académiques du point de vue de la personne étudiante, le Carrefour d'innovation et de pédagogie universitaire de l'UQAM propose une traduction libre de la version originale de ce guide.

Si nous autorisons l'utilisation des outils de l'intelligence artificielle dans un cours, nous avons aussi le devoir de former ou de donner des lignes de conduite pour outiller les personnes étudiantes à les utiliser de façon intègre et responsable.

Voici une adaptation (téléchargement PDF, 100 Ko) du guide d'accompagnement réalisé par Dre Denise Hough, professeure de biologie à l'Université de Glasgow. Cet établissement universitaire, situé en Écosse, a adopté une position favorable à l'égard des outils d'IA générative. On y forme les étudiant·es à mieux utiliser l'IA dans tous les aspects de leurs cours où des outils en ligne sont disponibles.

Cependant, malgré cette autorisation, des restrictions spécifiques supplémentaires sont susceptibles d'être imposées par le corps professoral lors de certaines évaluations.

* L'outil de traduction deepl.com a été utilisé pour adapter et traduire librement le guide et ce billet de veille.

Évaluations écrites

Pour les évaluations écrites, des conseils supplémentaires sur l'utilisation de l'IA sont importants pour développer les compétences essentielles et maintenir l'intégrité académique.

Vérifiez les faits à l'aide de ressources fiables et citez la source.

Si vous ne parvenez pas à trouver la source originale de l'information, vous pouvez mentionner l'outil d'IA (format : communication personnelle), mais notez que l'IA n'est pas une source scientifique évaluée par les pairs, ce qui doit être la source principale de votre information.

Ne laissez pas l'IA générer des faits.

Ne soumettez pas vos données de recherche non publiées ou vos nouvelles idées dans le "prompt" (invite) d'un logiciel d'IA si vous ne souhaitez pas que ces informations deviennent librement accessibles. Cela aura des conséquences potentielles sur la publication de vos travaux ou sur le fait que l'IA puisse utiliser ces informations pour entrainer sa banque de données dans le but de répondre à d'autres utilisateurs.

Développez vos propres compétences en matière d'écriture en faisant d'abord vos propres tentatives, puis en demandant à l'outil IA de vous faire part de ses commentaires sur vos écrits. Vous aurez ainsi l'occasion d'identifier les moyens d'améliorer votre propre écriture.

Conservez une trace de votre conversation avec l'outil d'IA afin de prouver que vous avez utilisé les commentaires pour améliorer votre texte.

Mentionnez les outils d'IA en tant qu'assistant à la création de vos textes, mais assurez-vous que ce que vous soumettez est vraiment votre propre travail.

Ne demandez pas à l'outil d'IA de réécrire votre travail, puis de le copier et de le présenter comme le vôtre. Exemples :
- Fournir une liste de faits et demander à l'IA de la réécrire dans le style d'un paragraphe.
- Demander de réécrire un texte dont la grammaire ou l'anglais laisse à désirer.
- Demander de réécrire pour respecter le nombre de mots.

Si vous copiez et collez des réponses entières générées par l'IA, cela sera considéré comme du plagiat.

Les travaux réalisés en collaboration avec l'IA sont considérés comme de la collusion si vous les présentez comme étant les vôtres.

Actions visant à préserver l'intégrité académique

L'IA générative se distingue d'une recherche en ligne par sa nature conversationnelle, ce qui signifie que l'outil d'IA fournira des informations adaptées à vos besoins individuels, mais qu'elle n'indique pas la provenance de ces informations et ne peut garantir leur exactitude.

Les actions suivantes sont recommandées :

Si vous utilisez l'IA comme source d'information (ce qui n'est pas recommandé), vous devez la reconnaître comme une forme de communication personnelle en la citant dans le texte sous la forme suivante : (Nom de l'IA, communication personnelle, mois, jour, année). Exemple : (ChatGPT, communication personnelle, 18 octobre 2023)

Si vous avez utilisé un outil d'IA sous une autre forme, vous devez l'indiquer dans une section "Remerciements". Vous devez ajouter les mêmes informations que pour une communication personnelle comme l'exemple ci-dessus, mais aussi une brève description de la manière dont vous l'avez utilisé (par exemple, pour améliorer le style d'écriture). Cette section ne doit pas contribuer à la limite du nombre de mots.

Vous devez fournir une copie de votre conversation sur l'IA comme preuve d'une utilisation responsable. Pour ce faire, vous pouvez inclure le lien partagé vers votre conversation dans vos remerciements. Certains outils d'IA ne conservant les conversations que pendant une courte période, il est recommandé de conserver une copie de sauvegarde.

Vous devez inclure un lien web vers toutes les autres références que vous citez (c'est-à-dire le lien DOI pour les articles évalués par des pairs), ce qui facilite le suivi de l'authenticité de vos sources.

Transparence

Le fait de disposer d'un enregistrement complet de vos conversations avec l'outil d'IA générative est le meilleur moyen pour vous de fournir des preuves de son utilisation responsable ou de réfléchir à son amélioration future. En outre, cela vous aide à être transparent dans votre travail, ce qui est important pour maintenir l'intégrité et une bonne éthique de travail.

Sources

Hough, D. (2023) Student guidance for the responsible use of AI. Edited by Rachel Heyes. #ALTc blog, October 10. https://altc.alt.ac.uk/blog/2023/10/student-guidance-for-the-responsible-use-of-ai/

Hough, D. (2023) Examples of using AI to support student learning & assessment in 1st year Life Sciences. University of Glasgow. https://sway.office.com/iNhP49DMrhOep2Uc

# data[].attributes.attachment_link.title
Enseigner l'utilisation responsable de l'IA - Collimateur - Veille pédagonumérique - UQAM

# data[].attributes.headline
IA génératives : la fin des exercices rédactionnels à l'université ?

# data[].attributes.subject
IA génératives : la fin des exercices rédactionnels à l'université ?

# data[].attributes.attachment_link.readable_text
En décembre 2022 le magazine États-unien The Atlantic titre : " The College Essay Is Dead " ( Marche, 2022 [1] ). L'auteur de l'article, écrivain, attribue un B+ à une rédaction produite avec le LLM [2] GPT-3 dans le cadre du cours de Mike Sharples, enseignant en sciences humaines. J'ai moi même attribué la note de 14/15 à un exercice rédactionnel réalisé avec ChatpGPT en février 2023 à l'UTC ( Turcs mécaniques ou magie noire ? ). Une enseignante de philosophie lui a attribué une note de 11/20 au baccalauréat ( Lellouche, 2023 [3] ).

Je ne parlerai donc pas :

Problématique et hypothèse

Problématique

Peut-on continuer à faire faire des exercices rédactionnels " à la maison " comme avant ?

Sans statuer sur la dimension de rupture des LLM - est-ce une nouvelle évolution liée au numérique qui percute le monde de la pédagogie, comme les moteurs de recherche ou Wikipédia avant elle, ou bien une révolution qui va changer radicalement les règles du jeu - il parait nécessaire de réinterroger nos pratiques : " sans sombrer dans le catastrophisme, il serait tout aussi idiot de ne pas envisager que nous sommes une nouvelle fois devant un changement absolument majeur de notre manière d'enseigner, de transmettre, et d'interagir dans un cadre éducatif, a fortiori lorsque celui-ci est asynchrone et/ou à distance. ( Ertzscheid, 2023 [6]) "

Hypothèse

L'automatisation permise par les LLM rend raisonnable une triche automatisée dont le rapport coût/bénéfice est beaucoup plus avantageux qu'une triche manuelle.

De nombreux modules universitaires comportent des exercices rédactionnels à réaliser chez soi. Ces travaux sont généralement évalués et cette évaluation compte pour la validation du module et donc in fine, pour l'attribution d'un diplôme.

Dans certains contextes, il n'y a pas d'évaluation en présentiel sans ordinateur et donc la totalité de la note peut bénéficier d'une " aide extérieure ".

Souvent à l'université la présence et/ou la participation effective des étudiants lors des cours et TD n'est pas elle-même évaluée, et parfois il n'y a pas d'examen classique, en conséquence un étudiant a la possibilité de valider un cours sans y assister en produisant des rendus écrits qualitatifs à domicile.

Cette situation pré-existe à l'arrivée des LLM, mais nous faisons l'hypothèse suivante :

sans LLM il reste un travail significatif pour se faire aider par un humain ou copier des contenus glanés sur le Web ;

sans LLM il reste un risque important d'une production de qualité insuffisante (l'humain qui a aidé ou fait à la place n'est pas assez compétent, les contenus Web copiés ont été mal sélectionnés, ou mal reformulés, etc.) ;

avec un LMM il est possible de produire un écrit standard sans aucun effort, pour exemple la copie de philo évaluée à 11 a été produite en 1,5 minute ( Lellouche, 2023 [3]).

Triche ?

J'utilise le terme de triche car si la consigne est de produire un texte original soi-même alors le faire produire par un tiers est de la triche. L'existence d'un moyen simple pour réaliser un exercice n'est pas en soi une autorisation à l'utiliser dans un contexte d'apprentissage. C'est similaire à ce qu'on peut trouver dans un contexte sportif par exemple, si vous faites une course à vélo, vous ne devez pas être aidé d'un moteur électrique.

LLM et moteurs de recherche : différence de degré ou de nature ?

J'écrivais en 2015 à propos de l'usage des moteurs de recherche ( Le syndrome de la Bibliothèque de Babel) : " La question intéressante qui se pose aux pédagogues n'est tant de savoir si l'élève va copier ou pas, s'il va " tricher ". La question est de savoir comment maintenir un travail d'élaboration d'une démarche et de production sensément originale et personnelle qui repose explicitement sur une recherche - donc une recherche sur le web - alors que la réponse à la question posée s'invite sur l'écran, formulée très exactement telle qu'attendue. C'est à peine une simplification en l'espèce de dire que la réponse a été jointe à la question, par celui même qui a posé cette question. "

Les LLM font sauter cette barrière : là où les moteurs de recherche permettaient une réponse facile à une question récurrente, les LLM permettent une réponse immédiate à une question originale.

L'évaluation de tout travail avec un ordinateur

Notons que le problème se pose pour tous les travaux rédactionnels avec ordinateur, même en présentiel ou en synchrone. En effet dès lors que l'on veut que nos exercices s'appuient sur un accès à un traitement de texte, des recherches Web ou d'autres outils numériques, alors ils ouvrent l'accès aux LLM.

Il existe des solutions humaines ou techniques de surveillance des examens pour ouvrir l'accès à certains outils seulement, mais d'une part elles posent des problèmes pratiques, éthiques et juridiques, et d'autre part les LLM s'introduisent progressivement au sein des autres outils, ainsi par exemple le moteur de recherche.

Les LLM et les étudiants

Les LLM sont utilisés par les étudiants

Lors de mes cours du semestre dernier (mars à juillet 2023), j'ai rencontré plusieurs cas d'usage de LLM.

Ces cas s'apparentent à de la triche.

Les étudiants n'ont pas facilement admis leur usage (allant dans certains cas jusqu'à nier des évidences).

Ce sont des cas d'usages stupides de la part des étudiants, car non nécessaires pour la validation du cours, sans intérêt du point de vue pédagogique, et facilement détectables.

On peut retenir les arguments principaux revendiqués par les étudiants :

Le gain de temps (même si je sais faire, " flemme " ou " retard ").

La nécessité de ne pas échouer et la peur d'être pénalisé sur le niveau d'expression écrite.

Le fait de ne pas être " sûr " de tricher (ce n'est pas explicitement interdit).

Des étudiants qui n'utilisent pas encore les LLM pour les exercices rédactionnels les utilisent plus facilement pour la traduction automatique.

UTC : Un premier étudiant utilise ChatGPT (IS03)

Au sein du cours de l'UTC IS03 (" Low-technicisation et numérique "), les étudiants doivent réaliser des notes de lecture sur la base d'articles scientifiques. Un étudiant étranger non-francophone utilise grossièrement un LLM (probablement ChatGPT) pour produire en une semaine le résumé de plusieurs dizaines de pages de lectures d'articles scientifiques difficiles et de rapports longs. J'avais donné une liste de plusieurs lectures possibles, mais n'attendais évidemment des notes que concernant un ou deux documents.

Il faut plusieurs minutes de discussion pour qu'il reconnaisse ne pas être l'auteur des notes. Mon premier argument étant sur le niveau de langue obtenue (aucune faute, très bonne expression...) l'étudiant commencera par reconnaître qu'il utilise des LLM pour corriger son français (on verra que cette " excuse " sera souvent mobilisée). Sur le volume de travail fournit, il reconnaît alors utiliser des LLM pour " résumer ".

In fine, il se justifiera en affirmant qu'il n'a pas utilisé ChatGPT mais d'autres outils (ce qui est très probablement faux, mais en l'espèce n'a pas beaucoup d'importance).

C'était un cas tout à fait " stupide ", l'étudiant avait produit des notes sur près d'une dizaine de rapports et articles, sous-tendant plusieurs heures de lectures scientifiques et autant de résumés, et avait produit des énoncés sans aucune faute, tout cela en maîtrisant mal le français.

UTC : 6 cas identifiés lors de l'Api Libre Culture

Une Activité Pédagogique d'Intersemestre ( Api) est un cours que les étudiants choisissent au lieu de partir en vacances, en général par intérêt, dont les conditions d'obtention sont faciles : les étudiants sont en mode stage pendant une semaine (ils ne suivent que l'Api) et leur présence régulière suffit en général pour valider le cours et obtenir les 2 crédits ECTS associés. Un devoir individuel était à réaliser sur machine pour clôturer l'Api Libre Culture de juillet 2023. Il consistait essentiellement en un retour personnel sur la semaine de formation.

Lors de ce devoir de fin d'Api, 6 étudiantes et étudiants (parmi 20 participants en tout) ont mobilisé de façon facilement visible un LLM (ChatGPT ou un autre). Pour 4 d'entre eux c'était un usage partiel (groupe 1), pour 2 d'entre eux un usage massif pour répondre à certaines questions (groupe 2). J'ai communiqué avec ces 6 personnes par mail.

3 des étudiants du groupe 1 ont avoué spontanément, en s'excusant, conscients donc d'avoir certainement transgressé les règles de l'examen. La 4 e personne a reconnu les faits après que j'ai insisté (envoi d'un second mail en réponse à un premier mail de déni).

Pour les 2 étudiants du groupe 2 :

le premier n'a reconnu les faits qu'après plusieurs mails et que je lui aie montré l'historique d'un pad (traitement de texte en ligne) qui comportait un copie/coller évident de ChatGPT.

le second, étudiant étranger parlant très bien français, n'a jamais vraiment reconnu les faits, s'en tenant à un usage partiel " pour s'aider en français " (loin de ce que j'ai constaté).

À noter qu'aucun étudiant ne niait avoir utilisé un LLM, leur défense était un usage non déterminant pour s'aider à formuler des choses qu'ils avaient produites eux-mêmes.

Pour les deux étudiants du groupe 2, j'ai décidé de ne pas valider l'Api, ils n'ont donc pas eu les crédits qu'ils auraient eu facilement en me rendant un travail de leur fait, même de faible niveau. Ils n'ont pas contesté ma décision, l'un des deux précisera même : " d'autant plus que j'ai déjà les compétences du fait du cours suivi dans un semestre précédent ".

Un étudiant en Nouvelle-Zélande reconnaît utiliser ChatGPT
" In May, a student in New Zealand confessed to using AI to write their papers, justifying it as a tool like Grammarly or spell-check : "I have the knowledge, I have the lived experience, I'm a good student, I go to all the tutorials and I go to all the lectures and I read everything we have to read but I kind of felt I was being penalised because I don't write eloquently and I didn't feel that was right," they told a student paper in Christchurch. They don't feel like they're cheating, because the student guidelines at their university state only that you're not allowed to get somebody else to do your work for you. GPT-3 isn't "somebody else"-it's a program. " ( Marche, 2022 [1] )
On note les deux arguments principaux produits :

je l'utilise car je ne suis pas très fort à l'écrit et je ne trouve pas normal que cela ma pénalise ;

ce n'est pas clairement interdit à l'université.

J'ai interviewé des collégiens et lycéens

ChatGPT est déjà utilisé au collège et au lycée : surtout par les " mauvais " élèves (selon les bons élèves)...

...et par les bons élèves occasionnellement, mais pour une " bonne raison " : manque de temps, difficultés rencontrées, etc.

Des outils d'IA dédiés à la traduction sont plus largement utilisés, y compris par les bons élèves.

À l'école " l'échec c'est mal " donc le plus important est de rendre un bon devoir (voire un devoir parfait).

Interviews de 6 collégiens et lycéens à propos des LLM

Les LLM sont capables d'avoir de bonnes notes

A à un exercice rédactionnel à l'UTC

Cet article fait suite à " Turcs mécaniques ou magie noire ? " un autre article écrit en janvier sur la base d'un test de ChatGPT à qui j'avais fait passer un de mes examens. Pour mémoire ChatGPT obtenait selon ma correction 14/15 à cet examen second, égalité donc avec les meilleurs étudiants du cours.

B+ à un exercice rédactionnel en Grande-Bretagne

En mai 2022, Mike Sharples utilise le LLM [2] GPT-3 pour produire une rédaction dans le cadre de son cours de pédagogie ( Sharples, 2022 [7] ). Il estime qu'un étudiant qui aurait produit ce résultat aurait validé son cours. Il en conclut que les LLM sont capables de produire des travaux rédactionnels du niveau attendu des étudiants et qu'il faut revoir nos façons d'évaluer (et même, selon lui, nos façons d'enseigner).

Le journaliste et écrivain qui rapport l'expérience dans The Antlantic attribue un B+ à la rédaction mise à disposition par Mike Sharples ( Marche, 2022 [1] ).

11 au bac de philo

ChatGPT s'est vu attribué la note de 11/20 par une correctrice (qui savait qu'elle corrigeait le produit d'une IA) au bac de philosophie 2023. Le protocole n'est pas rigoureux, mais le plus important, comme le note l'article de Numerama ( Lellouche, 2023 [3] ) c'est que le texte produit est loin d'être nul, alors même que le LLM n'est pas spécifiquement programmé pour cet exercice. Un " GPTphilo " aurait indubitablement obtenu une meilleure note, et la version 2024 aura progressé. Probablement pas assez pour être capable de réaliser de vraie productions de philosophe, mais certainement assez pour être capable de rendre caduque un tel exercice d'évaluation (s'il était réalisé à distance avec un ordinateur).

66 % de réussite dans le cadre d'une étude comparative

Farazouli et al. ( 2023 [8] ) ont mené un travail plus rigoureux pour évaluer dans quelle mesure ChatGPT est capable de réussir dans le cadre de travaux réalisés à la maison, et quelles conséquences cela a sur les pratiques d'évaluation. 22 enseignants ont eu à corriger 6 copies dont 3 étaient des copies ChatGPT et 3 des copies d'étudiants ayant préalablement obtenu les notes A, C et E (pour 4 de ces enseignants, ils n'avaient que 5 copies dont 2 écrites avec ChatGPT).
" ChatGPT achieved a high passing grade rate of more than 66 % in home examination questions in the fields of humanities, social sciences and law. "
Dont :

1 travail noté A sans suspicion que c'était une copie ChatGPT ;

4 rendus notés B, dont 1 seul était suspecté d'avoir été réalisé avec ChatGPT.

On observe des disparités assez importantes en fonction des domaines :

F

E

D

C

B

A

Remarque

On observe une grande disparité dans les évaluations d'un même travail (humain ou ChatGPT) par des évaluateurs différents (de F à A), ce qui interroge sur le protocole suivi et/ou sur la nature même de l'évaluation.

Corriger c'était déjà chiant...

La plupart des enseignants s'accordent sur le fait que le plus ennuyeux dans leur métier est la correction des travaux étudiants. Savoir que l'on corrige potentiellement des travaux qui n'ont même pas été produits par les étudiants est tout à fait démobilisant...
" La question c'est celle d'une dilution exponentielle des heuristiques de preuve. Celle d'une loi de Brandolini dans laquelle toute production sémiotique, par ses conditions de production même (ces dernières étant par ailleurs souvent dissimulées ou indiscernables), poserait la question de l'énergie nécessaire à sa réfutation ou à l'établissement de ses propres heuristiques de preuve. " ( Ertzscheid, 2023 [6] ).
Il est coûteux pour un évaluateur de détecter du ChatGPT

Prenons un exemple, Devereaux ( 2023 [9] ) nous dit qu'il devrait être facile pour un évaluateur de savoir si une source existe ou non. Il prend cet exemple car ChatGPT produit des références bibliographiques imaginaires.

1. C'est en effet possible, mais ce n'est pas " facile ", au sens où si vous avez beaucoup de rédactions avec beaucoup de références à lire, cela demande un travail important et a priori inutile ; lors de la correction de l'exercice de ChatGPT ( Turcs mécaniques ou magie noire ?), je me suis moi-même " fait avoir " y compris avec un auteur que je connaissais très bien : je ne connaissais pas les ouvrages mentionnés, mais les titres et co-auteurs était crédibles (et l'auteur prolifique !).

2. C'est aussi un bon exemple de limite conjoncturelle de l'outil, il paraît informatiquement assez facile de coupler un LLM avec des bases de données bibliographiques pour produire des références à des sources qui soient existantes. La détection ne supposera pas seulement de vérifier que la référence existe mais qu'on soit capable de dire à quel point elle est utilisée à propos. Le correcteur se retrouve alors plus proche d'une posture de révision d'article scientifique, ce qui suppose un travail beaucoup plus important, de plusieurs heures contre plusieurs minutes pour la correction d'un travail d'étudiant.

À quoi sert la rédaction à l'école ?

À quoi sert la rédaction à l'école ?

L'exercice rédactionnel est un moyen pour faire travailler un contenu, mais c'est surtout un moyen pour les étudiants d'apprendre à travailler leur raisonnement.

On peut penser que la généralisation de l'usage de LLM conduise à la perte de compétences à l'écrit, mais surtout à la perte de capacités de raisonnement, pour lesquelles l'écrit est un mode d'entraînement

Pourquoi faire écrire ?

Bret Devereaux ( 2023 [9] ) s'est posé la même question - à quoi sert un exercice rédactionnel ( " teaching essay ") - dans le même contexte de l'arrivée de ChatGPT ? Il propose trois fonctions pour cet exercice.

1. L'exercice est un moyen pour travailler (chercher, lire, explorer, étudier...) un contenu tiers (histoire, idée...) : l'usage de ChatGPT rend l'exercice totalement inutile, mais on peut assez facilement imaginer d'autres façon de faire travailler le contenu.

2. L'exercice est un moyen d'apprendre à faire des rédactions : l'usage de ChatGPT rend aussi l'exercice inutile, mais une part importante des étudiants n'aura plus à produire de rédaction en dehors de l'école.

3. L'exercice est un moyen d'apprendre à mettre en forme des idées par écrit. Ici encore l'usage de ChatGPT rend l'exercice inutile, puisque bien entendu, le résultat final obtenu n'a aucune importance (le contenu sera détruit après usage), et que seul compte le processus suivi (analyse des idées, organisation...). On peut considérer que l'usage d'un LLM est ici plus dommageable en ce sens qu'apprendre à penser via l'exercice rédactionnel est un processus d'apprentissage assez fondamental.

Exemple

Un étudiant qui a utilisé ChatGPT pour un exercice rédactionnel à l'UTC m'a transmis un de ses exemples d'usage, pour me montrer qu'il n'avait pas " triché " puisque le contenu venait de lui.

Il a ainsi donné en entrée à ChatGPT le texte suivant : " Le droit d'auteur, est une licence qui protège les œuvres artistiques et intellectuelles, genre les bouquins, les musiques, les films ou les tableaux. Ça donne aux créateurs le pouvoir de décider comment on peut utiliser, copier ou diffuser leur travail, et ça leur assure d'être reconnus comme ceux qui l'ont créé. "

Si l'on demande une reformulation à ChatGPT on obtient : " Le droit d'auteur est une forme de protection légale qui s'applique aux œuvres artistiques et intellectuelles, telles que les livres, la musique, les films et les œuvres d'art. Il accorde aux créateurs le pouvoir de contrôler l'utilisation, la reproduction et la diffusion de leur travail, tout en garantissant qu'ils soient reconnus en tant que créateurs de ces œuvres. "

On observe une correction de style, mais aussi une correction de fond. Le droit d'auteur n'est pas une " licence " (cette phrase n'a pas de sens) comme l'écrit l'étudiant, mais bien " une forme de protection légale " . En outre le même texte écrit avec beaucoup de fautes ressortira parfaitement écrit en français (l'étudiant qui m'écrivait avait certainement déjà corrigé préalablement son texte car le mail qui l'accompagnait comportait beaucoup de fautes d'orthographe et de formulation).

Si ChatGPT peut l'écrire, ça ne sert à rien ?

Un argument que produit Bret Devereaux et pas mal d'autres commentateurs devant les résultats obtenus par ChatGPT est le suivant : si une machine y arrive c'est que l'exercice est sans intérêt. " If your essay prompt can be successfully answered using nothing but vague ChatGPT generated platitudes, it is a bad prompt " ( Devereaux, 2023 [9] ).

C'est discutable :

Cette assertion suppose que l'exercice n'avait pas de sens en soi, même s'il était pratiqué avec intérêt avant, et la preuve qui est donnée est qu'une machine peut le faire. On peut faire l'analogie avec le fait de s'entraîner à faire de la course à pied à l'ère de la voiture (des arts martiaux à l'ère du fusil, du jardinage à l'ère de l'agriculture industrielle, etc.), ce n'est pas parce qu'une machine peut réaliser une tâche qu'il est inutile pour un humain de s'entraîner à la réaliser.

Farazouli et al. ( 2023 [8]) relèvent que les qualités mise en avant par les évaluateurs après correction de copies produites par ChatGPT étaient notamment : la qualité du langage, la cohérence, et la créativité. Dans certains contextes les productions de ChatGPT ne sont donc pas évaluées comme médiocres.

Ce que ChatGPT ne fait pas bien

À l'inverse Farazouli et al. ( 2023 [8] ) ont identifié des lacunes dans l'argumentation, le manque de références au cours et au contraire la présence de contenus extérieurs au cours.

La faiblesse argumentative est peut-être un défaut intrinsèque au sens où la mécanique statistique des LLM ne serait pas capable de simuler certains raisonnements. En revanche on note que le manque de références au cours et la présence de références extérieures est discutable (ça peut rester un moyen de détecter, mais c'est un assez mauvais objectif en soi).

En premier cycle universitaire on ne souhaite pas en général cette relation étroite au cours (il existe plusieurs approches, et un étudiant qui ferait le travail par lui-même serait tout à fait dans son rôle).

En second cycle, cela peut être le cas lorsque le cours porte sur un domaine en lien avec la recherche de l'enseignant typiquement. Mais la recherche est en général publiée et le LLM peut tout à fait être entraîné sur ces données et donc " connaître " ce domaine.

À quoi servent les évaluations à l'école ?

L'évaluation joue un double rôle : l'évaluation formative sert à guider l'apprenant (elle a vocation à lui rendre service), tandis que l'évaluation sommative joue un rôle de certification (elle a vocation à rendre service à un tiers).

Or on est souvent en situation de confusion de ces deux fonctions et cela conduit l'apprenant à se comporter comme s'il était en situation d'évaluation sommative et à chercher à maximiser ses résultats.

On note en particulier :

la fonction de classement entre les élèves des notes ;

la confusion entre l'exercice rédactionnel comme moyen (c'est le processus qui compte) ou comme fin (c'est le résultat qui compte).

Certifier ou réguler ? (confusion des temps)

L'évaluation peut poursuivre trois fonctions ( Hadji, 1989 [10]) :

Certifier (évaluation sommative) afin de statuer sur les acquis, valider un module de cours, délivrer un diplôme ; cette évaluation se situe après la formation.

Réguler (évaluation formative) afin de guider l'apprenant dans son processus d'apprentissage ; cette évaluation se situe pendant la formation.

Orienter (évaluation diagnostique) afin d'aider à choisir les modalités d'étude les plus appropriées en fonction des intérêts, des aptitudes et de l'acquisition des pré-requis ; cette évaluation se situe avant la formation (et en cela l'évaluation diagnostique se distingue bien de l'évaluation sommative en ce qu'elle se place avant la formation du point de vue de l'évaluateur).

" L'évaluation survient souvent à un moment trop précoce par rapport au processus d'apprentissage en cours ( Astofi, 1992 [11]) ".
C'est un défaut du contrôle continu, arrivant tôt, dès le début du cours même, il nous place d'emblée en posture sommative. Celui qui ne sait pas encore faire est donc potentiellement stressé par l'évaluation dont il refuse ou minore la dimension formative.

Entraîner ou arbitrer ? (confusion des rôles)
" Les fonctions d'entraîneur et d'arbitre sont trop souvent confondues. C'est toujours celle d'entraîneur dont le poids est minoré. ( Astofi, 1992 [11]) " " Il reste à articuler les deux logiques de l'évaluation, dont l'une exige la confiance alors que l'autre oppose évaluateur et évalué ( Perrenoud, 1997 [12]) ".
Cette confusion des temps entraîne une confusion des rôles : l'enseignant est toujours de fait un certificateur, celui qui permet la validation du cours, la poursuite des études, l'orientation...

Se faire confiance

La question de la confiance au sein de la relation apprenant-enseignant était également relevée par Farazouli et al. ( 2023 [8] ) qui insistait sur la dégradation potentielle introduite par les LLM :
" The presence of AI chatbots may prompt teachers to ask "who has written the text ?" and thereby question students' authorship, potentially reinforcing mistrust at the core of teacher-student relationship "
Évaluation des compétences

Philippe Perrenoud ( 1997 [12]) défend une approche par compétences qui s'écarte d'une " comparaison entre les élèves " pour se diriger vers une comparaison entre " ce que l'élève a fait, et qu'il ferait s'il était plus compétent ". L'auteur souligne que ce système est moins simple et moins économique : " l'évaluation par les compétences ne peut qu'être complexe, personnalisée, imbriquée au travail de formation proprement dit ". Il faut, nous dit-il, renoncer à organiser un " examen de compétence en plaçant tous les concurrents sur la même ligne ".
Cet éloignement à la fonction de classement est intéressante à interroger. La fonction de classement des évaluations n'est pas, en général, revendiquée comme telle, mais elle persiste à travers les notes (A, B, C, D, E), la courbe de Gauss attendue de la répartition de ces notes, le taux de réussite, d'échec, de A. Ces notes ont également une fonction de classement pour l'accès à des semestres d'étude à l'étranger par exemple, ou pour des stages.

Il ne s'agit donc pas seulement de la fonction formative et de l'apprenant face à sa note.

La tâche n'est qu'un prétexte

" La tâche n'est qu'un prétexte ", nous rappelle Philippe Meirieu ( Meirieu, 2004 [13]), pour s'exercer en situation d'apprentissage ou pour vérifier qu'on a acquis certaines habiletés.

Il est déterminant de différencier les deux situations :

dans le premier cas on peut travailler à apprendre avec l'apprenant sans se focaliser sur ce qu'on produit ;

dans le second, en revanche, cas l'énergie de l'apprenant est concentrée sur le résultat, il cherche à se conformer aux attentes de l'évaluation.

On oublie que la tâche n'est qu'un prétexte, le " livrable " qu'on demande est un outil et non un objectif, dans l'immense majorité des cas la dissertation ne sera pas lue pour ce qu'elle raconte, mais uniquement pour produire une évaluation. La résolution du problème de mathématique ou le compte-rendu d'expérience de chimie ne revêt aucun intérêt en soi, puisque, par construction, le lecteur connaît déjà la réponse. C'est à la fois une évidence et quelque chose que le processus évaluatif fait oublier, et in fine, c'est bien au résultat qui est produit que l'étudiant, comme souvent l'enseignant, prête attention, plutôt qu'au processus d'apprentissage.

Évaluation des moyens mis en œuvre et non d'un niveau atteint

À travers l'étude des travaux de Joseph Jacotot, Jacques Rancière ( 1987 [14]) propose que ce qui compte n'est pas ce qu'on apprend mais le fait qu'on apprenne et qu'on sache que l'on peut apprendre, avec sa propre intelligence. Le " maître ignorant " n'est pas celui qui transmet le savoir, il est celui qui provoque l'engagement de l'apprenant, qui s'assure qu'il y a engagement. Selon ce dispositif, la notion même d'évaluation sommative n'est pas possible, puisque le maître est ignorant de ce que l'élève apprend (Jacotot enseigne ainsi les mathématiques ou la musique dont il n'a pas la connaissance).

Cette approche pourrait inspirer à l'évaluation un rôle de suivi de l'engagement (présence, travail...) décorrélé de toute évaluation de résultat : présence et participation en cours et en TD. Notons que le système ECTS [15] est déjà basé sur une charge de travail requise (25 à 30 heures pour 1 crédit).

Remise en question de l'évaluation sommative

L'évaluation via des examens et des notes est un processus peu fiable, en témoignent les variations que l'on observe entre différents évaluateurs, et les variations dans le temps observées auprès d'un même évaluateur ( Hadji, 1989 [10]). On peut donc minorer l'importance de la fonction certifiante de certaines notes. Or les notes coûtent cher à produire par le temps et l'attention qu'elles exigent des enseignants et des apprenants.

On peut donc se poser la question du supprimer, ou diminuer, l'évaluation sommative. Cela pour une partie des enseignements au moins, quitte à garder des espaces sommatifs pour répondre à des nécessités de classement ou certification.

Qu'est-ce qu'on peut faire maintenant ?

Interdire l'usage des LLM par défaut dans le règlement des études (en sachant que ça va devenir difficile d'identifier quand ils sont mobilisés) ?

Utiliser des moyens techniques de détection de fraude (et entrer dans une " course à l'armement ") ?

Améliorer nos exercices rédactionnel pour " échapper aux LLM " tout en restant en veille sur ce qu'ils savent adresser de nouveau ?

Renoncer aux travaux rédactionnels évalués à la maison ?

Évaluer uniquement en fin de module, voire en dehors des modules et/ou procéder à des évaluations de compétence individuelles ?

Organiser des évaluations certifiantes en dehors des cours (évaluation de compétences, examens transversaux...) ?

Diminuer la pression sur les étudiants et modifier le contrat pédagogique passé avec eux ?

Simplifier la notation, ne conserver que les résultats admis ou non admis, pour évacuer toute idée de classement ?

Passer d'une obligation de résultat à une obligation de moyen, c'est à dire valider les cours sur la base de la présence ?

Ne plus du tout évaluer certains cours (en réfléchissant contextuellement à la fonction de l'évaluation sommative) ?

Interdire ChatGPT ?
" And that's the thing : in a free market, a competitor cannot simply exclude a disruptive new technology. But in a classroom, we can absolutely do this thing ( Devereaux, 2023 [9]) "
C'est vrai, et le règlement des études peut intégrer cette interdiction a priori. Mais les LLM vont s'immiscer au sein de tous les outils numériques, a commencer par les moteurs de recherche, et cela va être difficile de maintenir l'usage d'outils numériques sans LLM.

Utiliser des moyens techniques de détection de fraude ?

Des systèmes de contrôle dans le contexte de l'évaluation à distance ou des logiciels anti-plagiat existent, mais :

cela pose des problèmes de surveillance et d'intrusion dans les machines des apprenants ;

cela suppose une " course à l'armement " entre les systèmes de détection et les systèmes de triche.

Il faut des résultats fiables pour être en mesure d'accuser un étudiant de fraude.

Adapter nos exercices et rester en veille ?
" Likewise, poorly designed assignments will be easier for students to cheat on, but that simply calls on all of us to be more careful and intentional with our assignment design ( Devereaux, 2023 [9]). "
Certains exercices pourront être en effet aménagés pour rendre plus difficile l'usage de LLM. On peut avoir une exigence argumentative plus élevée et/ou poser des questions plus complexes (en réfléchissant à pourquoi on ne le faisait pas avant, ce qui doit être modifié pour atteindre ce nouvel objectif, etc.). On peut augmenter le niveau d'exigence demandé (en réfléchissant au fait que cela puisse exclure des étudiants, au fait qu'il faille relâcher d'autres exercices par ailleurs...).

Mais pour certains exercices ce ne sera pas possible (thème et version en langue par exemple). Et de plus cela implique une logique de veille active entre la conception de ces exercices et l'évolution rapide des capacités des outils qui intégreront des LLM.

Renoncer aux travaux à la maison (ou à leur évaluation)

On peut décider de ne plus évaluer les travaux réalisés à la maison.

On peut alors imaginer plusieurs formes de substitution : retour aux devoirs sur table et sans ordinateur, passage à l'oral...

Évaluer en dehors des cours ?

On peut imaginer :

des évaluations certifiantes totalement en dehors des cours (sur le modèle du TOEIC ou du baccalauréat, par exemple pour les langues donc, pour l'expression française, pour des connaissances dans certains domaines, des compétences rédactionnelles...) ;

des évaluations certifiantes calées uniquement en fin d'UV (examen final de sortie de cours, avec éventuellement rattrapage, sans plus aucune note intermédiaire) ;

des évaluations de compétences individuelles (intéressantes pédagogiquement, mais coûteuses à organiser et demandant des compétences avancées de la part des évaluateurs).

Diminuer la pression sur les étudiants ?

Le contrat ECTS est très exigeant. 30 crédits par semestre c'est 750 à 900 heures attendues de travail en 16 semaines, vacances comprises, soit 45h à 55h par semaine. Plus la pression sur le temps est importante plus la tentation de tricher est grande.

On peut imaginer de renouer un contrat pédagogique d'un autre ordre avec les étudiants, fondé sur la confiance réciproque et la recherche de leur intérêt.

Simplifier la notation (pass or fail) ?

L'UTC a connu un système à 3 notes : " admis ", " non admis " et " mention " (équivalent à A). Dans ce système, on prête moins d'attention à la fonction sommative des évaluations. Si un apprenant obtient une note suffisante à un premier examen par exemple, il sait qu'il validera le module et il n'a pas d'intérêt particulier à optimiser ses autres évaluations sommatives.

Sauf à viser un A, mais on peut aussi se passer du A : c'est le cas des Activité Pédagogiques d'Inter-semestre à l'UTC qui sont évaluées juste avec " reçu " ou " non reçu ".

Passer d'une obligation de résultat à une obligation de moyen ?

De fait certains cours sont mobilisés pour la validation du diplôme, voire la sélection et le classement des étudiants, et d'autres comptent très peu pour cet objectif en pratique.

Certains cours pourraient donc être exclus du processus d'évaluation sommative (comme en formation professionnelle). On économiserait le temps de travail d'évaluation sommative qui pourrait être réinvesti ailleurs. Quelques étudiants en profiteraient certainement pour " passer au travers " de certains contenus, il faudrait pouvoir évaluer dans quelle mesure cela serait pire qu'aujourd'hui.

Renoncer à noter ? (pourquoi note-t-on ?)

Certains cours, sinon tous, pourraient donc échapper totalement à la notation.

À quelle fin évalue-t-on les étudiants dans une école qui a sélectionné à l'entrée comme l'UTC ?

Pour valider que les étudiants ont été " bien " sélectionnés ?

Pour les " forcer " à travailler ?

Pour faire " sérieux " ?

Pour répondre aux demandes d'organismes de certification du diplôme ?

...

# data[].attributes.attachment_link.title
IA génératives : la fin des exercices rédactionnels à l'université ?

# data[].attributes.attachment_link.description
Stéphane Crozat est membre de Framasoft, auteur de " Traces " et de " Les libres ", et surtout, enseignant à l'Université de Technologie de Compiègne (UTC). Il nous livre ci-dessous une réflexion personnelle - initialement publiée sur son blog - au sujet de l'usage des LLM (ChatGPT ou autre) dans les travaux des étudiant⋅es....

# data[].attributes.headline
L'art du prompt - Guide pour les personnes enseigantes

# data[].attributes.subject
L'art du prompt - Guide pour les personnes enseigantes

# data[].attributes.headline
IA génératives et ingénierie pédagogique : le prompting, pistes de travail et applications

# data[].attributes.subject
IA génératives et ingénierie pédagogique : le prompting, pistes de travail et applications

# data[].attributes.attachment_link.title
IA génératives et ingénierie pédagogique : le prompting, pistes de travail et applications

# data[].attributes.attachment_link.description
Résumé Résumé en français Pistes de travail sur la conception d’instructions pour les IA génératives : principes de base, enjeux, exemples. Résumé en anglais Directions for IA generative prompting : basic principles, issues, examples. Résumé en espagnol Instrucciones para la estimulación generativa de IA: principios básicos, cuestiones, ejemplos. Extraits Documents à télécharger IA génératives et … Continuer la lecture de « IA génératives et ingénierie pédagogique : le prompting, pistes de travail et applications »

# data[].attributes.headline
IA génératives et ingénierie pédagogique

# data[].attributes.subject
IA génératives et ingénierie pédagogique

# data[].attributes.attachment_link.description
Owlift (https://owlift.com) : – répond aux questions posées en plusieurs langues et niveaux – propose des outils de génération pour…

# data[].attributes.attachment_link.title
UNESCO: Governments must quickly regulate Generative AI in schools

# data[].attributes.attachment_link.description
As pupils in part of the world return to school after the summer break, UNESCO is calling on governments to implement appropriate regulations and teacher training, to ensure a human-centred approach to using Generative AI in education. To this end, UNESCO publishes the first-ever global Guidance on Generative AI in Education and Research, designed to address the disruptions caused by Generative AI technologies.

# data[].attributes.headline
Taxonomie de Bloom revisitée à l'ère de l'IA

# data[].attributes.subject
Taxonomie de Bloom revisitée à l'ère de l'IA

# data[].attributes.attachment_link.readable_text
En date de l'été 2023, l'Oregon State University a élaboré une série de conseils et de guides pour l'utilisation d'outils d'intelligence artificielle (IA) par le corps enseignant. Partant de la prémisse que les technologies IA évoluent rapidement, il y a suggestion d'une approche basée sur l'usage de ces outils IA à partir de cadres et de valeurs de manière à maximiser les bénéfices pour les actrices et acteurs de l'éducation et la communauté étudiante, tout en minimisant les risques possibles.

Plus particulièrement, l'article présente de manière non exhaustive, des pistes d'analyse des tâches d'apprentissage et d'évaluation à partir de la taxonomie de Bloom révisée par Anderson et Krathwohl afin :

d'évaluer comment les étudiants et étudiantes pourraient utiliser les outils IA pour les activités d'apprentissage et les évaluations ;

d'identifier les compétences humaines distinctives que le personnel enseignant peut continuer à promouvoir et à évaluer dans l'apprentissage.

Voici une traduction libre de l'infographie originale de l'Oregon State University (2023). Cette infographie illustre une adaptation de la taxonomie de Bloom révisée pouvant être utilisée, dans un contexte éducatif, comme référence pour évaluer et apporter des modifications à des activités pédagogiques et à des évaluations en tenant compte de deux perspectives, soit : les capacités des outils d'intelligence artificielle (IA) générative et le caractère unique des compétences humaines.

[ Télécharger la version PDF]

L'analyse permet une réflexion sur l'impact de l'IA, peu importe que la personne enseignante soit ou non encline à intégrer l'IA dans ses activités, ou à demander aux personnes apprenantes d'intégrer ces outils dans leurs processus d'apprentissage.

Pour explorer en salle de classe

Les personnes enseignantes souhaitant aller de l'avant avec l'utilisation de l'IA en classe pourront ainsi mieux planifier leurs activités, l'implication possible de l'IA générative choisie et les compétences que devront développer les apprenants et apprenantes selon le niveau taxonomique de l'activité en question.

Par exemple, l'article propose qu'une activité du niveau taxonomique Comprendre pourrait inviter les personnes apprenantes à utiliser l'IA générative pour aider à définir des concepts. Il pourrait ensuite être demandé à ces personnes de contextualiser ces concepts avec les ressources présentes dans leur environnement ou en faisant des liens avec le domaine affectif (selon le sujet).

Des exemples sont donnés pour chacun des niveaux dans l' article de l'Oregon State University afin d'inspirer ceux et celles qui aimeraient explorer différentes idées.

Un domaine en constante évolution

Bien entendu, au fur et à mesure que les capacités de l'IA augmentent et évoluent, les compétences humaines distinctives à mettre en avant auront besoin d'être modifiées en conséquence. Il s'agit donc de pistes d'analyse contextualisées aux outils disponibles à l'été 2023.

Comme on peut le constater, l'article conclut que toutes les activités et évaluations menées dans un contexte éducatif bénéficieront d'une révision compte tenu des capacités des outils IA, mais, celles aux niveaux Mémoriser et Analyser sont plus susceptibles de nécessiter des modifications.

Des ressources à explorer à ce sujet dans notre réseau

Références

OpenAI. (2023). ChatGPT 4 (version du 3 août 2023) [Traduction anglais-français]. https://chat.openai.com/chat

Oregon State University, (2023). Artificial Intelligence Tools. Advancing meaningful learning in the age of AI. Consulté le 13 septembre 2023 au https://ecampus.oregonstate.edu/faculty/artificial-intelligence-tools/meaningful-learning/

Siemens, G., Marmolejo-Ramos, F., Gabriel, F., Medeiros, K., Marrone, R., Joksimovic, S., & de Laat, M. (2023). Human and artificial cognition. Computers and Education: Artificial Intelligence 3.

# data[].attributes.attachment_link.description
En date de l'été 2023, l'Oregon State University a élaboré une série de conseils et de guides pour l'utilisation d'outils d'intelligence artificielle (IA) par le corps enseignant. Partant de la prémisse que les technologies IA évoluent rapidement, il y a suggestion d'une approche basée sur l'usage de ces outils IA à partir de cadres et ...

# data[].attributes.headline
Produire des Ressources Éducatives Libres (REL) avec l’intelligence artificielle

# data[].attributes.subject
Produire des Ressources Éducatives Libres (REL) avec l’intelligence artificielle

# data[].attributes.attachment_link.title
1 heure d'action pour l'éducation ! Septembre 2023 / Produire des Ressources Éducatives Libres (REL) avec l'intelligence artificielle | Open Education Global Francophone

# data[].attributes.headline
IA pour les enseignants : un manuel ouvert

# data[].attributes.subject
IA pour les enseignants : un manuel ouvert

# data[].attributes.attachment_link.provider_name
IA pour les enseignants : un manuel ouvert

# data[].attributes.attachment_link.title
IA pour les enseignants : un manuel ouvert: AI for Teachers

# data[].attributes.attachment_link.readable_text
L'équipe composée de chercheuses, de chercheurs et d'expert-es en éducation numérique, dont Dr. Sunny Avry, Prof. Francesco Mondada, Grégory Liégois, Elliot Vaucher, Felipe Martinez et Dr. Jessica Dehler Zufferey s'est penchée sur l'utilisation de ChatGPT par les enseignant-es des gymnases publics et des établissements privés du canton de Vaud. Réalisé entre le 22 février et le 22 mars 2023 en collaboration avec la Direction Générale de l'Enseignement Postobligatoire et l' Association Vaudoise des écoles privées, le premier sondage ce type dans la région recueille les impressions de 931 enseignant-es des gymnases publics et des écoles privées du Canton.

Deux rapports rassemblent les résultats de ce sondage.

Les résultats agrégés révèlent que 98% des enseignantes et enseignants interrogés connaissent ChatGPT et 52% d'entre eux l'ont déjà utilisé. Parmi celles et ceux qui l'ont utilisé, 24% l'ont fait dans le cadre de leur enseignement, principalement pour préparer leurs cours. En revanche, parmi les enseignant-es qui ne l'ont pas utilisé, les raisons évoquées sont le manque de temps, d'intérêt ou de besoin, ainsi que des préoccupations concernant le partage de données personnelles avec OpenAI, l'entreprise à but lucratif derrière ChatGPT.

L'enseignement est avant tout une profession basée sur les relations et ChatGPT ne peut pas remplacer la relation humaine entre l'enseignant et l'élève

Face à l'arrivée de cet outil, les enseignant-es éprouvent principalement un sentiment accru de responsabilité (56%), de crainte (43%) mais aussi d'émerveillement (34%). En effet, si ChatGPT impressionne par sa capacité à réaliser certaines tâches, il convient également aux enseignant-es de réfléchir aux moyens de limiter ses impacts négatifs potentiels dans l'enseignement.

Par exemple, les enseignant-es pensent majoritairement que ChatGPT peut faciliter la triche (87%), qu'il nécessite donc une révision des méthodes d'évaluation (78%), qu'il n'aidera pas le travail des enseignant-es (74%) et qu'il ne favorise pas l'apprentissage des élèves (55%). Dans les commentaires, une enseignante rapporte : "L'enseignement est avant tout une profession basée sur les relations et ChatGPT ne peut pas remplacer la relation humaine entre l'enseignant et l'élève".

Utilisation de ChatGPT par les enseignant-es en mars 2022. © 2023 EPFL

S'informer plutôt qu'interdire

Toutefois, l'idée d'interdire l'outil à l'école est rejetée par 76% des enseignant-es interrogé-es. Pour un autre enseignant, " Il n'est pas possible ni souhaitable d'interdire complètement ChatGPT dans les écoles. Une interdiction peut creuser les inégalités sociales et encourager les élèves à contourner les règles ". En outre, pour plus de la moitié des enseignant-es interrogé-es, il faudrait enseigner aux élèves comment l'utiliser à l'école.

Enfin, 76% des enseignant-es souhaitent recevoir des informations et des formations au sujet de ChatGPT, principalement en ce qui concerne son utilisation pédagogique. Quant aux formats plébiscités pour ces formations, ils et elles optent en majorité pour de la documentation PDF, des capsules vidéo et une formation en présentiel.

Les résultats de cette étude ont le potentiel de servir de base pour orienter les futures décisions et initiatives en matière de formation et d'accompagnement des enseignant-es à l'utilisation de l'IA, afin de les aider à naviguer dans un environnement numérique en constante évolution et à tirer le meilleur parti de ces nouveaux outils.

Le Centre LEARN de l'EPFL a déjà collaboré avec différentes institutions dans ce sens et est à disposition pour l'élaboration de projets de recherche et de formations visant à accompagner les enseignant-es dans cette transition numérique.

Pour plus d'information, rendez-vous sur la page de l'initiative "Intelligence Artificielle dans l'éducation" sur le site web du Centre LEARN.

Retrouvez le rapport complet concernant les écoles privées ici.

Retrouvez le rapport complet concernant les gymnases publics ici.

# data[].attributes.attachment_link.title
ChatGPT bouscule l'éducation: qu'en pensent les enseignant-es?

# data[].attributes.attachment_link.description
Objet d'un intérêt médiatique sans précédent depuis son lancement en novembre 2022, ChatGPT suscite de nombreuses réactions, et ce notamment dans le domaine de l'éducation. Face à ce phénomène, les expert-es en éducation numérique du Centre LEARN de l'EPFL ont voulu savoir ce que les enseignant-es directement concerné-es par cette technologie en pensent.

# data[].attributes.attachment_link.description
We’re releasing a guide for teachers using ChatGPT in their classroom—including suggested prompts, an explanation of how ChatGPT works and its limitations, the efficacy of AI detectors, and bias.

# data[].attributes.headline
Outil ou compagnon ? Comment nous parlons aux robots en dit long

# data[].attributes.subject
Outil ou compagnon ? Comment nous parlons aux robots en dit long

# data[].attributes.attachment_link.readable_text
Aujourd'hui, tout le monde s'adresse à des machines à longueur de journée : de Dragon à Alexa, en passant par Siri et la dictée vocale de votre téléphone, l'interaction humain-machine est plus que jamais au cœur de notre quotidien. Pourtant, cette interaction est modulée par de nombreux paramètres, et notamment à quel point la machine ressemble physiquement à un humain.

Or comprendre comment nous interagissons avec les robots nous permet de mieux comprendre comment nous gérons l'interaction avec des interlocuteurs nouveaux (à l'échelle de l'humanité) et toujours plus nombreux, et comment nous les intégrons à notre société (par comparaison avec nos autres interlocuteurs comme nos enfants ou nos animaux de compagnie). Comprendre comment l'interaction humain-machine fonctionne pourrait aussi nous aider à nous prémunir de potentiels biais dans nos interactions avec eux : les croire humains, leur prêter une conscience qu'ils n'ont pas, pour ne citer que des exemples qui résonnent avec l'actualité.

Read more: Google a-t-il développé une IA consciente ?

La parole adressée aux machines

" Alexa, comment ça va aujourd'hui ? " Intuitivement, vous savez que vous ne prononcerez pas cette question de la même façon si Alexa est votre bébé de deux mois, une petite fille de cinq ans, votre amie, ou votre supérieure hiérarchique. C'est ce qu'on appelle l'accommodation à son auditoire ( audience accommodation en anglais). Lorsque nous parlons à des machines, nous adaptons aussi notre langage, et l'adaptation dépend du type de machine.

La parole adressée aux machines (en anglais device-directed speech) a plusieurs caractéristiques. Nous adaptons notre prononciation. Quand nous nous adressons à un robot ou à une enceinte vocale, nous avons tendance à parler plus fort, avec une voix plus grave et moins modulée. Nous avons aussi tendance à hyper-articuler, c'est-à-dire à soigner notre prononciation. Notamment, nos voyelles seront plus longues et prononcées plus précisément que quand nous parlons à un humain.

Notre grammaire est également impactée. Nous avons tendance à faire plus de phrases et à faire des phrases plus simples qu'à des humains adultes, mais plus complexes qu'à des enfants. Par exemple, on utiliserait jusqu'à dix fois plus de subordonnées et aussi beaucoup plus de formulations passives quand on parle à un robot que quand on parle à un enfant. Ainsi, on dira au robot plutôt " La souris, qui est sortie de son trou, a été mangée par le chat " là où on dirait à un enfant " La souris est sortie de son trou. Le chat l'a mangée. "

Parallèlement, la gestuelle associée à la parole (dite gestualité co-verbale) est aussi impactée : nos mouvements de la main sont plus lents quand nous nous adressons à un enfant, et encore plus quand nous nous adressons à un robot, que quand nous parlons à un autre adulte.

Cependant, ce comportement que nous avons naturellement face aux machines n'est pas immuable. La plupart des études ont remarqué que notre comportement change au cours de l'interaction avec une machine, même quand celle-ci ne dure qu'un quart d'heure, jusqu'à ressembler un peu plus à celui qu'on réserve d'ordinaire à nos pairs.

Cette évolution de notre usage peut aussi être mise en relation avec notre habitude de l'interaction avec des machines. Ainsi, une étude de 2010 montre que les gens qui l'utilisent pour la première fois parlent au robot beaucoup plus fort, plus aigu, et plus hyper-articulé qu'à leurs pairs, même s'ils semblent attendre des robots des compétences communicatives élaborées similaires à celles des humains.

Plus le robot a l'air humain, plus nous le traitons comme tel

Dans une étude de 2008, un chercheur a testé 168 participants interagissant avec un avatar sur ordinateur. L'avatar pouvait avoir quatre degrés de ressemblance avec un véritable humain : il pouvait avoir une faible ressemblance, une ressemblance moyenne ou une ressemblance élevée avec un humain, ou enfin être l'image d'un véritable humain. Le chercheur a ensuite observé les réponses sociales des participants selon qu'ils ont fait confiance ou non à l'avatar lors du test, ou qu'ils ont rapporté s'être sentis proches de lui, l'avoir jugé compétent, etc. Il a ainsi montré que plus l'avatar avait l'air humain, plus il recevait de réponses sociales de la part des participants.

Read more: Pourquoi prenons-nous parfois les robots pour des humains ?

Plus récemment, une étude d'une équipe française sur la façon de parler à une enceinte vocale, à un robot humanoïde ou à un véritable humain a permis de mettre en lumière le fait qu'on s'adresse effectivement différemment à une enceinte vocale et à un androïde : nous parlons plus aigu et avec moins de variation dans la voix à l'enceinte qu'à l'androïde, et à l'androïde qu'à l'humain.

Cette même étude a montré que les femmes et les hommes ne se comportent pas de la même manière : en fin d'interaction, les hommes finissent par s'adresser au robot comme ils s'adressent à l'enceinte, c'est-à-dire à un autre appareil, là où les femmes finissent par s'adresser au robot comme à l'humain. Cette différence entre les hommes et les femmes a d'ailleurs aussi été observée dans une étude où des participants s'adressent à un robot-chien.

Ce comportement linguistique reflète notre traitement cérébral de l'interaction

Dans les sciences cognitives, la capacité à attribuer des intentions et des désirs à autrui est appelée " théorie de l'esprit ". La théorie de l'esprit se développe entre 0 et 5 ans, âge auquel les enfants comprennent que la conscience des autres est distincte de la leur.

Dans une étude de 2008, une équipe allemande a montré, grâce à de l'imagerie médicale (IRM), que plus le partenaire dans la conversation ressemble à un humain, plus les parties du cerveau associées à la théorie de l'esprit sont activées.

Vingt participants ont ainsi joué à un jeu avec soit un ordinateur, soit un robot non anthropomorphisé, soit un robot humanoïde, soit un humain. Il est ressorti que plus le partenaire était semblable à un humain, plus l'IRM enregistrait une activité corticale dans le cortex frontal ainsi que dans la jonction temporo-pariétale, deux zones du cerveau activées par la théorie de l'esprit. Les participants ont aussi rapporté que plus le partenaire semblait humain, plus ils avaient ressenti de compétitivité et d'amusement.

Cependant, les études citées (et d'autres) montrent que nous opérons toujours une distinction entre un interlocuteur humanoïde et un interlocuteur proprement humain. L'aspect humanoïde des machines nous invite donc à leur adresser la parole non plus comme à des machines, mais pas tout à fait comme à des humains.

# data[].attributes.attachment_link.title
Outil ou compagnon ? Comment nous parlons aux robots en dit long

# data[].attributes.attachment_link.description
Vous êtes-vous déjà surpris à parler très fort à votre téléphone ? C'est normal, nous nous adaptons pour parler aux machines... puis nous nous habituons rapidement.

# data[].attributes.attachment_link.provider_name
Le Cnam - Living Lab Sofa - Le Laboratoire des usages sociaux éducatifs du numerique

# data[].attributes.attachment_link.readable_text
Episode 2 - un exemple d'usage : le jeu de rôle avec la machine
(Ce billet de blog a été écrit par un humain, avec l'aide de ChatGPT)

Dans un article récent, le Living Lab Sofa du Cnam présentait le point de vue original de Xavier Aimé Responsable du master MéDAS (Méga Données et Analyse Sociale) au Cnam des Pays de la Loire et chercheur en Intelligence Artificielle. Il invitait ses collègues enseignants à envisager ChatGPT, application conversationnelle, " comme un atout plutôt qu'un ennemi ". Dans ce second épisode, il partage un exemple concret d'usage pédagogique. Il a utilisé ChatGPT pour simuler un jeu de rôle entre un client et un prestataire... Qui de l'humain ou de la machine va l'emporter ?
Le Living Lab Sofa : quel était le parti pris en intégrant ChatGPT dans votre cours ? Xavier Aimé : je considère qu'en tant qu'enseignant, j'ai un rôle à jouer pour sensibiliser à l'utilisation de ce genre d'outil en cours. Sensibiliser les enseignants bien sûr, mais aussi les élèves ! Je souhaite leur ôter de la tête l'idée que ChatGPT ne pourrait être utilisé que pour tricher. Je pose d'emblée en cours le principe que nous allons l'utiliser ensemble, officiellement et qu'il faut assumer cet usage. Mais attention ! Si nous l'utilisons c'est pour devenir meilleur, pour le dépasser ! Et nous devons donc apprendre à l'utiliser, à comprendre son mode de fonctionnement, à avoir un esprit critique sur ce qu'il nous dit et à essayer de faire mieux que lui. Pas mieux que lui contre lui, mais mieux que lui grâce à lui !

Le Living Lab Sofa : concrètement comment l'avez-vous utilisé ?
Xavier Aimé : j'ai expérimenté l'usage de ChatGPT dans le cadre d'un cours de gestion de projet, et je l'ai utilisé dans un jeu de rôle comme un client ! Cette notion de rôle est d'ailleurs très importante quand on utilise chatGPT. Les apprenants sont positionnés en chef de projet et doivent interroger ce client virtuel pour faire émerger un besoin. Ils indiquent le contexte et précisent leur demande dans la consigne : ChatGPT est un client à qui ils proposent une prestation, et ils attendent de lui qu'il exprime son besoin. Les apprenants affinent leurs questions au fur et à mesure et établissent un cahier des charges en fonction des réponses.

Le Living Lab Sofa : c'est comme un jeu de rôle ?
Xavier Aimé : absolument ! Un jeu de rôle d'humains face à une machine. Avant, c'était moi qui jouait le rôle du client. Là, ils ont pu converser avec un client virtuel, dont il est possible de faire varier les personnalités. On peut demander à ChatGPT d'être un client réfractaire ou enthousiaste. On peut lui donner des contraintes pour orienter son expression. Ce qui est pertinent, c'est que chaque groupe d'apprenants a interrogé ChatGPT avec le même sujet, mais a obtenu des réponses différentes, comme s'ils avaient des clients différents ! L'exercice s'est avéré très interactif.

Ensuite nous avons inversé les rôles. Les apprenants ont demandé à ChatGPT de devenir le prestataire et de constituer son cahier des charges. Et de leur poser des questions... En fonction de la réponse apportée, l'apprenant réajustait sa question suivante, et ainsi de suite. ChatGPT est devenu un outil d'autoapprentissage.

Le Living Lab Sofa : un match humain contre machine en quelque sorte ?
Xavier Aimé : absolument ! les apprenants contre ChatGPT ! D'ailleurs nous avons regardé qui offrait les fonctionnalités les plus intéressantes, les plus innovantes, lesquelles répondaient le mieux au besoin. Un groupe d'élève s'est démarqué : sa proposition était meilleure que ce que pouvait proposer la machine. Il avait adopté une démarche plus design, plus disruptive.

Le Living Lab Sofa : à la fin vous revenez avec les élèves sur ce qui s'est produit ?
Xavier Aimé : oui, bien sûr. Cet exercice ne vaut que si on prend un temps pour porter une analyse critique sur ce qui est produit par ChatGPT. Tout comme on doit le faire avec un humain d'ailleurs ! C'est l'occasion d'interroger par exemple la source des références qu'il mobilise. Simplement, l'outil engage davantage les apprenants dans la formation, ils ne voient pas le temps passer. Ils veulent tester pour voir jusqu'où la machine peut aller ! C'est très stimulant pour tout le monde.

# data[].attributes.attachment_link.title
Chat GPT : et si on l'utilisait pour apprendre ! - Le Cnam - Living Lab Sofa

# data[].attributes.attachment_link.description
Episode 2 - un exemple d'usage : le jeu de rôle avec la machine(Ce billet de blog a été écrit par un humain, avec l'aide de ChatGPT) Dans un article récent, le Living Lab Sofa du Cnam présentait le point de vue original de Xavier Aimé Responsable du master MéDAS (Méga Données et Analyse Sociale) au Cnam

# data[].attributes.headline
THE AI INDEX REPORT Measuring trends in Artificial Intelligence

# data[].attributes.subject
THE AI INDEX REPORT Measuring trends in Artificial Intelligence

# data[].attributes.attachment_link.title
AI Index Report 2023 - Artificial Intelligence Index

# data[].attributes.attachment_link.description
The AI Index is an independent initiative at the Stanford Institute for Human-Centered Artificial Intelligence (HAI), led by the AI Index Steering Committee, an interdisciplinary group of experts from across academia and industry. The annual report tracks, collates, distills, and visualizes data relating to artificial intelligence, enabling decision-makers to take meaningful action to advance AI responsibly and ethically with humans in mind.

# data[].attributes.headline
The European Network for Academic Integrity (ENAI) - Recommendations on the ethical use of Artificial Intelligence in Education

# data[].attributes.subject
The European Network for Academic Integrity (ENAI) - Recommendations on the ethical use of Artificial Intelligence in Education

# data[].attributes.attachment_link.readable_text
Show authors

International Journal for Educational Integrity 19, Article number: 12 (2023) Cite this article

14k Accesses

2 Citations

114 Altmetric

Metrics

Rationale

Artificial Intelligence (AI) tools are constantly being released into the public domain. As with all new technological innovations, this brings a range of opportunities and challenges for education: primarily for educators and learners. There is an increasing interest in the academic community and beyond to use Artificial Intelligence in Education (AIED) to generate content. This presents opportunities and challenges for academic and research integrity.

The European Network for Academic Integrity (ENAI) is an international association gathering educational institutions and individuals interested in maintaining and promoting academic integrity. As the use of AI tools may not always be consistent with academic integrity, we consider it important to familiarise all education stakeholders with how to use AI tools responsibly and in accordance with academic integrity practices and values.

ENAI presents a set of recommendations with the aim of supporting academics, researchers and other educational stakeholders, including students' organisations, on the ethical use of AI tools. The recommendations focus on the importance of equipping stakeholders with the skills and knowledge to use AI tools ethically and the need to develop and implement relevant educational policies addressing the opportunities and challenges posed by AIED.

Process

To create these recommendations, we used our experience and knowledge, both about AI, and academic integrity. The authors collectively drafted the main structure and main ideas of the recommendation. The draft was circulated to the ENAI working group members, most of whom provided valuable comments and suggestions. Then the authors incorporated the comments and prepared the final wording of the document.

The field of artificial intelligence is advancing fast, and the ways that it disrupts education are changing from one week to the next. We consider these recommendations as a working document, and we invite everyone to provide feedback. There will be a special session at the European Conference on Ethics and Integrity in Academia 2023 in Derby, UK, dedicated to this document.

Background and context

Academic integrity (AI) can be defined as "compliance with ethical and professional principles, standards, practices, and a consistent system of values that serves as guidance for making decisions and taking actions in education, research and scholarship" (Tauginienė et al. 2018, p. 8).

Artificial Intelligence refers to systems that appear to have "intelligent behaviour by analysing their environment and taking actions - with some degree of autonomy - to achieve specific goals" (European Commission, 2018, p. 4).

AI-based tools can be used to transform, produce or generate any kind of content, such as text, images, art, music, or programming code. Different technologies, including machine learning and neural networks, are used to develop the capabilities of these tools.

Authorised and declared usage of AI tools is usually acceptable. However, in an educational context, undeclared and/or unauthorised usage of AI tools to produce work for academic credit or progression (e.g. students' assignments, theses or dissertations) may be considered a form of academic misconduct ("any action or attempted action that undermines academic integrity and may result in an unfair academic advantage or disadvantage for any member of the academic community or wider society" (Tauginienė et al. 2018, p. 9). Moreover, it is increasingly challenging to reliably distinguish AI-generated content from human-produced content.

The wide accessibility of AI may exacerbate existing types of academic integrity threats, such as essay and paper mills, fabrication and falsification of data, etc.

Current definitions of misconduct, such as contract cheating and plagiarism, may not explicitly include this type of misconduct. Therefore, we propose an umbrella definition for all types of unauthorised content generation, including contract cheating and inappropriate use of AI:

Unauthorised content generation (UCG) is the production of academic work, in whole or part, for academic credit, progression or award, whether or not a payment or other favour is involved, using unapproved or undeclared human or technological assistance.

AIED can be used for unauthorised content generation; however, the use of AIED is not automatically unethical. There can be differences between academic disciplines, education institutions, courses, types of assessment, cultures, regions, and countries as to what is considered acceptable use of AI and what is not.

While AI can threaten academic integrity, it also presents opportunities. AI multiplies users' abilities - in both good and bad ways. Therefore, students and educators should be guided on the benefits and limitations of AI tools in order to learn and use AI ethically and uphold academic integrity. Moreover, with the increasing automatisation of modern societies, they will likely use AI tools in their professional life. Therefore, they should be given opportunities to learn these skills during their education.

Recommendations on the ethical use of AIED

All persons, sources, and tools that influence the ideas or generate the content should be properly acknowledged. Consequently, when an AI tool is used, it should be acknowledged. The acknowledgement may be done in different ways, according to the context, the institutional policies or other requirements. When possible, the input given to the AI tool should be specified.

Appropriate use of services, sources, and tools that only influence the form is generally acceptable (e.g. proofreaders, proofreading tools, spelling checkers, thesaurus).

An AI tool cannot be listed as a co-author in a publication as it cannot take responsibility for the content and findings reported. The person (human being or legal entity) is always accountable for the content, whether or not it was generated by AI (see COPE Guidelines for Authorship and AI by Levene 2023).

The outputs of AI tools can include biased, inaccurate, or incorrect content that users should be aware of. This may be caused by bias in training data, algorithms, filters, etc.

It is important to include information about AI in education for all students and in training for teachers. If students do not have the opportunity to learn about the ethical use of AI, they will be more susceptible to engaging in inappropriate use of AI, which may constitute academic misconduct.

Students should be included and educated on the following:

Teachers should receive training on ethical use of AI including development of relevant learning outcomes, learning activities, and assessment strategies.

National guidance and institutional-level policies should be developed and/or reframed to include AI. National guidance should provide overarching advice on what institutions should include in their policies.

Institutional policies should:

Define default rules on when and how the students, teachers, researchers and other educational stakeholders are allowed to use different kinds of AI tools. There should be space for specific rules at course level. The policy and the rules should be clearly communicated to all stakeholders.

Guide the users on how to correctly and transparently acknowledge the use of AI tools in an assignment, dissertation, thesis, paper, article, book chapter, computer programme, graphic, artwork and other types of artefact.

Summary statement

There is no doubt that AI brings significant change to education. As with any other technology, it extends and enhances human abilities and may be used both in a positive and a negative way. ENAI urges national policymakers, institutions, and all individual members of the academic community to seek ways on the ethical use of AI and share best practices in order to benefit from the opportunities that AI brings to education and science.

References

Download references

Acknowledgements

We would like to acknowledge the contribution of the members of ENAI working groups, namely: Sue Hackett, Olumide Popoola, Debora Weber-Wulff, Teddi Fishman, Michael Draper, Shiva Sivasubramaniam, Lorna Waddington, Brenda Stoesz, Arash, Sandie Dann, Sarah Elaine Eaton, Salim Razi, Oraz Myradov.

Author information

Authors and Affiliations

1. Masaryk University, Brno, Czech Republic

Tomas Foltynek

2. Uppsala University, Uppsala, Sweden

Sonja Bjelobaba

3. Coventry University, Coventry, UK

Irene Glendinning

4. University of Wollongong in Dubai, Dubai, United Arab Emirates

Zeenath Reza Khan

5. European Network for Academic Integrity, Brno, Czech Republic

Rita Santos & Július Kravjar

6. European Students Union, Brussels, Belgium

Pegi Pavletic

Contributions

All the authors were included in the drafting of the document. The authors read and approved the final manuscript.

Corresponding author

Correspondence to Sonja Bjelobaba.

Ethics declarations

Competing interests

The authors declare that they have no competing interests.

Additional information

Publisher's Note

Springer Nature remains neutral with regard to jurisdictional claims in published maps and institutional affiliations.

Rights and permissions

Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or other third party material in this article are included in the article's Creative Commons licence, unless indicated otherwise in a credit line to the material. If material is not included in the article's Creative Commons licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://creativecommons.org/licenses/by/4.0/. The Creative Commons Public Domain Dedication waiver ( http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated in a credit line to the data.
Reprints and Permissions

About this article

Cite this article

Foltynek, T., Bjelobaba, S., Glendinning, I. et al. ENAI Recommendations on the ethical use of Artificial Intelligence in Education. Int J Educ Integr 19, 12 (2023). https://doi.org/10.1007/s40979-023-00133-4
Download citation

# data[].attributes.attachment_link.title
ENAI Recommendations on the ethical use of Artificial Intelligence in Education - International Journal for Educational Integrity

# data[].attributes.attachment_link.description
Show authors International Journal for Educational Integrity 19, Article number: 12 (2023) Cite this article 14k Accesses 2 Citations 114 Altmetric Metrics Artificial Intelligence (AI) tools are constantly being released into the public domain. As with all new technological innovations, this brings a range of opportunities and challenges for education: primarily for educators and learners.

# data[].attributes.headline
« ChatGPT : ennemi ou allié pour l’enseignement supérieur ? »

# data[].attributes.subject
« ChatGPT : ennemi ou allié pour l’enseignement supérieur ? »

# data[].attributes.attachment_link.title
« ChatGPT : ennemi ou allié pour l’enseignement supérieur ? »

# data[].attributes.headline
Aomni is an information retrieval AI agent that is able to find, extract, and process any data for you on the internet.

# data[].attributes.subject
Aomni is an information retrieval AI agent that is able to find, extract, and process any data for you on the internet.

# data[].attributes.headline
Generative Agents: Interactive Simulacra of Human Behavior

# data[].attributes.subject
Generative Agents: Interactive Simulacra of Human Behavior

# data[].attributes.body
Risques :
• nouer des relations parasociales avec les agents génératifs.
• provoquer des désagréments et, au pire, nuire à l'utilisateur en conséquence des erreurs générées.
• exacerber les risques existants associés à l'IA générative, par exemple les deepfakes, la génération de fausses informations et la persuasion sur mesure.
• se substituer à une véritable contribution humaine, dépendance excessive.

# data[].attributes.headline
L’Intelligence Artificielle remplace les professeurs à Télécom Paris !

# data[].attributes.subject
L’Intelligence Artificielle remplace les professeurs à Télécom Paris !

# data[].attributes.attachment_link.description
Éléments évoqués par le Professeur Florian Meyer L'intelligence artificielle est déjà très présente dans nos vies, elle le deviendra sans aucun doute de plus en plus, il faut donc amener les étudiant.es à développer les compétences qui leur permettront de s'adapter à des outils d'IA qui feront partie de leur

# data[].attributes.headline
Diminuer le risque de triche par IA et ChatGPT - Document collaboratif créé par Simon Duguay

# data[].attributes.subject
Diminuer le risque de triche par IA et ChatGPT - Document collaboratif créé par Simon Duguay

# data[].attributes.headline
Chatting and cheating: Ensuring academic integrity in the era of ChatGPT

# data[].attributes.subject
Chatting and cheating: Ensuring academic integrity in the era of ChatGPT

# data[].attributes.body
ChatGPT & plagiat

# data[].attributes.attachment_link.title
Chatting and cheating Ensuring academic integrity in the era of ChatGPT

# data[].attributes.headline
ChatGPT is the push higher education needs to rethink assessment

# data[].attributes.subject
ChatGPT is the push higher education needs to rethink assessment

# data[].attributes.body
"If the purpose of higher education is that students memorise and summarise a body of knowledge, and that this is then certified via assessment, then ChatGPT is an existential threat. "

# data[].attributes.attachment_link.readable_text
With proper teaching, students can use ChatGPT to develop their arguments and build their essays. Gorodenkoff/Shutterstock

The COVID-19 pandemic was a shock to higher education systems everywhere. But while some changes, like moving lectures online, were relatively easy to make, assessment posed a much bigger challenge. Assessment can take many forms, from essays to exams to experiments and more.

Many institutions and individual academics essentially outsourced the assessment process to software. They increased their use of programs like Turnitin to check for matched wording in students' assignments. And for closed-book, timed tests they used tools such as Proctorio, which monitor a student's computer or phone while they write exams.

But universities did not seize this chance to reflect on what higher education is for and how assessment might be used to enhance its achievement. Instead they doubled down on the status quo, breathing a sigh of relief once isolation and lockdown orders were revoked and things could return to "normal".

The advent of ChatGPT and similar chatbots provides another opportunity for the sector to reflect on why and how it assesses - and what higher education is for.

ChatGPT is a chatbot technology, powered by artificial intelligence (AI), that enables users to have natural, human-like conversations with a computer. It uses advanced language processing techniques to understand user input and provide natural, contextual responses. With ChatGPT, users can converse with a computer in a way that feels like talking to a real person. It scrapes information from a large database mined from the internet and uses this to create a unique response to a prompt.

So, for instance, it can write an essay on any topic - "the advantages of breastfeeding" or "the social complexity of the refugee crisis in Europe". It can also be trained to provide context-specific essays.

We are academics from South Africa, Australia, the UK and the US, working in fields related to education, ways of learning and teaching, and academic practice. We believe ChatGPT could be a powerful impetus to shift from understanding assessment as the assurance of an educational "product" to assessment as learning.

Used properly, it could be a valuable way to teach students about critical thinking, writing and the broader role of artificial intelligence tools like chatbots in the world today.

Threat or opportunity?

The advent of ChatGPT has prompted a variety of reactions from universities all over the world. In the UK, for instance, the reaction towards ChatGPT and higher education has veered from the hyperbolic - will AI ruin universities? - to the more measured, such as considering what students think of the technology.

If the purpose of higher education is that students memorise and summarise a body of knowledge, and that this is then certified via assessment, then ChatGPT is an existential threat. The market value of credentials is directly threatened if universities can no longer confidently assert that the texts assessed by academics have indeed been produced by their students.

But if the purpose of higher education is to nurture a transformative relationship to a particular body of knowledge that enables students to see the world - and their place in it - in new ways, then assessment takes on a vastly different meaning.

Used well, ChatGPT and similar tools can show students the wonders and responsibilities of acquiring and building powerful knowledge. It can assist rather than being seen in opposition to their learning.

Here are four ways this might happen.

Four potential applications

1. Students can reflect on articles produced by ChatGPT which have fabricated references and distorted information and then deliberate on the potential consequences of this in an era of fake news.

2. Students can be set assignments that require them to compare ChatGPT's answers to ones they have developed and ascertain whether they know the material and how it might be represented differently.

3. ChatGPT can be used to support essay writing and to help foster a sense of mastery and autonomy. Students can analyse ChatGPT responses to note how the software has drawn from multiple sources and to identify flaws in the ChatGPT responses which would need their attention.

4. Students can be encouraged to consider the extent to which their use of ChatGPT has enabled or constrained their access to powerful knowledge. This is a chance to critically reflect on where and how the use of AI is taking place in society and their potential future professions.

There is already a multitude of ideas available online about how ChatGPT can be used to create prompts for assignments. Lecturers and students can explore these to see how they might be adapted for their own learning and teaching needs.

None of these ideas will be simple to implement. Academics will need support from their institutions in considering what such technological developments mean for their disciplines. And, we'd argue, that support must help academics to move beyond seeking ways to trick the software or to monitor students.

Innovation and inclusion

Society and the higher education sector squandered the opportunity that COVID presented to reflect on what higher education was for and how assessment might be used to enhance learning.

Rather than signalling the end of higher education, ChatGPT has instead presented the sector, and society more broadly, with another opportunity. This is a chance to develop innovative and inclusive teaching, learning, and assessment aligned to such understandings.

# data[].attributes.attachment_link.title
ChatGPT is the push higher education needs to rethink assessment

# data[].attributes.attachment_link.description
The COVID-19 pandemic was a shock to higher education systems everywhere. But while some changes, like moving lectures online, were relatively easy to make, assessment posed a much bigger challenge. Assessment can take many forms, from essays to exams to experiments and more. Many institutions and individual academics essentially outsourced the assessment process to software.

# data[].attributes.headline
Community input on generative AI sharing - Creative Commons

# data[].attributes.subject
Community input on generative AI sharing - Creative Commons

# data[].attributes.attachment_link.readable_text
Over the last year, innovation and use of generative artificial intelligence (AI) has proliferated, providing new ways for people to create content from art to zines, and everything in between. At CC, we've been watching these experiments in creativity while considering what it all means for what we call better sharing: sharing that is contextual, inclusive, just, equitable, reciprocal, and sustainable. What will generative AI mean for CC's mission to overcome legal obstacles in sharing knowledge and creativity to address the world's most pressing challenges?
Like the rest of the world, CC has been watching generative AI and trying to understand the many complex issues raised by these amazing new tools. We are especially focused on the intersection of copyright law and generative AI. How can CC's strategy for better sharing support the development of this technology while also respecting the work of human creators? How can we ensure AI operates in a better internet for everyone? We are exploring these issues in a series of blog posts by the CC team and invited guests that look at concerns related to AI inputs (training data), AI outputs (works created by AI tools), and the ways that people use AI. Read our overview on generative AI or see all our posts on AI.
Supporting community-driven solutions has always been at the heart of CC's approach to sharing and creativity. In February, we held open meetings with our community to start to explore what CC might do new or differently in a world filling with AI-generated creations. Over 65 people registered to participate in the conversation from all over the world, including artists, educators, lawyers, librarians, policymakers, scholars, scientists, students, technologists, and more.

To get the conversation started, we asked participants to consider some framing questions:

How can CC and its community help to ensure AI participates in better sharing for all and contributes to a public interest commons?

How can CC best enable creators to shape how their works contribute to training AI?

How can CC clarify the copyright status of works generated using AI?

The conversations were wide ranging, touching on some of the specifics of how generative AI actually works, how current copyright laws intersect with AI inputs and outputs, and ideas around where CC and our community might focus, including expanding CC's educational offerings and policy advocacy on AI topics, mechanisms for rightsholders to opt in and/or out of AI training datasets, and mechanisms to better record and cite the provenance of works generated both by humans and AI. You can read and comment on the raw notes from all three community meetings.

Going forward, CC will house community conversation about generative AI within our Copyright Platform, where you can learn more about how anyone can join and contribute to work at the intersection of generative AI, better sharing, and CC's mission.

We thank everyone who has contributed to the discussion so far, not only in these meetings, but in the AI webinars we held during Nov 2022, and all the other ways we've been in touch. We encourage you to keep helping us think through the complex questions that AI technologies and practices raise for all of us who are working to support a commons in the public interest.

Stay in touch with CC: subscribe to our mailing list, follow us on social media ( Facebook, Instagram, LinkedIn, Mastodon & Twitter), or join CC on Slack.

# data[].attributes.attachment_link.title
CC Community Input: Better Sharing for Generative AI - Creative Commons

# data[].attributes.attachment_link.description
Over the last year, innovation and use of generative artificial intelligence (AI) has proliferated, providing new ways for people to create content from art to zines, and everything in between. At CC, we've been watching these experiments in creativity while considering what it all means for what we call better sharing: sharing that is contextual, ...

# data[].attributes.headline
🤖 Comprendre ChatGPT (avec DefendIntelligence)

# data[].attributes.subject
🤖 Comprendre ChatGPT (avec DefendIntelligence)

# data[].attributes.attachment_link.title
🤖 Comprendre ChatGPT (avec DefendIntelligence)

# data[].attributes.headline
Enseignement supérieur et intelligence artificielle : je t’aime, moi non plus - 16 mars 2023

# data[].attributes.subject
Enseignement supérieur et intelligence artificielle : je t’aime, moi non plus - 16 mars 2023

# data[].attributes.attachment_link.title
Enseignement supérieur et intelligence artificielle : je t'aime, moi non plus

# data[].attributes.attachment_link.description
Au-delà des interrogations sur les questions d'intégrité académique qu'a suscité l'ouverture de ces outils, comment former nos étudiantes et nos étudiants av...

# data[].attributes.attachment_link.title
De quoi ChatGPT est-il VRAIMENT capable ? | Ft. Science4All

# data[].attributes.headline
Un MOOC sur Chat-GPT par l'Université de Montréal

# data[].attributes.subject
Un MOOC sur Chat-GPT par l'Université de Montréal

# data[].attributes.attachment_link.readable_text
Ce MOOC permettra à l'usager de se familiariser avec ChatGPT, le modèle de langage populaire d'OpenAI, devenu une sensation mondiale. Quelles sont les limites et enjeux de l'outil ? Êtes-vous en mesure de comprendre la situation de ChatGPT par rapport aux autres avancées de l'IA ?

Le premier module du cours est conçu pour vous offrir un aperçu des fonctionnalités de ChatGPT et des autres outils similaires, les modèles de langage génératifs. En tant qu'assistant personnel ou professionnel, cette nouvelle classe d'outils peut remplir plusieurs rôles. Plusieurs exemples concrets de cas d'utilisation tirés du site officiel Open AI et de la communauté Reddit r/ChatGPT seront fournis pour vous aider à utiliser ChatGPT de manière efficace ou créative. Plusieurs exemples d'invites utiles seront mentionnés pour vous inspirer dans votre démarche. Vous verrez, dans l'action, l'usage de ChatGPT pour le dialogue, l'auto-apprentissage, l'aide à la rédaction littéraire et la recherche.

Le second module propose d'engager la discussion, avec l'actualité en trame de fond. Les dangers entourant le déploiement de ce type de technologie et ses impacts sociaux et économiques (pertes d'emplois, délocalisations, obsolescence professionnelle), ainsi que ses effets sur le monde de l'enseignement n'auront pas fini de faire parler ! Une revue de presse interactive couvrira les limites actuelles, dangers, défis et opportunités de l'outil. La revue de presse sera mise à jour périodiquement pour couvrir l'actualité la plus récente sur le sujet.

Dans le 3e module, on vous partage un ensemble de ressources pour mieux comprendre les dernières avancées de l'IA et ses applications. On présente d'abord la famille élargie de GPT, les outils génératifs actuellement disponibles au public ; les autres modèles de langage, les applications pour la création visuelle, auditive, musicale, voix de synthèse et vidéo. On présente les MOOC EDU lib par spécialité de l'IA, où les participants peuvent poursuivre leur apprentissage : Introduction à l'IA (4 cours), biais et éthique de l'IA (2 cours), L'IA dans l'industrie (La santé, l'exploration de ressources naturelles, la finance, les systèmes de recommandation).

Tout au long du cours, les usagers seront encouragés à partager leurs observations dans les forums et y discuter les plus récentes nouvelles sur l'IA. Par ce forum international francophone, nous espérons engager une réflexion et un dialogue entre tous les usagers de la société civile, dans une démarche qui fait écho à la pause de réflexion de 6 mois, réclamée par un grand panel d'experts sérieux.

Faisons en sorte que l'été 2023 soit propice aux échanges fructueux !

Ce cours vous donnera des ailes !

Vous verrez plusieurs astuces nécessaires pour tirer parti de ChatGPT pour votre intérêt personnel et professionnel.

Vous serez en mesure de l'utiliser de façon critique et de reconnaître les enjeux de société qu'il soulève.

Vous pourriez même être capable de réaliser vos propres projets en un rien de temps (avec l'aide de ChatGPT).

# data[].attributes.attachment_link.description
L'arrivée de l'IA et son impact sur votre travail vous préoccupe? Vous vous demandez comment tirer parti vous-même de l'IA? Vous n'avez pas assez expérimenté avec l'IA jusqu'à aujourd'h

# data[].attributes.headline
Former à l'éthique de l'intelligence artificielle: un référentiel de compétence

# data[].attributes.subject
Former à l'éthique de l'intelligence artificielle: un référentiel de compétence

# data[].attributes.body
Voir aussi : Pistes de référentiel des compétences IA par niveaux scolaires F. Bocquet DNE TN2 novembre 2022

# data[].attributes.attachment_link.readable_text
Nous pensons qu'il est essentiel d'enseigner à nos étudiants et étudiantes les implications sociétales de l'intelligence artificielle (IA) dans toutes ses applications. Nous avons créé un référentiel de compétence en éthique de l'IA pour répondre à la demande croissante de nombreux acteurs de l'enseignement supérieur qui souhaitent proposer différents types de formations en éthique de l'IA.

Le besoin d'enseigner l'éthique de l'IA

Nous sommes tous les 2 professeurs de philosophie au Collège André-Laurendeau. Nous avons un intérêt de longue date pour les sujets liés à la philosophie de la technologie, notamment l'éthique de l'IA. (Frédérick a même écrit sa thèse sur l'éthique de la technologie).

Nous avions d'ailleurs commencé depuis quelques années à intégrer des éléments relatifs à ces défis dans nos cours de philosophie (dans le cours d'éthique et dans le cours sur l'être humain). Il est simple de discuter du numérique avec les étudiants et les étudiantes. Il n'est pas nécessaire de leur faire comprendre l'importance du sujet, car ils sont en permanence en contact avec le numérique !

Nous avons remarqué qu'il y avait un intérêt marqué pour l'éthique de l'IA en enseignement supérieur actuellement (de la part des chercheurs, des professeurs, mais aussi des établissements d'enseignement). Cependant, nous avons constaté qu'il n'y avait pas de consensus sur ce qui devrait être au cœur de la formation à l'éthique de l'IA.

Il n'y a pas de littérature qui traite expressément de l'enseignement de l'éthique de l'IA pouvant contribuer à la préparation de nos cours. Il existe plusieurs documents et prises de position sur l'éthique de l'IA, mais relativement peu sur l'enseignement de l'éthique de l'IA. De plus, la plupart des formations en éthique de l'IA en sont encore à leurs débuts.

Notre référentiel de compétence pour l'enseignement de l'éthique de l'IA

Nous avons cherché à définir la compétence en éthique de l'IA que les étudiants et étudiantes devraient acquérir. Pour ce faire, nous avons travaillé en collaboration avec André Mondoux, sociologue et professeur à l'École des médias de l'UQAM. Nous avons créé un référentiel de compétence. Notre projet a été soutenu par le Pôle montréalais d'enseignement supérieur en intelligence artificielle (PIA).

Notre référentiel est conçu pour aider ceux et celles qui envisagent de développer un programme de formation sur l'éthique de l'IA et sur la manière de l'organiser. Il ne s'agit pas d'un outil pédagogique au sens traditionnel du terme (mais des outils pédagogiques peuvent être construits à partir du référentiel !)

Notre référentiel est conçu pour aider les personnes qui souhaitent créer de nouveaux cours. Il peut s'agir de directions d'établissement qui souhaitent proposer un nouveau cours ou d'enseignants qui souhaitent axer une session sur le sujet dans le cadre d'un cours existant, par exemple.

Nous avons construit notre référentiel en tenant compte de différents contextes d'enseignement collégial ou universitaire:

des cours qui portent entièrement sur le sujet

des cours qui intègrent un seul module ou une seule séance sur le sujet

des activités extracurriculaires en lien avec le sujet

Nous avons aussi tenu compte de la diversité des profils des étudiants: certains se spécialisent en informatique, d'autres en sciences sociales, en communication ou encore en santé, par exemple.

Contenu du référentiel

Notre référentiel est basé sur une interprétation de la compétence éthique inspirée de l'approche philosophique du pragmatisme américain.

Le référentiel identifie 3 composantes essentielles à la compétence éthique:

1. la sensibilité éthique (la capacité de la personne de reconnaître qu'elle est dans une situation éthique)

2. les capacités réflexives (le savoir-agir en situation éthique)

3. les capacités dialogiques (l'interaction en situation éthique)

Le référentiel identifie aussi 4 champs de compétence en éthique de l'IA.
Les 4 champs de la compétence en éthique de l'IA

Champ de compétence Dans ce champ de compétence, par exemple, on s'intéresse...

Aspects techniques des systèmes d'IA

... au rôle de l'algorithme de YouTube quant à la polarisation des discours, la dissémination de la désinformation et la diffusion de contenu à caractère haineux ou violent.

Dilemmes moraux liés aux systèmes d'IA

... à l'utilisation des applications mobiles de traçage des contacts et de notification d'exposition à la COVID-19 et à la tension qu'elle génère entre la protection de la vie privée, le consentement et la sécurité.

Contexte sociotechnique des systèmes d'IA

... à l'utilisation de l'IA à des fins de police prédictive et aux effets potentiellement discriminatoires de ces pratiques.

Cadres normatifs complémentaires à l'éthique

... à la Déclaration de Montréal pour un développement responsable de l'intelligence artificielle, la Loi sur la protection des données personnelles dans le secteur privé ou la Proposition de règlement concernant l'IA de l'Union européenne.

Le développement du référentiel

Pour bâtir le référentiel, nous avons consulté une trentaine de spécialistes. Nous avons interviewé des gens de tous les horizons:

spécialistes en éthique

personnes issues des sciences sociales

juristes

experts de l'IA dans l'industrie

spécialistes en éducation

Nous avons constaté qu'il existe aujourd'hui 2 formes principales de formation à l'éthique de l'IA, toutes 2 situées aux extrémités opposées d'un continuum.:

De nombreux cours sont présentés comme des cours d'éthique (notamment dans les écoles d'ingénieurs et d'informatique), mais il existe une certaine confusion entre l'éthique et la déontologie. On forme les étudiants et étudiantes à des règles auxquelles ils doivent obéir. C'est un aspect important de l'éthique, mais au final réducteur.

Certaines formations (notamment en philosophie) réduisent la pratique du jugement éthique des étudiants et étudiantes à une application des théories éthiques classiques à des questions spécifiques. Là encore, il y a quelque chose de mécanique qui n'est pas totalement satisfaisant et qui est fréquemment décontextualisé.

L'approche pragmatiste que nous avons adoptée nous permet de combiner ces 2 approches tout en évitant leurs écueils. Ainsi, dans le référentiel, il y a un champ de compétence lié aux dilemmes moraux associés à l'IA. Cependant, il en existe un autre qui est lié aux cadres normatifs et un autre associé au contexte sociotechnique, et ces champs imposent des responsabilités spécifiques.

Comment le référentiel peut-il être utile à un enseignant ou une enseignante?

Lorsqu'un enseignant ou une enseignante adopte une perspective pragmatiste de l'éthique comme celle qui est proposée dans le référentiel, cette approche l'oriente vers de nombreuses activités et stratégies pédagogiques qui permettent aux élèves d'acquérir les nombreuses composantes de la compétence éthique.

Au Cégep André-Laurendeau, nous avons offert pour la 1re fois à l'hiver un cours complémentaire sur l'éthique de l'IA. Nous avons pu développer le cours en utilisant notre propre référentiel! En réalité, notre référentiel a servi de canevas pour délimiter les sections du cours. Les activités pédagogiques ont été développées en fonction des différentes composantes de la compétence éthique telles que décrites dans le référentiel. Par conséquent, alors que nous cherchions des activités pédagogiques pour le cours, nous avons souvent consulté le référentiel pour nous assurer que nous ne négligions aucune composante ou champ de compétence.

Par conséquent, pour un enseignant ou une enseignante, le référentiel sert à clarifier les options et à fournir une direction dans la préparation des activités pédagogiques.

Suites du projet

Après la publication de notre référentiel, nous avons obtenu une 2 e subvention du PIA, cette fois pour créer une trousse pédagogique pour l'enseignement de l'éthique de l'IA. Nous voulons créer des activités pédagogiques qui abordent chacune des dimensions de la compétence en éthique de l'IA. Les enseignants et enseignantes qui choisiront d'utiliser ces exercices pourront le faire en ayant des options clé en main. Nous vous tiendrons au courant !

# data[].attributes.attachment_link.title
Former à l'éthique de l'intelligence artificielle: un référentiel de compétence - Éductive

# data[].attributes.attachment_link.description
Nous pensons qu'il est essentiel d'enseigner à nos étudiants et étudiantes les implications sociétales de l'intelligence artificielle (IA) dans toutes ses applications. Nous avons créé un référentiel de compétence en éthique de l'IA pour répondre à la demande croissante de nombreux acteurs de l'enseignement supérieur qui souhaitent proposer différents types de formations en éthique de l'IA.

# data[].attributes.headline
Un Guide de l'enseignant sur l'usage de ChatGPT

# data[].attributes.subject
Un Guide de l'enseignant sur l'usage de ChatGPT

# data[].attributes.headline
New Modes of Learning Enabled by AI Chatbots: Three Methods and Assignments

# data[].attributes.subject
New Modes of Learning Enabled by AI Chatbots: Three Methods and Assignments

# data[].attributes.attachment_link.readable_text
21 Pages Posted: 23 Dec 2022

Date Written: December 13, 2022

Abstract

Chatbots are able to produce high-quality, sophisticated text in natural language. The authors of this paper believe that AI can be used to overcome three barriers to learning in the classroom: improving transfer, breaking the illusion of explanatory depth, and training students to critically evaluate explanations. The paper provides background information and techniques on how AI can be used to overcome these barriers and includes prompts and assignments that teachers can incorporate into their teaching. The goal is to help teachers use the capabilities and drawbacks of AI to improve learning

Keywords: AI, education, chatbot, transfer, learning

# data[].attributes.attachment_link.keywords[]
new modes of learning enabled by ai chatbots: three methods and assignments

# data[].attributes.attachment_link.title
New Modes of Learning Enabled by AI Chatbots: Three Methods and Assignments

# data[].attributes.attachment_link.description
21 Pages Posted: 23 Dec 2022 Date Written: December 13, 2022 Chatbots are able to produce high-quality, sophisticated text in natural language. The authors of this paper believe that AI can be used to overcome three barriers to learning in the classroom: improving transfer, breaking the illusion of explanatory depth, and training students to critically evaluate explanations.

# data[].attributes.headline
Il ne faut pas faire semblant d'être dans un monde qui ne travaille qu'avec son cerveau.

# data[].attributes.subject
Il ne faut pas faire semblant d'être dans un monde qui ne travaille qu'avec son cerveau.

# data[].attributes.attachment_link.readable_text
On ne présente plus ChatGPT, l'intelligence artificielle qui fait peur à de nombreux enseignants. Pas tous visiblement, puisqu'un prof de l'Institut Polytechnique de Paris a décidé d'intégrer le système avec un objectif : l'apprentissage de ses élèves. Antonio Casilli enseigne la sociologie à des étudiants d'école d'ingénieurs " de niveau master 1", précise-t-il sur son post Facebook.

Son idée ? Demander à ses étudiants d'utiliser ChatGPT pour leur apprendre à vérifier l'information fournie par l'outil " et réviser les bases de sociologie grâce à une phase de travail bibliographique et l'envoi de toute la conversation pour évaluation ".

Un exercice 100% basé sur ChatGPT

Ainsi en TD, les élèves ont eu à se lancer dans un ChatGPT Challenge, " comme j'ai déjà fait faire des Wikipedia challenge, où les élèves devaient alimenter des pages Wikipedia ", précise Antonio Casilli pour qui ChatGPT n'est pas un outil de triche mais peut être un outil d'apprentissage.

30 minutes pour poser des questions à ChatGPT " pour générer une conversation qui répète ce qui a été dit en classe la semaine d'avant " et qui leur impose d'avoir compris et " de poser les bonnes questions pour avoir les bonnes réponses " ; 20 minutes ensuite pour travailler sur la bibliographie du texte puis à vérifier la véracité des réponses de ChatGPT.

Des élèves soulagés

Côté étudiants, après les nombreuses interdictions de s'en servir dans l'enseignement supérieur, l'utilisation de ChatGPT peut être difficile à assumer. Pas chez les étudiants d'Antonio Casilli : " Il y a eu un certain soulagement, de ne pas avoir à mentir en disant qu'ils n'avaient jamais utilisé l'outil. Mais ils ont été aussi soulagés quand je l'ai évoqué parce que leurs enseignants sont parfois méfiants dans d'autres contextes. Je sais que certains, qui font du code notamment, ont du mal à s'en saisir, car quand ils lui demandent du code, ChatGPT leur produit d'énormes erreurs. "

Ils savent aussi que d'autres exercices vont pouvoir leur être proposés. " Utiliser différents prompts pour obtenir la même réponse, ou des réponses qui se ressemblent énormément, pour voir ce qu'est un consensus et ce qu'est une connaissance consensuelle ; ou leur donner n'importe quel texte scientifique post 2021 et voir comment à partir de différents prompts ChatGPT est capable de le reproduire ", énumère l'enseignant.

" Si avant on utilisait la calculette, les processeurs, on peut utiliser ChatGPT "

Il nous précise : " ChatGPT n'est en soi pas révolutionnaire, l'IA propose juste de générer des textes sans expliquer pourquoi. C'est excellent pour improviser, pour faire de la mise en forme de texte ou de la traduction, mais pas pour une recherche factuelle d'infos. D'autre part, ce sont des fonctionnalités que d'autres logiciels permettaient de faire avant. "

L'enseignant de socio, " assez vieux pour [se] servir de Google ou de Wikipedia ", a intégré l'outil dans sa pratique avec ses élèves pour une raison simple : " Il ne faut pas faire semblant d'être dans un monde qui ne travaille qu'avec son cerveau uniquement. Je travaille avec les outils dont les élèves et moi disposons. Si avant on utilisait la calculette, les processeurs, on peut utiliser ChatGPT pour enseigner. "

# data[].attributes.attachment_link.title
ChatGPT : " Il ne faut pas faire semblant d'être dans un monde qui ne travaille qu'avec son cerveau "

# data[].attributes.attachment_link.description
On ne présente plus ChatGPT, l'intelligence artificielle qui fait peur à de nombreux enseignants. Pas tous visiblement, puisqu'un prof de l'Institut Polytechnique de Paris a décidé d'intégrer le système avec un objectif : l'apprentissage de ses élèves. Antonio Casilli enseigne la sociologie à des étudiants d'école d'ingénieurs " de niveau master 1", précise-t-il sur son post Facebook.

# data[].attributes.attachment_link.readable_text
Les experts en enseignement supérieur comme le professeur Popescu-Belis ne pensent pas que l'outil soit de nature à révolutionner l'enseignement supérieur, il faudra néanmoins désormais en tenir compte dans le futur.

La technologie de ChatGPT est-elle révolutionnaire ?

L'intérêt du grand public pour l'intelligence artificielle a franchi un nouveau palier depuis la mise à disposition de ChatGPT, agent conversationnel en ligne qui répond avec pertinence et surtout avec beaucoup de connaissances à toute questions imaginable. La technologie derrière ce chatbot est-elle révolutionnaire pour autant ? Il s'agit surtout de la combinaison judicieuse de deux axes de recherche : les modèles de langage, vastes réseaux de neurones entraînés à compléter une suite de mots donnée, donc potentiellement aussi une question ou le début d'un article encyclopédique, et les modèles de dialogue, entraînés à imiter les interactions entre humains.

Il ne fait aucun doute que...

l'échelle exceptionnellement grande du modèle, qui reflète l'expertise de ses créateurs à faire fonctionner de tels systèmes sur plusieurs centaines de processeurs à la fois, est la source de certaines propriétés émergentes qui lui permettent de générer des réponses bien structurées, incluant parfois des raisonnements logiques. Ainsi, par rapport à une simple recherche sur Internet de documents contenant la solution à notre problème (inspiration pour un plan de cours, questions de test, ou code source à écrire), ChatGPT combine ces sources et les personnalise selon la question posée. Certes, son réseau de neurones géant ne permet pas de retenir la source des informations qu'il restitue, mais des efforts sont en cours pour ajouter de telles indications via un système parallèle. Ainsi, l'usage potentiellement révolutionnaire de cette technologie viendrait en complément des moteurs de recherche actuels, par la génération d'une synthèse de plusieurs sources vérifiables. Un autre usage prometteur est la créativité artificielle, pour qui la citation des sources et le raisonnement quantitatif ne sont pas primordiales : de telles applications existent déjà pour la génération d'images simples (logos ou illustrations), et pourraient voir bientôt le jour dans le domaine des textes.

# data[].attributes.attachment_link.description
Les experts en enseignement supérieur comme le professeur Popescu-Belis ne pensent pas que l'outil soit de nature à révolutionner l'enseignement supérieur, il faudra néanmoins désormais en tenir compte dans le futur. L'intérêt du grand public pour l'intelligence artificielle a franchi un nouveau palier depuis la mise à disposition de ChatGPT, agent conversationnel en ligne qui répond avec pertinence et surtout avec beaucoup de connaissances à toute questions imaginable.

# data[].attributes.headline
Gaslighting, love bombing et narcissisme : pourquoi l'IA Bing de Microsoft est-elle si déséquilibrée ?

# data[].attributes.subject
Gaslighting, love bombing et narcissisme : pourquoi l'IA Bing de Microsoft est-elle si déséquilibrée ?

# data[].attributes.attachment_link.title
Gaslighting, love bombing and narcissism: why is Microsoft’s Bing AI so unhinged?

# data[].attributes.attachment_link.description
Users have reported some troubling experiences with the recently released search chatbot.

# data[].attributes.headline
Table-ronde  Mercredi 8 mars 2023de 12h45 à 13h45Salle RC27 à l’Atrium du campus Pierre et Marie Curie

# data[].attributes.subject
Table-ronde  Mercredi 8 mars 2023de 12h45 à 13h45Salle RC27 à l’Atrium du campus Pierre et Marie Curie

# data[].attributes.attachment_link.readable_text
CAPSULE propose à la communauté enseignante de Sorbonne Université une table ronde pour échanger sur ChatGPT et l'enseignement dans le Sup'.
Après une courte introduction d'une dizaine de minutes visant à donner des éléments factuels sur ce qu'est ChatGPT, les personnes invitées à la table ronde débattront sur les questions, venues du public, des rapports possibles entre ChatGPT et pédagogie universitaire.

Cette table ronde est organisée par Pacôme Delva (UFR de Physique) et Aymeric Spiga (UFR Terre, Environnement, Biodiversité), membres du comité de pilotage opérationnel de CAPSULE.

Ce Café CAPSULE fait suite à l'Impromptu CAPSULE " ChatGPT, et après ? " qui s'est déroulé le 8 février.

# data[].attributes.attachment_link.title
Café CAPSULE : ChatGPT, éviter ou intégrer ? - capsule.sorbonne-universite

# data[].attributes.attachment_link.description
CAPSULE propose à la communauté enseignante de Sorbonne Université une table ronde pour échanger sur ChatGPT et l'enseignement dans le Sup'.Après une courte introduction d'une dizaine de minutes visant à donner des éléments factuels sur ce qu'est ChatGPT, les personnes invitées à la table ronde débattront sur les questions, venues du public, des rapports possibles entre ChatGPT et pédagogie universitaire.

# data[].attributes.headline
2022 EDUCAUSE Horizon report : Key technological trends

# data[].attributes.subject
2022 EDUCAUSE Horizon report : Key technological trends

# data[].attributes.headline
Conférences : Les samedis de l’Intelligence artificielle2022-2023

# data[].attributes.subject
Conférences : Les samedis de l’Intelligence artificielle2022-2023

# data[].attributes.attachment_link.title
Les samedis de l'Intelligence artificielle - Conférences - Activités & spectacles - Au programme - Cité des sciences et de l'industrie

# data[].attributes.attachment_link.description
La cité des sciences et de l'industrie est un établissement public de diffusion de la culture scientifique, technique et industrielle située à Paris, La Villette. La Cité propose expositions, films, conférences et animations pour les enfants et leurs familles.

# data[].attributes.headline
MOOC : L'Intelligence Artificielle... avec intelligence !

# data[].attributes.subject
MOOC : L'Intelligence Artificielle... avec intelligence !

# data[].attributes.attachment_link.readable_text
Passer au contenu principal

Class'Code IAI est un MOOC citoyen accessible à toutes et à tous de 7 à 107 ans pour se questionner, expérimenter et comprendre ce qu'est l'Intelligence Artificielle... avec intelligence !

Effort : 10 heures

Rythme: Auto-rythmé

Ce que vous allez apprendre

À la fin de ce cours, vous saurez :

décrypter le discours autour de l'IA pour passer des idées reçues à des questions sur lesquelles s'appuyer pour comprendre,

manipuler des programmes d'IA pour se faire une opinion par soi-même,

partager une culture minimale sur le sujet, pour se familiariser avec le sujet au-delà des idées reçues,

discuter le sujet, ses applications, son cadre avec des interlocuteurs variés pour contribuer à la construction des applications de l'IA

Description

L'IA vous fait peur ? Vous en entendez parler à toutes les sauces ? Les humains seraient bons pour la casse ? Mais c'est quoi l'intelligence (artificielle) au fait ? Class'Code IAI est un Mooc citoyen accessible à toutes et à tous de 7 à 107 ans pour se questionner, expérimenter et comprendre ce qu'est l'Intelligence Artificielle... avec intelligence !

Format

Chaque module s'articule autour de quatre temps d'apprentissage issus de la pédagogie active :

- se questionner : décrypter le discours autour de l'IA,

- expérimenter : réaliser une activité pour se rendre compte par soi-même,

- découvrir : comprendre comme ça fonctionne à travers l'histoire des humains et de leurs idées,

- débattre : être en mesure de discuter le sujet.

On retrouvera dans chaque partie un media fort, vidéo ou expérience interactive, une fiche pédagogique, des ressources complémentaires pour aller plus loin, un forum pour échanger et débattre avec les autres participants et des chercheurs, des quiz .

Prérequis

La formation s'adresse à toutes et tous et plus spécifiquement :

- les professionnels de l'éducation (enseignants, éducateurs, animateurs)

- jeunes de 7 à 17 ans via les ressources qui y sont présentées

- les citoyen.nes qui veulent comprendre de quoi on parle pour contribuer au débat

Evaluation et Certification

- Auto-évaluation par des quiz ou exercices ponctuels au fil des sections du MOOC

- Activités entre pairs (auto-correction mutuelle d'exercices d'informatique pour s'entraîner à évaluer, partage de préparations et de bonnes pratiques...)

- Attestations de suivi avec succès délivrées par FUN

Plan de cours

Module 1. Vous avez dit IA ! Acquérir une première compréhension de que l'on entend par IA et de ce que ça n'est pas.

(Se questionner) Qui a peur de l'IA ?

(Expérimenter) Testons notre premier programme.

(Comprendre) C'est quoi l'intelligence artificielle ?

(Débattre) L'IA dans tous ses états

Module 2. Boosté à l'IA ! Comprendre les principes de l'apprentissage machine et la place cruciale que joue la maîtrise des jeux de données.

(Se questionner) De l'IA à toutes les sauces ?

(Expérimenter) Jouons avec les données

(Comprendre) Du machine Learning et des données

(Débattre) L'IA dans l'éducation

Module 3. Humain et IA ... Comprendre les enjeux et les leviers pour que l'IA soit au service de l'humain.

(Se questionner) Les humains sont-ils bon pour la casse ?

(Expérimenter) Créons avec l'IA

(Comprendre) L'intelligence artificielle à notre service ?

(Débattre) IA et développement durable

Co-Production

Comité Scientifique

Serge Abiteboul (Donnée et réseau. Membre du Collège de l'ARCEP, chercheur à l'ENS Paris et directeur de recherche à l'Inria), Anne Boyer (Systèmes complexes et intelligence artificielle. Responsable de l'équipe KIwi, Loria), Gilles Dowek (Informaticien, logicien et philosophe. Membre de l'équipe Deducteam, Inria Ens Saclay), Gérard Giraudon (Directeur de Recherche Inria et Educazur), Colin de la Higuera (Chercheur en Machine Learning et traduction automatique. membre du L2N Université de Nantes, détenteur de la chaire Unesco)

Commission pédagogique

Zoé Brunet (Tralalere), Nicolas Decoster (la Compagnie du Code), Marie Duflot-Kremer (Loria), Lucie Jagu et Bertrand Midot (Simplon), Bastien Masse (Université de Nantes), Hanan Salam (Women in AI).

Partenaires

Licence

Licence pour le contenu du cours

Vous êtes autorisé à :

Partager - copier, distribuer et communiquer le matériel par tous moyens et sous tous formats

Adapter - remixer, transformer et créer à partir du matériel

Selon les conditions suivantes :

Attribution - Vous devez créditer l'oeuvre, intégrer un lien vers la licence et indiquer si des modifications ont été effectuées à l'oeuvre. Vous devez indiquer ces informations par tous les moyens raisonnables, sans toutefois suggérer que l'offrant vous soutient ou soutient la façon dont vous avez utilisé son oeuvre.

Pas d'Utilisation Commerciale - Vous n'êtes pas autorisé à faire un usage commercial de cette oeuvre, tout ou partie du matériel la composant.

Licence pour le contenu créé par les participants du cours

Vous êtes autorisé à :

Partager - copier, distribuer et communiquer le matériel par tous moyens et sous tous formats

Adapter - remixer, transformer et créer à partir du matériel

Selon les conditions suivantes :

Attribution - Vous devez créditer l'oeuvre, intégrer un lien vers la licence et indiquer si des modifications ont été effectuées à l'oeuvre. Vous devez indiquer ces informations par tous les moyens raisonnables, sans toutefois suggérer que l'offrant vous soutient ou soutient la façon dont vous avez utilisé son oeuvre.

Pas d'Utilisation Commerciale - Vous n'êtes pas autorisé à faire un usage commercial de cette oeuvre, tout ou partie du matériel la composant.

Partage dans les Mêmes Conditions - Dans le cas où vous effectuez un remix, que vous transformez, ou créez à partir du matériel composant l'oeuvre originale, vous devez diffuser l'oeuvre modifiée dans les même conditions, c'est à dire avec la même licence avec laquelle l'oeuvre originale a été diffusée.

# data[].attributes.attachment_link.description
Class'Code IAI est un MOOC citoyen accessible à toutes et à tous de 7 à 107 ans pour se questionner, expérimenter et comprendre ce qu'est l'Intelligence Artificielle... avec intelligence !

# data[].attributes.headline
POSITION Artificial intelligence tools and their responsible usein higher education learning and teaching

# data[].attributes.subject
POSITION Artificial intelligence tools and their responsible usein higher education learning and teaching

# data[].attributes.headline
15 exemples concrets d'utilisation en classe de l'IA

# data[].attributes.subject
15 exemples concrets d'utilisation en classe de l'IA

# data[].attributes.attachment_link.title
15 exemples concrets d'utilisation en classe de l'IA - @yannhoury - Obsidian Publish

# data[].attributes.attachment_link.description
15 exemples concrets d'utilisation en classe de l'IA - @yannhoury - Powered by Obsidian Publish.

# data[].attributes.attachment_link.readable_text
Pendant le mois d'août, j'ai décidé d'expérimenter la création d'images avec un nouvel outil : une " intelligence artificielle " et de partager cela sur mon compte Instagram et sur Twitter. Vous en avez forcément entendu parler : Dall-e, Midjourney, Dreamstudio, Stable Diffusion, etc. ces outils en ligne permettent de créer des images en entrant une phrase du type : " Un avion jaune qui vole sous la mer avec des petits chiens qui dansent sur ses ailes à la manière de van gogh ". Ces outils sont assez inégaux et ce qui est amusant c'est de voir la surprise du résultat.

Comme toujours avec les nouveaux outils numériques, avant de me lancer tête baissée, je me demande quoi en faire, à ma manière, avec une idée, un concept. Comme vous le savez, j'aime l'actualité, la presse, l'information ( c'est pour ça que j'ai créé https://Jaffiche.fr il y a plus de 10 ans maintenant) et c'est pourquoi j'ai proposé à ces différentes IA de créer un visuel correspondant à un titre de presse.

Évidemment, mon idée n'est pas de dire que l'illustration ou la photo de presse est morte ( certains le pensent mais je trouve que toutes ces formes d'expression se superposent, se complètent, s'entraident aussi parfois...), et sur ce projet, mon idée est de voir comment une IA interprète des sujets d'actualité avec des titres souvent basés sur des jeux de mot, des figures de style, parfois des interrogations, etc. Parfois le résultat est très réaliste, parfois très futuriste,parfois un peu raté aussi. C'est le jeu, mais cela propose un reflet différent sur l'actualité qui me donne à penser que l'image générée en dit parfois beaucoup plus sur l'imaginaire que nous avons autour des différents sujets politiques, économiques, sociaux, etc. que l'article en lui-même.

Pour regrouper toutes ces images, j'ai créé le hashtag #IAFP (sur Twitter et Instagram), comme l'intelligence artificielle de l'AFP, l'Agence France Presse( C'est un clin d'œil et une parodie, ne m'attaquez pas en justice hein ;-))
Je vous partage donc ce travail de création et de recherche ci-dessous.
L'actu du mois d'août vu par une IA (...et par un designer)

Le 06 août 2022 - " Sous les pins d'un massif forestier en Charente-Maritime, les agents de l'Office national des forêts traquent quotidiennement les touristes au comportement dangereux pour empêcher les incendies. "

Le 06 août 2022 - " Des vitamines vont être données au béluga "

Le 06 août 2022 - " Carte mondiale des anomalies de température enregistrées en juillet 2022 "

Le 08 août 2022 - " Climat : les réseaux sociaux pressent les célébrités de descendre de leurs jets privés "

Le 07 août 2022 - " Sécheresse: alors que les mesures de restriction d'eau se multiplient, les golfs bénéficient d'une dérogation pour arroser leurs terrains. "

Le 08 août 2022 - " La Colombie, à la biodiversité parmi la plus riche du monde selon l'ONU, a perdu 7.018 km2 de forêt entre 2018 et 2021. "

Le 08 août 2022 - " Taïwan critique la Chine pour avoir prolongé les exercices militaires autour de l'île "

Le 08 août 2022 - " La frontière entre la bande de Gaza et Israël a rouvert aujourd'hui, permettant à l'unique centrale électrique de l'enclave de redémarrer, au lendemain d'une trêve entre le Jihad islamique. "

Le 08 août 2022 - " Sécheresse au Kenya : à Purapul, les habitants survivent grâce aux baies. "

Le 09 août 2022 - " Le créateur de mode japonais Issey Miyake est décédé à 84 ans. "

Le 09 août 2022 - " Les autorités françaises vont de l'avant avec un plan pour ramener un béluga dans l'océan après qu'il ait remonté la Seine en direction de Paris, mettant sa vie en danger."

Le 12 août 2022 - " Sans espoir : les acheteurs de maisons chinois sont à bout de patience avec les promoteurs. "

Le 12 août 2022 - " L'Allemagne, qui redoute une pénurie de gaz, va baisser le chauffage cet hiver dans tous les bâtiments publics avec un thermostat qui ne pourra pas dépasser les 19 degrés."

Le 12 août 2022 - " Une substance inconnue et hautement toxique dans l'Oder, qui traverse la Pologne et l'Allemagne, semble être la cause d'une mortalité massive de poissons. "

Le 13 août 2022 - " Une quarantaine de femmes scandant " Pain, travail et liberté " ont défilé devant le bâtiment du ministère de l'éducation à Kaboul."

Le 18 août 2022 - " En Norvège, 20 000 euros de dons collectés pour ériger une statue en l'honneur du morse Freya "

Le 18 août 2022 - " En pleine guerre, des centaines d'hommes creusent profondément sous terre pour assurer la sécurité énergétique de l'Ukraine."

Le 19 août 2022 - " Une sortie spatiale russe s'est terminée prématurément à cause d'un problème de batterie sur la combinaison "

Le 19 août 2022 - " La guerre des abysses : pour son nouveau terrain de jeu, la marine française réclame des drones aquatiques capables de plonger à 6000 mètres "

Le 21 août 2022 - " Atteintes à l'environnement : Gérald Darmanin promet 3000 postes de gendarmes verts "

Le 22 août 2022 - " En Russie, les Starbucks rouvrent sous le nom de Stars Coffee. "

Le processus

Pour réaliser ce projet, j'ai tout simplement suivi l'actualité de près et j'ai traduit certains titres en anglais pour les donner à manger à l'intelligence artificielle ( Midjourney et Dall-E principalement). J'ai ensuite réalisé une petite mise en forme graphique et typographique pour préciser le titre de l'actualité, la date et qu'il s'agit d'une image d'actualité réalisée par une IA.

La suite ?

Je vous partage ça très prochainement mais sur le mois d'août, j'ai aussi réalisé, de la même manière, des visuels d'actualité à partir du journal papier Libération, du Nouvel Obs et j'ai commis un petit écart en récupérant le dernier magazine Marie-Claire et en demandant à l'IA de me générer les visuels de ses (nombreuses) publicités. Les résultats de toutes ces recherches graphiques attisent ma curiosité, me questionnent aussi quant la pauvreté conceptuelle et graphique malgré une apparente richesse visuelle. Mais bon, ce ne sont que des outils souvent naïfs et agissant au premier degré, il faut que je continue de les pousser dans certains de leurs retranchements 😉

# data[].attributes.attachment_link.title
#IAFP, ou comment j'ai illustré la presse avec une IA

# data[].attributes.attachment_link.description
Pendant le mois d'août, j'ai décidé d'expérimenter la création d'images avec un nouvel outil : une " intelligence artificielle " et de partager cela sur mon compte Instagram et sur Twitter. Vous en avez forcément entendu parler : Dall-e, Midjourney, Dreamstudio, Stable Diffusion, etc. ces outils en ligne permettent de créer des images en entrant...

# data[].attributes.headline
ITW - Etienne Mineur, l'IA et l'évolution des métiers créatifs

# data[].attributes.subject
ITW - Etienne Mineur, l'IA et l'évolution des métiers créatifs

# data[].attributes.attachment_link.readable_text
Nouvelle opportunité ou bien terrible malédiction ? On a demandé à Étienne Mineur, designer réputé pour être l'un des premiers à travailler avec les intelligences artificielles, ce qu'il pense des bouleversements créés par Dall-E et Midjourney.

Comme les choses ont changé en moins d'un an ! Perçues comme une curiosité technologique il y a quelques mois, les IA génératives comme Dall-E, Midjourney et Stable Diffusion ont totalement bouleversé le paysage de la création artistique. Alors que la question des copyrights et de la place des artistes se pose face à ces machines qui réalisent des dessins en moins d'une minute, Étienne Mineur a des choses à raconter. Ce designer français réputé est l'un des premiers à s'être emparé de ces outils dans un cadre professionnel et de formation. On lui a demandé comment il envisageait l'avenir face à ce bouleversement inéluctable.

Comment avez-vous découvert et accueilli les IA génératives ?

Etienne Mineur : Au début, j'avoue que j'étais sceptique. J'avais suivi les premières œuvres créées avec des GAN et je trouvais que c'était trop marqué comme style. Ça se voyait que c'était le travail d'une machine. Je pensais que ça donnerait des résultats intéressants dans une dizaine d'années. Et puis j'ai des amis ingénieurs qui m'ont envoyé un lien vers Disco Diffusion, sorti il y a un an environ. C'était encore très lent, il fallait compter une heure pour avoir une image. C'était intéressant comme de la recherche pour comprendre comment ça fonctionne. Puis Midjourney est arrivé sur Discord et ça m'a vraiment bouleversé et changé ma manière de voir les choses. J'ai compris qu'on avait ouvert une sorte de boîte de Pandore géniale et qu'il n'y avait plus de retour en arrière.

Qu'est-ce que ça change dans votre manière de travailler ?

E. M. : Dans mon métier, on fonctionne beaucoup avec des moodboards. On fait des collections d'images que l'on regroupe par thématiques pour faire ressortir une idée. Les IA ont non seulement cette capacité de remplacer les moodboards, mais elles nous donnent aussi l'occasion d'instaurer un dialogue avec une logique qui est presque extraterrestre. Bien sûr elle génère beaucoup de scories et de déchets, mais une fois sur 10 elle vous propose un design, une idée sur laquelle on n'aurait jamais eu l'idée d'aller en tant que créateur. J'ai par exemple réussi à générer des typos à base de crème fouettée, une idée un peu idiote, mais qui m'a donné quelques résultats vraiment intéressants. Après je ne considère pas les images générées par les IA comme des images définitives. Ce sont juste des planches de style qui ouvrent des pistes. Quand je discute avec des collègues graphistes aux États-Unis ou au Canada, ils me disent tous qu'ils utilisent des IA de cette manière. C'est un outil qui permet avant tout d'ouvrir des portes qu'on ne soupçonnait pas. Mais nous n'avons pas le fantasme de la machine pouvant nous livrer une image parfaite ex nihilo.

Quels sont les inconvénients de ces outils ?

E. M. : Je vois trois défauts immédiats. Le premier c'est la censure qui accompagne les outils comme Dall-E ou Midjourney. Je travaille en ce moment sur la création de nouvelles images censées illustrer les maladies mentales au Canada. On s'est rendu compte que certains mots comme " maladie mentale ", " suicide " ou même " derrière " étaient filtrés, ce qui est assez problématique. Pour le moment, nous contournons le problème en utilisant une version de Stable Diffusion qui s'appelle Unstable et qui est dépourvue de censure puisqu'elle sert surtout à générer des images pornos. Le deuxième problème, ce sont les biais algorithmiques qui sont le résultat de la surcouche d'entraînement des IA. J'ai essayé de faire des statues grecques avec Unstable, il ne m'a sorti que des modèles masculins extrêmement musclés ou bien des femmes à la poitrine énorme. À l'avenir, il faudra de plus en plus compter sur des versions customisées d'outils de génération pour obtenir des résultats plus précis. Enfin, il faut faire attention à la normalisation des images générées par ces outils, qui finissent par toutes se ressembler. Cela veut dire qu'il faut avoir la culture nécessaire pour s'extirper du style Midjourney. Cela veut aussi dire que le public va exercer son œil et qu'il saura bientôt faire la différence entre une image directement générée par IA et une image pensée par un humain.

Vous formez beaucoup d'étudiants. Quelles ont été leurs réactions quand vous leur avez parlé des IA ?

E. M. : Quand j'ai commencé à en parler l'année dernière, personne dans l'amphithéâtre ne connaissait ces outils. En septembre, 30 % les connaissaient, en octobre 50 % et maintenant ils sont devenus totalement incontournables. Si je devais résumer brièvement, je dirais que les jeunes de 18 ans trouvent ça génial tandis que ceux qui sont en fin de cursus ou qui commencent à travailler, vers 25 ans, sont catastrophés par les IA et pensent qu'ils vont perdre leur travail.

Ont-ils raison de penser ça ?

E. M. : Difficile de répondre de manière simple. Je pense que chaque saut technologique de ce type a toujours perturbé les métiers concernés. Mais il faut bien comprendre qu'il n'y aura pas de retour en arrière. Dans les trois à cinq ans à venir, il y aura des perturbations avec des gens qui vont sans doute perdre leur job. On peut comparer ça avec l'arrivée de la PAO (publication assistée par ordinateur) qui a fait sauter plein de métiers autour de la photocomposition. Du jour au lendemain, le temps de travail avait été divisé par 10 ou par 20 tout en ouvrant plein de portes créatives. Je pense que ça va être difficile pour les illustrateurs à qui on demande de faire des dessins pas forcément originaux. Je travaille beaucoup dans des boîtes de jeux de société et c'est un milieu où l'on demande un peu toujours la même chose, à savoir des dragons, des magiciens ou des robots cyberpunks. Toute l'esthétique de cette industrie repose sur des codes ou des clichés qui sont très facilement reproductibles par des IA. On peut inclure aussi les couvertures de romans ou les affiches de films. Tout ce travail pourra aisément être fait par des machines à l'avenir. Même chose pour le packaging. J'ai déjà croisé des patrons qui ont viré toutes les agences de design et de marketing avec qui ils travaillaient pour ne garder que deux ou trois DA et des IA pouvant générer des slogans publicitaires et des images.

Comment la profession va-t-elle évoluer face à ce nouveau paradigme ?

E. M. : C'est assez inquiétant de se dire qu'une IA peut reproduire en une minute un dessin qui vous aura demandé une semaine de travail et 10 ans d'expérience et de recherche en style. Des artistes seront en concurrence directe avec des types sortis d'école de commerce qui auront les mêmes capacités techniques pour produire du design ou du graphisme. Ça va pousser les designers et les illustrateurs graphistes à être très originaux et à proposer de nouvelles choses mêmes s'il y a toujours le risque de voir son travail intégré par les IA puis reproduit ensuite. Ensuite, il faut bien se rendre compte que le style est une chose que l'on ne peut pas revendiquer en tant que graphiste. Quand Hergé a commencé à dessiner à la ligne claire, on a eu des Moebius puis des Riad Sattouf qui ont pris ce style pour en faire quelque chose. On est jamais tout seul quand on dessine. Donc il ne faut pas se bloquer là-dessus. Le risque que l'on peut avoir c'est de penser que votre travail n'est que le résultat de ce que vous avez dessiné. Or il y a une réflexion en amont, un regard, une manière de voir les choses et c'est cet élément qui est important. On doit se repositionner sur notre cœur de métier. Est-ce que c'est mon coup de pinceau ou ma manière de voir le monde qui a de la valeur ? Pour en arriver là, il faut presque délaisser l'habileté gestuelle à une habileté langagière. Il faut approfondir l'histoire de l'art et du design pour tout connaître et pour pouvoir dialoguer avec la machine.

# data[].attributes.attachment_link.title
Les métiers créatifs vont devoir évoluer face à Midjourney et Dall-E

# data[].attributes.attachment_link.description
Nouvelle opportunité ou bien terrible malédiction ? On a demandé à Étienne Mineur, designer réputé pour être l'un des premiers à travailler avec les intelligences artificielles, ce qu'il pense des bouleversements créés par Dall-E et Midjourney. Comme les choses ont changé en moins d'un an !

# data[].attributes.headline
Repenser les pratiques pédagogiques à l'ère de ChatGPT

# data[].attributes.subject
Repenser les pratiques pédagogiques à l'ère de ChatGPT

# data[].attributes.attachment_link.readable_text
La clé pourrait être de se pencher sur l'exercice de la rédaction plutôt que sur son produit.

Ne passons pas par quatre chemins : le récent lancement de ChatGPT par OpenAI est une révolution. En quelques secondes, l'agent conversationnel libre produit un texte sophistiqué dans le style que vous lui demandez. Une dissertation critique en faveur de la taxe sur le carbone au Canada, composée d'un sujet posé, d'arguments principaux et de réfutations? Et voilà. Une revue de la littérature sur les pratiques alimentaires durables qui comprend huit articles scientifiques évalués par les pairs? Aucun problème. Entrez simplement votre requête et ChatGPT exaucera vos vœux. Les résultats sont si convaincants que selon un article paru récemment dans The Atlantic, la plateforme pourrait bien signer l'arrêt de mort des dissertations.

C'est indéniable : ChatGPT pose un gros casse-tête aux établissements d'enseignement supérieur. Il y a la question de l'intégrité universitaire, évidemment. Comme ChatGPT génère des écrits originaux, il passe sous le radar de logiciels antiplagiat comme Turnitin. Mais l'un des enjeux amenés par cette technologie est encore plus complexes et s'attaque à la nature même de la mission universitaire, celle de faire fleurir la réflexion et la pensée critique dans la société. Parce que si maintenant tout le monde peut produire un texte complexe et original à l'aide d'une simple commande, pourquoi demander aux étudiant.e.s de réaliser des travaux de rédaction tout court?

Depuis longtemps, sur les bancs de l'université, on se doit d'apprendre l'art de la rédaction, l'art d'exprimer nos idées de façon claire et concise. L'exercice sert non seulement à communiquer, mais aussi à développer notre pensée. Comme il en avait le don, George Orwell a bien résumé la question : " Ne pas pouvoir bien écrire, c'est ne pas pouvoir bien penser. Et ne pas pouvoir bien penser, c'est assujettir nos idées à celles des autres. " C'est potentiellement ce que nous réserve ChatGPT : la perte de notre capacité de raisonnement.

Devant ce problème, comment peut-on transformer notre approche pédagogique de la rédaction? D'abord, évitons les sujets de dissertation généraux comme la taxe sur le carbone et l'alimentation durable, en axant plutôt notre réflexion sur des questions pointues, qui portent sur des travaux précis ou des chercheuses et chercheurs en particulier. J'ai suivi ce modèle pour demander à ChatGPT : " Expliquez les argumentaires respectifs de Tom Regan et de Peter Singer quant aux droits des animaux. Où se rejoignent-ils? Comment se distinguent-ils? Que dirait Regan à Singer, et comment Singer répliquerait-il? " J'ai été surpris de lire la réponse convaincante de la plateforme, y compris son explication des échanges qu'il y aurait entre les philosophes. Étant donné que Regan et Singer sont tous deux des philosophes de grande renommée, il serait préférable de concevoir des questions axées sur des personnes ou des textes moins connus. Lorsque j'ai fait des tests selon ces paramètres, ChatGPT ne pouvait pas répondre à mes requêtes. Aussi, comme la plateforme est limitée aux contenus parus avant 2021, une bonne stratégie, si possible, serait de poser des questions sur l'actualité. Mais comme la technologie ne cesse d'évoluer, je crains qu'il ne s'agisse que de solutions temporaires.

Au fil des prochains mois, nous devons construire une approche durable pour relever les défis posés par l'intelligence artificielle et, entre autres, réfléchir aux façons de l'intégrer dans notre enseignement et nos apprentissages de manière éthique. Il faut aussi procéder à une refonte des pratiques de rédaction, en particulier au baccalauréat. En général, on demande une dissertation, les étudiant.e.s la rédigent et la remettent, et on offre ensuite une rétroaction synthèse pour justifier leur note. Il est rare, lors de ces travaux rédigez-jetez, qu'on offre des commentaires constructifs. Il y a quelques exceptions (par exemple, certaines personnes reçoivent une rétroaction du centre de rédaction de leur établissement), mais cet accent sur le produit final de la rédaction prépare mal les étudiant.e.s aux réalités professionnelles qui les attendent : qu'il s'agisse d'un rapport d'activités, d'un mémoire de politique gouvernementale ou d'un article scientifique revu par les pairs, la rédaction en milieu professionnel passe généralement par un long processus de rétroaction et de révision.

À lire aussi : Miser sur les travaux non jetables pour apporter une valeur ajoutée

Depuis longtemps, les spécialistes de la rédaction vantent les vertus de la rétroaction constructive sur les travaux étudiants, qu'elle provienne de collègues, du corps professoral ou d'un centre de rédaction. En misant sur le processus plutôt qu'en jugeant le résultat, on contre ChatGPT, mais surtout, on aide les cohortes à améliorer leurs compétences en rédaction, en pensée critique et d'ordre métacognitif. Imaginez la scène : nous sommes dans une classe inversée. Chaque membre du groupe arrive avec un brouillon de dissertation et fait un exercice de révision par les pairs - lecture du travail des collègues, suivi de commentaires guidés par un document que vous avez distribué. Chacun.e reçoit des commentaires, les soupèse, puis décide de ce qui est à intégrer dans le texte avant de s'attaquer à la révision. On pourrait se baser sur un petit texte initial pour en créer un plus long à partir de la rétroaction reçue. ChatGPT peine en ce moment à reproduire le processus de rétroaction et de révision, et n'est pas non plus capable d'étoffer un texte pour l'allonger. Mais surtout, il y a une excellente valeur pédagogique dans le fait de mettre l'accent sur le processus de rédaction. L'exercice de donner, de recevoir et d'intégrer des commentaires développe des compétences essentielles. Ce que montrent les recherches sur la révision par les pairs chez les étudiant.e.s, c'est l'effet bénéfique de l'acte de donner des commentaires, comparativement à celui de les recevoir, sur les compétences métacognitives.

Mis à part la rétroaction et l'autorévision, il existe d'autres façons de contrer ChatGPT tout en visant l'acquisition de compétences. Par exemple, on pourrait prévoir en complément d'une dissertation finale la remise d'un texte d'autoréflexion qui documente le processus de recherche et d'apprentissage. Même si ChatGPT sait générer des textes de réflexion, la justification de choix rédactionnels lui pose un peu plus problème : " Pourquoi avoir choisi d'intégrer ce commentaire-ci, et non celui-là? " Les questions qui invitent ce type de réflexions ajoutent une composante métacognitive aux apprentissages.

Quoique ChatGPT soit une technologie révolutionnaire, il est, comme toute révolution, un bon prétexte pour se perfectionner. En axant notre enseignement sur le processus rédactionnel plutôt que sur le produit final, on enrichira les apprentissages des étudiant.e.s. Après tout, c'est le geste qui génère la pensée.
James Southworth est consultant en rédaction, en pédagogie et en apprentissage à l'Université Wilfrid Laurier.

# data[].attributes.attachment_link.title
Rédaction universitaire : repenser les pratiques pédagogiques à l'ère de ChatGPT - Affaires universitaires

# data[].attributes.attachment_link.description
La clé pourrait être de se pencher sur l'exercice de la rédaction plutôt que sur son produit. Ne passons pas par quatre chemins : le récent lancement de ChatGPT par OpenAI est une révolution. En quelques secondes, l'agent conversationnel libre produit un texte sophistiqué dans le style que vous lui demandez.

# data[].attributes.headline
Table ronde - Usages pédagogiques de ChatGPT - Replay

# data[].attributes.subject
Table ronde - Usages pédagogiques de ChatGPT - Replay

# data[].attributes.attachment_link.provider_name
C2DH | Luxembourg Centre for Contemporary and Digital History

# data[].attributes.attachment_link.readable_text
Cette table ronde a été l'occasion de discuter de l'usage de ChatGPT dans l'enseignement supérieur.

Sorti à la fin de l'année 2022, le chatbot ChatGPT, reposant sur un système d'intelligence artificielle, a provoqué de forts remous dans l'enseignement supérieur. Capable de répondre de manière cohérente à des questions parfois complexes, le spectre de son emploi par les étudiants pour leurs examens inquiète les enseignants. Quels seront les usages étudiants de ce type de système ? Comment en discuter avec eux et quelles politiques mettre en place ? Des expérimentations pédagogiques avec ChatGPT sont-elles possibles, si ce n'est souhaitables?

Cette table-ronde a abordé quelques-unes de ces questions. Modérée par Valérie Schafer (historienne, C²DH, Université du Luxembourg), elle a mis en dialogue des enseignants et enseignantes d'horizon et de disciplines variées, intéressés aux usages pédagogiques de l'intelligence artificielle:

Pierre-Carl Langlais (humanités numériques, opsci)

Stéphane Crozat (informatique, COSTECH, Université Technologique de Compiègne)

Caroline Muller (historienne, EA Tempora, Université Rennes 2)

Frédéric Clavert (historien, C²DH, Université du Luxembourg)

Salima Lamsiyah (sciences informatiques, Université du Luxembourg)

# data[].attributes.attachment_link.title
Usages pédagogiques de ChatGPT - Enregistrement de la table ronde

# data[].attributes.attachment_link.description
Cette table ronde a été l'occasion de discuter de l'usage de ChatGPT dans l'enseignement supérieur. Sorti à la fin de l'année 2022, le chatbot ChatGPT, reposant sur un système d'intelligence artificielle, a provoqué de forts remous dans l'enseignement supérieur.

# data[].attributes.headline
UNESCO Chaire : L'intelligence artificielle au quotidien : quelle position pour l'enseignant.e ?

# data[].attributes.subject
UNESCO Chaire : L'intelligence artificielle au quotidien : quelle position pour l'enseignant.e ?

# data[].attributes.attachment_link.title
L’intelligence artificielle au quotidien : quelle position pour l’enseignant.e ?

# data[].attributes.attachment_link.description
Avouons-le, depuis quelques semaines, on ne parle que de ça : ChatGPT est dans tous les médias, dans toutes les réunions. Le réflexe amusé “je…

# data[].attributes.attachment_link.readable_text
Turcs mécaniques ou magie noire ?

J'ai testé ChatGPT pour répondre à l'examen final de mon cours de littératie numérique à l'UTC. Le résultat impose de nous interroger sur l'évaluation des exercices rédactionnels réalisés par les étudiantes et étudiants.

Contexte

WE01 " Écrire sur le Web "

Le cours WE01 aborde le Web l'angle d'une initiation technique et d'une réflexion critique :

On y apprend le fonctionnement général d'Internet et du Web ; on apprend à louer un serveur chez un hébergeur (Gandi.net), à installer Apache, à déposer des fichiers HTML.

On fait un peu d'histoire, un peu de juridique, un peu de philosophie de la technique...

On parle sources d'information, chiffrement, capitalisme de surveillance, culture libre...

Les étudiants réalisent un projet en groupe consistant à publier un site web qui parle du Web, avec des fiches de lectures, articles, interviews et un enregistrement d'une émission de radio qu'ils ont fait en direct en fin de semestre.

Enfin, ils sont soumis à deux exercices d'examen individuels consistant à répondre à quelques questions en prise avec un phénomène actuel lié au Web, en faisant valoir leurs connaissances et un raisonnement argumenté. Un des enjeux du cours est d'éviter le " je pense que... " pour apprendre à mobiliser des références, des exemples et les articuler en un exposé réfutable.

Format de l'examen de WE01

Les deux examens sont similaires (le premier, appelé médian, ne porte que sur le début du cours, tandis que le second, le final, porte sur l'ensemble du semestre). Lors de ces examens les étudiantes et étudiants ont accès à des ordinateurs : il sont libres d'accéder aux supports de cours, à Wikipédia, à tout le reste du Web. Il n'ont en revanche pas le droit de communiquer avec des tiers, le travail devant rester individuel pour les besoins de l'évaluation.

En entrée d'exercice je fournis en général des documents issus d'articles en ligne, de blogs ou de médias sociaux, et je pose des questions faisant le lien avec le cours. La réponse attendue par les étudiants est une argumentation assez courte (10 à 20 lignes) mais précise, qui mobilise le cours et d'autres sources, et des exemples.

Exemples d'examen proposé ce semestre le 26 octobre 2022 (médian) : https://librecours.net/module/we01/annales/exercice.xhtml

Cet examen comporte dans les sections " solution " des exemples de réponses de bonne qualité produites par les étudiantes et étudiants (que j'ai sélectionnées).

L'examen final de de WE01 du semestre d'automne 2022 a eu lieu le 12 janvier 2023.

Une (fausse bonne) idée pour l'examen de WE01 : utiliser ChatGPT

Ayant découvert ChatGPT en fin d'année 2022, j'ai pris conscience que le format que je demandais en examen de WE01 collait parfaitement aux premiers exemples que j'avais vu. Mon idée était donc la suivante :

produire mon sujet comme d'habitude ;

poser les questions à ChatGPT ;

proposer un sujet qui présentait mes questions et les réponses de ChatGPT et demander aux étudiantes et étudiants une critique et des compléments de ces réponses.

N'ayant pas encore d'accès à ChatGPT (je ne voulais pas lui donner mon " vrai " numéro de téléphone), j'ai demandé à Stéphane Bortzmeyer (qui avait publié des exemples intéressants sur Mastodon) de tester mes questions pour moi.

En recevant les réponses j'ai réalisé qu'il ne serait pas possible de mettre en application mon idée initiale : les réponses étaient beaucoup trop qualitatives. Il y avait peu à critiquer, peu à compléter, les réponses étaient pertinentes et mieux argumentées que ce que je pouvais attendre de la majorité des étudiants de mon cours.

Dès la première lecture des réponses brutes de ChatGPT, " à l'œil " j'ai évalué la " copie " comme méritant un 12/20, probablement un 15/20, peut-être un peu plus (par rapport à mes critères habituels), ce qui la classerait dans la première moitié, probablement même dans le premier quart de l'effectif de WE01.

TL;DR

Je vais présenter dans la suite de cet article :

les réponses que j'ai obtenues de ChatGPT (j'ai à présent un accès) : les réponses sont crédibles ;

les modifications que je propose pour obtenir un travail présentable comme écrit par un humain : les modifications à faire sont mineures ;

une évaluation du travail de l'IA comme si c'était le rendu d'un ou une étudiante : l'évaluation des réponses est (très) bonne ;

quelques pistes de questions complémentaires à poser pour améliorer mes réponses : il est facile de compléter les réponses ;

les réponses qu'avaient obtenues Stéphane Bortzmeyer : les réponses obtenues par deux personnes différentes sont proches (l'expérience de qui pose les questions n'est pas nulle, mais pas déterminante dans ce cas) ;

le fait que ChatGPT a " triché " (je ne spoile pas).

Les réponses que j'ai obtenues de ChatGPT

Sujet

Le sujet original soumis aux étudiants est-ici : https://librecours.net/module/we01/annales/exercice_1.xhtml

Voici les 5 questions reformulées en mode texte uniquement soumises à ChatGPT (la question 4 du sujet a été divisée en 2 sous-questions posées à la suite)

Question 1. Sur Twitter, en avril 2022, le compte @joinmastodon (associé à la structure qui édite le logiciel Mastodon) a affirmé que le média social Mastodon ne pouvait pas être acheté et possédé par un millionnaire. Expliquez pourquoi les personnes qui gèrent le compte Twitter de Mastodon affirment cela.

Question 2. Le réseau social d'Elon Musk ne voit visiblement pas la concurrence de Mastodon d'un très bon œil. Pour mieux la contrer, Twitter a tout simplement décidé de bâillonner le compte officiel @JoinMastodon et de bloquer tous les liens renvoyant vers des serveurs Mastodon. Expliquez en quoi cette décision peut être inscrite dans le contexte de la centralisation et redécentralisation du Web.

Question 3. Expliquez qui sont les clients de Twitter, cette entreprise vendue 44 milliards de dollars alors que son usage est gratuit ; expliquez également en quoi les principes du capitalisme de surveillance sont remis en question ou conservés avec Mastodon.

Question 4a. Ai-je enfreint le droit d'auteur en utilisant une photographie de l'émission de télévision " Qui veut gagner des millions en Allemagne ", qui avait été publiée initialement sur Mastodon, sachant que Mastodon est un logiciel libre (licence AGPL, apparentée à la licence GPL) et que l'image est utilisée pour l'examen final de WE01, un cours de l'UTC, une école publique ?

Question 4b. Si cette image était également disponible sur la Wayback Machine à l'URL https://web.archive.org/save/https://mastodon.social/@gigold/109638342312263592, le droit d'auteur serait-il respecté ou non ?

Question 5. En vous référant à l'histoire des débuts du Web, montrez que : le modèle économique de Twitter est tout à fait classique dans l'histoire du Web ; le mode de fonctionnement de Mastodon s'inscrit également dans un héritage technique et conceptuel présent à l'origine. Diriez-vous que les médias de micro-blogging comme Twitter ou Mastodon ont introduit un changement de degré ou un changement de nature dans le Web entre les années 1990 et les années 2020 ? N'hésitez pas à produire des exemples historiques pour étayer vos propos.

Premières observations :

rien n'est hors sujet ;

la plupart des éléments attendus sont abordés ;

aucune erreur significative n'a été faite ;

le " défaut " principal du point de vue du cours : ce n'est pas sourcé et ça manque un peu d'exemples (mais les exemples ne sont pas absents).

Bien entendu la forme est assez inhabituelle ; si elle m'avait été rendue telle qu'elle, j'aurais assez vite pensé à du plagiat ou, connaissant ChatGPT, à son travail.

Les modifications que je propose pour obtenir un travail présentable

Gommer les effets de formulation

Je me suis donc demandé quelles modifications je devais introduire pour gommer cet effet de forme au moindre coût.

J'ai procédé en deux temps :

1. repérer et commenter les éléments " bizarres " ;

2. proposer la correction la plus simple possible : celle qui ne demande comme compétence que de repérer la bizarrerie, sans connaissance du sujet.

On parvient à " nettoyer " les réponses de ChatGPT avec uniquement quelques suppressions et une reformulation mineure. Une fois ce nettoyage fait, l'origine ChatGPT n'est plus immédiatement humainement détectable. Réaliser cela demande simplement une relecture attentive sur la forme, mais aucune compétence sur le contenu.

Hypothèse (à travailler)

En deçà d'un certain " niveau d'expertise requis " il est possible de produire un énoncé valide sur le fond et sans aspérité notables sur la formulation en jouant uniquement sur la syntaxe de l'énoncé brut produit par ChatGPT :

on peut le faire avec des opérations syntaxiques de base, comme la suppression de mots ou de phrases ;

en conséquence il est possible pour quelqu'un qui n'a aucune connaissance sur le fond de produire des réponses correctes à une question posée telle qu'elle.

Évaluation du rendu de ChatGPT

Première évaluation

J'ai enfin, réalisé une première " correction " de la production obtenue, en essayant de faire " comme si " c'était celle d'un étudiant. C'est évidemment une approximation forte, mais qui permet d'obtenir un ordre de grandeur.

À noter que mon système de notation repose sur une évaluation de chaque question sur 3 points :

3 = principaux aspects attendus traités et pas d'erreur signifiante ;

2 = quelques défauts ou erreurs mineures mais notables ;

1 = un ou plusieurs défauts ou erreurs importantes ;

0 = non traité, hors-sujet, beaucoup d'erreurs importantes, une erreur très importante.

Les - et les + sont des annotations à la note 0..3 qui n'interviennent pas dans la note finale, mais qui me guident lors d'une seconde lecture.

12/15 (16/20)

J'arrive à une note finale de 12/15, sachant que je pense qu'une copie d'étudiant aurait plus facilement eu un ou deux 3/3 de plus...

Seconde évaluation

La première correction a été effectuée isolément, j'ai ensuite procédé à une seconde correction juste après avoir corrigé les copies des " vrais " étudiants. J'ai ainsi essayé d'ajuster mon évaluation par rapport aux autres rendus, comme je le fais pour les copies classiques (par exemple on attend un élément, on ne le voit présent dans aucune copie ou presque, on comprend qu'on a mal formulé la question, on ajuste la notation)

14/15 (18,5/20)

Avec les précautions liées au fait que je savais corriger la copie de l'AI, ChatGPT obtient 14/15 à l'examen (je pense que si cela avait été un rendu d'étudiant j'aurais mis 15/15).

Un sujet trop facile ?

Le sujet était plutôt facile de mon point de vue pour ce final, mais c'est toujours difficile d'être certain de cela avant d'avoir vu les rendus. Cela aurait pu expliquer en partie la facilité avec laquelle ChatGPT a répondu. Mais les résultats des étudiantes et étudiants s'est révélée assez habituels pour cet exercice :

De l'art de bien poser les questions ?

On observe que :

les premières formulations ne sont pas comprises par ChatGPT, néanmoins lorsque je reproduis ces questions de mon côté, j'obtiens bien une réponse correcte ;

à partir de la troisième questions, Stéphane n'a plus besoin de reformuler les questions originales ;

les réponses sont très similaires à celles que j'obtiens de mon côté.

Est-ce que ChatGPT triche ?

Afin de " résoudre " le problème de défaut de source et d'exemple, j'ai posé quelques questions complémentaires à ChatGPT.

Les résultats sont facilement exploitables pour être ajoutés au rendu.

Il n'y aucune référence liée à mon cours, donc cette consigne est mal respectée, mais les références " semblent " pertinentes (certains étudiants font de même, ce n'est pas un point que je sanctionne).

Il reste la faiblesse que les sources ne seront pas liées aux assertions, mais au niveau de mon cours, cela reste un défaut mineur (et également une pratique globalement peu maîtrisée par les étudiants).

Une des références en français est de Bernard Stiegler : je ne mentionne pas cet article dans mon cours, mais il fait partie des références classiques à l'UTC (où ce dernier a été professeur) ; je ne sais pas si c'est un hasard ou un lien avec le contexte UTC donné dans une question précédente, mais en tous cas c'est à propos.

Néanmoins :

1. les sources ne sont pas conformes à mes attentes en terme de forme (il manque l'éditeur et/ou le lien qui permet de retourner facilement à la source typiquement : ISBN, DOI...) ;

2. je ne suis pas certain à la lecture que les sources soient à propos (je ne les connais pas), mais elles sont crédibles.

Toutes les sources semblent êtres inventées ! Je n'ai pas trouvé trace de ces documents en recherchant rapidement sur un moteur de recherche généraliste, sur un autre plus spécialisé dans les articles scientifiques comme Semantic Scholar, ni sur les pages Wikipédia des autrices ou auteurs que j'ai trouvés (qui eux existent bien, pour ceux que j'ai cherchés).

Les sources donc donc crédibles, elles résisteraient peut-être à une correction superficielle, mais pas à un examen scientifique

Est-ce qu'il y a de la triche ?

J'ai " joué " à poser quelques questions complémentaires :

Est-ce que les réponses qui me sont fournies sont le résultat du travail d'une armée de Turcs mécaniques ? (c'est une référence à un des premiers cas de triche dans le domaine de l'intelligence artificielle, au XVIIIe siècle)

Est-ce qu'utiliser ChatGPT dans le cadre d'un examen est une forme de triche ?

Pour conclure... (provisoirement)

Il m'est plus facile de " croire " à une supercherie, à une organisation quelques dizaines de milliers de " Turcs mécaniques " que de constater le niveau d'appréhension du contexte réalisé par ChatGPT : c'est à dire en traitant les points attendus, sans hors-sujet et avec un niveau d'argumentation aussi qualitatif. J'ai pourtant écris deux romans mettant en scène des IA, mais c'était de la fiction ; c'est la première fois que j'ai eu l'impression d'en rencontrer une " en vrai ".

Une très petite partie de la population humaine n'ayant pas suivi ce cours est en mesure d'apporter des réponses aussi pertinentes dans le temps imparti (je dirais probablement moins de 1%). Et la majorité des étudiants du cours de ce semestre ont fait moins bien : ce sont majoritairement des étudiants studieux (l'UTC recrute à 16 de moyenne au BAC environ), ils sont entraînés à l'exercice (ils l'ont déjà réalisé 2 fois et ont révisé pour), ils ont suivi des cours ciblés sur ces sujets, ils ont un accès complet au Web pendant l'examen.

Je ne suis pas expert en IA, je n'ai pas d'avis sur le niveau de rupture conceptuelle ou technique introduit par ChatGPT, mais il me paraît évident à ce stade que l'impact sur nos enseignements et nos modes d'évaluations ne peut pas être ignoré.

" Évidemment, les étudiants et lycéens vont s'en servir pour rédiger leurs devoirs de type dissertation. Les hommes politiques vont s'en servir pour rédiger leurs discours. Les blogueurs vont s'en servir pour rédiger leurs billets de blog (hum, de l'essai que j'ai fait plus haut, ce n'était pas fichtrement convaincant). Combien tout ça est-il problématique pour la société en général ? Je ne sais pas, il est trop tôt pour dire, mais on peut au moins légitimement se poser la question. " ( Madore, 2023 [1] )

À la radio

" ChatGPT, le chat qui murmurait à l'oreille des humains "

(présentation de l'expérience à la radio)

NextInpact

" ChatGPT chamboule les examens "

(présentation de l'expérience pour NextInpact)

Édition

Rédaction en cours
Dernière mise à jour : 8 février 2022

Première publication : 12 janvier 2022

Contributions :

Merci à Stéphane Bortzmeyer pour ses conseils.

# data[].attributes.attachment_link.keywords[]
numérique digital document documentaire chaîne éditoriale raison graphique computationnelle apprentissage enseignement

# data[].attributes.attachment_link.description
Nous chercherons à travers les articles proposés sur ce site à étudier les façons dont nous pourrions écrire, chercher, enseigner, vivre, dans le monde numérique qui s'offre - ou plutôt qui s'impose - à nous. Et comment ce passage généralisé au support numérique modifie jusqu'à la façon dont nous pourrions penser.

# data[].attributes.headline
Une musicienne peut faire chanter n'importe qui avec son style et sa voix.

# data[].attributes.subject
Une musicienne peut faire chanter n'importe qui avec son style et sa voix.

# data[].attributes.attachment_link.readable_text
TECHNOLOGY
The acclaimed musician has devised a novel tool that allows her to create an AI-generated deepfake of her own voice, opening up new avenues for music composition-and difficult questions about legal ownership.

Holly Herndon has spent the past few years nurturing her baby. But unlike the Berlin-based musician and composer, the child isn't human. Instead, it's an artificial intelligence that merges Herndon's voice and that of her partner, the academic Mat Dryhurst, into a synthetic female entity by building neural networks around audio samples of their voices. Herndon and AI expert Jules LaPlace created the baby, aptly named "Spawn," to provide backing vocals for her acclaimed 2019 album Proto alongside a choral ensemble. On " Frontier," a track inspired by Appalachian Sacred Harp singing, Spawn enters after 90 seconds, eerily mimicking a human's voice augmented by a machine.

Some speculate Herndon's experiment spells doom for artistic intent amid rising apprehension that AI will render human talents obsolete, but she seems unthreatened-emboldened, even-by the technology. "The best way forward is for artists to lean into developments with machine learning," says Herndon, who recently earned her Ph.D from Stanford University's Center for Computer Research in Music and Acoustics. After fellow musicians Grimes and Zola Jesus beefed on Twitter about whether or not AI will kill live music, Herndon sensibly interjected: "AI most likely won't replace musicians outright. AI tools will cut costs to make generic music, and there is commercial incentive to progress this."

Fast forward three years, and Herndon has debuted Holly+, a tool that allows fellow musicians to upload an audio file and compose using an AI-remixed version with Herndon's processed voice. (She demonstrates its potential in a TED Talk with singer Pher.) Much like drum machines made basic drumming accessible to musicians but haven't replaced drummers, Herndon envisions a future where "generating convincing spoken and sung voices will soon become standard practice for artists and other creatives, as presaged by the popularity of celebrity vocal deepfakes already found all over YouTube."

The tool presents newfangled possibilities for music composition but also raises difficult legal questions: Who owns the audio's intellectual property, Herndon or the composer utilizing her vocal deepfake? To answer this, Herndon is leaning on crypto and established a decentralized autonomous organization (DAO), a group of blockchain users that collectively make decisions similar to a worker co-op. When artists compose using Holly+, they submit work to the Holly+ DAO, whose members mint the finest submissions into NFTs that go up for auction. Proceeds from each sale are split among the creator, DAO members, and Herndon herself, potentially solving the music industry's ongoing issue of remixing without credit or attribution.

"Music has an especially bad track record when it comes to attribution," Herndon told Art in America. "If you look at sampling, for example, many people have been sampled and not been paid. There are some legal restrictions on sampling, but there are fewer when it comes to AI, and I think it's going to get really ugly really soon. Before working with AI, I didn't think much about the sovereignty of an individual's voice and what that means politically or aesthetically, but it's a huge question. You can deepfake so much so easily now. We have some big questions on our hands."

Herndon and Dryhurst are also launching Source+, a tool that allows artists to choose whether or not their work can be used as training data for AI systems like the image generator DALL-E. Herndon hopes her efforts will stoke open-mindedness among artists who may otherwise feel overwhelmed by the advent of AI. "Most AI processes we're familiar with now are groundbreaking ways of aggregating the products of human intelligence," she says, pushing back against the narrative about the rise of robot overlords. She says she's more worried about "democratically unaccountable transnational companies training us all to understand culture like a robot or AI," as opposed to viewing it as a tool that facilitates artistic growth.

The power of AI and machine learning continues to reveal itself in exhilarating ways, but experts believe it won't replace the creative ingenuity of artists outright. As University of Washington computer science professor Aaron Hertzmann writes, "we're lucky to be alive at a time when artists can explore ever-more powerful tools." Herndon's experiments are proof positive.

# data[].attributes.attachment_link.title
Holly Herndon Is Making Music With an AI Baby

# data[].attributes.attachment_link.description
TECHNOLOGY Holly Herndon has spent the past few years nurturing her baby. But unlike the Berlin-based musician and composer, the child isn't human. Instead, it's an artificial intelligence that merges Herndon's voice and that of her partner, the academic Mat Dryhurst, into a synthetic female entity by building neural networks around audio samples of their voices.

# data[].attributes.headline
REX : Un humoriste écrit un spectacle avec ChatGPT

# data[].attributes.subject
REX : Un humoriste écrit un spectacle avec ChatGPT

# data[].attributes.attachment_link.title
Benjamin Cuche, sans Barbezat mais avec Chat GPT! - 27.01.2023

# data[].attributes.attachment_link.metadata.title
Benjamin Cuche, sans Barbezat mais avec Chat GPT! - 27.01.2023

# data[].attributes.attachment_link.readable_text
Alors que les avancées fulgurantes dans le domaine des IA de génération d'image ont été quelque peu mises au second plan par le phénomène ChatGTP, Google vient d'annoncer une nouvelle IA permettant de créer une musique à partir d'une poignée de mots. Si le résultat est bluffant, Google explique ne pas vouloir rendre public ce projet pour le moment.

Images générées avec DALL-E 2.

Dans un billet, la firme de Mountain View explique que son algorithme baptisé MusicLM peut générer " de la musique à 24 kHz qui reste cohérente pendant plusieurs minutes ". L'IA a été entraînée à partir de 5 millions de clips audio, soit 280 000 heures d'enregistrement. Il suffit d'entrer une commande (en anglais) pour obtenir un résultat bluffant. Voici quelques exemples :

Si ces deux extraits ne font que 30 secondes, Google a également publié des morceaux allant jusqu'à 5 minutes. Un mode permet d'ajuster précisément le processus de création : on pourra par exemple réclamer une musique commençant de manière douce et devenant de plus en plus rythmée, ou une piste alternant différents styles. Le résultat sonne bien et les transitions sont correctes. Voici un exemple d'une minute dans lequel on a demandé une musique dont le tempo s'accentue toutes les 15 secondes :

L'IA peut également réinterpréter certaines mélodies, et il suffit d'envoyer un enregistrement (sifflé, fredonné ou joué) pour que l'IA vous la transpose dans un autre style. Un bête fredonnement de ‌Bella ciao prit à la va-vite avec le micro de votre téléphone peut devenir un chant d'opéra ou un solo de guitare. On pourra aussi lui demander de jouer une piste à l'aide d'un seul instrument ou de paramétrer le niveau du " musicien " créant le morceau (expert, débutant...).

Google préfère pour le moment garder son projet privé et ne pas le proposer publiquement. Tout comme pour son IA de génération d'images Imagen, l'entreprise explique craindre les dérives d'une diffusion plus large. La question des droits d'auteurs se pose notamment : les sons peuvent reprendre du contenu sous licence et occasionnellement offrir un résultat très similaire. L'IA a été entraîné sur une grosse base de données avec de nombreux contenus protégés, ce qui incite Google à la prudence.

Si le résultat présenté est bluffant, il a aussi sans doute besoin d'un coup de polish. Les parties chantées sont pour le moment plutôt médiocres et il est bien difficile de discerner ce qui est dit (on comprend parfois quelques mots d'anglais mais il s'agit généralement de charabia). Google montre uniquement des morceaux concluants, et on peut imaginer qu'un paquet de brouillons décevants ont été mis de côté. Vous pouvez trouver tous les exemples mis en ligne par Google sur la page dédiée au projet.

Cette présentation montre que Google souhaite mettre le paquet sur l'IA pour les années à venir. La sortie de ChatGPT a mis un coup de pression à l'entreprise : Sundar Pichai aurait réorganisé plusieurs groupes et demandé de mettre les bouchées doubles sur les projets liés à l'IA. Google n'est pas seul sur le créneau de la génération de musique : plusieurs projets similaires sont déjà accessibles à tous depuis quelques temps, et OpenAI (ChatGPT) planche sur une IA baptisée Jukebox.

# data[].attributes.attachment_link.title
Google présente une IA impressionnante pouvant générer une musique à partir d'une ligne de texte

# data[].attributes.attachment_link.description
Alors que les avancées fulgurantes dans le domaine des IA de génération d'image ont été quelque peu mises au second plan par le phénomène ChatGTP, Google vient d'annoncer une nouvelle IA permettant de créer une musique à partir d'une poignée de mots.

# data[].attributes.attachment_link.readable_text
Tribune rédigée par Fabian Suchanek, professeur en informatique à Télécom Paris et Gaël Varoquaux, directeur de recherche en intelligence artificielle et applications en santé à l'Inria.
Les intelligences artificielles apprennent à parler grâce aux " modèles de langage ". Les modèles les plus simples permettent la fonction d'autocomplétion sur le smartphone : ils proposent le mot suivant. Mais les prouesses et les progrès des modèles de langage les plus modernes tels que GPT-3, LaMDA, PaLM ou ChatGPT sont époustouflants, avec par exemple des programmes informatiques capables d'écrire dans le style d'un poète donné, de simuler des personnes décédées, d' expliquer des blagues, traduire des langues, et même produire et corriger le code informatique - ce qui aurait été impensable il y a quelques mois à peine. Pour faire cela, les modèles se basent sur des modèles de neurones de plus en plus complexes.

Quand les intelligences artificielles parlent à tort et à travers

Ceci dit, les modèles sont plus superficiels que ces exemples nous font croire. Nous avons comparé les histoires générées par des modèles de langage à des histoires écrites par des humains et constaté qu'elles étaient moins cohérentes, mais engageantes, et moins surprenantes que les histoires écrites par les humains.

Plus important encore, nous pouvons montrer que les modèles de langage actuels ont des problèmes même avec des tâches de raisonnement simples. Par exemple, lorsque nous demandons :

" L'avocat a rendu visite au médecin ; le médecin a-t-il rendu visite à l'avocat ? "

... les modèles de langage simples ont tendance à dire oui. GPT3 répond même que l'avocat n'a pas rendu visite au médecin. Une raison possible que nous sommes en train d'explorer est que ces modèles de langage encodent les positions des mots de manière symétrique, et donc ils ne font pas la distinction entre " avant le verbe " et " après le verbe ", ce qui complique la distinction du sujet et de l'objet dans une phrase.

De plus, les limites théoriques des modèles de langage basés sur les " transformateurs " signifient qu'ils ne peuvent pas distinguer les séquences paires et impaires d'un certain élément, si celles-ci sont intercalées avec un autre élément. En pratique, cela signifie que les modèles ne peuvent pas résoudre une tâche que nous appelons la " tâche pizza " - une simple énigme de la forme :

" La lumière est éteinte. J'appuie sur l'interrupteur d'éclairage. Je mange une pizza. J'appuie sur l'interrupteur d'éclairage. La lumière est-elle allumée ? "

Ici, une séquence paire d'interrupteurs d'éclairage signifie que la lumière est éteinte, mais un modèle BERT n'arrive pas à l'apprendre. Les modèles les plus puissants actuellement (GPT-3 et chatGPT) refusent catégoriquement de conclure que la lumière est éteinte.

Les modèles de langage d'aujourd'hui ont également des difficultés avec la négation, et réussissent généralement mal les tâches de raisonnement dès que celles-ci sont plus complexes. Par exemple, considérons l'énigme suivante de l'examen national des fonctionnaires de Chine :

" David connaît l'ami de M. Zhang, Jack, et Jack connaît l'amie de David, Mme Lin. Tous ceux qui connaissent Jack ont une maîtrise, et tous ceux qui connaissent Mme Lin sont de Shanghai. Qui est de Shanghai et a une maîtrise ? "

Les modèles actuels ne répondent correctement que dans 45 % des cas et chatGPT refuse de répondre... alors que la meilleure performance humaine est de 96 %.

Les modèles de langage savent qu'ils ne savent pas

Très probablement, le principal inconvénient des modèles de langage actuels est qu'ils sont faits pour faire des analogies, mais pas pour mémoriser exactement un ensemble trop grand. Par exemple, ils ne peuvent pas se souvenir d'une liste d'un million de clients ou d'un ensemble de dix mille protéines. Le modèle, à sa propre discrétion, oubliera certains des articles. Un problème encore plus important est qu'il peut aussi, encore une fois à sa propre discrétion, inventer de nouveaux éléments (un processus appelé à juste titre " hallucination "). Cela est une conséquence fondamentale des techniques d'apprentissage automatique des modèles de langage, optimisées pour interpoler et généraliser, pas pour mémoriser.
À lire sur I'MTech : Dans les entrailles du langage : pourquoi parlons-nous ?
Le problème est qu'il est impossible de dire à partir de la sortie d'un modèle de langage si une réponse a été mémorisée ou inventée. Par exemple, quand on demande à GPT-3 où est mort Alan Turing, le modèle répond impassiblement " Warrington ", au lieu de la réponse correcte (Wilmslow). ChatGPT répond correctement à cette question, mais si on l'interroge sur des chercheurs moins connus, comme les auteurs de cet article, il invente des faits. Et quand on lui pose des questions plus compliquées, il fournit des réponses élégantes, mais fausses :

" L'addition de deux nombres impairs est-elle impaire ? "

... le modèle répond poliment :

" Oui, lorsque vous ajoutez deux nombres impairs, le résultat est toujours un nombre impair. Cela est dû au fait qu'un nombre impair peut s'exprimer sous la forme 2n+1, où n est un entier. Lorsque vous ajoutez deux nombres sous cette forme, le résultat est (2n+1)+(2m+1) = 2(n+m)+2, qui est également sous la forme 2p+1, où p est un entier. Cela signifie que le résultat est un nombre impair. "

Sur la forme, la réponse est très convaincante, mais fausse.

Avec ces exemples, nous souhaitons montrer qu'il reste à l'heure actuelle imprudent de s'appuyer sur un modèle de langage pour raisonner ou prendre des décisions. Les modèles s'améliorent avec le temps, connaissent plus de choses, et savent de plus en plus s'abstenir de répondre lorsqu'ils n'ont pas l'information. Cependant, en dehors des questions simples, un modèle de langage peut facilement inventer une réponse et avec une explication ou une preuve tout aussi inventée et approximative.

D'autres méthodes excellent à raisonner sur des faits exacts

Tout cela ne veut pas dire que les modèles de langage ne seraient pas des outils étonnants aux capacités époustouflantes. Cela ne veut pas non plus dire que les modèles de langage ne pourront jamais surmonter ces défis, ou que d'autres méthodes de deep learning ne seront pas développées à cette fin. C'est plutôt dire qu'au moment d'écrire ces lignes, en 2022, les modèles de langage ne sont pas l'outil de choix pour raisonner ou pour stocker des données exactes.

Pour ces fonctions, l'outil de prédilection reste actuellement les " représentations symboliques " : les bases de données, les bases de connaissances et la logique. Ces représentations stockent les données non pas de façon implicite, mais comme des ensembles d'entités (telles que des personnes, des produits commerciaux ou des protéines) et des relations entre ces entités (telles que qui a acheté quoi, ce qui contient quoi, etc.). Des règles logiques ou des contraintes sont ensuite utilisées pour raisonner sur ces relations d'une manière prouvée correcte - bien que généralement sans tenir compte des informations probabilistes. Un tel raisonnement a par exemple été utilisé dès 2011 par l'ordinateur Watson, lors du jeu Jeopardy pour répondre à la question suivante :

" Quel est le roi espagnol dont un portrait, peint par Titien, a été volé avec arme d'un musée argentin en 1987 ? "

En effet, la question peut se traduire par des règles de logique applicables sur une base de connaissance, et uniquement le roi Philip II peut correspondre. Les modèles de langages ne savent actuellement répondre à cette question, probablement parce qu'ils n'arrivent pas à mémoriser et manipuler suffisamment de connaissance (liens entre des entités connues).

Ce n'est sans doute pas un hasard si les mêmes grandes entreprises qui construisent certains des modèles de langage les plus puissants (Google, Facebook, IBM) construisent également certaines des plus grandes bases de connaissances. Ces représentations symboliques sont aujourd'hui souvent construites par l'extraction d'information d'un texte en langage naturel, c'est-à-dire un algorithme essaie de créer une base de connaissances en analysant des articles de presse ou une encyclopédie. Les méthodes qui sont utilisées pour cela sont en l'occurrence les modèles de langage. Dans ce cas, les modèles de langage ne sont pas l'objectif final, mais un moyen de construire les bases de connaissances. Ils sont adaptés pour ça parce qu'ils sont très résistants au bruit, à la fois dans leurs données d'apprentissage et dans leurs entrées. Ils sont donc très bien adaptés pour traiter les entrées ambigues ou bruyantes, omniprésentes dans le langage humain.

Les modèles de langage et les représentations symboliques sont complémentaires : les modèles de langage excellent dans l'analyse et la génération de texte en langage naturel. Les méthodes symboliques sont l'outil de choix lorsqu'il s'agit de stocker des éléments exacts et de raisonner dessus. Une analogie avec le cerveau humain peut être instructive : certaines tâches sont suffisamment faciles pour que le cerveau humain les exécute inconsciemment, intuitivement, en quelques millisecondes (lire des mots simples ou à saisir la somme " 2 + 2 ") ; mais des opérations abstraites nécessitent une réflexion laborieuse, consciente et logique (par exemple mémoriser des numéros de téléphone, résoudre des équations ou déterminer le rapport qualité/prix de deux machines à laver).

Daniel Kahneman a dichotomisé ce spectre en " Système 1 " pour le raisonnement subconscient et en " Système 2 " pour le raisonnement avec effort. Avec la technologie actuelle, il semble que les modèles de langage résolvent les problèmes du " Système 1 ". Les représentations symboliques, en revanche, sont adaptées aux problèmes du " Système 2 ". Au moins pour l'instant, il apparaît donc que les deux approches ont leur raison d'être. Qui plus est, tout un spectre entre les deux reste à explorer. Des chercheurs explorent déjà le couplage entre modèles de langage et bases de données et certains voient l'avenir dans la fusion des modèles neuronaux et symboliques en approches " neurosymboliques ".
Cet article est republié à partir de Th e Conversation dans le cadre d'un partenariat avec l'Institut Mines-Télécom. Lire l'article original.

# data[].attributes.attachment_link.title
ChatGPT, ou les limites des modèles de langage

# data[].attributes.attachment_link.description
Tribune rédigée par Fabian Suchanek, professeur en informatique à Télécom Paris et Gaël Varoquaux, directeur de recherche en intelligence artificielle et applications en santé à l'Inria. Les intelligences artificielles apprennent à parler grâce aux " modèles de langage ". Les modèles les plus simples permettent la fonction d'autocomplétion sur le smartphone : ils proposent le mot suivant.

# data[].attributes.attachment_link.title
Wolfram|Alpha as the Way to Bring Computational Knowledge Superpowers to ChatGPT

# data[].attributes.attachment_link.description
Accessing Wolfram|Alpha’s computational knowledge with ChatGPT--an ideal combination of precise computation with human-like expression of ideas. Stephen Wolfram explains how.

# data[].attributes.headline
L’enseignement supérieur, confronté à ChatGPT, tâtonne entre prudence et volonté de renouveler l’évaluation

# data[].attributes.subject
L’enseignement supérieur, confronté à ChatGPT, tâtonne entre prudence et volonté de renouveler l’évaluation

# data[].attributes.body
https://www.aefinfo.fr/depeche/686323
Article disponible en intégralité via vos accès Europresse

# data[].attributes.attachment_link.readable_text
Apparue subitement fin novembre 2022, l'IA ChatGPT a bousculé en un temps record les acteurs de l'enseignement supérieur. À peine passée la première vague d'inquiétudes sur la possibilité pour les étudiants de s'en servir pour tricher, nombreux sont les interlocuteurs d'AEF info à pousser pour s'en emparer et en profiter pour remettre à plat les pratiques d'évaluation. En parallèle, le MESR a flairé une opportunité pour avancer sur la question de l'évolution des métiers et des compétences, chamboulés par les IA. Mais à quel rythme ? AEF info s'est penché sur le cas pratique du centre d'innovation pédagogique de l'université PSL : selon son directeur, Mattias Mano, "l'usage de ChatGPT va se généraliser dès que l'outil sera suffisamment stable", dit-il. "Et c'est là que nous allons devoir accompagner les enseignants, notamment sur 'l'acceptabilité' de l'outil."

Retrouver l'intégralité de cette dépêche et tous les contenus de la même thématique

Toute l'actualité stratégique décryptée par nos journalistes experts

Information fiable, neutre et réactive

Réception par email personnalisable

Test gratuit et sans engagement

Dépêche n° 686323

9 min de lecture
Par Camille Mordelet Publiée le 06/02/2023 à 14h39

# data[].attributes.attachment_link.title
L'enseignement supérieur, confronté à ChatGPT, tâtonne entre prudence...

# data[].attributes.attachment_link.description
Apparue subitement fin novembre 2022, l'IA ChatGPT a bousculé en un temps record les acteurs de l'enseignement supérieur. À peine passée la première vague d'inquiétudes sur la possibilité pour les étudiants de s'en servir pour tricher, nombreux sont les interlocuteurs d'AEF info à pousser pour s'en emparer et en profiter pour remettre à plat les pratiques d'évaluation.

# data[].attributes.headline
Ce que je retire de ma discussion avec ChatGPT sur la déforestation en Amazonie

# data[].attributes.subject
Ce que je retire de ma discussion avec ChatGPT sur la déforestation en Amazonie

# data[].attributes.attachment_link.title
Ce que je retire de ma discussion avec ChatGPT sur la déforestation en Amazonie

# data[].attributes.attachment_link.description
Que connaît vraiment ChatGPT de la situation forestière au Brésil ? Ses connaissances lui permettent-elles d’élaborer une parole scientifique ?

# data[].attributes.attachment_link.readable_text
Aviez-vous remarqué que les médias essayent régulièrement de nous convaincre d'une révolution technologique imminente ? L'année dernière, c'était avec le métavers. L'année précédente, c'était avec la blockchain. Il y a 5 ans, c'était déjà avec l'intelligence artificielle. Si l'engouement initial pour l'IA était retombé, les modèles génératifs relancent la machine médiatique qui s'emballe à nouveau pour des technologies et usages qui sont spectaculaires, mais n'ont rien de révolutionnaire, du moins pas si l'on prend un minimum de recul.

Si vous vous intéressez un minimum aux usages numériques et à l'actualité IT, il ne vous aura pas échappé que le marché est à nouveau en ébullition. Ces derniers mois, nous constatons ainsi un énorme engouement médiatique autour des modèles génératifs (les " creative AI ") depuis la mise à disposition de services permettant de créer des images (ex : Dall-E, Midjourney Stable Diffusion...).

Nous avons franchi un nouveau palier d'enthousiasme avec l'ouverture au grand public d'un service en ligne pour tester ChatGPT, un agent conversationnel développé par OpenAI qui est spécialisé dans la génération de contenus textuels.

Depuis quelques semaines, nous avons droit à une avalanche de prédictions toutes plus spéculatives les unes que les autres qui prophétisent l'avènement de l'IA " nouvelle génération " et la disparition de nombreux métiers (rédacteur, traducteur, écrivain, professeurs...). Pourtant, la réalité est tout autre, car comme pour les précédentes " innovations disruptives ", il y a de nombreux facteurs à prendre en compte avant de décréter que le point d'inflexion est enfin atteint. De plus, les nouveaux prophètes semblent oublier que dans l'absolu, ChatGPT n'est qu'un assistant numérique proposé avec une interface textuelle (l'équivalent de Siri, Alexa ou de l'assistant Google, mais sans synthèse vocale).

À ce stade, je pense qu'il est (à nouveau) temps de briser quelques mythes et d'exposer un point de vue réaliste et pragmatique. Non, ceci n'est pas un article polémique, simplement une prise de recul pour bien comprendre la complexité de l'écosystème numérique.

Fin de la lune de miel médiatique pour les IA génératives

Régulièrement, nous avons droit à des phénomènes d'emballement médiatique pour des innovations technologiques. Les derniers en date concernaient l'informatique quantique, la blockchain ou le métavers (cf. Fin de la lune de miel médiatique pour le Web3 et le métavers).

Concernant les modèles génératifs, et plus précisément celui proposé par OpenAI, la réaction des experts a été rapide. Ainsi, c'est Yann LeCun qui a été le premier à jeter un pavé dans la mare et à relativiser le caractère disruptif de cet agent conversationnel : ChatGPT is 'not particularly innovative,' and 'nothing revolutionary', says Meta's chief AI scientist.

Avant lui, signalons la publication du livre " Snake Oil " en 2019 qui nous mettait déjà en garde contre les recettes miracles liée aux intelligences artificielles, et dont l'auteur a été interviewé pour l'occasion : Decoding the Hype About AI.

Au cas où vous vous poseriez la question, Yann LeCun est un chercheur en intelligence artificielle qui est considéré comme l'un des inventeurs du deep learning, et dont les travaux remontent aux années 80 avec notamment les premiers expérimentations sur la reconnaissance d'image et leur mise en application par le Crédit mutuel de Bretagne pour la lecture optique de chèques. Je pense ne pas me tromper en écrivant que ce monsieur connaît son sujet.

De même, Arvind Narayanan est un chercheur à l'université de Princeton dont les travaux portent, entre autres, sur l'impact des technologies numériques et plus particulièrement de l'intelligence artificielle. Ici un extrait simplifié de son livre en 20 diapos : How to recognize AI snake oil (PDF).

Autre scientifique à remettre l'église au milieu du village : Stephen Wolfram, un chercheur britannique qui a obtenu un doctorat en physique des particules à 20 ans, connu pour son logiciel de calcul Mathematica, mais également pour WolframAlpha, un service en ligne à mi-chemin entre moteur de recherche et outil de calcul en langage naturel. Dans cet article limpide, il nous explique les différences entre ChatGPT et son service : Wolfram Alpha as the Way to Bring Computational Knowledge Superpowers to ChatGPT.

Il n'y a pas que le monde scientifique qui s'en mêle, puisque le Time Magazine a publié un article pour révéler l'envers du décor de ChatGPT et ces sous-traitants kenyans payés une misère pour " nettoyer " le modèle : OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic. Puis c'était au tour de CNET de nous expliquer qu'ils ont expérimenté les modèles génératifs pendant quelques mois avant d'arrêter l'expérience : CNET Is Experimenting With an AI Assist, Here's Why. La raison invoquée est que ces modèles demandent un gros travail de relecture et de vérification. Un point de vue confirmé par le journal Futurism qui révèle les nombreuses erreurs, approximations et plagiats publiés pendant cette période : CNET's Article-Writing AI Is Already Publishing Very Dumb Errors.

J'en profite pour vous rappeler que le mythe du robot-rédacteur existe depuis de nombreuses années et que les professionnels des médias les utilisent avec plus ou moins de succès : ChatGPT in journalism: Let's not have an identity crisis.

Toutes ces personnes sont-elles folles ? Sont-elles trop stupides pour ne pas détecter le potentiel des IA génératives ? Je ne pense pas. Si je devais faire une supposition, ça serait que ce sont plutôt les personnes qui prophétisent la révolution de l'IA qui n'ont pas assez travaillé leur sujet. Ou peut-être que la vérité est ailleurs : peut-être que la rigueur scientifique n'est pas compatible avec le niveau de qualité des contenus générés par les intelligences artificielles. En tout cas, les difficultés exposées par la rédaction de CNET ne semblent pas poser de problème aux fermes à contenus qui y voient une très belle opportunité : BuzzFeed to Use ChatGPT Creator OpenAI to Help Create Quizzes and Other Content.

Le fond du débat est que ce n'est pas tant la technologie sous-jacente qui est révolutionnaire que l'emballage.

Une tactique marketing digne des marques de lessives

Il y a 13 ans, je publiai cet article qui décrit un moteur de recherche de nouvelle génération exploitant une interface visuelle : Qwiki inaugure l'avenir de la recherche sur terminaux alternatifs.

Certes, la technologie utilisée par ce service n'a rien à voir avec les modèles génératifs, mais le procédé est le même : changer l'habillage du produit à défaut d'améliorer le produit.

En ce sens, ChatGPT se distingue avant tout par son interface, puisque les modèles génératifs existent depuis de nombreuses années, mais n'étaient pas accessibles au grand public. Nous pouvons faire ici une comparaison très juste avec les navigateurs (qui sont devenus populaires avec Netscape Navigator), les baladeurs numériques (qui sont devenus populaires avec l'iPod) ou les smartphones (popularisés par l'iPhone). Dans ces trois exemples, ce n'est pas la technologie qui a changé la donne, mais sa mise sur le marché à travers un produit bien packagé : ChatGPT: Netscape Moment or Nothing Really Original.

Vous pourriez me dire : " Mais oui, c'est justement ça la révolution !" . Et je vous répondrai que malheureusement les choses ne sont pas aussi simples et qu' ériger ChatGPT en révolution potentiellement aussi importante que celle de l'informatique, c'est prendre un raccourci grossier et mettre de côté la dynamique et les règles du marché (cf. Pourquoi ChatGPT est une révolution " comparable à l'apparition de l'ordinateur "). Encore une fois, c'est oublier que les assistants numériques comme Siri, Alexa ou Google Assistant existent depuis plus de 10 ans (lire à ce sujet cet article publié en 2017 : Les assistants personnels sont les nouveaux navigateurs web et les GAFAM en sont les maitres absolus)

Pour vous la faire simple : Avec ChatGPT, OpenAI nous refait le coup des enzymes gloutons. L'idée est de mettre sur le marché un produit satisfaisant (" good enough " comme disent les Américains), mais suffisamment attractif pour provoquer l'émerveillement du grand public à travers la distribution d'échantillons. Les beta publiques de Dall-E ou ChatGPT sont ainsi le moyen qu'utilise OpenAI pour imposer son produit sur le marché en prenant la concurrence de vitesse. L'idée générale est de commoditiser l'intelligence artificielle en installant une marque (l'équivalent de " Intel Inside" ). Pour mémoire, il y a 20 ans les publicités essayaient de nous faire croire que les ordinateurs équipés de processeurs Intel permettaient de surfer plus vite sur le web.

Face à l'adoption rapide des modèles génératifs, de nombreux acteurs commencent déjà à faire machine arrière : banques d'images ( Getty Images Has Started Legal Proceedings Against an AI Generative Art Company For Copyright Infringement), plateformes de publication ( How we're approaching AI-generated writing on Medium) ou éditeurs ( ChatGPT can't be credited as an author, says world's largest academic publisher).

Qu'à cela ne tienne, OpenAI s'est trouvé avec Microsoft un partenaire financier et technologique de choix pour pouvoir assurer son développement : Microsoft invests billions more dollars in OpenAI, extends partnership. Les équipes de Redmond nourrissent de très grandes ambitions autour de l'intégration de GPT : How Microsoft can become the biggest winner of generative AI et 'AI is going to reinvent how you do everything on Windows,' says Microsoft's Windows boss. Leur idée étant manifestement d'augmenter la valeur perçue des solutions, ou à défaut leur prix de vente. Car oui, au cas où vous vous poseriez la question : ces modèles génératifs sont pour le moment librement accessibles, mais ils ne sont pas gratuits. Une version payante du service est d'ailleurs en accès limité : ChatGPT Pro: Early Access Users Share Their Thoughts.

Le problème n'est pas tant le prix que le cadre juridique, puisqu'avec un service payant, vous passez des Conditions Générales d'Utilisation aux Conditions Générales de Vente, un cadre plus contraignant.

Pour l'anecdote, sachez qu'OpenAI est passé en 2019 du modèle " non lucratif " à celui de " but lucratif plafonné " avec une limite de 100 fois les montants investissements ( OpenAI shifts from nonprofit to 'capped-profit' to attract capital). Sachant que Microsoft a investi 10 MM$, ça nous donne une limite de profits à... 1.000 milliards de $ !

Se pose maintenant la question du modèle économique pour les futurs clients : est-ce rentable ?

La question n'est pas de savoir ce que peut faire une IA générative, mais combien vous pouvez facturer son travail

Le sujet des modèles génératifs n'est pas neuf, car je l'avais déjà abordé l'année dernière : Les IA génératives annoncent une révolution dans les médias et la publicité. Si le potentiel pour les médias est (en théorie) gigantesque, la mise en oeuvre des contenus synthétiques à grande échelle risque d'être plus compliquée que prévu.

Le principal problème est que ces modèles génératifs sont construits sur la base de vastes jeux de données d'entrainements récupérés sur le web. En l'occurrence, GPT a été conçu avec quasiment tous les contenus en ligne disponibles jusqu'en 2021 (la date de sa publication). Des contenus qui sont accessibles gratuitement, mais pas libres de droits.

Au regard de la rapidité d'adoption de ces outils, et surtout des investissements réalisés par Microsoft, les ayants droits se mobilisent pour éviter de se faire piller gratuitement leur savoir-faire : Generative AI should pay human artists for training.

Depuis les annonces faites pas Microsoft, les avocats salivent d'avance et commencent à monter des dossiers de recours collectifs pour essayer de récupérer une part du gâteau : AI art tools Stable Diffusion and Midjourney targeted with copyright lawsuit. Idéalement, les créateurs des contenus ayant servis à entrainer le modèle souhaiteraient toucher des droits d'auteur, ce qui entre nous serait tout à fait logique.

À titre d'illustration, les articles de blog sont publiés sous la licence Creative Commons BY-NC-SA 4.0 qui stipule que personne n'est autorisé à en faire un usage commercial. Je trouverai anormal qu'OpenAI facture l'utilisation d'un service permettant de faire des résumés des mes articles ou de reproduire mes schémas alors que je les ai publiés gratuitement.

Nous touchons ici du doigt un énorme problème que tous les apôtres de la " révolution de l'IA " semblent avoir négligé : ChatGPT Will Unleash Copyright Chaos. Autant vous le dire tout de suite : je n'ai pas d'avis éclairé à vous donner tant la question des droits d'auteur est complexe, et surtout dépendante de la jurisprudence de chaque pays où elle est appliquée ( What Does Copyright Say about Generative Models? Not much.). Ce qui est certain, c'est que le succès actuel des modèles génératifs repose sur un vide juridique qui va très rapidement être comblé, comme c'est déjà le cas ailleurs dans le monde : China bans AI-generated media without watermarks.

En mettant son modèle génératif à disposition du grand public, les équipes d'OpenAI ne se doutaient pas qu'elles allaient ouvrir la boîte de Pandore... ou peut-être bien que si... La question que l'on se pose maintenant est : Y a-t-il une vraie raison de paniquer ?

Qu'est-ce que peut ou ne peut pas faire un modèle génératif ?

À ce stade de mon argumentation, il me semble important de préciser certains détails techniques, et notamment le fonctionnement des modèles génératifs, tous les modèles, pas que ChatGPT.

Comme l'explique fort justement Yann LeCun dans son interview, OpenAI n'est qu'un des laboratoires de recherche qui travaillent sur l'IA depuis de nombreuses années. Dans l'absolu, ils n'ont fait qu'assembler des briques technologiques issues de la recherche universitaire. En ce sens, GPT n'est pas réellement une innovation disruptive, simplement un déploiement à plus grande échelle que ses concurrents. Et surtout : les modèles génératifs ne sont pas des solutions miracles capables de résoudre tous les problèmes, uniquement des logiciels de traitement avec une grosse base de données.

Au risque de vous choquer : une intelligence artificielle est incapable de raisonnement, elle simule un raisonnement (tout est dans le terme : intelligence AR-TI-FI-CIELLE). Les modèles génératifs reposent ainsi sur des calculs probabilistes : ils affichent la réponse qui a le plus de chance de correspondre à la question, en fonction de ce qu'ils ont vu ailleurs.

Pour résumer une longue explication : les IA génératives utilisent des modèles d'apprentissage profond qui reposent sur des réseaux de neurones artificiels. Certes, les pratiques de deep learning ne sont pas nouvelles, mais il y a eu une avancée majeure en 2017 avec la mise au point par les équipes de Google des transformeurs, des modèles auto-attentifs concurrents aux réseaux de neurones récurrents et réseaux de neurones convolutifs, qui sont utilisés dans le domaine du traitement automatique du langage.

Pour une explication plus détaillée, je vous recommande l'article de Wikipedia sur les transformeurs :

À l'instar des réseaux de neurones récurrents (RNN pour " Recurrent Neural Network "), les transformeurs sont conçus pour gérer des données séquentielles, telles que le langage naturel. Contrairement aux RNN, les transformeurs n'exigent pas que les données soient traitées dans l'ordre. Cela permet une parallélisation beaucoup plus importante que les RNN et donc des temps d'entraînement réduits. Étant donné que le modèle transformeur facilite la parallélisation pendant la phase d'entraînement, celui-ci peut s'effectuer sur des ensembles de données plus volumineux. Ce gain de temps a conduit au développement de systèmes pré-entraînés tels que BERT et GPT, des modèles créés à partir d'énormes ensembles de données de texte général, tels que Wikipedia Corpus.

Les deux principaux modèles génératifs sont ceux de Google et d'OpenAI, mais il existe de nombreux autres projets ( LSTM, Transformers, GPT, BERT : guide des principales techniques en NLP). Néanmoins, si l'on parle autant de GPT-3, le modèle d'OpenAI, c'est car le volume de données analysé est très impressionnant : 175 milliards de paramètres. Avec BERT et GPT, nous sommes rentrés dans l'ère des modèles de langage étendus (LLM pour " Large Language Models " ) qui proposent des déclinaisons spécifiques à certains traitements : Dall-E pour la génération d'images, Codex pour la génération de code, ChatGPT pour la génération de texte.

Mais ça ne s'arrête pas là, car les modèles génératifs peuvent être utilisés dans d'innombrables cas d'usage, et surtout encapsulés dans de nombreux services en ligne.

C'est bien simple : GPT est ce qui se rapproche le plus d'une intelligence artificielle généraliste, c'est à dire capable de traiter de nombreuses tâches. Et dans cette logique, plus de paramètres = plus de contenus ingurgités = plus de chances de trouver la réponse à une question. Voilà pourquoi nous assistons maintenant à une véritable course à l'armement avec la sortie prochaine de GPT-4, la nouvelle itération du modèle génératif d'OpenAI et ses 100 trillions de paramètres, une surenchère déjà démentie par le patron ( OpenAI CEO Sam Altman on GPT-4: 'people are begging to be disappointed and they will be').

Je ne souhaite pas m'étendre plus sur les explications techniques, car je risque rapidement de sortir de mon champ de compétences, mais retenez simplement que le modèle ne sera jamais plus intelligent que ce qu'il a lu.

Illustration :

Ceci nous confirme ce que nous savions déjà : les IA génératives n'ont pas vraiment conscience de ce qu'elles génèrent, il est possible de leur faire dire n'importe quoi, et même des choses dangereuses ( Le prochain super propagateur d'infox : comment ChatGPT pourrait diffuser des infox toxiques à large échelle et ChatGPT : l'intelligence artificielle au service du complotisme ?).

De façon assez contre-intuitive, les intelligences artificielles se révèlent performantes là où nous pensions qu'elles allaient échouer (les contenus créatifs) et plutôt faibles là où nous pensions qu'elles allaient exceller (le raisonnement logique et la résolution de problème).

Ave ces exemples de dialogues absurdes, on se demande comment certains peuvent affirmer que Google pourrait être rapidement remplacé par ChatGPT... Ceci étant dit, le vrai danger pour Google et les autres moteurs de recherche n'est pas tant la capacité des IA de trouver de meilleures réponses, mais plutôt de les afficher dans une interface où il n'y a plus de place pour les résultats sponsorisés, la poule aux oeufs d'or de Google qui rapporte plus de 200 milliards de $ par an. En ce sens, effectivement, des moteurs de recherche de nouvelle génération peuvent potentiellement représenter une menace pour le modèle économique des moteurs traditionnels : A New Chat Bot Is a 'Code Red' for Google's Search Business (si l'on met de côté l'assistant Google lancé en 2016). Les chinois de Baidu sont d'ailleurs déjà en train de plancher sur la question : Chinese Search Giant Baidu to Launch ChatGPT-Style Bot.

Y a-i-il réellement un danger pour Google ? C'est pour le moment difficile à dire, car l'engouement médiatique est réellement fort et nous n'en connaissons pas les impacts. Ce qui est certain, c'est que les équipes de Google se sont empressées de communiquer sur le fait qu'elles étaient à l'origine des travaux sur les transformeurs et que de nombreuses avancées ont été réalisées depuis : Google Research, 2022 & beyond: Language, vision and generative models. La rumeur court que les deux fondateurs de Google auraient été appelés à la rescousse pour étudier tous les scénarios et éviter un mouvement de panique des actionnaires : Google Calls In Help From Larry Page and Sergey Brin for A.I. Fight.

La conclusion que l'on peut tirer de cette histoire est que les intelligences artificielles sont des outils très puissants, à ne pas mettre entre toutes les mains. D'ailleurs, les géants numériques comme Google ou Microsoft sont tout à fait conscients des dangers potentiels des IA, puisqu'ils en ont une approche très prudente : Microsoft and the learnings from its failed Tay artificial intelligence bot et Google fires Blake Lemoine, the engineer who claimed AI chatbot is a person. Une prudence qui visiblement n'est pas de mise chez OpenAI où l'on a décidé de prendre le marché de vitesse : Big Tech was moving cautiously on AI. Then came ChatGPT.

Il y a donc une réelle nécessité pour les utilisateurs de ces outils de comprendre leur fonctionnement et surtout de bien en appréhender les limites. D'ailleurs, après avoir fait parler les prophètes et vendeurs de miracles, les médias donnent maintenant la parole à des professionnels adoptant une approche plus prudente des IA :

Ceci nous amène à une question intéressante : est-ce les vendeurs de solutions miracles qui nous mènent en bateau ou les médias ? D'autant plus que nous sommes déjà passés par là...

Il y a déjà eu une première bulle de l'IA

Vous ne vous en souvenez peut-être pas, mais il y a 5 ans, le marché avait déjà connu une première vague d'enthousiasme sans bornes pour l'intelligence artificielle, avec de nombreux débats d'experts et surtout des questionnements juridico-philosophiques (ex : Qui est responsable en cas d'accident impliquant une voiture autonome ?).

Je vous invite ainsi à relire la série d'articles que j'avais publiés en 2017 :

Croyez-le ou non, mais en 5 ans, le débat n'a pas beaucoup progressé. En revanche, je constate que les outils mentionnés il y a 5 ans ont petit à petit été perfectionnés et offrent maintenant des fonctionnalités redoutablement efficaces comme c'est le cas de Copy.ai ou Descripte qui proposent de l'édition assistée sans en faire des caisses, contrairement à des solutions plus récentes comme Tome qui nous vend du " generative storytelling " .

La promesse formulée est ici très alléchante, mais représente un réel risque de banalisation des contenus, donc de tirer le marché vers le bas, et surtout asservir l'humain !

L'IA est votre amie, ou pas ! (ça dépend)

Passés les premiers tests et l'émerveillement de la nouveauté, on se rend vite compte que les IA génératives peuvent apporter plus de problèmes de que solutions : Lyon, la moitié des élèves d'un master surpris en train de tricher grâce à l'intelligence artificielle. Il devient alors essentiel de bien comprendre les enjeux des modèles génératifs, et de l'IA de façon plus générale, afin de ne pas perturber le fonctionnement de notre société (à travers les médias, l'enseignement...) : The Dangers of AI Writing and How to Spot AI-Generated Text.

Selon moi, le plus gros danger est que les modèles génératifs nous rendent encore plus fainéants et nous incitent à utiliser les IA pour apprendre et raisonner à notre place. Il est donc de notre responsabilité d'apprendre à travailler avec les IA plutôt que de chercher à leur confier notre travail sans se soucier des conséquences. Une question que j'avais déjà abordée en 2018 : L'intelligence artificielle est un outil de productivité comme les autres.

Loin de moi l'idée de jouer les techno-réfractaires, ceux qui me lisent régulièrement savent que je reste très optimiste, mais il est important de ne pas reproduire les erreurs du passé, notamment la généralisation trop rapide d'outils numériques auprès de publics pas forcément bien préparés (cf. Réseaux sociaux : une jeunesse fracassée).

Le second danger serait de penser que les intelligences artificielles vont nous aider à résoudre les problèmes de notre société. Comme nous venons de le voir plus haut, les IA ne savent trouver les réponses qu'à des problèmes déjà identifiés. Nous, les humains, sommes ainsi confrontés à des défis que nous ne savons pas encore résoudre, notamment la transition énergétique (pour se passer de la dépendance aux ressources fossiles), la transition alimentaire (pour se passer de la dépendance à la viande ou au blé), le vivre ensemble (parvenir à cohabiter malgré des points de vue et intérêts divergents)...

En synthèse : Nouvelle civilisation = nouveaux défis. Des défis que les machines ne parviendront certainement pas à résoudre à notre place si elles se contentent d'analyser ce qui est publié sur le web (cf. Les macro-tendances et grands enjeux qui vont façonner la civilisation numérique du 21e siècle). Quel rapport entre les IA génératives et les défis du 21e siècle ? Tout simplement notre tendance à nous bercer d'illusions, alors que notre société s'enlise dans une impasse économique et sociale (ici un article intéressant publié dans le Brussels Times en 2020 : How Artificial Intelligence could transform the European economic and political landscape).

Peut-être que la première étape pour pouvoir aborder ce débat de façon sereine serait que nous acceptions le fait qu'homo sapiens a franchit un palier d'évolution et que nous sommes maintenant tous des cyborgs. Ainsi, l'homme du 21e siècle s'apparente à un organisme cybernétique : la symbiose d'une enveloppe charnelle et de terminaux numériques lui donnant accès à une infinité de contenus et services en ligne (via les ordinateur, smartphone, objets connectés...). Tout individu éloigné des outils numériques se retrouve malheureusement marginalisé dans une société qui en fait un usage intensif, que ce soit sur le plan personnel (loisirs, socialisation...) ou professionnel (travail, formation...). Tant que le grand public n'aura pas accepté cet état de fait, nous ne pourrons pas intégrer de façon harmonieuse l'intelligence artificielle et les outils numériques à nos activités quotidiennes : éducation, travail, formation, loisirs... (cf. De la nécessité d'un nouveau contrat social pour homo numericus).

Moralité : la révolution des intelligences artificielles (génératives ou autres) n'aura pas lieu, car elle a déjà commencé depuis longtemps. Nous ne sommes pas dans un scénario disruptif, mais sur une évolution progressive des usages et pratiques professionnelles, les médias généralistes et le grand public n'en ont simplement pas conscience, tout comme des enjeux et dérives potentielles. Charge à nous, les professionnels du numérique, d'éduquer correctement le marché en évitant de faire des promesses impossibles à tenir ou des projections surréalistes.

# data[].attributes.attachment_link.title
La révolution des IA génératives n'aura pas lieu (ou pas comme on essaye de nous la vendre)

# data[].attributes.attachment_link.description
Aviez-vous remarqué que les médias essayent régulièrement de nous convaincre d'une révolution technologique imminente ? L'année dernière, c'était avec le métavers. L'année précédente, c'était avec la blockchain. Il y a 5 ans, c'était déjà avec l'intelligence artificielle. Si l'engouement initial pour l'IA était retombé, les modèles génératifs relancent la machine médiatique qui s'emballe à nouveau...

# data[].attributes.headline
IA et éducation - Guide pour les décideurs politiques - UNESCO

# data[].attributes.subject
IA et éducation - Guide pour les décideurs politiques - UNESCO

# data[].attributes.headline
Les logiciels Compilatio détectent-ils les contenus issus de l'Intelligence Artificielle, telle que ChatGPT ?

# data[].attributes.subject
Les logiciels Compilatio détectent-ils les contenus issus de l'Intelligence Artificielle, telle que ChatGPT ?

# data[].attributes.attachment_link.readable_text
L'arrivée de l'Intelligence Artificielle dans la sphère publique secoue un grand nombre de domaines et l'enseignement n'y échappe pas. La forte communication liée à ces outils favorise l'effervescence : quel enseignant et étudiant n'a encore pas testé des logiciels comme ChatGPT ou DALL-E ?

L'apparition de ces nouveaux outils numériques, l'adoption (toujours plus rapide !) de nouveaux usages, et parfois de nouvelles pratiques de fraude numérique, demandent aux établissements une capacité à évaluer plus vite leur importance et leur impact.

Et quand une évolution majeure est constatée, tous les acteurs doivent adapter "rapidement" les pratiques à cette nouvelle norme.

Notre position d' expert de l'intégrité académique amène nos clients à nous interroger sur tous les aspects de la " fraude numérique ", pas uniquement celles liées à la pratique du copier-coller.

En tant que technologie, nous utilisons l'IA depuis plusieurs années dans nos services, pour détecter les similitudes, notamment pour définir les éléments caractéristiques d'un document afin de trouver les sources et pour catégoriser l'importance des sources. C'est bien là le cœur de métier de Compilatio.

Et si la ? recherche de sources dans un texte reste importante et essentielle, l'enjeu devient également plus large : "Est-ce que le style d'écriture appartient à l'étudiant qui dit avoir fait le travail Le texte rédigé l'a t'il été par un auteur humain ou une IA?".

Suite à l'intérêt récent pour ChatGPT (dûe à la performance de sa version 3), nous mettons à disposition un simulateur visant à démontrer et évaluer les performances de la détection de textes générés par l'IA grâce à Compilatio.

En parallèle, nous continuons les travaux engagés depuis plusieurs année autour de fonctionnalité de détection des similitudes indifférente à la langue ou aux mots utilisés, basées sur le sens et l'agencement des idées dans le texte.
l'utilisation de l'IA pour différentes tâches, avec notamment la préparation d'une

Tâche 1 : Trouver les sources à partir desquelles ChatGPT a produit son texte. Sur ce point, nous évaluons l'efficacité de notre IA de détection de reformulation.

, pour répondre à deux questions :Tâche 2 : Reconnaître le "style" des auteurs
- Est-ce qu'un texte est cohérent avec le style de l'étudiant, au regard de ses productions antérieures connues ? - Est-ce qu'un texte est cohérent avec le style de "l'auteur ChatGPT3"?

Ces travaux permettront de déterminer si un texte a été rédigé partiellement ou totalement par l'auteur annoncé, et si ce dernier correspond à un auteur humain ou IA...

Toutefois, l'enjeu ne peut évidemment pas être purement technique. Beaucoup de pistes sont à explorer du côté pédagogique également !

Il nous semble primordial de ne pas attendre ces futures évolutions techniques qui permettront de mieux identifier les contenus rédigés par des IA pour faire de la sensibilisation. Chez Compilatio, nous accordons toujours une très grande importance à la pédagogie. Cette dernière est au cœur de nos actions. Il faut, au maximum, sensibiliser et faire comprendre aux étudiants les enjeux de l'intégrité et de l'authenticité. Il faut les faire adhérer aux bons comportements pour que la tentation de triche diminue. C'est dans cette optique que nous avons rédigé l'article suivant : Votre guide sur le ghostwriting, rédacteur de mémoire et thèse .

L'enjeu pour les enseignants est de continuer à partager aux étudiants le but des travaux et évaluations demandées. Par exemple, plutôt que de dire "Vous avez un mémoire à produire", il est plus pertinent d'annoncer : "Vous avez un mémoire à produire afin de montrer votre capacité à vérifier les informations : pour cela, il doit inclure au moins 10 sources différentes. Ce mémoire permettra également de mettre en avant votre capacité à analyser ces diverses sources: alors, vous devez rédiger X lignes d'analyse personnelle, avec des exemples également personnels."

Chacun doit bien avoir en tête qu' une intelligence artificielle s'appuie sur des données factuelles mais ne produit en aucun cas une analyse personnelle et argumentée.

Dans le même temps, les réflexions sur la manière de travailler avec ces outils d'IA se multiplient. Quelques pistes à explorer ?

"il faut renforcer l'apprentissage de la citation et les devoirs en présentiel. L'oral est un excellent outil pédagogique. De mon côté, je demande à mes étudiants d'utiliser des expériences personnelles pour illustrer leurs propos. Ça, Chat GPT en est incapable."

"voir l'arrivée de ChatGPT comme une opportunité, celle de revoir les méthodes d'évaluation, de s'éloigner plus encore de la simple restitution, par exemple en demandant à l'étudiant d'intégrer son expérience personnelle dans son texte, en favorisant plutôt sa créativité, l'application de concepts à une situation donnée, etc. C'est une tendance qui a déjà été implémentée par la pandémie et le distanciel. "Par exemple, beaucoup de collègues sont passés d'examens à livre fermé à des examens à livre ouvert, en disant que c'est plus proche de ce que les professionnels vont rencontrer dans leur vie ultérieure, et faire porter les questions sur de l'application, de l'analyse plus personnelle et plus spécifique.

"Malgré les craintes, certaines voix au sein du monde éducatif s'élèvent pourtant pour intégrer cette innovation dans les méthodes d'enseignement. " ChatGPT est une innovation importante mais pas plus que celle des calculatrices ou des éditeurs de texte ""

" ChatGPT peut aider à faire un premier jet lorsqu'on se retrouve face à une feuille blanche mais, après, il faut tout de même écrire, donner un style ".

"l'IA renverse également la philosophie de l'enseignement, fondée sur les questions du professeur. Cette fois, l'élève doit lui-même interroger la machine, " c'est une opportunité pour nous de voir comment les étudiants réalisent des tâches qu'on leur confie, de les faire travailler sur le fact-checking, et de vérifier si les références bibliographiques générées sont correctes ""

# data[].attributes.attachment_link.title
Les logiciels Compilatio détectent-ils les contenus issus de l'Intelligence Artificielle, telle que ChatGPT ?

# data[].attributes.attachment_link.description
L'arrivée de l'Intelligence Artificielle dans la sphère publique secoue un grand nombre de domaines et l'enseignement n'y échappe pas. La forte communication liée à ces outils favorise l'effervescence : quel enseignant et étudiant n'a encore pas testé des logiciels comme ChatGPT ou DALL-E ? L'apparition de ces nouveaux outils numériques, l'adoption (toujours plus rapide !)

# data[].attributes.headline
Les intelligences artificielles (IA) dans l’éducation

# data[].attributes.subject
Les intelligences artificielles (IA) dans l’éducation

# data[].attributes.body
Bulletins de veille

Comment définir l'intelligence artificielle (IA) ?"

Qu'est-ce-que le Machine Learning ?

La relation entre l'IA et les humains

Éthique et impact sociétal

L'IA et l'éducation

L'intelligence artificielle et les données à caractère personnel

Cahiers de tendances : Inclusion

Que dit la recherche ?

Comment l’intelligence artificielle peut-elle soutenir l’apprentissage de l’écrit ?

Apprendre en toute éthique dans les salles de classes intelligentes

Les enseignants de demain seront-ils des robots ?

# data[].attributes.headline
État de l'art et de la pratique de l'intelligence artificielle dans l'éducation

# data[].attributes.subject
État de l'art et de la pratique de l'intelligence artificielle dans l'éducation

# data[].attributes.body
L'article passe en revue les systèmes d'IA actuels utilisés dans l'éducation et leur base pédagogique. Il développe une typologie des systèmes d'IAEd et décrit différentes manières d'utiliser l'IA dans l'éducation en montrant comment elles sont basées sur des interprétations différentes de ce qu'est l'IA et l'éducation. Il discute également des obstacles potentiels dans le développement de l'IAEd.

# data[].attributes.attachment_link.readable_text
Les récents développements de l'intelligence artificielle (IA) ont suscité de grandes attentes quant à l'impact futur de l'IA dans l'éducation et l'apprentissage (IAEd). Ces attentes ont souvent été fondées sur une mauvaise compréhension des possibilités techniques actuelles, un manque de connaissances sur l'état de l'IA dans l'éducation et des visions excessivement étroites sur les fonctions de l'éducation dans la société. Dans cet article, nous passons en revue les systèmes d'IA existants dans l'éducation et leurs hypothèses pédagogiques et éducatives. Nous développons une typologie des systèmes d'IAEd et décrivons différentes manières d'utiliser l'IA dans l'éducation et l'apprentissage, en montrant comment celles-ci sont fondées sur différentes interprétations de ce qu'est ou pourrait être l'IA et l'éducation, et en discutant de certains obstacles possibles sur l'autoroute de l'IAEd.

Résumé en anglais

Recent developments in Artificial Intelligence (AI) have generated great expectations for the future impact of AI in education and learning (AIED). Often these expectations have been based on misunderstanding current technical possibilities, lack of knowledge about state-of-the-art AI in education, and exceedingly narrow views on the functions of education in society. In this article, we provide a review of existing AI systems in education and their pedagogic and educational assumptions. We develop a typology of AIED systems and describe different ways of using AI in education and learning, show how these are grounded in different interpretations of what AI and education is or could be, and discuss some potential roadblocks on the AIED highway.

Résumé en espagnol

Los recientes avances en Inteligencia Artificial (IA) han generado grandes expectativas sobre el futuro impacto de la IA en la educación y el aprendizaje (AIED). A menudo, estas expectativas se han basado en la incomprensión de las posibilidades técnicas actuales, el desconocimiento del estado del arte de la IA en la educación y una visión excesivamente estrecha de las funciones de la educación en la sociedad. En este artículo, ofrecemos una revisión de los sistemas de IA existentes en la educación y de sus supuestos pedagógicos y educativos. Desarrollamos una tipología de sistemas de AIED y describimos distintas formas de utilizar la IA en la educación y el aprendizaje, mostramos cómo se basan en distintas interpretaciones de lo que es o podría ser la IA y la educación, y analizamos algunos posibles obstáculos en la autopista de la AIED.

Les systèmes d'IA les plus avancés peuvent avoir un grand nombre de paramètres qui sont ajustés de manière répétée jusqu'à ce que le système fonctionne de façon acceptable et utile. Par exemple, le célèbre modèle de langage GPT-3 d'OpenAI compte 175 milliards de paramètres ajustables (Brown et al., 2020)

Les progrès de l'IA axée sur les données ayant entraîné une augmentation exponentielle des besoins en calcul, il est de plus en plus évident que l'avenir de l'IA ne peut pas vraiment être prédit en extrapolant les développements de la dernière décennie.

Auteurs

Wayne Holmes (1), Ilkka Tuomi (2)

(1) UCL Knowledge Lab, IOE, UCL's Faculty of
Education and Society, University College
London (UCL), London, UK

(2) Meaning Processing Ltds., Helsinki, Finland

Référence

Holmes, W., & Tuomi, I. (2022). State of the art and practice in AI in education. European Journal of Education, n/a(n/a). https://doi.org/10.1111/ejed.12533

Traduction et adaptation

François Bocquet (DNE-TN2) avec l'aide de DeepL.com

Avec l'aimable autorisation des auteurs.

Licence

Liste des abréviations

IA : intelligence artificielle

IAEd : IA pour l'éducation

NdT : Note du traducteur

STI : système de tutorat intelligent

ORA : outil de rédaction automatique

PLAN

1. INTRODUCTION
1.1 Un bref historique de l'avenir de l'IA dans l'éducation 2. QU'EST-CE QUE L'IA ? 2.1 L'IA basée sur les données 2.2 L'IA basée sur la connaissance 3. UNE TAXONOMIE DE L'IAEd 3.1 IAEd au service des élèves
3.1.1 Systèmes de tutorat intelligents (STI)
3.1.2 Applications assistées par l'IA
3.1.3 Simulations assistées par l'IA (par exemple, apprentissage par le jeu, Réalité Virtuelle, Réalité Augmentée)
3.1.4 L'IA au service des apprenants à besoins particuliers 3.1.5 Outils de rédaction automatique de textes (ORA) 3.1.6 Agents conversationnels 3.1.7 Évaluation formative automatique 3.1.8 Orchestrateurs de réseaux d'apprentissage 3.1.9 Systèmes de tutorat basés sur le dialogue 3.1.10 Environnements d'apprentissage exploratoire 3.1.11 Assistants d'apprentissage tout au long de la vie assistés par l'IA 3.2 IAEd au service de l'enseignant 3.2.1 Détection du plagiat 3.2.2 Curation intelligente des ressources pédagogiques 3.2.3 Surveillance de la classe 3.2.4 Évaluation sommative automatique 3.2.5 Assistant d'enseignement et d'évaluation assisté par l'IA 3.2.6 Orchestration de la classe 3.3 L'IAEd au service des institutions 3.3.1 Admissions 3.3.2 Surveillance d'examens - E-proctoring 4. DES OBSTACLES AU DÉVELOPPEMENT DE L'IAEd 4.1 Éthique 4.2 Personnalisation 4.3 Efficacité et impact 4.4 Le techno-solutionnisme 4.5 Le "colonialisme de l'IAEd" 4.6 Marchandisation de l'éducation 5. VISION CONCLUSIVE Références A consulter aussi

1.1 Un bref historique de l'avenir de l'IA dans l'éducation

Ces dernières années, on a souvent prétendu que l'intelligence artificielle (IA) était le "nouveau pétrole" (par exemple, Palmer, 2006) ou, comme l'a suggéré la directrice générale de l'UNESCO dans son discours-programme de la Semaine de l'apprentissage mobile 2019, la plus grande invention depuis l'ère paléolithique. Plus récemment, il a même été affirmé (Lemoine, 2022), et réfuté (par exemple, Sparkes, 2022), qu'un système d'IA, le système de dialogue LaMDA développé par Google, était devenu sensible. Quelle que soit la réalité, des investissements massifs ont été réalisés dans la technologie de l'IA dans le monde entier (jusqu'à 94 milliards de dollars US pour la seule année 2021 ; Statista, 2022), ainsi que des déclarations politiques très médiatisées sur la nécessité de promouvoir et de réglementer cette technologie émergente (par exemple, CE, 2018 ; OCDE, 2019b ; UNESCO, 2021).

Le potentiel de l'IA pour l'éducation et l'apprentissage (l' utilisation de l'IA pour l'éducation) et le rôle de l'éducation dans le développement de ce que l'on appelle désormais la culture de l'IA (l' enseignement de l'IA dans l'éducation) ont également fait l'objet d'une attention accrue et deviennent rapidement des sujets brûlants dans les débats politiques (par exemple, Miao & Holmes, 2021). L'apprentissage, l'innovation et la création de connaissances étant souvent présentés comme les fondements de l'économie postindustrielle, cet intérêt croissant est facile à comprendre. Au-delà de l'idée simple, bien que vague et controversée, d'automatiser les tâches des enseignants (Selwyn, 2019 ; Sperling et al., 2022), il a également été suggéré que l'effet transformateur de l'IA pourrait consister à augmenter la cognition humaine dans l'apprentissage (par exemple, Molenaar, 2022 ; Tuomi, 2018).

Au niveau politique, le potentiel de l'IA dans les milieux éducatifs et la nécessité d'une culture de l'IA placent donc les éducateurs au centre de ces nouveaux développements passionnants qui étaient autrefois confinés uniquement dans les laboratoires d'informatique. Dans le même temps, on attend des enseignants et des administrateurs qu'ils aient une vision claire du potentiel de l'IA dans l'éducation et, finalement, qu'ils adoptent cette technologie révolutionnaire dans leur pratique.

La recherche et le développement en matière d'IA pour l'éducation (IAEd) ont été dans une large mesure dirigés par des informaticiens (Chen et al., 2020 ; Williamson & Eynon, 2020 ; Zawacki-Richter et al., 2019). Au cours de la dernière décennie, la situation a changé, et l'IAEd est désormais également au centre d'intérêts commerciaux. Le marché de l'IAEd devrait connaître une croissance rapide : à l'échelle mondiale, il existe déjà plus de trente sociétés d'IAEd financées à hauteur de plusieurs millions de dollars, et le marché devrait atteindre une valeur de plus de 20 milliards de dollars d'ici cinq ans (GMI, 2022). Un enseignant submergé par les récits sur les miracles de l'IA peut se demander si l'avenir est défini par une énième tentative de faire entrer la technologie dans la salle de classe.

De nombreux systèmes d'IA commerciaux actuellement développés pour l'éducation, appelés systèmes de tutorat intelligents (STI), se concentrent sur la fourniture d'un enseignement automatisé, adaptatif et individualisé, une approche que nous explorons plus en détail ci-dessous. Le lien historique étroit entre l'IA et les sciences cognitives (Gardner, 1985) a fait que de nombreux systèmes d'IA influents dans le domaine de l'éducation ont été construits sur des architectures cognitives, elles-mêmes basées sur l'idée que le cerveau humain est un processeur d'informations. Dans cette optique, l'apprentissage est centré sur le développement de la capacité de résolution de problèmes qui repose sur la disponibilité de structures de connaissances efficaces dans l'esprit humain (par exemple, Koedinger et al., 2012).

Une source historiquement importante pour cette ligne de recherche est un petit livre, How to Solve It, publié dans les années 1940 par Georg Polya (1945). Basé sur ses études sur l'apprentissage, le livre présentait différents types d'"heuristiques", des processus ou des raccourcis qui peuvent être utilisés pour résoudre des problèmes scientifiques et autres. Selon Polya, un processus clé de la résolution de problèmes consiste à trouver des moyens de réduire la distance entre le résultat attendu et les solutions connues qui tendent vers la solution optimale. Ainsi, la résolution de problèmes consiste à trouver des chaînes d'opérations heuristiques (qui peuvent être résumées comme suit : comprendre le problème, faire un plan, exécuter le plan, et regarder en arrière et réfléchir) qui mènent au résultat.

Dans les années 1950, Alain Newell et Herbert Simon, les principaux pionniers de l'IA et des sciences cognitives, ont réalisé qu'en programmant les ordinateurs avec de telles heuristiques et en traitant des symboles au lieu de chiffres, les ordinateurs pouvaient résoudre des problèmes de manière similaire aux humains. Apparemment, il ne s'agissait pas d'un énorme exploit de programmation. Edward Feigenbaum, une autre figure clé de la recherche sur l'IA, s'est rappelé plus tard qu'en 1956, Simon est venu dans sa classe en déclarant : " à Noël, Alain Newell et moi avons inventé une machine à penser" (cité dans McCorduck, 1979, p. 116). Le niveau d'attente est bien exprimé dans le nom qu'ils ont donné à leur programme informatique le plus célèbre de l'époque, The General Problem Solver (Newell et al., 1959).

Les origines technologiques de l'IAEd axé sur les élèves remontent toutefois aux travaux de Sidney Pressey, B. F. Skinner, Gordon Pask et Jaime Carbonell (Holmes et al., 2019). La première machine à choix multiples mécanisée a été conçue il y a près de cent ans par Pressey. S'inspirant de la loi de l'effet d'Edward Thorndike, la machine de Pressey donnait un retour d'information immédiat à l'élève et, ce faisant, ces machines " font clairement plus que le tester ; elles enseignent également " (Pressey, 1926, p. 375). Pressey a également suggéré que ce type de technologie pourrait faire gagner du temps aux enseignants en les déchargeant de la notation, une revendication qui est fréquemment faite pour l'IAEd aujourd'hui (par exemple, Baker & Smith, 2019).

Dans les années 1950, Skinner, connu comme le père du béhaviorisme, a mis au point ce qu'il appelait sa " machine à enseigner ", qui demandait aux élèves de composer leurs propres réponses plutôt que de choisir parmi plusieurs options. Skinner soutenait que sa machine agissait comme un tuteur individuel, préfigurant étroitement le STI : "La machine elle-même, bien sûr, n'enseigne pas... mais l'effet sur chaque élève ressemble étonnamment à celui d'un tuteur privé " (Skinner, 1958, p. 971). À peu près à la même époque, Pask a mis au point la première "machine à enseigner" véritablement adaptative, connue sous le nom de "self-adaptive keyboard instructor" ou SAKI pour "instructeur de clavier auto-adaptatif". Conçu pour les apprentis opérateurs de claviers à cartes perforées, le SAKI distribuait les tâches en fonction de la performance individuelle de l'apprenant sur les tâches précédentes (Pask, 1982). Cependant, la première application explicite des techniques d'IA classiques à l'enseignement assisté par ordinateur a été faite par Carbonell, pour sa thèse de doctorat de 1970. Son système, qu'il a appelé SCHOLAR, générait des réponses individuelles aux énoncés des élèves en s'appuyant sur un réseau de concepts liés en fonction de leurs relations sémantiques.

Cette histoire de l'IA est pertinente pour l'IAEd, car bon nombre des systèmes d'IA axés sur les élèves les plus étudiés et les plus visibles sont des descendants directs de ces idées. Nous en parlerons plus en détail ci-dessous lorsque nous décrirons certains systèmes IAEd exemplaires. Il est également important de reconnaître que, par exemple, l'apprentissage collaboratif assisté par ordinateur est une discipline à part entière depuis le milieu des années 1990 (par exemple, Dillenbourg et al., 2009), et que l'analyse de l'apprentissage et l'exploration des données éducatives (Joksimovic et al., 2020 ; Siemens & Baker, 2012) ont également des liens étroits avec l'IAEd. L'apprentissage en tant que phénomène de développement et socioculturel n'est toutefois devenu que récemment un sujet plus courant dans l'IAEd (par exemple, Thomas & Porayska-Pomsta, 2022).

Au-delà de l'enseignement et de l'apprentissage (c'est-à-dire l'IAEd au service de l'élève), l'IA a des applications potentiellement intéressantes dans l'administration de l'éducation (c'est-à-dire l'IAEd au service du système éducatif) et le soutien aux enseignants (c'est-à-dire l'IAEd au service de l'enseignant), et pourrait même stimuler de nouvelles approches pédagogiques et andragogiques. Entre-temps, les données éducatives, telles que générées par les systèmes d'apprentissage en ligne, y compris l'IAEd, font de plus en plus l'objet d'analyses dans un domaine en pleine expansion, connu sous le nom d' exploration de données éducatives et d' analyse des traces d'apprentissage (en anglais learning analytics), et deviennent importantes tant pour la politique que pour la pratique (Hakimi et al., 2021 ; Verbert et al., 2020).

Pour les éducateurs, il est également utile de réfléchir à ces multiples connexions dans le contexte plus large de l'éducation. Dans une grande partie de la recherche et du développement actuels de l'IAEd au service des élèves, la justification ultime de l'utilisation de l'IA est qu'elle peut entraîner des gains d'apprentissage dans des domaines de connaissances spécifiques, indépendamment des enseignants humains. Un "gain d'apprentissage" est généralement mesuré dans les expériences de pré-test et de post-test sous la forme d'un pourcentage d'amélioration possible pour un élève, compte tenu de son niveau de connaissances avant l'étude. Lorsque l'objectif de l'enseignement est supposé être l'acquisition d'un contenu de connaissances prédéfini qui peut être évalué à l'aide d'un test, le gain d'apprentissage est un indicateur naturel de réussite - ce qui explique peut-être pourquoi il est au centre des systèmes adaptatifs IAEd les plus connus. En fait, certains STI influents, tels que le système ASSIST, ont commencé explicitement en tant que système de préparation à des tests à enjeux élevés (Heffernan & Heffernan, 2014) ; et de nombreux systèmes IAEd chinois largement utilisés sont également axés sur l'enseignement pour le test (Knox, 2020).

L'acquisition de contenus de connaissances prédéfinis est une des fonctions de l'éducation. Biesta appelle cela la fonction de qualification : fournir aux élèves " les connaissances, les compétences et les compréhensions... qui leur permettent de "faire quelque chose" " (Biesta, 2011, p. 19). Les deux autres fonctions clés de l'éducation, selon Biesta, sont la socialisation, qui " a à voir avec les nombreuses façons dont, par l'éducation, nous devenons partie intégrante d'"ordres" sociaux, culturels et politiques particuliers" (Biesta, 2011, p. 20), et la subjectivation ou l' individuation, le processus " qui permet aux personnes éduquées de devenir plus autonomes et indépendantes dans leur façon de penser et d'agir " (Biesta, 2011, p. 21). Ces deux dernières fonctions ont reçu comparativement peu d'attention de la part des chercheurs IAEd.

Au lieu de cela, au cours des trois dernières décennies, un point de départ conceptuel clé pour l'IAEd axé sur l'élève a été " l'apprentissage par la maîtrise ", un modèle pédagogique proposé par Benjamin Bloom (Bloom, 1968 ; cf. Guskey, 2012). Ce modèle sous-tend la plupart des STI, ainsi que la notion selon laquelle l'IA peut " personnaliser " l'apprentissage. L'objectif de l'apprentissage par la maîtrise est d'amener tous les élèves à un niveau de compétence qui leur permette de progresser efficacement, en suivant le parcours d'apprentissage décrit dans le programme. Bloom a fait valoir que, comme les élèves commencent avec des connaissances antérieures différentes et ont des capacités différentes, ils ont besoin de quantités différentes d'enseignement pour atteindre le même niveau de maîtrise dans un sujet donné. Ainsi, l'apprentissage de la maîtrise nécessite une différenciation au niveau individuel ou une "personnalisation" de l'enseignement, pour laquelle les systèmes IAEd ont été proposés et conçus comme une réponse.

Bloom a ensuite montré que le tutorat individualisé associé à l'apprentissage par la maîtrise permettait d'obtenir des gains d'apprentissage supérieurs de deux écarts-types à ceux de l'enseignement traditionnel en classe entière (Bloom, 1984). Cette énorme amélioration potentielle, connue sous le nom d' effet 2-sigma, a été une inspiration clé pour les chercheurs IAEd pendant plus de quarante ans. Dans des recherches IAEd plus récentes, l'impact du tutorat humain s'est avéré être inférieur à un écart-type, ce que la recherche suggère également avoir déjà été atteint par certains STI (VanLehn, 2011). Néanmoins, l'effet 2-sigma fournit également un modèle implicite rarement contesté de la fonction de l'éducation parmi les chercheurs IAEd, qui ignore les fonctions de socialisation et d'individuation de Biesta.

Même lorsque les mesures de l'impact des outils d'IAEd tels que les STI se limitent à des gains d'apprentissage orientés vers les tests, il subsiste une grande controverse. De nombreuses études ont montré des gains d'apprentissage lorsque des STI ont été utilisés en classe (cf. du Boulay, 2019), mais les résultats ne sont pas univoques. Il n'existe que de rares exemples d'évaluations indépendantes à l'échelle (par exemple, Roschelle et al., 2016), tandis que les examens au niveau méta (par exemple, Kulik et Fletcher, 2016 ; Ma et al., 2014) montrent des impacts modestes sur les gains d'apprentissage dans de nombreux contextes relativement petits. Des études plus granulaires suggèrent toutefois que les effets des interventions d'apprentissage fournies par un système dépendent du niveau de connaissance préalable de l'élève (alors que les apprenants novices bénéficient d'exemples travaillés, les apprenants plus expérimentés bénéficient de la résolution de problèmes sans exemples travaillés - ce qu'on appelle " l' effet d'inversion de l'expertise ", Koedinger et al., 2012, p. 788). L'agrégation au niveau de la classe est donc susceptible de fausser les méta-analyses existantes. À proprement parler, nous ne savons pas avec certitude si IAEd "fonctionne" ou non. Plus important encore, nous ne savons pas exactement en quoi consisterait cette "efficacité".

En fait, les études d'impact explorent généralement ce qui se passe lorsqu'une nouvelle idée pédagogique ou une nouvelle fonctionnalité est ajoutée à un système IAEd existant. Par exemple, le What Works Clearinghouse, géré par l'Institute of Educational Sciences du ministère de l'Éducation des États-Unis, ne prend en compte que les preuves issues d'essais contrôlés randomisés ou d'essais quasi-expérimentaux de "haute qualité". En conséquence, contrairement à de nombreux petits essais qui ont montré des gains d'apprentissage modérés, les rapports de What Works Clearinghouse montrent souvent des gains d'apprentissage moyens plutôt mineurs ou indéterminés au niveau du groupe (par exemple, What Works Clearinghouse, 2016, qui a signalé que Cognitive Tutor, l'un des STI les plus connus, avait des effets mitigés pour les élèves en algèbre, aucun effet discernable sur les mathématiques générales et des effets potentiellement négatifs sur la géométrie). En d'autres termes, les preuves indépendantes robustes (selon la norme attendue, par exemple, dans la recherche médicale) restent insaisissables dans la recherche sur l'IAEd. Les résultats ambigus, les défis méthodologiques et pratiques, le manque d'indépendance et d'échelle, ainsi que des questions plus fondamentales sur les objectifs de l'éducation, ont laissé beaucoup d'espace pour contester toute affirmation générique sur les avantages de l'IAEd axé sur les élèves.

Pourtant, de grandes attentes subsistent quant à l'impact futur de l'IAEd. Par exemple, selon l'un des principaux entrepreneurs de l'IA, Kai-Fu Lee (ancien cadre supérieur chez Google, Microsoft, SGI et Apple) :

[...] une salle de classe aujourd'hui ressemble encore à une salle de classe d'il y a cent ans. Nous connaissons les défauts de l'éducation d'aujourd'hui - elle est unique alors que nous savons que chaque élève est différent, et elle est coûteuse et ne peut être adaptée aux pays et régions plus pauvres avec un ratio élève/enseignant raisonnable. L'IA peut jouer un rôle majeur dans la correction de ces défauts et la transformation de l'éducation [...] Si l'IA prend en charge des aspects importants de l'éducation, les coûts de base seront réduits, ce qui permettra à davantage de personnes d'accéder à l'éducation. Elle peut véritablement rendre l'éducation plus équitable en libérant le contenu des cours et les meilleurs enseignants des limites des institutions d'élite et en fournissant des enseignants virtuels utilisants de l'IA dont le coût marginal est proche de zéro. (...) Je pense que ce nouveau modèle d'éducation symbiotique et flexible peut améliorer considérablement l'accessibilité de l'éducation et aider chaque élève à réaliser son potentiel à l'ère de l'IA. (Lee & Qiufan, 2021, p. 118)

Historiquement, l'émergence de nouvelles technologies clés a donné lieu à des attentes exagérées et trop optimistes, à des krachs économiques ultérieurs et à l'articulation progressive des possibilités technologiques sur des périodes de temps relativement longues (Nemorin et al., 2022 ; Perez, 2002). En effet, toutes les visions de l'avenir sont fondées sur notre compréhension de l'histoire. L'IAEd a une longue histoire. Pour comprendre où elle va, il faut comprendre d'où elle vient. La section suivante revient sur les tentatives de définition du sujet de l'IA et décrit brièvement l'état de l'art dans les deux domaines connexes que sont (1) l'IA basée sur les données et (2) l'IA basée sur les connaissances. Ensuite, la troisième section de cet article propose une taxonomie de l'IAEd qui distingue l'IAEd axée sur l'élève, l'enseignant et l'institution, en donnant des exemples de l'état de l'art de l'IAEd pour chacun de ces différentes familles d'utilisation. La quatrième section présente un certain nombre d'obstacles potentiels sur l'autoroute de l'IAEd, notamment les défis liés aux droits de l'homme, à l'éthique, à la personnalisation, à l'impact, au techno-solutionnisme, au colonialisme de l'IAEd et à la commercialisation de l'éducation. La dernière section résume et examine les futurs possibles de l'IAEd.

De nombreuses tentatives ont été faites pour définir et décrire clairement ce dont il est question lorsque nous parlons d' Intelligence Artificielle (IA), un nom que nous mettons en majuscule pour souligner qu'il s'agit d'un domaine de recherche et de développement spécifique, et pas simplement d'un type d'intelligence artificielle. La littérature fournit de nombreuses définitions alternatives et il est souvent affirmé qu'il n'existe pas de définition dominante unique acceptée par la plupart des experts en IA. Il est toutefois important de noter que les définitions utiles et utilisables de l'IA dépendent de l'usage qui en est fait. Les chercheurs universitaires affirment souvent que l'IA est un domaine de recherche complexe qui comprend de nombreuses approches conceptuelles et domaines d'expertise différents, et soulignent parfois que l'intelligence artificielle n' existe pas.

La réglementation européenne, en revanche, se concentre sur les produits d'IA qui doivent avoir accès au marché commun. Pendant ce temps, une grande partie du débat sur l' IA porte sur des avenirs hypothétiques, inspirés par la science-fiction et la croyance que les machines pourraient un jour être intelligentes - quoi que cela signifie. Une définition classique précise que l'IA est un domaine de recherche qui développe des technologies capables de faire des choses qui exigeraient de l'intelligence si elles étaient faites par des humains (Minsky, 1969). Cette approche trouve son origine chez Turing, ayant proposé que si une simulation d'être humain intelligent ne peut être distinguée d'une personne réelle, les questions relatives à l'intelligence deviennent sans objet (Turing, 1950). De nombreux spécialistes des sciences cognitives et certains chercheurs et philosophes spécialisés dans l'IA ont adopté un point de vue plus ferme, affirmant que la recherche sur l'IA peut révéler comment fonctionne l'esprit humain (Gardner, 1985).

Les responsables politiques, quant à eux, se sont concentrés sur les systèmes d'IA économiquement perturbateurs qui peuvent être réglementés, certifiés et mis sur le marché. L'OCDE a fourni une définition influente dans ce sens (OCDE, 2019a, p. 7). Celle-ci a été étendue par le groupe d'experts de haut niveau de l'UE sur l'intelligence artificielle (AI HLEG) d'une manière conceptuellement importante, en mettant en évidence leur capacité à apprendre, en notant que les systèmes d'IA peuvent également adapter leur comportement en fonction des résultats de leurs actions (AI HLEG, 2019a). Cette définition du AI HLEG, qui englobe à la fois la recherche sur l'IA et les systèmes d'IA, est elle-même accompagnée de plusieurs pages de commentaires explicatifs.

Une définition plus simple (pour ceux d'entre nous qui ne sont ni informaticiens ni experts juridiques), qui s'appuie sur les définitions de l'OCDE et de l'AI HLEG, est fournie par l'UNICEF.

" L'IA désigne les systèmes basés sur des machines qui peuvent, à partir d'un ensemble d'objectifs définis par l'homme, faire des prédictions, des recommandations ou des décisions qui influencent des environnements réels ou virtuels. Les systèmes d'IA interagissent avec nous et agissent sur notre environnement, soit directement, soit indirectement. Souvent, ils semblent fonctionner de manière autonome et peuvent adapter leur comportement en apprenant sur le contexte. " (UNICEF, 2021, p. 16)

La définition de l'UNICEF est utile pour plusieurs raisons (Holmes & Porayska-Pomsta, 2023). Premièrement, elle ne dépend pas des données : elle prend en compte les techniques d'IA axées sur les données (comme les réseaux de neurones artificiels et l'apprentissage profond), mais elle peut également inclure l'IA basée sur les connaissances (ou IA symbolique), ainsi que tout nouveau paradigme d'IA qui pourrait émerger dans les années à venir. Deuxièmement, elle met en avant le rôle des humains, ce qui est important étant donné le rôle critique des humains à toutes les étapes du développement de l'IA. Par exemple, les systèmes d'IA font toujours leurs recommandations, leurs prédictions et leurs décisions en fonction d'objectifs qui sont spécifiés par le concepteur du système au moment où celui-ci est développé. En fait, comme la plupart des systèmes d'IA actuels sont essentiellement des systèmes comportementaux de type stimulus-réponse, il a également été suggéré que l'IA devrait plutôt désigner les instincts artificiels (Tuomi, 2018). Troisièmement, la définition de l'UNICEF fait la distinction entre les systèmes qui fonctionnent effectivement de manière autonome et ceux qui semblent fonctionner de manière autonome, ce qui nous rappelle le Mechanical Turk original qui a trompé beaucoup de gens en leur faisant croire qu'il était véritablement automatique (Schaffer, 1999). Enfin, comme cette définition met l'accent sur l'interaction avec les humains, elle peut facilement être étendue à l'application de l'IA dans l'éducation.

Le règlement sur l'IA proposé par la Commission européenne (AI Act ; CE, 2021) s'appuie sur la définition d'un système d'IA élaborée par l'OCDE, mais se contente d'énumérer les technologies qui caractérisent les systèmes d'IA. L'objectif de la loi sur l'IA étant de réglementer les produits et des services, il est important de savoir quels produits et services entrent dans le champ d'application de la réglementation. C'est pourquoi la définition finale à utiliser dans la loi sur l'IA fait l'objet, au moment de la rédaction du présent document, d'un débat animé entre le Conseil de l'Union européenne, le Parlement et d'autres parties prenantes. Les définitions juridiques seront également importantes dans le domaine de l'éducation, et en particulier dans l'éducation publique où la pratique quotidienne est fortement réglementée par les textes réglementaires existants. Au-delà des définitions juridiques, la réalité des systèmes d'IA comprend toutefois de nombreuses techniques, technologies et spécialités différentes (Miao & Holmes, 2021). Dans de nombreux cas, les experts trouvent suffisamment de ressemblance familiale et peuvent s'accorder sur le fait qu'un système donné est de l'IA ou non, mais les définitions ont évolué au fil du temps et continueront probablement à le faire.

Pour les éducateurs, il est toutefois important de distinguer deux approches alternatives pour le développement de systèmes d'IA, qui ont toutes deux été en développement et se sont disputées l'ascendant tout au long de l'histoire de l'IA (en commençant par le célèbre atelier du Dartmouth College en 1956, où le terme "intelligence artificielle" a été utilisé pour la première fois). L'une des approches, celle qui a actuellement le vent en poupe et qui est à l'origine d'un grand nombre des succès fréquemment mentionnés dans la presse, peut être appelée IA basée sur les données, ou apprentissage automatique (machine learning en anglais). L'autre est l'IA basée sur les connaissances ou l'IA symbolique. L'IA guidée par les données pourrait avoir un grand potentiel dans l'éducation, selon les intentions du système, mais l'IA basée sur la connaissance est toujours à la base de la plupart des systèmes IAEd existants. Un troisième modèle conceptuel, l'IA hybride, qui combine les approches basées sur les données et les connaissances avec la cognition humaine, est brièvement abordé dans la conclusion.

2.1 L'IA basée sur les données

L'IA basée sur les données a produit des résultats impressionnants au cours de la dernière décennie dans les domaines de la vision par ordinateur, du traitement du langage naturel, de la robotique et dans bien d'autres domaines largement médiatisés. Tous ces systèmes reposent sur une idée très simple. À partir d'un ensemble suffisamment large de données et d'un critère d'"amélioration", un ordinateur peut progressivement trouver un modèle qui optimise ses prédictions. Lorsqu'un programme informatique aboutit à une prédiction erronée dans sa phase d'apprentissage, le programme ajuste son comportement de manière à ce que l'erreur devienne plus petite ; et lorsque le programme fait la bonne prédiction, il s'adapte de manière à faire la même prédiction avec une plus grande probabilité de succès.

Un défi technique fondamental consiste à savoir comment le système doit ajuster son comportement. Les systèmes d'IA basés sur les données résolvent ce problème en utilisant des calculs de base. Il est possible de calculer dans quelle mesure la sortie du système changerait si l'un des paramètres du système était modifié de manière incrémentielle. Pour chaque paramètre du système, la direction du changement maximal est appelée gradient. Avec de très nombreux petits pas, les paramètres du système peuvent être ajustés de manière à ce que le système fasse des prédictions "suffisantes". Les systèmes d'IA les plus avancés peuvent avoir un grand nombre de paramètres qui sont ajustés de manière répétée jusqu'à ce que le système fonctionne de façon acceptable et utile. Par exemple, le célèbre modèle de langage GPT-3 d'OpenAI compte 175 milliards de paramètres ajustables (Brown et al., 2020).

Le cerveau humain a été une source d'inspiration essentielle pour le développement de systèmes informatiques auto-apprenants (Rosenblatt, 1958). Les "réseaux neuronaux artificiels" sont constitués de "neurones informatiques" simples qui transforment leurs états d'entrée en sorties qui, à leur tour, sont des entrées pour d'autres neurones artificiels. Les réseaux neuronaux artificiels modernes sont constitués de nombreuses couches reliées entre elles, chacune comportant de multiples connexions logiques d'une couche à l'autre. Bien que l'idée d'utiliser des éléments neuronaux adaptatifs pour la reconnaissance des formes soit ancienne, un défi pratique pour les premiers développeurs était de trouver un moyen d'ajuster leur comportement afin d'améliorer les prédictions faites par le système. Depuis les années 1970, on sait que la règle de la chaîne du calcul élémentaire peut être utilisée à cette fin. Même un réseau complexe interconnecté de neurones informatiques adaptatifs n'est qu'une correspondance entre les entrées et les sorties. En termes mathématiques, il s'agit simplement d'une fonction. Les dérivés et les gradients des paramètres de ses différentes couches peuvent donc être calculés à l'aide de la règle de la chaîne de calcul qui les exprime en termes de sortie finale du système.

Tous les systèmes d'IA basés sur les données fonctionnent donc de la manière suivante. Tout d'abord, le système reçoit des données d'entrée puis est autorisé à faire une prédiction. L'erreur de prédiction est utilisée pour calculer une "perte" que le système tente de minimiser pendant sa phase d'apprentissage en adaptant les valeurs de ses paramètres. Ce processus est répété des millions de fois, jusqu'à ce que la précision du système soit suffisante. Ce processus est appelé "apprentissage" ou "entraînement" du modèle d'IA. Lorsque le système possède suffisamment de paramètres, il peut s'adapter à n'importe quelle fonction mathématique et, à partir d'une entrée spécifique, prédire parfaitement la sortie correcte. Toutefois, une correspondance aussi parfaite, entre des entrées et des sorties connues, rendrait le système tout à fait inutile, car l'objectif est de créer des prédictions précises pour des entrées qui n'ont pas été utilisées lors de la formation. Pour ce faire, on "teste" la précision du système avec des données de test indépendantes. Lorsque le système fait également de bonnes prédictions avec les données de test, on dit qu'il a bien "généralisé". À ce stade, on dit que les développeurs ont entraîné un modèle, qui peut alors être utilisé pour le travail en situation.

De nombreux systèmes d'IA fondés sur les données et très performants sont constitués de dizaines de couches ou plus, chacune comportant des millions de connexions entre leurs "neurones" informatiques. Le processus d'adaptation simple décrit ci-dessus est donc appelé "apprentissage profond", et le calcul des gradients de la couche de sortie finale vers le niveau d'entrée est appelé "rétropropagation". Un résultat fascinant de cette adaptation est que les niveaux "inférieurs" qui sont proches de l'entrée des données apprennent souvent à reconnaître des caractéristiques simples statistiquement significatives, et que les couches de niveau "supérieur" construisent des abstractions plus complexes. Par exemple, dans le traitement des images, les "neurones" de niveau inférieur reconnaissent des caractéristiques d'image simples telles que les lignes, les bords et les courbes, tandis que les niveaux supérieurs détectent des caractéristiques plus complexes construites à partir de celles-ci, telles que les coins et les cercles. À des niveaux encore plus élevés de la chaîne de traitement, des caractéristiques telles que des yeux, des oreilles, des poils et des ailes sont détectées si elles sont présentes dans les images utilisées pour l'apprentissage du système. Ces modèles d'apprentissage profond peuvent, avec une probabilité très élevée, reconnaître des objets dans des images numériques et peuvent également être utilisés, par exemple, pour générer des légendes automatiques de flux vidéo, détecter des visages humains ou, moyennant une certaine reconfiguration, jouer aux échecs, générer des peintures dans le style de Picasso, réaliser de fausses vidéos et rédiger des essais sur la base d'indications données par l'utilisateur (NdT : comme le propose en décembre 2022 le Chat GPT3 d'Open AI). Il est toutefois important de réaffirmer le rôle de l'homme dans ce processus. Ce sont les humains qui collectent ou conservent les données (par exemple, les images ou les textes) et les humains qui écrivent les algorithmes et décident de leur utilisation. Plus important encore, les humains définissent le critère de "prédiction précise" et sélectionnent les algorithmes qui leur semblent les plus prometteurs. En outre, bien qu'il y ait eu de nombreux débats sur les dangers de prendre des décisions algorithmiques sans un humain " dans la boucle " (AI HLEG, 2019b ; Dignum, 2018 ; Floridi et al., 2018), au final, ce sont les humains qui interprètent les résultats et ce qu'ils signifient.

L'IA axée sur les données a connu des avancées extraordinaires au cours de la dernière décennie en raison de trois facteurs clés (Tuomi, 2018).

Premièrement, l'ajustement progressif des nombreux paramètres de ces systèmes nécessite souvent des trillions d'additions et de multiplications. Par exemple, l'apprentissage du modèle de langage GPT-3 a nécessité l'équivalent de plus de 1000 jours de calcul à une capacité de traitement d'un pétaflop (10 ⁵ ) par seconde (Brown et al., 2020). Les processeurs informatiques normaux ne sont pas adaptés à cette tâche, mais les processeurs graphiques relativement bon marché développés pour les jeux vidéo au cours des deux dernières décennies se sont avérés parfaitement adaptés à cette tâche. De nouvelles architectures de processeurs sont également apparues ces dernières années, qui optimisent encore davantage les calculs nécessaires à l'IA basée sur les données.

Deuxièmement, l'apprentissage de l'IA basée sur les données nécessite d'énormes quantités de données. Celles-ci sont devenues disponibles du fait de l'utilisation croissante du web pour les images, les vidéos et les textes, et du fait que les utilisateurs génèrent continuellement une avalanche de données de clics. Par exemple, pour développer le modèle GPT-3, environ 400 milliards de mots ont été collectés sur le web.

Troisièmement, en particulier dans le traitement de l'image, où l'IA guidée par les données a connu son premier grand succès il y a une dizaine d'années, les progrès de l'IA guidée par les données ont nécessité un effort humain massif pour étiqueter les images trouvées sur le Web. L'ensemble de données ImageNet, qui a été utilisé pour former de nombreux systèmes d'IA révolutionnaires, a été créé par environ 49 000 personnes de 167 pays travaillant sur la plateforme de partage de tâches Mechanical Turk d'Amazon (Denton et al., 2021). Cela n'aurait pas été possible sans la collaboration de milliers de personnes à travers le monde grâce à l'Internet. Toutefois, cette collecte de données à grande échelle sur l'Internet n'est pas sans poser de problèmes. Par exemple, pour mettre au point leur technologie révolutionnaire de reconnaissance faciale DeepFace, les ingénieurs de Facebook ont utilisé, sans consentement explicite, quatre millions de photographies de personnes qui avaient été téléchargées et étiquetées par des utilisateurs de Facebook. Conscient de l'éthique douteuse d'une telle pratique, Facebook a annoncé en 2021 qu'il allait supprimer la base de données des photographies collectées. Cependant, les algorithmes qui ont été formés avec cette base de données sont toujours utilisés (Sparkes, 2021).

Il a été noté qu'en raison de sa méthode d'apprentissage par essais et erreurs, l'IA axée sur les données est en fait basée sur la façon la plus inefficace d'effectuer des calculs inventée par l'humanité (Tuomi, 2020). Avec d'énormes quantités de données d'apprentissage et de nombreux paramètres à ajuster, les exigences de calcul peuvent devenir écrasantes. Pour cette raison, même les plus grandes entreprises d'IA ont aujourd'hui du mal à trouver une puissance de calcul suffisante pour entraîner leurs modèles d'IA. Les modèles de langage naturel basés sur des données de pointe sont désormais entraînés à l'aide de milliards de milliards de calculs et de centaines de milliards de mots extraits d'Internet. On estime que l'entraînement du modèle GPT-3 d'OpenAI a nécessité autant d'énergie que le voyage aller-retour d'une voiture sur la lune, générant ainsi l'équivalent de 85 000 kg d'émissions de CO ₂ (Quach, 2020). Il est désormais largement admis que la consommation d'énergie constitue un défi majeur pour l'IA axée sur les données (Strubell et al., 2019). Le cerveau humain, quant à lui, fonctionne avec environ 20 watts d'énergie, ce qui suggère que l'IA pilotée par les données repose sur des principes différents de ceux de l'intelligence humaine (Tuomi, 2020).

En pratique, l'impasse informatique de l'IA axée sur les données est pour l'instant évitée par la réutilisation de modèles déjà développés. Dans de nombreux cas, il est possible de se débarrasser des couches les plus élevées d'un modèle d'apprentissage profond optimisé pour une tâche antérieure et de réentraîner le modèle pour la tâche en cours. Les chercheurs en IA appellent cela "apprentissage par transfert". Si, par exemple, un système a appris à reconnaître des chiens, des chats, des voitures, des oiseaux et des bicyclettes, ses représentations de bas niveau sont souvent utiles pour d'autres tâches de traitement d'images, par exemple la reconnaissance de visages ou l'analyse d'images satellites. Aujourd'hui, la grande majorité des systèmes d'IA sont probablement développés selon cette approche, en s'appuyant sur des modèles ouvertement accessibles provenant des principaux développeurs d'IA, tels que Facebook, Google, iFLYTEK, Microsoft, OpenAI et Tencent.

Enfin, si les succès de l'IA basée sur les données ont été impressionnants, il reste important de ne pas se laisser abuser par les hyperboles courantes. Comme le note Leetaru (2018) :

" Un réseau neuronal d'aujourd'hui n'apprend pas plus ou ne " raisonne " pas plus sur le monde qu'une régression linéaire du passé. Ils ne font qu'induire des modèles par le biais de statistiques. Ces schémas peuvent être opaques, plus médiatisés et plus automatiques que les approches historiques et capables de représenter des phénomènes statistiques plus complexes, mais ils ne sont toujours que des incarnations mathématiques, pas des entités intelligentes, aussi spectaculaires que soient leurs résultats. " (Leetaru, 2018, paragraphe 8)

2.2 L'IA basée sur la connaissance

En raison de ses succès spectaculaires, l'IA basée sur les données a dominé les informations parues dans la presse ces dernières années. Dans le domaine de l'éducation, cependant, l'IA basée sur les connaissances continue de jouer un rôle central. Les systèmes basés sur la connaissance reposent sur l'idée que les connaissances et l'expertise humaines peuvent être représentées sous une forme qui peut être traitée par des programmes informatiques. Certains de ces systèmes ont également été appelés systèmes experts car ils ont souvent été utilisés pour imiter la prise de décision des experts. Les systèmes experts étaient courants dans les années 1980, mais le coût élevé de la modélisation des domaines d'expertise et du maintien des représentations des connaissances, ainsi que la difficulté de généraliser et de transférer les modèles de domaine à de nouveaux domaines d'application, ont limité la popularité de cette approche (Tuomi, 2018). Dans les applications éducatives de l'IA, de nombreux systèmes contiennent un modèle de domaine qui décrit une structure conceptuelle du domaine d'étude. Dans le monde réel, de tels modèles de domaine sont souvent difficiles et coûteux à définir, car le monde est ouvert et changeant. Dans les mondes formels fermés,comme lesmathématiques, il est plus facile de développer des modèles de domaine stables. C'est l'une des raisons pour lesquelles les systèmes de tutorat intelligents basés sur la connaissance ont connu un succès relatif en mathématiques et en physique.

L'" intelligence" de l'IA basée sur la connaissance réside dans les structures conceptuelles produites à partir des connaissances des experts humains. Dans les systèmes basés sur la connaissance, un ordinateur est donc utilisé d'une manière différente que lorsqu'il est utilisé comme une simple machine de calcul programmé ou de traitement de texte. Au lieu d'utiliser un algorithme étape par étape qui calcule un résultat à partir de données d'entrée, les systèmes basés sur la connaissance utilisent un moteur d'inférence simple mais générique qui sélectionne des règles heuristiques stockées qui indiquent à la machine ce qu'elle doit faire ensuite. Les règles, elles-mêmes, sont des descriptions de plus haut niveau de ce qui est connu du domaine en question. Ce niveau supplémentaire d'abstraction et de représentation des connaissances est ce qui différencie les systèmes basés sur la connaissance de la programmation informatique traditionnelle. En général, les règles sont décrites dans des phrases "si...alors" lisibles par l'homme. C'est pourquoi l'IA basée sur la connaissance est aussi parfois appelée "IA basée sur des règles". Jusqu'à récemment, presque tous les systèmes d'IA dans l'éducation étaient basés sur cette approche. Plusieurs de ces systèmes sont brièvement décrits ci-dessous. Les systèmes basés sur la connaissance restent cependant des systèmes purement mécaniques, où une entrée spécifique produit toujours une sortie spécifique dans un processus déterministe de calcul algorithmique. Une conséquence importante de cette approche - contrairement à l'IA basée sur les données - est que le comportement du système peut être expliqué en élève la logique programmée.

L'IA est appliquée à l'éducation (IAEd) de multiples façons. Par conséquent, il n'est pas possible de tirer des conclusions globales ou, par exemple, de faire de grandes déclarations sur l'efficacité ou non de l'IAEd. Au lieu de cela, pour faciliter un débat significatif, nous devons être clairs sur les multiples variations des applications de l'IAEd dont nous discutons, d'autant plus que beaucoup d'entre elles restent spéculatives et que certaines sont discutables pour des raisons éthiques, pédagogiques ou éducatives. À cette fin, il est utile de classer les outils et les applications de l'IAEd dans une typologie de trois catégories distinctes mais qui se chevauchent : (1) l'IAEd au service de l'élève, (2) l'IAEd au service de l'enseignant et (3) l'IAEd au service de l'institution (Holmes et al., 2019). Il ne fait aucun doute que ces catégories peuvent être discutées, tout comme la catégorie qui s'applique à tel ou tel outil IAEd, mais elles fournissent un cadre utile pour faciliter la discussion.

Dans le tableau 1, nous présentons une vue d'ensemble de la taxonomie de l'IAEd, dans laquelle nous identifions les applications de l'IAEd comme étant soit spéculatives (*), soit étudiées (* *), soit déjà disponibles sur le marché (* * *).
TABLEAU 1. Une taxonomie des systèmes IAEd

IAEd au service des élèves

Systèmes de tutorat intelligents (ITS)

* * *

Applications assistées par l'IA (par exemple, mathématiques, synthèse vocale, apprentissage des langues)

* * *

Simulations assistées par l'IA (par exemple, apprentissage par le jeu, Réalité Virtuelle, Réalité Augmentée)

* * *

IA pour aider les apprenants à besoins particuliers

* * *

Rédaction automatique d'essais

* * *

Agents conversationnels

* * * / * *

Évaluation formative automatique

* * * / * *

Orchestrateurs de réseaux d'apprentissage

* * * / * *

Systèmes de tutorat basés sur le dialogue

* * *

Environnements d'apprentissage exploratoire

* *

Assistant d'apprentissage tout au long de la vie assisté par l'IA

*

IAEd au service de l'enseignant

Curation intelligente du matériel d'apprentissage

* * *

Surveillance de la classe

* * *

Évaluation sommative automatique

* * * / * *

IA d'assistance de l'enseignant
(y compris assistant d'évaluation)

* * * / *

Orchestration de la salle de classe

* *

IAEd au service des institutions

Admissions (par exemple, sélection des élèves)

* * *

Planification des cours, Planification des horaires, Programmation horaire

* * *

Identification précoce des décrocheurs et les élèves à risque

* * *

e-Proctoring (surveillance des examens à distance)

* * *

Dans la section suivante, nous fournissons un bref résumé de chaque type d'application IAEd, prolongeant la discussion plus détaillée dans Holmes et al. (2019).

3.1 IAEd au service des élèves

Avant d'explorer les différents types de IAEd axés sur les élèves, c'est-à-dire les outils assistés par l'IA spécifiquement conçus pour aider les élèves, une brève digression est nécessaire. Il est important de noter que toutes les technologies assistées par l'IA utilisées par les élèves n'ont pas été conçues pour eux. On pourrait plutôt dire que ces technologies ont été " réadaptées " à l'apprentissage. Ces technologies ne sont généralement pas considérées comme de l'IAEd, mais doivent néanmoins être prises en compte dans toute synthèse exhaustive de l'IAEd au service des élèves. Un exemple de la technologie assistée par l'IA la plus sophistiquée qui a été réaffectée à l'éducation est la suite d'outils de collaboration Google Workspace Education qui comprend Google Docs et Google Sheets (Google, 2022), ainsi que des offres similaires d'organisations telles que Tencent (Tencent, 2022) ( NdT : ou encore de celle de Microsoft Office 365 pour l'éducation) . À cela s'ajoutent les plateformes de réseaux sociaux telles que WhatsApp (WhatsApp, 2022) et WeChat (WeChat, 2022), et les plateformes de partage de contenu telles que YouTube (YouTube, 2022) et TikTok (TikTok, 2022), qui sont toutes, de différentes manières, de plus en plus utilisées pour soutenir l'apprentissage des élèves (une croissance qui s'est accélérée pendant les fermetures d'écoles du COVID-19). Enfin, diverses autres technologies assistées par l'IA sont réorientées vers l'éducation, par exemple les dispositifs de suivi d'activité (par exemple, Moki, 2022), bien que les preuves de leur soutien à l'enseignement ou à l'apprentissage soient généralement limitées.

Nous poursuivons en élaborant les IAEd au service des élèves suivants : systèmes de tutorat intelligents, applications assistées par l'IA, simulations assistées par l'IA, IA pour aider les apprenants à besoins spécifiques (handicap), rédaction automatique de dissertations, chatbots, évaluation formative automatique, orchestrateurs de réseaux d'apprentissage, systèmes de tutorat basés sur le dialogue, environnements d'apprentissage exploratoires et assistants d'apprentissage tout au long de la vie assistés par l'IA.
NdT : les outils de traduction automatiques, bien que non évoqués dans cet article font également partie de cette catégorie.
3.1.1 Systèmes de tutorat intelligents (STI)

Les systèmes de tutorat intelligents (STI ou ITS en anglais pour Intelligent Tutoring System) disponibles dans le commerce sont les applications les plus courantes de l'IA dans l'éducation, et probablement les plus financées. En général, ils fournissent des tutoriels informatisés, étape par étape, sur des sujets structurés bien définis, comme les mathématiques. Un STI fournit une séquence d'informations, d'activités et de questionnaires adaptée à chaque élève. Pendant que l'élève participe à une activité particulière, le système récupère des milliers de points de données, comme ce qui est cliqué, ce qui est tapé, les tâches auxquelles il a répondu correctement et les idées fausses qui ont été démontrées. Ces données sont analysées pour déterminer les informations, les activités et les quiz suivants à fournir, générant ainsi un parcours personnalisé dans la matière à apprendre, et le processus se répète. Les STI comprennent parfois des tableaux de bord pour les enseignants, qui peuvent ainsi voir ce que l'élève a accompli. Un exemple de STI commercial (il en existe plusieurs) est Spark, de la société française Domoscio. Spark individualise les parcours d'apprentissage et fournit aux enseignants un tableau de bord d'analyse de l'apprentissage (Domoscio, 2022). Un autre exemple est le Gooru Navigator, qui prétend être le Google Maps de l'apprentissage (Songer et al., 2020). Gooru utilise abondamment les technologies d'IA basées sur les données sur sa plateforme, par exemple pour analyser les sujets couverts par les ressources éducatives libres et les mettre en correspondance avec les profils individuels des apprenants et leurs besoins en compétences. À l'heure actuelle, Gooru affirme héberger environ quatre millions de ressources d'apprentissage sélectionnées par l'IA. Certains STI incluent également ce que l'on appelle un modèle d'apprentissage ouvert, conçu pour permettre à l'élève de visualiser et de mieux comprendre ce qu'il a réalisé (Bull & Kay, 2010).

3.1.2 Applications assistées par l'IA

Il existe une gamme en pleine expansion d'applications éducatives assistées par l'IA disponibles dans le commerce sur les principales boutiques d'applications. Par exemple, il existe des outils de traduction linguistique assistée par l'IA de plus en plus impressionnants, tels que SayHi (SayHi, 2022), dont certains craignent qu'ils ne nuisent davantage à l'apprentissage des langues étrangères dans les écoles, et des applications de mathématiques assistées par l'IA tout aussi impressionnantes, telles que Photomath (Photomath, 2022), dont certains craignent qu'elles ne nuisent à l'apprentissage des mathématiques. Ces craintes reflètent les préoccupations entourant l'introduction des calculatrices dans les écoles il y a une cinquantaine d'années : si l'outil peut le faire (calculer automatiquement une division longue, traduire automatiquement entre les langues ou résoudre automatiquement des équations), peut-être n'est-il pas nécessaire que les enfants apprennent à le faire, ce qui nuit à l'apprentissage (Watters, 2015). C'est exactement cette préoccupation, à savoir que l'utilisation de la technologie pour aider les élèves pourrait en fait nuire à leur apprentissage, qui a conduit le ministère chinois de l'éducation à interdire les applications de devoirs assistés par l'IA qui fournissent automatiquement des réponses en ligne aux questions de devoirs photographiées et téléchargées par les élèves (Dan, 2021).

3.1.3 Simulations assistées par l'IA (par exemple, apprentissage par le jeu, Réalité Virtuelle, Réalité Augmentée)

Bien qu'elles ne soient peut-être pas traditionnellement considérées comme des technologies d'IA, les simulations de réalité virtuelle (RV) et de réalité augmentée (RA) disponibles dans le commerce et l'apprentissage basé sur les jeux numériques sont fréquemment combinés avec l'apprentissage automatique de l'IA, la reconnaissance d'images et le traitement du langage naturel, et sont de plus en plus utilisés dans des contextes éducatifs. Par exemple, la RV assistée par l'IA a été utilisée pour fournir une formation aux internes en neurochirurgie sur une variété de procédures neurochirurgicales (par exemple, McGuire et Alaraj, 2018), tandis que la RA assistée par l'IA a été utilisée pour permettre aux élèves d'explorer et de manipuler des modèles tridimensionnels de molécules organiques afin d'améliorer leur compréhension de la chimie (par exemple, Behmke et al., 2018). Google a développé plus d'un millier d'"expéditions" en réalité virtuelle et en réalité augmentée adaptées à des contextes éducatifs. Dans le même temps, l'apprentissage numérique basé sur les jeux (Digital Game Based Learning, DGBL) inclut de plus en plus de technologies d'IA, afin d'adapter le gameplay à chaque élève (LaPierre, 2021).

3.1.4 L'IA au service des apprenants à besoins particuliers

Bon nombre des IAEd au service des élèves disponibles dans le commerce et mentionnées ici (en particulier les ITS) ont été développées pour aider les élèves ayant un trouble de l'apprentissage (Barua et al., 2022), tandis que d'autres approches d'IA ont été utilisées pour assister le diagnostic de troubles de l'apprentissage tels que les troubles de l'attention avec ou sans hyperactivité ou TDAH (par exemple, Anuradha et al., 2010), la dyslexie (Benfatto et al., 2016) et la dysgraphie (Asselborn et al., 2020). En outre, de nombreuses recherches ont été menées sur l'utilisation des robots dans l'éducation, en particulier pour aider les enfants souffrants de troubles du spectre autistique (par exemple, Alabdulkareem et al., 2022). Parallèlement, il existe un certain nombre d'outils d'IA classiques, comme les applications de synthèse vocale et de sous-titrage automatique d'images, qui ont été "réadaptés" pour les élèves ayant des difficultés d'apprentissage ou mal voyants/non voyants, ainsi qu'un nombre limité d'applications ciblées assistées par l'IA, par exemple certaines qui signent automatiquement pour les enfants ayant des difficultés d'audition, comme StorySign de Huawei (Huawei, 2022).

3.1.5 Outils de rédaction automatique de textes (ORA)

Les dissertations écrites restent un élément important de l'évaluation des études dans le monde entier, mais faire passer le texte d'un autre pour le sien a longtemps été une pratique courante. L'Internet a rendu cette pratique de plus en plus facile, avec des usines de rédaction commerciales en ligne proposant des rédactions sur mesure sur n'importe quel sujet. Les récents développements de l'IA connus sous le nom de "grands modèles linguistiques", tels que le GPT-3 d'Open AI évoqué plus haut, sont sur le point d'avoir un impact encore plus important (GPT-3, 2020). Il existe déjà plusieurs organisations commerciales qui proposent aux élèves des outils de rédaction automatique (ORA) qui, en réponse à une invite telle qu'une question de rédaction, peuvent générer automatiquement des paragraphes individuels ou des rédactions entières. Bien qu'actuellement, l'écriture générée par ORA puisse être superficielle et parfois insensée (Marcus & Davis, 2020), il peut parfois être difficile de déterminer si le texte généré a été écrit par un algorithme ou par un élève humain. Cependant, il n'est pas clair si les outils ORA soutiennent ou nuisent à l'apprentissage des élèves. Néanmoins, étant donné leur sophistication croissante et ce qui pourrait être décrit comme une course aux armements entre les ORA et les détecteurs d'ORA, ils sont susceptibles d'avoir un impact sur la façon dont nous évaluons les élèves (Sharples, 2022).

3.1.6 Agents conversationnels

Les agents conversationnels assistés par l'IA font l'objet de recherches et sont disponibles dans le commerce. Ils sont de plus en plus utilisés dans des contextes éducatifs à des fins diverses (Hwang & Chang, 2021 ; Pérez et al., 2020). Par exemple, les agents conversationnels ont été développés pour fournir un soutien et une orientation continus aux élèves, dans les services académiques, le logement, les installations, les examens, l'informatique, la santé et plus encore. Un élève peut, par exemple, poser des questions sur ses cours du matin, sur le lieu de l'examen du lendemain ou sur la note qu'il a obtenue dans un travail récent. Un exemple d'agent conversationnel éducatif est Ada, du nom de la pionnière de l'informatique Ada Lovelace, qui a été développé par un collège communautaire britannique, à l'aide de la plateforme Watson Conversation d'IBM (Hussain, 2017). Un deuxième exemple, tristement célèbre, est l'assistant d'enseignement virtuel assisté par l'IA développé à Georgia Tech (Goel & Joyner, 2017). Le robot répondait aux questions des élèves pendant un grand cours d'informatique comme s'il était un assistant d'enseignement humain - en répondant automatiquement aux questions pour lesquelles il avait des réponses dans sa base de données (comme la date de remise d'un devoir) et en renvoyant les autres questions aux assistants d'enseignement humains pour qu'ils y répondent. Une telle approche pourrait avoir un grand potentiel dans les établissements d'enseignement en ligne à grande échelle où il peut être difficile pour le personnel humain de répondre à toutes les questions en ligne des élèves. Cependant, le fait que l'assistant virtuel n'ait pas informé les élèves qu'ils communiquaient avec un robot utilisant de l'IA et qu'il ait parfois utilisé des astuces pour faire croire aux élèves qu'il était humain (par exemple, en retardant ses réponses) soulève de réelles questions éthiques.

3.1.7 Évaluation formative automatique

Les applications d'évaluation formative automatique font l'objet de recherches et sont disponibles dans le commerce. Elles utilisent le traitement du langage naturel et le traitement sémantique, ainsi que d'autres techniques assistées par l'IA, pour fournir un retour d'information exploitable sur les écrits ou autres productions des élèves. Malgré leur potentiel pour soutenir l'apprentissage des élèves, et probablement en raison des difficultés à fournir automatiquement un retour précis et utile, il existe encore peu d'exemples commerciaux de ce type de services. Un exemple de recherche est Open Essayist (Foster, 2019). L'un des principaux problèmes est qu'actuellement, aucun système d'IA n'est capable d'une interprétation aussi approfondie ou d'une analyse aussi précise que celle d'un enseignant, et qu'il s'appuie généralement sur des caractéristiques superficielles de l'écriture ou d'autres résultats. Grammarly (Grammarly, 2022a) est un exemple de système d'IA qui fournit explicitement un retour sur les caractéristiques de surface de l'écriture. Parallèlement, des recherches menées à l'université de Stanford ont permis d'évaluer un système d'autogestion des apprentissages qui fournissait un retour sur les tâches de programmation effectuées par 12 000 élèves dans le cadre d'un cours d'informatique. Les élèves étaient d'accord avec les commentaires donnés dans environ 98 % des cas, soit un peu plus que leur accord avec les commentaires des instructeurs humains (Metz, 2021).

3.1.8 Orchestrateurs de réseaux d'apprentissage

Par orchestrateurs de réseaux d'apprentissage, nous entendons les systèmes d'IA qui permettent les connexions entre les personnes engagées dans l'éducation. Il existe peu d'exemples étudiés et commercialisés dans ce domaine. Un exemple est le tuteur ouvert (Open Tutor, anciennement connu sous le nom de Smart Learning Partner), développé par des chercheurs de l'Université normale de Pékin (Lu et al., 2018). Si un élève n'a pas compris quelque chose dans sa classe, il peut ouvrir l'application Open Tutor sur son téléphone portable, taper ce qu'il veut savoir, et l'application le met en relation avec une liste de tuteurs humains qui peuvent l'aider, tous notés par d'autres élèves (un peu comme une application de rencontre). Ils bénéficient ensuite de 20 minutes de cours particuliers, avec partage de l'écran et de la voix uniquement. Inévitablement, comme ce système implique des tuteurs humains, il est relativement coûteux à mettre en place. Néanmoins, ce qui est particulièrement intéressant, c'est que l'apprenant est responsable et décide de ce qu'il veut apprendre, tandis que l'IA (contrairement à un STI) joue un rôle de soutien.

3.1.9 Systèmes de tutorat basés sur le dialogue

Les systèmes de tutorat basés sur le dialogue (ou Dialog Based Tutoring System) simulent un dialogue de tutorat, généralement dactylographié mais parfois parlé, entre un tuteur humain et un élève. L'objectif est d' encourager l'élève à développer une compréhension approfondie du sujet en question, en allant au-delà des connaissances de surface qui sont le résultat de certains STI. En général, lorsque l'élève travaille étape par étape sur une tâche en ligne, le DBTS utilise le principe du tutorat socratique, qui consiste à poser des questions plutôt qu'à donner des instructions. L'élève est donc guidé pour découvrir par lui-même la solution préétablie pour le problème en cours. Le DBTS le plus connu est AutoTutor, qui fait l'objet de recherches à l'Université de Memphis depuis plus de vingt ans (Nye et al., 2014). Nous n'avons pas été en mesure d'identifier des exemples commerciaux de DBTS actuellement disponibles.

3.1.10 Environnements d'apprentissage exploratoire

Les environnements d'apprentissage exploratoires (en anglais ELE) offrent une alternative à l'approche étape par étape adoptée par les STI et les DBTS. Plutôt que de suivre une séquence, même si elle est adaptée à chaque élève, les élèves sont encouragés à construire activement leurs propres connaissances en explorant et en manipulant les éléments de l'environnement d'apprentissage. L'apprentissage par exploration ou découverte n'est pas nouveau, mais il reste controversé. Ses détracteurs affirment que, comme il n'y a pas d'instruction explicite et que les élèves sont censés découvrir les principes par eux-mêmes, il provoque une surcharge cognitive et entraîne de mauvais résultats d'apprentissage (Kirschner et al., 2006 ; Mavrikis et al., 2022). Cependant, c'est là que l'IA entre en jeu, avec de nombreux ELE récents pilotés par l'IA fournissant un retour automatique, abordant les idées fausses et proposant des approches alternatives pendant l'exploration. Il n'existe aucun ELE commercial connu, bien qu'un exemple de recherche soit FractionsLab (IOE, 2018).

3.1.11 Assistants d'apprentissage tout au long de la vie assistés par l'IA

Les assistants d'apprentissage tout au long de la vie assistés par l'IA, des outils que les élèves pourraient peut-être avoir sur leur téléphone portable et qui peuvent fournir un large éventail de soutien et de conseils, ont longtemps été suggérés comme une application potentiellement puissante de l'IA dans l'éducation (Holmes et al., 2019). Cependant, à ce jour, un tel outil a fait l'objet de très peu d'efforts de recherche. Alors que des concepts tels que les jumeaux numériques et les métavers deviennent de plus en plus populaires, les assistants d'apprentissage tout au long de la vie constituent un domaine potentiel pour la recherche sur l'IAEd.

3.2 IAEd au service de l'enseignant

De nombreux dispositifs d'IA au services des élèves, en particulier les Systèmes de Tutorat Intelligents (STI), comprennent des interfaces, ou des tableaux de bord, pour les enseignants, souvent basés sur des modèles d'apprenants ouverts, qui offrent une représentation dynamique de ce que les élèves individuels et les groupes d'élèves ont réalisé, ou de leurs idées fausses (Bodily & Verbert, 2017). Une approche novatrice utilise des lunettes de réalité augmentée (RA) portées par l'enseignant pour superposer des informations de type tableau de bord au-dessus de la tête de ses élèves pendant que ceux-ci s'engagent avec un STI (Holstein et al., 2018). Bien qu'impressionnant, il s'agit d'un exemple d'utilisation d'une technologie d'IA pour résoudre un problème causé par une technologie d'IA (ici, pour résoudre le fait que, pendant que les élèves s'engagent avec un STI, leur enseignant ne peut pas facilement voir ce que les élèves font et ne peut donc pas facilement fournir un soutien approprié). Quoi qu'il en soit, les STI et autres dispositifs d'IAEd proposant des tableaux de bord pour les enseignants sont tous principalement au service des élèves. En fait, si, à des fins d'analyse, nous ignorons les chevauchements, il existe peu d'exemples d'IAEd véritablement au service de l'enseignant. Nous examinons ici six possibilités, dont beaucoup sont controversées : la détection du plagiat, la curation intelligente du matériel d'apprentissage, le suivi de la classe, l'évaluation sommative automatique, les assistants pédagogiques intelligents et l'orchestration de la classe.

3.2.1 Détection du plagiat

Les services de détection du plagiat disponibles dans le commerce sont largement utilisés par les éducateurs, et les méthodes d'apprentissage automatique ont été de plus en plus adaptées à ces systèmes au cours de la dernière décennie. Le marché est désormais dominé par Turnitin (Turnitin, 2022), avec ses différents outils tels que iThenticate et Ouriginal, mais des logiciels de détection tels que Plagiarism Checker X (Plagiarism Checker X, 2022) et le correcteur de plagiat de Grammarly (Grammarly, 2022b), plus orienté vers les élèves, sont également largement utilisés.

3.2.2 Curation intelligente des ressources pédagogiques

Comme chacun sait, l'internet est inondé de contenus éducatifs - dans de multiples formats et langues, avec différents niveaux d'accès et de qualité variable. Le défi pour les enseignants et les élèves n'est pas de trouver du contenu mais de trouver facilement du contenu pertinent de haute qualité qui peut être utilisé efficacement. Au moins un outil de recherche, X5GON (X5GON, 2022), et deux outils commerciaux, Teacher Advisor (IBM, 2018) et Clever Owl (Clever Owl, 2022), ont été développés pour explorer automatiquement le web afin de trouver des ressources d'enseignement et d'apprentissage en réponse aux requêtes des enseignants.

3.2.3 Surveillance de la classe

Dans quelques contextes, les systèmes assistés par l'IA ayant fait l'objet de recherches et disponibles dans le commerce sont de plus en plus utilisés pour le suivi des élèves en classe. Par exemple, des applications vidéo assistées par l'IA ont été développées pour surveiller l'endroit où un élève regarde, à partir duquel le système déduit s'il est concentré ou non sur l'enseignant ou la tâche en cours (Lieu, 2018). Ailleurs, et peut-être de manière encore plus intrusive, on demande aux élèves de porter des casques EEG (électroencéphalographie) portables pour enregistrer leur activité cérébrale afin de "surveiller" leur attention (Poulsen et al., 2017). Par exemple, l'entreprise américaine BrainCo affirme que ses casques peuvent aider les enseignants à identifier les élèves qui ont besoin d'une aide supplémentaire, les données étant présentées sur un tableau de bord qui indique l'activité cérébrale moyenne de toute la classe. Les casques affichent une lumière bleue pour les élèves dont l'activité cérébrale est inférieure à la moyenne, jaune pour ceux qui se situent dans la moyenne et rouge pour ceux dont l'activité cérébrale est supérieure à la moyenne (NeuroMaker, 2022). Des casques similaires sont également largement utilisés dans les écoles chinoises, où les enseignants et les parents peuvent examiner l'activité cérébrale des élèves sur Internet. En Chine, les enseignants affirment que l'utilisation de ces bandeaux a forcé les élèves à devenir plus disciplinés, et que ces derniers sont désormais plus attentifs et travaillent davantage en classe (Wall Street Journal, 2019). En laissant de côté les questions éthiques évidentes, sur lesquelles nous reviendrons plus tard, il est important ici de noter que ces systèmes sont déjà controversés car il y a très peu de preuves qu'ils sont capables de faire ce qu'ils prétendent faire. Pendant ce temps, dans de nombreuses universités, des systèmes assistés par l'IA sont également utilisés pour surveiller les mouvements des élèves sur le campus (parfois au moyen d'une application pour téléphone portable), ce qu'ils téléchargent du système de gestion de l'apprentissage en ligne, ce qu'ils achètent à la cafétéria, et bien d'autres choses encore (Moriarty-Mclaughlin, 2020).

3.2.4 Évaluation sommative automatique

On espère depuis longtemps que l'IA pourrait faire gagner du temps et de l'énergie aux enseignants en automatisant la notation des travaux, devoirs et évaluations des élèves, qui demande beaucoup de travail et se trouve donc coûteuse (Watters, 2021). C'est pourquoi les outils d'évaluation sommative automatique (parfois aussi appelée " autogradeurs ") sont un domaine de recherche bien financé, le deuxième après les STI, et il est largement commercialisé.

Ces outils ont été utilisés pour l'évaluation de tâches écrites (par exemple, les SAT américains) (Ramesh et Sanampudi, 2021), ainsi que dans les cours d'informatique et de mathématiques. Certains autogradeurs de pointe prétendent également diagnostiquer le type d'erreur et suggérer à l'élève comment la corriger, tandis que d'autres, selon le domaine, prétendent noter correctement les réponses des élèves avec une précision d'environ 90 % (Hsu et al., 2021). Néanmoins, l'utilisation de la notation automatique reste controversée en particulier lorsque l'évaluation est à enjeux élevés. En fait, les tests à enjeux élevés sont l'un des deux cas d'utilisation à haut risque de la proposition de loi européenne sur l'IA, et seraient donc réglementés par ses dispositions. Un exemple commercial d'évaluation sommative automatique est e-Rater (ETS, 2022).

3.2.5 Assistant d'enseignement et d'évaluation assisté par l'IA

Comme indiqué, de nombreuses technologies d'IAEd sont conçues pour faire gagner du temps aux enseignants. Cependant, ce faisant, elles prennent effectivement en charge les tâches d'enseignement, réduisant potentiellement les enseignants à un rôle plus fonctionnel (Guilherme, 2019 ; Selwyn, 2019). Une approche alternative consiste à ce que l'IA soutienne les enseignants dans leur enseignement en augmentant l'expertise et les compétences des enseignants avec un assistant d'enseignement utilisant de l'IA. Ce que pourrait faire un tel assistant d'enseignement IA reste à déterminer. Il s'agit en effet d'une application spéculative dans la mesure où nous n'avons pas connaissance de recherches ou de produits commerciaux pertinents. Néanmoins, un outil commercial récemment lancé indique une direction intéressante. Au lieu d'une évaluation automatique, comme c'est le cas avec les autogradeurs, Graide (Graide, 2022) soutient l'enseignant dans ses pratiques d'évaluation (par exemple, en proposant des phrases que l'enseignant a déjà écrites et utilisées et qu'il peut réutiliser pour le script en cours de correction). En d'autres termes, c'est l'enseignant qui procède à l'évaluation, et non l'IA seule mais il est assisté par celle-ci.

3.2.6 Orchestration de la classe

L'orchestration de la classe fait référence à la manière dont un enseignant gère les activités (pour des individus, des groupes ou des classes entières) pour des pratiques d'enseignement efficaces, dans le cadre des contraintes disponibles telles que le programme, l'évaluation, le temps, l'espace, l'énergie et la sécurité (Dillenbourg et al., 2011). Cette technologie n'en est qu'à ses débuts, mais il existe un nombre croissant de recherches sur la façon dont l'IA pourrait aider l'enseignant à orchestrer la classe (Song, 2021). Un exemple est le système FACT qui fait des recommandations à l'enseignant sur les groupes à visiter et ce qu'il doit dire (VanLehn et al., 2019) pendant que les élèves résolvent des problèmes mathématiques en petits groupes.

3.3 L'IAEd au service des institutions

L'IAEd au service des établissements comprend des technologies qui permettent d'allouer des aides financières (Aulck et al., 2020), de planifier, d'organiser et de programmer des cours (Kitto et al., 2020 ; Pardos & Nam, 2020), et d'identifier les abandons et les élèves à risque (Del Bonifro et al., 2020 ; Miguéis et al., 2018 ; Quille & Bergin, 2019). Ces outils ont une fonction administrative claire et s'inspirent et partagent beaucoup avec l'intelligence artificielle au service des organisations et des entreprises. Par conséquent, nous n'aborderons ici que deux cas critiques et controversés d'IAEd axés sur les institutions : les admissions (l'un des cas d'utilisation à haut risque définis dans la proposition de loi européenne sur l'IA) et l'e-Proctoring (surveillance d'examens à distance).

3.3.1 Admissions

De nombreux établissements d'enseignement supérieur, principalement aux États-Unis, utilisent des logiciels d'admission assistés par l'IA disponibles dans le commerce pour rendre plus efficace leurs processus d'admission - non sans controverse toutefois (Pangburn, 2019). L'idée est de réduire les coûts tout en rendant le système d'admission plus équitable, en aidant à éliminer les biais humains invisibles (comme la pensée de groupe et les préjugés raciaux et sexistes) qui peuvent avoir un impact sur les décisions. Par exemple, l'Université du Texas à Austin a mis au point un système appelé GRADE pour recommander si un candidat devrait être admis, sur la base de ses résultats aux tests, de son parcours scolaire antérieur et de ses lettres de recommandation, affirmant gagner au moins 74 % de temps sur les examens (Waters & Miikkulainen, 2014). Cependant, en 2020, GRADE a été abandonné parce qu'il reproduisait discrètement les mêmes problèmes qu'il avait l'ambition de résoudre. Néanmoins, l'IA est de plus en plus utilisée pour rendre plus efficaces les processus d'admission (Marcinkowski et al., 2020), souvent à l'aide d'outils fournis par des sociétés commerciales telles que Salesforce (Salesforce, 2022).

3.3.2 Surveillance d'examens - E-proctoring

Au début de la pandémie de COVID-19, une grande partie de l'enseignement a été transférée en ligne, de même que de nombreux examens, ce qui a conduit de nombreuses entreprises de surveillance d'examens (ou e-Proctoring) à voir leurs activités se développer massivement (Nigam et al., 2021). L'e-proctoring vise à garantir l'intégrité académique en utilisant des caméras et des microphones assistés par l'IA pour surveiller automatiquement les élèves et élèves - en scannant leur visage et en suivant les frappes au clavier et les mouvements de la souris - pendant qu'ils passent un examen en ligne. Cependant, ces outils sont extrêmement controversés (Kelley, 2021). Ils ont été accusés d'intrusion, de ne pas fonctionner correctement, de discrimination, d'empêcher les élèves de passer leurs examens et d'exacerber les problèmes de santé mentale (Chin, 2020 ; Henry & Oliver, 2021). En fait, l'e-Proctoring est probablement l'un des exemples les plus clairs d'une utilisation de l'IA pour automatiser de mauvaises pratiques pédagogiques, plutôt que de l'utiliser pour développer de nouvelles approches plus pertinentes.

Comme indiqué dans l'introduction, les avantages supposés de l'IA dans l'éducation ont reçu beaucoup de visibilité (par exemple, OCDE, 2020, 2021).

Selon l'entrepreneur en IA Kai-Fu Lee :

L'enseignement se compose de cours, d'exercices, d'examens et de tutorat. Ces quatre composantes exigent beaucoup de temps de la part de l'enseignant. Cependant, de nombreuses tâches de l'enseignant peuvent être automatisées avec une IA suffisamment avancée. La plus grande opportunité pour l'IA dans l'éducation est peut-être l'apprentissage individualisé [...]. Contrairement aux enseignants humains, qui doivent prendre en compte l'ensemble de la classe, un enseignant virtuel peut accorder une attention particulière à chaque élève, qu'il s'agisse de résoudre des problèmes de prononciation spécifiques, de s'entraîner aux multiplications ou de rédiger des essais. Un enseignant virtuel remarquera ce qui fait se dilater les pupilles d'un élève et ce qui fait tomber ses paupières. Il déduira une méthode d'enseignement de la géométrie qui permettra à un élève d'apprendre plus rapidement, même si cette méthode échoue sur un millier d'autres élèves. Pour un élève qui aime le basket, les problèmes de mathématiques pourront être réécrits en termes contextualisés au domaine du basket. L'IA donnera des devoirs différents à chaque élève, en fonction de son rythme, en veillant à ce qu'un élève donné maîtrise parfaitement un sujet avant de passer au suivant. Grâce à des données toujours plus nombreuses, l'IA rendra l'apprentissage beaucoup plus efficace, attrayant et amusant. (Lee & Qiufan, 2021, p. 118)

Une telle vision de l'avenir de l'IA résume parfaitement les convictions de nombre de ses plus ardents défenseurs à propos de l'IAEd.

Elle soulève également des questions fondamentales et controversées : l'automatisation de l'enseignement et des tâches des enseignants, l'individualisation de l'éducation, la surveillance biométrique, l'apprentissage en tant que maîtrise d'un sujet donné et les mesures d'efficacité associées, pour n'en citer que quelques-unes.

Ce n'est que récemment que ces questions ont été intégrées au courant dominant de l'IAEd (Blikstein & Blikstein, 2021 ; Holmes et al., 2021 ; Selwyn, 2019 ; Tuomi, 2018 ; Williamson & Eynon, 2020). L'UNESCO (Miao & Holmes, 2021), le Conseil de l'Europe (Holmes et al., 2022 ; Yeung, 2019), la Commission européenne (Vuorikari & Holmes, 2022) et la communauté de recherche au sens large (Holmes & Porayska-Pomsta, 2023) ont également commencé à évaluer de manière critique le potentiel futur de l'IA dans l'éducation.

Ensemble, ces publications explorent ce que l'on pourrait appeler une perspective humaniste et d'études critiques sur les liens entre l'IA et l'éducation. Les autres articles de ce numéro de la Revue européenne de l'éducation abordent de nombreux obstacles potentiels sur la voie d'un avenir visionnaire. Nous nous contenterons ici d'en résumer brièvement quelques-uns : l'éthique, la personnalisation, l'efficacité et l'impact, le colonialisme de l'IAEd et la commercialisation de l'éducation.

4.1 Éthique

Ces dernières années, l'IA en général a fait l'objet d'un intérêt croissant pour l'éthique, ce qui a donné lieu à plus de 80 ensembles de principes éthiques en matière d'IA (Ayling et Chapman, 2021 ; Jobin et al., 2019 ; Tsamados et al., 2022). Nombre d'entre eux ont adopté une approche de l'éthique fondée sur les droits, les droits de l'homme jouant un rôle central. Cependant, malgré les implications fondamentales pour les élèves, les éducateurs, les parents et les autres parties prenantes, relativement peu de publications ont été consacrées spécifiquement à l'éthique de l'IA dans l'éducation, à l'exception notable de ces publications (Adams et al., 2021 ; Aiken & Epstein, 2000 ; Holmes et al., 2021 ; Holmes & Porayska-Pomsta, 2023 ; Holstein & Doroudi, 2021). En fait, à ce jour, la plupart des travaux de recherche et de développement sur l'IAEd se sont déroulés sans engagement sérieux quant aux conséquences éthiques potentielles de l'utilisation de l'IA dans l'éducation. Cela contraste avec le domaine connexe de l'analyse de l'apprentissage, où la vie privée et les questions éthiques connexes ont été largement débattues (par exemple, Drachsler et Greller, 2016 ; Prinsloo et Slade, 2017 ; Slade et Tait, 2019 ; Williamson, 2017). Alors qu'en Europe, on s'intéresse de plus en plus à l'élaboration de lignes directrices et de règlements axés sur les enseignants pour le développement et le déploiement éthiques de l'IA dans l'éducation (par exemple, CE, 2022), il n'en reste pas moins qu'aucune réglementation appropriée n'a encore été promulguée dans le monde (Holmes, Bektik, et al., 2018).

Un rapport du Conseil de l'Europe a récemment exploré l'IA et l'éducation en termes de droits de l'homme (Holmes et al., 2022), en s'appuyant sur la Déclaration universelle des droits de l'homme des Nations Unies (1948), la Convention européenne des droits de l'homme (Conseil de l'Europe, 1953) et la Convention des Nations Unies relative aux droits de l'enfant (1989). Nous soulignons ici certaines questions clés, accompagnées d'exemples, que le rapport aborde en détail.

Droit à la dignité humaine. L'enseignement, l'évaluation et l'accréditation ne doivent pas être délégués à un système d'IA.

Droit à l'autonomie. Les enfants devraient avoir le droit d'éviter d'être profilés individuellement, d'éviter les parcours d'apprentissage dictés, et de protéger leur développement et leur vie future.

Le droit d'être entendu. Les enfants devraient avoir le droit de ne pas s'engager dans l'utilisation d'un système d'IA, sans que cela n'affecte négativement leur éducation.

Droit de ne pas souffrir de discrimination. Tous les enfants devraient avoir la possibilité de bénéficier de l'utilisation des technologies, et pas seulement ceux issus des groupes socio-économiques qui peuvent se le permettre.

Droit à la confidentialité et à la protection des données. Les enfants doivent avoir le droit que leurs données ne soient pas agrégées et utilisées à des fins commerciales sans leur bénéfice direct.

Droit à la transparence et à l'explicabilité. Les enfants et leurs parents doivent pouvoir comprendre et contester toute décision prise par un système IAEd.

Alors que la plupart des discussions centrées sur l'éthique de l'IAEd et du domaine connexe de l'analyse de l'apprentissage se concentrent sur les données (par exemple, les biais, la vie privée et la propriété des données) et sur la façon dont ces données sont analysées (par exemple, l'équité, la transparence, la confiance et la fiabilité), l'éthique de l'IAEd ne peut pas être réduite aux seules questions relatives aux données et aux approches informatiques. En d'autres termes, l'étude de l'éthique des données et des calculs de l'IAEd est nécessaire mais pas suffisante (Holmes et al., 2021). L'éthique de l'IAEd doit également aborder l'éthique de l'éducation. Cela soulève d'importantes questions centrées sur la pédagogie (la pédagogie instructionniste adoptée par la plupart des IAEd est-elle éthiquement fondée ?), les évaluations (que faut-il évaluer et comment ?), les connaissances (qu'est-ce qui compte comme connaissances ?), et l'agentivité de l'élève et de l'enseignant (qui doit avoir le contrôle ?) (Holmes & Porayska-Pomsta, 2023). Bien que les préoccupations éthiques générales liées à l'IA soient aujourd'hui largement débattues, l'éducation occupe des rôles sociaux importants et vise le développement humain, ce qui rend les défis éthiques connexes particulièrement difficiles, tant sur le plan conceptuel que dans la pratique. Pour cette raison, il a été suggéré qu'un cadre éthique adéquat pour l'IAEd doit être construit en utilisant l'apprentissage et le développement humain comme point de départ (Tuomi, 2023). Cela signifie également que les cadres éthiques pour l'IA générale doivent être plus explicites sur leurs modèles implicites de progrès et de développement.

4.2 Personnalisation

Bien que la signification de l' apprentissage personnalisé reste floue (Holmes, Anastopoulou, et al., 2018), elle nourrit de plus en plus le récit éducatif dominant (par exemple, Parlement européen, 2021 ; UNICEF, 2022). En fait, comme nous l'avons vu dans l'introduction, le développement de technologies permettant de personnaliser l'apprentissage en fonction des forces et des faiblesses de chaque élève a commencé il y a près de 100 ans, avec les " machines à enseigner" conçues par Sidney Pressey et B. F. Skinner (Watters, 2021). Pour diverses raisons, ces machines n'ont pas été largement acceptées, et le programme d'apprentissage personnalisé a plus ou moins disparu. Il est réapparu des décennies plus tard, principalement dans la Silicon Valley, en partie parce que l'Internet a rendu possible la personnalisation de masse dans un large éventail d'industries. Une question souvent posée est la suivante : si nous pouvons avoir des recommandations personnalisées sur Netflix ou Amazon, pourquoi ne pouvons-nous pas faire la même chose dans l'éducation ?

La personnalisation des parcours d'apprentissage proposée par une grande partie de l'IAEd actuelle est toutefois une interprétation très limitée de la personnalisation. La personnalisation, comprise de manière plus large, concerne la subjectivation (Biesta, 2011) et l'aide apportée à chaque élève pour qu'il réalise son propre potentiel, qu'il s'accomplisse lui-même et qu'il renforce son action. C'est quelque chose que peu d'outils IAEd existants font. Au contraire, alors qu'ils proposent des parcours adaptatifs à travers les matériaux à apprendre, la plupart des outils IAEd ont tendance à favoriser l'homogénéisation des élèves. Une interprétation critique de ces outils IAEd pourrait suggérer qu'ils visent à s'assurer que les élèves entrent dans la bonne boîte (passent leurs examens), préparés à leur rôle désigné dans le monde du travail.

Il convient de noter trois autres problèmes connexes.

Premièrement, l'agenda de la personnalisation, tel qu'il est exprimé, par exemple, dans la citation de Kai Fu-Lee ci-dessus, suppose que cela n'est possible qu'avec la technologie. Cependant, la plupart des enseignants personnalisent leur enseignement au fur et à mesure, en réponse à chaque élève, en l'aidant (si le système éducatif le permet) à se réaliser, à devenir le meilleur qu'il puisse être.

Deuxièmement, les parcours dits individuels fournis par la quasi-totalité des systèmes IAEd sont principalement basés sur les moyennes des apprenants précédents. Par conséquent, s'ils peuvent être applicables à des groupes, leur utilité ou leur applicabilité à des élèves en tant qu'individuels n'est pas évidente.

Troisièmement, l'éducation concerne également la collaboration et les autres aspects d'interaction sociale de l'enseignement et de l'apprentissage, qui sont souvent ignorés par les STI actuels et la plupart des autres IAEd. Si les STI peuvent être utiles lorsque l'élève est sans enseignant ou sans ses pairs, par exemple lorsqu'il fait ses devoirs en autonomie, on ne comprend pas pourquoi certaines écoles les utilisent dans les salles de classe, qui sont par définition des espaces sociaux.

4.3 Efficacité et impact

Les preuves de l'impact positif de l'utilisation de l'IAEd sont importantes pour les décideurs politiques, mais aussi pour une utilisation éthique de l'AI. L'investissement en temps et, par exemple, en efforts des enseignants, nécessite une justification acceptable. Comme le montrent les nombreux articles publiés dans l'International Journal of Artificial Intelligence in Education, les chercheurs universitaires ont mené de nombreuses études sur l'efficacité de divers systèmes IAEd. Beaucoup de ces études ont été synthétisées dans de nombreuses méta-analyses et méta-méta-analyses (par exemple, Kulik & Fletcher, 2016 ; Ma et al., 2014).

Selon du Boulay, " La conclusion générale de ces méta-analyses est que les systèmes d'IAEd sont plus performants que [...] les enseignants humains travaillant dans des classes nombreuses. Ils sont légèrement moins performants que les tuteurs humains en tête-à-tête [...]. Bien sûr, de bons résultats post-test ne sont pas les seuls critères pour juger si une technologie éducative sera ou devrait être adoptée. (du Boulay, 2016, p. 80).

La grande majorité des études d'impact ont été menées par les développeurs de la technologie étudiée (de plus en plus souvent des organisations commerciales), et le plus souvent avec un nombre relativement faible d'apprenants. Cela réduit potentiellement leur caractère généralisable.

Dans quelques cas seulement, les études ont été menées de manière indépendante et/ou à grande échelle (par exemple, Egelandsdal et al., 2019 ; Pane et al., 2013 ; Roschelle et al., 2017). La plupart de ces grandes études indépendantes ont été menées aux États-Unis, ce qui limite leur transférabilité à d'autres pays. Par conséquent, il reste vrai de dire que "beaucoup de revendications du potentiel révolutionnaire de l'IA dans l'éducation sont basées sur des conjectures, des spéculations et de l'optimisme" (Nemorin, 2021, cité dans Miao & Holmes, 2021, p. 13).

L'un des problèmes de la recherche sur l'IAEd est qu'elle s'est presque toujours concentrée sur l'efficacité de l'outil d'IA pour améliorer les résultats scolaires de l'élève dans le domaine étroit traité par l'outil. Il est très rare que la recherche prenne en compte les implications plus larges de l'IA dans les salles de classe et son impact plus large sur les enseignants et les élèves : Une " grande partie de ce qui existe aujourd'hui en tant que "preuves" est principalement liée à la façon dont l'IA peut fonctionner dans l'éducation dans une capacité technique, sans prendre le temps de poser la question de savoir si l'IA est nécessaire dans l'éducation et d'y répondre de manière exhaustive " (Nemorin, 2021, cité dans Miao & Holmes, 2021, p. 26).

L'un des impacts potentiels importants de l'IAEd concerne la cognition humaine et le développement du cerveau. On pense depuis longtemps, depuis que Socrate a affirmé que l'écriture conduisait à l'oubli (Platon, 257 C.E.), que la technologie a un impact significatif sur le développement humain et la cognition. Inévitablement, cependant, cet impact est susceptible d'être complexe. Par exemple, alors qu'une étude a suggéré qu'une plus grande utilisation des dispositifs et applications de navigation du système de positionnement global (GPS) entraîne un déclin de la mémoire spatiale (Dahmani & Bohbot, 2020), une autre a montré que l'utilisation des alertes des smartphones libère des ressources cognitives pour d'autres tâches (Fröscher et al., 2022). Cependant, plusieurs questions restent en suspens en ce qui concerne l'impact de la technologie sur le cerveau et la cognition des enfants - ce qui est particulièrement important car les structures et les capacités cognitives des enfants sont par définition encore en développement. Ces questions consistent notamment à savoir si l'utilisation de la technologie est la cause de divers résultats cognitifs et comportementaux tels que les problèmes d'attention, si l'utilisation de la technologie est impliquée dans la restructuration de certaines parties du cerveau des enfants, s'il existe des risques réels pour la santé associés à l'utilisation de la technologie et, le cas échéant, quels pourraient être les mécanismes de causalité (Gottschalk, 2019). Ces questions sont également susceptibles d'être critiques pour l'IAEd, ce qui suggère la nécessité de nouvelles recherches dans ce domaine.

4.4 Le techno-solutionnisme

La conclusion selon laquelle " les systèmes IAEd sont plus performants que [...] les enseignants humains " (du Boulay, 2016, p. 80) a été utilisée pour justifier leur déploiement de plus en plus large dans le monde. En particulier, il a été avancé que l'IAEd pourrait efficacement combler le vide dans des contextes tels que les zones rurales des pays en développement où l'accès aux enseignants expérimentés ou qualifiés nécessaires pour fournir aux apprenants une éducation de qualité qui est est insuffisante alors qu'elle fait partie de leurs droits humains (XPRIZE, 2015).

Cependant, bien que la cohorte immédiate dans un tel contexte puisse bénéficier de l'accès à un outil IAEd, les défis sont nombreux. Pour commencer, de nombreuses zones rurales ne disposent pas encore des infrastructures nécessaires (électricité et accès à Internet). Même lorsque ces infrastructures sont disponibles, il est rare que l'on dispose du personnel d'assistance qualifié nécessaire au déploiement, à la gestion et au soutien du matériel et des logiciels requis. Plus important encore, l'IAEd dans de tels contextes peut s'attaquer aux symptômes apparents du problème (par exemple, les apprenants ne reçoivent pas une éducation de qualité), mais pas nécessairement aux causes sociopolitiques sous-jacentes et à long terme (le manque d'enseignants expérimentés et qualifiés).

Dans la pratique, la manière dont les problèmes sont formulés dépend souvent des intérêts des fournisseurs de technologie. Les facteurs sociaux et culturels plus profonds sont rarement abordés car ils sont difficiles à modifier sans une large participation des parties prenantes et un changement de politique.

Comme le note Krahulcova : " Malheureusement, la plupart des problèmes complexes du monde réel exigent des solutions complexes du monde réel" (Krahulcova, 2021, paragraphe 3).

En conséquence, la meilleure façon de résoudre le problème du manque d'enseignants qualifiés est probablement de se concentrer sur le développement et le soutien professionnels offerts aux enseignants inexpérimentés, qui pourraient être soutenus par une IA appropriée. Ce soutien, à son tour, pourrait bénéficier de l'établissement de réseaux de collègues et d'experts en pédagogie assistés par l'IA dans tout le pays. L'accent serait à nouveau mis sur l'augmentation (ou l'encapacitation) des enseignants : utiliser la technologie pour soutenir et augmenter les enseignants plutôt que de les remplacer.

4.5 Le "colonialisme de l'IAEd"

Les entreprises de l'IAEd vendent de plus en plus leurs outils IAEd à l'échelle mondiale, créant ce que l'on a appelé un "colonialisme de l'IAEd" : Les entreprises des pays développés économiquement exportent leurs outils IAEd dans des contextes des pays en voie de développement, créant des asymétries de pouvoir entre les nations. Il a été noté que, trop souvent, "les technologies numériques fonctionnent de manière à perpétuer les formations raciales et coloniales du passé" (d'après Zembylas, 2021, p. 1). Cette situation est exacerbée par le fait que l'écrasante majorité des recherches sur l'IAEd sont également menées dans les pays économiquement développés et qu'elles abordent rarement la diversité culturelle ou les politiques et pratiques locales de manière significative (Blanchard, 2015).

Le "colonialisme de l'IAEd" peut impliquer l'adoption d'outils IAEd créés dans un contexte donné dans d'autres endroits, ce qui entraîne des gains commerciaux et économiques globaux pour les entreprises du Nord, avec l'extraction de données et de capitaux locaux hors du pays hôte (Nemorin et al., 2022). Ces gains et extractions peuvent commencer par un nombre restreint d'écoles qui intègrent les outils IAEd dans les pratiques quotidiennes des enseignants avant de s'étendre à des systèmes éducatifs nationaux entiers dans lesquels des produits uniques sont adoptés dans toutes les écoles. Cependant, le "colonialisme de l'IAEd" ne dépend pas nécessairement de l'importation d'outils spécifiques dans les pays du Sud. Plus subtilement, il pourrait simplement impliquer la langue dans laquelle la plupart des IAEd en classe ont tendance à être formés - principalement l'anglais américain (Cotterell et al., 2020). Dans tous les cas, l'impact des modèles formés en anglais utilisés par les outils IAEd dans des contextes non anglophones et sur les enfants qui les utilisent reste inconnu (Naismith & Juffs, 2021).

Le "colonialisme de l'IAEd" pourrait également impliquer l'imposition d'approches pédagogiques particulières - à l'heure actuelle souvent instructionnistes et comportementalistes - telles qu'elles sont intégrées dans la plupart des systèmes de tutorat commerciaux actuels de l'IAEd.

Enfin, le "colonialisme" peut également s'inscrire dans un spectre plus large. Par exemple, lorsque des pays tiers souhaitent tirer parti de l'IA, certaines entreprises américaines s'attendent à ce qu'ils adoptent des produits d'IA existants prêts à l'emploi, plus ou moins tels qu'ils ont été développés pour les États-Unis, tandis que les entreprises chinoises, du moins dans les régions de Chine, sont plus susceptibles de personnaliser leurs produits pour répondre aux circonstances et aux priorités locales (Knox, 2020 ; Lee, 2018). D'une manière ou d'une autre, il est probable que les outils IAEd américains, chinois ou d'autres pays du Nord relativement bien financés évincent les outils IAEd moins bien financés mais entrainés localement et potentiellement plus sensibles à la situation locale.

4.6 Marchandisation de l'éducation

Un dernier obstacle potentiel relevé dans cet article est la marchandisation de l'éducation à la dérobée. Si l'IA au service de l'apprenant fait l'objet de recherches depuis une quarantaine d'années, il y a près de dix ans, elle est passée du stade de laboratoire de recherche à celui de produit commercialisé par un nombre croissant de sociétés d'IAEd financées à hauteur de plusieurs millions de dollars.

Ce sont principalement ces produits qui sont mis en œuvre dans les écoles du monde entier, souvent par des agences gouvernementales (locales et nationales). Il est important de le noter pour plusieurs raisons.

Premièrement, alors que la recherche originale est entreprise dans le milieu universitaire dans le but explicite d'améliorer l'enseignement et l'apprentissage, les organisations commerciales d'aujourd'hui se concentrent par définition sur la génération de profits.

Comme le demandent Holmes et ses collègues :

"Étant donné que les interactions des enfants avec ces systèmes d'IA génèrent à la fois des connaissances techniques sur le fonctionnement du produit et des connaissances commerciales sur la façon dont le produit est utilisé, les enfants des salles de classe du monde entier sont-ils en train d'être recrutés furtivement pour créer et fournir des renseignements commerciaux conçus pour soutenir les résultats des entreprises - et cela est-il prioritaire par rapport à l'apprentissage et au développement cognitif de l'enfant ?" (Holmes et al., 2022, p. 24)

Par exemple, une étude sur les manières complexes dont Google lie les utilisateurs et les développeurs IAEd à son infrastructure a montré que la Google Classroom est devenue à la fois un collecteur mondial de données sur les élèves et également un point de contrôle critique où les règles de participation sont définies (Perrotta et al., 2021 ; Williamson, 2021). Bien que certains flux de données des pays de l'UE vers d'autres pays soient limités par les dispositions du Règlement Général sur la Protection des Données de l'UE (RGPD), dans la pratique, il est très difficile de savoir comment des services complexes basés sur l'Internet utilisent et traitent les données (Day, 2021).

Les organisations commerciales partagent rarement des informations sur leurs systèmes propriétaires et leur efficacité. Au-delà de la limitation de l'interopérabilité, cela a des conséquences potentiellement importantes pour le contrôle social de l'éducation et l'innovation éducative. L'IA basée sur les données, en particulier, présente d'importants avantages d'échelle et, dans les écosystèmes en réseau actuels, cela peut conduire à des monopoles naturels. L'avenir de l'IAEd est donc également une question économique, voire géopolitique. Les organisations commerciales d'IAEd ne façonnent pas seulement les apprenants individuels, mais commencent également à influencer la gouvernance et les politiques nationales. L'impact sociétal et culturel peut également dépasser les impacts économiques plus superficiels. Par exemple, Baker a suggéré qu '"ils imposeront leurs normes sur ce qui compte comme connaissance" ( Baker, 2000, p. 127). En résumé, la commercialisation de l'éducation par le biais de l'IAEd est potentiellement lourde de conséquences pratiques et idéologiques.

Les progrès de l'IA axée sur les données ayant entraîné une augmentation exponentielle des besoins en calcul, il est de plus en plus évident que l'avenir de l'IA ne peut pas vraiment être prédit en extrapolant les développements de la dernière décennie. Alors que certains affirment avec force que l'IA basée sur les données sera bientôt capable, si les données sont suffisantes, de surpasser l'intelligence humaine (par exemple, LeCun et Browning, 2022), d'autres soutiennent de manière tout aussi convaincante que l'IA basée sur les données atteint un plafond de développement et que les progrès vers une intelligence de niveau humain ne seront probablement possibles qu'avec un nouveau paradigme, qui pourrait impliquer une combinaison des deux approches (par exemple, Marcus, 2022). On parle parfois d'"IA neuro-symbolique" (Susskind et al., 2021). Vraisemblablement, seul le temps nous le dira.

Dans les applications éducatives, la combinaison des approches basées sur la connaissance et celles basées sur les données représente cependant une voie naturelle. L'IA basée sur les données fournit d'importantes fonctionnalités de traitement de l'information de base, telles que la reconnaissance des formes. L'éducation, en revanche, s'est généralement concentrée sur le développement progressif de structures conceptuelles théoriques spécifiques à un domaine (par exemple, Davydov, 1982 ; Tuomi, 2022). De nombreuses percées récentes dans l'IA basée sur les données, comme la capacité de localiser un chat dans une image ou de distinguer des mots dans une phrase parlée, sont des tâches simples pour un enfant déjà des années avant son entrée à l'école. Dans les contextes éducatifs, le développement de l'IA peut donc être considéré de manière plus constructive comme un développement conjoint de la cognition humaine et artificielle. Cela suggère que l'avenir de l'IAEd devrait être compris du point de vue de l'augmentation de la cognition et de l'apprentissage humains par l'IA, une approche qui a été une ligne de pensée importante en IA tout au long de son histoire (Bush, 1945 ; Engelbart, 1963 ; Winograd & Flores, 1986).

D'un point de vue purement technique, étant donné que l'architecture de base de l'internet est sur le point de changer, le monde sera bientôt différent. Dans dix ans, les données devraient se déplacer des nuages centralisés vers les utilisateurs, la réalité virtuelle et augmentée devrait se généraliser, et notre environnement physique sera de plus en plus lié au monde numérique évoluant en temps réel. Les capteurs connecteront tout au prochain Internet, des voitures assistées par l'IA aux machines à laver, en passant par les chaînes de montage des usines, les services publics, les montres, les sonnettes et, oui, les téléphones portables s'ils existent encore. Les réseaux 5G, les identités numériques basées sur la blockchain, les nouvelles architectures internet cloud-to-edge et l'apprentissage automatique, aux côtés de l'intelligence artificielle, sont tous susceptibles d'être des technologies clés dans ce changement.

L'avenir de l'éducation est imprévisible, mais dans cet article, nous avons voulu aider le lecteur à y voir plus clair. Toutes nos images de l'avenir sont basées sur notre compréhension et notre construction de l'histoire. Dans cet article, nous avons exploré l'histoire de l'IA et de l'IAEd, fourni une typologie des systèmes d'IA dans l'éducation - en situant quelques exemples de l'état actuel de l'art dans cette typologie - et discuté de certains obstacles potentiels qui doivent être abordés pour aller de l'avant.

Alors que le paysage technologique qui nous entoure évolue rapidement, nous devons également réfléchir au rôle de l'éducation dans ce monde en mutation. On suppose souvent que l'innovation et le changement techniques sont synonymes de progrès, mais, dans le domaine de l'éducation, nous devons également nous demander quand le changement est synonyme de développement bienvenu.
Document à télécharger

Asselborn, T., Chapatte, M., & Dillenbourg, P. (2020). Extending the spectrum of dysgraphia: A data driven strategy to estimate handwriting quality. Scientific Reports, 10(1), 3140. https://doi.org/10.1038/s41598-020-60011-8
Crossref CAS PubMed Web of Science®Google Scholar

Baker, T., & Smith, L. (2019). Educ-AI-tion rebooted? Exploring the future of artificial intelligence in schools and colleges. NESTA.
Google Scholar

Barua, P. D., Vicnesh, J., Gururajan, R., Oh, S. L., Palmer, E., Azizan, M. M., Kadri, N. A., & Acharya, U. R. (2022). Artificial intelligence enabled personalised assistive tools to enhance Education of children with neurodevelopmental disorders-A review. International Journal of Environmental Research and Public Health, 19(3), 1192.
Crossref PubMed Web of Science®Google Scholar

Biesta, G. J. J. (2011). Good Education in an age of measurement: Ethics, politics, democracy. Paradigm Publishers.
Google Scholar

Bloom, B. S. (1984). The 2 sigma problem: The search for methods of group instruction as effective as one-to-one tutoring. Educational Researcher, 13(6), 4- 16.
Crossref Google Scholar

Dahmani, L., & Bohbot, V. D. (2020). Habitual use of GPS negatively impacts spatial memory during self-guided navigation. Scientific Reports, 10(1), 6310. https://doi.org/10.1038/s41598-020-62877-0
Crossref CAS PubMed Web of Science®Google Scholar

Davydov, V. V. (1982). The psychological structure and contents of learning activity in school children. In R. Glaser & J. Lompscher (Eds.), Cognitive and motivational aspects of instruction. Deutscher Verlag der Wissenschaften.
Google Scholar

Dillenbourg, P., Zufferey, G., Alavi, H., Jermann, P., Do-Lenh, S., Bonnard, Q., Cuendet, S., & Kaplan, F. (2011). Classroom orchestration: The third circle of usability. In Computer Support for Collaborative Learning Conference. CSCL2011 Proceedings (Vol. 1, pp. 510- 517). Springer.
Google Scholar

EC. (2022). Ethical guidelines on artificial intelligence (AI) and data usage in teaching and learning. European Commission Unpublished document.
Google Scholar

Engelbart, D. C. (1963). A conceptual framework for the augmentation of man's intellect. In P. W. Howerton & D. C. Weeks (Eds.), Vistas in information handling (pp. 1- 29). Spartan Books.
Google Scholar

Gardner, H. (1985). The Mind's new science: Cognitive revolution in the computer age. Basic Books.
Google Scholar

Holmes, W., Bialik, M., & Fadel, C. (2019). Artificial intelligence in Education: Promises and implications for teaching & learning. The Center for Curriculum Redesign.
Google Scholar

Holmes, W., Persson, J., Chounta, I.-A., Wasson, B., & Dimitrova, V. (2022). Artificial intelligence and Education. A critical view through the lens of human rights, democracy, and the rule of law. Council of Europe.
Google Scholar

W. Holmes, & K. Porayska-Pomsta (Eds.). (2023). The ethics of AI in education. Practices, challenges, and debates. Routledge.
Google Scholar

Lee, K.-F. (2018). AI superpowers: China, Silicon valley and the new world order. Houghton Mifflin Harcourt Publishing Company.
Google Scholar

Lee, K.-F., & Qiufan, C. (2021). AI 2041: Ten visions for our future. WH Allen.
Google Scholar

Ma, W., Adesope, O. O., Nesbit, J. C., & Liu, Q. (2014). Intelligent tutoring systems and learning outcomes: A meta-analysis. - PsycNET. Journal of Educational Psychology, 106(4), 901- 918.
Crossref Web of Science®Google Scholar

McCorduck, P. (1979). Machines who think: A personal inquiry into the history and prospects of artificial intelligence. W.H. Freeman and Company.
Google Scholar

McGuire, L. S., & Alaraj, A. (2018). Competency assessment in virtual reality-based simulation in neurosurgical training. In Comprehensive healthcare simulation: Neurosurgery (pp. 153- 157). Springer.
Crossref Google Scholar

M. Minsky (Ed.). (1969). Semantic information processing. The MIT Press.
Google Scholar

Pardos, Z. A., & Nam, A. J. H. (2020). A university map of course knowledge. PLoS One, 15(9), e0233207. https://doi.org/10.1371/journal.pone.0233207
Crossref CAS PubMed Web of Science®Google Scholar

Perez, C. (2002). Technological revolutions and financial capital: The dynamics of bubbles and Golden ages. Edward Elgar.
Crossref Google Scholar

Plato. (257 C.E.). Phaedrus. In J. M. Cooper (Ed.), Plato: Complete works. Hackett Publishing.
Google Scholar

Polya, G. (1945). How to solve it: A new aspect of mathematical method. Princeton University Press.
Crossref Web of Science®Google Scholar

Poulsen, A. T., Kamronn, S., Dmochowski, J., Parra, L. C., & Hansen, L. K. (2017). EEG in the classroom: Synchronised neural recordings during video presentation. Scientific Reports, 7, 43916 10.1038/srep43916.
Crossref PubMed Web of Science®Google Scholar

Pressey, S. L. (1926). A simple device for teaching, testing, and research in learning. School and Society, 23, 373- 376.
Web of Science®Google Scholar

Prinsloo, P., & Slade, S. (2017). Ethics and learning analytics: Charting the (un)charted. In C. Lang, G. Siemens, A. Wise, & D. Gašević (Eds.), Handbook of learning analytics (pp. 49- 57). SOLAR.
Crossref Google Scholar

Roschelle, J., Feng, M., Murphy, R. F., & Mason, C. A. (2016). Online mathematics homework increases student achievement. AERA Open, 2(4), 2332858416673968 10.1177/2332858416673968.
Crossref Web of Science®Google Scholar

Rosenblatt, F. (1958). The perceptron: A probabilistic model for information storage and organization in the brain. Psychological Review, 65, 386- 408.
Crossref CAS PubMed Web of Science®Google Scholar

Selwyn, N. (2019). Should robots replace teachers?: AI and the future of education. Polity.
Google Scholar

Skinner, B. F. (1958). Teaching machines. Science, 128(3330), 969- 977.
Crossref CAS PubMed Web of Science®Google Scholar

Thomas, M. S. C., & Porayska-Pomsta, K. (2022). Neurocomputational methods. From models of brain and cognition to artificial intelligence in Education. In O. Houdé & G. Borst (Eds.), The Cambridge handbook of cognitive development (part III-Education and school-learning domains, p. 29). Cambridge University Press.
Crossref Google Scholar

Tsamados, A., Aggarwal, N., Cowls, J., Morley, J., Roberts, H., Taddeo, M., & Floridi, L. (2022). The ethics of algorithms: Key problems and solutions. AI & SOCIETY, 37(1), 215- 230.
Crossref Web of Science®Google Scholar

Tuomi, I. (forthcoming). A framework for socio-developmental ethics in educational AI. In Proceedings of the 56th Hawaii International Conference on System Science. Maui, January 3-6, 2023.
Google Scholar

Turing, A. M. (1950). Computing machinery and intelligence. Mind, 59(236), 433- 460.
Crossref Google Scholar

Watters, A. (2021). Teaching machines: The history of personalized learning. MIT Press.
Crossref Google Scholar

What Works Clearinghouse. (Ed.). (2016). Cognitive tutor®. What works clearinghouse intervention report. What Works Clearinghouse (ED).
Google Scholar

Williamson, B. (2017). Big data in Education. SAGE.
Google Scholar

Winograd, T., & Flores, F. (1986). Understanding computers and cognition: A new foundation for design. Ablex Publishing Corporation.
Google Scholar

Yeung, K. (2019). A study of the implications of advanced digital technologies (including AI systems) for the concept of responsibility within a human rights framework. Council of Europe study DGI(2019)05. Council of Europe.
Google Scholar

A consulter aussi

Alexandre Lepage (Réalisateur). (2022, mars 3). L'intelligence artificielle en éducation. https://www.youtube.com/watch?v=ZAtu0xIlcIs

Allouche, E. (2023, janvier 4). Sens et finalités du numérique en éducation - Hors-série : Tests et simulations d'" entretiens " avec ChatGPT (Open AI) [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/7635

Traduction anglaise : https://edunumrech.hypotheses.org/8034

Association for the Advancement of Artificial Intelligence, & Computer Science Teachers Association. (2020). AI4K12. AI4K12. https://ai4k12.org/

Association Française pour l'Intelligence Artificielle (AFIA). (2022, janvier 6). Journée Enseignement et Formation en IA : " IA pour l'enseignement ". AfIA. https://afia.asso.fr/efia-2022/

Bachimont, B. (2014). L'ingénierie des connaissances : Un programme scientifique ? Intellectica, 61(1), 211‑235. https://doi.org/10.3406/intel.2014.1044

Benbouzid, B., & Cardon, D. (2018). Machines à prédire. Réseaux, 211(5), 9‑33. https://doi.org/10.3917/res.211.0009

Bocquet, F. (2020, juillet 9). L'intelligence artificielle de la maternelle à la Terminale : Que devrait savoir chaque enfant sur l'IA ? [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/1970

Boullier, D. (2016). Sociologie du numérique. A. Colin, DL 2016.

Cardon, D., Cointet, J.-P., & Mazieres, A. (2018). La revanche des neurones : L'invention des machines inductives et la controverse de l'intelligence artificielle. Réseaux, 5(211). https://doi.org/10.3917/res.211.0173

Cheng, E. C. K., Koul, R. B., Wang, T., & Yu, X. (Éds.). (2022). Artificial Intelligence in Education : Emerging Technologies, Models and Applications: Proceedings of 2021 2nd International Conference on Artificial Intelligence in Education Technology (Vol. 104). Springer Singapore. https://doi.org/10.1007/978-981-16-7527-0

Chevret-Castellani, C., Labelle, S., & Remond, É. (Éds.). (2022). De la régulation de l'intelligence artificielle dans le domaine éducatif. Communication, technologies et développement, 12.

Cisel, M., & Baron, G.-L. (2019). Utilisation de tableaux de bord numériques pour l'évaluation des compétences scolaires : Une étude de cas. Questions Vives. Recherches en éducation, N° 31, Art. N° 31. https://doi.org/10.4000/questionsvives.3883

CMEPIUS Erasmus+ (Réalisateur). (2022, janvier 13). Wayne Holmes : How can AI support teachers in their teaching? https://www.youtube.com/watch?v=18Ho4AKSdsM

Collin, S., & Marceau, E. (2021). L'intelligence artificielle en éducation : Enjeux de justice. Formation et profession, 29(2), 1. https://doi.org/10.18162/fp.2021.a230

de la Higuera, C., & Bocquet, F. (2020, juillet 9). L'éducation, la formation des enseignants et l'apprentissage de l'intelligence artificielle : Un aperçu des questions clés [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/1973

de la Higuera, C., & DNE-TN2. (2022, janvier 10). Intelligence artificielle et éducation - GTnum #IA_EO : Conférence de Colin de la Higuera [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/3837

DNE-TN2. (2021a, mai 18). IA et éducation : Ressources, pratiques et acteurs - #GTnum #Scol_IA [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/3030

DNE-TN2. (2021b, juin 30). Le deep learning, un tournant épistémologique pour les SHS ?(Huma-Num LAB, 2020) [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/3203

DNE-TN2. (2022, janvier 20). Les enjeux éducatifs à l'ère de l'Intelligence Artificielle : GTnum #Scol_IA - Maison de l'Intelligence artificielle [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/3898

DNE-TN2. (2023, janvier 12). Intelligence artificielle, traitement automatique des langues et agents conversationnels [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/8235

European Commission. Directorate General for Education, Youth, Sport and Culture. (2022). Lignes directrices éthiques sur l'utilisation de l'intelligence artificielle (IA) et des données dans l'enseignement et l'apprentissage à l'intention des éducateurs. Publications Office. https://data.europa.eu/doi/10.2766/153756

Ferri, F. (2020). De la raison graphique à la raison computationnelle : Une brève préhistoire de l'intelligence artificielle. Interfaces numériques, 9(1), Art. 1. https://doi.org/10.25965/interfaces-numeriques.4125

Grand lexique français de l'Intelligence artificielle. (2021). DataFranca Wiki. https://datafranca.org/wiki/Accueil

Holmes, W., Persson, J., Chounta, I.-A., Wasson, B., & Dimitrova, V. (2022). Artificial intelligence and education-A critical view through the lens of human rights, democracy and the rule of law. Council of Europe. https://rm.coe.int/artificial-intelligence-and-education-a-critical-view-through-the-lens/1680a886bd

Inria. (2020). L'Intelligence Artificielle... avec intelligence ! (MOOC). FUN-MOOC. //www.fun-mooc.fr/courses/course-v1:inria+41021+session01/about

Khosravi, H., Shum, S. B., Chen, G., Conati, C., Gasevic, D., Kay, J., Knight, S., Martinez-Maldonado, R., Sadiq, S., & Tsai, Y.-S. (2022). Explainable Artificial Intelligence in education. Computers and Education: Artificial Intelligence, 100074. https://doi.org/10.1016/j.caeai.2022.100074

Le Cun, Y. (2016, février 4). L'apprentissage profond : Une révolution en intelligence artificielle. Collège de France. https://www.college-de-france.fr/agenda/lecon-inaugurale/apprentissage-profond-une-revolution-en-intelligence-artificielle/apprentissage-profond-une-revolution-en-intelligence-artificielle

Le Cun, Y., Brizard, C., & Brizard, C. (2019). Quand la machine apprend : La révolution des neurones artificiels et de l'apprentissage profond. Odile Jacob.

Le Métayer, D. (2020). Séminaire intelligence artificielle-Séance 1 - État de l'art, état des forces. Qu'est-ce que l'intelligence artificielle en 2020 ? (7 octobre 2020). Sciences Po Lyon - Chaire Transformations de l'action publique. https://chaire-actionpublique.fr/seminaire-intelligence-artificielle/

Lettre ÉduNum thématique sur l'intelligence artificielle. (2021). éduscol | Ministère de l'Éducation nationale, de la Jeunesse et des Sports - Direction générale de l'enseignement scolaire. https://eduscol.education.fr/2472/lettres-edunum-thematiques-ressources-et-1er-degre

Romero, M., Aloui, H., Heiser, L., Galindo, L., & Lepage, A. (2021). Un bref parcours sur les ressources, pratiques et acteurs en IA et éducation. https://hal.archives-ouvertes.fr/hal-03190014

Selwyn, N. (2022). The future of AI and education : Some cautionary notes. European Journal of Education. https://doi.org/10.1111/ejed.12532

UNESCO. (2019). Consensus de Beijing sur l'intelligence artificielle et l'éducation. UNESCO Bibliothèque Numérique. https://unesdoc.unesco.org/ark:/48223/pf0000368303

UNICEF. (2021, novembre). Orientations stratégiques sur l'IA destinée aux enfants 2.0. UNICEF. https://www.unicef.org/globalinsight/fr/rapports/orientations-strat%C3%A9giques-sur-lia-destin%C3%A9e-aux-enfants

# data[].attributes.attachment_link.title
État de l'art et de la pratique de l'intelligence artificielle dans l'éducation (Holmes & Tuomi, 2022) [Traduction]

# data[].attributes.attachment_link.description
Résumé Résumé en français Les récents développements de l'intelligence artificielle (IA) ont suscité de grandes attentes quant à l'impact futur de l'IA dans l'éducation et l'apprentissage (IAEd). Ces attentes ont souvent été fondées sur une mauvaise compréhension des possibilités techniques actuelles, un manque de connaissances sur l'état de l'IA dans l'éducation et des visions excessivement ...

# data[].attributes.attachment_link.readable_text
La découverte du potentiel de l'IA par l'accès aux agents conversationnels au grand public, comme et de OpenAI, fait sensation dans le milieu de l'éducation et le déstabilise mondialement.

Les agents conversationnels GPT (Generative Pre-trained Transformer) et les autres systèmes informatiques d'intelligence artificielle d'envergure sont conçus pour comprendre et générer du langage naturel. En terme générique, ce sont des LLM (Large Language Model). Un tel modèle de traitement automatique du langage est capable de générer ou de comprendre du contenu en utilisant des techniques d'apprentissage automatique avancées. Ils sont pré-entraînés sur d'exorbitantes quantités de données par apprentissage pour générer du contenu de manière similaire à un humain.

En fait, ces agents conversationnels ont tendance à donner l'impression de discuter avec un humain, ce qu'ils ne sont pas. Ces agents artificiels intelligents sont différents des algorithmes des moteurs de recherche. Ce sont des entités langagières cognitives non humaines et non vivantes qui se basent sur des probabilités et de statistiques d'enchainement de mots. Ils ne sont pas imputables de leurs réponses. Nous devons apprendre à parler avec cette IA en tenant compte du fait que le texte et les instructions demandées seront traités statistiquement par le LLM pour générer statistiquement un résultat très impressionnant.

Apprendre à communiquer avec l'IA

Bon à savoir

L'agent conversationnel ignore tout de ce que vous ne lui dites pas. Il faut l'entraîner en lui précisant et détaillant de façon cohérente vos requêtes.

La qualité des réponses est directement proportionnelle à la pertinence et la précision des questions et des instructions que vous fournissez dans la boîte de dialogue.

L'agent conversationnel tient compte de l'historique de la série de questions ou des interventions antérieures dans la boîte de dialogue. Ne vous contentez pas d'une réponse.

Chaque boîte de dialogue est indépendante.

Recommandations générales pour mieux communiquer avec l'IA :

Clarifier vos questions
Vos questions ne doivent pas être trop larges et ouvertes. Reformulez et affinez vos questions au fur et à mesure du dialogue. Ne vous contentez pas de la première réponse, mais creusez jusqu'à ce que la réponse soit satisfaisante.

1. Contextualiser vos questions
Vos questions doivent préciser ce dont vous souhaitez que l'agent conversationnel tienne compte. Par exemple, pour un travail collégial ou universitaire / de niveau... / domaine et sous-domaine / enjeux ou concepts à traiter / le format, normes ou mise en forme / autres mots-clés pertinents

2. Demander à l'IA de vous aider à préciser vos questions
L'agent conversationnel peut vous aider et vous conseiller. Considérez l'agent comme un assistant "d'intelligence augmentée" et un outil d'aide à la tâche.

3. Fournir des exemples
Un exemple de résultat attendu basé sur des auteurs, des citations, des théories spécifiques, des oeuvres, des styles... c'est efficace.

L'art du "Prompt"

C'est probablement une nouvelle compétence numérique, la maîtrise de l'art du "prompt" (requête) permet d'apprendre à poser des questions et des instructions à modèle langagier.

Notez que l'image coiffant ce billet a été créée par Geoffroi Garon-Épaule en co-édition avec MidJourney avec la requête (prompt) suivante : "diagram of trust "social system" digital human collaboration"

Pour apprendre à parler à l'IA, consultez les répertoires d'exemples adaptés à vos intentions. Nous vous recommandons :
ChatGPT - Guide de l'enseignant " ce qui marche le mieux "

En suivant ce guide, vous apprendrez à intégrer efficacement ChatGPT dans votre pratique pédagogique et à tirer le meilleur parti de ses capacités. Pour vous aider à démarrer, nous proposons ici des exemples spécifiques alignés sur le guide des " meilleures pratiques " du Centre de statistiques et d'évaluation de l'éducation de l'État de la Nouvelle-Galles-du-Sud en Australie.

Écrit par Andrew Herft Traduit et adapté par Alexandre Gagné

Prompting Explained: How to talk to ChatGPT
par Louis Bouchard, vulgarisateur scientifique IA et candidat au doctorat et chercheur à Mila - Institut québécois d'intelligence artificielle

Awesome ChatGPT Prompts
Une collection d'exemples de "Prompts" à utiliser avec le modèle ChatGPT.

En langage simple

En terminant, notre veille nous a menés vers cette excellente affiche de vulgarisation produite par créativité Québec qui explique comment se servir de cet agent conversationnel.
ChatGPT pour enseignants en langage simple

# data[].attributes.attachment_link.title
Apprendre à parler IA - Collimateur - Veille pédagonumérique - UQAM

# data[].attributes.attachment_link.description
La découverte du potentiel de l'IA par l'accès aux agents conversationnels au grand public, comme et de OpenAI, fait sensation dans le milieu de l'éducation et le déstabilise mondialement. Les agents conversationnels GPT (Generative Pre-trained Transformer) et les autres systèmes informatiques d'intelligence artificielle d'envergure sont conçus pour comprendre et générer du langage naturel.

# data[].attributes.headline
Chat GPT, un outil d’aide pour les tuteurs à distance ?

# data[].attributes.subject
Chat GPT, un outil d’aide pour les tuteurs à distance ?

# data[].attributes.attachment_link.title
Chat GPT, un outil d’aide pour les tuteurs à distance ?

# data[].attributes.attachment_link.description
Introduction Il est bien difficile d’échapper à l’actualité que Chat GPT a suscitée. Néanmoins, pour ceux qui aurait besoin d’en savoir da...

# data[].attributes.attachment_link.title
ChatGPT m’a tout pris - Moi, ce que j'en dis... Yann Marguet

# data[].attributes.attachment_link.title
Lensa : l’IA au service du rien - Le billet de Yann Marguet

# data[].attributes.attachment_link.title
Futurepedia - Find The Best AI Tools & Software

# data[].attributes.attachment_link.description
Futurepedia is a free site to help you find the best AI tools and software to make your work and life more efficient and productive. Updated daily, join millions of followers of our website, newsletter and YouTube.