# data[].attributes.body
Je pêux écri9re des fafaires.é;

# data[].attributes.headline
Usages de l’apprentissage artificiel pour l’éducation: Enjeux et dispositif de régulation (Bouchereau et Roxin, 2022)

# data[].attributes.subject
Usages de l’apprentissage artificiel pour l’éducation: Enjeux et dispositif de régulation (Bouchereau et Roxin, 2022)

# data[].attributes.body
Le développement rapide de l’Intelligence artificielle (IA) dans le domaine éducatif suscite de nombreuses attentes et craintes traduisant un besoin de régulation. L’apprentissage artificiel, à la base des systèmes d’IA, est utilisé afin de personnaliser l’apprentissage et d’automatiser des tâches d’enseignement. Cet article étudie les enjeux de régulation spécifiques à ces usages de l’apprentissage artificiel et montre qu’ils entraînent une encapsulation de connaissances en raison de plusieurs facteurs à la fois techniques et sociaux. Une approche de régulation by design de l’apprentissage artificiel est proposée pour limiter l’encapsulation des connaissances en partant de l’analyse d’un dispositif pédagogique existant.

# data[].attributes.attachment_link.readable_text
2Au-delà des potentiels apports, l'intégration rapide et croissante de l'apprentissage artificiel dans les dispositifs de formation suscite de multiples défis et craintes pointant la nécessité d'une régulation. La régulation de l'apprentissage artificiel par l'éthique fait partie des principales approches discutées, cependant sa mise en application est limitée (Floridi, 2021). Les principes éthiques formulés ont une portée générale et décontextualisée qui ne tient pas compte des spécificités propres à un domaine tel que l'éducation où les enjeux restent encore peu étudiés (Holmes, 2021). De plus, ces principes éthiques présentent un haut degré d'abstraction difficilement conciliable avec la conception pratique de systèmes d'IA sans outil concret pour les implémenter (Morley et al., 2021).

3L'objectif de cet article est d'interroger les enjeux de régulation des usages de l'apprentissage artificiel dans l'éducation et d'explorer une approche de régulation by design. Après un rappel des mécanismes de l'apprentissage artificiel, nous montrons que l'un des enjeux posés est l'encapsulation de connaissances ; enjeu résultant de facteurs techniques, mais aussi sociaux. Dans un second temps, nous proposons une approche de conception de dispositifs pédagogiques permettant de répondre à cet enjeu à partir de l'analyse d'un dispositif existant.

4Le développement de systèmes d'IA pour l'éducation est un champ de recherche à part entière depuis les années 1990, intitulé Artificial Intelligence in Education (AIED), dont les travaux se sont multipliés avec l'essor de l'apprentissage artificiel (Holmes et al., 2019). L'AIED englobe la création de systèmes d'IA visant à soutenir les activités d'apprentissage et d'enseignement ainsi que les fonctions d'administration de ces activités. L'apprentissage artificiel est ainsi utilisé pour le développement de tuteurs intelligents, la recommandation de contenus adaptés, la correction automatique ou encore la détection des difficultés de l'apprenant et son engagement (Holmes et al., 2019).

1 De cela découle les biais (e.g. discriminations, sexismes) que peuvent comporter les modèles ; leur (...)

5Concrètement, l'apprentissage artificiel est un ensemble de méthodes d'apprentissage automatique et d'apprentissage profond mises en œuvre pour concevoir des systèmes d'IA. Il s'agit de construire un modèle qui associe des réponses désirées à des données, en se basant sur un ensemble de données d'entraînement pour lesquelles les réponses sont connues (LeCun, 2019). La construction repose sur un apprentissage statistique : des régularités sont identifiées dans les données afin de minimiser l'erreur entre les réponses du modèle et celles désirées 1. Par exemple, un modèle de prédiction de la performance d'apprenants inscrits à un cours en ligne sera construit à partir de leurs traces d'activités (e.g. visionnage de vidéos, durée de connexion) et de leurs notes (Lee et al., 2021). L'apprentissage consistera à inférer des associations entre certains motifs dans les traces d'activités et les notes des apprenants jusqu'à ce que le modèle prédise un score de performance proche des notes obtenues.

9Ce principe d'explicabilité abrite un autre enjeu que nous appelons l'encapsulation de connaissances. En effet, les modèles prédictifs sont fondés sur une relation données-actions qui tend à transformer les savoirs en connaissances opérationnelles (Boullier, 2015 ; Ouellet, 2021). Ils sont implémentés dans des systèmes d'IA dont l'objectif est de se substituer à l'agentivité humaine pour des tâches spécifiques (e.g. tutorat, évaluation des devoirs). Les connaissances nécessaires à la réalisation des tâches effectuées par les systèmes d'IA sont encapsulées dans les modèles prédictifs de sorte que les individus n'en perçoivent que le produit (e.g. conseils, notes, suggestions). L'encapsulation signifie que les connaissances sont incorporées dans les modèles prédictifs et deviennent, dans le même temps, inaccessibles aux individus. Cela tend à créer une asymétrie en termes de connaissances entre les systèmes d'IA et les individus. Plusieurs facteurs, à la fois techniques et sociaux, expliquent l'encapsulation de connaissances.

10Parmi les facteurs techniques qui expliquent l'encapsulation de connaissances figure la complexité des modèles prédictifs et que la traduction de situations réelles en problèmes de prédiction.

12De plus, une incertitude existe quant à la nature des connaissances finalement encapsulées dans les modèles prédictifs. La traduction d'une situation réelle en un problème solvable via un réseau de neurones créé un décalage entre l'apprentissage visé et l'apprentissage réalisé (Burrell, 2016). Cette traduction signifie reformuler la tâche ciblée en un problème de prédiction, par exemple : évaluer le devoir d'un élève peut se traduire par la prédiction d'une note en fonction du contenu textuel du devoir. Cela réduit le succès d'une tâche à la minimisation de l'erreur entre les prédictions obtenues et celles souhaitées ce qui diffère de la réalité où l'accomplissement d'une tâche dépend d'objectifs multiples, complexes et dynamiques (Lipton, 2018). Après un examen, l'enseignant peut initialement vouloir d'attribuer une note aux devoirs correspondant à la qualité du travail, mais aussi évaluer les progrès de l'élève, identifier les incompréhensions, ajuster son cours, etc.

13L'encapsulation de connaissances est liée à la complexité des modèles et à la traduction des situations réelles en problèmes de prédiction, mais comporte aussi des dimensions sociales.

14Les dimensions sociales de l'encapsulation de connaissances sont liées à l'exploitation de l'apprentissage artificiel par les concepteurs de systèmes d'IA et à leur utilisation par les individus.

15Le développement de systèmes d'IA est le fait majoritairement d'acteurs privés (e.g. Google, Facebook, Tencent) qui investissent massivement dans la recherche afin d'améliorer leurs produits et leurs services. Ces acteurs privés rendent accessibles leurs travaux sur les méthodes d'apprentissage artificiel, en revanche ils protègent les données d'entraînement et les modèles prédictifs qui constituent un enjeu économique et compétitif pour ces acteurs (Holmes et al., 2019). L'absence d'ouverture des modèles prédictifs et des données amplifie l'encapsulation des connaissances en empêchant leur inspection.

16De plus, un certain nombre de systèmes d'IA s'inscrivent dans une approche solutionniste (Morozov, 2014) consistant à transformer des problématiques éducatives (e.g. accompagner l'apprenant) en problèmes de prédiction solvables par l'apprentissage artificiel (e.g. formuler automatiquement un conseil à partir de données). Cela s'accompagne de la promesse que la collecte massive de données puis l'application de l'apprentissage artificiel permettront d'améliorer l'apprentissage, de suivre plus précisément l'apprenant ou encore de faciliter le travail de l'enseignant (Williamson & Eynon, 2020). Cette approche centrée sur la technique met l'accent sur la grande précision des prédictions produites par les modèles au détriment de l'interprétabilité (Burrell, 2016). Or, plus le modèle prédictif est capable de tenir compte de la complexité du réel, moins celui-ci est compréhensible par les humains (Vayre, 2018), ce qui accentue l'encapsulation des connaissances.

17Enfin, la littératie que possèdent les individus sur le fonctionnement des systèmes d'IA joue également un rôle, d'amplification ou de réduction, de l'asymétrie en termes de connaissances entre l'utilisateur et le système technique. Plusieurs études suggèrent que les systèmes d'IA ne sont pas sans effet sur la cognition, à tout le moins chez les enfants, et sont perçus comme des agents sociaux auxquels ils font confiance (Druga, 2018 ; Weidinger et al., 2021). Ces études montrent que l'enseignement des principes de conception des systèmes d'IA amène les enfants à réajuster leurs représentations et à se montrer davantage sceptiques quant à l'intelligence des systèmes d'IA. Cependant, les moyens dont disposent les individus pour s'informer ne permettent pas de saisir complètement le fonctionnement des systèmes d'IA contemporains et leurs enjeux (Bouchereau & Segault, 2021 ; Crépel & Cardon, 2021).

20Selon Ihde (1990), la perception est une clé de compréhension de la relation entre les humains et leur environnement, car elle en est le point de rencontre et influence ce qui peut en être connu. Pour Ihde (1990), les technologies jouent un rôle important dans notre perception en opérant une médiation de la relation humain-environnement et ce, de quatre manières différentes : la corporéité ( embodiment relations), l'herméneutique ( hermeneutic relations), l'altérité ( alterity relations) et l'arrière-plan ( background relations). Dans cet article, nous nous intéressons uniquement aux relations de corporéité et d'herméneutique. La relation de corporéité désigne la médiation de la relation humain-environnement par la technologie lorsqu'elle augmente ou réduit les capacités humaines afin d'amplifier ou de réduire le champ de perception. Quant à la relation d'herméneutique, elle signifie que la technologie médiatise la perception humaine par la production d'une représentation du monde permettant en retour d'étendre ou de réduire les capacités d'interprétation de l'humain. Nous verrons que ces deux relations peuvent servir de guide pour élaborer un cadre de conception intégrant une régulation by design de l'encapsulation de connaissances.

2 Les grandeurs photométriques que sont le flux lumineux, l'éclairement et l'intensité lumineuse sont (...)

21Dans le cadre de précédents travaux (Bouchereau & Roxin, 2020), nous avons développé des dispositifs pédagogiques fondés sur des objets connectés dédiés à l'apprentissage des grandeurs photométriques 2. Ces dispositifs exploitent les capteurs d'objets connectés afin de rendre visibles des phénomènes physiques, liés à la lumière, inaccessibles aux sens humains et rendre ainsi intelligibles les notions abstraites que sont les grandeurs photométriques. Cette utilisation rejoint la relation de corporéité décrite par Ihde (1990) au sens où l'objectif des dispositifs d'apprentissage était d'amplifier la perception des apprenants afin qu'ils distinguent certains aspects intangibles de la lumière afin de faciliter le processus de construction de connaissances.

Figure . Application mobile sur les grandeurs photométriques et leur lien avec les ampoules

3 Le modèle prédictif utilisé permet d'extraire du texte présent dans des images et est fourni par la (...)

22Les dispositifs que nous avons développés ont été conçus pour favoriser un apprentissage par l'expérimentation où l'apprenant est face à une situation-problème qu'il doit résoudre en menant des observations, formulant des hypothèses et en expérimentant (Dehaene, 2018). L'un des dispositifs portait sur la distinction entre différentes grandeurs photométriques et leur lien avec l'éclairage produit par une ampoule. Pour ce dispositif, une application mobile a été développée avec laquelle l'apprenant pouvait prendre en photo une ampoule, ou son emballage, puis l'analyser via un modèle de vision artificiel afin d'obtenir des informations contextuelles (voir Figure 1.) 3.

23Malgré la simplicité de cette application pédagogique, il nous semble que plusieurs enseignements intéressants peuvent en être dégagés concernant l'enjeu d'encapsulation de connaissances. L'apprentissage artificiel est employé comme un outil pour analyser des données (photos), en extraire d'autres (textes) puis apporter de nouvelles informations à l'apprenant. L'apprentissage artificiel n'est pas exploité pour traiter une problématique éducative, mais en tant que solution technique (l'extraction de textes d'une image) au service d'objectifs pédagogiques plus larges (la compréhension des grandeurs photométriques). Cela se déroule dans un cadre contrôlé où les informations obtenues par le biais de l'apprentissage artificiel sont rapportées à des concepts précis et clairement identifiés, en lien avec les objectifs pédagogiques du dispositif.

24Dans le cadre de ce dispositif, l'encapsulation de connaissances est limitée par l'utilisation de l'apprentissage artificiel selon une relation de corporéité. Les informations extraites des données visuelles via l'apprentissage artificiel sont partagées avec l'apprenant afin d'étendre sa perception et l'aider à comprendre ce qu'il observe.

25À partir de ce cas d'utilisation de l'apprentissage artificiel, il est possible d'esquisser les contours d'une approche de régulation by design permettant de limiter l'encapsulation de connaissances. Cette approche de régulation vise à concevoir des dispositifs de formation et à implémenter l'apprentissage artificiel en respectant la relation de corporéité, comme cela vient d'être montré, ainsi que la relation herméneutique.

26Dans le cadre d'un dispositif soutenant un apprentissage par l'expérimentation, l'approche consisterait en l'exploitation de l'apprentissage artificiel pour la conception d'outils d'aide à l'interprétation de situations-problèmes. D'une part, selon la relation de corporéité, l'aide à l'interprétation serait apportée en exploitant l'apprentissage artificiel pour analyser des données visuelles, sonores ou textuelles et en extraire des informations contextuelles pour l'apprenant. D'autre part, suivant la relation herméneutique, l'apprentissage serait utilisé pour analyser des données afin d'en extraire des régularités statistiques et produire des représentations utiles au problème que traite l'apprenant. Dans tous les cas, il s'agirait de présenter les prédictions produites par les modèles prédictifs sous la forme d'informations complémentaires destinées à aider l'apprenant dans le cadre d'activités de résolution de problèmes.

28Certaines applications de l'apprentissage artificiel, dans d'autres domaines comme la recherche médicale, encouragent à s'orienter vers cette approche. Dans leur revue de la littérature, Butow et Hoque (2020) rapportent plusieurs cas où l'apprentissage artificiel a apporté des informations utiles sur la relation complexe entre le médecin et le patient. L'analyse des données relatives à cette relation a, par exemple, mis en évidence des corrélations inattendues et a permis de nouvelles représentations des données aidant ainsi les chercheurs à les interpréter. Cette approche dont nous avons défini les principes traite la dimension sociale de l'encapsulation de connaissances, en proposant une alternative à l'utilisation de l'apprentissage artificiel centré sur la technique plutôt que sur l'apprenant.

# data[].attributes.attachment_link.title
Usages de l'apprentissage artificiel pour l'éducation

# data[].attributes.attachment_link.description
El rápido desarrollo de la Inteligencia Artificial (IA) en el ámbito de la educación suscita muchas expectativas y temores, lo que refleja la necesidad de regulación. El aprendizaje artificial, base de los sistemas de IA, se utiliza para personalizar el aprendizaje y automatizar las tareas de enseñanza.

# data[].attributes.headline
Un bref parcours sur les ressources, pratiques et acteurs en IA et éducation

# data[].attributes.subject
Un bref parcours sur les ressources, pratiques et acteurs en IA et éducation

# data[].attributes.headline
Et si on parlait (encore) de ChatGPT (Paquette, 2023)

# data[].attributes.subject
Et si on parlait (encore) de ChatGPT (Paquette, 2023)

# data[].attributes.headline
4e révolution industrielle et éducation des adultes: l'émergence d'une nouvelle ingénierie de l'éducation des adultes (2019)

# data[].attributes.subject
4e révolution industrielle et éducation des adultes: l'émergence d'une nouvelle ingénierie de l'éducation des adultes (2019)

# data[].attributes.headline
Pour une éducation aux hypertrucages malveillants et un développement de l’agentivité dans les contextes numériques (Naffi et collègues, 2021)

# data[].attributes.subject
Pour une éducation aux hypertrucages malveillants et un développement de l’agentivité dans les contextes numériques (Naffi et collègues, 2021)

# data[].attributes.body
La désinformation en ligne n’est pas en perte de vitesse. Le terme infocalypse a d’ailleurs été inventé par Schick (2020) pour décrire la gravité de la désinformation sous forme d’hypertrucages malveillants (deepfakes) qui obscurcissent ce qui était auparavant considéré comme authentique. Cet article de réflexion circonscrit la complexité du phénomène des deepfakes afin de mettre en relief le besoin urgent de mener des recherches qui interpellent directement les acteurs et les actrices du monde de l’éducation. Sous la lentille de l’éducation à la citoyenneté, nous argumentons que le personnel enseignant, les parents ainsi que les actrices et les acteurs éducatifs doivent accompagner les jeunes dans le développement de l’esprit critique, de l’agentivité dans le contexte numérique et du discernement à l’égard des hypertrucages malveillants afin qu’ils puissent se protéger et contrer ce phénomène. Pour répondre à la question « Pourquoi éduquer les jeunes aux hypertrucages malveillants? », nous avons commencé par circonscrire ce phénomène et ses dangers dans un contexte de désinformation. Dans un premier temps, cet article expose la façon dont les deepfakes ébranlent les bases perceptuelles liées à la connaissance humaine et discute de leur menace pour nos sociétés. Deuxièmement, il présente des pistes envisagées et attire l’attention sur l’urgence de sensibiliser les jeunes à ces dangers et de les impliquer pour contrer cette forme de désinformation. Finalement, l’article propose des pistes de recherche à explorer en citoyenneté numérique.

# data[].attributes.attachment_link.readable_text
Résumés

Résumé

La désinformation en ligne n'est pas en perte de vitesse. Le terme infocalypse a d'ailleurs été inventé par Schick (2020) pour décrire la gravité de la désinformation sous forme d'hypertrucages malveillants ( deepfakes) qui obscurcissent ce qui était auparavant considéré comme authentique. Cet article de réflexion circonscrit la complexité du phénomène des deepfakes afin de mettre en relief le besoin urgent de mener des recherches qui interpellent directement les acteurs et les actrices du monde de l'éducation. Sous la lentille de l'éducation à la citoyenneté, nous argumentons que le personnel enseignant, les parents ainsi que les actrices et les acteurs éducatifs doivent accompagner les jeunes dans le développement de l'esprit critique, de l'agentivité dans le contexte numérique et du discernement à l'égard des hypertrucages malveillants afin qu'ils puissent se protéger et contrer ce phénomène. Pour répondre à la question " Pourquoi éduquer les jeunes aux hypertrucages malveillants? ", nous avons commencé par circonscrire ce phénomène et ses dangers dans un contexte de désinformation. Dans un premier temps, cet article expose la façon dont les deepfakes ébranlent les bases perceptuelles liées à la connaissance humaine et discute de leur menace pour nos sociétés. Deuxièmement, il présente des pistes envisagées et attire l'attention sur l'urgence de sensibiliser les jeunes à ces dangers et de les impliquer pour contrer cette forme de désinformation. Finalement, l'article propose des pistes de recherche à explorer en citoyenneté numérique.

Abstract

Online disinformation is not on the decline. The term infocalypse was actually coined by Schick (2020) to describe the seriousness of disinformation in the form ofmalicious deepfakes, which obscure what was previously considered authentic. This reflective article explores the complexity of the deepfake phenomenon to emphasize the urgent need for research that directly addresses educators and decision-makers. Under the lens of citizenship education, we argue that teachers, parents and educational actors must support students in developing critical thinking, agency in the digital environment and the ability to recognize deepfakes so that they can protect themselves and counteract this phenomenon. To answer the question "Why educate young people on malicious deepfakes?" we started by exploring this phenomenon and its dangers in the context of disinformation. First, this article exposes how deepfakes destabilize the perceptual foundations of human knowledge and discusses their threat to our societies. Secondly, it presents avenues considered and draws attention to the urgency of alerting young people to these dangers and involving them in counteracting this form of disinformation. Lastly, the article offers avenues for research in digital citizenship.

Resumen

La desinformación en línea no ha disminuido. El término info-calipsis fue inventado por Shick (2020) para describir la gravedad de la desinformación bajo la forma de hiper-argucias malintencionadas (deepfakes) que oscurecen lo que antes era considerado como auténtico. La presente reflexión circunscribe la complejidad del fenómeno de deepfakes con el fin de subrayar la urgente necesidad de realizar investigaciones que interpelen directamente a los actores y actrices del mundo de la educación. Desde la óptica de la educación a la ciudadanía, proponemos que el personal docente, los padres de familia y los actores y actrices del magisterio deben acompañar a los jóvenes en el desarrollo de un espíritu crítico, de la agentividad en el contexto numérico y del discernimiento frente a los hiper-argucias malintencionadas para que pueden protegerse y hacer frente a este fenómeno. Para dar respuesta a la cuestión "¿Por qué educar a los jóvenes a los hiper-argucias malintencionadas?" comenzamos por circunscribir dicho fenómeno y sus peligros en un contexto de desinformación. Por principio, este artículo expone la manera en que los deepfakes socavan las bases perceptivas ligadas al conocimiento humano y examina los peligros que corren nuestras sociedades. Después, presenta las opciones exploradas y señala a la atención lo urgente que es sensibilizar a los jóvenes a estas amenazas e implicarlos para hacer frente a esta forma de desinformación. Finalmente, el artículo propone lineas de investigación por explorar en el terreno de la ciudadanía digital.

Parties annexes

Bibliographie

1. Bandura, A. (2006). Toward a psychology of human agency. Perspectives on Psychological Science, 1(2), 164-180. https://doi.org/10.1111/j.1745-6916.2006.00011.x

2. Hasan, H.R. et Salah, K. (2019). Combating deepfake videos using blockchain and smart contracts. IEEE Access, 7, 41596-41606. https://doi.org/10.1109/ACCESS.2019.2905689

3. Lee, Y., Huang, K.T., Blom, R., Schriner, R. et Ciccarelli, C.A. (2021). To believe or not to believe: Framing analysis of content and audience response of top 10 deepfake videos on YouTube. Cyberpsychology, Behavior and Social Networking, 24(3), 153-158. https://doi.org/10.1089/cyber.2020.0176

# data[].attributes.attachment_link.title
Pour une éducation aux hypertrucages malveillants et un développement de l'agentivité dans les contextes numériques - Éducation et francophonie

# data[].attributes.attachment_link.description
Notice. Pour une éducation aux hypertrucages malveillants et un développement de l'agentivité dans les contextes numériques. Un article de la revue Éducation et francophonie (La complexité de l'éducation à la citoyenneté numérique : des enjeux sociétaux, éducatifs et politiques) diffusée par la plateforme Érudit.

# data[].attributes.headline
Intelligence artificielle et pensée humaine (Romero, 2018)

# data[].attributes.subject
Intelligence artificielle et pensée humaine (Romero, 2018)

# data[].attributes.body
Parler encore d'intelligence artificielle ? Au milieu de tout le bruit médiatique sur ce sujet une chercheuse en sciences de l'éducation, Margarida Romero, va répondre à une question rarement posée et jamais analysée de façon aussi profonde à notre connaissance : comment éduquer nos concitoyen.ne.s dans un monde où l'« intelligence artificielle » devient omniprésente ?

# data[].attributes.attachment_link.readable_text
Margarida Romero

Parler encore d'intelligence artificielle ? Au milieu de tout le bruit médiatique sur ce sujet une chercheuse en sciences de l'éducation, Margarida Romero, va répondre à une question rarement posée et jamais analysée de façon aussi profonde à notre connaissance : comment éduquer nos concitoyen.ne.s dans un monde où l'" intelligence artificielle " devient omniprésente ?
Comme toute nouvelle technologie, l'intelligence artificielle fait l'objet à la fois d'espoirs et de peurs et ce qu'elle recouvre aujourd'hui présente de grands enjeux (Villani et al., 2018). Elle pose aussi des questions profondes sur notre propre humanité. La machine dépassera-t-elle l'intelligence des humains qui l'ont conçu ? Quel sera le rapport entre ce qu'on appelle des intelligences artificielles et nos intelligences humaines ?

Dans un ouvrage récent, Jean-Gabriel Ganascia (2017) répond à la première question : il montre très simplement que se développe une intelligence algorithmique dite artificielle (il parle d'" intelligence artificielle technique "), dont les performances font que notre société est effectivement bouleversée, car nous vivons au temps des algorithmes (Dowek et Abiteboul, 2017). Cependant l'idée d'une intelligence artificielle forte qui dépasserait l'intelligence des humains n'est pas une idée vraie ou fausse, c'est une croyance car elle n'est pas étayée par des arguments scientifiques. Il se trouve qu'il est de l'intérêt de ceux qui dominent le marché du numérique de nous le faire croire et de médias en quête d'audience de relayer cette croyance.

Pensée critique et créativité

Alors, avant de s'inquiéter de nos compétences face à ce monde présupposé d'intelligences artificielles - disons, IA pour désigner cette croyance, nous nommerons autrement les éléments scientifiques établis -, nous devons aiguiser nos compétences humaines clés : la pensée critique et la créativité. Tout d'abord, si nous faisons preuve de pensée critique, il faudrait commencer par nous questionner sur l'expression IA. Est-ce que le terme d'intelligence est pertinent pour désigner des applications informatiques basées notamment sur l'apprentissage machine ( machine learning) ? Ces algorithmes ont pour objectif de développer des systèmes capables de capter, de traiter et de réagir face à des informations (massives) selon des mécanismes qui s'adaptent au contexte ou aux données pour maximiser les chances d'atteindre les objectifs définis pour le système. Ce comportement qui peut paraître "intelligent" a été créé par des humains et présente des limites liées d'une part à la capacité humaine actuelle de définir des systèmes d'apprentissage machine efficaces, et d'autre part à la disponibilité de données massives pour que les systèmes s'adaptent. Le constat est que ces systèmes sont plus performants que des humains sur des tâches bien spécifiques comme la reconnaissance de sons, d'images ou encore, récemment, des tests de lecture comme le Stanford Question Answering Data Set [1]. Avoir un meilleur test de lecture, signifie-t-il être capable de comprendre, dans un sens humain et intelligent, le texte lu ? La capacité statistique à identifier des réponses peut paraître intelligente, mais rien ne prouve que ce soit dans le sens critique et créatif des humains.

Compétences du 21e siècle @margaridaromero.

Que doit-on apprendre aujourd'hui ? Les compétences du 21e siècle [2] tiennent compte de l'omniprésence du numérique et du besoin de renforcer le développement humain tant du point de vue des attitudes (tolérance à l'ambiguïté, tolérance à l'erreur et prise de risque), que du rapport au savoir et aux technologies.

Lorsque dans les années 1950 Turing propose un test basé sur une confrontation purement langagière entre un humain et un autre agent, qui pourrait être une machine ou un autre humain, il ne cible pas l'intelligence de la machine, mais l'intelligence que nous pourrions lui attribuer. Si l'humain juge qu'il est en train d'interagir avec un agent humain et non une machine, le test d'intelligence artificielle est considéré comme réussi. Et peut-on se contenter d'une bonne capacité de réponse à une conversation humaine pour considérer qu'une machine est intelligente ?

Définir l'intelligence humaine

Si nous considérons l'intelligence comme la capacité d'apprendre (Beckmann, 2006) et l'apprentissage comme l'adaptation au contexte (Piaget, 1953), il serait possible de considérer les systèmes capables d'améliorer leur adaptation au contexte à partir de la collecte et le traitement de données comme étant intelligents. Cependant, si nous considérons l'intelligence comme la " capacité à résoudre des problèmes ou à créer des solutions qui ont une valeur dans un contexte socioculturel donné " (Gardner et Hatch, 1989, p. 5), sous une approche diversifiée et dynamique, il est plus difficile de considérer qu'un système, si adaptatif et si massivement nourri aux données soit-il, puisse porter un jugement métacognitif sur son processus et ses produits en lien à un contexte socioculturel donné. La définition d'intelligence humaine de Gardner et Hatch se rapproche fortement de celle de la créativité comme processus de conception d'une solution jugée nouvelle, innovante et pertinente en lien au contexte précis de la situation-problème (Romero, Lille et Patino, 2017). L'intelligence n'est pas donc la capacité à performer selon des règles préétablies ou prédictibles (y compris avec des mécanismes d'adaptation ou d'apprentissage machine sur des données), mais plutôt l'aptitude à créer du nouveau en démontrant une faculté de sensibilité et d'adaptation au contexte socio-culturel et l'empathie sur le plan intra et inter-psychologique aux différents acteurs. Ceci implique de comprendre la nature humaine et socio-historique pour être en mesure de porter un jugement sur son propre processus et création, de manière autonome.

Si nous adoptons cette deuxième approche critique et créative de l'intelligence, nous devrions être prudents sur l'usage du terme IA pour des solutions qui " se limitent " à s'adapter selon des mécanismes préétablis qui ne peuvent pas engendrer de jugement auto-réflexif de valeur, ni de perspective socio-culturelle. Les systèmes d'apprentissage machine qui sont étiquetés d'IA peuvent être très performants en base à des modèles très élaborés nourris avec des données massives, mais ils ne sont pas "intelligents" à la manière critique et créative des humains. Ainsi, mon téléphone peut apprendre à reconnaître les mots que je dicte vocalement, même si j'ai un accent qu'il va inférer d'autant plus que j'utilise le système. Mais pour autant, lui attribuer une vraie intelligence face à ma dictée vocale, relève d'une projection subjective, c'est à dire d'une croyance.

Développer l'esprit critique

Nous pouvons également questionner " l'intelligence de l'IA " en lien avec la pensée critique qui caractérise l'intelligence humaine. Dans le cadre du projet #CoCreaTIC [3], nous définissons la pensée critique comme la capacité de développer une réflexion critique indépendante, qui permet l'analyse des idées, des connaissances et des processus en lien avec un système de valeurs et de jugements propres. C'est une pensée responsable qui s'appuie sur des critères et qui est sensible au contexte et aux autres. En revanche, si nous pensons aux systèmes d'apprentissages algorithmiques, et les résultats politiquement incorrects qu'ils ont produits face à des images et des réponses textuelles pouvant être cataloguées comme discriminatoires [4], nous ne devons ni redouter, ni condamner, ni accepter ce résultat, car il n'a aucune valeur morale. L'explication la plus probable est que en " apprenant " des données issus d'humains, le mécanisme met en avant des éléments racistes et sexistes, il n'y a pas de système de valeurs propre. Ici, cette soi-disant IA ne dispose pas de pensée responsable, mais exacerbe certaines dérives que l'humain est capable de produire mais aussi de limiter et de corriger par ses critères et sa sensibilité aux autres.

Voici ici une tentative de définition de l'esprit critique, elle même critique, proposée par l'éducation nationale, y compris sous forme de ressource éducative :

Une tentative de définition de l'esprit critique.

Dans le #RapportVillani [5], la pensée critique est évoquée face à ces technologies tant sur les aspects éthiques qu'en lien avec le besoin de développer " l'esprit critique " dans l'éducation sur ces sujets. D'autre part, le rapport souligne l'importance de la créativité dans l'éducation comme une manière de préparer les citoyens aux défis de ce qui est rendu possible avec ces algorithmes. L'éducation au fondement du numérique, notamment dans des approches critiques, créatives et participatives, peut permettre également de développer un rapport à l'informatique qui permette aux citoyen.ne.s de démystifier l'IA, de développer une exigence éthique, et d'adopter une attitude éclairée (acceptation ou non, de ce qui sera utilisé au niveau de leurs activités personnelles, sociales ou professionnelles). Pour ces raisons, le développement de la compétence de pensée informatique est également un atout qui vient compléter les besoins de développement de la pensée critique et créative face au numérique.

Le levier de la pensée informatique

En 2006, Jeannette Wing nomme " pensée informatique " (computational thinking) la capacité d'utiliser les processus informatiques pour résoudre des problèmes dans n'importe quel domaine. La pensée informatique [6] est présentée par Jeannette Wing comme un ensemble d'attitudes et de connaissances universellement applicables, au delà de l'usage des machines. Pour la développer, les apprenant·e·s (dès la maternelle, et à tous âges) peuvent combiner l'apprentissage des concepts et des processus informatiques qui font l'objet de la " littératie numérique " (objet, attribut, méthode, patron de conception, etc.) et une démarche de résolution de problèmes créative faisant appel aux concepts et aux processus informatiques (Romero, Lepage et Lille, 2017). Des projets comme Class'Code [7] en France ou CoCreaTic [8] au Québec ont développé des ressources et une communauté pour soutenir cette approche dans laquelle il ne s'agit pas d'apprendre "le codage" (au sens de coder avec un langage informatique) pas à pas, mais de résoudre des problèmes de manière créative et sensible au contexte du problème. En d'autres termes, dépasser le codage permet de s'ancrer dans une démarche plus large de programmation créative. Celle ci engage les apprenants, car c'est un processus critique et créatif de résolution de problèmes qui fait appel aux concepts et aux processus informatiques. Il ne s'agit pas de coder pour coder, ou d'écrire des lignes de code les unes après les autres, mais de développer une approche de résolution de problèmes complexes qui engage dans une analyse réflexive et empathique de la situation, de sa représentation et de l'opérationnalisation d'une solution qui profite des stratégies métacognitives liées à la pensée informatique.

Illustration de la pensée informatique. ©Cointe pour Interstices

Le développement d'une approche critique et créative du numérique par le biais de la pensée informatique, permet aux apprenant.e.s d'aller au delà d'une posture d'utilisateurs qui pourrait percevoir l'IA comme une boîte noire plein de mystères, de dangers ou d'espoirs illimités. La compréhension des enjeux d'analyse de problèmes en lien à des situations-problèmes ancrés dans des contextes socio-culturels précis (par exemple, les enjeux migratoires) est une manière de voir l'informatique comme à la fois une science et une technologie qui vont permettre, à partir des limites et contraintes de nos modélisations d'un problème, de tenter de donner des réponses qui vont se nourrir de données de plus en plus massives, sans pour autant, pouvoir être considérées comme pertinentes ou de valeur sans l'engagement du jugement humain.

Pour une éducation qui permette de vivre à l'ère numérique

Comme le signale le le #RapportVillani [9], nous avons besoin face à l'émergence de l'IA d'une éducation plus critique et créative, mais aussi, d'une approche plus orientée vers la pensée informatique de la culture numérique afin que les citoyen.ne.s (petits et grands) puissent comprendre le facteur humain dans la modélisation et la création des systèmes artificiels, le fonctionnement basique des algorithmes et de l'apprentissage machine ou encore les limites de l'IA face au jugement nécessaire pour considérer la valeur des solutions produites par les algorithmes. Pour une citoyenneté éclairée à l'ère du numérique, nous avons besoin de continuer à aiguiser notre pensée critique, créative, de résolution collaborative de problèmes tout en ajoutant une nouvelle corde à notre arc : le développement de la pensée informatique.

Margarida Romero,
Directrice du laboratoire LINE de l'ESPE de Nice à l'Université Côte d'Azur.
https://margaridaromero.wordpress.com/
https://twitter.com/margaridaromero

Paru sur binaire le 14 mai 2018.

Cet article est sous licence Creative Commons (selon la juridiction française = Paternité - Pas de Modification). http://creativecommons.org/licenses/by-nd/2.0/fr/
Pour en savoir plus :
- Vers une théorie de l'intelligence
http://binaire.blog.lemonde.fr/2016/06/03/vers-une-theorie-de-lintelligence/

- Enjeux et histoire de l'intelligence-artificielle
http://binaire.blog.lemonde.fr/2017/04/12/enjeux-et-histoire-de-lintelligence-artificielle/

- Se former et s'orienter à l'ère de l'intelligence artificielle
http://www.letudiant.fr/educpros/evenements-educpros/se-former-et-s-orienter-a-l-ere-de-l-intelligence-artificielle-quels-apports-du-numerique-dans-l-education-et-la-formation-tout-au-long-de-la-vie.html

Références

Beckmann, J. F. (2006). Superiority : Always and everywhere ? On some misconceptions in the validation of dynamic testing. Educational and Child Psychology, 23(3), 35.

Dowek G. & Abiteboul S. (2017). Le temps des algorithmes. Éditions du Pommier.

Ganascia, J.-G. (2017). Le Mythe de la Singularité. Faut-il craindre l'intelligence artificielle ? Sciences ouvertes. Éditions du seuil.

Gardner, H. & Hatch, T. (1989). Educational implications of the theory of multiple intelligences. Educational researcher, 18(8), 4-10.

Piaget, J. (1953). The origin of intelligence in the child. Routledge and Kegan Paul.

Romero, M., Lepage, A. & Lille, B. (2017). Computational thinking development through creative programming in higher education. International Journal of Educational Technology in Higher Education, 14(1), 42.

Romero, M., Lille, B. & Patiño, A. (2017). Usages créatifs du numérique pour l'apprentissage au XXIe siècle. PUQ.

Simonet, G. (2010). The concept of adaptation : interdisciplinary scope and involvement in climate change. SAPI EN. S. Surveys and Perspectives Integrating Environment and Society, (3.1).

Villani, C., Schoenauer, M., Bonnet, Y., Berthet, C., Cornut, A.-C., Levin, F., Rondepierre, Y. (2018). Donner un sens à l'intelligence artificielle, rapport de mission parlementaire du 8 septembre 2017 au 8 mars 2018.
https://www.aiforhumanity.fr
NOTES
[1] https://www.blogdumoderateur.com/ia-lecture-squad/

[2] https://en.wikipedia.org/wiki/21st_century_skills

[3] http://lel.crires.ulaval.ca/public/guidev1._guide_dactivites_technocreatives-romero-vallerand-2016.pdf#page=26

[4] https://lifehacker.com/what-makes-an-artificial-intelligence-racist-and-sexist-1796990621

[5] https://www.aiforhumanity.fr/pdfs/9782111457089_Rapport_Villani_accessible.pdf

[6] https://interstices.info/jcms/c_43267/la-pensee-informatique

[7] https://classcode.fr/

[8] http://fr.cocreatic.net/

[9] https://www.aiforhumanity.fr/pdfs/9782111457089_Rapport_Villani_accessible.pdf

# data[].attributes.attachment_link.title
Intelligence artificielle et pensée humaine

# data[].attributes.attachment_link.description
Margarida Romero Parler encore d'intelligence artificielle ? Au milieu de tout le bruit médiatique sur ce sujet une chercheuse en sciences de l'éducation, Margarida Romero, va répondre à une question rarement posée et jamais analysée de façon aussi profonde à notre connaissance : comment éduquer nos concitoyen.ne.s dans un monde où l'" intelligence artificielle " devient omniprésente ?

# data[].attributes.headline
Comment former à l’éthique de l’intelligence artificielle? Une approche pragmatiste de la compétence éthique (Sabourin Laflamme et Bruneault, 2022)

# data[].attributes.subject
Comment former à l’éthique de l’intelligence artificielle? Une approche pragmatiste de la compétence éthique (Sabourin Laflamme et Bruneault, 2022)

# data[].attributes.body
Les systèmes d’intelligence artificielle (SIA) font de plus en plus partie intégrante de nos différentes sphères d’activités, qu’on pense par exemple aux algorithmes de recommandation qui génèrent le contenu présenté dans notre fil d’actualité sur les réseaux sociaux, aux assistants vocaux, aux voitures autonomes, aux méthodes de dépistage de certains cancers, aux robots conversationnels utilisés à des fins de tutorat ou à l’identification des personnes étudiantes à risque d’échec ou d’abandon. Bien que cette technologie soit prometteuse à plusieurs égards, les nombreuses recherches qui ont été consacrées à la question au cours de la dernière décennie (Tsamados, 2021 ; Bruneault et Sabourin Laflamme, 2021) ont permis d’identifier plusieurs enjeux éthiques et sociaux associés à son utilisation, tels que les risques de biais, de discrimination algorithmique ou de violation du droit à la vie privée. Ces enjeux concernent à la fois les personnes qui conçoivent les algorithmes, les entreprises qui les utilisent, les usagers et les personnes qui travaillent dans les secteurs d’activité transformés par l’utilisation des SIA. Compte tenu de l’automatisation des pratiques professionnelles qui est prévue au cours des prochaines années (Conseil interprofessionnel du Québec, 2021), la plupart des personnes qui reçoivent un diplôme d'un collège québécois seront éventuellement confrontées à ces enjeux, que ce soit dans le cadre de leur travail, de leur parcours scolaire, de leurs activités citoyennes ou de leur vie personnelle.

# data[].attributes.attachment_link.title
Comment former à l'éthique de l'intelligence artificielle ? une approche pragmatiste de la compétence éthique

# data[].attributes.attachment_link.description
"Les systèmes d'intelligence artificielle (SIA) font de plus en plus partie intégrante de nos différentes sphères d'activités, qu'on pense par exemple aux algorithmes de recommandation qui génèrent le contenu présenté dans notre fil d'actualité sur les réseaux sociaux, aux assistants vocaux, aux voitures autonomes, aux méthodes de dépistage de certains cancers, aux robots conversationnels utilisés à des fins de tutorat ou à l'identification des personnes étudiantes à risque d'échec ou d'abandon.

# data[].attributes.headline
Enjeux éthiques et critiques de l’intelligence artificielle en enseignement supérieur (Collin et Marceau, 2023)

# data[].attributes.subject
Enjeux éthiques et critiques de l’intelligence artificielle en enseignement supérieur (Collin et Marceau, 2023)

# data[].attributes.body
Nous commençons par décrire brièvement l’état de l’IA en enseignement supérieur. Ce tour d’horizon nous permet ensuite de définir ce qu’est un enjeu éthique et critique afin de mieux poser les fondements de notre démarche. Puis, nous cernons quelques enjeux éthiques et critiques de l’IA en enseignement supérieur, en les regroupant sous trois pôles : la conception, les données et l’usage. Ce découpage facilite à la fois la compréhension des enjeux spécifiques à chacun de ces pôles, tout en permettant de mieux attribuer les rôles et responsabilités aux divers acteurs et actrices impliqués. Dans cette optique, nous relèverons en terminant quelques pistes de solution, tout en soulignant leurs limites.

# data[].attributes.attachment_link.readable_text
Les auteurs tiennent à remercier les FRQ Regroupements stratégiques pour le financement accordé à Mme Marceau en lien avec la thématique " Justice et changements ", accordé au Centre de droit public (CRDP) de l'Université de Montréal. Grâce à ce financement, Mme Marceau a pu bénéficier du temps nécessaire à la rédaction de cet article.

1L'éthique de l'intelligence artificielle (IA) suscite un intérêt grandissant, tel qu'en témoignent les divers regroupements scientifiques et projets de recherche mis en œuvre au Québec (voir notamment l'Observatoire international sur les impacts sociétaux de l'IA et du numérique 1 et Algora Lab 2). Dans le domaine de l'enseignement supérieur 3, les enjeux éthiques et critiques que soulève l'IA demeurent toutefois peu documentés (Zawacki-Richter et al., 2019). Ce constat vaut pour le domaine de l'éducation dans son ensemble (Krutka, Smits et Willhelm, 2021), où la littérature scientifique met plutôt l'accent sur les applications possibles de l'IA en vue d'améliorer l'enseignement, l'apprentissage ou encore la gestion des services éducatifs.

2Afin de contribuer à une meilleure prise en charge de cette thématique par les sciences de l'éducation, nous proposons une perspective interdisciplinaire qui allie essentiellement deux domaines d'étude auxquels nous sommes affiliés, soit l'éthique, d'une part, et les technologies en éducation, d'autre part. Cette perspective interdisciplinaire nous semble doublement pertinente. Elle permet de doter l'étude des technologies en éducation de fondements théoriques et pratiques issus de l'éthique. Elle permet aussi d'outiller la réflexion éthique avec des cadres d'analyses issus des technologies en éducation, sans lesquels il serait difficile de saisir les dimensions éthiques propres à l'IA en enseignement supérieur. Nous avons récemment éprouvé cette approche interdisciplinaire lors de la rédaction d'une brève chronique intitulée L'intelligence artificielle en éducation : enjeux de justice (Collin et Marceau, 2021). Forts de cette collaboration, nous souhaitons approfondir cette réflexion préliminaire dans le cadre de cet article.

3Pour ce faire, nous commençons par décrire brièvement l'état de l'IA en enseignement supérieur. Ce tour d'horizon nous permet ensuite de définir ce qu'est un enjeu éthique et critique afin de mieux poser les fondements de notre démarche. Puis, nous cernons quelques enjeux éthiques et critiques de l'IA en enseignement supérieur, en les regroupant sous trois pôles : la conception, les données et l'usage. Ce découpage facilite à la fois la compréhension des enjeux spécifiques à chacun de ces pôles, tout en permettant de mieux attribuer les rôles et responsabilités aux divers acteurs et actrices impliqués. Dans cette optique, nous relèverons en terminant quelques pistes de solution, tout en soulignant leurs limites.

4La Déclaration de Montréal pour un développement responsable de l'IA responsable (2018) définit l'IA comme " l'ensemble des techniques qui permettent à une machine de simuler l'intelligence humaine, notamment pour apprendre, prédire, prendre des décisions et percevoir le monde environnant " (Abrassart et al., 2018 : 19). Programmer un système d'intelligence artificielle (SIA) pour simuler l'intelligence humaine peut s'avérer compliqué, même lorsque la tâche visée semble relativement simple (p. ex., reconnaître visuellement un objet). Pour surmonter ce problème, un système d'intelligence artificielle (SIA) peut faire intervenir l'apprentissage machine, une branche de l'IA dans laquelle un algorithme est programmé pour apprendre par lui-même comment effectuer une tâche, plutôt que d'être programmé pour effectuer ladite tâche (LeCun, 2016). Pour ce faire, le SIA doit être entraîné, c'est-à-dire qu'il doit générer un modèle généralisable sur la base des algorithmes et des données qui lui sont fournis. Au sein de l'apprentissage machine, l'apprentissage profond est une technique computationnelle qui utilise une série de réseaux de neurones artificiels pour permettre à un SIA de générer un modèle optimal par un entraînement de chacun des réseaux de neurones. L'apprentissage machine, et particulièrement l'apprentissage profond, sont à la base des plus récentes avancées de l'IA. Parce qu'ils impliquent une grande quantité de données, une autonomie croissante dans leur traitement (allant jusqu'à l'apprentissage non supervisé) et des conséquences sociales et politiques potentiellement nuisibles, ils génèrent aussi de nouveaux enjeux éthiques et critiques, notamment en éducation. C'est donc principalement sur ce type d'IA que se penche cet article, bien que certains des enjeux mentionnés, notamment ceux de la section " Quelques enjeux éthiques et critiques de conception ", soient transversaux à l'IA, voire aux technologies dans leur ensemble.

5En éducation, l'IA suscite un intérêt croissant depuis une trentaine d'années, intérêt qui s'est accéléré récemment étant donné les avancées techniques et les différents potentiels qu'elles ouvrent pour l'éducation. Pour le cas précis de l'enseignement supérieur, Zawacki-Richter et ses collègues (2019) ont mené une revue systématique de la littérature et identifient quatre applications principales : 1) le profilage et la prédiction (p. ex., admission à un programme d'études, décrochage) ; 2) les systèmes de tutorat intelligent (p. ex., enseignement de contenus pédagogiques, rétroactions) ; 3) la mesure et l'évaluation (p. ex., notation automatique, engagement scolaire) ; 4) les systèmes adaptatifs et personnalisés (p. ex., recommandation et sélection de contenus personnalisés). Ces mêmes auteurs notent que " a stunningly low number of authors, only two out of 146 articles (1.4%), critically reflect upon ethical implications, challenges and risks of applying AI in education " (Zawacki-Richter , 2019 : 10).

6De cet état de la situation ressortent deux constats. D'une part, l'application de l'IA en enseignement supérieur est nettement plus dynamique que la réflexion éthique et critique sur les enjeux qu'elle soulève, de sorte qu'elle tend à s'en affranchir, alors même que la réflexion éthique et critique a pour but de l'accompagner vers une plus grande acceptabilité éducative. D'autre part, l'enseignement supérieur - et l'éducation en général - semble avoir été moins investi que d'autres secteurs quant à la réflexion sur les enjeux éthiques et critiques de l'IA, alors qu'il n'y a aucune raison de penser qu'il en soit exempt.

7À titre d'exemple, concernant le profilage et la prédiction, est-il possible d'expliquer les décisions automatisées concernant l'admission ou le refus des étudiantes et des étudiants aux programmes d'étude pour lesquels elles et ils ont postulé ? Des critères sociodémographiques et ethnoculturels sont-ils présents, risquant de renforcer certaines inégalités sociales et éducatives ? De plus, est-il possible pour le personnel administratif de valider ces décisions avant de les communiquer aux étudiantes et étudiants ? Une fois admis, ces dernières et ces derniers peuvent-ils et peuvent-ils être privés d'un service éducatif en fonction d'une prédiction effectuée par l'IA ? Si des prédictions illustrent de faibles chances de réussite dans un programme pour une étudiante ou un étudiant, est-ce acceptable de l'empêcher de poursuivre dans cette voie ? En ce sens, les prédictions peuvent-elles porter atteinte à la liberté et à l'auto-détermination des étudiantes et des étudiants ? Des questions du même ordre se posent au sujet des systèmes de tutorat intelligent, de l'évaluation, ou encore, des systèmes adaptatifs et personnalisés. En bref, force est de constater que l'introduction de l'IA en enseignement supérieur pose des enjeux éthiques et critiques de taille auxquels il faut s'attarder.

8Face à ces questionnements actuellement peu soulevés, il nous semble que le domaine d'étude des technologies en éducation, en raison de sa connaissance spécialisée de l'enseignement supérieur, a une place à prendre et gagne à investir davantage cet objet d'étude, en empruntant les acquis d'autres disciplines des sciences humaines et sociales et en les appliquant aux singularités des technologies en éducation. Le présent article peut être compris comme un premier pas dans cette direction, en permettant d'amorcer la réflexion sur des enjeux éthiques et critiques dans un domaine de pratique et d'étude - l'enseignement supérieur - qui s'y est peu intéressé jusqu'à présent, en mobilisant un point de vue interdisciplinaire. Nous illustrons cette démarche en l'appliquant à certains enjeux éthiques et critiques de l'IA en enseignement supérieur regroupés sous trois pôles : la conception, les données et l'usage.

9Avant d'aborder plus directement les enjeux éthiques et critiques que pose l'IA en enseignement supérieur, nous proposons de définir succinctement ce que l'on entend par enjeux éthiques et critiques. On trouve plusieurs définitions possibles de l'éthique et de la compétence éthique dans la littérature (Marceau, 2015). Toutefois, peu s'attardent plus spécifiquement à la définition de ce qu'est un enjeu éthique à proprement parler.

10L'éthique s'entend d'abord comme une herméneutique, soit une " illumination réciproque de notre médiation sur l'excellence en humanité et des décisions singulières que nous prenons " (Malherbe, 2001 : 16). Bien que divers auteurs aient fourni des définitions variées sur l'éthique (Lacroix et al., 2006), nous retenons ici la définition de Jean-François Malherbe, puisqu'elle entend l'éthique comme une quête de l'excellence en humanité et l'envisage dans une perspective appliquée et singulière, ce qui nous semble tout indiqué lorsqu'il est question de développement responsable de SIA. En effet, le développement des SIA entraîne des réflexions sur la nature même de l'intelligence humaine (puisqu'il s'agit de la reproduire) et a des risques de dérives importants. Il appert donc d'aborder ces questions à la fois dans une quête de l'excellence en humanité et de manière appliquée. Contrairement à une perception populaire, l'éthique ne tient pas lieu d'obligation, ni d'un comportement prédéfini ou d'une conception du bien prédéterminée qu'il faut appliquer. Elle se présente plutôt comme " une réflexion sur nos pratiques individuelles et sociales et sur les valeurs qu'elles actualisent menant à leur évaluation à travers l'exercice d'un jugement pratique et à des actions conséquentes (Lacroix, Marchildon et Bégin, 2017 : 37-46) " (Marchildon, 2017, 2 e §). Comme l'affirment Lacroix et Marceau :

[L]'éthique comporte une visée heuristique qui permet de s'interroger sur le " bien ", dans des circonstances bien précises, visée qui n'est pas celle historiquement attribuée à la morale. Selon cette dernière compréhension de l'éthique, il s'agit de s'interroger, à partir des valeurs, des normes, des principes, des idéaux propres à une situation pour lui donner sens et identifier le " bon " comportement devant être adopté dans le " monde vécu ", référant ainsi à notre nouveau rapport à la norme (2019 : 192).

11C'est ainsi que l'éthique constitue pour certains une réflexion axiologique sur l'action (Genard, 2000 ; Raz, 2009, cités dans Lacroix et Marceau, 2019 : 192).

12Depuis les années 1960, certains enjeux éthiques liés à des situations concrètes, qu'elles soient liées à de nouveaux développements humains (p. ex., le clonage) ou à des conséquences de l'action humaine (p. ex., l'environnement) ont stimulé le développement de l'éthique appliquée (Commission de l'éthique en science et technologie 4). Puisqu'elle est située, l'éthique appliquée s'appuie sur une documentation factuelle des situations à l'œuvre à partir de laquelle fonder la démarche éthique. Elle permet donc de réfléchir à partir de situations ou encore d'innovations (Verchère, Legault et Patenaude, 2021). C'est notamment le cas dans le contexte de l'IA en éducation.

13En se référant à la Commission de l'éthique en science et technologie, un enjeu éthique apparaît " lorsqu'une valeur ou un principe moral est mis en jeu dans une question ou une situation 5 ". Il est fréquent que les questions ou situations générant un enjeu éthique impliquent plusieurs valeurs ou principes qui entrent en conflit. En outre, un enjeu implique une activité de discernement - et de délibération, si elle est collective - entre différents principes ou valeurs, avec pour finalité d'orienter une situation de façon à s'assurer qu'elle soit le plus éthiquement acceptable possible. Nous dirons donc qu'un enjeu éthique est une situation problématique ou une préoccupation concrète qui se pose sur le plan éthique et nécessite une démarche heuristique de recherche du bien, du bon, essentiellement à partir de valeurs.

14La résolution d'un enjeu éthique nécessite le déploiement d'une compétence éthique pour déterminer l'action à engager, à partir des valeurs et d'autres repères. Mais encore faut-il que le déploiement de cette compétence éthique soit possible. Allison Marchildon souligne à cet effet que l'exercice de la compétence éthique est tributaire des possibles, en fonction de structures existantes et du " pouvoir réel " des personnes pour agir :

[S]'intéresser à la compétence éthique impliquera nécessairement de s'intéresser à la question du pouvoir et à la façon dont s'exerceront les pouvoirs en situation - des pouvoirs sur ou des pouvoirs avec - puisque cela aura une influence déterminante sur le pouvoir de la personne de déployer (ou non) sa compétence de façon effective en situation (Marchildon, 2017 : 12).

15Ainsi, l'action à engager sur le plan éthique n'est pas totalement automne des structures de pouvoirs préexistantes et sous-jacentes à l'action. D'autres questions relatives aux milieux sociaux ou aux structures organisationnelles, par exemple, viendront moduler ou altérer la capacité des personnes à mettre en œuvre la compétence éthique. Avant d'exercer la compétence éthique, il faut garder en tête que non seulement l'action est située (Lacroix, 2014), mais qu'elle est aussi tributaire du contexte plus vaste où des structures sociales, économiques, politiques, organisationnelles viennent imposer des contraintes au plein exercice de la compétence éthique des individus (Marchildon, 2017). Autrement dit, malgré toute la bonne volonté d'un individu, sa compétence à résoudre un enjeu éthique n'est pas garantie. Il faut considérer les divers jeux de pouvoir qui influencent sa capacité à agir :

La compétence éthique n'est ainsi jamais un acquis et son exercice est hautement dépendant des interactions entre les acteurs et les divers éléments des situations et contextes dans lesquels ils se trouvent. Ces interactions impliquent toujours par ailleurs l'exercice de pouvoirs, qui sont de nature fort variée, en plus d'être complexes et dynamiques [...] (Marchildon, 2017 : 13).

16Dans le présent texte, l'ajout de l'adjectif " critique " nous permet d'inclure ces jeux de pouvoir qui traversent et configurent la capacité d'agir. Ainsi, nous proposons de retenir la formule " enjeux éthiques et critiques " pour la suite de ce texte.

17Aborder les enjeux éthiques et critiques de l'IA en enseignement supérieur exige au préalable de clarifier la relation qu'entretiennent ces deux entités, et plus largement, les technologies et la société. Pour ce faire, nous recourons aux études du façonnage social de la technique ( social shaping of technology) dans le domaine des sciences et technologies anglophones (p. ex., MacKenzie et Wajcman, 1999 ; Williams, 2019 ; Bijker, Hughes et Pinch, 1987 ; Leigh-Star et Griesemer, 1989 ; Akrich, Callon et Latour, 2006). En réaction à une conception communément véhiculée des technologies en sciences humaines et sociales, qui pose une différence de nature entre la technique et la société, et donc une autonomie relative de chacune par rapport à l'autre, ces approches proposent une conceptualisation plus fine et moins dichotomique de la relation " technologies - société ". Dans cette perspective, les technologies sont constituées de dimensions à la fois techniques et sociales, dans la mesure où elles ne peuvent être dissociées de logiques de conception et d'usage humains qui les sous-tendent par nature. Autrement dit, une technologie ne peut pas être réduite à un objet matériel autonome : elle inclut toujours les multiples interventions humaines qui l'ont configurée de la conception aux usages, et qui l'ont marquée des représentations, des normes et des valeurs d'une société sociohistoriquement située. Mobilisés pour l'IA en enseignement supérieur, les enjeux éthiques et critiques, tout comme l'IA en tant que telle, sont appréhendés comme le résultat de configurations sociotechniques, qui ne peuvent être attribuées ni à l'IA ni à l'enseignement supérieur spécifiquement, mais à leur agencement relationnel.

18Dans la foulée de la remise en cause de la division " technique - société ", les études du façonnage social de la technique ont également contribué à renouveler la relation entre deux dimensions souvent considérées distinctement : la conception et l'usage. S'opposant à une vision " étapiste " où la conception se terminerait lors de la mise en marché, où commencerait l'usage, les approches sociotechniques ont montré que ces deux dimensions sont indissociables : de la conception aux usages, une technologie suit un processus de stabilisation progressive qui, loin d'être linéaire, implique des négociations synchroniques et diachroniques entre l'équipe de conception et les usagères et les usagers autour d'une technologie donnée et au travers de sa médiation. Une manière d'exprimer cette imbrication de la conception et de l'usage a été proposée par Madeleine Akrich (1987) par la métaphore du script, qu'elle décline en trois dimensions : l'inscription, la prescription et la souscription. Pour Akrich, la conception est définie comme une activité durant laquelle l'équipe de conception forge des scripts d'usage de plus en plus précis sur la base des représentations qu'elle se fait des individus visés et qu'elle inscrit dans les propriétés et les fonctions de la technologie qu'elle développe. En retour, la technologie prescrit aux individus réels les scripts et les représentations sous-jacentes dont elle résulte, en cadrant leurs usages, c'est-à-dire en en écartant certains et en en privilégiant d'autres, et en cadrant ces derniers, c'est-à-dire en les rendant possibles et en les contraignant tout à la fois (Akrich, 1987). En réponse aux prescriptions des technologies, les individus réels y souscrivent à des degrés divers dans la limite des contraintes techniques imposées et de leur compétence à les adapter en fonction de leurs besoins et aspirations. Cette triade " inscription - prescription - souscription " a l'avantage d'associer étroitement l'équipe de conception, les technologies et les individus au sein d'une même relation d'interdépendance, dans laquelle les actions de chaque partie sont solidaires des autres dans un processus d'ajustement mutuel. Dans le cadre des enjeux éthiques et critiques de l'IA en enseignement supérieur, nous la reprenons et la déclinons en trois pôles : la conception, les données et l'usage.

19Les sections précédentes ont permis de préciser sous quel angle nous proposons d'aborder les enjeux éthiques et critiques de l'IA en enseignement supérieur. Les lignes qui suivent présentent quelques-uns de ces enjeux, en commençant par ceux qui relèvent de la conception, puis ceux qui sont issus des données, et enfin, ceux qui sont issus de l'usage, tout en gardant en tête que ces dimensions participent d'un même processus et sont en interdépendance. Dans ce sens, un enjeu éthique et critique prédominant sur le plan de la conception a nécessairement des tenants et des aboutissants sur le plan des données et des usages, et inversement.

20Nous présentons les enjeux éthiques et critiques de conception en les formulant en termes de représentation et de représentativité. Les risques associés sont donc de l'ordre de la minorisation, de la marginalisation, voire de la discrimination des groupes sociaux sous-représentés. Dans ce sens, un premier enjeu concerne les tensions et écarts potentiels entre la diversité des individus réels et les représentations que se fait l'équipe de conception des individus visés. Plus précisément, deux biais de l'équipe de conception peuvent alimenter la non-représentativité des individus réels par les individus visés, tels que se les imagine l'équipe de conception.

21Le premier biais, appelé " méthode du moi " ( i-methodology, Akrich, 1995), consiste pour l'équipe de conception à se projeter indûment sur les individus visés, c'est-à-dire à penser que leur expérience sociale est représentative de celles des individus en général. Dans ce sens, les individus visés sont appréhendés par l'équipe de conception comme des " futur-moi ", qui évolueraient dans des conditions sociales similaires, seraient sensibles aux mêmes valeurs, feraient l'expérience de besoins et d'aspirations semblables. Étant donné la diversité sociale des individus réels d'une part, et la spécificité des profils socioprofessionnels des équipes de conception d'autre part (en termes de niveau d'éducation, de domaine de formation, de niveau socioéconomique, de rapport aux technologies, etc.), il est peu probable que les secondes soient représentatives des premiers. Ce biais s'est régulièrement traduit par des technologies discriminatoires, les exemples les plus prégnants étant liés à la conception d'algorithmes qui font régulièrement scandale dans leur traitement des personnes à la couleur de peau foncée (voir, p. ex., Plenke, 2015). Sur le plan de l'enseignement supérieur, le biais de la méthode du moi et ses risques ont peu été documentés. Il est toutefois possible de penser qu'il opère lorsque les équipes de conception se basent indûment sur leur expérience d'étudiantes ou d'étudiants pour orienter la conception d'une technologie éducative qu'elles sont en train de développer. Les équipes de conception sur-généralisent ainsi leurs expériences, leurs valeurs et leurs représentations de l'enseignement à l'ensemble des milieux d'enseignement concernés.

22Ce premier biais est susceptible d'être exacerbé par un second, appelé " l'usager universel " ( user as everybody, Oudshoorn, Rommes et Stienstra, 2004), suivant lequel l'équipe de conception homogénéise à outrance la représentation qu'elle se fait des individus visés, en ramenant ces derniers à un individu archétypal, en contre-pied de la diversité des individus réels. Avant d'être un biais éventuel, ce phénomène est une conséquence nécessaire à la standardisation qu'implique la production industrielle des technologies. Contrairement à la conception artisanale, qui permet d'aménager le processus de conception pour l'adapter aux spécificités d'un individu, la conception industrielle vise une production en masse. Bien que le produit technique puisse être plus ou moins ouvert et personnalisable, ces caractéristiques sont elles-mêmes le résultat d'une standardisation de l'individu visé. Ce processus de standardisation est également un processus de normalisation durant lequel les normes sociales dominantes ont toutes les chances d'alimenter chez l'équipe de conception la configuration d'un " individu moyen ", aux dépens des groupes minoritaires et minorisés (Oudshoorn, Rommes et Stienstra, 2004). Par exemple, il est bien connu que le secteur de l'ingénierie informatique est surreprésenté par les hommes (Collet, 2004), lesquels constituent un groupe sociohistorique dominant qui a donc toutes les chances de s'imposer comme l'archétype de l'individu visé par les équipes de conception. Sur le plan de l'enseignement supérieur, le risque est que l'IA soit profilée autour de certaines caractéristiques dominantes du personnel enseignant ou de la communauté étudiante, et qu'elle ne soit pas à même de servir - ou de servir avec la même qualité et la même efficacité - celles et ceux qui ne répondent pas à ces caractéristiques. On pense ici, par exemple, aux étudiantes et étudiants à besoins particuliers, dont l'IA peut interpréter de façon erronée les comportements si elle les analyse en référence à une conception normalisante des étudiantes et des étudiants.

23Les développements actuels de l'IA - notamment l'apprentissage machine - exigent des données massives sur lesquelles entraîner l'IA et au moyen desquelles assurer son fonctionnement. Les enjeux éthiques et critiques qui en découlent sur le plan de l'usage peuvent de nouveau être formulés en termes de représentation et de représentativité. Le premier d'entre eux concerne les biais éventuels que peuvent contenir les données massives utilisées pour entraîner et optimiser l'IA. Hors enseignement supérieur, plusieurs exemples de situations réelles ont illustré les effets discriminatoires des jeux de données biaisés. Par exemple, en 2020, l'algorithme de reconnaissance visuelle de Google a identifié deux images similaires de manière différente selon la couleur de peau des personnes représentées 6. Dans la première, une main à la couleur de peau claire tient un thermomètre infrarouge sans contact. L'algorithme a correctement identifié la main et le thermomètre. Dans la seconde image, la main à une couleur de peau foncée. L'algorithme a correctement identifié la main, mais a inféré que le thermomètre était un pistolet, ce qui s'explique par le fait que les images alimentant l'algorithme associent de manière plus fréquente des personnes à la couleur de peau foncée avec des armes à feu, dans des contextes de violence physique et de criminalité.

24Transposé à l'enseignement supérieur, ce type de biais est susceptible de discriminer certains profils d'étudiantes et d'étudiants ou de milieux d'enseignement sur la base d'associations récurrentes de données générées par d'autres profils ou milieux. Par exemple, plusieurs étudiantes et étudiants utilisent leur ordinateur portable personnel en cours, parfois sur imposition de leur programme d'étude. Par leur accès permanent aux technologies, ces étudiantes et étudiants sont susceptibles de les utiliser plus fréquemment et plus spontanément que des étudiantes et étudiants qui ne le font pas, que ce soit par choix ou par impossibilité d'avoir accès à de l'équipement informatique en cours. Dans ce contexte, le risque est alors que les étudiantes et les étudiants plus connectés soient sur-représentés dans les données massives qui alimentent une IA aux dépens des étudiantes et étudiants moins connectés, dans la mesure où ils l'utilisent plus régulièrement. On comprend donc que le biais de sur-représentativité de certains profils d'étudiantes et d'étudiants ou de certains milieux d'enseignement peut recouper les stratifications éducatives existantes, et ainsi contribuer à les maintenir, voire à les renforcer.

25En reprenant les apports des études du façonnage social de la technique, le personnel enseignant et l'IA constituent une relation d'interdépendance étroite et permanente au sein de laquelle se distribuent les rôles, les tâches et les responsabilités pédagogiques. Or, l'automatisation de l'IA rend cette dernière progressivement apte à prendre en charge une partie croissante des tâches pédagogiques, éventuellement aux dépens de l'agentivité du personnel enseignant. Ceci pose la question de la préservation de l'autonomie et du jugement professionnels de ce dernier. Sur ce point, Lacroix et Boudreau (2017) signalent que " la compétence éthique se déploie plus qu'elle ne se conçoit ! " En effet, selon ces auteurs :

[S]i cette notion de compétence se vit plus qu'elle ne se conçoit, elle est par essence difficilement saisissable, ce qui risque de créer d'importants problèmes pour quiconque voudra l'enseigner, l'évaluer ou la déployer en milieu de travail comme à l'école (Lacroix et Boudreau, 2017).

26Ainsi, la complexité conceptuelle du déploiement de la compétence éthique nous mène à conserver une réserve à savoir si cette compétence peut être artificiellement recréée, et a fortiori, programmée en amont de son déploiement. Dans cette optique, si l'IA peut soutenir la prise de décision, elle ne peut se substituer au jugement professionnel.

27En réponse aux différents types d'enjeux évoqués ci-dessus, nous proposons de terminer cet article en donnant un aperçu des pistes de solution qui sont susceptibles d'y répondre. Nous abordons d'abord celles qui relèvent de la conception, puis celles qui relèvent des données et enfin celles qui ont trait à l'usage.

28Pour réduire les déficits possibles de représentativité par les équipes de conception, certaines stratégies ont été mises en œuvre au sein des équipes de conception. La première consiste à diversifier leur composition sociodémographique et ethnoculturelle afin d'assurer une meilleure représentation des différents groupes sociaux visés. Sur le plan de l'enseignement supérieur, il s'agirait de s'assurer que les équipes de conception recrutent des personnes enseignantes ayant une expertise et une expérience approfondies de la pédagogie, d'une part, et qu'elles soient représentatives de la diversité des milieux d'enseignement, d'autre part. Une stratégie voisine consiste à opter pour des modèles de conception " centrés-usager " (Labarthe, 2010), c'est-à-dire des modèles dans lesquels les individus réels sont impliqués de manière significative à différents moments du processus de conception de façon à configurer l'individu visé au plus proche des individus réels, notamment au moyen d'analyses des besoins, de tests-pilotes, de versions bêta, etc. Sur le plan de l'enseignement supérieur, cela implique de solliciter les milieux d'enseignement dès la phase de conception et de poursuivre l'optimisation de l'IA une fois qu'elle est en usage.

29Ces deux stratégies connaissent toutefois des limites. La première a trait à la représentativité du personnel et des milieux d'enseignement qui interviennent dans le processus de conception, que ce soit en tant que membres de l'équipe de conception ou en tant qu'individus réels. Se pose la question de savoir dans quelle mesure ils sont représentatifs de la diversité des milieux visés par l'IA. À titre d'exemple, il est logique de penser que les personnes enseignantes les plus engagées dans l'intégration pédagogique des technologies sont également celles qui sont les plus portées à collaborer avec les équipes de conception lors de la conception de l'IA. En nous basant sur la typologie d'Everett Rogers (2003), ces personnes enseignantes ne représentent pourtant qu'environ 15 % d'une population enseignante donnée et ont des caractéristiques psychologiques particulières (Geoghegan, 1994), de sorte qu'elles ne sont pas représentatives du personnel enseignant dans son ensemble. Ce dernier étant moins porté à utiliser les technologies, il est susceptible de rencontrer plus de difficultés dans la compréhension et l'utilisation de l'IA, ce qui a des implications, par exemple, sur le nombre et la sophistication des fonctions pédagogiques que cette dernière propose. Une autre limite est plus générale. Elle a trait au fait que l'équipe de conception, étant donné son fort investissement dans le développement d'une IA, s'en attribue non seulement la propriété mais aussi la paternité : la technologie est leur " bébé " (Cockburn, 1997 : 364). Dans cette logique, le risque est que l'avis du personnel de l'enseignement supérieur soit minoré et sous-estimé, dès lors qu'il ne concorde pas avec celui de l'équipe de conception, dans la mesure où il est jugé moins légitime et moins connaissant que l'équipe de conception.

30Sur le plan des données, les pistes de solution portent, entre autres, sur le consentement des individus. En effet, un système de consentement libre, éclairé et continu est une voie possible pour un plus grand contrôle sur les données collectées, incluant leurs biais éventuels. Cependant, il existe plusieurs distorsions du consentement dans le cas de l'IA en général, et en enseignement supérieur en particulier. En premier lieu, l'IA est opaque à plus d'un titre : elle est techniquement complexe, de sorte que comprendre les implications éthiques et critiques des données qu'elle collecte est difficile pour un individu (Hakimi, Eynon et Murphy, 2021). En outre, certaines techniques computationnelles (p. ex., réseaux de neurones) ne permettent pas d'expliquer les décisions qui sont prises (Berendt, Littlejohn et Blakemore, 2020). Lorsque l'IA est développée par une compagnie privée, s'ajoute aussi l'opacité reliée au modèle d'affaires, lequel, pour rester compétitif, ne privilégie pas des algorithmes libres et ouverts. Pour ces différentes raisons, l'IA est une " boîte noire " qu'il est difficile d'ouvrir, de sorte que le consentement à la collecte de données personnelles est d'emblée contrecarré par le manque de transparence de l'IA. En enseignement supérieur, ce manque de transparence implique que les établissements d'enseignement supérieur qui intègrent l'IA le font sans une compréhension fine des données collectées et de leurs implications éducatives et sociales pour les étudiantes et les étudiants, alors même qu'ils sont responsables d'assurer le consentement libre, éclairé et continu de ces derniers. En somme, l'IA en enseignement supérieur peut générer une cascade d'opacité : opacité des données et de leur traitement par les compagnies qui les développent ; opacité des implications éducatives et sociales pour les établissements d'enseignement supérieur qui les implantent ; donc opacité des étudiantes et des étudiants et du personnel enseignant lorsqu'ils y consentent.

31En enseignement supérieur, les pistes de solution pour répondre aux enjeux éthiques et critiques de l'IA sur le plan de l'usage sont orientées vers la formation du personnel enseignant et des étudiantes et des étudiants au fonctionnement technique de l'IA et à ses implications éducatives et sociales.

32Par exemple, il est possible de prévoir une activité délibérative sur les enjeux de l'IA pour le marché du travail, dont l'objectif est de développer chez les étudiantes et les étudiants une posture critique et un pouvoir d'agir sur l'IA. Cette piste pédagogique est celle poursuivie, sur le plan scientifique, par Daniel Krutka, Marie Heath et Bret Staudt Willet (2019). Ces auteurs proposent un modèle technoéthique visant le développement de compétences critiques des futures enseignantes et des futurs enseignants face à l'IA au moyen de la délibération. Ces dernières et ces derniers sont alors amenés à considérer l'IA dans ses différentes dimensions : éthique, bien sûr, mais aussi légale, démocratique, économique, technologique et pédagogique. Bien que ce modèle soit exhaustif, une de ses limites réside sans doute sa faisabilité : pour le mettre en œuvre, il est nécessaire pour les formatrices et les formateurs, ainsi que pour les futures enseignantes et les futurs enseignants de disposer des connaissances sur chacune de ces dimensions, en l'absence de quoi il leur est impossible de délibérer. Or, à titre d'exemple, les aspects légaux de l'IA en éducation ne font pas partie des contenus de formation des futures enseignantes et des futurs enseignants et demandent donc un travail d'appropriation préalablement à la délibération. Une autre limite de ce modèle est qu'il n'implique pas les administratrices et les administrateurs des établissements, qui sont bien souvent celles et ceux à qui il revient de choisir le SIA qui sera adopté par leur établissement.

33L'objectif de cet article était d'amorcer la réflexion sur les enjeux éthiques et critiques de l'IA en enseignement supérieur en mobilisant un point de vue interdisciplinaire. Nous avons illustré cette démarche en l'appliquant à certains enjeux éthiques et critiques de l'IA en enseignement supérieur regroupés en trois pôles : la conception, les données et l'usage. Nous avons aussi souligné des pistes de solution qui permettraient de prendre en compte ces enjeux éthiques et critiques, mais qui connaissent elles aussi des limites, de sorte que la réflexion éthique et critique sur l'IA en enseignement supérieur ne semble pas disposer de leviers d'action clairs présentement.

34Loin d'une posture technophobe, l'idée de s'intéresser aux enjeux éthiques et critiques de l'IA en enseignement supérieur est de prévenir les risques qu'elle peut générer tout en saisissant les occasions qu'elle offre pour l'enseignement supérieur. De ce point de vue, la réflexion sur les enjeux éthiques et critiques de l'IA en enseignement supérieur gagne à être amorcée dès la phase de conception et tout au long de l'usage, et en étroite relation avec ses visées applicatives. Ce postulat implique que les logiques applicatives et éthiques et critiques ne sont pas incompatibles par nature. Si tel était le cas, le développement de l'une se ferait aux dépens de l'autre. S'il est vrai que ces logiques peuvent être en tension, l'enjeu principal de les travailler conjointement de la conception à l'usage est précisément de les arrimer au mieux, avec la finalité de renforcer l'acceptabilité éducative de l'IA. En résumé, application de l'IA et réflexion sur ses enjeux éthiques et critiques en enseignement supérieur ne devraient pas aller l'un sans l'autre. On retrouve ici les préoccupations de l' ethics by design (Iphofen et Kritikos, 2021 ; Dignum et al., 2018), qui s'intéresse aux principes éthiques de l'IA et à leur mise en œuvre au sein des équipes de conception, mais aussi au sein des SIA lors de leur usage. Dans la mesure où l'enseignement supérieur - et l'éducation en général - semble avoir moins fait l'objet que d'autres secteurs d'une réflexion sur les enjeux éthiques et critiques de l'IA, il gagne à tirer profit des acquis d'autres disciplines des sciences humaines et sociales en les adaptant aux singularités des technologies en éducation.

35Il revient donc aux communautés éducative, scientifique et technologique de l'IA en enseignement supérieur de lier étroitement ces deux dimensions ou de limiter les développements de l'IA de façon à ce que les implications éducatives de cette dernière soient contrôlables. Chose certaine, l'absence de moyens pleins et entiers pour anticiper et résoudre les enjeux éthiques et critiques relatifs à l'intégration des SIA en enseignement supérieur comme c'est le cas actuellement soulève des préoccupations réelles.

# data[].attributes.attachment_link.title
Enjeux éthiques et critiques de l'intelligence artificielle en ense...

# data[].attributes.attachment_link.description
While artificial intelligence (AI) is of great interest in higher education, ethical and critical reflection on the issues it raises in this context is less advanced, so that "technical application" and "ethical and critical reflection" are poorly aligned.

# data[].attributes.body
Non pas une fin en soi mais un ensemble d’outils, le numérique et a fortiori l’IA ont leur place dans les salles de classe et dans la préparation des projets professionnels. Découvrons avec Audrey Zolghadr Elyséei, Directrice de Comptes Education de Microsoft France, ce que l’IA peut apporter de mieux à l’éducation.

# data[].attributes.attachment_link.readable_text
Au-delà de la science-fiction, l'intelligence artificielle (IA) en éducation est un outil agile et efficace. L'IA peut agir concrètement pour le bénéfice de l'enseignement scolaire. Entre parcours d'apprentissage personnalisés, suivi des performances et inclusion, le bénéfice est grand.

Non pas une fin en soi mais un ensemble d'outils, le numérique et a fortiori l'IA ont leur place dans les salles de classe et dans la préparation des projets professionnels. Découvrons avec Audrey Zolghadr Elyséei, Directrice de Comptes Education de Microsoft France, ce que l'IA peut apporter de mieux à l'éducation.

Le rôle de l'intelligence artificielle en éducation

Au sein de l'environnement Microsoft, nombre d'algorithmes d'intelligence artificielle ont été infusés. Ils ont été spécifiquement pensés pour les besoins d'apprentissage et de l'école.

Selon Audrey Zolghadr Elyséei , on peut distinguer quatre enjeux majeurs de l'IA en éducation :

Personnaliser le parcours d'apprentissage d'un élève.

Libérer l'enseignant de tâches chronophages.

Mieux inclure les élèves et enseignants en difficulté.

Aider à définir les parcours d'orientation et esquisser les parcours professionnels possibles.

Au-delà des outils Microsoft, un écosystème de partenaires développe des solutions utilisant l'IA pour apporter des expériences personnalisées comme des plateformes de formation adaptées aux cursus des élèves, souligne la directrice de Comptes Education Microsoft. D'autres outils permettent d'anticiper le décrochage scolaire en envoyant des signaux d'alertes à l'enseignant : notes en baisse, absentéisme, devoirs rendus en retard, etc.

Création d'une ville hyperconnectée

Quelle sont les bonnes pratiques et les défis liés de la création d'une ville hyperconnectée ? Cet Ebook interactif et collaboratif vous dévoile son analyse sur les villes hyperconnectées.

Télécharger le livre blanc

Accompagner la lecture grâce à l'intelligence artificielle

Reading Progress

L'un des outils phares intégrant l'intelligence artificielle est " Reading Progress ". Développé en collaboration avec des spécialistes de l'apprentissage de la lecture, il permet aux élèves de s'entraîner sur cette compétence clé du début de scolarité. " La lecture demande de prendre du temps individuel sur le temps collectif de la classe", souligne Audrey Zolghadr Elyséei. " Ce temps est nécessaire, il n'est pas question de le remplacer. Mais Reading Progress permet de s'entraîner en autonomie, en plus de ces exercices communs. "

Ainsi, même hors de l'école, un enseignant peut assigner la lecture d'un texte à l'intérieur de Teams. L'élève lit le texte à voix haute et l'IA pré-identifie les erreurs. L'enseignant peut alors revenir sur chacune des difficultés pour vérifier si l'IA a bien fait de signaler l'erreur en validant ou non ces retours. L'IA devient du même coup plus performante.

Reading Coach

Voici un autre volet de l'intelligence artificielle en éducation : suggestion de mots sur lesquels les élèves butent particulièrement. Elle permet d'évaluer le ton, la fluidité mais également de suivre la progression de la classe ou individuelle.

En plus de Reading Progress, Microsoft lance Reading Coach, un outil qui va plus loin dans l'aide aux élèves. Suite à la lecture d'un texte, l'élève pourra en toute autonomie identifier les mots qui ont posé problème et s'entrainer à les prononcer. Ces deux outils permettent aussi bien d'apprendre à lire sa langue maternelle ou bien d'apprendre une langue étrangère. " La reconnaissance vocale a atteint un niveau incroyable, c'est bluffant ! ", s'exclame Audrey Zolghadr Elyséei.

Entrer dans la vie active : ce que peut apporter l'IA

Plus tard dans la scolarité, Microsoft propose Career Coach : un outil pour les élèves et étudiants, quel que soit leur niveau d'études. Career Coach est une application de Microsoft Teams basée sur LinkedIn qui permet d'identifier les compétences acquises par les étudiants tout au long de leur cursus, d'avoir accès aux profils des alumni de l'école fréquentée pour explorer les possibilités d'emploi, de dresser leur plan de carrière et de développer leurs compétences pratiques. " ", résume la directrice de Comptes. Career Coach permet également aux enseignants et aux conseillers d'orientation d'avoir une compréhension plus approfondie des compétences et des objectifs de carrière des étudiants afin qu'ils puissent aligner le développement du programme d'études sur les ambitions des étudiants. Coach est là pour orienter les élèves, les accompagner dans leurs premiers pas vers le marché de l'emploi mais aussi de les aider à construire leur réseau professionnel

Favoriser l'inclusion

Tout au long du cursus, l'intelligence artificielle assiste le professeur dans son enseignement quotidien. Les outils sont natifs et favorisent l'inclusion : on peut ainsi ajouter des sous-titres sous ses présentations pour les élèves malentendants ou allophones, ou rendre un professeur qui donne un cours à distance transparent lorsqu'il écrit au tableau, afin que ses écrits soient visibles en temps réel. " L'enseignant peut choisir d'utiliser ou non ces outils, mais il y a de vrais bénéfices pour l'aider à être plus efficace ", continue la directrice de Comptes Education de Microsoft.

Éthique et transparence des systèmes d'intelligence artificielle en éducation

Dans un champ aussi fondamental que l'éducation, Microsoft s'assure que ses algorithmes sont développés en toute éthique.

Ainsi, et à travers tous les domaines, Microsoft s'engage à respecter six principes :

Microsoft encourage également un environnement ouvert, transparent et de collaboration entre les différents acteurs de l'éducation. Ainsi, elle a mis en place Open Education Analytics. Il s'agit d'une plateforme open source pour partager les bonnes pratiques et les modèles d'algorithmes. Cette solution améliore ainsi la compréhension de l'IA en éducation.

Un des enjeux principaux est de rassurer les enseignants, les élèves et les parents sur ce que peut et ne peut pas une intelligence artificielle. Il y a beaucoup de mythes, parfois négatifs, et cela passe par la pédagogie. Il est évident qu'un ordinateur ne peut pas remplacer la relation entre un professeur et ses élèves. ", conclut Audrey Zolghadr Elyséei.

Faire face à l'inflation et maitriser ses dépenses IT avec M365

Découvrez comment Microsoft 365 aide les entreprises à optimiser leurs opérations tout en réalisant des économies dans le contexte économique actuel.

Je m'inscris

# data[].attributes.attachment_link.title
Intelligence artificielle et éducation | Microsoft experiences

# data[].attributes.attachment_link.description
Personnalisation de l'apprentissage, inclusion et nombreux autres avantages de l'intelligence artificielle en éducation.

# data[].attributes.headline
L’intelligence artificielle en éducation : enjeux de justice (Collin et Marceau, 2021)

# data[].attributes.subject
L’intelligence artificielle en éducation : enjeux de justice (Collin et Marceau, 2021)

# data[].attributes.body
Souhaitant contribuer à cette réflexion émergente, nous proposons d’aborder quelques enjeux éthiques et critiques de l’IA, sans toutefois prétendre à l’exhaustivité, ainsi que de formuler quelques pistes d’action permettant de mieux les prendre en compte, tant du point de vue de la conception que de l’usage. Ce faisant, il importe de garder en tête que les enjeux énumérés ci-dessous ne sont pas, pour la plupart, spécifiques à l’IA dans la mesure où ils se posent aussi pour d’autres technologies. Qui plus est, on les retrouve dans d’autres sphères de la société où l’IA est utilisée. Ces enjeux tendent toutefois à être amplifiés par les développements actuels de l’IA et à se décliner de manière singulière en éducation, ce qui justifie à notre sens la pertinence d’une réflexion circonscrite à l’IA en éducation.

# data[].attributes.attachment_link.readable_text
Article body

Introduction : potentiel de l'intelligence artificielle pour l'éducation

L'intelligence artificielle (IA) suscite un intérêt pédagogique et scientifique croissant depuis une trentaine d'années, qui s'est accéléré récemment à la suite de l'amélioration de la performance technique de l'IA (Becker, 2018). Dans leur revue systématique de la littérature, Zawacki-Richter et al. (2019) identifient quatre applications principales de l'IA en enseignement supérieur : 1/le profilage et la prédiction (p. ex., admission à un programme d'études, décrochage scolaire) ; 2/les systèmes de tutorat intelligent (p. ex., enseignement de contenus pédagogiques, rétroactions) ; 3/la mesure et l'évaluation (p. ex., notation automatique, engagement scolaire) ; 4/et les systèmes adaptatifs et personnalisés (p. ex., recommandation et sélection de contenus personnalisés). En revanche, les enjeux éthiques et critiques que soulève l'IA sont peu étudiés en enseignement supérieur (Zawacki-Richter et al., 2019), et en éducation plus largement (Krutka, 2021). Souhaitant contribuer à cette réflexion émergente, nous proposons d'aborder quelques enjeux éthiques et critiques de l'IA, sans toutefois prétendre à l'exhaustivité, ainsi que de formuler quelques pistes d'action permettant de mieux les prendre en compte, tant du point de vue de la conception que de l'usage. Ce faisant, il importe de garder en tête que les enjeux énumérés ci-dessous ne sont pas, pour la plupart, spécifiques à l'IA dans la mesure où ils se posent aussi pour d'autres technologies. Qui plus est, on les retrouve dans d'autres sphères de la société où l'IA est utilisée. Ces enjeux tendent toutefois à être amplifiés par les développements actuels de l'IA et à se décliner de manière singulière en éducation, ce qui justifie à notre sens la pertinence d'une réflexion circonscrite à l'IA en éducation.

Quelques enjeux éthiques et critiques de l'IA en éducation

Les enjeux éthiques et critiques que soulève l'IA en éducation sont multiples et ont des origines diverses. Un premier type d'enjeux est lié aux données massives que nécessite l'IA, lesquelles peuvent induire des biais éventuels et posent la question du respect de la vie privée des élèves et du personnel scolaire (Andrejevic et al., 2020 ; Perrotta et al., 2020). Krutka (2021) prend l'exemple de la suite éducative de Google, qui collecte des données sans consentement libre et éclairé des élèves et du personnel scolaire (en contradiction avec leurs propres politiques et celles des provinces et des états) et les exploite de manière opaque. Les données des élèves et du personnel scolaire sont donc utilisées à leur insu, causant ainsi un manquement au respect de leur vie privée.

Par ailleurs, l'IA est principalement produite par des entreprises privées plutôt que par des instances scolaires (Williamson et al., 2020 ; Selwyn et al., 2020), et principalement étudiée par des chercheur.e.s en informatique ou en sciences, technologies, ingénierie et mathématiques plutôt que par des chercheur.e.s en sciences de l'éducation (Zawacki-Richter et al., 2019). Cette situation génère un deuxième type d'enjeux éthiques et critiques relatif aux expertises et aux représentations éducatives mobilisées par les équipes de conception. En dehors de l'éducation, plusieurs études ont déjà souligné le manque de diversité au sein des équipes de conception, ce qui se traduit par des biais de représentativité allant de la sous-représentation de certains groupes sociaux à leur discrimination, stigmatisation ou exclusion. C'est ainsi qu'en 2015, l'algorithme de Google photos a associé une photo de deux personnes noires américaines au tag " gorilles ", faute d'avoir été suffisamment entraîné à identifier des visages à la peau foncée (Plenke, 2015).

Finalement, l'automatisation croissante de l'IA implique que cette dernière est en mesure de prendre en charge une part croissante des actions pédagogiques qui reviennent habituellement aux élèves et au personnel scolaire (Selwyn, 2019). Se pose alors un autre type d'enjeux éthiques et critiques relatifs à l'autonomie et au jugement professionnels des enseignantes et enseignants, ainsi qu'à l'agentivité des élèves en fonction de la distribution des tâches entre eux et l'IA. À titre d'exemple, citons le cas des systèmes de gestion des comportements rapporté par Livingtsone et Sefton-Green (2016). Les systèmes de gestion des comportements permettent aux enseignant.e.s de documenter les comportements nuisibles des élèves, qui sont ensuite compilés et signalés automatiquement à l'administration scolaire en vue d'appliquer des conséquences proportionnelles. Faute de temps en salle de classe, certain.e.s enseignant.e.s documentent les comportements après les cours, parfois sans en avoir informé les élèves concerné.e.s. Les élèves peuvent donc être mis.es en retrait pour une suite de comportements nuisibles dont elles ou ils n'ont pas souvenir, ce qui met à mal les principes mêmes de cohérence et de justice, en éducation.

Prévenir les enjeux éthiques et critiques de l'IA : de la conception à l'usage

De ces types d'enjeux éthiques et critiques, il est possible d'esquisser quelques pistes de réflexion et d'action. En premier lieu, ces enjeux gagnent à être pris en compte dès la phase de conception, afin de prévenir autant que possible des retombées négatives éventuelles lors de l'usage. On peut alors se poser la question suivante : dans quelle mesure les équipes de conception intègrent-elles des expertises et des représentations éducatives lorsqu'elles développent des technologies impliquant l'IA ? Et dans quelle mesure ces expertises et représentations éducatives sont-elles représentatives de la diversité et de la singularité des milieux scolaires québécois ? Un premier pas pour s'en assurer consiste, pour les équipes de conception, à opter pour des modèles " centrés usager " (p. ex., Labarthe, 210) dans le but de maximiser la prise en compte des expertises et des représentations éducatives et de préserver la finalité éducative des finalités économiques et techniques. Un pas complémentaire consiste à adopter et respecter des principes éthiques de conception, comme le fait d'informer systématiquement et explicitement les usager.e.s lorsqu'elles ou ils sont en interaction avec un système d'intelligence artificielle. Sur le plan de l'usage, sensibiliser les élèves et le personnel scolaire aux enjeux de l'IA en éducation implique d'intégrer une dimension éthique et critique explicite à la formation aux technologies. Pour être complète, cette dimension gagnerait à ne pas se limiter aux " bons usages " de l'IA, mais à s'articuler autour de la compréhension des interactions entre la conception et l'usage de l'IA d'une part, et entre les usages et leurs implications éducatives et sociales d'autre part. Par exemple, le modèle technoéthique de Krutka et al. (2019) ouvre une voie intéressante en formation initiale et continue des enseignants : pour déterminer si une technologie donnée est éthique, il propose une analyse des dimensions éthique, légale, démocratique, économique, technologique et pédagogique, guidée par des questions, ainsi que des éléments à considérer et des applications pratiques à intégrer à la formation des enseignants.

Pour ne pas conclure

L'intégration de l'IA en éducation est relativement récente de sorte que l'opérationnalisation de son potentiel reste en grande partie à venir. Pour l'orienter, il nous semble nécessaire de l'accompagner d'une prise en compte proactive des enjeux éthiques et critiques que l'IA soulève, en ancrant cette dernière dans le cadre d'une réflexion sur la justice. À ce titre, une formation à l'éthique du personnel scolaire mérite d'être mise de l'avant afin de l'outiller au mieux pour intervenir et interagir dans un monde en pleine mouvance.

# data[].attributes.attachment_link.title
L'intelligence artificielle en éducation : enjeux de justice - Formation et profession

# data[].attributes.attachment_link.description
L'intelligence artificielle en éducation : enjeux de justice. An article from journal Formation et profession (Volume 29, Number 2, 2021), on Érudit.

# data[].attributes.headline
Éthique de l'intelligence artificielle (UNESCO)

# data[].attributes.subject
Éthique de l'intelligence artificielle (UNESCO)

# data[].attributes.body
Aujourd'hui, l'intelligence artificielle joue un rôle dans la vie de milliards de personnes. Parfois inaperçue, mais souvent avec des conséquences profondes, elle transforme nos sociétés et remet en question ce que signifie être humain.

L'IA peut aider des millions d'étudiants à terminer leurs études secondaires, à créer 3,3 millions d'emplois supplémentaires et, de manière plus urgente, nous aider à lutter contre la propagation et les conséquences de la pandémie de COVID-19. Outre leurs multiples avantages, ces technologies présentent également des risques et des défis, liés à une utilisation malveillante ou à l'aggravation des inégalités et des clivages.

# data[].attributes.attachment_link.readable_text
Recommandation sur l'éthique de l'intelligence artificielle

En novembre 2021, les 193 États membres de l'UNESCO réunis en Conférence générale ont adopté la Recommandation sur l'éthique de l'intelligence artificielle, tout premier instrument normatif mondial sur le sujet.

La protection des droits de l'homme et de la dignité est la pierre angulaire de la Recommandation, basée sur la consolidation de principes fondamentaux tels que la transparence et l'équité, sans jamais perdre de vue l'importance de la responsabilité humaine dans le contrôle des systèmes d'intelligence artificielle.

Cependant, ce qui rend la Recommandation exceptionnellement applicable, ce sont ses nombreux domaines d'action stratégique, qui permettent aux décideurs politiques de traduire les valeurs et principes fondamentaux en actions pour ce qui concerne entre autres la gouvernance des données, l'environnement et les écosystèmes, les genres, l'éducation et la recherche, et la santé et le bien-être social.

# data[].attributes.headline
IA et éducation: guide pour les décideurs politiques (UNESCO, 2021)

# data[].attributes.subject
IA et éducation: guide pour les décideurs politiques (UNESCO, 2021)

# data[].attributes.headline
L’intelligence artificielle dans l’éducation selon l'UNESCO

# data[].attributes.subject
L’intelligence artificielle dans l’éducation selon l'UNESCO

# data[].attributes.body
L’intelligence artificielle (IA) a la capacité de relever certains des plus grands défis qui se posent dans le domaine de l’éducation aujourd’hui, de développer des pratiques d’enseignement et d’apprentissage innovantes, et enfin d’accélérer les progrès dans la réalisation de l’ODD 4. Cependant, ces avancées technologiques rapides impliquent inévitablement de nombreux risques et défis, que les débats sur les politiques et les cadres réglementaires ont encore du mal à suivre. L’UNESCO est déterminée à aider les États membres à exploiter le potentiel des technologies d’IA pour réaliser l’agenda Éducation 2030, tout en garantissant que l’utilisation de technologies d’IA dans les contextes éducatifs soit guidée par les principes fondamentaux d’inclusion et d’équité.

# data[].attributes.attachment_link.readable_text
L'intelligence artificielle (IA) a la capacité de relever certains des plus grands défis qui se posent dans le domaine de l'éducation aujourd'hui, de développer des pratiques d'enseignement et d'apprentissage innovantes, et enfin d'accélérer les progrès dans la réalisation de l'ODD 4. Cependant, ces avancées technologiques rapides impliquent inévitablement de nombreux risques et défis, que les débats sur les politiques et les cadres réglementaires ont encore du mal à suivre. L'UNESCO est déterminée à aider les États membres à exploiter le potentiel des technologies d'IA pour réaliser l'agenda Éducation 2030, tout en garantissant que l'utilisation de technologies d'IA dans les contextes éducatifs soit guidée par les principes fondamentaux d'inclusion et d'équité.

La mission de l'UNESCO appelle intrinsèquement à adopter une approche de l'IA axée sur l'humain, qui vise à réorienter le débat pour inclure le rôle de l'IA dans la lutte contre les inégalités actuelles en matière d'accès au savoir, à la recherche et à la diversité des expressions culturelles, et pour faire en sorte que l'IA n'accentue pas les écarts technologiques dans et entre les pays. La promesse de " l'IA pour tous " doit permettre à chacun de tirer parti de la révolution technologique en cours et d'accéder à ses fruits, notamment en termes d'innovation et de savoir.

Par ailleurs, dans le cadre du Consensus de Beijing, l'UNESCO a élaboré une publication destinée à améliorer l'état de préparation des décideurs de l'éducation en matière d'intelligence artificielle. Ce document, intitulé " Artificial Intelligence and Education: Guidance for Policy-makers " (Intelligence artificielle et éducation : guide à l'intention des décideurs), sera utile aux praticiens et professionnels des communautés de décideurs et de l'éducation. Il vise à créer une vision commune des opportunités et des défis liés à l'IA dans le domaine de l'éducation, ainsi que de ses conséquences en termes de compétences de base requises à l'ère de l'IA.

Dans le cadre de ses projets, l'UNESCO soutient que le déploiement des technologies d'IA dans l'éducation devrait avoir pour objectif d'améliorer les capacités humaines et de protéger les droits de l'homme pour une collaboration humain-machine efficace dans la vie, l'apprentissage et le travail, et pour le développement durable. Avec les partenaires, les organisations internationales et les valeurs clés qui sont les piliers de son mandat, l'UNESCO espère renforcer son rôle de chef de file dans le domaine de l'IA dans l'éducation, en tant que laboratoire mondial d'idées, organisme normatif, conseiller stratégique et organisme de développement des capacités.

Si vous souhaitez mettre à profit les nouvelles technologies telles que l'IA pour dynamiser le secteur de l'éducation, nous serions ravis d'établir un partenariat avec vous par le biais de contributions financières ou en nature ou de conseils techniques.

# data[].attributes.attachment_link.description
L'intelligence artificielle (IA) a la capacité de relever certains des plus grands défis qui se posent dans le domaine de l'éducation aujourd'hui, de développer des pratiques d'enseignement et d'apprentissage innovantes, et enfin d'accélérer les progrès dans la réalisation de l'ODD 4.

# data[].attributes.headline
Observatoire international sur les impacts sociétaux de l’IA et du numérique

# data[].attributes.subject
Observatoire international sur les impacts sociétaux de l’IA et du numérique

# data[].attributes.body
Soutenu financièrement par les Fonds de recherche du Québec, l’Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA) est un réseau de recherche ouvert qui fédère les expertises de plus de 260 chercheuses et chercheurs de 18 établissements postsecondaires du Québec et de nombreux partenaires nationaux et internationaux.

# data[].attributes.attachment_link.title
Observatoire international sur les impacts sociétaux de l'IA et du numérique

# data[].attributes.attachment_link.description
Soutenu financièrement par les Fonds de recherche du Québec, l'OBVIA aide les communautés, les organisations et les particuliers à maximiser les retombées positives de l'IA et du numérique et à minimiser les effets négatifs des technologies.

# data[].attributes.body
La plateforme Espace Données est un socle technologique unique, développé par la GRICS, qui permet la valorisation des données. Cette plateforme d’intelligence d’affaires infonuagique, qui mise entre autres sur l’intelligence artificielle, agrège des données et permet de déployer des outils modernes d’aide à la décision répondant aux besoins des acteurs du milieu scolaire.

# data[].attributes.attachment_link.title
Mozaïk-dVision | simplifiez la visualisation de vos données

# data[].attributes.attachment_link.description
Mozaïk-dVision est un produit d'aide à la décision offrant la visualisation de données en mode clés en main.

# data[].attributes.headline
L’intelligence artificielle en éducation : un aperçu des possibilités et des enjeux (2020)

# data[].attributes.subject
L’intelligence artificielle en éducation : un aperçu des possibilités et des enjeux (2020)

# data[].attributes.body
Le Rapport sur l’état et les besoins de l’éducation 2018-2020 porte sur le numérique en éducation. Le présent document de recherche, réalisé dans le cadre des travaux préparatoires, propose une réflexion sur les possibilités de l’intelligence artificielle (IA) et les défis qu’elle nous invite à relever. À partir d’une recension d’écrits scientifiques et l’audition d’experts et d’expertes, ce texte présente des exemples d’applications d’IA à des fins éducatives. Il nomme aussi certains enjeux soulevés par le développement des systèmes d’IA. Par exemple, ces systèmes devraient s’inscrire dans une démarche de recherche du bien commun et dans le respect de la personne et de la diversité. Ces enjeux entraînent une responsabilité nouvelle pour les systèmes éducatifs, car l’IA ne doit pas demeurer une boîte noire pour la population.

# data[].attributes.attachment_link.readable_text
Le Rapport sur l'état et les besoins de l'éducation 2018-2020 porte sur le numérique en éducation. Le présent document de recherche, réalisé dans le cadre des travaux préparatoires, propose une réflexion sur les possibilités de l'intelligence artificielle (IA) et les défis qu'elle nous invite à relever. À partir d'une recension d'écrits scientifiques et l'audition d'experts et d'expertes, ce texte présente des exemples d'applications d'IA à des fins éducatives. Il nomme aussi certains enjeux soulevés par le développement des systèmes d'IA. Par exemple, ces systèmes devraient s'inscrire dans une démarche de recherche du bien commun et dans le respect de la personne et de la diversité. Ces enjeux entraînent une responsabilité nouvelle pour les systèmes éducatifs, car l'IA ne doit pas demeurer une boîte noire pour la population.

Thèmes abordés

Des définitions de l'IA

Un marché du travail transformé

Des exemples d'application d'IA en éducation (possibilités)

Les défis que pose le développement des systèmes d'IA et les responsabilités qui en découlent

Comité ou commission : Comité du rapport sur l'état et les besoins de l'éducation 2018-2020

Mots-clés : Intelligence artificielle; algorithmes; données massives; données sur l'apprentissage; pensée critique; respect de la personne et de la diversité; profilage et catalogage; automatisation; Conseil supérieur de l'éducation; CSE

Comment citer cet ouvrage : Gaudreau, Hélène et Marie-Michèle Lemieux (2020). L'intelligence artificielle en éducation : un aperçu des possibilités et des enjeux, Études et recherches, Québec, Conseil supérieur de l'éducation, 26 p.

ISBN : 978-2-550-87964-0 (version PDF)

Dépôt légal : Bibliothèque et Archives nationales du Québec, 2020

# data[].attributes.attachment_link.title
L'intelligence artificielle en éducation : un aperçu des possibilités et des enjeux - CSE

# data[].attributes.attachment_link.description
À partir d'une recension d'écrits scientifiques et l'audition d'experts et d'expertes, ce texte présente des exemples d'applications d'IA à des fins éducatives. Il nomme aussi certains enjeux soulevés par le développement des systèmes d'IA. Par exemple, ces systèmes devraient s'inscrire dans une démarche de recherche du bien commun et dans le respect de la personne et de la diversité.