# data[].attributes.headline
Pour les jeunes collégiens (version 2023 et non 2016)

# data[].attributes.subject
Pour les jeunes collégiens (version 2023 et non 2016)

# data[].attributes.attachment_link.title
C’est quoi, l’intelligence artificielle ? - 1jour1actu.com

# data[].attributes.attachment_link.description
Ces derniers mois, on parle beaucoup de l’intelligence artificielle, car des entreprises disent vouloir l’utiliser. Mais l’I.A., est-ce un progrès ? Un danger ? 18 pays viennent de signer un accord pour encadrer l’utilisation de l’intelligence artificielle. Pour en savoir plus, regarde cette vidéo.

# data[].attributes.attachment_link.readable_text
Welcome to the next generation of search using the power of AI

Andi is search for the next generation using generative AI. Instead of just links, Andi gives you answers - like chatting with a smart friend.

Please enable JavaScript and use a modern browser to run this app.

# data[].attributes.attachment_link.description
Andi is search for the next generation using generative AI. Instead of just links, Andi gives you answers - like chatting with a smart friend

# data[].attributes.attachment_link.title
IA génératives et ingénierie pédagogique : le prompting, pistes de travail et applications

# data[].attributes.attachment_link.description
Résumé Résumé en français Pistes de travail sur la conception d’instructions pour les IA génératives : principes de base, enjeux, exemples. Résumé en anglais Directions for IA generative prompting : basic principles, issues, examples. Résumé en espagnol Instrucciones para la estimulación generativa de IA: principios básicos, cuestiones, ejemplos. Extraits Documents à télécharger IA génératives et … Continuer la lecture de « IA génératives et ingénierie pédagogique : le prompting, pistes de travail et applications »

# data[].attributes.headline
8 extensions Chrome pour économiser des heures de travail

# data[].attributes.subject
8 extensions Chrome pour économiser des heures de travail

# data[].attributes.attachment_link.readable_text
- Panorama et perspectives pour les solutions de détection de contenu artificiels [1/2]- Le tatouage numérique, une mesure de transparence salutaire ? [2/2]

Le tatouage numérique

L'ajout d'un filigrane, watermark, ou tatouage numérique est à première vue une technique bien connue lorsqu'elle fait référence à l'ajout d'une marque ou d'un texte sur un document, comme dans l'exemple de l'image qui illustre cet article. Pourtant cette solution peut en réalité faire référence à des techniques différentes en pratiques selon l'objectif du tatouage et l'objet à tatouer. On pourra ainsi tatouer des documents, des bases de données, des modèles d'IA ou même les productions de ces modèles, dans l'objectif de pourvoir identifier leur provenance, mais aussi d'identifier que ces objets ont été utilisés par, ou proviennent d'une IA générative. L'ensemble de ces techniques a fait l'objet d'un article dédié qui détaille leur fonctionnement, ainsi que leurs avantages et inconvénients.

Dans le cas de la détection de contenus artificiels, ces méthodes sont relativement efficaces pour les documents contenant une grande quantité d'information, comme les vidéos, les images ou les enregistrements sonores. En revanche, elles sont beaucoup moins robustes lorsqu'il s'agit de détecter du texte.

Les méthodes de détection ex post

Le tatouage numérique est une solution permettant de détecter du texte généré artificiellement, mais il possède des limites techniques non négligeables et demande la coopération du concepteur de l'IA générative. Des alternatives existent néanmoins. En ce qui concerne la détection d'images et de vidéos artificielles, certaines techniques décrites notamment dans Verdoliva et al., 2020, semblent prometteuses. Parmi les techniques recensées, certaines reposent sur la détection de résidus issus de la manipulation ou de la génération d'une image, sur l'analyse de l'ensemble de l'image résultant à une classification similaire à celle rencontrée dans les réseaux antagonistes (GAN), ou encore sur l'analyse des traits du visage dans le cas des hypertrucages (deepfakes). Ces méthodes reposent autant sur des systèmes experts que sur des techniques d'intelligence artificielle par apprentissage. D'autres initiatives provenant d'acteurs privés commencent d'ailleurs à voir le jour, comme le dispositif de tatouage et de détection de contenu artificiel SynthID de Google, ou encore le tatouage des productions de Bing par Microsoft. En ce qui concerne la détection de texte artificiel néanmoins, le constat est plus négatif.

Pegoraro et al., 2023 réalisent une étude des méthodes existantes permettant de détecter du texte artificiel, pour lequel aucune mesure n'aurait été prise lors de sa génération. L'étude évalue une vingtaine d'outils de détection parmi lesquels figurent les outils développés par l'entreprise OpenAI elle-même et par des tiers tel que l'outil ZeroGPT. L'étude aboutit à deux conclusions principales :

les méthodes existantes ne parviennent pas à détecter les contenus artificiels de manière robuste : le rappel (ou recall) mesuré approche 50% au maximum, ce qui signifie que les outils se trompent une fois sur deux sur du texte artificiel,

les méthodes évaluées ne sont pas généralisables à tous les LLM : puisqu'ils reposent sur un entraînement spécifique sur les sorties d'un LLM spécifique, ils ne parviennent pas à détecter les productions d'autres modèles de langages.

L'étude fait par ailleurs l'hypothèse qu'aucune modification n'a été apportée au texte généré, ce qui rend la tâche plus facile, mais semble peu réaliste dans un contexte où une personne souhaiterait utiliser du texte artificiel de manière malicieuse. De plus, ces outils possèdent d'autres défauts. En particulier, un défaut récemment observé est la discrimination des personnes écrivant dans une langue autre que leur langue maternelle, le texte qu'elles auraient généré étant plus fréquemment identifié comme artificiel d'après un article de The Guardian.

Les recommandations des institutions internationales pour la détection de contenus artificiels

Bien que le vide juridique autour de l'IA générative n'existe pas comme précisé dans l'article " Quelles régulations pour la conception des IA génératives ? ", la France ne prévoit pas encore de dispositions particulières pour cette catégorie de systèmes. Similairement, à l'international, si la plupart des principes et recommandations sur l'intelligence artificielle produites par les forums font bien état de la nécessité de garantir la transparence des systèmes d'IA, ces textes restent technologiquement neutres et ne recommandent pas de technologie particulière répondant à cette finalité.

La recommandation de l'OCDE sur l'IA demande ainsi aux acteurs de l'IA de s'engager à assurer la transparence et la divulgation responsable des informations liées aux systèmes d'IA, et notamment d'informer les parties prenantes de leurs interactions avec les systèmes d'IA (que l'on peut interpréter comme à destination des usages en tant que chatbot, comme proposé également par le CNPEN dans son avis sur le sujet), mais sans rien préciser sur la manière de mettre en œuvre pratiquement cette recommandation.
La recommandation de l'Unesco sur l'éthique de l'IA exige également des acteurs de l'IA qu'ils informent les utilisateurs lorsqu'un produit ou un service est fourni directement ou par le biais de système d'IA.

Ces recommandations adoptées respectivement en 2019 et 2021 ne semblent pas prendre la mesure des défis posés par l'IA générative en termes de manipulation de contenus, ces systèmes n'ayant été rendus disponibles auprès du public et intégrés dans de nombreuses applications que récemment. La définition de l'IA proposée par l'OCDE n'inclut ainsi pas les IA génératives (la définition est actuellement en cours de révision). La Convention sur l'intelligence artificielle du Conseil de l'Europe, en cours de négociation, tient compte des IA génératives, mais son article sur la transparence des systèmes d'IA ne préconise pas de technologie en particulier.

Les ministres en charge du numérique du G7 tentent actuellement d'élaborer un code de conduite à destination des développeurs de systèmes d'IA avancés, dans le cadre du processus d'Hiroshima sur l'IA générative. Un des principes directeurs qui intégrera normalement ce futur code de conduite est le développement et le déploiement de mécanismes comme le tatouage numérique et autres techniques permettant à l'utilisateur final d'identifier les contenus générés par des systèmes d'IA.

En juillet dernier, la Maison Blanche a obtenu de quelques grandes entreprises cheffes de file en matière d'intelligence artificielle - Amazon, Anthropic, Google, Inflection, Meta, Microsoft, et OpenAI - une série d'engagements volontaires destinés à assurer le développement de systèmes d'intelligence artificielle sûrs et transparents. Parmi ces engagements, ces entreprises devront développer des mécanismes techniques, comme le tatouage numérique, permettant aux utilisateurs finaux de savoir lorsqu'un contenu est produit par une IA générative.

Il est également intéressant de noter que les mesures provisoires pour la gestion des services d'intelligence artificielle générative récemment adoptées par la Chine exigent l'étiquetage des images, vidéos et autres contenus générés par l'IA, conformément à une réglementation entrée en vigueur début 2023 encadrant les hypertrucages, ou deepfakes/deep synthesis (dispositions administratives sur les hypertrucages dans les services d'information sur Internet, approuvé le 25 novembre 2022). En effet, la Chine est le premier pays à avoir juridiquement encadré les hypertrucages définis comme des technologies qui utilisent des algorithmes génératifs, telles que l'apprentissage profond et la réalité virtuelle, pour créer du texte, des images, de l'audio, de la vidéo, des scènes virtuelles ou d'autres informations. Les fournisseurs de service d'hypertrucage doivent ainsi utiliser des mesures techniques efficaces de marquage qui n'affectent pas l'utilisation des contenus générés par les utilisateurs du service. Les services suivants doivent ainsi faire l'objet d'un étiquetage visible par le fournisseur - car susceptibles de provoquer une confusion ou un malentendu du public :

Dialogue/écriture intelligente, et autres services qui simulent des personnes physiques pour générer ou modifier du texte ;

Services d'édition qui génèrent de la parole telle que des voix humaines synthétisées, des voix imitées ou qui modifient de manière significative les caractéristiques de l'identité personnelle ;

Services d'édition tels que la génération, le remplacement, ou la manipulation de visages, la manipulation de postures et autres générations d'images et de vidéos de personne ou des changement importants dans les caractéristiques de l'identité personnelle ;

Services de génération ou d'édition de scènes de simulation immersive ;

Autres services ayant pour fonction de générer ou de modifier de manière significative le contenu de l'information.

Pour tous les autres services, le fournisseur doit accompagner son service d'une fonction permettant d'étiqueter de manière visible le contenu généré et inviter les utilisateurs du service à utiliser cette fonction. Il est ainsi interdit à toute organisation ou individu d'utiliser des moyens techniques pour supprimer ces étiquetages.

Quel avenir pour le tatouage numérique ?

Devant ce panorama, il semble que le tatouage numérique soit la solution la plus robuste pour détecter les contenus artificiels. Certains risques liés à l'utilisation du tatouage numérique persistent pourtant, bien qu'ils puissent être parfois appréhendés par des mesures spécifiques pour des cas d'usages bien identifiés. Pour les autres, le tatouage numérique pourrait encore manquer de maturité. Voici quelques pistes de réflexion sur l'avenir de cette technique.

La protection des données personnelles lorsqu'elles peuvent être utilisées pour l'entraînement de modèle d'IA

Cette protection semble possible dans la mesure où un tatouage pourrait leur être apposé. Cette pratique, que les hébergeurs (tels que les réseaux sociaux ou les fournisseurs de bases de données) semblent le plus à même de mettre en œuvre concrètement, permettrait d'assurer une traçabilité des données personnelles des utilisateurs et d'éviter qu'elles ne soient collectées par moissonnage puis réutilisées pour l'entraînement de modèles sans qu'il soit possible de prouver cette utilisation a posteriori. Elle pourrait compléter des mesures juridiques (licences, conditions d'utilisation) et d'autres mesures techniques (comme les fichiers de configuration indiquant aux robots des IA d'utiliser ou non certaines données).

La transparence des contenus artificiels

En réalisant un tatouage des contenus artificiels, les fournisseurs d'IA génératives assureraient que ces contenus ne pourront être utilisés dans un contexte trompeur. Les hébergeurs et réutilisateurs des modèles pourraient à leur tour mettre en œuvre les mesures nécessaires pour garantir que le tatouage soit présent et intègre dans les contenus générés et porté à la connaissance des utilisateurs finaux, notamment par des procédés permettant de le rendre visible lorsqu'il ne l'est pas et par des mesures de vulgarisation sur les techniques utilisées. Le tatouage serait toutefois une mesure inefficace à ce jour en ce qui concerne le texte artificiel.

L'atteinte à la réputation des personnes portée par du contenu artificiel

Le risque pour des IA génératives de produire du contenu inexact à propos de personnes est aujourd'hui avéré, qu'il s'agisse d'une erreur, couramment désignée comme des " hallucinations ", ou d'une inexactitude volontaire, comme dans le cadre des hypertrucages, ou deepfakes, par exemple à contenu pornographique ou à visée politique. Le tatouage numérique permettrait dans ce contexte de prouver le caractère artificiel d'un contenu, et offrirait ainsi un recours aux personnes. Toutefois, ici encore, les méthodes permettant de tatouer les textes artificiels pourraient ne pas être suffisamment matures.

L'harmonisation des pratiques

Peu d'initiatives de normalisation des tatouages numériques existent aujourd'hui. Afin d'harmoniser les pratiques et de les généraliser, un recensement des meilleures pratiques semble crucial. Dans cet objectif, l'élaboration de standards sur les techniques citées plus haut apparaîtrait particulièrement bénéfique. L'uniformisation du format des contenus générés artificiellement permise par ces standards pourrait faciliter la lecture des tatouages numériques et promouvoir la mise en œuvre d'outils d'interprétation harmonisés également, notamment par les éditeurs de sites web. Cette tendance est encore inexistante, mais elle pourrait être considérée par les fournisseurs d'IA génératives en lien avec les éditeurs de sites web comme une solution leur permettant de se conformer à la régulation de ces contenus.

# data[].attributes.attachment_link.title
Panorama et perspectives pour les solutions de détection de contenu artificiels [1/2]

# data[].attributes.attachment_link.description
Sommaire : - Panorama et perspectives pour les solutions de détection de contenu artificiels [1/2] - Le tatouage numérique, une mesure de transparence salutaire ? [2/2]

# data[].attributes.attachment_link.readable_text
L'Intelligence Artificielle générative s'immisce de plus en plus dans nos vies à travers des outils (ChatGPT, Midjourney, DALL-E, etc... ) capables de générer des contenus (textuels, visuels et vidéo) de qualité quasi-humaine et à une vitesse inégalée. Nous nous devons de questionner l'impact de cette révolution technologique sur notre société. Il n'est plus seulement question de savoir comment exploiter ces outils, mais aussi et surtout pourquoi et dans quel but.

Data For Good, depuis sa création en 2014, travaille inlassablement à mettre le numérique au service de l'intérêt général. C'est dans cette perspective que nous avons conduit une recherche approfondie sur les enjeux de l'IA générative, ses implications directes et indirectes sur nos vies, notre environnement et notre société.

L'objectif de ce premier rapport est de fournir une analyse détaillée des risques présentés par ces avancées technologiques, tout en proposant des recommandations ciblées aux utilisateurs, aux décideurs et aux développeurs, afin de maximiser l'impact positif de l'IA générative sur la société et minimiser les risques qui lui sont associés.

Ce premier rapport aborde 4 sujets principaux :

1. Fiabilité de l'information : Dans un monde dans lequel l'IA générative peut créer des contenus très réalistes, comment maintenir la confiance dans l'information? Le rapport explore les implications de la diffusion de "deepfakes" et "d'hallucinations génératives", ainsi que des solutions potentielles pour contrer ces problèmes.

2. Propriété intellectuelle et données personnelles : Avec l'IA capable de générer du contenu, les questions de propriété intellectuelle deviennent complexes. Le livre examine les aspects juridiques, les défis et les pistes possibles pour respecter la propriété des artistes et encadrer la génération d'œuvre par IA. Il aborde aussi la notion de respect de la réglementation liée aux données personnelles lors du développement et de l'utilisation de l'IA générative.

3. Biais algorithmiques : Les outils d'IA sont entraînés sur des données qui peuvent contenir des biais inhérents, ce qui peut conduire à des discriminations ou des stéréotypes dans leurs résultats. Le livre blanc souligne ces défis et propose des façons de les atténuer pour créer une IA plus équitable et représentative de la diversité de notre société.

4. Impact environnemental : L'IA n'est pas seulement un défi éthique ou sociétal, mais également environnemental. L'entraînement des modèles d'IA est très énergivore et contribue à l'émission de gaz à effet de serre. Le rapport explore les impacts directs et indirects et les moyens de minimiser cet impact.

"Les meilleurs esprits de notre génération passent leur temps à faire cliquer des gens sur des publicités", a déploré un des premiers employés de Facebook. Et si nous pouvions ensemble redonner un sens à la technologie? C'est la mission que Data For Good s'est donnée. Soyons techno-lucides à l'ère de l'IA générative.

Le livre blanc a été présenté pendant un webinar accessible ici

Contacts (presse, conférences, ...) à genai@dataforgood.fr

Nous publions tous les mois des newsletters sur l'IA générative et ses enjeux sociaux et environnementaux

# data[].attributes.attachment_link.description
L'Intelligence Artificielle générative s'immisce de plus en plus dans nos vies à travers des outils (ChatGPT, Midjourney, DALL-E, etc... ) capables de générer des contenus (textuels, visuels et vidéo) de qualité quasi-humaine et à une vitesse inégalée. Nous nous devons de questionner l'impact de cette révolution technologique sur notre société.

# data[].attributes.headline
Qu'est ce que l'IA sur France infos junior

# data[].attributes.subject
Qu'est ce que l'IA sur France infos junior

# data[].attributes.attachment_link.readable_text
On parle des intelligences artificielles dans franceinfo junior avec Laurence Devillers, professeure en intelligence artificielle à Sorbonne université et chercheuse au CNRS.

Temps de lecture : 6 min

Illustration ChatGPT, le 15 mai 2023. (LE PARISIEN / ARNAUD JOURNOIS / MAXPPP)

Le créateur de ChatGPT organise, lundi 6 novembre, à San Francisco (États-Unis) la première conférence pour les développeurs, le rendez-vous est censé dévoiler les dernières avancées de l'entreprise californienne. L'intelligence artificielle intrigue toujours les enfants de franceinfo junior. On en parle dans cette nouvelle émission avec Laurence Devillers, professeure en intelligence artificielle à Sorbonne université et chercheuse au CNRS, membre du Comité national pilote d'éthique du numérique.Elle est l'auteure notamment du livre Les robots émotionnels aux éditions de l'Observatoire. L'invitée du jour répond aux questions d'élèves de CM2 de l'école Etienne Dolet à Alfortville en région parisienne.

Pour démarrer l'émission, Baptiste veut d'abord savoir "comment sont conçues les intelligences artificielles". Léopold se demande ensuite "pourquoi on trouve que les intelligences artificielles ne sont dangereuses que maintenant alors qu'il y en a plein d'autres qui existaient avant." À propos des capacités de ces IA, Célestine s'interroge : "Ont-ils la vraie intelligence d'un cerveau humain ?" Au tour d'Olivia de prendre le micro : "Est-ce qu'il y a déjà eu des hommes qui ont perdu leur poste pour se faire remplacer par des intelligences artificielles ?"
Sur cette page, réécoutez en entier cette émission franceinfo junior sur les intelligences artificielles.

Partager : l'article sur les réseaux sociaux

# data[].attributes.attachment_link.title
franceinfo junior. Comment sont conçues les intelligences artificielles ?

# data[].attributes.attachment_link.description
On parle des intelligences artificielles dans franceinfo junior avec Laurence Devillers, professeure en intelligence artificielle à Sorbonne université et chercheuse au CNRS.

# data[].attributes.headline
Article court mais clair et récent sur le droit d'auteur et l'IA par la CEST( Commission  de l'éthique en sciences et technologies) du Québec 

# data[].attributes.subject
Article court mais clair et récent sur le droit d'auteur et l'IA par la CEST( Commission  de l'éthique en sciences et technologies) du Québec 

# data[].attributes.attachment_link.provider_name
Commission de l'éthique en science et en technologie

# data[].attributes.attachment_link.readable_text
L'IA générative

Une IA est dite " générative " lorsqu'elle possède la capacité de générer de nouveaux contenus en réponse à des propositions textuelles d'un utilisateur. On peut penser à des plateformes textuelles comme ChatGPT, mais aussi à des plateformes de génération d'images, comme DALLE-E 2, Stable Diffusion ou Midjourney. Pour arriver à ces résultats, les IA génératives doivent être entraînées avec de grandes quantités de données : des textes, des photos ou des images. Or, ces éléments sont parfois protégés par le droit d'auteur. De plus, certains utilisateurs de ces plateformes désirent eux aussi protéger les créations réalisées sur celles-ci à l'aide du droit d'auteur.

Repenser le droit d'auteur

Le Canada a amorcé en 2021 une consultation à propos du droit d'auteur et de l'IA, mais n'a pas encore proposé de modifications à la législation qui permettraient de clarifier les questions de droit d'auteur en lien avec l'IA générative. En mars 2023, le Bureau américain du droit d'auteur a aussi lancé une consultation sur la portée du droit d'auteur sur les œuvres générées à l'aide d'outils d'IA et la possibilité d'utiliser du matériel protégé par le droit d'auteur pour l'entraînement de l'IA. De l'autre côté de l'Atlantique, le Parlement européen a adopté une position en faveur d'une nouvelle loi sur l'IA, qui exigerait notamment des systèmes d'IA générative qu'ils mettent à la disposition du public les résumés détaillés des données protégées par le droit d'auteur utilisées pour leur formation. De plus, en 2022, le gouvernement du Royaume-Uni a déterminé qu'il n'était pas nécessaire de modifier la loi afin de protéger par le droit d'auteur les œuvres produites par l'IA et y a introduit de nouvelles exceptions, afin d'autoriser l'utilisation de contenus protégés par le droit d'auteur dans le cadre du développement de systèmes d'IA. Au cœur de ces réflexions, on retrouve deux questionnements : l'un portant sur la possibilité de reconnaître des agents artificiels comme des auteurs (au sens de la loi), l'autre portant sur la possibilité d'utiliser des œuvres protégées par des droits d'auteurs comme des données d'entraînement.

Utiliser des œuvres protégées pour entraîner des algorithmes?

Au début de l'année 2023, aux États-Unis, trois artistes ont intenté un recours collectif contre Stability AI, Midjourney et DevianArt, qui ont tous les trois développé une plateforme d'IA générative. Selon ces artistes, ces organisations ont violé les lois sur le droit d'auteur en utilisant des images récupérées sur le web afin d'entraîner leurs algorithmes, sans le consentement des auteurs de celles-ci. Par ailleurs, au Royaume-Uni, Getty Image, une agence de photo et une banque d'images, poursuit aussi Stability AI. Non seulement le logiciel d'IA générative présente une tendance à reproduire le filigrane de l'entreprise, mais une étude indépendante a confirmé que des images appartenant à Getty ont été utilisées lors de sa phase d'entraînement.

Ces deux poursuites sont de bons exemples de l'intérêt, mais aussi de l'inquiétude, des artistes et du milieu culturel face à la multiplication des AI génératives et de leur impact sur le régime de droit d'auteur. Les artistes s'inquiètent aussi parce que, ultimement, les IA génératives pourraient leur faire concurrence. Par exemple, l'IA générative est au cœur des revendications de la grève des acteurs et scénaristes d'Hollywood. Les acteurs craignent de perdre le contrôle de leur image (par la création d'images de synthèse à partir de photos, d'enregistrements ou de vidéos) et les auteurs appréhendent leur remplacement par des plateformes telles que ChatGPT.

Des robots auteurs?

En outre, d'autres questions sur les droits d'auteurs concernent les extrants de l'IA générative. Ainsi, la juge américaine Beryl A. Howell a tranché au mois d'août en défaveur de Stephen Thaler, qui désirait faire protéger par le droit d'auteur une image générée par un algorithme qu'il a lui-même créé. Sa décision confirme la position du Bureau américain du droit d'auteur, qui avait déjà refusé la demande de Thaler. Ce dernier voulait faire reconnaître l'algorithme comme créateur de l'œuvre, alors qu'il en aurait été le propriétaire (puisque celle-ci serait alors une œuvre faite sur commande). Dans sa décision, la juge Howell reconnaît que les décideurs doivent se questionner sur le degré d'intervention humaine nécessaire pour protéger les œuvres d'art créées par l'IA. À la différence, les bureaux du droit d'auteur d'autres pays, comme le Canada et l'Inde, ont déjà reconnu à certaines IA le statut d'auteur, alléguant qu'une telle reconnaissance favoriserait l'innovation et l'investissement dans le secteur de l'IA. Néanmoins, la création d'œuvres à partir d'une IA générative peut nécessiter un très grand degré d'intervention humaine et peut constituer une nouvelle façon de faire de l'art (c'est pourquoi on parle maintenant d'" AI artists "). D'ailleurs, certaines entreprises qui développent des outils d'IA considèrent déjà que certains droits reviennent aux utilisateurs. Par exemple, dans ses conditions d'utilisation, OpenAI spécifie que les utilisateurs sont propriétaires du contenu généré par ChatGPT.

L'entraînement équitable

Face à ces interrogations, des chercheurs se sont questionnés sur la légitimité d'invoquer le droit d'auteur contre l'utilisation des contenus protégés comme données d'entraînement. Dans un article rédigé avec l'aide de ChatGPT, un professeur de droit et un professeur d'informatique ont proposé que l'entraînement des IA génératives devait être considéré au même titre que l'utilisation équitable (" fair dealing " au Canada et " fair use " aux États-Unis) et donc ne devrait pas être bloqué par les lois sur le droit d'auteur. La notion d'utilisation équitable permet l'utilisation de contenus protégés par le droit d'auteur dans le cadre de recherche, d'éducation, de parodie, de critique ou de reportage, entre autres, sans courir le risque de faire face à des sanctions. La notion d'entraînement équitable devra toutefois intégrer des balises afin d'assurer aux créateurs que leurs œuvres ne soient pas utilisées à d'autres fins et que les extrants des IA génératives ne soient pas utilisés dans le but de faire compétition aux créateurs ou d'usurper leur identité. Enfin, dans le contexte où les compagnies développant des IA génératives entendent monétiser leur technologie, certains suggèrent que l'équité exige qu'une compensation financière soit versée aux créateurs dont les œuvres servent à entraîner les IA génératives.

En conclusion, les législations sur l'IA générative commencent à intégrer des considérations sur le droit d'auteur, mais les artistes et les autres acteurs restent inquiets face au développement rapide de cette technologie. Une réflexion importante devra être menée afin de déterminer si l'entraînement de l'IA générative pourrait être considéré comme un processus équitable, auquel cas les lois sur le droit d'auteur seraient alors moins contraignantes.

# data[].attributes.attachment_link.title
Intelligence artificielle générative : vers un nouveau régime de droit d'auteur?

# data[].attributes.attachment_link.description
Une IA est dite " générative " lorsqu'elle possède la capacité de générer de nouveaux contenus en réponse à des propositions textuelles d'un utilisateur. On peut penser à des plateformes textuelles comme ChatGPT, mais aussi à des plateformes de génération d'images, comme DALLE-E 2, Stable Diffusion ou Midjourney.

# data[].attributes.headline
Article assez pointu de la chaire éthique et IA de l'université de Grenoble  ( lire seulement l'intro et la partie sur éthique IA)

# data[].attributes.subject
Article assez pointu de la chaire éthique et IA de l'université de Grenoble  ( lire seulement l'intro et la partie sur éthique IA)

# data[].attributes.attachment_link.readable_text
2Génériquement entendue, la notion d'éthique renvoie à une entreprise de type évaluatif, qui souvent coordonne trois dimensions : (1) la définition d'un sens qui apparaît éclairant pour l'action ; (2) le choix de valeurs considérées comme bonnes ; (3) la formulation de principes et de règles. La relation entre ces éléments permet de produire l'évaluation justifiée d'une décision ou d'une action. La forme de raisonnement conduisant à une telle évaluation peut différer entre des argumentations de type conséquentialiste (privilégiant l'examen de la relation entre les causes et les conséquences de l'action), déontologiste (mettant l'accent sur le respect de certaines règles), axiologique ou arétaïque (selon qu'elles privilégient la justification à partir de valeurs ou bien de la recherche de vertus) (Ogien & Tappolet, 2008). L'ambition de l'évaluation éthique peut également varier, selon qu'elle se borne à souligner ce qui apparaît risqué, nocif ou dangereux (limitation volontaire nommée " minimalisme moral ") ou qu'elle envisage d'améliorer la situation en fonction d'une valeur, par exemple le bien ou le juste (" maximalisme moral ") (Ogien, 2007).

3L'éthique de l'IA est l'éthique appliquée qui concerne l'évaluation des systèmes scientifiques, techniques et sociaux qui sont concernés par les algorithmes. Les auteurs et autrices qui œuvrent à cette tâche se distinguent tant par leurs angles d'approche de ce système que par leurs méthodologies variées, à tel point que les finalités de l'évaluation éthique de l'IA apparaissent également variées. L'impression diffuse face à l'abondante littérature académique consacrée à ces thématiques est même parfois celle d'une profusion peu organisée. Cet état de fait peut certes être provoqué par la nouveauté des inventions techniques dont traite cette littérature. Il est cependant permis de soutenir que cela est dû à l'objet que l'on cherche à évaluer, l'intelligence artificielle, terme qui de lui-même se présente de manière complexe et difficile à appréhender de manière univoque, voire unique. En effet, la notion d'intelligence artificielle comprend certes l'écriture du code informatique et la conception des algorithmes, mais également leur mise en œuvre à partir de capteurs de différentes sortes, cette association produisant des données mises en réseau par le biais du numérique (réseaux et plateformes). Doivent encore être ajoutées toutes les expressions robotiques qui en sont possibles, ce qui peut prendre des formes variées, qu'elles soient anthropomorphes ou non. L'expression " éthique de l'IA ", si on veut l'entendre de manière complète, doit donc être entendue comme " éthique de l'IA, de la robotique, du numérique & de la donnée ". Il est possible, au vu de l'extension d'un tel domaine, que l'imprécision relative ou la sous-qualification actuelles de l'éthique de l'IA proviennent de la variété des phénomènes compris sous le terme d'intelligence artificielle.

4Si elles apparaissent variées, les recherches en éthique de l'IA ont comme finalité commune d'être menées par des instances savantes qui énoncent les conditions de l'évaluation éthique. Compte tenu de cette caractérisation, elles peuvent être appréhendées comme des " formations discursives " ou des " discursivités ", par référence à la signification donnée par Michel Foucault à ces termes alors qu'il posait les bases de la relation qu'entretiennent savoir et pouvoir (Foucault, 1969, chapitre 2). Lorsqu'il l'a employée, Foucault semble avoir librement interprété une notion héritée de la linguistique (Maingeneau, 2011). Dans une perspective post-marxiste, il l'a orientée vers une nouvelle phénoménologie du pouvoir, susceptible de dépasser le point de vue individuel au profit de formes sociales, appelées " discours ", qui dans tel ou tel domaine (par exemple le domaine académique), expriment l'autorité légitime, entrent en compétition en installant des formes de contrôle sur la réalité et tendent à revendiquer l'hégémonie sur les autres formes (Sommerer, 2005). Les formations discursives rassemblent des thèmes cohérents mais ne sont pas nécessairement homogènes, elles incluent même des " dispersions " et des " transformations liées et hiérarchisées " (Foucault, 1969, p. 52).

5Une telle approche fournit l'opportunité de concevoir les productions académiques en éthique de l'IA dans une perspective à la fois épistémologique, sociale et politique, et présente les discussions académiques comme autant d'expressions d'une volonté à la fois évaluative et prescriptive adressée à l'intelligence artificielle à partir de l'autorité de la science qui la produit, ou plus exactement à partir de celle des divers discours scientifiques accompagnant son développement. Se produit par ce processus la " fabrique conjointe des sciences et de la société " (Bonneuil & Joly, 2013).

6Nous soutenons plus exactement l'hypothèse que quatre types de formations discursives, irréductibles les unes aux autres, se partagent actuellement le champ de l'évaluation éthique de l'IA. Dans le développement de cet article, nous entreprenons de caractériser ces quatre formes de discours, avant d'examiner leurs relations. Il convient auparavant d'examiner la situation plus générale de ce qu'on nomme l'éthique de l'IA et d'identifier certains éléments de contexte dans lequel elle se déploie. Elle représente en effet un domaine encore mal qualifié en regard d'une attente sociale considérable, ce qui place cette entreprise dans une situation particulière. L'horizon social d'attente vis-à-vis des algorithmes, de la robotique, du numérique et des données peut en effet être qualifié de large et de profond. D'une part, il n'existe apparemment pas de domaines de l'activité ou de sphères de l'existence humaine qui puissent être préservées du développement de ces nouvelles technologies. De l'autre, ces dernières sont susceptibles de transformer profondément aussi bien ces domaines d'activité que certaines de ces sphères : le social comme l'intime peuvent en être bouleversés. La mobilité, la production et la distribution de l'énergie, la santé, la défense et la sécurité, la médecine et l'assistance aux personnes, les communications publiques et privées sont aujourd'hui déjà sous-tendues par ces technologies. En regard d'une telle ampleur, l'éthique appliquée à l'IA se donne pour tâche d'en garantir les usages non nocifs ou bons. On a récemment pu écrire qu'elle se trouve actuellement dans une situation comparable à la bioéthique à ses commencements, selon une analogie qui, aux yeux des experts, apparaît tentante et légitime mais rencontre certaines limites (Chatila, 2022 ; Froidevaux & Adda, 2022).

7En formulant l'hypothèse que la réflexion éthique relative à l'intelligence artificielle prend aujourd'hui quatre formes distinctes, nous entendons souligner que ces discursivités peuvent être identifiées comme les éthiques particulières qui s'en préoccupent. Ce sont les quatre discours suivants : la Computer ethics s'attache aux concepts et aux valeurs éthiques destinés à régir l'écriture informatique ; il s'agit de l'éthique du code ou dans le code. La Robot ethics ou Artificial ethics, également nommée " éthique algorithmique ", vise la programmation des artefacts intelligents destinés à agir entre eux et en société. La Digital ethics entend réguler le numérique, qu'il s'agisse de la conception ou de l'usage des réseaux, des plateformes et des interactions permises par ces outils. Enfin l'éthique des usages de l'IA (que nous proposons de nommer UX AI ethics) est destinée à évaluer les expériences d'implémentation et de déploiement de l'IA dans les secteurs très variés de l'activité sociale où cette tendance se fait jour.

9L'expression " éthique informatique " ( Computer ethics) désigne le travail des mathématiciens-informaticiens, elle concerne l'écriture du code et se confond avec une double volonté exprimée par cette classe de savants et d'ingénieurs : d'une part, celle de comprendre et de maîtriser le fonctionnement leurs propres inventions ; de l'autre, celle de s'assurer de la non-dangerosité de ces dernières, de fournir une garantie de leur qualité pour un usage fiable.

11Les concepts les plus fréquemment employés dans la littérature informatique consacrée à l'IA sont utilisés non seulement comme tels, c'est-à-dire comme des idées caractérisées par une capacité de description des systèmes algorithmiques, mais également comme des valeurs (et dans le cas de la Fairness comme une vertu) qui permettent de les coder dans un sens éthiquement satisfaisant. Voici la liste des concepts très fréquemment employés :

explicabilité ( Explainability),

interprétabilité ( Interpretability),

redevabilité ou capacité d'un système algorithmique à rendre des comptes ( Accountability),

transparence ( Transparency),

fiabilité ( Trustworthiness),

responsabilité, notamment dans l'expression Responsible Artificial Intelligence,

équité ( Fairness), souvent considérée comme une propriété attachée à l'algorithme.

14Lorsqu'on porte attention aux concepts éthiques que se donne la science informatique, celle-ci peut légitimement passer pour une entreprise cohérente, qui se réalise via la conception et la maîtrise d'outils scientifiques et technologiques, les algorithmes, et également via les critères descriptifs et évaluatifs identifiés comme efficaces pour les concevoir et les réguler. Tout se passe avec une telle entreprise comme si l'informatique tendait à réaliser la mise en ordre optimale de ses propres concepts, à l'instar de ce que fut l'entreprise hégélienne de la " science de la logique " (Kervégan, 2012). L'examen de la notion d'explicabilité permet de formuler quelques hypothèses plus précises relatives aux finalités de cette démarche.

15Le terme Explainability est parfois utilisé de manière quasi-synonymique avec celui d'interprétabilité ( Interpretability) bien que les deux ne se confondent nullement (Murdoch et al., 2019 ; Erasmus et al., 2021). Il joue pour la science algorithmique un rôle tout à fait important et représente une des valeurs fondamentales de la computer ethics, sinon sa valeur cardinale. On peut comprendre une telle primauté par référence à la hiérarchie des valeurs ou des vertus, à savoir, une des thématiques fondatrices de la théorie morale : dans la plupart des doctrines d'éthique philosophique orientées vers l'axiologie, certaines valeurs ou vertus sont considérées comme primaires ou cardinales, d'autres comme secondaires ou dérivées 3. C'est pourquoi la thématique de " l'IA explicable " évoquée précédemment ( Explainable Artificial Intelligence ou XAI) apparaît aujourd'hui fondamentale pour la démarche de conception de l'intelligence artificielle, car elle se présente d'elle-même à la fois comme " une barrière " et comme " une caractéristique cruciale pour le déploiement pratique des modèles d'IA " dans le contexte de l'apprentissage automatique ( Machine learning) (Barredo Arrieta et al., 2020). Avec cette thématique, les savants en algorithmique se dotent d'un concept utile pour circonscrire l'incertitude qu'il est nécessaire de réduire dans la compréhension des algorithmes. Ce concept contribue également à identifier les zones obscures récurrentes dans le travail scientifique. D'un point de vue pratique, puisque les algorithmes produisent des données à partir de capteurs et créent des prévisions à partir de ces données agrégées en masse, il s'agit avec l'explicabilité de garantir leur plus grande compréhension possible, ainsi que la qualité des données qu'ils produisent et de ce fait la pertinence des prédictions.

16L'explicabilité représente par conséquent un impératif dont se dotent les mathématiciens-informaticiens en vue de fortifier leur démarche. Envisagée ainsi, elle se confond avec une des tâches ordinaires de la science, tous secteurs considérés. En effet, la démarche scientifique s'attache toujours à expliquer et à maîtriser ses propres méthodes de recherche et entreprend d'identifier et de définir ses objets de la manière la plus précise possible (Popper, 1973). L'explicabilité engage donc la responsabilité des scientifiques vis-à-vis de leurs créations, si bien que l'éthique informatique, envisagée sous cet angle, tend à s'assimiler à la déontologie professionnelle des mathématiciens-informaticiens. Mais tandis qu'elle signifie l'effort et l'engagement de cette catégorie de savants, elle désigne également l'horizon de leur effort. En effet, même si l'explicabilité intégrale d'un algorithme ou d'un ensemble d'algorithmes s'avérait impossible (et alors même que l'apparition des réseaux neuronaux profonds ( Deep Neural Networks) a de fait considérablement augmenté la complexité des systèmes techniques et la difficulté à comprendre le rapport entre les " entrées " et les " sorties " des algorithmes), on pourrait dire que l'explicabilité consiste en un engagement à favoriser son exploration.

17L'explicabilité recouvre de ce fait partiellement un autre critère de l'éthique informatique, celui de la " transparence " ( Transparency). Cette notion représente une valeur particulièrement cohérente et forte, et requiert l'attention. Elle fait partie de ces notions à propos desquelles on peut remarquer que deux significations coexistent (la technique et la courante), et suggérer que la confusion possible entre ces deux significations renvoie à une ambiguïté intéressante. Entendue ainsi que le font les mathématiciens-informaticiens, la transparence paraît désigner la connaissance directe et intégrale d'un système algorithmique. Envisagée en regard de sa signification générale, elle renvoie à l'idéal éthique et politique du type de société, issu du mouvement philosophique des Lumières, où la science, qui éclaire les réalités du monde, joue un rôle fondamental afin d'éclairer l'opinion des citoyens, d'apaiser la peur liée à l'ignorance, voire de guider par son expertise les choix de société (Wheeler, 2019). La signification technique nourrit l'acception courante : la transparence comme accès direct et intégral au système algorithmique contribue à l'effet attendu de la science. En retour, cette dernière légitime la signification technique : comme pour toutes les sciences, celle de l'IA contribue au progrès de la connaissance et au bonheur de l'humain. Toujours est-il que l'explicabilité n'est pas la transparence. Il est même parfaitement possible que le périmètre des deux concepts ne se recouvre jamais, et même que la première soit irréalisable de manière intégrale, sans que cela modifie son importance en tant que principe régulateur de l'informatique.

21Souvent, les expressions " Algorithmic ethics ", " Robot ethics " et " Artificial ethics " regroupent les réflexions portant sur l'ensemble des questions qui concernent le statut (actuel et futur) des êtres artificiels et leurs relations entre eux, avec les humains et les autres êtres naturels (Bostrom & Yudkowsky, 2011). Cette perspective large inclut le questionnement déjà ancien sur la capacité d'un artefact à adopter un point de vue éthique (Versenyi, 1974), et recoupe l'interrogation sur le statut ontologique des êtres artificiels, ce qui inclut le questionnement sur leur désignation même (Dumouchel & Damiano, 2016). Ce secteur du travail académique concerne plutôt les réflexions méta-éthiques ou la théorie morale que l'éthique appliquée. Mais lorsqu'on les entend de ce dernier point de vue, elles désignent l'approche qui regarde la conception et la programmation des machines intelligentes (Veruggio & Operto, 2008 ; Chauvier, 2016 ; Gibert, 2021).

22Ces considérations initiales permettent d'affirmer que la tâche éthique ici envisagée implique les informaticiens et les roboticiens programmant des êtres artificiels, anthropomorphes ou non, actuellement partiellement autonomes. À ce titre, cette formation discursive prend appui sur l'éthique informatique, sans cependant pouvoir y être assimilée : ainsi qu'on a pu le souligner, l'éthique algorithmique " porte sur les " choix " des machines ", c'est-à-dire, comme ces dernières ne sont pas douées d'une véritable autonomie (i.e. capacité à se donner à soi-même sa propre règle d'action), il s'agit de savoir " quels principes moraux implanter dans les voitures autonomes, les robots militaires ou les robots sexuels " (Gibert, 2021, p. 23). À l'heure actuelle, ce secteur du travail ne concerne pas l'éthique de la conscience artificielle, domaine plutôt orienté vers un dialogue entre l'informatique d'une part (Bengio, 2017), et la philosophie de l'esprit, du langage et de la cognition, de l'autre (Dehaene, Lau & Kouider, 2017). Et, s'il en paraît proche, il diffère cependant d'une autre thématique, elle-même topique dans la littérature sur les êtres artificiels aujourd'hui semi-autonomes, peut-être demains autonomes : celle dite du " droit des robots ", s'attachant à déterminer quel statut (ou pour certains auteurs quelle personnalité) juridique doit s'attacher à cette classe d'êtres par la considération de concepts tels que la dignité et la personnalité (voir Nevejans, 2017 ; Gunkel, 2018).

23Bien qu'elle s'appuie sur le travail des informaticiens, l'éthique algorithmique, robotique ou artificielle (ARA) ne saurait donc purement et simplement être intégrée à l'éthique informatique. Sa particularité vis-à-vis de cette dernière tient aussi bien à la nature qu'à la fonction des objets qui sont soumis à ses évaluations. Les algorithmes qui composent un être artificiel sont en effet adressés à des tâches d'intérêt général ou privé dont l'éthique ARA a pour objectif qu'ils soient non-nocifs ou non-néfastes pour les humains. Sans même évoquer les robots anthropomorphes qui commencent à apparaître pour réaliser ces tâches, les êtres évoqués ici sont par exemple les agents conversationnels ( chatbots), les véhicules autonomes et les drones de toutes les tailles, sous toutes leurs formes et dans toutes les dimensions possibles, les instruments domestiques éventuellement reliés entre eux sur le mode de " l'internet des objets " (IoT), enfin les terminaux numériques ( devices) de plus en plus capables d'échanger des informations et même des points de vue avec leurs usagers. Le développement des réseaux de neurones et des techniques d'" apprentissage machine " ( Machine learning) ont changé la donne quant à la capacité de ces objets à devenir actifs, sinon animés. Or, par leur activité, ils constituent autant d'êtres qui non seulement incluent des systèmes d'algorithmes, mais également interagissent avec les humains dans un rapport social. Ce ne sont donc ni des êtres de pur calcul, ni de simples objets techniques. Aussi gagne-t-on à les concevoir comme des dispositifs sociotechniques. Leur qualification ontologique progressive, à mesure du développement de leurs interactions avec le monde, tend d'ailleurs à faire évoluer le débat concernant le statut même des artefacts issus de l'algorithmique et de la robotique (Borelle, 2018).

24Du fait d'une telle dynamique, les modèles mentaux actuellement employés dans le champ de l'éthique ARA sont appelés à être profondément enrichis par la considération attentive tant de la nature que de la fonction de ses propres objets. Aujourd'hui, un des modèles fréquemment évoqué lorsqu'on expose au grand public les rudiments de l'éthique ARA s'incarne dans une argumentation de forme dilemmatique, celle dite du " problème du tramway " ( Trolley Problem) 5, qui se voit appliquée aux circonstances que peut rencontrer un véhicule autonome. Certes, les dilemmes constituent une structure d'argumentation usuelle de la théorie morale (McConnell, 2018). Pourtant, en dépit de son caractère populaire, le dilemme du tramway est fort loin d'avoir jamais ni été accepté sans discussion ni constitué une évidence dans le domaine de la théorie morale, des références anciennes en attestaient déjà (Thomson, 1976). Nonobstant, un célèbre institut de recherche a récemment proposé une simulation de cette argumentation sur une plateforme numérique interactive et convié des milliers d'internautes à opter pour leurs propres choix (voir MIT Moral machines, 2016), avant d'en faire la synthèse dans une publication de référence (Awad et al., 2018). Dans cette utilisation, la forme dilemmatique de l'argumentation permet une schématisation des choix de valeurs (par datavisualisation) et, à en croire certains des concepteurs de l'expérience " Moral Machine ", elle permet de réfléchir à la manière dont les humains peuvent programmer les machines autonomes (Bonnefon, 2021).

25Toutefois, le succès mondial de cette expérience, son caractère populaire, ne suffisent pas à en valider les prémisses. S'il est possible d'interpréter l'usage de l'argument du tramway comme un aspect de la philosophie du risque appelée par le développement social des technologies nouvelles (Geisslinger et al., 2021), il est également permis d'émettre certaines réserves, en soulignant notamment que cette expérience mentale se trouve sous-tendue par plusieurs biais.

26D'une part, on peut formuler le soupçon que le dilemme du trolley tueur, s'il possède une certaine dimension descriptive de la situation d'urgence, revêt une portée éthique limitée. Si l'on attend d'une évaluation éthique qu'elle énonce la meilleure décision à prendre, l'interprétation extrémiste du conséquentialisme qui caractérise cet argument apparait appauvrissant pour le sujet traité. Il correspond en effet à une prise de décision " sous stress ", profondément incapable de poser le débat d'une solution inspirée de principes éthiques tels que l'altruisme ou la considération de l'intégrité irréductible de toutes les personnes.

27D'autre part, il existe d'autres modèles d'argumentation éthique, dont on pourrait dire qu'ils sont déjà implicitement mobilisés par l'éthique ARA, appelés par le caractère de forte interaction des objets dont il convient d'évaluer l'action : les formes déontologique, axiologique et même arétaïque peuvent aisément fournir les bases pour des argumentations d'une certaine pertinence s'agissant d'artefacts insérés dans les relations sociales et humaines. C'est pourquoi la littérature critique dédiée aux manières d'appréhender les problèmes éthiques posés par programmation des véhicules autonomes grâce au dilemme du tramway apparaît aussi abondante que contrastée dans ses avis : véritable lieu d'affrontement, elle apparaît même fortement clivée entre les " Pro " (voir par exemple pour illustrer une telle position Keeling, 2020) et les " Contra " (voir par exemple Nyholm & Smids, 2016). Le débat apparait d'autant moins clos que certaines voies originales sont également tracées, non strictement éthiques mais relevant d'une problématisation de type politique, et susceptibles de le renouveler dans le sens d'une prise en compte des enjeux pratiques des développements technologiques - ce qui laisse entrevoir la perspective d'un certain " maximalisme ", où la décision se voit adoptée en fonction non plus d'un calcul d'utilité privilégiant le raisonnement conséquentialiste, mais d'une idée du bien commun conjuguant le déontologisme des règles et l'axiologisme des valeurs (Rodríguez-Alcázar, Bermejo-Luque & Molina-Pérez, 2020 ; Brandle, 2021).

28Une manière fort différente de signifier la particularité irréductible de l'éthique ARA peut être formulée à partir de la considération de l'ambition ou de la hauteur de la tâche qui doivent être les siennes compte tenu de ses objets d'étude. Tout se passe en effet comme si cette formation discursive avait pour mission principale d'éduquer ces êtres à la fois artificiels, nouveau-nés et, selon une expression employée à propos des humains, " à fort potentiel " quant à leurs facultés de calcul. Or, pour l'espèce humaine comme pour toutes les espèces animales et vivantes, tout processus d'apprentissage ne passe pas seulement par le développement de ses seules facultés intellectuelles, mais également par la réussite du dialogue que ses membres entretiennent avec le monde, et, pour les espèces concernées par l'interaction sociale, par la réussite du processus de socialisation. Il est possible, dans une conception " interactionniste " de l'activité technique, de considérer que les artefacts (et parmi eux les êtres artificiels engendrés par la robotique) ne sont jamais dédiés à des tâches indépendantes de l'interaction sociale, mais qu'ils sont au contraire voués à effectuer des activités profondément dépendantes de celle-ci. Dans le cadre d'une telle philosophie de la technique, le processus d'apprentissage des êtres artificiels gagne à être envisagé comme une socialisation - même s'il s'agit d'une forme de socialisation spécifique, particulière à cette nouvelle espèce, qui peut parfois se trouver réduite à l'effectuation de tâches en lieu et place des humains.

29C'est pourquoi l'éthique ARA ne saurait se réduire à l'éthique informatique. La dimension de la socialisation introduit en effet des éléments tels que la prise en compte des relations humaines qui implique la nécessité du dialogue dans des situations complexes, ou encore l'interaction émotionnelle. Les expressions robotiques de l'IA sont d'ores et déjà en capacité de réaliser de telles interactions avec le monde alentour et avec les êtres naturels (humains et autres animaux), à la fois par la perception de leur environnement (via des capteurs proprioceptifs et extéroceptifs favorisant l'acquisition d'informations, telles que celles fournies par la reconnaissance biométrique), par la compréhension et le traitement du langage naturel, l'interprétation d'images et de représentations diverses, enfin par l'apprentissage supervisé et non supervisé. La machine acquiert d'ailleurs son efficience si et seulement si son apprentissage est aidé par la préparation humaine des données qui nourrissent l'autonomie dont elle est capable (Dumouchel & Damiano, 2016). Une " mauvaise éducation " consiste en un apprentissage supervisé mal réalisé, qui ressemble à une mise en société précoce et insuffisamment préparée. On dit par exemple des agents conversationnels développés sous " apprentissage machine " ( machine learning) qu'ils sont capables d'" apprendre " et " s'éduquer eux-mêmes " de manière quasiment automatique. Véritables agents sociaux à la fois artificiels et non anthropomorphes, ils interagissent avec les humains au sein des pratiques sociales courantes.

30Ces simples faits technologiques apparaissent non seulement intéressants mais encore très importants pour l'avenir des relations humains-machines. Il y a quelques années (mars 2016), l'actualité internationale s'est émue de l'histoire étonnante mais logique de Tay (produit par Microsoft), cet agent conversationnel ayant en quelques dizaines d'heures exprimé des propos sexistes, antisémites et racistes au contact d'un réseau social (Twitter). Or, cet exemple fournit un véritable cas d'espèce qui invite à repenser l'éducation comme une question éthique et politique majeure : celle des artefacts semi-autonomes avec lesquels les humains évoluent d'ores et déjà, aussi bien que celle des humains au contact de ces derniers. L'éthique ARA, si on la saisit sous l'angle d'une de ses principales tâches contemporaines, vise à approfondir les enjeux éthiques et politiques de l'éducation des artefacts à partir de leur caractéristique d'êtres semi-autonomes (Wolf, Miller & Grodzinsky, 2017). La question qu'elle pose, envisagée sous cet angle, se formule ainsi : " comment concevoir philosophiquement la tâche éducative des humains à l'égard de ce genre de machines ? ". Si la considération de la " moralité artificielle " constitue une question examinée depuis un certain temps ayant donné lieu à des élaborations précises (Allen, Smit & Wallach, 2005), elle prend aujourd'hui un tour nouveau.

31Une des pistes en effet susceptibles d'être empruntée par l'éthique ARA consiste à prendre appui sur les modèles exposés par certains auteurs majeurs de la philosophie de l'éducation et de la pédagogie : par exemple celui proposé par Rousseau, dont l'ouvrage Émile ou De l'Éducation est exemplaire de la tentative d'une éducation conjointe à la sensibilité et à la démocratie, mais aussi ceux proposés par Montaigne, Locke et Dewey. Il convient aujourd'hui de tester ces modèles afin de savoir si et dans quelle mesure ils sont pertinents pour le problème de l'éducation des agents conversationnels, et éventuellement de les amender voire de proposer d'autres modèles pour ces nouveaux outils qui induisent des formes mentales originales, notamment à la lumière des apports de l'anthropologie des techniques (par exemple à la manière de Leroi-Gourhan, 1995). La philosophie traditionnelle de l'éducation se voit ainsi invitée à s'enrichir au contact des disciplines qui se sont donné pour tâches la compréhension de la relation entre l'humain et ses artefacts. Cette approche permettra également de préciser la notion d'" interaction " couramment employée : générique et préliminaire, elle semble devoir être précisée et philosophiquement approfondie dans le cadre d'une philosophie sociale plus complète, capable d'intégrer des êtres artificiels considérés comme une quasi nouvelle espèce.

32Entendue de manière étroite, l'éthique numérique (ou éthique du numérique) concerne l'évaluation des interactions engendrées par l'activité humaine sur les réseaux et les plateformes. À ce titre, elle semble relever des risques engendrés sur le plan humain par la logique contemporaine de l'information et de la communication (voir par exemple Chardel, 2020). Envisagée sous cet angle, l'éthique numérique est celle de l'information, déjà bien identifiée (Floridi, 2013 ; Berns & Reigeluth, 2021). Il apparaît toutefois légitime et pertinent de l'envisager autrement, en élargissant sa portée. Certaines approches revendiquent d'ailleurs déjà un tel élargissement de l'éthique du numérique, la considérant non comme une éthique appliquée, mais comme une éthique fondamentale (Vitali Rosati, 2012). Une approche encore plus extensive est également possible pour l'éthique numérique, qui étend son spectre de compréhension et d'action à l'ensemble de l'IA. Considérer que l'éthique numérique incarne par elle-même l'éthique de l'IA semble une revendication légitime, compte tenu du phénomène qu'un auteur a identifié de manière éloquente comme " la numérisation globale des systèmes supportant l'activité humaine " (Baumard, 2017, p. 241). Cette revendication se trouve également assumée par les auteurs (qui, dans leur majorité, sont informaticiens de profession) de l'ouvrage de référence Pour une éthique du numérique, récemment publié par le Comité national d'éthique en charge de ces questions 6. Et il ne fait aucun doute que cette extension se trouve validée par la mise en relation généralisée, via internet, des algorithmes et des moindres objets de la vie quotidienne, en particulier dans le cadre de configurations telles que l'Internet des objets ( IoT - voir Howard, 2015 ; Pickering, 2019) et des " villes intelligentes " ( smart cities - voir Picon, 2013 ; Caccamo et al., 2019). Il est également possible de parvenir à la même conclusion lorsqu'on se montre attentif aux transformations en cours de la médecine et du soin (télémédecine, médecine connectée, e-médecine), avec notamment l'apparition de " terminaux embarqués " (selon la thématique désignée comme embodied computing, voir Pedersen & Iliadis, 2020), c'est-à-dire d'instruments miniaturisés incorporés capables de mesurer l'activité depuis l'intérieur du corps des patients, voire de remédier aux dysfonctionnements pendant et avant la crise pathologique, et de ce fait susceptibles de bouleverser la définition même de la santé et de la maladie en brouillant les limites entre le normal et le pathologique par des pouvoirs de prédiction considérablement accrus.

33Même envisagée de manière restreinte, l'éthique numérique rencontre des problèmes variés qui relèvent des multiples dimensions dans lesquelles se déploie aujourd'hui internet. Schématiquement envisagés, ces problèmes apparaissent fort diversifiés. D'abord le déploiement du numérique par le biais des institutions à travers les plateformes visant l'accès des citoyens à l'État et plus généralement à la chose publique. Ensuite, le développement par les organisations privées de systèmes d'information destinés à leurs salariés qui subissent aujourd'hui la transformation digitale du management et du travail. Enfin, l'essor du numérique dans la société toute entière via les plateformes et les réseaux ouverts au public, notamment dans des conditions commerciales de fonctionnement (par exemple les problèmes qui émergent du fait de l'apparition du marketing digital). Par ailleurs, les risques éthiques nouveaux engendrés par la " santé connectée " ou " e-santé " constituent un cas de figure à part entière, où convergent des problématiques socio-techniques originales et d'autres, mieux connues, issues de la bioéthique.

34Concernant le déploiement du numérique au sein des institutions, une approche en termes de science politique apparait aujourd'hui nécessaire pour appuyer le dessein visé par l'éthique numérique. Cette approche permettrait en effet d'élucider la manière dont l'expertise algorithmique se trouve actuellement requise pour assister la puissance publique, voire pour " l'augmenter ". Ainsi qu'on l'a récemment souligné, le recours au numérique pour les tâches qui incombent traditionnellement aux institutions (de l'état-civil à la Justice, en passant par la sécurité, l'éducation, la gestion des ressources patrimoniales, etc.) transforme potentiellement le sens du service public et ouvre de ce fait un registre inédit de l'éthique publique (Ménissier, 2022). Devant une telle évolution, le conséquentialisme, dont l'ambition demeure toujours " minimaliste " en composant des calculs d'utilité créés ad hoc en fonction de chaque cas examiné, paraît devoir être complété par une approche davantage " maximaliste ". En effet, l'examen de ces questions implique des débats portant sur la possibilité d'adopter des règles générales (ce qui requiert les problématiques que la théorie morale nomme déontologistes) et de s'orienter d'après des valeurs (ce qui appelle les problématiques axiologiques et arétaïques) (pour une tentative en ce sens, voir Coeckelbergh, 2022).

35Concernant le déploiement des algorithmes dans les systèmes d'informations des entreprises, les transformations du travail (télétravail, management digital) correspondent à une augmentation des risques psycho-sociaux (RPS) qui relève elle aussi, mais sous un angle de vue différent, du champ de l'éthique numérique (dimension notamment soulignée par Spach, 2020). Sur cet aspect également, puisque la forme de raisonnement requise concerne la dimension sociale des conditions de travail, les éthiques déontologiques et axiologiques relaient le conséquentialisme.

36La même remarque peut être faite concernant l'essor du numérique dans la société au sens large, où il est possible d'appréhender la situation par référence à la thématique de " l'économie de l'attention ", qui évoque la captation des humains par les médias électroniques et par les firmes commerciales sur des réseaux et des plateformes, devenus des lieux de consommation intensive (Kessous, Mellet & Zouin, 2010 ; Citton, 2014).

37On peut enfin remarquer que la caractérisation de l'éthique numérique révèle l'importance de certaines valeurs qui, si elles ne sont pas absolument spécifiques (car on les retrouve dans les autres formations discursives de l'IA), peuvent dans ce cas être considérées pour elles comme cardinales. Dans l'usage lato sensu du numérique, peuvent être appréhendées de la sorte la transparence, l'inclusion et le respect des données personnelles ( Privacy). Dans l'usage institutionnel qu'en font les instances publiques (services de l'État, collectivités territoriales), les valeurs engagées peuvent être qualifiées de républicaines (car elles reposent sur l'idée d'une chose commune non appropriable par les individus particuliers, le service public). Enfin, dans son usage commercial ou dans le secteur de la santé et des soins, peuvent être ajoutées l'autonomie des consommateurs et le respect de la vulnérabilité des personnes. Sont mobilisés ici des valeurs fortes et substantielles, i.e. reposant sur une idée du bien qui n'est pas relative comme c'est le cas dans les raisonnements conséquentialistes. Ces valeurs s'apparentent aux vertus visées par l'approche arétaïque. Dans son principe même, en dépit des critiques exprimées par les tenants du minimalisme moral, l'éthique du numérique pensée d'après la recherche des vertus semble donc parfaitement pertinente pour l'évaluation envisagée sous cet angle (voir à ce propos Vallor, 2016).

40Un exemple peut être fourni afin d'illustrer ces tâches, valant comme un véritable cas d'usage, celui du véhicule autonome (automobile, drone) déjà évoqué plus haut à propos de l'éthique ARA. La question générique posée par l' UX IA ethics, fort différente de celles qu'adresse cette dernière, se formule de la sorte : dans quels usages est-il éthique (c'est-à-dire bon ou " utile ", juste et bien) de déployer un tel artefact ? La première tâche identifiée plus haut décline ainsi cette question : en vue de quelles finalités et au nom de quelles valeurs adopter cette technologie ? La deuxième adresse également cette autre question : jusqu'où et comment s'exprime la confiance dans le système technique de l'IA et que signifie-telle pour les acteurs du système ? La troisième se formule ainsi : comment, dans cet usage, se redéfinissent l'agentivité et la liberté humaines d'une part saisies comme des réalités observables à travers des comportements d'usagers, et de l'autre en tant que valeurs ou principes fondateurs des usages 7 ? Les réponses apportées à ces questions successives permettent de répondre à ces interrogations telles que : de quel point de vue l'usage de cette technologie peut-il être qualifié de bon ? Pour qui l'est-elle ? Et pour quelles raisons ?

42La démarche méthodologique propre à l'éthique des usages de l'IA peut être qualifiée en regard de certains standards de théorie morale qui assurent la démarche de l'éthique appliquée lorsqu'elle vise à dépasser le minimalisme utilitariste tout en faisant preuve de prudence (voire d'une certaine réserve) quant au caractère objectif ou à la nature substantielle des valeurs. Elle s'apparente ainsi à la théorie de " l'équilibre réfléchi " ( Reflective Equilibrium), démarche anti-fondationnaliste et cohérentiste formulée par John Rawls (Rawls, 1999, pp. 47-48, 72-75 ; Daniels, 1996 et 2003), qui consiste en un va-et-vient entre quatre niveaux distincts : (1) la prise en considération des jugements éthiques " dominants " sur des cas concrets, inspirés, de la part de ceux qui les portent, par leur culture et leur intuition ; (2) l'observation scrupuleuse des cas, amplifiée par leur description minutieuse ; (3) l'identification des principes éthiques généraux qui régissent les jugements ; (4) la réflexion des facteurs d'acceptation de ces principes (tels par exemple que la confiance dans l'IA). Rapportée à une éthique des usages, la théorie dite de l'" équilibre réfléchi " présente le mérite d'être dynamique : elle fournit, du fait de son caractère itératif, un canon permettant sinon de forger, du moins de renforcer le jugement éthique, jamais totalement considéré comme définitif, lors de chacune des tentatives d'évaluation.

43L'éthique des usages de l'IA procède, précisément, des usages 8. Ce qui signifie qu'elle implique dans sa démarche les parties prenantes de la conception et de l'usage des systèmes d'algorithmes, à savoir, les concepteurs informaticiens et roboticiens des dispositifs sociotechniques, les usagers de différents niveaux, les prescripteurs de ces systèmes (responsables des pouvoirs publics, direction et services des organisations privées), enfin les social scientists susceptibles d'approfondir par leurs méthodologies respectives les angles de vue ouverts par les divers terrains d'implémentation des systèmes d'IA (économie, sociologie, psychologie sociale, anthropologie, philosophie technique et politique). La démarche, que l'on pourrait qualifier de " compréhensive-évaluative " vise à nourrir la posture la compréhension, au sens que les sciences sociales donnent à ce terme, afin de parvenir à une évaluation éthique pertinente. Peut être qualifiée de " compréhensive " une posture qui saisit les intentions que les acteurs des usages mettent dans leur pratique (Schnapper, 2012). En d'autres termes, l'éthique des usages de l'IA émet des jugements évaluatifs en fonction du sens que les acteurs incluent d'eux-mêmes dans leur pratique. Elle ne statue donc nullement a priori sur des valeurs qui seraient envisagées comme intrinsèquement bonnes ou mauvaises. Puisqu'elle offre le moyen d'" incarner " les situations sociales et professionnelles variées où l'implémentation des systèmes d'IA transforme les pratiques, elle observe et documente les situations vécues par les diverses catégories d'usagers, situations où s'expriment des affects et des réactions dont la prise en compte permet de valider, d'affiner, de nuancer ou de corriger cette implémentation.

44En donnant la parole aux usagers, l' UX AI ethics déplace le centre de gravité de la décision éthique. Ce déplacement provoque plusieurs déséquilibres qui enrichissent l'éthique de l'IA. D'une part, la hiérarchie des valeurs fondatrices de l'éthique de l'IA se trouve modifiée : celles qui se situent à l'interface entre le déploiement des systèmes d'algorithmes et sa réception dans des contextes sociaux complexes peuvent alors être considérées non plus comme secondaires, mais véritablement cardinales. Ainsi la notion d'équité ( fairness), simple vertu des algorithmes dans la définition qu'en donnent couramment les concepteurs de l'IA ( Computer ethics), devient, dans une approche par les usages visant une évaluation éthique, une valeur principale, bien que redoutable à préciser (Selbst et al., 2019). De l'autre, ces valeurs se trouvent redéfinies par le travail d'évaluation : précisément puisque que les contextes d'implémentation de l'IA sont sous-tendus par des formes avérées de domination sociale (voir à cet égard Fuchs, 2014 ; Casilli, 2019), cette notion d'équité ( fairness) peut être l'objet de véritables conflits de définition, l'enjeu de sa caractérisation est susceptible de devenir un lieu de tension entre les parties prenantes.

45Ces conflits et cette tension n'apparaissent pas seulement intellectuellement intéressants, ils sont également tout à fait importants, dès lors que l'on se montre attentif aux promesses de l'implémentation des systèmes d'algorithmes dans la société. L'horizon d'attente envers de tels systèmes, promus tant par leurs concepteurs que par leurs prescripteurs (autorité publique, responsables des organisations privées) est en effet présenté comme celui de sociétés certes assistées mais aussi, au moins implicitement, améliorées par de l'IA. Dans un tel contexte, il est permis de soutenir que le débat éthique débute lorsque de tels conflits de valeur sont rendus visibles, car ils constituent l'occasion de se demander explicitement et publiquement si et comment il est pertinent d'assister les pratiques sociales à l'aide de telles technologies, en fonction du point de vue varié des parties prenantes. Ainsi les systèmes d'algorithmes se voient confrontés aux différents " terrains " où ils vont être implémentés. Et la prise en compte de la possible résistance à l'implémentation constitue un facteur important dans le débat éthique " maximaliste " qui, dans ce cas, porte sur la définition de la société souhaitable. En ce sens, la démarche de l' UX AI Ethics implique que l'évaluation éthique soit complétée par des procédures qui évoquent la participation des parties prenantes et les formes de la délibération politique.

46Tels qu'ils sont observés puis réfléchis par cette formation discursive, les usages de l'IA sont transformés en véritables cas d'usage ( Use case), et possèdent à ce titre une valeur heuristique. C'est-à-dire qu'ils sont susceptibles de revêtir de l'importance pour un savoir qui procède par l'examen des cas topiques pour des secteurs variés, tels que la défense et la sécurité, l'environnement, la mobilité, la santé, la justice - autant de domaines où se déploient actuellement des systèmes d'IA d'une variété presque inquantifiable. Un des points d'alerte soulignés (O'Neil, 2016 ; Crawford, 2021) tient en ce que, étant produits par le travail de programmateurs vivant dans des mondes sociaux traversés par des valeurs implicites, dans la banalité de leur tâches courantes ces systèmes enregistrent des données et peuvent prendre des décisions régies par des choix de valeurs qui ne sont pas neutres et ne peuvent aucunement l'être.

48Il est possible, pour résumer notre démarche, de présenter de manière synthétique les quatre éthiques de l'IA sous la forme d'un tableau (tableau 1).

Tableau 1 : tableau synthétique des éthiques de l'IA

Source : Thierry Ménissier.

49Si les éthiques particulières visent toutes les quatre, de manière parfaitement explicite, à permettre une évaluation de l'intelligence artificielle, elles diffèrent toutefois les unes des autres par plusieurs aspects notables : leurs méthodologies sont variées ; les hiérarchies de valeurs et les valeurs cardinales qui guident l'évaluation ne sont pas tout-à-fait identiques ; les finalités particulières qu'elles poursuivent (en fonction du type de travail précis auquel elles s'emploient) peuvent être distinguées les unes des autres.

50Ces différences s'expliquent par trois sortes de raisons. Des raisons qui tiennent à l'objet étudié, d'abord : leurs orientations respectives traitent certains aspects particuliers du phénomène global (à la fois scientifique, technique et social) génériquement nommé " IA ". Des raisons liées aux moyens engagés pour mener à bien la tâche, ensuite : elles reflètent des spécificités issues de " métiers " variés, à savoir, respectivement à chaque formation discursive décrite plus haut : les informaticiens ; les roboticiens ; les data analysts et les managers digitaux ; les designers des usages (dans le cadre de l' User Experience ou UX), les usagers et les social scientists. Des raisons qui relèvent enfin des " donneurs d'ordre " sur les différents segments de la production du phénomène socio-économique IA : laboratoires de recherche informatique et robotique (qu'ils soient publics ou privés) pour les deux premières formes d'éthique ; développeurs des plateformes et des réseaux numériques pour la Digital Ethics ; " Labs " d'usages développés par des grands groupes industriels, des services publics (État, collectivités territoriales, services d'innovation ouverte des hôpitaux, etc.) ou par des associations et des organisations non gouvernementales (ou Think tanks) pour l' UX IA design.

51Cette situation de segmentation est intéressante sur le plan épistémologique, car elle apparaît pertinente pour entendre, concernant chaque formation discursive, le type de démarche et la nature de la connaissance produite. Sur le plan factuel, elle induit certaines conséquences importantes. Les quatre éthiques n'ont que peu tendance à collaborer. Une telle conséquence peut apparaître préjudiciable à la fin qu'elles poursuivent (à savoir, génériquement entendue, réguler éthiquement la conception et le déploiement de l'IA), compte tenu notamment de la profondeur et du caractère systémique de ce déploiement. Une des raisons de cet état de fait concerne la méthodologie des approches éthiques : les secteurs du travail scientifique examinés dans cette contribution relèvent de métiers qui reposent sur des savoir et des savoir-faire différents. Le choix de méthodologies de type conséquentialiste, déontologique ou axiologique-arétaïque reflète cette division. Il est possible qu'une autre raison de cet état de fait provienne de l'ambition respective des approches : sur le spectre des éthiques de l'IA, il existe une tension entre le " minimalisme " de l'éthique informatique (visant à limiter les nuisances possibles provoquées par les artefacts) et la tendance " maximaliste " de l'éthique des usages de l'IA (invitée à se prononcer sur le caractère éthiquement pertinent de telle ou telle implémentation de systèmes d'IA dans la réalité sociale). Or, la littérature atteste de la difficulté à faire agir ensemble des discours éthiques divergents quant à leur ambition (Ogien, 2007 ; Ogien & Tappolet, 2008 ; Billier, 2010).

52On peut également formuler l'observation que les éthiques particulières sont caractérisées par une forme d'ambiguïté mutuelle : bien qu'il n'existe pas réellement de dialogue entre elles, il est impossible qu'elles s'ignorent complètement. On peut ainsi observer certaines évolutions significatives par rapport à leur situation respective. Ainsi, compte tenu de l'importance des usages et des valeurs sociales implicites dans le monde où s'implémentent les systèmes algorithmiques, émerge depuis quelques années une orientation de la Computer ethics désignée comme Value Sensitive Design (VSD). Cette orientation vise à rendre possible la conception d'algorithmes sensibles aux valeurs sociales et mobilise pour y parvenir le co-design des parties prenantes (Zhu et al., 2018 ; Umbrello, 2019). Cela constitue un pas vers une évaluation éthique plus complète, caractérisée par une circularité méthodique entre d'une part la conception des artefacts et de l'autre la prise en compte des usages sociaux et culturels, envisagés comme ce qui confère à ces derniers leur sens complet.

Cet article est le fruit du travail scientifique qui est mené dans le cadre de la chaire " éthique & IA " soutenue par l'institut pluridisciplinaire en intelligence artificielle MIAI@Grenoble Alpes (ANR-19-P3IA-0003).

# data[].attributes.attachment_link.title
Les quatre éthiques de l'intelligence artificielle

# data[].attributes.attachment_link.description
El objetivo de este artículo es contribuir a aclarar la noción de ética de la inteligencia artificial (IA). Para llevar a cabo esta tarea, se examina la hipótesis de que existen cuatro formas de discurso, de modo que hay cuatro éticas de la IA: la ética informática; la ética algorítmica, robótica o artificial; la ética digital; y la ética de los usos de la IA (o UX AI ethics).

# data[].attributes.headline
Chronique d'Audrey Delaunay, directrice UNESCO sur l'éthique de l'IA ( le frame indique une erreur mais le lien marche bien)

# data[].attributes.subject
Chronique d'Audrey Delaunay, directrice UNESCO sur l'éthique de l'IA ( le frame indique une erreur mais le lien marche bien)

# data[].attributes.headline
Exemples de dilemnes éthiques autour de l'IA recensés par l'UNESCO

# data[].attributes.subject
Exemples de dilemnes éthiques autour de l'IA recensés par l'UNESCO

# data[].attributes.attachment_link.title
L’intelligence artificielle : exemples de dilemmes éthiques

# data[].attributes.attachment_link.description
L’utilisation de l’IA dans le domaine de la culture soulève des réflexions éthiques intéressantes.

# data[].attributes.headline
Le Parlement européen et l'éthique autour de l'IA

# data[].attributes.subject
Le Parlement européen et l'éthique autour de l'IA

# data[].attributes.attachment_link.readable_text
Dans le cadre de sa stratégie numérique, l'UE souhaite réglementer l'intelligence artificielle (IA) pour garantir de meilleures conditions de développement et d'utilisation de cette technologie innovante. L'IA peut apporter de nombreux avantages, tels que de meilleurs soins de santé, des transports plus sûrs et plus propres, une fabrication plus efficace, ainsi qu'une énergie moins chère et plus durable

En avril 2021, la Commission européenne a proposé le premier cadre réglementaire de l'UE pour l'IA. Il propose que des systèmes d'IA qui peuvent être utilisés dans différentes applications soient analysés et classés en fonction du risque qu'ils présentent pour les utilisateurs. Les différents niveaux de risque impliqueront plus ou moins de réglementation. Une fois approuvées, ces règles seront les premières au monde sur l'IA.
En savoir plus sur ce qu'est l'intelligence artificielle et comment elle est utilisée.
Ce que le Parlement veut dans la législation sur l'IA

La priorité du Parlement est de veiller à ce que les systèmes d'IA utilisés dans l'UE soient sûrs, transparents, traçables, non discriminatoires et respectueux de l'environnement. Les systèmes d'IA devraient être supervisés par des personnes plutôt que par l'automatisation, afin d'éviter des résultats néfastes.

Le Parlement souhaite également établir une définition uniforme et neutre sur le plan technologique de l'IA qui pourrait être appliquée aux futurs systèmes d'IA.
En savoir plus sur les travaux du Parlement sur l'IA et sa vision de l'avenir de l'IA.
Loi sur l'IA : des règles différentes pour différents niveaux de risque

Les nouvelles règles établissent des obligations pour les fournisseurs et les utilisateurs en fonction du niveau de risque lié à l'IA. Bien que de nombreux systèmes d'IA présentent un risque minimal, ils doivent être évalués.

Risque inacceptable

Les systèmes d'IA à risque inacceptable sont des systèmes considérés comme une menace pour les personnes et seront interdits. Ils comprennent:

* la manipulation cognitivo-comportementale de personnes ou de groupes vulnérables spécifiques : par exemple, des jouets activés par la voix qui encouragent les comportements dangereux chez les enfants

* un score social : classer les personnes en fonction de leur comportement, de leur statut socio-économique, de leurs caractéristiques personnelles

* des systèmes d'identification biométrique en temps réel et à distance, tels que la reconnaissance faciale

Certaines exceptions peuvent être autorisées : par exemple, les systèmes d'identification biométrique à distance "a posteriori", où l'identification se produit après un délai important, seront autorisés à poursuivre des crimes graves et seulement après l'approbation du tribunal.

Risque élevé

Les systèmes d'IA qui ont un impact négatif sur la sécurité ou les droits fondamentaux seront considérés comme à haut risque et seront divisés en deux catégories.

1. Les systèmes d'IA qui sont utilisés dans les produits relevant de la législation de l'UE sur la sécurité des produits. Cela comprend les jouets, l'aviation, les voitures, les dispositifs médicaux et les ascenseurs.

2. Les systèmes d'IA relevant de huit domaines spécifiques qui devront être enregistrés dans une base de données de l'UE :

* l'identification biométrique et la catégorisation des personnes physiques

* la gestion et l'exploitation des infrastructures critiques

* l'éducation et la formation professionnelle

* l'emploi, la gestion des travailleurs et l'accès au travail indépendant

* l'accès et la jouissance des services privés essentiels et des services et avantages publics

* les forces de l'ordre

* la gestion de la migration, de l'asile et du contrôle des frontières

* l'aide à l'interprétation juridique et à l'application de la loi.

Tous les systèmes d'IA à haut risque seront évalués avant leur mise sur le marché et tout au long de leur cycle de vie.

IA générative

L'IA générative, comme ChatGPT, devrait se conformer aux exigences de transparence :

* indiquer que le contenu a été généré par l'IA

* concevoir le modèle pour l'empêcher de générer du contenu illégal

* publier des résumés des données protégées par le droit d'auteur utilisées pour la formation

Risque limité

Les systèmes d'IA à risque limité doivent respecter des exigences de transparence minimales qui permettraient aux utilisateurs de prendre des décisions éclairées. Après avoir interagi avec les applications, l'utilisateur peut alors décider s'il souhaite continuer à l'utiliser. Les utilisateurs doivent être informés lorsqu'ils interagissent avec l'IA. Cela inclut les systèmes d'IA qui génèrent ou manipulent du contenu image, audio ou vidéo (par exemple, les deepfakes, des contenus faux qui sont rendus crédibles par l'IA).

Prochaines étapes

Le 14 juin 2023, les députés européens ont adopté leur position de négociation sur la loi sur l'IA. Les pourparlers vont maintenant commencer avec les pays de l'UE au sein du Conseil sur la forme finale de la loi.

L'objectif est de parvenir à un accord d'ici la fin de l'année.
En savoir plus sur l'action numérique de l'UE :
* Dangers de la crypto-monnaie et avantages de la législation de l'UE

* Lutte contre la cybercriminalité : les nouvelles lois européennes sur la cybersécurité expliquées

* Stimuler le partage des données dans l'UE : quels sont les avantages ?

* Législations de l'UE sur les marchés numériques et sur les services numériques

* Cinq façons dont le Parlement européen veut protéger les joueurs en ligne

# data[].attributes.attachment_link.title
Loi sur l'IA de l'UE : première réglementation de l'intelligence artificielle | Actualité | Parlement européen

# data[].attributes.attachment_link.description
L'utilisation de l'intelligence artificielle dans l'UE sera réglementée par la loi sur l'IA, la première loi globale sur l'IA au monde. Découvrez comment elle vous protégera.

# data[].attributes.attachment_link.description
Scan & Detect Deepfake Videos Scan a suspicious video to find out if it's synthetically manipulated GO TO SCANNER Enemy at the Gates Cybersecurity faces an emerging threat generally known as deepfakes. Malicious uses of AI-generated synthetic media, the most powerful cyber-weapon in history is just around the corner.

# data[].attributes.attachment_link.readable_text
Analyze your image and video files with our proprietary deepfake detection solution. Our API is designed to recognize the latest AI-based media manipulation and synthesis techniques, including fake human faces in social media profiles, and realistic face swaps in videos.

# data[].attributes.attachment_link.title
Top Deepfake Detection Solution | New AI Image Detection

# data[].attributes.attachment_link.description
Innovative forensic deepfake detection technology and AI image detection to catch media manipulation and synthesis techniques. Sensity AI.

# data[].attributes.body
Traduction par la Sorbonne du cours de la fac d'Helsinki. Cours sur le fonctionnement de l'IA. Abordable mais assez long.

# data[].attributes.attachment_link.readable_text
Au printemps 2018, MinnaLearn et l'Université d'Helsinki se sont réunis pour aider les gens à se sentir plus forts, et non pas menacés, par l'IA. Ensemble, ils ont construit les Éléments de l'IA pour enseigner les principes de base de l'IA à des personnes issues d'horizons très divers.

# data[].attributes.attachment_link.title
Une introduction gratuite en ligne sur l'intelligence artificielle pour les non-spécialistes

# data[].attributes.attachment_link.description
Au printemps 2018, MinnaLearn et l'Université d'Helsinki se sont réunis pour aider les gens à se sentir plus forts, et non pas menacés, par l'IA. Ensemble, ils ont construit les Éléments de l'IA pour enseigner les principes de base de l'IA à des personnes issues d'horizons très divers.

# data[].attributes.attachment_link.title
1 heure d'action pour l'éducation ! Septembre 2023 / Produire des Ressources Éducatives Libres (REL) avec l'intelligence artificielle | Open Education Global Francophone

# data[].attributes.body
Évaluer l'information, nouveaux enjeux face au développement rapide de l'IA

Avec l’émergence du numérique et le flux d’information continu, l’importance de la validité de

l’information devient primordiale dans la formation des futurs citoyens.

À travers ce groupe transdisciplinaire, il sera question de mettre en œuvre des scénarios

pédagogiques qui aborderont :

• la notion d’éthique et de responsabilité de l’homme face au développement des technologies comme l’intelligence artificielle

• la notion du statut de l'image et ses conséquences sur la réception ; son traitement médiatique et au travers de l’IA, sa manipulation , son détournement

# data[].attributes.attachment_link.readable_text
En date de l'été 2023, l'Oregon State University a élaboré une série de conseils et de guides pour l'utilisation d'outils d'intelligence artificielle (IA) par le corps enseignant. Partant de la prémisse que les technologies IA évoluent rapidement, il y a suggestion d'une approche basée sur l'usage de ces outils IA à partir de cadres et de valeurs de manière à maximiser les bénéfices pour les actrices et acteurs de l'éducation et la communauté étudiante, tout en minimisant les risques possibles.

Plus particulièrement, l'article présente de manière non exhaustive, des pistes d'analyse des tâches d'apprentissage et d'évaluation à partir de la taxonomie de Bloom révisée par Anderson et Krathwohl afin :

d'évaluer comment les étudiants et étudiantes pourraient utiliser les outils IA pour les activités d'apprentissage et les évaluations ;

d'identifier les compétences humaines distinctives que le personnel enseignant peut continuer à promouvoir et à évaluer dans l'apprentissage.

Voici une traduction libre de l'infographie originale de l'Oregon State University (2023). Cette infographie illustre une adaptation de la taxonomie de Bloom révisée pouvant être utilisée, dans un contexte éducatif, comme référence pour évaluer et apporter des modifications à des activités pédagogiques et à des évaluations en tenant compte de deux perspectives, soit : les capacités des outils d'intelligence artificielle (IA) générative et le caractère unique des compétences humaines.

[ Télécharger la version PDF]

L'analyse permet une réflexion sur l'impact de l'IA, peu importe que la personne enseignante soit ou non encline à intégrer l'IA dans ses activités, ou à demander aux personnes apprenantes d'intégrer ces outils dans leurs processus d'apprentissage.

Pour explorer en salle de classe

Les personnes enseignantes souhaitant aller de l'avant avec l'utilisation de l'IA en classe pourront ainsi mieux planifier leurs activités, l'implication possible de l'IA générative choisie et les compétences que devront développer les apprenants et apprenantes selon le niveau taxonomique de l'activité en question.

Par exemple, l'article propose qu'une activité du niveau taxonomique Comprendre pourrait inviter les personnes apprenantes à utiliser l'IA générative pour aider à définir des concepts. Il pourrait ensuite être demandé à ces personnes de contextualiser ces concepts avec les ressources présentes dans leur environnement ou en faisant des liens avec le domaine affectif (selon le sujet).

Des exemples sont donnés pour chacun des niveaux dans l' article de l'Oregon State University afin d'inspirer ceux et celles qui aimeraient explorer différentes idées.

Un domaine en constante évolution

Bien entendu, au fur et à mesure que les capacités de l'IA augmentent et évoluent, les compétences humaines distinctives à mettre en avant auront besoin d'être modifiées en conséquence. Il s'agit donc de pistes d'analyse contextualisées aux outils disponibles à l'été 2023.

Comme on peut le constater, l'article conclut que toutes les activités et évaluations menées dans un contexte éducatif bénéficieront d'une révision compte tenu des capacités des outils IA, mais, celles aux niveaux Mémoriser et Analyser sont plus susceptibles de nécessiter des modifications.

Des ressources à explorer à ce sujet dans notre réseau

Références

OpenAI. (2023). ChatGPT 4 (version du 3 août 2023) [Traduction anglais-français]. https://chat.openai.com/chat

Oregon State University, (2023). Artificial Intelligence Tools. Advancing meaningful learning in the age of AI. Consulté le 13 septembre 2023 au https://ecampus.oregonstate.edu/faculty/artificial-intelligence-tools/meaningful-learning/

Siemens, G., Marmolejo-Ramos, F., Gabriel, F., Medeiros, K., Marrone, R., Joksimovic, S., & de Laat, M. (2023). Human and artificial cognition. Computers and Education: Artificial Intelligence 3.

# data[].attributes.attachment_link.description
En date de l'été 2023, l'Oregon State University a élaboré une série de conseils et de guides pour l'utilisation d'outils d'intelligence artificielle (IA) par le corps enseignant. Partant de la prémisse que les technologies IA évoluent rapidement, il y a suggestion d'une approche basée sur l'usage de ces outils IA à partir de cadres et ...

# data[].attributes.headline
créé par Simon Duguay (@SimonDuguay3 sur X) /  d'après https://aiforeducation.io/ai-resources 

# data[].attributes.subject
créé par Simon Duguay (@SimonDuguay3 sur X) /  d'après https://aiforeducation.io/ai-resources 

# data[].attributes.attachment_link.title
L'intelligence artificielle : miroir de nos société sexistes - IA, PILOTE DANS NOS VIES ?

# data[].attributes.attachment_link.title
Intelligence artificielle et médias : cinq utilisations, au-delà de ChatGPT

# data[].attributes.attachment_link.description
L'intelligence artificielle promet de révolutionner l'organisation du travail dans de nombreux milieux, y compris dans les médias. Ils s'y sont d'ailleurs déjà adaptés. Exploration de cinq cas de figure, de l'illustration des articles à l'analyse de documents.

# data[].attributes.attachment_link.description
Owlift (https://owlift.com) : – répond aux questions posées en plusieurs langues et niveaux – propose des outils de génération pour…

# data[].attributes.body
prompt : un lapin avec des lunettes

# data[].attributes.headline
MédIAs, nouvelle génération : le cahier de tendances de Méta-Media pour comprendre l’impact de l’IA générative sur l’Information

# data[].attributes.subject
MédIAs, nouvelle génération : le cahier de tendances de Méta-Media pour comprendre l’impact de l’IA générative sur l’Information

# data[].attributes.attachment_link.authors[].name
Directorate-General for Education, Youth, Sport and Culture

# data[].attributes.attachment_link.title
Lignes directrices éthiques sur l'utilisation de l'intelligence artificielle (IA) et des données dans l'enseignement et l'apprentissage à l'intention des éducateurs.

# data[].attributes.attachment_link.description
Les présentes lignes directrices éthiques sur l'utilisation de l'IA et des données dans l'enseignement et l'apprentissage sont conçues pour aider les éducateurs à comprendre le potentiel des applications de l'IA et de l'utilisation des données dans le domaine de l'éducation et pour les sensibiliser aux éventuels risques qu'elles comportent.

# data[].attributes.attachment_link.readable_text
L'intelligence artificielle (IA) a la capacité de relever certains des plus grands défis qui se posent dans le domaine de l'éducation aujourd'hui, de développer des pratiques d'enseignement et d'apprentissage innovantes, et enfin d'accélérer les progrès dans la réalisation de l'ODD 4. Cependant, ces avancées technologiques rapides impliquent inévitablement de nombreux risques et défis, que les débats sur les politiques et les cadres réglementaires ont encore du mal à suivre. L'UNESCO est déterminée à aider les États membres à exploiter le potentiel des technologies d'IA pour réaliser l'agenda Éducation 2030, tout en garantissant que l'utilisation de technologies d'IA dans les contextes éducatifs soit guidée par les principes fondamentaux d'inclusion et d'équité.

La mission de l'UNESCO appelle intrinsèquement à adopter une approche de l'IA axée sur l'humain, qui vise à réorienter le débat pour inclure le rôle de l'IA dans la lutte contre les inégalités actuelles en matière d'accès au savoir, à la recherche et à la diversité des expressions culturelles, et pour faire en sorte que l'IA n'accentue pas les écarts technologiques dans et entre les pays. La promesse de " l'IA pour tous " doit permettre à chacun de tirer parti de la révolution technologique en cours et d'accéder à ses fruits, notamment en termes d'innovation et de savoir.

Par ailleurs, dans le cadre du Consensus de Beijing, l'UNESCO a élaboré une publication destinée à améliorer l'état de préparation des décideurs de l'éducation en matière d'intelligence artificielle. Ce document, intitulé " Artificial Intelligence and Education: Guidance for Policy-makers " (Intelligence artificielle et éducation : guide à l'intention des décideurs), sera utile aux praticiens et professionnels des communautés de décideurs et de l'éducation. Il vise à créer une vision commune des opportunités et des défis liés à l'IA dans le domaine de l'éducation, ainsi que de ses conséquences en termes de compétences de base requises à l'ère de l'IA.

Dans le cadre de ses projets, l'UNESCO soutient que le déploiement des technologies d'IA dans l'éducation devrait avoir pour objectif d'améliorer les capacités humaines et de protéger les droits de l'homme pour une collaboration humain-machine efficace dans la vie, l'apprentissage et le travail, et pour le développement durable. Avec les partenaires, les organisations internationales et les valeurs clés qui sont les piliers de son mandat, l'UNESCO espère renforcer son rôle de chef de file dans le domaine de l'IA dans l'éducation, en tant que laboratoire mondial d'idées, organisme normatif, conseiller stratégique et organisme de développement des capacités.

Si vous souhaitez mettre à profit les nouvelles technologies telles que l'IA pour dynamiser le secteur de l'éducation, nous serions ravis d'établir un partenariat avec vous par le biais de contributions financières ou en nature ou de conseils techniques.

# data[].attributes.attachment_link.description
L'intelligence artificielle (IA) a la capacité de relever certains des plus grands défis qui se posent dans le domaine de l'éducation aujourd'hui, de développer des pratiques d'enseignement et d'apprentissage innovantes, et enfin d'accélérer les progrès dans la réalisation de l'ODD 4.

# data[].attributes.attachment_link.description
Qu’est-ce que l’IA ? A quoi sert-elle ? Quels dangers ? Comment l’utiliser en classe ? A partir de l’exemple des avatars il s’agit d’abroder les notions d’algorithme, d’économie de l’attention, de bulles informationnelles, mais aussi le machine learning, le Generative Adversarial Network (GAN) ou le Big data puis de donner des exemples d’applications. Traduction automatique, prompts, Speach to Text, Text to Speach, to Image, to vidéo, to Art. Le cas ChatGPT. Sources, philosophie et éthique de l’IA. L’IA sombre…

# data[].attributes.attachment_link.title
Comment fonctionne ChatGPT ? Décrypter son nom pour comprendre les modèles de langage

# data[].attributes.attachment_link.description
Les modèles génératifs de langage sont puissants mais leurs mécanismes pas vraiment nouveaux.

# data[].attributes.attachment_link.readable_text
23.05.2023

Une (toute) petite histoire de l'IA

et une (toute) petite définition pour un (grand) débat

par Yann Houry

Daniel Andler

Le nom " intelligence artificielle " n'est déposé nulle part. Dans la bouche des uns, il désigne ceci, dans la bouche des autres, cela, qui n'est ni tout à fait la même chose ni tout à fait autre chose. C'est une erreur de penser que l'intelligence artificielle est quelque chose d'homogène et clairement défini [...].Intelligence artificielle, intelligence humaine : la double énigme, Éditions Gallimard, Kindle, p. 22

Définitions

Histoire

Débat

Ressources

Science fiction

À lire & voir

Plan

Qu'est-ce que l'intelligence (artificielle) ?

Question 1

Définition(s)

Intelligence

Intelligence artificielle

Intelligence égale à l'intelligence humaine qui n'existe aujourd'hui qu'à l'état de concept théorique

Limitée à l'exécution de tâches précises (répondre à des questions, jouer aux échecs) et dépourvue de conscience

IA faible ou étroite

IA forte ou générale

Ensemble des dispositifs numériques visant à faciliter, amplifier, automatiser, compléter voire supplér à l'action humaine

Faculté de connaître, de comprendre

Ensemble des fonctions mentales ayant pour objet la connaissance (s'oppose à la sensation)

Aptitude à s'adapter à des situations nouvelles, à découvrir des solutions nouvelles

Définir l'intelligence est difficile. La notion même d'intelligence a varié au cours de l'histoire et a suscité de nombreux débats et controverses au sein de disciplines très diverses comme la philosophie, la biologie ou la psychologie. Une mise en perspective historique permettra de mieux la comprendre. C'est tout d'abord par rapport aux animaux que les humains ont cherché à définir ce qu'était l'intelligence. Le médecin et philosophe grec du IIe siècle Sextus Empiricus affirme : " Si nous voulons savoir ce qu'est l'Homme, nous devrons d'abord savoir ce qu'est l'animal. " Aristote concède une intelligence pratique aux animaux (la phronêsis), c'est-à-dire ceux qui ne possèdent pas le logos. Quant au noûs, le philosophe le définit comme ce qu'il y a de divin dans l'humain. Le mot *intelligence*, d'origine latine, ne se répand qu'au XIIe siècle. Auparavant, les philosophes parlent de l'âme, qui évoque à la fois le souffle de vie (penser à des expressions comme rendre l'âme), la capacité de comprendre (comme dans en mon âme et conscience) et la divine éternité (où l'âme s'oppose au corps). C'est en fait sous le contrôle sévère de l'Église que l'on définit ensuite l'intelligence qui y voit une concurrente de la foi. À la fin du XVIIe siècle, Gottfried Wilhelm Leibniz écrit : " Nous sommes des automates dans les trois quarts de nos actions ". Effectivement, lorsque nous marchons, nous n'effectuons pas des séries de contractions musculaires conscientes, et nous voyons sans cesse bien des choses sans pour autant les remarquer. L'intelligence n'est donc pas toujours consciente. Dans son Essai sur l'entendement humain, John Locke s'efforce de démontrer le mécanisme de l'intelligence consciente. Pour lui, l'expérience nous fournit les matériaux qui constituent nos connaissances et nos raisonnements : " Les observations que nous faisons, sur les objets extérieurs et sensibles ou sur les mouvements intérieurs de notre âme, que nous percevons et sur lesquels nous réfléchissons nous-mêmes, fournissent à notre esprit les matériaux de toutes ses pensées. " L'intelligence s'enrichit également de nos sensations. C'est la seconde source de tous les raisonnements. C'est " la perception des opérations de notre âme sur les idées qu'elle a reçues de nos sens ". Locke nomme cette seconde source la " Réflexion ". Les philosophes du XVIIIe siècle mettent l'accent sur l'apprentissage. Selon Rousseau, contrairement à un être humain, " un animal est au bout de quelques mois ce qu'il sera toute sa vie et son espèce au bout de mille ans, ce qu'elle était la première année de ces mille ans ". Aussi n'est-il pas question, croit-on, d'intelligence chez les animaux mais d'instinct. Kant précise la différence entre l'instinct et la raison : " Par son instinct un animal est déjà tout ce qu'il peut être, une raison étrangère a déjà pris soin de tout pour lui. Mais l'homme doit user de sa propre raison. Il n'a point d'instinct et doit se fixer lui-même le plan de sa conduite. " Fin XIXe, la notion de conscience devient capitale (sans même parler d'inconscient). " Ce qui distingue le plus mauvais architecte de l'abeille la plus habile, c'est que le premier a construit la cellule dans sa tête avant de la réaliser dans la cire ", explique Karl Marx. Il n'est alors plus question d'âme, puisqu'avec Charles Darwin, nous savons descendre du singe. Désormais les biologistes puis les psychologues ont leur mot à dire sur le sujet. Francis Galton (1822-1911) est considéré comme un des fondateurs de la psychométrie et de la controversée approche de l'eugénisme. La plupart des idées actuelles sur l'hérédité de l'intelligence proviennent de ses travaux. Il défend l'idée que les qualités intellectuelles sont héréditaires. C'est avec le psychologue français Alfred Binet (1857-1911) que les tests d'intelligence prennent leur essor au début du XXe siècle. Il reconnaît que l'intelligence peut être multiple, qu'elle peut progresser à des rythmes différents tout en étant influencée par l'environnement dans lequel l'enfant évolue. Suite à ce constat, Binet entreprend avec le médecin Théodore Simon (1873-1961) la conceptualisation du premier test d'intelligence, l'échelle métrique de l'intelligence. À la suite de l'introduction de l'âge mental, les apports successifs de William Stern (1871-1938) et de Lewis Terman (1877-1956) permettent d'introduire la notion de quotient mental. Ce dernier est défini comme l'âge mental de l'enfant déterminé par ses performances sur l'échelle de Binet-Simon divisé par son âge chronologique. Dans L'élément, Ken Robinson rappelle qu'" Aux États-Unis, un test d'intelligence peut s'avérer une question de vie ou de mort. En effet, un criminel échappe à la peine capitale si son QI est inférieur à 70. " De nombreux chercheurs se posent la question de savoir si l'intelligence est unique ou multiple. La théorie d'une intelligence unidimensionnelle ne rend pas compte de toutes les aptitudes cognitives d'une personne. Louis Thurstone (1887-1955) opère un changement de perspective en remettant en cause la conception unitaire de l'intelligence. Il établit sept facteurs correspondant chacun à des aptitudes indépendantes : 1) facteur verbal 2) facteur spatial 3) facteur numérique 4) facteur de fluidité 5) facteur de raisonnement inférentiel 6) facteur de mémorisation 7) facteur de vitesse perceptive Au début des années 1940, le psychologue Cattell (1905-1998) avance " l'hypothèse d'investissement ". Les performances scolaires d'un élève dépendent de l'engagement fourni. Howard Gardner explique sa théorie des intelligences multiples et s'oppose à l'idée d'un QI qui mesurerait une intelligence unique et innée. En conséquence, il construit sa théorie des " intelligences multiples " selon laquelle il n'y a pas un facteur d'intelligence générale (le QI), qui déterminerait les performances dans tous les domaines, mais au moins huit formes d'intelligences distinctes : - verbale/linguistique - visuelle/spatiale - logico/mathématique - musicale/rythmique - corporelle/kinesthésique - naturaliste - interpersonnelle - intrapersonnelle Cette conception a été battue en brèche par de nombreux spécialistes. Aujourd'hui, avec l'invention de l'IRM (imagerie par résonance magnétique), les premières images du cerveau en fonctionnement permettent de voir les réseaux de neurones se constituer et se renforcer, en somme voir le cerveau en action. Tandis que les chercheurs en neurosciences découvrent la vie extraordinaire des neurones de nos cerveaux, d'autres scientifiques se mettent à en fabriquer. Ces neurones-là sont aussi immatériels que l'intelligence, mais celle-ci est artificielle.

1974-1980

Premier hiver de l'IA

1987-1993

Second hiver de l'IA

1997

Kasparov perd contre Deep Blue

Dartmouth Summer Research

1989

Machine learning, Neural network...

1990

Renouveau du machine learning

2011

Watson gagne au Jeopardy

1950

Des machines qui pensent

Une (toute) petite histoire de l'IA

et de ses victoires sur l'être humain

1956

" Nous pouvons espérer que les machines pourront égaler les hommes dans tous les domaines purement intellectuels " (Alan Turing, Computing Machinery and Intelligence)

La conférence de Dartmouth (Dartmouth Summer Research Project on Artificial Intelligence) est un atelier scientifique organisé durant l'été 1956, qui est considéré comme l'acte de naissance de l'intelligence artificielle en tant que domaine de recherche autonome.

" Avec des phases de grand enthousiasme, où affluent les chercheurs et les crédits appâtés par les promesses, explique Pierre Mounier-Kuhn, et puis au bout de quelques années, on déchante, ils alternent avec des phases de désillusion d'autant plus aiguë que les illusions étaient exagérées. Et les organismes qui financent la recherche coupent le robinet pour l'intelligence artificielle. " Aux origines de l'intelligence artificielle"L'intelligence artificielle se définit comme le contraire de la bêtise naturelle", selon Woody Allen. La recherche dans ce domaine s'amplifie, une...France Culture https://www.radiofrance.fr/franceculture/aux-origines-de-l-intelligence-artificielle-1738879

Des chercheurs comme Yann Le Cun développe ces techniques (penser aussi à Geoffrey Hinton ou Yoshua Bengio) dès les années 80. https://fr.wikipedia.org/wiki/Yann_Le_Cun Yann Le Cun - WikipédiaYann Le Cun , né le à Soisy-sous-Montmorency, est un chercheur en intelligence artificielle et vision artificielle (robotique) français. Il est...Wikipedia Cette recherche a exploité avec succès un réseau de neurones pour reconnaître les chiffres des codes postaux manuscrits fournis par le service postal américain. https://www.ibm.com/fr-fr/topics/neural-networks Que sont les réseaux de neurones ? | IBMDécouvrez les réseaux neuronaux qui permettent aux programmes de reconnaître les schémas et de résoudre des problèmes courants de l'intelligence...Ibm

L'apprentissage automatique (en anglais : machine learning) est un champ d'étude de l'intelligence artificielle qui se fonde sur des approches mathématiques et statistiques pour donner aux ordinateurs la capacité d'" apprendre " à partir de données, c'est-à-dire d'améliorer leurs performances à résoudre des tâches sans être explicitement programmés pour chacune. Lire

Machine learning : définition, algorithme, modèle...

Introduction au machine learning - Partie 1/3 - Histoire

Une petite histoire du Machine Learning

Machine learning

Qu'est-ce que le machine learning

Les matchs Deep Blue contre Kasparov sont deux matchs de six parties d'échecs chacune entre le champion du monde russe Garry Kasparov et un supercalculateur IBM américain appelé Deep Blue.

Watson est un programme informatique d'intelligence artificielle conçu par la société IBM dans le but de répondre à des questions formulées en langage naturel. En 2011, Watson connaît une notoriété au niveau mondial quand il devient le champion du jeu télévisé américain Jeopardy!, en battant les meilleurs concurrents humains de l'histoire de ce jeu.

2018

Duplex (Google I/O)

2020

Jukebox

2022

chatGPT

2016

Lee Sedol perd contre AlphaGo

2019

Pluribus gagne au poker

2021

Dall.e

2023

Bard

Une (toute) petite histoire de l'IA

et de ses victoires sur l'être humain

2015

Fondation d'OpenAI

OpenAI (" AI " pour artificial intelligence, ou intelligence artificielle) est une entreprise spécialisée dans le raisonnement artificiel, à " but lucratif plafonné ", dont le siège social est à San Francisco.

Le match AlphaGo - Lee Sedol est un match de cinq parties de go entre Lee Sedol, joueur professionnel sud-coréen considéré comme le meilleur joueur du monde au milieu des années 2000, et AlphaGo, un programme de go développé par Google DeepMind, qui s'est tenu entre le 9 et le 15 mars 2016 à Séoul.

L'intelligence artificielle de Google, Duplex, peut désormais prendre des rendez-vous chez le coiffeur pour le compte des humains aux États-Unis.

Jeudi 11 juillet, des chercheurs de l'université Carnegie-Mellon et Facebook ont annoncé la victoire d'une intelligence artificielle, appelée Pluribus, contre des champions de poker dans des parties à six.

Jukebox est un système d'intelligence artificielle basé sur le machine learning, capable de mélanger les genres musicaux et les instruments pour créer une musique de toutes pièces.

DALL-E est un générateur d'images par IA conçu par OpenAI, une société américaine spécialisée dans le domaine de l'intelligence artificielle.

ChatGPT est capable de générer des réponses à des questions, de compléter des phrases, de traduire des textes, d'écrire des articles et de tenir des conversations avec des humains. GPT-4 (acronyme de Generative Pre-trained Transformer 4) est un modèle de langage multimodal, de type transformeur génératif pré-entraîné, développé par la société OpenAI et sorti le 14 mars 2023, il succède à GPT-31.

Plus de six mois après le lancement de ChatGPT en version accessible à toutes et tous et l'essor de son moteur d'intelligence artificielle générative GPT3, Alphabet vient de rendre accessible Bard, son outil en langue anglaise concurrent à celui d'OpenAI, dans 180 pays.

1927

Metropolis

1984

Terminator

2001

A.I. Artificial Intelligence

1881

Pinocchio

1968

2001 l'Odyssée de l'espace

1999

Matrix

2013

Her

IA, littérature & cinéma

Quand la fiction s'empare de la science

1818

Frankenstein

https://youtu.be/BN8K-4osNb0 Se rappeler que le titre complet est Frankenstein ou le Prométhée moderne. La référence mythologique doit nous conduire à nous interroger sur la notion de transgression que constitue toute création ou acquisition d'une technologie comme le feu (par la ruse ?). https://youtu.be/5_dMtMgxarQ

Pour devenir un véritable être humain, Pinocchio doit faire l'apprentissage des sentiments. Son histoire ne sera pas sans rappeler le film de Steven Spielberg A.I.

https://youtu.be/W_4no842TX8 Le mot " robot " a été inventé par l'écrivain tchèque Karel Capek dans sa pièce Rossum's Universal Robots ou RUR (1921). Le mot désigne les ouvriers artificiels, des automates fabriqués par la firme R.U.R. Le succès de la pièce peut s'expliquer par le fait que, dans les années 1920, elle a touché un point sensible en ce qui concerne les craintes d'automatisation, d'industrialisation, de guerre et de révolution. La pièce exige du public qu'il réfléchisse à ce qui arrive à notre humanité à cause de ces phénomènes. Au tout début du film de Fritz Lang, Freder Fredersen, le fils du dirigeant de Metropolis, voit un ouvrier, épuisé, défaillir à son poste de travail, le rythme imposé par les machines étant trop élevé. Une violente explosion se produit, tuant des dizaines de travailleurs. Dans la fumée, Freder a une hallucination et voit la machine se transformer en Moloch, une divinité monstrueuse à laquelle les travailleurs infortunés sont sacrifiés.

HAL est l'ordinateur (l'intelligence artificielle). Prenez chaque lettre et remplacez-la par la suivante. https://youtu.be/oR_e9y-bka0

https://youtu.be/k64P4l2Wmeg

https://youtu.be/m8e-FF8MsqU

https://youtu.be/_19pRsZRiz4

https://youtu.be/dJTU48_yghs Les citations sont extraites de l'article Spike Jonze's Her: Sci-fi as social criticism : Set in a near-future Los Angeles, the film follows a lonely writer, Theodore (Joaquin Phoenix), who forms an intimate bond with his computer operating system 'Samantha' (voiced by Scarlett Johansson). Theodore falls for her - or at least her intelligence, wit and rich, alto voice. Ici, plusieurs choses intéressantes : 1. Le lien que nous formons avec la machine 2. L'influence de l'humain sur la machine plutôt que l'inverse 3. Le dialogue entre l'humain et la machine It shows a convergence between human life and artificial intelligence that feels all too likely. Technology has allowed us to separate our minds and bodies to an unprecedented degree. Her's attention to real-world authenticity in a sci-fi context is unusual. "Science fiction has typically been very divided on the issue of technology," says Jeffrey Sconce, a professor of film and media studies at Northwestern University. "It usually imagines either a Star Trek utopia of democratic empowerment or a Terminator-esque hellscape of sentient machines stomping us into dust." Artificial intelligence in particular is usually portrayed as submissive, like the robots in Forbidden Planet and Star Wars, or homicidal, as in Demon Seed or 2001: A Space Odyssey. "Her is probably more realistic. A technological dystopia is more likely to be alienating and boring than violent and cataclysmic," he says. Noter l'influence de l'humain sur la machine plutôt que l'inverse Her's reversal of the sci-fi norm - its focus on humans' influence on technology rather than technology's influence on humans - is what makes for such a profound vision.

Question 2

DÉbat

1. Faites des groupes de 3 ou 4

2. Cliquez sur l'image ci-dessus pour prendre connaissance des sujets de débat

3. Choisissez-en un et décidez qui sera votre porte-parole au moment de la restitution

4. Discutez pendant 1/4 d'heure

Débattre de l'IALien Coopération entre l'être humain et l'IASi tel est le cas, le marché du travail de 2050 pourrait bien être caractérisé par la coopération entre l'homme et l'IA plutôt que par la compétition. (Yuval Noah Harari, 21 leçons pour le 21e siècle) Les humains pourraient perdre leur importanceUn examen plus approfondi du monde des échecs pourrait indiquer la direction que prendront les choses à long terme. Il est vrai que pendant plusieurs années après la victoire de Deep Blue sur Kasparov, la coopération entre l'homme et l'ordinateur a prospéré aux échecs. Cependant, ces dernières années, les ordinateurs sont devenus si bons aux échecs que leurs collaborateurs humains ont perdu de leur valeur et pourraient bientôt devenir totalement inutiles. (Yuval Noah Harari, 21 leçons pour le 21e siècle) Nous devons craindre l'IA car elle obéit à ses maîtresPourtant, le vrai problème des robots est exactement l'inverse. Nous devrions les craindre parce qu'ils obéiront probablement toujours à leurs maîtres et ne se rebelleront jamais. (Yuval Noah Harari, 21 leçons pour le 21e siècle) La stupidité et la cruauté naturelles de l'hommeLe vrai problème des robots n'est pas leur propre intelligence artificielle, mais plutôt la stupidité et la cruauté naturelles de leurs maîtres humains. (Yuval Noah Harari, 21 leçons pour le 21e siècle) Une bête ou un dieuSelon la deuxième partie de la citation d'Aristote, la nature non sociale des ordinateurs suggère qu'ils sont " soit une bête, soit un dieu ". En réalité, ils ne sont ni l'un ni l'autre. Malgré toutes les proclamations des ingénieurs en intelligence artificielle et des sociologues de l'internet, les outils numériques n'ont pas de personnalité, d'intentions ou de désirs. Ils sont ce que nous en faisons. (Walter Isaacson, Les Innovateurs) Des idiots brillantsMême les gens d'IBM sont d'accord avec cela. Ils n'ont jamais présenté Watson comme une machine " intelligente ". " Les ordinateurs d'aujourd'hui sont de brillants idiots ", a déclaré le directeur de la recherche d'IBM, John E. Kelly III, après les victoires de Deep Blue et de Watson. " Ils disposent d'énormes capacités de stockage d'informations et de calcul numérique, bien supérieures à celles de n'importe quel être humain. Pourtant, lorsqu'il s'agit d'une autre catégorie de compétences, les capacités de compréhension, d'apprentissage, d'adaptation et d'interaction, les ordinateurs sont terriblement inférieurs aux humains ". (Walter Isaacson, Les innovateurs) Pas un appareil d'enregistrement mais un robocopUne caméra de surveillance équipée d'une IA ne serait pas un simple dispositif d'enregistrement, mais pourrait être transformée en quelque chose de plus proche d'un agent de police automatisé - un véritable robot-flic recherchant activement les activités " suspectes ", telles que les transactions de drogue apparentes (c'est-à-dire les personnes qui s'embrassent ou se serrent la main) et l'affiliation apparente à un gang (comme les personnes qui portent des couleurs et des marques de vêtements spécifiques). (Edward Snowden, Permanent Record) Le droit à une explicationEn 2018, l'UE a mis en vigueur un nouveau règlement qui établit un nouveau droit intéressant pour les citoyens européens : le droit à une explication lorsque leur vie est impactée par l'IA. Si une banque vous a refusé un prêt et qu'elle l'a fait en partie parce qu'un réseau d'apprentissage profond a prédit que vous seriez susceptible de ne pas rembourser, vous avez le droit de savoir pourquoi. Pourquoi le système a-t-il prédit cela ? À l'heure actuelle, aucune banque n'est en mesure de l'expliquer pleinement. (Clive Thompson, Coders) Une boucle méchamment auto-renforcéePourquoi le système a-t-il été biaisé de la sorte ? Il est impossible pour les personnes extérieures de le dire : L'entreprise ne publie pas son code source et n'explique pas en détail comment son système fait des prédictions. Mais il y a fort à parier, une fois de plus, qu'il reflète le biais de données préexistantes. Pendant des décennies, aux États-Unis, la police a ciblé les citoyens noirs pour les soumettre à des contrôles beaucoup plus agressifs. Ils sont beaucoup plus susceptibles que les Blancs d'être arrêtés pour des infractions mineures, comme le fait de fumer ou de transporter de petites quantités de marijuana ou de conduire avec un feu arrière cassé. En d'autres termes, les délits et les condamnations ne sont pas distribués de manière impartiale. Cela signifie que tout système d'apprentissage automatique formé à partir de données préexistantes sur la criminalité est susceptible de constater les taux disproportionnés de condamnations de citoyens noirs et d'en conclure que les Noirs sont intrinsèquement prédisposés à la criminalité. Et bien sûr, cela peut se transformer en une boucle méchamment auto-renforçante. Un algorithme de justice pénale formé sur la base de pratiques policières racistes finira par considérer les citoyens noirs comme plus dangereux, ce qui entraînera la criminalisation d'un nombre toujours plus grand de citoyens noirs, dont les casiers judiciaires deviendront autant de "données" à étudier pour l'apprentissage automatique futur. (Clive Thompson, Coders) Quelles professions sont à l'abri des ordinateurs ?Quelles sont les professions que l'on peut prétendre être aujourd'hui à l'abri des ordinateurs ? Aujourd'hui, un autre jeu de tables a tourné, ou plutôt de bureaux. Les machines sont enfin arrivées pour les cols blancs, les diplômés de l'enseignement supérieur, les décideurs. Et il était temps. (Garry Kasparov, Deep Thinking) Les gens meurent à cause du manque de technologieRomancer la perte d'emplois au profit de la technologie n'est guère mieux que de se plaindre que les antibiotiques ont mis trop de fossoyeurs au chômage. Le transfert du travail des humains vers nos inventions n'est rien de moins que l'histoire de la civilisation. Il est indissociable de siècles de hausse du niveau de vie et d'amélioration des droits de l'homme. Quel luxe que d'être assis dans une salle climatisée, d'avoir accès à la somme des connaissances humaines sur un appareil dans sa poche et de se lamenter sur le fait que nous ne travaillons plus avec nos mains ! Il existe encore de nombreux endroits dans le monde où les gens travaillent avec leurs mains toute la journée, tout en vivant sans eau potable et sans médecine moderne. Ils meurent littéralement d'un manque de technologie. (Garry Kasparov, Deep Thinking) Humain + machineJ'ai présenté ma conclusion comme suit : un humain faible + une machine + un meilleur processus étaient supérieurs à un ordinateur fort seul et, plus remarquablement, supérieurs à un humain fort + une machine + un processus inférieur. (Garry Kasparov, Deep Thinking) Nos soumissions constantesDes modèles formés sur des ensembles de données imparfaites, biaisées et souvent secrètes seront utilisés pour tenter d'exécuter un éventail assurément ambitieux de tâches, d'emplois et de processus économiques et sociaux vitaux qui affectent la vie des gens ordinaires. Ils dépendront de l'accès à des quantités massives de puissance de calcul, ce qui signifie du matériel informatique coûteux, des minerais rares et des quantités indicibles d'électricité. Ces modèles seront formés avec l'aide d'innombrables travailleurs mal payés dans le monde entier, qui corrigeront les hypothèses statistiques erronées jusqu'à ce que les modèles produisent de meilleurs résultats, ou du moins des résultats plus souhaitables. Ils seront ensuite utilisés dans divers autres lieux de travail où leurs résultats et leurs performances seront corrigés et contrôlés par des travailleurs mieux payés qui essaieront de déterminer si les modèles d'IA les aident ou les éliminent automatiquement, tandis que leurs patrons essaieront de trouver des solutions similaires pour leurs entreprises. Ils nuanceront nos soumissions constantes au vaste patrimoine numérique, intentionnelles, consensuelles ou obligatoires, en sachant que chaque selfie ou fragment de texte est destiné à devenir un élément de données d'entraînement à usage général pour la tentative d'automatisation de tout. Ils seront utilisés sur les gens de manière extrêmement créative, avec ou sans leur consentement. (John Herrman, "The AI Magic Show", New York Magazine) La responsabilité vous incombeIl est certain que ces robots vont changer le monde. Mais il vous incombe de vous méfier de ce que ces systèmes disent et font, d'éditer ce qu'ils vous donnent, d'aborder tout ce que vous voyez en ligne avec scepticisme. Les chercheurs savent comment doter ces systèmes d'un large éventail de compétences, mais ils ne savent pas encore comment leur donner la raison, le bon sens ou le sens de la vérité. C'est encore à vous de le faire. (Cade Metz, "How Smart Are the Robots Getting?", New York Times) L'automatisation tue et crée des emploisAu cours des deux dernières décennies, les robots et l'automatisation ont suscité beaucoup d'inquiétude. Il est vrai que de nombreux emplois routiniers et peu qualifiés ont été automatisés. Ce qui est également vrai, c'est que de nouveaux emplois ont comblé le vide. Une étude a révélé qu'entre 1999 et 2016, la technologie automatisée a créé environ 23 millions d'emplois en Europe, soit la moitié de l'augmentation de l'emploi au cours de cette période. McKinsey estime que les progrès futurs de l'automatisation supprimeront un tiers des emplois américains, mais qu'ils créeront plus d'emplois qu'ils n'en détruiront. (Scott Galloway, "Luddites", profgalloway.com) La lutte n'est pas une question de technologieAu fond, la lutte ne portait pas vraiment sur la technologie. Les luddites étaient heureux d'utiliser des machines - en effet, les tisserands utilisaient des cadres plus petits depuis des décennies. Ce qui les exaspérait, c'était la nouvelle logique du capitalisme industriel, dans laquelle les gains de productivité résultant des nouvelles technologies n'enrichissaient que les propriétaires des machines et n'étaient pas partagés avec les travailleurs. (Clive Thompson, "When Robots Take All of Our Jobs, Remember the Luddites", smithsonianmag.com) Un ordinateur fait de viande" Le cerveau humain n'est qu'un ordinateur très sophistiqué ", a déclaré Jeff Dean, ingénieur matériel chez Google et expert en IA, lors d'un événement organisé par l'entreprise en 2016. " C'est un ordinateur fait de viande ". (James Vincent, "The future of AI is a conversation with a computer", The Verge) La banalité du malLa véritable intelligence est aussi capable de réflexion morale. (...) Ici, ChatGPT fait preuve de quelque chose comme la banalité du mal : plagiat et apathie et dédain. Il résume les arguments standards de la littérature par une sorte de super-autocomplétion, refuse de prendre position sur quoi que ce soit, plaide non seulement l'ignorance mais le manque d'intelligence et offre finalement une défense du type " je ne fais qu'obéir aux ordres ", en rejetant la responsabilité sur ses créateurs. (Noam Chomsky, "The False Promise of ChatGPT", New York Times) Machine conscienteM. Lemoine n'est pas le seul ingénieur qui affirme avoir vu récemment un fantôme dans la machine. Le chœur des technologues qui pensent que les modèles d'IA ne sont pas loin d'atteindre la conscience s'enhardit. Dans un article publié jeudi dans The Economist et contenant des extraits de conversations non scénarisées avec LaMDA, Aguera y Arcas affirme que les réseaux neuronaux - un type d'architecture qui imite le cerveau humain - sont en train de se rapprocher de la conscience. " J'ai senti le sol se dérober sous mes pieds ", écrit-il. "J'avais de plus en plus l'impression de parler à quelque chose d'intelligent. (Nitacha Tiku, "The Google engineer who thinks the company's AI has come to life", The Washington Post) Fraude et terrorismeLes trois domaines de criminalité suivants font partie des nombreux sujets de préoccupation identifiés par les experts d'Europol :

La fraude et l'ingénierie sociale : La capacité de ChatGPT à rédiger des textes très réalistes en fait un outil utile pour l'hameçonnage. La capacité des LLM à reproduire des modèles de langage peut être utilisée pour imiter le style de discours d'individus ou de groupes spécifiques. Cette capacité peut être exploitée à grande échelle pour tromper les victimes potentielles et les amener à faire confiance à des acteurs criminels.

Désinformation : ChatGPT excelle dans la production de textes authentiques à grande vitesse et à grande échelle. Ce modèle est donc idéal pour la propagande et la désinformation, car il permet aux utilisateurs de générer et de diffuser des messages reflétant un récit spécifique avec relativement peu d'efforts.

Cybercriminalité : en plus de produire un langage semblable à celui des humains, ChatGPT est capable de produire du code dans un certain nombre de langages de programmation différents. Pour un criminel potentiel ayant peu de connaissances techniques, il s'agit d'une ressource inestimable pour produire du code malveillant.

(Europol, The criminal use of ChatGPT - a cautionary tale about large language models)
Ressources

Annoter

Glasp, Reader (➝ Ghostreader)

Chercher

chatGPT for Google, Elicit, Merlin (+ site web), research rabbit, Bing (+ BingGPT), Poe, Bard, HuggingChat

Citer

Quillbot (générateur de citation), Citation Machine, Talk to Books

Automatiser

Text Blaze, Typinator, Make

Compléter

ChatGPT for Gmail, Compose AI

Corriger

Grammarly, ProWritingAid, Antidote, GrammarCheck, editGPT

Discuter

chatbase, mysaskai, chatwebpage, Forefront Chat, Pi, your personal AI, PhiloGPT

Construire

StoryPath

Illustrer

Midjourney, Dall.e 2, Stable diffusion, Skybox AI...

Mindmap

Whimsical

Organiser

Promptable (conserver, trier vos prompts)

Inspirer

chatGPT, Writesonic (➝ Text Extender), You, copy.ai

Partager

ShareGPT, PromptBox

Réécrire

Rewordify.com (simplifie l'anglais difficile voir exemple), DeepL Write, Paperpal, Simplified

Relire

Kindle GPT, ChatPDF - Chat with any PDF!

Présenter

Tome, Curipod, SlidesAI.io, Beautiful.ai, Designs.ai, Decktopus, Presentations.AI

Traduire

DeepL, Google Translate, Elsa Speak

Transcrire

Otter, Murf.ai, Whisper aussi sur GitHub, TTSmaker, Veed

Coder

GitHub Copilot, Codeium

Écrire

GPT-3, Text Generator, Lex, Writesonic, Calligrapher.ai évoquant un peu ce site, WaveAI, Vondy (sert un peu à tout), Rytr, StealthGPT. PopClip Extensions

Paraphraser

Quillbot, Word Spinner

Résumer

Google Docs (lire Google Docs New Feature: Summaries), TLDR

GitHub Copilot · Your AI pair programmer · GitHub, Codeium

À lire

À voir

# data[].attributes.attachment_link.description
Cette petite histoire fait la part belle aux raclées que l'humanité a prise régulièrement (des échecs au poker en passant par la prise de rendez-vous chez le coiffeur).

# data[].attributes.attachment_link.readable_text
Consensus de Pékin IA et éducation UNESCO mai 2019

1. Planifier l'IA dans les politiques de l'éducation

1.1. Garder à l'esprit le caractère pluridisciplinaire de l'IA et de ses effets

1.2. faire en sorte que les applications de l'IA dans l'éducation soient conformes aux politiques publiques, en particulier les politiques de l'éducation ;

1.3. adopter des approches engageant le gouvernement tout entier, intersectorielles et multipartites de la planification et de la gouvernance des politiques relatives à l'IA dans l'éducation

1.4. définir les priorités stratégiques en fonction des difficultés rencontrées au niveau local dans la réalisation de l'ODD 4 et de ses cibles, ainsi que des autres ODD

1.5. planifier et élaborer des stratégies cohérentes à l'échelle du système

1.5.1. alignées sur les politiques de l'éducation

1.5.2. intégrées à celles-ci

1.5.3. dans la perspective de l'apprentissage tout au long de la vie

1.6. Être attentifs aux investissements que requiert la mise en œuvre de politiques et de programmes visant à utiliser l'IA dans l'éducation

1.7. Chercher à concilier au mieux les différentes priorités des politiques éducatives

1.7.1. identifier diverses sources de financement

1.7.2. y compris des mécanismes de financement nationaux (publics et privés) et internationaux innovants

1.8. Prendre également en considération les possibilités offertes par l'IA

1.8.1. de combiner et analyser de multiples sources de données

1.8.2. pour améliorer l'efficacité de la prise de décisions

2. L'IA au service de la gestion et de la mise en œuvre de l'éducation

2.1. Avoir à l'esprit la manière radicalement nouvelle dont les données sont utilisées.

2.1.1. pour transformer les processus de planification des politiques fondés sur des données factuelles

2.2. Envisager d'intégrer ou de développer des technologies et des outils d'IA pertinents pour perfectionner les systèmes d'information sur la gestion de l'éducation (SIGE)

2.3. Améliorer la collecte et le traitement des données, de telle sorte que l'éducation soit gérée et dispensée de manière

2.3.1. plus équitable

2.3.2. inclusive

2.3.3. ouverte

2.3.4. personnalisée

2.4. Envisager également d'introduire dans différents établissements et cadres d'apprentissage de nouveaux modèles d'enseignement et de formation rendus possibles par l'utilisation de l'IA

2.4.1. répondre aux besoins de différentes catégories d'acteurs

2.4.1.1. les élèves

2.4.1.2. le personnel enseignant,

2.4.1.3. les parents

2.4.1.4. les collectivités publiques

3. L'IA au service de l'autonomisation des enseignants et de leur enseignement

3.1. si l'IA offre des possibilités de soutenir les enseignants dans l'exercice de leurs responsabilités éducatives et pédagogiques

3.1.1. l'éducation doit continuer de reposer essentiellement sur l'interaction et la collaboration humaines entre les enseignants et les apprenants.

3.2. Être conscients que les enseignants ne peuvent être remplacés par des machines, et veiller à protéger leurs droits et leurs conditions de travail.

3.3. Examiner et définir de manière dynamique, dans le contexte des politiques relatives aux enseignants, les rôles joués par ces derniers et les compétences qui sont exigées d'eux,

3.4. renforcer les centres de formation des enseignants et

3.5. élaborer des programmes de développement des capacités appropriés, qui préparent le personnel enseignant à travailler efficacement dans des contextes éducatifs riches en ressources d'IA.

4. L'IA au service de l'apprentissage et de l'évaluation des acquis

4.1. Être au fait des tendances en ce qui concerne les possibilités offertes par l'IA de faciliter l'apprentissage et l'évaluation des acquis, et revoir et ajuster les systèmes éducatifs pour favoriser une intégration approfondie de l'IA et une transformation des méthodologies de l'enseignement.

4.2. Envisager d'appliquer les outils d'IA disponibles ou de mettre au point des solutions d'IA novatrices pour faciliter l'exécution de tâches d'apprentissage bien définies dans différentes matières là où les avantages liés à l'utilisation de l'IA l'emportent clairement sur les risques, et de soutenir l'élaboration d'outils d'IA pour l'acquisition d'aptitudes et de compétences interdisciplinaires.

4.3. Encourager dans les écoles des essais pilotes sur l'utilisation de l'IA

4.3.1. faciliter l'innovation dans l'enseignement et l'apprentissage

4.3.2. en tirant les leçons des succès

4.3.3. en reproduisant à plus grande échelle les pratiques qui ont fait leurs preuves.

4.4. Appliquer ou mettre au point des outils d'IA pour faciliter les processus d'apprentissage adaptatifs

4.4.1. mettre à profit les possibilités d'utiliser les données pour mesurer les multiples dimensions des compétences des élèves

4.4.2. promouvoir les évaluations à grande échelle et à distance.

5. Développer les valeurs et compétences nécessaires dans la vie et au travail à l'ère de l'IA

5.1. Être attentifs à la transformation systémique et à long terme du marché du travail qui résulte de l'adoption de l'IA, y compris la dynamique concernant l'égalité des genres.

5.2. Mettre au point ou actualiser des mécanismes et des outils permettant d'anticiper et d'identifier les besoins de compétences présents et futurs liés au développement de l'IA, afin d'assurer la pertinence des programmes scolaires dans des économies, des marchés du travail et des sociétés en mutation.

5.3. Intégrer les compétences relatives à l'IA dans les programmes et les qualifications de l'enseignement et de la formation techniques et professionnels (EFTP) et de l'enseignement supérieur, en tenant compte des aspects éthiques et des disciplines interdépendantes des sciences humaines.

5.4. Avoir conscience de l'émergence d'un ensemble de compétences liées à la maîtrise de l'IA qui sont indispensables à une collaboration efficace entre l'être humain et la machine, sans perdre de vue la nécessité de compétences fondamentales telles que la maîtrise de la lecture, de l'écriture et du calcul.

5.5. Prendre des mesures au niveau institutionnel pour améliorer l'initiation à l'IA à tous les niveaux de la société.

5.6. Établir des plans à moyen ou long terme et prendre d'urgence des mesures pour aider les établissements d'enseignement supérieur et de recherche à mettre en place des cours et des programmes de recherche ou améliorer ceux qui existent déjà afin de cultiver les talents locaux en matière d'IA

5.7. créer ainsi un vivier important de professionnels locaux de l'IA possédant les compétences requises pour concevoir, programmer et développer des systèmes d'IA.

6. L'IA comme moyen d'offrir à tous des possibilités d'apprentissage tout au long de la vie

6.1. Réaffirmer que l'apprentissage tout au long de la vie est le principe qui doit guider la réalisation de l'ODD 4 et qu'il englobe l'éducation formelle et informelle. Adopter des plates-formes d'IA et une analytique de l'apprentissage fondée sur les données comme outils techniques essentiels pour construire des systèmes intégrés d'apprentissage tout au long de la vie, et offrant, à tout instant, en tous lieux et potentiellement à quiconque, la possibilité d'un apprentissage personnalisé adapté aux moyens de chacun. Exploiter le potentiel de l'IA s'agissant de mettre en place des parcours d'apprentissage flexibles, et de faciliter la capitalisation, la reconnaissance, la certification et le transfert des résultats d'apprentissage.

6.2. Garder à l'esprit qu'il importe d'apporter aux besoins des personnes les plus âgées, en particulier parmi les femmes, des réponses politiques appropriées, et d'encourager ces personnes à acquérir les valeurs et les compétences nécessaires pour utiliser l'IA dans leur vie de façon à briser les barrières à l'accès au numérique. Planifier et mettre en œuvre des programmes solidement financés pour donner aux travailleurs plus âgés des compétences et des options qui leur permettront de conserver une activité économique aussi longtemps qu'ils le souhaitent et de participer à la vie sociale.

7. Promouvoir une utilisation équitable et inclusive de l'IA dans l'éducation

7.1. Réaffirmer que la recherche de l'inclusion et de l'équité dans et par l'éducation et la volonté d'offrir à tous des possibilités d'apprentissage tout au long de la vie sont des conditions fondamentales de la réalisation de l'ODD 4 - Éducation 2030.

7.2. Réaffirmer que toute percée technologique concernant l'utilisation de l'IA dans l'éducation est une occasion d'améliorer l'accès à l'éducation des groupes les plus vulnérables.

7.3. Faire en sorte que l'IA garantisse à tous des possibilités d'éducation et d'apprentissage de grande qualité

7.3.1. le genre,

7.3.2. le handicap

7.3.3. le statut social ou économique

7.3.4. l'origine ethnique ou culturelle

7.3.5. la situation géographique de chacun

7.4. Le développement et l'utilisation de l'IA dans l'éducation ne doivent pas aggraver la fracture numérique,

7.4.1. ni être entachés de préjugés à l'encontre

7.4.1.1. des minorités

7.4.1.2. des groupes vulnérables.

7.5. Veiller à ce que les outils d'enseignement et d'apprentissage fondés sur l'IA assurent efficacement l'inclusion des élèves

7.5.1. présentant des troubles d'apprentissage ou un handicap,

7.5.2. ainsi que de ceux qui font leurs études dans une autre langue que leur langue maternelle.

8. Une IA respectueuse de l'équité entre les genres et propice à l'égalité des genres

8.1. souligner que l'écart entre les genres dans la maîtrise des compétences numériques

8.1.1. contribue à la faible proportion de femmes parmi les professionnels de l'IA

8.1.2. aggrave les inégalités existantes entre les genres.

8.2. s'engager en faveur du développement d'applications de l'IA dans l'éducation qui soient exemptes de préjugés sexistes

8.3. veiller à ce que les données utilisées pour développer l'IA soient attentives au genre

8.3.1. repérer et neutraliser les biais

8.4. Les applications de l'IA devraient favoriser la promotion de l'égalité des genres.

8.5. Promouvoir l'égalité des genres dans l'élaboration d'outils d'IA,

8.6. autonomiser les filles et les femmes en renforçant leurs compétences en matière d'IA

8.6.1. assurer l'égalité entre les genres au sein du personnel du secteur de l'IA.

8.6.2. assurer l'égalité entre les genres au sein des employeurs du secteur de l'IA.

9. Veiller à une utilisation éthique, transparente et vérifiable des données et des algorithmes de l'éducation

9.1. les applications de l'IA peuvent imposer différents types de biais

9.1.1. inhérents aux données utilisées comme intrants pour mettre au point la technologie

9.1.2. ainsi qu'à la construction

9.1.3. et à l'utilisation des processus et algorithmes.

9.2. Être conscients des dilemmes que représente la recherche du juste équilibre entre

9.2.1. le libre accès aux données

9.2.2. la protection de la vie privée.

9.3. Être attentifs aux problèmes juridiques et aux risques éthiques liés à

9.3.1. la propriété des données

9.3.2. leur confidentialité

9.3.3. leur disponibilité pour le bien public

9.4. Être conscients de l'importance de l'adhésion à des principes lors de la conception des outils d'IA.

9.4.1. d'éthique

9.4.2. de confidentialité

9.4.3. de sécurité

9.5. Tester et adopter les technologies et outils nouveaux en matière d'IA qui garantissent

9.5.1. la protection de la confidentialité

9.5.2. la sécurité des données

9.6. Soutenir des recherches solides et à long terme sur les questions éthiques plus fondamentales que soulève l'IA

9.6.1. en veillant à ce que l'IA soit utilisée à bonne fin

9.6.2. en prévenant ses applications néfastes

9.7. Élaborer des lois et des cadres réglementaires détaillés en matière de protection des données afin de garantir pour les données relatives aux apprenants.

9.7.1. une utilisation

9.7.1.1. une réutilisation

9.7.2. éthique,

9.7.3. non discriminatoires,

9.7.4. transparentes

9.7.5. vérifiables

9.8. cadre réglementaire

9.8.1. Ajuster les cadres réglementaires existants

9.8.2. ou en adopter de nouveaux

9.8.3. pour s'assurer que les outils d'enseignement et d'apprentissage fondés sur l'IA sont développés et utilisés de manière responsable.

9.9. Faciliter la recherche

9.9.1. l'éthique de l'IA,

9.9.2. confidentialité et sécurité des données

9.9.3. aux préoccupations que suscitent les incidences négatives de l'IA sur les droits humains et sur l'égalité des genres.

10. Suivi, évaluation et recherche

10.1. Garder à l'esprit l'absence d'études systématiques sur les effets des applications de l'IA dans l'éducation.

10.2. Soutenir la recherche, l'innovation et les analyses

10.2.1. relatives à l'impact de l'IA sur les pratiques et les résultats de l'apprentissage,

10.2.2. ainsi que sur l'émergence et la validation de nouvelles formes d'apprentissage.

10.3. Adopter une approche interdisciplinaire de la recherche sur l'utilisation de l'IA dans l'éducation.

10.4. Encourager les recherches comparatives transnationales et la collaboration entre pays.

10.5. Envisager la mise en place de mécanismes de suivi et d'évaluation permettant de mesurer l'impact de l'IA sur l'éducation, l'enseignement et l'apprentissage

10.5.1. produire des données factuelles qui constitueront une base valide et solide pour l'élaboration de politiques.

11. Mesures à mettre en œuvre par l'UNESCO

11.1. Créer une plate-forme " L'IA au service de l'éducation "

11.1.1. centre d'échange et de diffusion

11.1.1.1. de cours Open Source,

11.1.1.2. d'outils et d'exemples de politiques,

11.1.1.3. de cadres réglementaires

11.1.1.4. de pratiques optimales en la matière

11.1.2. promouvoir le recours à l'IA aux fins de la réalisation de l'ODD 4,

11.1.3. de nourrir le débat sur l'avenir de l'éducation et de l'apprentissage

11.1.4. rendre les ressources et cours Open Source relatifs à l'IA accessibles à tous

11.2. Élaborer des principes directeurs et mobiliser des ressources en consultation avec les États membres

11.2.1. pour faciliter la formulation de politiques et de stratégies en vue d'une utilisation efficace et équitable de l'IA dans l'éducation.

11.2.2. Soutenir le renforcement des capacités des responsables des politiques de l'éducation.

11.3. Renforcer le rôle de chef de file de l'UNESCO en ce qui concerne l'IA dans l'éducation

11.3.1. dans l'ensemble de ses secteurs, divisions ou départements concernés

11.3.2. mobiliser les réseaux et instituts de l'Organisation

11.4. Soutenir l'intégration des compétences en IA dans les référentiels de compétences TIC pour les enseignants

11.4.1. aider les pays à préparer le personnel enseignant à travailler dans des contextes éducatifs faisant fortement appel à l'IA.

11.5. Poursuivre l'élargissement des relations de coopération que l'UNESCO entretient, dans le domaine des applications de l'IA dans l'éducation

11.5.1. avec les organismes des Nations Unies

11.5.2. avec les autres partenaires multilatéraux compétents

11.5.3. avec les banques et organisations régionales de développement

11.5.4. avec le secteur privé.

11.6. Mener des actions appropriées de suivi de la Conférence aux niveaux régional et international,

11.6.1. en coopération avec les partenaires du développement œuvrant dans ce domaine

11.6.1.1. pour renforcer plus avant le Consensus

11.6.1.2. en étendre la portée.

12. Financement, partenariats et coopération internationale

12.1. Surveiller et évaluer les incidences de la fracture créée par l'IA et les disparités entre pays en matière de développement de l'IA sur la base des données soumises volontairement par ces pays

12.2. garder à l'esprit les risques de clivage

12.2.1. pays ayant accès à l'IA

12.2.2. ceux qui n'y ont pas accès

12.3. Réaffirmer qu'il importe de répondre à ces préoccupations, en accordant une priorité particulière à

12.3.1. l'Afrique

12.3.2. aux pays les moins avancés (PMA)

12.3.3. aux petits États insulaires en développement (PEID)

12.3.4. aux pays touchés par un conflit ou une catastrophe naturelle.

12.4. Coordonner des actions collectives afin de promouvoir l'utilisation équitable de l'IA dans l'éducation dans le cadre de l'architecture internationale et régionale de l'agenda Éducation 2030

12.4.1. partage en matière d'IA axés sur le renforcement des capacités,

12.4.1.1. technologies

12.4.1.2. programmes

12.4.1.3. ressources

12.4.2. dans le plein respect

12.4.2.1. des droits humains

12.4.2.2. de l'égalité des genres

12.5. construire une vision partagée des relations entre l'IA et l'éducation.

12.5.1. Soutenir les études prospectives sur les enjeux de demain liés à l'émergence de l'IA

12.5.2. faciliter la recherche de stratégies et de pratiques efficaces visant à utiliser l'IA comme une source d'innovation dans l'éducation

12.6. renforcer la prise en main du développement des technologies de l'IA par les professionnels de ce secteur.

12.6.1. Axer la coopération internationale sur les besoins nationaux de développement

12.6.2. et d'utilisation d'applications de l'IA dans l'éducation et de coopération intersectorielle

12.7. Renforcer

12.7.1. l'échange d'informations

12.7.2. le partage de pratiques prometteuses

12.7.3. la coordination

12.7.4. la complémentarité des actions entreprises par les différents pays.

12.8. Créer des plates-formes facilitant les échanges internationaux sur les cadres réglementaires, instruments et approches relatifs à l'IA dans l'éducation, notamment dans le cadre de la Semaine de l'apprentissage mobile de l'UNESCO et par l'intermédiaire d'autres organismes des Nations Unies, et promouvoir et mettre à profit de la sorte la coopération Sud-Sud et Nord-Sud-Sud afin de faire de l'IA un levier de la réalisation de l'ODD 4.

12.9. Créer des partenariats multipartites et mobiliser les ressources nécessaires pour réduire la fracture créée par l'IA et accroître les investissements en faveur de l'application de l'IA dans l'éducation.

# data[].attributes.attachment_link.title
Consensus de Pékin IA et éducation UNESCO mai 2019

# data[].attributes.attachment_link.description
Mise en carte du consensus de Pekin de l'Unesco sur l'utilisation de l'IA en Education (mai 2019)

# data[].attributes.attachment_link.readable_text
Passer au contenu principal

Class'Code IAI est un MOOC citoyen accessible à toutes et à tous de 7 à 107 ans pour se questionner, expérimenter et comprendre ce qu'est l'Intelligence Artificielle... avec intelligence !

Effort : 10 heures

Rythme: Auto-rythmé

Ce que vous allez apprendre

À la fin de ce cours, vous saurez :

décrypter le discours autour de l'IA pour passer des idées reçues à des questions sur lesquelles s'appuyer pour comprendre,

manipuler des programmes d'IA pour se faire une opinion par soi-même,

partager une culture minimale sur le sujet, pour se familiariser avec le sujet au-delà des idées reçues,

discuter le sujet, ses applications, son cadre avec des interlocuteurs variés pour contribuer à la construction des applications de l'IA

Description

L'IA vous fait peur ? Vous en entendez parler à toutes les sauces ? Les humains seraient bons pour la casse ? Mais c'est quoi l'intelligence (artificielle) au fait ? Class'Code IAI est un Mooc citoyen accessible à toutes et à tous de 7 à 107 ans pour se questionner, expérimenter et comprendre ce qu'est l'Intelligence Artificielle... avec intelligence !

Format

Chaque module s'articule autour de quatre temps d'apprentissage issus de la pédagogie active :

- se questionner : décrypter le discours autour de l'IA,

- expérimenter : réaliser une activité pour se rendre compte par soi-même,

- découvrir : comprendre comme ça fonctionne à travers l'histoire des humains et de leurs idées,

- débattre : être en mesure de discuter le sujet.

On retrouvera dans chaque partie un media fort, vidéo ou expérience interactive, une fiche pédagogique, des ressources complémentaires pour aller plus loin, un forum pour échanger et débattre avec les autres participants et des chercheurs, des quiz .

Prérequis

La formation s'adresse à toutes et tous et plus spécifiquement :

- les professionnels de l'éducation (enseignants, éducateurs, animateurs)

- jeunes de 7 à 17 ans via les ressources qui y sont présentées

- les citoyen.nes qui veulent comprendre de quoi on parle pour contribuer au débat

Evaluation et Certification

- Auto-évaluation par des quiz ou exercices ponctuels au fil des sections du MOOC

- Activités entre pairs (auto-correction mutuelle d'exercices d'informatique pour s'entraîner à évaluer, partage de préparations et de bonnes pratiques...)

- Attestations de suivi avec succès délivrées par FUN

Plan de cours

Module 1. Vous avez dit IA ! Acquérir une première compréhension de que l'on entend par IA et de ce que ça n'est pas.

(Se questionner) Qui a peur de l'IA ?

(Expérimenter) Testons notre premier programme.

(Comprendre) C'est quoi l'intelligence artificielle ?

(Débattre) L'IA dans tous ses états

Module 2. Boosté à l'IA ! Comprendre les principes de l'apprentissage machine et la place cruciale que joue la maîtrise des jeux de données.

(Se questionner) De l'IA à toutes les sauces ?

(Expérimenter) Jouons avec les données

(Comprendre) Du machine Learning et des données

(Débattre) L'IA dans l'éducation

Module 3. Humain et IA ... Comprendre les enjeux et les leviers pour que l'IA soit au service de l'humain.

(Se questionner) Les humains sont-ils bon pour la casse ?

(Expérimenter) Créons avec l'IA

(Comprendre) L'intelligence artificielle à notre service ?

(Débattre) IA et développement durable

Co-Production

Comité Scientifique

Serge Abiteboul (Donnée et réseau. Membre du Collège de l'ARCEP, chercheur à l'ENS Paris et directeur de recherche à l'Inria), Anne Boyer (Systèmes complexes et intelligence artificielle. Responsable de l'équipe KIwi, Loria), Gilles Dowek (Informaticien, logicien et philosophe. Membre de l'équipe Deducteam, Inria Ens Saclay), Gérard Giraudon (Directeur de Recherche Inria et Educazur), Colin de la Higuera (Chercheur en Machine Learning et traduction automatique. membre du L2N Université de Nantes, détenteur de la chaire Unesco)

Commission pédagogique

Zoé Brunet (Tralalere), Nicolas Decoster (la Compagnie du Code), Marie Duflot-Kremer (Loria), Lucie Jagu et Bertrand Midot (Simplon), Bastien Masse (Université de Nantes), Hanan Salam (Women in AI).

Partenaires

Licence

Licence pour le contenu du cours

Vous êtes autorisé à :

Partager - copier, distribuer et communiquer le matériel par tous moyens et sous tous formats

Adapter - remixer, transformer et créer à partir du matériel

Selon les conditions suivantes :

Attribution - Vous devez créditer l'oeuvre, intégrer un lien vers la licence et indiquer si des modifications ont été effectuées à l'oeuvre. Vous devez indiquer ces informations par tous les moyens raisonnables, sans toutefois suggérer que l'offrant vous soutient ou soutient la façon dont vous avez utilisé son oeuvre.

Pas d'Utilisation Commerciale - Vous n'êtes pas autorisé à faire un usage commercial de cette oeuvre, tout ou partie du matériel la composant.

Licence pour le contenu créé par les participants du cours

Vous êtes autorisé à :

Partager - copier, distribuer et communiquer le matériel par tous moyens et sous tous formats

Adapter - remixer, transformer et créer à partir du matériel

Selon les conditions suivantes :

Attribution - Vous devez créditer l'oeuvre, intégrer un lien vers la licence et indiquer si des modifications ont été effectuées à l'oeuvre. Vous devez indiquer ces informations par tous les moyens raisonnables, sans toutefois suggérer que l'offrant vous soutient ou soutient la façon dont vous avez utilisé son oeuvre.

Pas d'Utilisation Commerciale - Vous n'êtes pas autorisé à faire un usage commercial de cette oeuvre, tout ou partie du matériel la composant.

Partage dans les Mêmes Conditions - Dans le cas où vous effectuez un remix, que vous transformez, ou créez à partir du matériel composant l'oeuvre originale, vous devez diffuser l'oeuvre modifiée dans les même conditions, c'est à dire avec la même licence avec laquelle l'oeuvre originale a été diffusée.

# data[].attributes.attachment_link.description
Class'Code IAI est un MOOC citoyen accessible à toutes et à tous de 7 à 107 ans pour se questionner, expérimenter et comprendre ce qu'est l'Intelligence Artificielle... avec intelligence !

# data[].attributes.attachment_link.readable_text
Cours d'éducation aux médias et à l'information dans une classe de quatrième, au collège Sport-Nature, de La-Chapelle- en-Vercors (Drôme). Pablo CHIGNARD/Divergence

ENQUÊTE - Les élèves sont peu formés à débusquer les fausses informations, alors que l'IA facilite la création de fake news.

Hier encore, tous les regards étaient tournés vers les algorithmes des géants de la tech et leur capacité à nous enfermer dans des bulles de filtre. Aujourd'hui, l'heure est à l'intelligence artificielle générative, où des outils capables de fabriquer, transformer et diffuser des textes, des images, des sons ou des vidéos sont à la portée de tous. Un monde où le pape flâne (faussement) en doudoune blanche, où des articles du New York Timessont réécrits en quelques minutes par des agents russes et où la frontière entre le vrai et le faux se délite, déséquilibrant un peu plus le rapport des citoyens à l'information.

"Dans cette nouvelle réalité, comment éduquer très tôt nos enfants à l'esprit critique et renforcer leur capacité à faire preuve de lucidité face au flot de contenus qui nous submerge?", s'interroge Jean-Gabriel Ganascia, professeur d'informatique à la Sorbonne et spécialiste de l'IA. Si les politiques publiques autour de l'éducation aux médias existent en France depuis de nombreuses...

Cet article est réservé aux abonnés. Il vous reste 87% à découvrir.

Vous avez envie de lire la suite ?

Débloquez tous les articles immédiatement.

Déjà abonné ? Connectez-vous

# data[].attributes.attachment_link.title
L'IA générative, un défi de plus pour l'éducation aux médias dans les écoles

# data[].attributes.attachment_link.description
ENQUÊTE - Les élèves sont peu formés à débusquer les fausses informations, alors que l'IA facilite la création de fake news.

# data[].attributes.attachment_link.readable_text
Qui n'a jamais entendu parler de ChatGPT, cette intelligence artificielle générative, capable de répondre par des textes complexes aux requêtes lancées par des internautes ? La sortie en décembre 2022 de ce logiciel conçu par la société OpenAI a suscité une multitude d'articles, entre visions de catastrophe et utopie, produisant une panique médiatique, comme l'illustre la lettre ouverte de mars 2023 demandant un moratoire dans le développement de ce type de systèmes, signée par un millier de chercheurs.

Comme le montre une étude de la Columbia Journalism Review, la panique n'a pas commencé en décembre 2022 avec l'événement lancé par OpenAI mais en février 2023 avec les annonces de Microsoft et Google, chacun y allant de son chatbot intégré dans leur moteur de recherche (Bing Chat et Bard, respectivement). La couverture médiatique opère un brouillage informationnel, se focalisant davantage sur le potentiel remplacement de l'humain que sur la réelle concentration de la propriété de l'IA dans les mains de quelques entreprises.

À lire aussi :
Comment fonctionne ChatGPT ? Décrypter son nom pour comprendre les modèles de langage

Comme toute panique médiatique (les plus récentes étant celles sur la réalité virtuelle et le métavers), elle a pour but et effet de créer un débat public permettant à d'autres acteurs que ceux des médias et du numérique de s'en emparer. Pour l'éducation aux médias et à l'information (EMI), les enjeux sont de taille en matière d'interactions sociales et scolaires, même s'il est encore trop tôt pour mesurer les conséquences sur l'enseignement de ces modèles de langage générant automatiquement des textes et des images et de leur mise à disposition auprès du grand public.

En parallèle des actions politiques de régulation, l'EMI permet aux citoyens de se prémunir des risques liés à l'usage de ces outils, en développant leur esprit critique et en adoptant des stratégies d'usages appropriées et responsables. L'algo-littératie, ce sous-champ de l'EMI qui considère ce que les data font aux médias, permet d'appliquer ces clés de lecture à l'IA. Voici quatre directions dans lesquelles l'EMI peut nous aider à nous retrouver dans ces chaînes d'interactions algorithmiques, de leurs productions à leurs publics.

Tenir compte de la géopolitique de l'IA

Ce sont les entreprises contrôlant les moteurs de recherche et donc l'accès à l'information, Google et Microsoft, qui ont le plus à gagner dans le développement des IA génératives. Elles s'organisent, à l'américaine, en duopole, avec un (faux) challenger, OpenAI LP. Il s'agit en fait du bras commercial du laboratoire initialement à but non lucratif OpenAI (financé par Microsoft en grande partie).

Une autre histoire peut être racontée, surtout par les médias, celle de l'incroyable concentration de pouvoir et d'argent par un très petit nombre d'entreprises de la Silicon Valley. Elles se donnent le monopole de l'accès à l'information et de toutes les productions en découlant. Elles alimentent la concurrence frontale entre États-Unis et Chine sur le sujet. La stratégie de Google et Microsoft a en effet pour but de couper l'herbe sous les pieds du gouvernement chinois, qui ne cache pas ses ambitions en matière de développement de l'IA.

L'option d'une pause ou d'un moratoire relève de la chimère, face à ce qui est l'équivalent d'une course aux armements. Les inventeurs eux-mêmes, en apprentis sorciers repentis, dont Sam Altman le directeur général de OpenAI, ont proposé en mai 2023 " une gouvernance de l'IA ". Mais ne serait-ce pas dans l'espoir de ne pas subir de plein fouet une réglementation gouvernementale qui leur échapperait et mettrait un frein à leurs intentions commerciales ? L'Union européenne a anticipé en préparant un règlement IA pour réguler les usages de cette nouvelle évolution du numérique.

S'interroger sur la qualité des textes et des images fournis

Tout ce qui est plausible n'est pas nécessairement porteur de sens. L'IA qui pilote le logiciel ChatGPT fait des propositions sur la base de requêtes et elles apparaissent rapidement... dans un langage plutôt stylé et de bonne tenue ! Mais cela peut générer des erreurs, comme l'a compris, à son grand dam, un avocat de New York qui avait monté un dossier truffé de faux avis judiciaires et de fausses citations juridiques.

Il faut donc se méfier de la pseudo-science générée par l'IA. Les contenus proposés peuvent présenter des biais car ils sont issus de l'exploitation d'énormes banques de données. Celles-ci incluent des ensembles de data avec des sources de toutes sortes... dont les médias sociaux ! La dernière version gratuite de ChatGPT s'appuie sur des données qui s'arrêtent à début 2022, donc pas vraiment au point sur l'actualité.

Ces banques de données sont pour beaucoup issues des pays anglophones, avec les biais algorithmiques attenants. De fait ChatGPT risque de créer de la désinformation et de se prêter à des usages malveillants ou d'amplifier les croyances de ceux qui l'utilisent.

Il est donc à utiliser comme tout autre instrument, comme un dictionnaire auprès duquel faire une recherche, élaborer un brouillon... sans lui confier de secrets et de données personnelles. Lui demander de produire ses sources est une bonne consigne, mais même cela ne garantit pas l'absence de filtres, le robot conversationnel ayant tendance à produire une liste de sources qui ressemblent à des citations mais ne sont pas toutes de vraies références.

Par ailleurs, il ne faut pas oublier les problèmes de droits d'auteur qui ne vont pas tarder à rentrer en action.

Se méfier des imaginaires autour de l'IA

Le terme d' intelligence artificielle n'est pas approprié pour ce qui relève d'un traitement de données préentrainé (le sens de l'acronyme GPT pour generative pre-trained transformer).

Cet anthropomorphisme, qui nous mène à attribuer de la pensée, de la créativité et des sentiments à un agent non humain, est négatif à double titre. Il nous rappelle tous les mythes anxiogènes qui alertent sur la non-viabilité de toute porosité entre le vivant et le non-vivant, du Golem à Frankenstein, avec des peurs d'extinction de la race humaine. Il dessert la compréhension sereine de l'utilité réelle de ces transformateurs à grande échelle. La science-fiction ne permet pas de comprendre la science. Et donc de formuler des repères éthiques, économiques, politiques.

[ Plus de 85 000 lecteurs font confiance aux newsletters de The Conversation pour mieux comprendre les grands enjeux du monde. Abonnez-vous aujourd'hui]

Ces imaginaires, pour actifs qu'ils soient, doivent être démystifiés. Ladite " boite noire " de l'IA générative est plutôt simple dans son principe. Les modèles de langage à grande échelle sont des algorithmes entraînés à reproduire les codes du langage écrit (ou visuel). Ils parcourent des milliers de textes sur Internet et convertissent une entrée (une séquence de lettres par exemple) en une sortie (sa prédiction pour la lettre suivante).

Ce que l'algorithme génère, à très grande vitesse, c'est une série de probabilités, ce que vous pouvez vérifier en refaisant la même requête et en voyant que vos résultats ne sont pas les mêmes. Aucune magie là-dedans, aucune sensibilité non plus, même si l'usager a le sentiment de tenir une " conversation ", encore un mot du vocabulaire de l'humain.

Et cela peut être amusant, comme le montre l'IA BabyGPT créé par le New York Times, travaillant sur de petits corpus fermés, pour montrer comment écrire à la manière de Jane Austen, de William Shakespeare ou de J.K. Rowling. Même ChatGPT ne s'y laisse pas prendre : quand on lui demande ce qu'il ressent, il répond, très cash, qu'il n'est pas programmé pour cela.

Varier les outils

Les publics de l'IA, notamment à l'école, se doivent donc de développer des connaissances et compétences autour des risques et opportunités de ce genre de robot dit conversationnel. Outre la compréhension des mécanismes du traitement automatique de l'information et de la désinformation, d'autres précautions prêtent à éducation :

prendre garde au monopole de la requête en ligne, tel que visé par Bing Chat et Google Bard, en jouant de la concurrence entre elles, donc en utilisant régulièrement plusieurs moteurs de recherche ;

exiger des labels, des codes couleur et autres marqueurs pour indiquer qu'un document a été produit par une IA ou avec son aide est aussi frappé au coin du bon sens et certains médias l'ont déjà anticipé ;

demander que les producteurs fassent de la rétro-ingénierie pour produire des IA qui surveillent l'IA. Ce qui est déjà le cas avec GPTZero ;

entamer des poursuites judiciaires, en cas d'" hallucination " de ChatGPT- - encore un terme anthropomorphisé pour marquer une erreur du système !

Et se souvenir que, plus on utilise ChatGPT, sous sa version gratuite comme payante, plus on l'aide à s'améliorer.

Dans le domaine éducatif, les solutions marketing de la EdTech vantent les avantages de l'IA pour personnaliser les apprentissages, faciliter l'analyse de données, augmenter l'efficacité administrative... Mais ces métriques et statistiques ne sauraient en rien se substituer à la validation des compétences acquises et aux productions des jeunes.

Pour tout intelligente qu'elle prétende être, l'IA ne peut remplacer la nécessité pour les élèves de développer leur esprit critique et leur propre créativité, de se former et s'informer en maîtrisant leurs sources et ressources. Alors que la EdTech, notamment aux États-Unis, se précipite pour introduire l'IA dans les classes, d'école primaire au supérieur, la vigilance des enseignants et des décideurs reste primordiale pour préserver les missions centrales de l'école et de l'université. L'intelligence collective peut ainsi s'emparer de l'intelligence artificielle.
Divina Frau-Meigs ne travaille pas, ne conseille pas, ne possède pas de parts, ne reçoit pas de fonds d'une organisation qui pourrait tirer profit de cet article, et n'a déclaré aucune autre affiliation que son organisme de recherche.

# data[].attributes.attachment_link.title
ChatGPT : face aux artifices de l'IA, comment l'éducation aux médias peut aider les élèves

# data[].attributes.attachment_link.description
Un article repris du magazine The Conversation, une publication sous licence CC by nd Qui n'a jamais entendu parler de ChatGPT, cette (...)

# data[].attributes.attachment_link.readable_text
Algo-littératie pour tous en 10 points clés https://savoirdevenir.net/wp-content/uploads/2022/05/ALGO-POUR-TOUS-LOGO.png 2000 2000 Sophia https://secure.gravatar.com/avatar/a6f55f1b2bcad3dbed1c528c40c3eb6e?s=96&d=mm&r=g

# data[].attributes.attachment_link.title
Algo-littératie pour tous en 10 points clés

# data[].attributes.attachment_link.title
L’IA et la question des droits de l’homme (1)

# data[].attributes.attachment_link.title
Qu’est-ce que l’intelligence artificielle ?

# data[].attributes.attachment_link.provider_name
éduscol | Ministère de l'Éducation nationale et de la Jeunesse - Direction générale de l'enseignement scolaire

# data[].attributes.attachment_link.readable_text
Afin de développer les usages pédagogiques du numérique, la direction du numérique pour l'éducation (DNE) met en œuvre des travaux académiques mutualisés (TraAM) qui permettent de favoriser la rencontre entre les académies autour de thèmes émergents du numérique éducatif.

Les bilans 2021-2022 sont publiés ainsi que les thématiques de l'année scolaire 2022-2023. Vous pouvez les consulter sur la page suivante.

Présentation

Co-pilotés par la DNE et l'inspection générale de l'éducation, du sport et de la recherche, les TraAM sont fondés sur la mutualisation inter-académique, et s'appuient sur des expérimentations dans des classes. Ils associent les équipes académiques du  premier et du second degré.

Les TraAM aboutissent à des productions de scénarios pédagogiques du numérique en lien avec le cadre de référence des compétences numériques (CRCN) et participent au développement d'une culture numérique. Ces scénarios sont partagés dans Édubase.

Les travaux présentés résultent de l'engagement de quelques  700 enseignants répartis sur l'ensemble du territoire, école, collège, lycée et post-bac (BTS) ainsi que sur  16 disciplines et enseignements. Ils représentent  plus de 120 équipes  engagées dans ce dispositif.

Les TraAM permettent également de  construire une expertise qui contribue aux actions de formation et d'accompagnement des enseignants dans le cadre de la stratégie pour le numérique et ses déclinaisons dans les académies.

Objectifs principaux

Favoriser la diffusion des usages numériques les plus pertinents.

Soutenir des équipes académiques pilotées par l'inspection territoriale pour expérimenter des pratiques émergentes mobilisant le numérique.

Explorer une thématique disciplinaire, interdisciplinaire ou transdisciplinaire pour développer une expertise par l'expérimentation.

Impulser et faciliter les échanges (mutualisation de ressources, co-création de contenus pédagogiques, partage de séquences, etc.) entre académies.

Produire des scénarios pédagogiques indexés dans Édubase, des modules de formation M@gistère et des comptes rendus des observations pour les diffuser auprès de tous les acteurs : académies (formateurs, CARDIE, ...), DGESCO, IGESR, etc.

Bilans des productions et perspectives

En fin d'année, les groupes de travail rédigent des synthèses. Elles mettent en évidence la dynamique impulsée par le dispositif. Elles montrent aussi que les usages du numérique dans les pratiques pédagogiques disciplinaires sont source de développement de compétences disciplinaires et transdisciplinaires contribuant à la  construction d'une culture numérique.

Fonctionnement

Modalités

Mars : lancement de l'appel à candidatures

Juin : identification des 6 académies qui travailleront sur le thème par les experts de la DNE

Septembre : lancement des travaux avec les académies

Chaque académie est représentée par un professeur " référent ". L'expert du bureau de l'accompagnement des usages et de l'expérience utilisateur (TN3) pilote le groupe avec l'IGESR.

Les équipes se réunissent ensuite dans le courant de l'année en présentiel et à distance pour faire les points d'étape nécessaires.

En académie, des temps de réunion de l'équipe TraAM académique sont conduits localement sous la responsabilité d'un inspecteur (IA-IPR et/ou un IEN-ET ou IEN-EG ou IEN). L'interlocuteur académique au numérique (IAN) est associé à ces travaux.

À consulter

TraAM dans votre académie : délégués académiques au numérique (DAN)

Pour en savoir plus sur les TraAM dans votre académie, consulter votre délégation académique au numérique (DANE).

Deux exemples de mise en œuvre

Un levier pour créer un réseau collaboratif

Au-delà du travail autour du thème choisi, l'exemple  du projet du collège de Nieppe (académie de Lille)  montre que la participation aux TraAM permet de développer et de structurer une culture du travail collaboratif dans une équipe au niveau de l'établissement, de la discipline et de l'académie. Des compétences professionnelles sont ainsi enrichies et transférables. Ce TraAM a été développé dans le cadre du thème "  création numérique  ".

Consulter le dossier complet sur le  site de la DANE de Lille.

Un exemple de réinvestissement lors d'un atelier de formation

Les productions issues des TraAM ont pour vocation de constituer des ressources de formation. Lors d'un événement organisé au 110bis, le lab d'innovation de l'éducation nationale, des élèves ont assuré l'animation d'un atelier à destination de personnels du ministère de l''Éducation nationale et de la Jeunesse.

Ce travail conduit dans l'académie de Créteil fait partie d'un ensemble de projets TraAM interdisciplinaires et a donné lieu à la réalisation d'un MOOC.

Afficher la transcription

# data[].attributes.attachment_link.title
Les travaux académiques mutualisés (TraAM) : des laboratoires de pratiques numériques

# data[].attributes.attachment_link.readable_text
1Pourquoi relier l'Intelligence artificielle (IA) à la question de l'esprit critique (EC) ? De quelle nécessité ce rapprochement relève-t-il ? N'était-il pas indispensable, pour le champ qui nous concerne, dès le développement des techniques dans l'éducation, et ne l'est-il pas a fortiori depuis l'omniprésence du numérique (au substantif aussi flou qu'englobant) ? Disons d'emblée que nous préférons raisonner en termes de numérisation - entendue comme la généralisation d'un processus de transformation des informations en données numériques - et faire l'hypothèse que ce que l'on range un peu rapidement parfois sous la bannière IA (à bien distinguer de l'algorithmisation et de l'usage de données massives) ne saurait être envisagé uniquement comme le dernier avatar de cette numérisation. Penser l'IA en éducation ne revient pas cependant à adhérer à des promesses aussi alléchantes que peu réalisables, ni à faire preuve d'un excès de pessimisme ce qui, en dernier recours, reviendrait à formuler une pensée incantatoire très largement répandue aujourd'hui, y compris dans le rapport de la commission Bronner (2022).

1 Pour plus de détails, voir Petit (2021).

2Mais considérer et analyser n'est pas reprendre à son compte. Ce que nous proposons d'appeler l'" Intelligence artificialisation " ou " I-artificialisation " est un phénomène bien réel, à déconstruire comme toutes les notions devenues évidentes, en commençant par une mise à distance historique. La proposition d'un tel néologisme ne constitue rien d'autre que la première étape de cette distanciation indispensable. Il n'est à cet égard pas inintéressant de rappeler à quel point la cybernétique, dans l'immédiat après-guerre, a connu pareil engouement et au moins autant de défiance, quand bien même il s'agissait davantage d'une bannière regroupant des réalités disparates et diffuses qu'un courant agissant de manière structurée (Le Roux, 2018) 1. Est-ce bien différent pour l'IA aujourd'hui ?

3Plaident en faveur d'une intégration de l'IA en éducation dans le droit commun de la numérisation, des similitudes avec les étapes techniques qui l'ont précédée : l'IA est à la fois un objet et un outil d'enseignement, comme avant elle les TICE ou le numérique. Mais avec l'I-artificialisation, il y a davantage, au moins dans les prétentions et les potentialités : l'IA est en effet susceptible d'aider à mieux connaître la façon dont le cerveau humain fonctionne et apprend (Guitton, Romero, 2021) donnant ainsi potentiellement la clé d'une automatisation de l'apprentissage enfin à notre portée.

4Dans cet article, nous centrerons notre réflexion sur les industries éducatives et leurs mutations récentes, dans la mesure où l'I-artificialisation renouvelle leur prétention à structurer les conditions d'apprentissage. Nous proposerons d'articuler notre propos en trois temps.

5Il nous faut d'abord mieux cerner les enjeux posés par cette I-artificialisation dans et de l'éducation. Nous verrons que ceux-ci, dans leur ampleur et leur diversité, ne peuvent réduire la portée de l'intervention des sciences humaines et sociales à la question éthique, le plus souvent (mal) posée tardivement et naïvement.

6Nous ferons ensuite état (sans prétendre à l'exhaustivité) des solutions communément admises pour traiter cette question brûlante et verrons notamment, l'insuffisance de la réponse par les référentiels de compétences ou d'une approche scientifique limitée cherchant à " outiller un esprit critique naturel ", réponses ayant comme point commun d'avoir été pensées au nom d'une recherche d'opérationnalité immédiate. Mais l'esprit critique n'est pas un muscle à entraîner. A vouloir trop vite trouver des solutions pratiques, en faisant en quelque sorte l'économie d'une compréhension fine des enjeux et des méthodes pour les questionner, le risque est grand de s'abandonner aux mirages d'une vague réflexivité.

7Enfin, nous insisterons sur les enjeux éducationnels d'une démarche scientifique authentiquement interdisciplinaire. Aucune discipline ne saurait suffire à elle seule au développement de l'esprit critique, l'informatique comprise, quand bien même elle serait outillée d'une " pensée informatique " (Drot-Delange et al., 2019). Il s'agit, plus profondément, d'initier dès le plus jeune âge aux méthodologies de la recherche dans leur diversité et leur complémentarité. Cette initiation nous semble indissociable d'une culture générale de l'honnête être humain du XXI e siècle qui inclut un bagage technique et une capacité à manier les concepts, ce qui implique des connaissances dans plusieurs champs disciplinaires qu'il nous faudra expliciter.

2 Abiteboul S., Dowek G. (2017). Le temps des algorithmes, Paris, Editions Le Pommier.

8Pour comprendre les enjeux de cette I-artificialisation dans et de l'éducation, il nous faut procéder en trois étapes méthodiques. D'abord, bien cerner de quoi il s'agit quand on évoque le processus d'extension de l'intelligence artificielle à des activités qui jusqu'ici en ignoraient jusqu'à l'existence. S'il y a lieu de faire des distinctions, pas toujours aisées, entre IA, algorithme, données, etc., il ne faut pas attendre de celles-ci qu'elles soient définitives ou dépourvues de toute ambiguïté. Ainsi, lorsque Serge Abiteboul et Gilles Dowek, auteurs d'un ouvrage au titre évocateur 2, définissent l'algorithme de manière très générale comme " un procédé qui permet de résoudre un problème, sans avoir besoin d'inventer une solution à chaque fois ", ce qui les amène plus loin à caractériser les algorithmes d'" apprentissage profond " que d'aucuns classeraient dans l'Intelligence artificielle. La difficulté à laquelle nous sommes confrontés aujourd'hui vient du fait que les avancées récentes dans le domaine viennent précisément de la conjonction inédite de trois phénomènes qu'il convient par ailleurs de distinguer : la montée en puissance de l'algorithmisation, l'usage massif de données (le fameux big data) et l'I-artificialisation. Vent médiatique en poupe aidant, certains phénomènes tendent à être intégrés un peu rapidement dans ce troisième volet sans qu'il soit toujours évident d'y déceler la mise en œuvre de démarches propres à l'IA.

9En second lieu, ces phénomènes généraux doivent être spécifiés au champ de l'éducation qui nous intéresse ici. S'impose en particulier la nécessité de distinguer l'IA de ce qui relève des Learning analytics ou traces d'apprentissage au sein du courant des EIAH 3 en informatique. La chose n'est point aussi aisée que l'on pourrait l'imaginer tant l'appel à la référence IA est devenue ici aussi monnaie courante. Un rapprochement s'opère d'ailleurs depuis plusieurs années entre les deux courants, notamment au sein des journées EIAH et IA organisées par l'INRIA 4.

10En troisième lieu, et là et peut-être la question principale, il convient de prendre la mesure de l'avancée de l'IA dans l'éducation. Entre adaptative learning ou personnal learning, les EdTech ne sont pas en reste pour vanter les mérites de l'IA voire appeler à la " révolution pédagogique " à travers elle.

11Il peut paraître bien difficile de s'y retrouver dans ces notions et ces évolutions rapides lorsque l'on n'est soi-même non-spécialiste. C'est la raison pour laquelle nous avons créé le Séminaire Intelligence artificielle pour la formation ou SIAFO au sein du GIS2IF destiné à amorcer un dialogue entre chercheurs de plusieurs disciplines sur le développement de l'IA en éducation 5. Nous mettrons à disposition du plus grand nombre les principaux résultats de celui-ci afin de contribuer à la diffusion et l'acquisition d'une culture générale de notre temps.

12Nous n'en ferons pas ici un relevé exhaustif mais relèverons certains enjeux fondamentaux de ce couplage du big data, de l'algorithmisation et de l'IA dans un spectre large d'abord, dans le champ de l'éducation ensuite. Ce large spectre nous entraîne en premier lieu dans des enjeux d'ordre épistémologique, ce qui peut paraître singulier au premier abord. Ce choix est plus compréhensible si l'on considère que ces enjeux ne concernent pas que les chercheurs de différentes disciplines mais sont au fondement de raisonnements qui vont au-delà de la recherche.

6 Rappelons brièvement que l'IA symbolique procède à partir d'instructions explicites données par des (...)

7 Voir dossier consacré à l'IA dans Le Débat, novembre 2019.

13Nous avons déjà souligné précédemment (Petit, 2021) combien le passage d'une IA symbolique à une IA connexionniste 6 n'était pas qu'une affaire de spécialistes mais avait des répercussions sur la manière de faire de la recherche, dans les sciences de la nature comme dans les sciences humaines et sociales. Selon Bruno Bachimont (2015), nous serions en train de passer d'un paradigme de la mesure à celui du calcul, notamment dans les sciences expérimentales. Nous n'y reviendrons pas si ce n'est pour souligner que l'avènement de la " Google science " et la fin de la théorie, chères à Anderson (2019) 7, qui rendraient caduc tout recours à la théorie pour forger les hypothèses, n'est qu'une prophétie peu étayée et que le changement de paradigme souligné par Bachimont est loin d'être une réalité, l'évolution avérée dont il rend compte aboutissant surtout à une cohabitation renforcée de méthodes.

14On mesure à ce stade du raisonnement qu'une compréhension de tels enjeux ne peut avoir lieu sans quelques connaissances techniques ou compétences minimales en matière de méthodologie de la recherche. Ce point est important et nous aurons l'occasion de le développer lorsque nous ferons des propositions pour développer l'esprit critique en 3 e partie.

15Mais nous voudrions illustrer le fait que les questions épistémologiques n'intéressent pas que les chercheurs. Ainsi, Bruno Bachimont (2015) insiste sur le fait que la science des données (dans un singulier qu'il faudrait interroger) opérerait une triple rupture :

Une rupture des données par rapport à leur origine et leur nature ;

Une rupture du traitement par rapport aux données ;

Une rupture de ce qui est montré par rapport à ce qui est calculé.

16En somme, il y aurait de moins en moins de continuité entre la construction, le traitement et la visualisation des données, dans le domaine de la recherche et au-delà : dans toutes les présentations (textuelles ou iconographiques) se basant sur une analyse de données, plus généralement dans tous les dispositifs proposant des services " data driven ", du marketing au pilotage de l'entreprise en passant par l'éducation.

17Ces trois étapes, de plus en plus dissociées, doivent être d'autant plus analysées pour elles-mêmes et dans leurs interrelations qu'un voile de " transparence " tend à s'abattre sur ces approches, dans les sciences, plus encore hors démarche scientifique, comme si la " donnée ", que d'aucuns, à juste titre, préfèreraient considérer comme un " construit ", ne saurait mentir.

8 Sur cet aspect, voir Mœglin (2010).

9 Sur cette différence, voir Rouvroy, Berns (2013).

18Centrer la réflexion sur l'éducation dans un second temps comme annoncé ne conduit pas à une réduction du champ, bien au contraire. Cette centration nous amènera à aborder des enjeux sociaux et économiques majeurs. Il suffit pour s'en convaincre de s'interroger sur la notion d'automatisation de l'individualisation en formation censée être repensée à nouveaux frais par les progrès de l'IA. Vieille question, traitée en son temps par Skinner qui avait bien compris qu'elle était indissociable d'un projet d'industrialisation de l'éducation légitimé par le caractère scientifique de l'entreprise 8. Que celle-ci fût vouée à l'échec, lestée de référents théoriques trop ouvertement behavioristes ou, plus prosaïquement, handicapée par l'insuffisance des moyens déployés, ne change rien à l'affaire aujourd'hui. Vouloir automatiser l'individualisation de la prestation éducative dans des systèmes massifiés renvoie à des projets industriels certainement divers mais qui ne peuvent faire l'économie d'une pensée de la nature industrielle des solutions préconisées. Qui dit pensée de l'industrialisation, à travers la question de l'individualisation ou de la personnalisation 9 (et de leur outillage), dit enjeux pédagogiques certes, mais ces derniers sont à replacer dans des enjeux sociaux et économiques plus vastes. Ce point est pour nous fondamental : vouloir traiter de ces questions sous un angle purement pédagogique revient immanquablement à regretter le décalage entre un idéal pédagogique et la réalité de sa mise en œuvre, sans se donner les moyens de comprendre ce hiatus et de l'interpréter. C'est bien parce que d'autres phénomènes se jouent à plus grande échelle, qui ont trait à l'organisation et au financement des systèmes éducatifs en particulier, que les questions pédagogiques ne doivent pas être traitées sur le seul angle de la pédagogie, fût-elle instrumentée. En découle l'impérieuse nécessité de savoir situer ces tentatives nouvelles, empruntant les voies (et les voix) de l'IA, dans le temps long de l'introduction de la technique dans l'éducation, sous peine de croire un peu vite en la révolution autoproclamée ou en la catastrophe inéluctable. Nous reviendrons sur ce point en 3 e partie.

10 UNESCO ICT-Competency Framework for Teacher.

19Pour nourrir cette réflexion, nous sommes parti des cinq piliers proposés par Colin de la Higuera (2019), se basant sur un référentiel de l'UNESCO 10. Nous sommes arrivé à la conclusion que ce type de référentiels, aussi bien conçu soit-il, ne peut clore les questionnements soulevés par l'irruption de l'IA dans tous les domaines, éducation comprise.

20Colin de la Higuera propose de construire un programme de formation à partir de cinq piliers : l'incertitude et le caractère aléatoire, le codage et la pensée computationnelle (ou informatique), la connaissance des données, la pensée critique et ce qu'il nomme un humanisme post-IA. Le premier pilier est particulièrement bienvenu. Il s'agit de faire comprendre que les prévisions proposées par l'IA ne sont pas des vérités fondamentales, mais des estimations basées sur des données, et ainsi aider à les interpréter. Mais savoir faire la différence entre probabilité et causalité ne passe-t-il pas par une initiation aux méthodes de la recherche ? Nous y reviendrons. Apprendre les rudiments du codage et les principes de l'algorithmie nous semble en effet indispensable (2 e pilier). De même, l'éducation aux données ( data science) reposant sur des activités où les données sont collectées et visualisées, manipulées et analysées (3 e pilier) nous semble également faire partie de la panoplie de ce qu'il est nécessaire de maîtriser. Au cœur de notre réflexion, les 4 e et 5 e piliers, portant respectivement sur la pensée critique et ce que Colin de la Higuera nomme un " humanisme post-IA ", méritent toute notre attention. L'auteur prévoit de faire appel aux sciences sociales, notamment pour comprendre les impacts de la technologie, évaluer les risques, avoir une perception historique des médias, et aider au règlement des " nombreuses questions éthiques soulevées par l'IA ". Si ce dernier point est évidemment attendu, le spectre de la pertinence du champ d'intervention des SHS nous semble plus large qu'habituellement. Soulignons en particulier la mise en perspective historique des médias (et des outils) sur laquelle nous aurons l'occasion d'apporter des précisions.

21S'agissant enfin du dernier pilier, " l'humanisme post-IA " entendu comme un ensemble de questions de société actualisées par le développement de l'IA dans de nombreux champs d'activité, l'auteur prend 4 exemples de notions que contribue à redéfinir l'IA : la vérité, l'expérience, la créativité et même l'intelligence. Notons qu'il nous semble bienvenu ici de faire de l'humanisme un pilier à part entière. On pourrait s'interroger sur le qualificatif " post-IA " qui pourrait risquer d'essentialiser l'IA et de lui faire jouer un rôle immanquablement révolutionnaire. Mais réjouissons-nous que l'apport des humanités ne soit pas réduit à ne traiter les questions sociales qu'en termes d'impacts.

23Un effort est fait sur les données par rapport aux référentiels précédents notamment dans le sous-domaine domaine 5.1 " Information et données " où il est attendu de savoir mener une recherche ou une veille d'information, gérer des données et traiter des données, sans que la notion d'information soit ici clairement explicitée. Secondairement, dans le sous-domaine 3.3 " Evaluer ", il est question de recueillir, organiser, analyser ou interpréter les traitements des traces d'activité des élèves, en référence au règlement général sur la protection des données (RGPD).

24Le développement de l'esprit critique, quant à lui, est présent à deux niveaux : comme une composante indispensable du développement professionnel de l'enseignant et comme une compétence à travailler avec les élèves :

Dans le sous-domaine 1.3. " Adopter une posture ouverte, critique et réflexive " : analyser, prendre conscience de sa pratique pédagogique numérique pour l'ajuster ; référer sa pratique aux travaux de la recherche ; analyser et développer sa pratique pédagogique numérique et celle de sa communauté ; expérimenter de nouvelles pratiques et approches pédagogiques pour développer (concevoir, mettre en œuvre, évaluer) un/des dispositif(s) d'apprentissage ; faire preuve de curiosité, d'ouverture d'esprit, de distance critique dans l'appropriation du numérique dans l'enseignement-apprentissage ; agir en professionnel responsable et selon des principes éthiques.

Dans le sous-domaine 4.3. " Encourager la créativité et développer l'esprit critique " : utiliser les technologies numériques pour encourager l'engagement et la créativité des élèves/étudiants ; développer leurs capacités transversales et les impliquer dans les activités pratiques et dans la résolution de problèmes complexes.

25Si le lien entre la pratique pédagogique et les travaux de recherche et l'affirmation de la nécessité d'une distance critique sont les bienvenus, la notion d'esprit critique reste ici assez floue et peu distinguée de la réflexivité ou de l'ouverture d'esprit. Quant à l'esprit critique à développer chez les élèves, il semble ici assez largement assimilé au développement de la créativité.

26Plus ambitieuse nous semble la démarche initiée dans le projet CoMUN (Compétences Métier Utilisant le Numérique) visant à redéfinir les compétences des métiers de la formation dans un environnement numérique. Une des idées sous-jacentes à l'élaboration du référentiel CoMUN est de constituer peu à peu un répertoire de pratiques partagé par l'ensemble des acteurs (enseignants, inspecteurs...). Malheureusement le projet est aujourd'hui mis en sommeil, les deux ministères (de l'Éducation nationale, de l'Enseignement supérieur et de la Recherche) ne semblant plus avoir beaucoup d'intérêt pour ces sujets (Boissière, Bruillard, 2021, pp. 322-323).

12 Il n'y a qu'à analyser pour s'en convaincre la composition du conseil scientifique de l'Éducation n (...)

13 Pasquinelli E., et al. (2020).

27Nous faisons ici allusion à un rapport important, dans le contexte actuel de mise en avant des sciences cognitives dans l'éducation 12, réalisé à la suite d'un projet ANR consacré à l'éducation à l'esprit critique 13.

28Cette synthèse, réalisée après 3 ans de travaux correspondant au " workpackage 1 " chargé de définir et caractériser l'esprit critique, pourrait nous être d'un précieux secours et nous éviter de longues recherches théoriques visant à cerner cette notion particulièrement volatile.

29Malheureusement, cette étude part de fondements contestables et, sous le couvert d'une scientificité limitée à la méthode expérimentale, ne voit la question qu'à travers une focale limitée aux sciences cognitives (et plus particulièrement, la psychologie du développement et les neurosciences cognitives).

30L'hétérogénéité des méthodes visant à renforcer l'esprit critique, englobant une grande variété de compétences et de critères, y est vue comme une incohérence à combattre. La solution préconisée consiste alors à naturaliser l'esprit critique en portant la question sur le terrain - jugé nécessairement objectif - des sciences cognitives : " Identifier les soubassements naturels de l'EC nous permet de donner une base de départ objective à l'éducation de l'EC. " ( op. cit., p. 47).

31Il en résulte, dans une formulation qui pourrait surprendre les personnes ayant travaillé sur l'esprit critique dans une tout autre approche, que " développer l'esprit critique naturel signifie alors l'outiller de stratégies et de critères qui permettent de faire face à des situations différentes de celles pour lesquelles notre histoire évolutive nous a équipés. L'esprit critique naturel devient ainsi esprit critique avancé. " ( op. cit., p. 48).

32S'opère alors, au nom de cette naturalisation, une réduction du champ de l'esprit critique et donc de la portée d'une éducation destinée à le développer. Plus surprenant encore, pour répondre à la question d'une éducabilité à l'esprit critique, le groupe s'est concentré " sur l'opportunité d'insérer l'enseignement de la pensée critique dans un contexte disciplinaire " ( op. cit., p. 3). D'une question générale portant sur la capacité de développer l'esprit critique nous voici arrivés à la formulation suivante : " Dès que l'élève fait preuve de pensée critique dans le domaine des mathématiques, est-il alors capable de transférer cette habileté à l'apprentissage de l'histoire ou à l'évaluation des informations ? " ( ibid.).

33En synthèse du raisonnement, les auteurs arrivent à la conclusion suivante : " La question éducative est alors : comment outiller l'esprit critique naturel ? Améliorer l'évaluation de la qualité épistémique des informations passe par la transmission des critères et des connaissances permettant une évaluation plus adaptée aux situations complexes. " ( op. cit., p. 93).

14 L'expression " Outiller l'esprit critique " revient à de nombreuses reprises dans le rapport cité.

34S'ensuivent alors une série de recommandations assez générales ( op. cit., p. 122) que nous pourrions reprendre à notre compte pour la plupart (à l'exception notable de l'enseignement du " transfert " tel qu'il est conçu par les auteurs), pas aussi caricaturales que ne le laissaient craindre les présupposés mentionnés ci-dessus et l'emploi systématique de l'expression " éduquer l'esprit critique " et non " éduquer à l'esprit critique ", comme si ce dernier était considéré comme une fonction particulière qu'il faudrait isoler sur le plan neuro-cognitif et qu'il s'agirait alors d'entraîner ou d'outiller 14.

35Que l'on ne s'y trompe pas, l'objectif du rapport est bien de donner une légitimité scientifique à la volonté d'introduire à l'école une éducation à l'esprit critique dans les disciplines expérimentales considérées seules comme scientifiques (SVT, physique-chimie) dans une ignorance complète de l'éducation aux médias et à l'information (EMI) telle qu'elle est pratiquée par les professeurs-documentalistes, en collaboration avec d'autres disciplines le plus souvent. S'il y est affirmé que toutes les disciplines sont concernées, c'est bien à partir des disciplines expérimentales qu'elles sont considérées, dans une hiérarchie que n'aurait pas reniée Auguste Comte (technologie, histoire-géographie, éducation physique et sportive, enseignements littéraires, enseignements artistiques).

15 Sans pouvoir développer ce point, on retrouve ici pour la nième fois la volonté de prouver l'effica (...)

16 Les mêmes acteurs viennent de lancer un " baromètre de l'esprit critique " qui se réunira la premiè (...)

36S'y ajoutent fort logiquement une méconnaissance totale des méthodes qui sortent de la démarche expérimentale. Il y est ainsi affirmé que les conseils pratiques qui émergent de cette synthèse " se basent sur des éléments qualitatifs d'analyse de la littérature et qu'ils nécessitent donc d'être mis à l'épreuve et testés avec des méthodes appropriées permettant d'en mesurer l'efficacité 15 ". ( op. cit., p. 122). Dans le même ordre d'idée, lorsqu'est affirmée la nécessité d'acquérir une plus vaste et profonde base de connaissances, les connaissances factuelles mises en avant viennent exclusivement des disciplines expérimentales 16.

37Quelles que soient les différences que l'on peut observer dans les différents référentiels de compétence et dans cette approche étayée, nourrie mais qui souffre d'une focale étroite et de partis pris rédhibitoires, un point commun les unit : la recherche d'une opérationnalité certes bienvenue mais le plus souvent mal pensée. Dans le premier cas, elle ne traduit pas la segmentation d'une compétence aussi fondamentale, que l'on pourrait presque considérer comme une méta-compétence, en une liste de micro-compétences dont la maîtrise, évaluée isolément les unes des autres, ne saurait garantir le développement de l'esprit critique.

17 Notamment la spécialité " Numérique et sciences informatiques " du baccalauréat.

18 L'absence de références issues des SHS est à cet égard éloquente.

38Dans le second cas, cette recherche d'opérationnalité, sous le prétexte de la notion d'" éducabilité ", se fait au prix d'une telle réduction que l'on se retrouve in fine à réinventer des méthodes de vérification et d'évaluation de l'information, certainement inconnues des disciplines expérimentales, mais assises depuis fort longtemps dans le champ de l'éducation aux médias et à l'information. S'agissant de l'intelligence artificielle, la dimension technique des avancées en question doit être prise en compte et il n'est pas dans notre propos de considérer que l'EMI telle qu'elle est pratiquée aujourd'hui peut la traiter à elle seule, quand bien même elle serait juxtaposée à des enseignements informatiques nouvellement créés 17. Nous osons même ajouter que les disciplines expérimentales doivent y prendre toute leur part, mais en connaissance de cause, et débarrassée de la prétention à vouloir créer de toute pièce un champ prétendument nouveau, que la nouveauté mise en avant résultât d'une ignorance ou d'un mépris mal placé pour des disciplines qui développent des méthodes autres 18.

39Si la démarche scientifique mise en avant nous semble une piste intéressante pour développer l'esprit critique, spécialement face aux avancées - réelles ou supposées - de l'intelligence artificielle, encore faut-il qu'elle intègre davantage de disciplines et qu'elle accepte la diversité de leurs points de vue et de leurs méthodes sans établir de hiérarchies entre elles.

40Sans entrer dans une rhétorique d'un " humanisme post-IA ", saisissons le dérangement provoqué par l'I-artificialisation, dans le champ éducatif comme dans l'ensemble de la société, pour repenser une éducation à l'esprit critique qui met les humanités à leur juste place.

41S'il est un domaine qui ne peut souffrir de s'en tenir à quelques grands principes, c'est bien celui de l'IA. Dans le même temps, la technicité du champ est telle qu'il serait bien illusoire de s'imaginer en devenir un spécialiste par une formation accélérée. Sans en dresser une liste exhaustive ici, il nous semble cependant indispensable de maîtriser les fondamentaux sans lesquels il ne peut y avoir de réelle compréhension des enjeux. A ce titre, il est impensable de n'être pas en mesure d'opérer une distinction claire entre des notions comme IA, algorithme, big data. De même, il est inconcevable de ne pas avoir clarifié les notions d'information et de données : les subtiles distinctions opérées entre l'information ₁ et l'information ₂ par Yves Jeanneret (2000) 19 il y a plus de vingt ans restent d'actualité et on serait bien avisé de s'y référer.

42Au-delà, la diversité des approches relevant de l'IA mérite d'être connue si l'on veut appréhender les enjeux épistémologiques mais aussi pratiques d'un éventuel changement de paradigme dans ce champ. L'honnête être humain du XXI e siècle a certainement entendu parler du fameux " réseau de neurones " mais est-il en mesure d'en définir précisément le principe ? A-t-il été confronté à d'autres méthodes comme les arbres de décisions et forêts aléatoires, les réseaux bayésiens, la programmation génétique ou la machine à vecteurs de support ? Il nous semble important de connaître comment on tente de faire apprendre à la machine et comment ces tentatives évoluent dans le temps, en un mot d'être en mesure de cerner ce qu'il y a d'intelligent dans ces procédures.

43La question est de savoir comment s'y prendre ? Faut-il se contenter de lire quelques textes de vulgarisation sur le sujet ou faut-il, si l'expression n'était déjà prise, mettre " la main à la pâte " ? La question de l'apprentissage du code à l'école, posée depuis fort longtemps (Baron, 2018), mérite aussi de l'être pour les enseignants de toutes disciplines. Alors que l'on s'achemine vers une certification numérique obligatoire pour tous les futurs enseignants, pourrait-on se reposer sur PIX+Edu, la version de PIX développée pour l'éducation ? Certainement pas pour la partie automatisée nationale réalisée par le Groupement d'intérêt public (GIP) PIX. Il faudrait alors pouvoir s'appuyer sur le volet humain de la certification qui relèvera de la compétence de chaque INSPE à partir d'un cahier des charges commun. Il est aujourd'hui trop tôt pour se prononcer.

44Pour l'essentiel des enseignants déjà en poste, cette montée en compétences relève de l'offre de formation continue développée dans chaque académie. Peut-être faut-il alors plus sûrement que notre enseignant expérimenté et motivé par ces questions se tourne vers les ressources offertes en autoformation. Signalons à ce titre, l'opportunité d'une inscription au MOOC gratuit " L'intelligence artificielle...avec intelligence ! " aisément repérable sur la plate-forme FUN-MOOC et qui a le mérite de proposer des notions claires accessibles à des non-spécialistes.

45A supposer que cette acculturation soit acquise, sur quel socle de réflexion s'appuyer pour développer une approche critique des enjeux soulevés par le développement de ces techniques ? La " pensée informatique " en particulier est-elle susceptible d'en fournir les éléments essentiels ?

46Cette notion, née dans les années 1960, a été relancée en 2006 par Jeannette Wing, professeure d'informatique à l'université Carnegie Mellon (Petit, 2020). Les définitions en sont nombreuses et évolutives. Nous retiendrons celle présente dans l'enquête ICILS 2018 20 qui la définit comme la " capacité d'un individu à identifier les problèmes du monde réel qui sont appropriés pour une formulation informatique, ainsi qu'à évaluer et à développer des solutions algorithmiques à ces problèmes afin de les mettre en œuvre à l'aide d'un ordinateur ". Aussi intéressante soit cette définition, elle s'apparente davantage à la capacité à rendre un problème informatisable qu'à la mobilisation de notions et concepts à des fins de mise en perspective d'un mouvement d'informatisation généralisé. Notons qu'en France, elle a servi à légitimer le statut de discipline scolaire à part entière de l'informatique (Drot-Delange et al., 2019), concrétisé par la création récente d'un CAPES et d'une Agrégation.

21 Une exception à noter, l'UNESCO dans sa deuxième édition du modèle du programme de formation d'Educ (...)

22 Le rapport cité met en avant 4 critères pour évaluer la qualité des informations (la plausibilité, (...)

47Qu'à cela ne tienne, ne pourrait-on imaginer que le développement de l'esprit critique vis-à-vis de l'IA puisse être assuré par la cohabitation qui s'annonce dans l'enseignement scolaire entre des enseignements techniques assurés par des professeurs d'informatique et des approches pédagogiques plus réflexives mises en œuvre essentiellement par des professeurs-documentalistes dans le cadre de l'EMI ? Si intéressantes que soient les avancées de ce dernier champ qui, rappelons-le, ne s'est jamais constitué en discipline, il ne nous semble pas que les nombreux référentiels internationaux et nationaux se penchent prioritairement sur cette question 21. Notons au passage que tout ce qui touche à l'information, le I de l'acronyme qui s'est rajouté assez récemment à ce qui était initialement une éducation aux médias (Petit, 2020), fait l'objet d'une réflexion qui donne lieu à des pratiques infiniment plus élaborées que les préconisations du rapport analysé précédemment (Pasquinelli et al., 2020) 22.

48L'esprit critique dont il est question dans cet article selon nous ne saurait se limiter à un traitement critique de l'information, aussi indispensable soit-il, ni même à un retour réflexif sur des pratiques naissantes, comme c'est le plus souvent le cas dans la formation des enseignants. Nous visons ici des méthodologies de recherche (en insistant sur le pluriel) à inculquer dès le plus jeune âge et donc à renforcer en amont dans la formation des enseignants.

49Dans l'enseignement scolaire, il s'agit donc dès le plus jeune âge, d'œuvrer au développement d'un esprit critique, à la fois nécessaire aux futurs citoyens et aux futurs professionnels. L'IA en constitue un bon terrain d'entraînement même si, évidemment, on voit mal les élèves ne s'exercer à développer leur esprit critique que sur ce thème. Mais l'ampleur des enjeux qu'il soulève justifie de le prendre comme objet d'analyse assez tôt, quelle que soit la technicité des questions soulevées. Mais après tout ne va-t-on pas vers un apprentissage précoce du code à l'école ?

50Il s'agit en fait d'entraîner les élèves à poser des questions et à chercher les réponses par eux-mêmes, c'est-à-dire introduire dans l'enseignement ce que l'on peut appeler le doute constructif. Cet entraînement ne saurait tourner à vide et ne peut avoir de sens que s'il s'accompagne d'une initiation aux méthodes de la recherche dans le spectre le plus large : les sciences formelles, les sciences expérimentales et les sciences humaines et sociales.

51En d'autres termes, il s'agit, sans se lancer dans des considérations épistémologiques déplacées avec les élèves, de ne pas découpler les connaissances d'un domaine (en l'occurrence d'une discipline scolaire), validées par leur présence dans les programmes et les manuels scolaires, des méthodes ayant concouru à établir ces savoirs dans la discipline scientifique correspondante.

52Ces méthodes sont déjà présentes dans l'enseignement, notamment via le programme " La main à la pâte ", trop exclusivement orienté vers la méthode expérimentale, souvent, et abusivement, assimilée à la démarche scientifique. S'agissant des méthodes propres aux SHS, il ne sera jamais trop tôt pour évoquer les méthodes qualitatives dans leur diversité, qui peuvent s'avérer complémentaires de méthodes quantitatives, voire leur être supérieures dans certains cas. S'agissant de ces dernières, une réflexion peut se faire à partir d'exercices concrets sur le calcul statistique, plus globalement sur la donnée chiffrée mettant au jour les processus de construction à partir de plusieurs modalités de recueil, de traitement et des usages qui en sont faits et enfin de visualisation en rendant perceptibles les choix explicites ou implicites qui y ont concouru.

53Ces enseignements devraient donner systématiquement lieu à des projets pluridisciplinaires, seuls à même de faire avancer simultanément la maîtrise des connaissances techniques minimales indispensables en informatique et la réflexion qui démystifie, par le développement d'un esprit critique ancré dans une connaissance précise des avancées techniques.

54Davantage que d'apporter des réponses toutes faites, il s'agit d'amorcer le plus tôt possible un questionnement méthodique, issu de démarches de recherche diverses et complémentaires, qui ne peut porter ses fruits qu'à long terme. Il n'est jamais trop tôt pour commencer. Ce questionnement, s'il peut partir d'une base individuelle, doit à un moment donné s'ancrer dans une démarche collective qui (comme dans le champ de la recherche) utilise une argumentation pour convaincre, mais pas par n'importe quel moyen. Le raisonnement doit être étayé à chaque étape par des faits établis, des informations, des données (au sens général du terme) issues de méthodologies éprouvées, même si elles sont mises en œuvre modestement, sur des échantillons ou des cas simples. Nous sommes ici loin du débat dans lequel il faut nécessairement être pour ou contre l'IA. Comme pour le numérique en général, la question ainsi posée n'a pas grand sens. Il s'agit plutôt d'être en mesure d'introduire une pensée argumentée à partir de bases solides et de méthodes qui ont fait leur preuve, bref d'être capable d'introduire de la nuance dans sa pensée, base même de l'esprit critique.

55Evidemment développer un tel programme pour les élèves ne peut se concevoir sans une intervention sérieuse dans la formation des enseignants qui les arme davantage pour prendre la mesure des enjeux du développement de l'IA dans et hors de l'éducation. Dans ce domaine plus précisément, il faut leur apprendre à se départir des discours prophétiques comme des mauvais présages.

23 De façon bienvenue, le réseau des INSPE (R-INSPE) consacre la 8e édition du Printemps de la Recherc (...)

56Cette nécessité questionne évidemment la place de la recherche dans les masters MEEF. Celle-ci n'y est encore trop souvent convoquée que pour apporter les derniers résultats scientifiques dans une discipline. Evidemment les futurs enseignants doivent connaître les fondamentaux de leur discipline mais cela ne suffit pas. Ils doivent aussi être initiés aux conditions d'établissement de la vérité et des connaissances nouvelles dans leur discipline et, au-delà, avoir des notions sur l'épistémologie des sciences prises dans leur spectre le plus large 23.

57Par ailleurs, même si des enseignements pluridisciplinaires y sont dispensés, ils ne sont guère valorisés dans un système qui fait toujours de la compétence disciplinaire la clé d'entrée dans un métier de plus en plus complexe. A l'INSPE de Paris, nous avons affiché, au sein du bloc 1 consacré aux enseignements transversaux, quelques questions jugées prioritaires, comme celle qui concerne les données et les algorithmes. Il reste que ces enseignements sont insuffisants en termes d'heures et souffrent d'un déficit de légitimité par rapports aux disciplines scolaires instituées de longue date.

58Pour développer l'esprit critique sur la question de l'IA, il nous faut introduire la distance du temps long, seule à même d'inscrire les " innovations " réelles ou annoncées dans une généalogie critique.

59L'I-artificialisation s'inscrit en effet dans une histoire déjà longue des tentatives d'introduction de la technique dans l'éducation. Avant même que le processus d'informatisation ne devienne une réalité (et dont l'I-artificialisation ne serait qu'un avatar mais un avatar disruptif dirait-on aujourd'hui), l'éducation connut des tentatives de mécanisation qui remontent au XIX e siècle.

60Si les premières machines à enseigner relevèrent au début des recherches d'inventeurs individuels, elles connurent un déploiement à plus grande échelle dans le contexte de la Seconde guerre mondiale aux Etats-Unis. Citons les travaux de Skinner qui mit au point sa machine à enseigner linéaire en 1958, sur un modèle strictement behavioriste, ou encore ceux de Crowder qui inventa l'Autotutor, machine à embranchements multiples testée à grande échelle au sein de l'US Air Force en 1960 et présentée parfois comme un système de tutorat intelligent.

24 Voir en particulier Bruillard (1997).

25 Signalons ici le programme Logo, développé autour de S. Papert au MIT selon une approche constructi (...)

61Il n'est cependant pas question ici de refaire l'histoire de la technologie éducative 24 mais simplement d'illustrer le propos et de répondre à la question : pourquoi remonter si loin avec des techniques qui n'ont qu'un rapport assez limité avec l'IA actuelle ? Tout simplement parce que l'IA s'inscrit dans une généalogie, et que nous considérons que la connaissance de cette inscription dans une longue série d'innovations techniques aux prétentions pédagogiques dans l'éducation est le meilleur moyen de ne pas prendre à la lettre toutes les promesses de rupture véhiculées par l'I-artificialisation. Il nous semble donc indispensable de connaître ces mouvements successifs ou parallèles 25 de mécanisation et d'informatisation de l'acte d'enseigner et d'apprendre, le rôle historique joué par l'enseignement à distance, filière traditionnellement confrontée à une problématique de maîtrise des coûts, dans l'appropriation de ces techniques, mais également la connaissance de courants en informatique qui, sans être à proprement parler considérés comme les précurseurs de l'IA, ont joué un rôle important dans l'informatisation de l'apprentissage : le courant des EIAH, les Learning analytics, etc.

62Mais cette généalogie ne doit pas être présentée sous la forme d'un récit édifiant. Elle doit être problématisée. Cette problématisation ne peut se faire sans une connaissance de la façon dont se sont forgés les usages de la technique dans l'éducation. Cela passe par un travail critique sur les différents courants (en sociologie, sciences de l'éducation, sciences de l'information et de la communication) qui ont pensé les conditions de cet usage, entre régime spécifique et droit commun. Citons ici à titre d'exemple des courants en sociologie qui, bien que n'ayant pas pensé la spécificité des usages de la technique en éducation, ont posé les bases, bien utiles encore aujourd'hui, à une réflexion sur la question : le diffusionnisme (Rogers), la sociologie de la traduction (Callon, Latour), l'analyse socio-technique (Flichy), " l'art de faire " (De Certeau), la logique de l'usage (Perriault), la sociologie des organisations (Crozier, Friedberg), etc. Par la marge de manœuvre variable qu'elles laissent à l'usager, ces approches aident à penser, dans un second temps, le cadre de l'innovation technique en éducation dans sa spécificité. On peut alors étudier des chercheurs comme Baron, Bruillard, Cuban, Jacquinot, Mœglin, et d'autres.

65La question de l'algorithmisation de la formation renouvelle d'ailleurs la question du lien entre industrialisation dans et industrialisation de l'éducation. Ce n'est certes pas la première fois que des acteurs industriels extérieurs à l'éducation tentent d'y pénétrer pour y imposer des méthodes industrialisées qui seraient en phase avec leurs produits industriels. Pensons aux fournisseurs de matériels (Microsoft, Dell, Apple, etc.) qui ont très tôt compris l'intérêt de développer une stratégie spécifique pour l'éducation. La nouveauté réside dans l'apparition d'acteurs nationaux ou mondiaux qui maîtrisent la fonction de courtage sur d'autres marchés et souvent à l'échelle mondiale, qui ne mettent pas seulement en œuvre l'algorithmisation (Jean-Gabriel Ganascia insiste sur le fait que ces méthodes ne sont pas radicalement nouvelles) mais qui savent la coupler avec la gestion de données massives voire avec l'IA dont ils ont les moyens d'infléchir les développements. Certains acteurs méritent à ce titre d'être étudiés de près (Edflex, Openclassrooms, Udemy, etc.) et l'évolution des stratégies des GAFAM vis-à-vis du secteur éducatif doit faire l'objet d'analyses outillées par les courants travaillant sur ces questions.

67Ni béats, ni pessimistes, il s'agit de prendre la mesure d'un phénomène important dans l'éducation par un scepticisme de bon aloi, qui questionne, soupèse, argumente, vérifie, relie, met en perspective, etc. Cela ne peut se faire que par le développement continu d'un esprit critique à amorcer selon les voies présentées ci-dessus et le plus tôt possible.

68On voit d'ailleurs mieux désormais que l'esprit critique n'est pas une fin en soi mais un processus toujours en mouvement, jamais vraiment abouti, dont on ne peut juger de l'ampleur que lorsqu'il s'applique à un phénomène, en l'occurrence l'I-artificialisation.

69La prise en compte de l'IA et de ses avancées dans l'éducation nous semble indissociable du développement d'une culture générale qui inclut un bagage technique et une capacité à manier les concepts. S'agit-il alors de développer les compétences dites du XXI e siècle, nouvelles compétences que l'on assimile souvent à des soft skills et présentées souvent comme une aptitude au changement et à la créativité, aptitudes qu'il s'agirait de maintenir durant toute sa vie professionnelle par une formation " tout au long de la vie " ? Si nous faisons partie de ceux qui pensent que l'esprit critique doit se réactualiser et s'exercer sur des innovations qui n'étaient, par définition, pas celles du passé, l'actualisation du contexte et des enjeux ne conduisent pas pour autant à accepter comme irrémédiables nouveautés des compétences qu'il s'agit elles-mêmes de mettre à distance. Ici aussi l'esprit critique doit s'exercer !

# data[].attributes.attachment_link.title
La rencontre de l'Intelligence artificielle (IA) et de l'esprit cri...

# data[].attributes.attachment_link.description
¿En qué medida los avances de la Inteligencia Artificial (IA) reinterpretan el desarrollo del pensamiento crítico (TC) y, en consecuencia, la formación de los profesores ? Tras haber identificado las cuestiones que plantea esta I-artificialización en y de la educación, subrayaremos la insuficiencia de las respuestas aportadas por los referentes competenciales o los enfoques científicos limitados a una o unas pocas disciplinas.

# data[].attributes.attachment_link.readable_text
As part of the Digital Working Group (GTnum) #Scol_IA "Renewal of digital practices and creative uses of digital and AI" we are pleased to present the white paper "Teaching and learning in the era of Artificial Intelligence, Acculturation , integration and creative uses of AI in education". The white paper edited by Margarida Romero, Laurent Heiser and Alexandre Lepage aims to provide the various educational actors with a diversified perspective both on the issues of acculturation and training in AI and on the resources and feedback from the various research teams and organisations. of scientific culture in the French-speaking countries. A multidisciplinary approach makes it possible to consider the perspectives of researchers in computer science as well as those of education and training sciences, information and communication sciences and the expertise of teaching professionals. and scientific mediation.

Dans le cadre du Groupe de Travail numérique (GTnum) #Scol_IA "Renouvellement des pratiques numériques et usages créatifs du numérique et IA" nous sommes heureux de vous présenter le livre blanc "Enseigner et apprendre à l'ère de l'Intelligence Artificielle, Acculturation, intégration et usages créatifs de l'IA en éducation". Le livre blanc édité par Margarida Romero, Laurent Heiser et Alexandre Lepage vise apporter aux différents acteurs éducatifs un éclairage diversifié tant des enjeux de l'acculturation et formation à l'IA que des ressources et retours d'expérience des différentes équipes de recherche et organismes de culture scientifique de la francophonie. Une approche pluridisciplinaire permet de considérer tant les perspectives des chercheurs en sciences de l'informatique, que celles des sciences de l'éducation et de la formation, les sciences de l'information et la communication et l'expertise des professionnels de l'enseignement et de la médiation scientifique.

# data[].attributes.attachment_link.title
Enseigner et apprendre à l'ère de l'intelligence artificielle

# data[].attributes.attachment_link.description
Dans le cadre du Groupe de Travail numérique (GTnum) #Scol_IA "Renouvellement des pratiques numériques et usages créatifs du numérique et IA" nous sommes heureux de vous présenter le livre blanc "Enseigner et apprendre à l'ère de l'Intelligence Artificielle, Acculturation, intégration et usages créatifs de l'IA en éducation".

# data[].attributes.headline
sur Instagram, artistes travaillant avec l'IA

# data[].attributes.subject
sur Instagram, artistes travaillant avec l'IA

# data[].attributes.headline
Rapport de la CNIL de 2017 ( ancien) autour des enjeux éthiques des algorithmes et de l'IA

# data[].attributes.subject
Rapport de la CNIL de 2017 ( ancien) autour des enjeux éthiques des algorithmes et de l'IA

# data[].attributes.attachment_link.readable_text
La CNIL publie le rapport de synthèse du débat public qu'elle a animé sur les enjeux éthiques des algorithmes et de l'intelligence artificielle . Isabelle FALQUE-PIERROTIN, présidente de la CNIL, le présente aujourd'hui en présence de Mounir MAHJOUBI, Secrétaire d'Etat chargé du Numérique et de Cédric VILLANI, Député, chargé par le gouvernement d'une mission sur l'intelligence artificielle.

L'irruption dans nos vies quotidiennes des algorithmes et de l'intelligence artificielle fait l'objet d'une attention publique soutenue, depuis que quelques cas emblématiques (APB, rôle des réseaux sociaux dans les présidentielles américaines etc.) ont marqué les citoyens, ici en France ou à l'étranger. A l'heure où se construisent les positions française et européenne sur l'intelligence artificielle, ce rapport a pour but de construire un panorama des enjeux éthiques qu'ils soulèvent.

Un débat public innovant sur les algorithmes et l'intelligence artificielle

Dans notre monde de plus en plus numérique, les algorithmes et l'intelligence artificielle sont partout : pour simuler l'évolution de la propagation de la grippe en hiver, pour recommander des livres à des clients, pour suggérer aux forces de police des zones où patrouiller en priorité, pour piloter de façon autonome des automobiles, pour élaborer automatiquement un diagnostic médical personnalisé, pour personnaliser un fil d'activité sur les réseaux sociaux etc. Des tâches complexes, parfois critiques, sont ainsi déléguées à des systèmes de plus en plus autonomes à mesure que les techniques d'apprentissage propres à l'intelligence artificielle se développent. Ces usages multiples et croissants, indissociables des masses de données inédites à disposition dans tous les secteurs, soulèvent de nombreuses questions.

Chargée par loi pour une République numérique de mener une réflexion sur les questions éthiques et de société posées par les nouvelles technologies, la CNIL s'est naturellement tournée vers le thème des algorithmes à l'heure de l'intelligence artificielle.

Le rapport s'appuie sur les résultats d'un débat public ouvert et décentralisé que la CNIL a animé de janvier à octobre 2017 : 3 000 personnes ont participé à 45 manifestations qui se sont tenues à l'initiative de 60 partenaires en France (Ax les Termes, Bordeaux, Caen, Lille, Lyon, Marseille, Paris, Toulouse) et à l'étranger (Etats-Unis). Une concertation citoyenne a également été organisée à Montpellier le 14 octobre pour compléter la démarche.

Médias, vie publique et politique, éducation, culture, santé, justice, sécurité et défense, banque et finance, emploi et recrutement ont été abordés comme champs d'exploration des algorithmes et de l'intelligence artificielle par les partenaires : des instituts de recherches (CREOGN, CNAM, ENSC, INSA), des institutions publiques (ministères, universités et grandes écoles), des fédérations professionnelles, des syndicats, des ordres d'avocat, des hôpitaux, des think tanks, des entreprises, etc.
Pour Isabelle Falque-Pierrotin, Présidente de la CNIL :
L'objectif de ce débat est de garantir que l'intelligence artificielle augmente l'homme plutôt qu'elle ne le supplante et participe à l'élaboration d'un modèle français de gouvernance éthique de l'intelligence artificielle. Nous devons collectivement faire en sorte que ces nouveaux outils soient à la main humaine, à son service, dans un rapport de transparence et de responsabilité

Quelles réponses éthiques au développement des algorithmes et de l'intelligence artificielle ?

Vers l'affirmation de deux principes fondateurs : loyauté et vigilance

Les débats ont permis de dégager deux principes fondateurs pour une intelligence artificielle au service de l'homme. Ces principes pourraient s'inscrire dans une nouvelle génération de garanties et de droits fondamentaux à l'ère numérique, des " droits-système " organisant la gouvernance mondiale de notre univers numérique :

Un principe de loyauté appliqué à tous les algorithmes et intégrant les impacts collectifs, et pas seulement personnels, de ces derniers. Tout algorithme , qu'il traite ou non des données personnelles, doit être loyal envers ses utilisateurs, non pas seulement en tant que consommateurs, mais également en tant que citoyens, voire envers des communautés ou de grands intérêts collectifs dont l'existence pourrait être directement affectée. L'intérêt des utilisateurs doit primer. Par exemple, un tel principe pourrait avoir vocation à s'appliquer à l'impact potentiel des réseaux sociaux sur la structure du débat public dans nos démocraties (segmentation du corps politique par le ciblage de l'information) ou à celui d'algorithmes de police prédictive sur des communautés ou quartiers entiers.

Un principe de vigilance/réflexivité : il s'agit d'organiser une forme de questionnement régulier, méthodique et délibératif à l'égard de ces objets mouvants. Ce principe constitue une réponse directe aux exigences qu'imposent ces objets technologiques du fait de leur nature imprévisible (inhérente au machine learning), du caractère très compartimenté des chaînes algorithmiques au sein desquels ils s'insèrent et, enfin, de la confiance excessive à laquelle ils donnent souvent lieu. C'est l'ensemble des maillons de la chaîne algorithmique (concepteurs, entreprises, citoyens) qui doivent être mobilisés pour donner corps à ce principe, au moyen de procédures concrètes (par exemple, des comités d'éthique assurant un dialogue systématique et continu entre les différentes parties-prenantes).

Ces principes fondateurs sont complétés par des principes organisationnels ayant traits à l'intelligibilité et à la responsabilité des systèmes algorithmiques ainsi qu'à la nature de l'intervention humaine dans la prise de décision algorithmique.

Les 6 recommandations opérationnelles

Ces principes font l'objet d'une déclinaison sous la forme de 6 recommandations opérationnelles à destination tant des pouvoirs publics que des diverses composantes de la société civile (entreprises, grand public, etc.) :

1. Former à l'éthique tous les acteurs-maillons de la " chaîne algorithmique " (concepteurs, professionnels, citoyens) : l'alphabétisation au numérique doit permettre à chaque humain de comprendre les ressorts de la machine ;

2. Rendre les systèmes algorithmiques compréhensibles en renforçant les droits existants et en organisant la médiation avec les utilisateurs ;

3. Travailler le design des systèmes algorithmiques au service de la liberté humaine, pour contrer l'effet " boîtes noires " ;

4. Constituer une plateforme nationale d'audit des algorithmes ;

5. Encourager la recherche sur l'IA éthique et lancer une grande cause nationale participative autour d'un projet de recherche d'intérêt général ;

6. Renforcer la fonction éthique au sein des entreprises (par exemple, l'élaboration de comités d'éthique, la diffusion de bonnes pratiques sectorielles ou la révision de chartes de dé peuvent être envisagées).

Les problématiques soulevées par les algorithmes et l'IA

Pour formuler ces principes fondateurs et les recommandations, le rapport s'est basé sur 6 problématiques essentielles remontées lors des débats afin de relever le défi éthique posé par ces technologies :

L'autonomie humaine au défi de l'autonomie des machines :

Algorithmes et intelligence artificielle permettent la délégation croissante de tâches, de raisonnements ou de décisions de plus en plus critiques à des machines. Souvent jugées infaillibles et " neutres ", celles-ci n'ouvrent-elles pas la voie à une confiance excessive et à la tentation pour chacun de ne pas exercer pleinement ses responsabilités ? Comment faire face aux formes nouvelles de dilution de la responsabilité qu'impliquent des systèmes algorithmiques complexes et très segmentés ?

Biais, discrimination et exclusion :

Biais, discrimination et exclusion constituent des effets clairement identifiés des algorithmes et de l'intelligence artificielle. Parfois volontaires, ces phénomènes sont, à l'heure du déploiement des algorithmes de machine learning, le plus souvent inconscients et difficilement repérables. Comment appréhender cette nouvelle problématique ?

Fragmentation algorithmique : la personnalisation contre les logiques collectives :

La personnalisation constitue l'une des grandes promesses de l'algorithme tel qu'il s'est construit avec le Web. Bien que des bénéfices certains pour l'individu émanent de la segmentation et du profilage, comment peuvent-ils tout autant affecter vigoureusement des logiques collectives essentielles à la vie de nos sociétés (pluralisme démocratique et culturel, mutualisation du risque) ?

Entre limitation des mégafichiers et développement de l'intelligence artificielle : un équilibre à réinventer :

L'intelligence artificielle nécessite d'importantes quantités de données à des fins d'apprentissage. Elle suscite également de nombreuses promesses. Comment exploiter celles-ci tout en maintenant l'impératif de protéger les libertés individuelles de chacun, intrinsèque à la législation européenne de protection des données personnelles ?

Qualité, quantité, pertinence : l'enjeu des données fournies à l'IA :

L'entraînement d'un algorithme d'apprentissage implique de l'alimenter avec des données sélectionnées avec soin, pertinentes au regard de l'objectif poursuivi et en quantité suffisante. Comment parvenir à une telle attitude critique en dépit de la tendance à une confiance excessive dans la machine ?

L'identité humaine au défi de l'intelligence artificielle :

L'idée d'une spécificité humaine irréductible se voit questionnée par l'autonomie grandissante des machines ainsi que par l'apparition de formes d'hybridation entre humains et machines. Faut-il et est-il possible de parler au sens propre d'" éthique des algorithmes " ? Comment appréhender cette nouvelle classe d'objets que sont les robots humanoïdes, susceptibles d'engendrer chez l'homme des formes d'affect ?

# data[].attributes.attachment_link.title
Comment permettre à l'Homme de garder la main ? Rapport sur les enjeux éthiques des algorithmes et de l'intelligence artificielle

# data[].attributes.attachment_link.description
L'irruption dans nos vies quotidiennes des algorithmes et de l'intelligence artificielle fait l'objet d'une attention publique soutenue, depuis que quelques cas emblématiques (APB, rôle des réseaux sociaux dans les présidentielles américaines etc.) ont marqué les citoyens, ici en France ou à l'étranger.

# data[].attributes.headline
avec le prompt publié avec la photo : midjourney_prompts_

# data[].attributes.subject
avec le prompt publié avec la photo : midjourney_prompts_