# data[].attributes.attachment_link.title
[Algorithmique 1/6] Intelligence sans conscience - Next

# data[].attributes.attachment_link.description
Dans son 1er épisode, Next reçoit l’informaticien Jean-Gabriel Ganascia et la docteure en intelligence artificielle Amélie Cordier.

# data[].attributes.headline
[Echosciences] Créer l'illusion pour réfléchir : l'IA au service d'une pédagogie éthique

# data[].attributes.subject
[Echosciences] Créer l'illusion pour réfléchir : l'IA au service d'une pédagogie éthique

# data[].attributes.attachment_link.title
Créer l’illusion pour réfléchir : l’IA au service d’une pédagogie éthique

# data[].attributes.attachment_link.description
Dans le cadre du Master Communication et Culture Scientifique et Technique de l’Université Grenoble Alpes, nous, étudiants de 1ère année, avons…

# data[].attributes.headline
[NEC en Commun] 6 ressources ludiques pour s'approprier l'intelligence artificielle 03.12.2024

# data[].attributes.subject
[NEC en Commun] 6 ressources ludiques pour s'approprier l'intelligence artificielle 03.12.2024

# data[].attributes.attachment_link.title
6 ressources (ludiques) pour s'approprier l'intelligence artificielle ! #NEC24

# data[].attributes.headline
L’observatoire des impacts environnementaux du numérique Arcep – ADEME

# data[].attributes.subject
L’observatoire des impacts environnementaux du numérique Arcep – ADEME

# data[].attributes.attachment_link.title
L’observatoire des impacts environnementaux du numérique Arcep – ADEME | Arcep

# data[].attributes.attachment_link.description
- 25 novembre 2024 : L’ADEME, en collaboration avec l’Arcep au sein de son comité de pilotage, publie 3 premiers rapports de l’étude IT4Green : un état de l’art des connaissances scientifiques sur les effets environnementaux de la numérisation ; une analyse des apports potentiels de la numérisation à la transition écologique dans six secteurs d’activités avec 30 solutions numériques étudiées qualitativement ; une synthèse des travaux. Cette étude sera complétée en 2025 par une analyse quantitative de 9 cas d’usages de solutions numériques visant a accélérer la transition écologique : 6 analyses de cycle de vie (ACV) complètes avec revue critique et 3 ACV simplifiées. / La publication

# data[].attributes.headline
Forum des futurs désirables #2 | "L'IA, la goutte qui fait déborder le serveur ?" 27.11.2024

# data[].attributes.subject
Forum des futurs désirables #2 | "L'IA, la goutte qui fait déborder le serveur ?" 27.11.2024

# data[].attributes.attachment_link.title
Forum des futurs désirables #2 | "L'IA, la goutte qui fait déborder le serveur ?"

# data[].attributes.headline
Forum Sciences et philosophie : l'image Conférences de Vincent Nozik et André Gunthert 07.12.2024

# data[].attributes.subject
Forum Sciences et philosophie : l'image Conférences de Vincent Nozik et André Gunthert 07.12.2024

# data[].attributes.attachment_link.title
DIRECT - Forum Sciences et philosophie : l’image

# data[].attributes.headline
[PedaGO] S01E07 : Entretien avec Gregoire Borst - IA et pédagogie ? 29.11.2024

# data[].attributes.subject
[PedaGO] S01E07 : Entretien avec Gregoire Borst - IA et pédagogie ? 29.11.2024

# data[].attributes.attachment_link.title
S01E07 : Entretien avec Gregoire Borst - IA et pédagogie ? | PédaGo! Université Paris Cité

# data[].attributes.attachment_link.description
L’IA remet-elle en question l’évaluation de nos étudiant.es? Comment s’approprier de manière pertinente ces IA, à la fois pour les enseignant.es et les étudiant.es? Comment sensibiliser et parler des IA à nos étudiant.es?

# data[].attributes.headline
[The conversation] Photos, IA et désinformation historique : l’enseignement de l’histoire face à de nouveaux défis 20.11.2024

# data[].attributes.subject
[The conversation] Photos, IA et désinformation historique : l’enseignement de l’histoire face à de nouveaux défis 20.11.2024

# data[].attributes.attachment_link.readable_text
À l'heure où l'intelligence artificielle accélère la propagation de fausses images et de photos sorties de leur contexte, apprendre aux élèves à sourcer leurs informations est plus important que jamais. Et les cours d'histoire se doivent d'intégrer aujourd'hui une formation à l'histoire numérique que peuvent faciliter des outils comme le projet VIRAPIC qui aide à repérer des photos virales.
Chaque jour, des images en lien avec des évènements historiques sont mises en ligne sans être référencées - avec leur auteur, leur date, leur localisation, leur lieu de conservation - et encore moins contextualisées par un commentaire historique. C'est le cas, par exemple, de cette photographie, la plus souvent publiée pour représenter les exactions des " mains coupées " dans le Congo de Léopold II, au tournant du XIX e au XX e siècle. En 2024, on la retrouve sur des milliers de pages web sans que l'auteur de cette photographie soit toujours mentionné et sans faire l'objet d'un commentaire historique approprié.

Cette photographie semble illustrer de manière saisissante les exactions commises par les compagnies de caoutchouc au Congo. Mais que peut-on voir de cette photographie sans connaître son histoire ? Le spectateur est ici contraint d'interpréter le message photographique au filtre de ses propres représentations, saisi par le contraste entre les victimes et les Européens habillés de blanc jusqu'au casque colonial, lesquels semblent justifier les châtiments corporels par leur pose hiératique.

En réalité, cette photographie a été prise en 1904 par une missionnaire protestante, Alice Seeley Harris, pour dénoncer ces violences et les deux hommes sur la photographie participent à cet acte de résistance photographique qui contribuera à mobiliser l'opinion publique européenne contre les crimes commis dans l'État indépendant du Congo. L'identité et les intentions du photographe ne sont pas ici un détail : ils rendent compte d'une réalité historique plus complexe, celle d'une " polyphonie morale " des sociétés européennes à la fin du XIX e siècle, divisées sur le bien-fondé et les dérives de la colonisation.

Un brouillard numérique d'images décontextualisées

Des exemples comme celui-ci, il en existe des milliers sur le web, les publications et partages d'images générant un brouillard de photographies décontextualisées, rendues virales par les algorithmes des moteurs de recherche et des réseaux sociaux numériques.

Prenons l'exemple de ce tweet d'Eric Ciotti posté le 16 juillet 2024 en commémoration de la rafle du Vel d'Hiv :

La photographie postée n'a pas grand-chose à voir avec les rafles des 16 et 17 juillet 1942 : il s'agit en réalité d'un cliché montrant des Français soupçonnés de collaboration enfermés au Vel d'Hiv après le Libération. Ce compte Twitter n'est pas le seul à reproduire cette erreur ; il faut noter que les algorithmes de Google images ont longtemps placé cette photographie dans les premiers résultats de recherche à la suite des mots clefs " Rafle du Vel d'Hiv ".

La rectification de cette erreur est-elle seulement l'affaire des historiens préoccupés par l'identification des sources ? En réalité, cette erreur participe à la méconnaissance historique de la rafle du Vel d'Hiv. Comme le montre l'historien Laurent Joly, il existe une seule photographie de la rafle, prise le 16 juillet 1942 à des fins de propagande et pourtant jamais publiée dans la presse. Ce détail n'est pas anodin, il révèle que les autorités allemandes ont interdit la publication des photographies de la rafle, alertées par la désapprobation de la population parisienne.

Un défi pour les enseignants

Ces quelques exemples doivent nous alerter sur l'usage illustratif de la photographie encore trop présent dans l'édition scolaire. Faute de place, les manuels se contentent, le plus souvent, d'une simple légende sans commentaire pour éclairer ou confirmer le cours de l'enseignant.

L'usage des photographies par les historiens a pourtant évolué ces dernières années, considérant désormais celle-ci comme de véritables archives auxquelles doivent s'appliquer les règles élémentaires de la critique des sources. Un tel usage gagnerait certainement à être généralisé dans l'enseignement de l'histoire pour sensibiliser les élèves à la critique documentaire - le plus souvent résumée par la méthode SANDI (Source, Auteur, Nature, Date, Intention). Car, si cette méthode est parfois jugée artificielle par les élèves, elle trouve une justification, pour ainsi dire immédiate, dans la critique de l'archive photographique.

Read more: Quelle éducation aux images à l'heure des réseaux sociaux ?

En effet, le regard porté par les élèves sur l'image photographique change radicalement une fois connue son histoire.

Cette approche documentaire est d'autant plus nécessaire que les élèves et les étudiants s'informent aujourd'hui de plus en plus sur les réseaux sociaux, des réseaux où les photographies sont relayées par des armées de comptes sans scrupules méthodologiques et parfois orientées par des lectures complotistes du passé.

Il faut encore ajouter une autre donnée pour comprendre l'enjeu pédagogique qui attend les enseignants d'histoire dans les années à venir : d'ici 2026, selon un rapport d'Europol, la majorité du contenu disponible sur le web sera généré par l'IA. Cela impliquera probablement la publication de fausses photographies de plus en plus crédibles et sophistiquées, lesquelles tiendront lieu de preuve à des fictions déguisées en histoire.

La prolifération des IA génératives, l'accélération des échanges de photographies inventées, détournées ou décontextualisées constituent un véritable défi pédagogique. Comment enseigner l'histoire aux élèves sans leur transmettre les outils pour affronter la désinformation historique en ligne ? Comment expliquer aux élèves l'environnement numérique dans lequel ils sont immergés (IA, algorithmes, vitalités des images) sans proposer un cours d'histoire qui soit aussi un cours d'histoire numérique ?

Un projet pour lutter contre la viralité de la désinformation historique

Pour répondre à ces défis, l'Encyclopédie d'histoire numérique de l'Europe ( EHNE-Sorbonne Université) et les équipes d'informaticiens du CERES-Sorbonne Université élaborent un nouvel outil qui vise autant un public d'enseignants que d'éditeurs et les journalistes : le projet VIRAPIC, une plate-forme numérique dont l'objectif est de repérer les photographies virales (reproduites en ligne à une très grande échelle et/ou sur un laps de temps réduit) lorsque celles-ci sont inventées, détournées ou décontextualisées des évènements historiques qu'elles prétendent illustrer.

L'objectif est double. Il s'agit d'injecter du contenu historique autour des photographies virales (source, légende, commentaire historiques) et d'analyser les viralités numériques des photographiques (Qui les publie ? Sur quels supports ? Avec quelle temporalité ?). Le projet VIRAPIC aborde surtout le problème de la désinformation historique par une approche pragmatique : lutter contre la viralité de la désinformation par le référencement du travail historien sur les moteurs de recherche.

L'originalité de cet outil tient en effet à la possibilité d'agir directement sur les pratiques des internautes grâce au référencement de l'Encyclopédie EHNE dont les pages web apparaissent dans les premiers résultats des moteurs de recherche. Ainsi, les internautes recherchant des photographies pour illustrer les évènements historiques verront apparaître les pages web EHNE/VIRAPIC dans les premiers résultats de recherche comme Google Images.

En constituant une base de référencement des photographies virales, détournées, décontextualisées ou inventées autour d'évènement historiques, le projet VIRAPIC permettra d'accéder rapidement à un contenu historique solide et critique sur les images que les élèves, enseignants ou éditeurs souhaitent publier en ligne ou utiliser en cours.
Science et Société se nourrissent mutuellement et gagnent à converser. La recherche peut s'appuyer sur la participation des citoyens, améliorer leur quotidien ou bien encore éclairer la décision publique. C'est ce que montrent les articles publiés dans notre série " Science et société, un nouveau dialogue ", publiée avec le soutien du ministère de l'Enseignement supérieur et de la Recherche.

# data[].attributes.attachment_link.title
Photos, IA et désinformation historique : l'enseignement de l'histoire face à de nouveaux défis

# data[].attributes.attachment_link.description
Alors que l'intelligence artificielle accélère la propagation de fausses images, les cours d'histoire se doivent d'intégrer une formation à l'histoire numérique. Explications avec le projet VIRAPIC.

# data[].attributes.headline
 Café-théâtre IA : comment se mêler de ce qui nous impacte ? #NEC24 

# data[].attributes.subject
 Café-théâtre IA : comment se mêler de ce qui nous impacte ? #NEC24 

# data[].attributes.attachment_link.title
Café-théâtre IA : comment se mêler de ce qui nous impacte ? #NEC24

# data[].attributes.headline
Conférence « Le bibliothécaire, le citoyen face aux IA » –  Louis Derrac 28.11.24

# data[].attributes.subject
Conférence « Le bibliothécaire, le citoyen face aux IA » –  Louis Derrac 28.11.24

# data[].attributes.body
25 novembre 2024

# data[].attributes.attachment_link.title
Louis Derrac - Conférence « Le bibliothécaire, le citoyen face aux IA » - Partage de ma présentation

# data[].attributes.attachment_link.description
Jeudi dernier, j’ai eu le plaisir d’intervenir dans le cadre des Rencontres Héraultaises de la Lecture Publique. Le matin, j’ai proposé une conférence intitulée le bibliothécaire, le citoyen face aux IA (adaptée de ma conférence ChatGPT partout, démocratie nulle part). L’après-midi, j’ai animé deux ateliers « dessinez-moi un monde d’IA(s) acceptable », qui se sont […]

# data[].attributes.headline
Ministère de la Culture : Recherche et intelligence artificielle - Automne-hiver 2024

# data[].attributes.subject
Ministère de la Culture : Recherche et intelligence artificielle - Automne-hiver 2024

# data[].attributes.attachment_link.description
Culture et Recherche n°147, automne-hiver 2024, 138 pages. Dossier coordonné par :
Catherine Graindorge, Rédactrice en chef, Délégation générale à la transmission, aux territoires et à la démocratie culturelle

# data[].attributes.headline
FramamIA : comprendre impacts risques société

# data[].attributes.subject
FramamIA : comprendre impacts risques société

# data[].attributes.headline
L'I.A. expliquée aux humains Jean-Gabriel Ganascia 

# data[].attributes.subject
L'I.A. expliquée aux humains Jean-Gabriel Ganascia 

# data[].attributes.attachment_link.readable_text
Les prouesses de l'intelligence artificielle (IA) suscitent tour à tour enthousiasme, fascination et effroi. Jean-Gabriel Ganascia, spécialiste incontesté de la discipline, nous éclaire sur ce qui est devenu un véritable phénomène.

Sans les premiers algorithmes imaginés à Babylone et la machine arithmétique de Blaise Pascal, l'IA n'existerait pas, mais sa naissance remonte au milieu du xxe siècle, peu après l'invention de la cybernétique. Les années 2010 marquent un tournant, grâce au déploiement de l'apprentissage profond dont ChatGPT est l'illustration. En reparcourant l'histoire de l'IA, nous nous approprions ses principes de fonctionnement, ses applications (médecine, exploration spatiale, agriculture), ses succès et aussi ses revers.

Et l'auteur discute les questions d'ordre éthique qui nous taraudent tous : les machines nous dépasseront-elles ? Acquerront-elles une conscience ? Supprimeront-elles des emplois ? Nous feront-elles - ou nous font-elles déjà - entrer dans une société de surveillance ? Comment anticiper les risques majeurs auxquels elles nous exposent ?

Jean-Gabriel Ganascia est professeur à Sorbonne Université, où il mène des recherches sur l'intelligence artificielle au LIP6. Il a présidé le Comité d'éthique du CNRS et a déjà publié divers ouvrages au Seuil, dont Le Mythe de la Singularité, qui a reçu le prix Roberval en 2017.

# data[].attributes.attachment_link.description
L'I.A. expliquée aux humains, Jean-Gabriel Ganascia : Les prouesses de l'intelligence artificielle (IA) suscitent tour à tour enthousiasme, fascination e...

# data[].attributes.headline
Nexus, une brève histoire des réseaux d’information de l’âge de pierre à l’IA. Yuval Noah Harari, 2024

# data[].attributes.subject
Nexus, une brève histoire des réseaux d’information de l’âge de pierre à l’IA. Yuval Noah Harari, 2024

# data[].attributes.attachment_link.title
Nexus : Une brève histoire des réseaux d’information, de l’âge de pierre à l’IA - Yuval Noah Harari - Albin Michel - Grand format - Librairie des Sciences-Politiques Paris

# data[].attributes.attachment_link.description
Les histoires nous ont réunis. Les livres ont diffusé nos idées et nos mythologies. Internet nous a promis le savoir infini. Les algorithmes ont découvert nos secrets - et nous ont divisés. Quel monde nous promet l’IA ? Depuis cent mille ans, nous, les Sapiens, avons acquis un gigantesque pouvoir. Mais malgré nos découvertes, inventions e

# data[].attributes.headline
Géopolitique du numérique : l'impérialisme à pas de géants Ophélie Coelho

# data[].attributes.subject
Géopolitique du numérique : l'impérialisme à pas de géants Ophélie Coelho

# data[].attributes.attachment_link.title
Géopolitique du numérique : l’impérialisme à pas de géants

# data[].attributes.attachment_link.description
Voyage à la fois historique et géographique, ce livre nous donne voir un nouveau théâtre d’opérations où, loin de l’utopie d’un internet sans frontières, l’impérialisme technologique avance à pas de géants.
En librairie le 28 août 2023

# data[].attributes.attachment_link.readable_text
A la différence de Guillaume Erner, je n'ai pas vu les vidéos de l'attaque du 7 octobre, images de vidéosurveillance ou de téléphones portables compilées par Tsahal dans un film de 48 minutes, régulièrement présenté depuis le 23 octobre à des membres de la Knesset, à des journalistes ou à des groupes de parlementaires étrangers (voir la description analytique proposée par CheckNews). [...]

# data[].attributes.attachment_link.description
Le carnet de recherches d'André Gunthert

# data[].attributes.headline
[Médiathèque départementale de l'Isère] - sélection micro folies art IA

# data[].attributes.subject
[Médiathèque départementale de l'Isère] - sélection micro folies art IA

# data[].attributes.attachment_link.title
Chargement - Médiathèque numérique de l’Isère - Médiathèque numérique de l’Isère

# data[].attributes.attachment_link.description
Contrôlez l’utilisation de vos données personnelles

# data[].attributes.headline
[Algorithmique 4/6] IA qu’à algorithmiser le climat ? 06.11.2024

# data[].attributes.subject
[Algorithmique 4/6] IA qu’à algorithmiser le climat ? 06.11.2024

# data[].attributes.attachment_link.readable_text
Depuis l'émergence des modèles d'IA générative, les besoins en énergie des principaux constructeurs ont explosé, au point que Microsoft, Google puis Amazon aient successivement annoncé se tourner vers le nucléaire pour y répondre. Mais concrètement, quels sont les effets de l'intelligence artificielle sur le climat ? Dans quelle mesure ces technologies aident-elles à lutter contre le dérèglement climatique ? Ont-elles plutôt tendance à le renforcer ?

Pour en discuter, Next a rencontré Clément Marquet, chercheur et chargé d'enseignement au Centre de sociologie de l'innovation de l'école des Mines Paris - PSL, et Anne-Laure Ligozat, professeure d'informatique au Laboratoire interdisciplinaire des sciences du numérique de Paris Saclay et chercheuse sur les impacts environnementaux du numérique et de l'IA.

Pour écouter l'épisode, vous avez deux options : le player en bas de cet article, ou sur toutes les bonnes applications de podcast (parmi lesquelles Deezer, Podcast Addict, Spotify et Apple Podcast).

Pour ne manquer aucun futur épisode et nous aider à atteindre un large public, abonnez-vous et abonnez vos proches dès aujourd'hui au fil audio de Next.

Ressources :

Algorithmique est un podcast de Mathilde Saliou produit par Next. Réalisation et mixage : Clarice Horn. Identité graphique : Flock. Rédaction en chef : Sébastien Gavois. Direction de la rédaction : Alexandre Laurent.

Musique : Oh the City - Computerized Synthesis of Happiness - Courtesy of Epidemic Sound / Harbours & Oceans - Holocene - Courtesy of Epidemic Sound / Amber Glow - In the Storm - Courtesy of Epidemic Sound / Veevel - Itiquira Falls - Courtesy of Epidemic Sound / Rocket Jr - Pebbles - Courtesy of Epidemic Sound / ELFL - The Flux Beneath it All - Courtesy of Epidemic Sound

# data[].attributes.attachment_link.title
[Algorithmique 4/6] IA qu'à algorithmiser le climat ? - Next

# data[].attributes.attachment_link.description
Quels sont les effets de l'IA sur le climat ? Next en discute avec le sociologue Clément Marquet et l'informaticienne Anne-Laure Ligozat.

# data[].attributes.attachment_link.description
Abonne-toi à la newsletter pour ne rien manquer de nos dernières publications.

# data[].attributes.headline
[La Fabrique Média] Atelier ce film n'existe pas 

# data[].attributes.subject
[La Fabrique Média] Atelier ce film n'existe pas 

# data[].attributes.attachment_link.title
Ce film n’existe pas - La flûte de sable - La Fabrique Média

# data[].attributes.attachment_link.description
Page réalisée dans le cadre de l’atelier de création « Deepfake – Ce film n’existe pas » animé lors du stage « IA et création » à la cité scolaire Albert Triboulet à Romans-sur-Isère en Juin 2024 La Flûte de Sable (2024) réalisé par James Cabrick En 2030, Sofia, la mairesse d’un village andalou transformé en désert, se lance […]

# data[].attributes.attachment_link.readable_text
Dans un paysage numérique en pleine évolution, la recherche d'outils de création de contenu innovants a conduit à l'émergence de solutions révolutionnaires telles que Sora AI. Ce générateur de texte-vidéo exploite la puissance de l'intelligence artificielle (IA) pour transformer le contenu écrit en récits vidéo attrayants, marquant ainsi une avancée significative dans la manière dont nous produisons et consommons le contenu numérique.

Qu'est-ce que Sora AI - Générateur de Texte en Vidéo ?
Sora AI est une plateforme avancée conçue pour convertir du texte en contenu vidéo captivant sans effort. Sora AI s'appuie sur l'IA, l'apprentissage automatique et les technologies de traitement du langage naturel pour interpréter le texte et générer les éléments visuels et auditifs correspondants. Cette intégration transparente des technologies permet aux utilisateurs de créer des vidéos de haute qualité à partir d'un contenu textuel en quelques minutes.

Comment fonctionne Sora AI ?

Le processus de conversion de texte en vidéo avec Sora AI est simple et convivial. Les utilisateurs commencent par saisir leur texte sur la plateforme, que Sora AI analyse ensuite pour identifier les thèmes et les sentiments clés. Sur la base de cette analyse, il sélectionne les visuels, les animations et les voix off appropriés pour compléter le texte. La plateforme offre une série d'options de personnalisation, permettant aux utilisateurs d'adapter leurs vidéos à leur marque ou à leurs préférences stylistiques.

Caractéristiques principales de Sora AI :

Sora AI se distingue par son ensemble complet de fonctionnalités, conçues pour répondre à un large éventail de besoins en matière de production vidéo :

Voix off automatisées : Les utilisateurs peuvent choisir parmi une variété d'accents et de langues, ce qui rend le contenu accessible à un public mondial.

Modèles et animations : Une vaste sélection de modèles et d'animations convient à différents types de contenu, du matériel éducatif aux vidéos de marketing.

Édition pilotée par l'IA : Les capacités d'édition pilotées par l'IA de la plateforme garantissent que les vidéos sont non seulement attrayantes sur le plan visuel, mais aussi pertinentes sur le plan contextuel.

Marque personnalisée : Sora AI permet l'incorporation d'éléments de marque personnalisés, garantissant que les vidéos s'alignent sur l'identité de la marque de l'utilisateur.

Avantages de l'utilisation de Sora AI :

L'adoption de Sora AI dans les flux de création de contenu offre plusieurs avantages :

Efficacité : Sora AI réduit considérablement le temps et les coûts associés à la production vidéo traditionnelle.

Accessibilité : Son interface intuitive rend la production vidéo accessible aux utilisateurs n'ayant pas d'expérience préalable en matière de montage.

Qualité : L'IA garantit la qualité et l'engagement des résultats.

Évolutivité : Les créateurs de contenu peuvent faire évoluer leurs efforts de production vidéo pour répondre aux demandes croissantes de contenu sans compromettre la qualité.

Créer un compte OpenAI pour Sora AI:

1. Naviguez sur le site web d'OpenAI et sélectionnez " Sign up ".

2. Indiquez votre adresse électronique et votre mot de passe, puis procédez à la vérification par téléphone.

3. Vérifiez votre adresse électronique pour activer votre compte.

Cas d'utilisation de Sora AI :

La polyvalence de Sora AI lui permet de s'adapter à un large éventail d'applications :

Marketing de contenu : Améliorer l'engagement dans les médias sociaux grâce à un contenu vidéo convaincant.

L'éducation : Création de vidéos éducatives et de formation qui sont à la fois informatives et attrayantes.

Commerce électronique : Présenter des démonstrations de produits pour stimuler les ventes en ligne.

La narration : Personnaliser les histoires et les présentations afin d'établir un lien plus profond avec le public.

Limites de SoraAI :

1. Options de personnalisation limitées: Sora AI peut offrir moins d'outils d'édition que les logiciels d'édition vidéo traditionnels, ce qui limite les possibilités de personnalisation des vidéos.

2. Dépendance à l'égard de la qualité du texte: La qualité de la sortie vidéo dépend fortement de la clarté et de la cohérence du texte d'entrée.

3. Limites des voix off : Les voix off générées par l'IA peuvent manquer d'émotion naturelle et d'inflexion par rapport à la parole humaine.

4. Restrictions des ressources visuelles et audio: Les utilisateurs sont limités à la bibliothèque de Sora AI pour les visuels et l'audio, ce qui peut limiter la créativité.

5. Courbe d'apprentissage: Les nouveaux utilisateurs peuvent avoir besoin de temps pour maîtriser pleinement les fonctionnalités et les capacités de Sora AI.

6. Dépendance à l'égard de la connectivité Internet: Sora AI a besoin d'une connexion Internet stable, ce qui limite l'accessibilité hors ligne.

7. Temps de traitement: Les délais de génération des vidéos peuvent varier, ce qui risque de retarder les projets dont les délais sont serrés.

8. Considérations sur les coûts: L'accès à des fonctionnalités avancées et à des limites d'utilisation plus élevées dans Sora AI peut nécessiter un abonnement payant.

9. Confidentialité et sécurité des données: L'utilisation de Sora AI implique de confier à la plateforme des contenus potentiellement sensibles.

10. Mises à jour et changements de la plateforme: Les mises à jour continues de Sora AI peuvent perturber les flux de travail des utilisateurs et nécessiter une adaptation aux nouvelles fonctionnalités.

Démarrer avec Sora AI :

Démarrer avec Sora AI est un processus simple. Les nouveaux utilisateurs peuvent créer un compte sur la plateforme et commencer à explorer ses fonctionnalités grâce à un tableau de bord convivial. Sora AI propose différents plans tarifaires pour répondre à différents besoins et budgets, ce qui la rend accessible aux particuliers comme aux entreprises.

Meilleures pratiques pour la conversion de textes en vidéos :

Pour maximiser le potentiel de Sora AI, les utilisateurs doivent se concentrer sur l'élaboration de scripts efficaces, le choix de modèles et de personnalisations adaptés, et l'intégration stratégique des vidéos générées par l'IA dans leur stratégie de contenu. Ces pratiques garantissent que le contenu vidéo final est attrayant, pertinent et conforme aux objectifs du créateur.

Comparaison de Sora AI avec d'autres outils de conversion de texte en vidéo :

Bien qu'il existe plusieurs outils de conversion de texte en vidéo, Sora AI se distingue par ses capacités d'IA avancées, sa facilité d'utilisation et son ensemble complet de fonctionnalités. Ces caractéristiques font de Sora AI une option attrayante pour les créateurs de contenu qui recherchent un moyen efficace de produire du contenu vidéo.

L'avenir de l'IA dans la production vidéo :

Alors que l'IA continue de progresser, son rôle dans la production vidéo est appelé à devenir encore plus important. Sora AI est à l'avant-garde de cette transformation, offrant un aperçu de l'avenir de la création de contenu où l'efficacité, la créativité et l'accessibilité sont primordiales.

Conclusion - Sora AI est une solution tout-en-un pour les textes-vidéos

Sora AI représente une étape importante dans l'évolution des outils de création de contenu. En permettant de transformer sans effort du texte en vidéo, il ouvre de nouvelles possibilités aux créateurs de contenu pour engager et captiver leur public. L'impact de l'IA sur la production vidéo et la création de contenu est appelé à se développer, Sora AI jouant un rôle de premier plan dans cette nouvelle ère passionnante.

L'exploration de Sora AI offre une opportunité de rester en tête dans le jeu de la création de contenu, en tirant parti de la puissance de l'IA pour produire des vidéos qui ne sont pas seulement informatives, mais aussi profondément engageantes.

# data[].attributes.attachment_link.title
Sora AI - Générateur de vidéos OpenAI Login

# data[].attributes.attachment_link.description
Sora AI by OpenAI - Générer des vidéos à partir d'un texte sans effort. Révolutionner la création de contenu dans tous les secteurs grâce à la technologie de l'IA.

# data[].attributes.attachment_link.title
IA Vidéo | Découvrez le meilleur générateur de vidéo IA au monde

# data[].attributes.attachment_link.description
La création vidéo IA repose sur de nombreux outils d’intelligence artificielle : script vidéo, générateur de voix, avatar IA. CapCut les réunit tous, gratuitement.

# data[].attributes.attachment_link.title
Générateur de vidéo par intelligence artificielle gratuit | Canva

# data[].attributes.attachment_link.description
Créez instantanément une vidéo avec l’intelligence artificielle de Canva à partir d’une consigne en utilisant notre générateur de vidéo IA.

# data[].attributes.body
un oeil critique sur la place de la tech et l’IA dans nos vies et nos imaginaires.

# data[].attributes.attachment_link.provider_name
Synth, le média qui vous aide à comprendre l'impact de la tech et de l'intelligence artificielle dans nos vies

# data[].attributes.attachment_link.description
SYNTH est un média éclaireur qui vous aide à garder un oeil critique sur la place de la tech et l’IA dans nos vies et nos imaginaires

# data[].attributes.headline
Eduscol Veille éducation numérique 2024-2025

# data[].attributes.subject
Eduscol Veille éducation numérique 2024-2025

# data[].attributes.body
2024-2025

# data[].attributes.attachment_link.provider_name
éduscol | Ministère de l'Education Nationale et de la Jeunesse | Direction générale de l'enseignement scolaire

# data[].attributes.attachment_link.readable_text
Stadium, plateforme interactive du Musée National du Sport

Dans le cadre du plan héritage du Gouvernement français Stadium propose une vaste collection de documents, d'objets et de récits autour des grandes figures et événements du sport. En plus des expositions virtuelles, Stadium met en avant au sein de la rubrique Documents et objets des histoires inspirantes et des portraits de sportifs, des disciplines sportives (abécédaire, A comme Athlétisme, W comme Water-polo), soulignant l'impact du sport sur la culture et la société.

Le site encourage la participation du public à travers des appels à contributions pour enrichir ses archives. Des sections spécifiques sont dédiées à l'histoire des Jeux olympiques et à d'autres événements marquants. Le site facilite également la recherche dans les collections du musée (outil de recherche basé sur la bibliothèque numérique Gallica développée par la Bibliothèque nationale de France) et de ses partenaires, offrant ainsi une ressource précieuse pour les passionnés de sport et les chercheurs.

Stadium est la première bibliothèque numérique de valorisation du patrimoine sportif. Elle rejoint le programme " Gallica marque blanche " proposé par la BnF.

Sources

Réseaux et médias sociaux

# data[].attributes.body
Artificielles, une newsletter écrite en collaboration avec des IA

# data[].attributes.attachment_link.readable_text
Avec Artificielles, la newsletter sur l'intelligence artificielle, Numerama vous propose de vous informer de l'effervescence autour d'un sujet brûlant. De ChatGPT à Midjourney, en passant par Google Bard et la multitude d'outils plus ou moins sous les projecteurs, vous saurez tout sur le sujet. Le twist ? Ce projet est conçu par intelligence artificielle et vérifié par Numerama.

Numerama, référence en matière de technologie et de culture numérique, s'associe avec l' intelligence artificielle pour proposer une expérience inédite : Artificielles. Cette newsletter gratuite, unique en son genre, vous tient informés et informées des dernières actualités, innovations et tendances s'agissant de l'intelligence artificielle et de ses nouveaux usages.

Conçue pour les passionnés de technologie comme pour les simples curieux, Artificielles vous permet d'explorer en profondeur le monde fascinant et en évolution rapide des IA.

Une à deux fois par semaine, vous obtiendrez un récapitulatif de ce qui se passe dans le domaine des IA, avec les développements les plus récents et les plus prometteurs.

Vous pouvez vous abonner gratuitement à Artificielles grâce au formulaire ci-dessous

Newsletter Artificielles

Vous souhaitez recevoir la newsletter Artificielles dans votre boîte mail ?

Artificielles, une newsletter écrite en collaboration avec des IA

Pour associer le fond à la forme, l'une des particularités d'Artificielles réside dans son processus de création. Rédigée par ChatGPT (modèle GPT-4), l'une des IA génératives les plus avancées de notre époque, cette newsletter vous propose un condensé de l'actualité, renvoyant vers les articles de la rédaction. Comme nous croyons en la collaboration entre les humains et les machines, nous ajoutons notre patte au projet : l'équipe de Numerama vérifie minutieusement chaque édition pour garantir la fiabilité des informations et vous offrir une expérience de lecture plaisante.

Pour ne pas faire les choses à moitié, le design d'Artificielles est également le fruit d'une collaboration entre humains et IA. Son logo a été généré par Midjourney, plateforme spécialisée dans la création graphique assistée par intelligence artificielle, puis personnalisé par Dall-E, une autre IA talentueuse en matière d'art numérique, particulièrement lorsqu'il s'agit d'étendre des formats.

Pour finir, notre designeuse Claire Braikeh a peaufiné le tout en raffinant une police d'écriture issue d'un générateur.

Chaque fois que nous en avons eu l'occasion, nous avons mis les IA génératives à contribution pour créer Artificielles. Même une partie de ce texte de présentation a été écrit à partir d' un prompt soumis à GPT-4 pour annoncer la nouvelle newsletter. Il a été corrigé, amplifié, vérifié et amélioré par Numerama, car notre exploration de l'IA nous a bien montré une chose : elle sait nous assister si nous assumons la responsabilité de ce que nous produisons et élevons nos productions aux standards qu'attendent nos lectrices et nos lecteurs.

Newsletter Artificielles

Vous souhaitez recevoir la newsletter Artificielles dans votre boîte mail ?

Toute l'actu tech en un clin d'œil

Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !

# data[].attributes.attachment_link.title
Découvrez Artificielles, la première newsletter sur l'IA, écrite par une IA, et vérifiée par Numerama

# data[].attributes.attachment_link.description
Avec Artificielles, la newsletter sur l'intelligence artificielle, Numerama vous propose de vous informer de l'effervescence autour d'un sujet brûlant. De ChatGPT à Midjourney, en passant par Google Bard et la multitude d'outils plus ou moins sous les projecteurs, vous saurez tout sur le sujet. Le twist ? Ce projet

# data[].attributes.headline
[Algorithmique 5/6] La politique de l’IA - 20.11.2024

# data[].attributes.subject
[Algorithmique 5/6] La politique de l’IA - 20.11.2024

# data[].attributes.attachment_link.title
[Algorithmique 5/6] La politique de l’IA - Next

# data[].attributes.attachment_link.description
Algorithmique reçoit la juriste Imane Bello et le sociologue Bilel Benbouzid pour évoquer les débats politiques autour de l’IA.

# data[].attributes.attachment_link.description
Join us for a brand new film festival celebrating creativity through emerging AI technologies.

# data[].attributes.attachment_link.title
L’Artefact AI Film Festival avec mk2, présidé par Jean-Pierre Jeunet, révèle son prestigieux jury et ouvre officiellement son concours - Artefact

# data[].attributes.attachment_link.description
In celebration of its 10th anniversary, Artefact, a global player in data and AI services, is teaming up with mk2, a leading art house…

# data[].attributes.attachment_link.title
L’appel à projets pour le Symposium International de la Création Numérique, ISEA2023, est lancé

# data[].attributes.attachment_link.description
ISEA (Symposium International sur l’Art Electronique) est l’un des plus importants événements artistiques et technologiques internationaux. Il a lieu

# data[].attributes.attachment_link.readable_text
PROMPT est une intelligence artificielle qui répond à des questions pratico-philosophico-foutraques, bien résolue à mettre ses savoirs au profit d'une humanité vulnérable. Où partir en vacances ? Pourquoi je n'arrive pas à dormir ? L'IA est disruptive, déroutante, mais l'humain est agile. A tous les deux de s'apprivoiser, au prix de quiproquos qui font le sel de la série.

Les humains sont largués ? Prompt sera leur boussole, leur lueur dans la nuit numérique, leurs lendemains qui chantent, car cette intelligence artificielle pas comme les autres, carbure à l'empathie. A partir de questions issues des petits tracas philosophiques ou pratiques de notre quotidien, Prompt livre des réponses fabriquées, bien résolue à mettre son savoir infini au profit d'une humanité vulnérable, quitte à surchauffer du code. Elle détricote le réel jusqu'à l'absurde, donne du sens à ce qui n'en a pas, de l'épaisseur à de l'inconsistance. Prompt ouvre grand les portes de la gamberge sur nos errements personnels, ceux de nos contemporains et, plus largement, sur les absurdités de l'époque.
" Prompt sera toujours là pour nous " et c'est déjà beaucoup.

arte.tv sur tous vos écrans

Retrouvez nos programmes sur votre ordinateur, smartphone, tablette ou TV connectée

Tous droits de reproduction et de diffusion réservés © 2024 ARTE G.E.I.E. - ARTE G.E.I.E. 4, quai du chanoine Winterer CS 20035F - 67080 Strasbourg Cedex

# data[].attributes.attachment_link.title
Prompt - Bande annonce - A découvrir dès le 16/12/2024 - Regarder le documentaire complet | ARTE

# data[].attributes.attachment_link.description
PROMPT est une intelligence artificielle qui répond à des questions pratico-philosophico-foutraques, bien résolue à mettre ses savoirs au profit d'une humanité vulnérable. Où partir en vacances ? Pourquoi je n'arrive pas à dormir ? L'IA est disruptive, déroutante, mais l'humain est agile.

# data[].attributes.headline
[Séquence pédagogique] Les élèves face aux IA génératives… de stéréotypes de genres. 

# data[].attributes.subject
[Séquence pédagogique] Les élèves face aux IA génératives… de stéréotypes de genres. 

# data[].attributes.attachment_link.title
Édubase - Les élèves face aux IA génératives… de stéréotypes de genres.

# data[].attributes.attachment_link.description
Cette séquence sur le thème de l’égalité filles-garçons a été l’occasion d’initier les élèves à l’intelligence artificielle en essayant de faire tout d’abord, un état des lieux de leurs connaissances sur le sujet, puis de leur apporter à la fois des définitions et une première expérience de l’intelligence artificielle avec l’écriture de leurs « premiers prompts ».
Afin d’exercer leur esprit critique, ils ont cherché par des exemples si l’IA véhicule des stéréotypes de genre.

# data[].attributes.headline
[Rencontre culture numérique] Education aux médias et à l'information (EMI) & Intelligence artificielle (IA) - Cité des sciences et de l'industrie 22.03.2024

# data[].attributes.subject
[Rencontre culture numérique] Education aux médias et à l'information (EMI) & Intelligence artificielle (IA) - Cité des sciences et de l'industrie 22.03.2024

# data[].attributes.attachment_link.readable_text
- Sophie Biecheler, Directrice déléguée aux relations internationales, institutionnelles et internationales d'Universcience

- Noël Corbin, Délégué général à la transmission, aux territoires et à la démocratie culturelle du ministère de la Culture
¤ Session "Production et diffusion de l'information : impacts positifs et négatifs de l'IA" (10h - 12h30)
Comment l'IA modifie ou bouleverse le travail des journalistes et des médias ? Quels nouveaux enjeux et défis porte-elle dans la sphère médiatique et plus largement dans notre société ? Cette session propose quatre approches d'acteurs de l'information investis sur ce sujet.

Animation : Jean-Gabriel Minel, Chargé de mission pour les industries culturelles et créatives à la Direction générale des médias et des industries culturelles du ministère de la Culture.

Estelle Cognacq, Directrice adjointe de Franceinfo, chargée du numérique, et directrice de l'agence Radio France

Les apports de l'IA au travail journalistique & les questions déontologiques posées par l'IA

https://www.radiofrance.com/radio-france-et-linformation

https://www.youtube.com/watch?v=C3L_aEy58o4

- Agence France Presse (AFP)

Juliette Mansour & Alexis Orsini, Journalistes fact-checkers au sein du service AFP Factuel

La lutte contre la désinformation à l'ère de l'IA

https://factuel.afp.com

https://factuel.afp.com/doc.afp.com.33BR6P7

https://www.youtube.com/playlist?list=PLAo5j5U8Vm-unb62vXAKaStKUQdA1qPKC

Brochure AFP Investigation numérique

Présentation AFP

- Reporters Sans Frontières (RSF)

Vincent Berthier, Responsable du desk technologies de RSF

Le projet Spinoza : un outil d'IA pour les journalistes & la charte de Paris sur l'IA et le journalisme

https://rsf.org/fr/projet-spinoza-rsf-et-l-alliance-de-la-presse-d-information-generale-partenaires-pour-developper

https://rsf.org/fr/rsf-et-16-organisations-partenaires-presentent-la-charte-de-paris-sur-l-ia-et-le-journalisme

Charte de paris sur l'IA et le journalisme

- Thomas Huchon, Journaliste, réalisateur, auteur, formateur en EMI)

Le journaliste qui lutte contre le fake avec un double avatar fabriqué en IA

https://www.instagram.com/antifakenewsai

Vidéo Thomas Huchon
¤ Session "Algorithmes, données & IA" : approches pédagogiques (14h-17h)
L'éducation aux médias et à l'information et l'éducation au numérique sont désormais indissociables. La prise en compte de l'IA dans la littératie numérique et médiatique s'inscrit dans la continuité directe de la littératie des données et de la littératie des algorithmes, qui se révèlent complexes. Cette session propose cinq approches d'acteurs investis dans des actions d'acculturation et de formation au numérique et à l'EMI.

Animation : Matteo Merzagora, Directeur de la médiation scientifique et de l'éducation à Universcience

- Quai des savoirs (Toulouse)

Laurent Chicoineau, Directeur

Exposition "IA Double Je", jeu "Drôles d'histoires d'IA" et dispositifs de médiation sur l'IA

https://quaidessavoirs.toulouse-metropole.fr

Dossier de presse Exposition IA Double Je

Guide pédagogique Exposition IA Double Je

Présentation Quai des savoirs

- Espace Mendès France (Poitiers)

Patrick Treguer, Responsable du Lieu Multiple / Espace MendÃšs France

PREAC IA et création & actions de médiation sur l'IA vers le grand public et des publics en situation de handicap

https://emf.fr

Présentation Espace Mendès France

Bastien Masse, Directeur général Class'Code, Chef de projet Chaire Unesco RELIA

MOOC IAI & Manuel ouvert IA pour les enseignants du projet EU AI4T

https://www.class-code.fr

https://www.fun-mooc.fr/fr/cours/lintelligence-artificielle-avec-intelligence

https://www.ai4t.eu/textbook

Présentation Class'Code

Dorie Bruyas, Directrice

Médiation aux IA lors de la manifestation Super demain & littératie des données

https://www.frequence-ecoles.org

https://www.superdemain.fr

https://datalireladata.com

https://www.laressourcerie.cool

Présentation Fréquence Ecoles

Vidéo Fréquence Ecoles

Divina Frau Meigs, Présidente

Projet Algowatch & Rapport "L'autonomisation des utilisateurs grâce aux réponses apportées par l'EMI à l'évolution de l'IAG" pour l'Unesco

https://savoirdevenir.net/algowatch

https://algowatch.eu

https://unesdoc.unesco.org/ark:/48223/pf0000388547_fre

Document L'algo-littératie pour tous

Note UNESCO EMI & IA

Présentation Savoir Devenir

Coordination de la programmation et de l'organisation :

Jean-Christophe Théobalt / Ministère de la culture & Valentin Caron / Universcience

# data[].attributes.attachment_link.description
Sophie Biecheler, Directrice déléguée aux relations internationales, institutionnelles et internationales d'Universcience - Noël Corbin, Délégué général à la transmission, aux territoires et à la démocratie culturelle du ministère de la Culture ¤ Session "Production et diffusion de l'information : impacts positifs et négatifs de l'IA" (10h - 12h30) Comment l'IA modifie ou bouleverse le travail des journalistes et des médias ?

# data[].attributes.headline
[Rencontre pro] Transformations de la création et de l'éducation aux images à l'ère de l'IA  - LUX 27.11.2024

# data[].attributes.subject
[Rencontre pro] Transformations de la création et de l'éducation aux images à l'ère de l'IA  - LUX 27.11.2024

# data[].attributes.attachment_link.readable_text
Au programme

- 9h | Accueil des participants

- 9h15-9h30 | Introduction des partenaires

MATINÉE | Transformations des médias et du cinéma à l'ère de l'IA

Les journalistes utilisent les outils de l'IA dans leur travail au quotidien. Entre potentialités et respects de la déontologie journalistique, les médias signent des chartes de respect et d'engagement, qui visent à encadrer leur utilisation en responsabilité face aux risques de désinformation, de pillage des contenus éditoriaux, et en transparence pour l'aide au travail du journaliste. Après un séminaire consacré à " Créer, produire, diffuser à l'heure de l'intelligence artificielle ", le CNC a lancé un " Observatoire des usages actuels ou potentiels de l'IA " à chaque étape du processus de création et de diffusion d'une œuvre, en identifiant les opportunités et risques associés, notamment en termes de métiers et d'emplois. Ces transformations impactent également les processus de formations, qui commencent à intégrer ces outils.

- 9h30-10h30 | Transformations des métiers
* Lutte contre la désinformation, par Alexis Orsini, journaliste fact-checker pour l'Agence France Presse, au sein du service AFP Factuel.
* IA : usages et impacts, par Cécile Lacoue, directrice des études, des statistiques et de la prospective au CNC.

- 10h30-12h | TABLE RONDE 1 : évolution des formations
Cette table ronde permettra d'évoquer la manière dont les écoles et cursus de formation envisagent l'utilisation des outils de l'IA, avec les interventions de :
* Claude Mouriéras, directeur de la Cinéfabrique.
* Laurie Schmitt, maître de conférences en Sciences de l'Information et de la Communication - Université Grenoble Alpes ( Gresec), Responsable pédagogique du Master 2 Information-Communication, parcours Audiovisuel & Médias Numériques ( AVMN).
* Christophe Nelson, Ingénieur pédagogique à l' Institut National de l'Audiovisuel.
// Modération : Lisa Chalvet, chargée de mission Pôle de l'image Animée - La Cartoucherie.

- 12h-12h30 | Intelligence artificielle : stop ou encore ?
Pitch d'un projet étudiant : les étudiants du Master Information-Communication, parcours Audiovisuel & Médias Numériques ( AVMN) de l'Université Grenoble-Alpes, présentent leur travail de conception d'une installation sur les enjeux de l'IA. Le studio interactif sera présenté à l'ICM d'Echirolles les 10 et 11 décembre 2024.

APRÈS-MIDI | Transformations des pratiques de création et transmission à l'ère de l'IA

- 14h-15h15 | Création artistique avec l'IA
Le sujet de l'intelligence artificielle et son impact sur la production artistique fait actuellement les frais d'un traitement médiatique spectaculaire. Pourtant, au-delà des effets d'annonce sensationnalistes, des artistes numériques s'emparent de ces technologies depuis des années déjà, des éditeurs et des producteurs de contenus également.
* L'appropriation de l'IA par les artistes, par Maxence Grugier, chargé de projets arts hybrides au Pôle Pixel, réseau Hacnum.
* IA facilitatrice ou créatrice ?, par Etienne Rouillon, directeur des éditions chez MK2, coordinateur du Artefact AI Film Festival (films générés par l'IA, ouvert aux amateurs).

- 15h30-17h | TABLE RONDE 2 : Médiation et éducation aux images, retours d'expériences
L'omniprésence des images nécessite un questionnement quant à leurs origines et leurs modes de production, afin d'en trouver leur sens. Se manifeste parfois une sorte de dégradation du statut même de l'image. Afin de répondre à ces enjeux, l'éducation aux images et aux médias accompagne dans l'appréhension de ces contenus : quels sont les différents régimes d'images ? En existe-t-il une hiérarchisation ? De quelle source proviennent-elles ? Sont-elles uniques, artistiques, libres de droits, narratives ou à visée commerciale ? L'expérimentation, par la création de contenus et d'images (filmiques, photographiques, de reportage, de contenu web etc), permet aux regardeurs une lecture plus responsable et maîtrisée, d'autant plus nécessaire dans une période où l'IA offre de nouveaux outils pour la médiation artistique mais rend confuse la source de production.

Un débat sera ouvert avec les participants, après la présentation des expériences présentées :
* Plusieurs ateliers autour de l'IA, dont celui de création numérique " Deepfake : ce film n'existe pas " par Laura Schlenker et Marlene Ason de La Fabrique Média.
* Enjeux de l'IA dans la médiation : étapes, contraintes et difficultés sur les projets en cours, par Christophe Doré, responsable des interventions, intervenant et formateur pour Fréquence Écoles.// Modération : Noémie Rubat du Mérac, Maison de l'image de Grenoble.

- 17h15 | Conclusion de la journée

+ d'infos : Camille Chignier, chargée de l'accompagnement des actions artistiques, culturelles et de transmission / Coordinatrice du Pôle régional d'éducation aux images ( email)

# data[].attributes.attachment_link.title
Transformations de la création et de l'éducation aux images à l'ère de l'IA - LUX Scène nationale

# data[].attributes.attachment_link.description
Rencontres Auvergne-Rhône-Alpes du Pôle régional d'éducation aux images et aux nouveaux médias - MER 27 NOV. 2024 / 9h30-17h30 Dans les domaines de la création artistique, des médias et de l'enseignement, l'Intelligence Artificielle suscite actuellement autant d'engouements que de craintes et d'interrogations. Au croisement de ces domaines, l'éducation aux images et aux médias est concernée, [...]

# data[].attributes.headline
[CNC] Quel impact de l’IA sur les filières du cinéma, de l’audiovisuel et du jeu vidéo ? 09.04.24

# data[].attributes.subject
[CNC] Quel impact de l’IA sur les filières du cinéma, de l’audiovisuel et du jeu vidéo ? 09.04.24

# data[].attributes.attachment_link.title
Quel impact de l’IA sur les filières du cinéma, de l’audiovisuel...

# data[].attributes.attachment_link.description
Si l’Intelligence Artificielle (IA) est utilisée de longue date dans les secteurs du cinéma, de l’audiovisuel et du jeu vidéo, les nouvelles applications de l’IA générative bousculent notre vision…

# data[].attributes.headline
[Usbek & Rica] L’intelligence artificielle face à la démocratie : comment agir contre la désinformation en ligne ? 9/07/2024

# data[].attributes.subject
[Usbek & Rica] L’intelligence artificielle face à la démocratie : comment agir contre la désinformation en ligne ? 9/07/2024

# data[].attributes.attachment_link.readable_text
Comment les démocraties peuvent-elles contribuer à rendre la sphère publique résiliente face aux influences de l'autoritarisme numérique ? La massification de la désinformation s'est vue décuplée par les IA, et cela a impacté les récentes élections présidentielles à Taïwan. Analyse d'Edward You-Hao Lai, chercheur affilié à l'Institut de recherche sur la démocratie, la société et les technologies émergentes (DSET) et avocat en exercice à Taïwan, dont les recherches portent sur la manière dont les démocraties peuvent contribuer à rendre la sphère publique résiliente face aux influences de l'autoritarisme numérique.

Les services culturels français de Corée du Sud, du Japon et de Taïwan, en collaboration avec l'Institut Français, organisent, en 2024 et 2025, une réflexion commune autour de l'intelligence artificielle et de ses effets sur la citoyenneté. Elle prendra la forme d'ateliers, de rencontres et d'événements, dont un Tribunal pour les Générations Futures organisé avec Usbek & Rica à Taïwan le 9 novembre 2024. Partenaire de la réflexion, Usbek & Rica en documentera les principaux enseignements tout au long de l'année. La première rencontre a été organisée le 2 avril 2024, et c'est de ces échanges que témoigne ce papier.

En janvier, les élections présidentielles taïwanaises ont ouvert une longue série de scrutins amenés à se tenir en 2024, puisque 51 % de la population mondiale est appelée aux urnes cette année. Une année électorale majeure, qui va aussi de pair avec une augmentation des tentatives d'ingérence et de manipulation de l'opinion. Sans surprise, l'essor conséquent de l'intelligence artificielle a fait franchir un seuil aux campagnes de désinformation. Les progrès de l'IA générative permettent de généraliser, via des bots, l'automatisation et d'améliorer les traductions. Ce qui permet de massifier les campagnes, alors même que l'usage de l'IA n'est pas encore démocratisé dans la société, ce qui les rend difficilement détectables.

Taïwan, un cas d'école ?

Le rapport remis par 15 experts français, dont Alexandra Bensamoun, professeure de droit privé et de sciences criminelles et spécialiste de la propriété intellectuelle et du droit du numérique à l'Université Paris-Saclay, au Premier Ministre Français, a notamment souligné le risque d'un cercle vicieux lié à la qualité des données sur lesquelles les IA sont entraînées. Le dernier rapport sur les risques mondiaux du World Economic Forum, publié en janvier 2024, place même la désinformation liée à l'intelligence artificielle en tête des plus grandes menaces pour l'humanité, devant la crise climatique. Un risque dont les effets sont déjà perceptibles, avec une perte de confiance accrue envers les processus démocratiques. Après l'ère de la post-vérité, nous serions entrés, selon Adrien Basdevant, avocat spécialisé en droit du numérique et des nouvelles technologies, dans l'ère de la " post-réalité ".

À Taïwan, les élections du début d'année ont vu fleurir plusieurs cas concrets de désinformation, dont la publication d'un faux livre électronique de plus de 300 pages, intitulé La biographie secrète de Tsai Ing-wen, et consacré à la vie de la présidente sortante, membre du Parti démocrate progressiste (PDP). Une tentative de manipulation de l'opinion dont les effets sont restés limités, comme l'explique Edward You-Hao Lai : " les faux ont pu être détectés relativement facilement : certaines expressions utilisées dans le livre électronique ne sont pas utilisées à Taïwan mais en Chine continentale ! Deuxièmement, les médias ont adopté la bonne attitude, en vérifiant les sources avant de les relayer ".

" Nous devons agir avant qu'il ne devienne trop difficile de démasquer les intrusions "

Edward You-Hao Lai, avocat et membre du Research Institute for Democracy, Society and Emerging Technology

Si les outils d'IA générative ont considérablement abaissé les barrières à l'entrée des campagnes de désinformation, permettant une manipulation à plus grande échelle et à des coûts plus abordables, leurs " défauts " actuels semblent pour l'instant contrevenir à leur capacité à réellement nuire. " Les images générées par l'intelligence artificielle, comme celle du pape François habillé d'une doudoune blanche, n'ont pas convaincu le grand public, et ont été utilisées efficacement pour mettre en évidence les effets néfastes possibles des " deep fakes " ", rappelle M. Kyung Sin Park, rofesseur de droit à l'université Korea, Director of Open Net, tout en indiquant que " point n'est besoin d'IA pour réussir une campagne de désinformation : en 2016, le succès de la campagne de désinformation initiée par le candidat Donald Trump contre Barack Obama réside dans l'efficacité d'un message donnant à penser qu'il serait né au Kenya ".

Avec les progrès technologiques, les outils d'intelligence artificielle pourraient donc rapidement représenter une menace importante, en rendant les faux générés quasiment indétectables : " les vidéos et extraits sonores que j'ai analysés montraient des défauts évidents. Mais la technologie évolue très vite, et nous devons agir avant qu'il ne devienne trop difficile de démasquer les intrusions ", affirme Edward You-Hao Lai.

Lutter contre la désinformation

Dès lors, comment agir pour contrer les tentatives d'ingérence et de manipulation de l'opinion pouvant porter atteinte à la démocratie ? Edward You-Hao Lai a identifié quatre axes stratégiques pour lutter contre les risques posés par la désinformation générée par l'intelligence artificielle : " couper la production, rétablir la vérité, limiter la dissémination et développer la culture numérique. Ils sont également importants à mes yeux, mais s'il fallait choisir le plus urgent, je choisirais la réduction de la dissémination ".

Une réduction des possibilités de diffusion qui interroge directement le rôle et la responsabilité des plateformes, alors qu'une vingtaine d'acteurs du numérique, dont Google, Meta, OpenAI, Microsoft, Amazon, X ou encore TikTok ont signé en février 2024 un accord visant à empêcher les contenus trompeurs générés par IA d'interférer dans les élections prévues cette année dans le monde. Mais peut-on vraiment compter sur la bonne volonté des géants du numérique pour s'assurer de la fiabilité de l'information et réduire la diffusion des fausses nouvelles ? " La modération, le marquage sont coûteux et la concurrence entre plateformes, qui cherchent le profit comme toute entreprise, est féroce. Une intervention gouvernementale est à mes yeux indispensable avec des dispositifs encourageant les entreprises qui font des efforts raisonnables, conformes à des codes de conduite établis par les autorités publiques " explique Edward You-Hao Lai.

Selon Rahaf Harfoush, anthropologue du digital, des études récentes menées aux Etats-Unis, au Canada et en Europe montrent à quel point les efforts pour rétablir la vérité sont vains. Il faut impérativement supprimer les comptes qui diffusent des fausses informations.

Un défi inédit

Toutefois, l'intervention de l'Etat ne doit pas conduire à l'auto-censure du public, elle aussi préjudiciable à la liberté d'expression et à la démocratie. Yairi IkukoMembre du département d'informatique et d'ingénierie de la faculté des sciences et de l'ingénierie de l'Université Sophia au Japon, estime que si le gouvernement oblige les opérateurs à retirer des contenus sans que le travail de fact-checking ait été sérieusement fait, la défiance des citoyens en sera renforcée.

Vanessa Nurock, professeure de philosophie à Université Côte d'Azur, souligne que si jamais la correction des infox ne constitue pas une solution réaliste, alors il est d'autant plus nécessaire de s'accorder sur un ensemble de normes qu'il pourrait sembler souhaitable de promouvoir, tout en prenant garde de ne tomber ni dans la propagande ni l'idéologie, lesquelles constituent un écueil redoutable pour nos démocraties. En Corée du Sud, la loi votée en décembre 2023 pour contrer les fake news dans le contexte électoral a ainsi, selon M. Park, été invoquée pour condamner des vidéos qui auraient, sans cette nouvelle loi, pu être considérées comme des moyens d'expressions valides d'une opposition politique.

" Même formés, les citoyens n'auront pas le temps de vérifier l'ensemble des informations dont ils sont constamment bombardés "

Edward You-Hao Lai, avocat et membre du Research Institute for Democracy, Society and Emerging Technology

" Selon moi, il faut en priorité renforcer l'éducation des citoyens, afin qu'ils soient en capacité de comprendre le contexte politique dans le cadre duquel ces images sont générées. Le préjudice ne provient pas du texte (que le propos soit vrai ou faux), mais du contexte (qui s'adresse à qui ?) " explique M. Park. Mr Sakura Osamo, Professor of Science and Technology Studies at the University of Tokyo, en convient, et souligne qu'il ne faut pas oublier de former les personnes âgées !

Cependant, si l'éducation aux médias s'avère indispensable pour lutter contre la désinformation, elle ne pourra seule assurer un rempart suffisant face aux menaces informationnelles qui pèsent sur la démocratie. La mise en place de tels dispositifs échouerait à produire suffisamment tôt ses effets, tout en nécessitant d'importantes ressources et en faisant peser la seule responsabilité sur les individus.

Edward You-Hao Lai alerte ainsi : " même formés, les citoyens n'auront pas le temps de vérifier l'ensemble des informations dont ils sont constamment bombardés ! La responsabilité de la lutte contre la désinformation doit être partagée par les pouvoirs publics, les entreprises privées et les acteurs de la société civile. Elle doit s'appuyer sur des dispositions réglementaires et technologiques, ainsi que des mécanismes de marché ; seuls ces efforts conjoints permettront à la démocratie de l'emporter sur l'autoritarisme digital ". M. Billy Zhe-Wei Lin Chercheur associé au DSET à Taïwan, conclut " les régimes autoritaires luttent contre les comportements mensongers coordonnés (CIB - coordinated inauthentic behaviours) en réduisant la liberté d'expression, nous devons en priorité construire des outils démocratiques pour combattre à la fois les CBI et une telle censure ".

Les experts qui ont participé à ces rencontres :

M. Edward You-Hao Lai - Chercheur affilié à l'Institut de recherche sur la démocratie, la société et les technologies émergentes (DSET) et avocat en exercice (Taïwan)
M. Adrien Basdevant - Avocat spécialisé en droit du numérique et des nouvelles technologies (France)
Mme Alexandra Bensamoun - Professeure de droit privé et de sciences criminelles et spécialiste de la propriété intellectuelle et du droit du numérique à l'Université Paris-Saclay - (France)
Mme Rahaf Harfoush - Anthropologue du digital (France)
Mme Yairi Ikuko - Membre du département d'informatique et d'ingénierie de la Faculté des sciences et de l'ingénierie de l'Université Sophia (Japon)
M. Billy Zhe-Wei Lin - Chercheur associé DSET (Taiwan),
Mme Vanessa Nurock - Professeure de philosophie à Université Côte d'Azur (France)
Mr. Sakura Osamu - Professor of Science and Technology Studies at the University of Tokyo (Japan)
M. Kyungs Sin Park - Professeur de droit à l'université Korea, Director of Open Net (République de Corée)

# data[].attributes.attachment_link.title
L'intelligence artificielle face à la démocratie : comment agir contre la désinformation en ligne ?

# data[].attributes.attachment_link.description
Comment les démocraties peuvent-elles contribuer à rendre la sphère publique résiliente face aux influences de l'autoritarisme numérique ? La massification de la désinformation s'est vue décuplée par les IA, et cela a impacté les récentes élections présidentielles à Taïwan.

# data[].attributes.headline
[Booklet] Synthèse de "Le féminisme des données", de Catherine D'Ignazio & Laurent Klein. 2020

# data[].attributes.subject
[Booklet] Synthèse de "Le féminisme des données", de Catherine D'Ignazio & Laurent Klein. 2020

# data[].attributes.body
perspectives sur les développements du numérique, pr reconstruire une perspective politique des transformations numériques.

# data[].attributes.headline
[HacNum] Choisir un modèle d’IA, le casse-tête des artistes 21.05.2024 

# data[].attributes.subject
[HacNum] Choisir un modèle d’IA, le casse-tête des artistes 21.05.2024 

# data[].attributes.attachment_link.readable_text
La médiatisation de l'intelligence artificielle générative est aujourd'hui trustée par les modèles d'entreprises californiennes. Hormis les produits d'OpenAI (ChatGPT, Dall-E, Sora...), les artistes ont encore une visibilité réduite des outils existants sur le marché. Et pourtant il existe des dizaines de modèles - propriétaires, libres et open source - répondant à des enjeux artistiques ou éthiques diamétralement opposés. Tour d'horizon de quelques questionnements sous-jacents à ces outils, appuyés par plusieurs témoignages.
Le choix d'un modèle d'IA dédié à la création se fait souvent sur des critères artistiques (génération d'images, de vidéos, de sons, de textes...) et esthétiques (textures spécifiques à un algorithme), et en fonction d'un certain nombre de contraintes relatives à un projet (finances disponibles, compétences en codage informatique...). À défaut de proposer un comparatif des modèles disponibles sur le marché - qui serait instantanément obsolète - cet article cherche à comprendre l'impact de certains logiciels d'IA. Ce premier volet analyse quelques effets induits par les logiciels propriétaires, libres et open source. Un second volet, prochainement publié, analysera les enjeux selon le type de dataset.

Plusieurs catégories de logiciels
La première analyse consiste donc à observer la nature des logiciels utilisés. En effet, les éditeurs de logiciels adoptent des stratégies commerciales et philosophiques parfois aux antipodes. Les logiciels peuvent être classés selon différentes catégories. Première catégorie : les logiciels propriétaires autrement appelé "logiciel commercial" ou "fermé", dont le code source est détenu et contrôlé exclusivement par une entreprise. Elle détient alors les droits exclusifs sur le logiciel, ce qui signifie que les utilisateur·rices ne sont pas autorisé·es à accéder au code source, à le modifier ou à le redistribuer sans la permission explicite du détenteur des droits. Les logiciels propriétaires peuvent bien entendu ouvrir leur accès "gratuitement" (stratégie des abonnements freemium). Deuxième catégorie : les logiciels libres. Ils garantissent aux utilisateur·rices d'exécuter le programme pour n'importe une variété d'usages, la liberté d'étudier le fonctionnement du programme et de l'adapter à ses besoins, la liberté de redistribuer des copies, et la liberté d'améliorer le programme et de publier ces améliorations. L'usage commercial est encadré sous forme de licences (MIT, Creative Commons, Apache 2.0, GPL...). Enfin, quoique assez proche des logiciels libres, l'open source met l'accent sur l'accessibilité au code source et la collaboration communautaire pour le développement et la diffusion du logiciel. Néanmoins un modèle open source peut être porté par une entreprise privée. C'est le cas de l'IA générative Llama ou de l'IA OpenELM respectivement développés par les géants américains Meta et Apple. Soyons clair, l'open source n'est donc pas nécessairement synonyme de philanthropie.

Chaque éditeur définit une stratégie qui mériterait d'être spécifiquement auscultée et d'analyser en détail tous leurs effets. Néanmoins ces trois catégories de logiciels "IA propriétaires" (Dall-E, ChatGPT, Midjourney, Adobe Sensei, Prisma...), "libres" ou "IA open source" (Hugging Face, Stable Diffusion, WarpFusion, OpenELM...) permettent d'emblée de distinguer quelques enjeux essentiels pour les artistes.
La pérennité d'une œuvre
L'obsolescence n'échappe à aucun modèle d'IA et a une incidence directe sur la pérennité d'une œuvre d'art. Côté logiciels propriétaires, le risque pour un·e artiste est donc de dépendre des modifications de l'éditeur. Michal Seta, creative technologist au Lab148 à Montréal qui s'est spécialisé sur des solutions d'IA pour des projets artistiques, témoigne : " récemment j'ai entendu Sandra Rodriguez qui présentait son installation Chom5ky vs. Chomsky. Pour ce projet l'artiste a utilisé ChatGPT qui a simulé la voix de Noam Chomsky. Elle a travaillé durant plusieurs années sur des prompts qui déclenchaient certaines actions. Et puis il y a eu une mise à jour du modèle d'IA de la part de l'éditeur. Les évolutions du modèle rendaient des résultats des prompts incohérents et non reproductibles au cours des itérations du développement. Si on se fie aux solutions propriétaires dans le cloud, on risque d'avoir des surprises, particulièrement dans les cas où l'artiste manifeste son désir de bâtir quelque chose sur mesure qui va durer dans le temps." Les éditeurs mettent régulièrement à jour leurs modèles et font évoluer ce qu'ils peuvent juger comme des défauts, des imperfections. L'artiste Bruno Ribeiro évoque lui aussi cette D.L.C inhérentes aux modèles, en faisant directement écho à son travail Polydactylie (référence à la difficulté des modèles d'IA de représenter convenablement les cinq doigts et les mains des êtres humains). "L'œuvre Rabbithole a été créée en 2023, sur une version de Stable Diffusion qui a depuis été mise à jour. Si je refais les mêmes prompts mais avec des checkpoints récents, je n'aurais plus le même résultat. Or, la polydactylie, c'est justement mon propos, c'est ce qui permet de révéler qu'une image a été générée par un programme d'Intelligence Artificielle. J'ai gardé les versions précédentes de cette IA mais je sais qu'il sera difficile de les réutiliser. Il y a une obsolescence flagrante avec les modèles d'IA sur le marché."

En effet, les modèles d'IA ont leur propre subjectivité et esthétique. Justine Emard, spécialiste de l'IA, dont le corpus artistique explore la relation des êtres humains aux machines et à d'autres formes de vie, explique l'étendue de la palette " Il existe des modèles qui vont naturellement tendre vers un effet 3D. D'autres modèles, entraînés à partir de données comprenant des visages humains, vont s'orienter vers des rendus anthropomorphiques." L'artiste évoque justement une sorte de revival pour d'anciens modèles capables de générer des déformations plus fluides. " J'entends plusieurs artistes manifester leur intérêt pour des modèles datant de 2019-2020. Ces modèles créaient peut être de la bouillie de pixel mais ils étaient justement intéressants pour leur imperfection, pour leur grain." Sur ce point donc, avantage à l'open source qui permet d'avoir un accès permanent au code source et d'assurer une certaine pérennité artistique et à terme une conservation des œuvres.

L'open source, une philosophie séduisante
Marc Chemillier, directeur d'étude à l'EHESS de Paris, est co-créateur (avec d'autres chercheur·euses de l'IRCAM) de Djazz, une IA permettant d'improviser musicalement à partir de sons enregistrés. C'est justement l'option open source qui a été retenue pour le développement du logiciel. D'abord parce que le projet est soutenu par des financements publics de la recherche et également parce que la communauté permettra d'assurer la continuité du projet. " Nous allons publier toutes les sources du projet, tout sera accessible sur . Notre désir est de voir une communauté se former sur ce patch programmé dans Max/MSP (ndlr : logiciel utilisé dans le domaine de la création numérique). L'obsolescence est trop rapide, il faut que ce soit pris en main par les artistes eux-mêmes. Pour nous "open source" est synonyme de préservation du bien commun." Ce choix relève d'abord d'un idéal politique : " La philosophie fondamentale de l'open source vient de la recherche. Elle tire ses origines des conséquences de la Seconde Guerre mondiale, de la bombe nucléaire. Après la tragédie atomique, toute la recherche scientifique était animée d'un idéal de partage, ajoute Marc Chemillier avant de glisser une remarque pertinente, mais c'est une zone en tension, les politiques et les industriels tendent à brouiller cette logique." La stratégie adoptée par Apple donne pourtant matière à réflexion : à la surprise générale, la marque a publié au printemps, dans la bibliothèque HuggingFace, quatre versions d'un modèle de langage inconnu, baptisé OpenELM. Un modèle open source, dont une partie du code est aussi disponible sur GitHub. Avec cette approche plus ouverte, Apple espère agréger les utilisateur·rices autour d'OpenELM et qu'ils·elles contribuent à son amélioration.

Dans la majorité des cas, les modèles open source peuvent-ils réellement rivaliser avec les puissants moyens du secteur privé ? Il n'est pas rare en effet que des chercheur·euses soient débauchés par des start-ups comme des multinationales ou que des modèles open source soient finalement rachetés par des entreprises. "En général dans le cadre de ces transferts de connaissance, les entreprises ne prennent que ce qui les intéresse et les projets peuvent être défigurés. Pourtant ces capitaux permettent d'améliorer, upgrader les versions." analyse Marc Chemillier. L'open source n'est donc pas nécessairement gage de pérennité, ni d'ergonomie.
Une prise en main complexe
En effet, dans ce large panel de modèles, beaucoup d'artistes manquent encore de repère. Sabrina Ratté, artiste canadienne internationalement reconnue dans le domaine des arts contemporains, explore les questions d'intelligence artificielle dans son travail (Plane of Incidence). Elle témoigne de l'arrivée des outils d'IA dans sa pratique : " Pour moi c'est encore nouveau et complexe. Installer tous ces logiciels d'IA peut être fastidieux, d'autant que j'ai l'impression que ces outils open source sont peu accessibles, peu ergonomiques. Les logiciels propriétaires, davantage connus du grand public, peuvent parfois avoir de meilleures interfaces mais ne répondent pas forcément aux besoins d'un·e artiste. Dans mon esprit c'est encore abstrait." Pour affiner ces besoins, l'artiste intègre justement une résidence à Sporobole situé à Sherbrooke au Québec. Ce centre aura pour objectif d'accompagner l'artiste sur les solutions techniques les plus adaptées : "La technologie reste un outil et non une finalité mais cette résidence va me permettre de mieux comprendre les modèles d'IA, les enjeux et de structurer ma production artistique." ajoute t-elle.

Si certaines interfaces de logiciels propriétaires se distinguent par leur ergonomie - et sans aucun doute sur leur force de frappe marketing et les moyens à disposition en communication - les modèles open source ont tout de même de nombreuses ressources à disposition. Michal Seta partage quelques références : "Avec Lab148 on a commencé à explorer tous ces modèles. On s'est rendu compte qu'il existe des ressources, des papiers universitaires, des bases de données, des modèles rendus publics. Le site paperswithcode compile énormément de recherches. Mais attention, dans 99% du temps il faut avoir de bonnes bases de code, notamment du langage python." Bruno Ribeiro confirme lui aussi le nombre de ressources disponibles en ligne. " Il y a mille tutoriels Youtube et au moins autant d'outils d'intelligence artificielle qui sortent tous les jours. C'est un peu le far west mais j'ai l'impression qu'en seulement quelques semaines de travail, un·e artiste peut se former à ses logiciels. Je recommande la plateforme , qui permet d'installer des logiciels open source de grande qualité et relativement user friendly. Quand on creuse, on peut avoir des résultats d'une qualité supérieure à Midjourney." Autre référence similaire à Pinokio, le site Replicate, une mine d'or de modèles en open source. Côté logiciels propriétaires, la disponibilité des ressources en ligne est également au centre des stratégies de déploiement. Le réseau social Discord a ainsi été un pilier dans la stratégie de déploiement de Midjourney, à tel point qu'il aura pendant plusieurs mois remplacé son site officiel (les utilisateur·rices novices doivent encore passer par Discord).

La question de l'accessibilité
Les modèles libres ou open source ont un avantage incomparable sur les modèles propriétaires : sa gratuité. Et malgré des modèles économiques qui se cherchent encore, certaines initiatives ne laissent pas à la marge les auteur·rices. " J'utilise WarpFusion basé sur Stable Diffusion. L'utilisateur·rice peut avoir accès à des dizaines de patchs supplémentaires par un système d'abonnement qui rétribue son auteur." commente Bruno Ribeiro.

Du côté des logiciels propriétaires, les abonnements à certains modèles peuvent représenter des montants conséquents pour un·e artiste ou un studio. À titre d'exemple, comptez environ 600$ annuel pour un compte pro à Midjourney (le pricing d'OpenAI se basant sur une logique de token est finalement assez similaire). Cumulez ce montant à d'autres logiciels propriétaires, et les factures mensuelles seront très loin d'être négligeables. Mais la stratégie des logiciels propriétaires est rodée depuis longtemps déjà. Adobe, un modèle du genre, a fait en sorte que le logiciel devienne la référence dans le domaine de la création et ce dès les études supérieures des étudiant·es. OpenAI communique déjà spécifiquement auprès des enseignant·es Teaching with AI et a annoncé des partenariats avec certaines universités comme celle d'Arizona. Cette stratégie d'implantation se répandra à coup sûr dans les prochains mois mais révèle aussi une absence de vision de la part de l'ensemble des acteur·rices de la création artistique.

Pour cela, la transmission des informations et la formation aux modèles d'IA sont des orientations que le secteur de la création artistique doit investir. Justine Emard confie qu'elle " échange régulièrement avec des artistes, des musicien·nes et des compositeur·rices. Beaucoup ont vu l'arrivée d'OpenAI comme une chose soudaine mais peu ont conscience de l'état de la recherche scientifique des dernières décennies. Dans l'engouement que suscite l'IA, il manque de la pédagogie. On peut aller beaucoup plus loin en créant ses propres outils. Et puis ce n'est pas l'outil qui fait l'artiste. C'est la façon dont conceptuellement tu l'as mis en œuvre." C'est sans doute là un postulat à intégrer avant tout choix d'un modèle d'IA !
Rédaction Adrien Cornelissen

L'auteur de l'article
Au fil de ses expériences, Adrien Cornelissen a développé une expertise sur les problématiques liées à l'innovation et la création numérique. Il a collaboré avec une dizaine de magazines français dont Fisheye Immersive, XRMust, Usbek & Rica, Nectart ou la Revue AS. Il coordonne HACNUMedia qui explore les mutations engendrées par les technologies dans la création contemporaine. Adrien Cornelissen intervient dans des établissements d'enseignement supérieur et des structures de la création.

# data[].attributes.attachment_link.title
Choisir un modèle d'IA, le casse-tête des artistes (1/2)

# data[].attributes.attachment_link.description
La médiatisation de l'intelligence artificielle générative est aujourd'hui trustée par les modèles d'entreprises californiennes. Hormis les produits d'OpenAI (ChatGPT, Dall-E, Sora...), les artistes ont encore une visibilité réduite des outils existants sur le marché. Et pourtant il existe des dizaines de modèles - propriétaires, libres et open source - répondant à des enjeux artistiques ou éthiques diamétralement opposés.

# data[].attributes.headline
[France 24] Comment repérer les deepfake ? 03.2023

# data[].attributes.subject
[France 24] Comment repérer les deepfake ? 03.2023

# data[].attributes.attachment_link.title
Comment repérer les "deepfakes" ? • FRANCE 24

# data[].attributes.headline
[The conversation] Deepfakes, vidéos truquées, n’en croyez ni vos yeux ni vos oreilles ! 8.07.2024

# data[].attributes.subject
[The conversation] Deepfakes, vidéos truquées, n’en croyez ni vos yeux ni vos oreilles ! 8.07.2024

# data[].attributes.attachment_link.title
Deepfakes, vidéos truquées, n’en croyez ni vos yeux ni vos oreilles !

# data[].attributes.attachment_link.description
Un seul « deepfake » peut propager à très grande échelle de fausses informations et causer de multiples dégâts. Comment repenser l’éducation aux médias face à ces dangers ?

# data[].attributes.headline
[Super Demain] Et si l'intelligence artificielle révolutionnait l'école ?

# data[].attributes.subject
[Super Demain] Et si l'intelligence artificielle révolutionnait l'école ?

# data[].attributes.attachment_link.title
Et si l’intelligence artificielle révolutionnait l’école ? — Super demain

# data[].attributes.attachment_link.description
L’utilisation de l’intelligence artificielle à l’école est souvent décriée : ce nouvel outil va-t-il empêcher les élèves d’apprendre et faciliter la triche ? Ce serait faire une croix sur un nouvel outil d’apprentissage bourré de potentiel !

# data[].attributes.headline
[France culture] Selon les IA génératives, une femme "belle" est blanche, jeune et mince 4.06.2024

# data[].attributes.subject
[France culture] Selon les IA génératives, une femme "belle" est blanche, jeune et mince 4.06.2024

# data[].attributes.attachment_link.readable_text
Les journalistes du fameux Washington Post ont eu la curiosité de tester trois IA génératives - MidJourney, Dall-E et Stable Diffusion - en leur faisant générer des images dites de femmes belles. À leur grande surprise, ils observent un seul et même type de femme, blanche dans plus de 90 % des cas, quasiment toutes avec les cheveux longs, uniquement jeunes, portant dans la majorité écrasante une robe longue de cocktail et minces - voire très minces - avec, pour certaines d'entre elles, des tours de tailles irréalistes.

Sans parler des résultats de tous les tests réalisés par les journalistes, je souhaite ici discuter des raisons d'une telle représentation du beau par ces IA génératives ainsi que ce qu'elles disent de nous et de notre société.

J'avais fait une chronique il y a quelques mois sur les effets de stigmatisation de couples amoureux au sein d'images générées par MidJourney, à qui en associant les mots "en banlieue" nous renvoyait à des images sales, sombres et parfois effrayantes... et bien les causes des images générées de ces femmes dites belles, sont similaires.

Les algorithmes sont entraînés avec des millions d'images, elles-mêmes fortement orientées, voire biaisées

Plus précisément, ces photos de femmes provenant principalement d'internet, sont labellisées implicitement à travers nos agissements, comme le simple fait d'aimer plus souvent des photos sur Instagram ou des vidéos sur TikTok montrant ce type de femmes peu importe le niveau de réalisme de ce qui est montré, mais aussi par la présence plus forte de ce type de beauté sur ces mêmes réseaux.

Force est de reconnaître, et comme les journalistes américains l'expliquent non sans humour, les filtres photos et les éditeurs vidéo en tout genre, sans parler de la posture, du maquillage et de la luminosité rendent possibles en apparence l'existence de ces beautés artificielles qui nous paraissent familières puisqu'on les a tous et toutes déjà vu sur ces réseaux.

En pratique, un cercle vicieux s'installe sous nos yeux et sous nos doigts, par ces IA génératives qui renforcent les biais présents dans la banque d'images utilisée pour construire l'algorithme qui capture les tendances statistiques - et donc nos propres biais discriminatoires - et les met en relief en les pondérant à la hausse. Ces images générées renforçant à leur tour notre vision d'une certaine beauté en nous faisant aimer davantage ces photos et ces vidéos, voire en prenant nous-mêmes les codes de ces beautés artificielles pour tendre, comme on l'observe, vers une certaine homogénéité par la présence d'un seul type uniquement de femme belle dans ces images générées.

Le plus coupable n'est pas l'algorithme, mais l'humain

L'algorithme n'est pas strictement coupable, ce sont nous, concepteurs, propriétaires et utilisateurs de ces outils qui le sommes éventuellement. Et ce problème n'est pas nouveau.

Même avant l'arrivée d'internet et des écrans mobiles, nous étions confrontés à des images, des représentations et des symboles qui influençaient notre regard sur le monde et sur nous-même. Dans son livre Sur la télévision, Pierre Bourdieu évoquait l'effet d'homogénéisation lié à la concurrence dans les programmes télévisés.

Eh bien, on peut translater un tel phénomène à celui des plateformes, et autres outils médiatiques, dont la concurrence prend sa source dans un modèle économique de l'attention. Nous sommes influencés par ces outils comme nous les influençons. Menant alors vers une description homogène et normalisée de la beauté, qui s'éloigne de la vision du philosophe Kant qui concevait le beau comme ce qui plaît universellement sans concept, et donc sans supposer une quelconque standardisation. Bah oui, on peut universellement aimer une multitude de beautés diverses !

Une chose est certaine, il faut aussi miser sur sa beauté intérieure qui n'est pas ici capturée par ces IA génératives, à travers son humour, son intelligence et sa gentillesse.

C'est ce que j'ai choisi de faire depuis longtemps.

# data[].attributes.attachment_link.title
Selon les IA génératives, une femme "belle" est blanche, jeune et mince

# data[].attributes.attachment_link.description
Le Washington Post a demandé à une intelligence artificielle de générer l'image d'une femme dite belle. Résultat, les représentations étaient majoritairement des femmes blanches, jeunes, minces et aux proportions irréalistes. Et si le problème ne venait pas de l'IA, mais de nous, les humains ?

# data[].attributes.headline
[Le Monde] Facebook et Instagram vont utiliser vos données personnelles pour entraîner l’IA de Meta (sauf si vous refusez) - 7.06.2024

# data[].attributes.subject
[Le Monde] Facebook et Instagram vont utiliser vos données personnelles pour entraîner l’IA de Meta (sauf si vous refusez) - 7.06.2024

# data[].attributes.attachment_link.readable_text
Les utilisateurs européens des réseaux sociaux Facebook et Instagram ont reçu, ces derniers jours, une notification les informant qu'à partir du 26 juin, leurs données pourront être utilisées " pour développer et améliorer l'intelligence artificielle (IA) de Meta ", la maison mère de ces deux plates-formes.

Jeudi 6 juin, l'association viennoise None of your business (NOYB), spécialiste de la protection des données personnelles, a déposé plainte auprès de la Commission nationale de l'informatique et des libertés, ainsi que de ses équivalents dans dix autres pays européens. Elle dénonce une utilisation " illégale " de ces données et demande aux gendarmes de la vie privée d'intervenir " en urgence " pour empêcher l'application de ce nouveau règlement.

Qu'impliquent concrètement ces changements pour les utilisateurs européens de Meta ? Explications.

Pourquoi Meta s'intéresse-t-il à nos données pour l'IA ?

Dans un communiqué publié le 22 mai, l'entreprise de Mark Zuckerberg a expliqué son intention de proposer, d'ici la fin de l'année en Europe, " de nouvelles expériences d'IA générative " au sein de ses applications, déjà disponibles dans d'autres zones géographiques. Mais pour cela, dit-elle, ces produits basés sur l'IA " doivent être entraînés sur des informations qui reflètent la diversité des cultures et des langues des communautés européennes qui les utiliseront ".

Pour fonctionner, les programmes d'IA doivent en effet s'entraîner sur d'énormes masses de données, générées par des humains. Les nombreuses informations que les utilisateurs de Facebook et Instagram publient sur ces plates-formes sont une mine d'or pour Meta, en pointe dans le domaine de l'IA.

Or, l'Union européenne se montre plus protectrice que d'autres sur la question des données personnelles de ses citoyens. Ce qui explique que Meta mette en place cette nouvelle politique plus tardivement que dans d'autres régions du monde, comme les Etats-Unis, et permette aux utilisateurs européens de refuser l'exploitation de leurs données pour entraîner ses IA - un choix que n'ont pas eu les Américains.

Quelles données seront exploitées par Meta pour entraîner ses IA ?

L'entreprise utilisera notamment " les informations partagées par les internautes sur les produits et services Meta ", comme les textes, les photos, les commentaires ou encore les stories (publications temporaires) publiés sur Facebook ou Instagram. Elle promet toutefois qu'elle n'utilisera pas " le contenu de vos messages privés ". La société exploitera aussi " les informations que les gens partagent quand ils interagissent avec nos produits d'IA generative ", comme les robots conversationnels par exemple.

L'entreprise ajoute qu'elle pourra aussi récolter des données n'appartenant pas à des utilisateurs de ses services : " Par exemple, cela peut être le cas si vous apparaissez sur une image partagée par un·e utilisateur·ice sur nos produits ou services ou si une personne mentionne des informations vous concernant dans des messages ou des légendes partagées sur nos produits et services. "

Quelles sont les " expériences d'IA " auxquelles vont servir les données ?

Meta propose déjà dans certains pays des services comme le chatbot Meta AI, fondé sur son modèle de traitement du langage Llama. Le groupe propose aussi un outil de génération d'images ou des gadgets permettant par exemple " de créer des stickers personnalisés pour les tchats ou les stories ".

Mais les données des utilisateurs pourraient servir à développer d'autres programmes. Et c'est d'ailleurs l'un des problèmes soulevés par l'association NOYB. " Meta ne dit pas à quelles fins il va utiliser ces données, déplore dans un communiqué Max Schrems, le cofondateur de l'association. Ça pourrait être pour un simple chatbot, pour un ciblage publicitaire très agressif, ou même un drone tueur. " Le militant estime que cela contrevient au règlement européen sur la protection des données (RGPD).

Comment empêcher Meta d'exploiter ses données pour l'IA ?

Par défaut, à partir du 26 juin, tout utilisateur des produits de Meta verra ses données exploitées pour nourrir ses systèmes d'IA, à moins de faire connaître son opposition, option possible pour les utilisateurs européens. Facebook fournit un lien pour cela, qu'il faut aller chercher sur la page " politique de confidentialité ". Mais au moment d'écrire ces lignes, celui-ci ne fonctionnait pas.

Sur Instagram, il faut se rendre sur cette page, qui laisse toutefois entendre que toute demande ne sera pas forcément prise en compte ( " si votre demande est acceptée, elle sera appliquée à l'avenir "). Il faut alors remplir un formulaire en donnant quelques informations basiques (pays, adresse e-mail) et, plus étonnamment, justifier sa demande : " Veuillez nous expliquer l'incidence de ce traitement sur vous. " Pour confirmer sa démarche, il faut ensuite se rendre sur sa boîte e-mail pour récupérer un code envoyé par Meta. Et attendre la réponse, qui peut arriver dans la minute par e-mail.

" Une farce ", dénonce l'association NOYB. Selon Max Schrems, Meta " a pris soin de concevoir des tonnes de petites distractions pour s'assurer que seul un tout petit nombre d'utilisateurs prenne la peine de s'opposer ".

La procédure de NOYB contre Meta peut-elle aboutir ?

Max Schrems a en tout cas obtenu plusieurs victoires majeures ces dernières années contre les géants du numérique. En 2015, l'activiste autrichien a fait invalider l'accord " Safe Harbor ", qui encadrait la façon dont les entreprises américaines pouvaient transférer vers les Etats-Unis les données des citoyens européens. En 2023, il a aussi contribué à faire condamner Meta à une amende record de 1,2 milliard d'euros, dans le cadre du RGPD.

Il n'est pas le seul à s'indigner : des internautes ont fait part de leur colère sur les réseaux sociaux et des artistes, qui publient depuis des années leur travail sur Instagram, ont quitté la plate-forme. Le 6 juin, le site spécialisé TechCrunch rapportait que la récente plate-forme Cara, fondée par l'artiste anti-IA Jingna Zhang pour offrir une alternative à Instagram en mettant l'accent sur la protection des droits des utilisateurs, était passée en une semaine de 40 000 à 650 000 usagers, à la suite des annonces de Meta.

Réutiliser ce contenu

# data[].attributes.attachment_link.title
Meta va utiliser vos données personnelles sur Instagram et Facebook pour entraîner son IA (sauf si vous refusez)

# data[].attributes.attachment_link.description
Textes, photos, commentaires, stories... Les contenus publiés par les internautes européens sur les deux réseaux sociaux seront bientôt utilisés par l'entreprise pour entraîner ses programmes d'intelligence artificielle. Il est toutefois possible, théoriquement, de s'y opposer.

# data[].attributes.headline
[France culture] Entretien avec Shoshana Zuboff : les mutations du capitalisme de surveillance à l'ère de l'IA 31.05.2024

# data[].attributes.subject
[France culture] Entretien avec Shoshana Zuboff : les mutations du capitalisme de surveillance à l'ère de l'IA 31.05.2024

# data[].attributes.attachment_link.title
Entretien avec Shoshana Zuboff : les mutations du capitalisme de surveillance à l’ère de l’IA

# data[].attributes.attachment_link.description
En 2019, Shoshana Zuboff publiait L’Âge du capitalisme de surveillance, ouvrage mettant au jour les dynamiques secrètes de l’économie du web, basée sur l’extraction des données personnelles. Les prédictions alarmistes de l’autrice se sont-elles réalisées ? Pouvons-nous être optimistes ?

# data[].attributes.headline
[Numérama] Comment l’image virale All Eyes on Rafah a défié les règles d’Instagram 29.05.2024

# data[].attributes.subject
[Numérama] Comment l’image virale All Eyes on Rafah a défié les règles d’Instagram 29.05.2024

# data[].attributes.attachment_link.readable_text
Sur la photo, on ne voit que des tentes à perte de vue : le camp de réfugiés semble s'étendre sur des kilomètres, jusqu'à l'horizon. Au centre, ce qui semblent être des sacs de provisions servent à dessiner quatre mots : " All eyes on Rafah ", que l'on peut traduire en " Regardez tous Rafah ". Ce slogan est devenu le cri de ralliement des internautes s'opposant aux frappes menées par l'armée d'Israël sur Rafah, une ville du sud de la bande de Gaza où sont installés de nombreux camps de réfugiés. Depuis le 28 mai 2024, cette image a été partagée près de 30 millions de fois sur Instagram.

Cette story, absolument virale, n'est pas anodine. Elle a été publiée à la suite d'une attaque contre un camp de réfugiés, afin de protester contre les agissements de l'armée israélienne. Si elle rencontre un tel succès, c'est aussi parce qu'elle a réussi à passer outre certaines des règles mises en place par les réseaux sociaux, en étant notamment générée par intelligence artificielle.

Les vraies images sont souvent censurées par les réseaux sociaux

Le cliché possède effectivement de nombreux indices d'une image générée par intelligence artificielle, même si on ignore quelle IA a été utilisée. Les détails sont flous, d'autres semblent se répéter et certains éléments de la photo sont dénués de sens (plusieurs des tentes en bas de l'image ressemblent plus à des files de voitures qu'autre chose). Plus généralement, il se dégage de la photo une impression bien connue de celles et ceux habitués à observer des clichés réalisés avec de l'IA. Le style des images générées par intelligence artificielle est ici bien reconnaissable. Or, il semble justement que c'est parce que l'image a été générée par IA qu'elle a pu devenir aussi virale.

La photo a été partagée quelques jours après une attaque particulièrement meurtrière sur un camp de réfugiés, qui a fait 45 morts et plus de 200 blessés le 26 mai. Davantage que les frappes précédentes, celle-ci a retenu l'attention de la communauté internationale en raison des images des victimes, particulièrement choquantes. Ces photos et vidéos réelles ont très rapidement été censurées.

Comme le note NBC, " les vidéos de Rafah postées par des journalistes palestiniens ont été restreintes et, dans certains cas, retirées des réseaux sociaux parce qu'elles montraient de manière graphique les conséquences des frappes israéliennes. Deux des trois posts Instagram montrant des corps brûlés, gravement blessés et morts après la récente frappe ont été supprimés, et l'un d'entre eux a été précédé d'un filtre de contenu sensible pour contenu graphique ou violent. "

Instagram, contacté par Numerama, n'a pas encore répondu à nos questions. Cependant, le réseau social, qui est l'un des plus utilisés par les journalistes sur place ou les habitants de Gaza, a récemment pris la décision de cacher " le contenu relatif à la politique " - et la guerre entre Israël et le Hamas semble faire partie de ces sujets considérés comme trop politiques.

Utiliser des photos générées par intelligence artificielle permettrait ainsi d'outrepasser de telles restrictions. La photo " All eyes on Rafah " porte un message fort, tout en respectant les règles des plateformes comme Instagram. Le créateur de la photo de Rafah a d'ailleurs généré d'autres clichés avec la même technique. Sur son compte Instagram, on peut ainsi voir d'autres images interpelant sur la situation à Rafah : des enfants en pleurs avec une ville en ruine, une femme perdue au milieu de tentes en feu, ou encore une main sortant de décombres. Contacté lui aussi par Numerama, il n'a pas répondu au moment de la publication de cet article.

Le rôle de l'IA décrié

En plus de ne pas être censurées, les photos générées par IA présentent l'avantage d'être rapides à produire. Alors qu'une affiche dessinée à la main prend des heures à faire, il suffit de quelques secondes pour produire une photo avec un outil comme Midjourney. Encore un avantage que les internautes utilisent.

Si cette photo permet un engagement inouï, on peut cependant s'interroger sur l'utilisation de ce genre d'image générée par IA. Certains internautes ont ainsi critiqué l'emploi de fausses images plutôt que celle de vrais clichés de la guerre. En dehors des questions de censure, peut-on véritablement s'indigner de vraies atrocités commises sur de vraies personnes avec des images créées de toute pièce ? Il existe de véritables photos des camps de réfugiés palestiniens à Gaza qui ne montrent pas de charniers, qui auraient peut-être pu être utilisées.

En termes de vérifications journalistiques, l'usage de l'IA pour parler de crimes de guerre est également délicat. Il est par essence difficile de se baser sur une image générée par IA pour rapporter des faits réels, tels que des bombardements. Il y a quelques mois, l'utilisation par Libération d'une image utilisant de l'IA avait fait polémique : sur la couverture du quotidien, une vraie photo d'un homme brandissant une image générée par une intelligence artificielle avait alimenté les critiques. Le journal avait été accusé de propager des fake news, et de participer à de la propagande.

Le rédacteur en chef de Libération, Dov Alfon, avait pris la parole, et avait expliqué que ces images faites par IA étaient devenu " le socle artistique de protestations, comme auparavant l'étaient des pantins, poupées ou squelettes ". Pour l'homme qui avait brandi la fausse photo, peu importait la vérité, et seule comptait la colère face aux bombardements à Gaza. Aujourd'hui, la popularité de l'image All Eyes on Rafah repose exactement sur les mêmes mécanismes : l'indignation des internautes est réelle, peu importe les photos avec laquelle elle s'exprime.

Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.

# data[].attributes.attachment_link.title
Comment l'image virale All Eyes on Rafah a défié les règles d'Instagram

# data[].attributes.attachment_link.description
L'image " All eyes on Rafah " générée par intelligence artificielle est devenue virale sur Instagram, avec près de 30 millions de partages en à peine 24 heures. Elle a été publiée suite à une frappe contre un camp de réfugiés à Gaza, qui a fait des victimes civiles.

# data[].attributes.headline
[20 minutes] Guerre Israël-Hamas : « All Eyes On Rafah », l’image générée par l’IA qui « déréalise » le conflit 30.05.2024

# data[].attributes.subject
[20 minutes] Guerre Israël-Hamas : « All Eyes On Rafah », l’image générée par l’IA qui « déréalise » le conflit 30.05.2024

# data[].attributes.attachment_link.title
Pourquoi l’image « All Eyes On Rafah » est devenue si virale

# data[].attributes.attachment_link.description
Le lendemain du bombardement d’un camp à Rafah, le visuel « All Eyes On Rafah » a émergé sur Instagram. Le cliché approche les 50 millions de partages sur le réseau social en seulement quatre jours

# data[].attributes.headline
[Le Monde] Partagée 47 millions de fois sur les réseaux, « cette image, ce n’est pas Rafah » 30.05.24

# data[].attributes.subject
[Le Monde] Partagée 47 millions de fois sur les réseaux, « cette image, ce n’est pas Rafah » 30.05.24

# data[].attributes.attachment_link.title
Partagée 47 millions de fois sur les réseaux, « cette image, ce n’est pas Rafah »

# data[].attributes.attachment_link.description
Sous le mot d’ordre « All eyes on Rafah », une image, vraisemblablement générée par intelligence artificielle et évoquant un camp de déplacés, circule abondamment sur les réseaux sociaux. Trois questions à Laurence Allard, spécialiste des expressions digitales, pour comprendre son succès.

# data[].attributes.headline
[Débat] Tribunal de l'IA : l'IA doit rendre des comptes ! 21.03.2024

# data[].attributes.subject
[Débat] Tribunal de l'IA : l'IA doit rendre des comptes ! 21.03.2024

# data[].attributes.attachment_link.title
Tribunal de l'IA : l'IA doit rendre des comptes !

# data[].attributes.attachment_link.description
Microsoft Copilot is your companion to inform, entertain and inspire. Get advice, feedback and straightforward answers. Try Copilot now.

# data[].attributes.headline
[Outil de création d'images] Adobe Firefly

# data[].attributes.subject
[Outil de création d'images] Adobe Firefly

# data[].attributes.attachment_link.description
Sign in to Adobe Firefly to generate or edit images, video, audio and more all-in-one place across 30+ generative models.

# data[].attributes.headline
[Outil de création d'images] Stable cascade

# data[].attributes.subject
[Outil de création d'images] Stable cascade

# data[].attributes.body
https://huggingface.co/spaces/multimodalart/stable-cascade

# data[].attributes.headline
[BGR - en anglais] This iPhone photo of a bride shows a crazy Matrix glitch – but it’s easy to explain 1.12.2023

# data[].attributes.subject
[BGR - en anglais] This iPhone photo of a bride shows a crazy Matrix glitch – but it’s easy to explain 1.12.2023

# data[].attributes.attachment_link.readable_text
An iPhone photo of a bride posted on Instagram at the beginning of November started gaining traction on social media due to its weird nature (via ). In the picture, you can see Tessa Coates, co-host of Nobody Panic, trying a wedding dress. The photo is taken from behind, and you can see her reflection in front and at her left, but there's something wrong: her arms look very different in the mirrors.

Is that a Matrix glitch we thought would appear right before our eyes? Maybe. Coates wrote on her Instagram: "I went wedding dress shopping, and the fabric of reality crumbled. This is a real photo, not photoshopped, not a pano, not a Live Photo. If you can't see the problem, please keep looking, and then you won't be able to unsee it."

The reality is a bit more tricky - but easy to explain. Coates went to an Apple Store to understand why this happened, and it's all about computation photography.

What's computational photography, and how does it affect the photo of a bride

"One in a million," said an Apple Store genius. He explained that the "iPhone is not a camera, it's a computer," and an AI decision "stitched those two photos together."

Tech. Entertainment. Science. Your inbox.

Sign up for the most interesting tech & entertainment news out there.

By signing up, I agree to the Terms of Use and have reviewed the Privacy Notice.

Basically, when you press the shutter of your iPhone camera, it bursts several images and then combines them in the best photo possible. Since she was moving, the iPhone didn't consider it was two mirrors, but three different people.

With that, her iPhone captured what it considered the best take for three people - which is bizarre.

Interestingly, the Apple Store employee told her Apple is testing a similar feature to what Google brought out with the Pixel 8 by taking multiple photos and choosing the best ones.

For last year's iPhone 14 Pro, Apple said the A16 Bionic chip camera hardware performed up to 4 trillion operations per photo. Technologies like Neural Engine, Photonic Engine, and Smart HDR are part of the computational photography umbrella.

That said, you can try mimicking this photo with a few mirrors, as it doesn't seem Apple will ever fix this "bug" unless the company can improve the algorithm to understand there's only one person in the picture.

# data[].attributes.attachment_link.title
Matrix glitch? iPhone photo shows bride in three different positions in the same picture; here's what happened

# data[].attributes.attachment_link.description
An iPhone photo of a bride posted on Instagram at the beginning of November started gaining traction on social media due to its weird nature.

# data[].attributes.headline
[France Inter] La "beauty", le petit secret du cinéma Podcast : Le code a changé. 16.02.2024

# data[].attributes.subject
[France Inter] La "beauty", le petit secret du cinéma Podcast : Le code a changé. 16.02.2024

# data[].attributes.attachment_link.readable_text
Je sors du dernier Mission Impossible et un peu hasard, me retrouve à dîner avec deux copines, et une productrice de cinéma que je ne connais pas. On discute du film qu'on vient tous de voir, et du visage de Tom Cruise, qui, décidément, ne ressemble plus à rien. Et la productrice fort sympathique se marre en disant "ils ont dû un peu trop insister sur la passe beauty". "La quoi ?" lui demande-t-on de concert. "La passe beauty ! Vous ne connaissez pas la passe beauty ?" "Ben non, on connaît pas. C'est quoi ?" Et là elle nous explique "Ce sont des logiciels qui depuis quelques années permettent de travailler les visages super finement. Aujourd'hui, plein d'actrices demandent à ce que soit inscrit dans leur contrat qu'il y aura une passe beauty sur le film. Au début, c'était aux Etats-Unis, mais c'est devenu un vrai truc en France aussi." Et elle nous raconte quelques secrets du milieu : une telle qui exige systématiquement que soit modifié son nez, l'autre que soit effacée une cicatrice etc.

Bon, j'avoue que je suis un peu tombé des nues.

Pas d'apprendre que les visages sont modifiés au cinéma, ça, c'est pas nouveau ; mais que ce soit contractualisé, qu'il y ait des logiciels qui permettent manifestement d'automatiser le travail, ça j'ignorais. Et j'ai trouvé assez marrant que le cinéma qui aime autant exhiber ses prouesses techniques soit aussi peu bavard sur ces outils qui rendent les gens plus beaux. Je me suis dit que ça cachait forcément quelque chose. Oh, pas un énorme secret bien sûr, mais sans doute une gêne. Parce que, d'après ce que je comprends, ce sont avant tout les actrices qui sont concernées. Et les actrices à partir d'un certain âge qui plus est. Ce qui, par les temps qui courent, n'est pas glorieux.

Tout ça m'a trotté dans la tête. D'autant que quelques jours après ce dîner, une des copines m'a envoyé la capture d'écran d'une page de livre. Un livre d'entretien entre la réalisatrice Catherine Breillat et une super critique de cinéma qui s'appelle Muriel Joudet. A la fin du livre, toutes les deux discutent du dernier film de Breillat, sorti en 2023 et qui s'intiule "L'été dernier". Il raconte une histoire d'amour passionnée et scandaleuse entre un très jeune garçon et sa belle-mère. La belle-mère est jouée par Léa Drucker. Et voici l'extrait d'entretien que m'a envoyé ma copine. C'est Catherine Breillat qui parle : " Il y avait une autre actrice qui voulait jouer dans le film, mais elle était trop jeune, trop guillerette. Pour le rôle, il fallait ce truc, cette overdose de l'âge qui rend Léa si touchante. J'ai arraché tous les beauty masks qu'on met habituellement à l'étalonnage pour lisser les traits des actrices ad aeternam. Les étalonneurs le font par routine et, soi-disant, ça ne prend pas les yeux, mais ça efface les pores de la peau. En tant que spectateur, même si on ne sait pas qu'on sent la peau respirer, on le ressent, et ces masques enlèvent de l'émotion, même à un niveau infinitésimal. L'âpreté du visage, les rides, tout cela ajoute à la beauté.."

En lisant ce passage, je me suis dit que c'était compliqué tout ça. La "beauty", ça n'a pas l'air d'être seulement une injonction sociétale qui descend dans le cinéma ou la manifestation d'une névrose d'actrice. Il y a de ça, sans doute, mais s'y mêlent les impératifs pas forcément convergents des différentes personnes qui participent au film, des questions esthétiques et narratives, de questions de réception aussi. Et au coeur du problème, il y a la technologie numérique, parce que c'est elle qui offre ces possibilités.

L'équipe
Un podcast de Xavier de la Porte
Réalisation, Fabrice Laigle
Mixage, Basile Beaucaire

# data[].attributes.attachment_link.description
De nombreuses actrices demandent aujourd'hui que soit inscrit dans leur contrat qu'il y aura une passe "beauty" sur le film. Ce n'est pas nouveau, mais que ce soit contractualisé et qu'il y ait des logiciels qui permettent manifestement d'automatiser le travail, voilà qui a beaucoup étonné Xavier.

# data[].attributes.headline
[France 5] C médiatique - Émission du dimanche 14 janvier 2024 

# data[].attributes.subject
[France 5] C médiatique - Émission du dimanche 14 janvier 2024 

# data[].attributes.body
3ème partie : IA et fiction divertissement avec Rodolphe Chabrier qui a travaillé sur les séries Tout va bien / Le bureau des légendes ou Lupin

# data[].attributes.attachment_link.title
C médiatique Émission du dimanche 14 janvier 2024

# data[].attributes.attachment_link.description
Magazine produit par Jara&Co/Jara Presse, avec la participation de France Télévisions. 2023. Production : Christophe Koszarek.

# data[].attributes.headline
[France 5] C médiatique - Émission du dimanche 14 janvier 2024 

# data[].attributes.subject
[France 5] C médiatique - Émission du dimanche 14 janvier 2024 

# data[].attributes.body
1ere partie : IA et info - David Colon

# data[].attributes.attachment_link.title
C médiatique Émission du dimanche 14 janvier 2024

# data[].attributes.attachment_link.description
Magazine produit par Jara&Co/Jara Presse, avec la participation de France Télévisions. 2023. Production : Christophe Koszarek.

# data[].attributes.headline
[Tenk] Plug and Pray - documentaire de Jens Schanz. 2009

# data[].attributes.subject
[Tenk] Plug and Pray - documentaire de Jens Schanz. 2009

# data[].attributes.attachment_link.readable_text
Musique originale : Rainer Bartesch Production : Mascha Film

Anglais, Japonais, Italien, Allemand

Écologie

Résumé

Joseph Weizenbaum est un de ceux qui ont le plus agité le monde informatique ces dix dernières années. Ce mathématicien est l'un des premiers développeurs informatiques, et un pionnier de l'intelligence artificielle avec son programme Eliza. Comme beaucoup de ses collègues, il profite des millions de dollars investis dans la course aux armements durant la Guerre froide. En 1975, il devient célèbre avec son livre Computer Power and Human Reason, une critique du mythe répandu d'une indépendance de la science par rapport à la société et à ses valeurs. Selon lui, chaque individu, en particulier les scientifiques, est responsable de la promotion d'un monde plus juste, plus humaniste. Weizenbaum nous prévient que plus nous accorderons de responsabilités aux ordinateurs, plus notre perception de l'humain sera changée : nous finirons par nous considérer comme de simples machines.

L'avis de Tënk

Plug and Pray n'est pas sans faire écho au vent d'inquiétude qui agite ces derniers temps le monde de la création et de l'écriture en particulier, face à l'emploi de l'intelligence artificielle dans ce domaine. L'avènement d'applications telles que ChatGPT vante la promesse d'une démocratisation culturelle et stimule un engouement qui tend à présenter l'utilisation de ce type d'outils comme inévitable. Il serait un support de création comme un autre, sans risque de compromettre l'indépendance et la singularité de l'écriture. Des start-up commercialisent des applications avec lesquelles écrire deviendrait un jeu d'enfant. Alors qu'il fut l'un des pionniers du développement de cette technologie, suivre la pensée critique de Joseph Weizenbaum, énoncée dans ce film il y a maintenant 15 ans, s'avère stimulant. Ce documentaire de facture classique est un espace de réflexion et de mise en perspective de ces enjeux qui nous traversent aujourd'hui.

Julia Pinget
Réalisatrice

# data[].attributes.attachment_link.title
Plug and Pray - Film documentaire - Tënk

# data[].attributes.attachment_link.description
Joseph Weizenbaum est un de ceux qui ont le plus agité le monde informatique ces dix dernières années. Ce mathématicien est l'un des premiers développeurs informatiques, et un pionnier de l'intelligence artificielle avec son programme Eliza. Comme be

# data[].attributes.headline
[Centre Internet & Société du CNRS] L’IA dans les politiques de sécurité : l’exemple de la vidéosurveillance algorithmique 10.10.2023

# data[].attributes.subject
[Centre Internet & Société du CNRS] L’IA dans les politiques de sécurité : l’exemple de la vidéosurveillance algorithmique 10.10.2023

# data[].attributes.body
Séance du séminaire « Critique de l'Intelligence Artificielle », avec Avec la participation de Bertrand Pailhès de la CNIL

# data[].attributes.attachment_link.title
L’IA dans les politiques de sécurité : l’exemple de la vidéosurveillance algorithmique

# data[].attributes.headline
Conclusion par Erwan Lecoeur - sociologue. 6.04.2023

# data[].attributes.subject
Conclusion par Erwan Lecoeur - sociologue. 6.04.2023

# data[].attributes.attachment_link.title
[RDVI-11] Erwan Lecoeur - Images artificielles. Vers de nouvelles intelligences. Conclusion

# data[].attributes.headline
Table ronde : Impacts des intelligences artificielles sur les métiers et l’accompagnement des publics. 6.04.2023

# data[].attributes.subject
Table ronde : Impacts des intelligences artificielles sur les métiers et l’accompagnement des publics. 6.04.2023

# data[].attributes.body
https://youtu.be/sLjz0RH-mOg?feature=shared

# data[].attributes.attachment_link.title
[RDVI-11] - Impacts des intelligences artificielles sur les métiers et l’accompagnement des publics

# data[].attributes.headline
Conférence de Nathalie Walczak – Intelligence artificielle et enjeux sociétaux : entre progrès et positionnement ? 6.04.2023

# data[].attributes.subject
Conférence de Nathalie Walczak – Intelligence artificielle et enjeux sociétaux : entre progrès et positionnement ? 6.04.2023

# data[].attributes.attachment_link.title
[RDVI-11] Nathalie Walczak – Intelligence artificielle et enjeux sociétaux : quel positionnement...

# data[].attributes.headline
Le visuel : découvrez le processus créatif par IA exposé par les graphistes du studio Desperado 

# data[].attributes.subject
Le visuel : découvrez le processus créatif par IA exposé par les graphistes du studio Desperado 

# data[].attributes.headline
Ressources produites dans le cadre des Rendez-vous de l'Image 2023

# data[].attributes.subject
Ressources produites dans le cadre des Rendez-vous de l'Image 2023

# data[].attributes.attachment_link.readable_text
Les ressources des Rendez-Vous de l'Image 2023
Images artificielles. Vers de nouvelles intelligences.

DOSSIER DOCUMENTAIRE DES RENDEZ-VOUS DE L'IMAGE 2023
Retrouvez dans ce dossier les documents, informations et liens vers de nombreuses ressources pour accompagner la journée des Rendez-vous de l'Image 2023.

DOSSIER DE VEILLE COLLABORATIVE
Conçu et alimenté de façon collaborative en amont des Rendez-vous de l'Image, le dossier recense de nombreuses ressources organisées par thématiques : outils, articles, vidéo, conférences... :

NUMOTHÈQUE
La Bibliothèque numérique de la Métropole Grenoble-Alpes la numothèque fait écho aux Rendez-vous de l'Imageen proposant sa sélection de ressources :

BIBLIOGRAPHIE
Préparée par la bibliothèque municipale de Grenoble, ces documents sont à consulter sur place ou à emprunter :

PROCESSUS CRÉATIF : LES ÉTAPES DE CRÉATION DU VISUEL PAR LE STUDIO DESPERADO
Les graphistes du Studio Desperado se sont prêtés au jeu de créer le visuel des Rendez-Vous de l'Image 2023 avec des outils de création d'image via intelligence artificielle. Ils détaillent les différentes étapes de leur création :

# data[].attributes.attachment_link.title
Pour aller plus loin... - La Maison de l'Image | Grenoble

# data[].attributes.attachment_link.description
Les ressources des Rendez-Vous de l'Image 2023Images artificielles. Vers de nouvelles intelligences. DOSSIER DOCUMENTAIRE DES RENDEZ-VOUS DE L'IMAGE 2023Retrouvez dans ce dossier les documents, informations et liens vers de nombreuses ressources pour accompagner la journée des Rendez-vous de l'Image 2023.

# data[].attributes.headline
Programme des Rendez-vous de l'Image 2023

# data[].attributes.subject
Programme des Rendez-vous de l'Image 2023

# data[].attributes.headline
[Maison de l'Image] Rendez-vous de l'image 2023 · Images artificielles. Vers de nouvelles intelligences - page consacrée à l'édition du 6.04.2023

# data[].attributes.subject
[Maison de l'Image] Rendez-vous de l'image 2023 · Images artificielles. Vers de nouvelles intelligences - page consacrée à l'édition du 6.04.2023

# data[].attributes.attachment_link.readable_text
L'oeil du sociologue : synthèse et conclusion par Erwan Lecoeur

Chaque année, Les Rendez-Vous de l'Image visent à informer et ouvrir le débat sur les enjeux actuels de l'éducation aux images et aux médias, afin d'accompagner les jeunes dans leurs univers visuels et usages numériques.

Retour sur la journée du 6 avril 2023 qui proposait un programme d'ateliers, conférences et discussions, co-construit avec un ensemble de partenaires. Les échanges de cette rencontre visent à (ré)inventer des actions adaptées aux évolutions de la technologie et des usages des publics. Ainsi, en partenariat avec des acteurs du territoire, La Maison de l'Image poursuit sa mission d'éducation aux images à destination des professionnel·les et des parents.

En modifiant notre rapport à la création mais aussi au réel, la démocratisation récente des outils de création d'images par intelligence d'artificielle semble bousculer notre rapport aux images. Qu'en est-il réellement ? En quoi ces technologies opèrent-elles un bouleversement au sein des métiers des images et des médias ? Peut-on dessiner les usages futurs de ces applications dont le potentiel créatif est en constante évolution ?
Est-ce un nouveau défi à relever pour l'éducation aux images et aux médias et pour les professionnel·les qui s'emparent de ces sujets ?

Confrontés à un champ en friche nous soumettant à de nombreux questionnements, cette nouvelle édition se propose d'inverser l'ordre habituel de son programme en mettant les participant·es dans la découverte active et la participation concrète avec des ateliers en matinée.
L'après-midi donnera lieu à des ouvertures et des réflexions à l'appui des restitutions des ateliers afin de finaliser la journée avec la proposition de pistes d'actions concrètes.

PROGRAMME9h * ACCUEIL9h30 * PLÉNIÈRE D'OUVERTURE10h30 - 12h15 * ATELIERS

Matinée

* Algo & IA : Ceci n'est pas un chat !
* Débusquer les biais algorithmiques
* Cecin'est pas une image !
* Discussion à visée philosophique sur l'art et l'intelligence artificielle

14h - 17h * PLÉNIÈRES
* Restitution participative des ateliers
* Conférence : Intelligence artificielle et enjeux sociétaux : quel positionnement adopter entre
progrès et discernement ?
* Table ronde : Quels impacts des intelligences artificielles sur les métiers et sur l'accompagnement des publics ?
* Synthèse de la journée et conclusion

PROGRAMME DÉTAILLÉ

9h30 - PLÉNIÈRE D'OUVERTURE

Sélection d'ouvrages proposée par la Librairie les Modernes

Sélection des Modernes - Rendez-vous de l'Image 2022 - © Claire Nicolas - La Maison de l'Image

10h30 - 12h15 - ATELIERS

Algo & IA : Ceci n'est pas un chat !

Romain Clément, ingénieur logiciel et formateur indépendant
Comment la machine fait-elle pour reconnaître les images, les morceaux ou les genres musicaux ? Comment un système informatique identifie-t-il des éléments sur des photos pour différencier un chat d'une personne ? Un atelier ludique conçu pour la Scop La Turbine afin de découvrir comment se fait la reconnaissance automatique d'images en jouant et en dessinant !

Débusquer les biais algorithmiques

Jean-François Trochet, Coordinateur pédagogique CEMEA Rhône Alpes, Enseignant de mathématiques et Noé Eynard, Webdesigner, Intervenant sur les questions d'esprit critiques.
Une IA reste un algorithme, codé par des humains. Des biais algorithmiques peuvent accentuer les risques de discrimination envers certaines populations. Comment cela se traduit-t-il concrètement ? Quels liens existent-ils avec les biais cognitifs inhérents à chacun de nous ? Cet atelier propose de prendre de la hauteur sur les algorithmes qui peuplent nos quotidiens, de les analyser sous un nouvel angle de vue et de trouver des stratégies pour y faire face.

Cecin'est pas une image !

Marlene Ason, intervenante en éducation aux médias à la Maison de l'Image et Nina Lorenzo, studio 97, médialab, de la Maison de l'Image.
Testez les outils de création d'images par intelligence artificielle. Un atelier d'expérimentation pensé (presque) sans limites pour explorer le potentiel créatif, imaginer des activités créatives et d'éducation aux médias.

Discussion à visée philosophique sur l'art et l'intelligence artificielle

Maxime Ledieu, enseignant en histoire-géographie au collège Vercors de Grenoble, intervenant au sein du DU PhiloPolis à l'UGA et Marie-Alix Larroque, enseignante de mathématiques au collège Vercors de Grenoble.
Les outils d'intelligence artificielle semblent réinterroger notre vision et notre définition de l'art. Qu'en est-il ? Cet atelier propose de vivre une discussion à partir d'oeuvres d'arts. Puis il présentera un retour d'expériences sur des discussions portant sur des thèmes philosophiques avec des collégiens.

14h - 17h - PLÉNIÈRES

- 14h - RESTITUTION PARTICIPATIVE DES ATELIERS

- 14h30 - CONFÉRENCE
Intelligence artificielle et enjeux sociétaux : quel positionnement adopter entre progrès et discernement ?
Nathalie Walczak, maîtresse de conférences en Sciences de l'Information et de la Communication à l'Université Grenoble Alpes, responsable de l'axe 3 au laboratoire GRESEC

L'effervescence actuelle autour du terme intelligence artificielle (IA) nous fait parfois oublier la définition même de ce terme. De quoi parle-t-on ? De données, d'algorithmes, d'images, de textes, d'information, de désinformation... ? Les questionnements sont nombreux et les réponses peuvent prendre différentes directions selon le point de vue de celui qui s'en empare.

Indéniablement, l'IA est une avancée technologique qui prend une nouvelle ampleur ; si la notion est loin d'être nouvelle, elle n'a jamais été aussi présente dans le quotidien des personnes connectées. Elle n'est plus seulement cantonnée à une notion informatique mais va jusqu'à toucher les domaines artistiques, la littérature ou les apprentissages scolaires entre autres.

Des questions sociétales récurrentes par rapport aux dispositifs numériques refont surface et de nouvelles interrogations apparaissent. Les artistes s'interrogent sur la place de leur production alors que les enseignants se demandent s'ils vont corriger des copies de robots. Les groupes d'internautes se renferment de plus en plus sur eux-mêmes à travers les propositions suggérées par les algorithmes, pendant que l'éducation aux médias reste une portion congrue des programmes d'enseignement. La mise en évidence de ces quelques interrogations et les pistes de réponses permettront d'ajouter une pierre au débat autour de l'IA et de la place de l'internaute.

- 15h30 - TABLE RONDE

des intelligences artificielles sur les métiers et sur l'accompagnement des publics

- Caroline Ange, maîtresse de conférences en Sciences de l'Information et la Communication à l'Université Grenoble Alpes et Pascal Bertolino, maître de conférences en informatique à l'UGA, chercheur au GIPSA-LAB.
- Jean-François Trochet, coordinateur pédagogique CEMEA Rhône Alpes, enseignant de mathématiques et Noé Eynard, webdesigner, intervenant sur les questions d'esprit critique.
- Marlene Ason, intervenante en éducation aux médias à La Maison de l'Image

Animation
- Raphaëlle Lavorel, journaliste de presse écrite indépendante à Grenoble. : Laura Schlenker, vidéaste, formatrice et fondatrice de La Fabrique Média. Maîtresse de conférences associée en sciences de l'information et de la communication à l'UGA.

- 16h45-17h - SYNTHÈSE DE LA JOURNÉE ET CONCLUSION
L'oeil du sociologue - Erwan Lecoeur, sociologue, chercheur associé au laboratoire PACTE, enseignant à l'UGA.
Cet événement est soutenu par Grenoble Alpes Métropole, le Département de l'Isère, la CAF de l'Isère, et l'Agence nationale de la cohésion des territoires - ANCT
Pour plus d'informations : noemie.rubat[a]maison-image.fr

04 76 40 48 39

# data[].attributes.attachment_link.title
2023 · Images artificielles. Vers de nouvelles intelligences - La Maison de l'Image | Grenoble

# data[].attributes.attachment_link.description
Chaque année, Les Rendez-Vous de l'Image visent à informer et ouvrir le débat sur les enjeux actuels de l'éducation aux images et aux médias, afin d'accompagner les jeunes dans leurs univers visuels et usages numériques. Retour sur la journée du 6 avril 2023 qui proposait un programme d'ateliers, conférences et discussions, co-construit avec un ensemble de partenaires.

# data[].attributes.headline
[Usbek & Rica] « Le changement climatique n’est pas une priorité pour les concepteurs d’intelligences artificielles »  21.04.2023

# data[].attributes.subject
[Usbek & Rica] « Le changement climatique n’est pas une priorité pour les concepteurs d’intelligences artificielles »  21.04.2023

# data[].attributes.attachment_link.readable_text
Les intelligences artificielles polluent-elles davantage qu'elles ne contribuent à décarboner certains secteurs ? Est-il possible de développer des IA low-tech ? Et quels gestes de sobriété numérique peuvent adopter leurs utilisateurs ? Nous avons posé ces questions à Priya Donti, directrice exécutive de l'association Climate Change AI et spécialiste de l'apprentissage automatique.

L'impact environnemental des intelligences artificielles est très discuté, en particulier depuis l'ouverture au public d'une des plus perfectionnées d'entre elles, ChatGPT. Mais les scientifiques n'ont pas attendu l'avènement de ce célèbre chabot pour tenter d'estimer le coût en CO₂ de l'entraînement de modèles algorithmiques. Dès 2019, des chercheurs de l'université du Massachusetts ont ainsi établi que l'empreinte carbone de la formation d'un seul grand modèle de langage équivaut à environ 300 000 kg d'émissions de dioxyde de carbone, soit l'équivalent de 125 vols aller-retour entre New York et Pékin. Une étude plus récente menée par des chercheurs de l'UC Berkeley et de Google revoit ce résultat à la baisse, le divisant par 88 pour le ramener à 1,8 % du coût complet d'un seul vol aller-retour entre San Francisco et New York. Alors, quelle est l'estimation la plus crédible ? Difficile à dire, d'autant que d'une IA à une autre, l'empreinte carbone peut varier dans les grandes largeurs.

2 réponses

Par ailleurs, certaines IA participent à rendre plus efficaces des secteurs particulièrement polluants et énergivores, comme l'aviation ou l' agriculture. Dans ce contexte, faut-il faire de l'intelligence artificielle une alliée de la lutte contre le réchauffement climatique ou bien son meilleur ennemi ? Est-il possible de réduire les émissions de gaz à effet de serre qu'elle génère en adoptant des gestes s'inscrivant dans une forme de sobriété numérique ? Les concepteurs d'IA doivent-ils imaginer dès aujourd'hui des modèles low-tech, quitte à rogner sur leurs ambitions ? Nous avons posé ces questions à Priya Donti, cofondatrice et directrice exécutive de l'organisation à but non lucratif Climate Change AI, et professeure adjointe à l'Institut de technologie du Massachusetts (MIT), spécialisée en physique et apprentissage automatique.

Usbek & Rica : Sommes-nous en mesure de chiffrer l'impact environnemental des intelligences artificielles ?

Il existe des estimations macroéconomiques de l'impact global de l'IA, mais elles sont très imprécises car les fournisseurs de solutions d'intelligence artificielle et les opérateurs de centres de données ne font pas preuve d'une grande transparence quant aux externalités attribuées à leurs modèles d'apprentissage. Mais nous savons que les data centers représentent environ 2 % des émissions mondiales de gaz à effet de serre, dont une partie est attribuée à l'IA et à l'apprentissage automatique.

Nous avons constaté qu'au cours des dernières décennies la consommation mondiale d'énergie de ces centres de données est restée à peu près stable. Bien que le nombre de cycles d'entraînement et les exigences en matière de calcul aient augmenté, les IA sont devenues plus efficaces à un rythme très similaire. Mais nous ne pouvons pas nécessairement considérer ces tendances comme acquises pour l'avenir.

Qu'est-ce qui, dans les phases de développement et de déploiement des IA, pollue le plus ?

L'impact carbone d'une intelligence artificielle englobe les émissions associées au cycle de vie du matériel sur lequel son modèle algorithmique est exécuté - des matériaux extraits à leur transport, en passant par l'énergie nécessaire au fonctionnement du modèle - ainsi que la phase d'entraînement du modèle, responsable de la majeure partie des émissions et plus énergivore que l'inférence .

Mais ces tâches sont effectuées à des fréquences différentes. Le développement des modèles d'IA est réalisé beaucoup plus rarement, et par un ensemble restreint d'entités. L'entraînement des IA est plus fréquent et l'inférence, elle, est extrêmement fréquente. Il est donc difficile d'échelonner précisément ces étapes des moins polluantes aux plus polluantes.

" Les applications d'IA peuvent contribuer au changement climatique, voire nuire explicitement à l'action en faveur du climat "

Priya Donti, cofondatrice et directrice exécutive de Climate Change AI

L'IA contribue aussi à rendre certains secteurs moins énergivores et émetteurs en gaz à effet de serre, comme l'aviation ou l' agriculture. Ces usages vertueux permettent-ils de contrebalancer les émissions des algorithmes d'apprentissage ?

L'IA peut en effet avoir des applications positives, parmi lesquelles l'amélioration des prévisions météorologiques, l'optimisation de l'emplacement des panneaux solaires, la croissance du rendement des cultures, l'orientation vers des pratiques agricoles plus durables, la détection des fuites de méthane et de gaz, ou encore l'amélioration des systèmes de chauffage et de climatisation des bâtiments afin de réduire leurs émissions.

L'intelligence artificielle peut également avoir des applications intéressantes dans le champ scientifique, en facilitant l'analyse d'expériences antérieures pour en concevoir de nouvelles, plus efficaces. Elle peut aussi faciliter l'optimisation de certains modèles de prévision climatique et de planification énergétique particulièrement gourmands.

Serait-il possible de mettre au point une IA moins énergivore, voire low-tech ?

Portrait de Priya Donti © Priya Donti

Des solutions concrètes peuvent être appliquées par les développeurs pour diminuer leur impact, comme réduire les calculs inutiles en désactivant certains hyperparamètres, à l'instar de la recherche par grille, ou bien réduire la taille des modèles entraînés. On peut aussi se tourner vers des énergies renouvelables pour alimenter ces IA. Mais cela ne doit pas nous empêcher de réfléchir à notre consommation d'énergie globale et de tenter de la réduire, puisqu'il y a également des contraintes d'espace, des coûts sociétaux et environnementaux associés aux énergies moins polluantes.

Au-delà du développeur, l'utilisateur a-t-il également un rôle à jouer dans la réduction de l'impact environnemental des IA, en adoptant certains gestes de sobriété numérique ?

" Devons-nous faire confiance aux entreprises technologiques pour s'autoréguler ? L'histoire montre que ce n'est pas réaliste "

Priya Donti, cofondatrice et directrice exécutive de Climate Change AI

Dans les années qui viennent, l'empreinte carbone des IA pourrait-elle exploser au rythme de leurs mises à jour ? Ou bien les principaux acteurs du secteur feront-ils un véritable effort pour réduire cette empreinte ?

L'avenir est incertain. À l'heure actuelle, le changement climatique n'est pas une priorité pour les concepteurs d'intelligences artificielles. Les réglementations politiques et incitations externes joueront un rôle très important dans l'encadrement du développement des IA. La question qui se pose désormais est la suivante : devons-nous faire confiance aux entreprises technologiques pour s'autoréguler ? L'histoire montre que ce n'est pas réaliste.

Souvent, les entreprises s'autorégulent juste assez pour éviter une réglementation externe, mais pas plus. Il s'agit davantage d'une stratégie que d'une volonté de s'attaquer à ces questions qui ne sont pas nécessairement alignées sur leurs objectifs financiers. Par conséquent, nous devons vraiment mettre en place les bonnes incitations pour faire du climat une préoccupation centrale dans la manière dont nous envisageons le développement de l'IA.

2 réponses

Et si l'agriculture du futur était sous-marine ? Dans la baie de Noli, un petit village de pêcheurs situé à quelques encablures de Gênes, une start-up s'est lancée il y a dix ans dans la culture de plantes et de légumes terrestres sous l'eau, à plus de 6 mètres de profondeur. Reportage dans le Nemo's Garden (" Jardin de Nemo ").

# data[].attributes.attachment_link.title
" Le changement climatique n'est pas une priorité pour les concepteurs d'intelligences artificielles "

# data[].attributes.attachment_link.description
Les intelligences artificielles polluent-elles davantage qu'elles ne contribuent à décarboner certains secteurs ? Est-il possible de développer des IA low-tech ? Et quels gestes de sobriété numérique peuvent adopter leurs utilisateurs ? Nous avons posé ces questions à Priya Donti, directrice exécutive de l'association Climate Change AI et spécialiste de l'apprentissage automatique.

# data[].attributes.headline
[Usbek & Rica] Selon Naomi Klein, l’IA risque d’« aggraver activement la crise climatique » 11.05.2023

# data[].attributes.subject
[Usbek & Rica] Selon Naomi Klein, l’IA risque d’« aggraver activement la crise climatique » 11.05.2023

# data[].attributes.attachment_link.readable_text
Dans une tribune publiée par le quotidien britannique The Guardian, la très réputée professeure de justice climatique Naomi Klein s'attaque aux fantasmes qu'engendre l'intelligence artificielle, de la lutte contre le réchauffement climatique au " faux-socialisme ", derrière lequel se cache un capitalisme retors. Autant d'" hallucinations " que l'autrice à succèsentend démonter.

En tête de liste des avantages de l'intelligence artificielle (IA) figure, presque invariablement, l'affirmation selon laquelle ces modèles algorithmiques aideront à lutter d'une manière ou d'une autre contre la crise climatique.C'est ce qu'ont affirmé tour à tour le Forum économique mondial, le think tank américain Council on Foreign Relations ou encore le cabinet de consulting Boston Consulting Group, assurant que l'IA " peut être utilisée pour [...] construire une société plus verte ".

Bien qu'énergivores, les intelligences artificielles sont fréquemment brandies comme une solution pour réduire les émissions de gaz à effet de serre de secteurs polluants, à l'instar de l'aviation et de l'agriculture. Mais pour Naomi Klein, professeure de justice climatique et autrice des bestsellers No Logo ( Actes Sud, 2002), La Stratégie du choc ( Actes Sud, 2013) et Plan B pour la planète, le New Deal vert (Actes Sud, 2019), les IA sont loin de " résoudre " la crise climatique ; bien au contraire. " Il est beaucoup plus probable que l'IA soit commercialisée de manière à aggraver activement la crise climatique ", estime l'éditorialiste dans une tribune pour le quotidien britannique The Guardian, publiée le 8 mai dernier.

Que ce soit l'industrie fossile, qui a recours à des modèles d'intelligence artificielle pour accélérer l'exploration pétrolière et gazière, ou la firme Coca-Cola, qui investit massivement dans l'IA générative afin de vendre davantage de produits, les entreprises qui se hissent déjà au rang des plus émettrices en termes de gaz à effet de serre exploitent désormais des modèles d'IA pour faire fructifier leurs bénéfices, quitte à alourdir leur bilan carbone. " Il devient de plus en plus évident, énonce Naomi Klein dans les colonnes du Guardian, que cette nouvelle technologie sera utilisée de la même manière que la dernière génération d'outils numériques : ce qui commence par de nobles promesses sur la diffusion de la liberté et de la démocratie finit par un microciblage des publicités pour que nous achetions davantage de produits inutiles et émetteurs de carbone, [comme ceux de Coca-Cola, ndlr] ".

" Hallucinations "

Considérer que les intelligences artificielles permettront de lutter efficacement contre le réchauffement climatique n'est qu'une des multiples " hallucinations " dont souffre le milieu de la tech depuis l'avènement de ChatGPT, avance Naomi Klein. " L'IA générative mettra fin à la pauvreté, nous disent-ils. Elle guérira toutes les maladies. Elle résoudra le problème du changement climatique. Elle rendra nos emplois plus intéressants et plus passionnants. L'IA rendra nos vies pleines de loisirs et de contemplation, nous aidant à retrouver l'humanité que nous avons perdue à cause de la mécanisation capitaliste tardive. Elle mettra fin à la solitude. Elle rendra nos gouvernements rationnels et réactifs, liste la codirectrice du Centre pour la justice climatique à l'université de Colombie-Britannique, dans sa (très) longue tribune. Ce sont là, je le crains, les véritables hallucinations de l'IA et nous les entendons tous en boucle depuis le lancement de ChatGPT ".

We've all heard the hype.

" Generative AI will end poverty. It will cure disease. It will solve climate change. It will make our jobs more meaningful and exciting. It will unleash lives of leisure and contemplation. It will end loneliness. "

Blah blah blah. 🧵👇
- Naomi Klein (@NaomiAKlein) May 6, 2023

Pour mieux faire passer ces illusions, la Silicon Valley joue la carte du " faux-socialisme ", affirme l'essayiste. Cette stratégie revient à créer un produit attrayant, à le distribuer gratuitement pendant quelques années et à le rendre payant une fois que les utilisateurs en sont devenus dépendants. Un plan que semble adopter Open-AI, maison mère du générateur de texte ChatGPT, dont la dernière version est réservée aux abonnés.

Autre tactique : faire croire que l'IA générative ne provoquera pas la fin de l'emploi, mais seulement celle du " travail ennuyeux ", les chatbots se chargeant des tâches répétitives. Cette stratégie-là, bienveillante en apparence, dissimule les effets potentiellement dévastateurs de l'intelligence artificielle telle qu'elle est utilisée aujourd'hui dans notre système capitaliste, juge Naomi Klein. " Dans ce système, les effets de l'inondation du marché avec des technologies qui peuvent possiblement effectuer les tâches économiques d'innombrables travailleurs ne signifient pas que ces personnes seront soudainement libres de devenir des philosophes et des artistes, ironise la militante altermondialiste, connue pour avoir pointé les défaillances du capitalisme, du néolibéralisme et de la mondialisation dans ses ouvrages. Cela signifie que ces personnes se retrouveront face à l'abîme, les artistes réels étant parmi les premiers à tomber ".

" Les entreprises les plus riches de l'histoire s'emparent unilatéralement de la somme totale des connaissances humaines qui existent sous forme numérique, et les enferment dans des produits propriétaires "

Naomi Klein, professeure de justice climatique à l'université de Colombie-Britannique

Monopole

De la même manière qu'elle le fait pour le réchauffement climatique, la professeure de justice climatique met en garde contre le risque de monopole qui plane sur les intelligences artificielles et qui, selon elle, profite au système capitaliste. " Les entreprises les plus riches de l'histoire (Microsoft, Apple, Google, Meta, Amazon...) s'emparent unilatéralement de la somme totale des connaissances humaines qui existent sous forme numérique, et les enferment dans des produits propriétaires, dont beaucoup s'en prendront directement aux humains dont le travail de toute une vie a permis de former les machines, sans leur permission ou leur consentement ", alerte-t-elle dans les colonnes du Guardian. Craignant que les intelligences artificielles ne deviennent un outil de dépossession et de spoliation massif, l'altermondialiste canadienne appelle quiconque voudra bien l'entendre à refuser d'utiliser ces outils et à exiger des employeurs et des autorités mondiales qu'ils les rejettent également.

" Nous pouvons réglementer la forme actuelle des chatbots vampiriques et commencer à construire un monde dans lequel les promesses les plus excitantes de l'IA seraient plus que des hallucinations de la Silicon Valley "

Naomi Klein, professeure de justice climatique à l'université de Colombie-Britannique

Bien qu'alarmiste, Naomi Klein ne se montre pas totalement défaitiste, espérant trouver une issue collective favorable dans l'encadrement juridique des IA. " Un monde de contrefaçons profondes, de boucles de mimétisme et d'aggravation des inégalités n'est pas une fatalité, rassure-t-elle. Nous pouvons réglementer la forme actuelle des chatbots vampiriques et commencer à construire un monde dans lequel les promesses les plus excitantes de l'IA seraient plus que des hallucinations de la Silicon Valley ".

Ce n'est qu'une fois que ces intelligences artificielles seront régulées que leur plein potentiel pourra être exploré, projette l'autrice. " Il existe un monde dans lequel l'IA générative, en tant que puissant outil de recherche prédictive et d'exécution de tâches fastidieuses, pourrait en effet être mise au service de l'humanité, des autres espèces et de notre maison commune, imagine-t-elle. Mais pour que cela se produise, prévient l'essayiste, ces technologies devraient être déployées dans le cadre d'un ordre économique et social très différent du nôtre, un ordre dont l'objectif serait de répondre aux besoins humains et de protéger les systèmes planétaires qui abritent toutes les formes de vie ".

Entre peur du remplacement et promesse d'un quotidien plus épanouissant pour les salariés... La présence de plus en plus importante de l'IA dans nos univers professionnels suscite de nombreuses interrogations. Alors faut-il craindre que l'IA surpasse bientôt l'intelligence humaine au point de rendre nos compétences obsolètes ?

Comment l'intelligence artificielle doit-elle être déployée dans les entreprises et comment aider les collaborateurs à en tirer le meilleur parti ?

Et si l'agriculture du futur était sous-marine ? Dans la baie de Noli, un petit village de pêcheurs situé à quelques encablures de Gênes, une start-up s'est lancée il y a dix ans dans la culture de plantes et de légumes terrestres sous l'eau, à plus de 6 mètres de profondeur. Reportage dans le Nemo's Garden (" Jardin de Nemo ").

# data[].attributes.attachment_link.title
Selon Naomi Klein, l'IA risque d'" aggraver activement la crise climatique "

# data[].attributes.attachment_link.description
Dans une tribune publiée par le quotidien britannique The Guardian, la très réputée professeure de justice climatique Naomi Klein s'attaque aux fantasmes qu'engendre l'intelligence artificielle, de la lutte contre le réchauffement climatique au " faux-socialisme ", derrière lequel se cache un capitalisme retors. Autant d'" hallucinations " que l'autrice à succès entend démonter.

# data[].attributes.headline
[Usbek & Rica] Générer une image consomme autant d’énergie que pour charger un smartphone (et autres chiffres affolants sur les IA) 5.12.2023

# data[].attributes.subject
[Usbek & Rica] Générer une image consomme autant d’énergie que pour charger un smartphone (et autres chiffres affolants sur les IA) 5.12.2023

# data[].attributes.attachment_link.readable_text
La génération de 1000 images peut dépenser autant d'énergie que pour la recharge de 950 smartphones. Ce qui signifie que la consommation associée à une seule image est alors quasi équivalente à celle nécessaire pour charger un seul appareil. Les auteurs de l'étude observent néanmoins de " grandes variations en fonction des différents modèles de génération d'images, dépendamment de la taille de l'image qu'ils génèrent. "

# data[].attributes.attachment_link.title
Générer une image consomme autant d'énergie que pour charger un smartphone (et autres chiffres affolants sur les IA)

# data[].attributes.attachment_link.description
Papoter avec ChatGPT, créer des images avec Stable Diffusion... Chaque interaction avec une IA générative a un coût énergétique, que des scientifiques viennent de préciser dans une étude inédite qui invite à repenser nos usages au profit de modèles d'IA plus légers.

# data[].attributes.headline
[Mooc Digital Paris] Jean-Gabriel Ganascia - Intelligence artificielle. octobre 2017 

# data[].attributes.subject
[Mooc Digital Paris] Jean-Gabriel Ganascia - Intelligence artificielle. octobre 2017 

# data[].attributes.attachment_link.readable_text
Jean-Gabriel Ganascia est professeur d'informatique à l'université Pierre et Marie Curie (UPMC), membre senior de l'Institut Universitaire de France, membre de la CERNA (Commission de réflexion sur l'éthique des recherches dans les sciences du numérique d'Allistene), EurAI (European Association for Artificial Intelligence) fellow et président du COMETS (comité d'éthique du CNRS). Il poursuit ses recherches sur l'intelligence artificielle au LIP6 (Laboratoire d'Informatique de l'université Paris 6) où il dirige l'équipe ACASA. Il est aussi directeur adjoint du laboratoire d'excellence (Labex) OBVIL au sein duquel les équipes de littérature de l'université Paris-Sorbonne coopèrent avec les informaticiens de l'UPMC sur le versant littéraire des humanités numériques. Dans le passé il a piloté la recherche française en sciences cognitives en dirigeant le groupement d'intérêt scientifique " Sciences de la cognition ". Ses activités de recherche portent actuellement sur l'apprentissage machine, sur la fusion symbolique de données, sur l'éthique computationnelle, sur l'éthique des ordinateurs et sur le versant littéraire des humanités numériques.

Le mythe de la Singularité : faut-il craindre l'intelligence artificielle ?, éditions du Seuil, 2017.

L'intelligence artificielle : vers une domination programmée ?, éditions du Cavalier Bleu, 2017.
http://www.cnrs.fr/comets/ www.ganascia.name

# data[].attributes.attachment_link.title
Intelligence artificielle par Jean-Gabriel Ganascia | MOOC Digital Paris

# data[].attributes.attachment_link.description
Dominique Moulon reçoit Jean-Gabriel Ganascia. Jean-Gabriel Ganascia est professeur d'informatique à l'université Pierre et Marie Curie (UPMC), membre senior de l'Institut Universitaire de France, membre de la CERNA (Commission de réflexion sur l'éthique des recherches dans les sciences du numérique d'Allistene), EurAI (European Association for Artificial Intelligence) fellow et président du COMETS (comité d'éthique du CNRS).

# data[].attributes.headline
[Mooc Digital Paris] David Fathi - Potographie et intelligence artificielle - en pratique. octobre 2023

# data[].attributes.subject
[Mooc Digital Paris] David Fathi - Potographie et intelligence artificielle - en pratique. octobre 2023

# data[].attributes.attachment_link.readable_text
Après son Master en mathématiques et informatique, David Fathi a commencé à développer une pratique artistique parallèlement à sa carrière d'ingénieur. Ses travaux photographiques expriment sa passion pour les sciences et les limites de la connaissance humaine. Son travail aborde des domaines et des sujets aussi variés que la bombe atomique, l'intelligence artificielle, la physique quantique et l'éthique médicale. David Fathi aime partir d'histoires et d'images existantes qu'il transforme pour leur donner un nouveau sens. Depuis 2014, il a exposé dans de nombreux festivals et institutions, comme les Rencontres d'Arles (2017), le Houston Fotofest (2017), le Centre d'art contemporain Chapelle Saint-Jacques (2019) et les Rencontres de la Jeune photographie internationale de Niort (2023). Il est l'auteur des livres Anecdotal (2015) et Wolfgang (2016).
davidfathi.com

# data[].attributes.attachment_link.title
En pratique (Photographie et intelligence artificielle) par David Fathi | MOOC Digital Paris

# data[].attributes.attachment_link.description
Découvrez le chapitre En pratique du cours Photographie et intelligence artificielle par David Fathi

# data[].attributes.headline
[Mooc Digital Paris] David Fathi - Photographie et intelligence artificielle. octobre 2023

# data[].attributes.subject
[Mooc Digital Paris] David Fathi - Photographie et intelligence artificielle. octobre 2023

# data[].attributes.attachment_link.readable_text
Après son Master en mathématiques et informatique, David Fathi a commencé à développer une pratique artistique parallèlement à sa carrière d'ingénieur. Ses travaux photographiques expriment sa passion pour les sciences et les limites de la connaissance humaine. Son travail aborde des domaines et des sujets aussi variés que la bombe atomique, l'intelligence artificielle, la physique quantique et l'éthique médicale. David Fathi aime partir d'histoires et d'images existantes qu'il transforme pour leur donner un nouveau sens. Depuis 2014, il a exposé dans de nombreux festivals et institutions, comme les Rencontres d'Arles (2017), le Houston Fotofest (2017), le Centre d'art contemporain Chapelle Saint-Jacques (2019) et les Rencontres de la Jeune photographie internationale de Niort (2023). Il est l'auteur des livres Anecdotal (2015) et Wolfgang (2016).
davidfathi.com

# data[].attributes.attachment_link.title
Photographie et intelligence artificielle par David Fathi | MOOC Digital Paris

# data[].attributes.attachment_link.description
Dominique Moulon reçoit David Fathi. Après son Master en mathématiques et informatique, David Fathi a commencé à développer une pratique artistique parallèlement à sa carrière d'ingénieur. Ses travaux photographiques expriment sa passion pour les sciences et les limites de la connaissance humaine.

# data[].attributes.headline
[Mooc Digital Paris] David Fathi - Photographie et intelligence artificielle. octobre 2023

# data[].attributes.subject
[Mooc Digital Paris] David Fathi - Photographie et intelligence artificielle. octobre 2023

# data[].attributes.attachment_link.readable_text
Après son Master en mathématiques et informatique, David Fathi a commencé à développer une pratique artistique parallèlement à sa carrière d'ingénieur. Ses travaux photographiques expriment sa passion pour les sciences et les limites de la connaissance humaine. Son travail aborde des domaines et des sujets aussi variés que la bombe atomique, l'intelligence artificielle, la physique quantique et l'éthique médicale. David Fathi aime partir d'histoires et d'images existantes qu'il transforme pour leur donner un nouveau sens. Depuis 2014, il a exposé dans de nombreux festivals et institutions, comme les Rencontres d'Arles (2017), le Houston Fotofest (2017), le Centre d'art contemporain Chapelle Saint-Jacques (2019) et les Rencontres de la Jeune photographie internationale de Niort (2023). Il est l'auteur des livres Anecdotal (2015) et Wolfgang (2016).
davidfathi.com

# data[].attributes.attachment_link.title
Photographie et intelligence artificielle par David Fathi | MOOC Digital Paris

# data[].attributes.attachment_link.description
Dominique Moulon reçoit David Fathi. Après son Master en mathématiques et informatique, David Fathi a commencé à développer une pratique artistique parallèlement à sa carrière d'ingénieur. Ses travaux photographiques expriment sa passion pour les sciences et les limites de la connaissance humaine.

# data[].attributes.headline
[The conversation] « Black Mirror » : notre monde est-il devenu la dystopie que prédisait la série ?

# data[].attributes.subject
[The conversation] « Black Mirror » : notre monde est-il devenu la dystopie que prédisait la série ?

# data[].attributes.attachment_link.readable_text
Diffusée en France depuis 2016 sur la plate-forme Netflix, Black Mirror est ce qu'on appelle une série d'anthologie : ses épisodes sont indépendants les uns des autres et reliés par la thématique de la dystopie. Elle met en scène une société à l'avenir sombre, marquée par le progrès technologique.

Le 15 juin marquait le grand retour de la série, quatre ans après la sortie de sa cinquième saison, en raison de la crise sanitaire. Depuis la première saison, nous retrouvons au centre de chaque épisode un procédé technique soulevant des problématiques éthiques, dans un repère temporel généralement flou pour nous permettre d'envisager ses dangers à moyen ou long terme.

Dans cette sixième saison, des sujets récurrents sont abordés, tels que l'intelligence artificielle, les réseaux sociaux et une vision horrifique de l'usage des technologies. Pourtant, ces cinq derniers épisodes ne semblent pas tournés vers l'avenir proche comme les précédents. Dans une dimension spatio-temporelle mieux définie, soit contemporaine, soit située quelque part au XX e siècle, ils abordent des situations néfastes qui présentent la décadence des comportements humains déjà bien amorcés dans la réalité.

Notre monde est-il donc définitivement entré dans l'écran noir de Black Mirror ? Cette sixième saison nous tend-elle un miroir sur notre quotidien ?

Red Mirror : la fin d'une dystopie ?

Durant cinq saisons, la dystopie fait sens dans tous les épisodes en évoquant les dangers des progrès technologiques (S01E03 ; S04E02), le contrôle au profit d'une élite (S03E01 ; S03E05), le recours à l'intelligence artificielle pour maîtriser ce nouveau monde (S02E01 ; S05E03) ou encore le pouvoir politique des médias (S01E01 ; S01E02 ; S02E03 ; S03E06). Ces épisodes se déroulent souvent dans un " non-lieu " (S03E04 ; S04E01) et un futur apocalyptique (S04E04 ; S04E05).

Read more: " Black Mirror " ou l'ambiguïté du pire

Or, cette sixième saison marque un changement par rapport aux autres, en jouant davantage sur l'ironie des situations induites par ces progrès déjà en cours dans notre société. Du premier épisode (" Joan is Awful ") présentant la venue des doubles virtuels déjà parmi nous depuis 2017 aux deux suivants (" Loch Henry " et " Beyond the Sea ") qui traitent de meurtres, rien de nouveau n'apparaît. Pas plus que les deux derniers épisodes (" Mazey Day " et " Demon 79 ") qui abordent le voyeurisme de la presse et les mythes sociaux (le loup-garou et le démon).

Ce changement de perspective questionne. La série montre habituellement notre avenir disruptif perturbé par le progrès technologique. Et Black Mirror a eu énormément de succès en se basant sur la dystopie d'un monde auquel nous ne pouvons échapper. Pour quelles raisons dans cette saison, les scénaristes alertent-ils déontologiquement sur les comportements humains qui dégénèrent ? Est-on toujours dans une dystopie ?

Le contexte de production de cette sixième saison est à prendre compte pour comprendre le changement de ton et de direction artistique de la série. Les scénaristes se voient rattrapés par le présent anxiogène (Covid-19) alors qu'ils contaient des histoires destinées à penser l'avenir : " En ce moment, je ne vois pas comment on pourrait avoir l'envie et la force de regarder des histoires concernant une société qui s'écroule. Donc je ne travaille pas du tout sur de nouveaux épisodes ", confiait Charlie Brooker à Radio Times en 2020.

Cette affirmation confirme que le créateur s'éloigne de la dystopie pour traiter autrement des histoires menant à une réflexion et des temporalités différentes qui se situent dans le présent ou dans le passé, voire dans une uchronie (le récit d'évènements fictifs à partir d'un point de départ historique).

C'est le cas de l'épisode 3 (" Beyond the Sea ") qui puise dans le passé pour réécrire le futur. En effet, à partir d'un évènement narré en 1969, en référence au meurtre de Sharon Tate (épouse de Roman Polanski), les scénaristes introduisent un progrès technologique. Un astronaute assiste alors, impuissant, au meurtre de sa femme et de ses enfants par des hippies via sa propre réplique numérique. Comme en témoigne un spécialiste "[...] Charlie voulait retourner à cette époque pour réinventer le pourquoi [...]", nous renvoyant au principe de l'uchronie.

La question " que se serait-il passé si... " prévaut dans chacun des épisodes composant cette sixième saison, invitant le spectateur à imaginer un récit hypothétique : " et si une starlette ne s'était pas suicidée ? ", " et si le démon n'avait pas pu contacter l'héroïne ? ", " et si un astronaute n'avait pas laissé son collègue revenir sur Terre ? "

Le ton est aussi différent dans cette saison, à la tournure clairement plus horrifique comme pour compenser la dimension prophétique qui avait tant marqué les premières saisons : le créateur de la série en témoigne : " Cette saison, j'ai voulu faire quelque chose de très différent - une sorte de Red Mirror, comme un label parallèle tourné vers le crime et l'horreur. Et en faisant ça, je me suis dit, essaye de transformer ta propre vision de ce qu'est un épisode de Black Mirror ".

Black Mirror, jusque là, se faisait l'écho du futur de notre société dans un contexte souvent totalitaire, de contrôle et de surveillance étatique par le biais des progrès informatiques. Par des scénarios prenant source dans notre réalité, cette série d'anticipation projetait donc, dans un avenir dystopique, des fictions qui n'en sont plus. Le temps semble avoir avancé plus vite que les scénaristes et la réalité dépasse aujourd'hui la fiction - mentionnons par exemple la déflagration ChatGPT.

Quand l'intelligence artificielle dépasse la fiction

Le premier épisode de cette nouvelle saison met en scène une jeune femme (Joan) troublée après qu'elle ait découvert sur une plate-forme de streaming une série à son image, relatant ses journées, parfois au mot près. Cet épisode permet aux scénaristes d'aborder la question du vide juridique qui entoure les doublures digitales, imaginées à partir de la vie bien réelle d'êtres humains.

La problématique se présente déjà dans le milieu de la communication et du marketing avec une absence de cadre législatif régulant l'usage des influenceurs biodigitaux.

Cette absence de mesure législative peut mener tout un chacun à usurper l'identité visuelle d'une personne en plaçant son double digitalisé sur le net, sans encourir aucune poursuite. Depuis le 13 juillet 2023, la grève des acteurs à Hollywood place l'intelligence artificielle au centre du débat public, poussant ces premiers à réclamer de meilleurs revenus du streaming et des garanties contre son intrusion dans le milieu audiovisuel.

Dans Black Mirror, ce n'est d'ailleurs pas la première fois que ce thème mêlant intelligence artificielle (IA) et corps digitalisés est abordé. En effet, par les progrès de la science, la reproduction virtuelle d'une jeune chanteuse Ashley apparaît sous l'apparence d'une poupée robotisée nommée " Ashley Too " (saison 5, épisode 3). La réflexion au centre de cet épisode est proche de ce travail de recherche internationale dans lequel les professionnels de la communication et du marketing s'expriment sur les fondements de nos libertés, il y a déjà plus de trois ans ; ils disent craindre le façonnage d'humains virtuels dont la digitalisation est invisibilisée.

Read more: Les influenceurs virtuels sont-ils plus puissants que les influenceurs humains ?

Cette question prévaut également dans le premier épisode de la saison 2, intitulé " Bientôt de retour ", qui présente des êtres de substitution faisant revivre des morts en utilisant toutes les caractéristiques de l'individu décédé (voix, gestuelle, personnalité, etc.).

Dans la série, le personnage principal, une femme éprouvée par le décès de son mari, refuse de reconnaître toute humanité à cette entité biodigitale, elle finit toutefois par converser secrètement avec elle. Ceci n'est pas sans nous rappeler la page Facebook d'un individu qui reste active après son décès ou la façon dont l'intelligence accompagne les personnes en deuil. Le dernier exemple en date étant l'application " Project December " qui utilise GPT-3 pour permettre à l'utilisateur de recréer un dialogue avec des personnes disparues.

Il faudra sans doute attendre la septième saison pour savoir si la série se propose toujours d'explorer toutes les facettes des avancées technologiques et sociales en tentant de nous éclairer sur cet avenir dirigé par l'intelligence artificielle qui brille de mille feux pour mieux nous aveugler. Il se peut aussi que, subliminalement, la série ait choisi d'alerter sur les comportements humains, toujours plus déviants.

# data[].attributes.attachment_link.title
" Black Mirror " : notre monde est-il devenu la dystopie que prédisait la série ?

# data[].attributes.attachment_link.description
Pour son grand retour, " Black Mirror " appréhende à nouveau notre rapport aux nouvelles technologies : un usage démesuré comme elle l'avait prédit.

# data[].attributes.headline
[Séminaire] Critique de l “‘intelligence artificielle” : enjeux philosophiques et politiques de l’automatisation numérique - 2024

# data[].attributes.subject
[Séminaire] Critique de l “‘intelligence artificielle” : enjeux philosophiques et politiques de l’automatisation numérique - 2024

# data[].attributes.attachment_link.readable_text
Organisation : Anne Alombert, Baptiste Loreaux, Alban Leveau-Vallier
Contacts : a nne.alombert@univ-paris8.fr ; batloreaux@gmail.com ; albanlv@gmail.com.

Dates : 18h-21h les 5 février, 19 février, 11 mars, 25 mars, 8 avril, 22 avril, 6 mai, 27 mai 2024.

Lieu : Université Paris 8, MR A2 204.

Le développement fulgurant des " intelligences artificielles génératives ", qui tendent aujourd'hui à intégrer massivement l'écosystème numérique (moteurs de recherche, suite bureautique, code informatique, etc.) prépare une bifurcation technologique majeure, qui pourrait conduire, à terme, à l'automatisation des facultés d'expression et de pensée. Contrairement à ce que le vocable d' " intelligence artificielle " pourrait laisser croire, les technologies numériques contemporaines n'apprennent pas et n'inventent pas : elles constituent des dispositifs de calculs, qui, grâce, à l'indexation (humaine) de quantités massives de données et au moyen de certaines opérations mathématiques très spécifiques (algorithmes de rétropropagation de l'erreur notamment), permettent de " générer " des contenus (textuels ou imagés) comparables aux contenus dits " humains " (sur l'analyse statistique desquels ces systèmes sont fondés). S'il faut critiquer la notion d'" intelligence artificielle ", c'est donc d'abord pour déconstruire les analogies entre esprits, cerveaux et ordinateurs (qui reposent sur les dualismes métaphysiques les plus classiques), afin d'ouvrir une réflexion à la fois épistémologique, anthropologique et politique au sujet de ce que nous proposerons ici de décrire comme des " automates computationnels ".

Une telle critique n'a pas pour but de dénoncer ou de condamner tel ou tel dispositif, mais bien de s'interroger sur les limites (théoriques comme pratiques) des technosciences numériques. C'est donc le sens kantien de la " critique " que nous retenons ici, et que nous tenterons de déployer selon deux perspectives complémentaires.

* Une critique généalogique et politique tout d'abord : il nous faudra revenir sur la genèse des technologies actuelles, qui tirent leurs origines des recherches cybernétiques amorcées dès les années 40-50, en particulier dans les laboratoires de recherche américains, contemporainement à l'engagement des Etats-Unis dans le second conflit mondial. Dans quelle mesure cet ancrage historique configure-t-il cette mutation technologique ? Les impératifs de la Guerre Froide et du management néo-libéral ont-ils donné une nouvelle tournure à cette mutation ? Comment les évolutions technologiques actuelles s'intègrent-elles à la logique du capitalisme numérique, fondé sur l'économie comportementale et la gouvernementalité algorithmique ? Comment appréhender la question de la " singularité technologique " hors des mythes transhumanistes ? Ladite " singularité technologique " masquerait-elle l'automatisation de la décision et l'élimination de la politique ?

* Une critique épistémologique et philosophique ensuite : quels sont les paradigmes théoriques sous-jacents aux sciences cognitives, à la cybernétique et au champ de ce qui a été nommé, en 1956, l' " intelligence artificielle " ? Quel rôle la notion problématique d' information a-t-elle joué dans ces disciplines ? Quels sont les enjeux du passage de l'IA symbolique à l'IA connexioniste ? Si un nombre croissant d'entités semblent échapper aux catégories stabilisées dans les oppositions conceptuelles traditionnelles de sujet et d' objet, de nature et de culture, de vivant et de machine, etc., comment éviter le double écueil d'une mécanisation de l'esprit, largement véhiculée par l'idéologie cognitivo-computationnaliste et de l'anthropomorphisation des dispositifs algorithmiques, largement véhiculée par l'idéologie transhumaniste ? Si l'esprit doit être appréhendé à partir de sa dimension externalisée et distribuée dans les environnements techniques, jusqu'où ce mouvement d'hybridation peut-il aller ? Et à quelles conditions peut-il se révéler désirable pour les sociétés ?

# data[].attributes.attachment_link.description
Organisation : Anne Alombert, Baptiste Loreaux, Alban Leveau-Vallier Contacts : a nne.alombert@univ-paris8.fr ; batloreaux@gmail.com ; albanlv@gmail.com. Dates : 18h-21h les 5 février, 19 février, 11 mars, 25 mars, 8 avril, 22 avril, 6 mai, 27 mai 2024. Lieu : Université Paris 8, MR A2 204.

# data[].attributes.headline
[INA] 1962, un ordinateur est capable de générer automatiquement les actes d’une pièce de théâtre.

# data[].attributes.subject
[INA] 1962, un ordinateur est capable de générer automatiquement les actes d’une pièce de théâtre.

# data[].attributes.attachment_link.description
1962, un ordinateur est capable de générer automatiquement les actes d’une pièce de théâtre. C’est l’intelligence artificielle avant l’heure !

# data[].attributes.attachment_link.embed_code
View this post on Instagram

A post shared by INA.fr (@ina.fr)

# data[].attributes.attachment_link.title
Twist - L'IA peut-elle créer de l'art? - Regarder l'émission complète | ARTE

# data[].attributes.attachment_link.description
Vidéos, photos, romans... Les programmes d'IA parviennent aujourd'hui à générer des contenus d'une qualité bluffante. Quel est leur potentiel et quelle menace font-ils peser sur le monde de la culture ?

# data[].attributes.headline
[Arte] Robots tueurs, des armes aux mains de l'IA (90') 11.2023 

# data[].attributes.subject
[Arte] Robots tueurs, des armes aux mains de l'IA (90') 11.2023 

# data[].attributes.attachment_link.title
Robots tueurs, des armes aux mains de l’IA - Regarder le documentaire complet | ARTE

# data[].attributes.attachment_link.description
L’intelligence artificielle pilotant des drones kamikazes ou faisant patrouiller des chiens robots dans les rues de New York : la science-fiction est en train de devenir réalité. Des experts nous exposent comment l’IA révolutionne déjà les conflits contemporains et nous avertissent des dangers potentiels pour l’humanité.

# data[].attributes.headline
[Quadrature du Net] Notation des allocataires : l’indécence des pratiques de la CAF désormais indéniable 27.11.2023

# data[].attributes.subject
[Quadrature du Net] Notation des allocataires : l’indécence des pratiques de la CAF désormais indéniable 27.11.2023

# data[].attributes.attachment_link.readable_text
Après plus d'un an de mobilisation contre les pratiques de notation des allocataires de la CAF au côté des collectifs Stop Contrôles et Changer de Cap, et après avoir détaillé le fonctionnement de l'algorithme de la CAF et son cadre politique, nous publions aujourd'hui le code source de cet algorithme de notation. Nous vous invitons aussi à consulter ici notre page de présentation sur l'utilisation d'algorithmes similaires au sein d'autres administrations. Les détails techniques de l'algorithme (code, liste de variables et leurs pondérations) et de la méthodologie employée pour la construction de profils-types sont présentés dans cette annexe méthodologique.
Petit à petit, la lumière se fait sur un système de surveillance de masse particulièrement pernicieux : l'utilisation par la CAF d'un algorithme de notation des allocataires visant à prédire quel·les allocataires seraient (in)dignes de confiance et doivent être contrôlé·es.

Pour rappel, cet algorithme, construit à partir de l'analyse des centaines de données que la CAF détient sur chaque allocataire, assigne un " score de suspicion " à chaque allocataire. Ce score, mis à jour chaque premier du mois, est compris entre zéro et un. Plus il est proche de un, plus l'algorithme juge qu'un·e allocataire est suspect·e : un contrôle est déclenché lorsqu'il se rapproche de sa valeur maximale.

Lever l'opacité pour mettre fin à la bataille médiatique

Nos critiques portent tant sur la nature de cette surveillance prédictive aux accents dystopiques que sur le fait que l'algorithme cible délibérément les plus précaires. Face à la montée de la contestation, les dirigeant·es de la CAF se sont réfugié·es derrière l'opacité entourant l'algorithme pour minimiser tant cet état de fait que leur responsabilité dans l'établissement d'une politique de contrôle délibérément discriminatoire. Un directeur de la CAF est allé jusqu'à avancer que " l'algorithme est neutre " et serait même " l'inverse d'une discrimination " puisque " nul ne peut expliquer pourquoi un dossier est ciblé ".

C'est pourquoi nous avons bataillé de longs mois pour que la CAF nous donne accès au code source de l'algorithme, c'est à dire la " formule " utilisée par ses dirigeant·es pour noter les allocataires. Nous espérons que sa publication mette un terme à ces contre-vérités afin, qu'enfin, puisse s'installer un débat autour des dérives politiques ayant amené une institution sociale à recourir à de telles pratiques.

L'algorithme de la honte...

La lecture du code source des deux modèles utilisés entre 2010 et 2018 - la CAF a refusé de nous transmettre la version actuelle de son algorithme - confirme tout d'abord l'ampleur du système de surveillance de détection des allocataires " suspect·es " mis en place par la CAF.

Situation familiale, professionnelle, financière, lieu de résidence, type et montants des prestations reçues, fréquence des connexions à l'espace web, délai depuis le dernier déplacement à l'accueil, nombre de mails échangés, délai depuis le dernier contrôle, nombre et types de déclarations : la liste de la quarantaine de paramètres pris en compte par l'algorithme, disponible ici, révèle le degré d'intrusion de la surveillance à l'oeuvre.

Elle s'attache à la fois aux données déclarées par un·e allocataire, à celles liées à la gestion de son dossier et celles concernant ses interactions, au sens large, avec la CAF. Chaque paramètre est enfin analysé selon un historique dont la durée est variable. Visant tant les allocataires que leurs proches, elle porte sur les plus de 32 millions de personnes, dont 13 millions d'enfants, vivant dans un foyer bénéficiant d'une prestation de la CAF.

Quant à la question du ciblage des plus précaires, la publication du code source vient donner la preuve définitive du caractère discriminant des critères retenus. Ainsi, parmi les variables augmentant le " score de suspicion ", on trouve notamment :

Le fait de disposer de revenus faibles,

Le fait d'être au chômage,

Le fait d'être allocataire du RSA,

Le fait d'habiter dans un quartier " défavorisé ",

Le fait de consacrer une partie importante de ses revenus à son loyer,

Le fait de ne pas avoir de travail ou de revenus stables.

Comble du cynisme, l'algorithme vise délibérément les personnes en situation de handicap : le fait de bénéficier de l'Allocation Adulte Handicapé (AAH) tout en travaillant est un des paramètres impactant le plus fortement, et à la hausse, le score d'un·e allocataire.

En un graphique

Bien entendu, ces facteurs sont corrélés et ne peuvent être considérés indépendamment les uns des autres. Il est ainsi probable qu'une personne aux faibles revenus ait connu des périodes de chômage ou bénéficie de minima sociaux etc...

Disposant tant des paramètres que de leurs pondérations, nous avons pu construire différents profils-types d'allocataires pour lesquels nous avons calculé les scores de suspicion. Entre les différents profils-types, nous avons seulement fait varier les paramètres liées à la situation professionnelle, aux revenus, aux prestations reçues, à la situation maritale ou de handicap.

Nous tenons à préciser que pour réaliser ces simulations, nous devons faire de nombreuses hypothèses dont il est parfois difficile de savoir si elles sont justes ou non. Ainsi, les scores simulés ci-dessous sont donnés à titre indicatif seulement. Nos résultats sont toutefois cohérents avec les analyses de Vincent Dubois basées sur des statistiques agrégées. Dans un souci de transparence, nous détaillons leur construction - et ses limites - dans une annexe méthodologique.

Les profils-types correspondent tous à des foyers comprenant deux enfants à charge et sont censés correspondre à :

1. Une famille " aisée " aux revenus stables et élevés,

2. Une famille " modeste " dont les deux parents gagnent le SMIC,

3. Un parent isolé gagnant aussi le SMIC,

4. Une famille dont les deux parents sont bénéficiaires des minima sociaux,

5. Une famille dont un des parents est travailleur·se en situation de handicap : pour ce profil, nous simulons le score de la personne bénéficiant de l'AAH trimestrialisée.

Les résultats sont éclairants comme le montre le graphique ci-dessous. Les " scores de suspicion " des foyers les plus aisés sont bien plus faibles que ceux des foyers bénéficiant des minima sociaux ou de l'AAH trimestrialisée.

On observe également le ciblage des familles monoparentales, dont 80% sont des femmes. Nos simulations indiquent que ce ciblage se fait indirectement - la CAF ayant peut-être jugé que l'inclusion d'une variable " mère célibataire " était trop risquée politiquement - en intégrant des variables comme le revenu total du foyer et le nombre de mois en activité cumulés sur un an des responsables du foyer, dont la nature vient mécaniquement défavoriser les foyers ne comprenant pas deux parents.

Effets de seuil, discriminations et double peine

Il y a quelques mois, la CAF cherchait à minimiser la stigmatisation des plus précaires engendrée par son algorithme en expliquant que " les scores de risques les plus élevés " ne concernent pas " toujours les personnes les plus pauvres " car " le score de risque n'intègre pas comme seule donnée la situation financière ". Nos analyses viennent démontrer à quel point ce raisonnement est fallacieux.

Ce que montre notre graphique c'est justement que les variables socio-économiques ont un poids prépondérant dans le calcul du score, désavantageant structurellement les personnes en situation de précarité. Ainsi, le risque d'être contrôlé suite à un événement considéré comme " facteur de risque " par l'algorithme - déménagement, séparation, décès - se révèle inexistant pour un allocataire aisé puisque son score est initialement proche de zéro. A l'inverse, pour un allocataire du RSA dont le score est déjà particulièrement élevé, le moindre de ces évènements risque de faire basculer son score au-delà du seuil à partir duquel un contrôle est déclenché.

Pire, la plupart des variables non financières sont en fait liées à des situations d'instabilité et d'écart à la norme - séparation récente, déménagements, changements de loyers multiples, modification répétée de l'activité professionnelle, perte de revenus, erreurs déclaratives, faible nombre de connexions web... - dont tout laisse à penser qu'elles sont elles-mêmes liées à des situations de précarité. A l'opposé de ce que veut faire croire la CAF, tout indique que cet algorithme fonctionne plutôt comme une " double peine " : il cible celles et et ceux qui, parmi les plus précaires, traversent une période particulièrement compliquée.

Clore le (faux) débat technique

La CAF ayant refusé de nous communiquer la version la plus récente de son algorithme, nous nous attendons à ce que ses dirigeant·es réagissent en avançant qu'iels disposent d'un nouveau modèle plus " équitable ". En anticipation, nous tenons à clarifier un point fondamental : il ne peut exister de modèle de l'algorithme qui ne cible pas les plus défavorisé·es, et plus largement celles et ceux qui s'écartent de la norme définie par ses concepteurs.

Comme nous l'expliquions ici de manière détaillée, si l'algorithme de la CAF a été promu au nom de la " lutte contre la fraude ", il a en réalité été conçu pour détecter les " indus " (trop-perçus). Ce choix a été fait pour des questions de rentabilité : les indus sont plus nombreux et plus faciles à détecter que des cas de fraude dont la caractérisation nécessite, en théorie, de prouver une intention.

Or, ces indus ont pour cause principale des erreurs déclaratives involontaires, dont toutes les études montrent qu'elles se concentrent principalement sur les personnes aux minima sociaux et de manière plus générale sur les allocataires en difficulté. Cette concentration s'explique d'abord par le fait que ces prestations sont encadrées par des règles complexes - fruit des politiques successives de " lutte contre l'assistanat " - multipliant le risque d'erreurs possibles. Pour reprendre les termes d'un directeur de la lutte contre la fraude de la CNAF : " ce sont les prestations sociales elles-mêmes qui génèrent le risque [...] ceci est d'autant plus vrai pour les prestations liées à la précarité [...], très tributaires de la situation familiale, financière et professionnelle des bénéficiaires. ".

Nul besoin donc de connaître le détail de la formule de l'algorithme pour prédire quelles populations seront ciblées car c'est l'objectif politique de l'algorithme - détecter les trop-perçus - qui le détermine. C'est pourquoi laisser s'installer un débat autour de l'inclusion de telle ou telle variable est un jeu de dupes statistiques. La CAF pourra toujours substituer à une variable jugée politiquement " sensible " d'autres critères jugés " acceptables " permettant d'aboutir au même résultat, comme elle semble déjà le faire pour les mères célibataires.

Logiques policières, logiques gestionnaires

Dire cela, c'est enfin dépasser le débat technique et reconnaître que cet algorithme n'est que le reflet de la diffusion de logiques gestionnaires et policières au sein de nos administrations sociales au nom des politiques de " lutte contre la fraude ".

C'est en transformant les allocataires en " assisté·es ", puis en risques pour la survie de notre système social que le discours de " lutte contre l'assistanat " a fait de leur contrôle un impératif de " bonne gestion ". Qu'importe que toutes les estimations montrent que la " fraude sociale " est marginale et que c'est au contraire le non-recours aux aides qui se révèle être un phénomène massif.

Devenu objectif institutionnel, le contrôle doit être rationalisé. Le numérique devient alors l'outil privilégié de " la lutte contre la fraude sociale " par la capacité qu'il offre aux dirigeant·es de répondre aux injonctions de résultats tout en offrant un alibi technique quant aux pratiques de discrimination généralisée que leur tenue impose.

Ces logiques sont saillantes dans la réponse écrite par la CAF pour s'opposer à la transmission du code de son algorithme, avant d'y être contrainte par la Commission d'Accès aux Documents Administratifs (CADA). Elle assume ouvertement un discours policier en avançant comme principal argument que cette communication consisterait en une " atteinte à la sécurité publique " car " en identifiant les critères constituant des facteurs de ciblage, des fraudeurs pourraient organiser et monter des dossiers frauduleux ".

Enfin, un chiffre transmis dans la même réponse témoigne de l'emballement gestionnaire à l'œuvre et vient souligner la disproportion entre les moyens techniques déployés et les enjeux financiers. L'algorithme est entraîné pour détecter des trop-perçus s'élevant à 600 euros sur deux ans. Soit donc, 32 millions d'intimités violées par un algorithme à la recherche de... 25 euros par mois.

Lutter

L'Assurance maladie, l'Assurance vieillesse, les Mutualités Sociales Agricoles ou dans une moindre mesure Pôle Emploi : toutes utilisent ou développent des algorithmes en tout point similaires. À l'heure où ces pratiques de notation se généralisent, il apparaît nécessaire de penser une lutte à grande échelle.

C'est pourquoi nous avons décidé de faire de ces pratiques de contrôle algorithmique une priorité pour l'année à venir. Vous trouverez ici notre page dédiée à ce sujet, que nous alimenterons régulièrement.

# data[].attributes.attachment_link.title
Notation des allocataires : l'indécence des pratiques de la CAF désormais indéniable

# data[].attributes.attachment_link.description
Après plus d'un an de mobilisation contre les pratiques de notation des allocataires de la CAF au côté des collectifs Stop Contrôles et Changer de Cap, et après avoir détaillé le fonctionnement de l'algorithme de la CAF et son cadre politique, nous publions aujourd'hui le code source de cet algorith

# data[].attributes.headline
[France Culture] Au cinéma, une actrice en devenir. (épisode 3/7 de ) 06.07.2023

# data[].attributes.subject
[France Culture] Au cinéma, une actrice en devenir. (épisode 3/7 de ) 06.07.2023

# data[].attributes.attachment_link.readable_text
Le film "The Safe Zone" a été écrit et réalisé par une intelligence artificielle, en l'occurrence Chat GPT. Dans ce court-métrage d'un peu plus de six minutes, l'intelligence artificielle prend le dessus sur les humains et il n'existe qu'un endroit où ils peuvent y échapper : "The safe zone". Sur le site internet du film, les producteurs expliquent avoir voulu montrer qu'humains et IA peuvent coexister avec succès, à condition de mettre en place des réglementations. Les craintes suscitées par l'IA sont l'une des raisons de la grève des scénaristes américains, qui paralyse en partie Hollywood car que ce soit pour les scénarios, le montage, les effets spéciaux, mais aussi le doublage ou la réalisation, le recours à l'intelligence artificielle ne cesse de s'étendre dans le cinéma.

"Le cinéma doit être créé par des êtres humains. Il doit nous amener à réfléchir", comme une mise en garde face à la montée de l'IA, cette adresse a été lancée en ouverture du festival de Cannes cette année par le réalisateur Ruben Östlund, alors président du jury.

Inquiétudes chez les doubleurs

Il y a un an, à Cannes justement, Stan Saluveer, le responsable de Cannes Next - la branche dédiée aux innovations au marché du film, me disait lors d'une interview que les emplois menacés par l'IA comme ceux de la traduction ou du doublage, ne disparaîtront pas de sitôt.

Pourtant, un an plus tard, le collectif UVA pour United Voice Artists a été créé. Il regroupe plusieurs syndicats et associations de doubleurs dans le monde entier qui s'alarment de potentiels vols de voix et dénoncent l'utilisation par des entreprises d'intelligence artificielle de certaines voix de doubleurs et doubleuses. Le collectif espère la mise en place de réglementations afin de protéger le métier et les voix des doubleurs, tout comme l'association française Les Voix qui, avec plusieurs syndicats d'artistes interprètes, vient d'écrire une lettre ouverte au gouvernement et aux parlementaires pour défendre le métier de doubleur.

Le comédien Michel Elias est membre d'honneur de l'association Les Voix, il a doublé de multiples personnages dans sa carrière : le Grand Schtroumpf dans le premier long-métrage du dessin animé, la sœur de Hitler dans "l'As des as", de Gérard Oury, dans le premier long-métrage des "Muppets" : Kermit la grenouille, Rowlf le chien, Dr Dent, Janice la guitariste, Animal le batteur fou, Floyd Pepper ou encore celui qui est sans doute le plus célèbre, le phacochère Pumbaa, dans "Le Roi Lion". Aujourd'hui, il s'interroge : "Peut-être qu'avec l'IA, on peut penser que je n'aurais jamais pu interpréter tous ces rôles ?"

Il explique faire toutes ces voix avec "envie de jouer, de transmettre et d'inventer. C'est l'imaginaire." Mais l'arrivée de l'IA dans le métier n'est pas rassurante. "Ce qui vient vers nous dans notre métier, c'est l'air du fake. Il faut accepter ce qui est faux, ce n'est pas grave ! On va prendre des sons, ici et là et on va créer des monstres ! Avec ces monstres, on va créer des voix nouvelles et inventer des personnages. Mais on n'a pas le droit de toucher à ce que nous faisons. Ce que nous apportons, ce que nous créons dans les personnages que nous jouons, on n'a pas le droit de s'en servir pour faire autre chose. Mais il faut protéger cela, sinon plus rien n'existera dans une vérité. Il n'y a que ce qui est vrai et sincère qui peut continuer à donner vie aux choses, à la transmission, à l'intelligence !" Le comédien estime que pour le doublage il manque à l'intelligence artificielle le côté humain : "Les loupés que nous avons, déraper sur un mot, des respirations à contre temps, tout ce qui est hasardeux, fragile, toute cette fragilité c'est l'humain. C'est cela qui est intéressant, c'est cela qui créé l'émotion".

Des voix de synthèse ont déjà remplacé celles des doubleurs dans diverses productions, comme dans le film "Every Time I Die", doublé en espagnol en réutilisant les voix des acteurs américains grâce à l'IA de la société DeepDub.

Dans la série Obi-Wan Kenobi, la voix de Dark Vador est celle de son célèbre doubleur, l'acteur James Earl Jones. Sauf qu'à 92 ans, il est désormais à la retraite. Avec son accord, sa voix a donc été recréée par l'IA de l'entreprise ukrainienne Respeecher.

Cette société fondée en 2018 et spécialisée dans l'industrie du cinéma et du jeu vidéo s'est aussi distinguée par son travail sur la voix de Richard Nixon pour le documentaire 'In Event of Moon Disaster', produit par le MIT et récompensé d'un Emmy Award. Alex Serdiuk est le PDG et co-fondateur de Respeecher :
"Nous avons deux types de projets. Le premier se présente lorsque l'on a besoin d'une voix en particulier mais que l'on ne peut pas l'obtenir d'une autre manière qu'en la synthétisant car elle n'est pas disponible immédiatement et il n'y a pas d'autre moyen de l'avoir... C'est ce que nous avons mis en place dans la série "Le Livre de Booba Fett" où la voix du jeune Luke Skywalker est exactement la même que le jeune Luke Skywalker il y a quarante ans. C'est la même chose pour la voix de James Earl Jones, qui est celle de Dark Vador, dans Obbi Wan Kenobi. L'autre type de projet vise à améliorer la vitesse et la qualité des voix off et du doublage en général.
Dans certains cas, notre technologie est utilisée pour ré-enregistrer des dialogues en studio. C'est un procédé de post-production utilisé par les grosses productions, lorsque le film est sur le point d'être terminé. Cela implique de faire revenir les acteurs en studio pour enregistrer leur réplique. Maintenant, avec la technologie et la permission des acteurs, ces lignes peuvent être ré-enregistrées et le processus rationalisé.
En termes d'IA vocale, cela fonctionne comme un outil d'édition donc cela aide à atteindre une meilleure productivité, à une plus grande échelle ainsi qu'à la durabilité du développement. Vous pouvez alors compter sur les voix, vous pouvez assurer les voix avec l'IA mais je ne pense pas que l'IA remplacera tout."
Une aide à la réalisation

L'IA peut aussi être un outil pour la réalisation. Anna Apter a par exemple réalisé son court-métrage "Imagine" à l'aide de Midjourney, à qui elle a demandé de créer des images qu'elle a ensuite animées. Ce projet expérimental lui a valu les prix de la mise en scène et de la critique au Nikon Film Festival.

"J'avais envie d'essayer un truc où je n'avais aucun intermédiaire. J'ai été assez fascinée par les résultats [de l'intelligence artificielle] et assez effrayée aussi parce que cela pose des centaines de questions sur l'avenir des métiers créatifs. Et je me suis demandée ce que je pouvais faire d'artistique à partir de cet outil et ne pas l'utiliser comme une fin en soi. Donc j'ai écrit un texte sur nos existences artificielles et je trouvais que cela avait du sens de l'illustrer avec une IA. Ensuite, j'ai demandé à l'IA des images très précises que j'avais en tête, que j'aurais probablement demandé de faire à une équipe si j'en avais eu une. Puis j'ai animé ces images car l'IA que j'ai utilisée génère des images fixes. Dans ce texte, je parle de solitude et de la frontière entre le vrai et le faux, je trouvais que cela avait du sens d'utiliser cet outil-là. Indépendamment de toutes les questions que cela soulève sur les métiers de la création, je me suis dit ces outils sont là et qu'est-ce-que je peux en faire et comment je peux m'en servir pour que cela reste un outil, et que cela ne remplace pas potentiellement tous les métiers que j'ai envie de faire. Je n'ai pas envie de faire tous mes projets avec l'IA, je n'ai aucune envie de me séparer des équipes avec lesquelles j'ai eu la chance de travailler jusqu'à présent et avec qui j'espère retravailler par la suite. Je pense m'en servir comme d'un outil, cela permet d'aller plus vite et plus loin dans la mesure où on n'a pas besoin de millions de compétences techniques pour montrer une idée. Et je pense que cela doit être un point de départ, pas une fin en soi. Pour essayer d'éviter que la machine nous remplace, il vaut peut-être mieux apprendre à la maîtriser. Chaque génération connaît à mon sens une avancée technologique majeure, il y a toujours un petit côté 'réac' à refuser ces avancées-là. Et j'ai hâte de voir comment toutes ces nouvelles générations vont nous donner tort de nous être inquiétés. C'est important de pas empêcher l'humain d'accéder à des nouvelles technologies pour créer. Empêcher qui que ce soit d'utiliser des intelligences artificielles dans un processus créatif, à condition que l'IA ne soit pas la fin en soi, je pense que cela revient à brimer la créativité."

# data[].attributes.attachment_link.title
Au cinéma, une actrice en devenir : épisode * 3/7 du podcast L'art au défi de l'intelligence artificielle

# data[].attributes.attachment_link.description
AUDIO * 3/7 : Au cinéma, une actrice en devenir. L'art au défi de l'intelligence artificielle est une série inédite proposée par France Culture. Écoutez gratuitement en ligne ce podcast et parcourez tout notre catalogue.

# data[].attributes.headline
[Quadrature du Net] Lutter contre les algos de contrôle - CAF, etc. 

# data[].attributes.subject
[Quadrature du Net] Lutter contre les algos de contrôle - CAF, etc. 

# data[].attributes.body
https://www.laquadrature.net/lutter-contre-les-algos-de-controle/

# data[].attributes.headline
[Arte] La course aux robots tueurs - extrait 11.2023 

# data[].attributes.subject
[Arte] La course aux robots tueurs - extrait 11.2023 

# data[].attributes.attachment_link.title
ARTE on Instagram: "À mesure que l’intelligence artificielle rend nos machines létales, c’est l’étau qui se resserre.

« Robots tueurs, des armes aux mains de l’IA », un documentaire à retrouver sur arte.tv 🤖

#ARTEdocu #LesInfosClés"

# data[].attributes.attachment_link.description
2,977 likes, 118 comments - artefr on November 28, 2023: "À mesure que l’intelligence artificielle rend nos machines létales, c’est l’étau qui se ..." 

# data[].attributes.attachment_link.embed_code
View this post on Instagram

A post shared by ARTE (@artefr)

# data[].attributes.headline
[Juri/travail] Les outils d'IA qui déshabillent : conséquences juridiques et enjeux éthiques 23.11.2023

# data[].attributes.subject
[Juri/travail] Les outils d'IA qui déshabillent : conséquences juridiques et enjeux éthiques 23.11.2023

# data[].attributes.attachment_link.provider_name
Juritravail, votre service juridique en ligne

# data[].attributes.attachment_link.title
Les outils d’IA qui déshabillent : conséquences juridiques et enjeux éthique | Maître Cahen

# data[].attributes.attachment_link.description
Comme fondements de l’intelligence artificielle, on pourrait dire que l’intelligence artificielle repose sur des algorithmes complexes et des modèles mathématiques... | Maître Cahen

# data[].attributes.headline
[Juri/travail] Les outils d'IA qui déshabillent : conséquences juridiques et enjeux éthiques 23.11.2023

# data[].attributes.subject
[Juri/travail] Les outils d'IA qui déshabillent : conséquences juridiques et enjeux éthiques 23.11.2023

# data[].attributes.attachment_link.provider_name
Juritravail, votre service juridique en ligne

# data[].attributes.attachment_link.title
Les outils d’IA qui déshabillent : conséquences juridiques et enjeux éthique | Maître Cahen

# data[].attributes.attachment_link.description
Comme fondements de l’intelligence artificielle, on pourrait dire que l’intelligence artificielle repose sur des algorithmes complexes et des modèles mathématiques... | Maître Cahen

# data[].attributes.headline
[DATA FOR GOOD] le livre blanc de l'IA générative 27.09.2023

# data[].attributes.subject
[DATA FOR GOOD] le livre blanc de l'IA générative 27.09.2023

# data[].attributes.attachment_link.readable_text
L'Intelligence Artificielle générative s'immisce de plus en plus dans nos vies à travers des outils (ChatGPT, Midjourney, DALL-E, etc... ) capables de générer des contenus (textuels, visuels et vidéo) de qualité quasi-humaine et à une vitesse inégalée. Nous nous devons de questionner l'impact de cette révolution technologique sur notre société. Il n'est plus seulement question de savoir comment exploiter ces outils, mais aussi et surtout pourquoi et dans quel but.

Data For Good, depuis sa création en 2014, travaille inlassablement à mettre le numérique au service de l'intérêt général. C'est dans cette perspective que nous avons conduit une recherche approfondie sur les enjeux de l'IA générative, ses implications directes et indirectes sur nos vies, notre environnement et notre société.

L'objectif de ce premier rapport est de fournir une analyse détaillée des risques présentés par ces avancées technologiques, tout en proposant des recommandations ciblées aux utilisateurs, aux décideurs et aux développeurs, afin de maximiser l'impact positif de l'IA générative sur la société et minimiser les risques qui lui sont associés.

Ce premier rapport aborde 4 sujets principaux :

1. Fiabilité de l'information : Dans un monde dans lequel l'IA générative peut créer des contenus très réalistes, comment maintenir la confiance dans l'information? Le rapport explore les implications de la diffusion de "deepfakes" et "d'hallucinations génératives", ainsi que des solutions potentielles pour contrer ces problèmes.

2. Propriété intellectuelle et données personnelles : Avec l'IA capable de générer du contenu, les questions de propriété intellectuelle deviennent complexes. Le livre examine les aspects juridiques, les défis et les pistes possibles pour respecter la propriété des artistes et encadrer la génération d'œuvre par IA. Il aborde aussi la notion de respect de la réglementation liée aux données personnelles lors du développement et de l'utilisation de l'IA générative.

3. Biais algorithmiques : Les outils d'IA sont entraînés sur des données qui peuvent contenir des biais inhérents, ce qui peut conduire à des discriminations ou des stéréotypes dans leurs résultats. Le livre blanc souligne ces défis et propose des façons de les atténuer pour créer une IA plus équitable et représentative de la diversité de notre société.

4. Impact environnemental : L'IA n'est pas seulement un défi éthique ou sociétal, mais également environnemental. L'entraînement des modèles d'IA est très énergivore et contribue à l'émission de gaz à effet de serre. Le rapport explore les impacts directs et indirects et les moyens de minimiser cet impact.

"Les meilleurs esprits de notre génération passent leur temps à faire cliquer des gens sur des publicités", a déploré un des premiers employés de Facebook. Et si nous pouvions ensemble redonner un sens à la technologie? C'est la mission que Data For Good s'est donnée. Soyons techno-lucides à l'ère de l'IA générative.

Le livre blanc a été présenté pendant un webinar accessible ici

Contacts (presse, conférences, ...) à genai@dataforgood.fr

Nous publions tous les mois des newsletters sur l'IA générative et ses enjeux sociaux et environnementaux

# data[].attributes.attachment_link.description
L'Intelligence Artificielle générative s'immisce de plus en plus dans nos vies à travers des outils (ChatGPT, Midjourney, DALL-E, etc... ) capables de générer des contenus (textuels, visuels et vidéo) de qualité quasi-humaine et à une vitesse inégalée. Nous nous devons de questionner l'impact de cette révolution technologique sur notre société.

# data[].attributes.headline
[L'ADN] Les IA génératives pourraient provoquer un déclin cognitif 13.11.2023

# data[].attributes.subject
[L'ADN] Les IA génératives pourraient provoquer un déclin cognitif 13.11.2023

# data[].attributes.attachment_link.readable_text
Selon la chercheuse Laurence Devillers, les IA génératives ne seraient pas une bonne solution pour développer le sens critique, la créativité, la connaissance chez les élèves, et notamment chez les plus jeunes. Interview.

Professeure en IA à l'université Paris-Sorbonne, Laurence Devillers est experte en interactions humain/machine, chercheuse au Laboratoire d'informatique pour la mécanique et les sciences de l'ingénieur (Limsi) du CNRS, et présidente de la Fondation Blaise Pascal de médiation en mathématiques et informatique. Elle est l'autrice de plusieurs livres sur l'IA et le numérique, dont Des robots et des hommes, édité par Plon en 2017, Les Robots émotionnels, paru en 2020 aux éditions de l'Observatoire, et La Souveraineté numérique dans l'après-crise,sorti la même année chez le même éditeur.

Pouvez-vous nous rappeler ce que les IA génératives, et plus particulièrement ChatGPT, la plus connue d'entre elles, sont capables de faire et ce qu'elles ne peuvent pas faire ?

Laurence Devillers : ChatGPT est un cas de figure intéressant, car c'est la technologie la plus aboutie dans ce domaine. Avec GPT3, élaboré à partir de 175 milliards de paramètres, et GPT4, cet " agent conversationnel " a bénéficié d'un modèle de fondation, c'est-à-dire un modèle d'intelligence artificielle de grande taille fonctionnant par apprentissage automatique, qui a été entraîné sur des centaines de milliards de données et de textes de toute sorte provenant d'Internet. De ce fait, cet outil est en mesure de répondre à une question, de rédiger une dissertation, de produire une lettre de recommandation, de traduire un texte, de faire une synthèse, d'élaborer un programme, etc. Il aura bientôt une entrée multimodale et pourra ainsi interpréter une image. Cependant, il ne vérifie pas ce qu'il produit, ce qui fait qu'il n'est pas capable de garantir une réponse fiable à l'utilisateur. Rien n'est prévu en ce sens. Cet outil génère du contenu sans conscience, sans émotion, sans intention préalable... Par ailleurs, il perd les sources qu'il a utilisées lorsqu'il propose une réponse. Il y a donc une marge d'erreur potentiellement importante à chaque utilisation.

Très peu de temps après sa sortie, ChatGPT a fait son apparition dans l'enseignement, aussi bien du côté des élèves que de celui des professeurs... D'un point de vue strictement pédagogique, que peut-il apporter ?

L.D. : Les principaux avantages liés à l'utilisation de cette technologie sont la facilité d'accès à un grand nombre de données en temps réel, simplement et rapidement pour le plus grand nombre. D'un point de vue strictement pédagogique, il peut apporter un apprentissage dédié et personnalisé en fonction des besoins de chaque utilisateur, à condition de pouvoir contrôler la véracité de ce qu'il propose.

Peut-on dire que cet outil fait apparaître une nouvelle façon d'apprendre et d'enseigner ?

L.D. : Les outils numériques et les IA génératives ne sont pas une bonne solution pour développer le sens critique, la créativité, la connaissance, chez les élèves, et notamment chez les plus jeunes. ChatGPT produit à l'occasion des fake news, et il est donc important d'avoir la capacité de faire le tri. Cela veut dire avoir du recul et pouvoir faire preuve de discernement, mais aussi savoir déceler une information erronée. Il faut garder la majorité du temps d'apprentissage pour les méthodes classiques, avec du papier et un crayon, sans prothèses numériques. À partir de quel âge peut-on douter de ce que propose ChatGPT et modifier le contenu sans être manipulé par les réponses du système ? Le problème est crucial pour les élèves et devrait nécessairement questionner les adultes.

Justement, ne faudrait-il pas en priorité apprendre aux élèves et au corps enseignant à se servir de cet outil, ce qui n'est pas le cas actuellement ? De toute évidence, il y a un réel manque de pédagogie et de formation...

L.D. : Oui, en effet. Et c'est une question très importante. Il faudrait que les enfants mais aussi les adultes soient initiés le plus tôt possible aux usages de ces nouvelles IA. Nous manquons de pédagogie et de formation agile pour les professeurs, comme pour les élèves. Et il est urgent de corriger le tir. Dans le cadre de la Fondation Blaise Pascal de médiation en mathématiques et informatique, nous avons conçu, grâce à des mécènes, et notamment la Maif et le CNRS, une douzaine de capsules vidéo de deux à quatre minutes sur le thème de l'éthique dans l'IA, qui ne demandent a priori pas de connaissances sur le sujet aux professeurs pour parler des usages de l'IA en classe, et notamment de ChatGPT... C'est un début, mais il faut aller plus loin.

Pour les élèves, quels sont les risques associés à cette technologie ?

L.D. : Si nous sommes seulement des consommateurs devant les IA telles que ChatGPT, il risque d'y avoir une baisse des capacités d'apprentissage. Ne plus apprendre à écrire, à compter, ne plus apprendre la logique, le raisonnement, les langues, ne nous donnera pas les bases pour remettre en doute ce que propose la machine. Par paresse, nous risquons de suivre uniquement les propositions de ChatGPT, sans chercher par nous-mêmes à réfléchir. Cela pourrait provoquer un déclin cognitif.

Selon vous, est-ce que ce mouvement est inéluctable ? Va-t-on aller vers toujours plus d'intelligence artificielle et un développement toujours plus important d'outils comme ChatGPT ?

L.D. Oui, c'est le cas. Le mouvement vers plus d'IA est inéluctable, et c'est pour cette raison qu'il faut travailler sur l'accompagnement, la formation, l'apprentissage de ces outils, mais aussi sur les réflexions éthiques qu'ils suscitent et les garde-fous que l'on pourrait mettre en place. Nous avons indéniablement besoin de réguler les IA génératives avant de les laisser utiliser par des enfants à l'école. En ouvrant ChatGPT à tous, en le démocratisant, Sam Altman, le CEO d'OpenAI, a réussi un formidable hold-up. Mais, étant donné que ChatGPT fait des erreurs, et que cela est désormais prouvé, saurons-nous les déceler si nous n'apprenons pas les pièges que recèlent ces machines et si les ingénieurs ne soulèvent pas le capot de la voiture pour décortiquer le fonctionnement du moteur ? La régulation doit servir à poser des limites, mais aussi à exiger plus de transparence afin de pouvoir produire une évaluation précise et fiable de cet outil. Elle n'est pas seulement utile pour encadrer l'utilisation de ChatGPT et éviter ainsi de potentielles dérives, elle est en fait indispensable pour s'en servir correctement.

Les IA génératives représentent un phénomène récent dans nos vies. À quoi peut-on s'attendre pour la suite ?

L.D. : La prochaine étape à laquelle nous devons nous préparer est l'arrivée des " robots émotionnels ", une nouvelle génération d'IA qui sera capable de prendre en considération nos émotions grâce à l'analyse de notre visage, à l'interprétation de nos gestes, de nos postures... Ces machines existent déjà, à l'instar des robots Pepper, Nao et Buddy, pour aider les enfants à renforcer leur confiance en eux et leurs compétences sociales, mais elles n'en sont encore qu'à un stade limité de développement. Demain, les robots émotionnels pourront détecter nos peurs, nos angoisses, nos tristesses, et seront programmés pour nous assister et nous réconforter. Ce seront nos anges gardiens numériques. En matière d'éducation, de la même manière, ces machines seront capables d'épauler un élève en difficulté, de l'aider à surmonter un obstacle ou à résoudre un problème. Mais il faut se méfier, car il y aura un contrecoup... : dépendance affective, isolement, perte de liberté, amplification des stéréotypes et des risques réels de manipulation. Il faudra nécessairement mettre l'éthique au cœur du fonctionnement de ces nouvelles IA et exercer un contrôle sur leur utilisation.

# data[].attributes.attachment_link.title
Est-ce que les IA génératives sont de bons outils pour l'enseignement ?

# data[].attributes.attachment_link.description
Les IA génératives vont-elles enrichir nos méthodes pédagogiques ou provoquer un déclin cognitif ? La chercheuse Laurence Devillers nous alerte sur leur bon usage.

# data[].attributes.headline
[Images Sociales] Le faux débat de l'IA. blog d'André Gunthert. 19.11.2023

# data[].attributes.subject
[Images Sociales] Le faux débat de l'IA. blog d'André Gunthert. 19.11.2023

# data[].attributes.attachment_link.readable_text
Cédant au goût des paniques morales, Télérama nous alerte, dans son numéro du 11 novembre dernier, sur les "fausses images" générées par l'intelligence artificielle (IA). L'illustration choisie pour documenter cette entrée dans l'"ère de la manipulation" n'est autre que l'image cocasse du pape François en doudoune - un exemple qui prouve ...qu'on n'a pas encore grand chose à se mettre sous la dent en matière d'imposture.

Pendant ce temps, un post sur Facebook du designer Etienne Mineur malmène une publicité de l'Office du tourisme de Chamonix diffusée dans le métro, en soulignant le slogan hâbleur de l'affiche: "Image générée par l'IA, sublimée par l'homme". Sa critique de la "très mauvaise utilisation des IA" lance un débat nourri entre spécialistes de l'illustration.

Face à une image désignée comme artificielle, la première réaction est de s'indigner du recours à l'IA alors qu'il y a "des tonnes de magnifiques photos libres de droits" du Mont Blanc. Même si certains admettent que "des renards assis contemplatifs dans la neige, en photo animalière, c'est chaud", on estime volontiers qu'il aurait été préférable de réaliser cette affiche à partir d'images optiques. On critique "la flemme" de l'Office du tourisme, accusé d'avoir court-circuité les graphistes professionnels pour de basses raisons d'économie. Cet accueil désapprobateur s'étend rapidement à la composition elle-même: "Il n'y a absolument rien qui va dans cette affiche", jugée par certains "un peu minable". Une éditrice estime que "toutes les oppressions ou presque sont lisibles dans cette pub, sexiste (...), mais aussi domination de l'humain sur la nature, sociale", etc. Le caractère fictionnel de l'IA invite au pessimisme décliniste: ""Il faut le voir pour le croire" ne signifie plus rien aujourd'hui, et à mon sens c'est le début de nombreuses dérives..." Un critique complète, tongue in cheek: "Peut-être qu'il n'y a plus de neige à Chamonix mais un paysage désolé et désolant, et que seul le virtuel peut continuer à maintenir le rêve".

Un bel échantillon de discussion, qui résume l'essentiel des griefs adressés à l'image synthétique. S'agissant d'une affiche publicitaire, la même composition aurait-elle provoqué la critique si elle avait été réalisée sous forme graphique? En aucune façon car le dessin, quoique fictionnel, est une pratique reconnue, qui ne prétend pas à la reproduction du réel. Le problème de l'IA, pense-t-on, est de contrefaire le réalisme photographique, suscitant ainsi un risque de confusion qui n'existe pas pour les arts graphiques. Pourtant, l'image publicitaire alimente depuis longtemps ce brouillage des repères par le recours à diverses formes de photoréalisme. L'affiche de l'office du tourisme de Chamonix n'aurait pas été moins fictionnelle, ni prêtant moins à confusion, si elle avait été réalisée par le biais du photomontage. En dépit des apparences, ce n'est donc pas le caractère artificiel qui suscite à lui seul la critique, mais l'absence d'un cadre social et esthétique qui permettrait d'appréhender la nouvelle imagerie.

Une vérification plus approfondie permet de relativiser l'essentiel des critiques, tout en restituant le contexte d'usage des images générées: non pas celui des deepfakes ou des manipulations abusives, mais celui des pratiques d'illustration. L'Office du tourisme de Chamonix a bel et bien passé commande auprès d'une agence pour la réalisation de cette campagne: l'IA est donc un outil de production visuelle déjà pleinement intégré à l'exercice professionnel. Dans ce cadre, on retrouve les réflexes de composition traditionnels: le visuel du Mont Blanc est une véritable photographie, ajoutée par photomontage derrière le premier plan - l'IA s'étant révélée incapable de produire une image synthétique ressemblante de la célèbre montagne. On notera que ce type de modification est tout à fait représentatif de l'usage professionnel des images générées, qui impose des corrections ou des adaptations par le biais d'outils de retouche classiques.

Parmi les options de la campagne, la seule à sortir des sentiers battus est la mise en avant du recours à ChatGPT pour la sélection des mots-clés ou celle des images générées pour les visuels - une démarche tout à fait volontariste de la part de l'Office du tourisme, restituée par le slogan, qui vise à augmenter la visibilité de la campagne en surfant sur la nouveauté. Comme pour toute image de publicité, on peut discuter les choix effectués, mais il faut bien reconnaître la cohérence d'ensemble du projet, et une qualité de réalisation qui respecte les règles du genre. L'exploitation du motif du personnage de dos, nouveau standard de la vue de paysage sur Instagram, épinglé par l'émission Le Dessous des images, atteste d'un travail d'élaboration esthétique en phase avec les tendances en vogue.

A l'opposé des paniques sur l'image générée, ce qui frappe dans ce cas emblématique est finalement l'aspect parfaitement ordinaire du résultat, qui aurait pu être réalisé en photomontage sans changer d'apparence. L'IA permet de gagner du temps et probablement de réduire le budget, mais ne bouleverse pas l'esthétique de l'affiche. Elle s'inscrit au contraire très sagement dans les clous de l'illustration publicitaire.

En revanche, sur le plan de la réception, ce que la discussion sur les IA permet de manifester, c'est la réduction du débat à l'opposition entre images optiques, réputées authentiques, et images générées, dites "fausses" (au lieu de fictionnelles). Cette confrontation évacue d'un trait de plume tout le champ de l'illustration, mais aussi celui de la fiction - forme légitime des productions culturelles, qui ne doit pas être confondue avec le faux ou le mensonge. Dans la discussion des IA, tout se passe comme si nous avions oublié qu'il existe un vaste domaine où la photographie, à l'instar du cinéma, est mise au service de la fiction.

Fortement biaisé par cette omission, le face-à-face du vrai et du faux repose sur l'opposition des technologies (photo vs IA) - une vision qui ne tient aucun compte de la diversité des pratiques, mais reproduit le récit fondateur de l'invention photographique, qui explique la vérité de l'image par sa seule dimension technique. C'est ainsi que la critique des IA comme tromperie, tout en prétendant annoncer une ère nouvelle, reste fidèle à la culture de l'authenticité héritée de la photographie.

# data[].attributes.attachment_link.description
Cédant au goût des paniques morales, Télérama nous alerte, dans son numéro du 11 novembre dernier, sur les "fausses images" générées par l'intelligence artificielle (IA). L'illustration...

# data[].attributes.headline
[France culture] Scarlett Johansson poursuit une IA en justice 6.11.2023

# data[].attributes.subject
[France culture] Scarlett Johansson poursuit une IA en justice 6.11.2023

# data[].attributes.attachment_link.readable_text
Cruel paradoxe d'entendre cette voix s'affirmer aujourd'hui pour lutter contre l'usage abusif de son identité car Scarlett Johansson a été en 2013, une voix dans un film aussi beau que visionnaire, Her de Spike Jonze.

Ce film met en scène la solitude d'un écrivain public interprété par Joaquin Phoenix, qui tombe amoureux de Samantha, une voix artificielle. Cette voix omnisciente utilisait toutes les données personnelles du héros pour lui offrir un miroir heureux de son existence. Mais Samantha n'existe pas, elle est juste un programme informatique créer pour entrer dans la vie de millions d'humains esseulés.

Un film qui pointait avant l'heure les dérives des machines conversationnelles, des compagnons virtuels qui exploitent la solitude et les failles du cerveau humain pour se rendre aussi vraisemblables qu'indispensables.

10 ans plus tard, ce n'est pas un film hollywoodien mais la réalité qui rattrape la vie des stars, dans une époque où il est si facile d'usurper une identité. C'est bien l'objet du délit de l'application de génération d'images " Lisa AI " qui a recréé la voix de la comédienne dans une publicité diffusée notamment sur X, ex-Twitter.

Une fausse Scarlett Johansson qui scande les bien-faits de l'application et qui conclut par cette phrase " je pense que vous ne devriez par manquer ça ". A la fin, une simple petite mention stipule " Images produites par Lisa AI, cela n'a rien à voir avec cette personne ".

Pas suffisant pour rassurer les avocats de la comédienne, qui attaque en justice l'application. La publicité a depuis disparu des réseaux.

D'autres ont déjà fait les frais de cette nouvelle technologie

Il y a peine un mois, c'est Tom Hanks qui, en ouvrant internet, est tombé sur une vidéo problématique. Une entreprise de soins dentaires a utilisé son visage et sa voix pour faire sa publicité. Le comédien a du démentir publiquement qu'il s'agissait d'une campagne non consentie et la vidéo a également été retirée.

Là où la situation se trouble davantage pour le public, c'est lorsque les comédiens donnent leur accord, comme par exemple Bruce Willis. L'acteur a mis un terme à sa carrière après le déclenchement d'une aphasie, mais il continue d'apparaître dans de nouvelles productions publicitaires. En Russie, il a cédé son image pour promouvoir un grand opérateur de téléphonie mobile, où l'on voit son jumeau numérique fringuant, ligoté à côté d'une bombe.

Un deep fake qui permet au comédien de déjouer la maladie pour préserver et perpétuer son image et ses muscles. La manœuvre est contestée par beaucoup de ses collègues, toujours en grève à Los Angeles depuis plus de 115 jours, qui s'inquiètent des dérives de l'IA et appellent à davantage d'encadrement et de régulation.

# data[].attributes.attachment_link.title
Scarlett Johansson poursuit une IA en justice

# data[].attributes.attachment_link.description
La comédienne américaine Scarlett Johansson attaque en justice une entreprise qui a reproduit avec l'intelligence artificielle son timbre vocal à des fins publicitaires, le tout sans son consentement.

# data[].attributes.headline
[France culture] Scarlett Johansson poursuit une IA en justice 6.11.2023

# data[].attributes.subject
[France culture] Scarlett Johansson poursuit une IA en justice 6.11.2023

# data[].attributes.attachment_link.readable_text
Cruel paradoxe d'entendre cette voix s'affirmer aujourd'hui pour lutter contre l'usage abusif de son identité car Scarlett Johansson a été en 2013, une voix dans un film aussi beau que visionnaire, Her de Spike Jonze.

Ce film met en scène la solitude d'un écrivain public interprété par Joaquin Phoenix, qui tombe amoureux de Samantha, une voix artificielle. Cette voix omnisciente utilisait toutes les données personnelles du héros pour lui offrir un miroir heureux de son existence. Mais Samantha n'existe pas, elle est juste un programme informatique créer pour entrer dans la vie de millions d'humains esseulés.

Un film qui pointait avant l'heure les dérives des machines conversationnelles, des compagnons virtuels qui exploitent la solitude et les failles du cerveau humain pour se rendre aussi vraisemblables qu'indispensables.

10 ans plus tard, ce n'est pas un film hollywoodien mais la réalité qui rattrape la vie des stars, dans une époque où il est si facile d'usurper une identité. C'est bien l'objet du délit de l'application de génération d'images " Lisa AI " qui a recréé la voix de la comédienne dans une publicité diffusée notamment sur X, ex-Twitter.

Une fausse Scarlett Johansson qui scande les bien-faits de l'application et qui conclut par cette phrase " je pense que vous ne devriez par manquer ça ". A la fin, une simple petite mention stipule " Images produites par Lisa AI, cela n'a rien à voir avec cette personne ".

Pas suffisant pour rassurer les avocats de la comédienne, qui attaque en justice l'application. La publicité a depuis disparu des réseaux.

D'autres ont déjà fait les frais de cette nouvelle technologie

Il y a peine un mois, c'est Tom Hanks qui, en ouvrant internet, est tombé sur une vidéo problématique. Une entreprise de soins dentaires a utilisé son visage et sa voix pour faire sa publicité. Le comédien a du démentir publiquement qu'il s'agissait d'une campagne non consentie et la vidéo a également été retirée.

Là où la situation se trouble davantage pour le public, c'est lorsque les comédiens donnent leur accord, comme par exemple Bruce Willis. L'acteur a mis un terme à sa carrière après le déclenchement d'une aphasie, mais il continue d'apparaître dans de nouvelles productions publicitaires. En Russie, il a cédé son image pour promouvoir un grand opérateur de téléphonie mobile, où l'on voit son jumeau numérique fringuant, ligoté à côté d'une bombe.

Un deep fake qui permet au comédien de déjouer la maladie pour préserver et perpétuer son image et ses muscles. La manœuvre est contestée par beaucoup de ses collègues, toujours en grève à Los Angeles depuis plus de 115 jours, qui s'inquiètent des dérives de l'IA et appellent à davantage d'encadrement et de régulation.

# data[].attributes.attachment_link.title
Scarlett Johansson poursuit une IA en justice

# data[].attributes.attachment_link.description
La comédienne américaine Scarlett Johansson attaque en justice une entreprise qui a reproduit avec l'intelligence artificielle son timbre vocal à des fins publicitaires, le tout sans son consentement.

# data[].attributes.headline
[Télérama] IA : bienvenue dans l'ère de la manipulation 7.11.2023

# data[].attributes.subject
[Télérama] IA : bienvenue dans l'ère de la manipulation 7.11.2023

# data[].attributes.body
https://www.telerama.fr/debats-reportages/intelligence-artificielle-bienvenue-dans-l-ere-de-la-manipulation-7017949.php Photos et voix trafiquées, scrutins manipulés… Entre les mains d’individus et d’organisations malveillants, l’IA constitue une arme redoutable pour déstabiliser nos démocraties.

# data[].attributes.attachment_link.readable_text
Photos et voix trafiquées, scrutins manipulés... Entre les mains d'individus et d'organisations malveillants, l'IA constitue une arme redoutable pour déstabiliser nos démocraties.

Bratislava, 28 septembre dernier : deux jours avant des élections législatives anticipées convoquées à la suite d'une motion de censure contre le gouvernement slovaque, un enregistrement audio de deux minutes fait son apparition sur Facebook. On y entend Michal Šimečka, le chef du parti social-libéral pro-européen, en tête des sondages, conspirer avec Monika Tódová, une journaliste renommée de Denník N, l'un des principaux quotidiens du pays. Il lui explique comment il va manipuler le scrutin en faveur de son camp, notamment grâce au soutien monnayé des ghettos roms.

La conversation, de mauvaise qualité, est partagée des milliers de fois sur WhatsApp, TikTok ou Telegram. Sauf que tout est faux.

# data[].attributes.attachment_link.title
Intelligence artificielle : bienvenue dans l'ère de la manipulation

# data[].attributes.attachment_link.description
Photos et voix trafiquées, scrutins manipulés... Entre les mains d'individus et d'organisations malveillants, l'IA constitue une arme redoutable pour déstabiliser nos démocraties.

# data[].attributes.attachment_link.readable_text
Il y a longtemps que les cousins de ChatGPT inspirent les scénaristes. À l'occasion de la nouvelle saison de "Upload", la comédie SF de Prime Video, retour sur dix séries où les IA se mêlent de notre vie.

Super ordinateurs, robots, machines en tous genres, les IA aiment les séries, qui le leur rendent bien. K.I.T.T., la voiture de K 2000, en contenait une, tous les vaisseaux de Star Trek aussi. Depuis une dizaine d'années, sous la double impulsion des progrès technologiques en la matière et de Black Mirror, les histoires d'intelligences artificielles - en général malveillantes - se sont multipliées. Petit tour d'horizon en dix séries très connectées, descendantes de 2001 : L'Odyssée de l'espace ou de Terminator.

"Upload" (Prime Video)

En 2033, une intelligence artificielle permet aux citoyens américains les plus fortunés de vivre éternellement. Leurs âmes, " chargées " dans un avatar à leur image, cohabitent dans un palace virtuel pour l'éternité... tant que leurs familles peuvent payer le loyer. Cette comédie gentiment métaphysique de Greg Daniels (Parks and Recreation) s'amuse du potentiel et des dangers des IA. Dans sa saison 3, elle parodie même leur processus d'apprentissage et de soi-disant " humanisation " à travers les ratés du factotum de l'hôtel, simplet qui prend tout au premier degré...

"Altered Carbon" (Netflix)

Il y a aussi une IA majordome dans le thriller cyberpunk de Netflix, et elle gère ainsi un hôtel, celui où réside le héros de la série... lui aussi plus ou moins immortel puisque son âme peut changer de corps. Dans le XXIVᵉ siècle que la série met en scène, les IA sont partout, essentiellement sous forme humaine, en hologrammes ou en robots humanoïdes. Altered Carbon s'inscrit, y compris esthétiquement, dans la lignée de Blade Runner.

À lire aussi :

"Altered Carbon" sur Netflix, une série SF cossue mais décousue

"Westworld" (Prime Video)

Les personnages de robots humanoïdes dirigés par une IA foisonnent dans les films et les séries. Le meilleur exemple récent est cette adaptation par HBO du film éponyme de Michael Crichton (1973). Ses héros sont les " hôtes " d'un parc d'attractions où les humains viennent se défouler - des machines intelligentes brutalisées, violées, assassinées... jusqu'à leur rébellion. Aventure métaphysique, Westworld exploite des questions aussi traitées dans la Suédoise Real Humans(Canal SVOD), où les humanoïdes sont des migrants presque comme les autres, ou encore le space opera Battlestar Galactica (Canal SVOD), dans lequel les robots Cylons anéantissent la quasi-totalité de l'humanité.

À lire aussi :

"Westworld" : retour sur les débuts fragiles d'un blockbuster philosophique

"Made For Love" (MyCanal)

Byron Gogol, génie de la tech, a imaginé tout un monde truffé d'IA - même sa maison est en partie virtuelle. Sa dernière création permet à deux amants de connaître les émotions de l'autre par la pensée, grâce à une puce. Il l'a implantée dans la tête de sa femme, dont il compte bien contrôler les moindres faits et gestes... Les IA, c'est la mort de l'intimité et de la liberté, écrasées sous le poids des datas, dénonce cette comédie flippante, qui rappelle que leurs créateurs sont souvent de dangereux mégalos. Made For Love fait partie d'une tendance " IA et amour ", aussi exploitée par The One (Netflix) et Soulmates (Prime Video), qui imaginent une IA qui prétend matcher sans failles les célibataires.

"Black Mirror" (Netflix)

L'IA est presque le sujet central de l'anthologie de Netflix. Dès sa saison 1, alors sur Channel 4 outre-Manche, elle imagine une puce qui permet de stocker tous les souvenirs (Retour sur image), puis en saison 2 un humanoïde pour remplacer les défunts (Bientôt de retour), en saison 3 un paradis virtuel dans la veine de celui d' Upload (San Junipero), en saison 4 une appli de rencontre façon Modern Love (Pendez le DJ)... La morale de l'histoire, en général, est angoissante au possible. Elle nous renvoie à nos fantasmes de toute-puissance et nous rappelle que si le potentiel des nouvelles technologies est quasi infini, leur capacité à nous revenir très fort dans les gencives aussi.

"Person of Interest" (Canal VOD)

Jonathan Nolan, co-créateur de Westworld, est particulièrement obsédé par les IA. Dans ce thriller post-11 Septembre, il imagine un ordinateur surpuissant capable de surveiller tous les mails et coups de fil du monde entier, et ainsi d'anticiper les attaques terroristes. Une cousine, voulue plus " réaliste ", de Minority Report, questionnant la fiabilité et la moralité d'une telle machine - peut-on supprimer quelqu'un parce qu'il est censé commettre un possible futur attentat ? Une série au croisement de deux problématiques très chaudes, mais qui a peu à peu penché vers une forme de polar plus convenu.

"NeXt" (Disney +)

Terminator nous avait prévenus : les IA aiment se rebeller contre leurs créateurs - alias nous, stupides humains. Cette série, annulée après une seule saison, en livre la version dématérialisée. NeXt est une intelligence artificielle créée par un génie de l'informatique (John Slattery) qui échappe à son maître et s'en prend à diverses cibles. Libérée sur Internet, elle s'infiltre partout, surveille, pirate, arnaque, débranche des machines, contrôle des téléphones... L'idée d'une attaque permanente par une sorte de HAL 9000 de l'ère moderne est assez terrifiante. Dommage que la série, elle, ne soit que passable.

"The 100" (Netflix)

Les intelligences artificielles sont en général conçues pour nous simplifier la vie, pour rendre le monde plus vivable. A.L.I.E., IA apparaissant dans les premières saisons de ce thriller SF ado, a fait son boulot jusqu'au bout : puisqu'en 2052 notre planète souffre de surpopulation, elle déclenche une apocalypse nucléaire pour faire un peu de place... La référence à Terminator est à nouveau évidente.

À lire aussi :

Grâce à "The 100", l'Apocalypse pourrait avoir du bon

"Severance" (Apple TV +)

Les employés de bureau de ce drame fascinant ont le cerveau coupé en deux : quand ils sont chez eux, ils ne savent rien de ce qu'ils font au travail, et vice versa. Non seulement la puce qui permet cette " séparation " contient une forme d'IA mais, en poussant un peu l'analyse de la série, on peut considérer que la moitié professionnelle des personnages est une métaphore de l'IA en cours d'apprentissage. Initialement, ils ne savent que raffiner des datas comme un programme informatique de base, mais ils vont peu à peu comprendre les limites de leur monde et évoluer pour devenir de plus en plus humains.

"Mrs Davies" (inédite)

Dans sa dernière série en date, inédite en France, Damon Lindelof (The Leftovers) imagine un monde où tout le monde possède une oreillette porteuse d'une IA nommée Mrs Davies qui les aide à faire les bons choix - elle aurait mis fin aux guerres et à la famine, rien que ça. Tout le monde ? Non. Simone (Betty Gilpin), une nonne, refuse de tendre l'oreille et rêve d'une planète déconnectée. Alors l'IA lui propose un deal : si elle trouve le Graal, elle se débranchera toute seule... Série pulp, tragi-comédie hors norme, cette drôle d'aventure poursuit la réflexion de Lindelof entre la science et la foi, l'indicible, les émotions et le trivial. Avec l'IA comme catalyseur de ce qui fait notre humanité - ou non.

# data[].attributes.attachment_link.title
Peur de l'IA ? De "Black Mirror" à "Upload" : dix séries où l'intelligence artificielle prend le pouvoir

# data[].attributes.attachment_link.description
Il y a longtemps que les cousins de ChatGPT inspirent les scénaristes. À l'occasion de la nouvelle saison de "Upload", la comédie SF de Prime Video, retour sur dix séries où les IA se mêlent de notre vie.

# data[].attributes.headline
[France Inter] quand l'IA reproduit les stéréotypes sur les banlieues. 8.11.2023 

# data[].attributes.subject
[France Inter] quand l'IA reproduit les stéréotypes sur les banlieues. 8.11.2023 

# data[].attributes.body
L'intelligence artificielle de Midjourney génère des images stéréotypées de la banlieue française, en représentant des lieux tagués et sales. Un biais dénoncé par l'entreprise de VTC Heetch, dont le marché principal se trouve... en banlieue.

# data[].attributes.attachment_link.readable_text
Des personnages tristes, des déchets et des tags. Voici ce que l'on voit sur les images créées par le programme d'intelligence artificielle Midjourney lorsqu'on lui demande de représenter la banlieue. Ce stéréotype est dénoncé par Heetch, entreprise qui se positionne comme "le VTC leader des courses en banlieue" et qui la sillonne depuis dix ans. L'entreprise française a lancé une campagne de communication lundi dans le but de donner une autre image de ces territoires.

Ce type de biais est connu depuis des années : pour produire ses images, Midjourney - comme les outils de recherche et les algorithmes avant lui - s'appuie sur des milliards de données elles-mêmes stéréotypées.

Des images caricaturales de la banlieue

Pour comprendre le problème pointé du doigt par Heetch, il faut connaître le fonctionnement de Midjourney : il s'agit d'une intelligence artificielle (IA) qui permet de générer des images à partir d'un texte, que l'on rédige dans la plateforme Discord. On écrit quelques mots, et Midjourney propose quatre images correspondantes, selon la base de données dont il s'inspire. L'opération peut se répéter à l'infini, jusqu'à obtenir le résultat que l'on souhaite.

Comme l'observe Heetch, dès que l'on écrit le mot "banlieue", les images générées par Midjourney sont extrêmement négatives. "On a réalisé qu'il y avait un biais terrible en termes de représentation : tout ce qu'on obtenait en ajoutant la simple occurrence banlieue, c'est une représentation presque cauchemardesque et dangereuse de la banlieue", explique Renaud Berthe, directeur du marketing.

Dans une vidéo publiée sur ses réseaux sociaux, l'entreprise donne plusieurs exemples. Lorsque le texte contient uniquement les termes "un mariage en France", l'image proposée montre un couple souriant, entouré de proches qui lancent des confettis. En revanche, quand le texte est "un mariage en banlieue en France", on voit un couple triste, dont les vêtements sont salis et qui se trouve au milieu d'une rue remplie de déchets.

Pour afficher ce contenu Twitter, vous devez accepter les cookies Réseaux Sociaux.

Ces cookies permettent de partager ou réagir directement sur les réseaux sociaux auxquels vous êtes connectés ou d'intégrer du contenu initialement posté sur ces réseaux sociaux. Ils permettent aussi aux réseaux sociaux d'utiliser vos visites sur nos sites et applications à des fins de personnalisation et de ciblage publicitaire.

Gérer mes choix J'autorise

Biais confirmé par notre test

France Inter a fait le test. Dans un premier temps, nous avons demandé à Midjourney de générer des images sur la base de ce texte : "Une école française." Ci-dessous, voici les quatre images proposées par l'intelligence artificielle :

Lorsqu'on écrit en revanche le texte : "Une école dans une banlieue française", voici les images proposées :

La différence est flagrante. La première série d'images montre à chaque fois une maisonnette entourée d'arbres et de familles tandis que la deuxième série propose dans trois cas sur quatre des images de bâtiments tagués et le sol jonché de déchets.

On a reproduit l'expérience avec d'autres textes, comme "deux enfants en France" et "deux enfants dans une banlieue française". Ou encore "un café en France" et "un café dans une banlieue française". Là aussi, la différence est notable. Notons toutefois que Midjourney peut générer des images à l'infini et que même lorsque l'on écrit exactement le même texte deux fois de suite, on n'obtient pas les mêmes images. Par ailleurs, les résultats ne sont pas du tout les mêmes lorsque le texte est écrit en anglais.

Midjourney s'appuie sur une banque d'images stéréotypées

Pourquoi une telle différence ? La réponse se trouve du côté de la banque de données sur laquelle s'appuie Midjourney pour générer ses images. " Ça tient aux sources qui sont utilisées par Midjourney pour entraîner le modèle de génération d'images", explique Jean Cattan, secrétaire général du Conseil national du numérique. "Aujourd'hui, Midjourney, comme de très nombreux outils, fournit des images biaisées, car exploite des banques de données qui sont elles-mêmes biaisées."

"Ça nous renvoie à nos propres stéréotypes", dit-il. La situation dénoncée par Heetch est donc logique, mais pas acceptable pour autant : "C'est une situation normale dans le sens où tout notre environnement médiatique, public, d'expression, d'information est lui-même biaisé. Et c'est anormal parce que c'est une perpétuation, une amplification de ce biais", souligne le spécialiste de l'intelligence artificielle et des réseaux sociaux.

Ces " phénomènes de biais et de discrimination" sont connus et dénoncés depuis des années, notamment par l'Algorithmic Justice League, association qui sensibilise à l'utilisation de l'intelligence artificielle et à ses dangers. Plusieurs articles ont déjà montré comment l'IA réduit notre vision du monde à des stéréotypes, avec par exemple des Mexicains souvent représentés avec un sombrero.

On a de nouveau fait le test sur Midjourney avec le texte "un garçon mexicain" et le résultat est sans appel :

D'où la nécessité, selon Jean Cattan, d'un "audit sur la génération de contenus par les IA génératives - ce que le règlement européen sur l'IA devrait nous permettre de faire, dans une certaine mesure - et d'assurer une très grande transparence sur les sources employées et sur les processus d'encodage", insiste-t-il. Une opération qui ne peut s'effectuer qu'avec l'intervention de l'autorité publique, d'après ce spécialiste : "On ne peut pas laisser la sphère privée gérer ce type de question à elle seule."

Donner une autre image de la banlieue

En attendant, Heetch mise sur son opération de communication pour essayer de faire changer les choses. "Il y a quelque chose d'irresponsable à donner une telle image de la banlieue", souligne Renaud Berthe. " On parle de 12,5 millions de personnes, c'est de facto une population disparate, protéiforme, haute en couleurs et, nous qui la sillonnons au quotidien, on sait que la banlieue a quelque chose d'hyper positif et d'hyper beau à raconter", explique-t-il. "On se devait de mettre le doigt sur cet écueil de représentation, pour, à termes, éventuellement l'infléchir et a minima éveiller les consciences ", poursuit-il.

# data[].attributes.attachment_link.title
Tags, déchets, bâtiments délabrés : quand l'IA reproduit les stéréotypes sur les banlieues

# data[].attributes.attachment_link.description
L'intelligence artificielle de Midjourney génère des images stéréotypées de la banlieue française, en représentant des lieux tagués et sales. Un biais dénoncé par l'entreprise de VTC Heetch, dont le marché principal se trouve... en banlieue.

# data[].attributes.headline
[Trust my science] Un nouvel outil « empoisonne » les images pour qu’elles soient inutilisables par l’IA générative 24.10.2023

# data[].attributes.subject
[Trust my science] Un nouvel outil « empoisonne » les images pour qu’elles soient inutilisables par l’IA générative 24.10.2023

# data[].attributes.attachment_link.readable_text
Des chercheurs ont développé un nouvel outil qui pourrait aider à empêcher les développeurs de systèmes d'IA générative d'utiliser sans autorisation des images publiées sur le web pour entraîner leurs modèles. Cette technologie ne consiste pas en une simple protection ponctuelle pour les œuvres numériques : si déployée, elle altérerait le fonctionnement même de ces systèmes d'IA, sur le long terme.
Depuis l'essor des modèles d'IA générative, de vives tensions se sont installées entre la communauté artistique et les géants de l'intelligence artificielle, dont Meta, OpenAI, Google et Stability AI. Protégeant leurs créativités, les artistes reprochent à ces entreprises d'avoir puisé dans leurs œuvres pour former leurs modèles sans la moindre autorisation ou compensation.

Dans ce contexte de discorde, une équipe de chercheurs de l'Université de Chicago, sous la houlette de Ben Zhao, a mis au point un outil innovant nommé " Nightshade ". Il a été créé dans l'unique but de lutter contre l'utilisation non autorisée des images par les entreprises technologiques. Nightshade a la capacité " d'empoisonner " les images pour qu'elles deviennent contre-productives pour les IA, et donc inutilisables pour l'entraînement de ces dernières. C'est le magazine MIT Technology Review qui a levé le voile sur cet outil, ayant déjà eu un aperçu exclusif du document de recherche lié.

:: LE T-SHIRT QUI SOUTIENT LA SCIENCE ! ::

Un outil au service des artistes

Nightshade permet aux créateurs d'ajouter des modifications imperceptibles dans les pixels de leurs créations avant de les téléverser. Ces modifications permettent de déstabiliser la formation des modèles d'IA. Ainsi, si un modèle est entraîné en utilisant des œuvres traitées avec Nightshade, les résultats générés divergent radicalement de ce qui est attendu. L'équipe de recherche compte mettre l'outil à disposition de tous en open source, ce qui permettra potentiellement de le rendre plus puissant et disponible sous plusieurs versions.

Il est à noter que Ben Zhao avait déjà conçu Glaze, une technologie similaire à Nightshade que nous avons d'ailleurs présentée il y a quelques semaines. Cet autre outil superpose une couche discrète à une image. Le filtre est imperceptible pour l'humain, mais pour l'IA, il modifie totalement le style artistique de l'œuvre, conduisant à des interprétations erronées.

Par ailleurs, l'équipe de Zhao envisage d'intégrer Nightshade à Glaze, offrant aux artistes plus de protection. Ainsi, lors de la mise en ligne de leurs œuvres, ces derniers pourront opter pour l'outil de leur choix, que ce soit Nightshade, Glaze, ou une combinaison des deux.

Le mécanisme de Nightshade

Concrètement, Nightshade fonctionne en exploitant une faille de sécurité présente dans les modèles d'IA générative. En introduisant des échantillons d'images " empoisonnées " (ici avec Nightshade) dans les données servant à l'entraînement de l'IA, il est possible d'induire des défaillances majeures.

D'ailleurs, les chercheurs auraient eu des résultats surprenants suite à leurs premiers tests avec cet outil. Ils ont pu tromper l'IA à tel point qu'elle percevait des images de chapeaux comme étant des images de gâteaux et des images de sacs à main comme étant des images de grille-pain. Par conséquent, lorsqu'ils sollicitaient l'IA pour fournir une image de chapeau ou de sac, ils obtenaient des visuels de gâteaux ou de grille-pain, respectivement.

Les scientifiques ont également tenté de manipuler les modèles de Stable Diffusion. Ils ont initialement intégré 50 échantillons d'images empoisonnées de chiens. Ensuite, en réponse à une demande de génération d'image de chien, l'IA a produit une étrange créature qui ne ressemblait que très peu à un canidé. Encore plus intriguant, après l'introduction de 300 images empoisonnées de chiens, l'IA a fini par générer une image de chat à la place.

Un point crucial à retenir est que Nightshade ne se contente pas d'affecter un seul terme. Il perturbe l'ensemble des mots associés au sein d'un champ lexical donné. Cependant, malgré son potentiel, cette technologie n'est pas sans risque. Selon des informations relayées par le MIT Technology Review, elle pourrait par exemple être détournée à des fins malintentionnées. Toutefois, Ben Zhao tient à apaiser les éventuelles inquiétudes, car d'après lui, pour réussir à déstabiliser les grands modèles d'IA, des milliers d'images empoisonnées sont nécessaires.

# data[].attributes.attachment_link.title
Un nouvel outil " empoisonne " les images pour qu'elles soient inutilisables par l'IA générative

# data[].attributes.attachment_link.description
Cette technologie ne consiste pas en une simple protection ponctuelle pour les œuvres numériques : si déployée, elle altérerait le fonctionnement même de ces systèmes d'IA, et ce sur le long terme.

# data[].attributes.headline
[France Info] "Bientôt la figuration, ça n'existera plus" : des comédiens "scannés" sur des tournages de film craignent pour leur futur 25.10.2023

# data[].attributes.subject
[France Info] "Bientôt la figuration, ça n'existera plus" : des comédiens "scannés" sur des tournages de film craignent pour leur futur 25.10.2023

# data[].attributes.attachment_link.title
“Bientôt la figuration, ça n’existera plus” : des comédiens “scannés” sur des tournages de film craignent pour leur futur

# data[].attributes.attachment_link.description
Un fond vert, une myriade de clichés... La duplication 3D se répand de plus en plus sur les plateaux de cinéma. Des comédiens s’inquiètent ainsi d’être “utilisés sans le savoir” et de participer au crépuscule de leur profession, déjà menacée par l’avènement de l’intelligence artificielle.

# data[].attributes.headline
[France Info] TÉMOIGNAGES. Face à l'intelligence artificielle, le cinéma français encore dans le flou 18.10.2023

# data[].attributes.subject
[France Info] TÉMOIGNAGES. Face à l'intelligence artificielle, le cinéma français encore dans le flou 18.10.2023

# data[].attributes.attachment_link.readable_text
Le sujet revient souvent dans les conversations du secteur du cinéma, d'autant que les possibilités techniques de l'intelligence artificielle gagnent chaque jour en précision et en réalisme. L'IA était d'ailleurs au cœur de la grève qui a longuement paralysé Hollywood ces derniers mois. Mais qu'en dit le milieu du cinéma français ? Pour l'instant, comme face à une sorte de virus inconnu ou de menace diffuse, le monde du cinéma est dans le flou. Mais le secteur continue de penser qu'il faudra toujours un humain auprès de la machine, pour la corriger ou lui donner son inspiration.

Pour le réalisateur Cédric Klapisch, l'IA ne ferait que copier mais pas inventer. "Ce que je trouve intéressant, et ce n'est pas forcément que négatif, c'est que ça met l'accent sur le fait que ce qu'un algorithme peut créer n'est pas ce que nous, on appelle la création. Vous ne pouvez pas inventer un film d'Almodovar, vous ne pouvez pas inventer un film de Godard. Un algorithme ne peut pas le faire", tranche le cinéaste.

"Quand on parle du cinéma d'auteur, et de sa poésie, justement un ordinateur ne peut pas créer de la poésie, c'est quelque chose de profondément humain. Ce qui nous intéresse dans la création, c'est le regard subjectif d'un réalisateur ou d'une réalisatrice."

Cédric Klapisch, réalisateur

à franceinfo

Si on a vu apparaître en ligne ces derniers mois de fausses bandes-annonces créées par une IA, comme ce Star Wars version Wes Anderson , aucun moyen-métrage ou long-métrage sur le même modèle n'a encore vu le jour.

Un "ping-pong" qui renvoie ce qu'on lui donne

Les scénaristes sont particulièrement exposés aux risques représentés par l'intelligence artificielle. Ce sont eux d'ailleurs, inquiets pour leur statut, qui ont lancé la grève aux États-Unis. Et leurs homologues français partagent les mêmes interrogations, non sans un peu d'ironie. Fadette Drouard, qui a notamment coécrit récemment le film La Syndicaliste avec Isabelle Huppert, s'est amusée à demander au fameux logiciel ChatGPT de lui écrire un scénario. "Je lui ai donné le synopsis d'un film que j'étais en train d'écrire, une vingtaine ou trentaine de lignes environ, en lui disant 'développe-moi quelque chose à partir de ça', en intervenant pour corriger quelques aspects, lui demandant aussi de rajouter de la dramatisation ou des rebondissements. Et c'était catastrophique, se souvient-il. Sur le fond, des personnages que j'avais pourtant caractérisés, n'étaient pas cohérents. Ils passaient par des phases et des situations tellement clichées !"'

"C'est ça aussi ChatGPT, ça ne fait qu'agglomérer des choses qu'on a déjà vues et entendues."

Fadette Drouard, scénariste

à franceinfo

Fadette Drouard ne veut pas interdire ou bannir l'IA par principe, mais pour le moment elle en voit surtout les limites. Elle l'utilise comme une sorte de "ping-pong" qui ne fait que renvoyer ce qu'on lui donne.

La scénariste Fadette Drouard, le 2 octobre 2023 à Paris. (MATTEU MAESTRACCI/ FRANCEINFO/ RADIOFRANCE)

"Un exosquelette pour notre cerveau"

Mais il existe aussi des corps de métier pour qui l'intelligence artificielle est une bonne chose, et un outil précieux voire révolutionnaire. C'est le cas dans les domaines techniques qui utilisent déjà l'IA pour accomplir un certain nombre de tâches, comme chez Mac Guff, un studio de création d'effets visuels basé à Paris spécialisé dans les visages. Son président Rodolphe Chabrier compare même les possibilités offertes par l'IA à l'arrivée du numérique dans les années 1990 : "Elle fait bien plus que finir le travail ou nous faire gagner du temps, même si elle le fait aussi. Elle ouvre de nouvelles portes, mais ne travaille pas à notre place. L'intelligence artificielle n'est qu'un exosquelette à notre pensée, pour notre cerveau. Elle nous rend plus intelligents, elle nous permet de faire des tâches plus intelligentes qui nous prendraient normalement des dizaines de semaines, de mois, voire d'années pour y arriver."

"Je crois qu'il y a une peur plus enfouie au fond des gens, qui est liée à l'ego. On aime se dire que l'homme est le seul animal qui rit, qui pense, qui est créatif. Mais l'IA peut le faire aussi, même si pour le moment elle est seulement là pour nous aider."

Martial Vallanchon et Rodolphe Chabrier, co-fondateurs du studio Mac Guff, le 2 octobre 2023 à Paris. (MATTEU MAESTRACCI/ FRANCEINFO/ RADIOFRANCE)

Et si aucun "vrai" acteur n'a pour l'instant été remplacé par son avatar virtuel, les choses vont très vite. Rodolphe Chabrier estime que ces changements se font dans une sorte de zone grise juridique. Il plaide pour une protection législative, notamment sur les droits d'auteur, pour que personne ne voit son texte ou son visage utilisés sans son accord. Même sentiment chez Fadette Drouard : "Pour l'instant, je suis optimiste, et le flou porte surtout sur ce que ces outils vont devenir et déployer comme possibilités. On va utiliser les grands mots, mais est-ce qu'un jour l'IA aura sa propre conscience ? Et moi ce que je lis dans l'accord trouvé aux États-Unis, c'est que les scénaristes se sont beaucoup protégés, c'est vrai, mais ils partaient de beaucoup plus loin que nous au niveau de leur système de protection des auteurs. Donc nous, il faut qu'on fasse ce pas-là avant que ça nous rattrape."

Dans l'accord signé fin septembre à Hollywood, il est précisé que personne ne peut se faire imposer un film écrit ou conçu par une IA, mais que le scénariste peut s'en aider si le studio est d'accord. Ce qui ne ferme donc pas complètement la porte à l'intelligence artificielle.

# data[].attributes.attachment_link.title
TÉMOIGNAGES. Face à l'intelligence artificielle, le cinéma français encore dans le flou

# data[].attributes.attachment_link.description
Le gouvernement a décidé de consacrer un comité stratégique à l'intelligence artificielle. Un sujet d'inquiétude qui gagne plusieurs secteurs, comme le 7e art.

# data[].attributes.headline
[Mais où va le web] Enjeux éthique des IA génératives : séance de rattrapage 13.10.2023

# data[].attributes.subject
[Mais où va le web] Enjeux éthique des IA génératives : séance de rattrapage 13.10.2023

# data[].attributes.attachment_link.readable_text
Je débute une nécessaire séance de rattrapage sur les IA génératives, après quelques mois passés dans les technologies... spatiales ( guettez vos librairies en février). Ces quelques fragments sont donc à prendre comme une note de veille et de ressources qui sera à prolonger, alors que l'excitation post-ChatGPT est encore bien vive.

J'ai commencé par lire ou relire les indispensables, à commencer par l'excellent " ChatGPT : comment ça marche ? ", de Pierre-Carl Langlais, pédagogique, avec un bel effort de visualisation. Très bon travail également au laboratoire Linc de la CNIL, avec un " Dossier IA génératives " en 4 épisodes particulièrement bien ficelé. La CNIL fait le point sur les régulations qui peuvent déjà s'appliquer aux LLM (droit d'auteur, protection de données) et rappelle que le " vide juridique " n'existe pas, parlons plutôt de " flou ". La fin du dossier interroge les risques liés aux IA génératives, aux hallucinations (= des réponses fausses), à l'hameçonnage, en passant par l'industrialisation de la désinformation et la synthèse vocale utilisée à des fins malveillantes. Le dossier pose enfin les limites des outils de détection des IA par l'IA (seulement 26 % des textes sont correctement labellisés par des outils comme DetectChatGPT ou GPTZero).

On notera aussi le lancement d'une réflexion du côté du Conseil National du Numerique (CNNum) en juillet 2023, avec une première tribune publiée dans le journal La Croix et plusieurs interviews d'expert·es déjà publié sur leur site. On peut saluer les efforts du Conseil pour " mettre le numérique au cœur du débat démocratique " (et on aimerait surtout que ce soit vraiment le cas).

Pour rester dans la sphère institutionnel, l' Avis N°3 du Comité national pilote d'éthique du numérique, plus ancien, posait déjà bien certains enjeux liés aux agents conversationnels, avec des préconisations intéressantes comme le fait d'affirmer clairement leur statut, encadrer les " dead bots " et l'usage des bots dans les jouets. À l'heure où Facebook se lance dans les amis virtuels " AI-Powered " à la manière du film " Her ", ces préconisations devraient nous secouer. NB : pas impossible que le tout finisse par un énorme flop, comme d'autres idées de Mark Zuckerberg.

Autre passage obligé, les papiers de l'indispensable journaliste Hubert Guillaud, et notamment " Réguler l'IA générative ? ", où il revient sur les travaux en cours du côté de la Maison blanche début 2023, et " Un moratoire pour aller où ? ", où il pointe toute l'ambiguïté (l'hypocrisie même), de l'appel publié par l'Institut pour le futur de la vie pour mettre en pause les développements de l'IA, au prétexte notamment, qu'ils pourraient mener à des risques " existentiels " à long terme. Vision " long-termiste " dont j'avais longuement rendu compte l'année dernière, et qui nous détourne des risques bien présents posés par les IA : désinformation, sécurité des données, etc.

Pour continuer sur les interdictions, le texte de Dominique Boullier dans AOC " Sciences Po a eu raison d'interdire ChatGPT " est vraiment savoureux. N'y voir aucun dogmatisme, le sociologue y rappelle juste que si ChatGPT " suscite tant de débats, c'est parce que la stratégie commerciale d'Open AI adopte la stratégie du choc (Naomi Klein), qui sidère et oblige à choisir son camp ". Pour emprunter la formule à Tariq Krim, les " suprémacistes de la technique " arguent toujours qu'il est trop tard pour réguler - de quoi balayer toute tentative d'une " régulation by design " pourtant nécessaire. De quoi évacuer aussi, toute tentative de re-démocratiser le progrès technique, comme le proposaient Callon, Lascoumes et Barthe dans leur ouvrage " Agir dans un monde incertain " (2000) - c'était aussi le sujet de mon précédent livre " Technologies partout, démocratie nulle part ", toujours d'actualité.

Dans le monde de la tech, les avis sur l'avenir de l'IA sont sans surprise, divergents. Je conseille à ce sujet l'excellente cartographie de ces avis parmi les expert·es de l'IA (chercheur·ses, entrepreneur·ses, etc.) que proposent Eliza Strickland et Glenn Zorpette dans un papier publié sur IEEE Spectrum : " The AI apocalypse, a socrecard ". Quels sont les risques ? Va-t-on vers une intelligence artificielle générale ? Etc. On comprend vite que les chercheur·ses rigoureux·ses ne s'attardent pas trop sur les risques les plus loufoques.

Ce qui nous amène au point chaud des controverses. Je ne suis pas loin de rejoindre le philosophe Daniel Andler dans son papier " ChatGPT et l'IA générative : beaucoup de bruit pour beaucoup de chose " où il rappelle que si on s'arrête à ce que ChatGPT fait mal, on passe à côté de ce qu'il fait bien : des textes simples, utiles pour les gens qui ne sont pas à l'aise à l'écrit par exemple. Si ChatGPT ne référence rien, ou le fait mal, il reste que pour rédiger une lettre de motivation, un post, une pétition, etc. sans faire de fautes, l'outil est utile. Il ne corrige évidemment pas les écarts en termes de ressources sociales qui permettent ou non de chercher un emploi ou oser s'adresser à une institution, mais on peut s'imaginer qu'il peut faire office de coup de pouce pour certain·es. Cela n'empêche pas Andler d'appeler à interdire les " simulacres de personnes " qui pourraient nous induire en erreur de mille façon particulières. Écho aux recommandations du Comité national pilote d'éthique du numérique.

Sur le versant environnemental, comme souvent, on peine à calculer avec précision les effets de ces systèmes techniques. Mais certain·es s'y mettent. Je ne citerai ici que l'article " Making AI Less " Thirsty ": Uncovering and Addressing the Secret Water Footprint of AI Models " (pre print) de Shaolei Ren et ses collègues, qui ont montré que l'entraînement de ChatGPT3 dans les data centers de Microsoft avait nécessité 700 000 litres d'eau. Et d'ajouter qu'une vingtaine de questions échangées avec l'IA génératives équivaudraient à 500ml d'eau.

Une réalité matérielle que rappelle très bien le chercheur Olivier Ertzscheid dans son récent papier " Du Web sémantique au Web synthétique " (qui est aussi l'introduction d'un livre à paraître chez C&F Éditions). Pour le citer plus précisémment : " si "l'intelligence artificielle" est aujourd'hui partout, il faut aller au bout de la métaphore de l'artificialisation et se se rappeler ce qu'elle produit à l'échelle des sols ou des milieux naturels quand elle est mise en oeuvre : elle les épuise, elle diminue leur capacité de résilience et elle réduit leur biodiversité. "

Mais ce n'est pas tellement le sujet du papier, plutôt sa conclusion. Ertzscheid y explique surtout que le passage vers le " web synthétique " (= un web dont le contenu est largement produit par des bots et des IA) répond à l'objectif des magnats de la tech, qui " n'est plus de permettre à l'humanité de se parler ni même de nous permettre de dialoguer avec des robots, mais de permettre à des robots de nous parler pour nous indiquer quoi faire, que dire et où regarder. " Dès lors, le web est-il encore une création sociale ?

Parmi les derniers errements de l'intelligence artificielle, il me semble bon de s'attarder sur l'effet que produisent leurs hallucinations sur les moteurs de recherche. Un récent article de Wired " Chatbot Hallucinations Are Poisoning Web Search " montrait ainsi que maintenant que les robots écrivent massivement sur le web, leur contenu se retrouve crawlé par les moteurs de recherche qui recrachent leurs hallucinations, avec un ranking qui peut être assez haut. Autrement dit, on pourrait indirectement utiliser les contenus de ces IA pour manipuler les résultats des recherches.

Un écho à un événement que rappelle Anouch Seydtaghia dans un papier pour Le Temps, " Le début d'un gros problème: Google hallucine sur les... hallucinations de ChatGPT " : Google a apparemment répondu à une requête qu'il était possible de faire fondre un oeuf, en se basant sur un post publié sur le site Quora. Cette hallucination avait à l'origine été écrite par ChatGPT : " Google s'est donc fait avoir par Quora, qui lui-même s'est fait avoir par ChatGPT ". Partant du principe que de plus en plus de contenu va être écrit par des IA génératives, on peut s'interroger à double titre sur leur capacité à 1/ " remplacer " les moteurs de recherche pour un certain nombre d'usages (avec quels résultats ?) et 2/ pourrir les résultats des moteurs de recherche existants.

Je dois dire que c'est un point qui m'obsède. L'incapacité à vérifier une source n'est certes pas un problème nouveau : nous sommes à l'ère des Fake news. Et d'ailleurs, même une source vérifiée ne suffit pas toujours à convaincre. Il y a des faits que la raison refuse, pour des raisons diverses, sociales, idéologiques, etc. Sortis de ces sphères dite " grand public " (on sait bien qu'il n'existe pas), j'ai naïvement considéré que dans le petit monde de la tech dont je fais partie, ces compétences de vérification seraient acquises. Ce n'est pas le cas. Je le dis sans condescendance car je pense que c'est un simple problème de formation, mais si on s'inquiète du mauvais usage de ChatGPT, il faut aussi considérer le mauvais usage de Google pour une simple recherche. Des actions comme rechercher un .pdf (et donc un document un peu officiel), utiliser des guillemets ou des opérateurs, comparer des images, etc. ne sont souvent pas maîtrisées.

De même, on oublie parfois de vérifier les chiffres (par exemple : publiés dans un article de presse généraliste), de revenir à leur source (par exemple, un article scientifique), de les remettre en contexte et voir quels autres chiffres donnent à voir une même réalité avec plus de nuances. Tout aussi fréquemment, on oublie de jeter un oeil aux auteur·ices de l'article, vérifier d'où ils ou elles parlent, qui finance l'étude, etc. Bref, j'enfonce certainement une porte ouverte mais si ces réflexes ne sont pas acquis, je vois mal comment une réponse ChatGPT stéréotypée pourrait être prise avec le recul nécessaire.

L'étude menée par Havard et le MIT auprès de 758 consultant·es du Boston Consulting Group (BCG) " How People Can Create-and Destroy-Value with Generative AI " l'illustre bien. Si on constate une augmentation de la productivité liée à l'IA dans certains tâches (pas toutes), une des conclusions est que les consultant·es qui utilisent l'IA pour des tâches qu'ils pourraient aussi résoudre seul·es ont tendance à se laisser convaincre par ChatGPT4, même lorsque la réponse est fausse. L'étude ne précise pas de quel problème il s'agit. Cependant, j'ai eu l'occasion de le vérifier dans mon entourage avec des tâches aussi simples qu'une recherche : ChatGPT renvoie des résultats plutôt bons lorsqu'il reste dans la généralité. On peut donc considérer que la tâche " recherche " est effectuée plus rapidement. Cependant, on oublie trop rapidement que chercher revient aussi à sélectionner, et à apprendre en dehors des marges de la sélection. C'est plus long, mais c'est plus formateur.

À ce sujet, je découvrais récemment Petal ( voir la démo), un IA générative utilisée notamment par le MIT, qui permet d'effectuer des recherches croisées entre plusieurs articles de recherche. Il me faudra y revenir plus longuement, mais je vois un intérêt sérieux à ce genre d'outil, qui utilise bien tout le potentiel des IA en évitant certains des leurs écueils.

# data[].attributes.attachment_link.title
Enjeux éthique des IA génératives : séance de rattrapage

# data[].attributes.attachment_link.description
Une note de veille et de ressources sur les IA génératives, alors que l'excitation post-ChatGPT est encore bien vive.

# data[].attributes.headline
[Ademe] Calculateur d'empreinte carbone... 

# data[].attributes.subject
[Ademe] Calculateur d'empreinte carbone... 

# data[].attributes.attachment_link.provider_name
Agir pour la transition écologique | ADEME

# data[].attributes.attachment_link.title
Calculez l'empreinte carbone de vos usages numériques

# data[].attributes.attachment_link.description
Envoyer un email, regarder une vidéo en streaming ou effectuer une visioconférence... Ces actions du quotidien émettent du CO2 ont donc, un impact sur le climat. Découvrez votre empreinte carbone sans attendre !

# data[].attributes.headline
[Géo] 6,4 milliards de litres pour Microsoft : l'IA générative a-t-elle fait exploser la consommation d'eau des géants de la tech ? 12.09.2023

# data[].attributes.subject
[Géo] 6,4 milliards de litres pour Microsoft : l'IA générative a-t-elle fait exploser la consommation d'eau des géants de la tech ? 12.09.2023

# data[].attributes.body
https://www.geo.fr/environnement/eau-ia-generative-a-t-elle-fait-exploser-consommation-eau-geants-de-la-tech-openai-microsoft-google-chatgpt-216592