# data[].attributes.headline
de réfléchir à mon empreinte écologique !

# data[].attributes.subject
de réfléchir à mon empreinte écologique !

# data[].attributes.body
Pour fonctionner les modèles des IAG ont besoin de l'extraction de minerais (minéraux rares et stratégiques), émettent des polluants comme le CO2 et consomment beaucoup d'énergie et d'eau potable. Leur utilisation pourrait forcer les limites planétaires.

Pour en savoir plus sur l'enjeu des impacts écologiques de l'IA :

Denis Trystram. Insoutenable coût écologique de l'IA

# data[].attributes.attachment_link.readable_text
Ce qu'on appelle les intelligences artificielles, et notamment les grands modèles de langages (comme ChatGPT) qui permettent notamment de générer du texte, impliquent des millions d'heures de calculs informatiques. Et donc une grande quantité d'électricité et avec cette électricité qui est encore rarement renouvelable, autant de gaz à effets de serre, que ce soit pour chaque ordinateur ou pour les plus de 8 millions de centres de données dans le monde. À cela, il faut ajouter une grande quantité d'eau pour refroidir ces grands centres et un nombre colossal de matériaux rares doublé d'une pollution électronique importante.

Une pollution conséquente

En 2019, une équipe de l'université du Massachusetts avait ainsi calculé que le simple entrainement d'une IA équivalait en termes de CO2 aux émissions de 205 aller-retour paris New York en avion. L'année dernière, une autre étude de l'université américaine du Colorado avait calculé que poser 25 questions à ChatGPT coûtait un demi-litre d'eau douce ; de quoi atteindre des millions de litres si vous multipliez ça par ses 200 millions d'utilisateurs de cet outil.

Pourtant, ce ne sont que des estimations. L' Université de Stanford située dans la Silicon Valley aux États-Unis a montré en juin 2023 en comparant 10 modèles d'IA qu'il est finalement impossible de calculer leur empreinte environnementale réelle et ce, faute de données normées. Ce que demande Laurence de Villers, elle est professeur en intelligence artificielle à la Sorbonne Université et coautrice d' un rapport du comité consultatif national d'éthique sur le sujet.

En juillet 2023, lorsqu'elle a remis son rapport au gouvernement français, ce dernier a préféré fermer les yeux sur le coût environnemental réel des IA de peur de freiner la création de futurs champions européens de l'IA. Dans le même temps les autorités ont rendu obligatoire une formation aux enjeux environnementaux pour tous les ingénieurs formés en France avec l'objectif d'alerter les futurs faiseurs d'IA sur le coût colossal de ces outils numériques qui selon l'Ademe et l'Arcep devrait générer 50 millions de tonnes de CO2 en 2050 en France soit trois fois plus qu'aujourd'hui. D'où l'urgence de le faire savoir aux utilisateurs ; Gilles Sassatelli est le président du conseil scientifique du CNRS en sciences informatiques qui vient de rendre un rapport sur les impacts sociétaux des IA.

Ce document met l'accent sur l'importance des choix de sociétés nécessaires à lancer sur ces technologies. Poser la question du bénéfice humain associé peut sembler avéré dans certains domaines, notamment la santé, mais il est moins évident dans d'autres comme la surveillance automatique, surtout au regard de sa facture climatique exponentielle

# data[].attributes.attachment_link.title
Le coût environnemental de l'IA est colossal et... sous évalué

# data[].attributes.attachment_link.description
C'est une première mondiale, l'Union européenne a validé un projet de régulation de l'intelligence artificielle, l'IA Act dans lequel elle demande plus de transparence aux industriels qui la génèrent, mais pas dans un domaine largement ignoré et pourtant très coûteux : sa facture environnementale.

# data[].attributes.headline
de réfléchir à la véracité de l'information !

# data[].attributes.subject
de réfléchir à la véracité de l'information !

# data[].attributes.body
Deepfakes, avatars humains et fake news sont omniprésents. Il ne suffit plus de voir pour croire.

Pour en savoir plus sur l'enjeu de la désinformation :

Géopolitis. Le défi du fake

RTS. Désinformation sur TikTok

ARTE. Entre IA et désinformation

Quotidien. Les deepfakes de Taylor Swift

# data[].attributes.attachment_link.title
Les deep fake de Taylor Swift scandalisent les Swifties

# data[].attributes.headline
de protéger mes données personnelles (et celles des autres) !

# data[].attributes.subject
de protéger mes données personnelles (et celles des autres) !

# data[].attributes.body
Les modèles d'IAG sont entraînés avec des données, et ces données peuvent ensuite être divulguées sans notre consentement. Il ne faut jamais communiquer des données personnelles ou sensibles dans les prompts.

Pour en savoir plus sur l'enjeu des données personnelles :

RTS. Données sur les réseaux sociaux

Semaine des médias. IA et données personnelles

Parlement européen. Surveillance de masse

ChatGPT. Désactiver l'historique

# data[].attributes.attachment_link.title
Utilisation de l’IA par la police: les députés contre la surveillance de masse | Actualité | Parlement européen

# data[].attributes.attachment_link.description
Pour garantir le droit à la vie privée, les députés demandent des garanties solides lorsque des outils d’intelligence artificielle sont utilisés par les services répressifs.

# data[].attributes.body
Tout au long du métabolisme économique de l'IA (extraction, production, distribution, consommation et revalorisation), des impacts sociaux se révèlent.

Pour en savoir plus sur l'enjeu des impacts sociaux de l'IA:

Wired. Training AI Models

# data[].attributes.attachment_link.title
Millions of Workers Are Training AI Models for Pennies

# data[].attributes.attachment_link.description
From the Philippines to Colombia, low-paid workers label training data for AI models used by the likes of Amazon, Facebook, Google, and Microsoft.

# data[].attributes.headline
de détecter les biais dans les réponses des IAG !

# data[].attributes.subject
de détecter les biais dans les réponses des IAG !

# data[].attributes.body
Les modèles d'IAG sont entraînés avec des données, et ces données peuvent renfermer de nombreux biais sexistes et racistes. Il faut être sensible à ces biais et éviter de les propager.

Pour en savoir plus sur l'enjeu des biais :

ARTE. L'intelligence artificielle est-elle sexiste ?

AI, Can You See Me ?

# data[].attributes.attachment_link.readable_text
How does artificial intelligence recognize faces - and why does it not work with black people? A creative inquiry into the bias of image recognition tools by guest author Iyo Bisseck.

I first discovered machine learning during a week-long workshop with New York-based programmer and artist Gene Kogan at ECAL. The start of the week proved complicated for me, as I could not test all the examples from ml4a (Machine Learning for Artists; one of the many tools artists have to use machine learning programs). The reason for this was that the facial detection algorithms were struggling to detect me, and the reason they were struggling to detect me is because I'm black.

As one can imagine, I felt frustrated. Despite moving, gesturing and changing places, getting the program to see me was quite an effort. I had to find the perfect position. After testing different machine learning tools such as YOLO Darknet and ml5 (Machine Learning 5), I kept getting the same result: it was easier for the machine to recognise the people behind or around me than to recognise me.
The Human Detector
So during the workshop, I decided to create the Human Detector. The Human Detector is an experience that invites the user to do everything in order to avoid being recognised by AI. By doing this, I recreated my own experience with ml4a and AI, but I inverted the rules so that I win every time. The aim of the experience is for the user to press a button without being detected as a human being by a camera connected to a detection system. The user must be as creative as I had to be in order to succeed.

The detection system uses PoseNet, a computer vision tool based on machine learning which provides real-time estimation of human poses. It detects not only a face but also a shoulder, elbow or other body parts. When I tried PoseNet, I realised that it succeeded in perceiving me even in the darkest trials. So my plan did not work - I had to be just as creative as other users to succeed at my own game. But I asked myself: why can PoseNet recognise me as a human being while ml4a's face tracker can't?
Computer vision and black people
As I continued my research, I came across a lot of pictures where facial detection failed to recognise black people. Why is this so common? Why does computer vision have trouble seeing black people?

Computer vision uses automatic learning techniques to detect faces. These techniques require a training set, which consists of material from which the program learns how to process information. In the case of computer vision, the training set is often composed of a large number of facial images. So computer vision's ability to recognise different types of faces depends on the diversity of the training set. This means that computer vision can only reliably recognise what it's been trained to see.

I understood that having an inclusive training set allows you to have inclusive results. So I asked myself: Is there really a lack of diversity in training set data? If so, is this an unconscious choice on the part of developers or is it deliberate? What access do we have to diversity in data? And especially, how can we find out this information?
Highlight biases
To better understand the issue, I started looking at the work of Joy Buolamwini, a researcher at MIT. In one exercise, she had to communicate with a robot but the robot could not recognise her, so she decided to put on a white mask so she could be detected. Joy calls this problem the "coded gaze" but we can also talk about algorithmic bias. I was particularly interested in her Gender Shades project and how it evaluates the accuracy of AI-powered gender classification products. The results show that the software misidentified darker-skinned women far more frequently than lighter-skinned men.

When I tried to create other projects about algorithmic bias, I faced an obstacle: the lack of transparency in the algorithms and training sets did not allow me to fully experiment with the programs or understand where the bias came from or how it came to be. The solution I found was to highlight the biases of these algorithms as well as those of our society. The second project I initiated was Face Access: a fictional project where you can pretend to access some institutions with a picture of your face.

For my training set, I took data from an open photobase from schools in Lausanne, including Manufacture, EPFL and ECAL. After analysing them with the Face++ tools, I created a platform which can tell you your chances of success if you apply for the desired status: student, assistant or teacher. To contextualise the result, you are also shown the statistics and photos of people in the database who are assumed to have the same physical profile (age, gender, ethnicity). As a user you should then be able to observe the dynamics at play in our society and consider questions such as: Can your result be explained by algorithmic bias or by social bias? Or both?
Fight for transparency
Joy Buolamwini also made similar observations and created the Algorithmic Justice League, a collective that aims to unmask bias and allow more transparency in algorithms by creating projects like The Safe Face Pledge.The Safe Face Pledge "gives opportunities for organisations to make public commitments towards mitigating the abuse of facial analysis technology by addressing harmful bias, facilitating transparency and embedding commitments into business practices." Cathy O'Neil, a data scientist who wrote a book called Weapons of Math Destruction, talks about the danger of opaque, unregulated and uncontestable mathematical models and explains that algorithms, with the training set we give them, create their own reality. Transparency helps us to understand what underpins these realities and to know exactly what algorithmic bias lies behind them. This is why it is important to ask not only "AI, can you see me?", but also "AI, can I see you?".

References:

Cathy O'Neil - Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (2016; New York, NY: Crown)

Further reading:
https://www.bloomberg.com/opinion/articles/2019-04-17/algorithms-that-manage-people-need-human-regulation https://pair-code.github.io/what-if-tool/https://www.media.mit.edu/posts/how-i-m-fighting-bias-in-algorithms/https://medium.com/thoughts-and-reflections/racial-bias-and-gender-bias-examples-in-ai-systems-7211e4c166a1 https://www.bloomberg.com/opinion/articles/2018-10-16/amazon-s-gender-biased-algorithm-is-not-alone https://ai.google/research/teams/brain/pair https://www.theguardian.com/technology/2019/jun/29/ruha-benjamin-we-cant-wait-silicon-valley-become-more-diverse-prejudice-algorithms-data-new-jim-code https://www.thejustdatalab.com/
Iyo Bisseck is an interaction designer working at the crossroads of different fields such as art, social sciences, cognitive sciences and computer science. She is particularly interested in inclusive and activist projects.
https://iyo.io/

# data[].attributes.body
Les modèles d'IAG sont entraînés avec des données, et ces données sont souvent protégées par des droits d'auteurs, même si librement accessibles sur Internet. Cependant aucune rétribution n'est prévue pour les artistes et auteurs.

Pour en savoir plus :

Les e-novateurs : Andersen vs Stability AI

Le Temps : Le New York Times vs OpenAI

RollingStone : IA : générateurs de musique

# data[].attributes.attachment_link.readable_text
États-Unis : le 12 août dernier, la plainte collective des illustratrices Sarah Andersen, Kelly McKerman et Karla Ortiz contre Stability AI a pris un nouveau souffle. Après de nombreux refus, le juge fédéral Orrick a finalement réclamé que la plainte soit poursuivie. Ce procès pourrait-il marquer le début d'une victoire pour les artistes ? Retour sur l'affaire.

Accompagnées par l'avocat Me Matthew Butterick (déjà habitué à mener des procès contre les géants des IA génératives), les trois illustratrices ont déposée en janvier 2023 une plainte pour violation de droit d'auteurs et de marque. La plainte se concentre sur l'utilisation d'œuvres légalement protégés, mais récupérées par Stable Diffusion. Fruit de la collaboration entre Midjourney et Stability AI, cet outil génère des images hyperréalistes à partir d'un prompt (instructions transmises à une intelligence artificielle).

A la suite des derniers apports effectués par les plaignantes, le juge fédéral Orrick a considéré ce mois-ci que cet outil a pu être entraîné à partir d'une banque constituée de millions d'images, et susceptible de contenir des contenus protégés. Sa programmation a pu potentiellement faciliter la violation des droits d'auteurs.

Pour vérifier cette hypothèse, le juge a réclamé que les entreprises impliquées envoient des informations sur les données utilisées pour rendre leur IA fonctionnelle. Elles doivent également préciser si des images protégées étaient incluses dans le programme d'entraînement. Si oui, en quelle quantité et de quelle manière ?

Non, cela ne signifie pas que nous avons gagné. Au contraire, cela signifie simplement que nous pouvons commencer : nous pouvons entamer la phase de découverte et mettre l'affaire sur la voie du procès. Mais c'est une étape importante pour l'affaire, qui avait été suspendue pendant plus de 18 mois.

Matthew Butterick

Pour répondre aux détracteurs·rices de ses clientes, il soutient : " L'IA générative ne représente pas seulement un danger pour la santé économique des artistes. Il empiète sans état d'âme sur un certain habitat intellectuel et émotionnel qui leur est propre, bref sur leur personnalité".

Références :

[Photo de couverture : Alexander Grey]

# data[].attributes.attachment_link.title
Andersen VS Stability AI : une première victoire des illustratrices contre l'IA ?

# data[].attributes.attachment_link.description
États-Unis : le 12 août 2024, la plainte collective des illustratrices Sarah Andersen, Kelly McKerman et Karla Ortiz contre Stability AI a pris un nouveau souffle.