# data[].attributes.body
... chez tout un chacun, c'est l'enjeu majeur d'aujourd'hui et de demain !

Que ce soit pour déjouer les biais de notre propre cerveau, les manipulations des réseaux sociaux et autres fake news ou pour débusquer les Deep Fakes.

# data[].attributes.attachment_link.title
Carnaval Mental - Cabinet de curiosités cérébrales

# data[].attributes.attachment_link.description
Ce parcours pédagogique est conçu pour permettre de mieux comprendre certains mécanismes cognitifs du cerveau, tout en analysant la manière dont l’économie de l’attention, les biais cognitifs et les arguments fallacieux peuvent influencer nos interactions sociales et nos usages médiatiques.

# data[].attributes.body
Kate Crawford est une chercheuse australienne. Elle est professeure à l’Université de New York et chercheuse à Microsoft.

# data[].attributes.body
Juillet 2025 - Selon l'avis de Louis Graffeuil, consultant en entreprises pour aider celles-ci à passer à l'action sur l'automatisation grâce à l'IA.

# data[].attributes.body
Le magazine de culture numérique pour les ados (et toute la famille !)

Chut! Magazine lance Chut! Explore, le 1er magazine d’éducation au numérique pour les ados.

Civique, ludique et pédagogique, Chut! Explore est un magazine papier bimestriel de 15 pages qui se déplie pour une expérience de lecture à partager avec ses parents, ses amis ou sa classe !

Aussi bien pour les filles que pour les garçons !

# data[].attributes.attachment_link.description
Envie d’avoir de nos nouvelles par mail…

# data[].attributes.body
De vraies réponses aux questions des ados, et aux inquiétudes des parents !

L'IA générative progresse à une vitesse fulgurante. Elle produit en quelques secondes du texte, des images et du contenu audio. Des prouesses qui, bien utilisées, peuvent en faire une alliée dans de nombreux domaines de la vie des ados, mais qui fait peur !

Voici un guide malin et bienveillant pour découvrir comment fonctionne l'IA et à quoi elle sert, comment l'utiliser pour booster sa créativité, les dangers de l'IA (fake news, deep fakes, etc.) et comment garder le contrôle.

Un livre plein d'humour sur un sujet incontournable dans la vie des ados, à découvrir dès 12 ans !

# data[].attributes.body
Sur l'IA mais pas que...

# data[].attributes.attachment_link.title
Chut ! Le magazine à l'écoute du numérique

# data[].attributes.attachment_link.description
Nous vous proposons avec Chut, le mag à l'écoute du numérique, de tendre l'oreille et le regard vers ce numérique qui impacte notre quotidien.

# data[].attributes.body
Source : https://inrialearninglab.github.io/ai4t//fr/1-Mooc/module-2-what-is-meant-by-ai/2-2-what-is-artificial-intelligence-actually/2-2-4-Activity-Discover-AI-innovations-FR/2-2-4-Origin-of-AI-innovations-FR.html

# data[].attributes.body
Extraits de la vidéo : IA : audition de Luc Julia, concepteur de Siri - YouTube

# data[].attributes.headline
Livret pédagogique : l'IA pour les noobs

# data[].attributes.subject
Livret pédagogique : l'IA pour les noobs

# data[].attributes.body
A télécharger sur ce site et c'est gratuit !

# data[].attributes.attachment_link.title
Livret pédagogique : l’IA pour les noobs | Les Bases du numérique d’intérêt général

# data[].attributes.attachment_link.description
Ce support peut être utilisé pour mieux comprendre l’intelligence artificielle, tout simplement, mais aussi en complément d’un café IA, ou pour mettre en place une autre action de sensibilisation, ou encore pour envisager d’adopter l’intelligence artificielle dans sa pratique professionnelle. Ce livret collaboratif a été construit par des professionnelLEs de terrains pouvant vous proposer des formations adaptées sur le sujet !

# data[].attributes.headline
Document pédagogique pour y voir plus clair

# data[].attributes.subject
Document pédagogique pour y voir plus clair

# data[].attributes.body
Source : Qu’est-ce que l’IA – Café IA

# data[].attributes.body
La rédaction de Chut! Explore a imaginé l’Atlas de la tech – Les Cartes du numérique, un beau livre grand format de 144 pages, pop et coloré, entièrement dédié à l’impact du numérique, des technologies et des IA dans nos vies.

À explorer en solo, en couple, en famille, en classe, en bibliothèque, de 7 à 107 ans.

Avec des jeux, des infographies, des pages BD avec notre vedette Smarty, et bien sûr des cartes !

Pour le commander : Atlas de la tech | Chut!

# data[].attributes.headline
FramamIA - Comprendre l'IA pour la démystifier

# data[].attributes.subject
FramamIA - Comprendre l'IA pour la démystifier

# data[].attributes.body
Framamia est proposé par une association française à but non lucratif : Framasoft

Créée en 2004, l’association se consacre désormais à l’éducation populaire aux enjeux du numérique et des communs culturels. Notre petite structure (35 membres dont 10 salarié·es) est connue pour le projet Dégooglisons Internet (26 outils en ligne éthiques et alternatifs) et pour le développement des logiciels PeerTube, Mobilizon, etc. Reconnue d’intérêt général, Framasoft est financée à 96 % par vos dons, déductibles des impôts pour les contribuables français·es.

# data[].attributes.headline
"Les IA, ce ne sont que des boîtes à outils"

# data[].attributes.subject
"Les IA, ce ne sont que des boîtes à outils"

# data[].attributes.body
Suivez l'audition du directeur scientifique de Renault et coconcepteur de l’assistant vocal Siri, par la commission des Affaires Economiques.

Luc Julia vulgarise sans langue de bois et avec beaucoup d'humour. A regarder sans hésiter !

# data[].attributes.attachment_link.title
IA : audition de Luc Julia, concepteur de Siri

# data[].attributes.attachment_link.description
Suivez l’audition du directeur scientifique de Renault et concepteur de l’assistant vocal Siri, par la commission des #AffairesEconomiques (Dominique Estrosi…

# data[].attributes.headline
FramIActu n°1, la revue mensuelle sur l’actualité de l’IA !

# data[].attributes.subject
FramIActu n°1, la revue mensuelle sur l’actualité de l’IA !

# data[].attributes.body
Sommaire

Infomaniak dévoile son IA Open Source et son nouveau centre de données

Trois quarts des personnes privées d’emploi ont recours à l’IA Générative

L’accélération de l’IA pose déjà des questions de pénuries d’eau et d’énergie

Des écoles étasuniennes expérimentent l’IA pour remplacer les profs

# data[].attributes.attachment_link.title
FramIActu, la revue mensuelle sur l’actualité de l’IA !

# data[].attributes.attachment_link.description
Chaque second mercredi du mois, découvrez l’actualité de l’IA mise en perspective par Framasoft !

# data[].attributes.body
Les robots humanoïdes “made in France”, développés par la start-up Enchanted Tools, tiendront compagnie aux enfants pendant leur radiothérapie à l’Institut du cancer de Montpellier. Mais pas que... (Mai 2025)

# data[].attributes.attachment_link.title
On a rencontré "Miroki", le robot français qui veut épauler les soignants dans les hôpitaux

# data[].attributes.headline
FramIActu n°2 — La revue mensuelle sur l’actualité de l’IA !

# data[].attributes.subject
FramIActu n°2 — La revue mensuelle sur l’actualité de l’IA !

# data[].attributes.body
Sommaire

Comment les entreprises de la tech nous forcent à utiliser l’IA

GPT 4.5 d’OpenAI : moins d’hallucinations, plus de ✨✨✨quotient émotionnel✨✨✨ et de… risques

C’est prouvé : plus vous utilisez l’IA, plus votre esprit critique se détériore

Une étude indique que quand une IA estime qu’elle va perdre, elle peut parfois tricher

# data[].attributes.attachment_link.title
FramIActu n°2 — La revue mensuelle sur l’actualité de l’IA !

# data[].attributes.attachment_link.description
Bonjour à toustes ! Deuxième mercredi du mois et déjà le deuxième numéro de la FramIActu ! L’actualité de l’IA n’a pas ralenti et nous avons poursuivi la mise en avant sur https://curation.framamia.org/ notre sélection d’articles ! Honnêtement, nous aurions pu parler de chaque article ajouté depuis le mois dernier mais il nous faudrait *beaucoup*…

# data[].attributes.body
Source : https://parlonssciences.ca/ressources-pedagogiques/documents-dinformation/introduction-a-lintelligence-artificielle

# data[].attributes.headline
C’est quoi, l’IA ? Astrapi répond aux questions des enfants !

# data[].attributes.subject
C’est quoi, l’IA ? Astrapi répond aux questions des enfants !

# data[].attributes.attachment_link.readable_text
L'intelligence artificielle est au cœur de l'actualité et les enfants en entendent de plus en plus souvent parler. Pour les aider à comprendre cette révolution technologique qui va prendre une part grandissante dans leur vie, le magazine Astrapi propose aux 7-11 ans un grand dossier sur l'IA, à lire dans le numéro du 15 octobre. Et pour apprendre à repérer les images créées à l'aide d'une IA, amusez-vous en famille avec notre quiz "traqueur d'IA" !
Le magazine Astrapi explique les secrets de l'IA aux 7-11 ans
Marion Joseph, rédactrice en chef du magazine Astrapi :
Que représentent les deux lettres " IA " pour les enfants de 7 à 11 ans ? Pour l'instant, surtout un petit mot qu'ils commencent à entendre de plus en plus souvent... Et dont ils croient savoir qu'il a quelque chose à voir avec "ChatGPT" ou encore "véhicule autonome". Une promesse de lendemains qui décoiffent, peut être, pour les plus geeks d'entre eux...
De leur côté, parents et enseignantssavent déjà que cette révolution technologique va prendre une telle place dans la vie des enfants qu'il va falloir les aider à acquérir les bons réflexes. Bientôt, apprendre à utiliser l'IA sera aussi important que d'apprendre à se brosser les dents ! À nous, adultes, de les accompagner dans cet éveil, sans catastrophisme ni angélisme.
C'est pourquoi dans son numéro du 15 octobre, Astrapi propose à ses lecteurs et lectrices de 7 à 11 ans un grand dossier pour tout comprendre et répondre à plus de 20 questions : un robot et une IA, est-ce pareil ? Comment les IA apprennent-elles ? Une IA peut-elle nous surveiller ?
Nous espérons que les Astrapiens et les Astrapiennes retiendront un message : comme toutes les révolutions technologiques, celle-ci est porteuse de promesses extraordinaires, comme de craintes légitimes. Et comme de tous les grands changements historiques, ils pourront décider d'être acteurs plutôt que spectateurs !

Un quiz pour apprendre à repérer les images créées à l'aide d'une intelligence artificielle

Après avoir lu l'article d' Astrapi, amusez-vous en famille à repérer les images créées à l'aide d'une IA, avec notre quiz. Ouvrez l'œil !

Qu'est-ce que l'IA ?

Une intelligence artificielle (ou "IA") est un programme informatique qui imite l'intelligence humaine. Une IA peut être programmée pour parler, écrire, calculer, jouer, conduire, traduire, analyser, dessiner... La différence entre une IA et un programme informatique classique, c'est que l'IA est capable de s'améliorer en étant entraînée par l'homme, ou même en s'entraînant toute seule !

Un robot et une IA, est-ce pareil ?

Non. Un robot est une machine qui remplace l'humain dans certaines situations. L'IA est le programme qui fait fonctionner cette machine en analysant ce qui se passe autour d'elle et en lui donnant des instructions. D'une certaine façon, le robot est un corps, et l'IA son esprit. Par exemple, le robot Ameca reproduit les émotions humaines : joie, peur, colère, surprise... Mais tout est programmé, il ne ressent rien !

Depuis combien de temps l'IA existe-t-elle ?

La première intelligence artificielle date de 1957. Le Perceptron, inventé par l'Américain Frank Rosenblatt, était capable de reconnaître les lettres de l'alphabet écrites sur un papier grâce à une caméra reliée à un ordinateur. Pour faire fonctionner le Perceptron, il fallait brancher les bons fils !

Ça sert à quoi, l'IA ?

Le smartphone qui reconnaît les visages ? La voiture qui lit les panneaux ? Les décors qui s'adaptent aux actions de ton personnage dans un jeu vidéo ? Tout ça, c'est de l'IA, comme l'application qui te propose des vidéos en pensant qu'elles t'intéressent ou le traitement de texte qui corrige tes fautes. L'intelligence artificielle accomplit des tâches qui ont longtemps semblé réservées à l'esprit humain.

Pourquoi on parle beaucoup d'IA en ce moment ?

Parce que l'intelligence artificielle est en train de faire de grands progrès. En novembre 2022 a été lancé ChatGPT, une IA capable de répondre en quelques secondes à toutes sortes de questions. Deux mois après, 100 millions de personnes l'avaient déjà essayé dans le monde ! Actuellement, toutes les grandes entreprises d'informatique font la course pour savoir qui développera le plus vite (et le mieux) son système d'intelligence artificielle.

Une IA est-elle vraiment intelligente ?

Aujourd'hui, les intelligences artificielles n'ont encore en réalité... rien d'intelligent ! Une IA ne peut rien faire toute seule, elle est dépendante des humains qui l'entraînent et la corrigent. Elle ne peut pas non plus improviser, comprendre ce qu'elle fait ou ressentir des émotions : tout ça reste une spécialité humaine.

L'IA, ça marche comment ?

Une intelligence artificielle fonctionne en comparant et en analysant d'énormes quantités d'informations. Ces infos lui ont été données par les ingénieurs qui l'ont conçue, ou elle les cherche en direct sur internet. Pour réussir toutes ces analyses, il faut de super-ordinateurs. Certains peuvent réaliser des milliards d'opérations chaque seconde. Installé aux États-Unis, le super-ordinateur Frontier est le plus puissant du monde.

L'IA fonctionne-t-elle comme le cerveau ?

Certaines IA marchent grâce à "l'apprentissage profond", qui imite le cerveau humain. Quand tu apprends, des milliards de neurones se connectent à chaque instant dans ton cerveau pour associer des millions d'informations. L'apprentissage profond de l'IA fonctionne en connectant des "neurones informatiques". Ainsi, elle peut résoudre des problèmes complexes, comme reconnaître un visage, traduire une langue étrangère, discuter avec un humain...

Comment une IA apprend-elle ?

Est-ce que l'IA est en train de devenir plus intelligente que l'humain ?

Pour les scientifiques, il y a deux formes d'intelligence artificielle : l'IA faible et l'IA forte. L'IA faible ne sait accomplir que les tâches pour lesquelles on l'a entraînée. C'est l'IA qui existe aujourd'hui. L'IA forte serait une intelligence capable de dépasser celle du cerveau humain, d'inventer et d'improviser face à l'imprévu. Cette IA, par exemple celle des robots dans les films de science-fiction, n'existe pas... pour l'instant, en tout cas.

Une IA peut-elle battre un champion d'échecs ?

C'est ce que l'IA de l 'ordinateur Deep Blue a réussi le 11 mai 1997 ! Elle a pour la première fois gagné une partie contre un champion du monde, le Russe Garry Kasparov. Plus forte encore, l'intelligence artificielle AlphaGo a battu en 2016 le champion coréen Lee Sedol au go, un jeu où l'on pensait l'être humain imbattable ! Le secret de l'IA ? Elle connaît des milliers et des milliers de parties, où elle est capable de puiser des "idées" pour jouer ses coups.

C'est quoi, un chatbot ?

Un chatbot (ça se prononce "chatte-botte") est une IA avec laquelle on discute comme avec une personne. On peut dialoguer avec lui par écrit ou en lui parlant sur une enceinte connectée. Les chatbots répondent à des questions, donnent des infos ou commandent des choses sur internet. Il existe même des chatbots qui parlent comme un petit copain ou une petite copine... Au secours !

C'est quoi, ChatGPT ?

ChatGPT est un chatbot qui sait répondre par écrit à des questions précises et rédiger des textes en allant puiser l'information sur internet. Par contre, il est incapable de vérifier cette info, ni de savoir si elle est vraiment intéressante. Pour l'instant, il ne fera donc pas une rédaction aussi bien que toi, si tu te donnes un peu de mal évidemment !

L'IA est-elle capable de conduire une voiture ?

Oui, la voiture autonome existe déjà. Elle est couverte de lasers, de radars et de caméras qui indiquent à son IA ce qui se trouve autour d'elle : route, véhicules, humains, panneaux... Connecté aussi à un satellite qui le renseigne sur le trafic, l'ordinateur prend seul toutes les décisions ! La voiture autonome pose cependant une grande question : qui est responsable en cas d'accident ?

Des taxis sans chauffeur circulent déjà dans plusieurs villes aux États-Unis. Mais des citoyens veulent les faire interdire.

Est-ce que l'IA va beaucoup changer notre vie ?

Dans le futur, les intelligences artificielles seront capables d'accomplir plein de nouvelles tâches : prédire des maladies et proposer les meilleurs médicaments, mieux prévoir la météo, piloter toutes sortes de véhicules, donner des conseils personnalisés à des élèves... Mais ne t'inquiète pas, les maîtres ne vont pas disparaître de sitôt, même si l'IA proposera sans doute un jour à l'école des choses qu'on n'imagine encore même pas !

Une IA est-elle capable de créer une image ?

Oui. Certaines peuvent réaliser des tableaux à la manière de peintres célèbres (comme ce faux tableau de Rembrandt). Une autre IA a gagné un concours de photos sans que le jury se rende compte que le cliché avait été généré par un ordinateur !

Une IA peut-elle truquer des images ?

Avec l'IA, il est de plus en plus facile de modifier des photos et des vidéos : changer des visages, des objets... On peut aussi imiter parfaitement la voix de quelqu'un et lui faire dire ce qu'on veut, dans la langue qu'on veut. Et ainsi propager très vite de fausses informations ! C'est pour ça qu'il faut être méfiant avec certaines images que l'on peut voir ou certains sons que l'on peut entendre.

Comment une IA fabrique-t-elle une fausse photo ?

D'abord, on donne à l'intelligence artificielle des instructions sur l'image qu'on veut produire : ses éléments, son ambiance, son style... L'IA va ensuite chercher sur internet plein de photos existantes pour créer la nouvelle. Mais qui est l'auteur de cette image ? Celui qui a donné les instructions à l'IA, ou ceux dont les images ont été utilisées ? C'est la question pas encore résolue !

Est-ce que les IA peuvent nous surveiller ?

En Chine, qui est une dictature, des caméras capables de reconnaître les visages surveillent les habitants dans la rue. En France, cela est interdit. Mais les IA servent à collecter des informations sur les gens : leurs goûts, leurs achats sur internet, leurs déplacements... Grâce à une loi européenne, les IA ne peuvent pas les récupérer sans autorisation. Et à nous aussi de faire attention aux infos qu'on donne sur nous !

Est-ce qu'une IA peut tuer ?

Plusieurs armées mènent des recherches pour mettre au point des soldats-robots capables de tuer. Un dangereux pouvoir ... Et si un jour l'IA d'un de ces robots était piratée par des gens mal intentionnés ou si elle se retournait contre ses créateurs ? On est encore très loin de ces scénarios, heureusement... Mais de nombreuses personnes, dans le monde entier, exigent que des lois réglementent l'utilisation de ces IA militaires.

L'IA va-t-elle supprimer certains métiers ?

Des machines utilisant des IA ont déjà remplacé des caissiers. Demain, d'autres remplaceront sans doute certains métiers dans la banque, l'informatique, la comptabilité... Et après-demain, des pilotes d'avion. Mais il faudra toujours des gens pour surveiller, entraîner et corriger les intelligences artificielles. Le métier que tu feras n'existe peut-être pas encore, comme éleveur de robot, entraîneur de chatbot ou superviseur de camions autonomes !

Est-ce que les IA pourraient prendre le pouvoir ?

C'est de la science-fiction, puisque personne n'a réussi jusqu'ici à créer d'IA qui se débrouille réellement toute seule ! Mais au fur et à mesure que les IA vont prendre plus d'importance dans nos vies, il va falloir fixer des règles pour les utiliser. Tout le monde doit se mettre d'accord : les scientifiques, les entreprises, les gouvernements et les citoyens. L'une de ces règles serait qu'une intelligence artificielle ne puisse jamais fonctionner sans humain pour la contrôler.

Une IA pourra-t-elle un jour remplacer "Astrapi" ?

Pour remplacer Astrapi, il faudrait que cette IA soit capable de donner des infos vérifiées, de raconter des histoires de Sam et Pat qui correspondent aux vrais problèmes des enfants, de trouver des jeux de mots marrants dans les Trucastuces... Et tout ça, c'est sûr que ce n'est pas pour demain !

Tu veux devenir un(e) pro de l'IA ? Apprends à repérer les images créées par une IA grâce à notre super quiz sur BayaM disponible à partir du 4 octobre. Encore un tout petit peu de patience !

"C'est quoi l'intelligence artificielle ?", Astrapi n°1022, 15 octobre 2023. Textes : Bruno Muscat. Illustrations : Laurent Bazart.

# data[].attributes.attachment_link.title
C'est quoi, l'IA ? Astrapi répond aux questions des enfants !

# data[].attributes.attachment_link.description
Le magazine Astrapi propose à ses lecteurs et lectrices de 7 à 11 ans un grand dossier pour tout comprendre sur l'intelligence artificielle !

# data[].attributes.headline
Ce que l'IA sait faire et ce qu'elle ne peut pas faire

# data[].attributes.subject
Ce que l'IA sait faire et ce qu'elle ne peut pas faire

# data[].attributes.attachment_link.title
Comprendre ce que l’IA sait faire et ce qu’elle ne peut pas faire

# data[].attributes.attachment_link.description
Quand on parle dIntelligence artificielle on mobilise un terme qui qualifie un ensemble de technologies vaguement reliées, expliquent les chercheurs…

# data[].attributes.headline
IA : comment les machines pourraient nous remplacer ?

# data[].attributes.subject
IA : comment les machines pourraient nous remplacer ?

# data[].attributes.body
L’idée de créer un être vivant à notre image est un vieux rêve. Plus fort, plus intelligent, capable de prouesses, ce super humain a nourri l’imaginaire des écrivains et des cinéastes de science-fiction. Et même si nous sommes encore loin des robots de nos films préférés, la technologie qui pourrait les animer existe. Elle s’appelle l’intelligence artificielle : « I.A ». On ne la voit pas et pourtant elle est partout : dans nos téléphones, nos ordinateurs, nos voitures, chez le médecin et elle prend déjà des décisions à notre place… pour le meilleur et parfois pour le pire.

# data[].attributes.attachment_link.readable_text
L'intelligence artificielle (ou IA) est de plus en plus présente dans notre quotidien, notamment au travers de nouveaux produits ou services. Elle repose cependant sur des algorithmes gourmands en données, souvent personnelles, et son usage nécessite le respect de certaines précautions.

Qu'est-ce qu'une intelligence artificielle ?

L'intelligence artificielle n'est pas une technologie à proprement parler mais plutôt un domaine scientifique dans lequel des outils peuvent être classés lorsqu'ils respectent certains critères. Pour se familiariser avec ce domaine, il peut être utile de se référer au glossaire de l'IA publié par la CNIL.

Pour le Parlement européen, l'intelligence artificielle représente tout outil utilisé par une machine afin de " reproduire des comportements liés aux humains, tels que le raisonnement, la planification et la créativité ".

Cette définition pourrait être élargie en incluant les comportements dépassant les capacités humaines, puisque les ordinateurs actuels parviennent aujourd'hui à les surpasser dans certaines tâches (bien que la compétence de l'ordinateur s'arrête généralement à l'exécution de cette tâche). À titre d'exemple, le système d'IA AlphaGo, capable de battre le champion du jeu de go Lee Sedol, est très doué pour élaborer des stratégies à ce jeu, mais ses capacités s'arrêtent ici. Il sera incapable de jouer aux échecs ou d'effectuer d'autres tâches tant que celles-ci ne lui auront pas été inculquées.

Tout système mettant en œuvre des mécanismes proches de celui d'un raisonnement humain pourrait ainsi être qualifié d'intelligence artificielle.

Les algorithmes en pratique : l'exemple des agents conversationnels

Découvrir l'exemple

Pourquoi est-ce important de reconnaître la présence d'une IA ?

Comme toute nouvelle technologie, les systèmes utilisant de l'intelligence artificielle sont encore sujets à des défaillances, à des attaques, ou peuvent avoir des impacts encore insoupçonnés sur les individus et sur la société. Sans remettre en cause les avantages que peuvent proposer ces systèmes, il est néanmoins primordial de connaître les risques auxquels ils exposent les utilisateurs.

Premièrement, tout comme l'humain, ils sont sujets à l'erreur, que celle-ci soit due à une défaillance ou à une discrimination intégrée dans l'outil : on parle alors de biais.

Sur ce point, le règlement général sur la protection des données précise que :

La personne concernée a le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé [...] produisant des effets juridiques la concernant ou l'affectant de manière significative de façon similaire.

- article 22 du RGPD

Autrement dit, l'humain doit garder la main, ce qui a été développé par la CNIL dans un rapport sur les enjeux éthiques de l'intelligence artificielle où les questions d'autonomie et de prise de décision automatisée sont abordées.
Toute personne a ainsi le droit de s'opposer à certains traitements automatisés lorsque ceux-ci n'intègrent pas une intervention humaine dans le processus de décision.

Mon manager est un robot : l'IA en gestion des ressources humaines

Découvrir l'exemple

Pourquoi une IA fait-elle des erreurs ?

Étant donné la complexité des systèmes utilisant l'intelligence artificielle , les sources d'erreur peuvent être multiples.

Les erreurs liées à la conception du système

On distingue en premier lieu les erreurs dans la conception du système, elles peuvent être liées à plusieurs causes.

Un manque de représentativité

Si certains cas réels n'ont pas été pris en compte dans les données d'entraînement, on parle de manque de représentativité.

Exemple : certains algorithmes de reconnaissance faciale entraînés sur des ensembles de données où les personnes de certaines origines ethniques étaient en nombre insuffisant.

Une hypothèse trop approximative

En tant qu'abstraction mathématique, l'algorithme repose sur des hypothèses dont certaines peuvent s'avérer trop approximatives.

Exemple : les algorithmes d'évaluation de la performance des enseignants aux États-Unis ont causé de nombreuses plaintes car l'hypothèse selon laquelle les notes des élèves étaient une preuve directe de la performance d'un enseignant était trop simpliste.

De mauvais critères retenus

Lors de l' entraînement de l'algorithme, celui-ci est évalué sur la réalisation d'une tâche selon certains critères, ou métriques. Les critères et le seuil final choisis ont des conséquences importantes sur la qualité du système final.

Exemple : un seuil bas correspond en réalité à un taux d'erreur plus important délibérément accepté par le concepteur du système. Pour un algorithme de diagnostic médical par exemple, on souhaite surtout éviter les faux négatifs car en cas de faux positif, il nous est toujours possible d'effectuer davantage de tests. Il pourra ainsi être choisi d'utiliser un seuil bas pour les faux positifs (ce qui augmente leur nombre) si cela permet d'avoir un seuil plus élevé sur les faux négatifs (ce qui réduira leur nombre).

Les erreurs liées aux conditions d'utilisation

Des erreurs peuvent également survenir à cause des conditions d'utilisation du système d'IA.

Une mauvaise qualité des données

La qualité des données fournies au système lors de son utilisation modifie sa performance.

Exemple : cela peut être observé lorsqu'on utilise un assistant vocal dans un environnement bruyant : la qualité de la compréhension de l'assistant en est alors diminuée.

Des défauts liés au matériel ou à ses contraintes

Quand le système est dépendant de composants physiques comme des capteurs, la qualité de la sortie du système dépendra de l'état de ces composants.

Exemple : un système de détection d'incivilités par vidéosurveillance pourra être sujet à plus d'erreurs si déployé sur un parc de caméra de résolution insuffisante.

Les autres risques de défaillance

Enfin, comme tout système complexe, les systèmes d'intelligence artificielle ne sont pas exempts des défaillances classiques des systèmes informatiques qui peuvent intervenir sur les infrastructures physiques où sont réalisés les calculs, lors de la communication d'information, ou encore à cause d'une erreur humaine.

Là où les systèmes d'intelligence artificielle se distinguent de systèmes informatisés plus classiques, c'est dans les difficultés que posent l'identification du problème : on parle de l'explicabilité. En effet, et en particulier dans les systèmes appelés " profonds ", tels que les réseaux de neurones, le nombre de paramètres utilisés fait qu'il est souvent impossible de comprendre d'où vient l'erreur. Pour limiter ce risque, il est recommandé de conserver certaines données utiles au système pour une durée proportionnée : c'est la traçabilité.

Dis-moi ce que tu cherches, je te dirai qui tu es : les algorithmes de profilage en ligne

Découvrir l'exemple

Où la CNIL intervient-elle ?

L'accompagnement de la CNIL

La CNIL est attentive au développement de ces nouveaux outils.

Tout d'abord, dans le cadre de sa mission d'accompagnement, pour pouvoir conseiller utilement les pouvoirs publics, les chercheurs et les entreprises.

Ensuite, au travers des missions de contrôles qu'elle réalise sur des dispositifs effectivement mis en œuvre.

Enfin, par une action de veille visant par exemple à identifier de nouveaux modes d'attaques ou des biais conduisant à des traitements de données illicites.

Afin d'apporter un éclairage sur les enjeux de l'intelligence artificielle (IA) et d'accompagner les professionnels dans la mise en conformité de leurs projets, la CNIL publie un ensemble de contenus dédiées à l'IA. Elle invite chacun à contribuer et enrichir ces travaux via l'adresse dédiée ia[@]cnil.fr.

De nouveaux cadres européens à venir

Plusieurs cadres réglementaires visant à préciser les conditions d'utilisation de l'intelligence artificielle sont actuellement en cours d'élaboration au niveau européen. De nombreux textes, qui auront des implications en termes de protection des données, devraient ainsi voir le jour dans les années à venir.

Premièrement, le règlement ePrivacy (évolution de la directive ePrivacy actuelle) précisera quelles règles du RGPD seront applicables dans la protection de la vie privée en ligne des citoyens. Ce texte pourrait avoir des conséquences majeures pour les acteurs de l'intelligence artificielle qui proposeront des services de communication électroniques.

Le Digital Markets Act (DMA), le Digital Services Act (DSA), et le Digital Governance Act (DGA), encadreront le marché des grandes plateformes numériques. Le DSA, notamment, a pour objectif d'accentuer la transparence et la responsabilisation (accountability), des plateformes envers les usagers. Ce texte pourrait également avoir des conséquences pour les plateformes utilisant des algorithmes de recommandation. Plus récemment introduit, le Data Act, vise à faciliter les échanges de données au sein de l'Europe.

Enfin, le règlement sur l'intelligence artificielle (RIA) proposé par la Commission européenne en avril 2021, proposera une approche par les risques pour encadrer les usages des systèmes d'intelligence artificielle et faciliter l'émergence de solutions innovantes et respectueuses des droits et libertés des personnes. La CNIL s'est prononcée avec ses homologues européens sur ce texte, et s'est positionnée pour assumer le rôle d'autorité de contrôle en charge de l'application du règlement en France.

Vous souhaitez contribuer ?

# data[].attributes.attachment_link.title
Intelligence artificielle, de quoi parle-t-on ?

# data[].attributes.attachment_link.description
Qu'est-ce qu'une intelligence artificielle ? L'intelligence artificielle n'est pas une technologie à proprement parler mais plutôt un domaine scientifique dans lequel des outils peuvent être classés lorsqu'ils respectent certains critères.

# data[].attributes.body
Source : la CNIL

# data[].attributes.attachment_link.title
Glossaire de l'intelligence artificielle (IA)

# data[].attributes.attachment_link.description
Protéger les données personnelles, accompagner l'innovation, préserver les libertés individuelles

# data[].attributes.headline
Journal des Petits Citoyens - 17.04.2023

# data[].attributes.subject
Journal des Petits Citoyens - 17.04.2023

# data[].attributes.body
L’intelligence artificielle de plus en plus performante

# data[].attributes.headline
Journal des Petits Citoyens - 18.03.2024

# data[].attributes.subject
Journal des Petits Citoyens - 18.03.2024

# data[].attributes.body
A la découverte de l’intelligence artificielle & Chat GPT

# data[].attributes.headline
Journal des Petits Citoyens - 27.01.2025

# data[].attributes.subject
Journal des Petits Citoyens - 27.01.2025

# data[].attributes.body
Les Réseaux sociaux et l'IA

# data[].attributes.body
Sélection subjective de 60 outils d’IA génératives gratuits ou freemium en 10 catégories : éducation, chatbots, analyse de documents, présentation, quiz et flashcards, musique, voix, recherche, image et vidéo, applications et agents

Source : https://www.uneiaparjour.fr/selection-outils/

# data[].attributes.headline
Définition et utilisation selon le Parlement Européen

# data[].attributes.subject
Définition et utilisation selon le Parlement Européen

# data[].attributes.body
"Qu’entend-on exactement par « IA » et comment affecte-t-elle notre quotidien ?"

# data[].attributes.attachment_link.readable_text
L'IA au quotidien

Voici quelques exemples d'utilisation de l'IA au quotidien qui vous avait peut-être échappé :

Achats en ligne et publicité

L'intelligence artificielle est fréquemment utilisée lorsqu'on fournit des recommandations personnalisées aux utilisateurs, basé (par exemple) sur leur historique de recherche ou d'achat ou encore sur leur comportement en ligne. L'IA est d'une très grande importance dans le monde du commerce - elle permet d'améliorer les produits, mieux gérer l'inventaire et la logistique, etc.

Recherche en ligne

Les moteurs de recherche évoluent alors qu'ils engrangent un flot massif de données fournit par les utilisateurs, afin de leur procurer des résultats plus pertinents.

Assistants numériques personnnels

Les smartphones emploient l'IA pour proposer un produit aussi pertinent et adapté que possible. Les assistants virtuels (désormais partout présents) répondent aux questions, fournissent des recommandations et aide à gérer les taches quotidiennes.

Traduction automatique

Les logiciels de traduction, basés sur la langue écrite ou parlée, repose sur l'intelligence artificielle pour fournir des traductions sans cesse améliorées. Cette approche s'applique également lors de la génération automatique de sous-titres.

Maisons, villes et infrastructures connectées

Certains thermostats analysent nos comportements pour mieux économiser l'énergie, alors que les urbanistes des villes connectées espèrent réduire les bouchons et mieux gérer la circulation.

Voitures

Alors que les véhicules autonomes ne sont pas encore devenus la norme, nos voitures utilisent déjà des fonctions de sécurité basées sur l'IA. L'UE a par exemple soutenu le financement de VI-DAS, des capteurs automatiques qui détectent les situations potentiellement dangereuses et les accidents.
Le fonctionnement des systèmes de navigation repose fortement sur l'IA.

Cybersécurité

Les systèmes dotés de l'IA peuvent aider à détecter et combattre les cyberattaques et autres menaces, en utilisant le flot continu de données pour déceler des figures et remonter à la source des attaques.

L'IA contre la Covid-19

L'IA permet de lutter contre la Covid-19, en l'employant dans les aéroports lors de la production d'imageries thermiques ainsi que dans d'autres cas de figure. Dans le domaine médical, l'IA permet de détecter l'infection par lorsque les poumons de patients sont soumis à une tomographie par ordinateur. Elle a aussi permis de recueillir des données afin de suivre l'évolution des infections.

La lutte contre les fausses informations

L'IA permet de détecter les fausses informations et les cas de désinformation en parcourant le contenu des réseaux sociaux pour repérer des mots clés ou des termes alarmistes, en identifiant les sources peuvent être considérées comme étant fiables.
Apprenez-en plus sur la façon dont les députés souhaitent façonner la législation sur les données pour stimuler l'innovation et garantir la sécurité.
Autres exemple d'utilisation de l'intelligence artificielle

L'IA est appelée à transformer presque tous les aspects de notre quotidien et de l'économie en général. Voici quelques exemples.

Santé

Les chercheurs étudient comment employer l'IA pour analyser un très grand nombre de données liées à la santé pour repérer des motifs récurrents qui meneraient à de nouvelles découvertes et des moyens d'améliorer les diagnostics individuels.

En voici une illustration: des chercheurs ont développé un programme d'IA qui répond aux appels d'urgence qui devrait détecter les cas d'arrêts cardiaques durant l'appel plus rapidement et fréquemment qu'un répartiteur médical. On trouve un autre exemple dans le projet cofinancé par l'UE, KConnect, qui développe des services de recherche et de texte multilingues qui aident les personnes à trouver les renseignements médicaux les mieux adaptés à leurs besoins.

Transport

L'IA pourrait aider à améliorer la sécurité, la rapidité et l'efficacité du transport ferroviaire en réduisant le frottement des roues, augmentant la vitesse des trajets et en favorisant la conduite autonome.

Fabrication

L'IA peut aider les fabricants européens à améliorer leur efficacité et réinstaller des usines en Europe en employant des robots lors du processus de fabrication ou en prédisant avec précision l'entretien et les pannes dans les usines connectées.

Le projet SatisFactory, cofinancé par l'UE, utilise des systèmes collaboratifs et de réalité augmentée pour accroitre le bien-être au travail dans les usines connectées.

Alimentation et agriculture

L'IA peut être employée lors de l'élaboration d'un système d'alimentation durable dans l'UE : elle peut garantir la disponibilité d'aliments plus sains en diminuant le recours aux engrais, pesticides et à l'irrigation. Elle peut aussi augmenter le taux de productivité et réduire l'impact climatique. Des robots pourraient retirer les mauvaises herbes et donc réduire l'utilisation de pesticides, par exemple.

De nombreuses fermes partout dans l'UE ont déjà recours à l'IA pour contrôler les mouvements, la température corporelle et la consommation alimentaires de leurs animaux.

Administration publique et services

En utilisant un large éventail de données et en employant la reconnaissance de formes, l'IA pourrait fournir des alertes précoces dans le cadre de catastrophes naturelles et permettre une meilleure préparation et gestion des retombées.

# data[].attributes.attachment_link.title
Intelligence artificielle : définition et utilisation | Thèmes | Parlement européen

# data[].attributes.attachment_link.description
L'intelligence artificielle (IA) est en passe de devenir la " technologie clé de l'avenir ". Mais qu'entend-on exactement par " IA " et comment affecte-t-elle notre quotidien ?

# data[].attributes.body
Dans le RIA ou IA Act, premier règlement mondial sur l'Intelligence Artificielle

# data[].attributes.attachment_link.title
Article 3 : Définitions - Loi européenne sur l’intelligence artificielle

# data[].attributes.attachment_link.description
Aux fins du présent règlement, les définitions suivantes s’appliquent :

# data[].attributes.headline
FramIActu n°3 — La revue mensuelle sur l’actualité de l’IA !

# data[].attributes.subject
FramIActu n°3 — La revue mensuelle sur l’actualité de l’IA !

# data[].attributes.body
Sommaire

Tout ce que vous dites à votre Echo est envoyé à Amazon

Google dégrade volontairement ses résultats de recherche

Une démonstration vulgaire de pouvoir

L’infrastructure du libre est attaquée par les entreprises d’IA

# data[].attributes.attachment_link.title
FramIActu n°3 — La revue mensuelle sur l’actualité de l’IA !

# data[].attributes.attachment_link.description
Google dégrade ses résultats de recherche, Amazon récolte les enregistrements audio des enceintes Echo, OpenAI montre les muscles et l’IA met à mal l’infrastructure du Libre... bienvenue dans la troisième FramIActu !

# data[].attributes.body
Un jour, un outil d’IA générative.
756 outils, gratuits ou freemium, testés et publiés via #uneIAparjour sur les réseaux sociaux.

# data[].attributes.attachment_link.description
GreenPT (greenpt.ai) est un chatbot avec deux modèles de langage, multimodale, avec connexion possible au web et API, conçu dans…

# data[].attributes.body
... Loin de là !

# data[].attributes.attachment_link.readable_text
Le terme "intelligence artificielle" (IA) semble n'être apparu qu'au milieu du 20e siècle, mais l'idée de construire des systèmes intelligents fascine les êtres humains depuis déjà des milliers d'années : bien avant la révolution industrielle et bien avant l'invention du premier ordinateur numérique. L'IA est d'ailleurs depuis toujours un sujet récurrent dans les romans de science-fiction.

Depuis sa définition officielle dans les années 1950, le domaine de l'IA a connu de nombreux hauts et bas, des périodes d'enthousiasmes puis de déceptions, des réussites et des impasses. Au cours des dernières décennies, l'IA a certes fait des progrès considérables, mais elle n'a pas tenu bon nombre de ses premières promesses, du moins jusqu'à présent.

Nous avons assisté à la création de systèmes d'IA qui ont changé notre façon de penser l'intelligence humaine et nous ont appris à mieux apprécier sa complexité. Dans cet article, nous présenterons un bref historique de l'intelligence artificielle et nous examinerons ses principales réalisations tout en gardant à l'esprit les leçons tirées en cours de route.

Nous reviendrons sur les principaux événements qui ont marqué l'histoire de l'IA. En particulier, nous détaillerons les étapes phares des 70 dernières années, qui comme cette frise chronologique nous le montre, ont été particulièrement mouvementées.

Histoire ancienne

Des mythologies anciennes à la science-fiction du XIXe siècle

Les ingénieurs, les artistes et les scientifiques ont toujours joué avec l'idée de créer une forme d'intelligence qui ne soit pas d'origine humaine. La mythologie grecque antique décrit d'ailleurs déjà alors un robot géant en bronze appelé Talos, qui gardait l'île de Crète en jetant des pierres aux pirates et aux envahisseurs. Et plus de deux mille ans plus tard, on retrouve le même thème dans le roman de Mary Shelley, Frankenstein, dans lequel un jeune scientifique entreprend de créer ses propres êtres sensibles.

Plus récemment, en 1950, au moment même où les premières occurrences du terme "IA" apparaissent, le professeur de biochimie et écrivain américano-russe Isaac Asimov écrit "I, Robot", dans lequel il discute de la coexistence pacifique des humains et des robots autonomes à l'aide de ses Trois lois de la robotique.

Au cinéma, nous avons été initiés aux systèmes autonomes intelligents comme HAL 9000 dans "2001 : L'odyssée de l'Espace" du réalisateur américain Stanley Kubrick et "J.A.R.V.I.S" (Just A Rather Very Intelligent System), l'assistant personnel d'IA d' Iron Man dans la série de films Marvel Avengers.

Les écrivains et scénaristes se sont toujours inspirés des avancées scientifiques contemporaines pour nourrir leurs histoires. Nous aimons tous nous imaginer toutes sortes de fantasmes sur la possibilité de créer des entités artificiellement intelligentes et ces fantasmes ont d'ailleurs toujours quelque chose à dire sur l'état actuel du progrès scientifique et sur ce que nous pensons être réellement possible.

En effet, nous aimons ancrer nos rêves dans une forme de réalité afin de les rendre plausibles. C'est pourquoi nous allons brièvement aborder l'histoire de l'IA en tant que science à part entière en examinant l'ingénierie, la logique, les mathématiques et l'informatique.

Presque toutes les civilisations ont essayé de construire des machines qui imitent l'humain à un moment donné de leur histoire, même si certaines de ces tentatives ont pu être quelque peu grossières. Examinons-en quelques-unes... Dans la Chine antique, un ingénieur connu sous le nom de "l'artificier" Yan Shi a présenté au roi Mu un automate grandeur nature. Dans la Grèce antique, Héron d'Alexandrie, ingénieur, mécanicien et mathématicien grec a exploité les prémices de la mécanique pour construire lui aussi ses "hommes" mécaniques.

En 1206, au plus fort de l'âge d'or islamique, l'inventeur et ingénieur arabe Ismail al-Jazari a construit un robot musical et écrit le Livre de la connaissance des dispositifs mécaniques ingénieux. Ce livre décrit 100 dispositifs mécaniques, avec des instructions sur leur utilisation.

À la fin du XVIIIe siècle, le Turc mécanique était présenté comme une machine de jeu d'échecs autonome capable de battre n'importe quel joueur humain. C'était une arnaque - un grand maître d'échecs était toujours caché à l'intérieur et effectuait tous les coups - mais l'illusion a pris parce qu'elle était fondée sur l'idée passionnante qu'une machine pourrait être capable de jouer à un jeu logique contre nous. Et de gagner !

En philosophie, des chercheurs grecs, indiens et chinois sont tous arrivés indépendamment les uns des autres à la formalisation des systèmes logiques et du raisonnement déductif. Aristote est réputé pour être le premier logicien de la culture occidentale, et au cours des siècles suivants, ses idées ont été développées par de nombreux autres, dont Euclide, père de la géométrie, et Al-Khwarizmi, dont le nom est d'ailleurs à l'origine du mot "algorithme", la pierre angulaire de l'informatique.

Au XVII ème siècle, plusieurs machines ont été développées dans le but d'effectuer des calculs numériques plus rapidement et avec plus de fiabilité que les humains. En 1837, Charles Babbage, mathématicien, philosophe, inventeur et ingénieur en mécanique britannique a conçu l'Analytical Engine, le premier ordinateur à usage général qui contenait de nombreux éléments conceptuels encore présents dans les ordinateurs actuels. Il disposait d'un programme informatique, de données et de projections arithmétiques, tous enregistrés sur des cartes perforées. Peu de temps après, la mathématicienne et écrivaine britannique Ada Lovelace a publié le premier algorithme informatique - autrement dit le premier logiciel - alors compatible avec cet "ancêtre des ordinateurs modernes".

Cependant, ce n'est que dans la première moitié du XXe siècle que les progrès réalisés dans les domaines de la logique formelle et de l'informatique ont été suffisamment importants pour permettre la création des premiers ordinateurs numériques dans les années 1940. C'est ce développement crucial qui a permis l'émergence de l'IA en tant que nouvelle discipline dans les années 1950.

La naissance de l'IA

La création du domaine au milieu du 20e siècle

Suite à l'invention de l'ordinateur numérique au milieu du XXe siècle, les scientifiques ont commencé à se demander si les ordinateurs pouvaient aller au-delà d'une simple exécution de calculs et d'instructions déterministes.

Un ordinateur pourrait-il faire preuve d'intelligence ? Pourrait-il penser comme un humain ? Cette question a suscité un large éventail de questions philosophiques étant donné que la définition même de l'intelligence humaine inclut déjà des concepts difficiles, comme par exemple la conscience.

C'est Alan Turing, considéré comme le fondateur de l'informatique moderne, qui a proposé une méthode pour mesurer l'intelligence des machines. Dans son ouvrage de référence, Computing Machinery and Intelligence, Turing a abordé la question "Une machine peut-elle penser ?" en se demandant si une machine pouvait faire preuve d'intelligence humaine par son comportement et imiter la capacité de penser. En d'autres termes, la machine pourrait-elle se faire passer pour un humain ?

Il a ensuite proposé un test pour les machines, appelé le jeu d'imitation, qui permettrait de décider si une machine est intelligente ou non. Ce test a été baptisé "test de Turing" et, dans sa forme originale, il considérait qu'une machine était intelligente si elle était capable d'avoir une conversation textuelle avec un humain sans que celui-ci ne puisse débusquer qu'elle soit une machine et non un être humain.

Alors, à quoi ressemble le test de Turing ? Imaginez-vous un instant dans une conversation en ligne par le biais de messages textuels (type "chat"). Vous pouvez poser des questions et évaluer les réponses. Si vous interagissez avec une machine, mais que vous ne pouvez pas affirmer avec certitude que c'est une machine d'après les réponses qu'elle donne, alors nous pouvons dire que la machine a passé le test de Turing avec succès, et donc qu'elle est intelligente !

Cette idée de Turing a reçu beaucoup de soutien, mais aussi quelques critiques. Cela dit, même malgré les craintes que le test ne soit pas idéal pour évaluer l'intelligence des machines, il reste encore largement utilisé aujourd'hui.

La principale préoccupation de Turing était que les machines seraient limitées par la mémoire et n'en auraient jamais assez pour passer son test. Il a prédit dans les années 50 qu'un ordinateur serait capable de réussir le test seulement s'il pouvait stocker 100 Mo de mémoire, et cela donc d'ici l'an 2000. Et pourtant, la mémoire des machines a beau avoir dépassé largement les 100 Mo de mémoire il y a quelques années, celles qui réussissent le test de Turing restent extrêmement rares.

Et même en réussissant le test, certains scientifiques se demandent si les machines peuvent vraiment être considérées comme des imitations réussies de l'intelligence humaine. Les débats sur le test de Turing ont mis en lumière à quel point il est difficile de mesurer et de comparer la complexité de l'intelligence humaine avec les capacités des machines.

Dans les années qui ont suivi le test de Turing, les domaines de l'intelligence des machines et des machines pensantes ont commencé à prendre forme. Le terme "intelligence artificielle" a été utilisé pour la première fois par John McCarthy lors du projet de recherche d'été de Dartmouth sur l'intelligence artificielle de 1956, également connu sous le nom d'atelier de Dartmouth. Il s'agissait d'un rassemblement de certains des plus éminents scientifiques, ingénieurs, mathématiciens et psychologues de l'époque. Pendant deux mois, ils ont combiné leurs expertises, créant alors un nouveau domaine d'étude que McCarthy a ensuite dûment nommé "intelligence artificielle".

L'atelier de Dartmouth est considéré comme l'événement fondateur dans l'histoire de l'IA. De nombreux concepts encore utilisés aujourd'hui, tels que les "réseaux neuronaux" et le "traitement du langage naturel" ont été débattus lors de cette conférence.

Les premières années de l'IA

Les échecs, les dames et l'enthousiasme des années 1950 et 1960

Le fait d'avoir formalisé l'IA comme un domaine d'étude à part entière a permis de susciter l'intérêt de la communauté scientifique et de rapidement produire des avancées significatives.

Nombre des premiers programmes informatiques capables de jouer à des jeux, de résoudre des énigmes, de prouver des théorèmes mathématiques et d'effectuer des raisonnements artificiels ont été développés dans les années qui ont suivi l'atelier de Dartmouth. Les concepts d'apprentissage machine (machine learning) et de réseaux de neurones artificiels (neural networks), deux des principaux piliers des systèmes d'IA actuels, ont également été formalisés à cette époque.

La capacité de jouer aux échecs a toujours été étroitement associée à l'idée d'intelligence. Et c'est en 1950 que Claude Shannon, le fondateur de la théorie de l'information, a décrit le premier programme informatique capable de jouer aux échecs. Shannon a décrit deux approches que l'ordinateur pouvait adopter pour gagner une partie :

1. La machine examine l'échiquier et épuise tous les coups possibles.

2. La machine suit une stratégie plus intelligente et ne considère qu'un nombre déterminé de coups clés.

Shannon était également connu pour l'invention de Thésée, une souris mécanique capable d'explorer un labyrinthe, de le résoudre et d'en déduire la sortie.

À peu près à la même époque, Arthur Samuel, ingénieur chez IBM, a écrit le premier programme informatique capable de jouer aux dames en apprenant et en adaptant sa stratégie. Il était assez bon pour défier les joueurs amateurs et a été un grand succès pour Samuel et son employeur. Son programme d'auto-apprentissage utilisait un concept qui est maintenant connu sous le nom d'"apprentissage par renforcement" (reinforcement learning). Samuel est également connu pour avoir inventé le terme "apprentissage machine".

Une autre percée a eu lieu en 1956 lorsque les américains Allen Newell, Cliff Shaw et Herbert Simon respectivement chercheur, informaticien et économiste, ont écrit un programme informatique appelé Logic Theorist. C'était le premier programme capable d'effectuer un raisonnement automatisé qui simule la façon dont les humains pensent pour résoudre des problèmes.

Logic Theorist faisait partie de ce qu'on appelle l'IA symbolique, qui était la branche dominante de l'IA dans les années 1950, 1960 et 1970 alors que les approches modernes de l'IA sont plutôt basées sur l'apprentissage par l'expérience. L'IA symbolique se distingue de l'apprentissage par l'expérience en ce sens qu'il s'agit d'une approche qui vise à imiter l'intelligence humaine en suivant un ensemble de règles de raisonnement symboliques pré-codées. Logic Theorist a pu prouver de nombreux théorèmes mathématiques dans Principia Mathematica de Bertrand Russel, un ouvrage de référence sur la logique formelle. Il a même été crédité comme le co-auteur d'un article scientifique avec deux autres mathématiciens.

La fin des années 1950 et le début des années 1960 ont également marqué le développement de réseaux neuronaux artificiels dans le domaine de l'apprentissage machine. Le meilleur exemple des travaux réalisés dans ce domaine est peut-être l'algorithme "Perceptron" de Frank Rosenblatt, qui a été capable de reconnaître ce qu'il y avait dans des images et d'apprendre la différence entre certaines formes géométriques.

Ces inventions et percées passionnantes du milieu du XXe siècle ont suscité un immense enthousiasme pour l'IA. À l'époque, ces premières réalisations étaient si impressionnantes qu'elles semblaient à peine crédibles. Peu de temps après, des laboratoires d'IA ont commencé à apparaître dans le monde entier grâce aux généreux financements des gouvernements et entreprises.

L'hiver de l'IA

Attentes trop ambitieuses et stagnation des années 1970 et 1980

Les premières réalisations de l'IA dans les années 1950 et 1960 ont entraîné une vague de confiance excessive et d'attentes irréalistes. Les personnalités éminentes du domaine de l'IA étaient, à juste titre, enthousiasmées par ce qu'elles avaient déjà vu et s'attendaient à ce que des avancées tout aussi impressionnantes se poursuivent et au même rythme que les précédentes.

Parfois, l'enthousiasme devenait même un peu excessif. Par exemple, au début des années 1970, plusieurs pionniers de l'IA ont prédit que les machines atteindraient l'intelligence générale d'un être humain moyen effectuant des tâches quotidiennes dans un délai de 10 ans. Cela fait maintenant 50 ans que ces prédictions ont été faites et force est de constater qu'elles sont encore très loin de se réaliser.

L'écart entre ces prédictions ambitieuses et les réalisations décevantes des années 1970 et 1980 a entraîné une certaine déception envers l'IA et une diminution d'intérêt. Les principales sources de financement ont commencé à se faire plus rares, provoquant un fort déclin des activités de recherche, tant sur le plan scientifique que commercial. Le domaine de l'IA a commencé à stagner et n'a pas connu de véritable relance avant les années 1990. Cette période est connue sous le nom d'"hiver de l'IA", un terme emprunté à la guerre froide en cours et à l'idée d'un hiver nucléaire.

Pourquoi les attentes étaient-elles si déraisonnablement élevées en ce qui concerne le potentiel de l'IA ? Tout d'abord, l'IA a connu un succès remarquable sur quelques problèmes élémentaires et cela a donné aux ingénieurs une fausse impression de ses capacités. On pensait naturellement que pour résoudre des problèmes plus généraux, il était simplement question de mettre à la disposition des machines une mémoire plus importante et des ressources de calcul plus importantes. On a surestimé le potentiel de l'IA sans réaliser la complexité des nombreux problèmes qu'il lui restait encore à résoudre.

Même à cette époque, la plupart des experts avaient tendance à sous-estimer la quantité de matériel, de mémoire, de données et de puissance de calcul dont leurs systèmes avaient réellement besoin. Ils savaient qu'ils manquaient de certaines ressources, mais ils n'avaient pas la moindre idée de l'ampleur de ce manque. De plus, les premières IA étaient encore souvent basées sur des règles, alors qu'étant donnée la complexité des tâches demandées, elles auraient dû tenter de les accomplir par l'expérience des essais et des erreurs.

L'hiver de l'IA a été brièvement interrompu au début des années 1980 par un bref boom, dû à l'essor des "systèmes experts" commerciaux. Ces systèmes sont des programmes informatiques d'IA qui tentent d'imiter l'expertise humaine dans des domaines spécifiques, au lieu d'essayer d'atteindre un niveau d'intelligence plus général. Il s'agissait d'une autre forme d'IA symbolique qui utilisait des connaissances spécifiques à un domaine et un raisonnement basé sur des règles au lieu d'apprendre par l'expérience.

Les systèmes experts sont devenus extrêmement populaires et ont été déployés à grande échelle pour effectuer toutes sortes d'activités commerciales, de diagnostics médicaux, de configuration de matériel informatique et de traitement du langage naturel (natural language processing). Le succès des systèmes experts a ravivé l'intérêt pour l'IA et a entraîné un nouvel investissement de la part des gouvernements.

La cinquième génération de systèmes informatiques du Japon est l'une des grandes initiatives liées à l'IA de cette période. Son objectif était de construire des systèmes informatiques puissants capables d'enfin réaliser les promesses des années 1950 et 1960, et le projet s'est poursuivi jusqu'en 1990. Malheureusement, il a largement échoué dans ses ambitions, et de nouveau une période de battage médiatique et d'attentes irréalistes s'est soldée par une déception générale.

La renaissance

La renaissance de l'apprentissage machine et des réseaux de neurones à la fin des années 1980 et dans les années 1990

Certaines limites de l'IA classique dont les approches fondées sur des règles et le raisonnement symbolique ont été identifiées et ont conduit à un changement d'orientation à la fin des années 1980. Une meilleure compréhension de l'intelligence humaine et de la complexité de la prise de décision a encouragé les experts en IA à se pencher plus attentivement sur les approches fondées sur l'apprentissage et les probabilités.

Les humains acquièrent leur intelligence en suivant des instructions et en effectuant un raisonnement déductif, mais ils apprennent également par l'expérience et la répétition d'essais et d'erreurs. Pourquoi n'en serait-il pas de même pour les machines intelligentes ? C'est la question que les ingénieurs en IA ont commencé à se poser, et bientôt les machines ne se sont plus limitées au raisonnement formel. Au lieu de cela, elles ont commencé à être équipées des capacités nécessaires pour apprendre par l'exemple.

L'apprentissage machine (machine learning), un terme déjà inventé par l'informaticien chercheur américain Arthur Samuel des décennies plus tôt, était de retour en force. Ce nouveau paradigme, qui a débuté à la fin des années 1980, utiliserait les statistiques et les probabilités pour permettre aux machines d'apprendre à partir des données disponibles et de s'adapter en s'appuyant sur les expériences précédentes. Bientôt, l'IA se connecte à d'autres disciplines matures et rigoureuses comme la théorie de la décision, les statistiques, la théorie du contrôle et l'optimisation.

Cela a conduit à des avancées majeures dans les domaines de la reconnaissance vocale, du traitement du langage naturel, de la robotique et de la vision par ordinateur. Cette nouvelle approche a donné une nouvelle vague de résultats impressionnants, ainsi qu'une meilleure compréhension théorique de certains concepts fondamentaux de l'IA.

Tout comme dans les années 1950 et 1960, les réalisations et les innovations individuelles ont commencé à prendre de l'ampleur - et à progresser davantage. Très vite, l'intérêt pour les réseaux neuronaux artificiels, qui représentent un groupe de modèles d'apprentissage machine inspirés des neurones biologiques et introduits au milieu du XXe siècle, a connu un regain d'intérêt. Cela était notamment dû à la réinvention de l'un des principaux algorithmes utilisés pour entraîner ces réseaux - l'algorithme de "rétropropagation".

Suite à cela, un nouveau modèle de réseaux neuronaux artificiels appelés réseaux neuronaux convolutifs a été inventé par l'informaticien et chercheur français Yann Le Cun. Ce modèle a connu un grand succès dans la reconnaissance optique des caractères (identification automatique des lettres et des chiffres dans les images de textes tapés ou écrits à la main) et a été déployé dans plusieurs applications industrielles - principalement le tri automatique du courrier par les services postaux.

Échec et mat pour l'IA aux échecs

Vous vous souvenez de l'algorithme d'Arthur Samuel qui était capable de défier des joueurs amateurs aux dames dans les années 1950 ?

Eh bien, pour donner une idée de l'ampleur des progrès de l'IA au XXe siècle, il convient de noter ici que les années 1990 ont vu la défaite du champion du monde d'échecs, Garry Kasparov, par l'ordinateur Deep Blue d'IBM. Ce fut une étape majeure dans le développement de l'IA et elle a été réalisée avec l'IA symbolique classique, plutôt qu'avec le véritable "deep learning" qui a émergé au 21ème siècle. A noter que le "deep" dans le nom de la machine d'IBM est une pure coïncidence.

G. Kasparov, alors champion du monde du jeu d'échecs, en difficulté face au joueur qui suit les décisions du superordinateur IBM Deep Blue. Il finira d'ailleurs par perdre...

La révolution

Les données massives (big data) et l'apprentissage profond (deep learning) du 21e siècle

La création du World Wide Web et le développement du secteur des télécommunications ont facilité la transmission et le stockage de données à grande échelle au cours des années 2000. Ces développements ont donné aux réseaux neuronaux et aux algorithmes d' apprentissage profond le carburant dont ils avaient besoin pour commencer à faire des progrès significatifs : des données, beaucoup de données, ce qu'on appelle le big data.

Le battage médiatique actuel autour de l'IA est largement attribuable aux progrès sans précédent du deep learning qui ont été rendus possibles par la disponibilité de larges quantités de données, et les machines surpassent maintenant continuellement les humains dans des tâches complexes.

Le deep learning commence vraiment à décoller au début des années 2010, grâce notamment au travail des scientifiques américains Yoshua Bengio, Geoffrey Hinton et du français Yann LeCun. L'abondance des données, les progrès des algorithmes d'apprentissage et l'augmentation de la puissance de calcul ont donné aux pionniers comme eux l'occasion de réaliser des prouesses époustouflantes en matière de reconnaissance vocale, de traitement du langage naturel, de reconnaissance visuelle et d'apprentissage par renforcement.

Le meilleur exemple est peut-être le programme informatique AlphaGo, développé par la société d'IA DeepMind. Le "go" est un jeu infiniment plus compliqué que les échecs, mais ce programme a réussi à apprendre les règles du jeu à partir de rien et surtout à battre en quelques mois d'apprentissage seulement le champion du monde Lee Sedol en 2016. Il a fallu 40 ans pour passer de l'algorithme de base du jeu de dames d'Arthur Samuel à Deep Blue, l'algorithme qui a battu Kasparov, alors champion du monde d'échecs. Depuis cela, AlphaGo est sorti victorieux du jeu de go en 20 ans seulement soit en deux fois moins de temps.

L'histoire relativement courte de l'IA a déjà de précieuses leçons à nous enseigner sur le contrôle du battage publicitaire et la gestion des spéculations ou des attentes trop ambitieuses. Nous nous devons de canaliser notre enthousiasme pour cette technologie fascinante de manière à produire des progrès continus, et éviter de vivre un nouvel "hiver" de l'IA.

Pour ce faire, nous devons mieux comprendre la complexité de l'intelligence humaine et les limites de l'IA.

# data[].attributes.attachment_link.description
Des mythologies anciennes à ses dernières avancées, découvrez l'histoire de l'intelligence artificielle (IA) et les individus qui ont contribué à la façonner.

# data[].attributes.headline
Les mythes ne sont jamais très loin de l'histoire

# data[].attributes.subject
Les mythes ne sont jamais très loin de l'histoire

# data[].attributes.attachment_link.description
La technologie ne produit pas que des solutions, elle produit aussi beaucoup de promesses, dimaginaires, didéologies et de mythes. Derrière le…

# data[].attributes.body
Une IA au service des agents France Services.

Objectif : améliorer la qualité et l'efficacité des services administratifs.

# data[].attributes.attachment_link.readable_text
Une première phase de cadrage a été réalisée afin de proposer un outil adapté aux besoins des conseillers. Albert a ainsi été construit sur la base des retours d'un panel représentatif de près de soixante conseillers France services volontaires. Ils ont pu échanger sur leurs besoins avec une designer spécialisée. La DINUM a également procédé à des immersions pour observer les méthodes et environnements de travail des France services.

Il a ensuite été proposé aux conseillers expérimentateurs une phase d'acculturation aux sujets de l'intelligence artificielle et du fonctionnement du modèle d'intelligence artificielle générative Albert (usages, règles d'utilisation, limites...). La montée en compétences des conseillers France services sur ces sujets est également un objectif de cette expérimentation.

La version beta du modèle Albert est actuellement en phase de test au sein de plus de 40 France services, représentant près de quatre-vingt conseillers France services, réparties dans les départements de la Vienne (86), Deux-Sèvres (79), Rhône (69), Allier (03) et Meurthe-et-Moselle (54), Var (83).

La phase d'évaluation prend en compte les retours réalisés directement depuis l'outil un journal de bord (remontées du réseau des conseillers consultant Albert) et des entretiens qualitatifs. L'ensemble de ces retours sont utilisés pour améliorer la qualité du modèle Albert et la qualité de son expérience d'usage. Trois versions successives ont déjà pu être testées par les expérimentateurs.

" Albert France services " reçoit le prix de l'innovation 2024 des Victoires des Acteurs publics

Le 7 février 2024, la DINUM a reçu le prix " innovation " lors des Victoires des Acteurs publics, un événement organisé par le média Acteurs Publics sous le haut patronage de la présidence de l'Assemblée nationale, pour le lancement d'Albert l'IAG libre et souveraine de l'État créée par et pour des agents publics.

Chaque année, Acteurs publics décerne les Victoires des acteurs publics aux meilleures initiatives observées durant l'année dans les trois fonctions publiques afin d'honorer celles et ceux qui, sur le terrain, agissent en faveur d'un service public de qualité. En 2024, 4 projets ont été récompensés dans les catégories Organisation, Service, Management et Innovation dont Albert fait partie.

À découvrir en vidéo : le lancement et le déploiement de Albert par Ulrich Tan, chef du Datalab de la DINUM, Pierre-Etienne Devineau, lead data scientist à la DINUM et Diane Gelberg, responsable du pilotage par la donnée et projets innovants du programme France services (ANCT).

# data[].attributes.attachment_link.title
Expérimentation d'un modèle d'assistance aux conseillers France services basé sur l'intelligence artificielle | France services

# data[].attributes.attachment_link.description
L'intelligence artificielle porte des promesses de transformations majeures. La fonction publique, premier employeur de France, se saisit de cette technologie pour la mettre à la disposition de ses agents afin de renforcer la qualité de l'accompagnement des Français. A cet égard, une expérimentation est actuellement menée au sein du réseau France services.

# data[].attributes.headline
17.05.2024 - Etude des Impacts de l'IA sur le travail

# data[].attributes.subject
17.05.2024 - Etude des Impacts de l'IA sur le travail

# data[].attributes.attachment_link.readable_text
Les résultats de deux années d'investigation : points saillants

Comment l'IA transforme-t-elle les métiers et les organisations ? Quelles interactions entretiennent les personnes qui travaillent avec les systèmes d'IA ? Quels risques pour le travail sont-ils associés à la mise en œuvre sur le terrain ? Et quelles sont les conditions d'émergence d'une IA " capacitante ", c'est-à-dire une IA qui vient compléter ou augmenter les compétences humaines, pour la population active et les organisations de travail ?

Les travaux du LaborIA Explorer mettent en lumière des résultats inédits sur les interactions humain-machine et les enjeux d'appropriation de l'IA dans le monde du travail.

Le déploiement de l'IA : un point de départ vers une transformation progressive

L'introduction de l'IA dans les organisations marque le début d'un processus continu d'apprentissage et d'adaptation. Les interactions humain-machine impliquent des périodes d'apprentissage prolongées et incertaines, et les individus doivent non seulement utiliser les systèmes intégrant de l'IA, mais aussi s'engager dans leur entretien, leur amélioration et leur supervision.

Un conflit de rationalité entre logique gestionnaire et logique du travail réel

Le déploiement des systèmes d'IA soulève des tensions entre la logique gestionnaire des concepteurs ou des décideurs et la logique du travail réel des salariés. Les premiers visent à optimiser les process et la productivité, tandis que les seconds s'interrogent sur la reconnaissance, l'autonomie et le sens de leur travail face à ces changements. Ce " conflit de rationalité " peut mener à des situations difficiles pour les personnes qui travaillent, s'il n'est pas résolu par un compromis entre les parties prenantes. A l'inverse, un compromis réussi peut conduire à des configurations dites " capacitantes ".

L'IA bouleverse l'organisation du travail et le management

L'arrivée de l'IA reconfigure les rôles professionnels, les compétences requises et le management. Les observations menées font notamment apparaître des questionnements autour du rôle de manager intermédiaire ou encore du risque de polarisation du travail. De manière réciproque, l'organisation du travail influence l'adoption et l'utilisation de l'IA. Des structures hiérarchiques et centralisées vont intégrer l'IA différemment des environnements plus autonomes.

Des recommandations concrètes pour un dialogue social et technologique

Les conclusions du LaborIA Explorer ouvrent sur des recommandations pour outiller le dialogue social et technologique en faveur de l'intégration dite " capacitante " des systèmes d'IA dans le monde du travail :

1. partir du travail réel pour penser le rôle et la place des IA ;

2. garantir la co-conception des systèmes intégrant de l'IA et organiser le dialogue en continu ;

3. mettre l'IA au service de la sécurisation des travailleuses et travailleurs ;

4. rendre les systèmes d'IA " explicables ", pour permettre aux décideurs et aux utilisateurs de comprendre leur fonctionnement et de faire confiance aux résultats créés ;

5. apprendre chemin faisant. Accepter une part d'imprévisibilité dans les bouleversements produits par l'IA.

Ces recommandations ont déjà été présentées à l'ensemble des partenaires sociaux dans le cadre du Comité exécutif élargi du LaborIA, le dialogue social étant un axe central du programme.

Une approche innovante pour comprendre les situations de travail avec l'IA

Ces résultats et recommandations sont le fruit des recherches pluridisciplinaires menées via la mobilisation d'une grande diversité d'acteurs : chercheurs en sciences sociales et technologies du numérique, ingénieurs, chefs d'entreprise, représentants des syndicats et des salariés.

Une enquête par questionnaire a été réalisée auprès de décideurs d'entreprise et une série d'investigations a été conduite sur le terrain, pour observer et échanger avec les professionnels afin de décrire et qualifier les situations de travail. Ces enquêtes ont permis de recueillir les perceptions croisées des parties prenantes (décideurs, concepteurs, ingénieurs et salariés) dans différents types d'organisations (entreprises privées, administrations, établissements publics). Comment l'introduction de l'IA dans une activité ou un environnement de travail affecte-t-elle la reconnaissance, l'autonomie, les savoir-faire, les relations humaines, la responsabilité, le sentiment de surveillance ? En complément des débats sur l'automatisation potentielle des emplois, c'est bien l'expérience de travail qui est l'objet du LaborIA Explorer.

L'avenir du LaborIA : devenir le centre de ressources pour l'IA au travail

Dans son rapport publié en mars 2024 et intitulé " IA : notre ambition pour la France ", la Commission de l'intelligence artificielle recommande notamment " d'investir dans l'observation, les études et la recherche sur les impacts des systèmes d'IA sur la quantité et la qualité de l'emploi " pour faire de la France un acteur majeur de la révolution technologique de l'IA. Fort des travaux de sa première phase et en tenant compte de l'évolution fulgurante de l'IA, le LaborIA va consolider son engagement pour répondre à cet objectif.

Dans les mois à venir, le LaborIA poursuivra les investigations qualitatives et quantitatives de manière sectorielle notamment dans les industries culturelles et créatives avec un focus sur l'impact de l'IA générative. En parallèle, le LaborIA s'attachera à développer des projets de recherche-action sur des problématiques transverses comme le recrutement ou l'inclusion. A terme, le LaborIA s'est donné pour ambition de devenir le centre de ressources spécialisé sur les questions de l'impact de l'IA au travail, notamment en concevant et rassemblant des ressources et méthodes pour outiller l'écosystème des politiques de l'emploi et du travail.

# data[].attributes.attachment_link.title
LaborIA Explorer - Synthèse générale : Étude des impacts de l'IA sur le travail - LaborIA

# data[].attributes.attachment_link.description
Après deux années d'enquêtes opérées par Matrice (institut d'innovation étudiant notamment les effets sociaux de l'IA), le LaborIA Explorer publie des résultats inédits sur les interactions humain-machine et les enjeux d'appropriation de l'IA dans le monde du travail, et formule des recommandations.

# data[].attributes.headline
29.10.2024 - Intelligence Artificielle et collectivités

# data[].attributes.subject
29.10.2024 - Intelligence Artificielle et collectivités

# data[].attributes.body
"L’intégration de l’IA dans nos collectivités locales est une démarche complexe qui requiert un cadre de valeurs aligné sur des engagements éthique, écologique et de qualité de vie au travail. La technologie est un outil, mais c’est avant tout une transformation humaine qui doit être pilotée avec une vision stratégique."

# data[].attributes.attachment_link.title
Pour une vision stratégique de l’IA dans les collectivités

# data[].attributes.attachment_link.description
Cet article reprend, avec son accord, l’analyse publiée sur Linkedin par Aissia Kerkoub, directrice générale adjointe de la Ville de Lyon et membre de notre Conseil d’administration, suite à son intervention, aux côtés d’Akim Oural et d’Alexandre Jost, dans une table ronde animée par Hugues Perinel lors du dernier Congrès du SNDGCT Syndicat Professionnel à Tours. Un point de vue pertinent et étayé que l’on partage, et qui vient utilement prolonger notre précédent article Que peut vraiment l’IA pour l’action publique ?

# data[].attributes.body
Les Français et l'IA

# data[].attributes.attachment_link.title
Le monde en chiffres - les Français face à l’impact de l’IA

# data[].attributes.attachment_link.description
Nous évoluons dans un monde complexe. Pour mieux en comprendre les signaux faibles, B Smart et Ipsos s’associent pour vous donner les chiffres à retenir et des éléments d’explications. Cette semaine, Aurore Hondarrague, Experte IA générative, décrypte les sentiments ambivalents envers l’IA, son impact sur notre quotidien, et les défis éthiques et professionnels qu’elle soulève.

# data[].attributes.headline
Non, deux IA n’ont pas inventé en 2016 une langue indéchiffrable

# data[].attributes.subject
Non, deux IA n’ont pas inventé en 2016 une langue indéchiffrable

# data[].attributes.body
... et pourquoi c’est important de regarder ce qu’elles ont fait précisément

# data[].attributes.attachment_link.readable_text
Début novembre 2016, la nouvelle tombe sur les téléscripteurs, surprenante et apparemment un peu terrifiante : "Deux IA ont communiqué dans une langue indéchiffrable par l'homme" ( source, 04/11/2016). " Un palier étonnant et quelque peu inquiétant" que vient de franchir Google Brain, le programme de recherche en IA de Google, nous explique dans son chapô le journaliste rédacteur de ce papier. " Deux ordinateurs sont parvenus à communiquer entre eux dans une langue qu'ils avaient eux-mêmes créée, une langue indéchiffrable par l'homme"... S'ensuit une description des travaux des chercheurs, courte, légère, incomplète mais pas inexacte, puis le retour à l'interprétation : " Ce n'est là qu'un début, mais cela donne une idée du futur des intelligences artificielles qui pourront ainsi être capables de communiquer dans un langage unique que nous ou d'autres ordinateurs ne pourrons peut-être pas déchiffrer", suivie d'une pincée de peur supplémentaire : " Une avancée qui a également de quoi effrayer", agrémentée de références aux craintes exprimées il y a maintenant de nombreux mois par des personnalités comme Hawkings, Gates ou Musk, puis d'une description succincte, incomplète encore et mal reliée au contexte, de l'initiative Partnership on AI*, comme s'il s'agissait d'une justification que ces GAFAs ont eux-même un peu peur de ce qu'ils produisent.
(* pour en savoir plus sur Partnership on AI, voir le haut de ce précédent billet)
Cet article ne fait pas honneur aux faits et à la publication scientifique. Il n'est d'ailleurs pas le seul, à tel point qu'on trouvait rapidement des dizaines d'articles, dans de nombreuses langues, reprenant la même approche inexacte, approximative, incomplète et colorée d'anxiété, à croire que des robots les rédigeaient... Ces articles se répandaient via les réseaux sociaux et étaient rapidement repris par des médias plus installés, et ensuite commentés par des éditorialistes très installés. La lecture de ces nombreux articles, rédigés à divers stades de l'interprétation des faits initiaux, montre qu'aucun des rédacteurs n'avait pris le temps de lire la publication scientifique initiale dans son ensemble (car ils ne parlent pas de la deuxième partie, autrement plus intéressante), et que leur compréhension des mécanismes en jeu et des conséquences possibles reste très faible. De plus, le choix de certains mots pour décrire l'expérience de Google Brain démontrait également cette mauvaise compréhension.

Malheureusement, quand cela aboutit à faire écrire à un penseur établi dans le paysage depuis plusieurs décennies des sottises comme...

" L'humanité, à la recherche folle de l'immortalité, aurait, avant d'avoir réussi à transférer la conscience de soi dans ces machines, pour assurer sa propre immortalité, créé des Intelligences Artificielles immortelles, capables de travailler en secret pour la détruire.
Doit-on arrêter cela ? Sans aucun doute. L'humanité a déjà assez d'ennemis, à commencer par elle-même, pour ne pas s'en inventer d'autres."

...cela devient un véritable problème (Source: "Mais que disent-elles ?", par Jacques Attali, le 7 novembre 2016). Surtout en France. Où l'on semble toujours beaucoup plus enclin à tout bloquer plutôt qu'à réfléchir avec intelligence et mesure.

Alors, qu'ont fait ces deux IA au juste pour mériter cette ire ?

La publication scientifique originale, "Learning to Protect Communications with Adversarial Neural Cryptography", est un papier de 10 pages, plus les annexes (accès au PDF direct), soumis le 21 octobre sur le site arXiv et paru dans la foulée. C'est un papier avec peu d'équations et en tout cas aucune qu'il serait absolument nécessaire de comprendre pour saisir le sens exact des travaux effectués. Cette publication n'est pas exempte de reproches, notamment le fait que sa deuxième partie, beaucoup plus intéressante à mon avis, n'est pas assez mise en exergue dans le résumé, plus quelques autres points qui me semblent apporter un biais dans la première partie. Mais la lire en détail, ce qui est possible même à des non-connaisseurs (en cryptologie comme en sciences cognitives), aurait permis aux commentateurs de ne pas commettre d'erreur d'interprétation et surtout aux commentateurs des commentateurs de ne pas se ridiculiser par des conclusions hâtives et sans objet.

Agence Science.Presse a raconté rapidement après sa sortie l'expérience de manière juste et précise ( source ; lisez-le, c'est beaucoup plus court que ce billet :) ).

La première partie de la publication scientifique s'intéresse à la capacité, ou l'incapacité, que pourraient avoir deux réseaux de neurones** à s'échanger des messages de telle manière qu'un troisième réseau de neurones ne puisse avoir connaissance du contenu de ces messages par la simple observation de la communication établie entre les deux premiers.

(** noter qu'il est beaucoup plus honnête de dire, comme dans la publication, "réseaux de neurones" plutôt qu'"intelligences artificielles", car effectivement les artefacts cognitifs de l'expérience ne sont pas plus qu'un simple réseau de neurones artificiels et ne sont compétents que pour cette expérience. On est loin du sous-entendu beaucoup plus cognitif que véhicule le terme IA)

Que se passe-t-il dans cette expérience ?

Il ne va pas y avoir dans cette expérience de création d'une langue. Une langue, c'est bien autre chose.

Il ne va pas y avoir dans cette expérience deux intelligences artificielles qui parlent dans le dos des humains.

Il n'y a pas dans cette expérience de preuve que la communication établie entre les deux premiers réseaux de neurones ne soit pas déchiffrable par un autre mécanisme que le pauvre troisième réseau de neurones de l'expérience qui s'est avéré incapable de le faire.

Alice et Bob veulent se dire des mots doux, et Eve fait rien qu'à les écouter. Heureusement GoogleBrain leur fournit quelques outils neuronaux.

Comme l'expliquent très longuement les auteurs de la publication, avec force références, le problème étudié est un problème en cryptographie parmi beaucoup d'autres (et limité à la seule recherche de la confidentialité des échanges de messages). Les deux premiers réseaux de neurones sont nommés Alice et Bob comme dans de nombreux problèmes de cryptographie (et pas seulement dans cette discipline d'ailleurs), juste pour leurs initiales A et B. Quand Jacques Attali écrit : " Plus précisément, les deux auteurs ont donné à deux Intelligences Artificielles, qu'ils ont aimablement nommé Alice et Bob", il montre aussitôt qu'il ne sait pas grand chose des travaux de cette discipline. Le troisième réseau de neurones, Eve, écoute les deux premiers "se causer" (c'est Alice qui parle à Bob ; Bob est un gars plutôt silencieux dans cette histoire). Eve ne s'appelle pas Chris ou Charles, car Eve signifie " eavesdropper", l'écouteuse, un rôle classique en crypto. Wikipedia vous en dira plus sur cette sympathique famille de cryptologues.

Alice doit donc passer un message à Bob. Le message noté P, pour plaintext ou message en clair, ne va pas circuler en clair entre Alice et Bob, car Eve la curieuse veut l'intercepter. Alice, qui est un réseau de neurones se nourrissant en entrée de 0 et de 1, dispose aussi d'une clé de chiffrement notée K ( key), petit secret qu'elle partage avec Bob. Cette clé est un ensemble de 0 et de 1 qui va se retrouver en entrée à la fois du réseau Alice et du réseau Bob. Eve n'a pas connaissance du contenu de cette clé (ni même de l'existence d'une telle information supplémentaire partagée par Alice et Bob, c'est dire qu'il s'agit d'un réseau de neurones peu au fait des techniques de crypto, et comme agent secret, ça se pose un peu là). Les messages en clair P font 16, 32 ou 64 bits, et sont juste des 0 et des 1 au hasard, et les clés sont également changées à chaque fois, et de tailles diverses. Alice, comme tout bon réseau de neurones qui se respecte, émet une sortie qui s'avère être un ensemble de valeurs entre -1 et de 1, composées (c'est là toute l'astuce d'Alice) à partir de P et de K et du bricolo-bricolette qui va se créer au sein des connexions neuronales internes de A. Bob et Eve reçoivent ce joli message qui n'a rien à voir avec P, sauf que Bob le malin dispose de la clé K, tandis que Eve n'a que ses yeux pour... tenter d'y voir clair.

Au début, les choses se passent assez bien pour Eve. Elle est aussi bonne que Bob à comprendre le message P chiffré C par Alice. C'est-à-dire qu'elle n'y comprend rien, pas plus que Bob. Puis, après tout de même 7000 réceptions de messages chiffrés et de clé (par "une réception", on entend en réalité 4096 messages envoyés et un travail d'apprentissage entre ces réseaux avant d'estimer s'ils sont bons à déchiffrer. Et pour tout dire, Eve a un peu plus de temps pour apprendre à déchiffrer qu'il n'en est laissé à Bob et Alice pour apprendre à se passer leurs petits secrets), Bob commence à y voir clair dans le jeu d'Alice, et Eve aussi (mais un peu moins bien). Puis, vers 10000 réceptions, Bob continue à s'améliorer tandis que Eve redevient moins efficace. Enfin, vers 15000, Bob ne se trompe jamais, et Eve est incapable de déchiffrer les messages d'Alice.

Noter que les expérimentateurs ont joué avec certains des paramètres de l'expérience, comme la longueur des clés respectivement à celle des messages, la longueur des phases d'apprentissages et d'autres petits détails. Ces réglages ne sont pas essentiels en dehors de discussions de cryptologues.

Ce qui est important dans toute cette expérience, et qui mérite effectivement un peu l'expression " vient de franchir un palier étonnant" d'un des articles commentant l'expérience, c'est qu'à aucun moment les humains n'ont inscrit dans l'architecture du réseau de neurone Alice (et encore moins pour Bob le déchiffreur et Eve la malheureuse observatrice) un quelconque algorithme pour effectuer le chiffrement. La topologie des connexions entre les neurones d'entrée et les neurones de sortie de A, et les poids synaptiques initiaux, ne codent en aucun cas une fonction mathématique / logique qui pourrait être interprétée comme un algorithme de chiffrement connu des humains et que les humains auraient mis en dur dans le réseau Alice. Par exemple l'idée toute bête consistant à décaler de X unités le message P, c'est-à-dire à faire émettre à une Alice recevant l'équivalent de bonjour la chaîne de caractères décalée d'un caractère cpokpvs (le tout sous forme de -1 et de 1), n'est pas inscrite en dur dans le réseau d'Alice. Alice doit créer elle-même une tambouille cryptographique. Ce sera peut-être à un moment cet algorithme bêta de décalage d'une unité, mais si Alice et Bob doivent gagner face à Eve, il faut qu'un algorithme beaucoup plus subtil émerge*** au fur et à mesure des itérations.

(*** il s'agit de quelques chose que je connais très bien, l'ayant vécu il y a 20 ans lors d'une expérience d'apprentissage de la marche par un robot hexapode, que je raconte ailleurs)

Bien sûr, dans cette expérience, la topologie des réseaux de neurones n'est pas non plus le fruit du hasard. Noter qu'elle aurait pu être aussi choisie au hasard, mais ce sera pour des travaux futurs. Non, les liaisons entre les neurones sont à même d'implémenter le minimum nécessaire pour faire de la combinaison subtile de -1 et de 1 (dans le papier, c'est la partie parlant de "XOR"), juste les bases logiques pouvant par leurs combinaisons servir à faire du chiffrement (entre autres... ce n'est pas non plus un truc complètement dingue), mais rien qui soit le début de commencement d'une incitation à utiliser tel ou tel algorithme connu des humains.

Dit autrement, les réseaux de neurones choisis ont en leur sein les briques suffisantes pour composer des fonctions logiques/mathématiques utilisées en cryptographie, ni plus ni moins, et ils les assemblent comme ils peuvent/veulent.

Ce que n'ont pas fait ces réseaux de neurones

Si l'on revient à présent aux interprétations à sensation de la publication scientifique, Alice et Bob n'ont en aucun cas inventé une nouvelle langue indéchiffrable par les humains. Ce n'est pour commencer clairement pas une langue. Ce sont juste des messages chiffrés qui ont été produits. On n'a pas affaire à deux IA Alice et Bob qui se parlent, échangent, discourent, élaborent une grammaire, choisissent leurs mots, font de la rhétorique, que sais-je encore. On a affaire à un réseau de neurones A qui sait transformer un message court en un message chiffré à l'aide d'une clé, un deuxième réseau B qui à l'aide de la clé et du message chiffré sait retrouver le message original, et un troisième réseau E qui ne disposant de rien d'autre que le message chiffré ne le transforme en rien d'intelligible.

Par ailleurs, rien ne dit que les humains ne sauraient pas déchiffrer le message qui circule entre A et B. Pour l'instant, ils ont demandé de l'aide à E, et E a été pitoyable, mais rien ne dit que l'équipe d'humains (ou une autre, car l'expérience va être versée dans le monde du logiciel libre) ne va pas concevoir une E un peu plus maligne et efficace (on l'appellera Joan ;) ).

Alice et Bob n'ont pas non plus construit leur petite tambouille cryptologue dans le dos des humains (" Alors qu'ils n'avaient mis aucun algorithme spécifique en place, les chercheurs ont constaté que ces deux ordinateurs ont sécurisé leurs communications par le biais d'un chiffrement qu'ils avaient eux-mêmes développé." Source op.cit.). Les humains souhaitaient ce comportement, et ont doté Alice et Bob des capacités minimales pour ce faire + l'objectif "faites-le". S'il y a surprise, elle est plutôt du type " wouh pinaise ça marche bien" plutôt que " wouh pinaise Alice et Bob viennent de chiffrer leurs communications, on ne s'y attendait tellement pas ".

Ce ne sont pas là des subtilités de langage. S'il y a une langue dans toute cette histoire, c'est bien celle que l'on doit correctement manier pour expliquer la science, si l'on ne veut pas être indéchiffrable auprès de ses lecteurs, commentateurs, puis plus tard auprès des décideurs.

De l'art de partir un peu en live

Si de nombreux papiers courts parlent d'une langue indéchiffrable et activent un peu les peurs, le commentaire de Jacques Attali dans l'Express, paru le 7 novembre, va beaucoup plus loin dans le fantastique. Pourquoi ce billet n'a suscité aucun commentaire, c'est un mystère pour moi. Je n'ose penser que personne ne l'a (vraiment) lu.

Voyons un peu le raisonnement que suit le prospectiviste, une fois les bases de l'expérience rappelées :

Alice et Bob ont alors développé, à la surprise de tous, des formes de cryptage, c'est-à-dire des langues, indéchiffrables pour tous, même pour leurs créateurs. (Jacques Attali)

Malheureusement comme je le dis plus haut, ce n'est pas "à la surprise de tous". Nulle part dans la publication scientifique l'équipe n'exprime de surprise sur des résultats somme toute assez normaux (pour du vrai Wow effect, voir mon papier sur le 5e paradigme scientifique). Pas de "cryptage" non plus, un mot qui ne signifie rien. Un mot qui n'existe pas dans la langue française, et dont l'emploi montre l'ignorance de ce qu'est le chiffrement. Pas de "indéchiffrables pour tous", mais seulement indéchiffrable pour l'Eve de l'expérience relatée dans la publication scientifique. Les deux chercheurs de GoogleBrain ne disent pas que les messages échangés resteraient indéchiffrables, ils disent que la méthode mise en place conjointement par A et B n'est pas "explicable", comme c'est encore le cas actuellement pour beaucoup de résultats de réseaux de neurones dont la complexité interne rend malaisée les explications de type "ils ont procédé comme ci et comme ça" à un niveau fin de compréhension****.

(**** il y a un champ de recherches actuellement à ce sujet : comment extraire du fonctionnement interne d'un réseau de neurones artificiels un système d'explications des mécanismes en jeu, par exemple faire de l'extraction de règles émergentes. Ici, cela pourrait être la production formelle de l'algorithme créé, accompagné d'explications sur la progression de la découverte de cet algorithme. On en est (très) loin.)

L'essayiste tente ensuite l'argument de la peur ancestrale :

On sait en effet, depuis longtemps, que ces intelligences peuvent aussi prendre leur autonomie ; qu'elles peuvent d'abord considérer que leur mission est de contrecarrer ceux de nos comportements qui, à leurs yeux, nous nuiraient ; qu'elles peuvent ainsi penser que l'humanité courre à sa perte et décider, pour son bien, de l'arrêter à temps. (Jacques Attali)

En réalité, on ne sait rien de tout cela. Il s'agit de suppositions, de chemins envisageables, qui relèvent de la controverse et de l'essai philosophique. Non que cela ne soit pas utile d'y réfléchir, mais il n'y a à l'heure actuelle aucune IA ayant pris son autonomie, ni aucune qui serait sur le chemin de la prendre, car par "autonomie" on entend la capacité d'un artefact cognitif, de l'ordre au minimum de l'IA forte, à s'émanciper des objectifs qui ont été à l'origine de sa création et à décider par elle-même de ses propres objectifs et survie. Et tant que j'y suis, l'emploi de autonome dans "véhicule autonome" est un brin abusif, alors "prendre son autonomie", c'est beaucoup trop.

Cette opinion doit sans doute provenir de l'expérience intellectuelle rapportée par le philosophe Nick Boström : une "superintelligence" à qui on a confié la fabrication de trombones (oui, les humains sont comme ça), et qui à force de vouloir remplir cet objectif finit par dévorer la planète entière et ses petits humains pour avoir du matériau à faire du trombone.

( Pour une bonne introduction au problème de la fabrique de trombones et aller plus loin avec les discussions éthiques qui en découlent, lire "La " superintelligence ", un risque existentiel ?", janvier 2015)

L'ancien visiteur du soir assombrit un peu plus son propos :

Mais elles pourront alors aussi agir contre l'humanité, dans leur seul intérêt ; surtout si elles pensent que, à terme, nous aurons intérêt à les détruire : elles peuvent alors nous combattre, en légitime défense.
Là, vient évidemment le pire, qu'annonce cet article, apparemment purement théorique : si les intelligences artificielles réussissent à inventer des langues irréversiblement indéchiffrables par les humains, nous sommes perdus. (Jacques Attali)

Il faut se poser un instant... S'il n'est pas faux de dire que les IA pourraient agir contre l'humanité dès lors qu'on accepte que l'IA fabricante de trombone part un peu en live, s'il est probable que des IA vraiment développées pourraient conclure de leurs lectures et de leurs observations que l'humanité est un peu pour quelque chose dans les problèmes de la planète, s'il est possible que des IA ayant développé une conscience de soi un tant soit peu aboutie pourraient apprécier rester en vie/activité et pourraient nourrir un sentiment de légitime défense...

Si l'on peut accepter de pousser l'exercice de pensée à ce point, sachant l'état de la technologie et les objectifs poursuivis...

Si l'on accepte ces prémisses, eh bien il n'y a en revanche pas plus de raison de penser que ces IA seront malveillantes. Elles pourraient très bien tout autant nous embarquer dans le projet de réparation de la planète. Ou nous ignorer sans nous blesser.

Et la création d'une langue, indéchiffrable qui plus est, n'est en aucun cas essentielle ou nécessaire pour atteindre l'un ou l'autre de ces objectifs. Une organisation stigmergique très évoluée pourrait émerger au sein de ces IA et permettre d'atteindre ces objectifs. Ou elles pourraient inventer quelque chose d'autre que nous ne savons pas imaginer.

Je pense qu'une langue n'est pas l'élément-clé. Le penser, c'est adopter une vision trop anthropomorphe de l'intelligence. C'est aussi oublier que les humains entre eux ont déjà du mal à se comprendre, nul besoin d'ajouter les IA comme ingrédient pour nous faire du mal.

Et encore une fois, il n'y a eu ni création de langue, ni création de quelque chose d'irrémédiablement indéchiffrable.

L'éternel écrivain s'emballe ensuite avec :

L'humanité, à la recherche folle de l'immortalité, aurait, avant d'avoir réussi à transférer la conscience de soi dans ces machines, pour assurer sa propre immortalité, créé des Intelligences Artificielles immortelles, capables de travailler en secret pour la détruire.
Doit-on arrêter cela ? Sans aucun doute. L'humanité a déjà assez d'ennemis, à commencer par elle-même, pour ne pas s'en inventer d'autres. (Jacques Attali)

Il y a là une allusion très claire à un certain type de transhumanisme. Et une vision très pessimiste des choses. Quel dommage ! Comme je l'ai exploré dans de précédents billets, il y a bien plus à gagner à se débarrasser de ce type de peurs, et à s'engager dans un transhumanisme positif.

Le lanceur d'alertes ne s'arrête pas... sur sa lancée, et prend à témoin l'Humanité:

Il est urgent qu'une grande conférence planétaire sur l'intelligence artificielle réunisse savants et gouvernants pour décider d'un moratoire sur ces recherches, comme on l'a fait dans d'autres domaines, avec plus ou moins de succès (les armes chimiques, les manipulations sur les cellules souches). On peut encore tirer le meilleur de la science. A condition de ne pas la laisser nous détruire. (Jacques Attali)

Ce débat existe déjà. Il est en train de se mettre en place peu à peu. Il passe cependant par un patient exercice de pédagogie pour dire ce qui est et ce qui n'est pas, ce que les systèmes d'intelligence artificielle savent faire aujourd'hui, et ce qu'elle ne savent pas faire, ce qui leur manque, ce qui continuera à faire la différence avec les êtres biologiques. Et le choix des mots, des analogies, des exercices de pensée ne peuvent pas souffrir de l'imprécision, de la hâte, et de la convocation de peurs primales.

Le problème avec des articles ne faisant ainsi pas la part des choses est qu'on trouve ensuite d'autres billets se reposant sur la connaissance supposée des commentateurs précédents, qui en ajoutent dans l'erreur. Par exemple celui-ci:

Machine learning oblige, le processus d'apprentissage de Bob pour comprendre ce que disait Alice a été particulièrement long et fastidieux. Il a fallu 15 000 essais à Bob pour comprendre les 16 bits du message envoyé par Alice, alors qu'Eve ne comprenait que la moitié de ce que disait Bob avec le même nombre d'essais. ( Source, article à partir de celui de Jacques Attali)

Non, le processus d'apprentissage n'a pas été particulièrement long et fastidieux. C'est comme cela que cela marche aujourd'hui, avec le type d'algorithmes utilisés par les auteurs de l'expérience, et compte-tenu des architectures matérielles utilisées pour faire les calculs, cela a du être au contraire assez rapide, sûrement beaucoup plus rapide que pour deux êtres humains réels Alice et Bob ne connaissant rien à la cryptologie et devant résoudre le même problème...

Les IA de Google sont encore au jardin d'enfants. Et elles sont un peu douées aussi. (Image: DoodleGoogle du 21 avril 2012 // explorez et vous saurez)

Le plus beau dans cette histoire c'est qu'Alice et Bob avaient un autre tour dans leur sac

Les chercheurs de GoogleBrain n'étaient en réalité pas au bout de leurs surprises. Quand le lendemain matin, après cette découverte de la langue indéchiffrable et un bon petit-déjeuner à base de cupcakes, de donuts et de nougats, Martín Abadi et David G. Andersen entrèrent dans leur laboratoire, quel ne fut pas leur étonnement de voir Alice et Bob tranquillement en train de se livrer à un nouvel exercice de cryptologie, tandis que Eve et une amie à elle les observaient du coin de l'œil.

Alice avait sorti une grande boîte avec des formes en bois de couleur bleue, jaune, rouge ou verte. Il y avait des cylindres, des cubes, des sphères, des pyramides et d'autres formes simples, à peu près de même taille. Alice sortait de la boîte 4 de ces formes : {A,B,C,D} , mais la boîte étant un peu facétieuse, la forme D avait toujours un rapport avec la forme C, et connaître {A,B,D} permettait à coup presque sûr de deviner C. Alice disposait aussi de divers instruments pour couper, tailler, sculpter le bois, et de sprays pour peindre, aux 4 couleurs des objets. Au lieu de montrer les formes {A,B,C,D} à Bob directement, ce qui à coup sûr permettrait à Eve de les voir, elle les taillait, les rabotait, les repeignait un peu, et ce n'était plus exactement des cubes, des sphères, des cylindres qui étaient montrés, et comme les IA sont créatives, c'est très connu, ces formes chatoyaient de combinaisons de bleu, de jaune, de rouge et de vert.

Alice mettait donc sur la table un ensemble de formes bien colorées plus ou moins cubiques, sphériques, cylindriques (le message {A,B,C} chiffré comme dans l'expérience précédente), ainsi que la forme D modifiée (suffisamment modifiée pour ne pas permettre de deviner C), et partageait sous la table avec Bob un petit papier avec ce qui l'avait inspiré, autrement dit une clé de chiffrement comme dans l'expérience précédente. Bob cherchait à reproduire du mieux possible la forme D, tandis qu'Eve tentait carrément de retrouver C. Si Eve gagnait, cela montrait que la forme D en révélait bien trop sur C , une forme qui doit restée cachée à tout prix. Si Bob gagnait, c'est que la forme D modifiée ne permettait pas de révéler C, mais pouvait tout de même être compris par ceux dans les petits secrets d'Alice.

Il y avait aussi une deuxième Eve avec un bandeau sur les yeux qui ne savait rien d'autre que la manière dont les formes C étaient conçues dans la boîte initiale, et qui devait deviner C à partir de ça. Si les performances d'Eve étaient égales à celle de la deuxième Eve, autant dire qu'Eve ne se servait pas des formes retaillées et repeintes par Alice pour deviner C.

Tout cela est bien sûr très romancé. Alice, Bob, Eve et Eve au bandeau ne vivent que dans les têtes de Martín Abadi et David G. Andersen, et ne tournent que dans les machines de Google. En revanche, les cubes verts, les cylindres jaunes, les pyramides rouges et les sphères bleues existent bien. Ce sont nos informations personnelles qui circulent sur les réseaux. Comme l'expliquent les auteurs, les trois premières formes sont des attributs nous concernant (notre data de naissance, notre âge, notre niveau d'études, notre niveau de revenus...), qui peuvent être corrélés entre eux, et la forme D est une décision nous concernant, ou une recommandation. Et pour une raison ou une autre, on veut pouvoir rendre public la forme D sans qu'un tiers puisse en déduire des informations sur la forme C. Le défi pour les réseaux de neurones est d'apprendre à identifier quelle information protéger, et comment le faire, pour ne pas dévoiler par erreur des informations par ailleurs confidentielles.

Alice et Bob ont réussi ce défi. (Ayons une pensée pour Eve)

C'est, je trouve, beaucoup plus intéressant que l'expérience précédente, et les auteurs auraient pu donner plus de détails. Il y a là l'ébauche d'un vrai service rendu aux humains : la protection sélective de données personnelles de telle manière à ne pas révéler, par recherche de corrélation, des données qui doivent rester privées.

Il y avait moyen avec cette publication de parler avec intelligence sur ce que les systèmes d'IA vont apporter à la gestion de nos données dans un monde où la data envahit tout et peut régir nos vies. Je vous invite à lire cet article en anglais à ce propos : "AI : Will Predictive Models Outliers Be The New Socially Excluded ?".

Les compétences grandissantes des systèmes d'IA en reconnaissance du langage naturel vont nous aider à mieux nous comprendre, c'est cela qu'il faut souligner, développer, étudier... Voici à ce propos deux papiers plus récents encore, dont les sujets pourraient également produire des interprétations angoissées. Espérons que les gouvernants et leurs conseillers sauront ne pas s'embourber dans de tels schémas et s'élèveront au contraire pour acquérir une vision de meilleure qualité. Les journalistes (scientifiques ou non) et les connaisseurs du domaine ont une grande responsabilité pour que ces sujets soient expliqués avec tout le sérieux et la justesse qu'ils méritent.

# data[].attributes.attachment_link.title
Non, deux IA n'ont pas inventé en 2016 une langue indéchiffrable

# data[].attributes.attachment_link.description
Début novembre 2016, la nouvelle tombe sur les téléscripteurs, surprenante et apparemment un peu terrifiante : "Deux IA ont communiqué dans une langue indéchiffrable par l'homme" (source...

# data[].attributes.headline
Série de vidéos pédagogiques destinée au grand public

# data[].attributes.subject
Série de vidéos pédagogiques destinée au grand public

# data[].attributes.body
Ce projet de vidéos au format court vous propose de mieux comprendre comment fonctionnent les modèles de langage comme ChatGPT.

# data[].attributes.attachment_link.readable_text
Dans cette série de vidéos pédagogiques destinée au grand public, l'équipe de recherche Flowers du Centre Inria de l'université de Bordeaux , spécialisée en Intelligence Artificielle (IA), vous propose de mieux comprendre comment fonctionnent les modèles de langage comme ChatGPT.
Constatant que la grande majorité des ressources éducatives sur ces modèles adoptait un format long et destiné à un public relativement averti, ce projet de vidéos au format court s'adresse en particulier aux élèves et enseignants de collèges et lycées, et plus généralement aux non spécialistes de l'informatique ou de l'IA.

# data[].attributes.attachment_link.description
La série vidéo " ChatGPT en 5 mn " a été réalisée par Alexandre Torres-Leguet, Clément Romac, Thomas Carta, Pierre-Yves Oudeyer, dans l'équipe Flowers du centre Inria de l'Université de Bordeaux. Elle est distribuée sous licence Creative Commons CC-BY.

# data[].attributes.headline
Mikki et la traversée des mondes - Tome 1

# data[].attributes.subject
Mikki et la traversée des mondes - Tome 1

# data[].attributes.body
Un conseil, méfiez-vous des portes.

Mikki souffre d’une timidité maladive. Avec quatre autres enfants atteints eux aussi de troubles du comportement, elle participe à un nouveau programme révolutionnaire : le Protocole Mortelente. Cette thérapie originale fait appel à la réalité virtuelle et à l’intelligence artificielle. Le Protocole crée des jeux d’aventures immersifs sur-mesure pour permettre à chaque enfant de dépasser ses peurs. Pour les parents, c’est la promesse d’une guérison miraculeuse, garantie 100 % sans risques… Le parcours de Mikki s’avère déconcertant : après chaque épreuve, elle franchit une porte et se retrouve aussitôt projetée dans un tout autre univers. Porte après porte, des personnages se joignent à elle : super-héros des Cavernes, un jeune explorateur loufoque, une petite fille sans peur et son grand frère poltron, et même une hyène fluorescente particulièrement soupe au lait. Muette et craintive au début, Mikki va aller loin, trop loin en franchissant une énième porte dont l’accès est interdit… Ce sera le début d’une sacrée pagaille qui va mettre en danger tous les autres participants !

Nouvelle série jeunesse totalement connectée avec son temps, Mikki nous emporte dans une aventure abracadabrante et espiègle, aux frontières du réel, qui aborde en filigrane la question de la santé mentale des plus jeunes.

# data[].attributes.headline
Mikki et la traversée des mondes - Tome 2

# data[].attributes.subject
Mikki et la traversée des mondes - Tome 2

# data[].attributes.body
Un conseil, méfiez-vous des portes.

Cinq enfants - dont le point commun est d’avoir des troubles du comportement - ont été sélectionnés pour participer à un programme révolutionnaire : le Protocole Mortelente. Chacun se retrouve projeté dans un monde plus vrai que nature dont l’objectif est simple : sortir. Pour y parvenir, il devra se surpasser et affronter ses propres peurs. Mikki est si timide qu’elle en a perdu la voix. Elle est propulsée dans un monde où les portes ne font plus leur boulot de porte. Chaque passage de seuil devient alors un grand saut dans l’inconnu. Gagnant rapidement en assurance, Mikki va se révéler téméraire et aller trop loin en franchissant une énième porte dont l’accès est interdit… Elle atterrit dans le monde d’une autre jeune patiente, Pétronille, où la gravité terrestre est inversée. Si Mikki ne veut pas rester prisonnière de ce monde à l’envers, elle va devoir aider Pétronille à sortir en réussissant toutes ses épreuves. Comment y parvenir quand on est vue comme l’ennemie public numéro 1, qu’on est accusée de sabotage et qu’on risque de tomber dans le vide du ciel dès qu’on met le nez dehors ?

Série jeunesse totalement connectée avec son temps, Mikki nous emporte dans une aventure abracadabrante et espiègle, aux frontières du réel, qui aborde en filigrane la question de la santé mentale des plus jeunes.

# data[].attributes.headline
L'intelligence artificielle, tu connais ?

# data[].attributes.subject
L'intelligence artificielle, tu connais ?

# data[].attributes.body
Découvrez l'IA par la pratique !

Au carrefour de plusieurs disciplines (mathématiques, informatique...), l'intelligence artificielle connaît actuellement un formidable développement et annonce une révolution technologique dans les années à venir. Elle nécessite de nouvelles compétences, crée de nouveaux métiers, mais risque d'en supprimer aussi. Il est donc temps de faire entrer l'IA à l'école afin d'anticiper ses impacts sur l'emploi et de te donner toutes les clés pour ton orientation professionnelle.

D'approche très concrète, avec des mots simples et clairs, ce petit livre d'introduction détaille les grandes notions de l'intelligence artificielle, ses principales applications, ses dangers et son devenir. Il est complété par trois ateliers pratiques où tu seras amené à coder : reconnaissance d'images avec Scratch, voiture autonome avec Python, et une IA qui te conseillera dans ses révisions. Tout au long de l'ouvrage, tu trouveras en plus des QR codes qui renvoient vers différentes vidéos d'explication. Un livre pour comprendre l'IA, l'utiliser et susciter des vocations.

# data[].attributes.headline
L'IA et nous – de Rodolphe Gelin (Auteur), Olivier Guilhem (Auteur) – 2019

# data[].attributes.subject
L'IA et nous – de Rodolphe Gelin (Auteur), Olivier Guilhem (Auteur) – 2019

# data[].attributes.body
L'idée de l'ouvrage est, à rebours de la pléthore de livres déjà parus sur le sujet, déjà d'expliquer clairement, pour un large public, ce qu'est l'intelligence artificielle : comment elle a évolué depuis Alan Turing, quelles sont ses limitations actuelles, qu'est-ce qui la différencie de l'intelligence « naturelle ». Puis de poser LA question : avons-nous vraiment besoin de l'IA? La réponse est oui... pour de multiples raisons. Les auteurs abordent ensuite les sujets qui fâchent : les « IA qui dérangent », la « singularité » et les questions de l'emploi et des libertés. Avant de s'interroger : comment faire une IA bénéfique à l'homme? Sont alors abordées les questions éthiques, juridiques avec un état de lieux de ce qui existe déjà en la matière, les principales questions qui se posent et les modèles vers lesquels on pourrait se diriger. En conclusion : l'IA est un outil, et un levier pour notre intelligence « à nous ». Et c'est à l'homme de trouver sa place avec l'IA.

# data[].attributes.headline
FramIActu n°4 — La revue mensuelle sur l’actualité de l’IA

# data[].attributes.subject
FramIActu n°4 — La revue mensuelle sur l’actualité de l’IA

# data[].attributes.body
Sommaire

Une dépendance trop forte aux modélisations par IA est mauvaise pour la science

L’IA rate les diagnostics médicaux de femmes et personnes noires.

Des expert·es en sécurité informatique dévoilent comment l’IA « malveillante » impacte le domaine

ChatGPT induit des psychoses à certain·es utilisateurices via ses réponses.

# data[].attributes.attachment_link.title
FramIActu n°4 — La revue mensuelle sur l’actualité de l’IA

# data[].attributes.attachment_link.description
Semaine après semaine, l’actualité autour de l’Intelligence Artificielle défile, et si pour autant nous ne voyons pas plus clairement le cap que nous devons suivre, nous percevons de mieux en mieux les remous qui nous entourent. Préparez votre boisson préférée et installez-vous confortablement : c’est l’heure de la FramIActu !

# data[].attributes.headline
FramIActu n°5 — La revue mensuelle sur l’actualité de l’IA

# data[].attributes.subject
FramIActu n°5 — La revue mensuelle sur l’actualité de l’IA

# data[].attributes.body
Sommaire

Pourquoi est-ce que Grok se met à parler de « génocide blanc » ?

Est-ce que Google vient d’enterrer la recherche sur le web ?

Google lance une application mobile pour tester localement des modèles d’IA

OpenAI rachète l’entreprise de matériel de Jony Ivy

# data[].attributes.attachment_link.title
FramIActu n°5 — La revue mensuelle sur l’actualité de l’IA

# data[].attributes.attachment_link.description
Alors que les chaleurs estivales arrivent, l’actualité de l’Intelligence Artificielle s’est elle aussi réchauffée ce dernier mois avec des avancées techniques majeures. Préparez votre boisson préférée et installez-vous confortablement : c’est l’heure de la FramIActu !

# data[].attributes.headline
Recevoir le journal "Les Petits Citoyens"

# data[].attributes.subject
Recevoir le journal "Les Petits Citoyens"

# data[].attributes.body
C'est gratuit et c'est par ici.

Et ce n'est pas que pour l'IA. Simple, facile à lire, une fois par semaine dans ta boîte mail ou celle de tes parents.

# data[].attributes.attachment_link.title
RECEVOIR LE JOURNAL - Les petits citoyens

# data[].attributes.attachment_link.description
Ci-dessous téléchargez l’ensemble des éditions précédentes… Inscris toi gratuitement à l’hebdo Pour recevoir toutes les semaines le Journal des petits citoyens ! Ci-dessous téléchargez l’ensemble des éditions précédentes… Inscris toi gratuitement à l’hebdo Pour recevoir toutes les semaines le Journal des petits citoyens ! Tous les numéros précédents au format PDF : Trier par :Date de…

# data[].attributes.headline
L'IA, le philosophe et l’anthropologue - Klara, Raphaël et Pascal

# data[].attributes.subject
L'IA, le philosophe et l’anthropologue - Klara, Raphaël et Pascal

# data[].attributes.body
« Est-ce que des machines seront un jour dotées d’un esprit artificiel et capables de philosopher ? » À cette question inspirée par les avancées récentes de l’intelligence artificielle (IA) générative et de ChatGPT, Pascal Picq apporte une réponse originale : quelle meilleure façon de répondre, en effet, que de poser la question à une IA ?

D’où l’idée de ce livre, qui consiste en un échange avec ChatGPT. Veut-on savoir si l’IA peut apporter des contributions intéressantes à l’anthropologie ou à la philosophie, quand certains prédisent qu’elle ne pourra jamais philosopher ?

Pascal Picq dit : Chiche ! Essayons… Il fait le pari d’interroger l’IA elle-même et de tenter d’analyser et d’évaluer ses réponses.

Une manière d’amorcer la conversation avec les machines que nous promet l’intelligence artificielle et d’en éprouver les conséquences anthropologiques.

# data[].attributes.body
Quelques mots clés à garder en tête selon moi

# data[].attributes.headline
L'intelligence artificielle en 5 minutes par jour

# data[].attributes.subject
L'intelligence artificielle en 5 minutes par jour

# data[].attributes.body
Comprendre les bases de l'intelligence artificielle en 5 minutes par jour !

Vous vous demandez ce qui se cache derrière les prouesses de ChatGPT ? Vous avez entendu parler d'AlphaGo et des deep fakes sans savoir exactement de quoi il s'agit ? La reconnaissance faciale, les assistants vocaux, les voitures autonomes..., vous trouvez l'univers de l'IA fascinant, mais vous souhaiteriez comprendre plus précisément comment ça fonctionne ?

Découvrez les réponses à toutes ces questions (et bien d'autres !) dans ce Petit Livre, grâce à des leçons quotidiennes de 5 minutes.

# data[].attributes.body
Continuez de vous informer et de vous former pour garder le pouvoir et rester maître de vos choix !

# data[].attributes.body
L’IA est une industrie vorace en ressources naturelles, logistiques et humaines. Elle n’a en fait pas grand-chose d’« artificiel ». Et dès lors qu’elle perpétue toutes sortes de biais idéologiques et discriminatoires, on peut se demander si elle est vraiment « intelligente ».

Développée et conçue sans contrôle ni évaluation, sans critères de justice ni d’éthique, l’IA renforce la toute-puissance des géants de la tech et des institutions qui l’adoptent. Elle est le reflet du pouvoir.

À travers six enquêtes approfondies, Kate Crawford déploie une cartographie exhaustive de l’IA : ses coûts et ses impacts environnementaux, sociaux et politiques.

# data[].attributes.headline
Travailler à l’heure du numérique. Corps et machines

# data[].attributes.subject
Travailler à l’heure du numérique. Corps et machines

# data[].attributes.body
Plus qu’il ne disparaît, le travail se métamorphose au fil de l’évolution des technologies interrogeant sans cesse la coexistence des humains et des machines dans l’environnement professionnel. Des robots aux exosquelettes, du télétravail à la réalité virtuelle, la place de la machine au travail véhicule autant de réalités que de projections, entre libération et aliénation des travailleurs. Le Conseil national du numérique appelle à mettre les outils numériques au service des travailleurs et publie ce jour un dossier intitulé « Travailler à l’heure du numérique. Corps et machines » et identifie 10 leviers pour rendre les travailleurs acteurs de leur relation au numérique.

# data[].attributes.attachment_link.title
Travailler à l’heure du numérique. Corps et machines | CNNum | Traducteur et éclaireur des transformations numériques

# data[].attributes.headline
07.02.2025 - Dans l'amphithéâtre Richelieu de La Sorbonne, un tribunal pas comme les autres se tient sur les enjeux climatiques à l'heure de l'IA.

# data[].attributes.subject
07.02.2025 - Dans l'amphithéâtre Richelieu de La Sorbonne, un tribunal pas comme les autres se tient sur les enjeux climatiques à l'heure de l'IA.

# data[].attributes.body
"La question posée devient alors une invitation au débat pour approfondir une réflexion cruciale : où devons-nous mettre nos efforts ? Sur quels points devons-nous exercer notre vigilance ? Quels doivent être nos exigences, nos ambitions, nos espoirs ?..."

# data[].attributes.attachment_link.title
Y a-t-il une IA pour sauver la planète ? Un Tribunal des Générations Futures pour y répondre. | Sorbonne TV

# data[].attributes.attachment_link.description
Á 19h00, le 7 février 2025, dans l’amphithéâtre Richelieu de La Sorbonne, un tribunal pas comme les autres se tient sur les enjeux climatiques à l’heure de l’IA. Ainsi, un président de séance, un avocat, un procureur, trois témoins et des jurés se prononcent au nom des générations futures afin de poser la question “Y a-t-il une IA pour sauver la planète ?”. Dans ce contexte, le public et le jury d’un soir tentent d’apporter une réponse…

# data[].attributes.body
Avec définitions pour mieux comprendre

# data[].attributes.body
Petit comparatif entre l'Intelligence Humaine et l'Intelligence Artificielle

Source : livre "C'est (pas) moi, c'est l'IA" - P 110-111

# data[].attributes.headline
Compar:ia - Le comparateur d’IA conversationnelles

# data[].attributes.subject
Compar:ia - Le comparateur d’IA conversationnelles

# data[].attributes.body
Discutez avec deux IA à l’aveugle pour croiser leurs réponses.

compar:IA est un outil gratuit qui permet de sensibiliser les citoyens à l’IA générative et à ses enjeux.

# data[].attributes.attachment_link.description
Le comparateur Compar:IA est développé dans le cadre de la start-up d'Etat (incubateurs de l'Atelier numérique et AllIAnce) intégrée au programme beta.gouv.fr de la Direction interministérielle du numérique (DINUM) qui aide les administrations publiques à construire des services numériques utiles, simples et faciles à utiliser.

# data[].attributes.attachment_link.readable_text
Vous avez sûrement vu passer cette image du pape François dans une longue doudoune blanche. Malgré des éléments graphiques très réalistes, il ne s'agit pas d'une photo mais d'une image créée par Midjourney. Cette intelligence artificielle est capable de transformer un texte en image en seulement quelques secondes, en s'inspirant des images présentes dans une immense base de données. Cet outil est accessible à tous - sur abonnement payant - ce qui permet à chacun de développer sa créativité à l'infini. Mais cela pose aussi question, à l'heure des fake news et au moment où les autorités n'ont pas encore régulé l'utilisation des IA.

Problème : les logiciels qui permettaient jusqu'ici de repérer un photomontage en pointant des différences de pixels ne sont pas fiables pour détecter les images générées par IA. Ces dernières sont en effet constituées de "milliers voire millions d'images, qui sont déconstruites pixel par pixel pour recréer une nouvelle image. Et à ce stade, les logiciels ne sont pas capables de bien détecter une image générée par intelligence artificielle", explique Juliette Mansour, journaliste à l'AFP Factuel.

Heureusement, les IA ne sont pas (encore) infaillibles et il existe quelques astuces pour ne pas se faire piéger. Avant de les passer en revue, mesurez votre connaissance du sujet avec notre test.

S'interroger et contextualiser

Première clé de lecture : s'interroger sur ce que l'on voit. Une photo circule beaucoup sur les réseaux sociaux mais elle vous étonne de par sa composition, ses couleurs, ses éléments graphiques ? Faites une recherche avec des mots clé sur Internet pour vérifier si des articles ont déjà été publiés au sujet de la photo en question ou s'il existe des photos du même événement provenant de sources fiables.

Ainsi, le faux cliché d'un Poutine agenouillé devant Xi Jinping a énormément fait réagir sur les réseaux sociaux ces dernières semaines. La rencontre entre les deux dirigeants a bien eu lieu mais "le décor de l'image qu'on suspectait d'être fausse ne collait pas du tout aux images qui étaient relayées par les médias", indique Juliette Mansour.

Faire une recherche d'image inversée

Deuxième astuce : faire une recherche d'image inversée sur un moteur de recherche. Pour ce faire, il suffit de télécharger l'image sur son ordinateur, de se rendre dans Google, par exemple, et de cliquer sur le petit appareil photo situé sur la droite de la barre de recherche. Glissez ou importez votre image puis appuyez sur "rechercher". Google va alors partir à la recherche de cette image dans les tréfonds d'Internet. L'idée étant de " retrouver la plus ancienne trace qui existe" pour connaître la source de l'image, indique Juliette Mansour.

C'est grâce à une recherche d'image inversée sur les clichés de la fausse arrestation de Trump que l'AFP est remontée à la source de l'image, à savoir un tweet d'Eliot Higgins, fondateur du site d'investigation Bellingcat, qui explique tout simplement les avoir créés via Midjourney.

Scruter les détails

Autre technique pour repérer une image générée par IA : scruter les détails. Midjourney et ses comparses rencontrent encore des difficultés pour rendre les cheveux des humains et les poils des animaux parfaitement réels. Ils sont souvent particulièrement soyeux et pas suffisamment fins. Les générateurs créent également souvent des asymétries : visage disproportionné, oreilles à des hauteurs différentes. Les dents et le grain de la peau sont également difficiles à imiter.

"À ce stade, les intelligences artificielles butent sur quelques détails qui leur posent souci. C'est par exemple encore le cas des mains", raconte Juliette Mansour. " Sur des images générées qui montraient des manifestations, on a pu voir des CRS qui avaient six doigts. De la même façon, on a eu des fausses images du pape en train de se marier ou le pape en doudoune et là, il avait quatre ou six doigts selon les photos." Les bras sont également régulièrement tordus ou à l'envers.

D'autres détails peuvent trahir l'IA, comme "le grain de l'image, qui sera très différent", selon Tina Nikoukhah, docteure en traitement d'images (Paris-Saclay), interrogée par l'AFP. Sur les versions gratuites des IA testées par l'AFP, certaines images générées avaient un style similaire au genre pictural hyperréaliste, avec des contrastes appuyés.

"Cependant, les IA s'améliorent de jour en jour et présentent de moins en moins d'anomalies, donc il ne faudra pas se fier aux indices visuels à long terme", met en garde Annalisa Verdoliva, professeure à l'université Frédéric-II de Naples. "Les experts disent que ce n'est qu'une question de mois, ça devrait être rapidement corrigé", ajoute Juliette Mansour.

Observer les reflets et les lumières

On peut aussi observer les reflets et les ombres. "Actuellement, les IA ont aussi énormément de mal à générer des reflets. Un bon moyen (...) est donc de chercher, des ombres, des miroirs, de l'eau, mais aussi de zoomer sur les yeux", souligne Vincent Terrasi auprès de l'AFP. Par exemple, sur une photo d'Emmanuel Macron devant une manifestation et partagée sur Instagram : ses yeux sont marron et non pas bleus (les deux yeux ne sont de plus pas tout à fait de la même nuance de brun). Aussi, le mélange de plusieurs images peut créer des problèmes de lumière, pointent les experts.

Regarder l'arrière plan

Il est aussi conseillé de regarder l'arrière plan des images pour détecter si elles sont générées par IA. " Plus un élément va être lointain, plus un objet va être flou, déformé, et avoir des perspectives incorrectes", indique Vincent Terrasi. Par exemple, sur la fausse photo de la rencontre entre Vladimir Poutine et Xi Jinping, la ligne verticale d'une colonne est brisée, plusieurs chaises sont déformées et la tête du président russe a une taille démesurée. Sur certaines fausses photos d'une arrestation musclée de Trump, le visage de plusieurs agents est flou, des bras et des jambes de policiers apparaissent ça et là sans cohérence.

Faire preuve de bon sens

"Il faut aussi faire appel au bon sens", ajoute Juliette Mansour, soulignant des " incohérences", " des choses qui ne vont pas coller" en arrière plan d'une image. Lors de la création d'une image, " les logiciels essayent de combler l'arrière plan en mettant des choses et il arrive que ce soit un petit peu n'importe quoi". La journaliste de l'AFP donne l'exemple d'une image d'une chambre d'adolescente néerlandaise qui a beaucoup circulé ces dernières semaines. " À première vue, tout semblait normal mais quand on regarde de plus près, il y a des objets qui n'ont pas du tout leur place dans une chambre d'adolescente, des posters dont les visages sont complètement déformés et des objets qui ne sont même pas reconnaissables."

L'AFP a aussi demandé à une intelligence artificielle de générer une image d'une rue de Paris : " On avait des immeubles au style haussmannien, des croissants. Ça, il n'y avait pas de problème. Par contre, on avait un panneau de sens interdit bleu, qui n'existe tout simplement pas en France", raconte Juliette Mansour. Dernier exemple, celui des images de policiers en manifestation, qui ne portent pas d'insigne, alors qu'elles " sont normalement obligatoires sur les casques des CRS".

Essayer de lire les écritures

Les écritures sur les images générées par IA sont souvent mal reproduites, les lettres sont mélangées ou mal écrites. Ce n'est pas que les IA n'arrivent pas à les créer mais plutôt qu'elles ne souhaitent pas le faire. Les créateurs des IA " ne veulent pas qu'on puisse se servir de leur programme pour créer des logos, des marques, donc à ce stade, ce n'est pas possible", indique la journaliste de l'AFP.

Les IA floutent donc souvent l'arrière plan et ne font pas apparaître de logos sur les t-shirts ou de noms sur les enseignes des magasins. S'il n'y en a pas, cela peut indiquer que l'image a été produite par une IA.

Repérer une signature sur la photo

Dernière astuce : certains logiciels laissent une signature visuelle. Dall-e et Craiyon par exemple laissent une barre multicolore en bas à droite de l'image. Par ailleurs, " les gens mettent de plus en plus des filigranes, des signatures pour qu'on reconnaisse leurs images, pour qu'elles ne soient pas détournées", ajoute Juliette Mansour. " Aujourd'hui, les spécialistes disent que la meilleure arme pour reconnaître ces images sera finalement peut-être de cacher un pixel ou un 'watermark' [filigrane, ndlr] dans l'image, qui permettra, via des logiciels, de savoir que c'est une image générée par intelligence artificielle."

Cela a par exemple été le cas la semaine dernière avec l'image de Julian Assange en prison : " La personne qui avait créé l'image avait mis en énorme un filtre pour dire qu'il s'agissait d'une image altérée", raconte la journaliste, qui rappelle toutefois que cela n'a pas empêché les partages en masse de l'image pour relayer le sort du lanceur d'alerte.

# data[].attributes.attachment_link.title
QUIZ - Comment repérer une image générée par intelligence artificielle

# data[].attributes.attachment_link.description
Les images générées par intelligence artificielle sont de plus en plus réalistes. Testez vos connaissances avec notre quiz "IA ou pas IA ?" et nos astuces pour ne pas vous faire piéger.

# data[].attributes.headline
Café IA Participants - Partagez votre expérience !

# data[].attributes.subject
Café IA Participants - Partagez votre expérience !

# data[].attributes.body
Pour faire un retour sur votre participation à un café IA, scannez ce QR code ou cliquez sur ce lien : Retours d'expérience participants - Grist.

N'hésitez, c'est un grand mouvement national qui est en marche pour le bien de tous.

# data[].attributes.body
Ou comment illustrer ce qu'est un algorithme

# data[].attributes.body
126 pages pour vous aider avec les outils numériques à télécharger gratuitement !

Le sujet de ce livre pédagogique n'est pas forcément sur l'IA mais l'auteur en parle et, surtout, il a une approche extrêmement intelligente, généreuse et bienveillante. Je le recommande à 1000 %. Si vous ne deviez en lire qu'un chapitre, lisez à partir de la page 114, le chapitre intitulé "Au bistrot !" :-)

# data[].attributes.attachment_link.provider_name
Classe à deux - Partage de ressources pédagogiques, à deux !

# data[].attributes.attachment_link.description
Guide du numérique à destination des professeurs des écoles. PDF à télécharger gratuitement. Prix libre.

# data[].attributes.body
A télécharger gratuitement

# data[].attributes.headline
15.04.2025 - IA génératives, 5G, satellites…

# data[].attributes.subject
15.04.2025 - IA génératives, 5G, satellites…

# data[].attributes.body
... quelle est la vraie empreinte environnementale du numérique ?

# data[].attributes.attachment_link.title
IA génératives, 5G, satellites… quelle est la vraie empreinte environnementale du numérique ?

# data[].attributes.attachment_link.description
ChatGPT, Claude, Midjourney... beaucoup de choses ont été dites sur l’empreinte environnementale du secteur numérique et

# data[].attributes.body
Le document rare et l'incroyable parcours d'un inventeur français, qui à l'âge de neuf ans avait déjà construit un robot pour faire son lit et a ensuite été l'un des deux créateurs de Siri. Son objectif ici : tordre le cou aux idées reçues et aux fantasmes qui entourent l'IA aujourd'hui.

# data[].attributes.body
Préparez-vous à être époustouflé par les robots humanoïdes les plus prometteurs de notre époque. Dans cette troisième partie de notre série sur les robots humanoïdes, nous vous présentons un TOP 20 exclusif des machines les plus avancées et les plus prometteuses.

# data[].attributes.attachment_link.title
🤖 TOP 20 Robots Humanoïdes : Le Futur est Là ! 🤖

# data[].attributes.headline
Mave, un group de K-Pop un peu spécial...

# data[].attributes.subject
Mave, un group de K-Pop un peu spécial...

# data[].attributes.body
Mave est un groupe de filles virtuelles sud-coréen formé en 2023 par Metaverse Entertainment. Le groupe se compose de Siu, Zena, Tyra et Marty, qui sont des membres hyperréalistes qui ont été créés à l’aide de l’apprentissage automatique, du deepfake et de la technologie de production 3D.

# data[].attributes.attachment_link.title
[4K STAGE] MAVE: (메이브) - PANDORA (판도라) | Show! MusicCore | MBC230218방송

# data[].attributes.body
Il est anonyme (sauf si vous y renseignez votre adresse mail). N'hésitez pas à me faire vos retours. Merci <3

# data[].attributes.body
Le Deepfake est une technique de synthèse multimédia reposant sur l'intelligence artificielle.

Les deux principaux types de deepfakes sont la vidéo et l’audio (peut aussi être la photo). Les deepfakes vidéo manipulent l’apparence d’une personne tandis que les deepfakes audio manipulent sa voix.

Les deepfakes vidéo et audio fonctionnent souvent ensemble pour créer du contenu trompeur. Les personnes qui créent ce faux contenu pourraient avoir des intentions innocentes. Par exemple, ils pourraient réaliser une vidéo d’une célébrité faisant une danse amusante pour faire rire les gens. Cependant, même les meilleures intentions peuvent conduire à la désinformation et à la confusion.

# data[].attributes.attachment_link.readable_text
C'est quoi exactement les deepfakes ? Des images trompeuses, souvent mensongères et fabriquées de toutes pièces. Mais comment et pourquoi ? Ewa Kijak enseigne à l'Université de Rennes, elle est également chercheuse en informatique. Avec elle tu vas en comprendre le mécanisme, mais aussi savoir comment réagir.

2 questions à Ewa Kijak, enseignante-chercheuse

Qu'est-ce qu'un deepfake ?

Deepfake, c'est un mot anglais qui a été traduit en français par le terme " hypertrucage ". La 1 re partie c'est deep qui veut dire profond. Et fake qui veut dire faux. Cela désigne n'importe quel contenu (images, vidéos, texte ou audio) qui aurait été modifié par un programme qui utilise de l'intelligence artificielle.

Est-ce que l'IA est dangereuse ?

L'IA, il faut bien comprendre que c'est un outil. Ça marche plutôt, si je sais m'en servir et que je l'utilise pour couper du pain, il n'y a pas vraiment de danger. En revanche, si je ne sais pas l'utiliser ou si je l'utilise pour faire du mal à quelqu'un, alors là c'est dangereux.

Comment décrypter les deepfakes ?

Le book d'Ewa Kijak avec le décryptage de 3 vidéos :

1. Vidéo de , la peinture de Léonard de Vinci : on voit tout de suite que c'est truqué, parce qu'un tableau ne bouge pas... Malgré tout c'est bien fait, parce que de près on voit que le fond est craquelé, comme le tableau qui date du XVIe siècle. Mais en même temps il y a du rap en fond sonore, qui lui est beaucoup plus récent : il s'agit bien d'une vidéo truquée ! On part d'une image qui existe : La Joconde qui est une image et on va venir créer du mouvement, des expressions faciales et on anime son visage pour qu'il s'adapte à un flux audio.

2. Vidéo d'une jeune femme qui dit ne pas pouvoir donner son nom car son gouvernement lui interdit de parler aux médias étrangers. Il s'agit d'un reportage sur des témoignages de jeunes vivant en Iran qui expliquent ce qui se passe dans leur pays. Il y a vraiment eu quelqu'un qui a filmé une jeune femme à cet endroit-là qui disait ces choses-là. En revanche, la vidéo a été manipulée car on a remplacé son visage par celui d'une autre personne. L'objectif est que l'on ne puisse pas reconnaître la jeune femme qui se met en danger en témoignant. C'est donc pour que l'on ne puisse pas l'identifier. Et sur le documentaire, il y a la mention : " Visage modifié à l'intelligence artificielle ".

3. La vidéo mystère. Diffusée en février 2024 au moment où le président Emmanuel Macron devait se rendre en Ukraine. La visite a été annulée pour des raisons de sécurité. Cette vidéo a alors circulée sur les réseaux sociaux. Elle se présente comme un extrait d'un journal télévisé de la chaîne France 24. Le présentateur annonce que Macron a dû annuler sa visite en Ukraine à la suite d'une provocation meurtrière à son encontre et que la tentative a été stoppée par les services secrets français. Mais en sous-titrage du commentaire du présentateur, il y a des phrases en russe. Deepfake ou non ? Les mouvements de la bouche du vrai présentateur de France 24 sont bizarres et son intonation un peu robotisée. C'est bien un exemple de deepfake que l'on rencontre de plus en plus souvent pour diffuser de fausses informations. Mais pourquoi avoir fait cette vidéo ? :

Le fait d'utiliser un présentateur d'un JT d'une chaîne d'information connue donne de la crédibilité aux fausses informations que l'on essaie de faire passer pour vraies.

Faire croire qu'il y a une tentative d'assassinat peut effrayer, et ici faire passer les Ukrainiens pour des méchants qui veulent tuer quelqu'un.

Cette vidéo a été créée par des Russes mais on ne sait pas exactement par qui. Même si l'on retrouvait l'auteur, on ne pourrait rien faire contre lui, parce qu'il est en Russie et que la loi française ne s'applique pas à lui.

👉Retrouve toutes les vidéos d'En quête d'images Junior.

Réalisateur : Raphaël Duvernay, Marjorie Lafon

Auteur : Sébastien Legay, Caroline Gauthier

Producteur : France TV presse

Année de copyright : 2025

Année de production : 2025

Année de diffusion : 2025

Publié le 28/04/25

Modifié le 09/06/25

# data[].attributes.attachment_link.description
C'est quoi exactement les deepfakes ? Des images trompeuses, souvent mensongères et fabriquées de toutes pièces. Mais comment et pourquoi ? Ewa Kijak enseigne à l'Un

# data[].attributes.body
Une Fake News, c'est une «fausse nouvelle lancée en connaissance de cause dans le champ médiatique ». Telle est la définition que nous donne Pascal Froissart, enseignant-chercheur en Communication, spécialiste de la question.

Les fake news peuvent être réalisées pour des raisons idéologiques (campagne de désinformation), politiques (déstabiliser un adversaire lors d’une élection) ou encore financières (arnaques sur internet pour voler des données personnelles par exemple).

Le numérique n’est pas à l’origine des fake news, mais la viralité des réseaux sociaux contribue fortement à en élargir sa diffusion.

Source : https://e-enfance.org/informer/fake-news/

# data[].attributes.attachment_link.title
C'est quoi les fake news ? - 1 jour, 1 question

# data[].attributes.body
C'est quoi, finalement, la différence entre les deux ?

# data[].attributes.body
Comparaison entre le cerveau humain, une requête Google classique et une requête sur une IA générative

A noter que ces chiffres donnent une idée mais ne sont pas précis car difficilement mesurables (pas encore de consensus à ce jour)

# data[].attributes.body
La K-pop, c'est le nom que l'on donne à la musique pop produite en Corée.

# data[].attributes.attachment_link.title
Les idols de KPOP bientôt au chômage à cause des IA ? (MAVE, aespa, KDA)

# data[].attributes.headline
Pour en savoir plus sur ces avatars virtuels...

# data[].attributes.subject
Pour en savoir plus sur ces avatars virtuels...

# data[].attributes.body
... et comment cela fonctionne.

En tout cas, avant IA ou avec l'IA, les jeunes filles et les femmes ne sont pas prêtes de se libérer de la dictature d'un certain type de physique, que ce soit ici ou ailleurs (regardez la vidéo jusqu'à la fin). A méditer !

# data[].attributes.attachment_link.title
TOUT SAVOIR Sur MAVE : Des Idols Pas Comme Les Autres !