# data[].attributes.attachment_link.title
Ces grandes entreprises du tourisme qui recourent à l’IA

# data[].attributes.attachment_link.description
L’intelligence artificielle (IA) est-elle déjà utile pour les entreprises du tourisme ? Virginie Faivet, directrice générale de StartHack, a dispensé un petit cours sur la question aux participants de la convention des EDV Île-de-France.

# data[].attributes.attachment_link.readable_text
L'intelligence artificielle (IA) est à l'aube d'une transformation profonde dans l'industrie touristique. À l'image de l'arrivée d'Internet ou des téléphones intelligents, elle bouleverse les pratiques traditionnelles, modifie les attentes des voyageurs et pousse les entreprises à innover. En 2025, l'IA s'imposera comme un outil clé pour offrir des expériences sur mesure, automatiser les processus et augmenter la compétitivité des organisations.

Cependant, cette transition soulève aussi des questions éthiques, écologiques et organisationnelles. Comment les entreprises touristiques peuvent-elles se préparer à ce futur inévitable ? Découvrons ensemble les cinq tendances majeures qui redéfiniront le secteur touristique dans les 12 prochains mois.

1 : Intelligence artificielle générative : une personnalisation sans précédent

L'IA générative émergera comme un outil indispensable pour créer des expériences de voyage sur mesure. Cette technologie sera capable de concevoir des itinéraires personnalisés, d'écrire des guides adaptés à chaque voyageur et même de générer des visuels immersifs pour prévisualiser des destinations. Les chatbots conversationnels, propulsés par cette IA, offriront une assistance instantanée et naturelle, répondant avec précision aux questions des utilisateurs.

Ces outils ne sont plus une simple aide mais deviennent des partenaires créatifs et opérationnels pour les professionnels du secteur​​.

2. Les Agents IA : des concierges virtuels qui nous accompagnent partout!

En 2025, le tourisme prendra un virage important avec l'arrivée des assistants numériques personnalisés, ou ce qu'on appelle aussi en français Agent IA ou Agentique. Imaginez un compagnon intelligent qui s'occupe de tout pour vous : il apprend vos goûts, planifie vos itinéraires, réserve vos activités, et reste disponible pour vous aider en temps réel, peu importe où vous êtes.

Plus qu'un simple outil, ces assistants, alimentés par l'IA, deviennent vos guides de voyage sur-mesure. Ces agents, alimentés par l'IA, analysent les préférences de chacun des utilisateurs pour proposer des itinéraires personnalisés, réserver des activités, et offrir une assistance en temps réel. Grâce à leur capacité d'apprentissage, ils anticipent les besoins des voyageurs, améliorant ainsi leur satisfaction. Et plus encore.
Lire l'article sur le sujet de Jean-Philippe Duchesneau pour aller plus loin
3. IA et Vidéos : Un nouvel outil pour nos destinations et nos attraits?

En décembre dernier, OpenIA lançait sa nouvelle version de Sora, Sora Turbo, un générateur de vidéos à partir simplement d'une requête texte, accessible pour les utilisateurs de ChatGPT Plus et Pro. Quelques jours plus tard, Google a riposté en introduisant Veo2, une version améliorée de son propre générateur de vidéos. Avec l'arrivée de ces nouveaux outils toujours plus avancés la liste d'outils iA de génération vidéo s'allongent constamment et avec elle, les possibilités de création de contenu.

Plus qu'une innovation technologique, les générateurs de vidéos transforment radicalement la création, la rendant plus accessible, surtout pour les PME avec des budgets marketing et des ressources limités. Comme l'écrivait récemment Lysandre Michaud-Verreault " Ouvrant des horizons fascinants pour la création de contenu, elles demeurent toutefois, à ce stade (janvier 2025), limitées dans leur qualité et leur maturité, surtout pour des initiatives promotionnelles grand public en tourisme. L'utilisation de ces outils doit encore être évaluée avec prudence.

Effectivement le portrait risque d'évoluer rapidement et cela en quelques mois...

Lire le récent billet de Lysandre Michaud-Verreault sur le sujet :

4. Automatisation et fluidité : l'expérience client redéfinie

L'automatisation améliorera drastiquement l'expérience client. En 2025, l'IA sera capable de traiter une multitude de tâches en temps réel, garantissant une interaction fluide et sans faille avec les voyageurs.

Exemples d'applications :

Réservations simplifiées : Une plateforme de réservation comme Expedia pourra traiter des demandes complexes, comme réserver un forfait incluant hôtel, transport et activités, en quelques clics seulement.

Réponse automatisée aux courriels des consommateurs

Chatbots multilingues : Des hôtels, comme le Fairmont Le Château Frontenac, pourraient utiliser des chatbots pour répondre aux questions des clients dans leur langue maternelle, 24/7.

Ces outils amélioreront non seulement la satisfaction des voyageurs mais optimiseront également les coûts opérationnels des entreprises touristiques​​.

5. Transformation des ressources humaines : une collaboration humain -IA

L'IA générative comme ChatGPT améliore la compétitivité des employés en automatisant les tâches répétitives, en réalisant des premières versions de documents, plans ou courriels, et en traduisant rapidement par exemple. Elle facilite aussi l'accès à l'information et offre des solutions personnalisées, permettant aux employés de se concentrer sur des tâches stratégiques et créatives, renforçant ainsi leur efficacité et leur innovation.

Un récent rapport de Google estime que l'IA pourrait économiser en moyenne 175 heures par an par employé, libérant ainsi du temps pour des activités stratégiques​​. C'un chiffre impressionnant - soit l'équivalent de plus d'un mois de travail.

L'impact est tellement grand que les entreprises et les associations doivent planifier la mise en place d'un manuel d'utilisation de l'IA pour les employés.

D'ailleurs, à cet effet, le Groupe de travail IA et tourisme vient tout juste de rendre accessible gratuitement un modèle de Politique et directives sur l'utilisation de l'intelligence artificielle. Cette politique a été conçue pour répondre aux besoins de notre industrie et s'appuie sur les meilleures pratiques en matière d'éthique et de conformité.

Et l'enjeu environnemental dans tout cela?

En 2025, l'impact environnemental de l'intelligence artificielle devient un enjeu central, notamment dans le secteur touristique. Comme je l'expliquais dans mon billet rédigé sur le sujet avec Guillaume Cromer : les technologies liées à l'IA consomment d'importantes quantités d'énergie pour alimenter les centres de données nécessaires à leurs algorithmes. Ces infrastructures, essentielles pour la personnalisation des expériences et l'analyse prédictive, soulèvent des questions importantes sur leur empreinte carbone.

Pour répondre à ces préoccupations, plusieurs initiatives voient le jour :

Optimisation des algorithmes : Les entreprises tech travaillent à rendre leurs modèles d'IA plus efficaces. Cela inclut l'ajustement des algorithmes pour réduire la consommation d'énergie tout en maintenant des performances élevées.

Centres de données durables : Des acteurs majeurs comme Google et Amazon investissent dans des infrastructures alimentées par des énergies renouvelables (solaire, éolien) pour limiter leur impact environnemental.

Progrès matériels : Des fabricants comme NVIDIA, leader dans les puces d'accélération d'IA, développent des composants plus économes en énergie.

L'impact environnemental demeure problématique et mérite notre attention mais ces efforts permettront de mieux concilier innovation, technologique et durabilité répondant aux attentes croissantes des voyageurs soucieux de l'environnement.

En parallèle, les questions éthiques, comme la protection des données et l'utilisation équitable des technologies, continueront à dominer les discussions. Les entreprises devront respecter des cadres réglementaires stricts, comme ceux proposés par la Déclaration de Montréal sur l'IA responsable​​.

Conclusion : L'IA, une opportunité dès maintenant - avec conscience des enjeux

L'intelligence artificielle représente un levier de transformation incontournable pour le tourisme en 2025. Et nous ne devrions pas attendre la fin de l'année avant d'entreprendre des changements significatifs. Chaque tendance évoquée offre des opportunités uniques pour améliorer les services et répondre aux attentes des voyageurs.

Pour tirer parti de ces avancées, les entreprises touristiques doivent commencer dès aujourd'hui : se former, revoir les tâches des employés et les processus de gestion, expérimenter ainsi qu'investir dans des technologies adaptées. En adoptant une approche proactive, elles pourront non seulement améliorer leur compétitivité mais aussi contribuer à un tourisme plus intelligent et responsable.
Par Pierre Bellerose, consultant en tourisme et Président du Groupe de travail IA et tourisme

Fondateur et Président du Groupe de travail en intelligence artificielle et tourisme, Pierre Bellerose a oeuvré au sein de Tourisme Montréal pendant 30 ans notamment à titre de Vice-président Recherche, développement de produit, Accueil, relations publiques corporatives et innovation. Pierre est maintenant consultant en développement de produit touristique et membre de plusieurs Conseils d'administration en tourisme et culture. Il est Co-fondateur du MT Lab, un incubateur en tourisme.

# data[].attributes.attachment_link.title
Les 5 tendances de l'IA qui transformeront le tourisme en 2025 - IA Tourisme

# data[].attributes.attachment_link.description
L'intelligence artificielle (IA) est à l'aube d'une transformation profonde dans l'industrie touristique. À l'image de l'arrivée d'Internet ou des téléphones

# data[].attributes.attachment_link.title
L’Intelligence artificielle et tourisme durable : De grands défis et des opportunités - IA Tourisme

# data[].attributes.attachment_link.title
L’IA dans le tourisme, une révolution en marche, c’est maintenant ! – Centre national de ressources Tourisme

# data[].attributes.attachment_link.title
L’Art à l’Ère de l’IA : Nouvelles Pratiques, Enjeux et Limites

# data[].attributes.attachment_link.description
Découvrez comment l’I-art bouscule nos coutumes. Sur la Toile et dans nos vies, l’impact de l’intelligence artificielle sur l’art est tangible

# data[].attributes.attachment_link.description
L’intelligence artificielle est capable de grande chose, mais est-elle capable de remplacer les artistes ?

# data[].attributes.attachment_link.title
L’impact de l’intelligence artificielle sur l’art : révolution ou évolution ? | Big média | S’inspirer, S’informer, S’engager

# data[].attributes.attachment_link.description
L’intelligence artificielle (IA) transforme rapidement le paysage de l’art, soulevant des questions sur la nature de la créativité et de l’expression artistique. Des algorithmes générant des œuvres originales aux outils d’analyse prédictive du marché de l’art, elle s’immisce dans toutes les facettes de la création et de la diffusion des œuvres. Le succès des œuvres générées par IA est porté par les cryptomonnaies et les NFT (non-fungible token). Ils ouvrent la voie à un nouveau marché de l’art, complètement dématérialisé.

# data[].attributes.attachment_link.readable_text
Ces dernières années, des formes d'Intelligences artificielles (IA) plus ou moins sophistiquées se sont discrètement incrustées partout (ou presque) dans nos vies : logiciels de traduction ou de prise de note, algorithmes de recommandation de musiques ou de films, assistants virtuels tels que Siri ou Alexa, GPS, etc.

Mais l'IA est devenue bien plus réelle pour le grand public depuis que l'entreprise OpenAi a lancé, en mars 2022, ChatGPT 3.5, son robot qui fait de meilleures dissertations qu'un lycéen et donne l'illusion de conversations avec des humains. Son explosion (OpenAI revendique 100 millions d'utilisateur·ices hebdomadaires) s'est accompagnée de craintes quant à la menace que l'IA pourrait représenter pour le climat. Qu'en est-il ?

L'opacité des géants de la tech sur l'énergie, le carbone et l'eau

Les géants de la tech sont très peu diserts au sujet de l'impact environnemental de leurs créations. Aussi, il existe peu de données fiables sur le sujet. Pour fonctionner, les outils d'IA nécessitent la fabrication et l'emploi de très nombreuses cartes graphiques, gourmandes en ressources et en énergie. Idem pour les vastes datacenters, dont l'électricité peut être issue de sources fossiles, comme le charbon, et qui demandent des quantités phénoménales d'eau pour être refroidis.

Une étude en pré-publication menée par des chercheurs de l'Université de Californie a estimé que l'entraînement de ChatGPT 3 dans des datacenters américains pourrait avoir nécessité 5,4 millions de litres d'eau douce, et que chaque conversation pourrait en consommer 50 centilitres de plus.

L'entraînement de la plupart des modèles d'IA émet entre 1 et 20 tonnes de CO2-équivalent, selon Théo Alves da Costa, chargé de l'unité Développement durable et climat chez Ekimetrics. Pour ChatGPT 3, ce chiffre grimpe à 552 tonnes. Soit ce qu'émettent 55 Français·e en un an. Pour un outil d'une telle envergure, ce chiffre paraît relativement modeste.

En revanche, OpenAI a refusé de publier des données sur l'entraînement de la dernière version (payante) de son IA générative (qui crée du texte ou des images), ChatGPT 4, sortie au printemps 2023. "Depuis novembre dernier, les entreprises du numérique ont arrêté de publier des données qu'elles transmettaient auparavant comme la consommation énergétique des datacenters ou le temps de calcul des entraînements", a expliqué à Novethic Sasha Luccioni, spécialiste de l'empreinte carbone de l'IA pour la startup Hugging face.

Des usages voués à se démultiplier

Une simple requête sur ChatGPT est relativement peu gourmande en énergie. Cependant, "avec une forte croissance d'utilisateurs, ça peut rapidement devenir énorme, explique Théo Alves da Costa. Là où ça me fait peur, c'est que l'IA est en train d'être installée partout". Dès mars 2024, les nouveaux PC de Windows seront équipés d'une touche, qui lancera Copilot, une IA capable d'assister les utilisateur·rices dans toutes leurs tâches.

L'IA sert (surtout) à accélérer la production de vêtements, de pétrole, et du reste

Dans un rapport paru à l'été 2023, le géant du conseil McKinsey avait estimé que l'IA générative allait entraîner une forte croissance dans le secteur de la tech, mais aussi celui de la banque ou de l'industrie pharmaceutique.

L'IA sert notamment à améliorer les algorithmes de recommandation de produits sur les sites de ventes. L'ogre de la fast fashion Shein s'en sert pour vendre toujours plus de pièces, mais aussi pour designer des vêtements qui imitent les dernières tendances ( ce qui lui vaut des procès en contrefaçon de la part de stylistes américains) et qui seront ses best-sellers de demain.

L'IA profite aussi aux rois du pétrole. En 2019, Exxonmobil avait annoncé s'allier avec Microsoft pour augmenter sa production dans le Bassin permien, au Texas. La compagnie prévoit d'extraire quotidiennement 50 000 barils de plus d'ici à 2025, soit environ 20 000 tonnes de CO2 supplémentaires par jour. "En un jour, c'est autant que ChatGPT 3 en deux mois", illustre Théo Alves da Costa, se basant sur les calculs de l'association Data for good, qui estime que cette IA génère 10 000 tonnes de CO2-équivalent par mois. Sur un an, Exxonmobil alourdirait son bilan carbone de plus de sept millions de tonnes de CO2, soit les émissions annuelles de 700 000 Français·es. Comme l'avait rapporté Greenpeace, les pétroliers Shell, BP ou Chevron se sont aussi tournés vers les géants de la tech que sont Google, Amazon et Microsoft pour produire toujours plus.

Le principal risque de l'IA n'est peut-être pas tant celui des émissions de ses robots conversationnels, que le fait qu'elle serve à accélérer la production et la consommation dans les domaines les plus polluants.

Sciences, industrie... Ce que peut l'IA pour le climat

L'intelligence artificielle est un remède en même temps qu'un poison. Elle permet aussi de développer des outils puissants pour servir de nobles causes. Alliée à des satellites, elle sert à observer et inventorier les émissions de gaz à effet de serre de millions de sites polluants à travers le globe : c'est le projet Climate trace. Ou à repérer automatiquement des navires de pêche qui opèrent illégalement dans des aires marines protégées, grâce aux outils développés par l'association Data for good pour l'ONG Bloom.

Elle peut aussi optimiser les réseaux électriques et réduire les émissions de carbone des systèmes énergétiques ; détecter les fuites de méthanes de l'industrie fossile ; optimiser le fret maritime, ou la construction, etc. Autant de potentialités - plus ou moins technosolutionnistes - décrites dans une vaste étude écrite par une quinzaine d'universitaires et d'expert·es de la tech (dont Google), membres du collectif Climate change AI.

Côté recherche, "l'IA enrichit beaucoup la climatologie ; elle permet de généraliser beaucoup de choses qu'on envisageait de faire sans en avoir les moyens", raconte Pascal Yiou, chercheur en statistiques au Laboratoire des sciences du climat et de l'environnement (LSCE). Dans le cadre du projet Xaida, il coopère avec de nombreux autres laboratoires européens pour utiliser l'IA afin de détecter les événements météorologiques extrêmes et de savoir s'ils sont liés au dérèglement climatique : ce sont les sciences de l'attribution.

L'IA leur permet d'interroger les bases de données pour savoir si les événements sont exceptionnels ou non, d'identifier les facteurs qui en sont la cause, de simuler des événements de manière beaucoup plus rapide. C'est ainsi que le laboratoire de Pascal Yiou a pu déterminer qu'une vague de chaleur plus intense encore que la canicule de 2003 pouvait se reproduire pendant les Jeux olympiques de Paris en juillet prochain ( Nature). "J'ai développé une méthode d'IA super simple pour émuler chacun des modèles climatiques du rapport du Giec", raconte-t-il à Vert. Autant d'outils puissants, rapides et peu coûteux, qui permettent de prévoir l'évolution du climat et d'adapter nos sociétés.

L'IA aide aussi les scientifiques à faire des recherches beaucoup plus efficaces. Pascal Yiou cite en exemple l'outil Climate Q&A, développé par Théo Alves da Costa, qui permet d'interroger facilement les rapports du Giec ( notre article).

Le chercheur convient toutefois que ses moyens sont "sans commune mesure" avec ceux de Google ou de Microsoft : "Ce qui nous sauve, c'est qu'on connaît la physique".

Alors, on va tous mourir ou pas ?

Les intelligences artificielles du futur seront-elles moins gourmandes en ressources ? Permettront-elles de réduire les émissions de secteurs très polluants ? Ou aggraveront-elles encore un peu plus la crise climatique ?

Impossible de tirer des jugements définitifs dans un secteur qui mute aussi rapidement. Ce qui est sûr, c'est que l'IA offre aux géants de la tech (et des autres industries), peu suspects de convictions écologiques, une puissance toujours plus colossale.

Pascal Yiou est "très optimiste" et estime qu'il faut "encore plus d'IA". "Si les GAFAM sont en concurrence les unes avec les autres, ça peut stabiliser l'utilisation de l'IA, faire qu'elle soit neutre. Mais s'ils s'entendent pour la biaiser, ou si un système domine tous les autres : c'est pratiquement la fin de l'humanité".

Pour Théo Alves da Costa, "en utilisant le bulldozer de l'IA pour enfoncer un clou dans le mur, on va sûrement enfoncer le clou, mais on risque surtout de faire écrouler le mur. Dans ce cas, autant prendre un marteau".

Cet article est issu de notre rubrique Le vert du faux. Idées reçues, questions d'actualité, ordres de grandeur, vérification de chiffres : chaque jeudi, nous répondrons à une question choisie par les lecteur·rices de Vert. Si vous souhaitez voter pour la question de la semaine ou suggérer vos propres idées, abonnez-vous à la quotidienne de Vert juste ici.

# data[].attributes.attachment_link.title
L'intelligence artificielle va-t-elle donner le coup de grâce au climat ?

# data[].attributes.attachment_link.description
L'essor de ChatGPT n'est que la face émergée de l'Intelligence artificielle (IA), qui s'insère un peu partout dans nos vies. En créant de nouveaux usages et en permettant aux grandes entreprises d'accélérer encore leur croissance, l'IA sera-t-elle le dernier clou à notre cercueil ?

# data[].attributes.attachment_link.title
Le bilan carbone de l’intelligence artificielle

# data[].attributes.attachment_link.description
L’utilisation de l’IA implique la consommation de ressources importantes, en énergie et en eau, ainsi que le rejet de gaz à effet de serre.

# data[].attributes.attachment_link.provider_name
Institut Supérieur de l'Environnement - ISE

# data[].attributes.attachment_link.readable_text
L'intelligence artificielle (IA) révolutionne de nombreux secteurs, mais ce progrès n'est pas sans conséquences pour notre environnement. En effet, les data centers, les algorithmes complexes et la consommation d'énergie nécessaire pour optimiser et faire fonctionner ces technologies ont un impact significatif sur la planète. Les IA telles que Google Gemini, Perplexity, DALL-E ou encore GPT-4 nécessitent une grande puissance de calcul, entraînant un besoin d'énergie continue, de jour comme de nuit.

Alors que leur utilisation se généralise massivement et insidieusement, de nombreuses questions émergent : comment l'IA contribue-t-elle à la pollution ? Quelles sont les mesures à prendre pour limiter cette nuisance digitale ? Et quels défis devons-nous relever pour réduire son empreinte écologique ? Dans cet article, l'Institut Supérieur de l'Environnement vous propose d'explorer les conséquences encore largement méconnues de l'intelligence artificielle sur notre environnement.

L'essor de l'intelligence artificielle et ses impacts environnementaux

L'intelligence artificielle (IA) transforme de nombreux secteurs économiques, de la santé à la finance en passant par le marketing, la logistique et l'écologie. En effet, l'IA offre des avantages considérables, allant de l'amélioration des soins de santé à l'optimisation des opérations commerciales et la protection de l'environnement. Son potentiel à transformer les industries et à résoudre des problèmes complexes comme le réchauffement climatique souligne l'importance de son intégration dans nos pratiques quotidiennes.

Cependant, cette révolution technologique a un revers : son impact écologique. L'IA, notamment à travers la consommation énergétique de ses infrastructures, génère une pollution numérique considérable. Alors que les entreprises investissent massivement dans ces technologies pour gagner en compétitivité, il est essentiel de comprendre les enjeux environnementaux qui en découlent.

Intelligence artificielle : une consommation énergétique colossale en pleine expansion

L'intelligence artificielle requiert des quantités considérables d'énergie, principalement en raison de la complexité des algorithmes et des volumes de données traités. Avec la montée en puissance des modèles de type GPT-4, Perplexity ou encore Google Gemini, la tendance est à la hausse ; et ces LLMs (Large Language Models) nécessitent une infrastructure lourde pour fonctionner 24h/24, 7j/7. Cette consommation énergétique pose des questions fondamentales sur la durabilité de ces technologies dans un monde confronté à la crise du réchauffement climatique.

L'importance des data centers et leur rôle dans la pollution

L'un des principaux moteurs de la pollution numérique de l'IA est la consommation énergétique massive des centres de données. Ces derniers stockent et traitent les informations et jouent un rôle essentiel pour faire fonctionner les modèles d'IA.

En 2023, l'Agence internationale de l'énergie a révélé que les centres de données représentent environ 1 à 1,5 % de la consommation électrique mondiale (The Journal of Engineering and Exact Sciences - Impact of Data Centers on Climate Change: A Review of Energy Efficient Strategies). Bien que ce pourcentage puisse sembler faible, il devient significatif compte tenu de l'énorme volume de consommation d'énergie à l'échelle mondiale. Avec l'augmentation de notre dépendance aux services numériques et la multiplication des appareils connectés, notre consommation énergétique continue à croître chaque jour. De plus, une grande partie de cette énergie provient encore de sources non renouvelables (nucléaire et charbon), exacerbant ainsi le problème du réchauffement climatique.

Une empreinte carbone difficilement mesurable

Actuellement, les technologies de l'IA échappent encore à des réglementations strictes concernant leur impact énergétique. Cela s'explique en partie par la nouveauté de ces technologies, mais également par la difficulté à mesurer précisément l'empreinte énergétique de chaque modèle d'IA.

Les besoins en puissance de calcul, en stockage de données et en consommation d'énergie sont autant de facteurs qui contribuent à cette empreinte. L'essor des applications d'intelligence artificielle générative, comme ChatGPT depuis 2022 ou l'arrivée de Search GPT, de Perplexity AI ou de Gemini, entraîne une augmentation continue de la demande en ressources.

Bien que le numérique soit intangible, son impact environnemental est bien réel. En effet, l'empreinte environnementale du numérique, englobant à la fois les data centers et les appareils connectés, représente entre 3 et 4 % des émissions mondiales de gaz à effet de serre et 2,5 % en France. De plus, ces émissions pourraient augmenter de 60 % d'ici à 2040 selon une étude conjointe de l'ADEME et de l'ARCEP réalisée en 2022.

La consommation d'énergie des serveurs et des infrastructures

Les centres de données des grandes entreprises technologiques consomment autant d'électricité que certaines villes de taille moyenne. Par exemple, les data centers de Google auraient consommé environ 16 milliards de litres d'eau en 2021. Cela équivaut à l'eau nécessaire pour irriguer et entretenir 29 terrains de golf dans le sud-ouest des États-Unis chaque année, source Google The Keyword 2022.

En plus de la consommation directe d'électricité par les géants du numérique, il faut prendre en compte une consommation d'eau indirecte liée à la production de cette électricité. En effet, selon les sources d'énergie utilisées par les centrales électriques (comme les centrales thermiques ou nucléaires), une grande quantité d'eau peut être nécessaire pour le refroidissement des installations. Ainsi, l'approvisionnement en électricité pour les data centers entraîne aussi une demande en eau significative, augmentant leur impact environnemental au-delà de la simple consommation d'énergie.

Ces chiffres illustrent bien le défi que représente la gestion énergétique de l'IA comparée à des industries classiques.

Des résultats édifiants

L'entraînement de modèles d'IA complexes est particulièrement énergivore. Les récentes avancées dans les systèmes d'intelligence artificielle sont principalement dues à l'utilisation de réseaux de neurones, qui nécessitent un entraînement sur d'énormes ensembles de données pendant des périodes pouvant aller de quelques jours à plusieurs semaines.

Les chercheurs de l'Université du Massachusetts ont mené des expériences en faisant fonctionner ces réseaux sur un unique processeur graphique pendant une journée. Ils ont ensuite réalisé des calculs (présentés sur Arxiv.org), pour estimer la consommation électrique totale durant un cycle d'entraînement, qu'ils ont ensuite convertie en émissions de gaz à effet de serre.

Les résultats sont édifiants. L'intégralité de ce processus génère une quantité de CO2 équivalente à celle émise par un vol commercial reliant New York à San Francisco pour 300 passagers ou encore à celle produite par cinq voitures 4 sur toute leur durée de vie, y compris leur fabrication, soit environ 284 tonnes de CO₂.

L'empreinte carbone des algorithmes d'IA

L'empreinte carbone des algorithmes d'intelligence artificielle est un aspect souvent négligé, mais essentiel pour évaluer leur impact environnemental. En effet, chaque interaction avec ces systèmes, qu'il s'agisse d'un simple traitement de données ou d'une prise de décision complexe, génère des émissions de gaz à effet de serre.

Formation des modèles de machine learning : un processus plus que gourmand en énergie

Le machine learning, ou apprentissage automatique, est au cœur du fonctionnement de l'IA. Pour entraîner un modèle à reconnaître des images, traduire du texte ou encore générer des contenus, il faut lui fournir des milliers d'exemples à traiter, ce qui nécessite de puissants serveurs sur le cloud. La formation de GPT-3, un modèle de la série des GPT développé par Open AI, a nécessité une quantité d'énergie estimée à plusieurs gigawatts-heures. Selon le MIT Technology Review 5 , la seule phase de pré-entraînement de GPT-3 a généré l'équivalent de 626 000 kg de CO₂, soit 71.9 tours de la terre en voiture ou la fabrication de 3 244 ordinateurs portables...., source Comparateur Carbone.

Il faudrait 4 à 6 fois la consommation annuelle du Danemark en eau rien que pour refroidir les centres de données d'IA d'ici à 2027

L'utilisation de ChatGPT est très énergivore, c'est indéniable. Selon Shaolei Ren, si 10 % des travailleurs américains l'utilisaient une fois par semaine pendant un an pour rédiger un courriel, cela entraînerait une consommation de 435 millions de litres d'eau et 121.517 mégawattheures d'électricité. Cette quantité d'énergie serait suffisante pour alimenter tous les foyers de Washington DC pendant 20 jours.

Cette forte consommation d'eau s'explique par le besoin de refroidir les centres de données d'intelligence artificielle, qui surchauffent lorsqu'ils effectuent des calculs. Pour maintenir les serveurs à une température acceptable, de grandes quantités d'eau sont nécessaires. Toujours selon Shaolei Ren, en 2023, l'entraînement de GPT-3 dans les centres de données de Microsoft aux États-Unis a pu consommer jusqu'à 700 000 litres d'eau douce, un chiffre qui a été peu divulgué.

La demande mondiale pour l'IA pourrait entraîner un prélèvement de 4,2 à 6,6 milliards de mètres cubes d'eau d'ici à 2027, soit l'équivalent de la consommation annuelle de 4 à 6 fois celle du Danemark ou de la moitié du Royaume-Uni (source Making AI Less " Thirsty ": Uncovering and Addressing the Secret Water Footprint of AI Models, 29 10 2023).

Cette situation est préoccupante, car la pénurie d'eau douce est l'un des défis les plus pressants à l'échelle mondiale, aggravée par la croissance de la population, l'épuisement des ressources en eau et le vieillissement des infrastructures hydrauliques. Pour répondre à ces enjeux, les entreprises doivent assumer leur responsabilité sociale en réduisant leur empreinte hydrique drastiquement, mais est-ce possible actuellement ?

Impact de la recherche et du développement en IA sur les émissions de CO₂ : une course sans fin ?

La course à l'IA la plus performante pousse de nombreux acteurs à investir dans la recherche et le développement de nouveaux modèles. Les géants de la tech comme Google Deep Mind, Microsoft, Perplexity AI et Amazon sont parmi les plus gros contributeurs à l'empreinte carbone de l'IA. Ce secteur, bien que dynamique, nécessite des ressources matérielles et énergétiques colossales, pour :

L'entraînement des modèles : les processus d'entraînement, qui nécessitent souvent plusieurs itérations, mobilisent des serveurs énergivores.

L'augmentation de la puissance de calcul : les centres de données hébergeant ces serveurs consomment des quantités importantes d'énergie, notamment pour le refroidissement.

La demande croissante de stockage : plus de données et de calculs engendrent des besoins en stockage massif, ce qui amplifie l'empreinte carbone.

Les défis pour réduire l'impact écologique de l'IA

Malgré les avancées technologiques, réduire l'impact écologique de l'intelligence artificielle demeure un défi majeur pour les entreprises et les data scientists. La nécessité de concilier innovation technologique et durabilité environnementale pose des questions complexes qui doivent être abordées de manière proactive.

Les initiatives pour rendre les data centers plus verts

Face à ces défis, de nombreuses initiatives ont été mises en place pour réduire l'impact des ces nouvelles technologies sur l'environnement. Certains géants du secteur, comme la société Alphabet, visent la neutralité carbone pour leurs centres de données. En 2021, Google a annoncé que ses data centers fonctionnaient déjà à 64 % à l'énergie renouvelable, avec pour objectif de parvenir à 100 % d'ici 2030 (source Google Sustainability, "Fonctionner avec une énergie sans carbone 24h/24 et 7j/7 d'ici 2030"). De même, Microsoft a pour ambition de devenir " carbone négatif " d'ici 2030, en capturant davantage de carbone qu'il n'en émet
Les entreprises investissent également dans des techniques de refroidissement plus écologiques. Par exemple, le refroidissement par immersion liquide permet de limiter l'utilisation de l'eau, réduisant ainsi l'empreinte hydrique des centres de données.

L'optimisation des algorithmes pour une consommation réduite

Pour réduire l'impact environnemental des IA, il est essentiel d'optimiser les algorithmes eux-mêmes. En développant des modèles plus légers, moins gourmands en calcul, les "data scientists" parviennent à diminuer la puissance nécessaire à leur entraînement et à leur déploiement. Par exemple, le concept de TinyML 8 (Tiny Machine Learning) propose des algorithmes conçus pour fonctionner sur des dispositifs à faible consommation d'énergie, comme les objets connectés.

Par ailleurs, des techniques de Data pruning 9 (élagage des données) et de quantization 10 permettent de simplifier les réseaux de neurones sans compromettre la précision des modèles d'IA, réduisant ainsi leur coût énergétique.

Rôle des entreprises RSE et des chercheurs dans la transition écologique

Les entreprises doivent jouer un rôle clé dans la réduction de l'empreinte écologique de l'IA. Les démarches RSE (Responsabilité Sociétale des Entreprises) doivent désormais inclure une réflexion sur la durabilité des nouvelles technologies utilisées. Ces entreprises peuvent opter pour des fournisseurs de cloud qui garantissent une énergie verte et encourager des pratiques de développement plus sobres, en privilégiant l'efficacité et la sobriété énergétique.

Les chercheurs, quant à eux, ont la responsabilité de sensibiliser et d'inciter à un usage raisonné de l'IA. En publiant des études sur l'empreinte carbone des technologies qu'ils développent, ils favorisent une prise de conscience collective, nécessaire à la transition écologique.

L'intelligence artificielle au service de l'environnement : un impact écologique à double tranchant

L'intelligence artificielle présente un impact écologique à double tranchant, révélant à la fois ses dangers et ses bénéfices potentiels pour l'environnement. Alors qu'elle contribue à la pollution par sa consommation énergétique, elle offre également des solutions innovantes pour relever les défis environnementaux actuels.

Comment l'IA peut aider à lutter contre la pollution

Si l'IA contribue à la pollution, elle peut également être un allié de taille pour l'environnement. Des applications de l'IA permettent de surveiller et de réduire les émissions de CO₂ dans de nombreux secteurs. Par exemple, des modèles de machine learning sont utilisés pour optimiser les consommations d'énergie dans les bâtiments ou les systèmes de transport, réduisant ainsi les besoins énergétiques.

Exemples d'applications de l'IA pour la gestion des ressources et la protection de la biodiversité

L'IA est aussi utilisée pour la gestion des ressources naturelles. Des algorithmes d'apprentissage automatique sont capables de prévoir les rendements agricoles en analysant les conditions climatiques et les données des sols, permettant ainsi une utilisation plus raisonnée des engrais et de l'eau.
Dans le domaine de la biodiversité, l'IA aide à :

Cartographier les écosystèmes
L'IA est utilisée pour analyser des images satellite et créer des cartes détaillées des écosystèmes. Par exemple,Google Earth Engine utilise l'apprentissage automatique pour cartographier la couverture terrestre et surveiller les changements dans les écosystèmes, tels que la déforestation en Amazonie 11 ou l'expansion urbaine.

Améliorer la précision de la surveillance des océans
LeWRI (World Resources Institute) collabore avec des partenaires pour utiliser des outils d'IA qui analysent les données satellitaires afin de surveiller la santé des océans. Autre exemple, Ocean Mind utilise l'IA pour suivre les activités de pêche et identifier les pratiques non durables, permettant ainsi une gestion plus efficace des ressources maritimes.

Détecter les espèces menacées
Des projets commeWildlife Insights utilisent l'IA pour analyser des milliers de photos prises par des caméras pièges. Ces algorithmes permettent d'identifier automatiquement les espèces, y compris celles en danger et de suivre leur population dans des zones protégées.

Surveiller les forêts tropicales
Des capteurs et des drones équipés d'IA sont utilisés pour surveiller les forêts tropicales, comme la forêt amazonienne. Par exemple,Planet Labs déploie des satellites pour capturer des images à haute fréquence des forêts, et l'IA est utilisée pour détecter les changements de couverture forestière et la déforestation illégale en temps réel.

Analyse des données de drones ou de satellites
Les drones équipés de caméras et de capteurs peuvent survoler des habitats naturels pour collecter des données sur la biodiversité. Par exemple,WildEye AI utilise des drones pour surveiller les populations d'éléphants, détecter les espèces menacées ou les comportements migratoires, permettant aux chercheurs de mieux comprendre les dynamiques de ces espèces et d'adapter les efforts de conservation.

L'importance de concilier développement technologique et écologie

Le défi de l'avenir demeure de concilier intelligemment le développement technologique avec la préservation de notre environnement. L'IA peut être une solution si elle est utilisée de manière responsable, mais cela implique de penser son développement sous l'angle de la durabilité. Il est impératif que les entreprises, les chercheurs et les décideurs publics travaillent ensemble pour mettre en place un cadre réglementaire qui encourage l'innovation tout en limitant son impact écologique.
Des gestes simples à adopter pour réduire les impacts environnementaux du numérique
Vers une intelligence artificielle plus durable ?

L'intelligence artificielle, avec ses algorithmes puissants et ses applications révolutionnaires, est devenue incontournable pour de nombreux individus et organisations. Mais son empreinte écologique, encore trop souvent sous-estimée, pose des défis majeurs pour la transition énergétique. L'optimisation des infrastructures, la sobriété énergétique des algorithmes et les initiatives pour des data centers plus verts sont autant de leviers à actionner pour rendre l'IA plus durable.

En intégrant des pratiques écoresponsables dans la conception, le fonctionnement et l'utilisation de l'IA, il est possible de tirer parti de ses avantages technologiques tout en minimisant ses impacts négatifs sur l'environnement.

Dans ce contexte, adopter une approche proactive signifie non seulement s'attaquer aux problèmes environnementaux liés à l'intelligence artificielle, mais aussi rechercher activement des moyens d'utiliser l'IA pour contribuer à des solutions durables. Cela inclut la réduction de la consommation d'énergie des algorithmes, l'optimisation des infrastructures et l'innovation dans des pratiques respectueuses de l'environnement.

En tendant vers un avenir plus vert et plus durable grâce à l'IA, nous pouvons construire une technologie qui non seulement répond à nos besoins, mais qui protège également notre environnement.

Si vous souhaitez adopter une démarche plus responsable au travail ou vous spécialiser, découvrez nos programmes de formation

Vous êtes déjà formé.e au numérique et souhaitez vous spécialiser dans la durabilité ? Notre mastère Management, Ingénierie et Droit de l'Environnement pourrait vous intéresser !
Vous êtes déjà en poste et souhaitez mettre en place une démarche RSE au sein de votre organisation ? Notre formation thématique "Mettre en place une démarche RSE" répondra probablement à votre besoin.

# data[].attributes.attachment_link.title
L'intelligence artificielle : une pollution cachée au cœur de l'innovation - Institut Supérieur de l'Environnement - ISE

# data[].attributes.attachment_link.description
Découvrez comment l'IA contribue à la pollution et les solutions pour réduire son empreinte écologique.

# data[].attributes.attachment_link.readable_text
L'intelligence artificielle (IA) est passée de concepts théoriques à des applications concrètes. Dans le domaine du transport, elle a conduit au développement d'innovations de pointe qui promettent d'améliorer la mobilité à l'échelle mondiale. Aujourd'hui, les applications de l'IA dans l'écosystème des transports sont multiples, allant de la gestion du trafic aux véhicules autonomes.

Cependant, l'utilisation de l'IA dans les transports soulève également des questions éthiques, car les algorithmes qui alimentent ces applications reposent sur les données. Des erreurs de représentation, des données de mauvaise qualité ou biaisées peuvent entraîner des accidents aux conséquences potentiellement fatales. Ainsi, les parties prenantes doivent être prudentes lors de la mise en œuvre de l'IA.

L'IA est un outil puissant, et avec un grand pouvoir viennent de grandes responsabilités. Cet article explore l'équilibre délicat entre les considérations éthiques et les progrès de l'IA dans les transports.

Le besoin d'une IA éthique dans les transports

Les systèmes basés sur l'IA utilisent une quantité massive de données, dont certaines en temps réel. Il est donc essentiel de bien réfléchir avant de se lancer dans des projets alimentés par l'IA. Leur mise en œuvre doit être centrée sur l'humain, respecter le cadre légal et adhérer à des principes moraux.

Les logiciels pilotés par l'IA fonctionnent grâce à l'intégration avec d'autres technologies, telles que le Cloud et les capteurs IoT. Cela implique une gestion soigneuse des différentes plateformes nécessaires à la production de solutions d'IA.

Protéger la confidentialité des données personnelles et prévenir les abus

Le transport, pilier de la vie moderne, génère quotidiennement une quantité énorme de données. Par exemple, les véhicules autonomes (AVs) collectent des données via des caméras, radars, lidars, GPS et divers capteurs. Selon Intel, un véhicule autonome peut générer jusqu'à 4To de données par jour .

Grâce à l' Edge Computing, les véhicules deviennent des centres de données mobiles. Ces données proviennent des passagers, des piétons, des voitures, des cyclistes et de l'environnement. Cependant, la commercialisation et la collecte massive de ces données réduisent le contrôle des individus sur leurs informations personnelles.

Les données collectées incluent des informations de localisation et des données biométriques. Russell Ruben, directeur marketing chez Western Digital, explique que certaines de ces données sont traitées en temps réel avant d'être supprimées, tandis que d'autres sont stockées pour entraîner des modèles d'IA. De plus, les AV personnels stockent des données supplémentaires, notamment les préférences de l'utilisateur et des informations financières.

Le stockage des données sur le Cloud pour le traitement et l'entraînement des modèles ouvre la porte à des fuites de données et des accès non autorisés. Par exemple, des chercheurs en IA de Microsoft ont accidentellement exposé 38 To de données en configurant mal un serveur Cloud.

Une enquête menée par HiddenLayer, une entreprise de cybersécurité, a révélé qu'en 2023, environ 77 % des entreprises interrogées avaient subi des violations liées à leurs solutions d'IA . Selon Chris Sestito, PDG de HiddenLayer, l'IA est la technologie la plus vulnérable jamais déployée dans des systèmes de production .

Les données utilisées pour l'IA doivent être traitées dans le cadre des réglementations légales en vigueur. Les entreprises doivent être transparentes sur leurs processus. Par exemple, les autorités qui utilisent l'IA pour gérer le trafic doivent éviter de l'exploiter à des fins de surveillance.

Les développeurs d'IA pour les transports doivent intégrer dès la conception des principes de protection de la vie privée. Cela signifie inclure la confidentialité comme composante essentielle des modèles d'IA afin de limiter les atteintes à la vie privée. Des stratégies telles que le chiffrement des données, des pratiques de cybersécurité robustes et l'anonymisation des données personnelles doivent être prioritaires.

Des cadres réglementaires solides comme le RGPD de l'UE et le CCPA de Californie offrent des bases intéressantes, bien que des améliorations soient encore nécessaires.

Aborder les biais algorithmiques et promouvoir l'équité

Les biais dans les solutions d'IA proviennent souvent de données non représentatives ou défectueuses qui perpétuent des inégalités. Si ces biais ne sont pas corrigés, ils peuvent conduire à des décisions discriminatoires.

Une étude menée par Georgia Tech a révélé que les modules de détection d'objets dans les AVs avaient des performances insatisfaisantes pour détecter les personnes de couleur, exposant ces groupes à des risques accrus d'accidents.

Biais dans les applications de reconnaissance vocale automatisée

Les systèmes d'IA à commande vocale trouvent de plus en plus leur place dans les véhicules, tant pour des fonctionnalités embarquées qu'externes. Cependant, les solutions de reconnaissance vocale automatisée ( ASR, Automated Speech Recognition) développées avec des données biaisées ou non diversifiées peuvent présenter des lacunes.

Ces lacunes peuvent être dues à des modèles de discours variés, des accents régionaux ou des contextes mal interprétés. Une étude de l'Université de Stanford a mis en évidence des disparités raciales significatives dans les systèmes ASR. Selon cette recherche, les assistants vocaux équipés de capacités de traitement du langage naturel (NLP) identifient mal 35 % des mots prononcés par des locuteurs noirs, contre 19 % pour les locuteurs blancs .

Les fonctionnalités activées par la voix sont un véritable atout pour l'industrie automobile, améliorant l'accessibilité dans divers écosystèmes de transport. Cependant, en l'absence de données d'entraînement diversifiées et de tests rigoureux, les systèmes ASR risquent de ne pas répondre aux attentes de certaines communautés.

Des biais dans les données d'entraînement peuvent limiter l'acceptation sociale et la confiance envers l'IA. Une IA qui automatise et renforce les stéréotypes peut causer des dommages aux utilisateurs du transport. Les parties prenantes doivent donc prendre des mesures proactives pour résoudre les problèmes qui contribuent aux inégalités. Les solutions locales doivent répondre aux besoins des populations locales tout en tenant compte des visiteurs et des usagers étrangers.

Naviguer dans les dilemmes éthiques de la prise de décision par l'IA

L'IA identifie des motifs et corrélations cachés dans les données, aidant les systèmes et les opérateurs à prendre des décisions. Cependant, ces systèmes sont souvent perçus comme complexes et opaques, ce qui suscite des inquiétudes sur la transparence, la confiance et la responsabilité.

Les systèmes de deep learning sont critiqués pour leur nature de " boîtes opaques ", car il est difficile de comprendre comment leurs décisions sont prises. Par exemple, les véhicules autonomes sont censés freiner en cas de détection d'un piéton. Pourtant, si un accident survient, il est impossible de retracer le processus de " réflexion " de l'IA .

Le professeur Samir Rawashdeh de l'Université du Michigan souligne les défis liés à la robustesse des systèmes de perception des véhicules autonomes. Il explique que si un accident se produit parce qu'un système n'a pas détecté un piéton, cela pourrait être dû à une situation nouvelle pour laquelle le système n'a pas été entraîné.

Cependant, Rawashdeh remet en question la faisabilité de recueillir des données d'entraînement qui couvrent tous les scénarios possibles, étant donné l'infinité de permutations dans les conditions de conduite réelles : variations météorologiques, types de routes ou niveaux d'éclairage.

Des stratégies pour résoudre le problème des boîtes opaques incluent le développement d'une IA explicable ( XAI, Explainable AI). Ce cadre aide à interpréter et comprendre les modèles d'IA, en caractérisant leur précision, leur transparence et leurs résultats.

L'IA explicable permet aux développeurs de vérifier si les sorties des modèles sont exactes en effectuant des simulations par rapport aux résultats attendus. Des techniques comme DeepLIFT peuvent également être utilisées pour tracer la dépendance entre les entrées et les sorties des systèmes d'IA .

Les dilemmes de prise de décision dans les véhicules autonomes

Dans un environnement de transport imprévisible et dynamique, les véhicules autonomes peuvent être confrontés à des dilemmes éthiques complexes. L'un des exemples les plus célèbres pour illustrer ce défi est le " problème du tramway ".

Dans le contexte des AVs, ce dilemme se pose lorsque le véhicule doit prendre des décisions en une fraction de seconde, choisissant entre deux issues potentiellement préjudiciables. Par exemple, un AV pourrait se retrouver dans une situation où il doit choisir entre percuter un groupe de piétons ou dévier et mettre en danger ses passagers.

Cela soulève des questions sur les principes éthiques et les cadres de décision à intégrer dans les systèmes d'IA. Les AVs doivent-ils prioriser la sécurité de leurs passagers ou celle des piétons ? Ou doivent-ils être programmés pour minimiser les dommages globaux ?

Trouver un équilibre entre ces priorités conflictuelles et déterminer les compromis appropriés exige une réflexion approfondie et un dialogue continu entre les éthiciens, les décideurs politiques et les acteurs de l'industrie.

Impact sur l'emploi et le marché du travail

Un rapport de PwC indique que l'IA et l'automatisation pourraient ajouter plus de 15 000 milliards de dollars à l'économie mondiale d'ici 2030 . Cependant, cela se fera au prix de déplacements d'emplois et d'impacts sur le marché du travail. Le Forum économique mondial estime que l'IA pourrait entraîner la perte de 75 millions d'emplois dans le monde d'ici 2025 .

L'industrie du transport est particulièrement concernée : une fois que les AVs atteindront une autonomie complète, les chauffeurs de taxis et de services de covoiturage risquent de perdre leur emploi.

Par exemple, Baidu, géant chinois des moteurs de recherche, exploite un service de robotaxis à Wuhan. L'adoption rapide de ce service et ses tarifs bas suscitent des inquiétudes parmi les chauffeurs locaux, qui voient leurs emplois menacés .

Face à ces menaces, les travailleurs du secteur des transports devront se former à de nouvelles compétences. Les autorités compétentes doivent veiller à ce que les projets d'IA dans le transport soient centrés sur l'humain, augmentant les capacités des travailleurs plutôt que de les remplacer.

Préoccupations liées à la sécurité

En juin 2022, un robotaxi Cruise a blessé plusieurs passagers. Selon le rapport d'accident, l'enquête a conclu que les décisions prises par le véhicule étaient " inacceptablement risquées " . Dans un autre incident, un robotaxi Cruise a percuté un bus par l'arrière en raison d'une erreur dans le modèle de prédiction.

Ces incidents, ainsi que d'autres, ont mis en lumière les problèmes de sécurité des véhicules autonomes. Ces véhicules reposent sur des technologies sophistiquées qui collectent et traitent des données avant de prendre des décisions. Le moteur d'IA, basé sur des réseaux neuronaux, est formé avec de nombreuses images pour des tâches comme la détection d'objets. Cependant, ce moteur peut rencontrer des difficultés dans des situations peu communes, ce qui peut conduire à des décisions contestables.

La sécurité des systèmes d'IA destinés au grand public est cruciale. Toute solution d'IA qui nuit ou perturbe négativement les usagers suscite de la méfiance. Les solutions basées sur l'IA doivent donc faire l'objet de tests rigoureux et de simulations continues pour renforcer l'apprentissage des systèmes.

Équilibrer les bénéfices et les risques

L'IA transforme le secteur des transports avec des applications telles que l'optimisation des itinéraires et une meilleure gestion du trafic. Cependant, les préoccupations éthiques, notamment en matière de vie privée, soulignent la nécessité d'une mise en œuvre prudente des projets d'IA. Des stratégies appropriées doivent être adoptées pour garantir que les risques ne l'emportent pas sur les avantages.

Par exemple, un cadre législatif approprié peut fournir une plus grande clarté et un équilibre entre les projets d'IA et les risques associés. Cependant, à l'heure actuelle, les lois accusent un retard par rapport aux avancées spectaculaires de l'IA.

En outre, les autorités et les entreprises doivent concevoir des projets centrés sur le public tout en tenant compte des considérations éthiques. Des normes et stratégies doivent être établies, notamment en ce qui concerne l'implication des parties prenantes, l'éducation des utilisateurs, la traçabilité et l'utilisation d'une IA explicable. En fin de compte, les applications éthiques de l'IA bénéficieront d'une meilleure acceptation et d'une confiance accrue.

Conclusion

L'IA dans le secteur des transports offre des perspectives prometteuses en termes d'efficacité, de sécurité et de durabilité. Cependant, la prise en compte des considérations éthiques est essentielle pour une mise en œuvre réussie. Une approche proactive pour atténuer les risques liés à la vie privée, aux biais algorithmiques et à la sécurité est cruciale pour instaurer la confiance du public et surmonter les préoccupations actuelles.

En établissant des cadres éthiques solides, des normes et des lignes directrices, les développeurs de systèmes d'IA peuvent garantir que cette technologie est déployée de manière à respecter les droits individuels, promouvoir l'équité et prioriser les besoins des acteurs du secteur des transports.

# data[].attributes.attachment_link.title
L'éthique de l'IA dans le transport : équilibrer sécurité, confidentialité et équité - Numalis

# data[].attributes.attachment_link.description
L'intelligence artificielle (IA) est passée de concepts théoriques à des applications concrètes. Dans le domaine du transport, elle a conduit au développement d'innovations de pointe qui promettent d'améliorer la mobilité à l'échelle mondiale. Aujourd'hui, les applications de l'IA dans l'écosystème des transports sont multiples, allant de la gestion du trafic...

# data[].attributes.attachment_link.title
L’impact de l’IA sur l’industrie de la mobilité | Geotab

# data[].attributes.attachment_link.description
Quels seront le rôle et l’impact de l’intelligence artificielle (IA) sur les flottes, les emplois et l’industrie de la mobilité dans sa globalité ?

# data[].attributes.attachment_link.title
Le rôle de l’IA dans la décarbonation des transports

# data[].attributes.attachment_link.description
Avec 130,5 millions de tonnes équivalent CO2 émises en 2022, le secteur des transports reste le premier contributeur aux émissions de gaz à effet de serre (GES) en France (32 %) (Source : Notre-Environnement). Face à l’urgence climatique, l’IA propose des solutions innovantes pour optimiser la gestion du trafic, améliorer l’efficacité énergétique des flottes de véhicules et transformer notre manière de nous déplacer.

# data[].attributes.attachment_link.title
Quelle place pour l’intelligence artificielle dans les cabinets de médecine générale ?

# data[].attributes.attachment_link.description
À l’heure de l’intelligence artificielle et des innovations dans le domaine, découvrez quelle place elle occupe désormais dans les cabinets de médecine générale

# data[].attributes.attachment_link.title
V. Les consequences potentielles de l’ia sur la relation medecin-patient - Droits Humains et Biomédecine - www.coe.int

# data[].attributes.attachment_link.description
L’IA laisse présager une variété de possibilités et d’avantages pour l’exercice de la médecine, mais également des risques. En s’appuyant sur les défis éthiques de l’IA et du contexte politique qui ont été développés dans le chapitres intitulé « Historique et contexte », « Vue d’ensemble des technologies de l’IA en médecine », et « Cadre théorique de la relation médecin-patient », le présent chapitre identifie six conséquences potentielles de l’IA sur la relation médecin-patient.AI promises a variety of opportunities, benefits, and risks for the practice of medicine. Drawing on the framework of ethical challenges facing AI and policy context developed in the sections entitled “Background and context”, “Overview of AI applications in medicine”, and “Theoretical framework of the doctor-patient relationship”, this section identifies six potential impacts of AI on the doctor-patient relationship.

# data[].attributes.attachment_link.description
Qu'est-ce que l'intelligence artificielle ? Quels sont ses usages ? Qu'énoncent les lois d'Asimov ? 10 questions pour tester vos connaissances sur l'intelligence artificielle ! |

# data[].attributes.attachment_link.readable_text
Pourquoi l'intelligence artificielle a besoin d'éthique

Depuis l'antiquité, les philosophes s'intéressent à l'éthique; sa définition précise implique de nombreuses considérations complexes touchant le bien et le mal, la morale, le devoir de chacun et le rôle que les individus sont appelés à jouer dans la société.

La question de l'éthique entourant l'IA existe depuis ses tout premiers développements. La capacité des logiciels à effectuer des tâches complexes normalement réservées aux humains fait craindre le contournement des principes moraux qu'on attribue aux humains par des logiciels servant des intérêts malveillants ou conçus pour des fins répréhensibles.

La crainte de voir les machines dépasser leurs créateurs ou échapper à leur contrôle a aussi saisi l'imagination, et de nombreux scénarios catastrophiques ont vu le jour sous la plume, entre autres, d'auteurs de science-fiction. En 1942, l'écrivain Isaac Asimov a énoncé ce qu'il a appelé les trois lois de la robotique. Ces lois, revisitées dans le film I, Robot en 2004, constituent l'une des premières tentatives pour établir des lignes directrices visant à nous protéger des éventuels dangers des systèmes informatiques autonomes.

Aujourd'hui, avec l'omniprésence et la puissance accrue des ordinateurs, la possibilité que les algorithmes montrent des compétences qui imitent l'intelligence humaine et peuvent avoir des conséquences fâcheuses s'ils ne font pas l'objet d'une surveillance et d'une réglementation minutieuses, rend cette menace beaucoup plus réelle et subtile.

Selon des chercheurs du AI Now Institute, de l'université de New-York, l'introduction de systèmes d'IA dans le domaine social indique l'urgence de mettre en place des mécanismes d'évaluation, de responsabilisation et de surveillance touchant tout particulièrement les systèmes de reconnaissance des images et des émotions.

Voici quelques-uns des domaines qui, selon le Stanford Encyclopedia of Philosophy, devront faire l'objet d'une vigilance accrue compte tenu de la présence croissante de ces systèmes intelligents.

La vie privée et la surveillance

La collecte et l'interprétation des informations numériques échangées entre les individus et des informations obtenues au moyen de senseurs par des systèmes IA de plus en plus performants ont entraîné la circulation de données personnelles et de données permettant l'identification des personnes au-delà des plateformes dans lesquelles elles ont été recueillies. Cet accès à des informations personnelles pouvant être extrapolées pour caractériser des groupes, interfère, par exemple, avec le droit des individus au secret et à la vie privée. Dans le passé, on s'est surtout préoccupé de la surveillance des individus par l'État ou par les services secrets.

De nos jours, d'autres agents étatiques, des entreprises et même des individus peuvent appliquer cette surveillance. Subséquemment, le traitement de ces ensembles massifs de données permet de caractériser les individus avec une précision qui dépasse celle dont ils peuvent eux-mêmes disposer. On pourrait dire que la machine nous connaît mieux que nous ne nous connaissons nous-mêmes, mais aussi qu'elle nous connaît mal lorsque l'image qu'elle nous renvoie est fondée sur des données interprétées en secret d'après des généralisations hâtives ou des informations erronées.

Les technologies permettant l'acquisition de ces données ont beaucoup évolué au cours des dernières décennies, et la réglementation n'a pas toujours suivi. Une certaine anarchie règne dans ce domaine et les gros joueurs retirent les bénéfices de ce manquement, parfois au vu et au su de tous. Un marché s'est ainsi établi dans lequel ces informations peuvent être transigées comme des marchandises. Le caractère numérique des informations contribue grandement à l'acquisition de ces données et rend leur contrôle plus difficile que dans un monde de papier et d'échanges téléphoniques. Combinée à l'utilisation d'algorithmes de reconnaissance faciale, la collecte de ces informations facilite grandement le profilage et la recherche d'individus. Cette disponibilité des données et la possibilité d'exploiter les connaissances ainsi acquises font partie du prix à payer pour les services, dits gratuits, que l'on utilise. Pour obtenir ces informations, certaines compagnies vont jusqu'à faire usage de déception ou de manipulation, et n'hésitent pas à encourager la procrastination ou à susciter la dépendance.

En réponse à cette invasion, plusieurs techniques de préservation de l'anonymat utilisant le cryptage ou le brouillage se développent, entre autres par le biais d'entreprises qui y voient un avantage commercial. La réglementation de ces pratiques est éminemment complexe compte tenu de la difficulté à établir la responsabilité et à démontrer l'intention fautive.

Est-ce que ça existe encore la vie privée ?

La manipulation du comportement

Au-delà de l'accumulation et du traitement des données, on peut se questionner sur le caractère éthique de leur utilisation pour influencer le comportement des individus sans tenir compte des choix rationnels personnels. Cet objectif n'est pas nouveau mais la présence de l'IA lui confère une qualité nouvelle. Présentement, les jeux de hasard et la vente de substances addictives sont fortement réglementés. L'encouragement de la dépendance aux plateformes de communication en ligne et la manipulation qu'elle entraîne ne l'est pas, et ces pratiques constituent un trait important du modèle d'affaires de l'Internet. L'utilisation de telles méthodes sur les réseaux sociaux, combinée à la diffusion de fausses nouvelles et de photos ou de vidéos savamment retouchées nous expose tous à des manipulations frauduleuses.

Les efforts de défense des libertés civiles et de protection des droits des individus subissent énormément de pression de la part des lobbies d'affaires, des services secrets et d'autres agences d'État pour qui la surveillance est primordiale. La position des gouvernements sur cette question varie beaucoup. Tandis que l'Union européenne, par exemple, s'est montrée plus favorable à la protection de la confidentialité, les États-Unis et la Chine ont préféré miser sur la croissance économique au détriment de la réglementation.

L'opacité des systèmes d'IA

L'utilisation d'un système d'IA pour l'aide à la prise de décision ou pour l'analytique prédictive soulève bien des questions en ce qui a trait à l'attribution de la responsabilité et au contournement possible des procédures reconnues. La difficulté, voire l'impossibilité d'examiner le détail des procédures de décision et des ensembles de données ayant servi à échafauder ces procédures impose de sérieuses restrictions qui limitent l'implication des humains. Cette opacité affecte les personnes qui subissent les conséquences des décisions prises. Si l'état du système est le résultat d'un apprentissage machine non supervisé, les développeurs qui auront élaboré et mis en place le système seront eux-mêmes laissés dans le noir. Cette ignorance des motifs réels ayant mené aux recommandations produites par les algorithmes rend difficile la reconnaissance de biais possibles dans les décisions rendues ou dans la sélection des données utilisées dans l'élaboration des algorithmes.

# data[].attributes.attachment_link.title
Enjeux éthiques de l'intelligence artificielle (IA) - PraedictIA

# data[].attributes.attachment_link.description
Quels sont les enjeux éthiques de l'intelligence artificielle (IA) sur notre société ? Apprenez-en plus sur la question d'éthique de l'IA en visitant praedictia.com

# data[].attributes.attachment_link.readable_text
L'éthique artificielle ou, plus largement, l'éthique appliquée à l'intelligence artificielle est le domaine de l'éthique qui se demande ce qui est bon, juste ou vertueux dans la mise en œuvre des systèmes d'intelligence artificielle. Comme c'est souvent le cas en éthique, les réponses sont complexes, diversifiées et elles dépendent beaucoup du contexte. C'est pourquoi, du point de vue méthodologique, il importe de se défier tout autant de la panique morale qui voit des robots tueurs et des pentes glissantes partout, que de la hype - pour reprendre le terme de Paula Boddington (2017) - c'est-à-dire du battage médiatique et de sa fascination pour la nouveauté au détriment de l'esprit critique.

Sans doute l'intelligence artificielle (IA) a-t-elle déjà une longue histoire : la fameuse conférence de Dartmouth souvent considérée comme son acte fondateur fut organisée par John McCarthy durant l'été 1956. Mais c'est avec l'émergence de l'apprentissage profond - deep learning en anglais - que plusieurs avancées spectaculaires, comme la reconnaissance d'image ou la traduction automatique, ont récemment eu lieu. Depuis quelques années, cette forme d'apprentissage automatique qui fonctionne au moyen de réseaux de neurones artificiels, plus ou moins inspirés des neurones biologiques, est devenue si efficace qu'elle soulève des questions éthiques avec une grande acuité - et parfois, peut-être, une certaine confusion. Il faut d'ailleurs noter que les systèmes d'IA sont de plus en plus présents dans la vie quotidienne des gens et qu'il y a de bonnes raisons de penser que ce n'est qu'un début.

L'éthique de l'IA est une discipline transversale. Elle est étroitement liée à la philosophie de la technique (Franssen et al. 2015), à l'éthique des robots (Lin et al. 2012), des données massives et de l'information (Floridi 2010). Elle peut également recouper l'éthique de la guerre : une machine autonome pourrait-elle prendre la décision de tuer? (Jeangène Vilmer 2016), l'éthique publique : qui devrait décider des normes liées aux IA?, la bioéthique : quelle place donner aux algorithmes d'aide à la décision médicale?, la philosophie sociale et politique : comment gérer les conséquences de l'automatisation sur l'emploi?, le droit : comment protéger les données personnelles?, ou l'éthique environnementale : comment atténuer l'empreinte écologique de l'IA?

C'est parce que tout ce qui est techniquement possible n'est pas moralement souhaitable que nous avons besoin d'une éthique de l'IA. Tout comme le droit et les sciences politiques (Calo 2017), cette branche de l'éthique appliquée analyse les enjeux normatifs d'un champ de l'activité humaine qui est à la fois récent, fortement diversifié et en évolution constante. S'il est probablement trop tôt pour discerner des paradigmes ou des théories dominantes, on peut déjà s'adonner à cette tâche philosophique importante qui consiste à identifier et regrouper les problèmes. Que nous apprend un rapide tour d'horizon ?

Sans entrer dans la question délicate de définir l'intelligence artificielle (et même l'intelligence naturelle), on peut toutefois distinguer entre elles les IA ou ces suites d'opérations que sont les algorithmes selon leur fonction (Abiteboul et Dowek 2017) : calculer, classer, archiver, communiquer, diriger (voiture), fabriquer (robot), modéliser.

Par ailleurs, on trouve souvent dans la littérature, à la suite de John Searle (1980), une division - contestée - entre IA forte et faible : une IA forte serait " vraiment " intelligente et capable de comprendre les informations qu'elle traite, tandis qu'une IA faible peut simuler des comportements intelligents, mais n'a pas de croyances, de désirs ou d'autres états mentaux authentiques. Il n'existerait à l'heure actuelle que des IA faibles.

On peut toutefois préférer à cette distinction celle, plus descriptive, entre IA étroite et générale. Une IA étroite désigne un système dont les compétences sont spécifiques à un domaine, tandis qu'une IA générale serait capable, comme l'humain, de s'adapter à des domaines ou des environnements nouveaux. Une fois encore, on peut dire qu'il n'existe pour le moment que des IA étroites.

Enfin, une IA peut être plus ou moins avancée, notamment par comparaison avec l'intelligence humaine. Ainsi, le programme AlphaGo, qui est plus performant que les meilleurs joueurs de go, est une IA avancée, bien qu'étroite et faible. C'est aussi le cas des voitures autonomes - qui sont des robots de transport. Une hypothétique superintelligence, comme HAL9000 dans 2001 L'Odyssée de l'Espace, serait, quant à elle, une IA forte, générale et (super) avancée.

Ces différents types d'IA et les technologies qui les mettent en application soulèvent des problèmes variés qu'on peut, là aussi, chercher à classifier. Ainsi, certains enjeux sont d'abord de nature épistémique, c'est-à-dire liée à la connaissance : c'est notamment le cas avec la question de l'opacité des processus de décisions automatiques, parfois qualifiée comme " problème de la boite noire " (Knight 2017). En effet, la technique de l'apprentissage profond avec ses nombreuses couches de neurones artificielles donne des résultats impressionnants dans certaines tâches (comme la reconnaissance d'images), mais souvent au prix de la transparence du processus. Cette opacité, voire cette impénétrabilité de l'IA, est préoccupante lorsqu'il est requis d'expliquer et de justifier la décision prise par un algorithme.

De nombreux problèmes soulevés par l'IA sont de nature directement éthique, c'est-à-dire qu'ils concernent la manière dont un agent (une entité qui agit) devrait se comporter à l'égard d'un patient moral (une entité qui peut subir un tort). Par exemple, devant une collision inévitable, que devrait faire une voiture autonome? Comment devrait-on la programmer? Ces questions sont difficiles, mais elles peuvent au moins être anticipées (Bonnefon et al. 2016). Ce n'est pas le cas pour de nombreux problèmes qui tiennent aux conséquences involontaires du déploiement de l'IA.

Plus précisément, on peut envisager trois types de risque. L'IA peut être " trop stupide " : c'est ce qui arrive avec les bogues ou les accidents (de voitures autonomes, par exemple), et qui donne lieu à des recherches sur la sécurité et la robustesse. Il faut aussi s'inquiéter des usages malveillants d'une IA qui menacent la sécurité numérique, physique ou politique (Brundage et al. 2018) : cyberattaques renforcées par l'IA, détournement de voitures autonomes par des terroristes, manipulation de masse via les réseaux sociaux. Un troisième type de risque, plus spéculatif, pourrait venir de ce que l'IA est " trop intelligente ". Mark Tegmark (2018) imagine ainsi plusieurs scénarios où une superintelligence hostile parvient à tromper les humains qui veulent la maintenir sous contrôle.

Il est également possible de classer ces risques selon qu'ils sont à long, moyen ou court termes. S'il est peu probable qu'une superintelligence ne soit développée avant plusieurs dizaines d'années, l'impact de l'automatisation sur l'emploi ou des robots sur les relations humaines se profilent à un horizon de quelques années. De leur côté, l'opacité des algorithmes, la sécurité des systèmes informatiques ou le manque de diversité dans l'industrie et la recherche sont des enjeux tout à fait actuels.

Enfin, on remarquera que certains problèmes sont anciens - comme la propagande politique - mais qu'ils sont démultipliés ou exacerbés par les systèmes d'IA. On trouve aussi de nombreux problèmes d' actions collectives ou de coordination : la campagne internationale Stop Killer Robots insiste par exemple sur les risques d'une course vers le bas analogue à la course aux armes nucléaires, avec cette crainte supplémentaire que la technologie ne rende le coût humain et financier des attaques plus faibles - et donc leur probabilité plus élevée. L'éthique de l'IA est toutefois aussi confrontée à des problèmes inédits : par exemple, dans quelle mesure un système autonome est-il un agent responsable de ses actes ? Devrait-on bannir les robots sexuels pour ne pas perturber le respect du consentement entre humains?

Il est bien sûr possible d'envisager d'autres classifications - par exemple selon les valeurs morales en jeu. Dans la suite de cette entrée, ce sont les types de relations entre l'IA et l'humain qui serviront de fil conducteur.

Il ne fait guère de doute que le projet qui anime la recherche en IA et les politiques publiques qui l'accompagnent pourraient se résumer à une idée simple : l'IA doit être au service de l'humain, voire des êtres sensibles en général (comme le propose la Déclaration de Montréal pour un développement responsable de l'IA). À plusieurs égards, les choses semblent bien engagées et il est permis d'espérer de nombreux bénéfices dans toutes les régions du monde - y compris en Afrique qui est bien équipée en téléphones intelligents (Belot 2018).

Ces bénéfices sont très variés : un système peut aider des cultivateurs à économiser l'eau, la reconnaissance d'images médicale améliore la performance des radiologues tandis que les voitures autonomes promettent une baisse drastique du nombre d'accidents - lesquels sont principalement dus à des erreurs humaines, là où une IA ne boit pas, ne s'endort pas et respecte le Code de la route. Mais ces bénéfices n'en soulèvent pas moins des questions de juste répartition et d'accessibilité. On peut ainsi redouter des inégalités entre les pays qui dominent l'IA et les autres, tout comme, au sein de chaque société, une " fracture numérique " entre celles et ceux qui maitrisent ces nouveaux outils et les autres.

De façon générale, on peut dire que les bénéfices qu'on peut attendre du développement de l'IA - et de l'utilisation des données massives, et de la recherche opérationnelle, tant ces domaines sont aujourd'hui étroitement liés - ont souvent trait à l'optimisation : trouver les meilleurs moyens de parvenir à une fin, devenir plus efficace. À long terme, l'automatisation pourrait même avoir pour conséquence de libérer l'humain du travail ou, à tout le moins, de lui éviter les tâches les plus ingrates. Il faut enfin noter que l'information ayant cette particularité d'être reproductible à faible coût, les bénéfices de l'IA peuvent être facilement démultipliés. L'hypothèse de l'IA Amicale ( Friendly AI) consiste précisément à imaginer une superintelligence bienveillante et les moyens d'y parvenir (Yudkowsky 2008). Cela soulève bien sûr de nouvelles questions. Quel serait le bon design initial et comment s'assurer qu'une telle IA reste fiable, c'est-à-dire qu'elle ne se reprogramme pas pour être hostile?

Cette propension de l'IA à se dupliquer facilement a son revers. Les conséquences néfastes peuvent, elles aussi, se propager " à la vitesse de l'information ". Pour l'humain, le risque ultime est celui de son asservissement, voire de son anéantissement. C'est ce qu'on nomme un risque existentiel (Bostrom 2002). Or, si la collision de la terre avec un astéroïde ou une épidémie incontrôlable menace sans doute l'humanité, l'hypothèse d'une IA générale, avancée et hostile peut aussi être envisagée (Bostrom 2014). Ce type de scénario est souvent associé à la notion de singularité technologique, soit l'hypothèse - débattue (Ganascia 2017) - d'un seuil au-delà duquel une " explosion d'intelligence " (Good 1965) bouleverse les sociétés humaines de façon imprévisible. Autrement dit, la singularité désigne cet instant où l'humanité serait dépassée par sa création et perdrait sa position de surplomb.

Si elle n'implique pas nécessairement la singularité, l'expérience de pensée de l'usine à trombones ( paperclip maximizer) illustre néanmoins un risque existentiel. Nick Bostrom (2003) nous demande d'imaginer une IA qu'on aurait programmée, sans malice aucune, pour produire des trombones de bureau. En l'absence d'autres consignes, cette IA développe des moyens toujours plus efficaces pour s'acquitter de sa tâche, ce qui pourrait ultimement aboutir à une catastrophe: en mobilisant par exemple toutes les ressources disponibles dans l'univers pour produire toujours plus de trombones. Dans le même ordre d'idée, Eliezer Yudkovski (2008) nous rappelle l'importance d'optimiser ce que nous valorisons vraiment: " la folie de programmer une IA pour implanter le communisme ou tout autre régime politique, c'est que vous programmez des moyens plutôt que des fins ". Mais si une IA devient autonome, comment faire pour qu'elle ne veuille pas faire de mal à l'humain?

C'est déjà cette question qui motivait les lois de la robotique imaginées par Isaac Asimov en 1942 (Asimov 1962). La première loi stipulait par exemple qu' " un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger. " Mais comme en témoignent souvent les nouvelles d'Asimov, ces lois demeurent insuffisantes et n'endiguent pas les risques d'une superintelligence hostile. Pour beaucoup de chercheurs, le meilleur rempart contre de telles dérives serait de développer des IA dont les objectifs soient " alignés " avec les valeurs humaines.

Un risque moins spéculatif et à plus court terme consiste dans les pertes d'emplois, conséquence prévisible de l'automatisation. Ce sont les fonctions cognitives du système intuitif - le système 1 de Kahneman (2012) - qui semblent les plus aisément automatisables par les algorithmes d'apprentissage profond et donc remplaçables : conduire, trier, reconnaitre des visages. Plusieurs n'hésitent pas à parler d'une quatrième révolution industrielle dont les impacts se feront ressentir dans de nombreux secteurs (Ford 2015). Les estimations sont très variables : entre 47% (Frey & Osborne 2013) et 9% (OECD 2016) des emplois devraient être largement automatisés. À terme, tous les métiers seront touchés par l'IA, mais les conducteurs et les caissiers davantage que les archéologues.

Ce n'est pas forcément une mauvaise nouvelle. Car ce remplacement des humains par des machines signifie une croissance de la productivité et une création de richesse (à tout le moins, plus de biens et de services seront échangés). Dès lors, c'est la question de la juste répartition de ces nouvelles richesses qui doit être posée - et celle de la meilleure théorie de la justice distributive. C'est dans ce contexte que les promoteurs d'un revenu universel (Van Parijs 2004) trouvent des oreilles attentives aussi bien à gauche qu'à droite. En effet, un revenu de base pourrait protéger les humains des aléas de l'IA. Pourtant, dans le monde de l'économie numérique, la tendance actuelle est plutôt à une concentration toujours plus importante des richesses, en particulier autour des GAFA : Google, Amazon, Facebook et Apple. On peut légitimement craindre une croissance des inégalités économiques et sociales. Yuval Harari (2017) imagine pour sa part un futur où une oligarchie d'humains améliorés contrôlerait une masse de gens devenus inutiles et qui tueraient le temps en se plongeant dans les drogues ou des jeux en réalité virtuelle.

Mais le problème du remplacement est loin de ne concerner que l'économie. On peut s'inquiéter des pertes de compétences liées à l'autonomisation des tâches (comme conduire une voiture ou parler une langue étrangère). Et qu'est-ce que le développement des robots, des chatbots ou des algorithmes de recommandations va changer aux relations interhumaines (Tisseron 2015) ? Plusieurs redoutent même une transformation de la " nature humaine ". Certains voient dans le transhumanisme, ce mouvement qui prône - pour le dire vite - l'amélioration de la condition humaine par les technologies, un projet visant à remplacer homo sapiens. Dans le domaine de la prise de décision morale (tribunal de justice, systèmes d'armes létaux autonomes), l'humain doit sans doute se méfier de l' " objectivité algorithmique " et ne pas s'exonérer de ses responsabilités. Enfin, se profile quelque chose comme une nouvelle question existentielle : qu'est-ce que l'humain et à quoi sert-il si une machine peut le remplacer ?

6. Surveiller et discriminer l'humain

Les données numériques sont de plus en en plus massives ( big data) grâce à de nombreux capteurs : clics, textes, photos, vidéo, données de géolocalisation, biométriques, médicales... Si elles sont une manne pour la recherche en sciences sociales (Stephens-Davidowitz 2017), elles concentrent aussi une puissance inédite entre les mains d'une poignée d'entreprises (Galloway 2018). En effet, ces entreprises ont le monopole sur la plupart de nos données personnelles. Que faire ? Certains préconisent de les monétiser (Lanier 2013), d'autres d'en faire un bien commun (Mazzucato 2018).Mais que ces données soient possédées par l'État ou le secteur privé, la mise en place d'une nouvelle société de contrôle, voire d'une véritable dictature numérique, n'est pas à exclure.

Un autre problème surgit qui a trait au consentement : en effet, il paraît souvent abusif de considérer que les utilisateurs ont cédé leurs données de façon libre et éclairée. La vie privée semble aussi menacée par les traces laissées volontairement ou non sur le web, constituant ainsi une " ombre numérique " qui nous suivrait éternellement. Le " droit à l'oubli " ou à désindexer certaines informations préjudiciables dans les moteurs de recherche est une réponse possible.

Par ailleurs, comme l'a bien montré Cathy O'Neil (2016), les algorithmes nourris aux données massives peuvent créer ou renforcer des biais, (re)produisant ainsi des discriminations injustes. En effet, l'ensemble d'apprentissage d'un algorithme influence la qualité de ces résultats : " garbage in, garbage out " disent les programmeurs. Or, un ensemble de données peut être incomplet, opaque, non représentatif ou biaisé (Campolo et al. 2017). Par exemple, les catégories " réceptionnistes " et " femmes " sont fortement corrélées sur le web (et dans le monde réel) ; utiliser ces données brutes pour développer un algorithme d'embauche ou d'éducation ne fera qu'automatiser un statu quo contestable. Qui plus est, l'opacité des algorithmes signifie que ce n'est souvent qu'après coup que l'on découvre une discrimination - comme ce fut le cas aux États-Unis avec COMPAS, un système d'aide à la décision des juges défavorisant les Afro-américains (Angwin et al. 2016).

De même, on peut se demander s'il est opportun que des robots ou des chatbots s'inscrivent dans les stéréotypes de genre moralement problématique - avec une voie féminine, douce et serviable, par exemple. Enfin, comme avec toute technologie, l'IA reflète les valeurs de ses créateurs. On peut donc craindre avec Kate Crawford (2016) que la surreprésentation dans ce secteur d'une certaine catégorie (les hommes blancs riches) ne rende le développement de l'IA inadapté aux besoins et aux intérêts des êtres humains dans toute leur diversité. Ceci étant dit, il n'en demeure pas moins vrai que l'IA, utilisée de façon transparente et avec prudence, peut certainement réduire nos biais trop humains et améliorer de nombreuses prises de décision.

Une dernière source d'inquiétude réside dans la propension de l'IA et des données massives à renforcer la manipulation. Ainsi, les deepfakes, ces vidéos ou ces voix de synthèse produites grâce à l'apprentissage profond et qui semblent plus vraies que nature peuvent être utilisées pour leurrer des individus ou des groupes. À terme, la confiance envers les médias et entre les gens, ce ciment social, pourrait être profondément érodée. Est-ce vraiment ma banquière qui m'a laissé ce message vocal ou un faussaire malveillant ?

Mais la manipulation peut aussi être parfaitement légale puisqu'un bon nombre d'applications sont développées pour accaparer l'attention des utilisateurs à leur insu. Pour l'ex design ethicist de Google, Tristan Harris (2016), on peut voir les téléphones portables comme des équivalents de machines à sous qui, avec leurs notifications incessantes, leurs boutons " like " ou leur scrolling sans fin proposent au cerveau humain des gratifications immédiates auxquelles il est difficile de résister. Avec les réseaux sociaux, c'est notre besoin de comparaison et d'approbation sociale qui est fortement sollicité et pourrait même générer une véritable dépendance (Alter 2017). La peur de manquer quelque chose (FOMO ou fear of missing out en anglais) se développe telle une nouvelle anxiété sociale et augmente encore la consultation compulsive de certaines applications.

Ces phénomènes de capture et de manipulation de l'attention sont étroitement liés au modèle d'affaires qui prévaut dans l'économie numérique. Si bon nombre de services sont offerts gratuitement, c'est parce que ce sont les utilisateurs qui sont le véritable produit. En effet, des plateformes comme Google ou Facebook vendent à leurs clients la possibilité de micro-cibler des messages de façon si efficace et insidieuse que les médias traditionnels voient leurs revenus publicitaires chuter drastiquement. Il faut dire que ces sociétés possèdent des informations très précises et personnalisées - une étude devenue célèbre montre ainsi que l'analyse des likes d'un utilisateur de Facebook permet prédire avec une bonne fiabilité ses traits psychologiques et autres attributs personnels (Kosinski et al. 2013). Dans l'affaire Cambridge Analytica, c'est ce type de micro-ciblage qui a été utilisé pour influencer les élections américaines de 2016.

Il faut enfin noter que cette personnalisation du web produit des bulles de filtrage ( filter bubble) : PageRank, par exemple, l'algorithme de Google, tient compte de vos recherches passées afin de vous présenter des résultats qui, en devançant vos attentes, induisent un risque d'isolement (une bulle). Plus largement, les systèmes de recommandations personnalisées pourraient faire perdre aux utilisateurs le sens d'un espace politique commun (Pariser 2011). Il s'ensuit des défis importants pour le bon fonctionnement démocratique.

Conclusion : l'IA comme sujet de l'éthique

On le voit, l'éthique appliquée à l'IA couvre un vaste domaine qui est encore largement en friche. Pour conclure, deux autres régions de ce domaine méritent d'être mentionnées, celle où l'IA n'est en quelque sorte plus l'objet de l'éthique (et un simple outil pour les humains), mais un véritable sujet de l'éthique. On peut d'abord se demander si les robots devraient avoir des droits (Gunkel 2014). Plus précisément, quels sont les critères qu'une IA devrait remplir pour être considérée comme un patient moral, c'est-à-dire une entité qui peut subir un tort moral ? On peut enfin réfléchir à la possibilité de développer une IA qui soit un agent moral, c'est-à-dire une entité qui possèderait une responsabilité morale. Ce dernier domaine, parfois nommé l'éthique des machines, envisage donc des robots capables de prendre des " décisions morales " - en un sens qui reste à préciser (Wallach & Allen 2009, Chauvier 2016). Est-ce possible ? Est-ce souhaitable ? Il est même permis d'imaginer qu'un jour une IA générale nous aidera à identifier ce qui est bon, juste ou vertueux - bref, à faire de l'éthique.

Abiteboul et Dowek (2017), Le temps des algorithmes, Éditions Le Pommier.

Alter, Adam. (2017) Irresistible: the rise of addictive technology and the business of keeping us hooked. Penguin Press.

Angwin, Julia et al. (2016), " Machine Bias: There's Software Used Across the Country to Predict Future Criminals. And It's Biased Against Blacks, " ProPublica.

Asimov, Isaac. (1967), Les robots, trad. P. Billon, Paris, J'ai lu.

Belot, Laure. (2018), Dossier : La créativité africaine dopée par l'IA. Le Monde.

Boddington, Paula. (2017), Toward a code of ethics for Artificial Intelligence, Springer.

Bostrom, Nick. (2002), " Existential Risks: analyzing human extinction scenarios and related hazards ", Journal of Evolution and Technology, vol.9.

Bostrom, Nick. (2003), " Ethical Issues in Advanced Artificial Intelligence " in Cognitive, Emotive and Ethical Aspects of Decision Making in Humans and in Artificial Intelligence, Vol. 2, ed. I. Smit et al., Int. Institute of Advanced Studies in Systems Research and Cybernetics.

Bonnefon, J. F., Shariff, A., & Rahwan, I. (2016), The social dilemma of autonomous vehicles. Science, 352, 1573-1576.

Bostrom, Nick. (2014), Superintelligence: Paths, Dangers, Strategies. Oxford University Press.

Brundage, Miles et al. (2018), The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation. Future of Humanity Institute.

Calo, Ryan. (2017), " Artificial Intelligence Policy: A primer and a Roadmap. " 51 UC Davis L. Rev. 399-453.

Campolo, Alex et Madelyn Sanfilippo, Meredith Whittaker, Kate Crawford. (2017), Report 2017, AI Now.

Chauvier, Stéphane. (2016), " Éthique artificielle ", version académique, dans M. Kristanek (dir.), l'Encyclopédie philosophique.

Crawford, Kate. (2016), " Artificial Intelligence's White Guy Problem " The New York Times, June 25, 2016.

Floridi, Luciano (ed). (2010), The Cambridge Handbook of Information and Computer Ethics, Cambridge University Press.

Ford, Martin. (2016), Rise if the Robots: Technology and the threat of jobless future. Basic Books.

Franssen, Maarten, Lokhorst, Gert-Jan et Poel, Ibo. (2015), " Philosophy of Technology " dans Edward N. Zalta (ed.), The Standford Encyclopedia of Philosophy.

Frey, Benedikt et Michael A. Osborne. (2013), " The Future of Employment: How susceptible are jobs to computerization? " Technological Forecasting and Social Change 114.

Galloway, Scott. (2018), Le règne des quatres : l'agenda secret d'Amazon, Apple, Facebook et Google. Édito.

Ganascia, Jean-Gabriel. (2017), Le mythe de la singularité, Éditions du Seuil.

Good, I. J. (1965), Franz L. Alt; Morris Rubinoff, eds., " Speculations Concerning the First Ultraintelligent Machine ", Advances in Computers, Advances in Computers, Academic Press, 6: 31-88

Gunkel, David. (2014). " A vindication of the rights of machines. " Philosophy and Technology, 27, 113-132.

Harari, Yuval Noah. (2017), Homo Deus: une brève histoire de l'avenir, Albin Michel.

Harris, Tristan. (2016), " How Technology Hijacks People's Minds - from a magician and Google design ethicist ". Observer.

Jeangène Vilmer, Jean-Baptiste. (2016) " Diplomatie des armes autonomes : les débats de Genève ", Politique étrangère 3:2016.

Kahneman, Daniel. (2016) Système 1 système 2 : les deux vitesses de la pensée. Champs Flammarion.

Knight, Will. (2017), " The Dark Secret at the Heart of AI " MIT Technology Review.

Kosinski, Michal; David Stillwell et Thore Graepel. (2013) " Private traits and attributes are predictable from digital records of human behavior ". PNAS. 110 (15) 5802-5805.

Lanier, Jason. (2013), Who owns the future? Simon and Schuster.

Lin, Patrick; Abney, Keith et Bekey, Geogre (Eds.). (2012). Robot ethics: The ethical and social implications of robotics. Cambridge, MA: MIT Press.

Mazzucatol, Mariana. (2018), Let's make private data into a public good. MIT Technology Review.

O'Neil, Cathy (2016), Weapons of Math Destruction: How Big Data Increase Inequality and Threatens Democracy. Crown.

OECD (2016), " Automation and Independent Work in a Digital Economy ", Policy Brief on The Future of Work, OECD Publishing, Paris.

Pariser, Eli. (2011), The Filter Bubble: What the Internet Is Hiding from You, New York, Penguin Press.

Searle, John. (1980), " Minds, Brains and Programs ", Behavioral and Brain Sciences, vol. 3, n° 3, p. 417-424.

Stephens-Davidowitz, Seth. (2017), Everybody Lies: big data, new data and what the Internet can tell us about who we really are. Dey Street Books.

Tegmark, Mark. (2018), La vie 3.0: Être humain à l'ère de l'intelligence artificielle, Dunod.

Tisseron, Serge. (2015), Le jour où mon robot m'aimera. Vers l'empathie artificielle, Paris, Albin Michel.

Van Parijs, Phillipe. (2004), " Basic Income: A Simple and Powerful Idea for the twenty-first century ". Politics and Society.

Wallach, Wendell et Colin Allen. (2009), Moral Machines: Teaching Robots Right from Wrong Oxford, Oxford University Press.

Yudkowski, Eliezer. (2008), " Artificial Intelligence as a positive and negative factor in Global Risk ", In Global Catastrophic Risks, edited by Nick Bostrom and Milan M. Ćirković, 308-345. New York: Oxford University Press.

Martin Gibert
Université de Montréal
martin.gibert@gmail.com

# data[].attributes.attachment_link.title
Ethique artificielle (GP) - L'encylopédie philosophique

# data[].attributes.attachment_link.description
L'éthique artificielle ou, plus largement, l'éthique appliquée à l'intelligence artificielle est le domaine de l'éthique qui se demande ce qui est bon, juste ou vertueux dans la mise en œuvre des systèmes d'intelligence artificielle. Comme c'est souvent le cas en éthique, les réponses sont complexes, diversifiées et elles dépendent beaucoup du contexte.

# data[].attributes.attachment_link.readable_text
Résumé

L'éthique artificielle, au même titre que l'intelligence artificielle, soulève évidemment des problèmes purement scientifiques et techniques, qui concernent au premier chef les logiciens et les informaticiens. Mais, comme l'intelligence artificielle dont elle est une partie, elle soulève aussi et peut-être d'abord des problèmes philosophiques relatifs à la manière de catégoriser les entités dans lesquels ces programmes sont implantés. Depuis l'article pionnier de Turing en 1950 (Turing & Girard 1995), les philosophes s'interrogent pour savoir si l'on peut affirmer qu'une machine dotée d'une intelligence artificielle est réellement une créature intelligente ou est réellement capable de penser, de comprendre, de juger, etc, ou bien si elle n'est qu'un simulacre d'intelligence (Searle 1980). Un nouveau chapitre s'est désormais ouvert dans cette réflexion sur l'intelligence artificielle : on ne demande plus seulement si une machine peut penser, mais si une machine peut être moralement vertueuse, si elle peut être louée ou blâmée pour ce qu'elle fait, si elle peut être tenue pour un agent moral de plein droit ou bien si elle n'est qu'un simulacre de tout cela.

Après avoir reconstitué le contexte de développement de l'éthique artificielle, cette entrée se propose de présenter les deux principaux problèmes philosophiques qu'elle soulève, celui du contenu d'une éthique artificielle et celui du statut des entités porteuses d'une telle éthique, en se focalisant sur les problèmes réels soulevés par l'éthique artificielle des robots que nous savons et souhaitons construire, par contraste avec les problèmes beaucoup plus spéculatifs que soulèveraient les robots imaginés par les auteurs de science fiction, si nous savions et souhaitions en construire de tels.
1. Pourquoi avons-nous besoin d'une éthique artificielle ? 2. Quelle éthique ?
a. Une éthique artificielle est une éthique d'extension restreinte

b. Une éthique artificielle est une éthique de surface

c. Une éthique artificielle est moins rationnelle que situationnelle
3. Quelle responsabilité ?
a. Responsabilité pratique et responsabilité morale

b. La responsabilité muette des robots
Conclusion Bibliographie 1. Pourquoi avons-nous besoin d'une éthique artificielle ?
Le 14 février 2016 à Mountain View, aux États-Unis, une Google-car a heurté un autobus roulant à faible allure, sans faire aucune victime.

Ce banal accident de la circulation, analogue à des milliers d'autres se produisant chaque jour dans le monde, aurait pu rester ignoré de tous, s'il avait été occasionné par un livreur maladroit ou inattentif de la célèbre firme américaine. Mais si la presse internationale s'en est très largement fait l'écho dans les jours qui ont suivi, c'est en raison du statut de l'entité qui fut à la source de cet accident : l'accident de Mountain View est en effet le premier accident de la circulation impliquant un véhicule autonome.

Or qu'est-ce qu'un véhicule autonome ? Ce n'est pas un simple véhicule sans pilote humain embarqué. Un drone est un véhicule sans pilote humain embarqué, mais un drone est piloté à distance et en direct par un opérateur humain, il est un télé-véhicule. Un véhicule autonome est en réalité un robot autonome, doté certes d'un corps d'automobile, mais aussi et surtout d'une " âme " artificielle, faite de dizaine de milliers de lignes de programme informatique, articulées à des capteurs et senseurs variés, lui permettant de faire ce qu'un chauffeur de taxi fait chaque jour : transporter à leur demande ses clients d'un point à un autre, dans des conditions normales de circulation et en fonction de paramètres variés fournis par les clients : temps du transport, agrément du circuit, etc. Un véhicule autonome, c'est tout simplement votre propre voiture qui deviendrait votre propre taxi. Vous lui diriez, en vous installant sur la banquette arrière : " Je vais gare de Lyon, je suis pressé " et elle vous y mènerait, tandis que vous liriez tranquillement le journal ou mangeriez votre sandwich en regardant défiler les rues.

- Artificiel, parce que l'intelligence pratique dont il fait montre est une intelligence artificielle (IA), faite de lignes de codes informatiques gouvernant des séries d'impulsions électroniques.

- Enfin modulaire, parce que sa spécificité, par rapport à un agent humain, est de ne couvrir qu'un spectre constitutivement limité de buts pratiques.

Les véhicules autonomes, dont, outre Google, la plupart des grands constructeurs automobiles mondiaux cherchent aujourd'hui à développer des prototypes, ne sont qu'une variété d'APAM. Les systèmes d'armes létaux autonomes ( lethal autonomous weapons systems, cf. Sparrow 2007 et Arkin 2009) en sont un autre exemple significatif : certains, par exemple, gardent la frontière de la Corée du Sud vis-à-vis de son rival du Nord. Un autre exemple typique d'APAM sont les robots aides-soignants, qui assurent les soins quotidiens de malades dépendants (Borenstein & Pearson, 2012). Mais la gamme des robots d'assistance dépasse le seul registre médical : mentionnons simplement les robots d'assistance sexuelle (Levy, 2007).

Les APAM, à la différence des Robots d'Isaac Asimov ou de HAL 9000 dans 2001-L'odyssée de l'espace de Stanley Kubrick ( Carl dans la version française), n'appartiennent pas à la fiction. Même si la plupart sont encore en voie d'expérimentation et de perfectionnement, leur développement pourrait atteindre un stade industriel dans un futur proche. Mais les défis que soulèvent la création et le déploiement des APAM ne sont pas seulement d'ordre scientifique et technologique. Comme l'importance accordée à l'accident de la Google-car le suggère, un APAM a vocation à évoluer dans un environnement social ordinaire, impliquant des êtres humains : un APAM peut donc, en raison des complications de la vie sociale, se trouver à la source de dommages plus ou moins graves occasionnés à des humains. Or si rares sont les créations technologiques à ne pas envelopper certains risques de dommages pour les humains, il y a une différence cruciale entre les risques impliqués par la grande majorité des artefacts technologiques nouveaux et ceux dont les APAM sont porteurs. Mettre en circulation un mécanisme technologique nouveau expose au risque inhérent aux processus naturels dont ce mécanisme est le théâtre : c'est la physique ou la chimie inhérente au nouvel artefact qui, sous certaines conditions, peuvent générer des dommages pour les humains. Mais ce n'est évidemment pas, ou seulement très marginalement, la physique ou la chimie des APAM qui peuvent représenter un risque pour les humains qui les croiseront : ce sont les décisions qu'ils peuvent prendre. Car un APAM, insistons-y, n'est pas un automate pratique, du type d'un distributeur automatique de billets de banque, réglé pour réagir de manière déterminée à certains stimuli ou à un certaines commandes. Un APAM est un agent pratique, qui possède certes une sphère de compétence pratique limitée, mais qui, à l'intérieur de son espace pratique fonctionnel, dispose d'une importante marge d'initiative : c'est lui, et non quelque téléguideur humain, qui prend des décisions en fonction des buts pratiques qu'il a à atteindre. C'est le véhicule autonome qui doit décider de freiner si des enfants traversent la rue hors des passages cloutés, quitte à nous faire rater notre train gare de Lyon. C'est le robot tueur qui doit décider de ne pas tirer s'il y a un doute sur le statut de la cible, au risque de permettre à un sniper ennemi de s'enfuir

Mettre en circulation des APAM soulève donc, à un certain point de vue, un banal problème de risque technologique. Mais la nature des APAM donne à la maitrise des risques dont ils sont porteurs une forme profondément originale : mettre en circulation des APAM dont le potentiel de risque soit, sinon annulé, du moins minimisé, suppose d'agir sur les procédures décisionnelles qui sont le cœur de leur intelligence artificielle, afin de garantir leur innocuité ou de minimiser les dommages qu'elles peuvent engendrer.

Annuler ou minimiser le risque dont les APAM sont porteurs passe donc par la possibilité de compliquer suffisamment leur intelligence pratique artificielle pour y intégrer, au delà du respect de certaines normes juridiques, ce qu'il faut bien appeler une éthique artificielle, autrement dit des lignes de programme garantissant que le comportement de l'APAM soit sensible aux droits, aux intérêts voire aux besoins de tous ceux que ses décisions pratiques pourront affecter. Rendre socialement acceptables les APAM, c'est donc les transformer en AMAM, en agents moraux artificiels modulaires.

Ce problème, profondément original, de la construction d'APAM dont le comportement puisse être tenu pour éthiquement acceptable voire responsable, qu'il s'agisse de véhicules autonomes, de robots tueurs opérant sur des théâtres de guerre ou de robots de confort, ne met pas seulement au défi les spécialistes d'intelligence artificielle, requis de mettre la moralité humaine en algorithmes informatiques. Il interroge tout autant les métaphysiciens et les philosophes de la morale, que la perspective de devoir qualifier d'agent moral une voiture ou un aspirateur ne peut manquer d'ébranler, si l'on songe notamment à la célèbre déclaration kantienne selon laquelle " l'humanité, en tant qu'elle est capable de moralité, c'est ce qui seul possède de la dignité " (Kant, 1994, 116).

Cette interrogation sur le statut ontologique des APAM évoque par plus d'un trait celle dont Alan Turing se faisait l'écho dans son célèbre article de 1950, au point qu'à l'instar de Turing, certains auteurs ont imaginé un " Moral Turing Test " (Allen et al. 2000) pour décider si un robot pouvait être considéré comme un agent moral artificiel. Nous allons revenir un peu plus loin sur la pertinence de ce " test ", mais il est au moins une différence sur laquelle nous pouvons d'ores et déjà mettre l'accent.
a. Une éthique artificielle est une éthique d'extension restreinte.
Dans son article antérieur de 1936-37 sur les " Nombres calculables " (Turing & Girard, 1995), beaucoup plus décisif d'un point de vue scientifique, Turing a conçu ce qu'on appelle depuis une machine de Turing : une machine universelle [ i.e. un ordinateur] capable, en principe, de traiter ou " calculer " toute question relevant de tout domaine de connaissance, moyennant son approvisionnement en bases de connaissances et en algorithmes de calcul idoines. Une machine de Turing peut " décider " ou " calculer " des questions de poésie aussi bien que des questions de physique ou d'échecs. Turing pouvait donc raisonnablement s'interroger, quelques années plus tard, sur la question de savoir si une machine de ce genre, qu'on imaginerait suffisamment pourvue en bases de connaissances et en algorithmes de calcul, pourrait être considérée comme une créature pensante. Or la différence entre le problème posé par Turing (" les machines peuvent-elles penser ? ") et celui soulevé par les APAM (" les machines sont-elles capables de moralité ? ") est qu'il est certain que la moralité des APAM ne peut rivaliser en extension avec la moralité des humains. Un humain est en effet un agent pratique universel, capable de poursuivre toutes sortes de fins dans toutes sortes de contextes, tandis qu'un APAM est un agent pratique modulaire, spécialisé dans la poursuite d'une gamme limitée de fins et évoluant dans des contextes pratiques limités. On peut sans doute imaginer, dans un cadre fictionnel, des APAU, autrement dit des agents pratiques artificiels universels et poser à leur propos une question semblable à celle que soulevait Turing, autrement dit se demander quel statut auraient ces créatures si nous savions et souhaitions en construire. Mais ce qui est réel ou en passe de l'être et qui répond en outre à des besoins humains bien identifiés, ce sont des APAM, auxquels de larges pans de la moralité humaine sont inapplicables : il serait clairement dénué de sens d'exiger d'un véhicule autonome qu'il soit modeste ou d'un robot domestique qu'il soit respectueux du jus in bello.

Si l'on entend donc raisonner sans fantasme sur le statut moral des APAM, il faut donc poser en principe qu'une éthique artificielle, au moins dans le contexte présent de nos capacités scientifiques et technologiques, ne peut être elle-même qu'un module détaché de l'éthique universelle des humains ou, si l'on veut une éthique humaine restreinte ou diminuée.

Certains auteurs proposent de ce point de vue une gradation entre éthique implicite, éthique explicite et éthique complète (Moor 2006) ou entre moralité opérationnelle, moralité fonctionnelle et moralité complète (Allen & Wallach 2009). Une moralité implicite ou opérationnelle est un réglage qui contraint le comportement d'un automate (du type distributeur automatique de billets) de façon à ce qu'il respecte certaines normes (ne distribuer de l'argent qu'à celui qui connaît le code de la carte) qui lui sont imposées par son concepteur humain. Une moralité explicite ou fonctionnelle consiste également en un certain nombre de règles, limitées à un contexte déterminé d'action, mais qui sont optionnellement mises en œuvre par l'agent artificiel : ainsi un APAM distributeur de billets, s'il en existait, pourrait moduler son application de la règle précédente selon la tête du client, qu'il analyserait via des capteurs adaptés : les clients réguliers n'auraient, par exemple, pas besoin d'entrer leur code. Quant à une moralité complète, c'est la nôtre, éventuellement transposée dans un APAU, s'il en existait.

Cette gradation est dans son principe pertinente : un APAM est plus qu'un automate, mais moins qu'un agent pratique universel. Cependant, qualifier de " complète " la moralité d'un agent pratique universel masque quelque peu, par son anthropocentrisme implicite, la vraie nature du problème. Si une créature n'était capable que de parler intelligemment de poésie et de cuisine et jamais d'aucun autre sujet, il y aurait un sens à dire que son intelligence serait incomplète. Mais par ailleurs, dans le domaine limité qui serait le sien, cette créature pourrait avoir une intelligence pleinement développée et en tout point indiscernable de celle d'une créature à l'intelligence plus universelle. Affirmer que la moralité d'un APAM est une moralité incomplète est donc équivoque, parce qu'on peut entendre par là soit qu'elle est limitée en extension, c'est-à-dire qu'elle ne s'applique qu'à une gamme limitée d'" objets " moraux, soit qu'elle est limitée en intension, au sens où certaines caractéristiques qui seraient essentielles à la moralité, en quelque créature qu'elle se réaliserait, ne se rencontreraient pas dans la moralité d'un APAM.

Que sont donc ces parties ou aspects de notre moralité qui sont nécessairement absents d'un APAM ? Nous avons indiqué que l'éthique implémentée dans un APAM était au moins restreinte en extension : la morale d'un véhicule autonome est la morale d'un usager de la route ; la morale d'un robot de guerre est la morale d'un soldat, etc. Cependant, on peut noter que lorsqu'un agent humain remplit une fonction sociale déterminée, chauffeur de taxi, garde-frontières ou médecin par exemple, il restreint la gamme de ses buts pratiques à ceux qui sont constitutifs de la fonction qu'il remplit et il peut alors faire montre d'une moralité adaptée à la fonction qu'il remplit : la morale d'un chauffeur de taxi, d'un garde-frontière, d'un médecin. Un APAM ressemble donc, si l'on veut, à un agent pratique humain qui serait réduit aux buts constitutifs d'une fonction sociale déterminée.

b. Une éthique artificielle est une éthique de surface

C'est un débat au sein des théories philosophiques de la moralité humaine que de savoir si la moralité humaine requiert une base émotionnelle particulière ou bien si elle n'est qu'un développement de notre rationalité. Rousseau par exemple faisait dériver toute la moralité humaine d'un sentiment inné de pitié (Rousseau, 1964, 156), tandis que Kant enracinait la moralité humaine dans l'exigence purement rationnelle d'universalisabilité de nos maximes d'action (Kant, 1996, 97).

Ce débat n'a tout simplement pas lieu d'être s'agissant de la moralité d'un APAM et ce fait à lui seul fournit déjà une information instructive sur le type de moralité qui peut être à l'œuvre dans un APAM : il n'y a pas, pour les APAM, de problème de la motivation à agir moralement. Un APAM pourra peut-être prendre de mauvaises décisions, mais ses mauvaises décisions seront des erreurs et non des fautes, des bévues plus que des péchés.

Un APAM manque en effet de deux des composantes qui, dans l'homme, font qu'il y a un problème de motivation à agir moralement : la présence d'émotions et d'appétits ; la conscience de soi-même.

(A) Même s'il existe certaines controverses, parmi les philosophes de l'esprit, sur le point de savoir si nos sensations, sentiments et émotions, avec leur contenu qualitatif typique, sont des phénomènes réellement existants ou de simples illusions, il est au moins certain que ces états subjectifs, soit comme expériences réelles soit comme illusions résistantes, sont absents d'un APAM : un véhicule autonome, un robot de guerre, un aspirateur ne connaissent ni la joie, ni la tristesse, ni la peur ou la colère. Et pas non plus l'amour ou la haine et leurs dérivés : l'envie, la rancœur, la pitié, etc. Un APAM est une créature apathique. Quelques philosophes de l'esprit peuvent certes affirmer qu'un jour prochain, nous parviendrons à construire des machines sensibles, notamment tous ceux qui, qui, à l'instar de Daniel Dennett (cf. Dennett, 1998 à propos de Hal 9000 du film de Kubrick), nient la réalité d'états qualitatifs subjectifs, irréductibles aux propriétés fonctionnelles de nos états cérébraux et font par conséquent de la conscience un phénomène purement physique. Mais comme aucun d'entre eux n'est en mesure de fixer précisément cette date, force est, pour l'heure, de laisser de côté leurs espérances : pour nous, à la lumière de ce que nous savons et voulons faire, un APAM est sans passion, sans émotion, sans expérience subjective.

Or il suit de là, de manière immédiate, que si un APAM est doté d'une moralité, il ne connaîtra pas la tentation d'en dévier, ni ne souffrira de faiblesse de volonté ( akrasia). Si un véhicule autonome a, par exemple, le " désir " de gagner la gare de Lyon le plus rapidement possible, ce désir ne possédera pas une force conative capable de faire contrepoids à l'obligation de s'arrêter pour laisser passer un groupe scolaire traversant la rue. Le " désir " d'arriver rapidement à la gare de Lyon et l'obligation de ne pas écraser des enfants ne s'opposeront pas comme des forces, dont l'une pourrait triompher de l'autre, car il n'y aura rien de tel que des forces conatives dans un APAM. En revanche, il y aura, dans l'algorithme décisionnel de l'APAM, une structure d'ordre qui déterminera quel motif doit prévaloir. Mais ce " doit " aura la force d'une règle inférentielle, et pas celle d'un mobile pulsionnel.

Comme le soutiennent certains auteurs, la " volonté " d'un APAM sera donc une volonté sainte qui ne connaîtra pas la tentation de dévier de ses fins morales (Gips, 1995). Un APAM pourra peut-être mal catégoriser un item présent dans son champ d'action, un robot de guerre pourra par exemple ne pas remarquer un civil situé dans le voisinage d'un combattant ennemi régulier, mais son acte, quoique moralement fautif, sera une erreur, pas une faute : il n'aura pas cédé à la tentation de tirer, mais aura simplement mal estimé la complexité de la situation.

(B) Les passions des hommes ont une connexion étroite avec leur conscience de soi. L'amour propre est, selon certains moralistes, le ressort de l'agir humain. Mais aussi bien ce que les philosophes classiques, par exemple Rousseau, appellent la conscience, au sens de la conscience morale qui permet à l'agent de scruter ses intentions et de connaître, tantôt la joie de bien faire, tantôt la honte ou le remords d'avoir mal fait, requiert également la conscience de soi.

Or il est très clair qu'il n'y a pas plus de conscience de soi que d'émotivité dans un APAM : un véhicule autonome, un i-aspirateur ne se regardent pas agir et ne catégorisent pas leurs actes. Ils n'ont ni réflexivité, ni pensées et désirs de second ordre. Ils ne maitrisent pas le pronom de la première personne. Ils sont, si l'on veut, des consciences qui ne sont pas conscientes de soi ou, pour parler comme Sartre (1965, 24), des consciences non positionnelles de soi.

La conséquence est qu'il n'y a donc évidemment pas d'amour propre dans un APAM, ni non plus de bonheur de bien agir ou de souffrance d'avoir mal agi. Mais il n'y a pas non plus, et ce point est décisif pour apprécier la responsabilité des robots, de capacité à donner la raison de ses actes, à les justifier ou à les excuser, car pour donner la raison d'un acte, il faut une méta-représentation de cet acte ou un redéploiement en mode réflexif de son accomplissement spontané ou immédiat.

La conséquence est que la moralité de ces zombies ingénus ne pourra se loger que dans la manière dont ils traiteront (calculeront) les situations concrètes externes auxquelles ils seront confrontés. Si nous avons oublié le code de notre carte et comptons sur la bienveillance de notre APAM distributeur de billet habituel, nous ne pourrons exciter sa pitié, flatter son amour propre ou lui donner des raisons de faire une exception pour nous : nous devrons uniquement compter sur sa capacité à nous reconnaître et attendre, dans la crainte et le tremblement, la décision impassible qu'il prendra une fois qu'il nous aura reconnus.
c. Une éthique artificielle est moins rationnelle que situationnelle
C'est l'approche dominante parmi les philosophes et les informaticiens œuvrant dans le domaine de l'éthique artificielle. Cependant, force est de constater qu'en dépit du nombre croissant de travaux consacrés à cet objectif, qui fait désormais l'objet d'un champ de recherche spécifique de l'Institute of Electrical and Electronics Engineers ( http://www.ieee-ras.org/robot-ethics), il n'existe guère pour l'heure de routine permettant d'implémenter, dans une classe donnée d'APAM, en fonction de leur espace d'actions et d'interactions, une ligne de conduite éthique adaptée.

Une partie de l'explication réside évidemment dans les difficultés techniques propres à l'IA. Mais un verrou important est d'ordre plus conceptuel ou philosophique que technique : il réside principalement dans l'absence de consensus sur le genre de capacités qu'il faut implémenter dans un APAM pour que ses processus décisionnels simulent les seuls modes de décisions éthiques ou éthiquement contraints que nous connaissions, ceux des êtres humains.

Un premier problème posé par ces approches est que le choix d'une théorie de référence est assez arbitraire : pourquoi préférer un " robot kantien " (Powers, 2006) à un " robot utilitariste " (Grau, 2006), sans parler d'un robot raisonnant conformément à la théorie des devoirs prima facie de Ross (1930) (Anderson, Anderson & Armet 2006) ou se conformant à des commandements divins (Bringsjord & Taylor, 2012) ?

Cette approche semble évidemment, sur le papier, la plus prometteuse qui associe, d'un point de vue technique, une architecture permettant l'apprentissage de règles par la machine à une " ontologie " adaptée au champ d'action du robot. Cependant, la littérature qui relève de cette approche est relativement limitée et n'a principalement généré jusqu'ici que des esquisses de résultats applicables non à d'authentiques agents pratiques, situés dans le monde et interagissant avec lui, mais à des programmes d'aide à la décision (McLaren 2006, Guarini 2006). Surtout, cette approche paraît se heurter à un obstacle conceptuel évident, qui est qu'il paraît difficile de dissocier les cas et les principes (Boarini 2013). Comment par exemple un véhicule autonome pourrait-il choisir entre heurter un cycliste et heurter un cheval, sans disposer d'un principe général stipulant que la vie ou l'intégrité d'un être humain sont plus importantes ou ont plus de valeur que la vie ou l'intégrité d'un cheval ?

En matière de moralité humaine, ces théories du réalisme (Parfit) ou du quasi-réalisme (Blackburn) moral sont sujettes à controverse. Mais comme mode de construction d'une éthique artificielle pour une créature dont on attend qu'elle soit capable de faire des choix appropriés en fonction des situations auxquelles elle sera perceptuellement ou quasi-perceptuellement confrontée, elle représente une manière conceptuellement satisfaisante de développer une approche basée sur des cas qui ne soit pas une simple complication d'une approche basée sur des principes. Un APAM doté d'une moralité artificielle, c'est un robot équipé pour percevoir directement, à même son monde, les valeurs que celui-ci comporte et qui est doté de modules de traitement de ces valeurs garantissant que son comportement fonctionnel, orienté vers ses buts constitutifs, soit modulé ou contraint par ces valeurs. Un APAM est une créature " écologique " (Gibson, 1979) qui doit s'orienter dans l'espace du monde et réagir en temps réel aux situations imprévues qu'il peut offrir. Pour qu'un véhicule autonome puisse moduler moralement son comportement dans le trafic routier ou qu'un robot infirmier puisse s'adapter aux besoins de son patient, ils doivent à la fois (a) être capables de percevoir, via une signature phénoménale caractéristique, les aspects moralement pertinents ou saillants de leur monde et (b) être capables de prendre des décisions qui soient appropriées à la valence morale de ces items.

3. Quelle responsabilité ?

Tout ceci nous place à bonne distance des Terminator, Robocop et autres C3-PO qui ont contribué à façonner un imaginaire un peu fantasmatique de robots humanoïdes bienveillants ou malveillants. Un robot éthique, dans les limites de nos possibilités technologiques présentes, est somme toute quelque chose d'assez simple. Ce n'est pas un potentiel ami avec lequel nous pourrons entreprendre toutes sortes d'activités plaisantes, ni un ennemi acharné ultra-intelligent qui exigera que nous nous transformions en super-héros pour le vaincre. Un robot éthique, c'est, plus prosaïquement, une voiture autonome, un i-aspirateur, un petit char à roulettes armé jusqu'aux dents, un aide-soignant à domicile. Cela peut certes paraître bien peu, car, à première vue, la différence entre une automobile de l'espèce habituelle et un véhicule autonome ou entre un canon monté sur roulettes et un robot-tueur semble ténue : les seconds sont les premiers auxquels on a ajouté une batterie de capteurs et un puissant ordinateur. Mais cet ajout, physiquement ténu, fait, nous l'avons vu, une différence ontologique majeure : d'une entité dépendant de l'agentivité humaine pour actualiser sa fonction, autrement dit d'un outil, on a fait un agent autonome poursuivant de lui-même et intelligemment ses fins fonctionnelles ou constitutives.

Or, en ajoutant à cet agent pratique artificiel une moralité elle-même artificielle n'accroit-on pas encore un peu plus sa complexité ontologique ? Un agent pratique artificiel, aussi limité soit-il dans son champ d'action, ne doit-il pas être tenu pour un agent moral artificiel, dès lors qu'il est doté d'une éthique artificielle ? En implémentant dans une machine un dispositif d'intelligence artificielle lui permettant de respecter passivement l'intérêt des humains, voire, comme dans le cas des robots d'assistance médicale, de soutenir activement leurs intérêts, n'a-t-on pas enrichi la " république des esprits " (Leibniz) ou le " règne des fins " (Kant) en y incluant une nouvelle espèce d'agent moral ?

La question peut sembler purement spéculative qui revient au fond à se demander, dans la ligne du débat entre IA faible et IA forte (Searle 1980), si un robot ne fait que simuler une conduite morale ou s'il est réellement un agent moral. Mais cette question est en réalité cruciale pour pouvoir passer du stade du développement expérimental de ce type de robots à leur diffusion à grande échelle dans le monde des humains.

C'est donc en ce sens que la diffusion à grande échelle de ce genre de créatures suppose qu'on ait au préalable déterminé, au moins à grands traits, comment on devra juridiquement et moralement répondre aux dommages que les APAM ne manqueront pas de causer. Est-il irrationnel de blâmer son APAM-toasteur ? Est-ce aussi absurde que de punir son tabouret parce qu'il nous est tombé sur le pied ? Si un véhicule autonome sans personne à bord nous rentre dedans, avec qui devrons-nous faire un constat amiable ?

a. Responsabilité pratique et responsabilité morale

A la responsabilité causale, qui est attribuable à toute entité qui joue un rôle causal critique dans la production de certains effets, se superpose donc une responsabilité que l'on peut qualifier de pratique ou intentionnelle, parce qu'elle caractérise un mode spécifique d'implication causale dans la production d'un effet, le mode propre aux entités qui produisent intentionnellement des effets dans le monde, autrement dit les entités qui sont des agents pratiques. Un agent pratique S est, en ce sens, responsable d'un effet F si l'effet F ne s'est produit que parce que l'agent S a décidé de F iser (ou de ne pas empêcher que le monde F ise).

Ce concept très simple, très élémentaire de responsabilité pratique ou intentionnelle pose un problème métaphysique bien connu, celui de sa compatibilité ou incompatibilité avec le déterminisme (Michon 2011). Le fonctionnement d'un APAM étant, dès lors qu'il n'embarque pas un ordinateur quantique, très certainement déterministe, lui assigner une responsabilité pratique suppose de souscrire à une forme de compatibilisme. Mais le compatibilisme, même s'il est l'objet de nombreuses critiques, reste une position parfaitement défendable. En outre quiconque rejetterait le compatibilisme devrait vraisemblablement tenir pour métaphysiquement illusoire non seulement la responsabilité pratique des agents pratiques artificiels, mais également celle des agents humains, dès lors que le cerveau de ces derniers paraît lui aussi, au moins à une certaine échelle, avoir un fonctionnement déterministe.
b. La responsabilité muette des robots
Où placer les APAM sur cette carte des degrés ou des formes de la responsabilité ? La moralité de leur comportement nous oblige-t-elle à les faire " bénéficier " du concept de responsabilité morale ?

Reste que si notre attitude à l'égard des robots est essentielle au statut que nous leur accordons, elle ne saurait suffire à décider de leur statut. Certains auteurs jugent certes que si nous pouvons, à un certain niveau d'abstraction, voir un robot comme un agent moral louable ou blâmable en raison de ce qu'il fait, alors cela suffit pour que nous devions traiter les robots comme des agents moraux artificiels (Floridi & Sanders 2004, Sullins 2006). Mais, à ce compte, les Anciens étaient fondés à remercier les astres, qu'ils voyaient comme des Intelligences.

En réalité, le concept de responsabilité morale possède aussi une face objective, ce que prouve le fait que notre assignation de responsabilité morale s'annihile lorsque nous découvrons qu'un agent a été contraint par un Tiers de faire ce que nous étions portés à le blâmer d'avoir fait. S'il est interdit de se gratter la tête, mais que la main de Pierre gratte le sommet de son crâne parce que Paul en a pris possession à distance, notre inclination à blâmer Pierre sera désarmée.

Si nous sommes donc prêts à blâmer notre APAM-toasteur, encore faut-il qu'il soit objectivement blâmable, que son mode de fonctionnement interne (Bechtel 1985) fasse a) qu'il soit pratiquement responsable de ses actes b) qu'il en soit moralement responsable, c'est-à-dire qu'il ait de quoi en rendre compte et en répondre. Sans cette base objective ou ontologique, notre attitude sera une pure et simple illusion, indiscernable d'une vulgaire superstition astrale.

Or, comme la section précédente l'a montré, la comparaison d'un APAM et d'un agent humain, au delà d'une différence d'extension pratique, fait apparaître un certain nombre de diminutions cruciales :

(A) Un APAM est un zombie, sans émotions ni passions.

Un APAM n'a donc guère de mérite à bien faire, car il ignore la tentation. Il n'a pas non plus de motivation spécifique à bien faire, ni de plaisir à bien faire. Un APAM est, dans son registre, un saint apathique.

Ce saint apathique est cependant cognitivement faillible : il est sujet à des erreurs de catégorisation qui peuvent avoir une incidence morale. Il est donc éventuellement blâmable, mais pour ses maladresses ou son inattention, plus que pour ses fautes ou ses vices.

(B) Un APAM est ingénu. Il est dénué de toute forme de réflexivité. Il ne juge pas ses actions, il ne les examine pas, ne les rumine pas.

Il ne peut donc justifier ses actes, en rendre compte ou se donner des excuses. Un APAM fait le bien ou le mal, mais sans savoir réflexivement qu'il le fait.

Cette absence de sensibilité aux raisons, aux justifications et aux excuses permet également d'expliquer pourquoi il y a peu d'espoir de trancher la question de la responsabilité des robots au moyen d'une adaptation du test de Turing. Cette idée, avancée par Allen et al. (2000), suppose qu'on puisse mettre en concurrence, dans un jeu d'imitation, un robot et un humain, par exemple un aide soignant humain et un robot aide-soignant. En supposant qu'on ne puisse voir ni l'un, ni l'autre, mais qu'on ait seulement une description, par un tiers, du comportement de l'un et de l'autre, le " jeu " consisterait à dire, sur la base de cette description, qui est l'humain et qui est le robot. Et si l'on prenait un nombre suffisant de fois le robot pour l'humain, ce serait le signe que le robot aurait passé avec succès le " Moral Turing Test ", que n'aurions pas de motif valable de ne pas traiter le robot comme l'humain, au moins dans le registre limité de cette action fonctionnelle.

La difficulté conceptuelle centrale avec ce test ne réside nullement dans ce qu'il postule, à savoir que l'on peut juger des compétences par les performances, de la puissance par l'acte. On peut certes, comme Searle (1980) à propos du test de Turing lui-même, contester ce postulat. Mais le problème du " Moral Turing Test " est plutôt que le jeu ne peut même pas avoir lieu : car même si l'on dotait le robot d'une capacité auxiliaire à verbaliser ses actes, à décrire lui-même ce qu'il fait, on ne pourrait, sauf à supposer un robot très différent de ceux que nous pouvons et souhaitons construire, lui donner la capacité de décrire la raison de ses actes. Tandis que l'infirmier humain qui aura donné le mauvais traitement ou n'aura pas répondu assez vite à une demande du patient pourra donner des raisons ou se trouver des excuses, le robot infirmier restera muet.
c. L'enfance des robots
Faut-il en conclure que l'attitude à l'égard du robot-toasteur qui nous a servi d'exemple ne serait qu'une vulgaire superstition astrale ?

Si l'on prend au sérieux le concept de responsabilité morale, notamment à la lumière de l'abondante littérature suscitée par l'article précité de P. F. Strawson, force est de reconnaître qu'il n'y a pas, dans un APAM, la base cognitive complexe qui permet à une créature d'être légitimement traitée comme moralement responsable et donc d'être traitée comme un agent moral, comme un agent ouvert à des raisons morales. Si un robot fait du bien ou fait du mal, il le fait de manière ingénue.

Songeons ici au programme d'échecs Deep Blue ou au programme de jeu de go Alpha go : les concepteurs de ces programmes ne peuvent pas connaître les décisions que prendront les machines dans le cours d'une partie : ils les ont programmées pour (tenter de) gagner, mais pas pour gagner en passant par telle ou telle étape (sinon les programmes ne seraient pas plus forts que leurs concepteurs, donc moins forts que des grands maîtres).

Ce phénomène d'imprévisibilité des dispositifs d'intelligence artificielle pose un problème général d' éthique technologique qui concerne la société dans son ensemble en tant qu'elle permet ou peut permettre l'introduction de ce type d'entités dans nos vies. Bostrom & Yudowsky (2016) prennent l'exemple tout à fait saisissant d'un programme d'aide à l'attribution de prêts bancaires qui finirait, à la longue, par discriminer les clients selon leur race, sans que, bien évidemment, les concepteurs n'aient introduit quoi que ce soit de ce genre dans le programme initial.

Quelques robots peuvent certes n'être, en raison de leur mode de programmation, que des apparences d'APAM, de simples automates mobiles dont tous les actes peuvent être reconduits à des lignes de programme explicitement écrites par leur concepteur. Dans ce type de cas, il n'y a pas de différence d'essence entre un tel automate mobile et un télé-robot, actionné en direct et à distance par son utilisateur. Les dommages causés par un drone sont l'œuvre de celui qui le manipule à distance (son utilisateur), les dommages d'un automate programmé sont l'œuvre de son concepteur qui, si l'on peut dire, le manipule à distance temporelle. Mais il y a un saut ontologique incontestable lorsqu'on a affaire à un authentique agent pratique artificiel, qui doit, de lui-même, sur la base de son " expérience " antérieure, décider de la manière de se comporter dans une situation nouvelle. Son concepteur l'a certes équipé pour prendre des décisions bienveillantes, mais il n'a pas pris à l'avance ses décisions à sa place.

Il apparaît donc que les APAM nous oblige moins à renoncer à toute idée de responsabilité, qu'à amincir notre concept de responsabilité morale, à imaginer une pratique sociale ou une forme de vie plus adaptée à la nature diminuée des APAM :

- En premier lieu, il n'y a rien de tel, dans un APAM, qu'une bienveillance méritoire, source de gratitude de notre part : un APAM est créé pour nous faire du bien ou pour ne pas nous faire du mal, de sorte qu'il n'a aucun mérite à se conduire ainsi. Il n'y a donc aucun sens à valoriser le fait qu'il fasse ce qu'il doit. Et si l'on suit Kant, pour qui le respect dû aux êtres humains résulte de leur aptitude à la moralité, c'est-à-dire de leur capacité à choisir le bien contre le mal, les APAM ne sont pas, en ce sens, dignes de respect, quoiqu'ils puissent être objets d'amour.

- Cependant, en second lieu, si un APAM ne peut nous vouloir du mal, il peut être suffisamment maladroit pour nous en faire ou prendre simplement de mauvaises décisions. Or cette situation qui voit un agent pratique nous faire du mal par maladresse plus que par vice, nous est familière. C'est celle que nous adoptons notamment à l'égard d'un enfant qui " ne sait pas le mal qu'il fait ". Une telle situation appelle le plus souvent, non pas le blâme, mais l' indulgence.

Les difficultés qui entourent la détermination du statut des APAM s'expliquent donc par le fait que leur nature propre nous oblige autant à bouleverser nos catégories qu'à faire évoluer nos formes de vie morale. D'un coté, attribuer une responsabilité pratique sans reconnaître à l'agent concerné de responsabilité morale, c'est ce que nous faisons quand nous réagissons à la conduite dommageable ou intrinsèquement blâmable d'un jeune enfant. Mais, en même temps, nous reconnaissons aux enfants humains ce que Rousseau a appelé une " faculté de se perfectionner " (Rousseau, 1964, 142) et nous les préparons donc, lorsqu'ils exercent leur responsabilité pratique à mauvais escient, à la transformer en responsabilité morale. Nous assortissons notre indulgence d'un blâme modéré qui les met sur la voie de " se perfectionner ".

Le problème que nous pose les APAM, c'est qu'ils sont comme des enfants, mais dénués de toute faculté de se perfectionner : il n'y a aucune chance que notre robot-toasteur finisse par acquérir une responsabilité morale à force d'indulgence et de blâme mêlés. Un APAM est donc de ce point de vue une manière d' enfant éternel, un enfant que sa " nature " vouerait au bien, mais qui ne le ferait pas toujours. Sans doute peut-on imaginer que ces enfants éternels puissent intégrer nos réactions à leur propre apprentissage : si par exemple nous manifestons de la colère, le robot pourra être ainsi programmé qu'en la percevant, il baissera le score de sa dernière décision en vue de l'avenir. Mais s'il progressera ce faisant dans la mise en harmonie de ses actes et de sa volonté sainte, il ne gagnera pas en responsabilité morale : il sera, à la fin, aussi ingénu qu'au début. Il ne quittera jamais l' enfance morale.

Cette analogie, si on l'accepte, permet, pour finir, de dériver une solution simple au problème plus concret et plus pressant, économiquement parlant, soulevé par les APAM, celui de la responsabilité civile en cas de dommage. Beaucoup d'auteurs sont tentés d'aborder ce problème comme une variante du problème général posé par la responsabilité à l'égard des artefacts informatiques. Ainsi, d'après Deborah Johnson (2006), les APAM sont des entités morales, mais pas des agents moraux : l'agentivité et donc la responsabilité est assumée par le complexe des parties prenantes humaines, concepteurs, industriels, utilisateurs, qui font qu'il y a des APAM. Néanmoins cette approche ne fait pas droit à la différence qui sépare une machine dont les actes sont prévus par son concepteur (un automate) d'une machine possédant une marge d'initiative pratique, qui, sans doute, est prévue et donc assumée par son concepteur, mais dont l'actualisation est en bonne partie imprévisible, parce qu'elle fait appel à l'intelligence située du robot. Une solution alternative, suggérée par Snapper (1985) consiste dès lors à accepter qu'un robot de ce genre, dès lors qu'il sera, dans sa singularité pratique, l'auteur des dommages qu'il pourra occasionner, soit aussi celui qui en portera la responsabilité civile, étant entendu qu'il est dénué de sens d'envisager une responsabilité pénale. Comme l'écrit Snapper " il n'est pas plus problématique de tenir un ordinateur pour [civilement] responsable que de le faire pour une entreprise ". Reste qu'une entreprise a un patrimoine qu'on peut solliciter pour faire jouer sa responsabilité civile : mais où sera le patrimoine d'un robot ? La réponse est que le propriétaire du robot devra tout simplement contracter une police d'assurance. Les humains adultes contractent eux-mêmes une assurance civile. Mais ils en contractent une pour leurs enfants. Or qu'est-ce qu'un APAM, sinon un enfant éternel ?

Conclusion

L'éthique artificielle, dans les conditions du moins de nos capacités et de nos souhaits en matière de technologie d'intelligence artificielle et de robotique, nous ouvre donc des perspectives moins exaltantes que celles habituellement associées à l'imaginaire des robots. Vivre avec des APAM, c'est vivre entouré de petits agents pratiques bienveillants, mais parfois maladroits. Pour considérer sans superstition ces nouveaux habitants du monde, il nous faudra sans doute apprendre à ne pas leur prêter une dignité qu'ils n'ont pas, même s'ils sont dotés d'une apparence humaine : ils n'auront aucun mérite à nous faire du bien, nous n'aurons aucune gratitude ou reconnaissance à avoir envers eux : nous les aurons faits pour ça. Et nous ne pourrons jamais, nous-mêmes, leur faire du mal, parce qu'ils seront des zombies ingénus. En revanche, nous devrons être prêts à faire montre d'indulgence à l'égard de leurs bévues. Tandis que nous pouvons remiser sans vergogne un toasteur qui brûle systématiquement nos toasts, nous devrons faire montre d'un peu de patience à l'égard de nos APAM domestiques : ils devront apprendre à vivre parmi nous, apprendre à nous connaître, et ils pourront donc commettre toutes sortes d'erreurs avant de mettre leurs actes en harmonie avec leur volonté sainte. Par prudence cependant, il nous faudra contracter une assurance en leur nom, car les dommages qu'ils causeront devront être couverts. Mais le règne des fins leur restera pour longtemps fermé.

Bibliographie

Allen C., Varner G. & Zinser J., (2000), " Prolegomena to Any Future Artificial Moral Agent ", Journal of Experimental & Theoretical Artificial Intelligence, 12, p. 251-261.

Allen, C., Smit, I., & Wallach, W. (2005). " Artificial morality : Top-down, Bottom-up, and Hybrid Approaches ", Ethics and Information Technology, 7, p. 149-155.

Anderson M. & Anderson L.-A. ( eds) (2011), Machine Ethics, Cambridge, Cambridge University Press.

Anderson, M., Anderson, S. L., & Armen, C. (2006), " An Approach to Computing Ethics ", IEEE Intelligent Systems, p. 56-63.

Anderson, M., & Anderson, S. L. (2007), " The Status of Machine Ethics ", Minds and Machines, 17, p. 1-10.

Arkin R. (2009), Governing Lethal Behavior in Autonomous Robots, New York, Chapman & Hall/ CRC Press. [Résumé à : http://www.cc.gatech.edu/ai/robot-lab/online-publications/formalizationv35.pdf]

Asimov I. (1967), Les robots, trad. P. Billon, Paris, J'ai lu.

Bechtel W. (1985), " Attributing Responsibility to Computers Systems ", Metaphilosophy, 16 (4), p. 296-305.

Blackburn S. (1993), Essays on Quasi-Realism, Oxford, Oxford University Press.

Boarini S., Qu'est-ce qu'un cas moral ?, Paris, Vrin, 2013.

Borenstein J. & Pearson Y. (2011), " Robot Caregivers : Ethical Issues across Human Lifespan ", in Lin et al. (2012), p. 251-266.

Bostrom N. & Yudkowsky (2016), " The Ethics of Artificial Intelligence ", in K. Frankish & W. Ramsey, Cambridge Handbook of Artificial Intelligence, New York, Cambridge University Press, forthcoming.

Bringsjord S (2005), " Ethical Robots : The Future Can Heed Us ", American Association for Artificial Intelligence, disponible en ligne à : http://kryten.mm.rpi.edu/FS605BringsjordS.pdf

Bringsjord S., Arkoudas K. & Bello P. (2006), " Toward a General Logicist Methodology for Engeneering Ethically Correct Robots ", IEEE Intelligent Systems, 21(4), p. 38-44.

Bringsjord S. & Taylor J. (2012), " The Divine-Command Approach to Robot Ethics ", in Lin et al., 2012, p. 85-108.

Dennett D. (1998), " When Hal Kills, Who's to Blame ? ", in D. Storck, Hall's Legacy : 2001's Computer as Dream and Reality, Cambridge, MIT Press, p. 351-365.

Dumouchel P. & Damiano L. (2016), Vivre avec les robots. Essai sur l'empathie artificielle, Paris, Le Seuil.

Floridi L. & Sanders J. W. (2004), " On the Morality of Artificial Agents ", Minds and Machines, 14 (3), p. 349-379.

Gibson, J. J. (1979). The Ecological Approach to Visual Perception, Mahwah, NJ, Erlbaum.

Gips, J. (1995), " Towards the Ethical Robot ", in K. Ford, C. Glymour, & P. Hayes (eds.), Android epistemology, Cambridge, MIT Press, p. 243-252.

Grau, C. (2006) " There is no 'I' in 'Robot': Robots and Utilitarianism ", IEEE Intelligent Systems, 21(4), p. 52-55.

Guarini, M. (2006), " Particularism and the Classification and Reclassification of Moral Cases ", IEEE Intelligent Systems, 21(4), p. 22-28.

Johnson D. (2006), " Computer Systems : Moral Entities but not Moral Agents ", Ethics and Information Technology, 8, p. 195-204.

Kant E. (1994), Métaphysique des mœurs I : fondation, introduction, trad. A. Renaut, Paris, GF-Flammarion.

Levy D. (2007), Love and Sex with Robots, New York, Harper Collins.

Lin P., Abney K. & Bekey G. (2012), Robot Ethics. The Ethical and Social Implications of Robotics, Cambridge (Mass.), The MIT Press.

McDowell J. (1998), Mind, Value and Reality, Cambridge (Mass.), Harvard University Press.

McLaren, B. (2006), " Computational Models of Ethical Reasoning : Challenges, Initial steps and Future directions ", IEEE Intelligent Systems, 21(4), p. 29-37.

Michon C. (2011), Qu'est-ce que le libre arbitre ?, Paris, Vrin.

Moor, J. H. (2006), " The Nature, Importance, and Difficulty of Machine Ethics ", IEEE Intelligent Systems, 21(4), p. 18-21.

Nozick R. (1981), Philosophical Explanations, Oxford, Clarendon Press.

Parfit D. (2012), On What Matters, Oxford, Oxford University Press.

Powers, T. (2006), " Prospects for a Kantian machine ", IEEE Intelligent Systems, 21(4), p. 46-51.

Ross D, (1930), The Right and the Good, Oxford, Clarendon Press.

Rousseau J.-J. (1964), Discours sur l'origine de l'inégalité, dans B. Gagnebin (éd), Œuvres complètes, III, Paris, Gallimard, Bibliothèque de la Pléiade.

Sartre J. P. (1965), La transcendance de l'ego, Paris, Vrin.

Shoemaker D. (2011), " Attributability, Answerability and Accountability ", Ethics, 121, p. 602-632.

Searle J. (1980) " Minds, Brains and Programs ", Behavioral and Brain Sciences, vol. 3, n° 3, p. 417-424.

Snapper J.W. (1985), " Responsibility for Computer-Based Errors ", Metaphilosophy 16(4), p. 289-295.

Sparrow, R. (2007), " Killer robots ", Journal of Applied Philosophy, 24(1), p. 62-77.

Strawson P. F. (1962), " Freedom and Resentment ", Proceedings of the British Academy, 48, p. 1-25.

Sullins J. (2005), " Ethics and Artificial Life : From Modeling to Moral Agents ", Ethics and Information Technology, 7, p. 139-148.

Sullins J. (2006), When is a Robot a Moral Agent ? ", International Review of Information Ethics, 6 (12), p. 23-30.

Tisserot S. (2015), Le jour où mon robot m'aimera. Vers l'empathie artificielle, Paris, Albin Michel.

Turing A. & Girard J.-Y. (1995), La machine de Turing, Paris, Le Seuil [contient la traduction française de " On Computable Numbers with an Application to the

Entscheidungsproblem " (1936-37) et de " Computing Machinery and Intelligence ", 1950].

Von Uexküll J. (2010), Milieu animal et milieu humain [1934], Paris, Payot.

Wallach, W., and Allen, C. (2010), Moral Machines: Teaching Robots Right from Wrong Oxford, Oxford University Press.

Wittgenstein L. (1969), On Certainty, London, Blackwell.

Wittgenstein L. (1993), Tractatus Logico-Philosophicus, trad. G.-G. Granger, Paris, Gallimard.
Stéphane Chauvier
Université Paris-Sorbonne
stephane.chauvier@paris-sorbonne.fr

# data[].attributes.attachment_link.title
Ethique artificielle (A) - L'encylopédie philosophique

# data[].attributes.attachment_link.description
L'éthique artificielle, au même titre que l'intelligence artificielle, soulève évidemment des problèmes purement scientifiques et techniques, qui concernent au premier chef les logiciens et les informaticiens. Mais, comme l'intelligence artificielle dont elle est une partie, elle soulève aussi et peut-être d'abord des problèmes philosophiques relatifs à la manière de catégoriser les entités dans lesquels ces programmes sont implantés.

# data[].attributes.attachment_link.title
C’est quoi l’intelligence artificielle ? Découvrir #1

# data[].attributes.attachment_link.readable_text
La CNIL publie le rapport de synthèse du débat public qu'elle a animé sur les enjeux éthiques des algorithmes et de l'intelligence artificielle . Isabelle FALQUE-PIERROTIN, présidente de la CNIL, le présente aujourd'hui en présence de Mounir MAHJOUBI, Secrétaire d'Etat chargé du Numérique et de Cédric VILLANI, Député, chargé par le gouvernement d'une mission sur l'intelligence artificielle.

L'irruption dans nos vies quotidiennes des algorithmes et de l'intelligence artificielle fait l'objet d'une attention publique soutenue, depuis que quelques cas emblématiques (APB, rôle des réseaux sociaux dans les présidentielles américaines etc.) ont marqué les citoyens, ici en France ou à l'étranger. A l'heure où se construisent les positions française et européenne sur l'intelligence artificielle, ce rapport a pour but de construire un panorama des enjeux éthiques qu'ils soulèvent.

Un débat public innovant sur les algorithmes et l'intelligence artificielle

Dans notre monde de plus en plus numérique, les algorithmes et l'intelligence artificielle sont partout : pour simuler l'évolution de la propagation de la grippe en hiver, pour recommander des livres à des clients, pour suggérer aux forces de police des zones où patrouiller en priorité, pour piloter de façon autonome des automobiles, pour élaborer automatiquement un diagnostic médical personnalisé, pour personnaliser un fil d'activité sur les réseaux sociaux etc. Des tâches complexes, parfois critiques, sont ainsi déléguées à des systèmes de plus en plus autonomes à mesure que les techniques d'apprentissage propres à l'intelligence artificielle se développent. Ces usages multiples et croissants, indissociables des masses de données inédites à disposition dans tous les secteurs, soulèvent de nombreuses questions.

Chargée par loi pour une République numérique de mener une réflexion sur les questions éthiques et de société posées par les nouvelles technologies, la CNIL s'est naturellement tournée vers le thème des algorithmes à l'heure de l'intelligence artificielle.

Le rapport s'appuie sur les résultats d'un débat public ouvert et décentralisé que la CNIL a animé de janvier à octobre 2017 : 3 000 personnes ont participé à 45 manifestations qui se sont tenues à l'initiative de 60 partenaires en France (Ax les Termes, Bordeaux, Caen, Lille, Lyon, Marseille, Paris, Toulouse) et à l'étranger (Etats-Unis). Une concertation citoyenne a également été organisée à Montpellier le 14 octobre pour compléter la démarche.

Médias, vie publique et politique, éducation, culture, santé, justice, sécurité et défense, banque et finance, emploi et recrutement ont été abordés comme champs d'exploration des algorithmes et de l'intelligence artificielle par les partenaires : des instituts de recherches (CREOGN, CNAM, ENSC, INSA), des institutions publiques (ministères, universités et grandes écoles), des fédérations professionnelles, des syndicats, des ordres d'avocat, des hôpitaux, des think tanks, des entreprises, etc.
Pour Isabelle Falque-Pierrotin, Présidente de la CNIL :
L'objectif de ce débat est de garantir que l'intelligence artificielle augmente l'homme plutôt qu'elle ne le supplante et participe à l'élaboration d'un modèle français de gouvernance éthique de l'intelligence artificielle. Nous devons collectivement faire en sorte que ces nouveaux outils soient à la main humaine, à son service, dans un rapport de transparence et de responsabilité

Quelles réponses éthiques au développement des algorithmes et de l'intelligence artificielle ?

Vers l'affirmation de deux principes fondateurs : loyauté et vigilance

Les débats ont permis de dégager deux principes fondateurs pour une intelligence artificielle au service de l'homme. Ces principes pourraient s'inscrire dans une nouvelle génération de garanties et de droits fondamentaux à l'ère numérique, des " droits-système " organisant la gouvernance mondiale de notre univers numérique :

Un principe de loyauté appliqué à tous les algorithmes et intégrant les impacts collectifs, et pas seulement personnels, de ces derniers. Tout algorithme , qu'il traite ou non des données personnelles, doit être loyal envers ses utilisateurs, non pas seulement en tant que consommateurs, mais également en tant que citoyens, voire envers des communautés ou de grands intérêts collectifs dont l'existence pourrait être directement affectée. L'intérêt des utilisateurs doit primer. Par exemple, un tel principe pourrait avoir vocation à s'appliquer à l'impact potentiel des réseaux sociaux sur la structure du débat public dans nos démocraties (segmentation du corps politique par le ciblage de l'information) ou à celui d'algorithmes de police prédictive sur des communautés ou quartiers entiers.

Un principe de vigilance/réflexivité : il s'agit d'organiser une forme de questionnement régulier, méthodique et délibératif à l'égard de ces objets mouvants. Ce principe constitue une réponse directe aux exigences qu'imposent ces objets technologiques du fait de leur nature imprévisible (inhérente au machine learning), du caractère très compartimenté des chaînes algorithmiques au sein desquels ils s'insèrent et, enfin, de la confiance excessive à laquelle ils donnent souvent lieu. C'est l'ensemble des maillons de la chaîne algorithmique (concepteurs, entreprises, citoyens) qui doivent être mobilisés pour donner corps à ce principe, au moyen de procédures concrètes (par exemple, des comités d'éthique assurant un dialogue systématique et continu entre les différentes parties-prenantes).

Ces principes fondateurs sont complétés par des principes organisationnels ayant traits à l'intelligibilité et à la responsabilité des systèmes algorithmiques ainsi qu'à la nature de l'intervention humaine dans la prise de décision algorithmique.

Les 6 recommandations opérationnelles

Ces principes font l'objet d'une déclinaison sous la forme de 6 recommandations opérationnelles à destination tant des pouvoirs publics que des diverses composantes de la société civile (entreprises, grand public, etc.) :

Former à l'éthique tous les acteurs-maillons de la " chaîne algorithmique " (concepteurs, professionnels, citoyens) : l'alphabétisation au numérique doit permettre à chaque humain de comprendre les ressorts de la machine ;

Rendre les systèmes algorithmiques compréhensibles en renforçant les droits existants et en organisant la médiation avec les utilisateurs ;

Travailler le design des systèmes algorithmiques au service de la liberté humaine, pour contrer l'effet " boîtes noires " ;

Constituer une plateforme nationale d'audit des algorithmes ;

Encourager la recherche sur l'IA éthique et lancer une grande cause nationale participative autour d'un projet de recherche d'intérêt général ;

Renforcer la fonction éthique au sein des entreprises (par exemple, l'élaboration de comités d'éthique, la diffusion de bonnes pratiques sectorielles ou la révision de chartes de dé peuvent être envisagées).

Les problématiques soulevées par les algorithmes et l'IA

Pour formuler ces principes fondateurs et les recommandations, le rapport s'est basé sur 6 problématiques essentielles remontées lors des débats afin de relever le défi éthique posé par ces technologies :

L'autonomie humaine au défi de l'autonomie des machines :

Algorithmes et intelligence artificielle permettent la délégation croissante de tâches, de raisonnements ou de décisions de plus en plus critiques à des machines. Souvent jugées infaillibles et " neutres ", celles-ci n'ouvrent-elles pas la voie à une confiance excessive et à la tentation pour chacun de ne pas exercer pleinement ses responsabilités ? Comment faire face aux formes nouvelles de dilution de la responsabilité qu'impliquent des systèmes algorithmiques complexes et très segmentés ?

Biais, discrimination et exclusion :

Biais, discrimination et exclusion constituent des effets clairement identifiés des algorithmes et de l'intelligence artificielle. Parfois volontaires, ces phénomènes sont, à l'heure du déploiement des algorithmes de machine learning, le plus souvent inconscients et difficilement repérables. Comment appréhender cette nouvelle problématique ?

Fragmentation algorithmique : la personnalisation contre les logiques collectives :

La personnalisation constitue l'une des grandes promesses de l'algorithme tel qu'il s'est construit avec le Web. Bien que des bénéfices certains pour l'individu émanent de la segmentation et du profilage, comment peuvent-ils tout autant affecter vigoureusement des logiques collectives essentielles à la vie de nos sociétés (pluralisme démocratique et culturel, mutualisation du risque) ?

Entre limitation des mégafichiers et développement de l'intelligence artificielle : un équilibre à réinventer :

L'intelligence artificielle nécessite d'importantes quantités de données à des fins d'apprentissage. Elle suscite également de nombreuses promesses. Comment exploiter celles-ci tout en maintenant l'impératif de protéger les libertés individuelles de chacun, intrinsèque à la législation européenne de protection des données personnelles ?

Qualité, quantité, pertinence : l'enjeu des données fournies à l'IA :

L'entraînement d'un algorithme d'apprentissage implique de l'alimenter avec des données sélectionnées avec soin, pertinentes au regard de l'objectif poursuivi et en quantité suffisante. Comment parvenir à une telle attitude critique en dépit de la tendance à une confiance excessive dans la machine ?

L'identité humaine au défi de l'intelligence artificielle :

L'idée d'une spécificité humaine irréductible se voit questionnée par l'autonomie grandissante des machines ainsi que par l'apparition de formes d'hybridation entre humains et machines. Faut-il et est-il possible de parler au sens propre d'" éthique des algorithmes " ? Comment appréhender cette nouvelle classe d'objets que sont les robots humanoïdes, susceptibles d'engendrer chez l'homme des formes d'affect ?

# data[].attributes.attachment_link.title
Comment permettre à l'Homme de garder la main ? Rapport sur les enjeux éthiques des algorithmes et de l'intelligence artificielle

# data[].attributes.attachment_link.description
L'irruption dans nos vies quotidiennes des algorithmes et de l'intelligence artificielle fait l'objet d'une attention publique soutenue, depuis que quelques cas emblématiques (APB, rôle des réseaux sociaux dans les présidentielles américaines etc.) ont marqué les citoyens, ici en France ou à l'étranger.

# data[].attributes.attachment_link.title
Comment l’intelligence artificielle va changer nos vies

# data[].attributes.attachment_link.description
À l’occasion du sommet sur l’intelligence artificielle qui se tient le jeudi 29 mars au Collège de France et à l’issue duquel le président de la République doit présenter la stratégie nationale dans ce domaine, (re)découvrez tous nos contenus sur cette technologie qui pourrait à terme « augmenter » presque chaque moment de notre vie. Reconnaissance faciale, assistant intelligent, voiture autonome, où en est l’intelligence artificielle ? Laisserons-nous ces systèmes interpréter nos scanners médicaux ou rendre la justice ? L’automatisation du travail touchera-t-elle tout le monde ? Comment éviter les dérives éthiques ?

# data[].attributes.attachment_link.readable_text
Quel est le futur que nous promettent les nouvelles technologies de l'IA ? Avec ces 40 pages consacrées au sujet, l'écollectif LIKEN vous offre un petit tour d'horizon des applications et des progrès de l'IA ainsi que de leurs incidences sur nos sociétés... More

# data[].attributes.attachment_link.description
Quel est le futur que nous promettent les nouvelles technologies de l'IA ? Avec ces 40 pages consacrées au sujet, l'écollectif LIKEN vous offre un petit tour d'horizon des applications et des progrès de l'IA ainsi que de leurs incidences...

# data[].attributes.attachment_link.readable_text
L'intelligence artificielle (IA) est un domaine de recherche en pleine expansion et promis à un grand avenir. Ses applications, qui concernent toutes les activités humaines, permettent notamment d'améliorer la qualité des soins. L'IA est en effet au cœur de la médecine du futur avec les opérations assistées, le suivi des patients à distance, les prothèses intelligentes, ou encore les traitements personnalisés grâce au recoupement de données (big data)... Dans ce cadre, les chercheurs développent des approches et techniques multiples, du traitement des langues et de la construction d'ontologies, à la fouille de données et à l'apprentissage automatique. Il est toutefois indispensable que le grand public comprenne comment fonctionnent ces systèmes pour savoir ce qu'ils font et surtout ce qu'ils ne font pas. Le robot omniscient, qui pour beaucoup symbolise l'IA, n'est pas pour demain !
Dossier réalisé en collaboration avec Jean Charlet (AP-HP et Laboratoire d'informatique médicale et ingénierie des connaissances pour la e‑santé - LIMICS, unité 1142 Inserm/Sorbonne Université/Université Sorbonne Paris nord) et Xavier Tannier (LIMICS)

Comprendre l'IA

L'intelligence artificielle est née dans les années 1950 avec l'objectif de faire produire des tâches humaines par des machines mimant l'activité du cerveau. Face aux déboires des premières heures, deux courants se sont constitués.

Les tenants de l'intelligence artificielle dite forte visent à concevoir une machine capable de raisonner comme l'humain, avec le risque supposé de générer une machine supérieure à l'Homme et dotée d'une conscience propre. Cette voie de recherche est toujours explorée aujourd'hui, même si de nombreux chercheurs en IA estiment qu'atteindre un tel objectif est impossible.

D'un autre côté, les tenants de l'intelligence artificielle dite faible mettent en œuvre toutes les technologies disponibles pour concevoir des machines capables d'aider les humains dans leurs tâches. Ce champ de recherche mobilise de nombreuses disciplines, de l'informatique aux sciences cognitives en passant par les mathématiques, sans oublier les connaissances spécialisées des domaines auxquels on souhaite l'appliquer. Cette approche - dont il sera question tout au long de ce dossier - génère tous les systèmes spécialisés et performants qui peuplent aujourd'hui notre environnement : créer des profils d' amis possibles sur les réseaux sociaux, identifier des dates dans les textes pour classer des dépêches d'agence, aider le médecin à prendre des décisions... Ces systèmes, de complexité très variable, ont en commun d'être limités dans leurs capacités d'adaptation : ils doivent être manuellement adaptés pour accomplir d'autres tâches que celles pour lesquelles ils ont été initialement conçus. On parle de " recontextualiser " le système.

Certains systèmes d'IA utilisent la logique...

L'approche la plus ancienne s'appuie sur l'idée que nous raisonnons en appliquant des règles logiques (déduction, classification, hiérarchisation...). Les systèmes conçus sur ce principe appliquent différentes méthodes, fondées sur l'élaboration de modèles d'interaction entre automates ou logiciels autonomes (systèmes multi-agents), de modèles syntaxiques et linguistiques (traitement automatique des langues) ou d'élaboration d'ontologies (représentation des connaissances). Ces modèles sont ensuite utilisés par des systèmes de raisonnement logique pour produire des faits nouveaux.

Dans les années 1980, cette approche, dite symbolique, a permis le développement d'outils capables de reproduire les mécanismes cognitifs d'un expert. C'est pourquoi on les a baptisés " systèmes experts ". Les plus célèbres, Mycin (identification d'infections bactériennes) ou Sphinx (détection d'ictères), s'appuient sur l'ensemble des connaissances médicales dans un domaine donné et une formalisation des raisonnements des spécialistes qui lient ces connaissances entre elles pour aboutir à un diagnostic. Les systèmes actuels, qualifiés d' aide à la décision, de gestion des connaissances ou d' e‑santé, sont plus sophistiqués. Ils bénéficient de meilleurs modèles de raisonnement ainsi que de meilleures techniques de description des connaissances médicales, des patients et des actes médicaux. La mécanique algorithmique est globalement la même, mais les langages de description sont plus efficaces et les machines plus puissantes. Ils ne cherchent plus à remplacer le médecin, mais à l'épauler dans un raisonnement fondé sur les connaissances médicales de sa spécialité.

La principale difficulté de l'approche symbolique est la modélisation des connaissances (description du domaine et du raisonnement) qui s'appuie sur un travail approfondi avec des spécialistes du domaine concerné.

...D'autres exploitent l'expérience passée

Contrairement à l'approche symbolique, l' approche dite numérique raisonne sur les données. Le système cherche des régularités dans les données disponibles pour extraire des connaissances, sans modèle préétabli. Cette méthode, née avec le connexionnisme et les réseaux de neurones artificiels dans les années 1980, se développe aujourd'hui grâce à l'augmentation de puissance des ordinateurs et à l'accumulation des gigantesques quantités de données, le fameux big data.

La plupart des systèmes actuels procèdent par apprentissage automatique , une méthode fondée sur la représentation mathématique et informatique de neurones biologiques, selon des modalités plus ou moins complexes. Les algorithmes d' apprentissage profond (deep learning) par exemple, dont l'usage explose depuis une dizaine d'années, font une analogie lointaine avec le fonctionnement cérébral en simulant un réseau de neurones organisés en différentes couches, échangeant les uns avec les autres. La force de cette approche est que l'algorithme apprend la tâche qui lui a été assignée par " essais et erreurs ", avant de se débrouiller tout seul.

Des applications de deep learning existent en traitement d'images, par exemple pour repérer de possibles mélanomes sur les photos de peau, ou bien pour dépister des rétinopathies diabétiques sur des images de rétines. Leur mise au point nécessite de grands échantillons d'apprentissage : 50 000 images dans le cas des mélanomes, et 128 000 dans celui des rétinopathies, ont été nécessaires pour entraîner l'algorithme à identifier les signes de pathologies. Pour chacune de ces images on lui indique si elle présente ou non des signes pathologiques. A la fin de l'apprentissage, l'algorithme arrive à reconnaître avec une excellente performance de nouvelles images présentant une anomalie.

Les enjeux de la recherche

L'IA est en plein essor et de nombreuses voies de recherche sont explorées pour améliorer les performances techniques de ces systèmes, mais aussi leur adéquation aux pratiques médicales visées. Leur coût − financier mais également environnemental − doit également être justifié par une réelle plus-value pour le médecin ou le patient.

Les voies de recherche portent en particulier sur le traitement des données, très hétérogènes, leur structuration et leur anonymisation, mais aussi sur la conception de systèmes transparents pour l'utilisateur et bien adaptés au contexte d'utilisation.

Un goulet d'étranglement : la qualité de l'échantillon de données

L'approche numérique peut se prévaloir de bonnes performances en médecine, mais elle nécessite des données parfaitement propres et bien annotées, comme celles utilisées pour la reconnaissance de mélanomes. Or la plupart des données médicales n'ont pas été recueillies dans l'objectif que se fixe le concepteur de logiciel. Elles posent donc de nombreux problèmes pour leur exploitation.

La France dispose en particulier d'une des plus grandes bases en santé du monde : son système national de données médico-administratives, le SNIIRAM (pour Système national d'information inter-régimes de l'Assurance Maladie). Cette base, qui fait maintenant partie du SNDS, stocke toutes les prescriptions de médicaments, la description des maladies et les actes hospitaliers. Elle est toutefois délicate à exploiter, car elle a été créée pour l'analyse économique des prestations de santé et non pour une analyse médicale. Ainsi, les données relatives à une personne hospitalisée pour un problème respiratoire ne feront pas nécessairement mention du cancer qui l'affecte par ailleurs. Dans certains cas, on relève jusqu'à 30 % d'erreurs dans la description des pathologies associées aux malades. Corriger ces erreurs passe par le croisement des données avec d'autres sources, comme celles correspondant aux médicaments administrés.

Fournir l'information au bon moment et au bon niveau

Un système d'aide à la décision en analyse d'échographies pour les grossesses extra-utérines (GEU) développé par le LIMICS et l'hôpital Trousseau, OPPIO, a servi de preuve de concept au système SUOG ( Smart Ultrasound in Obstetrics & Gynecology)qui devrait entrer en phase de test en 2022. SUOG est un logiciel qui vise à améliorer la qualité des examens échographiques durant la grossesse face à leur complexité croissante et aux ressources limitées des experts. Il fournit à l'échographiste des informations pertinentes lorsqu'il est confronté à des caractéristiques inhabituelles, en temps réel et pendant l'examen. Il apporte des conseils intelligents itératifs (ce qu'il est pertinent de rechercher sur la base des résultats normaux et anormaux précédents, et d'après l'hypothèse de diagnostic) et affiche des images échographiques pertinentes validées par des experts pour appliquer les conseils fournis.

SUOG intègre une ontologie qui fournit un modèle centré sur les signes du domaine, avec les relations entre les signes des différents types de grossesses pathologiques, les structures anatomiques et les éléments techniques. Dès le premier examen, des opérateurs non experts recueillent des séries d'images de haute qualité, proches de ce que feraient des opérateurs experts. Ils peuvent demander un deuxième avis d'expert à partir de ces images et, si nécessaire, orienter les femmes vers des centres experts adéquats.

Croiser les multiples données textuelles relatives aux patients

Un problème important soulevé par l'exploitation des données médicales est relatif à la nature des données disponibles : on estime qu'environ 80 % des informations sur les patients sont exprimées sous forme de texte libre (comptes rendus d'hospitalisation ou rapports d'imagerie par exemple). Ces données non structurées sont notamment caractérisées par une forte variabilité linguistique qui en complique la manipulation. Il s'agit alors de mettre en œuvre des outils de traitement automatique des langues pour analyser ces textes et en extraire des informations sur le patient. De nombreux projets sont en cours au sein des hôpitaux, en particulier ceux hébergeant un entrepôt de données de santé, pour faciliter l'accès à ces informations à des visées de recherche ou de soin. A titre d'exemple, le système Epifractal, en cours de mise en œuvre à l'AP-HP, permet de détecter à partir des comptes rendus médicaux, les patients à risque élevé de fracture liée à l'ostéoporose, dans le but de les inclure dans une filière de soin spécifique.

Ce type de logiciels peuvent mobiliser une approche symbolique ou des approches fondées sur l'apprentissage statistique supervisé. Ces algorithmes peuvent être très performants mais nécessitent encore beaucoup de recherches avant de pouvoir être utilisés de façon fiable et généralisée.

Les algorithmes d'apprentissage non supervisé (sans apprentissage préalable sur des échantillons) suscitent également des espoirs dans ce domaine : ils permettent en effet de recouper rapidement un très grand nombre de données afin d'établir des structures cachées et de déterminer des catégories d'intérêt pour la tâche visée. On espère de cette façon pouvoir mieux identifier des facteurs de risques, personnaliser les traitements et en vérifier l'efficacité, prédire les épidémies ou améliorer la pharmacovigilance.

Prévenir plutôt que guérir

La prévention est un nouveau terrain d'intervention de l'IA. En psychiatrie, la schizophrénie et la psychose chronique sont parmi les troubles les plus invalidants qui frappent les adolescents et les jeunes adultes. Des études récentes montrent que leur prise en charge est d'autant plus efficace qu'elle intervient à un stade précoce. Ainsi, le projet PsyCARE vise à améliorer la détection et l'intervention précoce en cas de psychose.

Pour remplir cet objectif général, le projet se propose d'identifier des biomarqueurs pour améliorer le diagnostic, la détection du stade de la maladie et la prédiction du devenir fonctionnel. PsyCARE vise aussi à l'identification de cibles thérapeutiques. Dans ce cadre, un certain nombre d'outils doivent être développés, comme de nouveaux outils portables qui faciliteraient l'évaluation motrice, l'analyse automatique du texte et de la parole, ainsi qu'une application pour l'entraînement cognitif personnalisé et une autre centrée sur le patient facilitant la gestion des cas et l'engagement du patient. Finalement, un système d'aide à la décision guidera la stratégie thérapeutique personnalisée.

Apporter une réelle aide à la pratique médicale

Pour qu'une application soit utilisée par le médecin dans sa pratique quotidienne, il ne suffit pas qu'elle rende le service qu'on lui demande, il faut également que le système soit utilisable sans surcharge cognitive ! Par exemple un système conçu pour alerter sur de possibles contre-indications médicamenteuses ne doit pas saturer le praticien d'alertes " justes ", mais non adaptées au contexte clinique du patient. Ainsi, au lieu de donner une alerte chaque fois qu'une contre-indication se présente, les nouvelles interfaces posent en amont des questions sur le patient, afin de réduire le nombre d'alertes et, ainsi, la tendance du médecin à débrancher une machine " importune ".

Donner les moyens de comprendre la décision

Pour être acceptables ou légitimes, voire pour être écartées car jugées non pertinentes, les décisions de l'algorithme doivent pouvoir être comprises, donc expliquées. Un avantage majeur des approches symboliques est de permettre de tracer le cheminement du raisonnement. Mais même dans ce cas, le nombre de micro-raisonnements effectués par la machine est tel qu'il n'est pas pensable de tous les afficher. C'est pourquoi des chercheurs travaillent actuellement sur la manière de décrire ces raisonnements " en classes explicites ", afin de mettre en avant les décisions les plus importantes. Seule une bonne compréhension des solutions proposées par l'application peut en effet permettre au médecin de discuter avec son patient et de lui exposer les alternatives possibles.

Les approches numériques s'apparentent en revanche à une boîte noire, incapable de justifier ses décisions : nul ne sait ce que fait l'algorithme. Comment, dès lors, endosser la responsabilité de la décision médicale ? Les données d'apprentissage sont en particulier biaisées par les préjugés de l'époque et ceux des concepteurs. L'algorithme tend donc à reproduire, voire renforcer, ces mêmes préjugés. Dans le domaine médical, les biais principaux sont dus à la surreprésentation d'une catégorie de personnes, comme les personnes âgées ou des patients d'origine géographique particulière.

Sciences cognitives : source d'inspiration et domaine d'application

Malgré les énormes capacités de calcul offertes par les ordinateurs actuels, aucune application existante ne peut s'afficher comme réellement intelligente : elle devrait pour cela être multitâches et capable de réagir correctement dans des situations non prévisibles et non préprogrammées. On est encore très loin du compte.

Pour progresser dans cette voie les chercheurs essaient de comprendre le comportement des neurones et de leurs connexions, afin d'être en mesure de mimer le cerveau. Cette démarche permettra peut-être un jour de créer des robots imitant l'intelligence humaine. En attendant elle contribuera à mieux comprendre le fonctionnement de cet organe et à mieux appréhender les causes de certaines maladies d'origine cérébrale comme Alzheimer, Parkinson ou la maladie de Charcot. C'est l'objectif qui motive la participation de l'Union européenne, dans le cadre de son initiative phare Technologies futures et émergentes, au Human brain project. Ce projet vise à construire une infrastructure informatique de classe mondiale, qui pourra être utilisée par la communauté scientifique pour simuler le fonctionnement cérébral dans des conditions expérimentales particulières.

L'enjeu du futur est de combiner les approches

Des projets tentent de combiner les approches symbolique et d'apprentissage, afin de bénéficier à la fois du raisonnement de l'un et des performances de l'autre. Ainsi, dans le projet PsyCARE cité plus haut, la construction d'ontologies (IA symbolique) utilise l'expertise médicale et des algorithmes numériques de fouille de texte.

Autre exemple, l'interprétation d'images médicales est d'une importance majeure pour le diagnostic, le suivi des patients ou encore la préparation d'une intervention chirurgicale. Il s'agit de détecter, segmenter et reconnaître des structures anatomiques normales et pathologiques, et d'en proposer des visualisations 3D. Pour répondre à la difficulté de ces tâches, il est important de combiner les informations numériques extraites des images, donc spécifiques au patient, à des modèles génériques, représentant les connaissances anatomiques sous la forme de bases de connaissances, d'ontologies, de graphiques... C'est en particulier crucial avec les images pédiatriques qui doivent être acquises sur des durées aussi brèves que possible et qui montrent des structures souvent de petite taille et de grande variabilité d'un patient à l'autre.

Cette double approche est aussi particulièrement pertinente pour exploiter les données " variées " des patients (génomiques, cliniques, d'imagerie et d'analyses biologiques) qui seront regroupées sur une même plateforme dans le cadre du Plan France médecine génomique 2025. L'IA permettra de gérer ce nombre considérable de données en fournissant des classifications ou des ontologies de description des éléments cliniques des patients. L'apprentissage automatique permettra d'identifier des profils de patients tenant compte de toutes ces données. Il sera alors possible de personnaliser les soins et d'améliorer leur taux de réussite, notamment, dans un premier temps, pour les cancers, les maladies rares et le diabète.

Enfin, le nœud du problème se situe au niveau du transfert de connaissances entre l'humain et la machine, transfert qui nécessite d'une part des progrès méthodologiques mais également une collaboration approfondie entre experts de disciplines différentes.

De la même façon que les biostatisticiens et les bio-informaticiens ont intégré les laboratoires de recherche médicale il y a quelques décennies, une discipline et un métier nouveaux doivent être créés, qui permettent de dépasser les collaborations interdisciplinaires actuelles et d'intégrer réellement la science des données et des connaissances dans les activités de recherche et de soin.

Pour aller plus loin

# data[].attributes.attachment_link.title
Intelligence artificielle et santé · Inserm, La science pour la santé

# data[].attributes.attachment_link.description
L'intelligence artificielle (IA) est un domaine de recherche en pleine expansion et promis à un grand avenir. Ses applications, qui concernent toutes les activités humaines, permettent notamment d'améliorer la qualité des soins. L'IA est en effet au cœur de la médecine du futur avec les opérations assistées, le suivi des...