# data[].attributes.headline
Les algorithmes sont-ils les juges demain?

# data[].attributes.subject
Les algorithmes sont-ils les juges demain?

# data[].attributes.body
Après la découpe des arguments énoncés dans l'audio, le but de l'exercice est de poser des questions sur les contenus et de tenter d'y répondre soit individuellement, soit collectivement.

# data[].attributes.attachment_link.title
Les algorithmes régissent-ils nos vies ? 27.09.2016

# data[].attributes.attachment_link.metadata.album
Les algorithmes régissent-ils nos vies ?

# data[].attributes.attachment_link.metadata.title
Les algorithmes régissent-ils nos vies ? 27.09.2016

# data[].attributes.body
Choisir 10 images qui symbolisent au mieux votre carte mentale et les publier ici

# data[].attributes.body
L'objectif est de faire un découpage des arguments principaux du document audio en repérant ces arguments. Cela demande le maniement d'un outil numérique comme audacity ou un enregistreur numérique.

# data[].attributes.body
Sa Posture
1)  ancrer son corps
2) faire des gestes pour communiquer

Son Regard
1) adresser pour porter une parole
2) observer pour réagir

# data[].attributes.headline
Remplir le cadre de compétences numériques

# data[].attributes.subject
Remplir le cadre de compétences numériques

# data[].attributes.body
Vous inscrirez ci-dessous les compétences acquises lors de ces exercices sur l'éthique et l'intelligence artificielle à partir des compétences répertoriées ici :

Domaine 1 : Informations et données
Compétence 1.1 Mener une recherche et une veille d’information
Compétence 1.2 Gérer des données
Compétence 1.3 Traiter des données

Domaine 2 : Communication et collaboration
Compétence 2.1 Interagir
Compétence 2.2 Partager et publier
Compétence 2.3 Collaborer
Compétence 2.4 S’insérer dans le monde numérique

Domaine 3 : Création de contenus
Compétence 3.1 Développer des documents textuels
Compétence 3.2 Développer des documents multimédia
Compétence 3.3 Adapter les documents à leur finalité
Compétence 3.4 Programmer

Domaine 4 : Protection et sécurité
Compétence 4.1 Sécuriser l’environnement numérique
Compétence 4.2 Protéger les données personnelles et la vie privée
Compétence 4.3 Protéger la santé, le bien-être et l’environnement

Domaine 5 : Environnement numérique
Compétence 5.1 Résoudre des problèmes techniques
Compétence 5.2 Évoluer dans un environnement numérique

# data[].attributes.body
Posez vos questions ici

# data[].attributes.body
écouter le documentaire audio

# data[].attributes.body
A l'oral vous expliciterez en 20 secondes pour chaque image en quoi elle se rapporte à un contenu de l'enregistrement audio.
Cette technique est dérivée de celle du Pecha Kucha

Définition de Wikipedia :  "Le Pechakucha ou Pecha Kucha (du japonais ペチャクチャ : « bavardage », « son de la conversation ») est un format synchronisant une présentation orale à la projection de 20 diapositives se succédant toutes les 20 secondes, de préférence sans effets d’animations. "

# data[].attributes.headline
exercice de découpage des parties du document audio

# data[].attributes.subject
exercice de découpage des parties du document audio

# data[].attributes.body
découpage ici

on pourra s'aider du logiciel audacity

# data[].attributes.body
Son Débit
1) placer des silences
2) articuler pour se faire comprendre

Sa Diction
1) un volume pour se faire entendre
2) une intonation pour nuancer

# data[].attributes.body
Vous inscrirez ici vos compétences acquises dans le domaine du numérique

# data[].attributes.body
au cours de vos recherches vous pouvez ajouter des documents, écrits, images ou des liens pertinents ici

# data[].attributes.attachment_link.title
La méthode Pecha Kucha (théorie et exemple concret de présentation sur le podcast)

# data[].attributes.attachment_link.title
Comment utiliser Audacity : Tuto Débutant

# data[].attributes.body
repérer les compétences de sa voix (rapport quantitatif)
- mesurer son débit

- caler son débit

- moduler son débit

# data[].attributes.body
A partir du document audio, réaliser une carte mentale.
Celle pourra s'appuyer sur les concepts mobilisés dans le podcast à retenir, ou sur les arguments relatifs à la justice (et les algorithmes).

# data[].attributes.headline
exercice de réalisation d'une carte mentale

# data[].attributes.subject
exercice de réalisation d'une carte mentale

# data[].attributes.body
réalisez votre propre carte ici

# data[].attributes.body
Les cartes mentales représentent une activité aux multiples bénéfices pour l’apprentissage elles peuvent :
- être des outils de compréhension, car établissant des liens pertinents avec les différents éléments composant un système : logiques, organisation, hiérarchisation.
- permettre à la fois de construire et de tester la compréhension.
- être des outils de mémorisation, par le jeu de la réflexion, d’une forte mentalisation.
- être une personnalisation de l’exercice de mémorisation : pas deux cartes mentales identiques autour d’un même thème, traité par deux personnes différentes. L’ajout de signes, images, couleurs permettent de renforcer cette personnalisation.
- être un outil de développement de l’attention. Attractif, il est une œuvre personnelle qui très généralement capture l’attention de sujets apprenants de tous niveaux, tout âge.

# data[].attributes.body
on pourra s'aider du tutoriel

# data[].attributes.body
repérer les compétences (rapport qualitatif)
- lire et savoir respirer

- placer sa voix

- varier la mélodie de sa voix

- varier la diction en intensité et qualité

# data[].attributes.headline
TRAVAUX d'élèves : Aupicq Maeva Gueraud Tinlé 

# data[].attributes.subject
TRAVAUX d'élèves : Aupicq Maeva Gueraud Tinlé 

# data[].attributes.body
• L’algorithme crée une nouvelle vision du réel qui ne correspond pas forcément à la réalité .

• Dans certains cas l’algorithme va façonner le goût de son sujet et le condamner à une force d’enfermement ( ex: Spotify)

• L’algorithme peut avoir le pouvoir sur l’homme avec la question sur le tri concernant les études .

• L’algorithme est une forme de sécurité chez l’homme , car l’homme a peur de se gouverner lui-même , l’algorithme assiste l’homme en le complétant au risque de le subordonner.

# data[].attributes.headline
TRAVAUX d'élèves : Camille Daëron & Solveig Font

# data[].attributes.subject
TRAVAUX d'élèves : Camille Daëron & Solveig Font

# data[].attributes.body
- les algorithmes pour détecter, "prédire" des profils de délinquance par exemple. Cela pose un problème car on risque des potentielles erreurs, il est difficile d'accuser de délinquance des personnes avant qu'elles n'aient agit.
environ à -13:20

- on pense avoir accès directement au réel par les données or ces données ne sont qu'une représentation de la réalité. Par les données qui subsistent sur les réseaux sociaux, le désir précède la personne, laissée alors pour compte.
environ à -10:17

- les algorithmes utilisent souvent des filtrages collaboratifs. Le terme n'est pas exact car cela reste très individuel. Les choix faits précédemment créent un algorithme qui va spécialiser et façonner les goûts de l'individu, c'est un risque pour l'écosystème culturel. Cependant un algorithme qui analyserait non pas les choix mais les musiques elles-mêmes pourrait proposer des musiques (dans le cas du streaming musical bien sûr) qui auraient des points communs avec les musiques déjà écoutées, sans rester dans le même genre nécessairement.
environ à -8:00

- une tendance pousse à penser que l'algorithme est un être, qui agit par lui même. Mais l'algorithme est bien créé et façonné par homme, il n'est même pas un objet à proprement parler. On y voit de l'animisme informatique : l'homme se décharge de la responsabilité de se gouverner lui-même, ceci est assuré par son programme.
environ à -4:41

- l'algorithme décide de la mixité ou de l'orientation d'élèves par exemple. Il est plus qu'un outil puisque l'individu ne peut pas lutter contre. En effet, s'en suit une disparition du sujet, car on cesse de se confronter aux personnes et à leurs voix, leur expérience. Ne reste que les données, leur image informatique.
environ à -1:20

# data[].attributes.headline
TRAVAUX d'élèves : Aupicq Maeva Gueraud Tinlé 

# data[].attributes.subject
TRAVAUX d'élèves : Aupicq Maeva Gueraud Tinlé 

# data[].attributes.body
• Les algorithmes ont-ils tendance à renvoyer une image précise et documentée ou un schéma ne laissant plus de place aux cas particuliers ?
Les données traitées par l’algorithme étant considérées comme exhaustives , il se crée alors une nouvelle vision du réel. Ce qui en ressort est un résultat généralisé et ne faisant pas cas des éléments particuliers.

• Comment l’homme perçoit il l’omniprésence des algorithmes ?
L’homme ne voit pas en l’algorithme un contrôle mais une sécurité, un confort dans lequel il se complaît. Pour lui, il y a un avantage à voir s’amenuiser ses choix et responsabilités individuelles.

• En quoi les algorithmes possèdent ils des vertus prédictives ?
Bien que ne produisant pas un résultat représentatif, l’algorithme a toute fois vocation d’assister l’homme par anticipation.

• L’algorithme complète il ou remplace t’il la conscience humaine ?
L’algorithme, bien que ayant vocation à assister l’homme , du fait de ses capacités de traitement bien plus importante à finit par prendre le pas sur lui . On peut aujourd’hui constater que dans certains cas il gouverne à sa place .

# data[].attributes.body
https://www.tom.travel/2016/02/11/algorithmes-influence-notre-vie/

• « Pour faire plus simple, l’algorithme est un code mathématique de classification et d’analyse de données que chaque internaute donne au système en temps réel. La méthode réalise des opérations de filtrage selon les codes programmés. L’objectif de l’algorithme est de vous séduire le plus longtemps possible pour que vous restiez sur sa plateforme sociale. Ainsi, les entreprises ont envie d’investir temps et argent sur le réseau où il y a le plus de clients potentiels. » article de Frédéric Gonzalo chercheur en marketing web

https://www.cairn.info/revue-les-cahiers-de-la-justice-2017-1-page-121.htm

• « Les récents progrès technologiques, notamment dans les domaines du traitement du langage naturel et de l'apprentissage automatique, ont permis de franchir une nouvelle étape en matière de justice prédictive. Ainsi une équipe de chercheurs [8] en informatique, en psychologie positive, en science de l'information et en droit a-t-elle élaboré un algorithme capable de deviner les décisions de justice en croisant les faits, les arguments des parties et le droit positif pertinent. Les scientifiques ont publié les résultats de leurs recherches le 24 octobre 2016, dans un article intitulé « Predicting Judicial Decisions of the European Court of Human Rights: a Natural Language Processing Perspective » . Capable d'opérer les mêmes choix que les juges-humains dans huit cas sur dix, cet algorithme ne manque pas de réveiller les plus sombres inquiétudes des techno-pessimistes liées à la robotisation des sociétés. »

# data[].attributes.attachment_link.readable_text
Hier, les membres du Business Analytics Info étaient conviés à une table ronde menée par Thomas Boullonnois, consultant pour Rumeur Publique, au Grand Hôtel Intercontinental. L'occasion de débattre de l'influence des algorithmes dans nos vies autour d'experts et de conférenciers spécialistes du sujet. En voici un aperçu.
Les algorithmes font partie de notre quotidien indirectement. Lors des navigations web, les internautes laissent de multiples traces, collectées par l'intermédiaire de cookies auprès des sites et navigateurs. Or, cette collecte de fichiers personnels est utilisée à plusieurs fins : elle permet une navigation fluide pour l'utilisateur, mais aussi de distinguer des comportements. Ce 'Big Data' représente donc un enjeu commercial important pour de nombreux sites : essentiellement en termes de référencement et d'optimisation de son service. Les algorithmes servent alors à analyser cet ensemble et à réaliser différentes autres tâches. Les sites comme Booking, Expedia, Priceline et autres sites à l'échelle planétaire, ne peuvent ainsi pas les éviter.

Parmi les personnalités présentes à la table ronde se trouvaient Dominique Cardon (sociologue et universitaire), Benjamin Benharrosh (Co-Fondateur de Delair-Tech - société spécialisée dans l'usage de drones aériens), Alain Bensoussan (avocat en droit informatique) et Mouloud Dey (Directeur Business Solutions chez SAS - éditeur de logiciel).
Les algorithmes, une fausse nouveauté
Le terme n'est pas nouveau. Il peut d'ailleurs être relié aux travaux des statisticiens. Le but est resté le même : additionner des données pour permettre d'en déduire un sens. Et dans les faits, nous sommes loin du " fantasme d'entités omnipotentes " selon Thomas Boullonnois. Pour Mouloud Dey, Directeur Business Solutions chez SAS (éditeur de logiciel américain), ils s'établissent autour de quatre familles : la description, la compréhension, la prescription et la solution. Chacune se délimitant à un champ de compétence bien défini : élément de mesure, de prévision, d'anticipation, etc. " L'entreprise SAS fournit des solutions de ce type depuis presque quarante ans. " comme celui-ci l'affirme. Rien de nouveau donc. Et le constat est partagé avec Dominique Cardon, sociologue et universitaire, pour qui les algorithmes ne sont pas une nouveauté : " le système électoral en est un ! " En effet, selon ses propos et par analogie, le choix d'un système électoral (comme algorithmique) structure le paysage politique (comme virtuel) : le mode de scrutin prédit la représentation politique. Par exemple, le scrutin uninominal majoritaire à un tour privilégie seulement le bipartisme en Angleterre, à l'inverse d'un scrutin proportionnel comme en Israël. L'important étant de débattre sur le choix des mondes que l'on souhaite créer. Leur recrudescence actuelle nous questionne juste sur de nouvelles problématiques.
Des outils relatifs aux débats
Pour le sociologue Dominique Cardon, les rôles des benchmark ainsi que celui des media-planneur, soit la logique des palmarès, n'est pas une bonne nouvelle. " La prétention des algorithmes de corréler les variables par le bas [via la trace comportementale, ndlr] est imprécise et erronée. " Les algorithmes sont utilisés comme des boîtes noires prescriptives dont " l'activité n'est plus de connaître mais de prédire sans explications. " Le problème étant que leur efficacité n'est jamais parfaite et que leurs données sont, aux yeux du sociologue, peu attrayantes. Comme le prouve en exemples, l'abandon du Google Flux et des faibles taux d'efficacité des publicités ciblées. Mais cela n'empêche pas Criteo, entreprise française spécialiste du ciblage publicitaire en ligne, d'avoir atteint pour l'année 2015 un chiffre d'affaires de plus d'un milliards de dollars. Et dont la forte croissance témoigne d'un attrait tout aussi relatif d'acteurs en ligne. Des points de vue à relativiser avec un autre fait : les algorithmes peuvent créer des effets indésirables comme la discrimination. Car même sans intention, l'abus de prédictions aboutit à des classements élitistes : les recommandations Netflix ou Amazon s'adaptent à l'historique de l'utilisateur, ce qui questionne la neutralité éditoriale et incite au favoritisme.

Des arguments nuancés par Mouloud Dey, avec différents usages vertueux de ces algorithmes : la brigade des pompiers de Londres les utilisent pour prévenir des zones à risques dans lesquelles un incendie pourrait se déclencher. Heureusement, toutes leurs utilisations ne sont donc pas sulfureuses.
Parvenir à une réglementation
Dans l'essor de la robotique et de l'utilisation d'algorithmes (pour en programmer des variables comportementales), les drones conquièrent des marchés de plus en plus nombreux. Leur usage se répand notamment dans le domaine public comme dans le privé. En ce qui concerne l'utilisation des drones aériens, Benjamin Benharrosh (Co-Fondateur de Delair Tech - société spécialisée dans l'utilisation des drones civils) s'est dit en faveur d'une réglementation. " Créer une réglementation permettrait de différencier les amateurs, des professionnels. Et ainsi, de parvenir à définir précisément nos possibles dans l'espace aérien ségrégué. " Pour l'heure, les drones aériens ne sont pas capables de voler de façon autonome. Mais avec le perfectionnement de l'intelligence artificielle - spécifiquement du " machine learning " - utilisant les algorithmes, soit d'être capable de " voir et éviter " en interaction avec son environnement, les quelques années à venir risquent de soulever de nouvelles problématiques.

Pour l'avocat en droit informatique Alain Bensoussan, un droit des robots doit être mis en place avec intelligence car " trop tôt, cela bloque les innovations ; trop tard, nous serons dépassés par leurs possibles. " Entre la création de la CNIL en 1978 et aujourd'hui, le droit a évolué d'après une unique variable, modifiée en 2004 : jusqu'alors le principe de déloyauté était privilégié et depuis, c'est la loyauté qui est privilégié. Cette " démarche positive " impute aux algorithmes une vertu éthique, qu'il faut voir formulée pour ceux qui conçoivent ou bénéficient des effets économiques des algorithmes ou plus généralement des robots. Une ambigüité juridique amorçant les nouvelles problématiques liées au sujet ; à l'inverse du principe de la déloyauté, bridant tous possibles.

Pour l'exemple, Google est souvent accusé de privilégier ses propres produits et services dans les résultats de recherches. Une réglementation permettrait d'offrir un cadre strict au flou juridique actuel. Le juriste précise également qu'un jeu de pédagogie est nécessaire : " Tout comme les droits dans le domaine de la santé, il faut obliger les acteurs à nous dévoiler les risques. " Les utilisateurs auront alors toutes les cartes en main pour choisir ou non de s'y soumettre et de faire valoir ainsi leur droit. En conclusion comme le cite le sociologue Dominique Cardon, et d'après une citation de Michel Foucault sur la politique néo-libérale, " Il faut agir sur les règles, pas les joueurs. " De quoi remettre au centre, l'utilisateur et non, ces algorithmes. Mais l'extension récente du 'blockchain', technologie à la base du bitcoin, en relance le débat... Avec la promesse ultime (ou illusoire ?), de satisfaire tous les partis.
Photo d'ouverture : Fotolia - agsandrew

# data[].attributes.attachment_link.title
Algorithmes : quelle influence ont-ils sur notre vie ? - TOM.travel

# data[].attributes.attachment_link.description
Hier, les membres du Business Analytics Info étaient conviés à une table ronde menée par Thomas Boullonnois, consultant pour Rumeur Publique, au Grand Hôtel Intercontinental. L'occasion de débattre de l'influence des algorithmes dans nos vies autour d'experts et de conférenciers spécialistes du sujet. En voici un aperçu.

# data[].attributes.headline
Travaux d'élèves : Camille Daëron & Solveig Font

# data[].attributes.subject
Travaux d'élèves : Camille Daëron & Solveig Font

# data[].attributes.body
On peut se demander si il est éthique de punir quelque chose qui n'est pas arrivé, mais dont on sait qu'il arrivera.
C'est d'ailleurs le sujet d'un film de Spielberg sorti en 2002, Minority Report. Des hommes mutants prévoient des crimes, et la police les arrête juste avant que les meurtriers ne les commettent. Le personnage principal travaille à cette mission, jusqu'au jour où on lui prédit qu'il va commettre un meurtre, il s'enfuit alors. Le film pose une question morale : ce système évite la mort aux potentielles futures victimes, mais on ne peut pas être sûrs à 100% que le crime allait effectivement être commis. Les algorithmes actuels n'ont pas tout à fait le même buts mais sont basés sur les mêmes principes. Cela créé une sorte d'ironie,  non plus dramatique mais cette fois informatique, où on va considérer qu'une personne ne peut échapper à un destin basé sur des actions antécédentes et un profil.

Peut on manipuler des personnes comme on manipule des données ?
Sur internet, et dans les algorithmes, les personnes sont représentées par des données. On peut penser que la représentation informatique qu'on a du réel est fidèle. Mais peut-on vraiment s'y fier ? D'un côté, cela permet une certaine objectivité concernant des candidatures par exemple, mais on peut aussi voir que ça ne laisse pas la différence, qui est pourtant ce qui fait l'humain, s'exprimer. L'individualité est effacée sur les lignes de code.

L'algorithme est conçu avec un but.
Donc il cherche à toujours à accomplir sa mission. Là où un homme verra les problèmes que la mission assigné pose, et sera influencé par son empathie. Or les programmes que L'homme créé ne sont pas à son image car ils n'ont pas d'empathie. Ils ne sont donc pas capables de discerner les failles de leur mission et exposent à des injustice, ou tout simplement de l'inhumanité, normale compte tenu de leur nature, mais inacceptable.

# data[].attributes.body
https://youtu.be/aGWQYgZZEEQ
Minority Report - Spielberg

# data[].attributes.headline
Travaux d'élèves : Laura Maraux et Océane Volbert

# data[].attributes.subject
Travaux d'élèves : Laura Maraux et Océane Volbert

# data[].attributes.body
- Les algorithmes auraient une vertu prédictive. Ils sont capable de détecter ou surveiller la délinquance. Ils deviendraient alors un mode de gestion des politiques publiques. Les algorithmes visent à ratisser large et vont souvent détecter des « faux positifs », des personnes susceptibles de commettre des actes de délinquance mais qui en réalité n’en commettent pas. Donc le problème que cela pose c’est que le risque d’erreur judiciaire est beaucoup plus important parce qu’on ne s’intéresse plus aux causes de l’acte mais on utilise de nouvelles pratiques statistiques pouvant permettre de détecter des profils susceptibles de commettre des actes illégaux, ce qui équivaut finalement à accuser des personnes avant même qu’elle aient commis l’acte de délinquance.

- Il y a une crise généralisée de la représentation qui pousse à croire que les données pourraient remplacer le réel, qu’on pourrait avoir un accès immédiat au réel lui-même allant jusqu’à dire que les données pourrait manipuler, influencer le réel. On parle alors de comportementalisme numérique en mesure de savoir ce dont sont capable les corps, quels seront leurs comportements (mais ces algorithmes ne s’occupent pas des individus d’un point de vue psychique et psychologique, il ne prennent en compte que l’aspect corporel, les actes dans le réel). Ces données ne sont pas le réel lui-même, elles ne forment qu’une représentation puisqu’il y a une partie du réel de l’humain qui est occultée par ces algorithmes qui ne sont pas en mesure de détecter les pensées d’un homme, ce qui se passe à l’intérieur du sujet.

- Pour ce qui est de la manipulation du réel, il est effectivement possible d’influencer les goûts et les choix d’un individus par le bais des algorithmes. Conduisant à une transition numérique indispensable dans le domaine culturel pour la pérennité des commerces et de leurs finances. C’est le filtrage collaboratif (déjà présent sur beaucoup de sites) qui permet de proposer à un consommateur des choix en fonction de ses recherches et choix précédents. Ce qui viendrait alors à façonner et orienter l’individu et son rapport à la culture. Le risque étant l’enfermement de l’individu dans ses propres références. Toutefois cette notion d’enfermement est relative car les algorithmes sont aussi en capacité de proposer des ouvertures culturels, il y a aussi des vertus à ces algorithmes. L’analyse de l’écoute des musiques d’un individu par un algorithme peut par exemple proposer de nouveaux styles de musique. C’est actuellement le cas sur des plateformes tel que Spotify.

- Il est fréquent que les algorithmes soient pris par les utilisateurs comme des êtres à part entière qui prennent des décisions froides, au sens où ils sont dépourvus d’empathie. L’animisme vis à vis de ces programmes informatiques est parfois si puissant qu’on en oublie qu’ils ont été programmés par des humains dotés d’une sensibilité. L’animisme informatique est en fait un symptôme qui révèle chez l’homme sa volonté de se décharger de la responsabilité de se gouverner. Il perd son autonomie, se laisse guider par l’algorithme parce qu’il trouve cette position plus confortable.

- Face aux algorithmes l’individu devient alors impuissant. L’algorithme par exemple peut décider de la mixité sociale et de l’orientation des élèves. Il était au début un outil mais si l’individu perd le contrôle, si il laisse faire l’algorithme alors ce n’est plus un simple outil. C’est le programme informatique qui va décider pour l’homme. S’installe alors une relation de dépendance, l’homme, son milieu, sa vie dépendent de l’algorithme.

# data[].attributes.body
L’homme est il conditionné par l’algorithme ?

Dans un premier temps, du fait de l’importance des algorithmes dans la vie de l’homme, il est possible de dire qu’en effet l’homme est régit par les algorithmes. Cela s’explique par le fait que certains programmes informatiques sont en capacité de proposer aux utilisateurs d’un site des objets, des articles etc en fonction de ce que l’individu à cherché précédemment. L’utilisateur est conditionné par son passé, par ses choix précédents et ne peut s’ouvrir librement à d’autres possibilités. Ainsi, ce conditionnement de l’homme, cet enferment est une possibilité que l’homme rencontre si il s’en remet aux algorithmes.

Cependant cela ne signifie pas nécessairement que les algorithmes sont nocifs pour l’homme qui donc risque de s’enfermer dans sa propre prison de références. L’individu peut aussi utiliser d’autres types d’algorithmes qui au contraire vont lui permettre de découvrir sans cesse de nouvelles références.

Il y a donc bien risque de conditionnement par les algorithmes chez l‘homme. Mais si l’utilisateur est vigilant il peut bénéficier d’une ouverture culturelle et non d’enfermement vis à vis de son passé.

Quel risque pour l’homme à remettre sa vie et ses décisions entre les mains des algorithmes ?

Si l’homme se laisse faire par les algorithmes, il perd son autonomie. Il n’est plus responsable de lui et de ses dédisons, de ses choix car il s’en remet à quelque chose qui lui est extérieur : un programme informatique. Cette perte d’autonomie est attractive pour l’homme qui est déchargé du poids de la responsabilité ce qui est pour lui plus confortable. Toutefois, si l’algorithme décide pour l’homme alors l’homme devient dépendant de l’algorithme ce qui risque de le rendre malheureux. En effet, l’une des conditions du bonheur de l’homme c’est le fait que sa vie et donc son bonheur sont entre ses mains et non pas guidés par des éléments extérieurs. Remettre sa vie aux mains des algorithmes c’est se risquer à être malheureux.

# data[].attributes.headline
Travaux d'élèves : Amélie Lotz, Jade Penilla, Andréa Piot

# data[].attributes.subject
Travaux d'élèves : Amélie Lotz, Jade Penilla, Andréa Piot

# data[].attributes.body
Les algorithmes ont pour fonction première de faciliter les services dans le domaine du numérique. Ils sont présents partout, et cela, de plus en plus. Ils le sont depuis le choix de vidéos, de musiques, sur le moteur de recherche google, ou bien sur le réseau social Facebook, avec les actualités que nous lisons au travers de ces services. Les données des utilisateurs ont d’ailleurs la capacité d’anticiper les goûts, les désirs et les choix de ces derniers. Des questionnements éthiques interviennent donc et on peut légitimement se demander si il faut douter de ces algorithmes.

1:05 —> On peut définir l’algorithme comme une suite finie et non ambiguë d’instructions permettant de résoudre un problème ou d’obtenir un résultat, indépendamment des données dont on le nourrit. Pour illustrer cette définition, pouvant paraître floue, on peut prendre l’exemple de la recette de cuisine, comme exemple dit bénin. La recette de cuisine présente des instructions et aboutit à un résultat, pouvant être atteint par tout le monde, à partir évidemment d’un certain âge.

1:50 —> On peut ainsi faire la distinction précise entre un algorithme et un programme.
L’algorithme, rappelons-le, a pour finalité de réaliser une tâche, de résoudre un problème.
Le programme quant à lui, tourne en rond, mais n’atteint pas nécessairement de résultat.

2:30 —> Les algorithmes contiennent certaines vertus, dont une certaine fonction prédictive. Par exemple, pour signaler ou détecter la délinquance dans une certaine zone géographique, grâce à des items et des logiciels. Un lien est ainsi établi entre le service de prévention, dirigé par des individus et les logiciels en question. Mais, de la part la technicité et l’aspect révolutionnaire de ces systèmes, certains les comparent à de la sorcellerie ou à de la magie noire. Malgré cela, on peut prêter à ces algorithmes une forme d’intelligence.

3:30 —> Intéressons-nous aux données à présent. Les données sont intelligentes et rendent impossible aux hommes de les analyser, de par leur complexité. Elles remplacent même une certaine idée su réel. Grâce à la quantité massive de données, une détection de corrélations entre des éléments sans liens entre eux faisant apparaître des modèles et des profils, est possible.

5:50 —> On doit utiliser des termes spécifiques dans le domaine des algorithmes. Ainsi, on ne parle plus d’erreurs dans ce domaine. L’algorithme se perfectionne lui-même. Plus il échoue et plus il se rate, mieux il fera la prochaine fois. L’algorithme est donc auto-apprenant.

7:50 —> Les algorithmes donnent également un accès direct et immédiat au réel. Dans le domaine du numérique, l’analyse des données s’établit pour déceler les corps.

10:05 —> Pour citer Fleur Pellerin, « il faut continuer à travailler avec les libraires sur les questions de formations." Rien ne peut remplacer la médiation d’un libraire, surtout pas un algorithme froid. Il faut ainsi soutenir financièrement les libraires.
Définissons ensuite la notion de filtrage collaboratif. Il s’agit de suivre des choix précédents afin de proposer des musiques ou même des livres façonnant les goûts. Le risque est de provoquer alors un enfermement pour la culture, mais seulement si l’algorithme nous rappelle seulement d’anciens choix. Alors que, si il analyse par exemple simplement le rythme des musiques qui pourrait potentiellement satisfaire les utilisateurs, de la nouveauté et de la diversité sont ainsi apportées. On peut alors prendre l’exemple de la plateforme Spotify pour écouter de la musique. Cette plateforme, utilisée par des milliers et des milliers d’auditeurs chaque jour, connait les goûts des individus, avant même que eux-mêmes ne soient au courant.

13:45 —> Le principe des algorithmes , ainsi que la grande place qu’ils prennent dans nos vies, possède un aspect dangereux et effrayant, d’abord par l’absence de figure dite concrète. Mais nous devons nous souvenir, que les algorithmes n’ont pas d’intentions et sont programmés et fabriqués par des individus.

16:45 —> Il est indéniable que l’individu, face à tout cela se retrouve impuissant et ne peut pas établir des potentielles négociations. Les confrontations sont impossibles et le sujet disparaît totalement.

De cette façon, pour conclure, les algorithmes posent donc des questions éthiques, ainsi qu’identitaires, sur la place que l’homme tient au milieu de tout cela.

# data[].attributes.body
https://interstices.info/idee-recue-les-algorithmes-prennent-ils-des-decisions/

https://etalab.github.io/algorithmes-publics/guide.html

# data[].attributes.attachment_link.readable_text
Penser que les algorithmes décident de tout se rapproche de l'assertion bien connue : " c'est la faute de l'ordinateur ! ". Et pourtant, les ordinateurs ne s'organisent pas dans l'intention de nuire ou de tromper. Il faut se méfier de la tentation d'une trop grande personnification à propos de ce qui se rapporte aux ordinateurs et aux algorithmes. Il est ainsi évident que les algorithmes ne décident pas de tout. Au-delà de cette sentence définitive, nous pouvons nous interroger sur la relation entre algorithme et décision.

Les algorithmes décident

Avant de se prononcer, il faut préciser ce qu'est un algorithme et ce qu'il fait. Si nous répondons déjà que les algorithmes décident, il faut définir ce qu'ils sont et ce qu'ils font. Il est aujourd'hui commun de définir un algorithme comme une suite d'instructions permettant d'obtenir un résultat. Cette définition est suffisamment floue pour signifier beaucoup de choses en même temps. Dans son édito d'avril 2017 de la revue de la SIF (PDF), Jean-Marc Petit part d'une définition constructive de ce qu'est un algorithme " un algorithme, c'est la preuve d'un théorème " afin de mettre en avant le principe du calcul, puis ouvre sur d'autres problématiques. Un algorithme est cette description mécanique, qui est en même temps une preuve au sens mathématique et l'élément de base de l'informatique. L'algorithme fait ainsi le lien avec les mathématiques (et l'idée de l'existence d'une preuve derrière ces calculs) sans définir l'informatique comme une branche particulière des mathématiques.

C'est à partir des algorithmes que nous pouvons penser l'ensemble de la discipline informatique. Une fois qu'un algorithme a été conçu, nous pouvons l'implémenter pour le mettre en œuvre sur des données, et au final obtenir un résultat. Le code ou le programme résultant permet ainsi de passer de la description abstraite qu'est l'algorithme à l'obtention réelle d'un résultat qu'est l'objectif de l'algorithme. Ces programmes doivent encore être rassemblés dans des logiciels qui organisent l'ensemble des calculs à opérer à partir de toutes les briques de base pour obtenir ce fameux résultat que nous promettons depuis au moins trois phrases. Et ce résultat revêt des natures différentes, que ce soit la preuve d'un théorème, un résultat numérique (permettant de prédire l'évolution climatique par exemple) ou la mise en place d'une interaction homme-machine. Tout cela concerne l'informatique et a en commun le principe algorithmique. Dans la suite, nous continuerons à parler d'algorithmes bien qu'il s'agisse d'objets plus complexes.

Partons de l'acceptation que les algorithmes prennent des décisions. Il est souvent vrai qu'ils contiennent des parties où des choix sont faits. Si on les regarde seulement de manière extérieure, ces choix peuvent apparaître comme pris par l'algorithme lui-même. Et bien souvent le non spécialiste n'a ni l'envie ni la compétence pour plonger dans le code qui rend concret l'algorithme pour comprendre comment le choix s'opère. En fait, même les spécialistes n'ont pas envie de plonger dans un code qu'ils n'ont pas produit. L'algorithme aurait donc décidé.

Cette idée est renforcée par le fait que les algorithmes modernes travaillent sur des tâches qu'un humain seul ne pourrait pas accomplir. Il ne faudrait pas se méprendre, les logiciels ne dépassent pas les humains. En fait, leur capacité conceptuelle (les algorithmes) reste très inférieure à celle des humains, mais leur aptitude à la tâche est bien plus grande. Ils sont donc capables de travailler plus longtemps et en appliquant exactement les consignes (contrairement aux humains qui finissent par se déconcentrer ou par répondre à d'autres contraintes et sollicitations sociales). C'est ce qui explique qu'un théorème comme le théorème des quatre couleurs ait été prouvé par un ordinateur et non par un humain.

Les algorithmes au sens informatique sont apparus avec l'invention des premières machines dotées d'automatismes, notamment dans les usines. Les interactions de ces automates avec le monde physique impliquent qu'ils aient la capacité de s'adapter aux situations et donc de prendre explicitement des décisions. Plus encore, on parle depuis longtemps d'aide à la décision en recherche opérationnelle. Aujourd'hui, les concepteurs ne demandent plus seulement aux algorithmes d'interagir avec des objets physiques mais aussi de travailler à partir de grandes masses de données. Ils sont capables de trouver des liens entre des affaires pénales à partir des différents recueils de lois et de la jurisprudence. Sans se substituer aux avocats ou aux juges, ils proposent des résultats étonnants sur des données complexes et abstraites .

Les algorithmes ne décident pas seuls

Pourtant, si cette première exploration sur la capacité de décision des algorithmes est valide, la question est plus complexe. La capacité de décision peut être conférée à celui qui contrôle l'algorithme, sans qu'on sache véritablement de qui il s'agit. Il existe de nombreux exemples dans la littérature de fiction dans lesquels les scientifiques ayant construit un monstre se retrouvent dépassés par ce dernier, comme Frankenstein. On pourrait alors supposer que les logiciels avec leurs codes, leurs algorithmes et leurs données pourraient eux aussi dépasser leurs créateurs et renverser cette notion de contrôle. Par manque de clarté, on peut conjecturer que de la complexité naîtrait l'intelligence des ordinateurs, et que l'artificiel prendrait le pas sur l'humain. La faute du choix incomberait donc aux algorithmes qui décideraient. C'est un raccourci que l'on retrouve souvent.

Remontons la piste. Si ce n'est pas l'algorithme qui décide, c'est peut-être la personne qui l'invente. C'est probablement plus vrai. Au moment de décider du fonctionnement de l'algorithme, on fixe les choix qu'il fera. Par exemple, le calcul est souvent réalisé avec des approximations et les résultats sont interprétés à partir de ces approximations introduisant de fait des biais. La décision reviendrait à l'humain qui crée l'algorithme. Il y a là une relation importante entre l'algorithme et son créateur ou sa créatrice. Pierre Levy dans son livre " La programmation considérée comme un des Beaux-Arts " (éditions La Découverte, 1992) propose de considérer qu'il y a une co-opération entre l'intelligence, naturelle, de l'homme et celle, artificielle, de la machine. Ainsi des co-décisions s'opèrent : la décision est effectivement réalisée par l'algorithme, mais la motivation de la décision revient à l'humain qui définit l'algorithme. Le dessein derrière le calcul doit ainsi être attribué à la tête pensante et non à l'algorithme.

Les algorithmes utilisés dans les usines opèrent une transformation du contexte par leur capacité de production, changeant la nature de la relation au travail. Leur présence participe à une vision politique de la société. Leur déléguer explicitement le processus de décision a dès lors des conséquences. Par exemple, la gestion de marchés boursiers par le trading virtuel réagissant à la micro-seconde fait prendre le risque de déclencher des krachs boursiers sur le prix des matières premières, ce qui peut conduire à des situations dramatiques dans certains pays. Une dernière illustration est le micro-krach boursier qui a pu être " maîtrisé " en 2015 lorsque des tweets ont relayé la prise d'otage du président américain à la Maison Blanche. En quelques minutes, les algorithmes ont décidé de liquider certains titres qui ont été échangés dans des volumes faramineux. Les autorités de marché ont été contraintes de suspendre les cours le temps de vérifier l'exactitude de l'information et d'annuler les échanges de titres sur un laps de temps donné. Comme cela était faux, tout est rentré dans l'ordre. Dans cet exemple, les algorithmes prennent des décisions, mais la motivation qui les pousse à les prendre ne peut pas leur incomber à eux seuls.

Nous ne sommes probablement pas en mesure de définir explicitement la part de chaque protagoniste dans la chaîne de co-décision partant du créateur ou de la créatrice de l'algorithme, et passant par les programmeurs et programmeuses, les propriétaires des logiciels produits à la fin, les utilisateurs et utilisatrices finaux du logiciel, celles et ceux qui créent des données, ainsi que celles et ceux qui emploient ce petit monde. Chaque cas singulier montre que cette chaîne est complexe.

Tous ces éléments n'ont rien de nouveau et s'inscrivent dans une évolution assez ancienne de la discipline informatique. Des transformations profondes semblent à l'œuvre pour que la notion d'algorithme ait une place aussi importante aujourd'hui. Si l'idée de la co-décision n'est pas nouvelle, elle est très présente dans l'organisation de nos vies. De plus, elle n'est pas réservée à des situations très techniques comme l'organisation d'une entreprise, mais se rapproche au plus près de notre quotidien et de notre intimité. Le mouvement d'ubérisation de notre société en est une illustration. Cette évolution peut masquer les moments de décision, rendant la frontière de la co-décision assez floue, d'où la nécessité d'expliquer largement ce qui se passe dans la science informatique pour rappeler que les algorithmes ne peuvent que co-décider.

Apprentissage et données

Pour compliquer les choses, les nombreux résultats récents obtenus à partir des réseaux de neurones ou des apprentissages automatiques, tel que le moteur de traduction de Google, soulèvent un nouveau type de questions. Dans ce cas, les moments de choix à l'intérieur de l'algorithme ne sont pas explicités dans l'algorithme, mais sont le résultat de l'apprentissage. Il n'y a pas de décision prise par un humain, et la décision est directement motivée par les données utilisées. Ainsi, elle se fait plus immatérielle et il est difficile de parler de coopération. La responsabilité se retrouve diluée. Si cette perspective procure un sentiment de plus grande objectivité pour l'algorithme qui serait débarrassé de la subjectivité de son co-décideur humain, le dessein ne disparaît par pour autant. Il a déjà été démontré que ces algorithmes sont autant biaisés que ne l'est la société et leur apprentissage relaie certains préjugés qui apparaissent dans les jeux de données. Par contre, la responsabilité d'utiliser telles ou telles données qui participent à la décision finale relève d'un arbitrage.

Une longue chaîne de responsabilité

Ainsi, il est difficile de remonter la chaîne de décision, parce que ce n'est probablement pas le créateur ou la créatrice des algorithmes qui participe de la co-décision finale avec eux. Il y a bien une chaîne de multiples protagonistes intervenant dans le processus de décision. C'est encore plus difficile si l'on considère des situations complexes mobilisant un grand nombre d'acteurs, comme pour le cas des robots tueurs de l'armée ou celui des juges numériques.

Ces exemples posent d'ailleurs un problème pour définir les relations contractuelles et juridiques entre tous les maillons de la chaîne de co-décision. Pourtant, le surgissement dans notre quotidien des logiciels pose explicitement la question de leur statut. Pour ne prendre qu'un exemple extrême, les décès dus à des objets contrôlés par des algorithmes illustrent la nécessité de répondre à la question de la responsabilité morale et à celle du statut juridique, comme l'explique Alexei Grinbaum dans son article Binaire/TCF.

Discuter de cette responsabilité inhérente à l'utilisation d'algorithmes pointe les problèmes éthiques sous-jacents à l'informatique. Il ne faut pas négliger les questions déontologiques soulevées par la production et l'utilisation des algorithmes. En effet, si, au moment de son développement, on peut considérer qu'un algorithme est défini dans une perspective particulière, pour un dessein choisi, il faut envisager qu'il est possible de l'en dévoyer. Celles et ceux qui produisent et/ou utilisent ces algorithmes doivent situer leur production dans une perspective plus large que les usages directs prévus. Un exemple se trouve dans les algorithmes d'identification d'e-réputation ou de leaders d'opinion sur les réseaux sociaux. S'il s'agit de mesurer l'impact de ces stars des réseaux sociaux, les conséquences sont assez faibles pour que la responsabilité ne soit pas lourdement engagée. Mais s'il s'agit de déterminer qui sont les contestataires d'un régime dictatorial, on comprend bien que la responsabilité de la co-décision n'est pas de même nature.

Pour conclure, la question de la décision ne peut pas s'appréhender de manière directe pour ce qui concerne les algorithmes. Il apparaît qu'ils sont engagés dans un processus plus global fait de coopération. Nous avons montré que la co-décision se dilue dans une chaîne complexe, qui pose des questions éthiques et juridiques dépassant le cadre de cet article. Dans tous les cas, il ne faut pas céder à la tentation de reléguer la responsabilité de l'ensemble du processus à un seul terme comme algorithme, qui ne peut se retrouver seul accusé en cas de problèmes.

NDR : L'auteur souhaite remercier les relectrices pour leurs remarques précises et précieuses qui ont profondément amélioré et transformé le texte.
Cette œuvre est mise à disposition selon les termes de la Licence Creative Commons Attribution - Pas d'Utilisation Commerciale - Pas de Modification 4.0 International.

# data[].attributes.attachment_link.title
Idée reçue : Les algorithmes prennent-ils des décisions ?

# data[].attributes.attachment_link.description
Penser que les algorithmes décident de tout se rapproche de l'assertion bien connue : " c'est la faute de l'ordinateur ! ". Et pourtant, les ordinateurs ne s'organisent pas dans l'intention de nuire ou de tromper. Il faut se méfier de la tentation d'une trop grande personnification à propos de ce qui se rapporte aux ordinateurs et aux algorithmes.

# data[].attributes.headline
Travaux d'élèves : Lili, Nina, Valentine

# data[].attributes.subject
Travaux d'élèves : Lili, Nina, Valentine

# data[].attributes.body
introduction: les algorithmes (" suite finie et non ambiguë d’opération ou d’instruction qui permettent d’obtenir un résultat") sont partout. Faut il redouter cette évolution?

- les algorithmes ont une vertu prédictive (exemple: la délinquance: déclarer des événements de délinquance pour mieux définir les lieux problématiques et anticiper les actes illégaux ) On lui prête alors une forme d’intelligence.

-Comment?

On ne s’intéresse plus aux causes des phénomènes pour prévenir leur survenance : on détecte automatiquement des corrélations entre des éléments sans liens entre eux qui permettent de détecter des profils qui peuvent être prédictifs.

-Peut on parler d’erreur? Quels sont les risques?

L’algorithme est censé se perfectionner par ses erreurs même si ce n’est pas totalement le cas, on tolère les faux positifs pour atteindre le risque zéro dans certains cas comme dans le domaine de la sécurité (prévention du terrorisme) mais pas pour tous les cas comme dans le domaine du médical car il mettrait des vies en danger.

-Est ce un mode de gestion plus efficace que d’autres?

Ils nous dispensent de certaines choses, on gouverne à partir des données (a partir du réel ) c’est l’idée d’avoir un accès direct au réel sans pour autant intervenir par lui-même qui séduit l’homme.

-Culture: Faut il former les domaines de la culture à la transition numérique?

•Le filtrage collaboratif: proposer et façonner les goûts avec des propositions personnalisées

•risques : être enfermé dans son historique algorithmique et ne plus accéder à des ressources nouvelles.

•vertus: découvrir des choses neuves (musique: Spotify analyse ce que les gens pourraient aimer à partir d’hypothèses.
bientôt : les grandes sociétés de médias utiliseront pour savoir choisir leurs artistes phares!

-Les algorithmes sont ils devenus des êtres autonomes ?

Nous aimerions nous décharger d’une série de responsabilités, nous préférons être gouvernés et qu’on gouverne nos goûts. L’absence de figure complète est remplacée par l’algorithme. (attitude animiste)

-Le déterminisme par l’algorithme:
exemple Parcoursup : plus qu’un outil on ne peut luter contre cet algorithme qui détermine nos projets d’avenir. Le destin dépend-t-il des outils? Le sujet disparaît, on ne sait pas rendre compte de soi-même ni de quoi nous sommes capables.

# data[].attributes.body
de 0à 45sec
--> les algorithmes sont partout

de 1min à 2min18
--> définition de l'algorithme et distinction avec un programme

de 2min18 à 3min40
--> les algorithmes ont une vertu
(surveillance de la délinquance)

de 3min40 à 7min40
--> pas toutes les données sont essentielles
--> marge d'erreur relatif selon les domaines avec lesquels interagit l'algorithme (domaine médical, on tolère moins de marge d'erreur)

de 8min 8 à 10min
--> "on prétend gouverner à partir des données"
--> les données laissent des traces, notamment sur les réseaux sociaux

de 10min02 à 11min 14
--> médiatisation plus importante que les algorithmes

# data[].attributes.body
- Les algorithmes ont une capacité d’anticipation (vertu prédictive ). Par exemple avec la surveillance des délinquants. L'algorithme prend en compte l’ensemble des comportements de délinquance dans les données de la police et en déduit les lieux à surveiller en priorité, les lieux de probable infraction. Les algorithmes semblent alors bons pour réduire le nombre d’infractions. Mais ce genre d’algorithmes apporte un aspect négatif et discriminatoire qui pourrait viser en priorité les zones très peuplées comme les ZEP (=Zone d’Education Prioritaire).

-Chez les algorithmes les corrélations ne sont pas des causes, est-ce une source d'erreur?

On ne parle alors plus d'erreurs mais des algorithmes auto-apprenants (se perfectionnent lui-même) en fonction de ses erreurs (plus il rate, plus il finit par réussir).

Les erreurs toutes relatives ne sont  pas en adéquation avec la prédiction au réel, mais une fiabilité sans vérité vise à prendre large, tolérance du faux positif (dans des domaines larges) mais cela n’est pas tolérée dans des domaines plus petits (comme la médecine qui ne peut pas ce permettre de grande marge d'erreur).

-Les algorithmes remplacent notre vision du réel. Les algorithmes peuvent déduire nos préférences passées, présentes et futures en analysant les successions d'informations des utilisateurs de réseaux sociaux par exemple.

Les algorithmes par leur propositions (publicité) amènent une modification du réel. En effet l’algorithme influence les choix et les goûts des utilisateurs. Il montre une publicité plutôt qu’une autre en fonction d’un “modèle” que la personne suit ( écoute d’un certain type de musique, lire certains types de livres). Le modèle est fermé et ne permet pas de s'ouvrir à de nouveaux modèles qui seraient plus adéquats pour l’utilisateur.

Les algorithmes ne doivent pas remplacer tous les travaux humains. L'humain dans les choix et les conseils pour le choix d’un livre par exemple est indispensable à la découverte d'ouvrages.

-Nous avons tendance à croire l’algorithme autonome. On le qualifie de “froid” mais ces algorithmes sont fabriqués et programmés par des humains. On parle de l'animisme informatique (prêter des intentions à des suites d’instructions) symptôme du besoin de se décharger de certaines responsabilités. L’autorité n’est  plus assumée par l’absence de figure concrète représentée par l’algorithme. Impression de la disparition de la personne derrière une volonté des algorithmes. Les personnes ne se rendent plus compte d'elles-même. Disparition de la personne comme masque social.

Huber, Gavoille, Baumler, Couturier