Police "prédictive" : un pas vers la justice ? by Roman Sozanski https://padlet.com/romansozanski/9pyulok2de6rplud Faut-il renoncer à la liberté pour s'offrir de vivre dans un monde plus juste ? en-us 2022-02-21 12:01:24 UTC 2025-09-28 01:39:30 UTC hello@padlet.com Intelligence artificielle (IA) romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2058657569 « On regroupe sous l’expression « intelligence artificielle » un ensemble de techniques permettant d’effectuer des tâches qui relèvent habituellement de l’intelligence humaine. Les systèmes d’intelligence artificielle mettent en œuvre des modèles de raisonnement plus ou moins complexes, qui peuvent être décrits directement à partir de règles dans une logique donnée ou produits automatiquement par apprentissage. »]]> 2022-02-21 12:13:46 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2058657569 Apprentissage machine romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2058661557 « On utilise ici le terme apprentissage au sens de « apprentissage machine » ou « apprentissage automatique ». L’apprentissage est un domaine de l’intelligence artificielle. Il consiste à produire automatiquement un modèle à partir d’un grand ensemble de données dites d’apprentissage. On peut distinguer différents types d’apprentissage. Par exemple, l’apprentissage supervisé nécessite d’annoter les données d’apprentissage avec le résultat attendu (par exemple l’annotation « non » pour un nombre représentant un âge inférieur à 18 si on cherche à distinguer les adultes des mineurs, ou « chat » pour une image représentant cet animal). L’apprentissage non supervisé quant à lui consiste à dégager des modèles cachés dans les données, par exemple en constituant des groupes d’images « voisines » comme celles qui représentent des chats. L’avantage de cette démarche est qu’elle permet de se dispenser de la phase d’annotation qui peut être très laborieuse quand la base de données d’apprentissage est volumineuse. On peut aussi souhaiter bénéficier d’un modèle qui s’améliore au cours du temps en recourant à l’apprentissage continu. Celui-ci peut être mis en œuvre à l’aide de techniques issues de l’apprentissage par renforcement qui s’inspire de théories de psychologie animale : des récompenses (positives ou négatives) sont attribuées à l’agent apprenant (par exemple un robot ou un joueur de go) en fonction des résultats de ses actions. » ]]> 2022-02-21 12:16:30 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2058661557 Big Data romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2058664096 « L’expression big data peut se traduire en français par « grandes masses de données » ou « mégadonnées ». On caractérise souvent les mégadonnées par la règle des 3V : Volume considérable de données ; Variété d’informations (provenant de sources diverses) ; Vélocité (fréquence de création, de partage, de mise à jour). On parle aussi parfois des 5V en y ajoutant Véracité et Valeur pour signifier d’une part la difficulté à assurer la fiabilité des données, et d’autre part la possibilité de créer une valeur ajoutée résultant de l’analyse de ces données. On s’intéresse ici aux big data surtout sous l’angle de leur association avec l’apprentissage : en effet la disponibilité et la taille croissante de ces mégadonnées permet d’entraîner des systèmes d’apprentissage toujours plus performants. De façon réciproque, l’analyse de ces grandes masses de données dépasse les capacités humaines et requiert l’usage de systèmes d’apprentissage. »

]]> 2022-02-21 12:18:32 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2058664096 Algorithme romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2058665951 « Un algorithme est une suite d’étapes ou de règles qui peuvent être appliquées pour résoudre un problème donné. La logique de l’algorithme peut être inscrite dans sa définition, comme dans l’algorithme suivant qui détermine si une personne est adulte ou pas : « comparer son âge à la valeur 18 ; s’il est supérieur ou égal, la réponse est oui ; s’il est inférieur, la réponse est non ». Un tel algorithme est généralement mis en œuvre par un logiciel décrit dans un langage informatique, c’est-à-dire traitable par une machine. On utilise parfois le mot « algorithme » pour désigner un système qui s’exécute sur une machine mais il s’agit d’un abus de langage. La logique de l’algorithme peut aussi être produite par apprentissage, par exemple en entraînant un système avec des paies comme « (12, non), (17, non), (55, oui), (2, non), (71, oui), (35, oui), (18, oui), etc. » Le système produit alors un modèle qui, si l’entraînement est suffisant, reviendra dans le cas présent à la règle de test de majorité ci-dessus (comparaison avec la valeur 18). »

]]> 2022-02-21 12:20:03 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2058665951 SAAD : Système algorithmique d'aide à la décision romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2058670560 « Nous regroupons sous cette appellation des systèmes de décision automatiques, tels les systèmes de contrôle des véhicules autonomes, et des systèmes qui fournissent des résultats utilisés par des décideurs humains. »

« Selon les cas, ceux-ci peuvent être partiellement ou totalement automatisés et ils peuvent mobiliser ou non des techniques d’apprentissage. Dans la généralité de son acception, un algorithme est une description d’étapes ou de règles à suivre pour obtenir un résultat à partir de données fournies « en entrée ». Dans le langage courant, ce terme est aujourd’hui associé à des traitements informatiques, et c’est d’algorithmes mis en œuvre par des logiciels informatiques que nous parlerons dans cet ouvrage. Quant à la notion d’intelligence artificielle, on l’entendra ici comme la capacité, pour une machine, d’effectuer des tâches qui relèvent habituellement de l’intelligence humaine. Les systèmes d’intelligence artificielle (IA) mettent en œuvre des modèles de raisonnement plus ou moins complexes, qui peuvent être codés directement par leurs concepteurs ou produits automatiquement par apprentissage. »

]]> 2022-02-21 12:23:36 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2058670560 Définitions des termes romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2058689502 Ces définitions sont proposées par Sonia Desmoulin-Canselier et Daniel Le Métayer dans l'ouvrage Décider avec les algorithmes. Quelle place pour l'Homme, quelle place pour le droit ?]]> 2022-02-21 12:37:58 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2058689502 La "police prédictive" : définition par l'exemple (2/2) romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059016305 En vous appuyant sur la lecture de cet extrait, ainsi que sur les connaissances précédemment obtenues, proposez une définition synthétique de ce qu'on appelle "police prédictive".]]> 2022-02-21 16:01:23 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059016305 La "police prédictive" : définition par l'exemple (1/2) romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059016560 2022-02-21 16:01:36 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059016560 Prédiction de la délinquance et profilage romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059017896 Trois modalités d'utilisation des SAAD à des fins "prédictives" en plein développement :

- la "police prédictive" ;

- les systèmes dits de "protection infantile" par profilage ou de "dépistage des enfants à risque délinquant" ;

- l'aide à la décision concernant la réinsertion des délinquants sur la base d'un calcul du risque de récidive.]]> 2022-02-21 16:02:36 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059017896 La surveillance et l'analyse d'images romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059018136 Deux exemples bien connus d'utilisation des SAAD à des fins de surveillance :

- les radars automatiques, ou "systèmes de détection et de sanction automatisées des excès de vitesse" ;

- les "techniques de reconnaissance faciale", à des fins de prévention aussi bien qu'à des fins d'investigation.
]]> 2022-02-21 16:02:46 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059018136 Applications des SAAD dans le domaine policier romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059018342 Ce qu'on appelle "police prédictive" n'est pas la seule utilisation que nous faisons des Systèmes algorithmiques d'aide à la décision (SAAD) dans le domaine policier. Il faut donc opérer des distinctions.
Deux types d'utilisation des outils algorithmiques existent :

- celles liées à la surveillance et à l'analyse d'image ;

- celles liées à la prédiction de la délinquance et au profilage des personnes impliquées dans des infractions. On emploie la notion de "police prédictive" seulement pour désigner une partie de ce second type d'utilisation.]]> 2022-02-21 16:02:56 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059018342 Police "prédictive" ou police "préventive" ? (2/2) romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059020910 1) Dans l'extrait audio qui précède, le colonel de gendarmerie Laurent Collorig refuse d'employer l'adjectif "prédictif". Quelle en est la raison ?

2) Qu'est-ce qui, malgré ce refus, tient de la prédiction dans le fonctionnement du logiciel Paved ?

3) Quel intérêt voyez-vous à préférer la notion de "prévention" à celle de "prédiction" ?]]> 2022-02-21 16:04:49 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059020910 Police "prédictive" ou police "préventive" ? (1/2) romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059022853 Les outils de police "prédictive" : fonctionnement, résultats, limites...]]> 2022-02-21 16:06:13 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059022853 Vers une meilleure traduction ? romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059024108 1) Le mot "prédictif" est en fait une traduction rapide de l'anglais "predictable".
Comment traduire plus fidèlement ce terme ? Quelle différence observez-vous entre cette nouvelle traduction et l'ancienne ?

2) En conséquence, Aurore Hyde indique dans "La Justice prédictive : enjeux et perspectives", que d'autres traductions semblent plus judicieuses :
- justice prévisible ;
- justice prévisionnelle ;
- justice probabiliste.

A partir des éléments à votre disposition dans ce padlet, trouvez une raison de valoriser chacune de ces nouvelles propositions. Laquelle vous semble la plus satisfaisante ?]]> 2022-02-21 16:07:13 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059024108 De quoi "prédictif" est-il le nom ? romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059024678 Au sens littéral, "prédictif" dérive de "prédiction", terme qui désigne le fait d'annoncer par avance des événements futurs (prae- avant, -dictare dire). Cette anticipation de l'avenir que dit la "prédiction" laisse suggérer une inspiration surnaturelle, une prémonition, qui fait écrire au professeur Frédéric Rouvière que la justice prédictive est "la version moderne de la boule de cristal".]]> 2022-02-21 16:07:39 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059024678 Les limites de la légitimité des SAAD (1/2) romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059251801 2022-02-21 19:01:09 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059251801 Un outil pour lutter contre la criminalité romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059255029 2022-02-21 19:04:26 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2059255029 Modèle romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060432100 « Un SAAD fondé sur l'apprentissage produit automatiquement un modèle à partir d'un grand ensemble de données d'apprentissage. Le modèle représente en quelque sorte la logique utilisée par le système pour réaliser des prédictions ou préconiser des décisions. Il peut aussi être vu comme une abstraction des données d'apprentissage. Selon le mode de représentation adopté, les modèles peuvent être plus ou moins compréhensibles pour un humain. Par exemple, un modèle qui se présente sous la forme d'arbre de décision ou de règles sera généralement plus intelligible qu'un réseau de neurones, à conditions toutefois que sa taille ne dépasse pas un certain seuil. » ]]> 2022-02-22 12:10:31 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060432100 Les SAAD au service de la sécurité dans les grandes villes françaises romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060461311 2022-02-22 12:32:54 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060461311 L'algorithme prédictif et ses usages possibles romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060472465 2022-02-22 12:41:22 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060472465 Les limites de la légitimité des SAAD (2/2) romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060511620 1) Dans le texte qui précède, les auteurs soulignent la possibilité pour les outils algorithmiques de poursuivre des "objectifs très légitimes". Quels sont-ils ? En vous servant des articles et de la vidéo qui précèdent, donnez trois exemples d'utilisation légitime des outils de police prédictive.

2) Les trois paragraphes du texte présentent chacun un "effet pervers" de l'utilisation des SAAD. Restituez l'argument de chacun de ces paragraphes.

3) D'après-vous, faut-il finalement conclure que les techniques de police prédictive sont favorables ou défavorables à la justice ? Rédigez un paragraphe argumenté.]]> 2022-02-22 13:07:24 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060511620 Les SAAD, catalyseurs de biais discriminants ? (2/3) romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060539992 2022-02-22 13:23:33 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060539992 Peut-on prédire les futurs crimes ? romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060551600 2022-02-22 13:30:09 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060551600 Déterminisme acceptable, déterminisme inacceptable romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060573304 Regardez la vidéo de son commencement à 5'27''.

1) Comme le montre la vidéo, les tentatives de prédiction du crime ne sont pas chose nouvelle : comment procédait Cesare Lombroso ? Pourquoi le déterminisme à l’œuvre ne nous paraît-il pas acceptable ?

2) En quoi peut-on dire que le système algorithmique développé par la mathématicienne Andrea Bertozzi réintroduit à son tour des principes déterministes ?

3) Quelle ambiguïté voit-on jaillir de la comparaison du modèle de PredPol avec celui qui prédirait une activité sismique ?]]> 2022-02-22 13:41:52 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060573304 Vidéo interactive romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060576397 Lisez d'abord les questions de cette colonne (en vert) avant de vous reporter à la vidéo.]]> 2022-02-22 13:43:22 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060576397 Les SAAD, catalyseurs de biais discriminants ? (1/3) romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060640532 Regardez la vidéo, de 5'28'' à 10'28''.

1) "Corriger les biais humains qui existent déjà chez les policiers" : les SAAD semblent-ils nous faire parvenir à cet objectif ?

2) Peut-on pour autant qualifier, comme le fait Cyrus North, les systèmes de "police prédictive" de "racistes" ? Quels sont les éléments qui pourraient nous y inciter ? 

3) Quelle solution a été proposée pour corriger le "biais d’échantillonnage" accusé dans la vidéo ? Pourquoi n'est-elle pas totalement satisfaisante ?]]> 2022-02-22 14:15:22 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060640532 Vidéo interactive (suite) romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060794789 2022-02-22 15:26:53 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060794789 Les SAAD, catalyseurs de biais discriminants ? (3/3) romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060806560 Les biais racistes répercutés par les SAAD ne sont pas les seuls biais discriminatoires que relèvent les études. Dans les paragraphes 2 et 3 du texte, identifiez deux biais supplémentaires.]]> 2022-02-22 15:32:51 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2060806560 Prédire l'action libre : un paradoxe ? (1/3) romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2061056950 2022-02-22 17:36:07 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2061056950 Déterminisme et déterminisme social romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2061074717 Le déterminisme qualifie toute doctrine selon laquelle le réel s'articule comme un système de causes et d'effets nécessaires.
Si la doctrine est conforme, alors comme l'écrit Alain (Propos philosophiques), "on peut prédire ce qui arrivera dans un système clos, ou à peu près clos".
Or on peut considérer un quartier, une ville, comme des systèmes "à peu près clos". Si la prédiction est possible, et ce malgré la liberté apparente de nos actions, ce serait donc en raison de notre soumission systématique à un enchainement nécessaire de causes et d'effets.
On appelle déterminisme social une doctrine selon laquelle les individus subissent à leur insu l'influence de contraintes (des causes) sociales qui déterminent leur action. ]]> 2022-02-22 17:45:30 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2061074717 Prédire l'action libre : un paradoxe ? (2/3) romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2061212765 Dans le second paragraphe de son texte, Cournot prend l'exemple d'un voyageur à qui il arriverait un accident, a priori imprévisible, et surtout dont l'événement ne tient pas à sa présence sur place en tant qu'éventuel agent : le voyageur n'est responsable de rien d'autre que de sa présence sur les lieux de l'accident.

La thèse de l'extrait réside dans l'affirmation de l'impossible certitude géométrique ou mécanique de l'occurrence des "actes réfléchis des êtres libres", mais leur enchevêtrement certain dans un système "de combinaison et de chance, de cause et de hasard". Cela semble ouvrir la voie à des calculs de probabilité s'agissant d'événements autrement qualifiés d'hasardeux.]]> 2022-02-22 19:01:13 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2061212765 Prédire l'action libre : un paradoxe ? (3/3) romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2061295464 En vous appuyant sur l'extrait vidéo ainsi que sur votre lecture du texte de Cournot, montrez ce qui légitime la prétention des SAAD de police "prédictive" à faire la prédiction d'événements criminels.]]> 2022-02-22 19:49:37 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2061295464 Quelques questions romansozanski https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2061369577 Si les opérations que promet la « police prédictive » sont techniquement réalisables, et qu’on parvenait même à dépasser les biais précédemment mentionnés, sont-elles alors souhaitables ?

Quels moyens de contrôle envisager pour ne pas s'infliger à l'avenir l'arbitraire des décisions algorithmiques ?

Anticiper les faits avant qu’ils se produisent, prédire où et quand vont survenir les crimes et qui sera leur auteur, cela n’exige-t-il pas de nous que nous acceptions une société de surveillance totale ? Le prix à payer ne serait-il pas alors trop élevé comparé aux gains que permettent les technologies de type IA ?

N'est-il pas paradoxal de prétendre mettre au service de la sécurité des individus des outils numériques « intelligents » qui menacent leurs libertés ? 

Doit-on avoir à choisir entre la liberté et la justice ?]]> 2022-02-22 20:40:27 UTC https://padlet.com/romansozanski/9pyulok2de6rplud/wish/2061369577