# data[].attributes.attachment_link.readable_text
Amazon, Google et sa filiale DeepMind, Facebook, IBM et Microsoft viennent de s'unir pour créer l'organisation " Partnership on AI " dédiée à une réflexion commune sur le développement de l'intelligence artificielle et ses conséquences sur la société.
Par Thierry Berthier.
" Je voudrais que l'intelligence fût reprise au démon et rendue à Dieu " - Jean Cocteau

Cinq acteurs majeurs du numérique viennent de s'unir pour créer l'organisation (à but non lucratif) " Partnership on AI " dédiée à une réflexion commune sur le développement de l'intelligence artificielle et ses conséquences sur la société. Quelle orientation souhaite-t-on donner à l'IA ? C'est la question centrale qui a amené Amazon, Google et sa filiale DeepMind, Facebook, IBM et Microsoft a s'asseoir à une même table pour promouvoir l'AI et procéder à une introspection prospective.

Un objectif : faire avancer la compréhension du public

L'objectif de PartnershipOnIA est de " faire avancer la compréhension du public sur l'intelligence artificielle et de définir les meilleures pratiques sur les défis et les opportunités dans ce domaine ". L'organisation publiera régulièrement des articles de recherche sur l'interopérabilité de l'IA, la sécurité, la confidentialité des systèmes et l'éthique. La structure se veut ouverte au monde académique et annonce qu'elle associera les réflexions de scientifiques reconnus en IA, de chercheurs, d'avocats, d'experts indépendants, le tout sous licence ouverte.

Amazon, Google DeepMind, Facebook, IBM, Microsoft unis pour l'intelligence artificielle

Les cinq membres fondateurs s'engagent à financer l'ensemble des recherches et des études produites sous l'égide de l'organisation. Siégeront au conseil d'administration de Partnership on AI : Ralf Herbrich, Directeur du Machine Learning chez Amazon, Mustafa Suleyman, cofondateur de Google DeepMind, Yann Le Cun, Directeur de la R&D (FAIR) chez Facebook, Francesca Rossi (universitaire) chez IBM et Eric Horvitz, Directeur R&D chez Microsoft.

Ces cinq profils de très haut niveau seront rejoints par cinq autres membres cooptés pour faire vivre l'organisation et la rendre utile à la communauté internationale. On notera l'absence ou le retard (?) de deux autres poids lourds du domaine, Apple et Tesla- Space X, qui auraient pourtant toute leur place au sein de cette structure naissante.

On doit d'abord saluer la création de PartnershipOnAI dans un contexte de développement et de diffusion ultrarapide de l'IA sur l'ensemble des activités et des pratiques humaines. Les enjeux et les défis sont réellement immenses et l'absence d'une telle organisation, jusqu'à présent, pouvait laisser penser que les acteurs majeurs de l'IA ne se souciaient que peu des questions stratégiques et éthiques sous-jacentes.

Intelligence artificielle : la menace des robots ?

Si cette création répond bien à une attente et à un besoin, il faut y voir également une contre-mesure des cinq géants du numérique pour concurrencer l'initiative qui avait amené Elon Musk et Stephen Hawking à publier une mise en garde contre les dérives potentielles d'une IA non maîtrisée. Une lettre ouverte avait été signée par de nombreux scientifiques dénonçant les menaces des robots tueurs et celles d'une technologie de puissance aux pouvoirs destructeurs. Google et d'autres n'avaient pas pris part à cette mise en garde, étant par ailleurs indirectement accusés d'insouciance coupable face à ces menaces...

Le Future of Humanity Institute de l'Université d'Oxford s'est fortement engagé dans une réflexion sur les effets de la montée en puissance de l'IA. Il a produit de nombreux articles de recherche sur le sujet sans pour autant sombrer dans une stérile diabolisation de la technologie. Pourtant, l'hypothèse d'une dérive malveillante de l'IA reste présente notamment au sein d'une population française qui apparait dans les sondages comme la plus craintive en la matière.

Anticiper les mouvements de contestation

L'organisation PartnershipOnAI souhaite " évangéliser " et promouvoir l'IA au sein des populations. Elle anticipe en cela les futurs mouvements de contestation et de rejets qui pourraient bien animer ces mêmes populations lorsqu'elle seront inévitablement " socialement impactées " par un grand nombre de destructions d'emplois. Il ne fait aucun doute aujourd'hui que la diffusion systématique de l'IA sur toutes les sphères d'activités humaines supprimera la totalité des emplois " automatisables ".

Cette destruction faiblement créatrice produira de nouveaux emplois mais pas en nombre suffisant pour compenser la perte des premiers... Les turbulences risquent donc d'être violentes avec une attribution logique des responsabilités aux grands artisans de l'IA. Les GAFA ne peuvent prospérer qu'en présence d'un consentement global de la population à l'IA et de celui de l'usager en particulier. Chaque grand acteur du numérique est pleinement conscient de ce principe systémique qui constitue le socle d'une diffusion réussie de ses technologies.

Cela dit, la création de PartnershipOnAI devra nécessairement s'inscrire dans un mouvement plus large associant l'utilisateur en tant que cyber-citoyen dans les grands choix stratégiques de déploiement de l'IA. Il faudra par exemple créer un secrétariat d'État à l'intelligence artificielle au sein de chaque gouvernement et un Conseil de Sécurité de l'IA au niveau mondial. Ces entités auront la lourde tâche d'amortir les turbulences sociales, religieuses ou géopolitiques engendrées par l'IA et la convergence NBIC (Nanotechnologies, Biotechnologies, Informatique, sciences Cognitives).

" Si l'intelligence menace de rompre sur certains points la cohésion sociale, et si la société doit subsister, il faut que, sur ces points, il y ait à l'intelligence un contre poids. Ainsi s'expliquerait la fonction fabulatrice. " Henri Bergson
Vous souhaitez nous signaler une erreur ? Contactez la rédaction.

# data[].attributes.attachment_link.title
Le partenariat sur l'Intelligence Artificielle est né

# data[].attributes.attachment_link.description
Amazon, Google et sa filiale DeepMind, Facebook, IBM et Microsoft viennent de s'unir pour créer l'organisation " Partnership on AI " dédiée à une réflexion commune sur le développement de l'intelligence artificielle et ses conséquences sur la société. Par Thierry Berthier.

# data[].attributes.attachment_link.title
Antonio Casilli : "Faut-il brûler Facebook?"

# data[].attributes.attachment_link.title
Comment la 5G est devenue un enjeu géopolitique

# data[].attributes.body
Synthèse orale :

# data[].attributes.attachment_link.readable_text
Depuis mars 2018, le gouvernement chinois a franchi une étape supplémentaire dans la mise en oeuvre de son programme de "crédit social", basé sur la collecte d'informations sur les réseaux sociaux et via les caméras de surveillance intelligentes. Les citoyens "mal notés" sont restreints dans leur accès aux transports.

Plus de 170 millions de caméras équipées d'une technologie de reconnaissance faciale scrutent déjà les visages des Chinois. © Maxppp / Liu Tao

C'est un programme digne d'un épisode de la série Black Mirror qui est actuellement expérimenté par le Parti communiste chinois. Lancé en 2014, en vue de son déploiement effectif en 2020, le "crédit social" est un système à points qui évalue le comportement des citoyens dans les lieux publics et sur internet, avec des conséquences sur leur vie réelle. Objectif affiché : "établir une culture de l'intégrité".

Le "Plan de planification de la construction du système de crédit social (2014-2020)" suggère ainsi d'instaurer "un système de liste noire pour les infractions fiscales", d'"imposer _ des restrictions de comportement en ligne_", ou encore d'"intégrer les violations de la sécurité routière des citoyens dans le fichier d'intégrité"... Les citoyens sont ensuite notés. Difficile de connaitre précisément la façon dont les points sont retirés ou ajoutés. Mais pour les "mal notés", il y a bien des pénalités, notamment dans leur accès aux transports (trains, avions), jusqu'à l'interdiction pure et simple.

Le régime chinois aurait-il du mal à contrôler ses citoyens (plus de 1,4 milliards d'habitants), pour mettre en place un tel système ? S'il poussera peut-être, par exemple, les automobilistes chinois à respecter le code de la route ou à laisser passer les piétons (ce qui est loin d'être le cas aujourd'hui dans les grandes villes), ce crédit inquiète beaucoup pour ses conséquences sur les libertés, dans un pays où il est déjà quasi impossible d'émettre une critique publique sur le gouvernement.

D'ici 2020, tous pistés, tous notés, tous sanctionnés ?

Selon le quotidien Le Monde, "environ dix millions de passagers du transport aérien et quatre millions du ferroviaire se sont vu imposer entre 2013 et mars 2018 des restrictions partielles ou totales à l'achat de billets, pour n'avoir pas exécuté la décision de justice à laquelle ils ont été condamnés après épuisement des recours. Parmi eux, 6,2 millions furent entièrement interdits d'avion." Des sanctions qui feraient suite à la propagation de fausses informations, l'utilisation des billets périmés, une cigarette allumée dans un train ou encore une omission de paiement des amendes ou d'acquittement de l'assurance sociale, décrit l'agence Reuters.

C'est ce que semble confirmer cette vidéo publiée sur Twitter et vraisemblablement tournée dans un train en Chine. "Ceux qui voyagent sans ticket, se comportent mal ou fument dans des lieux publics, seront punis selon les règlements, et leur comportement sera enregistré dans leur système d'information de crédit individuel", prévient le haut-parleur.

Annoncée le 2 mars 2018 dans un communiqué de la Commission nationale du développement de la réforme, cette punition est une étape supplémentaire dans la mise en œuvre encore expérimentale de cette sorte de "permis de bonne conduite". _"Pour l'instant ces systèmes sont expérimentés uniquement dans certaines provinces_, comme Jiangsu, Fujian et Guangdong, mais l'objectif est de généraliser le système", précise Zhulin Zhang, journaliste à Courrier International.

La collecte de données parait exponentielle : via les administrations publiques (services de police, tribunaux, fisc...) comme les entreprises privées. Du "Big Data" au service de "Big Brother". Surveillés par environ 170 millions de caméras dotées d'un système de reconnaissance faciale, scrutés sur les réseaux sociaux internes au pays comme Weibo ou Wechat, difficile pour les Chinois d'y échapper. "Une ville chinoise comme Pékin ou Hangzhou, est équipée de 600 000 à 700 000 caméras de surveillance", détaille Zhulin Zhang, citant un responsable informatique de la province de Yunnan.

Je n'ai plus le droit d'acheter un appartement, ni de monter une entreprise.

Ce fichier de la réputation doit s'appliquer aux fonctionnaires des administrations des régions, aux entreprises et aux particuliers. Dès avril 2018, Monsieur Liu se plaignait au micro de France Inter de ne plus pouvoir prendre "l'avion, le TGV, ni la couchette première classe dans les trains normaux". Des restrictions que le journaliste voit comme une punition en raison d'un procès qu'il a perdu. "Le tribunal me demande de présenter des excuses sur le réseau social Weibo [équivalent chinois de Facebook, ndlr] et de verser un dédommagement aux personnes avec qui j'étais en procès", raconte-t-il. Injuste pour Monsieur Liu, qui dit s'être déjà acquitté de cette somme en 2017.

Et cela va même plus loin : parce qu'il se trouverait sur une sorte de "liste noire", l'homme n'aurait _"plus le droit d'acheter un appartement, ni de monter une entreprise"_. Un éventail de sanctions qui ne se limite donc pas aux transports publics, mais aussi à l'emploi ou à l'accès au crédit par exemple. "Je ne suis pas un journaliste qui plait à l'État, j'ai toujours eu des ennuis, beaucoup de gens pensent qu'il y a un lien avec ça", suppute Monsieur Liu.

Les géants (espions) du numérique

Une hypothèse envisagée par Laurent Alexandre, spécialiste des questions d'Intelligence artificielle, tant les raisons d'une perte de points restent parfois obscures. Auteur de " L'IA menace-t-elle aussi la démocratie ?", il voit dans certaines de ces pénalités une punition pour avoir "dévié de la ligne souhaitée par le parti". "Quand on a de mauvaises fréquentations, on peut avoir de mauvais points, précise-t-il, notamment quand on discute sur les réseaux sociaux avec des opposants ou des étrangers". C'est ce qui lui fait croire à "une collusion entre le parti communiste chinois et les géants de l'Intelligence artificielle pour opérer le contrôle social de la population".

Les géants du numérique chinois, les BATX (Baïdu, Alibaba, Tencent et Xiaomi), seraient un appui de taille pour permettre au gouvernement de surveiller la population. Et pour cause, Internet en Chine, c'est plus de 800 millions d'utilisateurs, la plupart y accédant sur l'écran de leur smartphone. Plusieurs applications ont ainsi vu le jour, en vue de "généraliser la possibilité pour les citoyens de voir leur note et celle de leurs amis pour s'éloigner de ceux qui ont des mauvaises notes", aux yeux du spécialiste.

L'une des applications a d'ailleurs rencontré un franc succès. Zhima Credit, un outil d'évaluation lancé par Ant Financial, filiale du mastodonte de la vente en ligne, Alibaba. Au gré de leurs transactions dématérialisées via Alipay Wallet, service de paiements aux plus de 600 millions d'utilisateurs, le score des utilisateurs fluctue de 350 à 950. Plus les points s'accumulent, plus ils obtiennent des avantages et augmentent leurs capacités d'emprunt. Même principe chez son concurrent, Tencent Credit, basé sur les informations de transaction et de réseau social des utilisateurs, collectées sur les applications WeChat et QQ. Récompenses pour les uns, punitions pour les autres, de véritables outils d'"autodiscipline", telle que le plan de planification l'appelle de ses vœux.

# data[].attributes.attachment_link.title
La Chine distribue des bons et des mauvais points à ses citoyens

# data[].attributes.attachment_link.description
Depuis mars 2018, le gouvernement chinois a franchi une étape supplémentaire dans la mise en oeuvre de son programme de "crédit social", basé sur la collecte d'informations sur les réseaux sociaux et via les caméras de surveillance intelligentes. Les citoyens "mal notés" sont restreints dans leur accès aux transports.