- Publié à la base sur Linked’in (https://bit.ly/2ItJNUd), le 26 novembre 2018 [en instance de mise à jour]
Notre monde est en passe d’être transformé à jamais et ce, grâce (ou à cause ?) de l’Intelligence Artificielle.
Le maillage des objets connectés entre eux est de plus en plus dense et leur rapport à nous plus intime chaque jour. Que ce soit dans le domaine sportif et des divertissements, celui de la science médicale, des interrelations, … ou aujourd’hui des récompenses et des sanctions, nous offrons généreusement de quoi nous repérer toujours plus rapidement et mieux.
Connectés = libres ?
Nos smartphones sont devenus de véritables couteaux suisses : ils nous permettent de communiquer, de choisir, de réserver, de payer ; ils nous reconnaissent et transmettent nos besoins et envies à tous ceux que cela intéresse. Avec notre consentement plein et entier, et malgré le fameux RGPD sensé réguler les exploitations de toutes ces données si convoitées.
Qui s’émeut en effet du fait que ses données deviennent accessibles à une application lambda dès le moment où celle-ci est téléchargée ?
Prenons pour exemple l’application Messenger : pour pouvoir l’installer, vous devez autoriser l’application à avoir accès à :
- votre identité,
- vos contacts,
- votre position,
- vos sms,
- vos journaux d’appel,
- votre téléphone,
- vos photos/multimédia/fichiers,
- votre caméra,
- votre micro,
- l’information sur la connexion Wi-Fi,
- l’identifiant de votre appareil, et
- les informations de vos appels.
Vous allez me répondre « Oui, c’est normal, c’est pour pouvoir les utiliser dans Messenger ». Rien ne nous certifie que ces informations ne servent pas également à d’autres fins. Que nos photos et autres fichiers personnels ne seront pas utilisés, copiés, transmis à d’autres, sans notre consentement.
Et pourtant nous acceptons – par ignorance ou indifférence – ces utilisations potentielles sauvages, puisque nous sommes dans un monde où la communication est reine et où « nous n’avons rien à cacher ». L’intimité, la vie privée sont-elles à ce point devenue personae non gratae ?
Une éthique sous surveillance
Allons un peu plus loin. La Chine est très peuplée. Il est difficile de maintenir l’ordre avec autant de monde dans un seul pays. Elle est donc en train de mettre en place un système très particulier de contrôle/maîtrise de sa population : à titre de projet pilote, le Parti communiste chinois a installé dans seize provinces et municipalités du pays quelques 200 millions de caméras surveillant les espaces publics dans leurs moindres recoins.
Puis il a créé un système de points par habitant, appelé « crédit social »[1] : chaque citoyen chinois se voit attribuer une « note de confiance », soit un certain nombre de points. Les personnes qui se conduisent correctement et sont honnêtes ont davantage de points que les autres et sont alors favorisées au niveau des universités, des logements, des soins, des réservations, des crédits, etc.
Nous pourrions appeler cela la méritocratie – qui n’est pas, de façon générale, une mauvaise chose en soi – mais le problème est que ce système cache un mors et des rênes.
En effet, qu’un citoyen ait l’audace d’écrire une mauvaise critique sur le gouvernement et son compte est amputé d’autant de points. S’il en perd trop, il peut être interdit de déplacements en TGV et avion, de visa pour voyager, se voit refuser des crédits ou des emplois, reçoit une vitesse d’Internet plus lente, bref est mis au ban de la société. La liste des infractions est longue.
La détection par le regroupement d’informations
Comment le gouvernement détecte-t-il les « éléments subversifs » ? C’est là qu’intervient l’IA. Les caméras de surveillance sont équipées du système de reconnaissance faciale, de numérisation corporelle et de géolocalisation. Chaque citoyen est ainsi détecté et surveillé en permanence sur écrans, avec son nombre de points attitré. Les smartphones et autres objets connectés servent à récolter d’autres informations sur son comportement, informations qui sont regroupées avec celles des archives gouvernementales et interprétées par… l’Intelligence Artificielle.
Les citoyens peuvent même être sanctionnés pour leurs achats en magasins, ces derniers étant équipés des fameuses caméras. Achetez quelque chose qui ne plaît pas au Parti (comme par exemple un produit non chinois), dépensez votre argent pour des futilités et vous pouvez perdre quelques points instantanément.
Là où nous pensions avoir touché le fond mais ce n’était qu’un palier, la famille et les amis du citoyen peuvent affecter son nombre de points, dans le positif comme dans le négatif.
Ce qu’il en coûte de marcher à côté des lignes
Presque dix millions de citoyens chinois se sont déjà vus sanctionnés par ce système de points dans les villes où le projet pilote a été installé. Certains blacklistés n’ont plus le droit de voyager et ont vu leurs comptes de réseaux sociaux suspendus. Il est difficile de savoir jusqu’où vont les sanctions.
Le Parti communiste chinois estime que ce système sera pleinement opérationnel d’ici 2020, avec 600 millions de caméras dans tout le pays et des algorithmes ultra performants.
Sous ses dehors paternalistes manichéens, le Parti est en train d’ériger une sorte de dictature enrobante à laquelle pas un citoyen chinois ne devrait échapper à moyen terme. Ce qui devrait nous préoccuper dans ce genre de régulation, c’est le risque du formatage de l’être humain et la disparition de libres penseurs et acteurs d’aujourd’hui et de demain. Pourtant, le citoyen chinois ne semble pas s’en émouvoir outre mesure, habitué qu’il est à ne pas avoir de vie réellement privée. Peut-être la jeunesse chinoise est-elle plus révoltée qu’elle n’y paraît, mais cela signifie-t-il alors qu’elle est déjà muselée ?
Le crédit social, un système qui risque d’être exporté ?
Le crédit social a déjà retenu l’intérêt de la Thaïlande, et peut-être même d’autres pays. Il semble peu probable qu’un tel système puisse être exporté dans un pays comme la France, car nous sommes un peuple plutôt difficile à gérer.
Ce qui interroge, c’est la facilité avec laquelle nous partageons nos données sur les réseaux sociaux, persuadés qu’ainsi rien ne peut nous arriver puisque « tout le monde me connaît et peut donc me protéger ». Les exemples ne manquent pas de personnes ou de groupes qui ont vu leur carrière ou même leur vie détruite par des informations qui ont circulé sur eux, réelles ou inventées. Et le pourcentage de personnes qui croient à tout ce qui se trouve sur Internet est impressionnant.
Vivons ensemble, mais vivons pudiques
Nous expérimentons actuellement une société de partage généreux du savoir, avec un pouvoir qui paraît plus latéral que hiérarchique grâce à Internet ; mais n’oublions pas qu’il n’est pas (encore ?) bon de livrer notre vie entière à tous les autres, pas tant qu’il existera des gens mal intentionnés qui cherchent le pouvoir plutôt que le bien-être de l’humanité.
J’en avais déjà parlé il y a longtemps sur mon blog, de façon humoristique, dans un billet appelé Ces informations qui nous font tout voir par un certain bout de la lorgnette.
La technologie actuelle est fabuleuse, elle ouvre des perspectives encore impensables hier, elle rapproche les gens comme jamais auparavant, mais elle ne devrait pas devenir notre prison simplement parce que nous avons omis les conséquences à long terme pour nous concentrer sur celles du jour.
Gisèle Foucher - Ecrivaine 
Envie de réagir, de commenter ?