Ce site utilise des cookies
Vos données sont privées, nous le savons, c'est pour ça qu'on en fait pas n'importe quoi.
×

 

 

 

 

 Le futur est entre vos mains

 

 

Le futur est entre vos mains

dimanche, 27 octobre 2019 17:47

Dystopie numérique: comment les algorithmes punissent les pauvres

surveillance massive surveillance massive

Dans une série mondiale exclusive, le Guardian dévoile la révolution technologique qui transforme le système de protection sociale dans le monde entier - tout en pénalisant les plus vulnérables.
par Ed Pilkington à New York

Partout dans le monde, des petites villes de l’Illinois aux États-Unis à Rochdale en Angleterre, de Perth en Australie à Dumka dans le nord de l’ Inde , une révolution est en cours dans la manière dont les gouvernements traitent les pauvres.

Vous ne voyez pas se produire le changement et vous n’en avez peut-être même pas entendu parler. Pourtant, ça se passe sous nos yeux ou presque... Les ingénieurs et les codeurs le prévoient à huis clos, dans des lieux gouvernementaux sécurisés, loin de la vue du public.

Seuls les mathématiciens et les informaticiens comprennent parfaitement le changement radical, alimenté par l'intelligence artificielle (IA), les algorithmes prédictifs, la modélisation des risques et la biométrie. Mais si vous faites partie des millions de personnes vulnérables sur le point de subir le remaniement radical des avantages sociaux, vous savez que cela est réel et que ses conséquences peuvent être graves, voire mortelles.

Le Guardian a passé les trois derniers mois à rechercher comment des milliards sont réinvestis dans les innovations d’IA qui redéfinissent de manière explosive les relations entre les personnes à faible revenu et l’État. Ensemble, nos reporters aux États-Unis, en Grande-Bretagne, en Inde et en Australie ont exploré ce qui équivaut à la naissance de "l' État providence numérique" (mis en place en Grande Bretagne actuellement).

Leurs dépêches révèlent que les allocations chômage, les pensions alimentaires, les subventions pour le logement et l’alimentation, et bien d’autres encore, sont littéralement brouillées par la numérisation forcée (la fameuse transformation numérique). Les gouvernements des pays industrialisés et des pays en développement dépensent des sommes considérables pour automatiser la pauvreté et, ce faisant, répondre aux besoins des citoyens vulnérables en chiffres, en remplaçant le jugement des travailleurs sociaux par des algorithmes.

Les journalistes du Guardian décrivent le mieux possible la dystopie dickensienne du XXIe siècle qui se dessine à une vitesse vertigineuse. La politologue américaine Virginia Eubanks a pour phrase: "L'hospice digital".


Écoutez les gouvernements et vous entendrez de grandes promesses sur la manière dont les nouvelles technologies vont transformer la pauvreté en entreprise noble et bénigne. Ils accéléreront les paiements de prestations, augmenteront l'efficacité et la transparence, réduiront le gaspillage, feront économiser de l'argent aux contribuables, élimineront la faillibilité humaine et les préjugés, et veilleront à ce que des ressources limitées atteignent les plus nécessiteux. Mais si souvent, ces promesses sont tombées à plat.

À une époque où l'austérité domine le paysage politique, des millions de personnes ont vu leurs avantages réduits ou supprimés par des programmes informatiques qui fonctionnent d'une manière que peu de gens semblent capables de contrôler ou même de comprendre. Les erreurs sont devenues endémiques, sans que les victimes de ces erreurs aient la possibilité évidente de demander réparation.

Cette semaine, l'automatisation de la pauvreté sera présentée sur la scène mondiale. Philip Alston, un avocat spécialiste des droits de l'homme qui joue le rôle de chien de garde de l'ONU sur l'extrême pauvreté, présentera à l'Assemblée générale des Nations Unies à New York un rapport novateur qui tire la sonnette d'alarme quant aux conséquences pour les droits de l'homme de la précipitation à numériser la protection sociale.

L'analyse d'Alston est basée en partie sur ses études officielles des Nations Unies sur la pauvreté au Royaume Uni et aux États Unis , et en partie sur des soumissions de gouvernements, d'organisations de défense des droits de l'homme et d'experts de plus de 34 pays. Il est susceptible de fournir un instantané définitif de la situation actuelle du monde et de son évolution, en s'attaquant au harcèlement, au ciblage et au châtiment des personnes vivant dans cet hopice digital en rapide expansion.

Dans l’Illinois, le Guardian a constaté que les gouvernements des États et le gouvernement fédéral ont uni leurs forces pour exiger que les bénéficiaires de l’aide sociale remboursent des «trop-payés» parfois sur 30 ans. Ce système de «dette zombie», armé grâce à la technologie, suscite la peur et la détresse parmi les plus vulnérables de la société.

Comme l’a décrit un destinataire: «Vous devez ce que vous avez mangé».

Au Royaume-Uni, nous enquêtons sur le site gouvernemental sécurisé situé à l'extérieur de Newcastle, où des millions de dollars sont consacrés au développement d'une nouvelle génération de robots de bien-être pour remplacer les humains. Des entreprises privées, y compris une société new-yorkaise dirigée par le premier milliardaire mondial, bombardent un processus qui a engendré un tout nouveau jargon: "main-d'œuvre virtuelle", "prise de décision augmentée", "automatisation des processus de robot".

Le gouvernement se dépêche d'avancer dans sa mission numérique, malgré les souffrances déjà imposées à des millions de Britanniques à faible revenu par le programme «digital by defaut» (numérique par defaut) du pays. Les demandeurs ont parlé de la faim, de la saleté, de la peur et de la panique qu'ils endurent.

En Australie, où le Guardian a publié de nombreux articles sur robodebt, le stratagème accusé d'avoir récupéré à tort des dettes historiques grâce à un algorithme imparfait, nous révélons maintenant que le gouvernement a ouvert un nouveau front numérique: utiliser l'automatisation pour suspendre des millions de paiements d'aide sociale. Les destinataires trouvent leur allocation coupée sans préavis.

L'histoire la plus troublante vient de Dumka en Inde. Nous apprenons ici l'impact humain horrible qui a frappé les familles à la suite d'Aadhaar, un numéro d'identification unique à 12 chiffres que le gouvernement indien a attribué à tous les résidents suite à la plus grande expérience biométrique au monde.

Motka Manjhi a payé le prix ultime lorsque l'ordinateur est tombé en panne et que son empreinte de pouce - sa clé pour Aadhaar - n'a pas été reconnue. Ses rations de subsistance ont été arrêtées, il a été forcé de sauter des repas puis a dramatiquement maigri. Le 22 mai, il s'est effondré devant son domicile et est décédé. Sa famille est convaincue que c'était à cause de la famine engendré par le système Aadhaar.

Les enquêtes du Guardian mettent en lumière les caractéristiques communes de ces nouveaux systèmes, que ce soit dans les pays en développement ou développés, de l’Est ou de l’Ouest. La similitude la plus frappante est que tout cela se passe à une vitesse fulgurante, avec des approches de haute technologie englobant services sociaux, travail et pensions, invalidité et santé, souvent avec un minimum de débat public ou de responsabilité.

Au sein de cette révolution, l'élément humain de l'État providence se dilue. Au lieu de parler à un travailleur social qui évalue personnellement vos besoins, vous êtes désormais redirigé en ligne, où l'analyse prédictive vous attribue un score de risque futur et un algorithme décide de votre sort.

Dans le nouveau monde, l'inégalité et la discrimination peuvent être enracinées. Que se passe-t-il si vous faites partie des cinq millions d'adultes britanniques sans accès régulier à Internet et avec peu ou pas de connaissances en informatique? Et si l’algorithme se contentait de prendre en compte les distorsions de race et de classe existantes, creusant le fossé entre les riches et les pauvres, entre blancs et noirs, entre ouvriers diplômés et travailleurs manuels?

Il existe également une qualité Kafkaesque effrayante qui couvre le monde entier. Comme Manjhi l'a découvert tragiquement, des erreurs sont commises. des glitch dans le code, des bugs qui ne sont pas patchés parce que tout le monde s'en fout. S'il n'y a personne à portée de main qui vous considère comme une personne et non comme un numéro à 12 chiffres à traiter, les résultats peuvent être fatals.

L'ordinateur dit «Aucun paiement». Maintenant vous faîtes quoi ?

 

Retrouvez l'article en langue originale sur le Guardian

 

Enjoy and share it !


TOP