Ces algorithmes qui nous gouvernent

[politicien]

Bonjour,

De plus en plus souvent, des algorithmes décident de notre rapport au monde. Que ce soit pour nous mettre en relation avec d'autres sur des sites de rencontres ou pour estimer notre capacité de crédit, pour nous diriger dans la ville via nos GPS voir même pour nous autoriser à retirer de l'argent à un distributeur automatique... les algorithmes se sont infiltrés dans notre vie quotidienne sans notre consentement et modulent notre rapport au monde sans que nous soyons vraiment au courant de leur existence, de l'ampleur de leur action, de leur pouvoir et des critères qu'ils utilisent pour décider de nos existences à notre place. Sans que nous ayons non plus beaucoup de possibilités pour réfuter ou intervenir sur ces critères. "Trop souvent, c'est l'ordinateur qui décide !"

Comprendre comment fonctionnent les algorithmes qui nous gouvernent n'est pourtant pas du recours des seuls spécialistes, estime le journaliste Frank Swain (@SciencePunk). Dans l'un des derniers billets de son blog Future Exchange sur Medium, il revient très concrètement sur la façon dont les algorithmes nous gouvernent, en montrant, comment, nous pouvons essayer de comprendre les traitements dont nous sommes l'objet.

Frank voyage dans le monde entier... Et autant le dire, l'algorithme chargé de surveiller les mouvements de son compte en banque n'aime pas trop cela. Sa carte de retrait a encore été refusée. Il ne sait pas pourquoi... et il ne peut pas savoir pourquoi. Tout le problème est là !

Danser avec les algorithmes silencieux
A chaque fois qu'on retire de l'argent, l'automate de la banque doit décider si ce retrait est autorisé, s'il est "normal". Il doit décider si c'est vraiment nous qui retirons de l'argent. Notre carte, notre code bancaire ne sont que des talismans pour en appeler à un complexe cerveau électronique résidant quelque part dans un datacenter climatisé. C'est lui le véritable gérant du guichet et c'est lui qui doit approuver ma transaction pour qu'elle soit autorisée. En fait, notre carte et notre code ne sont pas si importants que cela pour ce cerveau électronique. "Ce qu'il consulte avant tout c'est une vaste base de données d'enregistrements qui inclue ma localisation présumée, mes transactions récentes, le type de transaction que je demande, le temps qui s'est écoulé depuis ma précédente transaction, le montant que je demande, la date de cette transaction et quelques dizaines d'autres mesures dont je n'ai pas conscience. Il soupèse chacun de ces facteurs et décide si je suis vraiment celui que je prétends être. Il les soupèse et décide de me donner ou pas mon argent." En fait, ces enregistrements, aussi factuels et minimaux soient-ils, par leur accumulation, dessinent une base de données de comportements, basée sur l'analyse de ces enregistrements. L'activité est une alternative à l'identité.

(...)

L'opacité : le poison
Nos systèmes sociotechniques ne sont pas très transparents. C'est ce que pointe James Bridle (@jamesbridle) dans son très stimulant petit essai sur la vidéosurveillance publié par Matter, Ring of Steel où il évoque les systèmes de caméras de surveillances dédiées à la lecture automatisée de plaques d'immatriculation (LAPI) mises en place en Grande-Bretagne et aux Etats-Unis, et dont le plus connu est celui qui fait fonctionner le péage urbain de Londres (surveillé par près de 700 caméras).

Ces réseaux de vidéosurveillance sont très peu documentés. "Cette opacité est délibérée", rappelle Bridle, la police refusant de livrer la magnitude de son réseau de surveillance routier. Même si on compte certaines initiatives citoyennes pour documenter l'emplacement des caméras, la plupart des citoyens ne savent pas précisément comment la technologie est utilisée. Mis en place pour détecter des voitures volées, réguler voire facturer le trafic, ces LAPI mettent en place une discrète surveillance de masse où toute voiture devient suspecte. En fait, la loi britannique ne considère pas ces enregistrements de numéros de plaque minéralogiques comme des données personnelles. Les données d'enregistrement (des photos de véhicules auxquels sont associés des numéros de plaques) sont accessibles 90 jours à tous ceux qui sont accrédités pour cela, sans qu'une décision de justice soit nécessaire pour y accéder.

Pour l'instant, aucune étude n'a chiffré leur efficacité ni mesuré le niveau de surveillance qu'elles engendrent. Pourtant, contrairement à ce que l'on croit, le système mis en place n'est pas qu'un système de surveillance temps réel. L'historique des enregistrements est plus utilisé que les alertes temps réels et de nombreuses autres techniques ont été imaginées pour faire parler les données. L'analyse de convois permet ainsi de regarder dans la base de données si un autre véhicule a fait le même trajet que vous. Le système génère également un rapport de trajets impossibles pour détecter les plaques minéralogiques qui posent problèmes et générer des alertes... D'autres enquêtes algorithmiques sont également possibles comme la prédiction permettant de rétablir une surveillance humaine sur une cible qui a disparu ou analyser où une voiture en infraction risque de se rendre pour l'intercepter... A Londres, le système génère plus d'alertes que ce que la police peut traiter. Les données recueillies par ces systèmes sont pauvres de prime abord : un numéro de plaque, un lieu et une heure, et une image qui n'est pas passionnante. Mais leur analyse et leur agrégation permettent de détecter des corrélations bien supérieures à leur effet premier.

(...)

L'intégralité de cet article à lire sur Le Monde.fr

Qu'en pensez vous ?

[Nico37]

Que même l'OD ne suffira pas à nous sortir de ce monde Kafkaïo-Orwellien...