Nowakowskismes 4.10. « Tous surveillés par des machines d’amour et de grâce… »

de https://www.nttdocomo.co.jp/english/binary/pdf/corporate/technology/whitepaper_6g/DOCOMO_6G_White_PaperEN_20200124.pdf

Ce soir les Nowakowskismes tiennent leur titre du poème de Richard Brautigan. Richard Brautigan né en 1935 et mort en 1984 était un écrivain et poète américain, proche de la Beat Génération et de la contre-culture américaine.  

« Il me plait d’imaginer 
(et ça doit arriver)
Une écologie cybernétique
Où libérés de nos labeurs
Et retournés à la nature
Auprès de nos frères et soeurs 
Mammifères 
Nous sommes tous surveillés 
Par des machines d’amour et de grâce ».

Ce soir, « tous surveillés par des machines d’amour et de grâce », les Nowakowskismes vont partir du rêve d’un poème pour explorer le cauchemar d’un monde cybernétique qui s’installe sans que nous ayons vraiment conscience. Je rappelle que la cybernétique est la science des systèmes complexes élaborée au milieu du XXième siècle par un mathématicien génial Norbert Wiener. La cybernétique vise à ordonner la vie entre l’homme et la machine. Enfin et pour information, cybernétique vient du grec « κυβερνητική » qui signifie gouverner et gouvernail. 

Pour commencer notre exploration, j’emprunte un exemple bien réel au dernier livre d’Olivier Tesquet intitulé À la trace, livre que je vous recommande chaudement. 
Prenez un badge… tout ce qu’il y a de plus banal aujourd’hui. Ce badge va évidemment servir à entrer dans un bâtiment, à entrer sur un parking, à accéder à l’ascenseur, … au restaurant de l’entreprise, aux transports, … Un badge, vous allez l’égarer aussi. 
Maintenant passez autour du cou le cordon du badge que la start-up Humanyze va vous proposer. Humanyze a d’abord été fondée sous le nom de Sociometric Solutions en 2010 à Boston. Son nom est un emprunt au psychiatre américain d’origine roumaine Jacob Levy Moreno qui a développé la sociométrie, la discipline qui cherche à étudier les relations interpersonnelles au sein d’un groupe afin de les cartographier en vue de réorganiser le travail. 
Donc Humanyze ainsi appelée depuis 2015 est un fournisseur de logiciels d’analyse des activités des personnes. Humanyze a été fondée par des étudiants en doctorat au MIT (Ben Waber, Daniel Olguin, Taemie Kim, Tuomas Jaanu) et leur professeur Alex Pentland. Sur la base de recherches menées au MIT Media Lab, la plateforme d’analyse des ressources humaines de Humanyze aide les entreprises à comprendre les données de communication de l’entreprise pour en découvrir des modèles décrivant la façon dont le travail est effectué. Cette plateforme d’analyse des ressources humaines de Humanyze porte le nom Humanyze Elements. Les professionnels des ressources humaines, des opérations et de l’immobilier d’entreprise utilisent donc Elements pour étudier en temps réel les données produites au sein d’un lieu de travail afin d’optimiser la prise de décisions en matière de santé organisationnelle, de stratégie du lieu de travail et d’optimisation des processus métier. Pour enrichir les modèles produits, Elements peut également agréger d’autres sources de données dont celles provenant de Microsoft Office Exchange, de Google Suite, de Skype et du Humanyze Badge. 
L’Humanyze Badge. Ce badge ressemble à s’y méprendre à n’importe quel autre moyen moderne d’entrer dans les locaux d’une université, d’un laboratoire, … ou d’une multinationale. Mais ce badge-ci est bien plus fort. Là où les autres se bornent à vous servir de clés, ou de moyen d’accéder à la photocopieuse, lui, en étant connecté va collecter tout un tas de données vous concernant. Le badge Humanyze permet ainsi de localiser les salariés dans l’entreprise, il est doté d’un micro pour enregistrer les intonations de la voix et il dispose d’un capteur de mouvements qui permet d’interpréter les postures sur le poste de travail. Pas question d’être vautré sur son bureau ! Pas question de faire des galipettes au bureau ! Il va ainsi, jour après jour, collecter jusqu’à 4 gigaoctets de données par personne et par jour ! 4 gigaoctets de données par personne et par jour (soit un DVD par personne et par jour, ou encore une bibliothèque complète par personne et par jour) ça en fait des données personnelles accumulées et traitées. Ces données seront alors récupérées sur Elements où elles seront analysées automatiquement afin d’élaborer des modèles de la performances des salariés afin de l’optimiser. 
Evidemment une telle collecte de données laisse craindre la mise en place d’un système de surveillance des faits et gestes de tous. Le patron, Ben Waber,  jure grands dieux que toutes les données sont cryptées, agrégées et anonymisées, qu’aucun contenu de communication n’est enregistré, qu’il n’y a pas d’informations personnelles identifiables ou d’informations confidentielles privées et qu’Humanyze est conforme au RGPD et au Bouclier de protection des données de l’ UE. 
Alors concrètement quelles sont les données collectées par ces badges ? Et bien, le badge saura si Alexandre du service de communication va discuter régulièrement avec Christelle du service informatique, et avec quelle périodicité. Il saura si Julie passe son temps à la cafétéria ou en salle de repos ou si Jules est au bord du burn-out simplement en analysant les intonations de sa voix. « Ce que cache mon langage, mon corps le dit. Mon corps est un enfant entêté, mon langage est un adulte très civilisé… » écrivait Roland Barthes.  
En tout 10000 salariés à travers le monde porteraient autour du cou le Humanyze Badge, de la NASA à Bank of America (allez voir tous les partenaires sur leur site web).
Par exemple, Bank of America a fait appel à Humanyze pour améliorer les performances et la productivité de certains centres d’appels. Ainsi grâce à l’analyse faite par Humanyze,  la banque a revu l’organisation des pauses en les synchronisant pour permettre aux employés d’avoir plus d’interactions. Ces changements auraient permis d’améliorer le rendement de 23%. 
Avec Humanyze tout est possible et surtout le caché devient visible et exploitable au service de la performance !
En fait, dans la Start-up nation, dans l’économie des services, un salarié efficace est un salarié choyé et surtout incité par des gratifications diverses à arriver tôt et à repartir tard. Et derrière cette façade du bien-être au travail, mantra de nos temps troublés, se cache la productivité forcenée ! Voilà le truc ! 

Encore quelques mots sur Humanyze. En fait, cette société est moins intéressée par les bavardages des salariés que par leurs gestes. Les gestes trahissent leur état d’esprit, leur humeur, leur état général, parce que les gestes révèlent les tréfonds. Si vous allez aux toilettes 3 fois par heure, c’est que vous êtes peut-être stressés, que vous avez éventuellement un problème de prostate, ou que vous allez vous cacher pour pleurer et donc il y a une action d’optimisation à proposer. Humanyze c’est le stade suprême de l’open space, parce qu’avec Humanyze, c’est optimiser les pauses et les interactions entre salariés afin de maximiser le rentabilité. Humanyze c’est comme l’écrit Matthew B Crawford dans « L’éloge du carburateur », garantir que la préoccupation principale du management soit toujours le maintien du consensus et la prévention des conflits. 
Pour l’instant, il ne s’agit pas de détecter les signes avant-coureur d’une grève mais d’optimiser les salariés dans leur environnement – des pions bien placés sur l’échiquier de l’entreprise. Une fois tout cela bien mis en place, et entré dans les habitudes, qu’est-ce qui empêchera les administrateurs de traquer le moindres début du commencement de ressentiment, de révolte, de malaise ? 
Mais ce système a quand même un point faible : un badge, peut être égaré, abandonné sur un bureau, ou simplement perdu. 
La réponse suivante est évidente. Si le badge est faillible, il peut être perdu et oublié, implanter une puce de la taille d’un grain de riz entre le pouce et l’index des salariés devient la solution. Une puce implantée dans la main pour fluidifier les opérations quotidiennes – une puce implantée dans la main pour restreindre l’accès à des documents confidentiels- une puce implantée dans la main au lieu de taper un mot de passe – une puce implantée dans la main pour acheter un café au distributeur automatique de l’étage ! 
Toujours plus loin mais pas si loin de nous ! Investir le corps pour mieux organiser le temps, optimiser, performer ! C’est déjà en place dans certaines entreprises.
Nous ne passerons pas en revue ce soir tous les domaines de cette surveillance par ces machines d’amour et de grâce, pour cela je vous renvoie encore une fois au livre d’Olivier Tesquet. Faisons juste quelques pas dans l’univers de la surveillance ordinaire.  
Depuis 2018, certains drones policiers américains peuvent pénétrer à l’intérieur des bâtiments. Depuis 2019, le Pentagone teste des ballons expérimentaux pour surveiller dans six états les faits et gestes des citoyens. De plus en plus d’universités américaines cherchent à surveiller les moindres faits et gestes de leurs étudiants, en accédant à leurs données de géolocalisation. 
D’après des révélations du Kansas City Star, tous les nouveaux étudiants de l’université du Missouri-Columbia n’ont ainsi « plus le choix » : ils doivent désormais installer sur leur smartphone l’application SpotterEDU, qui permet de vérifier leur présence dans une salle de classe grâce aux signaux Bluetooth.
Comme l’expliquait au Washington Post en décembre 2019 le fondateur de l’application, SpotterEDU est en train d’être testé dans près de 40 universités. Au total, 1,5 millions d’étudiants américains se seraient enregistrés au cours de l’année 2019. Dans certaines versions aujourd’hui abandonnées de l’application, le logiciel permettait bel et bien à ses utilisateurs de transmettre leurs coordonnées exactes de géolocalisation, même lorsqu’ils  « étaient de sortie en pleine nuit ».
Et ça fonctionne comment ? Les responsables des établissements transmettent à l’entreprise les horaires complets des cours de leurs étudiants. L’application envoie ensuite des mails automatiques aux professeurs ou aux membres de l’administration si un étudiant arrive avec plus de deux minutes de retard à un cours, ou s’il n’y est pas présent. Les simples « pauses » ou les départs anticipés, quelques minutes avant la fin du cours, sont aussi enregistrés. Une chronologie complète de l’activité de chaque étudiant est finalement reconstituée et mise à disposition des professeurs.
Et certains, comme toujours, sont enchantés par l’efficacité du dispositif. Ils déclarent à l’envi que « [leurs] étudiants veulent ces points [de présence] ». Ils assurent même que leur cours ont désormais 90 % de taux de présence, du jamais-vu. Les étudiants savent qu’ils sont surveillés, ils agissent donc en conséquence. Leur comportement change. 
En septembre 2019, le New York Times racontait aussi l’histoire d’un coach sportif à l’université de l’Alabama à Huntsville. Ce coach a recours à l’application FanMaker pour inciter les étudiants à rester plus longtemps dans les tribunes lors des matchs de football américain organisés sur son campus. Grâce aux données de géolocalisation, les plus assidus sont ainsi récompensés à travers un système de « points de fidélité », qui leur donnent accès à des réductions de prix pour des matchs de compétition. 
Enfin, SpotterEDU est loin d’être la seule application du secteur. Il y a évidemment de la concurrence et elle est rude !  SpotterEDU a notamment pour adversaire la start-up Degree Analytics, qui utilise le wifi pour surveiller les étudiants et qui est déjà en place dans 19 universités. D’ailleurs, une simple recherche sur les répertoires d’applications pour smartphones permet de se rendre compte à quel point les services du même genre se multiplient. 
L’exemple de l’application Alora – Attendance Tracker est significatif. Elle se présente comme une interface permettant de « suivre rapidement la présence et la participation aux cours, les événements, les réunions et les clubs sportifs » des membres de ces institutions et d’en tirer des « rapports complets » en utilisant la « position géographique » de chaque utilisateur.
Pour finir, et ce n’est pas un badge, ni une application. Fin 2018, nous avons assisté au lancement dans certaines écoles d’« uniformes connectés » permettant ainsi de suivre les déplacements et les activités des élèves. A la rentrée 2019, un lycée de Virginie a lancé une phase d’« expérimentation » d’une application traquant le moindre déplacement de ses élèves… y compris leurs pauses pour aller aux toilettes.

Pour finir, revenons pas loin de chez nous. Avec une start-up dont j’ai déjà parlé dans les Nowakowskismes intitulés « Soyez prêts pour un monde meilleur ». 
Dans le rayon, « Tous surveillés par des machines d’amour et de grâce », c’est la start-up messine Two-I, spécialisée en détection d’émotions, qui décroche le pompon. Two-I a approché la mairie de Nice et a proposé de détecter les émotions des voyageurs dans les tramways de la ville. Two-I prétend détecter les émotions des voyageurs pour repérer des suspects potentiels avant qu’ils ne passent à l’acte (le projet est pour l’instant en suspens). 
Two-I a signé des contrats avec « le ministère du Bonheur » de Dubaï. Est-ce nécessaire de faire des commentaires !?
En France, Two-I a testé son dispositif dans le stade de football de Metz. Il a même été question de le tester dans un « quartier populaire » de Nancy, dans le cadre d’un partenariat avec l’office des HLM, afin d’évaluer le ressenti des habitants. Remarquons que ce sont toujours les stades et les quartiers qui servent de cobayes aux expérimentations sécuritaires avant un futur déploiement « pour tous ». J’ai d’ailleurs appris hier que ça y est, le déploiement de cette surveillance dans le stades allait être généralisée !
« Tous surveillés par des machines d’amour et de grâce… » dans la safe city, la « ville sûre » bardée de capteurs et confiée à des ordinateurs, parce que, quand on a installé plusieurs milliers de caméras, et comme dans le cas d’Humanyze, la quantité de données générées ne peut être gérée sans les logiciels ad hoc. N’oublions pas que la plupart des caméras piétons des policiers français sont achetées à Hikvision, une entreprise chinoise Hikvision qui a mis au point une caméra capable d’identifier les Ouïghours (rappelons que es Ouïghours sont la cible d’une véritable épuration ethnique).
Qu’est-ce qui pourrait nous sauver ? Et bien l’art comme d’habitude ? 
Il y a en effet des choses intéressantes dans les arts numériques pour contourner la reconnaissance faciale. Adam Harvey, un artiste américain, travaille sur ces questions. Il a conçu des vêtements anti-drones et a lancé des maquillages pour lutter contre la reconnaissance faciale. Il n’y a pas besoin de disparaître mais d’apparaître autrement. Les maquillages servent à déséquilibrer le visage car la reconnaissance faciale a besoin d’une espèce de symétrie parfaite. Il applique finalement les techniques de camouflage du visage bien connues des militaires. 
Ce qui est terrible d’ailleurs, c’est la standardisation par les machines d’une forme de perfection inhumaine. Regardez la tête qu’on vous demande de faire pour que la photo d’identité de votre passeport soit valide et acceptée par les systèmes automatiques de reconnaissance !  Les yeux grands ouverts, pas de grimace (le rire ou le sourire sont des grimaces) parce que les lèvres doivent être parfaitement alignés, pas de cheveux qui dépassent, pas d’imperfection sur la peau, … Une tête de masque mortuaire !
Donc, pour tromper les systèmes de reconnaissance, il faut se grimer, mettre un faux oeil, une fausse mèche de cheveux. À Hongkong, pour échapper à la « surveillance de ces machines d’amour et de grâce », les manifestants ont utilisé leurs cheveux. Lisez ou relisez William Gibson, le père du mouvement cyber punk, qui aborde également ce sujet dans son roman Histoire Zéro. 
Enfin, rappelons qu’il y a une nécessaire convergence des luttes entre les préoccupations environnementales et technologiques. 
Prenons l’exemple de la 5G ! Les précédents Nowakowskismes lui étaient consacrés. La 5G est non seulement un non-sens écologique parce qu’elle va générer une surconsommation terrible d’énergie. Elle est aussi un non sens pour la liberté parce qu’elle va permettre la mise en oeuvre massive de dispositifs de surveillance toujours plus invasifs vers l’automatisation de la vidéosurveillance et les objets connectés qu’on installe dans chaque instant de nos vie, avec le premier d’entre eux, le smartphone. 
En effet, toujours surveillés par des machines d’amour et grâce comme Facebook qui active en permanence notre géolocalisation en permanence. 
Toujours surveillés par des machines d’amour et grâce qui ne nous écoutent pas activement mais dont tout un tas d’applications filment ce qui se passe sur l’écran. 
Toujours surveillés par des machines d’amour et grâce parce qu’au final, reçoit-on une information parce que notre téléphone nous a écoutés ? Ou la reçoit-on parce qu’à force d’être mesuré en permanence et d’être ce cobaye sur lequel on a branché plein de capteurs, la machine finit par nous envoyer exactement ce qu’on attendait ?
Toujours surveillés par des machines d’amour et grâce d’un monde dans lequel on va jusqu’à coller des capteurs sur des vaches dans les exploitations agricoles ?
Comme l’a affirmé à plusieurs reprises Cornélius Castoriadis il y a 30 ans, dans ce monde, dans cette course, à aucun moment nous nous sommes posés et préoccupés de savoir ce qui est souhaitable ou pas pour la liberté, pour la démocratie, et pour le monde qui vient !  
Avant de nous quitter, juste une petite annonce importante. Aujourd’hui les enjeux environnementaux, sociétaux et sociaux liés au dérèglement climatique sont devenus une réelle priorité à aborder au cœur de nos territoires de manière collective. Face à l’urgence de la situation, les associations Banlieus’arts, ARAC (Adaptation & Résilience – Anticipation Citoyenne), Adrastia, en partenariat avec Metz Marche pour le climat, vous propose une grande conférence à l’Hôtel de Ville de Metz ayant pour but d’aborder ces questions à travers un prisme fondamental qui relie experts, citoyens et politiques afin de permettre au plus grand nombre de s’approprier les concepts régissant les mécanismes et le fonctionnement du monde dans lequel nous vivons et faire émerger des axes d’actions et de réflexions futures.
Venez nombreux à la conférence Urgence climatique & espoirs lucides le Samedi 8 février de 17h à 20h à l’Hôtel de ville de Metz

Sources
https://usbeketrica.com/article/les-universites-americaines-cherchent-a-geolocaliser-leurs-etudiants 
https://www.theverge.com/2020/1/28/21112456/spotteredu-degree-analytics-student-location-tracking-app-attendance
https://www.lemonde.fr/pixels/article/2018/07/23/un-lycee-accuse-de-vouloir-suivre-a-la-trace-ses-eleves-a-l-aide-de-porte-clefs-connectes_5335021_4408996.html

A la trace. Enquête sur les nouveaux territoires de la surveillance. Olivier Tesquet. Premier Parallèle. 2020
Eloge du carburateur. Essai sur le sens et la valeur du travail. Matthew B. Crawford. La Découverte. 2009

https://metz.fr/agenda/fiche-26295.php https://www.streetpress.com/sujet/1579625191-reconnaissance-faciale-fichage-generalise-geolocalisation-surveillance-capitalisme-gafa https://www.humanyze.com
https://en.wikipedia.org/wiki/Humanyze