Nowakowskismes 6.2. Le meilleur des mondes

En juillet 2019, le système de santé britannique s’est offert les services d’Alexa, l’assistant vocal d’Amazon, dans le cadre d’un partenariat conclu en vue de favoriser les autodiagnostics médicaux pour des maux bénins, comme le rhume, et l’automédication. L’objectif affiché est d’abaisser de 25% le nombre de consultations chez un médecin généraliste pour les « cas bagatelles » et réduire les dépenses en termes de prise en charge. Les conseils médicaux prodigués par Alexa s’appuient notamment sur les informations personnelles fournies par les autorités sanitaires, mais aussi sur l’encyclopédie en ligne, Wikipédia. 

Bonsoir à tous et à toutes bienvenue dans ce monde merveilleux, nous sommes en 2021 et nous ne sommes pas au bout de nos surprises. Aujourd’hui, nous ferons une escapade dans les outils numériques qui se sont installés dans toutes les dimensions de nos vies, qu’elles soient privées ou professionnelles. 
Nous manquons de médecins, les assistants « intelligents » développés par les GAFA sont là ! Nous voulons une société sécuritaire, les drones de la police sont là. 
Il faut donc nous faire une raison dans ce monde qui semble la perdre. 
Et c’est bien le défi lancé à nos démocraties également confrontées aux plateformes numériques, aux réseaux sociaux et à la multiplication des lieux de captation de nos vies. Il est impératif de percer le fonctionnement de tout ce système, et certainement de les soumettre à des dispositifs de contrôle efficaces et démocratiques, sous peine de voir nos démocraties chanceler ? 
Karl Popper disait ceci : « La société qui offre une tolérance sans limite risque d’être détruite par l’intolérant »
Des limites ? Comment les définir ? Où les poser ? Comment les faire respecter ? 
Nos institutions et tous les citoyens doivent déjà se hisser au niveau de compréhension et de compétences qui permettra d’envisager une régulation de ces acteurs, et ainsi forger les outils de contrôle par la maîtrise de ces nouveaux savoirs. 
Alain Damasio, auteur bien connu du roman Les furtifs et militant affirmait qu’il  « essaie de [se] demander pour chaque technologie [qu’il utilise] en quoi elle accroit [sa] puissance personnelle, de pensée, d’émotion, de liberté, et en quoi elle [le] mutile » !    

La réalité est que nous ne nous posons pas assez souvent cette question ! 

Rappelons enfin que Robert Cailliau, co-fondateur du web, voulait donner le nom de Loki au projet mené avec Tim Berners-Lee, projet qui deviendra le World Wide Web. Loki est le génie du feu et dieu de la discorde, messager maléfique du panthéon nordique, menteur trahissant ses contemporains. Drôle de pied de nez anticipateur de l’histoire dans ce qui est devenu le meilleur des mondes. 

Mais voyez plutôt !

« Comment tuer internet ? C’est facile. Il suffit d’inventer le web. » écrivait Van Jacobson en 1996 avant l’avénement des plateformes et bien sûr des GAFAM… avant l’explosion de la bulle internet, conséquence d’une économie/capitalisme n’ayant pas trouvé sa marchandise. Le monde change alors et c’est Eric Schmitt lui même qui en trace la voie en affirmant que les données et au delà le surplus comportemental seront alors la marchandise qui les rendra riches, très riches. Et les dés furent jetés et l’usage de nos données personnelles par les entreprises à des fins commerciales ou politiques devint la norme. Mais la collecte de données est très souvent destinée à autre chose. Elle va servir à la conception et au développement des services eux-mêmes par le recours à des systèmes de statistiques d’utilisation devenus la norme dans l’industrie et appelés la télémétrie. 
Comment et pourquoi mesure-t-on ainsi en permanence les comportements et les réactions des utilisateurs ? A quoi répond cette logique de collecter des données, en grande quantité et en permanence, pour le développement de produits et des services de l’industrie informatique ?
Enfin, qu’est-ce que la télémétrie ? C’est un système implanté au sein d’un logiciel qui permet de mesurer des données relatives à son utilisation et à ses performances. Les mesures effectuées sont transmises à distance à un service en charge de les collecter et de les analyser. Pour les logiciels informatiques, les données sont alors utilisées afin d’informer sur le bon ou mauvais fonctionnement du logiciel, de manière ponctuelle ou continue (crashes de l’application, temps de démarrage, affichage de certaines pages, utilisation de certaines fonctions, …). La télémétrie peut également fournir des renseignements sur les usages des utilisateurs (quelles fonctionnalités sont utilisées ou pas, quels sont les temps d’utilisation) afin d’orienter les concepteurs dans les choix d’évolution du logiciel. Cette collecte d’information à distance inscrite dans le cycle de développement de produits vise à analyser rapidement, quasiment en temps réel et à grande échelle les tendances d’utilisation. Et aujourd’hui, la télémétrie se retrouve à peu près partout, dans les systèmes d’exploitation, les applications, les logiciels et j’en oublie. La télémétrie permet ainsi à un éditeur de logiciel de savoir comment son logiciel se comporte une fois installé, comment est-il pris en main par ses utilisateurs consentant ou pas et ainsi observer comment ils se comportent avec le logiciel. Le développement de l’informatique, des logiciels embarqués et des objets connectés, des Apps et des smartphones a favorisé le déploiement de la télémétrie dans de nombreux usages. Par exemple, la télémétrie d’une application sur un smartphone permet d’avoir accès aux données d’utilisation de l’application logicielle, aux mouvements du téléphone grâce à l’accéléromètre et la localisation GPS mais aussi à l’environnement par la captation sonore et vidéo.
Nous sommes donc entrés dans le monde merveilleux du « data-driven », ou orientation par les données. Le « data-driven » est partout puisqu’aujourd’hui toutes les pratiques de conception et de développement de produit et de management sont impactées.  Et pas seulement, parce que le « data-driven » se diffuse partout à grands coups de néologismes foireux, de « data-driven design », de « data-driven marketing », de « data-driven management », de « data-driven security » et je m’arrête là.
Alors le « data-driven » c’est quoi finalement ? 
Cela consiste à utiliser les données collectées dans les fichiers de « logs », à multiplier les indicateurs de suivi, à généraliser les usages des « analytics », à systématiser les statistiques d’utilisation et les tableaux de bord afin de faciliter les prises de décision en se basant sur des données qui auraient valeur de preuves. Le « data-driven » fait ainsi miroiter le miracle d’une méthode plus rigoureuse et plus scientifique, basée sur des faits observables plutôt que des intuitions et des opinions, afin d’éviter les conséquences dommageables des biais que les personnes en charge de prendre les décisions pourraient transmettre. Il vante ainsi le fait qu’une entreprise ayant recours à de tels outils serait capable de mieux répondre aux besoins de ses clients grâce à une connaissance optimisée des comportements, des aspirations et des frustrations, que cette grande quantité d’informations garantirait à l’entreprise de meilleurs résultats et de plus grands profits. Nous y voila ! Avec la petite phrase qui va bien : « The more you know, the better you grow. » ( « Plus de connaissances, c’est plus de croissance »). 
Mais ce n’est pas tout. On parle maintenant de « data-driven empathy » ou « empathie des données » qui permettrait même, selon les promesses marketing, de « donner vie » aux données collectées afin d’anticiper les besoins et de s’adresser aux utilisateurs de manière plus « pertinente, personnelle, utile, et même enchanteuse ». L’entreprise deviendrait ainsi capable de prédire les attentes et les comportements de chaque personne afin d’adapter automatiquement ses services de manière personnalisée. Comprendre ainsi comment les êtres humains se comportent, quels sont leurs objectifs et leurs aspirations, serait là bien sûr pour améliorer la vie de millions des humains parce que source de progrès et de bien-être pour l’humanité tout entière. Nous retrouvons là nos vieux ennemis, le capitalisme de surveillance, la personnalisation de masse, la surveillance et le surplus comportemental.
Le mirage entretenu par les défendeurs de ces approches est que l’approche « data-driven » promet une plus grande fiabilité et une meilleure efficacité des décisions, que les données sont objectives, qu’elles rendent compte de « faits » en sont des preuves scientifiques. Pourtant, baser ses décisions sur ces données n’est pas forcément gage de cette objectivité tant recherchée.
Déjà, il faut décider quoi mesurer et comment. Or, tout ce qui est mesurable n’est pas forcément utile ou pertinent. De plus, la décision de mesurer tel ou tel aspect de l’usage du produit influence la compréhension que l’on en a. Et si l’ambition est de décrire le monde avec des chiffres, cette mise en nombre en affecte aussi la représentation et la compréhension parce que ce processus s’appuie sur un ensemble de conventions qui sont nécessaires pour traduire de manière numérique quelque chose qui était auparavant exprimé par des mots. 
Par exemple : comment mesurer le bonheur ? Comment évaluer l’état de bonheur sur une échelle de 0 à 10 ? Un seul chiffre pour représenter quelque chose de complexe soumis à toutes sortes de contextes, d’analyses, de représentations…. Or, mettre en nombres, c’est « convenir et mesurer » afin de pouvoir ensuite distinguer, comparer, classer des éléments entre eux. Et le choix de ces indicateurs, la manière de les calculer et de les intégrer pour constituer le score final sont autant d’éléments qui influencent la représentation finale. « Une fois les procédures de quantification codifiées et routinisées, leurs produits sont réifiés. Ils tendent à devenir « la réalité », par un effet de cliquet irréversible. Les conventions initiales sont oubliées, l’objet quantifié est comme naturalisé […]». L’objectivité dans le rendu du réel montrée comme inhérente aux approches data-driven est une illusion au service d’intérêts pas souvent tournés pas les utilisateurs et les citoyens.
Le terrain de collecte des données n’est pas neutre. Ainsi, quand certains vendent la perspective de « voir le monde à travers les yeux des clients », ils ne vendent que la capacité de mesurer ce que les clients effectuent dans l’espace qui leur est imposé par le logiciel ou le service utilisé. Or, tel service programmé par un tiers influe nos comportements par la façon dont les fonctionnalités sont conçues, par le temps de réponse de l’application, par ses limitations et les bugs auxquels nous devons nous adapter.
Les données collectées doivent ensuite être interprétées correctement et être mises en contexte pour leur donner du sens. Face au caractère massif de ces collectes, ces analyses sont désormais de plus en plus automatisées embarquant de nombreux biais. Mesuré, quantifié, réduit à des chiffres et des indicateurs, l’humain data-driven dans son travail, dans sa vie privée n’a plus pour fonction que de maximiser ses performances et la plus-value produite au bénéfice d’une entreprise qui aspire à une omniscience, en fournissant les données utilisées pour maximiser son bonheur ! Le meilleur des mondes enfin possible ! 
Cette logique de contrôle qui se pare des voiles d’une productivité et d’une vie joyeuse et épanouissante, « surveillée par des machines d’amour et de grâce » ouvre par exemple la porte à la surveillance répressive des salariés. Amazon a mis en place une surveillance des conducteurs de camions de livraisons par un logiciel qui suit automatiquement l’activité de chaque personne en mesurant le nombre de colis scannés et qui peut décider de licencier automatiquement les moins productives. En 2018, Amazon a déposé deux brevets pour un bracelet permettant de surveiller les mouvements des mains des employés dans les entrepôts.
Plus récemment, dans le contexte du travail à distance imposé par les mesures contre la pandémie, l’entreprise Teleperformance a fait pression sur ses salariés afin qu’ils acceptent d’être surveillés chez eux.
Bienvenue dans notre meilleur des mondes dans lequel on mesure les comportements des utilisateurs d’un logiciel pour améliorer le produit et maximiser les profits de l’entreprise, dans lequel on mesure les comportements des travailleurs pour contrôler leur productivité, quitte à s’inviter dans la sphère privée lorsque le travail se fait depuis chez soi, dans lequel on mesure les comportements jugés illégaux ou anormaux dans l’espace public afin d’assurer l’ordre public. Dans ce meilleur des mondes, que cela soit pour maximiser les profits ou pour renforcer la dimension sécuritaire, il s’agit à chaque fois de collecter des données, beaucoup de données, d’en automatiser l’analyse, au moyen notamment de logiciels dits d’intelligence artificielle, de les utiliser comme outil de contrôle et de prédiction des comportements humains, selon des critères décidés par les personnes qui détiennent le pouvoir et qui n’hésitent pas à citer en modèle le regard omniscient de Dieu sur l’univers comme l’a affirmé Macron dans son discours de 2018 pour « commencer à créer ce que j’appelle la « vision de Dieu » d’une organisation […] qui s’appuie sur des preuves et des données, […] une vision magnifique [qui] va changer la manière dont les organisations fonctionnent ».
Pour Leibniz, « Dieu calcule pour nous le meilleur monde possible » et aujourd’hui se prennent à croire de jouer à Dieu par la massification de la collecte des données et le déploiement de machines apprenantes programmées pour mettre en place leur volonté d’optimiser le monde à leur service ! Pour notre bonheur !
Mais alors pourquoi ne voulons-nous pas de ce monde quantifié, mesuré « objectivement » qui nous livrerait avec un haut degré de certitude et de précision une représentation de notre réalité, comment nous nous comporterions, comment nous ressentirions et quelles seraient les prochaines actions ou comportements que nous devrions adopter pour faire progresser le bonheur et le bien-être de l’humanité ?
Résister à cela, c’est à contrecourant de la marche du monde, c’est promouvoir un retour…. À la lampe à huile et être réfractaires aux lumières rationnelles que les données nous apportent.
Alors quel est ce modèle politique de société que la télémétrie effrénée participe à façonner ? C’est le cauchemar d’un environnement rassurant, sécurisé, bien calibré, où tout serait anticipable et anticipé. C’est le cauchemar d’un monde qui aurait pour objectif de contraindre ou d’éradiquer ce qui nous constitue en tant qu’humains à savoir la spontanéité, l’imprédictibilité des émotions, l’imagination et l’expérimentation.
Alors commençons par encourager les expériences inattendues, le hasard et l’imprédictibilité dans nos comportements. Par désobéir par ce que ces moments où on se met à désobéir ensemble sont un moyen de revivifier la démocratie, de redécouvrir l’amitié politique, de signifier un refus collectif d’être gouverné comme ceci ou comme cela. La démocratie critique repose sur une exigence éthique au cœur du citoyen : j’obéis parce que je me commande à moi-même d’obéir et que j’ai la latitude de cesser de le faire quand je ne suis plus d’accord.
Mais aussi par créer autrement des outils et des technologies véritablement à notre service en nous détournant de ces « données » unitaires et parcellaires pour favoriser la compréhension par la communication directe et l’écoute de ce que les gens ont à partager, et « créer une expérience sûre, libre, inclusive, équilibrée dans laquelle toutes les personnes participent pleinement en étant entendus, compris, et prêts à créer un lien émotionnel durable ». JMG Le Clézio raconte cela avec classe en affirmant que « s’il reste un secret, c’est à l’intérieur de l’âme qu’il se trouve, dans la longue suite de désirs, de légendes, de masques et de chants qui se mêle au temps et resurgit et court sur la peau des peuples à la manière des épars en été ».
Voilà, le temps des Nowakowskismes est terminé pour ce soir. Pour finir, une dernière information. L’Assemblée nationale vient d’adopter une nouvelle loi légalisant l’usage de drones de surveillance par la police. Ce texte quasiment identique à celui déjà censuré par le Conseil constitutionnel en début d’année n’a pas empêché les parlementaires de le voter une nouvelle fois. Après s’être vu refuser à quatre reprises le droit de surveiller la population avec des drones, le gouvernement est revenu une cinquième fois à l’attaque. Deux arrêts du Conseil d’État, une décision de la CNIL et une décision du Conseil constitutionnel n’auront pas suffi pour empêcher le déploiement des drones avec caméra dans l’espace public venant ainsi compléter l’arsenal des caméras fixes, des caméras « nomades », des caméras-piétons : surveiller, toujours plus, retransmettre les flux en temps-réel à des centres de supervision et analyser et disséquer les images afin de transformer nos rues et nos déambulations en données exploitables par la police. Le texte ne parle plus seulement des drones mais de tout « aéronef » utilisé par la police (alinéa 2 de l’article 8). Ce qui veut dire que le texte légalise non seulement la surveillance par drones, mais aussi celle faite par hélicoptère ou par avion, une surveillance réalisée depuis longtemps par la police en toute illégalité sans qu’aucune institution (en particulier pas la CNIL) ne soit venue la gêner, et sans qu’aucun responsable ne soit condamné.

Références et sources 
Manière de voir. Vérités et mensonges au nom de la science. Octobre-novembre 2021
Futuribles, n°434, janvier-février 2020, Wired, Juillet 2019 
La loi Drones 2 https://www.laquadrature.net/2021/09/23/la-loi-drones-2-est-docilement-adoptee-par-lassemblee/ 
En toutes choses, il faut de la mesure : de l’usage de la télémétrie https://www.laquadrature.net/2021/09/24/en-toutes-choses-il-faut-de-la-mesure-de-lusage-de-la-telemetrie/ 
Josh Andrus, Making a Real Connection to Users, Nov 17, 2020 https://uxdesign.cc/making-a-real-connection-to-users-75fd64053dea 
Alex « Sandy » Pentland, The New Science of Building Great Teams, Apr 2012 https://hbr.org/2012/04/the-new-science-of-building-great-teams 
J.M.G. Le Clézio, Raga Approche du continent invisible
Podcast – https://hearthis.at/radio-campus-lorraine-mu/nowakowskismes-6.2-27092021-17/


Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.