Nowakowskismes 5.5. Dans les arcanes du capitalisme de surveillance…

« La question de savoir ce que signifie être humain face aux machines n’est plus si triviale. Nous ne devrions pas tant avoir peur des robots, que d’avoir peur de devenir nous-mêmes des robots. Il nous faut introduire des valeurs humaines dans la technologie plutôt que la technologie n’introduise ses valeurs dans notre humanité. Pour cela, il faut être capable de mesurer quand une technologie est déshumanisante ou quand les humains ne pensent pas ou ne se comportement pas en humains ». Ces mots sont ceux de Philip K. Dick dans une de ses conférences que vous pouvez retrouver dans le livre intitulé « Si ce monde vous déplait… et autres essais ». 
Derrière ces mots presque prophétiques des enjeux de notre temps, on y retrouve les questions anciennes du chez-soi et de l’exil, du souverain et du sujet et de l’autorité et du pouvoir. En d’autres termes, ce sont les thèmes éternels du savoir, de l’autorité et du pouvoir pour lesquels chaque génération doit affirmer sa volonté et son imagination dans un contexte de nouvelles menaces. 
« Si la technique est souvent dénoncée comme susceptible d’inhumanisation, il n’en demeure pas moins qu’elle est inséparable de l’idée même de l’homme, de l’humain et ce qu’on nomme humanisme. L’homme est celui qui invente des possibilités d’émergences du réel, et décider ne plus rien faire apparaître que ce qui a déjà été l’objet d’une apparition mutilerait aussi l’humanisme ». Ces mots sont de Chomsky dans un recueil de conférences intitulé Quelle sorte de créatures sommes-nous ? 
Quelle sorte de créature sommes-nous en effet quand notre expérience vécue ne peut plus se concevoir sans une béquille numérique, sans ce smartphone et des applications chargées de nous proposer une « expérience unique et personnelle » ? 
Qu’avons-nous perdu ou gagné pour que l’accès au monde ne puisse plus se concevoir sans cette interface numérique, sans cette collecte massive des données donnant l’illusion de la personnalisation, sans cette intrusion permanente de la recommandation qui nous ressemble ? 
Enfin « pouvons-nous habiter le futur numérique ? », au coeur d’un monde interconnecté qui augmente et enrichit de différentes façons nos capacités et perspectives en faisant aussi surgir de nouveaux territoires d’angoisse, de danger et de violence, avec le sentiment que l’idée d’un avenir prévisible s’évapore de plus en plus vite chaque jour. 
En fait, et c’est ce que nous allons tenter d’explorer ce soir, nous assistons à bien plus qu’une (r)évolution numérique, il s’agit en fait d’une nouvelle ère du capitalisme qui a trouvé comment exploiter la technologie à ses fins. 

Bienvenue dans un monde de « capitalisme de surveillance ». 

Avec Shoshana Zuboff nous affirmons que « la technologie est juste la marionnette : le capitalisme de surveillance est celui qui tire les ficelles. (…) Il est impossible d’imaginer le capitalisme de surveillance sans numérique, mais il est facile d’imaginer le numérique sans capitalisme de surveillance. Ce capitalisme n’équivaut pas la technologie. Il repose sur les algorithmes, l’intelligence artificielle, etc., mais il n’est pas la même chose que chacune de ces technologies-là ». 
Les modèles des géants du numérique sont aujourd’hui bien connus mais il est important de les replacer dans un contexte plus large. Tout ce qui se joue ne se résume pas seulement à des algorithmes complexes mais constitue la dernière phase de la longue évolution du capitalisme. En effet, après la production de masse, le capitalisme managérial, l’économie des services, le capitalisme financier, nous sommes entrés dans une nouvelle ère du capitalisme, fondée sur l’exploitation des prédictions comportementales issues de la surveillance des utilisateurs. 
En fait, le capitalisme évolue et se développe en prenant des objets qui existent en dehors de la dynamique du marché. Il les absorbe en les transformant en objets qui peuvent être vendus et achetés. Le capitalisme industriel a fait cela à la nature, une nature qui vivait innocemment sa propre vie. Les prairies, les rivières et les forêts se sont trouvées intégrées à la dynamique du marché et transformées en sources de matières premières, en sources d’énergie, en biens fonciers et immobiliers, en choses qui peuvent être vendues et achetées. Au cours de cette marchandisation, la nature comme nature a disparu. Elle n’a plus été perçue que sous sa forme marchande. La nature n’était pas en elle-même une marchandise, elle n’est pas née marchandise, mais elle est devenue marchandise par l’action du capitalisme.
Au commencement du XXIe siècle, le siècle qui deviendra le siècle du numérique, au coeur de la Silicon Valley, se produit un cataclysme qu’on a appelé « l’effondrement de la bulle Internet ». Le marché se rend compte que toutes ces petites start-up ont été surévaluées et qu’elles n’ont pas trouvé de moyen de monétiser leurs activités. Elles sont sur Internet, elles ont des clients et elles offrent des produits et des services, mais elles ne gagnent pas d’argent. Elles n’ont pas trouvé ce qui a été identifié sous l’appellation de « marchandise fictionnelle ». La panique s’empare alors de la Silicon Valley et on cherche désespérément une réponse à des questions sur ce que sera la « marchandise de la nouvelle économie, qui pourra être vendue et achetée, qui produira ex nihilo des revenus et du profit ? » Malheureusement, personne ne savait, ne comprenait et n’avait la réponse.
C’est Larry Page qui, en 2001, donnera la réponse, ou plutôt qui re-formulera la réponse que les pionniers de l’internet avaient déjà formulée. 
Cette réponse est « les données personnelles » et au-delà l’expérience humaine personnelle. L’expérience humaine personnelle devient alors le nouveau territoire vierge, la nouvelle frontière, les nouvelles terres inexploitées pouvant être transformée en marchandise. L’expérience humaine personnelle devient la nouvelle source de matière première qui peut être introduite dans la dynamique du marché. 
Donc, à la place de la nature, c’est la nature humaine qui devient une matière première disponible, traduite en données comportementales par les processus informatisés de ces entreprises. Shoshana Zuboff écrit alors que « le capitalisme de surveillance s’approprie l’expérience humaine comme matière première gratuite et la traduit en données comportementales. Même si certaines de ces données servent à améliorer des services, le reste est utilisé comme surplus comportemental, intégré dans des processus de « machine intelligence » avancés puis transformés en produits prédictifs qui anticipent ce que vous voudrez faire maintenant, bientôt et plus tard. Au bout du compte, ces produits prédictifs sont échangés sur une nouvelle forme de places de marché que j’appelle marchés futurs comportementaux ».
Pourquoi, à votre avis, Google s’est-il mis à développer son Google Maps, son Google Doc, Gmail, Google agenda … a investi massivement dans la santé, et s’est mis à acheter des entreprises fabriquant des thermostats connectés, et à déployer son Google Home ? Evidemment, pour maximiser ce surplus comportemental et faire mentir le fameux adage « si c’est gratuit, c’est que vous êtes le produit ». Au lieu d’être le produit, l’utilisateur est alors un paramètre dans la fabrication des prédictions comportementales sur son futur qui seront ensuite vendues au plus offrant au profit astronomique de Google. Parce que « Google a mis au point de nouvelles méthodes de capture de ce surplus, capables de dévoiler des données que les utilisateurs ont délibérément choisi de garder confidentielles et de déduire des informations personnelles que les utilisateurs ne fournissent pas ou ne souhaitent pas fournir. L’objectif est ensuite d’analyser ce surplus pour rechercher des significations cachées pouvant prédire les futurs clics. Les données liées à ce surplus sont devenues la base des nouveaux marchés prédictifs : la publicité ciblée ». 
Où vont toutes ces données comportementales initialement considérées comme confidentielles ? Eh bien, elles sont transférées dans ce qu’on peut appeler une nouvelle « chaîne d’approvisionnement ». Chaque interface avec des entreprises comme Google, chaque interface activée au sein des interconnexions du réseau est alors une des composantes de cette formidable usine mondiale d’approvisionnement. Et tout cela commence dans les recherches que nous faisons et de nos navigations en ligne, pour finir au sein des réseaux de chaînes d’approvisionnement complexes qui étendent leurs ramifications à toutes les activités en ligne.
Les données comportementales qui n’ont de confidentielles que le nom sont acheminées, comme toutes les matières premières, vers des usines. À l’ère numérique, les usines portent les jolis noms d’« intelligence artificielle », d’« apprentissage machine » ou d’« apprentissage automatique ». 
Voici la recette du capitalisme de surveillance, un mélange inédit et lucratif de surplus comportemental, de sciences de la donnée, d’infrastructure matérielle, de puissance de calcul et de plateformes automatisées. En 2004, Google entre en Bourse, et c’est à ce moment-là que la puissance de ces nouveaux mécanismes prend publiquement toute sa mesure. Google révèle alors que ses revenus ont augmenté de 3590% depuis 2001.
Ce surplus comportemental ne se limite pas aux « informations personnelles », données sciemment à Google, Facebook, Amazon, Microsoft, Twitter ou autre. Ces informations personnelles données sciemment en échange de services gratuits ne représentent qu’une infime partie des informations qu’ils possèdent. Le modèle prédictif repose alors sur l’intégration de chacune des empreintes laissées dans le monde numérique, chaque trace de l’activité sur Internet, où que ce soit. 
Avec Facebook apparaît la collecte d’informations étendue. Par exemple, ce ne sont pas seulement les photos d’un visage qui sont taguées, mais les couleurs même de la photos. Les photos sont également décortiquées par des programmes d’analyse des expressions du visage pour y déceler de micro-expressions trahissant les émotions, et par là e déduire par corrélation des comportements. Toutes ces données sont des surplus comportementaux dont l’utilisateur n’a pas forcément conscience. Tout cela a commencé avec les traces laissées en ligne, puis s’est étendu à tous nos comportements, à tous nos déplacements, par le déploiement de ce mythe du nomadisme et son avatar technologique, le smartphone bardé de capteurs de tous nos faits et gestes. 
Le principe de la dynamique du capitalisme de surveillance consiste en la collecte de la totalité des données, parce que la totalité des données doit mener à une certitude parfaite. Le capitalisme de surveillance a mis en place des usines de calcul fabriquant des produits de prédiction (predictive products) qui sont ensuite vendus sur des marchés à terme comportementaux (behavioral futures markets). 
Shoshana Zuboff parle de « marchés à terme humains » (human futures markets) parce que ce sont des marchés qui négocient des contrats à terme humains, tout comme il y a des marchés pour négocier des contrats à terme sur la viande, sur le pétrole ou sur le blé. Sur ces  « marchés à terme humains », on y vend de la certitude. 
Pour cela, il faut beaucoup de données, parce que les programmes d’I.A. sont meilleurs s’ils disposent de toujours plus de données. De plus, ces données doivent être diversifiées et provenant de multiples sources. Pour cela, il faut sortir de la métaphore du web et des écrans, pour entrer dans l’au-delà, dans les maisons, les voitures, les villes, les parcs, les restaurants, les cafés, les chambres en étant toujours plus intrusif. Ces programmes apprennent ainsi à influencer les comportements, non seulement à observer mais à intervenir activement dans le cours de nos vies ordinaires et à les régler en s’y insinuant de diverses manières – indices subliminaux, nudges, dynamiques de comparaison sociale artificielles, microciblages psychologiques, gamification, récompenses et punitions en temps réel. Tout cela vise à maximiser la certitude et les résultats attendus des prédictions.
Ce pouvoir d’influencer les comportements « n’a aucun fondement démocratique ni légitimité morale puisqu’il usurpe nos droits décisionnels et érode notre autonomie individuelle, pourtant essentielle dans une société démocratique ».
Là se joue notre capacité à défendre nos propres futurs. 
Parce qu’en utilisant les services du capitalisme de surveillance, les individus acceptent bien plus que la seule perte de contrôle sur leurs données. Ils placent leurs vies personnelles et professionnelles sous le contrôle du marché, de la même façon que les joueurs de Pokémon Go, guidés par leurs écrans, franchissent les portes de magasins sans avoir pris conscience de s’être fait quasiment piloter à distance.
Et là, la démocratie court un grave danger. Elle s’est « endormie pendant que les capitalistes de la surveillance ont accumulé une concentration inédite de connaissances et de pouvoir. (…) ». On entre dans un XXIe siècle dans lequel les programmes du capitalisme de surveillance en savent plus sur nous que nous en savons sur nous-mêmes ou que nous en savons à leur sujet. « La combinaison de la surveillance par l’Etat et par son équivalent capitaliste signifie que la technologie sépare les citoyens en deux groupes : les observateurs (invisibles, inconnus, non-responsables) et les observés. Les conséquences sur la démocratie sont profondes car l’asymétrie de savoir se traduit en asymétrie de pouvoir. Mais là où la plupart des sociétés démocratiques ont un minimum de contrôle sur la surveillance exercée par l’Etat, nous n’avons aujourd’hui pas de contrôle réglementaire sur la surveillance des entreprises privées ».
Ainsi, lorsque les gens clament « je n’ai rien à cacher », ils disent en fait « je me moque de mes droits ». En fait, avec Ignacio Ramonet auteur de L’empire de la surveillance, la réalité est que si vous cessez de défendre vos droits,  si « je n’ai pas besoin de mes droits dans ce contexte », ce ne sont plus des droits. On les a convertis en quelque chose dont on jouit comme d’un privilège révocable. Et cela réduit l’étendue de la liberté au sein d’une société ».
Parfois, il semble qu’il n’y a pas d’espoir. Mais ce n’est pas encore le cas. En effet, depuis vingt ans, il n’y a pratiquement pas eu de loi pour faire obstacle à cette tendance. Il y a bien eu des dispositifs comme le RGPD (Règlement Général sur la Protection des Données) mais ce n’est qu’un début, et certainement pas une fin. Tout reste encore à faire. 
Ceci doit déjà passer par des rappels permanents de la nécessité de chacun de disposer d’un jardin secret. En 2009, Eric Schmidt, alors PDG de Google disait que « si vous faites quelque chose que vous ne voulez pas que d’autres apprennent, peut-être devriez-vous commencer par ne pas la faire ». Un discours à la base de tous les régimes totalitaires depuis l’aube des temps. Pour être libre et épanoui, il est indispensable d’avoir un jardin secret à l’abri du jugement des autres. 
Pourquoi ? Parce que se savoir observé modifie le comportement en amplifiant les tendances au conformisme. Des comportements que nous pensons observés incitent à une forte autocensure. C’est une évidence de la nature humaine. Chez les humains, la honte est une motivation très puissante, de même que le désir de l’éviter. C’est pourquoi les individus, lorsqu’ils sont observés, prennent des décisions qui résultent, non pas de leur propre réflexion, mais des attentes qu’on a mises sur eux, ou des règles de la société.
Enfin, le conformisme est destructeur pour l’esprit critique, la créativité et la capacité à s’insurger, à désobéir, à transgresser. Une société où les gens sont surveillés à chaque instant est une société qui pousse à l’obéissance et à la soumission. De même, il faut pouvoir disposer de la possibilité d’aller dans des lieux où l’on peut penser, interagir et parler sans ressentir le jugement d’autrui et une surveillance permanente, des lieux de culture de la créativité, de l’expérimentation et surtout du débat libre.
En ce début de XXIe siècle, il va être essentiel de définir un droit qui garantisse à chacun la souveraineté sur son expérience personnelle. Ce droit dirait que si je veux que mon expérience personnelle soit traduite en données, et si je veux partager ces données à une entité quelle qu’elle soit, ce sont des décisions que je prends en toute connaissance de cause.
Aujourd’hui, l’urgence est que, pour les citoyens et pour tous ceux qui se soucient de l’avenir de la démocratie, d’élaborer un modèle de société intégrant cette dimension numérique. 

Il y a eu au XVIIIème siècle, le Contrat social de Rousseau, puis à la fin du XXème siècle, le Contrat naturel de Michel Serre, peut-être nous faut-il maintenant rédiger un Contrat éco-numérique ?  

 

Enfin, pour nous évader de notre prison, nous allons nous tourner vers l’univers extérieur avec La trilogie des Trois corps écrite par l’écrivain de science-fiction chinois, Liu Cixin. 
Le premier tome de cette trilogie tire son nom d’un célèbre problème de mécanique céleste qui consiste à trouver les solutions mathématiques possibles permettant de décrire les mouvements de trois astres s’attirant les uns les autres sous l’effet de la gravitation. Cette trilogie est également connue sous le nom de Chroniques de la Terre (Diqiu wangshi 地球往事), du nom d’un ouvrage écrit par un des protagonistes du dernier tome. 
Celle-ci raconte une épopée qui débute avec la Révolution culturelle chinoise et s’achève par la mort thermique de l’univers.
La longueur et la densité de cette trilogie sont telles qu’il est difficile de présenter en quelques phrases l’histoire. On peut malgré tout la résumer ainsi. 
Ye Wenjie, une jeune astrophysicienne envoyée pendant la Révolution culturelle dans un camp de rééducation par le travail dans la région reculée de la Mongolie intérieure, découvre que la base dans laquelle elle travaille abrite un programme de recherche d’intelligence extraterrestre. Par un concours de circonstances, elle parvient à prendre contact avec une civilisation extraterrestre vivant dans un système instable, Trisolaris, soumis à de fréquents et funestes bouleversements climatiques et menacée d’un effondrement gravitationnel (le problème des trois corps). Dégoûtée par son expérience de la Révolution culturelle, Ye Wenjie révèle volontairement les coordonnées de la Terre, offrant aux habitants de Trisolaris une chance d’envahir la Terre, plus propice à leur survie, et d’annihiler ses habitants. Les humains, prévenus de l’invasion prochaine des Trisolariens (quatre siècles sont nécessaires à la flotte trisolarienne pour parcourir la distance entre Proxima du Centaure et la Terre) tentent de s’organiser pour parer à cette menace. 
Le deuxième et le troisième tome présentent de façon approfondie l’éventail des ripostes pensées par l’humanité.
À partir de cette intrigue, Liu Cixin tente d’apporter une réponse au paradoxe de Fermi. Le paradoxe de Fermi, qui tire son nom du physicien Enrico Fermi, peut être résumé ainsi : « S’il y avait des civilisations extraterrestres, leurs représentants devraient être déjà chez nous. Où sont-ils donc ? ». Une des réponses est donnée par un des personnages, Luo Ji. Il propose l’hypothèse de la « forêt sombre » qui dit que l’univers est une forêt obscure dans laquelle chaque civilisation est un chasseur armé d’un fusil. Le premier qui révèle sa position aux yeux de l’autre s’expose à être détruit. Les civilisations choisissent alors de rester cachées.
La trilogie est parcourue de variations autour de la théorie des cordes et des dimensions supplémentaires. L’un des autres postulats, esquissé dans le premier tome mais développé en profondeur dans le troisième dernier, est que les civilisations les « plus avancées » sont celles qui se distinguent par leur maîtrise du déploiement dimensionnel.
Finalement, la question fondamentale posée par Liu Cixin est la suivante : comment l’humanité est-elle capable de se réinventer, collectivement et individuellement, dans l’attente consciente de sa destruction future ? Pour cela, l’auteur imagine tous les scénarii possibles : l’apparition de nouvelles religions, de nouvelles forces militaires ou politiques, de nouvelles alliances géopolitiques, de nouvelles institutions internationales, ou bien l’impact de crises économiques, diplomatiques ou militaires déclenchées par l’avenir lugubre de la planète Terre. 
Liu Cixin interroge la place prise par le développement technologique, la science, la littérature, l’histoire, la rédemption ou encore le hasard « dans un univers où tout optimisme est brisé par l’universalité de la mort : celle de l’individu, de l’État, de l’Empire, des espèces, de la planète, du soleil de la galaxie et de l’univers ». 
Lisez Liu Cixin.  

Voilà, le temps des Nowakowskismes est terminé pour ce soir et finissons avec quelques vers en désordre de Wystan Hugh Auden
« La nuit dans nos cabanes, nous rêvons de prendre part 
Aux bals de l’avenir.
Glacés par le présent, ses ténèbres, son vacarme, 
Au réveil, nous aspirons à un ancien Sud.
Et jamais nous ne serons sans défaut,
Nous vivons libres par nécessité, 
Peuple montagnard habitant des montagnes ». 

Sources et références

L’âge du capitalisme de surveillance. Shoshana Zuboff, 2020 
Shoshana Zuboff : « Nous avons besoin de nouveaux droits pour sortir du capitalisme de surveillance » par Yves Citton – https://aoc.media/entretien/2020/10/23/shoshana-zuboff-nous-avons-besoin-de-nouveaux-droits-pour-sortir-du-capitalisme-de-surveillance/ 
Voir les analyses du capitalisme faites par Adam Smith, Max Weber, Karl Polanyi et Karl Marx
Un capitalisme de surveillance par Shoshana Zuboff https://www.monde-diplomatique.fr/2019/01/ZUBOFF/59443 
https://signauxfaibles.co/2019/02/09/lage-du-capitalisme-de-surveillance/
Demain est-il ailleurs ? Odyssée urbaine autour de la transition numérique. Bruno Cohen et Samuel Nowakowski, FYP Editions 2020 
Podcast de cet épisode : https://hearthis.at/radio-campus-lorraine-mu/nowakowskismes-5.5-11112020-11.34/

 


Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.