Nowakowskismes 7.12. Bullshit Generator 23

Ce monde est archive… (Tiago Rodrigues)

« Lorsque l’esprit s’endort 
Les machines s’éveillent ». 
Celui ou celle d’entre qui n’aurait pas entendu parler de ces 3 lettres, a très certainement passé ces dernières semaines au milieu de la jungle du Chiapas, sans radio, ni téléphone, et surtout en étant coupé des grands médias et de leurs flux permanents d’informations à sensations. Ces trois lettres, vous vous en doutez, ce sont gimme a G, gimme a P, gimme a T, qu’est-ce que c’est, GPT !
GPT c’est pour Generative Pre-trained Transformer suivi de 3, ça fait manga ou film de série B, GPT c’est un modèle géant de prédiction de textes entraîné par l’entreprise OpenAI qui l’a développé, à partir d’un ensemble composé de 500 milliards de mots. GPT-3 existe depuis environ deux ans. Affublé du préfixe, Chat, on obtient ChatGPT qui le fait appartenir aux grands modèles de langage qui permettent d’en automatiser la génération, et l’analyse. 
Bienvenue sur la 3e planète du système solaire ! 
Bienvenue en anthropocène ! 
Bienvenue dans les Nowakowskismes
En ces temps qui ont vu surgir dans l’espace médiatique des générateurs d’images se prenant pour autant d’oeuvres d’art, les Nowakowskismes s’intéressent ce soir à l’un des derniers avatars de la société OpenAI, ce « chatbot », cette interface conversationnelle avec qui nous, humains, pouvons « discuter » ou demander de « rédiger » une lettre d’amour ou un texte universitaire. Ce nouveau joujou planétaire porte le nom de code, Chat GPT-3.
Ce soir dans les Nowakowskismes, nous allons vous rappeler ce qu’est réellement ChatGPT, qu’il n’est pas vraiment nouveau, qu’il n’est en rien intelligent et qu’il est une nouvelle manifestation de la guerre que mène le capitalisme pour remplacer les travailleurs humains ou, mieux encore, pour les précariser encore plus alors qu’il faudrait nous demander où sont les technologies dont les gens ont vraiment besoin pour une production socialement utile. Prêts pour cette plongée ? Prenez une grande bouffée d’air pur et… c’est parti !

ChatGPT s’appuie sur InstructGPT, un modèle conversationnel à apprentissage renforcé par les retours des humains. Ce procédé se dit en anglais Reinforcement Learning from Human Feedback ou RLHF. L’apprentissage par renforcement s’appuie sur des séries de récompenses et de pénalités qui vont assurer plusieurs fonctions ; celle de renforcer la cohérence du texte généré, d’éviter les contre-vérités flagrantes mais aussi modérer par anticipation de potentielles dérives toxiques. InstructGPT est ainsi une version renforcée de GPT-3 élaborée à partir des annotations issues de ce renforcement des textes générés afin que, dans l’ensemble des réponses linguistiquement correctes que GPT-3 pourrait générer, chatGPT choisisse celles qui sont les plus correctes dans le contexte d’usage. Ce processus prend le nom d’alignement, ce qu’on nomme « AI alignment ». 
Le modèle de langage GPT-3 exploite également le corpus Common Crawl. Il s’agit d’une base de données qui récupère aléatoirement des milliards de mots issus de pages web et des liens associés, les analyse et les modélise à l’aide de l’algorithme BPE. BPE, pour Byte-Pair Encoding, est initialement un algorithme de compression des textes. OpenAI l’utilise pour la tokenisation et ainsi permettre l’analyse lexicale et sémantique de ce qui a été collecté. La tokenisation consiste à convertir une chaîne de caractères en une liste de symboles, les tokens en anglais.
GPT-3 s’appuie aussi sur un autre corpus, WebText2 qui agrège des milliards de mots extraits des URL envoyés sur Reddit. GPT-3 s’appuie également sur deux autres corpus, Books1 et Books2, ainsi que sur une extractions de pages Wikipedia.
À ces agencements d’écrits s’ajoutent des agencements dialogués puisque le modèle GPT-3 est aussi en partie post-supervisé. Ça veut dire quoi ? Et bien que des opérateurs humains, beaucoup d’opérateurs humains, vont venir valider, compléter, étiqueter certaines séquences linguistiques (phrases, énoncés) pour procéder à différents ajustements dans une logique d’optimisation mais aussi de conformité sociale, pour éviter les dérives. Une première question se pose alors. Dans cette phase supervisée de l’apprentissage, quelle est la quantité d’humains sous-payés et astreints à des formes de Digital Labor dans des pays pauvres ? Parallèlement, quel est le nombre d’ingénieurs installés dans le confort de leurs bureaux californiens, sûrs de leur supériorité, à la manière de ce que disait John Winthrop, le pasteur puritain du Mayflower, qui disait : «  Nous serons comme une cité sur une colline, les yeux de tous les peuples […] sur nous » ? 
Ces modèles de langage nouveaux, au-delà de volumes considérables de données qu’ils utilisent pour leur entrainement, se caractérisent aussi par le nombre de paramètres servant à régler les générations de textes. Ainsi, GPT-3 compte 175 milliards de paramètres, sachant qu’un paramètre désigne un élément du modèle qui résulte des données initiales d’entraînement. Cet incroyable saut quantitatif est aujourd’hui rendu possible par les ordinateurs modernes, leur puissance de calcul et de stockage dont nous disposons. 
Nous sommes ainsi face à un système qui s’appuie sur un corpus de 500 milliards de tokens d’’entrée, les mots et les expressions qui ont entraîné le modèle d’apprentissage et de prédiction et un modèle manipulant 175 milliards de paramètres qui sont autant de possibilités d’agencement génératif de ces 500 milliards de tokens.
En fait, les grands modèles de langage comme la famille GPT apprennent la structure statistique du langage en optimisant leur capacité à prédire les mots manquants dans les phrases (comme prédire quel mot a la probabilité la forte de prolonger la phrase « le chat était assis sur le … »).
Donc, malgré le côté impressionnant et sensationnel de tout cela, ceci n’est rien d’autre qu’un jeu de devinettes informatique. Et plus que cela, ChatGPT n’est qu’un générateur de conneries au service d’une guerre des classes organisée par le monde ultra-libéral. 
Evidemment, vous allez me demander, pourquoi appeler ce formidable outil dont tout le monde parle saturant les médias jusqu’à la nausée, un « générateur de conneries » ? 
Parce que comme tout le monde, vous avez testé, vous avez été épatés, et vous vous êtes dits, je vais pouvoir lui confier des trucs à rédiger, lui demander de répondre à mes examens, … faire mon discours (cela dit pour faire un discours, il n’y a pas besoin d’un générateur de conneries s’appuyant sur un modèle de langage sur-puissant, la preuve tous les jours sur les médias et dans la vie politique). Donc un générateur de conneries parce que, si une phrase générée a du sens pour vous, lecteur ou lectrice, cela signifie que le modèle mathématique a fait une supposition suffisamment bonne pour passer votre filtre de sens. Parce que le modèle de langage n’a aucune idée de quoi il parle, d’ailleurs, qu’on se le dise, il n’a aucune idée de quoi que ce soit. Il est même plus bête que le complotiste le plus idiot que vous ne rencontrerez jamais, parce que ChatGPT ne fait que produire des affirmations sans fondement avec une confiance calculé sans faille parce que c’est ce pour quoi il est conçu.
De plus, la promotion de tout cela est assurée gratuitement par des bataillons de journalistes avides de sensationnel, un titre agitant la peur de l’IA fait vendre, et d’universitaires avides de médias et de reconnaissance médiatiques, dont la plupart n’a jamais vraiment pris la peine de creuser le sujet. 
Ce qui fait que les utilisateurs sans méfiance et ignorants, conditionnés par Siri, OK Google et Alexa supposent que ChatGPT puise dans des sources de connaissances qu’ils croient fiables. Or, il ne peut s’appuyer que sur la vaste part du web qu’on lui a fait ingérer pour sa formation, donc pas question pour ce système d’avoir été formé sur les derniers événements du monde humain. De plus, ces modèles sont totalement incapables de citer leurs propres sources, même lorsqu’ils plagient manifestement les données qui ont servi d’entraînement. Ainsi, la nature même de ChatGPT en tant que générateur de conneries le rend nocif, et il devient encore plus nocif à mesure qu’il est optimisé. S’il est capable de produire des articles plausibles ou du code informatique, cela signifie que les inévitables hallucinations deviennent de plus en plus difficiles à repérer. Le constat terrible est que si un modèle de langage nous incite à lui faire confiance, c’est qu’il a réussi à atteindre le Graal de la tech ultra-libérale à savoir, disposer enfin d’une en « IA digne de confiance » ! Le problème, et il n’est pas des moindres, c’est que faire confiance à toutes ces formes d’apprentissage automatique nous conduit à autoriser et mettre en place des processus autorisant la violence algorithmique, qui feront qu’une mère célibataire pourra voir sonner à sa porte des agents de la sécurité sociale parce qu’un algorithme prédictif l’aura classée dans la catégorie des fraudeuses probables (je vous invite à réécouter les Nowakowskismes, 7.4 intitulés Notre meilleur des mondes https://nowakowski.hypotheses.org/1669) !  
Mais ce n’est pas tout. Les créateurs de GPT ont appris par expérience qu’un modèle de langage non surveillé va avoir tendance à déverser des tombereaux de discours de haine en plus de dire des bêtises. Pour éviter cela, ils font appel à cet apprentissage par renforcement à partir de la rétroaction humaine, le RHLF. Bien que l’ensemble de données de formation soit trop volumineux pour un étiquetage humain, un petit sous-ensemble de données conservées est utilisé pour créer un système de surveillance qui tente de limiter la génération de ces discours haineux en s’appuyant sur des critères de pertinence et de non-toxicité. Cela n’empêche pas que ces modèles ont été appris à partir du web brut, y compris avec toutes les théories délirantes, et autres théories du complot qu’on y trouve et malgré ces prétendues sécurités, on peut voir très rapidement tout ce qui se cache sous cette couche de bien-pensance autoritaire. 
N’oublions pas non plus que malgré les rodomontades de ces entreprises affirmant au et fort que les LLM sont en grande partie auto-formés, la réalité est que pour fonctionner et rester dignes de confiances, tous ces systèmes font appel massivement à un «travail invisible» précarisé. L’IA n’est pas de la science-fiction mais une intensification de l’exploitation des plus précaires par la technologie. Les 2 $/heure payés aux travailleurs externalisés au Kenya, des hommes, des femmes et des enfants exploités pour étiqueter les contenus afin de permettre au système d’éliminer ce qu’il ne veut pas voir. L’IA n’est rien d’autre qu’un nouvel avatar de l’exploitation des plus pauvres, des plus précaires, des femmes plus généralement pour que certains puissent discourir sans vergogne sur l’innovation et la compétitivité. 
Les dangers de ChatGPT, comme pour tout ce qui relève du déploiement sans raison de toutes ces applications d’IA, vont bien au-delà des préjugés et de la discrimination. Malgré la preuve que les pouvoirs de raisonnement de ces chatGPT et les autres se limitent à des heuristiques superficielles basées sur la fréquence des associations dans les données de formation, nombreux, et c’est malheureux, sont les membres de la communauté de l’IA qui insistent, viennent pérorer dans les médias, pour attribuer des propriétés émergentes de raisonnement et de perspicacité à ChatGPT ! D’ailleurs, OpenAI, la société mère, a été créée « pour garantir que l’intelligence générale artificielle profite à toute l’humanité », où « l’intelligence générale artificielle » désigne une intelligence de type humain qui irait au-delà de la bête IA ne permettant que la reconnaissance faciale ou le pilotage des voitures autonomes. Or, le concept « d’intelligence générale artificielle » est inséparable la de hiérarchie de l’intelligence née des théories suprémacistes venues des temps de l’empire et du colonialisme. Il n’est donc pas surprenant que ces cultures de la Silicon Valley qui ne se tarissent pas d’éloges pour ChatGPT décrite comme une « intelligence générale artificielle » émergente montrent également une allégeance à des visions du monde basées sur la supériorité d’une partie de l’humanité sur l’autre, promouvant dans lequel la vulnérabilité et la misère de milliards d’humains ordinaires ne comptent pour rien dans cette course au monde de demain comme ils savent si bien le dire dans leurs slogans publicitaires. 
En attendant, grâce au battage médiatique incroyable, OpenAI empoche des milliards de dollars. Le problème n’est pas celui de ces sommes incroyables empochées mais les raisons pour lesquelles les institutions et les gouvernements sont prêts à investir autant dans ces technologies. Pour eux, ce qui est à financer ce n’est pas OpenAI mais la vision de ces technologies capables de remplacer les travailleurs humains ou, mieux encore, pour les précariser encore plus. ChatGPT n’est en fait pas vraiment nouveau, ce n’est qu’une étape supplémentaire sur un chemin et une guerre des classes qui ont débuté avec les révolutions industrielles. Que des commentateurs prétendument bien informés, se partageant tous les plateaux TV puissent affirmer que ChatGPT sera utilisé pour « réduire la charge de travail du personnel » plutôt que pour de nouvelles réductions de personnel illustre l’indigence généralisée du discours et de la l’incapacité à comprendre en quoi l’IA constitue un projet politique. Pourquoi ? Parce que ces technologies ne sont rien d’autres que des outils visant à automatiser la violence administrative et à amplifier l’austérité. En fait, ChatGPT et tous les autres sont capables d’une telle distorsion de la perception de la réalité de ce monde qu’elles nous incitent à poser les mauvaises questions et à nous inquiéter des mauvaises choses. En fait, au lieu de nous émerveiller, nous devrions nous demander s’il est acceptable de brûler de telles quantités d’énergie pour alimenter le plus gros générateur de conneries de l’histoire de l’humanité. Et les discours du PDG d’OpenAI ne sont pas là pour nous rassurer quand il affirme que nous, les humains, ne sommes tous rien d’autre que des « perroquets stochastiques » à la manière des modèles de langage, que nous ne sommes rien que des générateurs statistiques de modèles appris, qui n’expriment rien de profond. Alors, bien sûr, les élites à la barre de ces entreprises ne s’appliquent pas ce discours à elles-mêmes, juste au reste du monde. 
Alors, au lieu d’un solutionnisme technologique réactionnaire et destructeur, demandons-nous quelles sont les technologies dont les humains ont vraiment besoin. Reprenons aussi l’idée d’une production socialement utile, de développements technologiques qui partent des besoins de la communauté dans le respect de l’environnement, de la planète et de tout le vivant. La nouvelle normalité post-Covid a promu des modèles de transformateurs et des modèles de diffusion non pas créatifs mais carcéraux, stérilisant notre capacité à imaginer de véritables alternatives. Alors, au lieu d’être complices de ces jouets coûteux et aliénants, fonctionnant au coeur de data centers super émetteurs de gaz à effets de serre, nous pourrions plutôt nous concentrer sur les activités donnant réellement du sens à la vie bonne et au vivant, dans un refus de la paupérisation algorithmique et des risques de perpétuation des stéréotypes, le refus des discriminations, le refus de l’instauration de normes d’exclusion, le refus des outils favorisant la propagation de langage toxique, le refus tout simplement ne servant que l’a prédation du monde par quelques-uns. En fait, ce n’est pas le moment de discuter avec l’IA, et comme le dit Chomsky, « ce système de plagiat high-tech essentiellement conçu pour éviter d’apprendre », il ne s’agit pas de discuter avec mais de lui résister, il ne s’agit pas de l’interdire mais de former le plus grand nombre d’entre nous à le comprendre pour en démonter les rouages, il ne s’agit pas de l’interdire comme certains l’ont fait dans des institutions prestigieuses mais de l’intégrer, d’en discuter, d’en faire une médiation, au lieu que tout cela se passe ailleurs avec toutes les dérives et les mythes qui en émergeront. Il ne s’agit pas de discuter avec mais de lui résister !
Enfin, juste pour finir. En matière de générateur de conneries, l’humanité n’est pas en reste, elle n’a même pas besoin de chatGPT, elle se débrouille très bien toute seule. Voici les dernières trouvailles des géo-ingénieurs d’élite produits par toutes ces écoles et universités prestigieuses, chantres du capitalisme spatial greenwashé, proposant des solutions géniales pour lutter contre le réchauffement climatique et perpétuer ce monde de croissance et de production effrénées. Pour, sur-produire, sur-consommer pour entretenir la croissance, nous avons besoin de minerais, d’énergies, de matières premières. Alors, après avoir saccagé la Terre, allons exploiter le sol lunaire, le percer, le miner pour en extraire le lithium, l’helium 3 et tout ce qui pourra servir à cette stratégie destructrice. Ce n’est pas tout, ils ont eu une deuxième idée géniale. Comme la température augmente sur Terre, et que le Soleil est une source de la chaleur, réduisons cette source en diminuant la quantité de lumière du soleil arrivant sur Terre en éparpillant les poussières issues de la scarification du sol lunaire dans l’espace pour refroidir le climat ! Envelopper la Terre d’un nuage de poussière lunaire pour réduire la température ! Ce qui est inquiétant, c’est que ces gens-là ont fait des études dans les grands laboratoires des universités prestigieuses. Enfin, dernière idée géniale des cadors de l’intelligence, pour la Terre, il n’y a plus grand chose à faire pour s’en sortir alors, il faut s’arranger pour baisser encore plus les coûts de lancement des fusées et partir coloniser Mars ! 
Comme dirait ma vieille mère ! Les bras m’en tombent face à tant de connerie !
Voilà, frères et soeurs en humanité, le temps des Nowakowskismes est terminé pour ce soir, et, c’est avec les Commentaires sur la société du spectacle de Guy E. Debord que nous conclurons ce 12e épisode de la 7e saison : « Ici comme ailleurs, l’ignorance n’est produite que pour être exploitée. En même temps que se perdent ensemble le sens de l’histoire et le goût, on organise des réseaux de falsification. Il suffit de tenir les experts et les commissaires-priseurs, et c’est assez facile, pour tout faire passer puisque dans les affaires de cette nature, comme finalement dans les autres, c’est la vente qui authentifie la valeur ».

Sources et inspirations 
https://www.vice.com/en/article/akex34/chatgpt-is-a-bullshit-generator-waging-class-war 
https://affordance.framasoft.org/2023/01/gpt-3-cest-toi-le-chat/
https://www.radiofrance.fr/franceculture/podcasts/l-humeur-du-matin-par-guillaume-erner/l-humeur-du-jour-emission-du-vendredi-10-fevrier-2023-4594275 
https://www.theguardian.com/science/2023/feb/08/moon-dust-moonshot-geoengineering-climate-crisis
En attendant les robots. Antonio Casilli. https://www.seuil.com/ouvrage/en-attendant-les-robots-antonio-a-casilli/9782021401882
https://iww.inria.fr/NanSciNum/inside/
Demain est-il ailleurs ? Odyssée urbaine autour de la transition numérique. B. Cohen et S. Nowakowski. https://boutique.fypeditions.com/products/demain-est-il-ailleurs-odyssee-urbaine-autour-de-la-transition-numerique 
Le 1 Hebdo n°432. L’IA va-t-elle nous remplacer ? 
https://usbeketrica.com/fr/article/pourquoi-faut-il-re-lire-arnaque-cie-de-philip-k-dick-en-2023
https://fredcavazza.net/2023/01/30/la-revolution-des-ia-generatives-naura-pas-lieu-ou-pas-comme-on-essaye-de-nous-la-vendre/
Podcast – https://hearthis.at/radio-campus-lorraine-mu/nowakowskismes-7.12-14022023-15.42/

Musiques 
Dominique A. Nouvelles du monde lointain – https://youtu.be/wEk5MnbFv_Q
CSNY. Woodstock. https://youtu.be/HKdsRWhyH30 
CSNY. Our house. https://youtu.be/Vq2X60XP5cM



Cite this blog post
Samuel Nowakowski (2023, February 17). Nowakowskismes 7.12. Bullshit Generator 23. Humanités numériques . Retrieved June 22, 2024, from https://doi.org/10.58079/sftv

Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.

Search OpenEdition Search

You will be redirected to OpenEdition Search