Nowakowskismes n°2.7 – « Se demander si un ordinateur peut penser est aussi intéressant que de se demander si un sous-marin peut nager »

Ce soir, nous allons nous intéresser à l’intelligence artificielle, et essayer de tordre un peu le cou aux idées reçues, et aux techno-prophètes de tout bord annonciateurs de fin du monde, de singularités technologiques, et de fin des temps ! Ces Nowakowskismes s’inscrivent dans les mots de Edsger Wibe Dijkstra, mathématicien néerlandais pionnier de l’informatique, et nous posons donc la question : « se demander si un ordinateur peut penser est-il aussi intéressant que de se demander si un sous-marin peut nager » ?  Alors prêts ? On y va …

Musique de démarrage …
Le 1er mai 2014, Stephen Hawking publie une tribune dans The Independent dans laquelle il nous met en garde contre les conséquences irréversibles de l’intelligence artificielle. D’après lui, les technologies se développent à un tel rythme qu’elles deviendront vite incontrôlables ou point de mettre l’humanité en péril. Il est accompagné de Max Tegmark, physicien également, père de la théorie de la poussière, et de Stuart Russell professeur d’intelligence artificielle à Berkeley et de Frank Wilcek, prix Nobel de physique, qui co-signent cette tribune.
En effet, il n’est pas possible d’ignorer les progrès extraordinaires de l’intelligence artificielle, dans la voiture autonome de Google, ou dans SIRI d’Apple, ou dans l’ordinateur WATSON d’IBM qui l’emporte sur les humains dans le jeu télévisé Jeopardy. Et surtout, ces progrès qui reposent sur les facultés d’apprentissage automatique des machines alimentées par des quantités colossales d’information, les Big Data ou « données massives » risquent de devenir imprévisibles puisque leur comportement ne résultera plus du programme que les hommes ont écrit, mais des connaissances qu’elles construiront elles-mêmes, par induction automatique à partir des informations glanées sur les réseaux. A ceci, s’ajoutera leur autonomie croissante qui fait qu’elles risquent de nous échapper pour atteindre un point de non retour au delà duquel les humains courent à leur perte !
Pour d’autres, en particulier pour les techno-prophètes, ces perspectives sont une étapes vers une nouvelle humanité. Hans Moravec, roboticien, affirme dans ses livres que les évolutions de la robotique conduiront à une transformation majeure de l’humanité. Un autre, le cybernéticien Kevin Warwick prétend que, pour survivre, l’homme va devenir un « cyborg », il est même allé jusqu’à vouloir interfacer des actionneurs avec son cerveau … mais bon ça ne s’est pas fait ! Allez savoir pourquoi ! Certains ont imaginé le futur et les guerres entre les « cosmist » partisans des « artilects », êtres prodigieusement intelligents ey détenteurs d’une spiritualité neuve réalisée au moyen de l’intelligence artificielle, et les « terrans »qui veulent conserver l’homme. Un autre, Billy Joy, le co-fondateur de Sun Microsystems qui publia en 2000 un article intitulé « Why the future doesn’t need us » dans lequel il imagine des nanotechnologies proliférant jusqu’à détruire toute forme de vie.
Et bien sûr le plus célèbre de tous, Raymond, Ray pour les intimes, Kurzweil, petit génie de l’informatique, qui, après avoir fondé plusieurs sociétés et avoir été au MIT, est maintenant chef de projets chez Google. Je vous invite à vous reporter aux titres des ouvrages qu’il a écrits, How to create a Mind, The age of spiritual machines, … The singularity is near, … ou encore Fantastic voyage : live enough to live forever ! Et bien sûr vous avez compris, l’hybridation de l’homme et la machine est l’issue et qu’à l’horizon 2050, l’humanité sera condamnée, pour survivre, à s’hybrider à la technologie pour parvenir à une sorte de passage du corps biologique à un corps techniques, l’ordinateur – on parle de « métensomatose », le passage, « méta », d’un corps, « soma » dans un autre. Et la conséquence de cette hybridation, est que la conscience une fois numérisée sera immortelle !
Et il n’est pas le seul, ceux qu’on nomme les Transhumanistes, ou les extropianistes, affirment qu’une autre forme d’humanité, la transhumanité, adviendra très bientôt et qu’elle se présentera comme une humanité supérieure dotée de pouvoirs nouveaux qui lui permettront de transcender les limitations actuelles !
Afin de remettre du sens dans cette folie médiatique, afin d’étouffer les discours hallucinés de certains sur cette Intelligence artificielle qui va venir menacer l’homme jusqu’à cette singularité technologique prophétisée par certains, les Nowakowkismes vont s’y coller ! Donc qu’entendons-nous par intelligence artificielle ? Où en sommes-nous ? Qu’est-ce que cette singularité technologique ?.. C’est ce que nous allons voir !

Être fort en calcul signifie-t-il être intelligent ?
L’intelligence n’est en rien liée à la fréquence d’exécution d’opérations élémentaires, ni à la quantité d’informations stockées dans une mémoire. Ni la puissance de calcul, ni la capacité de stockage ne produisent de l’intelligence. Ça se saurait ! Votre téléphone gentillement posé à côté de vous possède une énorme capacité de stockage et très forte puissance de calcul (supérieure aux ordinateurs qui ont emmené les hommes sur la Lune) mais il n’est en rien intelligent ! Et donc le terme Intelligence artificielle prête évidemment à confusion.
Alors l’intelligence artificielle dans tout cela ? Cette discipline a été créée en 1955 par John McCarthy, professeur de mathématiques spécialiste des machines de Turing, et trois autres collègues, Marvin Minsky, futur cofondateur du laboratoire d’Intelligence artificielle du Massachussetts Institute of Technology (MIT), Nathan Rochester, créateur de l’IBM 701 – le premier ordinateur commercial généraliste , et Claude Shannon, inventeur de la théorie de l’information. Ceci s’est passé lors d’un projet d’école d’été portant sur une nouvelle façon d’approcher les facultés cognitives humaines avec des machines. L’intelligence artificielle vise à simuler sur des ordinateurs les différentes facultés cognitives humaines et animales. Ses créateurs partaient du principe qu’il serait possible de décomposer l’intelligence en fonction élémentaires qu’on pourrait reproduire par un programme sur ordinateur. Ce projet s’inscrit alors dans la continuité des travaux de la physique moderne qui, depuis Galilée, part du principe que la nature s’écrit en langage mathématique, ou depuis l’avènement de la biologie moléculaire avec la découverte de la structure en double hélice de la molécule d’ADN par Watson et Crick, ramène l’étude du vivant à celle de mécanismes chimiques. Or dans ces deux cas, aucune des approches ne donnent des réponses uniques, et encouragent à appréhender les phénomènes dans leur diversité à l’aide de théories potentielles qu’il convient d’explorer, de confronter et de valider expérimentalement. Et il doit en aller de même pour l’intelligence artificielle. Tout le travail de décomposition et de simulation de l’intelligence par des algorithmes reste à faire. Et tout cela s’appuie plus sur le formalisme de représentation des connaissances, la modélisation du raisonnement et la logique que sur l’accroissement des performances des ordinateurs même si elles autorisent aujourd’hui des mises en oeuvre informatiques qui paraissaient impensables il n’y a pas si longtemps que cela. Tout cela pour dire que la puissance de calcul ne permet en aucun cas d’atteindre ne serait-ce l’horizon de l’intelligence artificielle.

Alors l’intelligence artificielle ne cacherait-elle pas du côté de l’apprentissage ?
En effet, avant même que le terme Intelligence artificielle n’ait été inventé, Alan Turing (souvenez-vous le film « The imitation game ») évoque dans deux articles de 1948 et 1950 le rôle central que devrait prendre l’apprentissage automatique dans l’intelligence des machines. Selon lui, il serait préférable de doter les machines de capacités à apprendre, c’est-à-dire acquérir par elles-mêmes des compétences à partir d’observations sur le monde extérieur, sur leur place dans ce monde et sur leur propre comportement. Et depuis la naissance officielle de l’IA en 1955, les efforts ont porté en grande partie sur les techniques d’apprentissage automatique. On s’est alors inspiré de la psychologie humaine pour tenter de reproduire nos facultés d’apprentissage sur des machines, d’autres miment la plasticité synaptique et les connexions entre les neurones du cerveau, d’autres encore font un parallèle avec l’évolution des espèces, la maturation des idées dans la société, ou l’auto-organisation des insectes sociaux tels qu’abeilles, fourmis, termites, … On parle entre autres alors de réseaux de neurones formels, d’algorithmes génétiques, d’arbres de décision, d’apprentissage bayésien, d’apprentissage profond ou deep Learning pour employer le mot à la mode ! Et bien sûr, il faut ajouter à cela les quantités de données considérables recueillies soit automatiquement par toutes sortes de capteurs, caméras, radiotélescopes, objets connectés en tout genre, soit manuellement, de façon distribuée ou pas. Et cette masse de données, c’est le big data ! Et donc aujourd’hui, la puissance de calcul des ordinateurs nous permet d’exploiter ces immenses masses de données en utilisant les techniques d’apprentissage machine de façon à en extraire des connaissances. Et là, les performances sont plutôt épatantes, dans Siri pour la reconnaissance vocale, dans FaceBook avec la reconnaissance des visages, mais aussi dans AlphaGo le logiciel qui l’a emporté sur le maître du Jeu de Go, Lee Sedol. AlphaGo a alors fait appel à des techniques d’apprentissage machine lié à de l’apprentissage profond et à de l’apprentissage par renforcement. Mais alors, faut-il pour autant crier au loup ?
Donc l’apprentissage automatique dote les machines d’une capacité à construire par elles-mêmes des connaissances et à les utiliser pour se reconfigurer en réécrivant leurs propres programmes. Il en résulte un accroissement formidable des performances, et comme les ordinateurs se re-programment eux-mêmes, sans qu’aucun être humain ne vérifie, ni ne relise les programmes, ce qui les amènent à avoir un comportement de plus en plus difficiles à anticiper. Mais les machines ne sont en rien autonomes, elles n’ont en aucun cas la capacité de se donner leurs propres règles (sens philosophique d’autonomie) mais elles peuvent agir, se reprogrammer dans un cadre qui a défini et instruit par l’homme. Ça n’empêche pas qu’elles puissent être nuisibles, ou destructrices, il y a là à s’intéresser à la robustesse de ces algorithmes, mais rien, dans l’état actuel des techniques, même si toutes activités humaines ont été transformées, le travail, la robotisation, la finance, l’économie, la vie quotidienne, la recherche, la guerre, …, rien n’autorise à affirmer que les ordinateurs seront bientôt en mesure de se perfectionner indéfiniment sans le concours des hommes, jusqu’à nous dépasser et acquérir leur autonomie.

Autopsie de l’IA
Dès le début, le projet de l’intelligence artificielle a fait l’objet de spéculations, en particulier chez les philosophes qui y virent une prolongation de l’entreprise de rationnalisation de l’esprit inaugurée au XVIIème et XVIIIème siècles par les Lumières. L’IA s’inscrivait alors dans une approche cognitiviste visant à faire le parallèle entre le fonctionnement de notre esprit et celui des ordinateurs. Cette approche ne fit pas l’unanimité chez les philosophes, et il s’en suivit de nombreuses critiques ne visant pas la discipline scientifique à proprement parler mais le fondement philosophique sur lequel elle était censée reposer. Certains allant jusqu’à mettre en cause les ambitions excessives de l’IA, en particulier la prétention qu’elle aurait eu de reproduire une conscience sur un ordinateur sans se référer aux structures matérielles qui l’a produisent, et pour cela, je vous invite à vous rendre chez Frank Herbert, oui l’auteur de Dune, mais dans son cycle de la conscience, et le roman Destination Vide. On caractérisa alors cette visée philosophique d’ « intelligence artificielle forte » par opposition à l’ « intelligence artificielle faibles » des chercheurs et des ingénieurs. L’ « intelligence artificielle forte » eut tant de succès qu’on lui assimila parfois l’intelligence artificielle dans son ensemble.
Au début du XXIème siècle, se fit jour un courant qualifié d’intelligence artificielle générale qu’il ne faut pas confondre avec l’IA née il y a 60 ans. Le projet de ses promoteurs, des physiciens théoriciens reconvertis, est de refonder l’IA sur des bases mathématiques soit disant solides, en s’appuyant en particulier sur des notions comme la complexité de Kolmogorov, afin de jeter les bases d’une science générale de l’intelligence. Et du coup, comme pour eux, tous les théorèmes mathématiques servant de base à cette science générale de l’intelligence ont été démontrés, il s’ensuit que la réalisation d’une intelligence artificielle totale ne souffre d’aucune limitation si n’est la capacité de stockage et de calcul des ordinateurs. Et donc ces physiciens théoriciens partisans de l’intelligence artificielle générale, comme les partisans de l’intelligence artificielle forte ont maille à partir avec les prophètes annonciateurs de ce qu’on appelle la Singularité technologique.

Et donc la singularité technologique
Selon tous ces prophètes, le cataclysme ne sera pas causé par la collision de la terre avec un astéroïde, ni par un bouleversement climatique, ni par une guerre totale déclenchée par des dirigeants paranoïaques et demeurés, mais cela arrivera presque naturellement, par une sorte de contamination irrépressible des machines qui s’auto-engendreront, croitront, se multiplieront et finiront par nous éliminer ! Nous ne nous en rendrons pas immédiatement compte, évidemment sauf les prophètes qui l’annoncent, puis cela s’emballera, et tout changera, l’homme changera, et plus rien ne sera plus comme avant, ni la nature, ni la vie, ni la conscience, ni même le temps ! Ceci est la singularité technologique !
Le premier a en avoir parlé, c’est un auteur de science fiction, Vernor Ringe, dans un roman intitulé La captive du temps perdu, dans lequel l’humanité disparaît de n’avoir pu s’adapter au changement de plus en rapide des technologies. Le roman est pas mal, mais le concept de singularité technologique, il l’a développé dans un essai écrit en 1993 intitulé « The coming technological singularity » dans lequel il montre que par les progrès des technologues de l’information, le statut de l’homme dans la nature sera changé, et ses connexions avec les machines l’aideront à augmenter considérablement son intelligence, ses facultés cognitives te sa vie, il deviendra un hybride, un organisme cybernétique, quasi immortel ! Dans l’essai, il place cet événement radical en 2023 ! Il n’est pas le seul à avoir imaginé cela d’ailleurs.
Pour préciser un peu le concept de la singularité, il faut aller faire un tour dans l’univers (petit tour du côté d’Interstellar) où on appelle Singularité gravitationnelle des zones de l’espace, par exemple les trous noirs, où l’intensité de la gravitation est telle que les formules exprimant la structure de l’espace-temps montrent des singularités mathématiques, en clair, la théorie n’est plus valable en ces points ! Ainsi un navigateur extragalactique qui passerait au voisinage de l’horizon d’un trou noir et y pénétrerait, ne percevrait rien d’anormal au début mais se retrouverait irrémédiablement aspiré vers le point critique, le centre, et serait irrévocablement condamné !
La singularité technologique sera donc par nature inobservable sauf à franchir l’horizon, et affecte également le temps.
Bien qu’obscure, la singularité technologique est devenue de plus en plus populaire. IL existe même l’université de la Singularité qui a été financée par entre autres, Google, la NASA, Linkedin, … et Google a embauché Ray Kurzweil comme directeur scientifique en 2012.
Revenons quand même un peu sur cette question, et en quoi cette singularité technologique se trouve inscrite dans une autre « loi », la loi de Moore. La loi de Moore dit qu’on a un doublement du nombre de transistors sur un circuit électronique à prix constant tous les dix huit mois ou tous les deux ans, et doublement des performances, de la rapidité ou de la capacité de stockage d’information à un rythme équivalent, diminution des coûts dans les mêmes proportions, et supposons que cela continue ainsi, qu’adviendra-t-il des ordinateurs aussi puissants ? Et ça a excité l’imagination d’auteurs de Science fiction mais aussi celle de Ray Kurzweil, selon le principe que la loi de Moore ne se restreint au champ technologique mais relève d’un principe plus général qui régit l’évolution de la culture humaine, de l’homme, de la nature et de la vie depuis les origines ! Kurzweil identifie 6 périodes dans la grande épopée de l’univers, et bien sûr, tout l’art consiste à s’accommoder des faits pour les présenter à sa sauce !
L’intelligence artificielle est devenue le grand mythe de notre temps, et va de la destruction en masse de nos emplois à l’émergence apocalyptique d’une conscience numérique hostile.
Certains y rêve d’un monde sur mesure, un nouvel Âge d’or technologique d’où toute tâche ingrate ou répétitive serait bannie et déléguée à des machines ; un Eden où des outils infaillibles auraient éradiqué la maladie et le crime, voire le conflit politique, en un mot aboli le mal jusqu’à des rêves d’immortalité.
Tour à tour fascinante ou inquiétante, émancipatrice ou destructrice, l’intelligence artificielle et les mythes qu’elle suscite ne sont certainement que la matérialisation de nos phantasmes et de nos angoisses de ce que sera notre monde demain.
Il est important de se débarrasser des présentations sensationnalistes des nouvelles technologies sans pour autant ignorer que l’irruption dans nos vies quotidiennes de ces assistants ou outils d’un nouveau type, génère des bouleversements multiples et des défis nouveaux à relever. Il s’agira de préserver l’autonomie de la décision humaine face à des machines parfois perçues comme infaillibles, se garder des discriminations générées involontairement par des systèmes mouvants, et préserver les logiques collectives et humaines  face à la puissance de personnalisation du numérique, pour ne citer qu’eux. Alors face aux gourous technologiques et médiatiques qui voient l’émergence imminente d’une conscience artificielle, voire d’une intelligence super-humaine faite de machines qui inventeront et créeront d’elles-mêmes, pour nous… et éventuellement contre nous, et tous ces petits malins qui jouent du sensationnel pour produire livres à sensations rappelons avec Sébastien Konieczny que « Ces « prédictions » sont faites par des personnes éloignées de la recherche ou qui ont quelque chose à vendre. Les chercheurs en IA n’ont jamais prétendu recréer l’intelligence – dont il faudrait déjà qu’on donne une définition opérationnelle –, notre but est que des machines réalisent mieux que nous des tâches considérées comme intelligentes car nous seuls étions jusqu’alors capables de les réaliser, comme le classement de milliers de photos ou de morceaux de musique. Les seules choses que l’on maîtrise aujourd’hui, ce sont des tâches avec un but pré-défini ; une machine qui est capable de définir ses propres buts, ça on ne sait pas faire. Alors la conscience… »
Je vous laisse méditer …

Références
Comment permettre à l’homme de garder la main ? Les enjeux éthiques des algorithmes et de l’intelligence artificielle. Synthèse du débat public animé par la CNIL dans le cadre de la mission de réflexion éthique confié par la loi pour une république numérique. Décembre 2017
Le mythe de la singularité. Faut-il craindre l’intelligence artificielle ? JG Ganascia. Science ouverte. Le Seuil. 2017
Techniques du chaos. Timothy Leary. L’esprit frappeur. 1994


Leave a Reply

Your email address will not be published. Required fields are marked *