Les humains vont-ils égaler Dieu ?

3

Le 26 janvier 2018 par Jean-François Dortier

Après son best-seller international Homo Sapiens, Yuval Noah Harari nous revient avec un nouveau volume Homo Deus. Le premier racontait la grande histoire de l’humanité. Le seconde nous embarque pour la suite de l’aventure. Qu’allons nous devenir : des nouveaux dieux ou les esclaves des machines ?

Cette « brève histoire du monde » est forgée autour d’un grand récit : Homo « Sapiens » (l’humain « savant ») mérite bien son nom ; son intelligence lui a permis de révolutionner son mode d’existence. Il a créé les sciences et techniques, et son imaginaire lui a permis de souder des communautés sur de nouvelles bases.

Ce récit est un formidable storytelling : l’intrigue globale s’organise autour de grandes périodes – révolution cognitive, révolution agricole, révolution scientifique – appuyées sur de petites histoires édifiantes illustrant la thèse générale. Peu importe que ses thèses ne collent pas toujours aux découvertes actuelles (non, la révolution cognitive n’a pas eu lieu il y a 70 000 ans (1)) ou que des affirmations péremptoires tiennent parfois lieu de démonstration (un « ordre imaginaire » serait aux sources de toutes les grandes civilisations ?). Ne boudons pas notre plaisir. La démarche est stimulante et on y puise de nombreuses idées et informations éclairantes.

Revoilà donc notre auteur avec un autre opus tout aussi ambitieux Homo Deus. Une brève histoire de l’avenir, livre accompagné d’une campagne de promotion digne d’un blockbuster. Dans Homo Sapiens, Y.N. Harari racontait à grands traits l’épopée de l’espèce humaine. Avec Homo Deus, il envisage la suite.

L’humanité, nous dit l’auteur, a globalement vaincu la faim, les grandes épidémies et même les guerres qui avaient décimé les populations durant des siècles. Aujourd’hui, ces fléaux sont confinés dans des zones minoritaires de la planète. Désormais, l’humanité va se lancer vers un nouveau défi : le bonheur, la perfection physique et l’immortalité. L’avenir de l’humanité est en marche vers un Homo Deus, un « homme Dieu » à la fois omnipotent, parfait et immortel. Les technologies seraient en tout cas en passe de le permettre.

À moins que, scénario alternatif, ce soient les machines intelligentes qui réussissent à s’émanciper puis à dominer les humains. Sapiens serait alors éliminé ou soumis à une espèce supérieure qu’il a lui-même enfantée. Un troisième scénario, intermédiaire est possible : celui du cyborg où les humains fusionnent en partie avec les machines pour former une espèce hybride.

Y.N. Harari ne tranche pas entre les trois scénarios. Pour lui, la mise à plat de ces horizons possibles doit servir à éclairer les choix décisifs pour l’avenir.

Que penser de tout cela ?

Pour fascinant que soit cet exercice de futurologie, notons tout d’abord qu’il n’a rien de très original. La plupart des récits de science-fiction sont bâtis sur des trames similaires. Ce qui gène surtout, au fil des pages, est la faiblesse de l’argumentation. Dans Sapiens, Y.N. Harari, historien de métier (il enseigne à l’université de Jérusalem), s’était révélé excellent conteur et bon vulgarisateur. Mais ici, il déçoit. Concernant la prospective technologique, Y.N. Harari ne fait que reprendre les clichés actuels sur l’état de l’intelligence artificielle (IA), les sciences cognitives et la biologie auquel il ne connaît manifestement pas grand-chose.

Ainsi, notre auteur assimile les êtres vivants à des « algorithmes biologiques » en passe d’être copiés par ceux des machines. Sauf que la révolution biologique est justement en train de réfuter l’idée que le vivant est réductible à un programme (c’est-à-dire un algorithme tapis au sein de l’ADN. (1) La conscience ne serait qu’une fiction, un paravent qui voile la réalité de processus neuronaux automatiques ? C’est exactement l’inverse que découvrent les neuroscientifiques qui réhabilitent la conscience comme un processus central de pilotage des activités cognitives complexes.(2)

Enfin, Y.N. Harari soutient comme une évidence que l’IA va à terme atteindre le fameux point de « singularité » où les machines dépassent l’intelligence humaine et conquièrent leur autonomie.

Une nouvelle « ère des machines » ?

Cette annonce de l’imminence d’une nouvelle « ère des machines », qui fait en ce moment l’objet d’une avalanche de publications, est également remise en cause par les vrais experts du sujet.

Ouvrons par exemple Le Mythe de la singularité, FAut-il craindre l’intelligence artificielle ? que vient de publier Jean-Gabriel Ganascia. L’auteur, professeur à l’université ParisVI et (vrai) spécialiste de l’IA, s’attaque justement à ce mythe de la probable émancipation des machines.

Certes, l’IA a fait récemment des progrès importants grâce notamment au deep learning (ou apprentissage profond). Des « machines apprenantes » savent désormais reconnaître des images, traduire des textes, faire des diagnostics médicaux, à partir d’une démarche par essai-erreur dite « d’apprentissage supervisé » car un expert humain est là pour les corriger au fil des expériences. C’est ainsi que l’IA a réussi à égaler les experts humains dans le diagnostic médical (cancer du sein ou mélanome). En 2016, le logiciel Alphago de Deepmind a réussi à battre au jeu de go l’un des meilleurs joueurs mondiaux. Si la performance a impressionné, on oublie de dire qu’Alphago ne sait faire qu’une seule chose : jouer au jeu de go. Tout comme le programme de Deep Blue qui avait battu Kasparov aux échecs, en 1996, il y a vingt ans déjà ! Si l’élève a battu le maître, c’est pour la même raison qu’un jeune sportif entraîné par un coach finit par dépasser son maître : il mobilise l’expérience de son professeur au profit d’un potentiel plus grand, mais au final il ne développe qu’une compétence spécialisée et initiée par son maître : sauter plus haut, courir plus vite ou mieux jouer à un jeu. Voilà comment fonctionne l’apprentissage supervisé. Ces spéculations sur l’autonomie de la machine qui « apprend toute seule » résultent donc d’une méconnaissance du fonctionnement réel de l’IA.

Gérard Berry, professeur au Collège de France, l’affirme dans son livre, L’Hyperpuissance de l’informatique : « On fait une confusion complète entre apprentissage et intelligence artificielle. » Aucune machine apprenante n’est capable de transférer ses capacités d’un domaine à l’autre (ce qui est une des caractéristiques de l’intelligence humaine). Les « machines apprenantes » ne sont pas des machines intelligentes : elles ne comprennent pas ce qu’elles font. Un programme de traduction automatique comme celui de Google ne fait qu’apprendre à utiliser un mot dans un contexte donné (en puisant dans une grande masse d’exemples). Les machines apprenantes sont parfaitement « idiotes » : en aucun cas, elles ne comprennent la signification d’un mot ou n’acquièrent de règles de grammaire.

Laurence Devillers, autre spécialiste de l’IA, professeure d’informatique à l’université Paris-Sorbonne, critique aussi les mythes de l’autonomie prochaine des machines. Dans Des robots et des hommes, (Seuil) elle s’attaque aux mythes et fantasmes qui entourent l’IA. Pour elle, les machines sont et resteront encore pour longtemps de bons assistants du travail humain.

Tout comme une machine à laver ou une calculette sont d’excellents assistants dans leurs domaines de prédilection, l’IA et les objets connectés (comme la voiture semi-autonome) sont des assistants efficaces des humains : ils allègent leur travail sans se substituer à eux. Rappelons que depuis un demi-siècle déjà existe le pilotage automatique qui assiste les pilotes d’avions sans les remplacer. Inutile donc de fantasmer sur un lointain avenir que personne n’a jamais su prévoir en matière technologique. La question du moment est plutôt d’apprendre à vivre avec et en faire d’utiles compagnons de nos vies.


1.JF Dortier, Révolution dans le vivant, SH n° 233, 2012

2. S. Dehaene, le code de la conscience, Odile Jacob, 2014


3 commentaires »

  1. Luc Allemand dit :

    Cette critique éclaire bien ce qu’est Noah Yuval Harari : un auteur paresseux qui écrit sur des sujets qu’il ne maîtrise pas et à propos desquels il n’a pas pris la peine de consulter l’état de l’art. C’était déjà le cas pour Sapiens, rempli d’approximations et de “belles histoires” que les recherches préhistoriques récentes ont justement démenties. Merci à JF Dortier de sa lucidité sur ce deuxième opus : il évitera sans doute à de nombreuses personnes de perdre des heures à lire cet ouvrage inutile (et épais qui plus est).

  2. Chapouthier dit :

    Dans les religions monothéistes, Dieu a aussi un aspect moral. Je doute que le singe nu, fort de son histoire peuplée de guerres, d’oppressions, d’atrocités et de tortures, puisse approcher, pour le moment, cette facette de Deus.

  3. ESCARTIN dit :

    L’IA est un pur produit de l’humain et restera toujours le bras armé.
    Elle a toujours existé mais devient de plus en plus sophistiquée, c’est l’évolution de la machine;
    C’est bien de recentrer le problème tel que vous l’avez fait dans votre commentaire ce qui permettra de lever l’angoisse et d’avancer en connaissance de cause.
    Merci pour votre clarté d’esprit, on pourrait dire que votre écriture est une approche cognitive-
    comportementale si je peux faire un parallèle ,elle est anxiolytique!!!

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.

Inscrivez-vous à la newsletter

Recherche dans ce blog

Commentaires récents