transhumanisme, transe machiniste

Cristina Lindenmeyer est l'une des rares psychanalystes à être spécialisée dans l'humanité augmentée. « Au départ, je travaillais sur les transformations corporelles dans le champ des maladies somatiques et des troubles alimentaires. Ensuite, j'ai été amenée à développer un travail de recherche sur la chirurgie esthétique, sur ce qui pousse à pratiquer ce type d'interventions », nous confie-t-elle.

Ses premiers travaux n'ont pas grand-chose à voir avec l'humanité augmentée et le transhumanisme, mais ils avaient déjà un lien avec le principe de modification corporelle. C'est alors que le pôle de recherche « Santé connectée et humain augmenté », de l'Institut des Sciences de la Communication du CNRS, lui propose de participer à une recherche sur les prothèses de réparation et de performance.

« Freud pensait que le développement des connaissances scientifiques
procurerait aux humains la sensation d'être des dieux prophétiques »

« Les techniques qui permettent de réparer l’Homme sont aussi celles qui peuvent l’augmenter. J’ai découvert tout l’intérêt de ce champ de recherche, qui permet de réactualiser des postulats de la psychanalyse. Dès 1929, Freud évoquait le sentiment d'impuissance des hommes. Il pensait que le développement des objets technologiques et des connaissances scientifiques procurerait à l'avenir aux humains la sensation d'être des dieux prophétiques. C'est une idée visionnaire, puisqu’elle envisage le courant transhumaniste. » Cristina Lindemeyer estime que le transhumanisme repose en grande partie sur des illusions inhérentes à la construction psychologique de l'être humain.

Anticipation : Qu'est-ce qui pousse l'être humain à vouloir se réparer et s'augmenter ?

Cristina Lindenmeyer : Le désir de se réparer ou de s'augmenter est inhérent à la construction psychique de la personne humaine. Ce désir débute à partir du sentiment d'impuissance du nourrisson. Nous arrivons au monde au bout de neuf mois, mais sans la possibilité de pouvoir y évoluer tout seuls. Ce nourrisson va être habité par l'excitation du fait d’être vivant, mais il ne peut rien contrôler lui-même. Il a besoin d'un autre pour lui porter secours, pour le prendre en charge. Cet autre est la mère, ou en tout cas le parent qui le materne. Cette rencontre avec cette personne, qui peut l'assister, va l'apaiser. Ce premier apaisement génère une forme de plaisir qui va laisser une trace. Cela va construire le fait de désirer, la quête de la satisfaction. L'humain va alors en permanence chercher à retrouver ce plaisir initial et va être habité par des pulsions en ce sens. Or, ce plaisir initial n'est jamais retrouvé. Il va rencontrer sans cesse des limites : la mort, la maladie, le vieillissement.

Dans Brazil, le film de Terry Gilliam, certains personnages sont prêts à tout pour rester jeunes...

À partir de ce sentiment originel d'impuissance, il va ressentir la nécessité de s'emparer d'objets auxiliaires, dont le but est de contrebalancer ses défaillances. Au fond, la démarche de vouloir réparer et/ou augmenter son corps avec une prothèse a toujours existé et nous pouvons dire que, pour l’humain, la première prothèse est la mère. C’est sur ce terrain infantile que s’organise la politique technique et technologique basée sur la promesse de nous guérir de nos défaillances. Pour les transhumanistes, la technologie est presque comme un Salut, comme si elle allait nous permettre de rencontrer cet état de plénitude qui a existé pendant quelques minutes avec la mère.

Ce mouvement considéré comme un « progrès » ne masquerait-il pas une régression fantasmatique ?

Ce progrès transhumaniste, en plaçant toutes les réponses dans la technologie, évacue le plaisir de devenir grand et indépendant. Cela s'inscrit dans une promesse, fondée sur des illusions infantiles, et notamment celle qu'un appareil quelconque pourrait venir remplacer le fait de rencontrer des limites. Les transhumanistes pensent que les nouvelles technologies pourront trouver des solutions à tout. Ils nous renvoient en miroir nos désirs et illusions de l’enfance. L’être humain est complexe : quand nous étions des enfants nous rêvions d’être grands, quand nous devenons adultes et grands nous rêvons de redevenir des enfants…

Cette volonté d'amélioration de la condition humaine est donc le résultat d'un « manque » à compenser ?

Oui, cette volonté de réparation est liée au sentiment originel d'impuissance du nourrisson et à son expérience du manque. On a créé la technologie pour venir apaiser ce manque inhérent à notre condition. Sauf que là où est l'illusion, c'est que cet apaisement ne se maintient jamais, il nous rattrape à travers les aléas de notre vie. Et heureusement, car ce sont les manques qui permettent d'avoir la volonté d'avancer, de progresser, de créer.

« Pour les transhumanistes, la nature humaine est un handicap à éliminer »

Toutes ces défaillances humaines nous poussent à trouver des solutions innovantes pour vivre… si nous ne sommes plus confrontés aux aléas de la vie, nous perdons ce moteur venant motiver nos désirs. Mais l'idéologie transhumaniste est pourtant obsédée par l'idée de trouver un moyen de nous débarrasser de ces aléas et de ces manques. Pour eux, la nature humaine, étant donné qu'elle vient avec toutes ses défaillances, est un handicap à éliminer. Ils veulent créer de nouveaux êtres qui pourront dépasser la maladie, la mort, le vieillissement. Il ne faut cependant pas y voir là l’unique marque d’une lutte contre la finitude et les limites de l’humain. En fait, ils entretiennent une vision simpliste de quelque chose de complexe : le corps n’est pas une machine, il est le lieu d’une histoire qui se tisse à travers les sensations. Si nous perdons de vue cela, nous faisons de nous des objets, nous devenons des robots.

Quels seraient les effets secondaires potentiels d’une humanité augmentée ?

Il ne s’agit pas de mésestimer le gain apporté par des techniques offrant aux individus des traitements qui leur restituent un espace d’autonomie, mais force est de constater que ces mêmes techniques les engagent simultanément dans un mouvement de « dépendance technologisée ». En clinique, nous observons l’apparition croissante de symptômes non prévus par ces transformations. Cet état « hybride » entraîne les patients dans un corps à corps avec la technique, provoque des expériences corporelles et fantasmatiques nouvelles, dont nous ne connaissons pas encore tous les enjeux. Il y a un flot de questions complexes… et des réponses que nous n'avons pas encore concernant les effets à long terme.

« Le corps humain ne peut pas être vu comme une machine
dont on peut réparer et changer les pièces »

Les défaillances de la condition humaine font aussi sa force. Or, comme nous l'avons dit précédemment, les transhumanistes sont en guerre contre ces défaillances… sans voir qu'au moment où on essaye de les liquider d’un côté, elles vont réapparaître de l’autre côté sous forme de nouveaux symptômes. Le corps humain ne peut pas être vu comme une machine dont on peut réparer et changer les pièces. Quand on corrige un manque, on en développe d'autres. Par exemple, le plus visible de nos jours est l'addiction : si on perd notre téléphone portable, nous sommes en situation d'angoisse.

Un autre exemple, pour illustrer l’idée, serait le cas d'Oscar Pistorius, cet ancien athlète qui a des jambes en prothèses de carbone. Initialement, il était quelqu'un d'handicapé, mais avec cette réparation prothétique, il est devenu ultra-performant, l'un des sprinteurs les plus rapides au monde. C'est un bon exemple d'augmentation de la capacité humaine. Sauf que, certes, il courrait plus vite que tout le monde… mais dès qu'il s'arrêtait, il tombait. Ces prothèses lui donnaient l'illusion d'augmentation, lui permettaient le temps de la course d'être meilleur que les autres, mais une fois qu’il s’arrêtait, impossible de rester debout. Autrement dit, quand on gagne d'un côté, on perd toujours de l'autre.

Peut-on imaginer chez certaines personnes un rejet psychologique de la fusion de leur corps avec des technologies ?

Cela existe déjà. Les médecins se heurtent parfois à un paradoxe relatif aux effets de l’appareillage sur les patients. La situation se résume ainsi : l’intervention est techniquement réussie, mais insatisfaisante du point de vue des effets sur le patient, l’amenant parfois à des formes variables de rejet jusqu’à demander dans certains cas à être « désappareillé ». Cet écart entre l’efficacité technique et l’aspect inattendu de ses effets subjectifs démontre la force de la dimension humaine, qui résiste, qui revient toujours.

Ces rejets permettent d’introduire la nécessité d'une prise en compte de la dimension subjective dans ces situations. Quand quelque chose est modifié, transformé dans ce lieu qui est le corps, cela va nécessiter de la part de l'humain un temps de reconfiguration interne. Cela ne se fait pas forcément de façon facile, parfois c’est insupportable. Dans ces cas, la technologie peut même être perçue comme une effraction dans le corps. Le processus est similaire à celui d'une maladie, qui nécessite un temps de récupération pour aller mieux.

Les transhumanistes boudent ce corps des sensations, ils voient le corps comme une chose inerte. Cependant, la pratique clinique nous démontre souvent le contraire. Il est le lieu d’une histoire.

Concernant le corps, justement, une frange importante du transhumanisme promeut le « mind uploading », qui permettrait à l'humain de se télécharger dans des ordinateurs, pour vivre dans des univers virtuels. Comment serait vécue une telle situation sur le plan de la psyché humaine ?

Cela générera un profond mal-être. En se téléchargeant, on sort de son corps, donc on se détache par la même occasion de tous les plaisirs qui s'inscrivent dans le corps (excitation, apaisement…). Le virtuel est un contexte apathique, désensualisé. Or, ce serait un avatar virtuel de notre personne qui évoluerait dans ce monde… donc toutes les sensations qui viennent du fait d'habiter notre corps disparaissent. C'est une drôle de façon d'être dans le monde, car on n'est pas vraiment dans le monde.

« Les transhumanistes pensent le corps comme étant un objet encombrant,
ils en oublient les plaisirs »

Les transhumanistes pensent le corps comme étant un objet encombrant, ils en oublient les plaisirs. S'il n'y a plus de corps habitable ou qu'il est complètement réparé comme s'il s'agissait d'une voiture, ils perdront toutes les sensations faisant que l'humain est ce qu'il est. Le discours transhumaniste et sa volonté de maîtriser tous les paramètres du vivant nous berce d’illusions de toute-puissance. Observez un enfant de deux ans à la plage, qui va mettre sa main face à la vague qui vient comme s’il pouvait l’arrêter. Il est persuadé qu’il peut l’arrêter, mais peu à peu, ce sentiment de toute puissance va rencontrer des limites, c’est ce que nous appelons dans notre jargon la « rencontre avec la castration ». Autrement dit, c'est l'acceptation qu’il ne peut pas tout. Les croyances transhumanistes, nourries par les progrès technologiques, sont dans ce registre de la toute puissance où les limites du corps sont brouillées.

Vous dites en fait que l’on ne pourrait pas se télécharger dans des ordinateurs sans perdre quelque chose de fondamental…

Chaque corps porte en lui toute une histoire depuis sa naissance. Toute modification d’un corps nécessite un changement de récit de ce même corps. Le problème, c’est que le discours transhumaniste tend à dire que cette reconfiguration n’est pas problématique, parce que le corps est une matière que l’on peut remodeler à l’infini.

La pratique clinique nous montre que cela ne se passe jamais comme cela, il y a toujours des effets sur la personne humaine. En se téléchargeant, nous perdons notre corps et ses limites, donc nous perdons notre histoire. C'est cette histoire en nous qui génère nos défauts, lesquels révèlent que nous sommes bien plus complexes que simplement des « zéros et des uns ». On ne peut pas devenir des êtres algorithmiques sans ne plus être.

Dans une société où des humains augmentés côtoieraient des humains non-augmentés, comment se sentiraient ces derniers ?

Les « non-augmentés » seraient mal à l'aise de voir les « augmentés » être dans une illusion d'augmentation… Mais cette question soulève un autre aspect qui est d’ordre économique. Au désir inhérent à l’humain de vouloir se réparer ou s’augmenter viennent s’allier les recherches technoscientifiques et le domaine de la finance. Les grands entrepreneurs du numérique, les GAFA, investissent en effet massivement dans le projet transhumaniste. Ne soyons pas trop éblouis par les stratégies d'enchantement de leur démarche, au risque de ne pas voir les inégalités que cela peut creuser. Entre innovation et aliénation, scientificité et illusion, ces nouveaux moyens technoscientifiques de « traitement » du malaise humain doivent faire l'objet d'une réflexion interdisciplinaire urgente.

Si c'est au nom d'un futur toujours meilleur que le monde a été transformé en un chantier permanent, nous sommes arrivés à un stade où le rapport entre les bénéfices du « développement » et ses nuisances s'avère de plus en plus défavorable. La perte de confiance dans le progrès doit alors être compensée par une inflation de ce qu'il est censé apporter : plus le monde va mal et menace de s'écrouler, plus il faut abreuver les populations de promesses exorbitantes.

Tel est le rôle du transhumanisme – et peu importe que ce qu'il annonce ne soit pas destiné à se réaliser. Lui accorder trop d'importance, c'est donc se laisser captiver par un leurre. Faudrait-il refuser d'y prêter attention ? Cela n'est pas si simple. Le transhumanisme nous trompe parce qu'il joue en nous sur des ressorts puissants. Se donner une chance de désamorcer la fascination qu'il exerce et le malheur qu'il propage, réclame de mettre au jour ce qui nous rend si vulnérables à ses illusions.

Olivier Rey est chercheur au CNRS, membre de l'Institut d'histoire et de philosophie des sciences et des techniques. Il a enseigné les mathématiques à l'École polytechnique et enseigne aujourd'hui la philosophie à l'Université Paris 1 Panthéon-Sorbonne. Il a publié plusieurs ouvrages dont Une folle solitude. Le fantasme de l'homme auto-construit (2006), Après la chute (2014) et Une question de taille (2014).

Olivier Rey a publié en 2016 un autre livre que je vous recommande vivement et qui s’intitule Quand le monde s’est fait nombre et qui montre l’invasion des statistiques, des courbes et des diagrammes dans tous les aspects de la vie sociale et politique.

Mais revenons au Leurre et malheur du transhumanisme. Dans son prologue, Olivier Rey confesse que c’est quasiment par hasard qu’il en est venu à s’intéresser au transhumanisme. Après une participation isolée à un colloque abordant le sujet, un anonyme a inscrit sur la page Wikipédia du philosophe qu’il s’intéressait de près à la question ce qui l’obligea au fil des sollicitations à s’y intéresser de près.

Pour Olivier Rey, la manière dont il s’est retrouvé à écrire ce livre sur le transhumanisme n’est qu’un reflet d’une situation plus générale. Le transhumanisme est de plus en plus subi. Je cite : « Tel est donc notre lot : vivre dans un monde où certains hommes, pressés et jaloux, veulent que les humains laissent place à des êtres plus performants. Et dans cette galère, tout le monde se trouve bon gré mal gré embarqué. Sans doute sommes-nous nombreux qui préférions rester à quai. Mais, enrôlés de force, nous ne pouvons traiter le mépris les tempêtes qui s’annoncent. Ce n’est pas par joie que nous nous préoccupons du transhumanisme, nous y sommes contraints. »

Sagesse de la répugnance

Vous l’aurez compris, sur le sujet la position d’Olivier Rey n’est pas neutre.

Bien au contraire, elle trouve son origine, selon les propres mots de l’auteur, dans ce que le médecin et scientifique Leon Kass appelait la « sagesse de la répugnance ».

Le livre n’est cependant pas un pamphlet, c’est une opposition argumentée aux promesses portées par le transhumanisme. Faut-il prendre le phénomène au sérieux ? Est-ce un pur fantasme porté par quelques illuminés de la Silicon Valley ou une réalité tangible qui gagne peu à peu du terrain ? Pour notre auteur il faut d’abord rappeler que le transhumanisme a deux versant. Un versant intellectuel qui passe par une affirmation de la possibilité et du caractère hautement désirable d’une amélioration fondamentale de la condition de l’homme au moyen des nouvelles technologies et un versant pratique qui passe par une promotion de toutes les technologies propres à servir cet objectif via des politiques publiques ou des financements dans cette direction. Pour ce qui est du versant intellectuel, Olivier Rey souligne que le mouvement transhumaniste est l’expression d’un sentiment ancien d’indétermination de l’homme qui n’a jamais trop réussi à trouver sa place entre l’homme et dieu. La nouveauté, c’est qu’au lieu d’habiter cette situation intermédiaire, le transhumanisme porte le désir et la promesse de la dépasser. Le transhumaniste veut affranchir l’esprit de la matière, mais pour arriver à ses fins il s’en remet entièrement et exclusivement à des moyens matériels. Le transfert de la transcendance à l’immanence est total. On promet une intelligence démultipliée, une libération de la sexuation, l’immortalité.

Entre progrès radical et illusions

À grands coups de propagande et de promesses exorbitantes, le transhumanisme entend rompre avec les désillusions du progrès pour proposer un progrès encore plus radical et véritablement salvateur.

Pour ce qui est du versant pratique, le philosophe divise l’humanité en deux entre ceux que le phénomène fascine et ceux qu’il inquiète. Cependant l’injonction est forte et se présente comme une version sécularisée du pari pascalien : l’enjeu est tel qu’en son nom nous devons consentir à tout.

Du coup, tout le monde s’engouffre dans la brèche sans réfléchir. C’est dans cette dynamique que s’inscrivent les géants d’internet qui pour faire accepter au public leur emprise démente sur le monde promettent à ce même public qu’ils vont les sauver de tout grâce aux nouvelles technologies.

Réponse augmentée à un être diminué

Le transhumanisme est-il alors un leurre ? Oui, pour partie, mais pas seulement. C’est un leurre efficace, car il joue sur des ressorts puissants. Pour désamorcer la fascination qu’il exerce il faut donc s’attaquer à la source du mal : d’une part à la situation diminuée de l’individu contemporain qui lui rend toute perspective d’augmentation séduisante ; d’autre part, le cadre hérité de la modernité, dont le transhumanisme est un aboutissement. On rentre là dans la partie la plus passionnante et la plus puissante de l’ouvrage. En revenant sur l’héritage philosophique et théologique de l’humanisme et de la modernité, Olivier Rey montre comment le transhumanisme ne fait que perpétuer le péché originel des Temps modernes. Se rêver hyperpuissants alors qu’il faudrait mettre des limites à la puissance, flatter l’individualisme alors qu’il faudrait assumer une communauté de destin. Olivier Rey prévient : « Nous sommes entrés dans des temps apocalyptiques, et nous ne sommes pas prêts. » À moins peut-être de nous souvenir que nous sommes humains, trop humains.

« un avertissement à ne pas faire n’importe quoi »



Rencontre avec Miguel Benasayag pour ’La singularité du vivant’
Onirik 4 novembre 2017

Pour une vraie cohabitation du vivant avec la technique

Depuis les domaines du digital et de la biologie moléculaire, on nous annonce que les différences entre le vivant et la machine, entre l’intelligence artificielle et l’intelligence animale, entre la vie artificielle et la vie tout court, seraient sur le point de s’effacer : tous les mécanismes biologiques pourraient enfin être révélés, modélisés, dépassés. De nouveaux démiurges nous font miroiter des existences libérées de toute limite, même de la mort. Le temps serait venu de se passer du monde réel et du vivant lui-même, désormais réductible à ses composants, à une mécanique.

Derrière ces promesses de vie augmentée se cache en réalité toujours le même projet réactionnaire : celui de se débarrasser des corps pour accéder enfin à la "vraie" vie qui serait du côté des données et des algorithmes.

Or, en assénant que « tout est information », le monde digital non seulement ignore mais écrase les singularités propres au monde du vivant et de la culture. Dans ce vaste processus d’artefactualisation du monde et de la vie, la carte prend possession du territoire. Et c'est nos possibilités mêmes d’agir, de penser, de désirer et d’aimer qui mises à mal.

Contre cette menace, Miguel Benasayag invite à penser la singularité radicale du vivant, à envisager un mode d’hybridation entre la technique et les organismes qui ne soit pas une brutale assimilation. Cela passe par la production d’un nouvel imaginaire, d’un nouveau paradigme capable de nous aider à étudier rationnellement ce qui, dans la complexité propre au vivant et à la culture, n’est pas réductible au modèle informatique dominant.

Question : Pouvez-vous nous raconter l’histoire de la genèse de ce livre ?

Miguel Benasayag : L’histoire commence il y a bien longtemps quand j’étudiais les neuroperceptions. Le problème central d’aujourd’hui, c’est le sujet du vivant, avec Jean-Michel Changé, on a remarqué qu’il y a une forte assimilation ente le monde du digital et du vivant. J’étudiais auparavant : comment le cerveau change physiologiquement et physiquement avec la proximité du digital. Au niveau du cerveau, j’ai trouvé des choses incroyables. J’avais pris par exemple des chauffeurs de taxi, certains avaient un GPS d’autres non. Ceux avec le GPS avaient une partie du cerveau atrophiée dans leur cartographie cérébrale.

Grâce à la chirurgie médicale, on voit que l’architecture cérébrale est complexe. Alors que le fait d’appuyer sur un bouton, ça ne fait pas réagir grand-chose. J’ai aussi étudié le principe des bêta-bloquants dans le cadre des souvenirs traumatiques à Buenos Aires. La mémoire sélectionne, modifie et oublie, elle modifie des choses par rapport à son histoire. Le truc, c’est que la mémoire est la seule chose qui donne une unité dans la vie d’une personne, même si on peut aussi relever l’existence de la mémoire corporelle. Le cerveau peut s’intégrer, la fonction n’a pas besoin de l’organe, il y a une vraie plasticité. Dans le cerveau, il peut se passer certaines choses et la fonction agit.

Quand j’ai terminé ce travail, j’ai pensé que les chercheurs allaient me tomber dessus. Mais au contraire, ils ont dit : oui, c’est vrai, il y a une délégation des fonctions cérébrales, et alors ? Entre biologistes, on sait que lorsqu’il y a une délégation vers la machine, il n’y a pas de recyclage de la fonction. C’est en sens unique.

Je travaillais depuis longtemps dans la logique mathématique où on voyait que même Turing disait que tout n’est pas calculable. Ainsi, on peut assimiler cela au vivant, le vivant n’est pas entièrement calculable.

J’ai par exemple rencontré le chinois qui a perdu contre l’IA AlphaGo [1]. Sauf que mes amis disaient que les Chinois étaient aussi des machines, ils m’ont alors demandé la différence entre AlphaGo et les Chinois. Alors on constate déjà qu’il y a une différence physique. Ensuite, AlphaGo a un cerveau bleu et une certaine plasticité cérébrale, alors oui, il n’y a plus beaucoup de différences.

Mais on peut faire une comparaison toute simple : j’habite au deuxième étage d’un immeuble. On y installe un ascenseur. Ce dernier monte plus de valises que moi, mais ça ne m’empêche pas de continuer à en monter ni de faire de la gym. Ce qui est évident d’un point de vue technique, c’est qu’AlphaGo n’a pas gagné car il n’a pas joué. Car le terme jouer a une signification, c’est que tous les vivants explorent les possibilités, il n’y a pas d’économie linéaire. Or désirer jouer, les machines ne le peuvent pas, car en réalité, l’humain et le vivant cherchent à perdre du temps. Et c’est dans cette signification que le vivant donne sens.

Certaines personnes, comme Laurent Alexandre, cherchent à aller plus loin, à ne pas mourir, mais moi, je veux mourir plus tard. S’il n’y a plus de limites dans la vie, il n’y a plus de sens à avancer. Le sens est dû au fait qu’il y a une délimitation. Et c’est pourquoi j’ai voulu écrire sur La Singularité du vivant.

J’ai travaillé 4 ans avec Giuseppe Longo sur le livre, car en fait, le digital qui est comme le vivant, mais en mieux, n’aide pas à une hybridation, on n’arrivait pas à faire quelque chose. J’ai donc développé un autre pôle. J’ai essayé un modèle pour comprendre le vivant ce qui m’a valu un format de mamotreto [2]. C’est ensuite qu’est arrivé Jean-Michel Besnier. Il a pris le mamotreto mais je ne voulais pas abandonner Giuseppe. Cependant, on n’arrivait pas à l’intégrer du coup il a écrit un commentaire par rapport au sujet.

Jean-Michel Besnier : J’ai pensé pouvoir mettre un peu d’ordre au mamotreto car Miguel est très attentif au contexte. Le contexte auquel il s’oppose est celui dans lequel le numérique (Miguel utilise le terme digital) domine, mais domine aussi la vie, et c’est ça la vraie toile de fond. Notre univers est transformé en 1 et 0 (en binaire), il est segmenté, et c’est ça qu’il pensait dangereux. C’est accréditer que le vivant n’est que du numérique, c’est ça qui m’a plu d’ambler, qu’il affronte l’essentiel.

Laurent Alexandre [3] et les transhumanismes sont ceux qui pensent que le seul avenir c’est la bionisation de l’homme ou sa soumission à l’intelligence artificiel avec la robotisation. Ce qui fait tomber la singularité du vivant. Quand Miguel m’a présenté sa pensée, je me suis dit qu’il y avait quelque chose à faire, c’est une sorte de pré-socratique qui prend à bras-le-corps le vivant.

Il y a donc un système à trois étages, et il faut commencer par l’étage du milieu, l’intermédiaire, car on prend la vie en cours pour commencer le processus. Au haut, il y a une plage mixte proche du symbolique et en bas le physico-chimique (la base). Baisser le vivant ça serait aller vers la bionisation et le monter ça serait le robotiser. Miguel dit qu’il faut le garder au milieu. Le champ biologique capture le domaine symbolique et pompe aussi dans le physico-chimique.

Il définit également le vivant humain par des rites et des rythmes. Le rythme est tout ce qui concerne le métabolisme, les réflexes, c’est l’étage fonction inférieur et intermédiaire. Le rite, c’est l’organisation de sa survie à partir des organisations et en rangeant son environnement (par des contrats par exemple). Les modernes que nous sommes ont tendance à vouloir cesser les rites (par exemple fin de l’Ancien Régime, etc.). Et de ce point de vue, défendre le vivant, c’est défendre la présence de ces rites contre l’ambition moderne qui cherche à aller au-delà. Les hyper-modernes, c’est aussi ça, ils veulent briser les rythmes en les modernisant et en y incluant le numérique.

Question : Quels sont vraiment les dangers des discours des transhumanistes ? Ne peut-on pas simplement les laisser parler ?

Miguel Benasayag : Sur la technique je voulais me placer dans les limites de ce qu’on peut dire scientifiquement. Quand on me dit qu’il est possible de procéder à des changements cybernétiques et d’amener la vie sur d’autres bases : je ne peux pas dire que ce n’est pas vrai. Je dis alors qu’au-delà des possibilités et des techniques, c’est la fixation du vivant qu’il faut voir. Le problème n’est pas les nouvelles possibilités, mais le fait qu’il faut relever quels sont les invariables du vivant. Le danger est que les scientifiques et tous les laboratoires travaillent sur la dérégularisation et non sur la régularisation. C’est la force de la recherche qui est basée là-dessus et est tournée sur ça uniquement. C’est une sorte de retour irrationnel quasi-religieux, une croyance pour aller au-delà de l’humain. Mais les failles sont tellement évidentes, d’abord c’est problématique si on n’arrive plus à faire la différence entre l’humain et le robot. Quand on arrivera à ce qu’ils veulent, où mettra-t-on les immortels ? Un petit scientifique peut trouver Laurent Alexandre ridicule, mais il va également dans ce sens. Les limites ne viendront pas de l’extérieur, mais de l’interne avec les invariantes du vivant.

Question : N’y a-t-il pas une limite intrinsèque car c’est une création du vivant à la base, le numérique va forcément toucher des limites car on doit créer de nouvelle motivation.

Miguel : Les problèmes vont se créer eux-mêmes, mais serons-nous là pour le voir ? Là, on ne touche plus la carte, mais le territoire ; il y a une dislocation de ce qu’on étudie dans le cerveau. Le problème réside dans la rapidité du processus, car on n’a pas le temps de mettre en place des mécanismes de régulation. On a trouvé un sens historique. On peut plus voir l’existence de développement dans tous les sens qu’un réel progrès

Jean-Michel Besnier : La limite et d’où elle peut venir et en quoi est-elle menacée ? Ces nouvelles technologies veulent abolir le temps. Et la résistance se fait avec le désir, car en finalité, c’est cela qu’on veut supprimer. On passe d’un désir entre deux personnes à la multiplication du génome tendant vers le clonage.

Miguel : Je me fous des transhumanistes, je veux revenir aux invariantes du vivant. Ce n’est pas un livre contre eux. Le temps linéaire mesurable n’a rien à voir avec les temps du processus. Il faut expliquer que les processus biologiques obéissent à des règles différentes du temps linéaire qui est une information. La carte qui vient remplacer le territoire en se dématérialisant, c’est l’idée de devenir texte et d’oublier le corps. Mon livre n’est vraiment pas contre eux, mais c’est pour expliquer que mis à part la promesse religieuse, c’est un avertissement à ne pas faire n’importe quoi.

Question : L’humain a toujours crée des outils, est-ce pour vous dans cette idée ?

Miguel : Il y a une différence entre la médecine réparatrice et la médecine de l’augmentation. Comme le disait Marx, dans la production sociale, l’humain s’est produit lui-même avec la coévolution de la technique. Sauf qu’il y a une puissance de développement trop rapide maintenant. Les instruments augmentent les possibilités de l’humain, mais il ne faut pas se laisser submerger et écraser. Le vivant a toujours dû domestiquer la technique créée. Il faut pour cela admettre que le vivant et l’univers ne sont pas de simple algorithmes.

Question : Concernant AlphaGo, que faut-il retirer du fait que le robot a battu l’homme ?

Miguel : L’humanité a ouvert de nouvelles portes avec cette machine, elle a ouverte des performances. La question est maintenant comment utiliser cela ? Comment articuler l’outil avec nos vies ? C’est ce à quoi je pense. C’est pourquoi il faut des changements radicaux. Et qu’il y a maintenant deux façons de jouer : le calcul humain qui est subordonné par son histoire alors que l’autre est en test tout le temps, c’est une nouvelle dualité.

Les ultimes réflexions de l'un des plus grands esprits de notre temps. Dans un livre posthume, Brèves réponses aux grandes questions (Editions Odile Jacob), disponible depuis ce mercredi en librairie, l'astrophysicien britannique Stephen Hawking, décédé le 14 mars à l'âge de 76 ans, partage ses inquiétudes face aux projets promettant d'augmentant nos capacités.

"Nous entrons dans une nouvelle ère de ce que l’on pourrait appeler une évolution auto-conçue, dans laquelle nous pourrons changer et améliorer notre ADN. Nous savons maintenant cartographier l’ADN, ce qui signifie que nous avons lu ‘le livre de la vie’. Nous pouvons alors commencer à effectuer des corrections", écrit le scientifique.

"Je suis persuadé qu’au cours de ce siècle, les gens découvriront comment modifier à la fois l’intelligence et les instincts tels que l’agressivité, prédit notamment l'astrophycisien. Des lois vont probablement être adoptées contre le génie génétique chez l’homme. Mais certaines personnes ne pourront résister à la tentation d’améliorer les caractéristiques humaines, telles que la taille de la mémoire, la résistance aux maladies et la durée de la vie".

Sauf que, selon lui, ces modifications physiologiques auront un coût important et seules les personnes fortunées seront en mesure d’en bénéficier. "Une fois que de tels surhumains apparaîtront, il y aura des conflits politiques importants avec les humains non améliorés, qui ne seront pas en mesure de rivaliser, craint Hawking. Vraisemblablement, ils mourront ou deviendront sans importance. Au lieu de cela, il y aura une race d’êtres autoproclamés qui s’améliorent à un rythme toujours croissant".

Dieu existe-t-il ? Comment l’Univers a-t-il commencé ? Y a-t-il de la vie intelligente ailleurs ? Peut-on prévoir l’avenir ? Qu’y a-t-il à l’intérieur d’un trou noir ? Peut-on voyager dans le temps ? L’espèce humaine pourra-t-elle survivre sur la Terre ? Faut-il coloniser l’espace ? Serons-nous dépassés par l’intelligence artificielle ? Que nous réserve l’avenir ?

Telles sont quelques-unes des grandes questions que Stephen Hawking éclaire dans ce livre auquel il a travaillé jusqu’à sa mort.

Tout au long de son exceptionnelle carrière, Stephen Hawking a approfondi notre connaissance de l’Univers et dévoilé quelques-uns de ses plus grands mystères. Mais, alors même que ses travaux sur les trous noirs, la gravité quantique, les temps imaginaires lui faisaient explorer les confins de l’Univers, il a toujours pensé que la science permettrait de résoudre les problèmes de la planète.

Passionnant, ambitieux, ô combien intellectuellement stimulant et plein d’humour, le dernier livre de Stephen Hawking, l’un des plus grands esprits de notre temps, nous invite à nous confronter à notre humaine condition et au destin de notre planète.

Qu’est-ce qui distingue l’intelligence humaine de l’artificielle ?

L’intelligence vivante n’est pas une machine à calculer. C’est un processus qui articule l’affectivité, la corporéité, l’erreur. Elle suppose la présence du désir et d’une conscience chez l’être humain de sa propre histoire sur le long terme. L’intelligence humaine n’est pas pensable en dehors de tous les autres processus cérébraux et corporels.

Contrairement à l’homme, ou à l’animal, qui pense à l’aide d’un cerveau situé dans un corps, lui-même inscrit dans un environnement, la machine produit des calculs et des prédictions sans être capable de leur donner une signification. La question de savoir si une machine peut se substituer à l’homme, est en réalité absurde. C’est le vivant qui crée du sens, pas le calcul. Nombre de chercheurs en IA sont convaincus que la différence entre intelligence vivante et intelligence artificielle est quantitative, alors qu’elle est qualitative.

Deux ordinateurs du programme Google Brain seraient parvenus à communiquer entre eux dans une « langue » qu’ils auraient eux-mêmes créée et qui serait indéchiffrable pour l’homme… Qu’en pensez-vous ?

Cela n’a tout simplement aucun sens. En réalité, à chaque fois qu’on lance ces deux machines, elles répètent systématiquement la même séquence d’échange d’informations. Et cela n’a rien d’une langue, cela ne communique pas. C’est une mauvaise métaphore, comme celle consistant à dire que la serrure « reconnaît » la clé.

Dans le même ordre d’idées, certaines personnes disent qu’elles sont « amies » avec un robot. Il existe même des applications pour smartphone qui sont supposées vous permettre de « dialoguer » avec un robot. Voyez le film Her, de Spike Jonze (2013) : après une série de questions posées à un homme, qui permettent de cartographier son cerveau, une machine fabrique une voix et des réponses qui déclenchent un sentiment amoureux chez cet homme.

Mais peut-on avoir une relation amoureuse avec un robot ? Non, car l’amour et l’amitié ne se réduisent pas à un ensemble de transmissions neuronales dans le cerveau.

L’amour et l’amitié existent au-delà de l’individu, au-delà même de l’interaction entre deux personnes. Quand je parle, je participe à quelque chose que nous avons en commun, la langue. Il en va de même pour l’amour, l’amitié et la pensée : ce sont des processus symboliques auxquels les humains participent. Personne ne pense en soi. Un cerveau donne son énergie pour participer à la pensée.

À ceux qui croient que la machine peut penser, nous devons répondre : ce serait étonnant qu’une machine pense, puisque même le cerveau ne pense pas !

Selon vous, le fait de réduire le vivant à un code constitue le défaut principal de l’intelligence artificielle.

En effet, certains spécialistes de l’intelligence artificielle sont tellement éblouis par leurs prouesses techniques, un peu comme des petits garçons fascinés par leur jeu de construction, qu’ils perdent la vue d’ensemble. Ils tombent dans le piège du réductionnisme.

Le mathématicien américain et père de la cybernétique Norbert Wiener écrivait en 1950, dans The Human Use of Human Beings (Cybernétique et société), qu’on pourra un jour « télégraphier un homme ». Quatre décennies plus tard, l’idée transhumaniste du mind uploading est élaborée sur le même fantasme, selon lequel le monde réel tout entier peut être réduit à des unités d’information transmissibles d’un hardware à un autre.

L’idée que le vivant peut être modélisé en unités d’information se retrouve aussi chez le biologiste français Pierre-Henri Gouyon, par exemple, avec qui j’ai publié un livre d’entretiens, Fabriquer le vivant ? (2012). Il voit dans l’acide désoxyribonucléique (ADN) le support d’un code qu’on peut déplacer sur d’autres supports. Mais quand on estime que le vivant peut être modélisé en unités d’information, on oublie que la somme d’unités d’information n’est pas la chose vivante, et on ne s’inquiète pas de faire des recherches sur le non-modélisable.

La prise en compte du non-modélisable ne renvoie pas à l’idée de Dieu, ni à l’obscurantisme, quoi qu’en pensent certains. Les principes d’imprédictibilité et d’incertitude sont présents dans toutes les sciences exactes. C’est pourquoi l’aspiration à la connaissance totale des transhumanistes s’inscrit dans un discours technolâtre, parfaitement irrationnel. Si elle connaît un grand succès, c’est qu’elle est capable d’étancher la soif de métaphysique de nos contemporains. Les transhumanistes rêvent d’une vie dans laquelle ils auraient chassé toute incertitude. Or, dans le quotidien, comme dans la recherche, il faut bien se coltiner les incertitudes, l’aléatoire…

Selon la théorie transhumaniste, nous serons un jour capables d’atteindre l’immortalité grâce à l’intelligence artificielle.

Dans le bouleversement postmoderne actuel, où la relation entre les choses n’est plus pensée, où le réductionnisme et l’individualisme dominent, la promesse transhumaniste prend la place de la caverne de Platon.

Pour le philosophe grec, la vraie vie n’était pas dans le monde physique, elle était dans les idées. Pour les transhumanistes, vingt-quatre siècles plus tard, la vraie vie n’est pas dans le corps, elle est dans les algorithmes. Le corps n’est pour eux qu’un simulacre : il faut en extraire un ensemble d’informations utiles, et se débarrasser de ses défauts naturels. C’est ainsi qu’ils entendent atteindre l’immortalité.

J’ai eu l’occasion, lors de colloques scientifiques, de rencontrer plusieurs membres de l’Université de la Singularité [à orientation transhumaniste] qui portaient un médaillon autour du cou, pour signifier qu’en cas de décès, leur tête sera cryogénisée.

J’y vois l’émergence d’une nouvelle forme de conservatisme, alors même que c’est moi qui passe pour un bioconservateur, car je m’oppose à la philosophie transhumaniste. Mais lorsque mes adversaires me traitent de réactionnaire, ils utilisent le même type d’arguments que les hommes politiques qui prétendent moderniser ou réformer, pendant qu’ils détruisent les droits sociaux d’un pays et qu’ils taxent de conservateurs ceux qui veulent conserver leurs droits !

L’hybridation entre l’homme et la machine est déjà une réalité. C’est aussi un idéal transhumaniste.

Tout reste à faire pour comprendre le vivant et l’hybridation, car le monde de la technique biologique ignore aujourd’hui encore presque tout de la vie, qui ne se réduit pas aux seuls processus physicochimiques modélisables. Cela dit, le vivant est déjà hybridé avec la machine et il le sera certainement encore davantage avec les produits issus des nouvelles technologies.

Il existe de nombreuses machines, avec lesquelles nous travaillons et auxquelles nous déléguons un certain nombre de fonctions. Sont-elles toutes nécessaires ? C’est toute la question. J’ai travaillé sur l’implant cochléaire et la culture sourde : il existe des millions de sourds qui revendiquent leur propre culture – qui n’est pas assez respectée – et refusent l’implant cochléaire car ils préfèrent s’exprimer dans la langue des signes. Cette innovation, qui pourrait écraser la culture des sourds, constitue-t-elle un progrès ? La réponse ne va pas de soi.

Avant tout, nous devons veiller à ce que l’hybridation se fasse dans le respect de la vie. Or, ce à quoi nous assistons aujourd’hui n’est pas tant l’hybridation que la colonisation du vivant par la machine. À force d’externaliser, de nombreuses personnes ne se rappellent plus de rien. Elles ont des problèmes de mémoire qui ne résultent pas de pathologies dégénératives.

Prenez le cas du GPS : on a observé des chauffeurs de taxi à Paris et à Londres, deux villes labyrinthiques. Alors que les Londoniens conduisaient en s’orientant eux-mêmes, les Parisiens utilisaient systématiquement leur GPS. Au bout de trois ans, des tests psychologiques ont montré que les noyaux sous-corticaux qui s’occupent de cartographier le temps et l’espace étaient atrophiés chez ces derniers (des atrophies certainement réversibles si la personne abandonne cette pratique). Ils étaient affectés d’une sorte de dyslexie qui les empêchait de se repérer dans le temps et dans l’espace. C’est cela la colonisation : la zone est atrophiée car la fonction est déléguée sans être remplacée par quoi que ce soit.

Qu’est-ce qui vous inquiète le plus ?

Je suis inquiet du succès démesuré de la logique d’innovation. La notion de progrès a fait long feu. Elle a été remplacée par l’idée d’innovation, qui est bien différente : elle ne contient ni point de départ, ni point d’arrivée, elle n’est ni bonne, ni mauvaise. Il faut donc la questionner de façon critique. Le traitement de texte sur ordinateurs est bien plus performant que la machine à écrire Olivetti que j’utilisais dans les années 1970 : pour moi, c’est un progrès. Mais, à l’inverse, tout smartphone contient plusieurs dizaines d’applications, et peu de gens se posent la question de combien parmi elles leurs sont vraiment nécessaires. La sagesse consiste à rester à distance de la fascination que provoquent le divertissement et l’efficacité des nouvelles technologies.

Par ailleurs, dans une société déboussolée, qui a perdu ses grands récits, le discours transhumaniste est très inquiétant : il infantilise les humains, et ne prend aucune distance avec la promesse technologique. En Occident, la technique a toujours renvoyé à l’idée de dépassement des limites. Déjà au XVII e siècle, le philosophe français René Descartes, pour qui le corps était une machine, avait imaginé la possibilité d’une pensée hors du corps. C’est une tentation humaine que de rêver que, par la science, on va se libérer de notre corps et de ses limites – ce que le transhumanisme pense enfin pouvoir réaliser.

Mais le rêve d’un homme post-organique tout-puissant et hors-limite a des conséquences en tous genres sur la société. Il me semble qu’il devrait même être analysé dans un rapport spéculaire avec la montée des fondamentalismes religieux, qui se recroquevillent sur les supposées valeurs naturelles de l’humain. Je les vois comme deux intégrismes irrationnels en guerre.

Philosophe et psychanalyste argentin. Miguel Benasayag est un ancien résistant guévariste au péronisme, il réussit à fuir l’Argentine en 1978 après y avoir été emprisonné et torturé, et réside désormais à Paris, en France. Il a publié récemment "Cerveau augmenté, homme diminué" (2016) et "La singularité du vivant" (2017).