Gare au discours transhumaniste pour tous !

 

Raphaël Gaillard interviewé le 20 janvier 2024

L’affirmation que le cerveau humain est l’objet le plus complexe qui existe, et qu’il est ordinairement sous-utilisé, est le mantra du cognitivisme.

Le cognitivisme est cette doctrine anthropologique qui considère que les facultés mentales qui font la supériorité de l’espèce humaine, reposent essentiellement sur l’aptitude prodigieuse de son cerveau à traiter les informations pour en faire des connaissances. Et donc qu’il faut étudier les processus en jeu dans le fonctionnement du cerveau pour réparer, mieux maîtriser, augmenter, l’accès aux connaissances.

Il faut reconnaître au crédit de cette approche matérialiste de la pensée humaine la positivité de résultats médicaux indéniables. C’est ainsi qu’elle peut permettre de délivrer de son handicap le malade dit « de Parkinson », où de donner accès à l’écriture au tétraplégique. Mais cette réduction de l’esprit à l’activité cérébrale rend-elle bien justice à la richesse de l’expérience humaine ? Faut-il, sans un examen de ses présupposés philosophiques, laisser le cognitivisme intervenir sur nos manières de connaître ?

Le support de notre réflexion est une interview donnée par le neuropsychiatre Raphaël Gaillard à France Inter le 20 janvier 2024.

Le neuropsychiatre vise à soigner les symptômes psychiatriques en intervenant sur le fonctionnement du cerveau. Il s‘appuie sur les neurosciences, discipline extrêmement investie aujourd’hui, qui étudie les phénomènes survenant dans le cerveau – essentiellement au moyen de l’IRM (Imagerie par Résonnance Magnétique) – dans leur relation avec l’état ou l’activité de l’individu.

Nous allons écouter M. Gaillard, dans le début de son interview, ce qui nous permettra de mieux préciser le problème que pose la thèse de l’augmentation de la puissance du cerveau qu’il promeut ici.

Audition E1, 5’46

1)  Le professeur Gaillard part-il du présupposé que notre cerveau est sous-utilisé ?
La réponse est équivoque

(1)  Oui, puisqu’il est affirmé que le cerveau peut être augmenté.
2’30 :« Cet organe fantastique qu’est le cerveau …on veut démultiplier la puissance de son cerveau »

(2) Mais s’il ne peut être augmenté que par une intervention extérieure (une stimulation chimique, le neurochirurgien pour implanter une puce).
On en déduit qu’il n’est pas sous-utilisé, mais qu’il est tout simplement trop limité.
 Ce qui mène à la question : pourquoi serait-il trop limité ?
R. G. (Raphaël Gaillard) affirme une première motivation, circonstancielle et défensive : parce que les humains risquent d’être dépassés par l’IA (Intelligence Artificielle)
3’25 : « … notre seule chance de faire face à l’intelligence artificielle … ; est de nous hybrider à l’IA » Cf la truie d’Elon Musk.

3’32 « Nous serons dépassé très vite … la singularité »

La singularité : C’est le point de bascule où l’IA, qui est pensée comme devant suivre une courbe de progression asymptotique, atteindra prochainement le niveau de s’auto-perfectionner, et donc d’échapper au contrôle humain, parce que l’humain ne pourra plus ni comprendre ni prédire ses actions. Cf Ray Kurzweil (1948-…) qui prédit la singularité pour 2045, date à laquelle il prévoit de fusionner sa conscience avec la machine pour devenir « immortel »  !

(3) Mais n’est-ce pas l’intelligence des ingénieurs de la high-tech, comme celle des neuroscientifiques, qui ont conçu l’IA ? Ce qui réhabilite ses capacités. Mais alors celles-ci seraient différentes selon les individus. Il faudrait donc considérer la sous-utilisation du cerveau comme très inégale, en faveur des scientifiques par rapport au commun des mortels.

Conclusion : Pour R. G., notre cerveau est sous-estimé, et donc sous-utilisé, essentiellement dans ses CAPACITES D’HYBRIDATION – c’est ce que va établir ce qui va suivre.
 

2)  Comment comprendre le projet de nous augmenter en « hybridant » notre cerveau ?

a)   La notion d’hybridation a un sens d’abord biologique de croisement entre deux individus vivants d’espèce ou de variété différentes pour former un nouvel individu, non reproductible, avec des caractères nouveaux. Donc dans le contexte de l’interview, il faut comprendre que l’IA est assimilée à une autre variété d’intelligence qui, croisée avec celle d’un individu humain singulier, lui donnera une intelligence nouvelle, à la « puissance démultipliée ».

b)  Hybridation semble bien impliquer sous la bouche de R. G l’implant de puces dans la boîte crânienne. En effet pour expliquer ce que peut être l’homme augmenté, il prend pour exemple Elon Musk et son entreprise Neuralink, affirmant, sans prendre aucune distance critique, que le but est «  de mettre des implants dans le cerveau pour créer concrètement des interfaces entre le cerveau et l’ordinateur… » et suivent des appréciations élogieuses pour le milliardaire américain (écouter à partir de 3’39).
Mais la perforation de la boîte crânienne a toujours été considérée comme une intervention des plus périlleuses sur le corps humain, qu’on ne pratiquait que lorsqu’il était impossible de faire autrement !

c)   Ladite hybridation, consisterait en ce que notre activité cérébrale soit articulée avec une application IA, de telle sorte que, lorsque mentalement nous nous poserions une question, nous aurions aussi des réponses de l’IA !
Cela ne suppose-t-il pas de la mémoire, une alimentation électrique, une connexion au Réseau, des mises à jour d’un programme, etc. R. G. se garde bien d’entrer dans ces détails …
L’idée de s’hybrider à l’IA ne serait-elle pas une reddition pure et simple de l’humain à la machine ?

Enfin, l’éminent professeur affirme qu’il n’est pas possible de séparer le fait de soigner des dysfonctionnements cérébraux de celui d’améliorer ses capacités cognitives. Il fait comme si l’« amélioration » du point de vue du neuropsychiatre ne pouvait qu’aller de soi pour son patient. Non ! Soigner des troubles de mémoire, et s’hybrider à l’IA, sont deux buts clairement différents. Le patient qui se fait soigner est légitime à être informé et à refuser le second !

D’ailleurs, l’appui constant de l’interviewé sur la notion de soin pour promouvoir l’« homme augmenté » fait problème, comme il apparaît dans l’extrait suivant.

 

Audition E2, 1’36

Réparer, sur du vivant, est-ce nécessairement améliorer ?

15" : « … qu’on soigne, qu’on répare, … » Le scientifique entretien une confusion entre soin et réparation. Ne faut-il pas les distinguer ?
Qu’est-ce qui les distingue : le soin renvoie à l’idée de santé, la réparation à celui de fonctionnement d’un objet technique qui lui donne son utilité.
Ce n’est pas pareil !
La réparation est un idéal objectif, très concret : « ça marche ! »
La santé, plus profondément que d’être un bouquet de normes physiologiques objectives (tension, température, etc.) est d’abord une expérience personnelle – on se sent en bonne santé ! – le médecin-philosophe Georges Canguilhem définissait, dans Le normal et le pathologique (1966), la santé comme la puissance d’un vivant à instituer des normes de vie nouvelles, à varier et à se réadapter sans perdre sa capacité d’action.

La santé est donc quelque chose de plus subtil et relatif que la réparation, et le neuroscientifique, avec ses électrodes et ses implants, est beaucoup trop grossier, intrusif, pour prétendre prendre soin de la personne !

Certes, il peut réparer et améliorer certaines fonctions précises, mais on n’est dans tout autre chose que le recouvrement de la santé.

C’est ainsi qu’il faut comprendre l’opposition que fait R. G. entre les fonctions particulières du cerveau, et sa globalité en ce qui concerne l’implant des puces destinées à l’améliorer : effectivement le neuropsychiatre intervenant sur le cerveau ne peut que réparer des fonctionnalités déterminées (mémoire, paralysie, etc.). Et R. G. ajoute (1’15) : « il n’y a pas un port USB qui permet d’accéder à l’ensemble ». Certes, cela est vrai de son point de vue technique. Mais la conscience ne joue-t-elle pas ce rôle ? Car c’est la conscience qui dit la restriction des possibilités physiologiques – « Je ne se sent pas bien » – et est portée à vouloir retrouver la capacité d’adaptation et d’action qui caractérise le fait de ses sentir en bonne santé, par exemple en allant consulter un médecin.

Ce qui fait défaut à R. G. ici, et, globalement à l’approche médicale disons « anatomique », c’est la conscience de la priorité du système que constitue l’organisme vivant sur ses parties. De fait, chaque puce implantée modifie la conscience qu’on a de soi. Comme l’écrivait K. Goldstein : « Le réseau qu’est le système nerveux est appareil qui fonctionne comme un tout, (…) chaque réaction à une excitation est en relation avec le tout de l’organisme » (La structure de l’organisme, 1934).

Bien sûr, il faut reconnaître à R. G. la capacité de la neuropsychiatrie à réparer des défaillances fonctionnelles du corps et de l’esprit très handicapantes, comme rendre capable d’écriture le tétraplégique. Mais on voit bien que R. G. veut nous emmener ailleurs, vers ce qu’il appelle ici l’« amélioration ». Mais en améliorant quoi ? Les performances de certaines fonctions cérébrales. Mais pourquoi ? Pour contrer une éventuelle prise de pouvoir par l’IA ?

Si l’on y réfléchit, l’argument ne tient pas. Si la menace est réelle, n’a-t-on pas dès maintenant les moyens d’encadrer l’IA ? On n’est pas obligé, par exemple, de créer des robots-soldats tueurs autonomes (comme on le fait peut-être dès maintenant sous forme de drones) ? Et puis, si l’IA nous menaçait, ne suffirait-il pas de la débrancher ? Car elle a absolument besoin d’énormes quantités d’électricité !

C’est en ce point qu’il faut prendre connaissance de l’argument massue de R. G. en faveur de l’« augmentation ».

 

Audition E3, 1’59

Cette équivalence, comme hybridation, du passage à l’écriture/lecture et de l’implantation de puces dans le cerveau pour qu’il tire parti de l’IA, vous paraît-elle valable ?

-     Déjà le mot hybridation est forcé concernant le projet d’augmentation de la puissance du cerveau par implants de puces électroniques. Car l’IA n’est pas vivante, elle est une récollection et mise en forme de la mémoire massivement numérisée en fonction d’algorithmes, provoquée par une question (traitée également par des algorithmes s’attachant à des mots-clés). Ce serait plus juste de parler de « prothèse de mémoire avec des automatismes plus ou moins pertinents d’adaptation à la pensée de l’individu ».

-     L’écriture-lecture a un tout autre rapport avec la pensée humaine :

o   Elle est un moyen de régulation sociale primordial – écrire, ce fut d’abord écrire le droit, comme avec le Code d’Hammourabi XVIII^e siècle av J.-C.

o   Elle préserve la pleine autonomie de la personne – on utilise ou non librement le livre – alors que les implants transcrâniens inféodent à long terme à l’institution médicale et à l’information gérée de manière opaque par des pouvoirs sociaux.

o   L’écriture, comme le livre n’ont pas besoin d’une production massive d’énergie artificielle, contrairement à l’« augmentation » du cerveau par l’IA.

o   Le livre ouvre le débat. L’IA, s’immisçant constamment dans la conscience de l’individu augmenté, se présente – on l’expérimente dès aujourd’hui – comme étouffant le débat, comme la bonne parole indépassable sur la question. De ce point de vue, elle est infantilisante – chacun tend à se voir à son égard comme tout enfant lorsqu’il posait ses questions au père-qui-sait-tout.

Non, entre l’accès à l’écriture, et l’augmentation par amélioration prothétique des performances du cerveau, on n’est pas du tout dans des « sauts techniques » équivalents !

L’implant cérébral d’« augmentation » est une prothèse de mémoire doublement asservissante, à la fois sanitairement et socialement. Alors que l’écriture/lecture est une technique à la fois de mémorisation et de communication, qui laisse tout-à-fait libre, qui a grandement contribué à l’enrichissement de l’usage de la langue, par exemple pour la régulation sociale (codes de droit), l’imaginaire (récits de fiction), la connaissance (traités en toutes matières), la vie sociale (courrier), la politique (textes qui sont un apport au débat public sur le bien commun), etc.

 

Audition E4, 1’24

Ce projet d’« augmentation » implique-t-il une humanité à 2 vitesses ?

À cette question pertinente de la journaliste, R. Gaillard répond en substance : « Oui, mais ce n’est pas nous, c’est l’économie ! » Mais l’économie, c’est aussi toi, c’est d’abord toi, qui te place avec tes activités et prises de position à la pointe de l’établissement d’un nouveau marché que tu veux prometteur !

Au fond, cette propagande pour une hybridation cérébrale à l’IA, peut être comme une conséquence de l’ouverture d’un marché de l’IA. Car les investissements requis pour imposer populairement l’IA sont gigantesques ; et ils se font presque totalement, aujourd’hui, à fonds perdus. Ce qui est inévitable dans la stratégie de création d’un nouveau marché – celui de l’IA – pour lequel il n’y a aucune appétence populaire spontanée. Mais, du coup le risque financier est énorme. Il faut absolument faire émerger des perspectives de revenus. Il y a incontestablement dans cette propagande outrée pour l’homme augmenté une part importante de motivation financière de rentabiliser l’IA.

Ne faut-il pas voir aussi dans l’insistance du message de R. Gaillard pour une pratique d’« augmentation », qui choque le bon sens populaire, la visée pour une industrie florissante de la chirurgie neuropsychique qui prolonge celle de l’IA ? Après tout, cela converge avec l’investissement massif du privé pour la recherche dans le domaine des neurosciences.

À propos de l’insistance de l’interviewé, notons l’espèce de coup de force de l’affirmation (56") : « Puisque l’augmentation elle est là comment on fait ? Comment on s’y prépare ? »

Non, l’augmentation n’est pas là ! Pas du tout ! La pratique neurochirurgicale d’implants est actuellement limitée au traitement de maladies fortement invalidantes liées à des dysfonctionnements neuronaux, et tout particulièrement à la maladie de Parkinson. Aller au-delà n’est nulle part avalisé légalement. L’« augmentation » est simplement choisie par quelques individus dont R. G. et ses comparses, dont E. Musk, mais sans consultation de ceux qui seront concernés.

L’étonnant est qu’elle arrive à se donner une tribune, et de façon répétée, dans les fréquences radio les plus écoutées de France (les chaînes de Radio-France) !

 

Audition E5, 1’13

5" : « Notre cerveau est tellement puissant que très souvent il ne se supporte plus, alors si on l’augmente encore… »

Qu’est-ce que cela veut dire ?

Cela ne veut pas dire grand-chose ! Car « cerveau-tellement-puissant-qu’insupportable » ne déclenche aucune intuition d’une quelconque expérience chez qui que ce soit !

Pourquoi alors proférer une telle incongruité ? Parce que cette formule, dans son excès flatte l’ego des individus. La pilule d’implants intra-cérébraux est très très amère ! Cette flatterie aiderait à la faire passer.

Mais c’est incohérent, objectera-t-on ! Si notre cerveau est « tellement puissant », pourquoi vouloir l’augmenter ? Certes, mais cette objection de sagesse est disqualifiée par l’idéologie mercatocratique omniprésente qui veut que le Bien soit toujours du côté du quantitatif, du « toujours plus ». Notre cerveau est surpuissant mais on peut faire encore plus ! Alors il faut faire plus !

Préparer l’enfant à l’« hybridation » est-il compatible avec le fait d’en prendre soin ?

La question implique la réponse ! Car on ne saurait mener l’enfant à la prothèse cérébrale comme on le mène à la reconnaissance des lettres et à leur écriture !

Condamner certaines formes de technologie, est-ce « enterrer la culture dans les musées » ?

Il faut prendre ici la notion de « culture » dans son sens le plus large : elle est constituée de tout ce qui, créé par les humains grâce à leur liberté, a été jugé digne de prendre place dans leur monde commun, et dès lors se doit d’être conservé, au moins par le souvenir, et transmis aux générations à venir. Non, les centaines de milliers de tonnes de déchets radioactifs HAVL (de haute activité à vie longue), évacués des cœurs des réacteurs nucléaires par des robots, disséminés sur la planète à l’abri des regards, menaçants pour mille générations à venir, dont on fait tout pour taire l’existence^[i], ne font pas partie de la culture humaine, ils font partie des égarements de l’humanité ! De même les bombes à fragmentation, les mines anti-personnelles, les bombes atomiques, et bien d’autres, la liste serait longue !

Par contre les possibilités techniques apparues auxquelles on a renoncé parce que l’on voyait clairement la menace au bien commun qu’elles signifiaient, sont des acquis de la culture. Archimède, dit-on, aurait détruit les plans de ses bombardes, décrites par les historiens romains relatant le siège de Syracuse (213 av. J.-C.), avant d’être arrêté et tué par un soldat romain. À la fin du XV^e siècle Léonard de Vinci déclare lui-même dans ses Carnets, renoncer à donner les plans du sous-marin qu’il a conçu, arguant que ce serait une arme trop meurtrière dans les combats entre cités.

Oui, être humain ce n’est pas simplement être nature, c’est envelopper cette nature d’une culture, et parce que la culture doit être vivifiante pour l’histoire humaine, elle doit oublier ce qui avilit sa liberté. Il faut reconnaître que les implants cérébraux d’augmentation en font partie, comme d’ailleurs tout ce qui contribue à nier la finitude humaine. La finitude, c’est l’idée que l’humain a des limites propres, et que ce sont ces limites qui donnent sens à sa liberté.

C’est donc sauver la culture que condamner certaines formes, inhumaines, de technologie.

*  *  *

En conclusion, posons-nous la question que semble ne s’être jamais posé R. Gaillard. Ce paramètre de la capacité du cerveau est-il pertinent pour juger de la valeur de l’individu humain ? Il s’agit d’un paramètre quantitatif. En quoi son augmentation valoriserait-elle la pensée ?

La pensée, au sens le plus large, c’est la conscience de chacun – sa propre conscience.

D’une part sa conscience transcende l’existence du cerveau comme elle transcende tous les phénomènes matériels. Transcende signifie que le transcendé dépend absolument de qui le transcende, à la fois pour être, et être tel qu’il est. D’où vient le cerveau ? Il vient de notre conscience connaissante. Et celle-ci nous apprend qu’il se forme graduellement à partir de l’ovule fécondée dans le ventre maternel. Mais d’où vient la conscience ? Du cerveau ? Mais quelle expérience irait-elle en ce sens ? Personne en effet ne peut témoigner d’un commencement d’être conscient. Mieux, si l’on y réfléchit, un tel commencement est impensable puisque tout état de conscience présuppose une conscience passée.

D’autre part il faut reconnaître que la conscience est essentiellement qualitative. Même lorsqu’elle pense l’homme augmenté, elle le pense qualitativement – ainsi pour R. G. c’est une qualité positive. Elle est donc tout-à-fait étrangère aux problèmes de quantification des connexions neuronales, des courants électriques, et autres ondes de résonnances électromagnétiques, des neurosciences. D’ailleurs les succès de la neuropsychiatrie ne sont dus qu’à la reprise volontaire, technique, de corrélations constatées, mais jamais comprises, entre des phénomènes perçus dans le cerveau et des états de conscience de l’individu observé. Il n’y a pas de théorie de l’articulation entre phénomènes cérébraux et états de conscience. Et il n’y en aura jamais ! Car, comme le montrait Platon dans le Phédon (79a-79d), dès le IV^e siècle av. J.-C., cette corrélation est logiquement impossible !

Et quand bien même voudrait-on ignorer ces éclairages apportés par la philosophie, l’augmentation de notre cerveau par les neurosciences va-t-elle nous aider à résoudre les problèmes cruciaux auxquels l’humanité est confrontée aujourd’hui ? Va-t-elle permettre de stopper la montée de la violence entre humains, la violence suicidaire des humains à l’égard de la biosphère qui les fait vivre. ? Non ! Notre cerveau avec ses capacités natives comprend déjà clairement tous ces périls.

Ce n’est pas de puissance du cerveau dont nous manquons, c’est de courage ! Et ce courage, on ne le trouvera pas du côté d’implants dans le cerveau, on ne le trouvera que dans la fraternité que pourra nous donner le savoir du tragique de l’impasse en laquelle nous sommes pris.

Lien pour écouter l’interview complet de Raphaël Gaillard à France Inter du 20 janvier 2024

 

 

---

^[i] Il y aurait eu 250 000 tonnes de déchets HALV dans le monde en 2008 (chiffre donné verbalement par B. Boullis du C.E.A., lors du colloque de Nancy organisé par l’Andra en juin 2009). On ne trouve nulle part de chiffres plus récents.