Bannière du blog

 

Comprendre les problèmes posés par les transformations du monde contemporain.

 

  "Une vie dépourvue de pensée n'a rien d'impossible ; elle ne réussit pas à développer sa propre essence, c'est tout... Les hommes qui ne pensent pas sont comme des somnambules." Hannah Arendt

Cf le site L'anti-somnambulique.

Affichage des articles dont le libellé est pensée. Afficher tous les articles
Affichage des articles dont le libellé est pensée. Afficher tous les articles

mercredi, septembre 09, 2026

À propos d’une évolution inquiétante de l’IA

 


« Les gens qui construisent l’IA croient qu’elle pourrait tous nous tuer d’ici à la fin de la décennie » (il s’agit d’une citation de Jacob Coxon, chercheur britannique en IA), tel nous interpelle le titre d’un article du Monde du 09-09-2026 ! Dans le corps de l’article l’alarmisme se renforce sur la base de considérations plus objectives : « Les sociétés dominantes du secteur de l’IA disent voir approcher le stade de "l’auto-amélioration récursive" au-delà duquel un modèle concevrait seul son successeur, hors de tout contrôle humain. » 

–     L’anti-somnambulique (a-s) : C’est bêta ! Il suffit de couper l’électricité aux calculateurs, aux centres de données, enfin à l’un des systèmes techniques indispensables à son fonctionnement !

–     L’interlocuteur : Mais c’est qu’il s’agit d’un niveau d’IA autonomisé au point de pouvoir doubler les initiatives humaines contre elle. On peut envisager, par exemple, qu’elle puisse concevoir une version d’elle-même capable de migrer vers les réseaux d’ordinateurs privés !

–     (a-s) : Hé bien, on les débranchera également ! Et même s’il fallait renoncer à l’usage de l’électricité, tellement l’IA serait devenue débrouillarde, l’humanité ne serait pas du tout menacée, elle a quasiment toujours vécu sans électricité ! L’IA, elle, n'est rien sans électricité !

Que ce court dialogue nous maintienne éveillé sur la supériorité irréductible de la pensée humaine !

mercredi, février 11, 2015

Le fanatisme à la lumière d’un texte d’Alain


La condamnation du fanatisme comme une menace clairement identifiée, toute extérieure, ne saurait suffire à s’en prémunir. Le fanatisme est en effet un mode de pensée qu’on retrouve régulièrement dans l’histoire[1] puisqu’il se développe à partir du fond commun qui constitue la condition humaine. Il convient donc d’examiner le phénomène fanatique de façon un peu précise. Le « propos » du philosophe Alain (1868-1951) du 8 octobre 1927, repris dans le recueil Propos sur des philosophes, (chapitre 37, PUF, 1961), est, à cet égard, précieux. 


Alain

L’effet d’admiration

Alain commence par rappeler la parole de Socrate : « Nul n'est méchant volontairement ». On peut ne pas adhérer sans restriction à la thèse socratique, mais on doit lui accorder quelque crédit : tout homme, lorsqu’il ne laisse pas seulement déterminer son comportement par les forces qui pèsent sur lui mais s’emploie à le choisir de manière réfléchie, ne vise-t-il pas le bien ? Ce qui semble interdire d’inclure purement et simplement les fanatiques dans la catégorie des méchants puisqu’on s’accorde à leur reconnaître une volonté peu commune dans l’affirmation de leurs idées. À tel point même qu’ils « mettent au jeu leur propre vie, et sans espérer aucun avantage »,[2] c’est pourquoi ils suscitent en nous « un fond d'estime, et même quelquefois une secrète admiration … car nous ne sommes point fiers de faire si peu et de risquer si peu pour ce que nous croyons juste ou vrai. »
Il faut avoir, avec Alain, ce courage intellectuel de comprendre que le fanatisme puisse être jugé admirable. Cela permet de sortir de l’incantation conjuratoire – « Ce sont des fous meurtriers ! »– qui ne mène à rien sinon à la répression et à la violence. Cela donne un outil d’analyse qui permet de mieux rendre compte de l’attrait du fanatisme religieux dans nos sociétés occidentales. On le sait, ce sont des sociétés qu’on peut caractériser comme de consommation en ce que l’idéal de vie qu’elles promeuvent est un idéal de bien-être sans restriction qui serait accessible par la consommation de biens. Cet idéal nous enjoint de dire « oui » à nos désirs spontanés – ceux-ci étant d’ailleurs orientés de manière très calculée par la propagande marchande.
C’est ainsi que notre environnement est saturé jusqu’à la nausée de publicités nous susurrant plus ou moins explicitement de suivre le diktat de notre désir (tel qu’il est déterminé par le message publicitaire), ce qui est une manière de nous décourager de réfléchir pour faire ce que l’on juge bien, autrement dit de faire valoir notre volonté propre. Or, être humain n’est-ce pas avoir la liberté essentielle de réfléchir les valeurs finales en fonction desquelles on veut vivre – ce qu’Alain désigne comme « ce que nous croyons juste ou vrai » ? Au contraire, la valeur finale prônée par la société de consommation – le bien-être comme accumulation de plaisirs – est, humainement, profondément frustrante. C’est pourquoi nous pouvons être « point fiers de faire si peu et de risquer si peu » en cédant, comme nous le faisons communément, aux sirènes du bien-être par la consommation ; alors que les individus fanatiques, parce qu’ils ne cèdent pas mais donnent tout à leur idée du bien, peuvent sembler admirables.

Les crimes de système

Pourtant ceux qui admirent les fanatiques sont trompés, car, nous dit Alain, « Il y a des crimes de système, et qui ressemblent plus à des crimes volontaires ». Appelons « crime » tout comportement qui traite autrui en niant son humanité, comme s’il n’était qu’une chose. Il y a des crimes volontaires au sens où ils ne contreviennent pas à la parole socratique : ils visent à réaliser le bien. Ainsi on peut juger bien de tuer un individu pour en sauver de nombreux autres (éliminer un chef terroriste projetant un massacre, tuer un porteur de virus à la contagion potentiellement dévastatrice, etc.). C’est discutable, bien sûr, mais, du point de vue d’une conception pragmatique du bien, de nombreux chefs d’État, par ailleurs respectables, ont avalisés de tels crimes.
Il convient de poser soigneusement la distinction entre ces crimes « volontaires » qui peuvent se tromper sur le bien mais qui ne relèvent pas du fanatisme, et les crimes « de système » qui sont typiquement la manifestation du fanatisme. Car au premier regard la différence n’est pas manifeste : ne s’agit-il pas toujours de commettre un crime pour avancer vers ce qu’on croit être le bien ? « Mais, nous dit Alain, c’est à la pensée qu’il faut regarder ». En effet : « Il y a quelque chose de mécanique dans une pensée fanatique, car elle revient toujours par les mêmes chemins. » Concrètement cela signifie que la pensée fanatique est systématique et manichéenne. Elle applique à la réalité un système immuable d’idées qui implique que tout individu puisse être intégrable soit dans l’univers du bien, soit dans celui du mal. Elle est incapable de prendre du recul par rapport à sa vision du monde, comme d’accueillir des idées nouvelles qui pourraient faire évoluer ses propres idées : « Elle ne cherche plus, elle n'invente plus. (…) Il y manque cette pointe de diamant, le doute, qui creuse toujours. » Elle est donc incapable de prendre en compte la complexité, la richesse, la singularité d’un individu puisqu’il lui faut le réduire, l’enfermer, dans une des catégories par laquelle il est jugé définitivement.
Le crime fanatique est appelé crime « de système » par Alain parce que c’est toujours l’assignation de l’individu à une catégorie du système doctrinal qui légitime le crime. Les victimes du fanatisme – contrairement à celles des crimes « volontaires » – ne sont jamais des individus condamnés pour leur comportement propre en une situation particulière. Elles sont victimes parce que la parole d’autorité de la communauté fanatique les a désignées comme « infidèles », « mécréants », « apostats », « hérétiques », « blasphémateurs », « sorcières », mais aussi « ennemis de la liberté », « traîtres à la patrie » (la Terreur de l’an II), ennemis de classe, social-traîtres (stalinisme), communistes (maccarthysme), etc. Le vocabulaire stigmatisant du fanatisme est très riche, on pourrait dire « infiniment riche ». En effet la logique du fanatisme est immanquablement la logique des dominos : une catégorie désignée de victimes tombée, très vite une autre catégorie plus proche est désignée à l’élimination, et ainsi de suite. Car, du fait de l’infinie diversité humaine, il y a toujours une différence à pointer chez autrui par rapport à l’idéal de la doctrine fanatique. Ainsi, sous la Terreur, on a fini par se guillotiner entre membres du parti au pouvoir (les Montagnards).

La passion de penser

C’est pourquoi Alain écrit que « Cette pensée raidie, qui se limite, qui ne voit qu'un côté, qui ne comprend point la pensée des autres, ce n'est point la pensée » mais c’est « un emportement de pensée, une passion de penser qui ressemble aux autres passions. »
On appelle « passion » (au sens classique du terme qui est employé ici par Alain) une forme pathologique du désir dans le sens où celui-ci est impérieux, insistant, envahissant, impossible à raisonner, et incapable d’apporter le repos de la satisfaction. La notion d’« emportement » utilisée par Alain éclaire bien cette puissance d’un désir qui aliène la liberté, mais il faut alors préciser qu’il s’agit d’un emportement qui dure, à tel point qu’il structure la personnalité de celui qui en est l’objet.
Mais alors la passion apparaît antinomique avec la pensée. Comment peut-on parler de « passion de penser » ? Le fanatisme s’identifie pourtant bien comme une pensée au sens d’un ensemble d’idées cohérentes entre elles – une doctrine – sur les valeurs en fonction desquelles on doit vivre. Mais c’est une doctrine à laquelle on adhère par croyance, c’est-à-dire essentiellement pour des motifs subjectifs – ceux qui ne valent que pour soi par opposition aux arguments objectifs qui valent pour tous. Mais les croyances sont le type de savoir le mieux partagé au monde et, ordinairement, elles ne sont pas fanatiques : on peut les discuter et elles évoluent. Ce qui spécifie la croyance fanatique c’est que le motif subjectif d’adhésion à la doctrine est une passion. C’est pourquoi cette adhésion est en tous points excessive : par la place envahissante qu’elle occupe dans la vie du fanatique, par l’intolérance à l’égard de ceux qui la critique, par la propension déraisonnable de vouloir l’imposer à tous. Déraisonnable parce qu’une croyance, par nature, ne peut jamais faire l’unanimité.

La première victime

C’est pourquoi le fanatique ne pense pas ; ce qui veut dire : il ne réfléchit pas ses pensées mais il adhère de manière passionnelle à un « prêt-à-penser ». Dès lors il faut reconnaître qu’il n’est pas du tout volontaire, comme il paraît à première vue, puisqu’il est « emporté » par sa passion. En tous ses comportements, le fanatique n’est pas libre, il est déterminé – par le contenu de la doctrine qui est imposé comme indiscutable, par les implications pratiques de sa doctrine qui lui dictent ce qu’il fait, et, fondamentalement, par sa passion pour la doctrine qui lui fait accepter tout cela.
Le fanatique n’est donc pas du tout un être admirable. Il est une victime. Victime des autres qui l’ont attiré vers cette doctrine qu’il ne doit pas réfléchir mais docilement servir. Victime de sa passion qui l’aveugle dans son assujettissement à cette doctrine et à ceux qu’elle sert. Et, lorsqu’un fanatisme prend une importance sociale significative, première victime d’une longue série due à la recrudescence de violence qui est engendrée dans la société par la logique fanatique.
Dans l’entreprise fanatique, il convient de distinguer clairement deux types d’acteurs qui sont habituellement confondus. Il semble bien qu’il y ait toujours des individus non pas passionnés mais très raisonnant (et non pas raisonnables) qui dirigent un mouvement fanatique. Ils sont souvent ceux qui ont le pouvoir spirituel, c’est-à-dire qui sont à la fois les garants de la lettre de la doctrine et qui ont autorité sur son interprétation ; ils sont ceux qui recrutent les militants en s’appuyant sur leur fragilité affective pour la transformer en passion pour la doctrine ; ils sont les principaux bénéficiaires du pouvoir temporel qui toujours accompagne le progrès de l’entreprise fanatique (même si elle se veut religieuse). Ces individus-là ne sont pas des victimes. Ils n’ont pas vocation à être sacrifiés pour le succès de la doctrine et savent se protéger. Ce sont des individus de pouvoir comme tous les autres : ils calculent beaucoup ; ils essaient de faire en sorte que leurs subordonnés soient les instruments dociles de l’augmentation de leur pouvoir. Toute autre est la condition des individus fanatisés que la passion rend dévoués corps et âme à la cause du mouvement fanatique, et très souvent jusqu’au sacrifice de leur vie. Le fanatisme est toujours une entreprise de pouvoir totalitaire qui s’appuie sur la fragilité affective de ses militants.

Genèse du fanatisme

Toute la force ravageuse du mouvement fanatique vient donc de la passion du militant fanatisé. Tout le problème de la prévention du fanatisme se condense donc dans la question : comment peut-on se garder d’adhésions passionnelles à une doctrine ?
Il convient d’abord de remarquer que la passion correspond à une position régressive du désir. Elle a l’exigence impérative et impatiente du désir infantile. Or toute position régressive du psychisme est le symptôme d’un échec affectif dans le présent qui n’a pas été résolu. Comme c’est une passion pour une vision du monde qui constitue le fanatisme, il faut regarder du côté de l’échec d’une vision du monde. Un élément central de toute vision du monde est l’idée d’une société harmonieuse, c’est-à-dire juste. Au sens le plus général une société juste est une société en laquelle chacun se sent reconnu et peut faire valoir ses qualités singulières. Nous grandissons tous dans l’aspiration à une société juste dont l’idée nous a été léguée par nos ascendants et notre culture native. Si, arrivés à l’état d’autonomie de l’adulte, nous sommes confrontés à une vie sociale en laquelle nous nous sentons traités injustement. Si, de plus, dans le cadre de la vision du monde avec laquelle nous abordons cette vie sociale nous ne voyons aucune solution praticable pour être traité plus justement. Si, en outre, nous ne trouvons aucune bonne oreille pour partager et réfléchir ce sentiment d’injustice. Il se peut alors que l’offre d’une solution se présentant comme parfaite sous la forme d’une doctrine prête-à-penser, avec la participation a une communauté en laquelle nous serons reconnus, soit investie de manière passionnelle, comme si nous renouions avec le monde d’avant, celui, idéalement juste, de l’enfance.

Combattre le fanatisme

Il faudrait regarder de près les événements historiques. On soupçonne qu’apparaîtrait un rapport régulier entre l’accroissement de l’injustice et la progression des phénomènes fanatiques. Lutter contre l’injustice pourrait bien être la réponse fondamentale à cet important facteur de violence dans la société que constitue le fanatisme. Mais il peut être très difficile de redresser une société injuste. Parce qu’elle porte une autre violence, celle qui maintient la pérennité des situations acquises. Il faut être forts et unis pour surmonter cette violence. Cela passe par l’intensification des échanges sociaux, et surtout avec les gens différents. Ce qui implique de valoriser la tolérance, et d’abord en étant soi-même tolérant. Ce qui implique aussi de favoriser les échanges interculturels. C’est pourquoi, il faut protéger, créer, les espaces de dialogues où peut se dire et se réfléchir l’injustice vécue. Pour cela il faut faire vivre et élargir un espace public où chacun peut retrouver tous les autres, différents mais à égalité, délivrés des statuts sociaux qui, ailleurs, figent des rapports de pouvoir.

Conclusion

Il faut comprendre que le fanatique puisse être admiré pour la volonté dont il fait preuve pour défendre des idées dont il ne semble tirer aucun avantage.
Pourtant le fanatique ne commet pas son crime en fonction de ce que quelqu’un a fait ou peut faire dans une situation particulière, mais uniquement parce qu’il l’inclut dans une catégorie déterminée par sa doctrine.
En effet, le fanatique ne pense pas vraiment, il investit de façon passionnelle une doctrine « prête-à-penser ».
Le fanatique n’est en réalité pas admirable du tout, puisqu’il n’est libre à aucun moment. Totalement déterminé par sa passion pour la doctrine, il en est la première victime. La réalité du fanatisme est en effet celle d’un pouvoir totalitaire.
On peut faire l’hypothèse que la passion fanatique est une réponse régressive à un échec du désir de justice.
La réponse fondamentale au fanatisme est la lutte pour la justice. Celle-ci passe par une première réponse : l’extension du dialogue.  

[1] Voir à ce propos le très beau film de Youssef Chahine, Le Destin (1997), qui met en scène, au XIIe siècle, le philosophe Averroès aux prises avec le fanatisme religieux.
[2] Sans indications, les citations sont tirées du texte d’Alain.

jeudi, novembre 13, 2014

L'immortalité est-elle pour demain ?


À propos du film Transcendance de Wally Pfister (2014)

« Les hommes n’ont-ils pas toujours cherché à se donner des dieux ? »
Will Caster, personnage principal de Transcendance


Le thème du transhumanisme a décidément les faveurs du cinéma. On le retrouve dans le film « Transcendance » de Wally Pfister (2014), quoique toujours de manière clandestine, car comme dans Lucy (de Luc Besson), le mot est soigneusement évité.

Pourtant, on est dans la représentation d’un élément essentiel de l’idéologie transhumaniste, puisque Transcendance veut donner à voir ce moment crucial que le « prophète » du transhumanisme Ray Kurzweil nomme « Singularité » et qui consiste dans le transfert de toutes les informations contenues dans le cerveau d’un individu sur un support artificiel.

Pour les transhumanistes – du moins les plus radicaux – il s’agit là du moment décisif de l’accès de l’humanité à l’immortalité. Ils considèrent en effet que ce serait l’âme même de l’individu humain qui pourrait ainsi être indéfiniment sauvegardée : son uploading l’aurait définitivement découplée d’un corps fait de chair et de sang, et dont le caractère essentiel est d’être mortel. Ray Kurzweil se permet d’annoncer très précisément la faisabilité de cette opération pour 2045.
Le film
Transcendance nous montre effectivement le héros – Will Caster (Johnny Depp), brillant jeune chercheur en intelligence artificielle – au stade terminal d’un empoisonnement par une substance radioactive (suite à un attentat d’un groupe anti-technologie), le crâne bardé de capteurs, en train de se voir télécharger le contenu de son cerveau sur l’ordinateur surpuissant qu’il a contribué à mettre au point (et qui s’est déjà montré capable de simuler le cerveau d’un singe).

Ensuite Will Caster meurt de son empoisonnement, conformément aux lois de la biologie. Jusqu’à ce que, peu après, on le retrouve sur Skype… enfin c’est tout comme : un message laissé sur la sortie écran du puissant ordinateur « Y a-t-il quelqu’un ? », quelques ajustements techniques, puis on entend sa voix, et enfin on le voit apparaître sur l’écran, bien…, juste comme avant sa maladie. Un brin hiératique dans son phrasé et son attitude quand même. Et de fait, la plus grande partie du rôle de Johnny Depp dans ce film sera de parler ainsi de manière figée et en plan rapproché sur un écran.

C’est que cette image sur écran du héros du film prend désormais une valeur d’icône car elle représente une individualité totalement libérée par la déportation de son esprit hors de son corps charnel vers un environnement purement numérique. Will Caster s’apprête désormais à devenir le maître du monde, et même plus car, après 2 millénaires, il va rééditer la geste de Jésus : on le verra bien vite soigner instantanément les blessures, rendre la vue aux aveugles, s’incarner en d’autres personnes, etc. Comme son illustre prédécesseur, il affirme sa volonté de sauver le monde et s’en donne les moyens. Mais pour cela il ne prêche pas aux foules. Il se connecte à Internet.

Connecté à partir de l’ordinateur le plus puissant du monde, il fait fortune en quelques spéculations financières et, avec l’aide de sa femme restée corporellement vivante, il crée une cité autonome de technologies innovantes dans le désert. Il développe en particuliers des nanotechnologies qui lui permettent de réparer quasi instantanément les destructions matérielles aussi bien que les blessures physiques. Bien mieux encore, les nanotechnologies lui permettent de remédier aux dégâts écologiques en régénérant les écosystèmes : notre héros se trouve donc en capacité de restaurer la biosphère – la restitution du Jardin d’Eden d’avant la Chute en quelque sorte, mais, aussi bien, l’accomplissement de la prophétie millénariste du Royaume de Dieu sur terre ! Ainsi, à travers la croyance dans le pouvoir des nouvelles technologies, ce film réactive de bien vieux fantasmes naguère accrochés aux croyances religieuses.

Will Caster hybride également les employés de sa cité technologique, démultipliant leur intelligence et leur force physique, introduisant même, si nécessaire, son propre esprit dans leur cerveau. Par ailleurs, notre héros pixellisé acquiert la totale maîtrise d’Internet qu’il met au service de son projet de sauvetage de la planète.

C’est plus qu’il en faut pour alerter le FBI qui manigance une riposte, avec l’aide d’un des plus proches anciens collaborateurs de Will Caster. Un virus fatal pour son ordinateur hôte est inoculé à son épouse, avec le dessein de créer une situation où celle-ci soit mise en danger de mort afin qu’il télécharge son esprit pour la sauver. Cela tombe bien car notre messie numérique a résolu le problème de sa réincarnation, qu’il met immédiatement en œuvre afin de convaincre son épouse, qui s’est mise à douter, qu’il est bien toujours cet homme de bonne volonté avec qui elle voulait sauver le monde, qu’elle a naguère épousé.

La fin du film met ainsi en scène la mort du héros et de son épouse, terrassés par le virus, mais aussi l’effondrement généralisé de la civilisation technologique fondée sur le numérique, car le virus ne pouvait être efficace qu’en infectant toutes les nanoparticules que Will Caster avait diffusé de par le monde et qui avaient pris le contrôle de l’univers numérique – on peut penser qu’elles contiennent, chacune à leur manière, l’esprit du héros, selon une logique analogue à celle de Giordano Bruno quand il affirme que chaque monade exprime Dieu selon son point de vue.

Seules – c’est la scène finale – quelques nanoparticules, dans la cage de Faraday que notre héros avait installée dans son jardin, apparaissent avoir échappé au virus fatal, renfermant – c’est ce qu’on croit pouvoir supposer – l’esprit et le savoir de Will Caster et de son épouse…
L’idéologie
Transcendance est un film transhumaniste. On veut dire par là qu’il développe une histoire qui entérine les thèses essentielles du transhumanisme.

En cette histoire, en effet, le passage à la Singularité se réalise : le héros quitte son corps pour un système matériel en gardant son identité, il accède à l’immortalité, et l’on montre bien que son esprit est en capacité de phagocyter toute l’intelligence présente sur la planète. En outre, sont mises en valeur les nanotechnologies comme capables de réparer tous les ravages engendrés sur la planète et ses habitants par la civilisation technico-industrielle. En fait ce film pourrait tout-à-fait être une chronique des années 2045-2047 du côté de la Silicon Valley en Californie, dans la droite ligne des prophéties de Kurzweil.

Toutefois Transcendance a l’habileté – et l’intérêt – de proposer ces thèses de manière critique. Le scénario, en effet, problématise la légitimité du passage à la Singularité. Il donne ainsi la parole aux arguments les plus courants de l’opposition au transhumanisme.

Il n’en reste pas moins que le film met en scène la réussite de la Singularité, et sa prise de pouvoir sur le monde, tout en manifestant, après tous les doutes, que la finalité de ce pouvoir est bien de sauver l’humanité. Ce film vise à rendre crédible une utopie transhumaniste de type millénariste. Ce que manifestent les caractères christiques de son personnage principal.

Le titre du film indique que le passage à la Singularité instaure une transcendance de la technique – sous la forme d’un ordinateur surpuissant « singularisé ». Cela signifie que le sort de l’humanité est absolument dépendant de cette nouvelle forme de la technique.
La transcendance
L’ordinateur quantique « willcastérisé » est donc Dieu ! Et, bien sûr, Dieu peut régénérer qui il veut, quand il veut, comme il veut, et ainsi il peut rendre chaque humain immortel ! Le profil psychologique de Will Caster incite fortement à penser qu'il rendra immortels les « bons » et laissera mourir les « méchants ». Alléluia !

Que penser de cette nouvelle transcendance si l’on veut raison garder ?

Le superordinateur quantique qui hérite de l’esprit de Will Caster est, de manière d’ailleurs peu dissociable de ce dernier, le véritable héros du film. Or, qu’est-ce qu’un ordinateur sinon, tout comme le traditionnel boulier, une machine à traiter de l’information ? Et c’est une très ancienne machine puisque nous savons que le boulier existait déjà il y a 25 siècles.

Quel est le principe de telles machines ? Toute machine à traiter l’information est un système matériel en lequel on peut provoquer deux états définis d’unités matérielles analogues et en nombre, de manière à attribuer au système formé par ces deux états possibles la valeur d’un code de signaux. Ce code est le plus simple qui soit puisqu’il ne contient que deux signes que l’on figure par 0 et 1. Autrement dit, l’état d’une unité matérielle – la position d’une boule, la perforation d’une carte, l’orientation magnétique d’une particule d’oxyde de fer, la charge électrique d’un transistor ou d’une surface d’aluminium, et même l’état quantique d’une particule (pour l’ordinateur du film), etc. – est porteuse, dans le cadre de cette machine, d’une information élémentaire, ce qu’on appelle précisément un bit. La fonction de la machine est de permettre de composer à partir de la multiplicité des bits (liée au nombre d’unités matérielles activées) des informations plus complexes qu’elle puisse rendre perceptibles.

Un ordinateur est une machine à traiter l’information qui a la spécificité d’utiliser l’énergie électrique pour réaliser les « événements-bit », c’est-à-dire le changement d’état des unités matérielles. La souplesse d’utilisation de cette énergie permet l’activation d’unités matérielles très petites et très nombreuses, ce qui permet de traiter rapidement de grandes quantités d’informations et de manière très complexe.

L’idée de la télédéportation de l’esprit d’un individu humain sur un ordinateur se fonde sur la croyance que le cerveau peut être assimilé à une machine à traiter l’information électrique, donc à un ordinateur. C’est l’excitabilité électrique de ses différents composants – les neurones surtout – qui produit une information, laquelle est transportée électriquement par les nerfs – ce qu’on appelle l’influx nerveux.

Ainsi, le présupposé qui préside à la possibilité de la Singularité est matérialiste : il pose que la pensée d’un individu est produite de manière analogue au savoir présent dans un ordinateur : elle est l’effet d’un réseau d’innombrables éléments dont le statut électrique a une valeur informative. La différence est considérée comme étant essentiellement quantitative : les neurones du cerveau sont énormément plus complexes et plus nombreux que les éléments porteurs d’information (transistors, particules d’oxyde de fer, etc.) d’un ordinateur. C’est par cet écart quantitatif que l’on croit pouvoir rendre compte de toute la pensée humaine – tout son savoir, toute sa conscience, et donc sa conscience de soi – comme effet de l’activité électrique du réseau de neurones qui constituent le cerveau.

Mais qu’il soit possible de capter des informations à partir de décharges électriques produites par le cerveau ne prouve pas que le cerveau soit réductible à un ordinateur. Cela prouve simplement que ces décharges électriques – l’influx nerveux – sont porteuses d’informations : ce que l’on savait depuis que l’on connaît l’existence du système nerveux.

Ce qui est nouveau, par contre, et ce qui fascine, est la mainmise technique sur le processus qui permet de traiter le signal électrique émis par le cerveau au moyen d’un ordinateur de façon à ce qu’un individu puisse commander une machine – le déplacement d’un pointeur sur un écran d’ordinateur, le mouvement d’une main prothétique, etc. – par un acte purement mental. Mais comment obtient-on ce résultat ?

Non pas à partir d’une théorie correcte du fonctionnement du cerveau, mais seulement par mise en relation d’une cause avec son effet : « Pensez que vous voulez que le curseur sur l’écran se déplace vers la droite, et je vais programmer le signal électrique correspondant de façon à ce que le curseur se déplace sur la droite ! ». On n’est pas ici dans la théorie scientifique, mais dans la raison technique préscientifique. Celle-ci consiste à identifier des rapports de causalité afin de les détourner pour notre utilité – « Dites-moi si vous voulez une lame de hache ou une pointe de lance et je vous trouverai le morceau de pierre qui peut être taillé à cet effet ! »

Nous voulons dire qu’il n’y a ici aucune théorie de l’articulation de la pensée avec les états électriques dans le cerveau. La seule articulation que l’on connaisse, c’est celle qu’on met en œuvre dans l’ordinateur, dans toute machine à traiter l’information, dans toute machine, dans tout outil, dans tout artifice technique : la pensée humaine donne sens à des événements matériels, et les ordonne en fonction de ce sens afin de les rendre utiles aux hommes – un transistor chargé électriquement signifie 1, une boule déplacée signifie 10, un disque de pierre en rotation autour d’un axe signifie l’aiguisage des outils tranchants, deux perches de bois parallèles, réunies par des barreaux parallèles espacés régulièrement signifie le franchissement de distances verticales, etc. La pensée n’émerge pas du réseau des éléments, elle vient de l’homme qui veut en tirer parti pour calculer afin d’agir plus efficacement.

On voit bien que la seule transcendance qui vaille ici, c’est celle de l’esprit sur la matière : c’est l’esprit qui identifie un phénomène électrique spécifique dans le cerveau, qui le relie à une intention consciente, et qui réalise cette intention consciente par programmation d’un ordinateur. Et il est vrai que le tétraplégique pourra grâce à cette capacité technique diriger son fauteuil roulant automobile par la pensée. Et cela peut lui être un gain précieux d’autonomie. Mais si l’on essaie de considérer ces savoir-faire au-delà de tels intérêts thérapeutiques spécifiques, qu’apprivoisent-elles – les nouvelles technologies – véritablement de la pensée ? Se rend-on compte de la pauvreté de l’activité consciente dont on peut tirer ici des effets ? La pensée n’est-elle pas bien autre chose que ces items de volitions sur lesquels il faut la figer pour obtenir l’activité cérébrale utilisable ?
La désincarnation
Mais qu’en est-il de la pensée de l’artisan dans sa confrontation à son matériau ? De la pensée du perchiste réalisant son saut ? De la pensée du saxophoniste qui improvise avec son orchestre ? De la pensée qui donne son style propre à la gestuelle d’un individu (comme sa démarche) ? Etc.

Car dans l’ambition technologique reconnue sous le vocable « Singularité », il s’agit bien de télédéporter toute la pensée qui constitue une personne humaine singulière. Il s’agit donc de réaliser, à partir de toutes les informations constituant la pensée d’un individu, un répondant virtuel de son réseau neuronal avec tous les événements électriques qu’il rend possibles, à l’intérieur d’un ordinateur.

Or, ce dont on prend conscience, c’est que la pensée humaine est nécessairement tributaire d’un corps situé dans le temps et dans l’espace. La pensée d’un individu est toujours la pensée d’un certain point de vue sur le monde, c’est donc une pensée essentiellement incarnée.

Mais les transhumanistes de la Singularité sont fâchés avec leur corps. Ils lui reprochent son caractère souffrant, son vieillissement, ses effluences obligées, etc. ; et ils semblent en méconnaître l’expressivité infinie, la grâce, l’intelligence propre – voir H. Focillon : Éloge de la main, et, bien sûr, la joie de vivre qui lui est immanente – sourire, caresser, chanter, danser, etc.

Si bien que le problème technique fondamental de la Singularité est bien celui de réaliser une « désincarnation » de l’homme. Mais cela est-il possible si la pensée humaine est aussi intimement liée à un corps ? Cela est en tous cas concevable si l’on modélise le corps comme un système matériel qui transforme des entrants en sortants, soit des informations en expressions. Comme on le voit dans le film Transcendance, le superordinateur de la Singularité à pour entrants l’ensemble de la planète à travers des capteurs disséminés partout à travers le monde (sur des supports nanométriques), et pour sortants la voix hiératique du Will Caster numérisé, et ses multiples initiatives de transformation technique de la planète.

Le sens de la Singularité est alors le passage de la multiplicité des points de vue singuliers et lacunaires des individus humains incarnés au point de vue non lacunaire, total, de Will Caster numérisé et mondialement connecté. L’ordinateur willcastérisé apparaît bien prendre le rôle que Leibniz assignait à Dieu, celui d’être l’intégrale (au sens mathématique) de tous les points de vue possibles. Autrement dit, la Singularité ne prétend pas simplement répliquer la pensée de l’individu qui a été numérisé, elle prétend la porter à son acmé. Elle prétend en faire un esprit divin. Elle prétend créer un Dieu. C’est ce qui justifie la majuscule à « Singularité », comme le titre du film auquel nous nous référons.

Mais revenons au problème technique fondamental de la réalisation de la Singularité. Comment numériser intégralement un esprit humain tout en faisant abstraction de son adhérence à un corps, c’est-à-dire en éliminant tout ce qui le déporte vers un point de vue particulier ? Pour répondre à cette question, ne faut-il pas avoir une théorie claire et distincte de l’articulation de la pensée aux modifications matérielles – électriques et chimiques – du cerveau ? Ne faut-il pas avoir une idée claire du rapport de l’âme (au sens premier : ce qui donne vie) au corps ? Ne faut-il pas avoir une idée claire du rapport de l’esprit et de la matière ?

Or, cette idée, qui l’a ? Qui peut l’avoir ? De Lucrèce au théories contemporaines de l’émergence, en passant par Descartes, depuis toujours la pensée se heurte aux mêmes apories concernant le rapport de l’esprit et de la matière : elle incapable de déduire l’esprit de la matière sans, au préalable, subrepticement, spiritualiser la matière ou matérialiser l’esprit. Voir à ce propos ma critique de Jacques Monod. Et on voit bien que le concept d’émergence est une façon de nommer le problème et non de le résoudre.

* * *

Transcendance est un film intéressant dans son effort de mettre en scène la Singularité prônée par les transhumanistes radicaux afin de la rendre crédible.

Il a le mérite de ne pas évacuer les objections majeures qui rendent la Singularité légitimement problématique – le problème de la conservation de l’identité de l’individu, celui de la conservation de son humanité, le problème du pouvoir démesuré de la technique qu’elle implique.

Il surmonte ces objections par un moralisme naïf : il suffirait que la Singularité soit appliquée à un bon américain pour que l’illimité pouvoir technique centralisé qui en découlerait serve au salut de l’humanité.

Surtout, il semble procéder d’une foi scientiste inébranlable : on serait bientôt capable de numériser entièrement l’esprit de l’individu et d’avoir l’ordinateur requis pour le virtualiser. Ce qui est une manière de prendre au sérieux les prophéties de Kurzweil et de quelques autres.

Mais ces prophéties sont essentiellement basées sur l’extrapolation des courbes qui expriment les progrès quantitatifs des nouvelles technologies – miniaturisation des machines, capacité des mémoires, puissance des processeurs, etc.

Nous avons simplement montré l’existence de verrous qui rendent ces extrapolations bien vaines.

Ce qui signifie que l’éventualité que le pouvoir technologique, par une augmentation accélérée de sa puissance, se retourne en son contraire et en vienne à être capable de sauver l’humanité est irréaliste.

Le règne d'une humanité d'hommes bons et immortels sur une planète régénérée est pour demain exactement dans le même sens que, dans la croyance chrétienne, la venue du Royaume de Dieu sur terre est pour demain depuis deux millénaires. Il s'agit d'un imaginaire régressif – car tous ses éléments sont tirés de la période d'innocence de la prime enfance – qui peut rendre supportable les intolérables traitements que les humains se font les uns aux autres et à leur environnement.

 Le pouvoir technologique, s’il continue à augmenter ses impacts sur les hommes et leur environnement, continuera sans doute à enfoncer l’humanité dans des problèmes de plus en plus difficilement solubles.

Ce n’est pas de plus de puissance technique dont nous avons besoin, mais d’un usage plus sage de celle-ci.

 Car, s’il se peut que les hommes aient « toujours cherché à se donner des dieux » (Will Caster), ils peuvent aussi vouloir – enfin – devenir adultes.

dimanche, novembre 27, 2011

Approche du courtermisme


Le néologisme « courtermisme » désigne le procédé idéologique qui consiste à borner l’horizon humain au court terme.

Le « court terme » est une modalité de la temporalité humaine – la manière dont l’homme aborde son rapport au temps. Elle s’oppose au « long terme ».

On peut donner deux raisons qui établissent que seul l’être humain peut se penser dans le long terme :
  • Parce que l’homme est le seul à avoir un entendement qui lui permet de choisir ses actes en connaissance de cause, c’est-à-dire en pensant leurs conséquences sans limitation dans le temps ;
  • Parce que l’homme  semble bien être le seul animal à choisir délibérément des actes qui ne lui sont pas utiles, c’est-à-dire dont il n’attend pas un profit particulier et prochain.

Ainsi le long terme est proprement humain, non seulement parce qu’il intègre les échéances lointaines de sa propre vie – épargner, préparer sa retraite –, mais aussi l’avenir même de l’espèce humaine – ainsi en est-il quand l'homme crée une œuvre d’art, se soucie de l’avenir de la planète ou éduque ses enfants.

Nous voulons inviter à reconnaître ici que le courtermisme est un élément fondamental du conditionnement des esprits pour les rendre conformes à l’intérêt marchand d’une circulation accélérée des marchandises.

Il semble y avoir deux voies importantes pour insuffler cet état d’esprit courtermiste dans le peuple :
  • Présenter le bien-être, ou même le bonheur, comme étant aisément accessibles en se procurant des « biens » de consommation : « Achète cet objet, il te simplifiera la vie ! » ;
  • Maintenir le plus constamment la communication sur le monde dans le registre de l’émotion : « Renoncer au nucléaire, ce sera payer l’électricité plus chère, perdre des emplois, etc… »

Ces choix, qui sont apparemment positifs à court terme, toujours se renversent en leur contraire, devenant très négatifs à long terme. Il faut gérer un objet de plus dans la maisonnée, et cet objet est destiné à devenir déchet qui aggravera un problème collectif de pollution. Le coût de l’énergie nucléaire est incommensurable aux coût des autres énergies si l’on inclut ses conséquences durables : le démantèlement problématique des centrales et la gestion des milliers de tonnes de déchets hautement radioactifs sur des millénaires.

Si l’on est un peu attentif aux pratiques courtermistes, on remarquera que, comme pour cet exemple du nucléaire, l’émotion la plus régulièrement sollicitée est la peur. En effet, cette émotion est la plus propre à susciter des réflexes de défense très archaïques qui court-circuitent le jugement réfléchi.

Enfin, il est intéressant de mettre en perspective le courtermisme contemporain, comme instrument privilégié du pouvoir marchand, avec les modalités d’autres grandes formes de pouvoir dans l’histoire. C’est en effet toujours en polarisant les consciences sur le long terme que le pouvoir religieux a pu, pendant de nombreux siècles, contrôler le peuple : « Tu souffres, certes, mais si tu es vertueux tu gagneras la vie éternelle au Paradis ! »

En passant ainsi d’un asservissement « longtermiste » à un asservissement courtermiste, le peuple a-t-il gagné au change ? Certes, oui ! Car il est dans une bien meilleure assurance concernant sa vulnérabilité présente par rapport au milieu naturel, tout comme il est moins directement confronté à la violence entre les hommes (le système marchand ne prospère qu’en société pacifiée).
Mais il vit ce mieux-être dans une inquiétude permanente concernant son avenir à long terme, qui vaut presque comme « tâche de fond », et qui est d’autant plus lancinante qu’elle trouve difficilement les voies d’une formulation collective. Car notre esprit, toujours humain, ne peut pas, dans ses moments de disponibilité, éluder la perspective du long terme. Comment investir notre descendance ? Quelles bombes à retardement aurons-nous laissé à nos enfants et petits-enfants ?

Seule la liberté comme autonomie – le fait de recouvrir le plein usage de sa capacité de penser ses buts et  les moyens de les atteindre – peut permettre aux hommes de sortir de ces asservissements temporels.
Articulant alors la pensée du court terme à celle du long terme, ils s’opposeront à l’aberration des choix collectifs actuels et contribueront à ce que l’humanité sorte de si longs errements.