Le monde que nous avons créé ne devait comporter aucune intelligence. Il devait servir de parking. Une erreur de conception et l'effet exponentiel de la sélection naturelle ont abouti à cette horreur…

La version la plus consternante de l'interprétation d'Everett veut que ces infinités de mondes ressemblent tous au même modèle, à d'insignifiants écarts près.

[ 1 ] [ 2 ]

Le nom de l'auteur du concept de la “Singularité” (qui a ici un sens très particulier) est controversé. Mais son vulgarisateur le plus efficace fut sans doute Vernor Vinge. Le concept lui-même est parfois attribué à John von Neumann en raison de ses réflexions sur les machines auto-reproductrices.⁽¹⁾ Toutefois, von Neumann ne semble pas en avoir tiré les conséquences ultimes. S'il imagine bien des machines pouvant s'auto-reproduire en exploitant les ressources locales et constituant, à l'échelle interstellaire, des essaims redoutables, idée souvent exploitée par des auteurs de Science-Fiction, il ne semble pas avoir pensé qu'elles pouvaient s'améliorer indéfiniment. Lorsque von Neumann, en 1948 et 1949, livre des articles et des cours sur les automates, les ordinateurs existent à peine. Son souci est donc de définir les conditions minimales que doit remplir un automate pour s'auto-reproduire, celles d'un constructeur universel. Et lorsqu'en 1956, il rédige son dernier ouvrage, l'Ordinateur et le cerveau,⁽²⁾ il manifeste un grand scepticisme quant à la possibilité de reproduire au moyen d'une machine l'activité du cerveau humain. Scepticisme qui sera bien oublié par les tenants de l'Intelligence Artificielle, domaine qui naît à peu près au même moment. La puissance à venir des ordinateurs reste problématique : ce ne sera qu'en 1965 que Gordon E. Moore énoncera sa fameuse loi selon laquelle la puissance des circuits intégrés doublerait tous les ans, puis la corrigera en 1971 en retenant pour celle des microprocesseurs un intervalle de deux ans qui s'est remarquablement vérifié depuis.⁽³⁾

Une telle progression ne pouvait qu'exciter les sectateurs de l'Intelligence Artificielle. À un moment ou à un autre, très proche selon certains comme Ray Kurzweil, qui le situe vers 2045, le nombre d'unités logiques dans un ordinateur ou un faisceau d'ordinateurs (j'emploierai désormais le terme de machine à ce propos) devrait avoisiner celui du cerveau humain qui compte environ cent milliards de neurones susceptibles chacun en moyenne d'une dizaine de milliers de synapses, soit au bas mot un bon million de milliards de connexions possibles. Certains circuits intégrés comportent près de deux milliards d'équivalents transistors et des dizaines de millions de portes logiques, si bien qu'en en mettant quelques centaines bout à bout on est, du moins en apparence, proche de l'ordre de grandeur.

Dès lors, une machine serait en vertu de la Loi de Moore et en théorie capable d'émuler un cerveau humain et de manifester la même intelligence. Et c'est alors, selon le scénario de la Singularité, que les choses s'emballent. Non seulement la machine peut s'auto-reproduire mais encore elle peut s'étendre indéfiniment dans la seule limite des ressources disponibles. Son intelligence, individuelle ou collective, s'accroît exponentiellement. Ce qu'on entend ici par intelligence n'est pas clair, non plus que les moyens d'action de la machine. Mais l'Humanité est en un temps très court laissée en arrière voire éliminée.

Wikipédia résume ainsi la Singularité vingienne :

« Le concept de Singularité technologique fut repopularisé en partie grâce au mathématicien et auteur Vernor Vinge. Vinge a commencé à parler de la Singularité dans les années 1980 et a formulé ses idées dans son premier article sur le sujet en 1993 : l'essai "Technological singularity". Il y postule que, d'ici trente ans, l'Humanité aurait les moyens de créer une intelligence surhumaine mettant un terme à l'ère humaine. Depuis, la Singularité a été le sujet de nombreuses nouvelles et essais futuristes. Vinge écrit que des intelligences surhumaines, créées par des Humains aux capacités augmentées cybernétiquement ou par d'autres intelligences artificielles moins développées, seraient capables d'améliorer leurs propres capacités plus efficacement que les esprits humains les ayant conçues. Ainsi, une spirale de progrès de plus en plus rapide amènerait à des progrès technologiques très importants en une courte période de temps.

» La Singularité peut être vue comme la fin des civilisations humaines actuelles et le début d'une nouvelle organisation. Dans son œuvre, Vinge s'interroge sur les raisons de cette fin et conclut que les Humains pourraient s'organiser pendant la Singularité en une forme supérieure d'intelligence. Après la création de cette intelligence “surhumaine”, les Humains seraient, d'après Vinge, des formes de vie ayant une moindre influence sur le développement du monde, plutôt membres participants à un système que “pilotes dans l'avion”. »

Jean-Michel Truong, dans son essai Totalement inhumaine,⁽⁴⁾ propose même que l'intelligence biologique n'a d'autre vocation et d'autre but que de créer une telle intelligence mécanique destinée à la supplanter.

Quoi qu'il en soit, une fois la Singularité atteinte, il n'est plus possible de dire grand-chose sur l'avenir, du moins à vue humaine. L'idée est si spéciale, même si elle n'est pas si récente, qu'elle a fort peu été utilisée par les auteurs de Science-Fiction mais surtout par des prophètes plus ou moins illuminés. Les écrivains de Science-Fiction qui ont largement usé de l'intelligence artificielle l'ont surtout décrite sous la forme de robots égaux ou légèrement supérieurs aux Humains ou encore de machine diabolique aux pouvoirs considérables mais limités, en quelque sorte fixés une fois pour toutes. Dans le roman qu'on va lire, Vernor Vinge se situe aux abords de la Singularité technologique, vers 2040, mais prudemment, il n'en franchit pas le seuil.

L'un des rares auteurs à avoir abordé le thème de front est l'écrivain canadien Robert J. Sawyer dans sa trilogie Éveil, Veille, Merveille.⁽⁵⁾ Encore ne prévoit-il avec optimisme qu'une collaboration réciproquement bénéfique entre l'Humanité et l'Intelligence Artificielle surgie de l'Internet.

L'idée de Singularité technologique, dans le sens apocalyptique qu'on vient d'évoquer, a-t-elle dans la réalité un fondement quelconque ? Pour ma part, je ne le pense pas, ayant insisté dans plusieurs textes sur mon doute quant à la création ou à l'émergence de la moindre Intelligence Artificielle en dehors de la littérature. Au cours de la soixantaine d'années écoulées depuis la création de l'expression, aucun progrès fondamental, vraiment décisif, n'a été enregistré malgré quelques succès périphériques et au fond adventices. L'idée que l'accumulation de microprocesseurs de plus en plus puissants en ferait surgir me fait invinciblement penser à la fable des singes enchaînés à des claviers qu'ils frappent frénétiquement jusqu'à produire l'intégrale des œuvres de Shakespeare, parties perdues comprises. Ni le temps, ni la quantité ne font rien à l'affaire. Nous ne savons du reste pas vraiment ce qu'est l'intelligence humaine, et plus généralement biologique, et nous avons toutes les raisons de douter qu'elle soit fondée sur un code logique. Ce doute qui ne m'est nullement personnel a été fortement exprimé par John von Neumann dans son essai déjà cité. Les termes en demeurent d'une actualité confondante. Les tenants de l'Intelligence Artificielle forte constituent une espèce de secte aux accents quasiment religieux dont la ferveur n'a d'égale que la propension à quémander des crédits militaires ou universitaires.

Curieusement, l'opposition entre “intelligences” mécaniques et biologiques est ancienne et comme le rappelle Pierre Cassou-Noguès dans son passionnant ouvrage Mon zombie et moi : la philosophie comme fiction,⁽⁶⁾ elle fonde déjà une dispute entre Descartes et Leibniz. L'automate cartésien est une machine physique, constituée comme une horloge d'éléments mécaniques en nombre fini et dont l'intelligence vient évidemment d'une étincelle divine, l'âme que Descartes refuse à tout autre être vivant qu'à l'humain. Leibniz pour sa part « distingue les machines artificielles, que nous construisons, et les machines naturelles, issues de la préformation divine, “la différence ne consistant pas seulement dans le degré mais dans le genre même” ».⁽⁷⁾ Pour Leibniz, « “les machines de la nature ont un nombre d'organes véritablement infini” », et encore, « “les machines de la nature, c'est-à-dire les corps vivants, sont encore machines dans leurs moindres parties, jusqu'à l'infini” ».⁽⁸⁾

Je ne sais pas qui croit encore à l'âme cartésienne comme origine de l'intelligence humaine mais la découverte des molécules puis des atomes et de leurs composants qui n'ont rien de biologique vient ruiner à son tour la séduisante hypothèse de la machine infinie de Leibniz.

Toutefois, la controverse entre Descartes et Leibniz s'éclaire d'un jour nouveau si on la considère à la lumière de la théorie de l'évolution qu'ils ne pouvaient évidemment qu'ignorer. En effet, à l'origine de la vie, on ne peut guère imaginer que des machines cartésiennes, l'âme en moins, constituées d'un petit nombre d'éléments moléculaires qui tiennent le rôle de rouages et qui sont assimilables à des processeurs,⁽⁹⁾ tandis qu'à l'autre extrémité où nous sommes on se trouve en présence de machines biologiques intelligentes leibniziennes, irréductibles à tout modèle strictement informatique, étant entendu que je ne suppose à ces machines biologiques aucune essence divine jusqu'à preuve du contraire. Il y a là un hiatus qui est intervenu dans l'histoire évolutionnaire des espèces, soit de façon brusque soit de façon progressive, et qu'il est difficile de penser.

Sans prétendre lui fournir de véritable explication, surtout quant à son apparition, j'appellerai ce hiatus l'“intentionnalité”.

Dans un souci de simplicité, je nommerai ici intentionnalité à la fois le processus intériorisé, les buts fort variables poursuivis et les conduites qui permettent de les atteindre, le tout dans une perspective plutôt phénoménologique bien que je ne prétende aucunement résumer ou subsumer ici par l'emploi du terme l'histoire complexe du concept dans son acception philosophique.

Les êtres vivants, à partir d'un certain niveau que je ne saurais définir, manifestent une intentionnalité dont le développement a pu conduire à ce que nous appelons la conscience. Comme le dit en d'autres termes mon honorable prédécesseur William James dans son Précis de psychologie : « La conséquence principale de ce point de vue plutôt moderne est la conviction fortifiée de jour en jour que la vie mentale est avant tout finalité, c'est-à-dire que nos diverses manières de sentir et de penser sont devenues ce qu'elles sont parce qu'elles nous servent à modeler nos réactions sur le monde extérieur. ».⁽¹⁰⁾

Aucune machine, y compris le plus complexe des ordinateurs et le plus élaboré des programmes, ne manifeste la moindre intentionnalité. Un ordinateur, quelle que soit sa taille, n'est jamais qu'une succession d'interrupteurs, ouverts ou fermés, et tout programme qu'un ensemble d'instructions élémentaires qui commandent en cascade l'ouverture ou la fermeture de ces interrupteurs même si telle circonstance extérieure (la température, la pression atmosphérique, l'allure d'un rocher sur Mars en fonction de critères prédéfinis) peut déclencher telle série d'instructions. Une telle machine peut donner l'illusion d'une intentionnalité, sauf à ses concepteurs et utilisateurs s'ils la connaissent suffisamment bien et dont ils savent qu'il s'agit de la leur. J'ai entendu dans ma jeunesse Albert Ducrocq prétendre que ses renards électroniques avaient l'intention de se nourrir quand leurs batteries étaient basses alors qu'ils n'allaient rejoindre une prise de courant adaptée qu'en exécutant un programme de trois lignes.

En revanche, les êtres vivants les plus évolués, dont les Humains, naviguent sans cesse dans un océan d'intentionnalité qui implique une forte intériorisation de leur environnement. Sans même évoquer les Humains, lorsque mon maître le chat Aurore vient se frotter à mes jambes pour me témoigner son affection puis se planter devant sa gamelle, il a fermement l'intention que je la remplisse — même si c'est mauvais pour sa santé. Lorsqu'il s'assied patiemment devant une porte, il ne s'attend nullement à ce qu'elle s'ouvre, mais il suggère fortement à toute âme bienveillante qui passerait par là d'actionner une clenche qu'il ne peut pas atteindre. Et lorsque, plus étrange encore, je travaille sur mon ordinateur, il lui arrive de se percher sur mes genoux voire de se promener sur le clavier ou de s'asseoir sur la souris pour me manifester qu'il est bien plus digne d'intérêt, d'affection et de caresses que cet objet qui couine parfois mais ne miaule même pas.

Quand commence l'intentionnalité avec ce qu'elle implique d'intériorisation déjà intelligente de l'environnement, je n'en sais rien comme je l'ai déjà dit. Mais des travaux récents semblent indiquer que même des amibes ne se déplacent pas strictement au hasard à la recherche de nourriture.

Ce concept d'intentionnalité a évidemment à voir avec ce qu'on appelle théorie de l'esprit, désignant « les processus cognitifs permettant à un individu d'expliquer ou de prédire ses propres actions et celles des autres agents intelligents ».⁽¹¹⁾ La capacité d'élaborer une théorie de l'esprit est traditionnellement réservée aux êtres humains et à quelques espèces voisines dont, paraît-il, l'orang-outan. Ce provincialisme des espèces me semble sans grand fondement. Comme je l'ai indiqué, le chat Aurore a une très bonne théorie de l'esprit, même si elle est limitée, quand il a l'intention d'obtenir un service (nourriture, grattouille, ouverture de porte) d'un Humain connu pour sa compréhension et sa serviabilité.

Le problème, c'est que l'intentionnalité a ses limites, parfois dangereuses surtout quand on commence à en prêter à son environnement. Pourquoi du reste s'en priverait-on ? Puisque l'autre a des intentions dont je dois tenir compte, pourquoi est-ce que le Grand Autre qui me contient n'en aurait pas ?

Un premier aspect d'une extension envahissante de l'intentionnalité hors de soi serait l'animisme. Sans même remonter à Edward Burnett Tylor, inventeur du concept qui connut un grand succès, il n'est pas difficile d'en trouver des exemples naïfs autour de soi dans des sociétés dites développées et rationalistes : qui n'a vu quelqu'un d'à peu près sain d'esprit prêter à son téléviseur récalcitrant une mauvaise volonté qu'une bonne tape suffit à surmonter ? Encore ne méjugerai-je pas l'animisme traditionnel : en prêtant des raisons à la Nature, il ouvre aux horizons de la science. Ces raisons, il faut les déchiffrer. Il y suffit de quelques générations.

Plus inquiétante est cette extension de l'intentionnalité que l'on peut appeler le conspirationnisme, la théorie générale du complot. Tout ce qui se produit, de préférence en mal, dans la société résulte de complots fomentés par des groupes dont la discrétion est la preuve même de l'existence. On nous cache des choses. On ne nous dit pas tout. Comme aiment à le dire certains, l'absence de la preuve n'est pas la preuve de l'absence. Mais quand même, elle invite à réfléchir. Le plus remarquable est que la théorie du complot a initié chez nombre de philosophes toutes sortes de théories de la théorie du complot, évidemment fondées sur les intentionnalités de ladite et visant à la liquider. Mon sceptique anglo-saxon préféré, Michael Shermer, a consacré une page entière du Scientific American à définir un détecteur en dix points permettant de différencier les fausses théories du complot des vraies, car il n'exclut pas, et moi non plus, qu'il existe pour de vrai des complots.⁽¹²⁾ Leur caractéristique principale est d'échouer généralement et vite, ce qui, toutefois, même là, ne peut être tenu pour assuré. Ou encore lorsqu'il leur arrive de réussir, d'aboutir à des résultats très différents de ceux visés. On remarquera que les conspirations dénoncées comme bénéfiques sont remarquablement peu nombreuses.

Sous une forme plus folklorique, et en somme adoucie, le conspirationnisme confine à l'hétéroclitisme, terme forgé par Pierre Versins pour caractériser toutes sortes de croyances bizarres allant des soucoupes volantes aux formidables technologies disparues, et des astronautes de la préhistoire au Raélisme et à la dianétique devenue scientologie, en passant par la parapsychologie et autres fadaises qui ont au moins le mérite de réchauffer l'imagination d'esprits en panne.

Mais la forme d'intentionnalité la plus extrême et la plus désespérante pour tout esprit un peu rationnel consiste à en attribuer une à l'univers tout entier et par extension à l'évolution toute entière jusqu'à nous inclusivement. Elle est très à la mode sous la forme du créationnisme ou sous celle apparemment plus distinguée du dessein intelligent. Je ne conteste à personne le droit de croire à titre individuel ou collectif qu'une intention divine ou autre (comme l'entité Totalement inhumaine de Truong) a présidé à l'origine de cet univers et à son développement même si celui-ci semble témoigner d'un goût prononcé pour la plus extrême violence. Mais je prétends que toute science qui prend position sur cette question, dans un sens ou dans l'autre, se mue ipso facto en pseudo-science au moins dans cette conclusion.

Et si j'étais un théologien subtil comme mon ami le Père Brown, ce qu'à Dieu ne plaise, je serai encore plus méfiant. Car s'il était prouvé au-delà de toute réfutation possible qu'un dieu existe, toute liberté, toute possibilité de choix, serait ôtée aux êtres humains, ce qui n'est pas le projet du christianisme, au moins tel que je l'entends. Ce dieu deviendrait une sorte de despote oriental devant lequel toutes les échines devraient se courber sous peine d'un supplice éternel. On ne lui échapperait pas plus qu'à la loi de gravitation. Cette réflexion m'évoque irrésistiblement l'admirable phrase de Thornton Wilder dans son splendide roman, un peu trop oublié, le Pont du roi saint Louis : « Il paraissait au frère Juniper qu'il était grand temps pour la théologie de prendre rang parmi les sciences exactes. ».⁽¹³⁾ Fort heureusement, le frère Juniper échoue dans sa tentative. La très aléatoire efficacité de la prière signe le silence de Dieu.

Du côté des sciences dites exactes, je ne serais pas plus confiant. Si en effet les théologies semblent assises sur des vérités immuables — encore que cela semble se discuter dans des assemblées spécialisées —, les sciences, et tout particulièrement la physique la plus fondamentale, ont cette vertu philosophique irremplaçable de renoncer régulièrement à leurs dogmes, ou encore de remplacer les théories un temps dominantes par d'autres corrélant de nouvelles observations ou plus satisfaisantes, d'un point de vue logique, que les précédentes. Imaginons donc qu'une théorie à un moment donné établisse la nature providentielle de la Singularité — qui n'est déjà pas à proprement parler un concept scientifique, mais passons — à l'origine du big bang. Elle se trouverait toujours à la merci d'une nouvelle observation ou d'une nouvelle théorie qui la remplacerait. Si j'étais théologien prudent, je ne chercherais pas trop d'appui stable pour mon levier apologétique du côté des sciences. Ce sont des terrains fort intelligemment mouvants.

Ainsi, du moins à mon sentiment, ni la théologie ni les sciences ne peuvent venir sérieusement à l'appui d'une conception intentionnaliste de l'univers. Seule peut s'y risquer la métaphysique, cette discipline distrayante qui n'a plus depuis longtemps d'autre utilité que de fournir des postes à des fonctionnaires et des idées rarement neuves à des auteurs de Science-Fiction bien obligés de ne se recommander que d'eux-mêmes. Auteurs qui ont du reste pris de l'avance, naïvement sans doute mais courageusement. Ce serait parmi eux que se rangeraient Descartes et Leibniz à en croire, sans trop le solliciter, Pierre Casssou-Noguès qui, après mon ami le regretté Guy Lardreau, semble bien avoir pris la dimension de l'enjeu : peut-on penser en dehors de la croyance et des certitudes provisoires de la science ?

Certes on le peut mais à condition de s'affranchir des contraintes de l'approche scientifique. C'est pourquoi je ne peux suivre Stephen Hawking lorsque dans Y a-t-il un grand architecte dans l'univers ?, son dernier livre,⁽¹⁴⁾ il semble annoncer le triomphe définitif de la physique quant à l'élucidation de l'origine de notre univers. Il use alors de son autorité, sur un terrain qui ne relève plus de la physique mais de la politique et si l'on veut de la métaphysique, contre les créationnistes et tenants du dessein intelligent, et du coup ne s'en démarque plus. Sur le terrain politique, je peux le rejoindre car je partage son sentiment et ses craintes, comme je l'espère en atteste le fond de cette préface, quant à l'usage social et civique réactionnaire qui se profile derrière de telles confusions, tout spécialement aux États-Unis en attendant la vague qui commence à battre nos rivages. Mais quand il affirme qu'à la fameuse question de Leibniz, « Pourquoi y a-t-il quelque chose plutôt que rien ? », la physique pourra répondre de façon certaine et définitive, il commet un acte de foi et je ne peux le suivre. D'autant plus qu'il fonde cette foi sur une théorie M dont les rudiments ne sont même pas encore posés et dont on espère tout juste qu'elle pourrait unifier, si elle advient jamais, les cinq ou sept théories des supercordes, toutes inachevées et qui n'ont reçu à ce jour aucun début de preuve expérimentale, autrement dit qui ne sont pas réfutables. Hawking s'expose par là à un démenti cinglant si toute cette construction que certains parmi les meilleurs physiciens qualifient de métaphysique, venait à s'effondrer. Lorsque Laplace répond à l'inquiétude vaguement théiste de Napoléon : « Je n'ai pas besoin de cette hypothèse. », il se situe à sa place, ne cherchant pas à ébranler la religion mais marquant clairement sa différence. Lorsque Darwin relie ses observations et hypothèses dans une théorie puissante qu'il sait inachevée mais féconde, il ne vise pas à ruiner le récit de la Genèse.

Toute relation entre la science et la religion est impie.

Dans un domaine connexe (qu'Hawking évoque certainement) se pose la question des constantes fondamentales, dont par exemple la vitesse de la lumière ou la célèbre constante de structure fine.⁽¹⁵⁾ Depuis le début du xx^e siècle, on en a découvert et mesuré une vingtaine au moins — certains vont jusqu'à en dénombrer une centaine. Totalement indépendantes les unes des autres et de quoi que ce soit que l'on connaisse, elles sont réputées universelles et définies avec une très grande précision, parfois jusqu'à la centième décimale. L'énigme scientifique qu'elles posent et que certains ont baptisée le problème anthropique⁽¹⁶⁾ est que si elles manifestaient une valeur un tant soit peu différente, pour certaines, comme déjà dit, à la centième décimale et au-delà, l'univers serait tout différent et pour toutes sortes de raisons ne pourrait pas abriter la vie et notre si brillante intelligence. Certains en ont évidemment déduit la préexistence d'un Grand Ingénieur qui aurait finement réglé ces constantes pour nous permettre d'exister et de le vénérer. Cette position est aussi naïve et stupide que celle de ceux qui, avant la théorie de l'évolution, s'émerveillaient de la perfection (au demeurant toute relative) des êtres vivants et l'attribuaient à un Grand Horloger.

La question des constantes fondamentales est une vraie question scientifique. Peut-être une physique de l'avenir parviendra-t-elle à les relier voire à les unifier et à dire pourquoi elles ont des valeurs assez précises pour me permettre de vous proposer cette préface, sorte de légende sceptique. Peut-être pas. Lee Smolin propose une solution à base d'évolution quasi darwinienne des trous noirs que je trouve extrêmement séduisante bien que je ne puisse la résumer ici, solution qui relève pour l'instant de la meilleure métaphysique.⁽¹⁷⁾

Mais il se trouvera sûrement quelqu'un pour lui objecter qu'un procédé aussi ingénieux ne peut qu'avoir été l'œuvre d'un Grand Architecte…

Ainsi sommes-nous allés d'une Singularité l'autre sur le fil tranchant de l'intentionnalité, de l'improbable Singularité technologique à l'invérifiable Singularité des origines. La corde est… bouclée.