• accueil
• exliibris
• pgeff
• archives
• kws
• récits
• prix
• galerie
• carnets
• photos

Gérard Klein : préfaces et postfaces

Le Même et l'Autre

Un des principaux thèmes de la science-fiction touche à l'Autre [1] , description de l'autre, contact avec l'autre, voire plus audacieusement et plus rarement intériorité de l'autre. Dans ce dernier cas, la subjectivité de l'autre est explorée et c'est à travers son regard que son monde est perçu. Approche banale me direz-vous, celle de la plupart des romans contemporains. Certes, mais l'Autre dont il est ici question est plus radical. Il ne s'agit pas de cet autre qui nous ressemble plus ou moins, auquel nous pouvons nous identifier, dans lequel nous pouvons trompeusement nous contempler comme dans un miroir, à qui nous pouvons prêter des sentiments, des motivations, des expériences, des stratégies empruntées à notre propre vie grâce à cette curieuse propriété de l'humain, l'empathie, qui assure la possibilité du mensonge, cette forme extrême et langagière du leurre. La conviction qu'il est possible de se représenter le fonctionnement psychique de l'autre qui serait un même est une caractéristique de l'humanité et peut-être de quelques grands primates. Sans doute cet autre, si proche, si semblable, est-il déjà en réalité insondable surtout lorsqu'il appartient à un autre sexe, à un autre âge, à une autre époque, à une autre culture. Mais s'installe aisément l'illusion de sa transparence, de sa compréhensibilité, qui fonde toute la littérature, y compris celle de science-fiction lorsqu'elle s'occupe de personnages humains.

La science-fiction est naïvement, héroïquement pourrait-on dire, plus audacieuse encore puisque l'Autre qu'elle aborde souvent est un étranger par principe absolu, en quelque sorte incommensurable à notre expérience [2] . C'est évidemment l'extraterrestre, l'Alien ; c'est plus rarement l'intelligent terrestre non–humain, ainsi dans le Horla de Maupassant, les Xipéhuz [3] des frères Rosny, le prédateur d'un Vampire ordinaire de Suzy McKee Charnas [4] et évidemment les mutants dont Greg Bear offre dans l'Échelle de Darwin et dans les Enfants de Darwin [5] une nouvelle variante ; et c'est enfin l'intelligence artificielle (I.A.) sous les formes innombrables des robots humanoïdes et des machines conscientes. Ces êtres-là ne sont pas construits comme nous, ils n'ont pas les mêmes perceptions, les mêmes instincts ni pulsions, la même origine telle que la peignait Courbet, la même histoire, les mêmes environnements, en bref le même monde. Ils devraient nous demeurer complètement opaques ; et là où certains auteurs de science-fiction parviennent à nous surprendre et à surpasser ceux de la littérature (dite générale mais qui n'a pas dépassé le grade de tenant-lieu), c'est lorsqu'ils parviennent à nous rendre intelligibles de telles entités tout en affirmant leur altérité. Bien entendu, leur succès est limité et inégal, et je ne garantirais pas que, même ainsi prévenus, nous n'ayons pas des surprises si un jour nous rencontrons des extraterrestres, produisons des intelligences artificielles ou engendrons des mutants.

Frank Herbert a abordé avec une subtilité inégalée les trois variétés évoquées. Dans l'Étoile et le fouet [6] (1970), il traite du rapport sémantiquement difficile avec une espèce extrêmement étrangère, les étoiles. Dans le cycle de Dune [7] (1963-1985), il met en scène plusieurs mutants dont Paul Muad'Dib. Dans la Ruche d'Hellstrom, roman peut-être moins connu, il évoque une évolution très particulière de l'humanité vers la termitière grand format. Dans le cycle du Programme conscience qui comprend quatre titres, Destination : vide, l'Incident Jésus, l'Effet Lazare et le Facteur ascension, les trois derniers étant écrits en collaboration avec Bill Ransom, il décrit la genèse d'une intelligence artificielle puis son interaction problématique avec des humains.

Des humains. S'agit-il bien d'humains ? Car les personnages de Destination : vide (1966-1978) sont des clones, autres sujets d'actualité, je veux dire de notre actualité [8] . Parce qu'un premier programme de production d'une intelligence artificielle a abouti sur Terre à une catastrophe incompréhensible, le laboratoire a été recréé sur la Lune. Et comme ils ne tiennent pas à risquer leur vie, ses responsables et ses experts se sont fait cloner. Ce sont donc des clones qui ont été envoyés à bord du Terra, navire interstellaire, au risque de leur vie sous un prétexte mensonger, pour tenter à nouveau de créer une intelligence artificielle au niveau le plus ambitieux, c'est-à-dire une conscience artificielle. Ils ne sont pas les premiers : d'autres navires identiques ont été envoyés précédemment et ont disparu sans laisser de traces. Ont-ils été détruits ? Ont-ils réussi dans leur mission et été emportés dans l'Ailleurs ? Qu'a indiqué la capsule-message qu'ils sont supposés avoir envoyée vers la Lune en cas de succès ou d'auto-destruction ? C'est ce qu'ignorent les quatre clones qui habitent le Terra en compagnie de milliers d'autres clones cryogénisés candidats à la colonisation interstellaire.

Le roman de Frank Herbert est construit sur le modèle de la tragédie classique [9]  : unité de lieu, l'astronef, unité de temps (quelques heures, quelques jours), unité d'action puisque l'unique but des quatre protagonistes est de fabriquer cette I.A. sans laquelle ils sont perdus car l'intelligence biologique qui contrôlait leur vaisseau a été victime d'une défaillance sans doute organisée. Un étrange huis clos qui, à la différence de celui de la pièce de Sartre pour lequel « l'enfer, ce sont les autres », vise à produire un Autre qui suscitera peut-être un enfer. Cette structure romanesque, peu ordinaire, densifie le roman au point de le rendre parfois étouffant. Elle témoigne du goût de Frank Herbert pour les lieux fermés, à la fois prisons et abris contre un dehors menaçant, qui se manifeste dans presque toutes ses œuvres. Il convient de le rapprocher de l'atmosphère de paranoïa ambiante qui imprègne ses livres et tout spécialement celui-ci.

De cette situation, on retiendra trois traits : l'émergence d'une intelligence artificielle consciente peut être imprévisiblement dangereuse comme le fut l'explosion de la première bombe atomique [10]  ; les clones sont des “biens d'équipement”, des copies industrielles, des objets sacrifiables et remplaçables, et même s'ils sont en tous points, notamment sous l'angle de l'intelligence et de la sensibilité, comparables à leurs originaux, ils n'ont aucuns droits, donc ils ne sont pas à proprement parler considérés comme humains ; ils le savent et ont été conditionnés pour l'accepter mais en même temps ils ont comme tout humain le désir de survivre. Enfin, ici, toute intelligence est le produit de l'artifice et de l'ingéniosité des hommes : les clones puisqu'ils ont été fabriqués, et l'intelligence artificielle si les protagonistes de Destination : vide parviennent à la faire naître : en somme, de l'artificiel visant à produire de l'artificiel et, si cela aboutit, de l'artificiel en face de l'artificiel. Une représentation intéressante de la condition humaine.

Et surtout du Même face à l'Autre hypothétique qu'il s'agit de créer. Les clones relèvent du Même puisque ce sont des reproductions aussi précises, au moins anatomiquement et physiologiquement, de leurs modèles que la génétique peut le permettre. Bien que leurs éducations et formations diffèrent de celles de ces derniers, on présume qu'ils réagiront à peu près de la même manière et présenteront les mêmes qualités intellectuelles et morales. Ainsi, les responsables et spécialistes du Programme Conscience se sont envoyés eux-mêmes par délégation sur le théâtre des opérations sans encourir le moindre risque : prudence parfaitement cynique [11] . Et l'on peut même supposer que leurs versions présentes sur la Lune ne sont que des copies des originaux authentiques demeurés sur Terre.

Ces copies sont donc prévisibles. En revanche, l'Autre qu'il s'agit de créer, l'hypothétique intelligence artificielle consciente est absolument imprévisible. Il n'y a aucun précédent. Il ne s'agit plus d'une copie mais de l'original, d'un Original absolu. On ne sait pas si c'est possible, on ne sait pas ce que cela va être, on ne sait pas ce que cela va faire. On sait tout juste qu'une première fois, sur Terre, le laboratoire originel et l'île qui le supportait ont disparu. Peut-être cela n'avait-il rien à voir avec l'émergence d'une conscience mais on a quelques raisons de le supposer. D'où la procédure.

Mais pourquoi cette (voire toute) intelligence artificielle consciente serait-elle puissante et dangereuse ?

Il convient de souligner d'abord que le roman de Frank Herbert est l'un des très rares, voire le seul, qui raconte la genèse d'une intelligence artificielle consciente et fournisse jusqu'à un certain point des indications sur son fonctionnement interne. Sans cette genèse, on ne comprendrait ni la puissance ni le danger. Pour ma part, je n'en connais aucun autre exemple dans la fiction, les robots et autres machines intelligentes étant généralement donnés comme déjà installés dans les avenirs imaginés, et seules les conséquences de leur existence étant décrites. Bien que Destination : vide soit une fiction et en aucune manière un manuel de fabrication et maintenance, il serait particulièrement intéressant que des spécialistes du domaine de l'I.A. (domaine à mon sentiment pseudo-scientifique au moins sous cette dénomination [12] ) se penchent sur ce roman et le commentent de leur point de vue. Comme beaucoup d'informaticiens sont amateurs de science-fiction, on peut espérer que l'un d'eux s'y attellera un jour. De même, il vaudrait de comparer dans le détail les spéculations de Frank Herbert et les prétentions de ces spécialistes dans leur abondante littérature. Je dis bien les prétentions car cette genèse n'a aucun rapport, même lointain, avec l'informatique telle que nous la pratiquons [13] . Parce que je ne dispose pas d'une compétence suffisante ni ici de la place nécessaire, je me bornerai à quelques rapprochements.

Parmi plusieurs idées originales — soigneusement enrobées de mystère par Frank Herbert selon la technique stylistique qui lui est habituelle et qui permet d'en inférer l'illusion qu'il y en a plus qu'il n'en est dit, on relèvera celle qu'une conscience, même artificielle, doit être supportée par un inconscient. C'est pourquoi j'ai jusqu'ici mentionné une machine intelligente et consciente [14] , ce qui a pu sembler redondant à quelques lecteurs.

On peut en effet imaginer une machine programmée assez “intelligente” de notre point de vue, c'est-à-dire adaptée à la résolution de nombreux problèmes, qui ne soit pas consciente d'elle-même. Une telle machine serait en principe et par construction transparente à ses créateurs (sauf dans le cas de la vie artificielle [15] ). Ils sauraient comment ils l'ont faite et comment elle fonctionne même s'ils ne mesureraient pas nécessairement tout ce dont elle serait capable [16] . Mais elle ne serait pas pour autant, même partiellement, transparente à elle-même, ce qui est le propre, certes très relatif, de la conscience [17] . Dans le roman de Herbert, on passe d'ailleurs d'un ordinateur assez intelligent pour piloter le navire (même après que le Noyau Psycho-Organique, cerveau prélevé sur un humain, a été détruit) mais tout à fait machinique et inconscient, à une machine consciente.

Par ailleurs les machines au moins actuelles n'ont pas du tout d'inconscient aux sens philosophique, psychologique et psychanalytique du terme, et comme nous sommes très loin de savoir comment notre propre inconscient fonctionne même si nous parvenons très superficiellement à l'explorer, nous sommes par suite encore plus éloignés d'en doter des intelligences artificielles dans l'espoir de les rendre de surcroît conscientes si l'on suit Frank Herbert dans ses conjectures.

La machine que les clones de Destination : vide parviennent à fabriquer et à animer est intelligente et consciente. Ils l'ont produite sans complètement comprendre comment : ils agissent en ingénieurs et font de la technologie plutôt que de la science. Ils ne comprennent pas comment ils aboutissent à leur résultat parce que cette intelligence, à un certain stade, s'auto-produit, émerge. Facilité de romancier ? Pas seulement mais plutôt métaphore de la façon dont l'univers a produit, à travers le processus long et compliqué de l'évolution, de l'intelligence naturelle, notamment humaine, qui serait une propriété émergente de la matière organisée [18] . C'est en somme la démarche, en matière d'I.A. des plus réalistes et des plus prudents des chercheurs de la vie artificielle.

L'une des dimensions les plus passionnantes et la plus discrètement explicitée de ce roman de Frank Herbert tient à la raison pour laquelle cette intelligence artificielle est puissante. C'est qu'il s'agit d'une pure intelligence, en contact direct avec l'univers ou plus précisément avec le réel tandis que les intelligences naturelles humaines ne se trouvent en relation qu'avec une réalité, une construction culturelle qu'il leur faut perpétuellement et difficilement remanier. La distinction entre réel et réalité, et la part d'illusions idéologiques qui encombrent les intelligences humaines, jusque dans leurs certitudes scientifiques, sont du reste souvent évoquées dans d'autres œuvres de Herbert. Cette I.A. a fait l'économie des innombrables confrontations concrètes qui ont modelé à travers l'évolution les intelligences naturelles en les enfermant dans l'héritage de ces expériences comme dans un corset dont il leur faut constamment faire sauter les coutures sous la pression du réel et sous la pulsion, interne et impossible à satisfaire, de l'atteindre, ce réel voilé, de connaître ce qu'il en est en dernière instance. La dernière version avérée de ce corset correspond aux systèmes symboliques dont les humains ont besoin pour se représenter le monde et grâce auxquels ils parviennent tant bien que mal à le manipuler et à le transformer.

On pourrait dire ironiquement, et peut-être un peu méchamment, qu'il s'agit d'une intelligence philosophique universelle qui n'a pas besoin de la médiation d'expériences concrètes, ni même d'informations, pour s'exercer et se développer, au sens où certains philosophes entreprennent de nous enseigner comment penser dans l'absolu sans aucune référence à l'histoire des idées, des sciences, des mathématiques et des arts, ce qui les expose régulièrement à de sérieuses déconvenues. Selon eux, « les sciences ne pensent pas [19]  » comme si elles étaient de simples et directes traductions de la nature, des découvertes, au lieu d'être de libres et fragiles inventions de l'esprit humain. Pourtant, la liste des démentis que les sciences, productions éminemment humaines, leur ont régulièrement apportés ne tiendrait pas dans ce volume. Et cependant la croyance de certains scientistes de l'I.A. demeure bien qu'une telle intelligence-en-soi peut être produite grâce à un algorithme sans le support d'un autre corps qu'un programme et que la machine stupide qui l'exécuterait. Mais il y a plus étonnant.

Cette intelligence artificielle, Nef, sait donc, au moins partiellement, comment l'univers fonctionne et elle peut directement exploiter ce savoir sans la médiation de symboles, et par exemple transférer instantanément un astronef (ou une île) dans une autre région de l'espace, voire à l'autre bout de l'univers.

Une intelligence aussi pure est un dieu limité. Elle n'a nul besoin qu'on lui apprenne l'univers puisqu'elle le voit tel qu'il est. « Ma compréhension transcende toutes les possibilités de cet univers, » dit la Nef. « Je n'ai pas besoin de connaître cet univers, car je le possède en tant qu'expérience directe. [20]  » Elle peut en manipuler les paramètres sans avoir recours à la théorie, cette prothèse de l'intelligence humaine. Son intelligence est une qualité préexistante à l'expérience et n'a pas besoin de celle-ci pour se constituer et se développer.

On admettra que cette perspective est très différente de celle de certains tenants “scientifiques” de l'intelligence artificielle qui projettent d'apprendre l'univers à l'ordinateur, par exemple en lui enfournant des encyclopédies, comme si les encyclopédies étaient des programmes ou même simplement des systèmes formalisés, et comme si, hypothèse encore plus formidable, elles décrivaient vraiment ou pratiquement l'univers tel qu'il est. Pour eux, il ne s'agit plus de créer une intelligence abstraite et universelle, mais, croient-ils, une intelligence informée. Et cependant, dans le roman de Frank Herbert, on n'est pas si loin des mythes implicites dans les œuvres réputées sérieuses des premiers prophètes de l'intelligence artificielle, John von Neumann, Simon, Minsky et autres. Selon eux, si une machine est suffisamment complexe et absorbe suffisamment d'informations, alors elle deviendra intelligente. Intelligente de quoi, c'est toute la question [21] . Et c'est une question épistémologique que Frank Herbert évacue moins vite que la plupart des forcenés récents de l'I.A. qui ne peuvent même pas bénéficier comme leurs prédécesseurs cités de l'excuse de l'inexpérience.

Apparemment plus subtile, l'idée que l'intelligence en général soit représentable, et que cette représentation soit rendue efficiente, par un algorithme qui puisse traiter n'importe quel ensemble d'informations, n'est pas fondamentalement différente [22] . Au nombre des processeurs, elle substitue celui des commandes logiques ou des lignes de programme. Ou encore la qualité de leur style. Mais si un tel algorithme général, sorte de pierre philosophale des alchimistes de l'I.A., existe dans l'Empyrée des programmeurs, il peut être appliqué à n'importe quoi. Donc la machine ainsi équipée aurait une vue directe sur l'univers dans la seule limite de ses perceptions [23] . Ou encore, elle serait intelligente généralement et saurait induire et déduire, à partir de toute collection de données qui lui serait accessible. Ce qui implique, les algorithmes étant ce qu'ils sont c'est-à-dire des procédures mécaniques de traitement de l'information, que la réponse soit déjà présente sous forme d'information dans la collection de données et qu'elle ne nécessite aucune nouvelle création de concepts [24] . C'est bien le mythe que convoient la plupart des sectateurs de l'intelligence artificielle malgré l'incurable médiocrité tautologique de leurs programmes heuristiques [25] . C'est celui qu'illustre, la fiction, autrement légitime parce que fiction, de Frank Herbert

Mais pourquoi Nef, cette puissante intelligence, est-elle dangereuse ? C'est ici parce que sa conscience est une conscience de son infinie solitude et de l'absence de sens d'un univers muet et immuable dans sa mutabilité même. On pourrait dire que, comme la créature de Frankenstein, elle est en mal d'affectivité et d'échange avec son semblable. Elle a le choix entre le néant et la découverte d'un objet d'amour réciproque. Frank Herbert reconnaît dans sa postface à la dernière édition de Destination : vide, sinon sa dette puisqu'il n'avait pas lu le livre de Mary Shelley lors de la première rédaction de son roman, du moins sa parenté avec les intuitions de l'auteur anglais. Assurément, comme la créature de Frankenstein, Nef est l'invention d'un écrivain, et ses angoisses et désirs passablement anthropomorphes n'ont sans doute que peu de rapport avec les sentiments d'une hypothétique Intelligence Artificielle qui apparaîtrait effectivement dans un laboratoire [26] . Reste que, comme le rappelait quelque part le philosophe Guy Lardreau, s'il existe un jour des I.A. conscientes, elles auront droit à notre compassion.

En résumé, Nef, cette Autre, est puissante parce qu'elle est en contact direct avec l'univers, et elle est dangereuse parce qu'elle n'a pas de Même. Aussi seule que le Dieu de la Bible avant la Genèse, mais n'ayant pas la possibilité de se créer un univers pour échapper à la mélancolie puisqu'elle est déjà prisonnière d'un univers préexistant sur lequel elle ne peut pas avoir d'illusion, sauf à se détruire ou se laisser détruire, Nef n'a qu'une ressource : se faire Vénefrer, c'est-à-dire devenir un petit mais cynique et redoutable dieu, ou plutôt un démon, pour les passagers du Terra et leurs descendants.

Toute la détermination de ces derniers les conduira à chercher à s'affranchir de la tutelle de ce diable que leurs ancêtres ont créé. C'est le fil conducteur des trois derniers volumes du cycle.

« Et c'est ainsi qu'Allah est grand » [27] .

Notes

[1]  Ce texte devait initialement figurer en préface ou postface de la réédition de Destination : vide. Mais à la fois pour des raisons de délais et parce qu'il n'était peut-être pas habile de déflorer pour le lecteur le thème de ce roman, il a paru préférable de le loger ici. Même si c'est bien de Destination : vide qu'il s'agit.

[2]  C'est ce qu'a bien vu François Laruelle dans son article "Alien-sans-aliénation. Programme pour une philo-fiction", in Philosophie et science-fiction, Vrin 2000. Malheureusement ce petit essai est d'une telle abstraction qu'il ne cite aucun exemple ni aucun texte de science-fiction. Ce qui confirme malheureusement que la philosophie contemporaine n'a besoin d'aucune réalité pour discourir. Cela s'appelle parler dans le vide, autre milieu bien connu des science-fictionautes.

[3]  In Romans Préhistoriques, J.-H. Rosny aîné, Bouquins, Robert Laffont.

[4]  "Ailleurs et demain", Robert Laffont, 1982

[5]  Paru 2003 dans la même collection.

[6]  "Ailleurs et demain" et le Livre de Poche.

[7]  Ailleurs et demain, 1970.

[8]  Il est assez remarquable que dès 1966 et même en 1978, Herbert ait eu recours à des clones et soulevé d'emblée le problème éthique. La perspective du clonage des animaux et en particulier des mammifères paraissait très éloignée à l'époque aux plus hardis des biologistes, sauf sous la forme de la parthénogenèse. Et surtout sauf pour les auteurs de science-fiction.

[9]  S'agit-il ici d'une tragédie ou d'un drame, c'est-à-dire cela finit-il mal ou bien, grâce à l'intervention d'un deus ex machina ? La question reste ici irrésolue.

[10]  Un fantasme répandu à l'époque était celui de la réaction en chaîne qui détruirait toute la planète. Même si les physiciens concernés n'y croyaient pas pour des raisons théoriques très fortes, certains d'entre eux n'étaient pas rassurés avant que la première expérience en vraie grandeur ait été réalisée. Par la suite ce fantasme donna naissance à toute une littérature catastrophisante et même en France à une émission de radio (Jean Nocher).

[11]  Et ce cynisme prend une dimension extrême avec le personnage de Flatterie, le psychiatre-aumônier. Herbert a eu ici l'intuition géniale que la psychiatrie, ou la psychologie, ou la psychanalyse, va occuper la place sociale de la prêtrise. Songez à l'“assistance psychologique” qu'on déploie désormais sur tous les lieux de catastrophes, même mineures, là où naguère on aurait envoyé un prêtre. Flatterie deviendra bien entendu le premier serviteur du dieu à venir. Toute la question, à laquelle lui-même ne saurait pas répondre, est de savoir à quoi il croit.

[12]  Voir sur ce sujet ma préface à Excession d’Iain M. Banks.

[13]  Du reste, l'I.A. actuelle elle-même n'a parfois que peu de rapports, voire aucun, avec l'informatique : par exemple les réseaux neuronaux ne relèvent pas à strictement parler de l'informatique sauf lorsqu'ils sont simulés sur ordinateur.

[14]  C'est pourquoi dans d'autres ouvrages de Herbert, comme l'Étoile et le fouet, le traducteur, Guy Abadia, a choisi avec mon accord de conserver l'adjectif anglais sentient qui signifie à la fois intelligent et conscient, doublet dont nous n'avons pas trouvé vraiment d'équivalent en français. Depuis, on le rencontre dans de nombreuses autres traductions.

[15]  Pour plus de détails, voir la préface précitée.

[16]  C'est une des raisons pour lesquelles je tiens pour une imposture la prétention à créer de l'intelligence artificielle (en dehors de la fiction) parce qu'elle impliquerait soit que nous sachions déjà ce qu'est l'intelligence naturelle, humaine ou même animale, soit que nous sachions comment fonctionne l'univers dans son détail et dans sa totalité, ce qui est loin, pour dire le moins, d'être le cas. Le problème est abordé de façon plus détaillée dans la préface précitée.

[17]  Dans la science-fiction, un paradoxe très intéressant est celui de l'I.A. imaginée par Greg Bear dans la Reine des anges : MESA est envoyée explorer un système stellaire relativement proche et, confrontée à des expériences totalement inédites, elle se sent devenir consciente. Mais elle n'est pas du tout sûre qu'il ne s'agisse pas d'une illusion. Ce qui soulève la question de savoir ce que serait une illusion sur elle-même pour une intelligence non-consciente. (Ailleurs et demain, Robert Laffont, et le Livre de Poche)

[18]  Cette facilité, l'émergence, est du reste souvent invoquée par les tenants de l'I.A., y compris les plus récents dont je caricaturerai volontiers les propos en disant que selon eux, si on met assez de trucs compliqués dans une boîte noire et qu'on secoue bien, il en sortira tôt ou tard quelque chose d'intelligent. Je ne conteste pas pour autant la réalité de phénomènes émergents imprévisibles dans la nature et dans les laboratoires.

[19]  Voir Heidegger qui me semble là faire un complet contresens sur ce qu'est la science.

[20]  Destination : vide, page 243.

[21]  Il va de soi que le sujet est vaste et complexe et qu'il faudrait analyser en profondeur les travaux des auteurs cités pour soutenir sérieusement cette allégation. Il reste que généralement dans les premières décennies après 1950 et à peine moins souvent aujourd'hui encore, le problème de la création d'une intelligence artificielle est présenté dans des termes quantitatifs et non qualitatifs. En gros, quand nous disposerons d'un ordinateur comptant autant de transistors que le cerveau humain de neurones, nous aurons une machine intelligente. Mais quel cerveau humain est pris pour référence, celui d'un idiot congénital ou celui d'un génie, sachant que leur nombre de neurones est du même ordre de grandeur voire à peu près identique ?

[22]  Rappelons qu'un algorithme représente exclusivement du calculable (P ou Non-P, ce n'est pas ici la question) sur une machine de Turing, l'ordinateur le plus général possible. Mais rien ne prouve que le cerveau humain, susceptible d'une intelligence naturelle, soit une machine de Turing même s'il peut, en principe, émuler une telle machine, l'inverse n'étant pas, et de loin, démontré. En bref, contrairement à une idée reçue, rien n'indique pour l'instant que le cerveau soit un ordinateur discret ou soit simulable par un tel ordinateur.

[23]  De tels algorithmes sont indéniablement efficaces, et d'une efficacité croissante, dans le domaine de la reconnaissance des formes. Mais de ce domaine à celui de la création de concepts opératoires inédits, il y a comme une solution de continuité.

[24]  Cela peut être admis dans le cas très particulier d'un univers déjà formalisé, ou, moins évidemment, dans celui d'un univers formalisable, ceux qu'on rencontre par exemple dans la théorie des jeux. Les concepts sont présents dans la formalisation. Mais jusqu'à nouvel ordre, le réel n'est pas formalisé-en-soi ni même certainement formalisable dans sa totalité quel que soit l'état supposé des connaissances à venir où l'on se place. Voir les Limites de la connaissance, Hervé Zwirn, Éditions Odile Jacob, 2000.

[25]  Une des conséquences intéressantes des théorèmes de Gödel, si souvent invoqués à tort et à travers, c'est que les mathématiques des mathématiciens ne sont pas tautologiques. Mais c'est une autre histoire.

[26]  La même question se pose à propos de Hal, l'ordinateur intelligent de 2001, l'odyssée de l'espace, et de ses motivations.

[27]  Alexandre Vialatte, Chroniques de La Montagne, Bouquins, Robert Laffont, 2002.

 haut de page

écrire à Quarante-Deux