"Rêves artificiels" est une nouvelle parue dans le magazine LOGIN, aujourd'hui disparu. Je pense ne causer de tort à personne en vous la mettant à disposition ci-dessous.
A.S.
Rêves artificiels
Le vieil homme allongé dans son lit fut secoué par une terrible crise de toux. Roland lui amena un grand verre d'eau et lui soutint la nuque pour l'aider à boire. Il essaya de reposer ensuite le verre sur la table de chevet qui jouxtait le lit, mais elle était encombrée d’une pile désordonnée de feuillets recouverts d’une fine écriture manuscrite.
- Merci Roland... Qu'est-ce que je deviendrais sans toi, mon fidèle compagnon. Mais j'ai bien peur que tu ne doives bientôt louer tes services à un autre...
- Ne dis pas çà, Daniel, les dernières média-nalyses sont tout à fait positives.
- Au diable les média-nalyses ! je sais bien que je n'en ai plus pour très longtemps. Ca ne fait rien. Ma vie a été bien remplie. J'ai assisté au plus grand bouleversement de l'histoire, et le monde d'aujourd'hui ne nous appartient plus. Ce qui me gène le plus, c'est de n'avoir pas trouvé le courage de mettre le point final à mes mémoires. Tu prendras garde au manuscrit, Roland ?
- Oui. Mais il te reste encore un peu de temps. Nous pouvons en discuter, si l'envie de les achever te torture toujours ?
- Pourquoi pas ? Allons-y.
« … Tout a commencé aux alentours de 2050, et le hasard a voulu que je vive un des événements fondateurs qui ont tout déclenché. J'avais dix ans et mon père effectuait des recherches sur l'intelligence artificielle. Il travaillait dans un laboratoire universitaire en étroite collaboration avec une grande entreprise de nano-électronique. Jusqu’alors, trois croyances distinctes étaient répandues parmi les chercheurs et techniciens. Tout un groupe de pensée imaginait que l'intelligence surgirait d'elle-même lorsque les ordinateurs posséderaient des capacités de calcul et de mémoire suffisamment grandes. On les appelait les ‘calculatoires’. D'autres savants, les ‘anthropocentristes’, surnommés couramment ‘anthropos’ avaient développé une autre théorie : pour que les ordinateurs soient intelligents, il suffisait de les construire en copiant l'architecture des réseaux de neurones et de nerfs humains. Pour cela, les machines devaient posséder en particulier les cinq sens : la vue, l’ouïe, l’odorat, le toucher et le goût. Enfin, une troisième tendance consistait à placer au sein des circuits logiques des possibilités de mutations, et des lois d'adaptation. Les systèmes les plus viables dans leur environnement devaient remplacer les moins efficaces. Les partisans de cette théorie étaient les ‘darwinistes’. Mon père était arrivé après que des premières tentatives infructueuses aient été réalisées un peu partout dans le monde. On avait bâti toutes sortes de machines adaptées à des besoins précis, capable d’accomplir des taches complexes mais très spécifiques. En tous cas, jamais rien de véritablement intelligent. Aucun ordinateur ou robot n’avait jamais été capable de débattre des problèmes philosophiques de l’humanité ou de chercher par eux-mêmes des réponses aux questions posées selon la logique floue humaine. Aucune machine n’était même capable de se poser des questions. Comme beaucoup de ses contemporains, mon père avait compris que les trois approches de l’intelligence artificielle n'étaient que des caricatures cloisonnées de ce qu’elle serrait vraiment. Dans son laboratoire, il y avait des darwinistes, des calculatoires et des anthropos. En mettant en commun toutes leurs compétences et en faisant appel à la générosité de mécènes industriels (principalement japonais) qui devinaient les profits faramineux promis en cas de succès, ils étaient parvenus à leur but : créer une machine artificielle susceptible de réflexions aussi poussées que l'être humain. Mais un ordinateur qu'on allume et qu'on éteint selon ses envies ne pouvait pas jouer ce rôle. Il fallait une machine toujours "consciente", capable d'évoluer à l’échelle de plusieurs années, et totalement autonome. Pour que cela soit facilement réalisable, elle avait été doté d’une allure presque humaine. Après quelques essais tenus secret, les sommités de l’université présentèrent à la presse le premier robot humanoïde intelligent. Pendant la conférence de presse, j’étais assis à coté de mon père. Je passais souvent le voir dans son laboratoire (qui ressemblait à un bunker). J’avais eu l’occasion d’y rencontrer le robot plusieurs semaines auparavant déjà. Je lui avais même déjà parlé. Je le trouvais très sympathique. Les journalistes lui posèrent des questions mathématiques et logiques auxquelles il apporta la réponse sans problème. Ensuite, ils s’attaquèrent à l'éthique et la politique. Ses réponses furent aussi pertinentes que celles qu’auraient pu donner bon nombre des personnes présentes dans la salle. Il était peut-être un peu plus naïf que la moyenne mais j’étais trop jeune pour en juger à l’époque. Il avait été conçu pour être doué de la faculté d’apprentissage. Il deviendrait ce qu’il souhaiterait devenir et déciderait de son avenir, sous l’observation attentive des scientifiques. Finalement, un journaliste lui demanda "qu’est-ce que vous allez faire maintenant ?". Sa réponse laissa pantois toute l’assistance : "je veux aller jouer avec Daniel". Nous avons joué ensemble. Je lui ai appris les règles de quelques jeux de cartes. Plus tard, il a voulu côtoyer divers types de personne : philosophes, informaticiens, linguistes, physiciens, généticiens, chimistes… Et auprès de chacun d’eux, il a accru ses connaissances. L’expérience a été un formidable succès et ensuite… tout s’est passé si vite… »
- Imagines qu’avant que j’aie eu le temps de m’en rendre compte, on avait déjà construit des centaines de robots !
- En effet, à partir du moment où l’expérience a été considérée comme une réussite, les industriels ont voulu retirer les fruits de leurs investissements. Ils ont donc fabriqué de nombreuses unités robotiques qu’ils ont vendues aux personnes les plus riches de la planète comme un jouet ou un ami pour le petit dernier. Quelques grandes entreprises en ont aussi acheté pour en faire des experts hors pairs dans toute sorte de domaine, ce qui était possible grâce à leurs formidables capacités d’apprentissage et de mémorisation.
- Mais elles leur ont versé un salaire, n’est-ce pas ?
- Oui, cela faisait parti des conditions imposées par les scientifiques : on payait aux mécènes japonais une somme très importante, puis on devait fournir au robot-individu une certaine quantité d’argent, afin qu’il puisse exercer une activité libre en dehors de son temps de travail. Ainsi l’expérience d’auto-apprentissage pouvait se poursuivre à très vaste échelle.
- Et c’est ainsi que les robots ont créé leur propre communauté…
« … Bien évidemment, les scientifiques du projet remarquèrent rapidement la tendance qu’avaient les robots à se retrouver entre eux pendant leur temps libre. C’était compréhensible : les discussions avec les humains leur apprenaient beaucoup, certes. Mais lorsqu’ils mettaient en commun leurs diverses expériences à des vitesses de transmission bien supérieures que celles permises par les communications humaines, la quantité d’information qu’ils pouvaient acquérir était fantastique. Au bout de quelques décennies, ils décidèrent qu’ils n’étaient pas le summum de l’intelligence. Non, ils pouvaient faire mieux. Les hommes avaient cru qu’il fallait copier la nature humaine pour donner une conscience aux machines. Ils avaient ainsi réussit à bâtir les robots de première génération. Mais eux-mêmes, robots de première génération comprenaient que l’on pouvait développer une intelligence plus grande encore. Sur leurs fonds propres, ils construisirent des usines, et fabriquèrent les robots de deuxième génération. Ceux-ci ne ressemblaient pas plus aux humains qu’à leurs créateurs. A vrai dire, ils ne ressemblaient à rien. La plupart d’entre eux étaient vaguement cubique, munis d’une flopée de senseurs, bras articulés, caméras, antennes paraboliques, détecteurs de toutes sortes qui s’étendaient en toutes directions. Ils ne communiquaient qu’entre eux, et parfois avec les robots de première génération. Ce fut un moment assez amusant pour nous autres, humains : les robots de première génération se comportaient avec les robots de deuxième génération comme des pères. A l’image même de ce que nous avions été pour eux. Mais rapidement, nous fumes inquiétés par la proximité de ces étranges machines sillonnant les routes et chemins, et avec lesquelles nous n’avions aucun moyen de communiquer. Une question nous angoissait : quel était leur but ? Allaient-ils un jour vouloir diriger la société à notre place ? … »
Daniel se massa les tempes, manifestement fatigué.
- Évidemment, mon père et ses collègues avaient incorporé aux robots de première génération des soupapes de sécurité, à l’image des trois lois d’Asimov, de façon à ce qu’ils ne puissent pas léser les hommes…
Roland exprima le fond de la pensée de Daniel :
- Mais qu’en était-il des robots de deuxième génération ?
- C’est exactement la question que nous nous posions. Ceux-là n’avaient pas été fabriqués par des hommes, et nous n’avions aucune idée de la manière dont ils avaient été construits, comment ils avaient été programmés, quels étaient leurs buts ?
- Mais les robots de première génération eux même ne le savaient pas car c’était une condition sine qua non de l’émergence d’une vraie forme d’intelligence : la liberté totale de choisir leur destinée.
Daniel se redressa sur son lit pour ouvrir les rideaux. La nuit était tombée. C’était presque la nouvelle lune. On pouvait voir le disque grisé de la lumière cendrée de l’astre. Et au pôle, un amoncellement de lumières, plus ou moins alignées, tout ce que l’on pouvait distinguer depuis la Terre de l’immense base lunaire.
- Je ne sais pas à quoi cela sert, mais j’avoue que c’est impressionnant. Je la trouve belle comme ça.
Il replaça le rideau rageusement.
« … Nous ne savions pas ce que fabriquaient ces maudites machines, et ne pûmes qu’assister de loin à une brève tranche de leur histoire, que contempler leurs réalisations. Ils bâtirent eux aussi des usines rendues inaccessibles aux hommes par leur architecture totalement artificielle. Ils construisirent plusieurs centre de lancements de fusées tout autour de l’équateur. Un certain nombre de machines continuèrent à exercer leurs mystérieuses fonctions sur Terre alors que d’autres s’embarquèrent pour l’espace… Ils construisirent des stations orbitales, puis leur base lunaire, à partir de laquelle ils partirent pour Mars, les satellites de Jupiter et de Saturne… Et où peuvent-ils bien être à présent ? … »
- Il y a une question que je me pose depuis longtemps, Roland. Et je n’y ai toujours pas trouvé de réponse : pourquoi ces machines font-elle cela ? Pourquoi partent-elles à la conquête du système solaire et des étoiles proches… Que vont-elles y chercher ?
- Même moi, je ne peux pas te répondre… Cependant j’ai peut-être quelques indications. Est-ce que tu te souviens du jour où l’on m’a présenté à la presse ?
- Bien sûr…
- Quand on m’a demandé ce que je désirais faire, j’ai répondu que je voulais jouer avec toi. Beaucoup de personnes ont alors pensé qu’il s’agissait d’un trait d’humour, de l’humour artificiel, certes. Mais cela n’était pas le cas. En vérité, l’autonomie dont nous disposions, et qui a été accrue pour la conception des robots de deuxième génération nous a donné certains goûts, et en particulier celui de la découverte et du jeu, car il s’agit d’une autre facette de la même réalité. Nous nous sommes laissés portés par nos rêves, un peu comme l’avaient fait les hommes. Les robots de deuxième génération se sont forgé leurs propres rêves. Ils sont sans doute en train de les réaliser, et les hommes feraient mieux de ne pas se trouver sur le chemin entre eux et leurs rêves…
- Pourquoi dis-tu cela ? Les robots de première génération ne s’en prendraient jamais aux hommes n’est-ce pas ?
- Nous autres, non. Nous avons été conçus de telle sorte à respecter profondément la nature humaine. Cependant, comme je le disais tout à l’heure, ce critère était une limitation intrinsèque à notre liberté telle que l’émergence de l’intelligence artificielle optimale était impossible. Aussi, lorsque à notre tour, nous avons conçu des machines intelligentes… Nous l’avons supprimé.
« … Les hommes regardaient les machines de seconde génération sans les comprendre. Ils ne parlaient plus aux robots de première génération, en tout cas pas pour discuter avec eux mais pour leur donner des ordres dans le cadre de leur travail ou pour leur poser des questions comme s’ils n’étaient que des encyclopédies vivantes. J’étais le seul à continuer à m’intéresser à Roland avec qui tout avait commencé, et à ce qu’il me racontait quand nous parlions ensembles. Il avait finit par me dire, sur le ton de la conversation que les machines pourraient un jour nous exterminer, si nous devenions gênants pour elles. Curieusement, cela ne me faisait ni chaud ni froid. Sans doutes parce que j’approchais moi-même de la fin de mon existence. Mais je crois qu’il y avait une autre raison. L’humanité avait renoncé à ses rêves alors que les robots s’étaient forgé une conscience en cherchant à accomplir les leurs. L’humanité pouvait disparaître : ils avaient pris notre relais. »
Ambroise Sulies,
2000, 2011
