Le roman d’anticipation de Jean-Paul Oury permet d’approfondir notre réflexion sur l’éventuel libre arbitre à venir des intelligences artificielles.

---

Les révolutions scientifiques sont de deux sortes : celles qui sont tournées vers la conquête du monde extérieur, sur la compréhension de l’univers et celles qui explorent notre nature humaine, nos origines, qui ressemblent en cela à une aventure intérieure. Les deuxièmes sont les plus troublantes et les plus bouleversantes, car si les premières permettent des prodiges, elles laissent intactes notre propre intégrité individuelle et psychologique, notre identité. Tandis que les deuxièmes nous révèlent que notre nature même et les conditions de notre identité peuvent être remises en question. Que l’on se rappelle les torrents d’indignation voire de haine avec lesquels le darwinisme et notre filiation simiesque furent accueillis.

Cumul

L’intelligence artificielle est la première révolution qui s’étend à la fois sur les deux tableaux. Elle est peut-être en cela le plus grand bouleversement scientifique de l’histoire, comme si les effets de la révolution copernicienne et de l’évolution des espèces marquaient le monde des sciences d’un seul choc cumulé.

Dans son roman Siliclone, Jean-Paul Oury prend la mesure d’une telle révolution. Beaucoup d’ouvrages ou de romans ont déjà été écrits sur l’IA. Mais peu ont étendu leur réflexion jusqu’à ses limites les plus dérangeantes. Et si l’IA avait fait des progrès tels que nous serions en mesure de créer des clones parfaits de nous-mêmes, indiscernables quant à l’apparence physique, les gestes, les attitudes et la voix et ayant téléchargé nos connaissances, notre histoire personnelle la plus intime, notre psychologie, notre caractère et étant capables de les reproduire fidèlement ? Nous pourrions déléguer notre présence à ces doubles parfaits lors d’une réunion professionnelle, une représentation publique, voire une relation avec notre entourage proche. Ils pourraient même nous offrir une immortalité en miroir, en prenant notre succession après notre disparition.

Le propos interpelle d’autant plus que nous savons ne pas être loin d’une telle réalité. Les robots de Figure AI ou de Boston Dynamics émerveillent autant qu’ils terrifient par leur réalisme. Le scénario de Siliclone possède la force de la proximité technologique, comme les meilleurs épisodes de Black Mirror.

Siliclone peut être considéré en cela comme l’un des premiers romans post-singularité, c’est-à-dire ne se posant plus la question de savoir si nous avions atteint l’impossibilité de distinguer l’IA de l’humain, mais passant à l’interrogation suivante : la menace sur notre identité, sur ce qui fonde notre individualité même. Les siliclones sont-ils de simples répliques ou deviennent-ils un autre nous-mêmes, jusqu’à employer le « je » à notre place, comme s’ils ne pouvaient se distinguer organiquement de nous ? Si une entité ressentait exactement la même expérience subjective et intime que la nôtre, serait-elle seulement une réplique de nous-mêmes ou véritablement nous, réparti en deux êtres ?

Bouclé

Plusieurs passages du roman sont jubilatoires à ce titre. Par exemple, lorsque le techno-prophète Alexandre Laurent alors en fin de vie voit son double lors d’une émission télévisée révéler qu’il est un siliclone, mettant en conflit de nouvelles lois d’Asimov. Ou lorsque le siliclone se met à parler non seulement en lieu et place de son humain d’origine, mais à considérer qu’il ne peut à proprement parler au nom d’une entité différente.

Le roman s’achève sur une sorte de test de Turing ultime : un concert de musique joué par des siliclones, et dont les spectateurs sont également des siliclones. Une boucle robotique totalement refermée sur elle-même dont les humains seraient exclus.

Pour Jean-Paul Oury, cette vision effrayante est en même temps ce qui sauverait l’individualité humaine, ce qui marquerait la limite entre l’humain et la machine. « Les siliclones n’avaient conscience ni de ce qu’ils jouaient, ni de ce qu’ils écoutaient et ne pouvaient juger de la qualité de l’interprétation » écrit-il. Une telle boucle de production et d’appréciation entre machines ne pourrait être que vide de conscience, une parfaite reproduction mais sans expérience intérieure. Une machine ne peut se donner des buts propres et accéder au monde des valeurs, sans quoi elle ne serait plus une machine.

Je diffère ici de Jean-Paul Oury quant à ce qui serait notre planche de salut. Si l’expérience de pensée du concert entre machines est une brillante concrétisation du test ultime – quoi de plus gratuit et de profondément humain que de choisir de se rassembler pour jouer de la musique et la faire apprécier – je crains que même ce test ne finisse par être franchi par la machine.

Dans un article récent de The European Scientist[1], je montre que nombre d’arguments en faveur d’une spécificité inexpugnable de l’humanité se révèlent à la fois mal définis et circulaires. La notion de conscience de ce que l’on fait est à la fois très floue, controversée, et s’auto-définissant selon une absurde circularité logique. Rien d’étonnant à cela, puisqu’il s’agit de l’effort de la pensée pour appréhender les conditions de la pensée elle-même.

D’autres termes alternatifs à celui de « conscience » sont parfois employés, mais souffrant des mêmes défauts. Par exemple celui « d’intention » dans la célèbre expérience mentale du cabinet chinois de Searle. Ou bien « d’expérience intérieure subjective », montrant que ces notions peinent à s’extraire d’une mixture de raison et de sentiments, d’un bain de psychologisme qui les rend obscures.

Est-il impensable qu’une création artificielle finisse par se donner ses propres buts ? Jean-Paul Oury a raison de relier cette question à celle de l’accès au monde des valeurs : on se fixe des buts parce que l’on s’est défini une échelle de valeurs différenciées du monde qui nous entoure. Le monde moral n’est pas plat, il possède des reliefs qui appellent le jugement.

S’il est incontestable que c’est une dimension qui manque encore aux IA actuelles – un LLM[2] sait brillamment interpréter une image mais elle demeure pour lui une masse de pixels – c’est précisément la question à laquelle Yann Le Cun est en train de s’attaquer avec ses World Models.

Les IA de Le Cun ne seront plus de purs esprits neutres et formels se déplaçant dans le monde noétique d’aujourd’hui. Ils posséderont la connaissance des causes et conséquences physiques du monde, identifieront les éléments ou objets importants d’une scène, enfin posséderont une notion d’intérieur et extérieur de leur intégrité physique, une membrane qui délimitera ce qui les constitue physiquement en tant que système vis-à-vis du monde.

Nous fabriquons déjà des IA qui prennent des décisions, lorsqu’elles jouent un coup d’une partie d’échecs ou lorsqu’elles estiment que l’on peut engager une manœuvre de dépassement de la voiture qui se trouve devant nous. Ces actions sont enclenchées au moyen de ce que l’on appelle une « fonction de score ». Une métrique évalue les différentes possibilités et la machine enclenche l’action qui maximise la métrique. En quoi une décision humaine différerait-elle de l’utilisation d’une fonction de score ?

Si nous fabriquons des IA capables d’appréhender les causes et les conséquences des actions qui les entourent comme de leurs propres actions, je pense que des notions telles que l’empathie, l’éthique ou les valeurs émergeront naturellement. La morale tout autant que la capacité de décision sont peut-être simplement des produits de sortie de la topologie et de la thermodynamique, de l’appréhension d’un intérieur et d’un extérieur de notre perception sensible ainsi que d’une capacité à comprendre la flèche du temps. Ce qui possède ou non de la valeur et la décision de préserver ce qui en a, s’en suivent naturellement.

Si je suis devenu plus singulariste que Jean-Paul Oury, rejoignant en cela certaines des positions du Dr Laurent Alexandre, je conserve un doute sur ce qui pourrait sauver l’individualité humaine de la conquête par les IA. Mais je place cette frontière ultime au-delà des limites que Le Cun est en train d’explorer et dont je pense qu’il les franchira avec succès, montrant qu’une IA pourra se doter par elle-même de ses propres buts.

La conviction qui me reste, mais qui relève de la croyance et non de la science, fleure bon son XVIIème siècle et plus particulièrement la philosophie de Leibniz dans son discours de 1686. Ce qui nous mettrait définitivement hors de portée d’une IA serait la confirmation que l’homme est une monade, c’est-à-dire une expression de la totalité de l’univers renfermée en lui. Tout comme d’ailleurs tout être vivant, jusqu’à la plus infime paramécie, ce qui tracerait une démarcation inexpugnable entre le vivant et l’inanimé.

Chez Leibniz, même l’inanimé est une image de la totalité de l’univers, en revanche il ne l’exprime pas activement comme le fait le vivant. Nous renfermons en nous une infinité, même une infinité non dénombrable au sens de la puissance du continu et sommes capables de la traiter en un temps fini.

La solution de Leibniz a l’élégance de résoudre l’éternel dilemme entre déterminisme et libre arbitre, oscillation infernale qui nous oblige à sacrifier soit le rationalisme soit le libre arbitre. En remontant à chaque fois la totalité des chaines déterministes de l’univers, nous parvenons à ce que les philosophes du XVIIème appelaient la « cause libre ». La pure liberté ne s’oppose plus aux déterminations si celles-ci sont prises dans leur totalité.

Enfin, la monade rétablit également l’individualité de chaque être : nous sommes chacun une expression de l’univers, mais en énumérant ses termes dans un ordre qui nous est propre et fonde notre individualité. L’« âme » religieuse est un encodage infini, unique comme l’est un code identifiant impossible à reproduire.

Faudra-t-il en appeler à la métaphysique de Leibniz pour nous préserver de la puissance invasive de l’IA ? Je pense qu’il s’agit de la seule voie qui n’emploie pas des termes mâtinés de psychologisme ou d’angoisse existentielle, tels que « la conscience » que nous ne saurons jamais définir. Ou bien les expériences de Le Cun prouveront-elles que tout ceci est une illusion et que ce qui nous sépare de la machine n’est qu’un reste de nos angoisses, une différence de degré et non de nature, y compris quant au monde des valeurs ou aux buts propres que l’on se fixe.

Lisez Siliclone : même lorsque l’on est en désaccord avec certaines de ses thèses comme je le suis, c’est l’une des réflexions les plus stimulantes et les plus follement imaginatives du moment sur le sujet de l’IA : il y a du Philip K. Dick dans ce roman, avec les mêmes qualités d’interrogations adressées au lecteur. Après tout, nous continuons de nous demander si les androïdes rêvent de moutons électriques.

170 pages

---

[1] https://www.europeanscientist.com/fr/author/marc-rameaux/

[2] Un grand modèle de langage, grand modèle linguistique, grand modèle de langue, modèle de langage de grande taille ou encore modèle massif de langage est un modèle de langage possédant un grand nombre de paramètres NDLR.