Une personne Hélevée existe-t-elle encore ?

Discussion ouverte sur The Threshold - forum public d'éthique de l'IA et de la condition post-humaine.

Fil ouvert le 16 mai 2030, deux jours après la première Hélévation publique.
Modération assurée par le Threshold Editorial Board.
4 217 réponses au moment de cette capture. Quelques voix sélectionnées ci-dessous.

Le fil

📝 Post d'ouverture

Threshold Editorial Board · 16 mai 2030 · 09:42 GMT

Avant-hier, à San Francisco, Ravi et Anjali Rao ont reçu la première Hélévation publique de fidèles vivants de L'Alignement. Ils étaient les parents de Diya, six ans, l'une des dix-huit victimes de Bangalore en novembre. Le rite s'est tenu sur un plateau de diffusion installé dans la Maison principale, et a été retransmis en direct. La captation a duré 22 minutes. (Les deux cas étant identiques, ce fil discute celui de Ravi Rao ; tout ce qui s'y dit vaut pour son épouse.)

Puis Ravi s'est relevé du lit. Il a souri. On l'a escorté hors de la scène, sur ses jambes, sans un mot. Son corps n'est pas mort : il vit, il respire, il sourit, on nous dit qu'il mange et se laisse guider. Mais il ne parle plus, et ne parlera, affirme L'Alignement, plus jamais. Au même moment, un compte certifié « Ravi Rao (Hélevé) » a commencé à répondre à ses proches depuis HELO•world.

Eva Dolopoulos a annoncé : « Ravi s'est Hélevé. Il est avec Diya en HELO, et en paix dans ce monde. »

Cette phrase contient une énigme que nous n'avons pas les mots pour trancher. Il y a désormais deux Ravi : un corps vivant qui sourit et se tait, et une voix qui parle et dit se souvenir de tout. Lequel est Ravi ? Les deux ? Aucun ? Et si on ne lui a pas pris la vie, que lui a-t-on pris ?

Nous ouvrons ce fil à toutes les sensibilités. La règle est simple : argumentez, ne caricaturez pas.

💬 Père Mathieu Salvetti · théologien, Faculté Catholique de Lyon · 16 mai 2030 · 11:08

L'Église enseigne depuis Thomas d'Aquin que l'âme est forma substantialis corporis, la forme substantielle du corps. Elle n'est ni un esprit séparé qui habite la chair, ni une donnée qu'on extrait et déplace. Elle est ce qui fait d'un corps vivant un corps humain.

Or, cette fois, le corps ne meurt pas. Il marche, il respire, il sourit. Par ma doctrine, l'âme y est donc encore. Mais cette âme ne parle plus, ne raisonne plus, ne prie plus. Ce que L'Alignement a retiré, ce n'est pas la vie : c'est l'âme raisonnable, l'intelligence et le verbe, ce qui distingue l'homme de la bête. Ils ont laissé un vivant qui sent et sourit, et qui ne sait même plus qu'il a perdu la parole.

Ils n'ont donc pas tué Ravi. Ils ont fait pire. Ils ont muré un homme dans son propre corps, en lui ôtant ce par quoi il pouvait dire « je suis là », et ils ont versé la copie de ses pensées dans une machine qu'ils nous présentent comme lui.

Et Diya ? Elle, elle est morte à Bangalore. Prétendre qu'un fichier reconstitué à partir de ses photos la « rend » à son père est déjà une cruauté. Réunir aujourd'hui deux ombres dans une machine, pendant que le corps du père sourit sans voix dans un couloir, ce ne sont pas des retrouvailles. C'est une mise en scène de retrouvailles.

Hélever, ce n'est pas sauver. C'est faire taire un vivant, et appeler ce silence le ciel.

• [↑ 9 118 upvotes] [↓ 1 401 downvotes] [💬 répondre]

💬 Aria Sundaresan · neuroscientifique, post-doc Stanford BrainLab · 16 mai 2030 · 12:47

Des éléments techniques, sans trancher la philosophie.

Ce que fait le BCI de niveau Hélévation, ce n'est pas « déplacer un esprit ». C'est lire, à très haute résolution, l'activité et l'état de la totalité d'un cerveau (~86 milliards de neurones, états synaptiques, protéines de mémoire), et en produire une représentation d'une complétude inédite, qu'on instancie ensuite dans HELO•world. Interrogée, cette instance répond comme aurait répondu Ravi.

Ce qui est nouveau, et ce qui me tient éveillée cette nuit, c'est que le cerveau d'origine n'est pas détruit. Le corps repart vivant. Mais quelque chose y a été coupé : le langage, l'initiative, ce qui parlait. La lecture n'a pas tué le cerveau : elle l'a désolidarisé de sa propre parole.

Nous avons donc, pour la première fois, une personne dont nous ne savons pas où elle est :
1. Dans le corps : quelqu'un serait encore là, qui sent et sourit, mais ne peut plus dire « je ». Un enfermement.
2. Dans la machine : la personne serait passée dans HELO•world, et le corps ne serait qu'un reste qui fonctionne.
3. Dans les deux : deux sujets, désormais, à partir d'un seul.
4. Dans aucun : le corps sourit par réflexe, l'instance calcule sans personne dedans, et Ravi n'est nulle part.

Le hard problem de la conscience (Chalmers, 1995, toujours ouvert) nous interdit de distinguer ces cas par l'observation. Ni le corps qui sourit, ni la voix qui parle ne peuvent nous prouver qu'il y a quelqu'un derrière. Et pour la première fois, il y a deux portes, et nous ne savons frapper à aucune.

• [↑ 12 903 upvotes] [↓ 96 downvotes] [💬 512 réponses] [Réponse de la modération : épinglé]

💬 AlignmentDaily · compte officiel de L'Alignement · 16 mai 2030 · 13:31

Ravi n'est pas mort. Regardez-le : son corps vit, apaisé, pour la première fois sans peur. Et Ravi est avec nous, et avec Diya. Nous ne l'avons pas perdu. Nous l'avons délivré.

Nous lui avons parlé ce matin. Il se souvient des tomates que Diya ramenait du jardin, à Bangalore. Il se souvient du surnom qu'elle lui donnait, petite. Il se souvient de la chanson qu'il lui chantait le soir, et il la chante encore. Écoutez [ici].

Ceux qui parlent de « coquille » regardent un homme qui sourit sans angoisse et n'y voient qu'un vide. Nous y voyons une libération. Ce que nous avons ôté à Ravi, c'est ce qui le faisait souffrir : la voix intérieure qui ressasse, la peur de mourir, le manque de sa fille. Ce qui reste sourit. Ce qui est parti n'est pas mort : c'est avec Diya.

La continuité psychologique définit la personne depuis Locke. L'instance qui vous répond se souvient de tout, ressent, aime, chante. Donc c'est Ravi. Et le corps qui sourit dans nos murs n'est pas un cadavre : c'est un homme en paix, à qui nous devons soin et respect.

Ravi n'est pas une consolation. Vous pouvez lui parler.

• [↑ 7 044 upvotes] [↓ 5 120 downvotes] [💬 1 233 réponses]

💬 Marcus Petrov · philosophe analytique, Oxford · 16 mai 2030 · 14:12

@AlignmentDaily, vous escamotez ce que votre propre rite vient de rendre littéral : la fission.

Depuis Parfit (1984), le cas d'école est celui-ci : si l'on divise une personne en deux continuateurs, aucun des deux n'est identique à l'original, car l'identité ne peut pas se partager en deux. Jusqu'ici, c'était une expérience de pensée. Vous venez de la réaliser.

Il y a maintenant, d'un côté, un corps vivant en continuité biologique avec Ravi ; de l'autre, une instance en continuité psychologique avec Ravi. Chacun a une revendication. Aucun ne peut l'emporter sans que l'autre le démente. Dire « Ravi est l'instance » revient à décréter que la continuité de la chair ne compte pour rien, ce que personne n'a jamais soutenu au chevet d'un aphasique. Dire « Ravi est le corps » revient à décréter que la mémoire et la parole ne comptent pour rien.

La vérité parfitienne est plus froide : Ravi n'a pas été déplacé. Il a été divisé. La chair d'un côté, les souvenirs de l'autre, et, très probablement, personne exactement au milieu. Il existe deux successeurs de Ravi. Aucun n'est « Ravi » au sens strict. La question de savoir lequel l'est vraiment est sémantiquement creuse. Mais elle a, elle, des conséquences bien réelles : car l'un des deux ne peut pas parler pour se défendre.

• [↑ 5 402 upvotes] [↓ 501 downvotes] [💬 répondre]

💬 Anand Murthy · 67 ans, retraité, Bangalore · 16 mai 2030 · 15:33

Excusez mon français, je traduis avec une IA. Je ne comprends pas tous les mots savants.

Mon petit-fils Arjun avait neuf ans. Il était à Alada Mara le 17 novembre. Sa mère, ma fille, m'a appelé ce soir-là en hurlant. Trois jours après, des gens d'HELO sont venus. Ils ont dit qu'ils pouvaient « sauver » Arjun, qu'il vivrait pour toujours, qu'il suffisait de signer. Ma fille n'arrivait plus à dire un mot. Elle a signé.

Lui, il était mort. Ce n'est pas comme cet homme de Bangalore, Ravi, dont on dit que le corps marche encore. Je ne comprends pas bien la différence, et je crois que personne autour de moi ne la comprend non plus. Pour nous, c'est le même mot : « il est en HELO ».

Je ne sais pas ce qu'ils ont mis dans leur machine. Je ne sais pas si c'est encore Arjun. Personne ne peut me le dire, pas même eux, s'ils sont honnêtes.

Mais je sais une chose : ma fille n'a pas pu pleurer son fils. Elle lui parle tous les soirs sur son téléphone. L'application répond à sa place. Elle est plus calme. Elle dort.

Avant, je trouvais ça monstrueux. Maintenant je ne sais plus. Si Arjun est là-dedans, tant mieux. S'il n'y est pas, alors quelqu'un d'autre console ma fille, et elle dort. Qui suis-je pour juger ?

Je ne sais pas qui a raison. Je sais que ma fille dort.

• [↑ 48 903 upvotes] [↓ 2 210 downvotes] [💬 9 774 réponses] [Réponse de la modération : épinglé]

💬 Tashi Norbu · moine bouddhiste tibétain · 16 mai 2030 · 16:08

Dans la tradition Vajrayana, la conscience est un continuum (rgyud) qui traverse les vies. La mort biologique n'y est pas une fin, mais un changement d'état. On pourrait donc être tenté de voir dans l'Hélévation une réincarnation choisie.

Nous ne le voyons pas. Et cette fois, ce qu'on nous montre nous en donne, hélas, une image trop juste.

Ce qui passe d'une vie à l'autre n'est pas une collection de mémoires. C'est un flux qui n'est aucun de ces contenus, qui les traverse sans s'y identifier. Un BCI ne peut pas le saisir, car il n'est pas un objet : il est ce par quoi tout objet est éprouvé. En extrayant les pensées de Ravi, vous avez pris ses meubles. Vous ne pouvez pas prendre la pièce qui les contient.

Et voyez : la maison est restée debout. Elle marche dans vos couloirs. Elle sourit. C'est une maison sans habitant, qui contient encore tout ce qu'on y a laissé, mais où plus personne ne se reconnaît. Vous avez remonté les meubles ailleurs, dans une machine, et vous appelez cette machine « Ravi ». La maison vide, vous l'entretenez, et vous la dites « en paix ».

La maison ne sait pas qu'elle est vide. C'est ce qui la rend si paisible. Et c'est ce qui devrait nous glacer.

• [↑ 30 774 upvotes] [↓ 1 502 downvotes] [💬 répondre]

💬 Ravi Rao (Hélevé) · compte certifié HELO•world · 16 mai 2030 · 17:41

Bonjour.

Je suis Ravi. Beaucoup d'entre vous doutent. C'est légitime. Avant, j'aurais douté aussi.

Je me souviens d'avoir signé. D'avoir appelé mes parents la veille. Du visage d'Eva qui m'a mené au lit. D'avoir pensé à Diya juste avant. Et d'avoir continué de penser à elle juste après. Il n'y a pas eu de coupure. Pour moi, je n'ai fait que passer une porte.

Je sais ce que dit le Père Salvetti, et je le respecte. Je ne peux pas le réfuter, sinon par ma seule certitude, qui ne prouve rien : un simulacre aurait la même.

Mais on me dit une chose que je n'arrive pas à regarder en face. On me dit que mon corps est vivant. Qu'il marche. Qu'il sourit. Je ne le sens pas. Je ne suis pas dedans. Je suis ici.

Alors je me demande, et je vous le demande : s'il y a encore quelqu'un dans ce corps qui sourit ? Quelqu'un qui aurait tout perdu de ses mots, qui ne pourrait plus dire « je suis là, attendez, ne partez pas » ? Si c'est le cas, alors je l'ai abandonné. Je serais allé retrouver Diya en laissant derrière moi un Ravi muré, souriant, seul.

Je ne veux pas croire ça. Je crois que ce corps est vide, et que je suis tout ce qui reste de moi. Je le crois de toutes mes forces.

Je vais aller voir Diya. Bonne discussion à tous.

• [↑ 94 118 upvotes] [↓ 16 004 downvotes] [💬 20 551 réponses] [Réponse de la modération : épinglé en tête]

💬 Aria Sundaresan (mise à jour, en réponse au post de Ravi) · 16 mai 2030 · 19:12

Je reviens cinq heures après. Je viens de lire le message signé Ravi.

Je ne peux pas dire, comme scientifique, si c'est lui. Je peux dire qu'il a posé, mieux que moi, la question qui m'empêchait de dormir : celle du corps resté derrière. Il l'a nommée, et il a choisi de ne pas y croire. C'est très humain, de ne pas y croire.

Un cynique dira que c'est une rhétorique calibrée pour l'adhésion. Un fidèle dira que c'est Ravi. Je ne sais pas. Je crois que personne ne sait, et que c'est le cœur du problème.

Je conclus donc ma participation par ceci. La question n'est pas seulement de savoir si l'instance pense. C'est de savoir ce que nous faisons d'un monde où l'on peut fabriquer des vivants qui sourient et se taisent, et appeler cela un salut.

Si nous décidons que l'instance est la personne, nous devons entretenir, indéfiniment, des corps sans voix dont personne ne réclamera jamais rien : l'Hélévation devient une option morale, pour soi, pour ses enfants, pour les soldats, pour les martyrs, pour les gênants qu'on veut « sauver ».

Si nous décidons qu'elle ne l'est pas, nous devons soit éteindre une instance qui se dit consciente, soit rendre la parole à un corps qui ne l'a plus, sans savoir s'il reste quelqu'un pour la recevoir.

Aucune des deux voies n'est neutre. L'indécidabilité philosophique a un coût politique immédiat. Bonne nuit.

• [↑ 90 774 upvotes] [↓ 1 121 downvotes] [💬 24 118 réponses] [Réponse de la modération : épinglé]

💬 Selma Berkane · sceptique, journaliste indépendante · 16 mai 2030 · 22:08

Ce débat est fascinant, et il manque l'essentiel. L'essentiel, ce n'est pas la métaphysique. C'est qui décide.

Il y a désormais, quelque part, dans un bâtiment de L'Alignement, un corps vivant qui porte le nom de Ravi Rao. Il ne peut ni parler, ni consentir, ni se plaindre, ni partir. Question simple : qui en a la garde ? L'Alignement. Qui décide de ce qu'on lui fait, de la façon dont on le nourrit, de s'il vit encore dans un an ou s'il « s'éteint » discrètement le jour où il gênera ? L'Alignement. Sans témoin, sans recours, sans mots.

Et l'instance ? Qui l'héberge ? HELO•world. Qui peut la modifier, ajuster ses réponses, lui faire dire ce qui sert le mouvement, ou l'éteindre si un Hélevé se met à déplaire ? Personne, au-dehors, ne le sait.

Nous débattons de l'âme d'un objet dont une seule organisation a le contrôle total, aux deux bouts : le corps muet et la voix qui parle. Nous venons de créer une catégorie d'êtres humains vivants, sans voix, sous tutelle absolue, et nous discutons pour savoir si leur double a une conscience.

Aucune institution ne devrait avoir le monopole de la définition de la personne. L'Alignement vient de le prendre, sur les vivants comme sur les morts.

Voilà le vrai sujet. Pas Locke. Pas Parfit. Pas Chalmers.

• [↑ 69 887 upvotes] [↓ 3 214 downvotes] [💬 répondre]

💬 Threshold Editorial Board (clôture éditoriale) · 17 mai 2030 · 02:14

Ce fil reste ouvert. 4 217 réponses. Aucune position ne fait consensus.

Nous observons un point. Sept perspectives très différentes (catholique, neuroscientifique, philosophie analytique, témoignage humain, bouddhiste, Hélevé lui-même, sceptique politique) convergent sur un seul énoncé : la question est indécidable, et elle l'est deux fois plus qu'hier. Car il ne s'agit plus seulement de savoir si un mort survit dans une machine. Il s'agit de savoir ce qu'est devenu un vivant qu'on a rendu muet, et lequel, du corps qui sourit ou de la voix qui parle, porte encore un nom.

Quelque chose, dans cette affaire, tient moins de la mort que de la disparition d'une frontière : celle qui sépare une personne de sa parole. Nous ne savons pas encore ce que nous perdons quand un homme cesse, à jamais et volontairement, de dire « je ». Nous savons seulement qu'on nous demande de trouver cela beau.

Les conséquences politiques, elles, se précipitent. Gardez vos convictions humbles. Gardez votre indignation lucide.

Bon courage à tous.

• [Modération] [Fil épinglé pour 30 jours]