Un jour, nous aurons sans doute des robots aussi intelligents que les hommes,
l'intelligence artificielle, IA.
Comment cela pourrait-il arriver ?
Un des chemins est de continuer à accumuler des logiciels meilleurs,
comme nous le faisons depuis 70 ans.
À la vitesse du progrès actuel, ça pourrait prendre des siècles.
Certains disent que ça arrivera bien plus vite
quand nous découvrirons des théories nouvelles sur l'intelligence.
Je reste sceptique.
Il y a cependant un troisième scénario.
C'est de celui-ci que je vais vous parler.
L'idée est d'importer le logiciel à partir d'un cerveau humain.
Nous aurons besoin que trois technologies soient à la hauteur,
ce qui n'est pas encore le cas.
D'abord, nous avons besoin de beaucoup d'ordinateurs parallèles,
bons marchés et rapides.
Ensuite, nous devons scanner le cerveau d'humains
avec une haute précision de détails spatiaux et chimiques,
pour détecter quelles sont les cellules, et comment elles sont connectées.
Enfin, nous avons besoin de modèles numériques
sur la manière dont chaque cellule du cerveau fonctionne
quand elle absorbe un signal, change l'intervalle,
et émet des signaux.
Si on développe des modèles suffisamment bons
de toutes les sortes de cellules et du cerveau,
on peut les associer et créer un modèle suffisamment bon du cerveau entier.
Ce modèle aurait alors un comportement entrées-sorties identique à l'original.
Si on lui adresse la parole, il pourrait nous répondre.
Si on lui demande une chose, il la faira.
Si on parvient à créer ça, tout va changer.
On parle de cette idée depuis des années
sous le nom de « téléchargements ».
Moi, j'appelle ça « ems ».
Quand on en parle, les gens se demandent
si c'est réellement possible.
Dans ce cas, aurait-il une conscience ? Ou ne serait-ce qu'une machine creuse ?
Si on en crée un à partir de moi, est-ce moi ou quelqu'un d'autre ?
Toutes ces questions sont fascinantes, mais je vais les ignorer...
(Rires)
car il y a une question que l'on néglige :
qu'est-ce qui se passera vraiment ?
Je suis obsédé par cette question.
J'ai passé quatre ans à essayer de l'analyser
en utilisant des outils académiques traditionnels pour chercher des réponses.
Je vais vous confier mes découvertes.
Gardez bien à l'esprit
que je ne vous propose non pas de l'inspiration mais une analyse.
Je dois vous expliquer ce qui va probablement se passer
si nous faisons le moins possible pour l'éviter.
Si ce que je vais vous raconter ne vous trouble pas un petit peu,
c'est que vous n'êtes pas attentifs.
(Rires)
OK. La première chose à mentionner,
c'est que les ems passent la plupart de leur vie dans la réalité virtuelle.
Si vous utilisez la réalité virtuelle, vous ressembleriez à ceci,
et vous verriez quelque chose comme ça :
les reflets de lumière sur l'eau, le son des mouettes qui volent, peut-être,
la sensation du vent sur les joues ou l'odeur des embruns,
avec du matériel sophistiqué.
Si vous y passez beaucoup de temps,
vous aurez besoin d'un tableau de bord,
pour téléphoner,
voyager dans un autre monde virtuel,
ou vérifier votre compte bancaire.
Donc, ici, c'est vous, dans le monde virtuel,
mais un em dans le monde virtuel ressemble à ça.
Des équipements informatiques quelque part, dans des racks.
Néanmoins, il pourrait voir et vivre les mêmes choses que vous.
Mais certaines choses sont différentes pour les ems.
D'abord, pour vous, une réalité virtuelle ne sera jamais totalement réelle.
Mais pour un em, la sensation de réel sera la même pour lui
autant que pour vous ou toute autre sensation.
Les ems ont aussi plus de possibilités d'influence.
Votre esprit, par exemple, tourne toujours à la même vitesse.
Mais un em pourra ajouter ou retirer du matériel pour moduler sa vitesse.
Donc, si le monde qui les entoure semble aller trop vite,
ils peuvent accélérer leur esprit,
et le monde semblera ralentir.
De plus, un em peut se cloner à ce moment-là.
Cette copie aurait la même mémoire des choses,
et si elle tourne à la même vitesse, observant un monde aussi rapide,
il faudra sans doute lui rappeler qu'elle est la copie.
Un em pourrait archiver ses copies.
Avec suffisamment d'archives,
un em devient immortel,
en principe, mais pas en pratique.
Un em peut encore déménager son cerveau l'ordinateur qui représente son cerveau
d'un endroit à un autre.
Les em peuvent faire le tour du monde à la vitesse de la lumière,
et en déménageant,
ils peuvent interagir plus rapidement avec d'autres ems, plus proches.
Jusqu'ici, j'ai décrit ce que les ems sont capables de faire.
Mais que choisiront les ems de faire ?
Pour répondre à ça, il faut comprendre trois facteurs cruciaux.
D'abord, les ems, par définition, agissent comme l'humain qu'ils imitent agirait
dans la même situation.
Leur vie et leurs comportements sont donc très humains.
Ils sont principalement différents parce qu'ils vivent dans un autre monde.
Ensuite, les ems ont besoin de resources physiques pour survivre.
Nous avons besoin d'alimentation et d'un abri sans quoi nous mourrons.
Les ems, eux, ont besoin de matériel numérique, d'énergie, de refroidissement.
Pour chaque instant subjectif qu'un em vit,
quelqu'un, sans doute ce même em, a dû travailler pour payer ça.
Troisièmement, les ems sont indigents.
(Rires)
La démographie ems va grandir plus vite que leur économie.
Donc, leur salaire va chuter jusqu'au niveau minimum de subsistance.
Les ems devront travailler la plupart du temps.
Les ems ont une vision de ça en général :
une vue magnifique, luxueuse, mais avec un bureau
car ils travaillent la plupart du temps.
Un scénario de salaire de subsistance peut paraître exotique et étrange
mais c'est un cas habituel dans l'histoire de l'humanité
et c'est ainsi que vivent les animaux sauvages.
On sait ce que les hommes font dans cette situation.
Ils font ce qui est nécessaire pour survivre,
et c'est sur cette connaissance que je peux parler du monde des ems.
Quand un être est riche, comme vous,
il doit bien savoir ce qu'il veut, pour déterminer ce qu'il doit faire.
Dans l'indigence,
vous savez que les êtres font ce qu'ils peuvent pour survivre.
Quittons un instant le monde du point de vue des ems,
et prenons de la hauteur pour observer leur monde.
D'abord, leur monde croît plus rapidement que le nôtre,
par un facteur 100 environ.
L'évolution qui a nécessité un ou deux siècles chez l'homme,
sera vécue par les ems en un ou deux ans.
Je n'ai pas envie de me projeter davantage dans le temps,
car quelque chose surviendra sans doute mais je ne sais pas quoi.
Ensuite, la copie typique tourne plus vite que l'homme,
environ un facteur 1 000.
Pour eux, un ou deux ans seront vécus comme un millier d'années.
Enfin, le monde qui les entoure semble changer plus lentement
que le sentiment que nous en avons.
Troisièmement, les ems sont entassés dans un petit nombre de cités très denses.
Il ne s'agit pas uniquement de leur vision d'eux-mêmes dans la réalité virtuelle,
mais aussi de leur réalité physique.
À la vitesse des ems, voyager physiquement est terriblement lent,
et donc, les villes ems sont auto-suffisantes,
la plupart des guerres sont cyber,
et la grande partie du reste du monde loin des cités ems
est abandonnée aux humains, parce que ça n'intéresse pas les ems.
Parlons des humains,
c'est sans doute le sujet qui vous intéresse.
Les humains doivent prendre leur retraite une fois pour toute.
Ils sont disqualifiés, point.
Maintenant, les humains vont posséder tout le capital du monde.
Leur richesse va grandir aussi vite que la croissance de l'économie.
Les humains deviendront collectivement riches.
Vous le savez, les humains n'ont pas tant de possessions que ça
hormis leur capacité de travailler.
Entre maintenant et ce futur, ils doivent acquérir suffisamment de biens
et d'assurances ou d'arrangements en commun
sans quoi ils mourront de faim.
Je vous recommande vivement d'éviter ça.
(Rires)
Vous pourriez vous demander
pourquoi les ems nous laisseraient vivre.
Pourquoi pas nous tuer, prendre nos biens ?
Nous avons beaucoup de retraités, non productifs, autour de nous
et nous ne les tuons pas pour les voler.
(Rires)
En partie parce que ça perturberait les institutions que nous partageons avec eux.
D'autres se demanderont qui est le suivant
et probablement que les ems permettront aux humains
de se retirer en paix pendant leur ère.
Plus inquiétant : l'ère des ems ne durera qu'un an ou deux.
On ne sait pas ce qui arrivera après.
Les ems ressemblent beaucoup aux humains
mais ils ne sont pas similaires à l'homme typique.
Le em typique est une copie des quelques centaines d'humains les plus productifs.
Donc, il s'agit d'une élite par rapport à l'homme typique,
comme un milliardaire, un lauréat du Prix Nobel,
un athlète olympique ou un chef d'État.
Les ems nous observeront peut-être avec nostalgie et gratitude,
mais sans doute pas avec respect.
C'est ce qui se passe avec nos ancêtres.
Nous savons combien les humains sont différents en termes de productivité.
Parmi ça, on peut prédire les traits des ems.
Par exemple, ils seront intelligents, consciencieux, travailleurs,
mariés, religieux et quinquagénaires.
Telles sont leurs caractéristiques.
Ils auront aussi une grande diversité.
C'est la continuité de la diversité des actions humaines,
notamment la variété des industries, des professions.
Il y aura aussi une nouvelle sorte de variété,
la plus importante étant la vitesse de l'esprit.
Les ems pourront démarrer avec la vitesse de l'esprit humain
et la dépasser des millions de fois,
ou la ralentir à une vitesse des milliards de fois plus lente.
Les ems les plus rapides auront un statut plus élevé.
Ils incarnent plus de richesse. ils gagnent.
Ils sont en première classe.
Les plus lents seront des retraités,
semblables aux fantômes dans notre littérature.
Rappelez-vous, les fantômes nous entourent
on peut interagir avec eux, si on en paye le prix.
Mais ils sont ignorants et ils ont peu d'influence.
Ils sont obsédés par le passé. À quoi cela sert-il ?
(Rires)
Ems auront aussi une plus grande variété dans leur vie.
Voici votre vie : elle a un début, et une fin. C'est simple.
Voici la vie d'un em :
Tous les jours, il clone une copie court-terme
pour réaliser des tâches à court-terme et puis c'est fini.
Nous parlerons plus tard de ces versions court-terme.
Mais elles sont plus efficaces :
elles ne doivent pas se reposer pour le lendemain.
Ce em est plus opportuniste.
Ils créent plus de clones quand le besoin est là.
Ils ne savent pas ce que l'avenir réserve.
Voici un em designer, qui conçoit un large système
et se scinde en copies récurrentes qui élaborent ce système.
Donc, les ems peuvent installer des structures plus larges et cohérentes.
Voici une copie bouche-trou
qui se rappelle que chaque jour, pour 20 ans,
ils ont travaillé seulement 2 heures par jour, cool quoi.
Mais en réalité, chaque jour, des centaines de clones sont créées
pour réaliser des tâches pendant deux heures,
et seul un em survit le lendemain.
Objectivement, ils travaillent plus que 99% de leur temps.
Subjectivement, une vie de farniente.
(Rires)
Vous êtes ici. Votre début, votre fin.
Ceci pourrait être vous si vous allez à une soirée
et vous fumez une drogue qui vous empêcherait de vous rappeler cette soirée.
J'ai entendu parler de ça.
À la fin de la soirée,
vous penserez que vous allez mourir, que c'est affreux.
La personne demain ne sera pas moi,
car elle ne se rappelera pas ce qu'elle a fait.
Ou bien penserez-vous que vous continuez demain, un souvenir en moins ?
Voici un em qui clone une copie court-terme
pour réaliser une tâche, et qui meurt.
Ces ems ont le choix entre les deux attitudes.
Ils peuvent dire : « Je suis le nouveau avec une vie limitée et je déteste ça. »
Ou : « Je suis part d'un être majeur qui ne se rappellera pas de ça. »
Je pense que ce 2e comportement prévaudra,
pas seulement car c'est philosophiquement correct mais car ça aide à gérer.
Si le président décrète qu'il faut envahir l'Irak,
vous demandez pourquoi.
C' est : « Secret d'État. »
Vous ne savez pas s'il faut y croire.
Mais avec les ems, une copie du président et de vous vont dans un coffre-fort,
explicitent les raisons secrètes,
et votre copie revient vers votre copie originale
vous expliquer, si elle est convaincue.
Vous savez qu'il y a une bonne raison.
Je sais que vous êtes tous curieux d'évaluer ce monde,
de déterminer si vous l'aimez ou pas.
Pensez que vos ancêtres il y a des milliers d'années
auraient pu aimer ou détester votre monde
sur la base des premiers éléments qu'ils auront entendus
car notre monde est vraiment bizarre.
Avant de juger un monde futur étrange, c'est important de s'informer à son sujet.
Lire un bouquin, par exemple.
Si vous n'aimez pas ça, changez-le.
Merci.
(Applaudissements)