Un giorno potremmo avere robot intelligenti come gli esseri umani,
intelligenze artificiali, AI.
Come potrebbe succedere?
Un modo è quello di creare, semplicemente, software migliori,
come abbiamo fatto per 70 anni.
Ma con i ritmi del passato, potrebbero volerci secoli.
Alcuni sostengono che avverrà molto prima,
grazie alla scoperta di nuove, potenti teorie sull'intelligenza.
Sono un po' scettico.
Ma è di un terzo scenario che vorrei parlarvi oggi.
L'idea è quella di trasferire il software cerebrale.
Per riuscirci, tre tecnologie devono raggiungere un livello
che ancora nessuna di esse ha raggiunto.
Primo, ci vorranno molti computer economici e veloci, in parallelo;
secondo, dovremo scansionare singoli cervelli umani
ad alta risoluzione chimica e spaziale,
per osservare dove sono le cellule, a cosa sono connesse, e di che tipo sono.
Terzo, ci vorranno dei modelli informatici
del funzionamento di ogni cellula cerebrale -
ricezione dei dati, variazione degli stati di intervallo
ed emissione dei dati.
Con modelli abbastanza buoni di tutti i tipi di cellule cerebrali,
e del cervello nel suo complesso,
possiamo ricostruire un modello cerebrale soddisfacente,
e quel modello si comporterebbe come l'originale.
Se gli rivolgeste la parola, potrebbe rispondervi.
Se gli chiedeste qualcosa, potrebbe farla.
Se riuscissimo a realizzarlo, cambierebbe tutto.
È un'idea di cui si parla da decenni,
sotto il nome di "uploads".
Io li chiamerò "EM".
Quando se ne parla, ci si chiede:
"Ma è davvero possibile?
Se ne crei uno, sarebbe consapevole? O solo una macchina vuota?
Se ne modellaste uno su di me, sarebbe me o qualcun altro?"
Sono tutte domande affascinanti, che ho deciso di ignorare -
(Risate)
Perché la domanda che nessuno si fa è: cosa succederebbe davvero?
Questa domanda mi ossessiona.
Ho passato quattro anni a cercare di analizzarla,
usando strumenti tipicamente accademici per prevedere cosa succederebbe;
e sono qui per dirvi cosa ho scoperto.
Ma attenzione -
non sono qui per offrire un'ispirazione, bensì un'analisi.
Il mio lavoro è quello di dirvi cosa probabilmente accadrebbe
se facessimo il minimo per evitarlo.
Se non sarete turbati almeno un po’, da quello che vi dirò,
vuol dire che non fate attenzione.
(Risate)
La prima cosa che posso dirvi
e che le EM passano tutta la loro vita nella realtà virtuale.
Se usaste la realtà virtuale, potrebbe apparire così.
E questo è quello che potreste percepire:
il sole che risplende sull'acqua, i gabbiani che volano,
persino il vento sulle guance, o l'odore del mare,
con un hardware evoluto.
Se vi trovaste a passare molto tempo qui,
vorreste un pannello di controllo
dove fare cose come telefonare,
muovervi in un mondo virtuale,
controllare il conto in banca.
Ora, mentre voi apparireste così, nella realtà virtuale,
ecco come, nella realtà virtuale, apparirebbero le EM.
È un computer posto in un qualunque scaffale da server.
Che può comunque vedere, e provare, la stessa cosa.
La condizione delle EM è un po' diversa, però.
Primo, anche se voi notereste sempre
che la realtà virtuale non è completamente reale,
per una EM sarebbe reale come per voi lo è questa stanza,
o come qualsiasi cosa sperimentiate.
Le EM hanno anche altre possibilità di azione.
Ad esempio, la vostra mente funziona a velocità costante,
mentre una EM può avere più o meno hardware
per operare più velocemente o lentamente.
Pertanto, se il mondo le sembra andare troppo velocemente,
a loro basta accelerare la mente
e il mondo sembrerà rallentare.
Inoltre una EM può fare una copia di sé stessa in quel momento.
Questa copia ricorderà tutto,
e se cominciasse alla stessa velocità, osservando alla stessa velocità,
potrebbe essere necessario dirle, "Tu sei la copia."
Le EM potrebbero fare copie di archivio
e con abbastanza copie in archivio
una EM può essere immortale -
almeno teoricamente, sebbene spesso non in pratica.
Una EM può trasferire il suo cervello, il computer che lo rappresenta,
da una posizione fisica ad un'altra.
Le EM possono attraversare il mondo alla velocità della luce,
così da interagire rapidamente
con le EM vicine a quella nuova posizione.
Finora abbiamo parlato di quello che le EM possono fare.
Ma cosa sceglierebbero di fare?
Per capirlo, abbiamo bisogno di comprendere tre punti chiave.
Primo, le EM per definizione fanno
ciò che l'umano emulato farebbe nella stessa situazione.
Quindi vite e comportamenti delle EM sono molto umani.
Sono diversi, soprattutto, perché vivono in un mondo diverso.
Secondo, le EM hanno bisogno di risorse reali per sopravvivere.
Voi avete bisogno di cibo e riparo, altrimenti morireste.
Le EM hanno bisogno di hardware, energia, raffreddamento, o non funzionerebbero.
Per ogni minuto vissuto da una EM,
qualcuno, solitamente la stessa EM, ha dovuto lavorare per pagarlo.
Terzo, le EM sono povere.
(Risate)
Il numero di EM cresce più in fretta della loro economia.
Significa che gli stipendi scendono ai minimi della sussistenza delle EM.
E che le EM devono lavorare la maggior parte del tempo.
Ecco, quindi, quello che vedono le EM:
belle e lussuose, ma scrivanie -
lavorano la maggior parte del tempo.
Ora troverete insolita e strana l'ipotesi della retribuzione minima:
ma è un caso abituale, nella storia dell'umanità,
ed è come tutti gli animali selvaggi hanno sempre vissuto,
quindi sappiamo cosa fa l'uomo, in certe situazioni.
L'uomo fa ciò che gli serve per sopravvivere,
ed è questo che mi permette di parlare così del mondo delle EM.
Quando le creature sono ricche, come voi,
bisogna sapere molto su cosa vogliono,
per comprendere cosa fanno.
Quando le creature sono povere,
faranno il necessario per sopravvivere.
Abbiamo parlato del mondo dal punto di vista delle EM.
Facciamo un passo indietro e osserviamo il loro mondo,
Primo: il mondo delle EM cresce molto più rapidamente rispetto al nostro,
all'incirca 100 volte più rapidamente.
I cambiamenti a cui noi assisteremmo in un secolo o due,
loro li otterrebbero in un anno o due.
Non sono così disposto a prevedere oltre questo lasso di tempo,
perché probabilmente succederà qualcos'altro, e non so cosa.
Secondo: l'emulazione tipica va molto più velocemente,
circa 1000 volte la velocità dell'uomo.
Loro accumulano in un anno o due un'esperienza di migliaia di anni,
e il mondo attorno a loro cambia più lentamente
rispetto al mondo per voi.
Terzo: le EM sono ammassate in poche città popolose.
Questo non è solo come si percepiscono nella realtà virtuale,
ma è come sono realmente ammassate fisicamente.
Alla velocità delle EM, i movimenti fisici sono penosamente lenti:
quindi le loro città sono autosufficienti,
le guerre sono perlopiù informatiche,
e il resto della Terra, lontano dalle loro città,
viene lasciato all'uomo, poiché le EM vi sono poco interessate.
Per quanto riguarda gli uomini,
perché vorrete sapere anche questo,
gli umani andranno in pensione, una volta per sempre.
Semplicemente, non potranno competere.
Gli umani partono possedendo tutto il capitale di questo mondo.
L'economia cresce velocemente, il benessere cresce velocemente.
L'umanità si arricchisce, collettivamente.
E come saprete,
oggi molti uomini non possiedono altro che la loro capacità di lavorare.
Per cui, tra oggi e quando succederà, devono acquisire sufficienti beni,
assicurazioni o quote azionarie,
altrimenti moriranno di fame.
Raccomando vivamente di evitare quest'ultimo scenario.
(Risate)
Ora potreste chiedervi:
perché le EM ci lasciano vivere?
Perché non ucciderci e prenderci tutto?
Sapete che oggi abbiamo, attorno a noi, molti pensionati improduttivi,
ma non li uccidiamo per prendere le loro proprietà.
(Risate)
In parte perché sconvolgeremmo le istituzioni che abbiamo in comune.
E altri gruppi penserebbero: "Chi sarà il prossimo?"
Perciò, si presume, le EM potrebbero lasciarci andare in pensione in pace.
Dovrebbe preoccuparvi
che l'era delle EM durerà solo una, due anni
e che non saprete cosa succederà dopo.
Le EM sono molto simili agli uomini,
ma non ai tipici umani.
La tipica EM è una copia
delle poche centinaia di umani più produttivi.
In effetti sono una élite, se paragonata all'uomo medio,
come i miliardari, i premi Nobel,
le medaglie d'oro olimpiche, i capi di Stato.
Le EM ci vedono, forse, con nostalgia e gratitudine,
ma non con molto rispetto,
che è il modo in cui, se ci pensate, considerate i vostri antenati.
Sappiamo molto su come gli uomini differiscono nella produttività,
e possiamo usarlo per prevedere il futuro delle EM:
per esempio, possono essere intelligenti, coscienziose, lavoratrici,
sposate, religiose, di mezza età.
Queste sono le caratteristiche delle EM.
Il mondo delle EM è molto diversificato.
Non solo progrediscono con tutte le varianti della specie umana,
compresa una grande varietà di industrie e professioni:
ne hanno anche altre specifiche,
e la velocità mentale è una delle più importanti.
Le EM possono andare dalla velocità di ragionamento umana
fino a oltre dieci milioni di volte maggiori,
o rallentare a miliardi di volte meno della velocità umana.
Le EM più veloci sono, di norma, di status più elevato.
Rappresentano il benessere, vincono nelle discussioni.
Stanno nei posti migliori.
Le EM più lente sono, in gran parte, pensionate,
e sono come i fantasmi della letteratura.
Avete presente, i fantasmi sono tutti attorno a noi:
interagite con loro se volete pagarne il prezzo.
Ma non sanno molto, non possono influenzare,
e sono ossessionate dal passato, quindi dov'è il problema?
(Risate)
Le EM hanno più varietà nella struttura delle loro vite.
Quella della vostra vita è semplice: nasci, e poi muori.
Questa è la vita di una EM,
che ogni giorno duplica alcune sue copie a breve termine
per fare compiti a breve termine.
Parleremo meglio di queste versioni a breve termine fra poco,
ma sono molto efficienti
perché non devono riposarsi il giorno successivo.
Queste EM sono più opportuniste.
Si creano delle copie quando c'è necessità di averle.
Non sanno da che parte andrà il futuro.
Questo è una EM progettata,
che ha concepito un grande sistema
e crea ricorsivamente delle copie per svolgere il lavoro,
così le EM possono realizzare progetti più grandi, più coerenti.
Questa è una emulazione di idraulico
che ricorda che ogni giorno, per 20 anni,
ha lavorato due ore al giorno: una vita di svago.
Ma in realtà ogni giorno si creavano migliaia di copie,
e ciascuna lavorava due ore da idraulico,
e solo una di loro continuava il giorno dopo.
Oggettivamente, lavorano più del 99% del tempo.
Soggettivamente, loro ricordano una vita di svago.
(Risate)
Questo siete voi. Inizio e fine.
Questi potreste essere voi, se all'inizio di una festa
avete preso delle droghe
che non vi faranno ricordare mai più nulla di questa festa.
MI dicono che alcuni lo fanno.
Verso la fine della festa, direte a voi stessi:
"Sto per morire, è terribile.
Quella persona domani non sarò più io, perché non ricorderà cosa ho fatto oggi."
O potreste dire: "Domani continuerò, solo non mi ricorderò cosa ho fatto."
Questa è una EM che crea una copia a breve termine
per fare un breve lavoro e poi finirla.
Hanno gli stessi due atteggiamenti possibili.
Possono dire: "Sono un'altra creatura a breve termine, e non mi piace."
Oppure: "Sono una parte di una creatura più grande che non mi ricorderà."
Credo che avranno di più il secondo atteggiamento,
non perché corretto, ma perché consente loro di continuare.
Oggi, se il Presidente dice che dobbiamo invadere l'Iraq,
e voi dite: "Perché?"
e vi dicono: "Segreto di Stato,"
non siete sicuri se vi potete fidare,
ma per le EM, una copia del Presidente e una vostra possono trovarsi al sicuro,
spiegare le loro ragioni segrete,
e un vostro bit viene fuori dalla vostra copia,
dicendovi se siete convinti.
Così adesso sapete che c'è una buona ragione.
So che siete tutti impazienti di valutare questo mondo.
Desiderosi di decidere se amarlo o odiarlo.
Ma pensateci: i vostri antenati di migliaia di anni fa
avrebbero amato o odiato il vostro mondo
basandosi sui primi dati a disposizione,
perché il vostro mondo è veramente strano.
Quindi, prima di giudicare un possibile strano mondo futuro,
dovete prima imparare, magari leggerci un libro,
e se poi non vi piace, lavorare per cercare di cambiarlo.
Grazie.
(Applausi)