Um dia, poderemos ter robôs tão inteligentes quanto pessoas,
inteligência artificial, IA.
Como isso pode acontecer?
Um dos caminhos é continuar acumulando softwares melhores,
como temos feito por 70 anos.
Nos ritmos passados de progresso, levaria séculos.
Alguns dizem que acontecerá muito mais rápido
pelas descobertas grandiosas de novas teorias de inteligência.
Eu sou cético.
Um terceiro cenário
é sobre o qual eu vou falar hoje.
A ideia é conectar uma porta ao software do cérebro humano.
Para isso, precisamos que três tipos de tecnologia estejam à altura,
e nenhuma delas chegou lá ainda.
Primeiro, precisaremos de muitos computadores paralelos
mais baratos e rápidos.
Segundo, precisaremos escanear cérebros humanos individuais
em detalhes espaciais e químicos,
para identificar onde fica cada célula, com o que se conectam, e de que tipo.
E terceiro, precisaremos de modelos computacionais
de como cada tipo de célula cerebral funciona,
tomando sinais de entrada, mudando o estado do intervalo
e emitindo sinais de saída.
Se tivermos modelos satisfatórios de todos os tipos de neurônios
e um modelo satisfatório de cérebro,
podemos juntá-los e fazer um modelo satisfatório do cérebro todo,
com o mesmo comportamento de entrada e saída do original.
Se falarmos com ele, ele poderá nos responder.
Se pedirmos para fazer algo, ele fará.
E se pudermos fazer isso, tudo pode mudar.
Fala-se desta ideia por décadas, com o nome de uploads.
Eu vou chamá-los de "ems".
Quando falam dele, dizem:
"Isso é mesmo possível?
Se fizerem um, ele seria consciente ou só uma máquina vazia?
Se fizerem um de mim, seria eu mesmo ou outra pessoa?"
Essas são perguntas fascinantes que eu vou ignorar.
(Risos)
Porque há uma questão negligenciada: o que aconteceria na realidade?
Fiquei obcecado com esta pergunta.
Passei quatro anos tentando analisá-la,
usando ferramentas acadêmicas padrão para pesquisar o que aconteceria,
e vou contar a vocês o que eu descobri.
Fiquem avisados:
não estou oferecendo inspiração, mas sim uma análise.
Meu trabalho é explicar o que provavelmente aconteceria
se não fizermos o mínimo para evitar isso.
Se o que eu vou lhes contar não incomodar ao menos um pouco,
é porque não estão prestando atenção.
(Risos)
A primeira coisa que eu posso contar
é que "ems" passam a maior parte da vida na realidade virtual.
É assim que nos parecemos usando realidade virtual.
E vemos algo como isto:
a luz do sol se refletindo na água, ouvir gaivotas voando acima,
talvez sentir o vento na face ou o cheiro da água do mar,
com o hardware avançado.
Se passarmos mais tempo ali, precisaríamos de um painel de controle
para fazer coisas como telefonemas,
mudar para um mundo virtual diferente, verificar sua conta bancária.
Enquanto nós nos pareceríamos assim na realidade virtual,
um "em" se pareceria assim.
É um hardware de computador numa prateleira em algum lugar.
Ainda assim, ele poderia ver e viver o mesmo.
Mas algumas coisas são diferentes para os "ems".
Primeiro, enquanto a realidade virtual nunca será totalmente real para vocês,
para um "em", ela é tão real quanto esta sala é para vocês,
ou qualquer outra sensação.
Os "ems" também têm algumas possibilidades de ação a mais.
Por exemplo: o seu cérebro sempre opera na mesma velocidade,
mas um "em" pode ter mais ou menos hardware para ir mais rápido ou devagar,
e assim, se o mundo ao seu redor parece ir rápido demais,
eles podem acelerar suas mentes,
e o mundo ao seu redor parecerá ter desacelerado.
O "em" também pode fazer uma cópia de si mesmo naquele momento.
Esta cópia se lembraria de tudo igual,
e se começasse olhando para a mesma velocidade,
poderia até precisar ser avisado: "Você é uma cópia".
O "em" pode arquivar cópias, com arquivos suficientes,
um "em" pode ser imortal, em conceito, não geralmente na prática.
Um "em" pode movimentar o computador que representa a sua mente,
de uma locação física para outra.
Os "ems" podem se mover ao redor do mundo na velocidade da luz,
e ao irem para outro lugar,
podem interagir mais rapidamente com os "ems" por ali.
Até agora, eu falei sobre o que os "ems" podem fazer.
O que os "ems" escolhem fazer?
Para entender o que, precisamos entender três fatos-chave.
Primeiro, "ems", por definição, agem como agiriam os humanos a quem imitam
naquela mesma situação.
Sua vida e comportamento são bem humanos.
São diferentes principalmente por viverem num outro mundo.
Segundo, "ems" precisam de recursos reais para sobreviver.
Vocês precisam de comida e abrigo para não morrer.
Também, "ems" precisam de hardware de computador, eletricidade, ventilação.
Para cada minuto subjetivo que um "em" vive,
alguém, geralmente um "em", teve que trabalhar para pagar.
Terceiro, "ems" são pobres.
A população de "ems" pode crescer mais rápido que sua economia,
o que significa que os salários diminuem a níveis de subsistência,
e que os "ems" têm que trabalhar a maioria do tempo.
Então isto é o que um "em" geralmente vê:
lindas e luxuosas, mas são escrivaninhas. Trabalham a maioria do tempo.
Um cenário de salário de subsistência, pensamos, é exótico e estranho,
mas é na verdade o caso comum da história humana,
e é assim que animais selvagens sempre viveram,
então sabemos o que humanos fazem nessas situações.
Humanos basicamente fazem o que é preciso para sobreviver,
e isto é o que me permite dizer tanto sobre o mundo "em".
Quando criaturas são ricas, como vocês,
têm que saber muito daquilo que querem para saber o que fazer.
Quando são pobres,
fazem aquilo que é preciso para sobreviver.
Estamos falando do mundo "em" do ponto de vista dos "ems".
Vamos agora olhar para o mundo deles.
Primeiro, o mundo "em" cresce muito mais rápido que o nosso,
cerca de 100 vezes mais rápido.
As mudanças que vivenciamos em um ou dois séculos,
eles vivenciaram nos dois últimos anos.
Não quero estimar uma idade muito além disso,
porque é viável que algo mais acontecerá, mas eu não sei o quê.
Segundo, uma emulação típica roda mais rápido,
cerca de mil vezes a velocidade humana.
Eles vivenciam mil anos em um ano ou dois,
e o mundo à sua volta muda mais devagar do que o mundo parece mudar para você.
Terceiro, os "ems" se juntam em poucas, mas densas cidades.
Isto não é apenas como eles se veem na realidade virtual,
é também como se juntam fisicamente.
Na velocidade "em" a viagem física parece penosamente devagar,
e por isso a maioria das cidades "ems" são autossuficientes,
a maioria das guerras, cibernéticas,
e a maioria do resto do mundo fora das cidades "em"
é deixada para humanos, porque "ems" não estão interessados nelas.
Falando em humanos, o que vocês estão interessados.
Humanos precisam se aposentar de uma vez por todas.
Não têm como competir.
No começo, humanos usufruíam de todo o capital do mundo.
A economia cresceu rápido, sua riqueza também.
Humanos enriquecem coletivamente.
Como talvez saibam, a maioria dos humanos não possui muito
além da habilidade de trabalhar,
entre o agora e o futuro, precisam adquirir bens suficientes,
seguros ou acordos de partilha, ou poderão passar fome.
Eu recomendo evitar esse desfecho.
Talvez se perguntem: "Por que 'ems' deixam humanos existir?
Por que não os matam, tomam suas coisas?"
Mas notem que temos muitos aposentados ociosos ao nosso redor,
e não os matamos para tomar suas coisas.
(Risos)
Em parte, porque isso perturbaria instituições que compartilhamos com eles.
Outros se perguntariam: "Quem é o próximo?"
É viável que "ems" deixarão humanos aposentarem-se em paz na sua era.
O mais preocupante é que a era "em" dura uns dois anos
e não sabemos o que acontecerá depois.
"Ems" são como humanos, mas não como típicos humanos.
O típico "em" é uma cópia de algumas centenas de humanos mais produtivos.
De fato, são a elite, comparando com o típico humano,
como o típico bilionário, o vencedor do Prêmio Nobel,
o medalhista olímpico, o chefe de estado.
"Ems" veem humanos talvez com nostalgia e gratidão,
mas não com muito respeito,
o que é, se pensarmos nisso, como pensamos em nossos antepassados.
Sabemos muito sobre como humanos se diferenciam em produtividade.
Isso nos permite prever as características dos "ems".
Por exemplo, tendem a ser espertos, conscientes, batalhadores,
casados, religiosos, de meia idade.
Características de "ems".
O mundo "em" também tem uma variedade enorme.
Continua a grande parte dos tipos de variedades humana,
incluindo variedades de indústria e profissões,
assim como tipos novos de variedades,
e uma das mais importantes é a velocidade da mente.
"Ems" podem rodar da velocidade humana até um milhão de vezes mais rápido,
e um bilhão de vezes mais devagar.
"Ems" mais rápidos tendem a ter um status mais elevado.
Personificam mais riqueza, ganham discussões,
alocam-se em lugares proeminentes.
A maioria dos "ems" lentos é aposentada,
semelhantes aos fantasmas da nossa literatura.
Lembrem-se que fantasmas estão ao nosso redor:
podemos interagir com eles por um preço.
Mas não sabem muito, não podem ser muito influentes,
e são obcecados com o passado, então para quê?
"Ems" também têm mais variedade em sua estrutura de vida.
A sua vida é assim: começa e termina, muito simples.
Essa é a vida de um "em",
que diariamente se divide em cópias de curto prazo
para fazer tarefas curtas, e daí acabam.
Falaremos mais sobre as versões de curto prazo daqui a pouco,
são muito mais eficientes, pois não precisam descansar pro dia seguinte.
Este "em" é mais oportunista.
Faz mais cópias de si mesmo quando há mais demanda.
Não sabe para onde o futuro o levará.
Este é um projetista "em", que cria um sistema amplo
e então se divide em cópias recorrentes que o elaboram,
para poder realizar designs maiores e mais coerentes.
Esta é cópia de um encanador que todos os dias, nos últimos 20 anos,
só trabalhou por duas horas por dia, uma vida de lazer.
Todos os dias, eles se dividiam em milhares de cópias,
e cada uma trabalhava por duas horas, e só uma continuava no dia seguinte.
Objetivamente, trabalham 99% do tempo.
Subjetivamente, eles se lembram de uma vida de lazer.
Este, novamente, é você, com um começo e um fim.
Este poderia ser você se no começo da festa,
tomasse uma droga que te faria esquecer da festa depois daquele dia.
Alguns fazem isso, ouvi dizer.
No fim da festa,
você diz a si mesmo: "Vou morrer, isso é horrível.
A pessoa de amanhã não sou eu, porque não se lembrarão do que eu fiz".
Talvez você diria: "Vou existir amanhã. Só não vou me lembrar do que fiz".
Aqui, um "em" que se divide em uma cópia de curto prazo
para tarefas curtas e se desfazer.
Tem as mesmas possibilidades de atitude.
Dizer: "Sou uma criatura nova de vida curta. Odeio isso".
Ou: "Sou parte de uma criatura maior que não se lembrará desta parte".
Eu prevejo a segunda atitude, não por ser filosoficamente correta,
mas porque os ajuda neste mundo.
Se o presidente disser: "Temos que invadir o Iraque",
e perguntamos: "Por quê?", eles dirão: "Segredo de Estado",
talvez duvidemos deles, mas para "ems",
uma cópia do presidente e uma sua podem entrar num cofre,
explicar os motivos secretos,
e uma parte sai da sua cópia e te diz se você se convenceu.
Agora você sabe que há um motivo.
Sei que estão ansiosos pra avaliar esse mundo
e decidir se o amam ou odeiam.
Mas pensem: seus ancestrais de milhares de anos atrás
teriam amado ou odiado seu mundo baseados no que ouviram sobre ele,
porque o seu mundo é mesmo esquisito.
Então antes de julgar um mundo futuro estranho, deveriam aprender sobre ele,
talvez ler um livro todo, e então, se não gostarem, tentem mudá-lo.
Obrigado.
(Aplausos)