總有一天，機器人 會像人類一樣聰明，
人工智慧，AI。
那要如何做到呢？
其中一個方式就是， 我們只要繼續累積更好的軟體，
就像我們過去七十年所做的。
但以過去的進步速率推斷， 這樣要花上數百年。
有人說，它會提早實現，
因為我們發現了 全新的強大智慧理論。
我持懷疑態度。
但有第三種情況，
也是我今天要講的。
這個想法是從人腦中移植出軟體。
要做到這一點，我們需要 讓三種技術的發展足夠成熟，
但目前我們這些都還沒達到。
第一，我們需要許多 廉價、快速、平行的電腦。
第二，我們需要在適當的 空間與正確的化學成分下
掃瞄我們的大腦。
這樣才能看出細胞的 精確位置、連結、類型。
第三，我們需要一種電腦模型，
關於各類腦細胞如何運作的模型──
可以讓我們輸入訊號， 改變區間的狀態，
並再發送出訊號的模型。
如果我們有夠好的各種腦細胞模型、
夠好的大腦模型，
我們可以把它們結合起來， 做出一個完整的大腦模型，
那個模型與原本大腦所想要的 輸入和輸出行為一致。
所以，如果你跟它說話， 它可能會回話。
如果你要它做事，它可能會去做。
如果我們能做到這樣， 一切都會改變。
幾十年來人們以「上傳」的方式
談論這個想法。
我打算稱它為「仿真腦（ems）」。
當他們在談論這個想法時，他們說：
「這是可能的嗎？」
如果能做出來，它會是有意識的嗎？ 還是只是個空機器？
如果你仿了我的大腦， 它會是我還是另一個人？
我將忽略這些令人著迷的問題…...
（笑聲）
因為我看到了一個被忽視的問題：
究竟會發生什麽事？
我對這個問題很著迷。
我花了四年時間來分析它，
用標準的學術工具， 來猜測可能會發生什麼事，
我來這裡是要告訴各位我的發現。
但，請注意──
我不是要提供靈感， 我是要提供分析。
我認為我的工作是 告訴你們最有可能發生的情況，
如果我們不花心思去預防，
如果你對於我今天告訴你的事 並不感到擔心，
那表示你沒在注意聽。
（笑聲）
好，我能告訴各位的第一件事是，
仿真腦的大部分時間 都是在虛擬現實生活中度過的。
如果你使用虛擬實境， 這就是你的樣子。
這也是你可能會看到的：
陽光在水面上閃閃發光， 可能還會聽到海鷗從上面飛過，
你甚至可以用先進的硬體
感受到風吹撫過臉頰或 聞到海水的味道。
如果你要花很多時間在這裡，
你可能會想要一個儀表板，
讓你可以做一些事， 比如打電話、
移動到一個新的虛擬世界、
查看銀行帳戶。
這是你在虛擬實境中 看起來的樣子，
這是仿真腦在虛擬實境中 看起來的樣子。
它是電腦硬體， 就放在某個伺服器的機架上。
但它仍然能夠 看見和體驗同樣的東西。
但對仿真腦來說， 有些東西是不同的。
第一，你可能會留意到 虛擬實境並不全是真實的，
但仿真腦感受到的真實度， 就像你現在對這空間
或對任何其它東西 感受到的真實度一樣。
仿真腦還有更多的行為可能性。
比如，你的大腦 總是以同樣速度運作，
但仿真腦可以透過增加或減少一些 電腦硬體來運作地更快或更慢，
因此，如果它們覺得周圍的世界 發展地似乎太快了，
它們可以加快思考的速度，
這樣它們周遭的世界 似乎就會慢了下來。
此外，仿真腦可以在 那個時候複製它自己。
這個複製品會記住所有的東西，
如果它用同樣的速度開始運作， 以同樣的速度觀察世界，
它們甚至可能需要被告知： 「你只是個複製品。」
仿真腦可以做歸檔副本，
一旦有足夠的歸檔副本，
仿真腦就可以永生——
那是理論上，雖然實務上不常見。
仿真腦可以移動它的腦， 也就是代表它的腦的那台電腦，
從一個實體地點移到另一個地點。
仿真腦可以用光速在全世界移動，
藉由移動到一個新地點，
它可以更快速地與新地點 附近的仿真腦做互動。
目前，我說的都是仿真腦能做什麼。
那仿真腦會選擇做什麼？
要了解這一點，我們得要 先了解三項關鍵事實。
第一，定義上， 仿真腦在相同情境下，
會模仿出人類會做的事。
所以它們的生活和行為 都非常像人類。
它們與人主要的差異在於 它們活在不同的世界裡。
第二，仿真腦需要真實資源來存活。
你需要食物和住所，不然就會死亡。
同樣的，仿真腦需要電腦硬體、 能源、冷卻，不然它們將不能生存。
仿真腦所經歷的主觀每一分鐘，
都是得有人付出才能得到的， 而付出的那個人通常是仿真腦本身。
第三，仿真腦很窮。
（笑聲）
仿真腦數量的成長會快過 仿真腦的經濟成長，
那意味著薪資水平會落到 仿真腦能維持生計的水平。
那意味著仿真腦 大部份的時間得要工作。
那意味著仿真腦通常看見的是這個：
美麗又奢華的，辦公桌──
它們大部份的時間都在工作。
你可能會認為，這種勉強糊口的 工資的情景是奇異並奇怪的，
但這是人類歷史上常見的情況，
這基本是所有野生動物的生活方式，
所以我們知道人類 在這種情況下會做什麼。
人類基本上會為了生存而行動，
這就是讓我說了這麽多 關於仿真腦世界的原因。
當生物富有時，就像你們一樣，
你得先要知道他們想要什麼，
才能猜出他們會做什麼。
當生物很貧窮時，
你知道的，他們會做的 就只是生存下來。
我們已經從仿真腦的觀點 談了仿真腦的世界。
現在我們退後一步， 來看看它們的整個世界。
第一，仿真腦世界的成長速度 比我們的世界快很多，
大約快上一百倍。
我們經歷了一、兩個世紀的改變，
它們在一、兩年內就能完成。
我其實不想預測更遙遠的未來，
因為，理論上到那時就會有 其它事發生，我們無法知道。
第二，典型的仿真腦運作得更快，
大約是人類的一千倍。
所以，對它們而言，它們會在 這一、兩年就經歷我們的數千年，
相對於你對你的周圍世界的感覺，
它們會覺得它們周圍的 世界改變很緩慢。
第三，仿真腦會擠在 少數幾個高密度城市中。
這不只是它們在虛擬實境中 看到的自身狀況，
它們的實體也確實是 擠在同一個地方的。
以仿真腦速度來看， 實體旅行是要命的緩慢，
所以大部份的仿真腦城市 是自給自足的，
大部份的戰爭是網路戰爭，
而地球上遠離 仿真腦城市的其它地方，
就留給人類，因為仿真腦 對這些地方真的不感興趣。
說到人類，
你會想要聽到這個。
人類必須要退休， 一旦發生了，你就好好退休吧。
人類無法和仿真腦競爭。
一開始，人類擁有 這個世界上所有的資本。
經濟成長非常快， 他們的財富也成長非常快。
整體而言，人類變富有了。
如你所知，現今大部份人 除了擁有工作能力外，
其它其實擁有的並不多。
所以從現在起到那時後， 他們需要獲得足夠的資產、
準備保險或股權的配置，
不然他們就要挨餓了。
我強烈建議要避免這個結果。
（笑聲）
你們可能會好奇，
為什麼仿真腦要讓人類存在？
為什麼不殺了人類， 拿走他們的東西？
別忘了，現今我們身邊就有很多 沒有生產力的退休者，
我們不會殺了他們，拿他們的東西。
（笑聲）
部份原因是因為這樣會使得 我們與他們共同的制度被瓦解。
其他族群就會想，誰會下一個遭殃？
所以仿真腦比較合理的做法，是讓 人類在仿真腦的時代能平靜地退休。
你們比較該擔心的是， 仿真腦的時代可能只有一、兩年，
而你卻不知道接下來會發生什麼事。
仿真腦和人類很像，
但它們不像典型的人類。
典型的仿真腦是 幾百個最有生產力的人的翻版。
所以事實上， 與一般人相比它們是菁英，
它們是典型的億萬富翁、 諾貝爾獎得主、
奧運金牌得主、國家元首。
仿真腦在看人類時，可能是帶著 懷舊之情和感激之情的，
但不會帶有很多尊重，
就像你仔細想想， 你是怎麽看待你的祖先的。
我們知道許多關於 不同個體在生產力方面的不同之處。
我們可以用那些知識 來預測仿真腦的特徵──
比如，它們往往是 聰明的、認真的、努力的、
已婚的、有宗教信仰的、中年的。
這些是仿真腦的特點。
仿真腦世界也有很高的多樣性。
它不只延續了人類的各種多樣性，
包括產業及職業的多樣性，
它們也在很多新型特點上 體現了多樣性，
最重要的之一就是思維速度。
仿真腦的速度， 慢可以慢到與人類一樣的速度
快可以快到比人類快 幾百萬倍的速度，
往下還可以比人類慢 十億倍的速度。
更快的仿真腦往往具有較高的地位。
它們有比較多的財富。 它們能在爭論中勝出。
它們位於金字塔頂端。
比較慢的仿真腦多半是已退休的，
它們就像是我們小說中看到的鬼魂。
如果你有注意到， 書中的鬼魂都在我們周圍，
如果你願意付出代價， 就可以與它們互動。
但它們知道的不多， 它們的影響不大，
且它們沉陷在過去中， 但那有什麼意義？
（笑聲）
仿真腦的人生結構 也有較高的多樣性。
這是你的人生： 開始、結束就這麼簡單。
這是仿真腦的人生，
每天都會分裂出一些短暫的複製品，
用來完成短期任務，然後結束。
我們稍後再討論這些短期版本，
但是它們的效率更高，
因為它們不需要在第二天休息。
這個仿真腦是比較機會主義者的。
當有需要時，它們就會 把自己複製更多份。
它們不知道未來的走向。
這是一個仿真腦設計師，
它構想了一個很大的系統，
然後再遞歸地分裂成複製品 來詳細說明它的構想，
因此，仿真腦可以實現更大、 更連貫的設計。
這是個仿真腦世界裡的水管工，
它記得過去二十年的每一天，
它們一天只工作兩小時， 很悠閒的人生。
但實情是，它們每天都得 複製出數千個複製品，
每個複製品得做兩個小時的工作，
它們之中只有一個 第二天會接著工作。
客觀上，它們 99% 的時間 都在努力工作。
主觀上，它們還記得 甚麼是悠閑的生活。
（笑聲）
同樣的，這還是你。 你開始，你結束。
這可能是你，如果在派對開始時，
你吃了顆藥， 它會讓你在那天之後再也
想不起那場派對。
據我所知，有些人會這樣做。
到派對尾聲時，
我要問你的是，你是否會告訴自己： 「我快要死了，這太可怕了。
明天的那個我其實不是我， 因為他不會記得我做過的事。」
或者說：「明天，我還是我， 只是不記得我過去做了什麽。」
這是分裂出短期複製品的仿真腦，
用來做短期工作，然後就結束。
它們同樣也有這兩種可能的態度。
它們會說：「我是新的短期生物， 生命很短。我討厭這樣。」
或「我是更大生物的一部份， 只是記不得是哪一部份。」
我預測它們會採用第二種態度，
不是因為哲學正確性，而是因為 那種態度能幫助它們相處。
如果今天總統說 我們必須要侵略伊拉克，
你說：「為什麼？」
他們說：「國家機密。」
你不確定是否可以信任他們，
但對仿真腦而言，總統的複製品和 你的複製品可以進入一個保險箱，
解釋它們所有的秘密原因，
然後有一個位元訊號 從你的複製品回來告知你，
讓你知道你是否有被說服。
這樣你就會知道有個好理由存在。
我知道你們都很渴望評估那個世界。
你想盡快決定 你是否喜歡它或討厭它。
但想想：你數千年前的祖先
會根據他們聽聞的最初的幾件事，
來選擇愛或恨你現在這個世界嗎？
因為你的世界聽起來是很奇怪的。
所以在評斷一個奇怪的 未來世界之前，
你應該好好學習它，
也許讀一本關於它的書，
然後，如果你不喜歡它， 就努力去改變它。
謝謝。
（掌聲）