언젠가 우리는 사람만큼 똑똑한 로봇을 가지게 될 겁니다.
바로 인공지능입니다.
그런 일이 어떻게 일어나게 될까요?
더 나은 소프트웨어를 축적해 나가는 한 방법이 있죠.
지난 70년 동안 해왔던 일처럼 말입니다.
과거의 발전 속도라면, 그건 수 백년이 걸릴 겁니다.
어떤 이들은 이 속도가 훨씬 빨라질 거라고 합니다.
강력한 지능 이론을 새롭게 발견하게 됨으로써 말이죠.
저는 이에 회의적입니다.
하지만 다른 방법은
제가 오늘 말할 내용인데요
인간의 뇌를 소프트웨어로 복사하는 아이디어입니다.
이를 실현하기 위해서는 세 가지 기술이 필요한데
아직은 세상에 없는 기술입니다.
첫째로, 값싸고, 빠른 병렬 컴퓨터가 아주 많이 필요할 겁니다.
두 번째로, 사람들의 뇌를 촬영해야 할 겁니다.
자세한 공간적, 화학적 조성을 말이죠.
세포가 어디에 있고, 어떻게 연결됐고, 어떤 종류인지 정확하게 보기 위해서요.
세 번째는, 저희는 컴퓨터 모델들이 필요할 겁니다.
뇌 세포 각각이 어떻게
입력값을 받아들이고, 중간 상태로 바뀌고
출력값을 보내는지에 대한 모델 말이죠.
우리에게 충분히 좋은 뇌세포 모델과
충분히 좋은 뇌 모델이 있다면
충분히 좋은 뇌 전체 모델을 만들 수 있게 될 것이며
그 모델은 원본과 똑같은 입출력 동작을 할 겁니다.
여러분이 말을 하면 대답을 할 겁니다.
여러분이 일을 시키면 그걸 할 겁니다.
우리가 이걸 만들어 낼 수 있다면 모든 게 달라질 겁니다.
사람들은 이 생각에 대해 수 십년 동안 이야기해 왔습니다.
업로드라고 부르면서 말입니다.
저는 이걸 ems라고 하겠습니다.
이런 이야길 하면 사람들이 말합니다.
"그게 가능하긴 한 건가요?
만들었다고 쳐도 의식이 있는 건가요, 아니면 그냥 텅 빈 기계인 셈인가요?
당신이 저를 하나 복제했다면 그건 저인가요, 다른 누군가인가요?"
이런 환상적인 질문들은 무시하도록 하겠습니다.
(웃음)
왜냐하면, 우리가 간과했던 다른 질문이 떠오르거든요.
실제로 무슨 일이 벌어질까요?
저는 이 질문에 매달렸습니다
답을 가늠해보려고 4년간
표준적인 학문적 도구를 써서 무슨 일이 벌어질지 추측했습니다.
여러분께 발견한 걸 말씀드리겠습니다.
하지만, 명심하세요.
저는 영감을 주려는 게 아니라 분석 결과를 알려드리는 겁니다.
막으려는 최소한의 노력도 하지 않으면 어떤 일이 벌어질 가능성이 가장 높은지
알려드리는게 제 역할이라고 봅니다.
여기서 제 이야길 듣고도 불안하지 않으시다면
여러분은 그냥 아무 관심이 없는 겁니다.
(웃음)
네, 먼저 말씀드릴 것은
ems는 대부분의 시간을 가상현실에서 보냅니다.
이 사진이 여러분이 가상현실을 사용하시는 모습입니다.
그리고, 이것은 여러분이 보는 것입니다.
물 위에서 반짝이는 햇빛 위애서 날아다니는 갈매기 한 마리
심지어 여러분의 볼을 스치는 바람이나 바닷물의 냄새를 맡을 수 있습니다
최첨단 하드웨어를 이용하시면 가능합니다.
여러분이 여기서 오랜 시간을 지내다 보면
계기판이 필요할 수도 있습니다.
계기판은 전화를 걸거나
새로운 가상현실 세계로 옮기거나
은행 계좌 사용을 가능하게 합니다.
이것은 가상현실 속 | 여러분의 모습입니다만
가상현실 속의 em은 이런 모습일 수도 있습니다.
서버의 선반 어딘가에 있는 컴퓨터 하드웨어일 뿐입니다.
그러나 em은 인간과 같은 일들을 보고 경험할 수 있을 것입니다.
그러나 어떤 것들은 em에게 다릅니다
첫째, 여러분은 언제나 가상현실이 현실이 아니라는 것을 알 수 있지만
em은 현실과 가상을 구별할 수 없습니다, 이 곳이 여러분에게 현실인 것처럼요.
혹은 어떤 것이 지금까지 느끼는 있는 것처럼 말입니다.
또한, em은 조금 더 행동할 수도 있습니다.
예를 들어, 여러분의 정신은 항상 같은 속도로 움직이지만
em은 컴퓨터 하드웨어를 추가나 제거해서 더 빠르거나 느리게 작동하게 할 수 있습니다
그러므로 그들 주위에 움직이는 세계가 너무 빨라 보인다면
em은 단순히 자신의 정신을 빠르게 만들 수 있습니다.
그렇게 하면 그들 주변의 세계는 상대적으로 느려보이겠죠.
게다가 em은 그럴 경우 복제본을 만들 수 있습니다.
이 복제본은 모든 것을 원본과 똑같이 기억합니다.
같은 속도로 보면서 시작한다면
em은 복제본에게 "너는 복제본이야"해야 할 수도 있습니다.
em들는 문서를 복사할 수 있고
충분한 자료를 축적하게 되면
em들은 죽지 않는 생명력을 가질 수 있습니다.
이론상으로 가능하지만 실제로 그렇지는 않습니다.
em은 자신의 두뇌를 뇌처럼 작동하는 컴퓨터를 말합니다.
하나의 물리적인 공간에서 다른 물리적 공간으로 이동시킬 수 있습니다.
em은 실제로 전 세계를 빛의 속도로 이동할 수 있고
새로운 장소로 이동함으로써
그 새로운 장소 근처의 다른 em들과 더 빠르게 의사소통을 할 수 있습니다.
지금까지, em의 역할을 살펴보았습니다.
그럼, em들은 무엇을 선택할까요?
이를 이해하기 위해서 세 가지의 주요 사실들을 알아야 합니다.
첫째, 정의에 따르면, em은 모방하는 인간과 같은 상황에 놓였을 때
똑같이 반응을 보일 것입니다.
따라서 그들의 삶과 행동은 인간과 매우 흡사할 것입니다.
단지 다른 세계에 살기 때문에 인간과 다르다고 할 수 있습니다.
둘째, em은 생존하기 위해 실제 자원이 필요합니다.
여러분은 음식과 쉴 공간이 없으면 죽습니다.
마찬가지로, em은 컴퓨터 하드웨어, 에너지, 냉각장치가 없으면 파괴됩니다.
em이 경험하는 주관적인 매 분마다
누군가는, 주로 그 em은 시간에 상응하는 일을 해야 합니다.
셋째, em은 가난합니다.
(웃음)
em개체는 em경제보다 더 빨리 성장할 수 있습니다.
즉, em들의 소득이 최저수준까지 떨어진다는 말입니다.
결국, em들은 대다수의 시간을 일하며 보내게 됩니다.
따라서, em들이 주로 보는 것은 이런 양상이죠.
아름답고 호화롭지만 책상 앞에 앉아서
대부분의 시간을 일하며 보내는 그런 모습 말이죠.
여러분들에게 최저임금 시나리오는 낯설고 불편한 이야기이지만
인간의 역사에 있어 보편적인 경우에 해당합니다.
또한, 야생동물의 경우에는 삶 바로 그 자체이기도 합니다.
그래서 이 같은 상황에는 인간들은 무엇을 하는지 알아야 합니다.
기본적으로 인간은 생존에 필요한 것들을 합니다.
저는 바로 이런 이유로 em에 대한 많은 이야기를 하는 것입니다.
여러분처럼 생물체가 부유한 경우
여러분은 그들이 원하는 것에 대해 많이 알아야 합니다.
그들이 하는 일을 알기 위해서죠.
그런데 생물체가 가난한 경우
살아남기 위해서 필요한 모든 일을 하게 됩니다.
그래서 우리는 지금 em의 관점에서 em을 이야기 하고 있습니다.
잠깐 한 발자국 뒤로 가서 전체 세상을 보겠습니다.
우선, em 세상은 우리 세상보다 더 빠르게 성장하고 있습니다.
대략 100배 더 빠릅니다.
그래서 한 두세기동안 우리가 경험할 수 있는 변화의 양은
em의 경우 1년이나 2년안에 다 일어날 수 있는 양입니다.
저는 이 세기 이상으로 추측하고 싶지 않습니다.
그 때는 현재는 알 수 없는 일이 발생하겠죠.
두 번째, 전형적인 휠씬 빠른 에뮬레이션이 진행될 것입니다.
대략 인간보다 1,000배 빠를 겁니다.
em에게 있어, 1년이나 2년 사이에 수천년의 시간을 경험할 것입니다.
em주변의 세상은 더 천천히 변화할 것입니다.
여러분이 느끼는 세상이 뱐화하는 속도보다 느릴 겁니다.
세번째, em은 소수의 고밀도 도시에 한꺼번에 들어갈 수 있습니다.
이것은 가상의 공간에서 자신들을 어떻게 보는가 뿐 아니라
또한, 어떻게 한 곳에 밀집되게 들어갈 수 있는가를 말합니다.
그래서 em 속도에서는 물리적 속도는 엄청나게 느립니다.
그래서 em 도시들은 자급자족이 가능합니다.
대부분의 전쟁은 가상의 전쟁입니다.
그리고 em 도시와 떨어진 나머지 지역은
인간에게 남겨지게 되는데, 이유는 em의 관심을 받지 못해서 그렇습니다.
인간에 대해 말씀을 드리면
여러분들이 원하셨던 이야기입니다.
인간은 언젠가는 영원히 은퇴하게 됩니다.
단순히, 경쟁을 할 수 없습니다.
현재, 인간들은 이 세상의 모든 모든 자본을 소유하기 시작했습니다.
경제는 빠르게 성장하고 그들의 부는 빠르게 늘어났죠.
집합적으로 인간은 부유해집니다.
하지만 대부분 인간들은 그 정도의 부는 가지고 있지 않습니다.
일할 수 있는 능력은 제외하고 말입니다.
그래서 가끔씩은 충분한 자산이나
보험, 혹은 처리방식을 공유해야 합니다.
그렇지 않다면, 굶어죽게 됩니다.
저는 이러한 결과를 피하라고 강력하게 말씀을 드립니다.
(웃음)
아마, 궁금하시겠죠.
왜 em은 인간의 생존을 허용하는가?
왜 죽이고, 인간의 것을 차지하지 않을까?
하지만, 우리 주변에 비생산 퇴직인구가 얼마나 많은지 주목해 보세요.
하지만, 우리는 퇴직자들을 다 죽이고 그들의 자산을 차지하지 않습니다.
(웃음)
한편으로는, 그들과 공유하는제도를 파괴하지 않기 위해서입니다.
다른 집단들은 다음 차례가 누구인지 궁금할 수 있겠죠.
em의 시대동안 인간이 조용히 퇴직하게 하는게 em에겐 당연할 겁니다.
차라리 여러분은 em의 시대가 길어야 2년 밖에 안되는것을 걱정하셔야 합니다.
그 다음은 아무도 알 수가 없습니다.
em은 인간과 흡사합니다.
하지만 전형적인 인간과는 다릅니다.
일반적인 em은 몇백명의 가장 생산적인 인간의 복제물입니다.
평범한 인간과 비교한다면 엘리트에 속한다고 볼 수 있습니다.
예를 들어, 전형적인 억만장자 노벨상 수상자
올림픽 금메달 선수 국가 수반과 비슷합니다.
em은 인간을 과거나 감사함 정도로 여길 것입니다.
존경심은 바라지 마세요.
마치, 우리가 우리의 선조들을 생각할 때 느끼는 감정과 비슷합니다.
생산성의 관점에서 인간은 얼마나 다른지 많은 것들을 알 수 있습니다.
그것을 이용해 em의 특징을 예상해 볼 수 있습니다.
예를 들어, em이 영리한지 양심적인지, 성실한지
결혼했는지, 종교가 무엇인지, 중년인지 예측할 수 있습니다.
em의 특징들 입니다.
em의 세상은 엄청난 다양성을 가지고 있습니다.
인간이 가지고 있는 대부분의 종류의 다양성을 가지고 계속 존재할 뿐 아니라
산업이나 직업의 다양성을 포함해서 말입니다.
그들은 또한 많은 새로운 종류의 다양성을 가지고 있습니다.
그리고 가장 중요한 것 중 하나는 정신의 속도입니다.
정상적인 인간의 정신적 속도부터
백만 배 더 빠른 정신적 속도를 가지고 있습니다.
동시에 1억배 더 느린 정신적 속도도 가지고 있습니다.
더 빠른 em은 더 높은 자리에 위치하게 됩니다.
그들은 더 많은 부를 구체화 시키며 논쟁에도 강합니다.
그들은 항상 최고의 자리에 위치합니다.
더 느린 em은 대부분 퇴직자들입니다.
우리 문학의 유령과 같습니다.
만약 생각하신다면, 유령은 우리 주변에 있습니다.
만약 여러분이 돈을 지불하신다면 유령과 대화를 나누실 수 있습니다.
하지만, 아는 것이 많지 않기 때문에 우리에게 큰 영향은 끼칠 수 없습니다.
유령은 과거에 집착합니다 그러면 무슨 이득이 있겠습니까?
(웃음)
em은 그들의 삶의 구조에 더 많은 다양성을 가지고 있습니다.
이것은 여러분의 인생입니다. 여러분은 시작하고 끝나죠, 단순하죠.
이것은 em의 인생입니다.
매일 더 작은 복제본을 분할시킵니다.
단 기간 임무를 하고 끝납니다.
우리는 그들의 단기간 삶에 대해 조금 있다 얘기를 해 보겠습니다.
하지만 더 효율적인 기간입니다.
왜냐하면 휴식이 필요하지 않습니다.
이 em은 더 기회적입니다.
수요가 많으면 더 많은 em을 복제합니다.
그들은 미래의 지향점이 어디인지 모릅니다.
이것은 em 설계자입니다.
큰 시스템을 착안합니다.
그 후 반복적으로 분해되서 더 정교해진 em을 만듭니다.
그래서 em 을 더 크고 포골적인 설계를 시행합니다.
이것은 에뮬레이션 배관공입니다.
지난 20년 동안 매일 그 일만 기억합니다.
하루에 2시간반 일하고 나머진 휴식입니다.
하지만 실제로 발생한건 매일 그들은 1,000 개의 복제를 했습니다.
각각은 2시간은 배관공의 일을 했습니다.
그리고 그들중 하나만 다음날까지 일을 계속했습니다.
객관적으로, 그들은 자신의 99% 이상 일을 합니다.
주관적으로는 그들은 휴가 생활을 기억하고 있습니다.
(웃음)
다시 이것은 여러분입니다 여러분이 시작하고 끝냅니다.
이것은 여러분일 수 있는데 만약 파티의 마지막에
그 파티를 기억하고 싶지 않아서 기억이 없어지는 약을 먹는다면
그 후에 영원히 말이죠.
어떤 이들은 이런 일을 합니다 저도 들었습니다.
파티가 끝날 때쯤에 먹는답니다.
여러분은 자신에게 말할 겁니다, "곧 죽을 거야, 너무 끔찍해
내일의 그 사람은 내가 아닙니다. 왜냐하면 내가 한 일을 모르기 때문이죠.
혹은 여러분은 "내일 계속 할 거야 과거는 기억하고 않을 거야" 라고요.
이것이 단기 복제물을 분할하는 em입니다.
단기간 임무를 수행하고 죽는 거죠.
그들은 동일한 두 가지 태도의 가능성을 가지고 있습니다.
그들은 "나는 짧은 인생을 가진 단기 생명체야, 이런 인생이 싫어."
혹은 "나는 이 부분은 기억하지 못하는 큰 시스템의 일부일 뿐이야" 라고 말할 수 있습니다.
저는 후자의 태도를 예상합니다.
절학적으로 지지해서가 아니라 운영원칙이기 때문입니다.
오늘 만약 대통령이 이라크를 침공해야 한다고 한다면
그러면 여러분은 "왜요" 라고 말합니다.
그러면 그들은 "국가 기밀입니다"라고 합니다.
그들을 믿을 지 확신치 못하죠.
하지만, em에게 있어 대통령의 복제물과 당신의 복제물이 금고 안에 들어가서
모든 비밀에 대한 이애기를 나눈 후에
여러분의 복제물이 여러분에게
신뢰를 했는지 말을 해줍니다.
그러면 여러분은 충분한 이유가 있었구나 하고 이해를 합니다.
저는 여러분들이 적극적으로 이 세상을 평가하고 싶어 하리라 생각합니다.
여러분들이 그것을 사랑하는지 싫어하는지 알고 싶어합니다.
하지만 생각해 보십시요 수천년 전 우리 선조들이
자신들의 세상을 사랑했는지 싫어했는지를 말입니다.
몇 가지 들은 것에 기초해서요.
왜냐하면 우리 세상은 참으로 이상합니다.
그래서 이상한 미래을 판단하기 전에 반드시 그 것에 대해 알아야 합니다.
또는 책 한권을 다 읽어야 합니다.
그리고 나서 마음에 들지 않으면 바꾸려는 노력을 하시면 됩니다.
감사합니다.
(박수)