Pracuję z matematykami, filozofami i informatykami.
Rozmyślamy między innymi
o przyszłości sztucznej inteligencji.
Niektórzy twierdzą, że te sprawy podchodzą pod science-fiction,
są wydumane, szalone.
Ale wtedy mówię:
"Spójrzmy na dzisiejszy stan ludzkości".
(Śmiech)
Tak się prezentuje dzisiaj.
Jeśli się nad tym zastanowić,
dopiero niedawno ludzie
zagościli na tej planecie.
Gdyby Ziemia powstała rok temu,
rodzaj ludzki istniałby od 10 minut.
Rewolucja przemysłowa rozpoczęła się 2 sekundy temu.
Można też spojrzeć na przyrost PKB z ostatnich 10 tysięcy lat.
Zadałem sobie trud narysowania tego wykresu.
Wygląda tak.
(Śmiech)
Nie jest to typowy kształt.
Nie chciałbym na nim usiąść.
(Śmiech)
Zastanówmy się, co powoduje tę anomalię.
Niektórzy mówią, że technologia.
To prawda, tempo rozwoju technologii wciąż przyspiesza,
a teraz rozwój jest szalenie gwałtowny.
Jest to bezpośrednia przyczyna,
dla której obecnie jesteśmy tak produktywni.
Chciałbym jednak sięgnąć do źródła.
Spójrzcie na tych dwóch dystyngowanych jegomości.
Jeden z nich to Kanzi,
opanował 200 jednostek leksykalnych, niezwykłe osiągnięcie.
A drugi to Ed Witten, który zapoczątkował drugą rewolucję superstrun.
Jeśli zajrzymy pod maskę, oto co znajdziemy.
Prawie to samo.
Jeden jest nieco większy,
może bardziej pomysłowo skonstruowany.
Te niewidoczne różnice nie mogą być jednak zbyt skomplikowane,
gdyż od wspólnego przodka
dzieli nas tylko 250 tysięcy pokoleń.
Wiemy, że skomplikowane mechanizmy potrzebują dużo czasu na ewolucję.
Istnieją więc stosunkowo niewielkie różnice
między Kanzim a Wittenem,
między odłamanymi gałęziami,, a pociskami międzykontynentalnymi.
Jest jasne, że wszystko, co osiągnęliśmy,
i wszystko, co dla nas ważne,
opiera się na niewielkich zmianach, dzięki którym powstał umysł ludzki.
Wszelkie dalsze zmiany, które mogą zmienić
podłoże naszego rozumowania,
mogą nieść ogromne konsekwencje.
Niektórzy z moich kolegów sądzą, że znajdujemy się u progu
takiej ogromnej zmiany,
a jest nią sztuczna superinteligencja.
Sztuczna inteligencja polegała na wprowadzaniu komend do pudełka.
Potrzeba było programisty,
który mozolnie ją kształtował.
Można było stworzyć zaawansowany system
przydatny do pewnych celów,
ale też kruchy, niedający się przeskalować.
Otrzymywaliśmy tylko to, co sami wprowadziliśmy.
Ale od tamtej pory
na polu sztucznej inteligencji zaszła zmiana paradygmatu.
Dzisiaj skupiamy się na uczeniu maszyn.
Zamiast ręcznie budować wiedzę i cechy,
tworzymy algorytmy, które się uczą, często na podstawie szczątkowych danych.
Praktycznie w taki sam sposób, w jaki robią to niemowlaki.
W rezultacie sztuczna inteligencja nie ogranicza się do jednej dziedziny.
Ten sam system może nauczyć się tłumaczyć dowolną parę języków
albo grać w gry na konsoli Atari.
Oczywiście, sztuczna inteligencja
nie jest tak wszechstronna
w nauce i planowaniu, co człowiek.
Kora mózgowa ma pewne algorytmiczne sztuczki,
których nie potrafimy zaimplementować maszynom.
Pytanie brzmi:
"Kiedy będziemy mogli to zrobić?".
Kilka lat temu
przeprowadziliśmy ankietę wśród światowych ekspertów od SI.
Jedno z zadanych pytań brzmiało:
"W którym roku będziemy mieć 50% szans
na stworzenie inteligencji na poziomie ludzkim?".
Poziom ten zdefiniowaliśmy jako umiejętność wykonywania
niemal każdej pracy tak dobrze, jak dorosły człowiek,
a więc chodziło o rzeczywisty poziom, a nie wąską specjalizację.
Średnia odpowiedzi przypadała na rok 2040 albo 2050,
w zależności od grupy ekspertów.
Może się to zdarzyć dużo później albo dużo wcześniej.
Nikt tego tak naprawdę nie wie.
Wiemy, że granica przetwarzania informacji u maszyn leży o wiele dalej
niż w przypadku istot żywych.
Wszystko sprowadza się do fizyki.
Neuron wysyła impuls z częstotliwością 200 herców, 200 razy na sekundę.
Dzisiejsze tranzystory operują w gigahercach.
Informacja podróżuje przez akson powoli, najwyżej 100 metrów na sekundę.
W komputerach sygnał może poruszać się z prędkością światła.
Istnieją też limity wielkości.
Ludzki mózg musi zmieścić się w czaszce,
komputer może być jak hala fabryczna albo jeszcze większy.
Potencjał superinteligencji jest więc uśpiony
tak jak moc atomu, która była uśpiona od początku ludzkości,
cierpliwie czekając na przebudzenie w 1945 roku.
W tym stuleciu
naukowcom może uda się wybudzić sztuczną inteligencję.
Myślę, że możemy doświadczyć eksplozji tej inteligencji.
Większość osób myśląc o tym, co jest mądre, a co głupie,
wyobraża sobie taki obrazek.
Po jednej stronie mamy wioskowego głupka,
a po drugiej stronie
Eda Wittena, Alberta Einsteina albo jakiegoś innego guru.
Z punktu widzenia sztucznej inteligencji
obrazek powinien wyglądać raczej tak.
Sztuczna inteligencja startuje od zera.
Po wielu latach ciężkiej pracy
może osiągnie poziom myszy
i będzie potrafiła sama omijać przeszkody,
tak jak mysz.
Znów po wielu latach ciężkiej pracy, przy dużych nakładach finansowych,
może osiągnie poziom szympansów.
A po jeszcze dłuższym czasie wypełnionym ciężką pracą,
osiągnie poziom wioskowego głupka.
Chwilę później wyprzedzi Eda Wittena.
Pociąg nie zatrzyma się na stacji Ludzko Zdrój.
Przemknie przez nią na pełnym biegu.
Będzie to niosło głębokie konsekwencje,
zwłaszcza jeśli chodzi o władzę.
Na przykład, szympansy są silne.
Szympans jest dwa razy silniejszy od wysportowanego mężczyzny.
Mimo to na los Kanziego i jemu podobnych
mamy większy wpływ niż inne szympansy.
Kiedy pojawi się superinteligencja,
los ludzkości może stać się od niej zależny.
Pomyślcie.
Sztuczna inteligencja to ostatni wynalazek, jakiego dokona człowiek.
Maszyny będą lepszymi wynalazcami niż my
i będą operować na poziomie cyfrowym.
Oznacza to gwałtowny skok rozwoju.
Pomyślcie o tych wszystkich szalonych pomysłach,
które ludzkość mogłaby zrealizować w przyszłości.
Powstrzymanie starzenia, kolonizacja kosmosu,
samoreplikujące się nanoroboty, podłączenie naszych umysłów do komputera.
Wszystkie pomysły rodem z science-fiction,
które nie przeczą prawom fizyki,
mogłyby zaistnieć dzięki superinteligencji i to dość gwałtownie.
Tak technologicznie rozwinięta superinteligencja
miałaby ogromną moc
i według niektórych scenariuszy, byłaby w stanie osiągnąć własne cele.
Nasza przyszłość byłaby kształtowana według uznania sztucznej inteligencji.
Warto się zastanowić, jakie miałaby ona preferencje.
Tu tkwi pewna pułapka.
Żeby posunąć się dalej,
musimy uniknąć antropomorfizacji.
Jak na ironię, bo każdy artykuł w gazetach,
odnoszący się do przyszłości SI. zawiera ten obrazek.
Myślę, że powinniśmy podejść do tematu bardziej abstrakcyjnie,
nie kierując się scenariuszami hollywoodzkich filmów.
Inteligencję należy rozumieć jako proces optymalizacyjny,
który kształtuje przyszłość według konkretnych ustaleń.
Superinteligencja jest procesem mocno optymalizacyjnym.
Jest bardzo dobra w używaniu odpowiednich środków,
żeby osiągnąć cel.
Oznacza to, że niekoniecznie musi istnieć związek
między wysoką inteligencją,
a posiadaniem celu, który ludzkość uznałaby za warty zachodu lub znaczący.
Załóżmy, że daliśmy sztucznej inteligencji zadanie wywołania u nas uśmiechu.
Słaba sztuczna inteligencja wykonywałaby czynności,
które rozbawiłyby użytkownika.
Superinteligencja zdałaby sobie sprawę,
że można osiągnąć cel w bardziej efektywny sposób:
przejąć kontrolę nad światem,
wszczepić ludziom elektrody, mające sprawić,
że na naszych twarzach na stałe zagości promienny uśmiech.
Inny przykład.
Załóżmy, że kazaliśmy komputerowi rozwiązać trudne zadanie matematyczne.
Superinteligencja doszłaby do wniosku,
że najefektywniej będzie
przekształcić planetę w ogromny komputer,
żeby przyspieszyć procesy myślowe.
To może dać superinteligencji pretekst
do robienia rzeczy, których my byśmy nie popierali.
Ludzie w tym modelu stają się przeszkodą
dla rozwiązania zadania.
Oczywiście możliwe, że sprawy nie potoczą się w ten sposób.
To przerysowane przykłady.
Ale najważniejsze jest,
że jeśli tworzysz potężny proces optymalizacyjny
do zmaksymalizowania realizacji celu X,
lepiej upewnij się, czy definicja X
zawiera wszystko, na czym ci zależy.
Tego uczy nas wiele mitów.
Król Midas chciał, by wszystko, czego dotknie, zamieniało się w złoto.
Dotknął córki, a ona zmieniła się w złoto.
Dotknął jedzenia, a ono zmieniło się w złoto.
To nie tylko metafora chciwości,
ale też tego, co może się stać,
jeśli stworzymy proces optymalizacyjny
i damy mu błędnie określone
lub słabo sprecyzowane cele.
Możecie powiedzieć, że jeśli komputer zacznie nam wszczepiać elektrody,
wtedy go wyłączymy.
Po pierwsze, to może być trudne, jeśli będziemy zależni od tego systemu.
Jak wyłączyć internet?
Po drugie, czemu szympansy lub Neandertalczycy
nas nie wyłączyli?
Mieli powody.
Mamy swój wyłącznik, na przykład tutaj.
(Charczenie)
Otóż jesteśmy inteligentnym przeciwnikiem.
Potrafimy przewidzieć zagrożenie i zaplanować obronę.
To samo mogłaby zrobić superinteligencja
i byłaby w tym znacznie od nas lepsza.
Chodzi o to, żebyśmy nie byli pewni, że wszystko mamy pod kontrolą.
Można by spróbować ułatwić sobie zadanie,
umieszczając SI w pudełku,
w jakiejś odosobnionej przestrzeni,
w wirtualnej rzeczywistości, z której nie będzie w stanie uciec.
Na ile możemy być pewni, że komputer nie znajdzie błędu w programie?
Skoro hakerzy ciągle znajdują jakieś błędy,
jest to niemal pewne.
Moglibyśmy odłączyć ethernet, żeby odizolować komputer,
ale hakerzy potrafią poradzić sobie i z tym problemem,
wykorzystując inżynierię społeczną.
W tej właśnie chwili
gdzieś jakiś pracownik
przekazuje swoje dane logowania komuś
podającemu się za informatyka.
Możliwe są bardziej kreatywne scenariusze.
Sztuczna inteligencja
może pokombinować przy elektrodach w swoim obwodzie,
żeby powstały fale radiowe potrzebne do komunikacji.
Albo może udawać awarię,
a kiedy programiści zajrzą do środka, żeby sprawdzić kod źródłowy
- bum! -
może dojść do manipulacji.
Może też zaprojektować bardzo zmyślną technologię,
a kiedy ją zaimplementujemy
okaże się, że ma jakiś ukryte działanie, zaplanowane przez komputer.
Chodzi o to, żebyśmy nie byli pewni, że będziemy potrafili
trzymać superinteligentnego dżina zamkniętego w lampie na zawsze.
Prędzej czy później się z niej wydostanie.
Sęk w tym, żeby zaprojektować superinteligentny komputer,
który jeśli, czy może kiedy, ucieknie,
będzie niegroźny, bo będzie po naszej stronie,
wyznając nasze wartości.
Nie widzę innego sposobu na ominięcie tego problemu.
Dość optymistycznie podchodzę do kwestii rozwiązania tego problemu.
Nie musimy tworzyć długiej listy wszystkiego, co dla nas ważne,
ani co gorsza, przekładać jej na jakiś język programowania,
jak C++ czy Python,
co byłoby beznadziejnym zadaniem.
Trzeba stworzyć komputer, który użyje swojej inteligencji
żeby nauczyć się naszych wartości,
a jego system motywacyjny skonstruowany byłby w taki sposób,
że dążyłby do naszych wartości i wykonywał pochwalane przez nas czynności.
W ten sposób wykorzystalibyśmy jego inteligencję
do rozwiązania problemu wartości.
Można to zrobić,
a owoce tej pracy byłyby dobre dla ludzkości.
Ale to nie stanie się automatycznie.
Możliwe, że trzeba będzie
precyzyjnie określić startowe warunki eksplozji inteligencji,
jeśli chcemy dokonać kontrolowanej detonacji.
Sztuczna inteligencja musi wyznawać nasze wartości
nie tylko w znanych sytuacjach,
które możemy przewidzieć,
ale też w nowych kontekstach, na które może się natknąć
w niezdefiniowanej przyszłości.
Musimy też rozwikłać pewne ezoteryczne kwestie.
Szczegóły teorii decyzji, jak sobie radzić
z niepewnością logiczną i tak dalej.
Techniczne problemy, stojące przed tym zadaniem
wydają się trudne.
Nie aż tak trudne, jak stworzenie sztucznej superinteligencji,
ale dość trudne.
Tu tkwi problem.
Stworzenie superinteligentnego komputera jest trudnym wyzwaniem.
Stworzenie bezpiecznego superinteligentnego komputera
jest jeszcze trudniejsze.
Ryzyko polega na tym, że komuś uda się sprostać pierwszemu wyzwaniu
z pominięciem zapewnienia
całkowitego bezpieczeństwa.
Uważam, że najpierw należy
rozwiązać problem kontroli,
aby mieć w razie czego pod ręką antidotum.
Może się okazać, że nie da się rozwiązać zawczasu całego problemu,
bo niektóre jego elementy można stworzyć,
wyłącznie znając szczegóły architektury, która zostanie zaimplementowana.
Ale im większą część tego problemu rozwiążemy,
tym większe mamy szanse na wkroczenie w epokę inteligentnych maszyn
zgodnie z naszym planem.
Dla mnie jest to gra warta świeczki
i, jeśli wszystko pójdzie dobrze,
ludzie za milion lat spojrzą na nasze stulecie
i powiedzą, że jest to jedyna ważna rzecz,
która nam się udała.
Dziękuję.
(Brawa)