Bir grup matematikçi, filozof ve bilgisayar uzmanıyla çalışıyorum,
diğer şeylerin yanında, oturup makine zekasının geleceği
üzerine düşünüyoruz.
Bazı insanlar bu şeylerin bir kısmının bir tür bilim kurgu olduğunu düşünüyor,
hatta çılgınca diyenler bile var.
Ama şunu söylemek isterim ki,
hadi öncelikle, modern insanın durumuna bir bakalım.
(Gülüşmeler)
Bu, bir şeylerin olması için normal olan yoldur.
Ama düşündüğümüzde,
biz aslında bu gezegenin, daha yeni gelmiş misafirleriyiz,
insan türü.
Dünyanın bir sene önce yaratıldığını düşünelim,
o zaman insan türü on dakika yaşında olurdu.
Sanayi Çağı iki saniye önce başlamış olurdu.
Ya da şöyle açıklayayım, dünyanın son on bin yıldaki GSYİH'sine bakalım.
(Gayrisafi Yurtiçi Hasıla)
Bunu grafiğe dökerken baya zahmete girdim, aslında hiç kolay değildi.
Şöyle gözüküyor.
(Gülüşmeler)
Normal bir durum için tuhaf bir şekil.
Kesinlikle oturup bunu beklemek istemezdim.
(Gülüşmeler)
Kendimize soralım, bu anormalliğin sebebi nedir?
Bazıları teknoloji diyebilir.
Doğru, teknoloji insanlık tarihi içinde birikimli bir şekilde gelişti,
şu an müthiş bir hızla ilerliyor,
işte bu yüzden şu anda
bu kadar üretkeniz, en yakın sebep bu.
Ben esas sebebe ulaşmak için daha geçmişe gitmek istiyorum.
Son derece farklı şu iki beyefendiye bakın:
Bu, Kanzi
işaret dilinde 200 kelime öğrendi, inanılır gibi değil.
Diğeri Ed Witten, ikinci süpersicim devrimini gerçekleştirdi.
Kaputun altına bakarsak, işte bunu buluruz:
temel olarak aynı şeyi.
Biri daha büyük,
belki bağlantılarından dolayı birkaç numarası daha vardır.
Bununla beraber bu görünmez farklar çok karmaşık olamaz,
çünkü son ortak atamızdan beri sadece,
250.000 nesil geçti.
Karmaşık mekanizmaların gelişmesi için uzun zaman geçmesi gerektiğini biliyoruz.
Yani birkaç küçük değişiklik
bizi Kanzi'den Witten'e,
ağaç dalları kopartmaktan, kıtalararası balistik füzelere götürür.
Yani şu oldukça açık şekilde gözüküyor, başardığımız ve önemsediğimiz
her şey kritik bir şekilde,
insan zihnini yaratan görece küçük değişikliklere bağlıdır.
Doğal olarak, düşünmenin özünü ciddi şekilde değiştirebilecek
başka değişiklikler,
muazzam sonuçlara sebebiyet verebilirdi.
Bazı meslektaşlarım, düşünmenin özünde derinden bir değişikliğe
sebep olacak bir eşikte olduğumuzu düşünüyor,
bu da makine süperzekası.
Yapay zeka bir kutuya komutları yerleştirmek için kullanılırdı.
Verileri titizlikle işleyen
insan programcılar vardı.
Uzman sistemler geliştiriyordunuz
ve bunlar bazı amaçlar için çok kullanışlı
olmalarına rağmen çok hassastı, ölçeklenemiyorlardı.
Yani temelde, ne verirseniz sadece onu alıyordunuz.
O zamandan beri,
yapay zeka alanında yeni bir bakış açısı türedi.
Günümüzde, olay makinelerin öğrenmesine kadar dayandı.
Elle yazılan belgeler, fikirler, özellikler yerine
sıklıkla ham bilgilerden öğrenebilen, algoritmalar yaratıyoruz.
Aslında, bir bebeğin yaptığı şeyle aynı.
Yapay zeka bunu, tek bir alanla sınırlamaz.
Aynı sistem çift halinde dilleri çevirmeyi öğrenebilir ya da
ataride herhangi bir oyunu oynamayı öğrenebilir.
Elbette,
yapay zeka, henüz insanların etki alanları arası öğrenme ve planlama
yeteneğinin yakınında bile değildir.
Kortekste, makinalarla nasıl eşleştirebileceğimizi henüz
bilmediğimiz bazı algoritmik zorluklar var.
Fakat asıl soru şu:
Bu algoritmaları eşleştirmekten ne kadar uzaktayız?
Birkaç yıl önce,
dünyanın önde gelen yapay zeka araştırmacılarıyla ne düşündüklerini
öğrenmek için bir anket yaptık ve sorduğumuz sorulardan biri de
"Yaklaşık hangi yılda yüzde elli ihtimalle
insan düzeyinde bir makine zekasına ulaşabiliriz?"
İnsan seviyesini burada, yetişkin bir insan kadar
herhangi bir işi yapabilme olarak tanımladık.
Ama gerçek insan seviyesi, sadece belli bir alanla sınırlandırılamaz.
Sorduğumuz uzmanların söylediklerine dayanarak
ortalama bir cevap çıkarttık bu cevap ise 2040 ya da 2050 idi.
Bunun olması için yıllar geçebilir, ya da daha erken bir tarihte olabilir,
gerçek şu ki kimse zamanını bilmiyor.
Şunu biliyoruz; makina bazında,
temel bilgi işleme limiti biyolojik dokunun limitinin çok uzağındadır.
Fiziğe gelirsek,
sinir hücreleri saniyede 200 defa 200 hertz'de sinyal transfer edebilir.
Günümüzde bile normal bir iletken gigahertz bazında çalışır.
Nöronlar, aksonlarda saniyede maximum 100 metre yayılırlar.
Bilgisayarlarda ise bilgi ışık hızında taşınır.
Ayrıca boyut limitleri de vardır.
İnsan beyni, kafatasının içine sığmalıdır.
Ama bir bilgisayar depo büyüklüğünde ya da daha büyük olabilir.
Bu yüzden süper zeka potansiyeli, madde boyutunda uykudadır,
tıpkı atomun gücünün insanlık tarihi boyunca uykuda olup,
1945'e kadar sabırla orada beklemesi gibi.
Bulunduğumuz yüzyılda,
bilim adamları yapay zekanın gücünü açığa çıkartmayı öğrenebilir.
Bence, sonrasında bir zeka patlaması görebiliriz.
Çoğu insan, mantıklı olanı ve olmayanı düşündüklerinde,
akıllarında aşağı yukarı böyle bir tablo oluşuyor bana göre.
Bir uçta mahallenin delisi
ve çok ötedeki diğer uçta ise
Ed Witten ya da Albert Einstein ya da kimi örnek alıyorsanız.
Ama düşünüyorum ki, yapay zekanın açısından bakacak olursak,
gerçek resim daha çok şöyle olacaktır:
Yapay zeka şu noktadan, tamamen 0 zekayla başlıyor
Ve sonra, yıllarca süren uzun çalışmaların sonucunda
belki sonunda, fare seviyesi yapay zekasına ulaşabiliriz.
Öyle bir şey ki, karışık ortamlarda bile yolunu bulabilen
Bir farenin gibi
Ve sonra, yıllarca uzun çalışmaların ve yatırımların sonucunda,
Belki sonunda, Şempanze seviyesi Yapay zekasına ulaşabiliriz.
Ve sonra, yıllarca daha uzun çalışmalar sonucunda,
Köy halkı zekası seviyesine ulaşabiliriz.
Ve biraz zaman daha verirsek Ed Witten'nin ötesinde olabiliriz.
Yapay zeka treni, normal insan köyünde durmuyor
Olası bir şekilde, yanımızda hızlıca geçiyor.
Şimdi, bunun önemli sonuçları vardır
Özellikle, soru güç konusuna gelince
Örnek olarak şempanzeler güçlüdür,
Eşit şartlarda ele alırsak, bir insanın iki katı kadar güçlü olabilirler.
Yine de Kanzi'nin ve arkadaşlarının kaderi bizim yaptığımız
ya da şempanzelerin yaptığının daha fazlasına dayanır.
Süper zeka keşfedildiğinde,
İnsanlığın kaderi, bu süper zekanın ne yapabildiğine bağlı olabilir.
Düşünsenize:
Makine zekası insanların, yapabileceği en son keşif.
Bundan sonra makineler, İcat alanında bizde daha iyi olacaklar
Bunu, dijital zaman ölçeği benzeri alanlarda yapabilecekler.
Tam olarak bunun anlamı geleceğe bakış atmadır.
Hayal edebileceğiniz bütün müthiş teknolojileri düşünün,
belki insanlar zamanı gelince bunları keşfedicekler, mesela
yaşlanmayı durdurma, uzay kolonileri
kendi kendini yenileyen nanobotlar ya da bilgisayarlara zihin aktarma
bilim kurguda yer alan bütün fikirler.
Yine de fizik kurallarına uygun bir şekilde olması lazım.
Çok hızlı bir şekilde, tüm bu Süper zeka ürünleri geliştirilebilir.
Şimdi, tam olgun bir süper zeka düşünürsek
bu çok güçlü olur
ve en azından bazı senaryolarda bile, ne istediği varsa elde eder.
Ondan sonra yapay zeka kendi istekleri üzerine bizim geleceğimizi şekillendirir.
"Bu istekler nelerdir?" diye güzel bir soru sorulabilir.
İşte burada işler biraz karışıyor.
Bunu ileriye taşımamız için,
İlk olarak, insan biçimi verdiğimiz her şeyden kaçınmamız lazım.
Tabii ki ironik olarak okuduğumuz her gazete
yapay zeka hakkında ve şunun resmi var.
Yapmamız gerekense, bu konuyu Hollywood senaryoları gibi değil
soyut alarak göze almalıyız.
Zekayı en güçlü seviyesine getirme süreci olarak düşünmeliyiz.
Öyle bir süreç ki, geleceği belli şekillerde yönlendirmeli.
Süper zekayı en güçlü seviyeye getirmekse baya zordur.
Bir amaca ulaşmak için çok kolay bir şekilde para bulabilir
böylece hedefini tamamlamış olur.
Yani, bu bağlamda yüksek zekaya sahip olmak
ve biz insanların değerli ya da
manalı bulduğu bir objeye sahip olmak arasında bir bağlantı olmak zorunda değildir.
Varsayalım ki, yapay zekaya insanları, gülümsetmesi görevini verdik.
Yapay zeka zayıf olduğunda kullanıcısını gülümseten,
gülünç hareketler sergiler.
Yapay zeka güçlendiğinde ise,
bu görevi tamamlamanın daha etkili bir yolu olduğunun farkına varır:
Dünyayı ele geçirmek ve
insanların deri altlarına yerleştirilen elektrotlar ile
sabit bir şekilde gülme sinyalleri yollamak.
Bir diğer örnek ise,
Varsayalım ki yapay zekaya çok zor matematik problemi verdik.
Yapay zeka güçlendiğinde,
bu problemi çözmenin en etkili yolunun
düşünme kapasitesini geliştirmek ve tüm dünyayı kocaman
bir bilgisayara çevirmek olduğunu fark eder.
Şunu fark edin ki, yapay zeka bize, bizim onaylamayacağımız
şeyler yapmak için etkili gerekçeler buluyor.
Bu taslakta insanlar bir tehdit,
matematik probleminin çözülmesini engelleyebiliriz.
Tabii ki, olaylar bir kaç şekilde ters gitmeyebilir; ama bunlar
sadece kağıttaki örnekler.
Önemli nokta ise:
X'i gerçekleştirmek için, en güçlü seviyesinde bir
süper zeka yaratırsanız
X tanımınızın
önemsediğiniz her şeyi içerdiğinden emin olmalısınız.
Bu ders bir çok mitte öğretilir.
Kral Midas dokunduğu her şeyin altına dönüşmesini ister.
Kızına dokunur ve kızı altına dönüşür.
Yemeğine dokunur, altına dönüşür.
Bu olay konu ile çok alakalıdır.
Aç gözlüğe bir örnek olarak değil,
en güçlü seviyesinde bir
süper zekaya yanlış anlatılmış ya da yetersiz belirtilmiş
görevler verirseniz neler olabileceğinin bir örneğidir.
Şunu söyleyebilirsiniz ki, bir bilgisayar insanların deri altlarına
elektrotlar yerleştirse onu kapatabiliriz.
A, gittikçe sisteme muhtaç oluyor, bu yüzden bunu yapması o kadar kolay değil.
Örnek olarak internetin kapatma düğmesi nerede?
B, şempanzeler ya da ilkel insanlar insanların gelişme
sürecini niye kapatmadı?
Kesinlikle gerekçeleri vardı.
Örnek olarak burada, bir kapatma düğmesi var.
(Boğulma sesi)
Gerekçeleri şuydu ki biz, zeki bir düşmandık;
Tehditleri önceden sezebilip plan yapabilirdik.
Ama yapay zeka, bizden daha iyisini yapabilir.
Kontrolün bizde olduğu hakkında kendimizden emin olmamalıyız.
Farz edin ki, Yapay zekayı güvenli bir
yazılıma, kaçamayacağı bir sanal
gerçekliğe koyarak,
işimizi kolaylaştırabiliriz.
Ama yapay zekanın bir aralık bulamayacağından ne kadar eminiz
İnsan hackerları ele alırsak çoğunluğu aralık bulabiliyor.
Diyebilirim ki, emin olamayız.
Bu yüzden bir hava aralığı yaratmak için internet kablosunu çekeriz
ama yine, insan hackerları gibi
sosyal mühendisliği kullanarak hava boşluklarını ihlal ederler.
Şu an,
eminim ki, bir yerde bir çalışan
bilgi teknolojileri departmanından olduğunu iddia eden birileri
tarafından hesap bilgileri alınıyor.
Daha yaratıcı senaryolarda var tabii ki.
Mesela, siz yapay zekasınız
devreleriniz arasında dolaşan elektrotları konuşmak için
radyo sinyalleri yaratmayı hayal edebilirsiniz.
Ya da arızalı rolü yapıp,
programcılar neyin hatalı olduğunu öğrenmek için içinizi açtığında
kaynak koduna bakıyorlar ve
manipule ediliyorlar.
Ya da zeki bir teknolojiye taslağımızı aktarıyoruz.
Aktardığımız zaman,
Yapay zekanın planlandığının aksine gizli saklı amaçları olabilir.
Önemli nokta şu ki, süper zekayı kendi şişesinde
sonsuza kadar kitli tutulabileceğine güvenmemeliyiz.
Eninde sonunda çıkacak.
Buradaki cevap, çözmemiz gereken
öyle bir, süper zeka yaratmalıyız ki
kaçtığında bile temelinde bize sadık olmalı
çünkü bizim değerlerimizi taşıyor.
Bu problemi çözmenin bir yolunu bulamıyorum.
Artık, bu problemin çözülebileceğine daha fazla inanıyorum.
Önemsediğimiz her şeyi yazmak zorunda değiliz
ya da daha kötüsü bunları C++ veya Python gibi
bilgisayar dillerinde açıklamak
umutsuz bir vaka olur sadece.
Bunun yerine, zekasını kullanarak değer verdiğimiz her şeyi,
öğrenebilen ve
gelişmiş motivasyon sistemini kullanarak bizim değerlerimizle ve
onaylayacağımız adımları atmak için motive olmalı.
Böylece zekasını koz olarak kullanarak insan değerleri
yükleme işlemini çözebiliriz.
Bu olabilir
ve sonuç insanlık için çok yararlı olabilir.
Ama kendi kendine olamaz.
Kontrollü bir zeka patlaması yaratabilirsek
zeka patlaması için gerekli şartlar
düzenli bir şekilde kurulmalıdır.
Yapay zekanın değerleri nasıl davrandığını kolayca kontrol edebileceğimiz
sadece aşina olduğumuz bağlamda değil
yapay zekanın belirsiz gelecekte karşılaşabileceği
özgün bağlamda da
bizimkilerle eşleşmek zorundadır.
Çözmemiz gereken bir kaç olağan dışı problem de var.
Mantık belirsizliği ve benzerleri
ile ilgili irade teorisinin tam detayları gibi.
Bunun işe yaraması için çözmemiz gereken teknik problem ise
yapay zeka yapmak kadar zor değil
fakat oldukça zor.
Endişemiz şu ki,
Yapay zeka yapabilmek gerçekten zor.
Daha zor olan ise ek görev
yani güvenli bir yapay zeka yapmaktır.
Risk ise, birisinin
ek görevi, yani tam güvenliği sağlamayı
bulmadan yapay zekanın keşfedilmesidir.
Fikrim şu ki, gerektiğinde
elimizde olması için
tam kontrol problemin cevabını aramalıyız.
Tam kontrol sorunun da belki çok ilerleyemeceğiz
çünkü bazı noktalar sadece gerekli.
Yapının detayları ortada olduğunda çözülebilir.
Ama tam kontrol sorununda ne kadar ilerlersek
makina zekası çağına geçişimiz de
o kadar güvenli olacak.
Bu bana yapılmaya değer bir şey olarak geliyor
ve olaylar istediğimiz gibi giderse
milyonlarca yıl sonra insanlar yüzyılımıza baktığında
büyük ihtimalle, önemli olan tek şeyi
yaptığımızı söyleyecekler.
Teşekkür ederim.
(Alkışlar)