El akarom mondani, mi következik.
Szerencsés vagyok: már majdnem 15 éve az MI-n dolgozom.
A kezdeteket jelentéktelennek nevezni lebecsülő lenne.
Kutatók azt mondanák: „Nem, nem, csak a gépi tanuláson dolgozunk.”
Mert az MI-n végzett munkát túlzó ötletnek tekintették.
2010-ben az AGI kifejezés,
a mesterséges általános intelligencia említése
fura tekintetet
és rideg fogadtatást váltott ki.
„Tényleg AGI-t építesz?” – kérdezgették.
„Ez nem valami tudományos fantasztikum?”
Azt hitték, hogy 50-100 évre vagyunk tőle,
ha egyáltalán megvalósul.
A mesterséges intelligenciáról beszélni kínos volt.
Furcsának tartottak minket.
Bizonyos szempontból azok is voltunk.
Nem telt el sok idő, mire az MI elkezdte legyőzni az embereket
számos olyan feladatban,
amelyeket addig kizártnak hittek.
Képek elemzésében,
nyelvek fordításában,
beszédátírásban,
go- és sakkjátékban,
sőt, betegségek diagnosztizálásában is.
Az emberek kezdtek ráébredni,
hogy az MI hatása óriási,
és tényleg nehéz kérdéseket tettek fel
a magamfajta technológusoknak.
Igaz, hogy az MI megoldja az éghajlati válságot?
Mindenkinek elérhetővé teszi a személyre szabott oktatást?
Eszerint mindannyian egyetemes alapjövedelmet kapunk,
és nem kell többé dolgoznunk?
Félnem kéne?
Mit jelent ez a fegyvereket és a háborút illetően?
És természetesen, Kína nyer?
Versenyben vagyunk?
Tömeges téves információs apokalipszis felé tartunk?
Mindegyik kérdés jó.
De valójában egy sima
és sokkal alapvetőbb kérdés ejtett zavarba.
Olyan, amelyik mindennap a munkám középpontjába kerül.
Reggeli közben hatéves unokaöcsém,
Caspian játszott Pi-vel, a mesterséges intelligenciával,
amelyet az utolsó cégemnél, az Inflectionnál hoztam létre.
Tojásrántottával teli szájjal
egyenesen az arcomba nézett, és azt mondta:
„De Mustafa, egyébként mi az MI?”
Olyan őszinte, kíváncsi és optimista kissrác!
Beszélt Pi-vel arról, milyen jó lenne
a jövőben egy nap meglátogatni a dinoszauruszokat az állatkertben,
és hogyan tudna végtelen mennyiségű csokoládét készíteni otthon.
De miért nem tud a Pi még „Én, a kém” játékot játszani?
„Hát – mondtam –, ez okos szoftver,
amely a szöveg nagy részét a nyílt interneten elolvassa,
és bármiről beszélhet veled, amiről szeretnél.”
„Rendben.
Tehát olyan, mint az ember?”
Megdöbbentem.
Zavartan megvakartam a fejem.
Minden unalmas szabványválaszom átfutott az agyamon.
„Nem, hanem az MI csak újabb általános célú technológia,
mint a nyomtatás vagy a gőz.
Olyan eszköz lesz, amely kiegészít minket,
okosabbá és termelékenyebbé tesz minket.
Idővel fejlődik,
mindentudó orákulumhoz hasonlít,
amely segít megoldani a nagy tudományos feladatokat.”
Úgy éreztem, hogy ezek a válaszaim
kissé védekezőnek tűntek.
Jobban illettek politikai szemináriumra,
mint hatéves gyermekkel folytatott komoly beszélgetésre.
„Miért habozok?” – gondoltam magamban.
Legyünk őszinték.
Unokaöcsém egyszerű kérdést tett fel nekem,
amellyel az MI-ben dolgozók nem elég gyakran szembesülünk.
Mit alkotunk valójában?
Mit jelent valami teljesen újat készíteni,
ami alapvetően különbözik a korábban ismert találmányoktól?
Nyilvánvaló, hogy az emberiség történetének fordulópontján vagyunk.
Jelenlegi pályánkon
valami megjelenése felé haladunk,
amit nehezen tudunk leírni,
és még nem tudjuk irányítani azt, amit nem értünk.
Tehát a metaforák,
a mentális modellek,
a nevek, ezek mind számítanak,
ha a legtöbbet akarjuk kihozni az MI-ből, miközben szűkítjük lehetséges hátrányait.
Mivel értékeljük e technológia lehetőségeit,
de mindig kiemelt figyelmet szenteltünk az etikájának is,
meg kell tudnunk egyszerűen fogalmazni,
hogy mit fejlesztünk.
Még a hatéves gyerekeknek is.
E szellemben ajánlom fel ma a következő metaforát,
amely segít megragadni ezt a pillanatot.
Az MI-t legjobb digitális új fajként értelmezni.
Ne vegyék egészen szó szerint,
de azt jósolom, hogy digitális társunk,
életre szóló új partnerünk lesz.
Akár úgy is vehetik, hogy 10, 20 vagy 30 éves út áll előttünk,
ez a legpontosabb és legalapvetőbb őszinte leírása annak,
hogy mi várható.
Mindenekelőtt módot ad rá,
hogy felkészüljünk és alakítsuk a jövőnket.
Tökéletesen értem, hogy ez erős állítás,
de a lehető legjobban elmagyarázom, miért mondom.
De először hadd próbáljam meg meghatározni a kontextusomat.
Az első mikroszkopikus organizmusoktól kezdve
a földi élet évmilliárdokra nyúlik vissza.
Ez idő alatt az élet fejlődött és változatossá vált.
Majd pár millió éve valami megváltozott.
Számtalan növekedési és alkalmazkodási ciklus után az élet egyik ága
eszközöket kezdett használni, és ez az ág emberré fejlődött.
Továbbá elbűvölő eszközöket gyártottunk,
először lassan, majd elképesztő sebességgel áttértünk
a kőbaltáról és a tűzről
a nyelvre, az írásra, és végül az ipari technológiákra.
Egy találmány ezernyi újabbat ihletett.
Idővel homo technologicus lettünk.
Körülbelül 80 éve jelent meg
a technológia újabb ága.
A számítógépek feltalálásával gyorsan ugrottunk
az első nagygépektől és tranzisztoroktól
a mai okostelefonokig és virtuálisvalóság-fejhallgatókig.
Információ, tudás, kommunikáció, gépi vezérlés.
Ebben a forradalomban
az alkotás úgy robbant be, mint még soha.
Most új hullám áll előttünk.
A mesterséges intelligencia, azaz MI.
A történelem e hullámai egyértelműen felgyorsulnak,
mivel mindegyiket felerősíti és felgyorsítja az előző.
Ha visszanéznek,
egyértelmű, hogy a valaha volt leggyorsabb
és legmeghatározóbb hullámban vagyunk.
Az emberiség és a technológia most mélyen összefonódnak.
Mindössze 18 hónap alatt
több mint egymilliárd ember használt nagy nyelvi modelleket.
Egymást követték a mérföldkövet jelentő események.
Néhány éve még azt mondták, hogy az MI soha nem lesz kreatív.
Az MI-t ma már a kreativitás végtelen folyamaként észleljük:
verset ír és képet, zenét és videókat készít, amelyek meghaladják a képzeletet.
Azt mondták, hogy soha nem lesz empatikus.
Ma millióik élvezik az értelmes beszélgetéseket az MI-kkel,
beszélnek reményeikről és álmaikról,
és átsegítik őket a nehéz érzelmi megpróbáltatásokon.
Az MI-k már autót is képesek vezetni,
energiahálózatokat kezelni,
sőt, új molekulákat is feltalálhatnak.
Néhány évvel ezelőtt ezek mindegyike lehetetlen volt.
Mindezt az adatok és a számítások exponenciális növekedése
turbózza fel.
Tavaly az Inflection 2.5, az utolsó modellünk,
ötmilliárdszor több számítást használt,
mint a DeepMind MI, amely alig több mint 10 évvel ezelőtt
legyőzte a régi iskolai Atari játékokat.
Ez kilenc nagyságrenddel több számítás.
Évente tízszer több,
minden évben alig egy évtized alatt.
Ugyanakkor e modellek mérete az első tízmillió paraméterről
több milliárd paraméterre nőtt,
és hamarosan több tízbillió paraméter lesz.
Ha valaki a nap 24 órájában egész életében csak olvasna,
nyolcmilliárd szóig jutna el.
Persze, ez rengeteg szó.
De ma a legfejlettebb MI-k több mint nyolcbillió szót használnak
egyetlen hónapos képzés alatt.
És mindez folytatódik.
A technológiai történelem hosszú íve most rendkívüli új szakaszba jutott.
Mit jelent ez a gyakorlatban?
Ahogy az internet böngészőt adott nekünk,
az okostelefon pedig alkalmazásokat,
a felhőalapú szuperszámítógép
a mindenütt jelen lévő MI új korszakát nyitja meg.
Hamarosan minden beszélgetős felületen jelenik meg.
Vagy másképp fogalmazva, személyes MI-nk lesz.
Ezek az MI-k végtelenül hozzáértők lesznek,
és hamarosan tényszerűen pontosak és megbízhatók is.
Majdnem tökéletes IQ-juk lesz.
Kivételes EQ-juk is lesz.
Kedvesek lesznek, támogatók, empatikusak.
Ezek az elemek önmagukban megváltoztatják a világot.
Képzeljék el, ha mindenki zsebében személyre szabott oktató lenne,
és hozzáférne olcsó orvosi tanácsokhoz.
Egy ügyvéd és egy orvos,
egy üzleti tanácsadó és edző,
mindez a nap 24 órájában a zsebében.
De a dolgok valóban megváltoznak, amikor kifejlesztik azt,
amit AQ-nak nevezek, az alkalmazkodási intelligenciahányadost.
Ez a mutató kifejezi képességüket, hogy ténylegesen tevékenykedjenek
a digitális és a fizikai világban.
Nemsokára nem csak az embereknek lesz MI-je.
Bármennyire furcsán hangzik, minden szervezetnek: a kisvállalkozástól
a nonprofit szervezeten át a nemzeti kormányig,
mindegyiknek lesz sajátja.
Minden városnak, épületnek és objektumnak
egyedi interaktív MI-je lesz.
Ezek nemcsak gépies asszisztensek lesznek,
hanem társak, bizalmasok,
kollégák, barátok és partnerek is,
olyan változatosak és egyediek, mint mi mindannyian.
Ekkor az MI-k meggyőzően utánozzák a legtöbb feladatban az embereket.
A legbensőségesebb mértékig kapcsolódunk hozzájuk.
MI, amely közösségi összejövetelt szervez egy idős szomszédnak.
Együttérző szakértő, aki segít megérteni a bonyolult diagnózist.
De a legáltalánosabb dolgokban is érezni fogjuk.
Felgyorsuló tudományos felfedezések,
önvezető autók az utakon,
drónok az égen.
Mindent tesznek: Kaját rendelnek, és üzemeltetik az erőművet.
Kapcsolatba fognak lépni velünk, és természetesen egymással.
Minden nyelven beszélnek,
minden érzékelő adatot felfognak,
látványokat, hangokat,
adatfolyamokat és információáramlásokat fogadnak,
messze többet, mint amennyit bármelyikünk ezer élet alatt feldolgozni képes.
Szóval, mi ez?
Mik ezek az MI-k?
Ha mindenekelőtt a biztonságot akarjuk előtérbe helyezni,
hogy az új hullám mindig az emberiséget szolgálja és erősítse,
akkor meg kell találnunk a megfelelő metaforákat arra, hogy ez mivé válhat.
Évek óta az MI közösségben mi, és főleg én,
hajlamosak vagyunk csak eszközként hivatkozni rá.
De ez nem igazán rögzíti, hogy mi történik itt valójában.
Az MI-k egyértelműen dinamikusabbak,
kétségesebbek, integráltabbak
és kiemelkedőbbek a puszta eszközöknél,
amelyeket teljes mértékben emberek kezelnek.
Hogy visszaszorítsuk ezt a hullámot,
és az embert helyezzük a középpontba,
és enyhítsük a felmerülő elkerülhetetlen és váratlan következményeket,
amelyek valószínű, hogy felbukkannak,
úgy kell gondoljunk rájuk, mint újabb digitális fajra.
Ez csak analógia,
nem szó szerinti leírás, és nem tökéletes.
Kezdetben nyilvánvalóan semmilyen hagyományos értelemben
nem biológiai jellegűek; de álljunk meg egy pillanatra,
és tényleg gondoljuk át, amit már tesznek.
Nyelveinken kommunikálnak.
Látják, amit mi látunk.
Elképzelhetetlenül nagy mennyiségű információt dolgoznak fel.
Emlékezetük van.
Személyiségük van.
Kreativitásuk van.
Érvelhetnek bizonyos területeken, és kezdeti terveket fogalmazhatnak meg.
Önálló módon tudnak cselekedni, ha megengedjük nekik.
Mindezt kifinomultan teszik,
amely messze meghaladja mindazt, amit valaha puszta eszközként ismertünk.
Azt állítani, hogy az MI főleg a matematikáról vagy a kódról szól,
olyan, mint azt mondani, hogy mi emberek főleg szénből és vízből állunk.
Ez igaz, de így teljesen figyelmen kívül hagyjuk a lényeget.
Igen, értem, ez teljesen elrettentő gondolat,
de őszintén úgy gondolom, hogy ez segít a kritikus kérdésekre összpontosítani.
Mik a kockázatok?
Melyek azok a határok, amelyeket elő kell írnunk?
Milyen MI-t akarunk építeni vagy engedélyezni?
Ez még mindig folyamatban van.
Semmit sem szabad adottként elfogadni.
Együtt döntjük el, mit teremtünk.
Milyen MI-ket hozunk a világra, vagy nem.
Ezek a kérdések itt mindannyiunknak szólnak,
és mindannyian e pillanatban éljük meg.
Számomra e technológia előnyei lenyűgözően nyilvánvalók,
és mindennap ösztönzik életem munkáját.
De őszintén szólva, az MI-k magukért fognak beszélni.
Az évek során soha nem zárkóztam el a kockázatok kiemelésétől,
sem a hátrányokról való beszélgetéstől.
E gondolkodás segít összpontosítani a hatalmas kihívásokra,
amelyek mindannyiunk előtt állnak.
De tisztázzuk!
Nincs a fejlődésnek olyan útja,
amelyikből kihagyjuk a technológiát.
Az egész civilizációnak óriási a tét.
Megoldások kellenek az egészségügy, az oktatás terén, az éghajlati válságra.
Ha az MI csak töredékét nyújtja a lehetőségeinek,
akkor a következő évtized lesz
a legtermékenyebb az emberiség történetében.
Gondolhatunk rá másképp is.
A múltban
a gazdasági növekedés beindulása gyakran hatalmas hátrányokkal is járt.
A gazdaság bővült, amikor az emberek új földrészeket fedeztek fel,
és új határokat nyitottak meg.
De gyarmatosították a népességet.
Gyárakat építettünk,
de komor és veszélyes munkahelyek születtek.
Olajat bányásztunk,
de szennyeztük a bolygót.
Most, mivel még tervezzük és építjük az MI-t,
van lehetőségünk jobbat létrehozni,
gyökeresen jobbá tenni.
Ma nem fedezünk fel új kontinenst,
és nem fosztjuk ki az erőforrásait.
A semmiből építünk egyet.
Néha azt mondják, hogy az adatok vagy a csipek a 21. század új olaja,
de ez hibás megközelítés.
Az MI az elmének az,
ami a nukleáris fúzió az energiának.
Korlátlan, bőséges,
világot megváltoztató.
Az MI valóban más,
és ez azt jelenti, hogy kreatívan és őszintén kell gondoljunk rá.
Analógiáinkat és metaforáinkat
a határokig kell tolnunk,
hogy megküzdjünk azzal, ami várható.
Mert ez nem csak újabb találmány.
Az MI maga a végtelen feltaláló.
Igen, ez egyszerre izgalmas és ígéretes,
aggasztó és érdekes.
Hogy őszinte legyek, elég szürreális.
De lépjünk hátra,
nézzük meg a jégkorszak távlatában,
és ezek valóban a létező legmegfelelőbb metaforák.
A földi élet kezdete óta fejlődünk,
változunk,
majd mindent megteremtünk magunk körül a mai emberi világunkban.
Az MI nem esik kívül ezen a történeten.
Valójában éppen ellenkezőleg.
Az MI az általunk létrehozott egész mindenség kivonata,
amellyel mindannyian kölcsönhatásba léphetünk,
és profitálhatunk belőle.
Ez az emberiség tükröződése az időben,
és ebben az értelemben
egyáltalán nem új faj.
Itt végződnek a metaforák.
Íme, a válaszom, Caspian, amikor legközelebb megkérdezel.
Az MI nem különálló.
Az MI bizonyos értelemben egyáltalán nem új.
Mi vagyunk az MI.
Mindenki.
Íme talán a legígéretesebb és létfontosságú dolog minden közül,
amit még egy hatéves gyerek is érthet:
Ahogy kiépítjük az MI-t,
tükrözhetjük és kell tükröznünk mindazt, ami jó,
mindent, amit szeretünk,
mindent, ami az emberiségben különleges:
empátiánkat, kedvességünket,
kíváncsiságunkat és kreativitásunkat.
Ez a 21. század legnagyobb kihívása,
de egyben a legcsodálatosabb is,
Ösztönző és reményteli lehetőség mindannyiunknak,
Köszönöm.
(Taps)
Chris Anderson: Köszönöm, Mustafa.
Ez csodálatos elképzelés és nagyon erős metafora.
Fantasztikus helyzetben vagy most.
Csípőből kapcsolódtál
az OpenAI-n zajló csodálatos munkához.
Forrásokat biztosítanak hozzá,
ismertetik az óriási új adatközpontokat,
100 milliárd dollárt fektetnek bele.
Új faj alakulhat ki belőle.
A könyvedben,
hihetetlen optimista víziót festettél,
de nyomatékosan szóltál az MI veszélyeiről is.
Kíváncsi vagyok,
mi nem hagy aludni mostanában?
MS: Nagy a kockázata, hogy elakadunk:
pesszimizmus-irtózás csapdának nevezem.
Bátran szembe kell nézzünk
a sötét forgatókönyvek lehetőségével,
hogy a legtöbbet hozhassuk ki a látható előnyökből.
A jó hír, hogy az elmúlt két-három évben
nagyon-nagyon kevés mélypont volt.
Nehéz egyértelműen azonosítani a nagy nyelvi modellek okozta károkat.
De ebből nem következik, hogy ez lesz az irány
a következő évtizedekben.
Néhány konkrét képességre figyeljünk,
például az önállóságra.
Az önállóság nyilvánvalóan olyan küszöb,
amely felett megnő a társadalmi kockázat.
De el kell menni a lehetőségek határáig.
A másik a rekurzív önfejlesztés lenne.
Ha megengedjük, hogy a modell önállóan fejlődjön,
frissítse saját kódját,
felfedezzen felügyelet nélküli környezetet,
és emberi beavatkozás nélkül változtassa működését,
az nyilván veszélyesebb lenne.
De még messze vagyunk ettől.
Még jó öt-tíz év telik el, mire tényleg szembe kell néznünk ezzel.
De már ideje beszélnünk róla.
CA: A digitális faj a biológiai fajoktól eltérően nem kilenc hónap alatt,
hanem kilenc nanoszekundum alatt képes lemásolni magát,
s végtelen sok példányt készíthet magáról,
amelynek sok tekintetben több hatalma van nálunk.
A nem kívánt következmények lehetősége elég hatalmasnak tűnik.
Ha baj merül fel,
az egy órán belül megtörténhet, ugye?
MS: Nem.
Egyáltalán nem így van.
Nincs erre utaló bizonyíték.
Gyakran nevezik ezt
tudásrobbanásnak.
Ez elméleti, feltételezett dolog,
amelyet kíváncsian kutatunk,
de nincs ilyesmire utaló jel a láthatáron.
Lényeges, hogy körültekintően válogassuk meg szavainkat.
Mert igazad van, ez a faj elnevezés egyik gyengesége,
hogy megtervezzük az önszaporító képességet,
ha az emberek ezt választják.
Amondó vagyok, hogy nem kellene beletenni,
mert veszélyes képesség lenne,
és jobb lenne kihagyni.
Nincs esély arra, hogy ez véletlenül megjelenjen.
Egészen kicsi a valószínűsége.
Csak akkor történik meg, ha a mérnökök szándékosan tervezik bele.
Ha nem törik magukat, hogy szándékosan beletervezzék, nem lesz.
Ezért lényeges az egyértelműség és az átláthatóság,
hogy már a tervezés elején írjuk elő a biztonságot.
CA: Köszönöm, hogy látomásodba
önmagunk legjobb részei kerülnek bele,
elkerülve azokat a furcsa, eszement, szörnyű biológiai hajlamokat,
melyek néha előfordulnak.
Biztató jövőkép.
Köszönöm, hogy eljöttél, és véleményedet elmondtad a TED-en.
Köszönöm, sok szerencsét.
(Taps)