Geoffrey Hinton bio je pionir umjetne inteligencije (AI). On i njegova dva diplomirana studenta stvorili su na Sveučilištu u Torontu tehnologiju koja je postala intelektualni temelj za AI sustave, koje vodeće tehnološke industrije danas smatraju ključnima za svoju budućnost.
Međutim, Hinton je u ponedjeljak kazao da je dao otkaz u Googleu, gdje je radio više od deset godina i službeno se pridružio sve većem broju kritičara koji upozoravaju da tehnološke tvrtke srljaju u opasnost svojom agresivnom kampanjom za stvaranje proizvoda temeljenih na generativnoj umjetnoj inteligenciji, koja pokreće popularne chatbotove poput ChatGPT-a.
Hinton želi slobodno govoriti o rizicima AI-a, a dio njega, kazao je, sada žali zbog svog životnog djela.
Kako spriječiti loše aktere da to koriste za loše stvari?
"Tješim se normalnim izgovorom: Da nisam ja to učinio, netko drugi bi”, kazao je dr. Hinton tijekom dugog intervjua prošloga tjedna za New York Times, u svom domu u Torontu, tek par minuta udaljenom od mjesta gdje je sa svojim studentima napravio proboj.
Hintonovo putovanje od AI pionira do onoga koji upozorava na opasnosti umjetne inteligencije, označava izuzetan trenutak za tehnološku industriju u možda najvažnijoj prekretnici u zadnjih nekoliko desetljeća. Naime, čelnici industrije vjeruju da bi novi AI sustavi mogli biti jednako važni kao uvođenje web tražilice u ranim 1990-ima te dovesti do otkrića od područja istraživanja lijekova do obrazovanja.
Mnoge insajdere, pak, muči da puštaju nešto opasno na slobodu. Generativna umjetna inteligencija već može biti alat za dezinformiranje. Uskoro bi to moglo predstavljati rizik za radna mjesta. Negdje na tom putu, kažu najveći skeptici, to bi moglo predstavljati rizik za čovječanstvo.
"Teško je vidjeti kako možete spriječiti loše aktere da to iskoriste za loše stvari", kaže Hinton.
Otkriće važnije i od vatre?
Nakon što je startup OpenAI iz San Francisca u ožujku objavio novu verziju ChatGPT-a, više od 1000 tehnoloških lidera i istraživača potpisalo je otvoreno pismo pozivajući na šestomjesečni moratorij na razvoj novih sustava jer AI tehnologije predstavljaju "duboke rizike za društvo i čovječanstvo".
Nekoliko dana kasnije, 19 sadašnjih i bivših čelnika Udruge za unapređenje umjetne inteligencije, 40-godišnjeg akademskog društva, objavilo je vlastito pismo upozoravajući na rizike od umjetne inteligencije. Ta je skupina uključivala Erica Horvitza, glavnog znanstvenog direktora u Microsoftu, koji je implementirao tehnologiju OpenAI-a u širok raspon proizvoda, uključujući svoju tražilicu Bing.
Hinton, često nazivan "Kumom umjetne inteligencije", nije potpisao nijedno od tih pisama i rekao je da ne želi javno kritizirati Google ili druge kompanije dok ne da otkaz na poslu. Prošloga mjeseca obavijestio je tvrtku da daje ostavku, a u četvrtak je telefonski razgovarao sa Sundarom Pichaijem, izvršnim direktorom Googleove matične tvrtke Alphabet. Odbio je javno govoriti o detaljima tog razgovora. Inače, Sundar Pichai nedavno je i sam priznao da ga ne razumije umjetnu inteligenciju u potpunosti.
"Uvijek sam mislio da je umjetna inteligencija najvažnija tehnologija na kojoj čovječanstvo radi. Čak i važnija od vatre, struje i svega što smo učili kroz povijest", kazao je Pichai u nedavnom intervjuu za CBS te priznao da je jako zabrinut zbog nekontroliranog napretka te tehnologije. "Može biti vrlo štetno ako se sve pogrešno postavi. Nemamo sve odgovore, a tehnologija brzo napreduje. Drži li me to budnim noćima? Apsolutno", dodao je.
"Ostajemo predani odgovornom pristupu A.I. Kontinuirano učimo razumjeti nove rizike dok istovremeno hrabro inoviramo”, kazao je pak Googleov glavni znanstvenik Jeff Dean.
Posao vrijedan 44 milijuna dolara
Hinton, inače 75-godišnji britanski iseljenik, doživotni je akademik čija je karijera vođena njegovim osobnim uvjerenjima o razvoju i korištenju umjetne inteligencije. Godine 1972., kao diplomirani student na Sveučilištu u Edinburghu, dr. Hinton je prihvatio ideju zvanu neuronska mreža. Neuronska mreža je matematički sustav koji uči vještine analizom podataka. U to je vrijeme malo istraživača vjerovalo u tu ideju. Ali to je postalo njegovo životno djelo.
Osamdesetih godina prošlog stoljeća, dr. Hinton je bio profesor informatike na Sveučilištu Carnegie Mellon, ali je napustio sveučilište i otišao u Kanadu, jer je rekao da nerado prihvaća sredstva Pentagona. U to vrijeme, većinu AI istraživanja u Sjedinjenim Državama financiralo je Ministarstvo obrane., a Hinton se duboko protivio korištenju umjetne inteligencije na bojnom polju — onome što on naziva 'vojnicima robotima'.
Godine 2012. dr. Hinton i dvojica njegovih studenata u Torontu, Ilya Sutskever i Alex Krishevsky, izgradili su neuronsku mrežu koja je mogla analizirati tisuće fotografija i sama sebe naučiti identificirati uobičajene objekte, poput cvijeća, pasa i automobila.
Google je potrošio 44 milijuna dolara za kupnju tvrtke koju su Hinton i njegova dva učenika pokrenuli. Njihov sustav doveo je do stvaranja sve moćnijih tehnologija, uključujući nove chatbotove kao što su ChatGPT i Google Bard. Sutskever je postao glavni znanstvenik u OpenAI-ju, a 2018. dr. Hinton i njegova dva dugogodišnja suradnika dobili su Turingovu nagradu, često nazivanu "Nobelovom nagradom za računalstvo", za svoj rad na neuronskim mrežama.
Bolje od onog što se događa u mozgu?
Otprilike u isto vrijeme, Google, OpenAI i druge tvrtke započele su graditi neuronske mreže koje su učile iz ogromnih količina digitalnog teksta. Dr. Hinton je smatrao da je to moćan način da strojevi razumiju i generiraju jezik, ali da je inferioran u odnosu na način kako ljudi barataju jezikom.
Prošle godine, kada su Google i OpenAI izgradili sustave koristeći mnogo veće količine podataka, njegovo se gledište promijenilo. Iako je i dalje vjerovao da su sustavi na neke načine inferiorni u odnosu na ljudski mozak, smatrao je da zasjenjuju ljudsku inteligenciju na druge načine.
"Možda je ono što se događa u tim sustavima zapravo puno bolje od onoga što se događa u mozgu", rekao je. Kako tvrtke poboljšavaju svoje AI sustave, smatra Hinton, oni postaju sve opasniji.
"Pogledajte kako je bilo prije pet godina, a kako je sada", kazao je Hinton o umjetnoj inteligenciji. "Uzmite razliku i pomaknite je naprijed. To je zastrašujuće.”
Sve do prošle godine, kazao je Hinton, Google je djelovao kao "pravi upravitelj" tehnologije, pazeći da ne objavi nešto što bi moglo naštetiti. Ali sada kada je Microsoft proširio svoju tražilicu Bing s chatbotom - što predstavlja izazov Googleovoj osnovnoj djelatnosti - Google se utrkuje u implementaciji iste vrste tehnologije. Tehnološki divovi uhvaćeni su u natjecanje koje je možda nemoguće zaustaviti, smatra dr. Hinton.
Roboti ubojice postaju stvarnost?
Njegova trenutačna briga je da će internet biti preplavljen lažnim fotografijama, videima i tekstovima, a da prosječna osoba "više neće moći znati što je istina".
Također je zabrinut da će AI tehnologija s vremenom preokrenuti tržište rada. Danas chatbotovi poput ChatGPT-a obično nadopunjuju ljudske radnike, ali bi mogli zamijeniti pripravnike, osobne asistente, prevoditelje i druge koji obavljaju zadatke napamet. "Uzima težak posao", rekao je. "Mogla bi uzeti više od toga."
Hinton je zabrinut da buduće verzije tehnologije predstavljaju prijetnju čovječanstvu jer često uče neočekivano ponašanje iz golemih količina podataka koje analiziraju. To postaje problem, rekao je, jer pojedinci i tvrtke dopuštaju AI sustavima, ne samo da generiraju vlastiti računalni kod, već zapravo da sami pokreću taj kod. Hinton se boji dana kada će istinski autonomno oružje - ti roboti ubojice - postati stvarnost.
"Ideja da bi ove stvari zapravo mogle postati pametnije od ljudi - nekoliko je ljudi vjerovalo u to", rekao je. "Ali većina je mislila da je daleko od toga. Mislio sam da je daleko. Mislio sam da je to za 30 do 50 godina ili čak i duže. Očito, više ne mislim tako.”
Mnogi drugi stručnjaci, uključujući Hintonove studente i kolege, kažu da je ova prijetnja hipotetska. Ali dr. Hinton vjeruje da će utrka između Googlea i Microsofta te ostalih eskalirati u globalnu utrku koja neće prestati bez neke vrste globalne regulacije.
Za razliku od nuklearnog oružja, smatra Hinton, ne postoji način da se sazna rade li tvrtke ili zemlje na tehnologiji u tajnosti. Najveća nada je da vodeći svjetski znanstvenici surađuju na načinima kontrole tehnologije. "Mislim da ne bi trebali povećavati ovo sve dok ne shvate mogu li to kontrolirati", rekao je.
Kada bi ga ljudi znali pitati, kako je to raditi na tehnologiji koja je potencijalno opasna, dr. Hinton bi znao parafrazirati Roberta Oppenheimera, 'oca atomske bombe': "Kad vidite nešto što je tehnički slatko, učinite to."
Više to ne govori.
