Vijest da je Facebook nedavno odlučio isključiti svoja dva chatbota nakon što su u međusobnoj komunikaciji razvili vlastiti jezik koji ljudi više nisu mogli razumjeti iznova je potaknula rasprave o sadašnjosti i budućnosti umjetne inteligencije.
Podsjetimo, u početku je cilj chatbotova, programa za automatizirano dopisivanje, koje su stručnjaci Facebooka nazvali Alice i Bob, bio da ih se nauči kako pregovarati imitirajući razmjenjivanje i trgovanje među ljudima, kako bi se u doglednoj budućnosti ta njihova sposobnost iskoristila u samostalnoj opciji - izravnoj komunikaciji sa stvarnim osobama, nepose ljudima.
No, situacija se iznenada zakomplicirala kad su voditelji tog projekta chatbotove spojili i pustili da razgovaraju međusobno, pa su Alice i Bob počeli razvijati neki svoj jezik komunikacije, što je izazvalo čuđenje, a onda i strah da sve izmakne kontroli. Doduše, taj je jezik chatbotova na prvi pogled bio neartikuliran, bez neke čvrste logike, no u naizgled besmislenim nizovima riječi bilo je nekakvog smisla. Ako ništo drugo, Alice i Bob su zapravo radili ono za što su bili programirani - 'pregovarali' su, ali ne na engleskom, nego riječima koje su samo njima, chatbotovima, bile razumljive. Takvo zastranjivanje skupo je koštalo Alice i Boba pa su do daljnjeg ugašeni. Naravno da u Facebooku ne odustaju od eksperimenta, kažu da uzimaju predah kako bi sve pomno analizirali i naučili kako ispravno programirati neke buduće botove, uvjereni da je ovo korak naprijed prema stvaranju robota, umjetne inteligencije u ovakoj formi, koja će moći komunicirati s ljudima bez opasnosti od zastranjivanja.
NAJVEĆI RIZIK
Slučaj s chatbotovima Facebooka nije međutim nimalo olako shvaćen kod mnogih svjetski uglednih znanstvenika i istraživača primijenjene robotike i općenito umjetne inteligencije (Artificial Intelligence). Oglasio se po tko zna koji put i glasoviti Elon Reeve Musk, američki inženjer, poduzetnik i vizionar, rođen u Pretoriji, Južnoafrička Republika, globalno poznat kao suosnivač PayPala, SpaceX i Tesla Motorsa. Elon Musk je na skupu National Governors Association (NGA) Summer Meeting, održanom na Rhode Islandu, umjetnu inteligenciju iznova nazvao “najvećim rizikom s kojim se suočavamo kao civilizacija” te dodao: “Sve dok ljudi ne ugledaju robote kako se šeću ulicom i ubijaju ljude, ne znaju kako bi reagirali jer im je sve to nestvarno. Umjetna inteligencija je rijedak slučaj u kojemu moramo biti proaktivni s regulacijom, umjesto reaktivni. Smatram da će biti prekasno ako reaktivno reagiramo na umjetnu inteligenciju.”
Govoreći pred nekoliko stotina američkih guvernera Musk je naglasio i ovo: “Obično se pravila uvode tek nakon što se dogodi gomila loših stvari i javnost počne zazivati reakciju, a godinama kasnije uspostavlja se i regulatorna agencija za industriju. To traje vječno. Takav način se u prošlosti pokazao kao loš, ali se nismo našli u situaciji u kojoj je nešto predstavljalo temeljni rizik za postojanje civilizacije... Prvo bismo trebali naučiti što je moguće više kako bismo mogli razumjeti prirodu cijele stvari”, zaključio je Musk te komentirao i temu električnih automobila. Uvjeren je da će kroz 20 godina svi imati automobile koji će sami voziti.
Nije Musk dakako jedini koji rogobori protiv AI-a ili umjetne inteligencije, bez obzira na to o kojim se područjima radi. Još su crnje prognoze koje opetovano servira u medijima Stephen Hawking, najpoznatiji svjetski živući fizičar. “Razvoj umjetne inteligencije mogao bi dovesti do izumiranja ljudske rase... Ona bi se mogla oteti kontroli i potom sama redizajnirati sve većom brzinom. Ljudi, koji su ograničeni sporom biološkom evolucijom, ne bi se mogli natjecati s njom pa bi ih umjetna inteligencija potisnula”, upozorava Hawking.
O pogubnim posljedicama razvoja, a onda i samorazvoja umjetne inteligencije govorio je i znanstvenik i YouTuber Siraj Raval na jednom od panela TNW konferencije koja se održavala u Amsterdamu. Prema Ravalu, najveća opasnost je u potencijalnoj mogućnosti da vrlo uski krug odabranih, pritom misli na vlade pojedinih zemalja ili multinacionalne korporacije, zavlada umjetnom inteligencijom i tako kreira nešto što se obično naziva “novi svjetski poredak”. Eto još jednog priloga neiscrpnoj temi teorija urota, reći će mnogi, no svi koji su gledali genijalnu američku televizijsku seriju “Person of Interest” Jonathana Nolana teško će se oteti dojmu da smo na korak do takve jezive budućnosti, sveopće kontrole i manipulacije od strane tamo nekog golemog računala, bilo da je on The Machine ili Samaritanian, kao u Nolanovoj sumornoj znanstveno-fantastičnoj epopeji.
Govoreći o konkretnim opasnostima AI-a, Raval je prijetnju sveo pod dva moguća nazivnika koja bi mogla rezultirati krahom: prvi je (što i ostali spominju) da se AI otme kontroli i krene u “porobljavanje ljudi” - što bi moglo učiniti neko superačunalo, kojeg su naravno izmislili ljudi, ali je ono postalo samostalno i neovisno i svoje “roditelje” bez milosti otpisalo kao remetilački balast. Drugi je, ništa manje opasan nazivnik, temeljen na mogućnosti manipulacije našim životima od strane čovjeka (vlast, vlada, korporacije...) preko umjetne inteligencije.
Siraj Raval ide i dalje i dublje u problematiku pa je sve to što govori pojasnio na vrlo plastičan način s realnim postavkama kojima svakodnevno svjedočimo, a radi se o lažnim vijestima. Iako se ovo mnogima čini poprilično banalnim i benignim, zapravo nije, jer ako bi se umjetna inteligencija kontrolirana od strane spomenutog uskog kruga moćnika koristila za distribuciju lažnih vijesti i ujedno kontrolu stvarnog stanja, svijet bi doista postao mjestom u kojemu bi čovječanstvo živjelo u svijetu iluzija. A manipulacija je u takvom okruženju vrlo jednostavna i omogućuje praktički potpunu kontrolu svega što se događa.
DEMOKRATIZACIJA
Doista crni scenarij, upravo onakav kakvog smo gledali u spomenutoj Nolanovoj “fantaziji” naslovljenoj “Person of Interest”. Na pitanje postoji li rješenje koje bi omogućilo da se izbjegne ovakva zlokobna budućnost, kako nas umjetna inteligencija ne bi sve skupa pobila, Raval odgovara da postoji i da se “krije” u potrebi svojevrsne demokratizacije umjetne inteligencije. To prema Ravalu konkretno znači da je potrebno umjetnu inteligenciju sasvim otvoriti i približiti što većem broju ljudi, kako bi mi kao pojedinci imali priliku shvatiti kako AI funkcionira, skinuli s nje koprenu mističnosti i straha, odnosno shvatili kako nam može poboljšati kvalitetu života. No, uz dužno poštovanje prema takvoj humanoj opciji budućnosti, ljudi su čudna sorta živih bića. Drugim riječima, ljudi su već mali milijun puta pokazali i dokazali da su kadri u trenu zaglaviti umjesto u napretku i miru, u nazatku i nemiru, odnosno u nekoj drugoj mogućnosti, onoj koja ih u konačnici skupo košta. Uz sve to, kad govorimo o AI-ju, odnosno robotima, napose umjetnoj inteligenciji, čini se kako svijet danas ipak ima i daleko većih, ozbiljnijih problema (terorizam, ratovi, glad, migracije, klimatske primjene...), premda je AI toliko moćan izazov da ga se nikako ne smije smetnuti s uma kad govorimo o budućnosti kakva bi mogla biti, makoliko se ona, budućnost, iz ove sadašnje perspektive možda i čini odveć fantastičnom da bi se dogodila već sutra ili preksutra.
SNOVI I STVARNOST
Bilo kako god, razvoj umjetne inteligencije nitko više ne moža zaustaviti. U razvoj se posljednjih godina ulažu golema novčana sredstva (SAD, Kina...), a nešto što nam se donedavno, bez obzira na to što živimo u vremenima ekstremnog tehnološkog napretka, činilo posve nezamislivo, nezaustavljivo prodire u sve pore naših svakodnevnih života. Otrcana fraza da “snovi postaju stvarnost” i nije više tako otrcana, pa je i umjetna inteligencija postala nezaobilazan dio našeg putovanja prema boljem sutra ili gorem preksutra. Pritom je posve razumljiv oprez, strah i paranoja, bez obzira na ushićenost znanstvenika koji zagovaraju razvoj AI-a. Pojednostavljeno rečeno, postoje opravdani razlozi za umjetnu inteligenciju i protiv nje, plusevi i minusi, o kojima se mora i treba voditi računa. Jer, u protivnom, obećavajuća svijetla budućnost mogla bi se lako pretvoriti u mračni scenarij sutrašnjice kad bi ljudi upravo zbog umjetne inteligencije mogli doći do svojega kraja, odnosno postati robovi vlastitog napretka. Pesimisti će reći kako balansiramo na tankoj granici između novog stupnja evolucije civilizacije i njezine deevolucije prema sumraku svijeta i ljudi.
EVOLUCIJE ILI DEEVOLUCIJA
Sve u svemu, umjetna inteligencija napreduje divovskim koracima naprijed. No, iako su rješenja u robotici, kompjutorima, mikročipovima, svoj sili pomoćnih AI artefakata sve bolja i naprednija, istovremeno postoji realna opasnost da AI u mnogim inačicama postane sve manje ovisan o interakciji s čovjekom, da se otme kontroli i da u konačnici započne “kolonizacija od strane AI-a.” A u tom slučaju likovat će i Hollywood, jer upravo je ta američka “tvornica snova” bezbroj puta u prošlosti (i sadašnjosti) prikazala što nas čeka tamo daleko, a bogme i sve bliže, kad se o budućnosti radi. Ako su Arthur C. Clarke i Stanley Kubrick promašili sa svojom “Odisejom u svemiru 2001”, to još ne znači da HAL 9000, megaračunalo iz tog filma, već nema neku svoju ovodobnu, moćniju i još opasniju verziju. Ili da Skynet, vojna mreža umjetne inteligencije iz “Terminatora” (ili svijet iz Matrixa), uskoro ne postane naša svakodnevica.
Na kraju, utješno zvuči vijest da se krenulo u osnivanje međunarodnih udruženja koja za cilj imaju upravo držati pod kontrolom razvoj AI-a. Ali i tu je kvaka - tko su ti koji nam jamče da nije u pitanju manipulacija, upravo onakva na kakvu je upozorio Siraj Raval. I Jonathan Nolan u science fiction drami “Person of Interest”. I Daniel H. Wilson u svome romanu “Robokalipsa”. I još niz drugih futurista, dalekovidnih znanstvenika, pisaca, filmaša... Kad sve to uzmemo u obzir, tri zakona robotike, koja je u kolektivnu svijest čovječanstva ugradio veliki Isaac Asimov, čine se danas tek kao utopistički ideal kojeg svednevice demantiraju distopijske vizije realno moguće budućnosti.
KRIVCI SU LJUDI
Terminator nas pogrešno uči
Nisu problem roboti, nego ljudi. No, kad ljudi stradaju od robota, to je već razlog za izokretanje spomenute teze. Primjerice, nesretni slučaj u Volkswagenovoj tvornici u Njemačkoj, gdje je robot ubio čovjeka, potaknuo je mnoge da spremno zaključe kako, eto, strojevi, preuzimaju svijet. Tim su se pitanjem pozabavili i na portalu Mashable, ali na svoj ironičan način. Potaknut slučajem u VW tvornici, ali i filmovima o Terminatoru, Mashable odbija priznati da nam prijeti globalna robokalipsa, nego samo lokalna, što potkrjepljuju nizom primjera iz prošlosti, koji su povezani sa smrću ljudi čiji je uzrok - stroj. Tako je prvi slučaj kada je “robot ubio čovjeka” zabilježen 1979. godine. No, gledajući statistički, manje od jedne osobe godišnje u svijetu umre od “ruke robota”, što je nedostatno da se stanje potvrdi kao alarmantno. Zapravo, Mashable poziva na razum i okrivljuje Terminator franšizu za širenje pretjeranog straha od robota. To je potvrdio i Alan Winfield, profesor na Bristol Robotic Laboratory, u Financial Timesu. Ukupno uzevši, znanstvena fantastika (filmovi, TV serije, knjige...) ima veliku ulogu u širenje straha od robota i robotike još od 1921. godine, kada je riječ 'robot' prvi put upotrijebljena. I to u predstavi R.U.R, koja se bazira na situaciji u kojoj stroj ubija sve ljude na svijetu (dakle, scenarij Terminatora nije originalan nego prerađen). Što se pak tiče japanskih robota koji obavljaju poslove za koje bi bilo potrebno platiti više radnika, tu je zapravo opravdan strah da industrijski roboti, kompjutori i online algoritmi 'istisnu' ljude iz svakodnevnih poslova. Ukratko, ljudi su zapravo prava opasnost, ljudi su “roboti koji napadaju”, a ne obratno, tvrdi Mashable. Ne postoji takav “pametni stroj” koji ima toliku razinu inteligencije da počini namjerno ubojstvo - čovjeka. Za sada. Problem je u nama, budući da “previše u glavi vrtimo Terminatora i apliciramo zbivanja iz Skynet firme u svakodnevnici”, zaključuje portal.(D.J.)
Otrcana fraza da “snovi postaju stvarnost” i nije više tako otrcana. Umjetna inteligencija postala je nezaobilazan dio našeg putovanja prema boljem sutra ili gorem preksutra...
Sve dok ljudi ne ugledaju robote kako se šeću ulicom i ubijaju ljude, ne znaju kako bi reagirali jer im je sve to nestvarno...
ELON MUSK
ISAAC ASIMOV
Tri zakona robotike (+ jedan nulti)
Robot ne smije naškoditi čovječanstvu ili svojom pasivnošću dopustiti da se čovječanstvu naškodi.
Robot ne smije naškoditi čovjeku ili svojom pasivnošću dopustiti da se čovjeku naškodi, osim kad je to u suprotnosti s nultim zakonom.
Robot mora slušati ljudske naredbe, osim kad su one u suprotnosti s nultim ili prvim zakonom.
Robot treba štititi svoj integritet, osim kad je to u suprotnosti s nultim, prvim ili drugim zakonom.