Gotovo se apsurdnim čini da se za pojam "algoritam" na Googleu, čim tu riječ ukucate u tražilicu, prvo objašnjenje daje - umjetna inteligencija, dakle UI, odnosno AI! Definiciji, makoliko u startu bila površna, načelno se nema što prigovoriti, a ona, definicija, glasi: Algoritmi danas igraju presudnu ulogu u oblikovanju digitalnog svijeta, utječući na sve - od sadržaja koji konzumiramo i načina na koji govorimo do cijena, kreditne sposobnosti i svakodnevnog ponašanja. Oni djeluju kao nevidljivi posrednici koji testiraju i povezuju sadržaj, oblikujući naše stavove i percepciju stvarnosti.

Naravno da je kontekst u kojem možemo i trebamo algoritme promatrati i tumačiti mnogo širi i dublji, a ponekad i zabavan, kako to u knjizi Algospeak ("Algogovor") piše Adam Aleksic, mladi američki lingvist i TikTok influencer, čiji su se roditelji devedesetih iz Beograda preselili u Sjedinjene Države. "Algoritmi su počinitelji, influenceri su suučesnici, jezik je oružje, a ti si, dragi čitatelju, žrtva", poentira Aleksic u poglavlju knjige koji se bavi (doduše nedovojno) algoritmima.

ŽIVOT U BALONU

S obzirom na to da živimo u globalno umreženom i digitaliziranom svijetu, u komunikacijskom kaosu u kojem je sve nadohvat jednog klika na mobitelu ili laptopu, koliki je i kakav utjecaj algoritama na društvo u cjelini, ali i na njegove pojedine segmente - pitali smo prof. dr. sc. Tomislava Pletenca, kulturnog antropologa s Filozofskog fakulteta Sveučilišta u Zagrebu.

SANDRA SIMUNOVIC/PIXSELL

- Utjecaj je onoliko moćan koliko mi sami dopustimo. Naime, ako nam je dovoljno da o svijetu saznajemo isključivo na temelju ponuđenih linkova na znanja i informacije, onda smo potpuno pod utjecajem algoritama. Ako smo pak spremniji produbiti vlastito znanje iz više izvora, onda će utjecaj biti sve manji. Algoritam o kojem govorimo zapravo je prilično primitivan. On je konstruiran kako bi slijedio naše navike tijekom vremena provedenog na internetu i zatim te informacije dijelio s reklamnim i PR tvrtkama koje nas onda zasipavaju personaliziranim reklamama.

Na društvenim mrežama riječ je o nešto kompleksnijim algoritmima koji su stvoreni kako bi zadržavali pažnju, odnosno stvarali stalni osjećaj iščekivanja koji se temelje na porukama kada smo izvan mreže. Obično se temelje na ključnim riječima poput "provjeri", "pogledaj", "važno" i slično. Time nas vraćaju na mrežu, gdje nam opet nudi gomilu reklama za nas, novih zanimljivih videoklipova i slično.

Ponovo, ako smo spremni svoje slobodno vrijeme, pa i ono malo manje slobodno, prepustiti algoritmu koji nam vrti clipove u beskraj ubacujući između njih reklame za koje smatra da bi nam mogle biti zanimljive, onda je utjecaj nemjerljiv. Najveća prijevara tog tipa korištenja mreže jest da sliči dokolici, a zapravo je riječ o radu u kojem se naš mozak ne odmara, upravo suprotno, izložen je stalnom stresu jer takvi algoritmi traže samo dopaminsku reakciju, a ona je povezana s neizvjesnošću, svaki tren očekujemo da će slijedeći klip biti baš onaj pravi. Ako se i dogodi, onda smo spremni ići po još. To je biološki sustav na kojem je utemeljeno kockanje. Tako se stvara ovisnost, a ovisnicima je najlakše manipulirati. Treba ponoviti, radi se o primitivnim algoritmima i dobro poznatim biološkim mehanizmima. Takav sustav relativno je jednostavno izigrati ignoriranjem, zbunjivanjem, pa ako smo tehnički vješti i preuzimanjem.

Mnogi upozoravaju na etički aspekt algoritama, između ostalog spočitava im se da nisu tek neutralni alati, već aktivno oblikuju našu percepciju stvarnosti stvarajući "balone filtriranja" odnosno "filtarske mjehure" (filter bubbles) koji potvrđuju postojeće stavove... Vaš komentar?

- Jasno da algoritmi ne mogu biti kulturno neutralni, ako ni zbog čega drugog onda stoga što su stvoreni da služe nekom specifičnom cilju. Etički problem tu se očitava kao prastara priča o tehnologiji i njezinoj uporabi koja traje valjda još od početka korištenja primitivnih alata koji su mogli poslužiti i za ubojstva ili stjecanje moći, a ne nužno isključivo za dobrobit zajednice. Cinična verzija odgovara na tu ambivalentnost jest da ne ubija puška, nego ljudi. Pri tome se zaboravlja da je smisao tehničkog rješenja puške bio upravo ubojstvo. Svi bi rado htjeli vidjeti tehnologiju kao neki neutralni znanstveno stvoren aparat koji je stoga neutralan. Međutim niti je znanost neutralna, pa tako ni tehnologija. Svi ti objekti dio su dublje povezanih odnosa čiju je prirodu vrlo teško otkriti, pa sukladno s time i predvidjeti. Dovoljno je pogledati na stovarište različitih odbačenih proizvoda čije su problematične konzekvence ustanovljene tek nakon uporabe.

Sada se nalazimo u jednom globalnom suočavanju s posljedicama kojih nismo mogli biti svjesni, a izvore imaju još u uporabi neolitičkih tehnologija. Isto vrijedi i za informacijske mjehuriće, premda mi taj izraz odgovara i nečemu što nije zahtijevalo algoritam. U ranim danima istraživanja medija, vremenu sedamdesetih godina kada su se još spominjali termini masovna komunikacija i masovni mediji, prva su istraživanja o utjecaju medija na društvo otkrila da publika odbija sadržaje koji ne odgovaraju njihovim vrijednostima i stavovima. Dakle infomjehurići postoje oduvijek, pa i naša svakodnevna prijateljstva, poznanstva i partnerstva utemeljena su u takvim vrijednosnim mjehurićima. Ono što možda razlikuje vrijeme prije interneta jest mogućnost da se ispostavite drukčijim univerzumima kroz višeglasnu strukturu romana. U romanu ste mogli smatrati neke od stavova pojedinih likova zazornim i problematičnim, ne slagati se s njihovim vrijednostima, ali ste te pozicije mogli amortizirati identificirajući se s ostalim likovima. Kada roman prestaje biti važan dio svakodnevice, utjecaj vrijednosnih mjehurića raste. Film, barem onaj komercijalni, nije uspio zamijeniti višeglasje romana, pa se ideja dijaloške kulture potpuno izgubila.

PRIČANJE PRIČA

Kad smo kod "balona", odnosno algoritama društvenih medija, stoji li teza da treba uzeti u obzir i epistemološki utjecaj? Drugim riječima, ako "baloni filtriranja" sužavaju naš pristup informacijama, ograničava li se time spoznaja svijeta u njegovoj punoj širini?

- Jednom su slavnom filozofu Friedrichu Nietzscheu prijatelji kupili tada posljednji krik tehnike - pisaći stroj. Nakon što ga je koristio nekoliko godina, odustao je od njega primijetivši kako mu ometa mišljenje te se vratio dobrom starom nalivperu. Sredstva kojima se služimo da bismo došli do informacije sama po sebi strukturiraju i način na koji mislimo, to je neizježno. Mislim da se ne radi o sužavanju ili proširivanju, već naprosto o pukoj razlici. No činjenica je da nas je moderna naučila da tražimo sveti gral civilizacije, potpunu zamjenu ljudskog rada strojem. Vrlo lako prepuštamo stroju da obavlja poslove za nas i time zapravo polako gubimo neke kvalitete ličnosti koje smo imali prije uporabe tehnologije. I ne samo to, promjene u svakodnevici polako nagrizaju te osobine, a da toga nismo ni svjesni. Računanje, pamćenje i s njima povezan trud i napor više nisu potrebni. Uskoro nam više neće trebati ni znanja stranih jezika jer će to algoritmi dubokog učenja raditi možda i bolje od prevoditelja. No ista ta moderna naučila nas je da novostečeno vrijeme nećemo potrošiti na osobnu korist, već će nam marketinški sustavi oduzeti tu slobodu dopaminskim injekcijama i industrijom zabave. Pitanje je što će se dogodit s mehanizmima spoznaje ako će spoznaja ikomu više i biti važna osim ako nije proizvod za masovnu potrošnju u reality showu.

Yuval Noah Harari, izraelski povjesničar i filozof, popularan i kod nas, kaže da se bavimo trivijama dok se oko nas stvara nova religija algoritama koji će vladati. Ako je tome tako, jesmo li na korak do Matrixa ili smo već u njemu?

- Harari po običaju pretjeruje. Njegovo pretjerivanje plod je relativno površnog pokušaja sumiranja čovjeka, njegove kulture i biologije u jednu knjigu pompoznog naslova "Sapiens: Kratka povijest čovječanstva". Tipično štivo kasnog modernizma koje više nije u stanju probaviti dugotrajni rad i rješavanje problema pa je lakše naći nekog povjesničara (inače stručnjaka za srednji vijek i vojnu povijest!) da nam da uvide od kojih su neki možda utemeljeni, ali većina je problematična. Onda se marketinški takva osoba pretvori u gurua koji se obraća UN-u, MMF-u, Svjetskoj banci Forumu u Davosu i svuda gdje se skuplja pokvarena financijska elita zaslužna za globalno zagrijavanje, siromaštvo, bijedu i nasilje. Stoga Hararija treba prvo kritički pročitati, usporediti s trenutnim problemima u znanostima u čovjeku, pa onda njegove tvrdnje staviti u kontekst.

Jedna od glavnih teza njegove knjige jest da ljudskim društvima vlada pripovijetka koju pričamo jedni drugima, pripovijetka za koju smo ponekad spremni i položiti život. To je djelomično točno, jer s druge strane pripovijetke postoje interpretacije koje se nejednoliko šire po zajednicama i stvaraju informacijske mjehuriće ako baš hoćete ili stručnije interpretativne zajednice. Njegovo zapostavljanje interpretativne dimenzije odvelo ga je u tezu da će veliki jezični modeli (LLM) ispričati priče umjesto čovjeka i onda ćemo izgubiti sve što nas čini ljudima i prepustiti se vladavini stroja. Mogao bi sam postati dio svoje "Kratke povijesti čovječanstva" kao primjer nekritičnog znanstvenika koji postaje neutemeljeni prorok apokalipse. Ne kažem da nema opasnosti od LLM-ova, ali to nisu novi religijski kultovi, već opća kolektivna demencija koja će biti rezultat prepuštanja mišljenja i odlučivanja strojevima jer mi moramo, kako je nekad bio slogan jedne televizije, odmoriti svoj mozak.

NOVA ZORA

Zaključno, uzimajući u obzir i pozitivne i negativne aspekte algoritama kao neizostvanog internetskog fenomena, postaju li, ili su već postali, ovi sustavi/alati paradigma suvremenog doba, uključujući i njegov kulturni identitet, između ostalog...? Vaš završni komentar?

- Pa naravno da su postali dio svakodnevice i kao takvi će se nastaviti transformirati, kritizirati, prihvaćati i napuštati. Marksistički bi se vjerojatno moglo tvrditi kako će određeni oblici algoritama biti djelatni toliko dugo dok će proizvodni odnosi biti ovakvi kakvi jesu. Yanis Varufakis, međutim, kaže da smo izišli iz kapitalizma i da se nalazimo u tehnofeudalizmu, u kojemu su feudalni posjedi postale raznovrsne platforme i programi bez kojih ne možete sudjelovati u globalnom društvu. Istovremeno one se bogate upravo na vašem korištenju tih platformi.

Zavodljiva teza, premda nije potpuno opravdana. Ima niz prostora alternativnih načina digitalnog života i zarade koji se ne oslanjaju na takav feudalni sustav. Možda se tek radi o procesima opisanima u knjizi “Zora svega: Nova povijest čovječanstva” Davida Graebera i Davida Wengrowa, koja prilično utemeljeno tvrdi da su u povijesti uz velike paradigme koje su ostavile trag uvijek djelovali i alternativni načini života. Nalazimo se u neistraženom prostoru i nitko nema kristalnu kuglu s pomoću koje može predvidjeti kakva je sudbina digitalne transformacije društva. n