Ponekad je potrebno da procesi i strukture koji određuju kvalitetu našeg života postanu svojevrsna poštapalica kako bi javnost u prosjeku lakše internalizirala ne samo golu činjenicu da postoje nego i način na koji funkcioniraju. Dakle, koliko god se u ovom trenutku stvara dojam da postoji zasićenje zbog opetovanog ponavljanja uloge algoritama u oblikovanju naše komunikacije, interakcije i vrijednosti, mišljenja sam da je riječ o nužnom koraku pri stvaranju tzv. algoritamske pismenosti. Također, takvi rituali ponavljanja često su odraz činjenice da se stvari sporo ili nikako mijenjaju unutar moćnih društvenih sustava, iako je razvidna njihova uloga u našim životima - kaže izv. prof. dr. sc. Krešimir Krolo s Odjela za sociologiju Sveučilišta u Zadru, te dodaje:

IZV. PROF. DR. SC. KREŠIMIR KROLO

- U trenutku kada se političke kampanje i različiti oblici dezinformacija šire bez brzih i kvalitetnih ovjera, širenje svjesnosti o algoritmima je uvjet bez kojeg se ne može govoriti o ozbiljnoj medijskoj pismenosti i građanskoj kulturi. Nadalje, algoritme nije nužno samo razumjeti kao specifičnu medijsko-tehnološku arhitekturu, nego je od iznimne važnosti da se ta arhitektura povezuje i sa strukturom vlasništva te ekonomskim modelom na temelju kojeg zasnivaju svoje djelovanje. Postati i ostati svjestan činjenice da svaka naša interakcija na digitalnim platformama generira nevjerojatnu količinu osobnih podataka, koji se koriste i za treniranje algoritama, ali i u svrhu nadzora i kontrole, važan je korak u uspostavljanju bar neke razine "imuniteta". Ako već ne od šireg ekonomsko-političkog sustava u kojem platforme djeluju, onda bar da odgovornije upotrebljavamo i dijelimo informacije koje nam te platforme pružaju.

Da se dotaknemo nešto više ovog našeg, 21. stoljeća... Može li se konstatirati da je sadašnja globalna, tehnologijom sve više posredovana ljudska kultura, umnogome algoritamska kultura? Čini se da je gotovo sve u njoj programirano i automatizirano logičkim i matematičkim odnosima...

- Jednim dijelom svakako jest jer je temeljni način kako se informiramo o različitim sadržajima ili kako stupamo u različite oblike interakcije uvjetovan posredovanjem digitalnih platformi. Bilo da je riječ o Netflixu, YouTubeu, Spotifyju ili newsfeedu na društvenim mrežama poput TikToka, Instagrama ili Facebooka, algoritmi su ti koji organiziraju i preporučuju sadržaj na osnovi naših preferencija, ali i na osnovi povezivanja s drugim podatkovnim sustavima. Na taj se način stvara algoritamska kultura koja vrijedi jednako u Brazilu ili Japanu, no koja ne stvara jedinstven homogeni kulturni obrazac, nego se prilagođava pojedinačnom korisniku. Problem te kulture nije onda u kontekstu globalizacijskih teorija koje su s bojazni govorile o stvaranju jednoobraznog kulturno-identitetskog formata, nego u činjenici da svaka pojedinačna kultura i pojedinci dobiju sadržaj skrojen na osnovi osobnih podataka i preferencija, u kojoj se brže stvaraju zatvoreni sustavi. Globalni okvir je onda onaj koji na temelju takve logike maksimalizira profit, a s posljedicama komora jeke i kulturnog zatvaranja onda se moraju nositi krajnji korisnici.

Koliko ubrzani razvoj umjetne inteligencije omogućuje širi i dublji utjecaj algoritama koji diktiraju ponašanje, ukus i kontrolu na temelju naših osobnih afiniteta?

- U ovom slučaju vrijedi pravilo povratne sprege. I jedan i drugi sustav se poboljšavaju međusobnim izmjenama i dopunama. UI je "pametniji" ako pred sobom ima nove i bolje podatke. Recimo, često se u treniranju UI modela koriste razni trendovi na društvenim mrežama, poput nedavnog "kako si izgledao u devedesetima". Korisnik snimi ili podigne trenutnu fotografiju ili video, nakon čega podigne fotografiju ili snimke kako je izgledao u devedesetim godinama prošlog stoljeća. Nešto što izgleda kao bezazlena zabava u načelu je iznimno potentan i bogat skup podataka na osnovi kojeg se razvijaju programi za prepoznavanje lica. Također, ako smo na društvenim mrežama, ali i na internetu općenito, ostavili dubok digitalni trag, što je detaljnija i raznovrsnija ta baza podataka, to je istančaniji i precizniji algoritam koji nam preporučuje sadržaje. Iako, naravno, postoji cijeli niz načina na koji se takve informacije mogu iskoristiti za izgradnju društveno korisnijih i odgovornijih jezičnih modela, realnost je u prosjeku takva da sve podsjeća na scenarij iz nekakve distopijske znanstvene fantastike. Primjerice, nedavno je izišla informacija kako ćese firma Meta koristiti podatcima o upotrebi miša i tipkovnice svojih zaposlenika kako bi na temelju tih podataka trenirala umjetnu inteligenciju. Doslovno se radi o upotrebi tuđeg znanja i vještina kako bi se stvorio sustav koji će ih sutra isključiti iz tržišta rada. Da se ne radi samo o nekakvoj paranoičnoj konstrukciji, vidljivo je i iz programa i filozofije Alexa Karpa, jednog od utemeljitelja i voditelja firme Palantir, koji smatra da će takav oblik automatizacije poništiti prava i položaj koje su žene i manjine stekle posljedenjih nekoliko desetljeća. UI koji je treniran na njihovu radu i produktivnosti iskoristit će se na način da ih ponovno učini ovisnima o drugima, umjesto da imaju samostalnost i emancipaciju kroz vlastiti rad i autonomiju. Ovdje nije riječ o Karpovoj prognozi, nego o otvorenim namjerama vlasnika takvih platformi da s pomoću UI sustava i podataka kreiraju politički i društveni poredak u kojem dobar dio osobnih sloboda i demokracije postaje "tehnološki višak".

S obzirom na sve što se događa u širem i dubljem komunikacijskom prostoru, jesmo li na korak do Matrixa ili smo već u njemu? Među ostalima, Yuval Noah Harari upozorava da se oko nas stvara nova religija algoritama...

- Ideja Matrixa je u načelu ideja simulacije, a o simulaciji se govorilo i prije Matrixa i prije Hararija. Jean Baudrillard je govorio o društvu simulakruma, gdje se u medijski posredovanim značenjima gubi osjećaj za stvarno. Upravo je njegov rad i bio temelj inspiracije za film Matrix sestara (tada braće) Wachowski. Odnos trivijalnosti i supstancijalnog u modernim društvima praktično postoji otkako je masovnih medija. Frankfurtska škola na čelu s Horkheimerom i Adornom upozoravala je da tzv. kulturna industrija proizvodi veliku količinu trivijalnog sadržaja čiji je cilj ništa drugo nego umrtvljenje narodnih masa kako se ne bi bunile i tražile bolji i pravedniji svijet. Skretanje pažnje ili stvaranje sustava u kojem prvenstveno jurimo za vlastitim osjećajem ugode i zadovoljštine možda su upravo algoritmi doveli do savršenstva, jer omogućuju instant-gratifikaciju i kontinuirano zasipanje novim sadržajima, za razliku od klasičnih medijskih sustava, gdje je ipak postojao kakav-takav odmak nakon pogledanog ili pročitanog sadržaja. Međutim, treba, kao i u Matrixu, ostaviti prostora za nešto više optimizma, jer korisnici mogu "socijalizirati" svoj algoritam i na taj način smanjiti utjecaj, no tu se onda vraćamo na početak našeg razgovora, gdje naglašavam kako je ipak važno da se o algoritmima i načinu njihova rada govori dok se god ne primijeti promjena koja upućuje na promjenu postojeće paradigme.

Ukupno uzevši, koji su pozitivni, a koji negativni aspekti algoritama danas? Mnogi kažu da nam algoritmi štede vrijeme, smanjuju kognitivno opterećenje, filtriraju šum u svijetu, koji je sve glasniji, no također mnogi upozoravaju kako je upravo u toj praktičnosti i njihova prijetnja. Vaš završni komentar?

- To svakako jesu pozitivni aspekti i to bi trebala biti njihova temeljna funkcija - napraviti više reda u kaotičnom sustavu. To nitko ne osporava, nego je sporno što se jako malo zna o tome kako i s kojom svrhom se algoritmi programiraju i razvijaju te na temelju kakvih sve podataka. Kada bi postojao neki oblik javnog nadzora nad velikim digitalnim kompanijama u tom smislu, vjerujem da bismo imali i manje štetnih posljedica, o kojima se s pravom toliko govori.

Algoritme treba prebaciti iz definicije i strukture privatnog vlasništva u domenu javnog dobra i javnog resursa, s obzirom na potencijal koji imaju, da oblikuju i utječu na našu svakodnevicu i na oblikovanje globalnih procesa i tokova. Takva koncentracija moći mora se razbiti ako postoji istinska želja i napor da se sutra ne probudimo u svijetu kakav nam žele Karp, Musk, Thiel i drugi zajedno s političarima koje financiraju.