Živimo u digitalnom dobu, a digitalni sustavi počivaju na tri temelja: podacima, algoritmima i digitalnoj infrastrukturi poput računala, interneta, aplikacija i društvenih mreža - kaže izv. prof. dr. sc. Ivan Balabanić, viši znanstveni suradnik s Instituta za istraživanje migracija u Zagrebu, te dodaje:

- Algoritmi su u biti mehanizmi koji obrađuju podatke i odlučuju koje će informacije doći do korisnika. S daljnjim razvojem digitalne tehnologije i sami algoritmi dobivaju sve veću važnost u svakodnevnom životu. To je dovelo do toga da se kod ljudi javlja strah kako o njihovim životima, pa i šire gledano o društvenom i političkom uređenju, više ne odlučuju drugi ljudi, nego računala. S jedne strane, taj je strah djelomično opravdan.

IZV. PROF. DR. SC. IVAN BALABANIĆ

Neupitno je da algoritme stvaraju ljudi, ali njihovo djelovanje u kompleksnim digitalnim sustavima često proizvodi učinke koji nisu potpuno predvidljivi ni lako kontrolirani. Postoji i realna opasnost da ni sami kreatori algoritama ponekad ne mogu predvidjeti sve posljedice koje će njihov proizvod imati u budućnosti. Tipičan primjer su algoritmi na društvenim mrežama koji korisnicima prikazuju upravo one sadržaje za koje pretpostavljaju da će ih najviše zanimati i time povećati njihov angažman. Primjerice, pojedincu s desnog političkog spektra prikazivat će se sadržaji sukladni s njegovim stavovima i uvjerenjima, a pojedincu s lijevog političkog spektra prikazivat će se sadržaji u skladu s njegovim vrijednostima. To je dovelo do znatne polarizacije društva jer svaka strana živi u vlastitom informacijskom balonu i uopće ne čuje mišljenja druge strane. Tvorci algoritama na društvenim mrežama nastojali su svojim korisnicima ponuditi sadržaje koji ih najviše zanimaju i time povećati angažman na platformama, no kao nuspojava pojavila se politička polarizacija. Riječ je o jednoj od neželjenih posljedica koje njihovi kreatori nisu potpuno predvidjeli ili su želju za većom aktivnošću na platformama, a posljedično i većom zaradom, pretpostavili javnom interesu.

O ALGORITAMSKOJ KULTURI...

- Najpreciznije je reći da ne živimo u potpuno programiranoj kulturi, nego u svijetu u kojem sve više odluka prepuštamo algoritmima. Naime, sve veći dio naše svakodnevice - od komunikacije i informiranja preko potrošačkih odluka i političkih stavova pa do obrazovanja, pa čak i mikrosituacija poput naručivanja taksi-vožnje, procjene kreditne sposobnosti ili korištenja najkraće rute u vožnji preko navigacije - definiran je logikom digitalnih sustava. Algoritmi preporuke sadržaja na društvenim mrežama najvidljiviji su jer se s njima susrećemo svakodnevno, no oni koji ostaju skriveni često su i važniji - o njima, primjerice, ovisi hoće li vam banka odobriti kredit, a da pritom nitko s vama ne razgovara niti bankar ima stvarni utjecaj na odluku. Ako radite u dostavi hrane ili kao taksist, o vašem će poslu u velikoj mjeri odlučivati algoritam. Iako je riječ o proizvodima čovjeka, postoje realni rizici takvog razvoja. Jedan sam već spomenuo - sami tvorci ponekad ne mogu predvidjeti sve posljedice koje će njihov proizvod imati. Drugi je problem vjerojatno još važniji. Treba imati na umu da algoritmi nisu neutralni - oni slijede interese svojih kreatora ili, preciznije rečeno, problem nije u algoritmima, nego u tome tko ih kontrolira i s kojim ciljevima. Stoga pitanje transparentnosti, odnosno jasan uvid javnosti ili regulatora u to kako algoritmi funkcioniraju i koji su im stvarni ciljevi, postaje središnje pitanje uloge algoritama i umjetne inteligencije u digitalnom društvu. Riječ je o računalnim sustavima koji su često netransparentni, u smislu da njihovi tvorci ne otkrivaju uvijek jasno logiku njihova funkcioniranja, a time ni ciljeve koje žele postići njihovom primjenom. Ti ciljevi ponekad mogu biti vođeni profitnom logikom i ne moraju biti u skladu s javnim interesom ili, primjerice, s interesima radnika o čijem radu odlučuje neka aplikacija. Zbog toga Europska unija sve više inzistira na tome da se za algoritme koji imaju značajan društveni utjecaj ili utjecaj na pojedince može objasniti na koji način donose odluke, da prije njihove primjene postoji odgovarajuća dokumentacija o načinu rada te da je osiguran ljudski nadzor.

O UMJETNOJ INTELIGENCIJI...

- Korištenje umjetne inteligencije velik je tehnološki iskorak koji će znatno promijeniti gotovo sve aspekte života. Već smo spomenuli da se algoritmi sve više oslanjaju na umjetnu inteligenciju, čime postaju kompleksniji, a neželjeni učinci još teže predvidljivi. Dodatni je problem što ljudi već osjećaju određenu tjeskobu da nešto neljudsko upravlja njihovim životima, a s primjenom umjetne inteligencije sve češće dolazimo u situaciju u kojoj tehnologija upravlja tehnologijom. To, naravno, stvara dodatni osjećaj nesigurnosti i percepciju da o njihovim životima više ne odlučuju drugi ljudi, nego računala. Već smo svjedočili brojnim nesuglasicama između tehnoloških kompanija i, primjerice, Europske unije u vezi s transparentnošću rada različitih algoritama, a ubrzani razvoj umjetne inteligencije dodatno otežava ionako složenu situaciju.

O HARARIJEVOJ TEORIJI...

- Kada Yuval Noah Harari govori o dataizmu kao "novoj religiji", upozorava na sve veću moć algoritama i činjenicu da ljudi sve češće povjerenje prebacuju s vlastite prosudbe na tehnološke sustave. Time sugerira da u uvjetima informacijske prezasićenosti upravo algoritmi postaju ključni posrednici u interpretaciji stvarnosti. Ipak, takvu tezu prije treba shvatiti kao snažnu metaforu nego kao empirijski opis društva jer svaljuje odgovornost na tehnologiju samu, a ne na one koji njome upravljaju. Naime, iako algoritmi imaju sve veći utjecaj na odluke, informacije koje primamo i način na koji razumijemo svijet, oni nisu autonomni akteri, nego dio sustava u kojem su isprepleteni tehnologija, ekonomski interesi i institucionalni okviri. Njihova "moć" ne proizlazi iz same tehnologije, nego iz načina na koji su ugrađeni u tržišne i društvene strukture. Drugim riječima, ne djeluju izvan društva, nego su njegov integralni dio, a njihova snaga ne proizlazi iz njih samih, nego iz moći onih koji su ih stvorili i koji ih koriste za svoje ciljeve. U tom smislu preciznije je reći da ne živimo u svijetu kojim upravljaju algoritmi, nego u društvu u kojem se procesi odlučivanja sve više delegiraju algoritamskim sustavima unutar unaprijed definiranih okvira. Ti okviri uključuju ciljeve poput maksimizacije angažmana, optimizacije troškova ili povećanja profita, što znači da algoritmi nisu neutralni, nego normativno usmjereni. Upravo zato suvremene rasprave sve se više pomiču s pitanja "vladaju li algoritmi?" prema pitanju "tko upravlja algoritmima i u čijem interesu?". U tom kontekstu sukobi između tehnoloških kompanija i regulatornih tijela poput Europska unija nisu tek tehnička pitanja regulacije, nego odraz šire borbe za kontrolu nad ključnim infrastrukturnim mehanizmima suvremenog društva. Stoga temeljno pitanje nije hoće li algoritmi "vladati", nego kako će se društveno, politički i pravno urediti njihova uporaba.

O PLUSEVIMA I MINUSIMA...

- Svijet algoritama, a posebice u kontekstu njihova povezivanja s umjetnom inteligencijom, nedvojbeno je velik tehnološki iskorak i kao takav kod mnogih ljudi budi strahove, pa i kataklizmičke predikcije. No, ako se vratimo u povijest, lako ćemo uočiti da je svaka velika tehnološka promjena bila praćena sličnim reakcijama. S izumom tiskarskog stroja javio se strah od širenja opasnih ideja i gubitka kontrole nad znanjem, a u stvarnosti je došlo do revolucije u obrazovanju i znanosti. Industrijska revolucija izazvala je paniku da će strojevi oduzeti ljudima posao, a rezultat su bili novi oblici rada. Pojavom nuklearne tehnologije pojavio se strah od kraja civilizacije, a danas imamo realnu prijetnju koja je, barem djelomično, pod kontrolom i regulacijom, ali i mogućnost proizvodnje velikih količina energije koja se koristi u pozitivne svrhe. Kao i u svim prethodnim slučajevima, svaki veliki tehnološki iskorak ima i pozitivne i negativne strane. Algoritmi i umjetna inteligencija prirodan su nastavak tog razvoja jer smo s pojavom interneta i napretkom računalne tehnologije došli u situaciju u kojoj raspolažemo golemim količinama podataka i informacija. Bez algoritama i umjetne inteligencije ne bismo bili u stanju upravljati tim količinama, niti ih koristiti za razvoj drugih tehnologija koje znatno unapređuju kvalitetu života. Algoritmi i umjetna inteligencija, međutim, nisu neutralni alati u uskom tehničkom smislu, nego sastavni dio sociotehničkih sustava u kojima se prepleću tehnološki dizajn, tržišni interesi i institucionalni okviri. Kao takvi oni mogu olakšati snalaženje u kompleksnom informacijskom okruženju, unaprijediti svakodnevni rad i ubrzati tehnološki napredak, ali istodobno mogu suziti i strukturirati našu percepciju stvarnosti, pa se u nepovoljnim scenarijima mogu koristiti i za reprodukciju nejednakosti ili ostvarivanje partikularnih interesa velikih korporacija ili država.

Stoga se ključno pitanje ne odnosi na samu tehnologiju, nego na način na koji se ona razvija, implementira i regulira - odnosno na to tko definira ciljeve, kriterije optimizacije i granice njezine primjene. Upravo u toj napetosti između tehnoloških mogućnosti, ekonomskih interesa i društvene kontrole leže i potencijal i rizici algoritamskih sustava, ali i odgovornost društva da njima upravlja promišljeno, transparentno i u javnom interesu.