Međunarodni institut za bliskoistočne i balkanske studije (IFIMES) iz Ljubljane redovito analizira zbivanja na Bliskom istoku, Balkanu i drugdje u svijetu. U tekstu pod naslovom "Prelazak s globalnog sjevera: Podatci koji pokreću umjetnu inteligenciju nisu prikladni za svoju svrhu - Uloga OSCE-a u promoviranju humanistički usmjerenog djelovanja i snažnih okvira zajednice izvan njegove mreže" Nathan Coyle, viši savjetnik za PeaceTech na Austrijskom tehnološkom institutu, piše o tome kako OSCE može pomoći u zajedničkom dizajniranju modela umjetne inteligencije koji su kontekstualno relevantni i efikasni u promoviranju mira u regijama sklonim konfliktima. Uz neznatne prilagodbe u opremi, prenosimo tekst u cijelosti.

Kako uloga umjetne inteligencije (AI - u nastavku UI)) u izgradnji mira raste, tako raste i potreba za rješavanjem fundamentalnih predrasuda ugrađenih u podatke koji pokreću UI sustave. Trenutno više od 90 % skupova podataka za UI obuku potiče iz Europe i Sjeverne Amerike, ali većina se globalnih sukoba događa izvan tih regija. Ta razlika stvara kritičan izazov: UI sustavi obučeni na podatcima koji odražavaju globalni sjever često ne uzimaju u obzir stvarnost sukoba na globalnom jugu. To je posebno problematično u regijama kao što je Afrika, gdje se tradicionalni mehanizmi za rješavanje sukoba zasnovani na zajednici često zanemaruju u strategijama izgradnje mira vođenima UI-jem. Organizacija za sigurnost i suradnju u Europi (OSCE) ima ključnu ulogu u promjeni te paradigme poticanjem inkluzivnijeg pristupa prikupljanju podataka i obuci modela, osiguravajući da UI sustavi odražavaju različite kulturne i upravljačke prakse. Suradnjom s afričkim institucijama i lokalnim zainteresiranim stranama OSCE može pomoći u zajedničkom dizajniranju UI modela koji su kontekstualno relevantni i efikasni u promoviranju mira u regijama sklonim sukobima. U ovom tekstu tvrdim kako bi umjetna inteligencija zaista služila kao alat za globalni mir kada bi njezin razvoj bio vođen humanistički usmjerenim, kulturno inkluzivnim pristupom koji pojačava glasove i perspektive onih koji su najpogođeniji sukobima.

POZADINA PRIČE

Podatci - to je životna snaga umjetne inteligencije. Bez podataka nema ni umjetne inteligencije; to dvoje ide ruku pod ruku, i jedno ne može postojati bez drugog. Kako možemo tvrditi da smo spremni koristiti se umjetnom inteligencijom za društvenu koheziju kada su podatci na kojima treniramo naše modele inherentno rasistički i seksistički? Nažalost, osim ako ne dođe do promjene u društvu - jer podatci koje prikupljamo samo odražavaju postojeće predrasude - nema konačnog rješenja. Međutim, nije sve tako crno. Možemo ublažiti te predrasude transparentnošću podataka koje prikupljamo, načinom na koji se pribavljaju i potencijalnim predrasudama ugrađenima u njih.

Kada je u pitanju upotreba umjetne inteligencije za izgradnju mira, suočavamo se s tim izazovom, ali vjerojatno i većim. Analiza gotovo 4000 javnih skupova podataka otkriva da više od 90 % skupova podataka za obuku umjetne inteligencije dolazi iz Europe i Sjeverne Amerike, a manje od 4 % dolazi iz Afrike. Usporedimo to sa stvarnošću sukoba diljem svijeta. Prema podatcima koje je prošle godine objavio Međunarodni institut za istraživanje mira u Stockholmu (SIPRI), 2023. godine samo se 4 % od 68 sukoba diljem svijeta dogodilo u Europi, 43 % dogodilo ih se u Africi, a 25 % u Aziji i 15 % na Bliskom istoku. Ne morate biti stručnjak za podatke da biste vidjeli oštru razliku: obuka sustava umjetne inteligencije za izgradnju mira s podatcima koji ne odražavaju globalnu stvarnost očito je manjkava.

Modeli umjetne inteligencije obučeni prvenstveno za govor mržnje na engleskom jeziku često ne uspijevaju otkriti štetnu retoriku na lokalnim dijalektima i jezicima u regijama sklonim sukobima. Na primjer, tijekom krize Rohingya u Mjanmaru govor mržnje snažno se proširio na platformama društvenih medija na burmanskom jeziku, ali alati umjetne inteligencije za moderiranje nisu bili učinkoviti zbog nedostatka podataka za obuku na tom jeziku. Studija Gashea, Yimama i Assabiea (2024.) razvila je skup podataka o govoru mržnje na amharskom jeziku i predložila model dubokog učenja za klasifikaciju govora mržnje u kategorije poput rasnog, vjerskog i govora mržnje zasnovanog na spolu. Model je postigao F1-rezultat od 94,8, što naglašava važnost skupova podataka specifičnih za jezik za učinkovito otkrivanje govora mržnje.

Istraživanje Instituta za strateški dijalog (ISD) otkrilo je da se amharski jezik koristi na platformama poput TikToka kako bi se zaobišli sustavi moderiranja. Korisnici su se služili taktikama poput direktnog prevođenja govora mržnje na amharski jezik s pomoću pisma ge'ez ili postavljanja amharskog teksta pokraj govora mržnje napisanog na europskom jeziku. Ta eksploatacija naglašava nedostatke sustava umjetne inteligencije za moderiranje, koji nisu opremljeni za jezike s manje resursa.

Preporuke politika zasnovanih na umjetnoj inteligenciji često se temelje na skupovima podataka koji odražavaju modele upravljanja koji prevladavaju na globalnom sjeveru. Dok ti modeli naglašavaju formalne pravne sustave i izborne procese, mnoga postkonfliktna društva u Africi oslanjaju se na autohtone metode rješavanja sukoba ukorijenjene u kulturnim tradicijama. Neuspjeh u uključivanju tih praksi u modele umjetne inteligencije može rezultirati neefikasnim ili čak kontraproduktivnim strategijama izgradnje mira.

Tradicionalna afrička društva dugo su se koristila autohtonim institucijama za rješavanje sukoba, na osnovi vrijednosti, normi i kulturnih uvjerenja koja prakticiraju članovi zajednice. Ti mehanizmi često uključuju obiteljske starješine, tradicionalne vođe i spiritualne medije, koristeći se tehnikama kao što su medijacija, pripovijedanje i duhovne ceremonije. Institucija tradicionalnog vodstva igra ključnu ulogu u promoviranju i održavanju društvenog sklada, a odluke zajednica lako prihvaća. Međutim, sustavi umjetne inteligencije obučeni na skupovima podataka koji naglašavaju zapadne pravne okvire možda ne prepoznaju te prakse, što dovodi do preporuka politika koje nisu u skladu s lokalnim kontekstima.

Studija slučaja Joruba društava u Nigeriji ističe kako starješine zajednice olakšavaju rješavanje sporova običajenim praksama. Te autohtone institucije ostaju relevantne i danas, posebno u ruralnim zajednicama, gdje je pristup formalnim pravnim sustavima ograničen. Međutim, sustavi umjetne inteligencije obučeni na skupovima podataka koji naglašavaju zapadne pravne okvire možda neće prepoznati te prakse, što dovodi do preporuka politika koje nisu usklađene s lokalnim kontekstima.

(NE)USKLAĐIVANJE

Posljedice sjeverne pristranosti umjetne inteligencije u izgradnji mira protežu se izvan jezičnih barijera i na područje upravljanja i pomirenja. Strategije rješavanja sukoba vođene umjetnom inteligencijom obično naglašavaju formalne pravne postupke, što može potkopati tradicionalne mehanizme. Na primjer, algoritmi strojnog učenja obučeni na sjevernim skupovima podataka mogu dati prioritet intervencijama sudskih organa pred praksama pomirenja koje vodi zajednica. Taj pristup može oslabiti autoritet tradicionalnih vođa i narušiti povjerenje zajednice u lokalne mehanizme rješavanja sporova.

Štoviše, modeli umjetne inteligencije koji se koriste za predviđanje i ublažavanje sukoba možda ne uspijevaju uzeti u obzir neformalne taktike pregovaranja ugrađene u autohtone afričke sustave upravljanja. Ako ti modeli umjetne inteligencije generiraju preporuke politika koje favoriziraju napore izgradnje demokracije zapadnog stila u odnosu prema lokalno prilagođenim metodama, riskiraju marginalizaciju učinkovitih strategija rješavanja sukoba.

Na primjer, u postkonfliktnoj Ruandi tradicionalni sudovi Gacaca igrali su ključnu ulogu u provođenju pravde i pomirenja koje vodi zajednica nakon genocida. Ti sudovi, zasnovani na principima restorativne pravde, omogućili su zajednicama da kolektivno rješavaju sporove. Međutim, sustavi umjetne inteligencije obučeni prvenstveno na europskim pravosudnim modelima možda ne prepoznaju legitimnost takvih struktura, što dovodi do preporuka koje favoriziraju kazneni progon zapadnog stila u odnosu prema lokalno ugrađenim naporima pomirenja.

Organizacija za sigurnost i suradnju u Europi (OSCE) sve više prepoznaje umjetnu inteligenciju kao alat za upravljanje, zaštitu ljudskih prava i sigurnost. Međutim, njezine inicijative ostaju uglavnom eurocentrične, s ograničenim angažmanom u rješavanju izazova povezanih s umjetnom inteligencijom na globalnom jugu. Izvještaji i konferencije OSCE-a o umjetnoj inteligenciji prvenstveno su se fokusirali na etička pitanja, dezinformacije i sigurnost izbora unutar Europe, bez proširenja napora na regije poput Afrike, gdje bi utjecaj umjetne inteligencije na izgradnju mira mogao biti značajan. Iako OSCE promovira digitalnu pismenost i odgovornu upotrebu umjetne inteligencije, malo je dokaza da ti napori uključuju obuku modela umjetne inteligencije na različitim skupovima podataka koji odražavaju afričke prakse rješavanja sukoba.

Usprkos širokom mandatu OSCE-a o sigurnosti i izgradnji mira, njegove diskusije o umjetnoj inteligenciji ne bave se eksplicitno predrasudama u podatcima o obuci umjetne inteligencije koje nerazmjerno utječu na afričke kontekste. Mirovne inicijative Organizacije naglašavaju praćenje izbora, medijsku pismenost i suzbijanje dezinformacija, ali ti se napori ne prevode u opipljive akcije u razvoju politika vođenih umjetnom inteligencijom za Afriku. S obzirom na to da modeli umjetne inteligencije obučeni na europskim i sjevernoameričkim skupovima podataka često ne prepoznaju domaće metode upravljanja i rješavanja sukoba, nedostatak angažmana OSCE-a u tom području znači da postojeće predrasude u umjetnoj inteligenciji za izgradnju mira ostaju nepobitne. Taj propust riskira jačanje zapadnocentričnih modela rješavanja sukoba, a istovremeno zanemaruje lokalno prilagođene strategije.

Da bi se umjetna inteligencija efikasno integrirala u globalne mirovne napore, institucije poput OSCE-a moraju proširiti svoj fokus izvan globalnog sjevera. Značajan korak naprijed bio bi poticanje partnerstava s afričkim istraživačkim institucijama i kreatorima politika kako bi se podržao razvoj modela umjetne inteligencije obučenih na različitim skupovima podataka. Iskorištavanjem svoje stručnosti u upravljanju i rješavanju sukoba OSCE bi mogao igrati ključnu ulogu u ublažavanju predrasuda umjetne inteligencije i osiguravanju da se tehnologije izgradnje mira usklade s potrebama regija pogođenima sukobima diljem svijeta. Bez takvih napora strategije vođene umjetnom inteligencijom riskiraju marginalizaciju tradicionalnih mehanizama rješavanja sukoba i nametanje rješenja koja nisu prilagođena stvarnosti afričkih društava.

Kao što smo naučili, podatci odražavaju društvo, a kultura se znatno razlikuje od jednog društva do drugog. Za stvarnu promjenu u prikupljanju raznolikih podataka institucije poput OSCE-a moraju iskoristiti svoj utjecaj kako bi unaprijedile vještine nacionalnih država u prikupljanju podataka i podijelile znanje za kreiranje politika i mehanizme informiranja vođene podatcima. Austrija aktivno radi na oblikovanju pristupa usmjerenog na čovjeka unutar ovog globalnog dijaloga, s PeaceTech Alliance na Austrijskom institutu za tehnologiju, zajedno sa širokim modelom podrške, od Fondacije za otvoreno znanje, sveučilišta do organizacija za izgradnju mira, uz aktiviranje mreža diljem Europske unije i Afričke unije kako bi se razmotrili pristupi usmjereni na čovjeka i izgradile inkluzivne kulture oko tehnologije.

Primjena tih praksi za podršku državama u Africi u poboljšanju napora informiranja i prikupljanja podataka je nužna. Međutim, da bi takve inicijative bile učinkovite, moraju ići dalje od država članica OSCE-a i aktivno uključiti države koje nisu članice OSCE-a u procese donošenja odluka.

GRADNJA POVJERENJA

Rad sa ili stvaranje kolaborativnog modela sličnog modelima kao što je Open PeaceTech Alliance - gdje međunarodni, regionalni i lokalni akteri zajednički dizajniraju inicijative za podatke i tehnologiju - potaknuo bi osjećaj zajedničkog vlasništva i odgovornosti. Osiguravanjem da afričke države i lokalne organizacije imaju mjesto za stolom takav pristup može poboljšati legitimnost, točnost i etičku primjenu podataka u naporima za izgradnju mira. Okvir u zajedničkom vlasništvu ne samo što bi poboljšao povjerenje u prikupljanje podataka nego bi osigurao i da su modeli umjetne inteligencije obučeni za sprječavanje sukoba informirani različitim, kontekstualno relevantnim perspektivama.

Koncept PeaceTecha ovdje ima svoju ulogu. Iako ga neki mogu odbaciti kao još jednu popularnu riječ, naglasak na upotrebi tehnologije za mir nešto je što moramo potaknuti u druge sektore da ga prihvate i pozdrave kada to učine. Postoji vrlo stvaran deficit digitalnih vještina među graditeljima mira koji rade na terenu, što pristup usmjeren na čovjeka čini najvažnijim u trenutnim i postkonfliktnim zonama. Ako tehnologija nije dostupna korisnicima koji mogu ostvariti najveći utjecaj, ona je beskorisna. Zato PeaceTech mora poticati zajednice da osiguravaju da je umjetna inteligencija izgrađena na poštenom i etičkom okviru i mreži koju OSCE može snažno iskoristiti. (Tekst iznosi stav autora i ne odražava nužno stav IFIMES-a.)