Europska unija razmatra izmjene propisa o umjetnoj inteligenciji kroz tzv. UI Omnibus, paket prijedloga koji među ostalim uključuje brisanje obveze registracije visokorizičnih sustava umjetne inteligencije u javnoj bazi podataka. Prema EU planu, pružatelji UI sustava koji pripadaju u visokorizične kategorije mogli bi sami procijeniti da njihov sustav ne predstavlja značajan rizik i time izbjeći stroge obveze predviđene za takve sustave.

Na ovaj prijedlog reagiralo je više od 50 nevladinih organizacija i stručnjaka iz Unije, među kojima je i Gong, potpisivanjem otvorenog pisma upućenog zastupnicima Europskog parlamenta, predstavnicima država članica i članovima Europske komisije. Članak 49. stavak 2. UI Acta trenutno zahtijeva da svako izuzeće visokorizičnog UI sustava bude registrirano u javno dostupnoj bazi podataka. Time se osigurava transparentnost i omogućuje nadzor nad primjenom zakona, dok predložene izmjene u UI Omnibusu predviđaju brisanje te obveze.

UI Omnibus je dio šireg zakonodavnog paketa kojim se radi na deregulaciji u EU-u, a Komisija pravda brisanje zaštitne mjere transparentnosti, odnosno upisa u javni registar, administrativnim olakšanjem i smanjenjem troškova poslovanja, koji po računici same Komisije za upis u registar iznose 100 eura po tvrtki za 2,5 radna sata. No, manje transparentnosti smanjuje europske standarde zaštite građana i mogućnost demokratske kontrole, te građane izlaže opasnosti nereguliranih visokorizičnih UI sustava, naglasila je Bruna Marinović iz Gonga.

FREEPIK

- Već je problematično što u samom UI aktu ne postoji vanjski nadzor, već samo obveza samoregulacije za tvrtke, koje samostalno odlučuju pripada li njihov UI sustav u visokorizične, koje imaju niz ograničenja radi sigurnosti korisnika, ili ne, procesom "samoprocjene". Obvezom upisa u javni registar barem bi civilno društvo i nezavisni stručnjaci mogli propitivati registrirane sustave kako bi se utvrdilo pripadaju li uistinu manje rizičnoj skupini. Ukidanjem mjere transparentnosti tvrtke će same za sebe moći napraviti procjenu je li njihov sustav visokorizičan, spremiti je u ladicu i imati je u slučaju da nekad netko nešto pita, no bez ikakvog stvarnog nadzora do tog trenutka i bilo kakve javne kontrole - navela je Marinović.

Dodala je kako bez javne baze nema mogućnosti demokratskog nadzora. Ako UI tvrtka zna da će se morati registrirati veća je vjerojatnost da će biti odgovornija, zbog straha od mogućeg nadzora i moguće javne reakcije. Brisanjem obveze registracije može dovesti do neprihvatljivih rizika za zdravlje, sigurnost i temeljna prava europskih građana, smatraju u Gongu.

Nakon što je ranije zagovarano donošenje zakona koji bi prvi put u svijetu regulirali velike digitalne platforme, poput Akta o digitalnim uslugama, EU sada, uslijed novih okolnosti preko Atlantika, radi na ublažavanju takve regulative.

- Europska unija nekoć je bila predvodnica u zaštiti svojih građana na internetu i u području umjetne inteligencije, govori se o takozvanom briselskom efektu koji se prelijeva na cijeli svijet, koji pokušava pronaći načine za osigurati sigurnost sektora koji dominiraju našim životima, no ovim Omnibusom popušta pod pritiscima big tech lobista. Stavljajući interese kapitala ispred prava i potreba građana, EU potiskuje standarde koje je sama postavila, zbog čega civilno društvo mora reagirati i zauzeti se za javni interes, a to je zaštita građana i njihovih prava od nereguliranih UI sustava - naglasila je Marinović.