U junu 2023. godine Evropski parlament je doneo veoma značajnu odluku i glasao u korist predloga Evropske komisije za donošenje Zakona o veštačkoj inteligenciji EU, čime je preduzet značajan korak u regulisanju upotrebe veštačke inteligencije (AI) unutar Evropske unije. Ovaj pionirski potez se poklapa sa širim evropskim naporima na polju zaštite podataka o ličnosti, o čemu svedoči i Opšta uredba o zaštiti podataka (GDPR). Uzimajući u obzir mnogobrojne koristi koje veštačka inteligencija donosi u svakodnevnom životu, predstavnici EU su prepoznali značaj uspostavljanja obavezujućih propisa kao neophodan korak kako bi se ublažili potencijalni rizici. Ti rizici obuhvataju zabrinutost u vezi sa privatnošću i bezbednošću, nedostatkom transparentnosti u sistemima veštačke inteligencije, kao i problemima pristrasnosti i diskriminacije, koji predstavljaju pretnje osnovnim pravima koja štiti Povelja o osnovnim pravima EU i Evropska konvencija o ljudskim pravima.
S obzirom da su pregovori o konačnoj verziji Zakona o veštačkoj inteligenciji u EU u toku, ključno je istražiti propise o veštačkoj inteligenciji kako unutar tako i izvan EU. To uključuje istraživanje procesa usvajanja Zakona o veštačkoj inteligenciji u EU, njegovog opsega i odredbi koje nameće pružaocima i korisnicima sistema veštačke inteligencije. Složena mreža propisa koja nastoji da uskladi inovacije koje donosi veštačka inteligencija sa očuvanjem individualnih prava, može se razmatrati isključivo povezivanjem tema koje se tiču upravljanja veštačkom inteligencijom i posvećenosti EU u pogledu zaštite podataka o ličnosti.
Da li neumitne promene koje se dešavaju u svetu nameću potrebu za pravnim regulisanjem upotrebe veštačke inteligencije?
Čak i izvan granica EU, sve više zemalja postaje svesno važnosti regulisanja veštačke inteligencije. Do nedavno, u Sjedinjenim Američkim Državama nije bilo obavezujućih pravila koja regulišu ovu oblast. Jedini propis je bio AI Risk Management Framework Nacionalnog instituta za standarde i tehnologiju (NIST), koji može služiti kao vodič provajderima AI sistema za odgovorno razvijanje tih sistema i činjenje njihovih proizvoda što pouzdanijim. Dana 30. oktobra 2023. godine, predsednik SAD-a je izdao Izvršnu naredbu o Bezbednoj, Sigurnoj i Pouzdanoj Veštačkoj Inteligenciji kojom se, između ostalog, utvrđuju zahtevi u pogledu obaveze razmene informacija o rezultatima na polju bezbednosti izmeću AI razvojnih timova i vlade SAD-a. U međuvremenu, Kineska uprava za kibernetički prostor razmatra predloge regulisanja veštačke inteligencije, a Velika Britanija kreira okvir zasnovan na principima koji podstiču inovacije.
Na međunarodnom nivou, Organizacija za ekonomsku saradnju i razvoj (OECD) je predstavila neobavezujuću Preporuku o veštačkoj inteligenciji 2019. godine. UNESCO je takođe usvojio Preporuke o Etici veštačke inteligencije 2021. godine, dok je Savet Evrope trenutno u procesu razvoja međunarodne konvencije koja reguliše veštačku inteligenciju.
Prvog novembra 2023. godine, lideri širom sveta su se okupili u Velikoj Britaniji kako bi razgovarali o hitnom pitanju veštačke inteligencije. Potpisali su Bletchley Deklaraciju o Bezbednosti Veštačke Inteligencije koja naglašava „hitnu potrebu za razumevanjem i zajedničkim upravljanjem potencijalnim rizicima kroz novi zajednički globalni napor“. Naredni sastanci su već zakazani u Južnoj Koreji i Francuskoj u razmacima od po 6 meseci.
Šta obuhvata Zakon o veštačkoj inteligenciji EU?
Tokom prethodnih godina, utvrđivanje pravila kojima se reguliše upotreba veštačke inteligencije bilo je jedno od glavnih tema među predstavnicima Evropske unije. Iako su prvi dokumenti koji se bave ovim problemom, poput Belog papira o veštačkoj inteligenciji, Etičkih smernica za pouzdanu veštačku inteligenciju i Preporuka za politiku i investicije, bili neobavezujući, donosioci odluka zauzeli su stav da je u ovom trenutku, kada se razvoj AI sistema odvija neverovatnom brzinom, neophodno uvesti i obavezujuće propise. Glavni razlozi zbog kojih je Evropska komisija predložila usvajanje Zakona EU o veštačkoj inteligenciji jesu utvrđivanje uslova za upotrebu AI sistema na tržištu Evropske unije, izbegavanje fragmentacije tog tržišta na teritoriji EU, podsticanje razvoja AI sistema uz minimalizaciju rizika po prava građana, kao i sprovođenje ovih pravila.
Ovaj zakon ima za cilj da utvrdi uslove zasnovane na riziku za sisteme veštačke inteligencije. U praksi, ovo znači da će sistemi veštačke inteligencije biti klasifikovani u nekoliko grupa prema tome koliki rizik predstavljaju za društvo. Ako se ispostavi da sistemi veštačke inteligencije imaju visok nivo rizika, za njih će biti postavljeni stroži uslovi i kontrola, ili čak može biti zabranjeno njihovo korišćenje. S druge strane, sistemi manjeg rizika moraće da ispune blaže zahteve u pogledu transparentnosti.
Zakon o veštačkoj inteligenciji takođe će pokušati da pravno definiše sisteme veštačke inteligencije, i pored činjenice da se svet nauke još nije složio oko bilo koje predložene definicije sistema veštačke inteligencije. Da li pravnici mogu bolje obaviti posao od naučnika? Mi smo prilično skeptični.
Na koga će se primenjivati pravila utvrđena Zakonom EU o veštačkoj inteligenciji?
Planirani propisi pretežno se fokusiraju na developere AI sistema unutar EU ali obuhvataju i subjekte u trećim zemljama koji uvode AI sisteme na tržište EU ili ih koriste unutar granica EU. U suštini, ovi propisi pokazuju kako teritorijalnu, tako i ekstrateritorijalnu primenljivost, oponašajući pristup koji ima i GDPR. Kako bi se sprečili pokušaji zaobilaženja uvedenih pravila, novi propisi obuhvatiće i pružaoce i korisnike AI sistema smeštene u trećim zemljama ukoliko se proizvodi koji proističu iz tih AI sistema koriste unutar EU. Međutim, važno je napomenuti da nacrt zakona ne obuhvata AI sisteme koji su dizajnirani i namenjeni za korišćenje u vojne svrhe, za upotrebu u javnim ustanovama u trećim zemljama ili u međunarodnim organizacijama. Izuzetak se takođe odnosi na institucije koje koriste AI sisteme u okviru međunarodnih sporazuma koji se odnose na sprovođenje zakona i pravosudnu saradnju.
Procena rizika u fokusu: Kojoj kategoriji pripada Vaša kompanija?"
Nacrt Zakona o veštačkoj inteligenciji usvaja strategiju zasnovanu na riziku, gde su pravne mere posebno usklađene sa stepenom uključenog rizika. Da bi postigao ovaj cilj, predloženi Zakon o veštačkoj inteligenciji pravi razlike između sledećih kategorija:
1. Neprihvatljiv rizik
Ako sistem veštačke inteligencije ima neprihvatljiv nivo rizika, što znači da predstavlja očiglednu pretnju pravima i bezbednosti ljudi, biće zabranjen na tržištu EU. Ovi sistemi veštačke inteligencije uključuju:
- Veštačke inteligencije koje koriste štetne manipulativne „subliminalne tehnike“;
- Veštačke inteligencije koje iskorištavaju određene ranjive grupe (ljude sa fizičkim ili psihičkim smetnjama)
- Veštačke inteligencije koje koriste javne vlasti ili u njihovo ime u svrhu društvenog ocenjivanja;
- Sisteme ‘u realnom vremenu’ daljinskog biometrijskog identifikovanja na javno dostupnim mestima u svrhu sprovođenja zakona, osim u ograničenom broju slučajeva, kao što su „post“ sistemi za daljinsko biometrijsko identifikovanje gde identifikacija nastaje nakon značajnog odlaganja radi procesuiranja ozbiljnih krivičnih dela, ali samo nakon odobrenja suda.
2. Visoki rizik
Sistemi veštačke inteligencije koji mogu uticati na ljudska prava, ali sa nižim nivoom pretnje u odnosu na prethodnu grupu, kategorizuju se kao sistemi visokog rizika. Na primer, sistemi koji se koriste u proizvodima obuhvaćenim zakonodavstvom EU o bezbednosti proizvoda (npr. igračke, avijacija, automobili, medicinski uređaji, liftovi) smatraju se visokorizičnim. Osim toga, ova kategorija uključuje listu od osam specifičnih oblasti koju može ažurirati Evropska komisija ako to smatra potrebnim. Trenutni spisak obuhvata:
- Biometrijsko identifikovanje i kategorizacija prirodnih lica
- Upravljanje kritičnom infrastrukturom;
- Obrazovanje i stručno osposobljavanje;
- Zapošljavanje, upravljanje radnicima i pristup samozapošljavanju;
- Pristup i uživanje esencijalnim privatnim uslugama, javnim uslugama i beneficijama;
- Sprovođenje zakona;
- Migracija, azil i upravljanje kontrolom granica;
- Upravljanje pravosuđem i demokratskim procesima.
Sistemi veštačke inteligencije visokog rizika potencijalno će biti podložni sledećim merama:
- Obavezna registracija sistema veštačke inteligencije u bazi podataka EU kojom upravlja Evropska komisija pre nego što se stavi na tržište za pružaoce usluga kojima upravlja pravila EU / Samoprocena usklađenosti sistema pružaoca sa Zakonom o veštačkoj inteligenciji EU za pružaoce koji nisu podređeni pravilima EU.
- Usklađenost sa nekoliko zahteva koji se odnose na pitanja kao što su sajber bezbednost, zaštita podataka i upravljanje rizicima.
- Pružaoci van EU-a moraće da postave predstavnika u EU-u kako bi se osigurala usklađenost sistema sa Zakonom o veštačkoj inteligenciji EU.
3. Ograničeni rizik
Sistemi veštačke inteligencije sa ograničenim rizicima trebalo bi da se pridržavaju osnovnih standarda transparentnosti kako bi korisnicima omogućili informisane odluke. Nakon interakcija sa aplikacijama, korisnici mogu odlučiti da li žele nastaviti sa njihovim korišćenjem. Važno je pružiti potrebna obaveštenja korisnicima kada koriste veštačku inteligenciju, što obuhvata i sisteme veštačke inteligencije koji omogućavaju generisanje ili menjanje sadržaja slika, zvuka ili videa, kao što su deepfake mediji, na primer.
4. Nizak ili minimalan rizik
Drugi sistemi veštačke inteligencije sa niskim ili minimalnim rizikom mogu biti razvijeni i korišćeni u EU bez dodatnih pravnih obaveza. Ipak, predloženi Zakon o veštačkoj inteligenciji predviđa uspostavljanje kodeksa ponašanja kako bi se pružaoci sistema veštačke inteligencije sa niskim rizikom podstakli da dobrovoljno usvoje obavezne zahteve koji važe za veštačke inteligentne sisteme visokog rizika.
Pat pozicija u vezi sa pregovorima o „Foundation“ Modelima: Francuska, Nemačka i Italija ispituju Nacrt Zakona EU o Veštačkoj Inteligenciji
Francuska, Nemačka i Italija su postale ključni akteri u zastoju oko ključnog aspekta predloženog zakona EU o veštačkoj inteligenciji. U samom centru spora je regulacija „foundation“ modela – sofisticiranih veštačkih inteligentnih sistema poznatih po svojoj sposobnosti generisanja raznovrsnih rezultata i služenja kao nezavisni entiteti ili integralne komponente za druge aplikacije. Ovaj trio tvrdi da nametanje stroge regulative ovim modelima može ometati napredak Evrope u tehnologiji veštačke inteligencije. Umesto toga, zagovaraju regulatorni okvir koji podstiče inovacije i konkurenciju, omogućavajući evropskim kompanijama poput Mistrala u Francuskoj i Aleph Alpha u Nemačkoj da zablistaju na globalnoj sceni veštačke inteligencije. Njihova predložena strategija uključuje samoregulaciju putem preuzimanja obaveza od strana kompanija i kodeksa ponašanja. Međutim, kritičari tvrde da takav pristup može ostaviti EU sa neizvršivim pravilima za najmoćnije i potencijalno štetne sisteme veštačke inteligencije, izazivajući zabrinutost u vezi sa ukupnom efikasnošću regulacije. Potpuna suprotstavljenost u perspektivama ovog pitanja stvorile su pat-poziciju koja, ako se ne reši, može ugroziti ceo proces pregovora oko Zakona o Veštačkoj Inteligenciji.
Upravljanje, sprovođenje i sankcije
Iako pregovori još uvek traju o tome da li će pravila propisana Zakonom o Veštačkoj Inteligenciji biti obavezna i na koji način će se primenjivati zakonske odredbe, nacrt predviđa sledeće mere:
- Države članice bi bile obavezne da imenuju nadležne organe, uključujući nacionalni nadzorni organ, radi nadzora sprovođenja regulative;
- Na nivou EU bi bio uspostavljen Evropski odbor za veštačku inteligenciju;
- Nacionalni organi nadzora tržišta bi procenjivali pridržavanje operatera obaveza visokorizičnih sistema veštačke inteligencije, uz pristup poverljivim informacijama. Oni bi sprovodili korektivne mere (zabrana, ograničenje, povlačenje ili opoziv sistema veštačke inteligencije) u slučaju nepoštovanja, a u slučaju kontinuiranih problema, države članice bi morale da intervenišu
- Administrativne kazne, do 30 miliona evra ili 6% ukupnog godišnjeg obrta na svetskom nivou, planirane su za prekršaje Zakona o Veštačkoj Inteligenciji, pri čemu su države članice odgovorne za sprovođenje.
Predstojeći razgovori, zakazani za 6. decembar 2023. godine, fokusiraće se na rešavanje preostalih pitanja od suštinskog značaja za dogovor predstavnika EU. Ova pitanja uključuju:
- izuzetke za sprovođenje zakona, posebno u vezi sa tehnologijama prepoznavanja lica koje koriste nacionalne vlasti,
- regulaciju „foundation“ modela i
- suočavanje sa izazovima upravljanja i sprovođenja.
Uprkos postojećim nesuglasicama, ostaje imperativno doneti obavezujući zakon koji reguliše veštačku inteligenciju, uključujući „foundation“ modele. Ovo je ključno kako bi se sačuvala osnovna prava građana, uz osiguravanje da takva regulativa ne ometa napredovanje tehnologija koje potencijalno donose značajne benefite za čovečanstvo u EU i šire.
