Tokom poslednjih godina svet se ubrzano menja, a revolucija veštačke inteligencije doprinosi postavljanju novih temelja na kojima će se čovečanstvo razvijati i nalaziti u budućnosti.
Korišćenje sistema veštačke inteligencije doprinosi ubrzavanju i olakšavanju obavljanja zadataka, povećavajući efikasnost i promenu funkcionisanja privrede, omogućavajući napredak nauke i promene u društvu. Međutim, razvoj, primena i upotreba veštačke inteligencije stvaraju zabrinutost i nose određene rizike, kako sa aspekata eventualnih zloupotreba i bezbednosti, tako i sa aspekta etike i prava. S tim u vezi, način na koji se veštačka inteligencija koristi i u koje svrhe, oblikovaće budućnost.
Zakonodavci širom sveta se suočavaju sa složenim zadacima koji za predmet imaju regulisanje veštačke inteligencije. Ipak, određene države i međunarodne organizacije su ovo pitanje u izvesnoj meri regulisale, usvojivši zakone, preporuke, smernice i druge dokumente i akte. Pravni okvir je neophodan kako bi se definisale mere i aktivnosti za razvoj i primenu veštačke inteligencije, kao i njihovo praćenje.
Republika Srbija je 2019. godine postavila temelje u oblasti veštačke inteligencije usvajanjem Strategije razvoja veštačke inteligencije u Republici Srbiji za period 2020–2025. godina, utvrđujući ciljeve i mere za razvoj veštačke inteligencije [1]. Međutim, time je samo napravljen prvi korak ka aktivnostima koje će se u narednim godinama preduzimati u oblasti veštačke inteligencije.
U nastavku ćemo navesti i razmotriti određene akte i propise važne za oblast veštačke inteligencije u Republici Srbiji. Ipak, na neke od njih još uvek čekamo.
Zakon o veštačkoj inteligenciji Republike Srbije
Sveobuhvatno zakonsko regulisanje veštačke inteligencije se još uvek iščekuje budući da Zakon o veštačkoj inteligenciji u Republici Srbiji još uvek nije donet. Međutim, prepoznata je važnost i potreba donošenja navedenog Zakona, te su napravljeni značajni koraci formiranjem Radne grupe koja učestvuje u izradi Nacrta Zakona o veštačkoj inteligenciji Republike Srbije [2].
Dok domaći zakon u ovoj oblasti ne bude usvojen, ostaje nam da se upoznamo sa sadržinom Zakona o veštačkoj inteligenciji Evropske Unije (EU AI Act) koji je stupio na snagu i počinje da se primenjuje fazno, a za koji se veruje da će biti model za sačinjavanje Zakona o veštačkoj inteligenciji Republike Srbije. EU AI Act je značajan za sve koji ispunjavaju uslove da se taj akt primenjuje i na njih imajući u vidu da se odredbe EU AI Act-a primenjuju i na kompanije iz država van Evropske Unije pod određenim okolnostima, o čemu možete više pročitati u tekstu na temu „Kako se uskladiti sa EU Regulativom o veštačkoj inteligenciji?“.
Strategije razvoja veštačke inteligencije u Republici Srbiji
Kao što je već pomenuto, Republika Srbija je 2019. godine donela Strategiju razvoja veštačke inteligencije u Republici Srbiji za period 2020–2025. godina [3], a kao nastavak ove Strategije, u januaru 2025. godine usvojena je nova Strategija razvoja veštačke inteligencije u Republici Srbiji za period 2025–2030. godina[4].
1. Strategija razvoja veštačke inteligencije u Republici Srbiji za period 2020–2025. godina
Strategijom razvoja veštačke inteligencije u Republici Srbiji za period 2020–2025. godine utvrđeni su ciljevi i mere za razvoj veštačke inteligencije. Opšti cilj ove Strategije je bio „upotreba veštačke inteligencije u funkciji ekonomskog rasta, zapošljavanja i kvalitetnijeg života“, а pored opšteg cilja predviđeni su i posebni ciljevi:
- Razvoj obrazovanja usmeren ka potrebama savremenog društva i privrede uslovljenim napretkom veštačke inteligencije;
- Razvoj nauke i inovacija u oblasti veštačke inteligencije i njenih primena;
- Razvoj ekonomije zasnovane na veštačkoj inteligenciji (gde je AI ključna komponenta i gde se koristi u raznim granama industrije);
- Unapređenje pretpostavki za razvoj veštačke inteligencije i usluga javnog sektora primenom veštačke inteligencije;
- Etična i bezbedna primena veštačke inteligencije.
Za svaki od ciljeva su bile predviđene i mere čijom realizacijom je trebalo da se doprinese razvoju veštačke inteligencije. Tako je, kao rezultat realizacije mera, između ostalog, osnovan
i Institut za veštačku inteligenciju Srbije[5]. Takođe, budući da je etična i bezbedna primena veštačke inteligencije bila previđena kao jedan od pet postavljenih posebnih ciljeva, u periodu 2020-2025 godine, tačnije 2023. godine usvojene su i Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije, o kojima će biti detaljnije biti reči u ovom tekstu.
2. Strategija razvoja veštačke inteligencije u Republici Srbiji za period 2025–2030. godina
Početkom 2025. godine usvojena je Strategija razvoja veštačke inteligencije u Republici Srbiji za period 2025–2030. godina kojom su utvrđeni novi ciljevi i mere za realizaciju opšteg cilja i nastavak razvoja i upotrebe veštačke inteligencije u Republici Srbiji.
Za razliku od opšteg cilja prethodne Strategije, Strategija iz 2025. godine ističe značaj da veštačka inteligencija bude pouzdana i odgovorna. S tim u vezi, opšti cilj nove Strategije je „upotreba pouzdane i odgovorne veštačke inteligencije u funkciji ekonomskog rasta, zapošljavanja i kvalitetnijeg života“.
I nova Strategija definiše posebne ciljeve i mere kojima se ostvaruje opšti cilj:
Posebni ciljevi | Mere |
1. Stvaranje i usklađivanje institucionalnog i pravnog okvira za razvoj i sigurnu, bezbednu, pouzdanu i odgovornu primenu veštačke inteligencije. | · Unapređenje pravnog okvira koji će omogućiti razvoj i primenu veštačke inteligencije · Unapređenje institucionalnog okvira za veštačku inteligenciju · Kontinuirano usaglašavanje etičkih principa i pravnog okvira sa međunarodnim standardima i njihova primena |
2. Unapređenje i olakšavanje tehnološkog razvoja u domenu veštačke inteligencije i rešenja zasnovanih na veštačkoj inteligenciji. | · Finansiranje i razvoj naučno-istraživačkih projekata iz oblasti veštačke inteligencije · Podrška inovativnim kompanijama u razvoju veštačke inteligencije · Podrška daljem razvoju Instituta za veštačku inteligenciju · Podsticaji za primenu veštačke inteligencije u naučnim istraživanjima |
3. Razvoj ljudskih resursa i znanja u domenu veštačke inteligencije. | · Razvoj standarda kvalifikacija, kurikuluma i studijskih programa iz oblasti veštačke inteligencije u visokom obrazovanju · Razvoj obuka u oblasti veštačke inteligencije u obrazovanju u osnovnim i srednjim školama i kod drugih pružalaca usluga · Podizanje opšte pismenosti u oblasti veštačke inteligencije u društvu · Neformalno obrazovanje za korišćenje rešenja baziranih na veštačkog inteligenciji · Neformalno obrazovanje i priznavanje prethodnog učenja profesionalaca iz domena informacionih tehnologija za projektovanje i razvoj rešenja baziranih na veštačkoj inteligenciji. · Podrška razvoju talenata i pružanje usluga karijernog vođenja i savetovanja u oblasti veštačke inteligencije |
4. Unapređenje infrastrukture i resursa neophodnih za razvoj veštačke inteligencije. | · Proširenje hardverske infrastrukture · Izgradnja i povezivanje ekosistema sa učesnicima u Republici Srbiji i inostranstvu · Sprovođenje nacionalnog programa za razvoj jezičkih tehnologija za srpski jezik |
5. Korišćenje podataka kao značajnog resursa za razvoj veštačke inteligencije. | · Izgradnja kapaciteta za upravljanje i inženjering podataka u upravi · Otvaranje i korišćenje velikih skupova podatka za potrebe veštačke inteligencije · Standardizacija upravljanja podacima u adekvatnim formatima u javnom sektoru |
6. Povećanje primene veštačke inteligencije u prioritetnim segmentima društva i privrede. | · Podsticaji za primenu veštačke inteligencije u javnom sektoru · Podsticaji za primenu veštačke inteligencije u radu javne uprave · Podsticaji za primenu veštačke inteligencije u obrazovnim institucijama · Podsticaji za primenu veštačke inteligencije u privredi · Podsticanje razvoja rešenja iz oblasti informacione bezbednosti koja primenjuju veštačku inteligenciju · Podsticanje primene veštačke inteligencije u odbrambenim tehnologijama za potrebe sistema odbrane Republike Srbije · Podsticaji za primenu veštačke inteligencije u zdravstvu i biotehnologijama · Podsticaji za primenu veštačke inteligencije u poljoprivredi |
Postavljanje ciljeva i sprovođenje mera su značajni sa aspekta pravca razvoja veštačke inteligencije. Posebnim ciljevima i merama se podstiču inovacije, naučna istraživanja, tehnološki razvoj i obrazovanje u domenu veštačke inteligencije, ali se naglašava i značaj poštovanja etičkih standarda i principa.
Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije
Kao što je već prethodno pomenuto, Strategijom razvoja veštačke inteligencije u Republici Srbiji za period 2020–2025. godine postavljen je cilj da se uvedu preventivni mehanizmi koji će doprineti da primena veštačke inteligencije bude etična i bezbedna. Zbog brojnih izazova sa kojima nas primena i razvoj veštačke inteligencije suočava i može suočiti, prepoznato je da treba uspostaviti i obezbediti odgovoran razvoj veštačke inteligencije koji bi bio u skladu sa etičkim i bezbednosnim standardima.
S tim u vezi, kao jedna od mera za realizaciju postavljenog cilja predviđala je obezbeđivanje odgovornog razvoja veštačke inteligencije u skladu sa međunarodnim etičkim standardima[6]. Prepoznato je da je potrebno uspostaviti balans između obezbeđivanja podrške razvoju veštačke inteligencije, sa jedne strane, i zaštite osnovnih ljudskih prava i etičkih principa, sa druge strane. Akcenat je stavljen na pravilnu upotrebu i razvoj sigurne, pouzdane i odgovorne veštačke inteligencije.
Kao rezultat svega prethodno navedenog, 2023. godine usvojene su Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije (u daljem tekstu: „Etičke smernice“) u kojima su sadržani i principi iz Preporuka o etici sistema veštačke inteligencije (eng. Recommendation on the Ethics of AI), usvojene od strane UNESCO-a 2021. godine.
Etičke smernice nemaju obavezujući karakter, ali predstavljaju putokaz svim učesnicima u ekosistemu veštačke inteligencije i usmeravaju im pravac kretanja u cilju da se rizici u vezi sa razvojem i primenom veštačke inteligencije izbegnu, umanje ili otklone. Preventivni karakter Etičkih smernica doprinosi i zaštiti ljudskih prava, ublažavanju i otklanjanju eventualne štete, ali i jačanju poverenja u sigurnost veštačke inteligencije.
U samom uvodu Etičkih smernica naglašava se značaj čoveka i njegov položaj u odnosu na razvoj veštačke inteligencije. Dakle, Etičke smernice nemaju za cilj da uspore tehnološki rast, već da se obezbede da se on nastavi na način bezbedan po ljudsko dostojanstvo, životinje, i životnu sredinu.
Upotreba „pouzdane i odgovorne“ veštačke inteligencije sadržana je i u samom nazivu Etičkih smernica, te ćemo pre navođenja konkretnih uslova najpre bliže pojasniti šta znači „pouzdana i odgovorna“ veštačka inteligencija, odnosno kako to objašnjavaju Etičke smernice.
a) Pouzdana i odgovorna veštačka inteligencija
Prema Etičkim smernicama, „pouzdana i odgovorna“ veštačka inteligencija se vezuje za tri komponente, od kojih se svaka ocenjuje zasebno:
- Tehnička pouzdanost i bezbednost
- Zakonitost – usklađenost sa propisima
- Etika – usklađenost sa etičkim principima i vrednostima
Ispunjenost jedne od komponenti ne znači da je ispunjena i druga komponenta, budući da se svaka od njih ocenjuje nezavisno od druge dve.
Harmonizovanim odnosom ova tri elementa, bez izostavljanja ijedne od njih, obezbeđuje se pouzdanost i odgovornost veštačke inteligencije. Tek ako su sve tri komponente ispunjene, može se zaključiti da je veštačka inteligencija „pouzdana i odgovorna“.
Poštovanje i ispunjavanje ova tri standarda je kontinuirani proces koji treba da prati ceo životni ciklus razvoja veštačke inteligencije.
Nakon što smo objasnili šta podrazumeva „pouzdana i odgovorna“ veštačka inteligencija, u nastavku ćemo navesti načela koja su Etičkim smernicama izdvojena kao osnova za stvaranje, razvoj, primenu i korišćenje veštačke inteligencije.
b) Načela
Etičke smernice predviđaju nekoliko ključnih principa na kojima se temelje razvoj i primena pouzdane i odgovorne veštačke inteligencije.
- Objašnjivost i proverljivost – Veštačka inteligencija treba da bude jasna, transparentna i proverljiva u svakom trenutku. Posmatrano zasebno, objašnjivost podrazumeva da svi procesi moraju biti transparentni, od razvoja testiranja i puštanja u rad, do nadzora nad radom sistema i njegovog gašenja, dok proverljivost podrazumeva da se sistem može proveravati tokom celog životnog ciklusa, ali podrazumeva i proveru uticaja sistema na čoveka u bližoj i daljoj budućnosti.
- Dostojanstvo – Podrazumeva zaštitu i očuvanje čovekovog integriteta. Sistemi veštačke inteligencije treba u svakoj fazi da imaju na umu čoveka, da poštuju njegovu ličnost, slobodu i autonomiju, te da se nijednog trenutka ne ugrozi dostojanstvo i integritet čoveka niti da se čovek podređuje funkcijama sistema veštačke inteligencije. Ovo načelo bi podrazumevalo da se veštačka inteligencija ne razvija i ne koristi na način kojim bi se ugrozio čovek. Polazeći od toga da je veštačka inteligencija sredstvo namenjeno unapređenju čovekovog života, čovek ne treba da bude podređen veštačkoj inteligenciji.
- Zabrana činjenja štete – Sistemi veštačke inteligencije moraju da budu pouzdani i bezbedni, kao i njihovo korišćenje. S tim u vezi, ovi sistemi moraju biti usklađeni sa bezbednosnim standardima i sadržati mehanizme za sprečavanja nastanka štete po ljude i njihovu imovinu, a ukoliko dođe do štete, ona se mora otkloniti u najkraćem roku, a oštećenim licima naknaditi šteta u skladu sa zakonom.
- Pravičnost – Sistemi veštačke inteligencije moraju imati mehanizam za sprečavanje diskriminacije i omogućavanje jednakih prilika, a nadzor nad odlukama donetim od strane AI sistema je neophodan. Sistemi veštačke inteligencije treba da pruže svima jednake mogućnosti, kao i mogućnost osporavanja i pravne zaštite protiv odluka koje proizlaze iz rada sistema veštačke inteligencije i lica koji su odgovorni za rad sistema veštačke inteligencije.
c. Uslovi pouzdane i odgovorne veštačke inteligencije
Uslovi pouzdane i odgovorne veštačke inteligencije, koji su u bliskoj vezi sa prethodno opisanim načelima, obuhvataju:
- Ljudski nadzor i kontrolu;
- Tehničku pouzdanost i bezbednost;
- Privatnost, zaštitu podataka o ličnosti i upravljanje podacima;
- Transparentnost;
- Različitost, nediskriminaciju i ravnopravnost;
- Društveno i ekološko blagostanje;
Šta to konkretno podrazumeva? Načela predstavljaju osnov i vrednosni okvir kojem se teži, dok uslove čine proverljivi parametri kojima se potvrđuje i dokazuje da su načela u praksi ispunjena. To se čini putem metoda koje delimo na:
- Tehičke – u formi preporuka, kojima je cilj usmeravanje razvoja, primene i korišćenja sistema veštačke inteligencije na pouzdan način;
- Netehničke – u formi upitnika, kojima se pruža mogućnost za proveru i samoprocenu ispunjenosti načela i uslova, odnosno da se ocene sistemi veštačke inteligencije. Upitnici su u Etičkim smernicama sačinjeni u formi pitanja i davanja odgovora na pitanja.
Dakle, navedene metode u formi preporuka i upitnika predstavljaju alate pomoću kojih može da se doprinese usmeravanju razvoja, primeni i korišćenju veštačke inteligencije u pravcu pouzdane i odgovorne veštačke inteligencije. Takođe, Etičkim smernicama se ne ograničava primena dodatnih uslova ako se mogu primeniti u skladu sa etičkim principima.
Činjenica da Zakon o veštačkoj inteligenciji u Republici Srbiji još nije usvojen, ne znači da regulativa u ovoj oblasti uopšte ne postoji. Naprotiv – brojni postojeći propisi se mogu primeniti na razvoj i upotrebu AI sistema, polazeći od ugovorne odgovornosti, preko zaštite podataka o ličnosti (posebno obaveze sprovođenja procene uticaja na privatnost – DPIA), preko prava potrošača, pa sve do ustavnih i zakonskih odredaba kojima se propisuje zabrana diskriminacije. Sve ove norme zajedno čine solidan osnovni pravni okvir za regulisanje oblasti veštačke inteligencije u Srbiji, uprkos činjenici da još nije donet poseban Zakon o veštačkoj inteligenciji.
Put ka sveobuhvatnoj regulativi u oblasti veštačke inteligencije predstavlja više od zakonodavnog procesa – to je korak ka definisanju načina na koji će tehnologija i društvo koegzistirati u godinama pred nama. Opravdano se može očekivati da će predstojeći Zakon o veštačkoj inteligenciji biti prekretnica u ostvarivanju te vizije, pretvarajući strategiju i etiku u obavezujuću pravnu realnost.
