U većini industrija veštačka inteligencija postaje standardni deo operacija i odluka. Čak i ako kompanija „formalno” ne razvija niti koristi AI, verovatno je da su određeni oblici AI već u upotrebi, putem ChatGPT-a, automatizovanog odlučivanja, alata za predikciju ili srodnih tehnologija. Kako AI dublje ulazi u procese, proporcionalno rastu rizici: pre svega u vezi sa zaštitom podataka, algoritamskom pristrasnošću i regulatornom usklađenošću. Bez jasnog okvira za upravljanje AI, organizacija se izlaže rizicima koji podrivaju poverenje, kreiraju pravne rizike i mogu narušiti ključne operacije. Kompanijska politika za AI je zato ključni mehanizam za ublažavanje rizika: ona postavlja temelje odgovorne upotrebe, obezbeđuje odgovornost u okviru organizacije i pozicionira kompaniju kao promišljenog aktera na tržištu. Ako treba da pripremite AI politiku, a niste sigurni odakle da krenete, u nastavku je praktičan okvir prilagođen poslovnim potrebama.
Razumevanje pojma AI politike
Šta je AI politika?
Pojam „AI politika” ima različito značenje u zavisnosti od konteksta: može se odnositi na (i) etičku politiku (smernice za odgovoran razvoj i upotrebu), (ii) politiku upravljanja (pravni i regulatorni okviri), (iii) politiku odlučivanja zasnovanu na AI (strategije ML), ili (iv) internu organizacionu AI politiku (pravila kompanije za upravljanje AI sistemima). Ovaj tekst se bavi poslednjim dokumentom koji uređuje kako se AI sistemi unutar kompanije razvijaju, koriste i nadziru (u daljem: „AI politika”).
AI politika funkcioniše kao „mapa puta” za usklađivanje prakse sa pravom i etičkim standardima i usmerava ponašanje zaposlenih u skladu sa definisanim vrednostima i strategijom. Kao formalna obaveza za odgovornu primenu AI, ona omogućava da se korist od AI maksimizuje, a da se istovremeno smanje rizici (pristrasnost, bezbednosni incidenti, pravne komplikacije). Budući da su ciljevi, struktura i rizici, specifični za svaku organizaciju, politika mora biti prilagođena konkretnom kontekstu i odgovornostima u vezi sa AI menadžmentom. AI politika je krovni dokument i postavlja „kućna pravila” kroz definisanje ciljeva, principa i zaštitnih mera. Zato predstavlja polaznu tačka za izgradnju dobrog AI upravljanja. U praksi postoje dva pristupa: (a) dopuniti postojeće politike (kada je AI zabranjen ili oštro ograničen) ili (b) doneti posebnu AI politiku (kada je AI dozvoljen i aktivno se primenjuje, npr. u odlučivanju, obradi podataka ili radu s klijentima).
Strateška prednost koju donosi AI politika i rizici u slučaju njenog odsustva
Pre usvajanja AI politike, potrebno je sagledati koristi koje onda donosi i rizike njenog izostanka. Ističemo stratešku vrednost kvalitetno sročene AI politike i važnost informisanog i odgovornog odlučivanja u okruženju u kojem AI pokreće procese.
Razlozi za usvajanje AI politike:
- Usklađenost sa propisima. AI politika omogućava da praksa bude usklađena sa pravom i umanjuje rizik neusklađenosti sa režimima poput GDPR, HIPAA i novim AI propisima (npr. EU AI Act).
- Zaštita podataka i privatnosti. Kako generativni AI obrađuje velike količine podataka, bez jasnih mera zaposleni mogu nenamerno podeliti poverljive informacije ili lične podatke; politika definiše protokole prikupljanja, čuvanja, deljenja i obrade podataka.
- Otkrivanje i eliminisanje pristrasnosti. Uspostavlja periodične evaluacije i preglede rezultata radi detekcije diskriminacije (pol, rasa, starost, itd.).
- Etična i odgovorna upotreba. Postavlja okvir implementacije, čuva reputaciju i razgraničava ulogu AI u odlučivanju.
Rizici kada AI politika izostane:
- Nepouzdani ili neprovereni rezultati. Generativni AI daje odgovore bazirane na statističkoj verovatnoći (moguće netačne, delimično tačne ili pristrasne); bez AI politike nema adekvatnog mehanizma za pravovremeno otkrivanje grešaka.
- Nenameran bezbednosni ili „data breach” incident. Npr. unos poverljivih podataka klijenata u javno dostupne AI alate. AI politika definiše dozvoljene alate i njihovu prihvatljivu upotrebu i određuje granice u rukovanju podacima.
- Rizik neusklađenosti. Teže praćenje regulatornih promena povećava pravnu izloženost i verovatnoću sankcija.
Ključna pitanja pre pisanja AI politike
Efektivna AI politika nije puka administrativna formalnost. Zahteva pripremu koja uključuje sagledavanje okruženja, alata, vrednosti i rizika, definisanje ciljeva, formiranje kompetentnih timova i definisanje odgovornosti. Pre početka pisanja razmotrite:
a) Definiciju AI u poslovnom kontekstu. Postoji li interna, usaglašena definicija šta se smatra AI, koji sistemi i alati spadaju u tu definiciju i gde su već integrisani?
b) Radnu grupu i edukaciju menadžmenta. Da li je formiran multi-funkcionalan tim za vođenje procesa izrade politike? Da li je odbor/upravni organ prošao adekvatne edukacije o ključnim rizicima (pristrasnost, privatnost, uticaj na radnu snagu)?
c) Svrhu politike. Koji su ciljevi i očekivanja od AI politike? Da li prvenstveno omogućava, ograničava ili štiti određene upotrebe, alate i ponašanja?
d) Šta motiviše usvajanje AI politika. Širenje u primeni AI alata, pojačan nadzor države, interne rezerve u pogledu korišćenja ili reputacioni rizici?
e) Etičke principe i regulatorni okvir. Koje vrednosti organizacija želi da izgradi i koje pravne obaveze treba da ispuni (zaštita podataka, privatnost, sektorske smernice)?
f) Slučajeve upotrebe i rizike. Ko koristi AI, u koje svrhe i u kojim kontekstima? Koje rizike treba predvideti (pristrasnost, ranjivosti, neželjeni ishodi) i koje zaštitne mehanizme unapred postaviti?
g) Uloge i odgovornosti. Kako se odgovornosti raspoređuju kroz životni ciklus AI sistema i koje su obuke potrebne za sticanje adekvatnih kompetencija?
h) Kontinuirani nadzor i evaluaciju. AI politika mora da evoluira vremenom, a da bi to bilo moguće, potrebno je uvesti mehanizme za prikupljanje korisničkih iskustava, periodični pregledi i praćenje performansi AI sistema.
i) Predstavljanje politike. Kako će politika biti prezentovana zaposlenima? Da li je jasno formulisana, lako dostupna i objašnjena razumljivim jezikom kroz interne kanale (mejlovi, treninzi, interne platforme)?
Ova pitanja čine osnovu za strukturisanu i održivu AI politiku koja odražava specifične potrebe, regulatorne obaveze i principe odgovorne upotrebe tehnologije.
Osnovni elementi AI politike
Svrha i obim. Jasno utvrditi razloge i ciljeve, usklađene sa strategijom. Precizno definisati na koje AI sisteme i aktivnosti se primenjuje AI politika i na koja lica, kako bi primena bila nedvosmislena i proverljiva.
Temeljni etički principi. Politika reflektuje vrednosti (npr. okviri OECD, UNESCO, HLEG) kroz pravila upravljanja radi jačanja poverenja i pouzdanih AI sistema: odgovorna upotreba; usklađenost sa međunarodnim, nacionalnim i sektorskim propisima (zaštita podataka, privatnost, prava potrošača, IP i dr.); transparentnost i odgovornost (obaveza transparentnosti, odgovornost za rezultate, mogućnost objašnjenja i opravdanja rezultata, jasno definisane nadležnosti nadzora); centralizovan sistem za AI upravljanje i usklađenost (vidljivost planiranih i aktivnih AI aktivnosti); privatnost i bezbednost podataka (pravila za lične i osetljive podatke, uključujući anonimizaciju, bezbedno skladištenje i obradu u skladu sa propisima); bezbednost, sigurnost i otpornost (zaštita od napada i rad u otežanim uslovima); pravičnost i jednakost (aktivno praćenje i eliminisanje diskriminatornih rezultata); saradnja čovek–AI (granice oslanjanja na AI preporuke); standardi za usluge trećih strana (etički i pravni zahtevi za spoljne AI servise).
Tela i uloge upravljanja. Politika definiše izvršne uloge i odgovornosti u razvoju, primeni i nadzoru AI sistema. Po potrebi se formira, u hijerarhiji kompanije, visoko-pozicionirani organ sa jasnim mandatom i nadležnostima.
Klasifikacija i upravljanje rizikom. Svi AI sistemi razvrstavaju se prema nameni i klasi rizika, uz razgraničenje dozvoljenih, ograničenih i zabranjenih sistema. Politika opisuje identifikaciju, praćenje i ublažavanje rizika, uključujući testiranje tačnosti/pouzdanosti i odgovarajuće mere umanjenja i eliminisanja rizika.
Prihvatljiva i zabranjena upotreba. Dokument nabraja dopuštene načine korišćenja i strogo zabranjene aktivnosti (npr. političko lobiranje, kategorizacija po zaštićenim obeležjima, unošenje osetljivih informacija u AI sisteme), uz jasno definisane granice.
Kontinuirani monitoring i revizije. Predviđene su periodične provere performansi, tačnosti i pravičnosti, uz prilagođavanje kontrola i mera na osnovu nalaza radi stalnog unapređenja usklađenosti i učinka.
Obuke i podizanje svesti. Uspostavlja se program obuka i kontinuirane edukacije, uz obavezu zaposlenih da razumeju rizike, odgovornosti i etičke implikacije te da poštuju AI politiku.
Prijava incidenata. Uspostavljaju se kanali za prijavu, mere poverljivosti i zaštitu od odmazde, kao i postupci u slučaju AI incidenata, od inicijalne procene do korektivnih i preventivnih mera.
Povrede politike. Propisuju se posledice u slučaju kršenja AI politika (disciplinske mere, mogući raskid ugovora i druge pravne posledice), u skladu sa internim aktima i važećim propisima.
Pregled i ažuriranje. Definiše se raspored redovnih revizija i imenuje pojedinac ili organ odgovoran za ažuriranje dokumenta kako bi ostao usklađen sa praksom i regulatornim promenama.
Implementacija AI politike
Uspešna primena zahteva strukturisan, višefazan pristup koji osigurava i usklađenost i praktičnu integraciju u čitavoj kompaniji.
Preporučeni koraci:
Korak 1: Izrada nacrta uz doprinos celog tima. Pripremiti nacrt u skladu sa navedenim smernicama, i uz angažovanje većeg broja članova tima iz različitih odeljenja, po mogućnosti kroz Odbor za AI upravljanje, i obavezno sprovesti pravnu reviziju dokumenta.
Korak 2: Distribucija i potvrda o upoznatosti. Po usvajanju, politika se komunicira svim zaposlenima; svako formalno potvrđuje da je upoznat sa sadržajem i obavezom poštovanja.
Korak 3: Operativna integracija i usklađivanje procedura. Menadžeri i zaposleni definišu tokove rada i kontrolne mehanizme koji svakodnevnu upotrebu AI usklađuju sa zahtevima AI politike, uključujući timski specifične procedure i protokole odlučivanja.
Korak 4: Kontinuirana evaluacija i unapređenje. AI Politika se tretira kao dinamičan dokument; redovno usklađivanje se bazira na nalazima revizija, proceni rizika i operativnim povratnim informacijama u cilju finog podešavanja.
„Živi” okvir, ne jednokratan dokument
AI je disruptivna i dinamična tehnologija koju nijedna organizacija, bez obzira na sektor ili veličinu, ne može ignorisati. Umesto da organizacije čekaju da se „tržište stabilizuje”, preporučuje se proaktivan pristup koji obuhvata:
- identifikaciju oblasti najveće poslovne vrednosti,
- sveobuhvatnu procenu rizika,
- usvajanje sistematske i sveobuhvatne AI politike,
- uspostavljanje nadležnog tela za upravljanje upotrebom i razvojem AI sistema.
Čak i kada postoji zasebna AI politika, najčešće je potrebno revidirati postojeće interne politike, posebno u oblasti zaštiti podataka, informacionoj bezbednosti i prihvatljivoj upotrebi tehnologije, kako bi se odgovorilo na specifične izazove koje AI donosi. AI politika zato nije izolovana već je deo šireg pravnog sistema i organizacionog ekosistema. Ona mora ostati dinamična, prilagodljiva i kontinuirano korišćena da bi zadržala relevantnost i efikasnost.
