Lice za AI: nova strateška funkcija u okviru evropske regulative

Usvajanjem Akta o veštačkoj inteligenciji – AI Act, Evropska unija poslala je snažnu poruku: veštačka inteligencija je moćna tehnologija koja sa sobom nosi previše rizika da bi se koristila bez jasno uspostavljenih pravila. Sa ciljem uspostavljanja mehanizama odgovornosti, Akt upućuje na mogućnost uvođenja nove funkcije zadužene za usklađenost: Lica za veštačku inteligenciju (AI Officer). Iako ova pozicija, koja se često naziva i Chief AI Officer ili Artificial Intelligence Officer, nije zakonska obaveza, EU je prepoznaje kao dobru praksu za kompanije koje razvijaju, integrišu ili primenjuju alate veštačke inteligencije. U praksi, očekuje se da će ona postati obeležje snažnog korporativnog upravljanja u godinama koje dolaze.

Ovaj koncept odražava već poznatu putanju razvoja usklađenosti. Kao što je zaštita podataka podignuta na viši nivo nakon stupanja na snagu GDPR-a, tako i nadzor nad veštačkom inteligencijom sada dolazi u središte strateškog odlučivanja. Nadležnosti Lica za AI biće široke i zahtevne, obuhvataće nadzor nad celokupnim životnim ciklusom AI sistema, od dizajniranja i testiranja, preko dokumentacije do primene, identifikovanja rizika i obezbeđivanja njihovog otklanjanja, kao i direktnu povezanost sa nadležnim organima.

Ipak, ova funkcija je mnogo više od tehničkog zadatka. Pristup Evropske Unije prepoznaje da odgovorna AI nije samo pitanje algoritama ili inženjerstva. Reč je o ugrađivanju odgovornosti u korporativnu kulturu, usklađivanju upravljanja rizicima sa etičkim razmatranjima i obezbeđivanju pravne usklađenosti sa standardima koji se razvijaju. Za kompanije, imenovanje Lica za AI nije samo puko „čekiranje“ formalne obaveze već signaliziranje spremnosti da se ispune regulatorna očekivanja i zadobije poverenje klijenata, partnera i šire javnosti.

U nastavku ćemo uporediti ovu poziciju u nastajanju sa sada već ustaljenom ulogom Lica za zaštitu podataka o ličnosti (DPO) prema GDPR-u, koja je transformisala prakse usklađenosti širom Evrope. Najpre ćemo se osvrnuti na Lice za AI: koji je osnov za njegovo imenovanje, koja ovlašćenja treba da ima i sa kojim praktičnim izazovima će se kompanije suočiti kako bi ovu ulogu pretočile u stvarnost.

AI Officer – regulatorni put ka pouzdanoj AI

Akt EU o veštačkoj inteligenciji (AI Act) ne uvodi samo tehničke zahteve – on takođe podstiče organizacije da preispitaju kako je usklađenost interno strukturisana. Jedan od centralnih elemenata ove vizije jeste preporuka da se imenuje Lice za veštačku inteligenciju (AI Officer), uloga osmišljena da nadzire i koordinira poštovanje obaveza propisanih Aktom.

Iako nije zakonska obaveza, imenovanje Lica za veštačku inteligenciju (AI Officer) snažno se preporučuje svim organizacijama, a od posebnog je značaja za pružaoce i korisnike visokorizičnih sistema veštačke inteligencije. Reč je o sistemima u kojima veštačka inteligencija može značajno uticati na prava pojedinaca, zdravlje, bezbednost ili pristup ključnim uslugama. U takvim oblastima, od zapošljavanja i obrazovanja, preko donošenja odluka u oblasti medicine, pa sve do funkcionisanja kritične infrastrukture, regulatorna poruka EU je jasna: kada AI ima potencijal da preoblikuje živote ljudi, njen nadzor treba da bude poveren profesionalcima iz te oblasti.

Logika prati poznati regulatorni obrazac. Kao što su prethodno uvedena specijalizovana Lica za zaštitu podataka, tako i Akt o veštačkoj inteligenciji polazi od toga da usklađenost ne može biti sporedno pitanje, te da nadležnost u tom pogledu ne sme biti „rasuta“ među više departmana u okviru kompanije. Naprotiv, odgovornost mora biti sastavni deo korporativnog upravljanja, uz centralizovanu ekspertizu koja obezbeđuje nezavisnost, doslednost i dugoročni nadzor.

Uspostavljanjem uloge Lica za AI, EU ukazuje da pouzdana veštačka inteligencija zavisi od kontinuiranog nadzora od dizajniranja i testiranja, preko implementacije, sve do praćenja, kako bi sistemi u svakoj svojoj fazi bili usklađeni sa osnovnim pravima i društvenim vrednostima.

Ključne odgovornosti Lica za AI u upravljanju rizicima

Uvođenje uloge Lica za veštačku inteligenciju (AI Officer) prema Aktu EU o veštačkoj inteligenciji odražava širu promenu u načinu upravljanja veštačkom inteligencijom. Umesto da se odgovornost rasipa među tehničkim timovima, Akt naglašava potrebu za jedinstvenom tačkom odgovornosti unutar organizacija. Lice za AI oličava ovaj princip povezujući pravo, etiku i tehnologiju, obezbeđujući da usklađenost postane sastavni deo korporativnog upravljanja. Konkretno, od Lica za AI se očekuje da preuzme nekoliko ključnih odgovornosti:

1. Identifikovanje i upravljanje rizicima

Sistemi veštačke inteligencije mogu uticati na osnovna prava, bezbednost i pristup ključnim uslugama. Od Lica za veštačku inteligenciju se očekuje da mapira rizike duž celokupnog životnog ciklusa AI Sistema, od osmišljavanja do primene, i obezbedi uspostavljanje i sprovođenje strategija za ublažavanje rizika. To podrazumeva proaktivnu procenu potencijalne štete koju AI može prouzrokovati i uvođenje zaštitnih mera pre nego što problemi nastanu.

2. Nadzor nad procesima usklađenosti

Slično kao Lice za zaštitu podataka o ličnosti (DPO) prema GDPR-u, Lice za AI obezbeđuje kontinuirani nadzor nad aktivnostima usklađenosti. Ovo obuhvata proveru da sistemi veštačke inteligencije ispunjavaju zahteve Akta o veštačkoj inteligenciji, počev od obaveza transparentnosti i vođenja dokumentacije, pa sve do dužnosti nadzora nakon stavljanja na tržište.

3. Veza sa nadležnim organima

Lice za AI ima i komunikacionu ulogu, služeći kao kontakt za nadzorna tela i zainteresovane strane. Centralizacijom ove odgovornosti, organizacije mogu obezbediti doslednost u svojim interakcijama sa nadležnim organima.

4. Ugrađivanje odgovornosti u korporativno upravljanje

Pored pravne usklađenosti, Lice za veštačku inteligenciju doprinosi oblikovanju organizacione kulture. Ova uloga signalizira da pouzdana veštačka inteligencija nije samo tehničko pitanje, već prioritet na nivou celog poslovanja. Podizanjem svesti, obukom zaposlenih i obezbeđivanjem usklađenosti među različitim timovima, Lice za AI pomaže u stvaranju kulture odgovornosti.

Ova nova funkcija usklađenosti naglašava sve očigledniju činjenicu: upravljanje veštačkom inteligencijom prelazi sa margina u sam centar strateškog odlučivanja. Lice za AI nema samo ulogu nadzora nad tehničkim procesima, već i očuvanje poverenja, te obezbeđuje da se inovacije razvijaju na pravno izvestan i društveno odgovoran način.  

Lice za AI u okviru organizacije

Ovo nije titula bez stvarnih ovlašćenja: Lice za AI treba da nosi stvarnu težinu unutar kompanije. Da bi nadzor nad usklađenošću funkcionisao, Akt o veštačkoj inteligenciji EU zahteva da ova uloga objedinjuje nezavisnost i autoritet – što znatno povećava njen značaj u hijerarhiji organizacije.

1. Nezavisnost je polazna osnova. Poput Lica za zaštitu podataka o ličnosti (DPO) prema GDPR-u, Lice za AI mora biti u mogućnosti da donosi odluke bez uplitanja ili neprimerenog pritiska od strane rukovodstva. To ne znači rad u izolaciji, ali zahteva odsustvo sukoba interesa.

2. Resursi su podjednako od ključnog značaja, jer nezavisnost bez podrške nema smisla. Da bi izvršavao svoj mandat, Lice za AI mora imati pristup tehničkim stručnjacima, pravnim savetnicima, alatima za testiranje i odgovarajućim kadrovskim kapacitetima. Akt namerno ostavlja standard “odgovarajućeg” otvorenim, uzimajući u obzir da će resursi morati da se prilagođavaju u zavisnosti od veličine kompanije i obima njenih AI sistema.

3. Povezanost sa rukovodstvom je treći stub. Lice za AI mora imati mogućnost da direktno iskaže zabrinutost najvišim donosiocima odluka, obezbeđujući da se pitanja usklađenosti tretiraju kao strateški prioriteti, a ne da budu potisnuta u okviru srednjeg menadžmenta. Na taj način, Lice za AI ima i nadzornu, ali i savetodavnu ulogu u okviru kompanije.

Veštine i znanja Lica za AI

Ono što izdvaja Lice za AI jeste interdisciplinarna priroda ove uloge. Za razliku od tradicionalnih pozicija usklađenosti koje su prvenstveno pravne ili isključivo tehničke, ova pozicija zahteva spoj prava, tehnologije i etike.

1. Pravna i regulatorna stručnost – Lice za AI mora odlično poznavati obaveze koje proističu iz Akta o veštačkoj inteligenciji (AI Act) – od upravljanja rizicima i postupaka ocene usklađenosti do obaveza transparentnosti i regulatornih interakcija. Ključno je da bude u stanju da apstraktne pravne norme pretoči u konkretne korporativne procese.

2. Tehnička kompetentnost – Ova uloga takođe zahteva dobro poznavanje funkcionisanja AI sistema: načina na koji se modeli obučavaju, validiraju i nadziru. Iako se ne očekuje da piše kod, Lice za AI mora efikasno komunicirati sa inženjerima i stručnjacima za podatke, postavljati ključna pitanja i uočavati ranjivosti sa aspekta usklađenosti.

3. Etička uloga – Pored tehničkih i pravnih aspekata, Lice za AI mora uzimati u obzir šira načela kao što su pravičnost, zabrana diskriminacije i transparentnost. Njegova dužnost obuhvata obezbeđivanje da sistemi ne samo da funkcionišu pravilno, već i da budu usklađeni sa osnovnim pravima i vrednostima.

Kako je ovaj hibridni skup veština retkost, organizacije će možda morati da angažuju stručnjake sa interdisciplinarnim znanjima – pravnike  koji razumeju mašinsko učenje, inženjere sa iskustvom u usklađenosti, ili posebne specijaliste obučene za upravljanje veštačkom inteligencijom. Vremenom ćemo verovatno svedočiti pojavi posebnog profesionalnog puta: rukovodilaca za usklađenost u ulozi Lica za AI, ili čak Chief AI Officer-a, pozicioniranih u samom vrhu digitalnog upravljanja.

Praktični izazovi u uspostavljanju funkcije Lica za AI

Iako je uloga Lica za AI koncipirana kao uloga usmerena ka budućnosti, realizacija tog koncepta u praksi biće daleko od jednostavnog. Za organizacije, pravi izazov nije samo imenovanje Lica za AI, već i suočavanje sa širim preprekama koje ta uloga nosi sa sobom.

• Definisanje „adekvatnih resursa”: Akt o veštačkoj inteligenciji namerno ostavlja ovaj standard otvorenim, prepoznajući da će potrebe multinacionalne kompanije koja primenjuje više visokorizičnih sistema biti različite od potreba manjih pružalaca-provajdera sa jednim proizvodom. Ipak, ova fleksibilnost stvara neizvesnost: koliki budžet je dovoljan? Koliko zaposlenih treba da pruža podršku Licu za AI? Koliko razvijena mora biti infrastruktura za testiranje? Dok se regulatorna praksa i smernice ne razviju, kompanije će morati same da donose pažljivo promišljene odluke.

• Prevazilaženje kadrovskog jaza: Uloga zahteva retku kombinaciju pravne, regulatorne i tehničke ekspertize. Na tržištu na kojem su takvi profili retki, kompanije se mogu suočiti sa poteškoćama pri zapošljavanju. Inicijalna rešenja mogu obuhvatiti interne obuke, angažovanje spoljnih konsultanata ili uspostavljanje zajedničkog ili eksternog modela Lica za AI.

• Preklapanja sa postojećim funkcijama: Mnoge organizacije već poveravaju nadležnosti u oblasti usklađenosti rukovodiocima za usklađenost (Chief Compliance Officer), vođama timova za bezbednost informacija (Chief Information Security Officer), ili etičkim odborima (Ethics Committees). Delokrug Lica za AI može se preklapati sa ovim funkcijama, što otvara pitanja o linijama izveštavanja i razgraničenju odgovornosti. Bez pažljivog planiranja, to može dovesti do dupliranja poslova, sukoba ili praznina u kojima niko ne preuzima odgovornost.

• Ugrađivanje uloge u kulturu kompanije: Da bi Lice za AI bilo uspešno, mora biti shvaćeno ne kao birokratska prepreka, već kao strateški partner. To zahteva snažnu podršku najvišeg rukovodstva, otvorenu saradnju sa tehničkim timovima i posvećenost adekvatnom upravljanju veštačkom inteligencijom kroz svakodnevne poslovne prakse.

Uporedni prikaz Lica za AI I Lica za zaštitu podataka (DPO)

Kada se govori o upravljanju veštačkom inteligencijom na nivou EU, poređenja između Lica za zaštitu podataka o ličnosti (DPO) prema GDPR-u i nove funkcije Lica za AI su neizbežna. Obe funkcije predstavljaju interne mehanizme usklađenosti, koje je EU uvela da bi obezbedila odgovornost, jasnu strukturu i bolju saradnju nadležnih organa sa kompanijama i organizacijama. Radi jasnijeg poređenja, u nastavku je dat uporedni pregled u kojem se prikazuju podudarnosti i razlike između Lica za zaštitu podataka o ličnosti – DPO i Lica za AI –  AI Officer.