Veštačka inteligencija (AI) više nije samo futuristički koncept – brzo je postala deo našeg svakodnevnog života i poslovanja. Od agenata korisničke podrške do naprednih alata za analitiku podataka i donošenje odluka, AI menja način na koji kompanije funkcionišu, pružaju usluge i ostaju konkurentne.
Međutim, pored uzbudljivih prilika, ova promena donosi i nove pravne i operativne izazove, naročito za IT kompanije. Kako se AI integriše u softverske proizvode, cloud servise i IT rešenja, menja se način na koji ugovori treba da budu strukturirani. Tradicionalni IT ugovori često zanemaruju jedinstvene karakteristike AI-ja, kao što su oslanjanje na podatke, sposobnost učenja i evolucije, kao i nepredvidivost rezultata.
Iz tih razloga, pregovaranje o IT ugovorima u eri veštačke inteligencije zahteva dodatnu pažnju i razumevanje, te više nije dovoljno fokusirati se samo na standardno licenciranje softvera ili nivoe usluga. Kompanije moraju da osiguraju da njihovi ugovori jasno rešavaju pitanja poput vlasništva intelektualne svojine nad veštačkom inteligencijom, prava na korišćenje podataka, obaveza transparentnosti i usklađenosti sa brzorazvojnim regulativama u oblasti veštačke inteligencije.
U ovom blogu istražićemo šta čini ugovore koji uključuju AI različitim, na koje odredbe treba obratiti posebnu pažnju i kako IT kompanije mogu da zaštite sebe i svoje klijente prilikom pregovora o poslovima koji uključuju AI komponente.
AI faktor u IT ugovorima
Šta čini AI odredbe jedinstvenim?
Za početak, veštačka inteligencija uvodi skup izazova i zahteva koje tradicionalni IT ugovori nisu bili osmišljeni da reše. Za razliku od standardnog softvera, za AI sisteme je karakteristično da:
- Pretežno zavise od podataka – Veliki skupovi podataka su preduslov da bi AI funkcionisala i napredovala. Shodno tome, ugovori moraju precizno regulisati ko obezbeđuje podatke, ko je njihov vlasnik i na koji način se podaci mogu koristiti.
- Uče i razvijaju se tokom vremena – Kako obrađuju sve veće količine podataka, nije neobičajeno da se modeli veštačke inteligencije menjaju. Kao posledica toga, otvaraju se pitanja pitanja o odgovornosti za dobijene rezultate, nadogradnje i održavanje.
- Dostavljaju nepredvidive rezultate – Odluke AI sistema često se zasnivaju na složenim algoritmima i obimnim skupovima podataka, zbog čega je teško garantovati potpuni kvalitet ili tačnost rezultata.
- Dovode do etičkih i regulatornih izazova – Od usklađenosti sa propisima o zaštiti podataka o ličnosti do zahteva za nepristrasnošću i obaveza transparentnosti, AI donosi potpuno novi sloj regulative koji mora biti obuhvaćen u bilo kom ugovoru kao deo AI upravljanja.
Ovi specifični faktori znače da tradicionalne „standardne” odredbe o softveru često nisu dovoljne. Kompanije koje razvijaju ili koriste AI moraju u svoje ugovore uključiti prilagođene odredbe koje odgovaraju rizicima i obavezama koje ova tehnologija nameće.
Tipični slučajevi upotrebe AI u IT ugovorima
AI se pojavljuje u IT ugovorima na razne načine. Neki uobičajeni primeri uključuju:
a. SaaS rešenja sa AI komponentama. Mnogi softver-as-a-service proizvodi danas obuhvataju AI funkcije, kao što su sistemi preporuka, automatizovani uvidi u podatke ili alati za obradu prirodnog jezika.
b. Ugovori o razvoju i integraciji AI. Kompanije angažuju AI stručnjake za izgradnju, treniranje ili integraciju AI modela u postojeće sisteme radi analize podataka, optimizacije poslovnih procesa ili unapređenja korisničkog iskustva.
c. Usluge analize podataka pomoću AI. Pored angažovanja inženjera za razvoj AI, kompanije često poveravaju analizu podataka eksternim provajderima kako bi izvukle uvide iz podataka o klijentima, operativnim metrikama ili tržišnim trendovima. Iako ovaj poslovni korak donosi značajne pogodnosti, on takođe donosi složena pitanja u vezi sa vlasništvom podataka i poverljivošću.
Razumevanje ovih slučajeva upotrebe prvi je korak ka pregovaranju IT ugovora koji istovremeno štite Vaše poslovanje i maksimalno iskorišćavaju prednosti veštačke inteligencije.
Ključne odredbe na koje treba obratiti pažnju
Prilikom pregovaranja IT ugovora koji uključuju AI, nekoliko ključnih odredaba zahteva posebnu pažnju. Zašto? Zato što ove odredbe osiguravaju da je Vaša kompanija zaštićena, usklađena i spremna da u potpunosti iskoristi prednosti koje AI donosi.
1. Prava intelektualne svojine
Jedno od najvažnijih pitanja u vezi sa AI ugovorima jeste utvrđivanje ko je vlasnik AI modela, izlaznih podataka i svih poboljšanja nastalih tokom angažmana.
Na primer, ako Vaša kompanija obezbeđuje podatke za treniranje AI modela, da li ćete imati prava na unapređenu verziju tog modela?
Ili, ako AI sistem generiše rezultate ili uvide na osnovu Vaših zaštićenih podataka, da li se ti rezultati mogu koristiti za druge klijente?
Oba ova pitanja rešavaju se jasnim i preciznim odredbama koje definišu:
- Vlasništvo nad originalnim AI modelom,
- Prava na izmene, unapređenja ili re-trenirane verzije modela,
- Vlasništvo nad i prava na korišćenje rezultata i uvida koje generiše AI.
2. Korišćenje i zaštita podataka
Veštačka inteligencija praktično živi od podataka, pa odredbe o korišćenju podataka moraju da obezbede:
- Usklađenost s propisima o zaštiti podataka, kao što su GDPR ili lokalni propisi o zaštiti podataka o ličnosti;
- Upotrebu podataka isključivo u ugovorene svrhe;
- Adekvatne bezbednosne mere za zaštitu ličnih podataka.
Dodatno pitanje koje se neizbežno postavlja je šta se dešava sa Vašim podacima po prestanku angažmana – da li se brišu, anonimizuju ili čuvaju za buduća treniranja AI modela od strane provajdera? Odgovor na to takođe treba biti pokriti ugovorom.
3. Odgovornost i raspodela rizika
Nažalost, AI sistemi ponekad mogu dati neočekivane ili netačne rezultate. Da biste umanjili posledice takvih grešaka, ugovori trebaju da precizno odrede ko snosi rizik u slučaju da nešto pođe po zlu. Ključna pitanja koja treba razmotriri u ovom pogledu su:
- Da li će provajder snositi odgovornost za greške u ishodima koje generiše AI?
- Da li postoje ograničenja odgovornosti i da li su ona adekvatna, imajući u vidu potencijalni uticaj odluka AI sistema?
- Da li bi trebalo predvideti obeštećenje za specifične rizike, kao što su curenje podataka ili regulatorne kazne usled grešaka do kojih upotreba AI dovede?
4. Nivoi usluge i standard performansa
Za razliku od tradicionalnog softvera, definisanje merljivih KPI-ja i nivoa usluge za AI alate može biti izazovno zbog probabilističke prirode generisanih AI rezultata. To znači da AI sistemi ne moraju uvek dovoditi do konzistentnih rezultata, pa je neophodno ugovorom postaviti realna očekivanja performansi.
U tom smislu, ugovori bi trebalo da:
- Izbegnu davanje garancija o nerealno visokim nivoima tačnosti;
- Jasno definišu očekivane metrike performansi;
- Uključe odredbe o ponovnom treniranju ili unapređenju AI modela ukoliko se ne postignu dogovoreni standardi.
5. Zahtevi za transparentnost i objašnjivost
Kako je AI sve češće deo poslovnih odluka, obezbeđivanje transparentnosti postalo je ključno, posebno za AI sisteme visokog rizika i AI alate opšte namene (GPAI), koji podležu strožoj regulativi po Zakonu EU o veštačkoj inteligenciji zbog potencijalnog uticaja na osnovna prava, bezbednost i rizike usklađenosti. Uz rastuće zahteve za AI transparentnošću na regulatornom i klijentskom nivou, važno je ugovorom obuhvatiti:
- Da li provajder mora objasniti kako sistem funkcioniše;
- Da li se mora dostaviti objašnjenje načina na koji se generišu rezultati;
- Koja dokumentacija će biti dostupna za dokazivanje usklađenosti i pravičnosti.
Ukoliko Vaša kompanija planira da koristi AI rezultate u procesima donošenja odluka, posebno kada one mogu uticati na zaposlene ili klijente, ključna je pažljiva regulacija ovih aspekata u ugovoru.
6. Usklađenost sa AI regulativama
Na kraju, pošto se AI regulativa brzo razvija, kako na lokalnom tako i na globalnom nivou, ugovori moraju da sadrže odredbe koje:
- Obezbeđuju usklađenost sa važećim i budućim AI propisima (na primer, Zakonu EU o veštačkoj inteligenciji);
- Dozvoljavaju izmene ugovora ukoliko se regulative značajno promene;
- Raspodeljuju odgovornosti za praćenje zakonodavnih promena i ostvarivanje usklađenosti.
Prilagođavanje ugovora unapred budućim okolnostima pomoći će da se izbegnu neočekivane odgovornosti ili prekidi u poslovanju usled razvoja zakonodavstva u oblasti veštačke inteligencije.
Praktični saveti za pregovaranje IT ugovora sa AI elementima
Nakon cele prethodne analize, bez sumnje se možemo složiti da ugovori koji se odnose na AI zahtevaju drugačiji pristup u poređenju sa tradicionalnim IT ugovorima. Sledeći praktični saveti su ključni za efikasne pregovore i zaštitu poslovnih interesa kompanije.
Razumite šta AI sistem zaista radi. Pre zaključenja bilo kakvog ugovora koji se odnosi na veštačku inteligenciju, važno je da imate jasno razumevanje toga šta je svrha AI sistema, kako funkcioniše i koja su njegova ograničenja.
Na primer, da li daje preporuke, automatizuje odluke ili analizira velike skupove podataka?
Ova saznanja pomoći će vam da procenite:
- Da li su rezultati AI sistema kritični za Vaše poslovanje,
- Koji nivo tačnosti možete i treba da očekujete,
- Potencijalne rizike oslanjanja na rezultate koje dobijete.
Bez ovih informacija biće teško pregovarati o adekvatnim standardima performansi, klauzulama o odgovornosti i obavezama usklađenosti, dok ukoliko raspolažete relevantnim informacijama unapred, Vaša kompanija stiče znatnu prednost u pregovorima, jer takav pristup omogućava rano prepoznavanje rizika i postavljanje jasnih očekivanja prema drugoj ugovornoj strani.
Uključite tehnički i tim za usklađenost već u ranoj fazi. AI sistemi često otvaraju tehnička, operativna i pravna pitanja koja prevazilaze okvir standardne ugovorne provere. Uključivanje tehničkih timova i timova za usklađenost u ranu fazu pregovora omogućava da se:
- Prepoznaju skriveni tehnički zahtevi ili izazovi u vezi sa integracijom,
- Procene rizici po zaštitu podataka, privatnost i etička pitanja,
- Obezbedi usklađenost AI sistema sa internim politikama i važećim propisima.
Ukratko, sveobuhvatna saradnja od samog početka može sprečiti skupe propuste kasnije.
Jasno definišite funkcionalnost AI sistema. S obzirom na to da rezultati koje generiše veštačka inteligencija mogu varirati, neprecizni opisi u ugovorima mogu dovesti do sporova ukoliko AI sistem ne funkcioniše u skladu sa očekivanjima.
Kako biste to izbegli, neophodno je da:
- Precizno definišete šta se od AI sistema očekuje,
- Navedete koje vrste podataka će procesuirati i koje rezultate će generisati,
- U realnim okvirima utvrdite pragove tačnosti ili očekivanja performansi.
Opet, precizno formulisane odredbe smanjuju nesporazume i usklađuju očekivanja između Vaše kompanije i provajdera.
Pregledajte rizike vezane za komponente trećih strana i open-source AI biblioteke
Mnogi AI sistemi se oslanjaju na komponente trećih strana ili open-source biblioteke koje mogu ubrzati razvoj, ali unose i nove rizike, kao što su:
- Ograničenja licenci ili obaveze deljenja modifikacija,
- Bezbednosna ranjivost usled korišćenja neproverenih biblioteka,
- Nejasnoće o odgovornosti za greške softvera treće strane.
Da biste izbegli ove izazove, obezbedite da ugovor nalaže provajderu da otkrije sve komponente trećih strana i open-source komponente, da potvrdi da su adekvatno licencirane i da utvrdi ko snosi rizik za eventualne probleme.
Uobičajene greške koje treba izbegavati
Čak i iskusne kompanije ponekad prave propuste prilikom pregovaranja IT ugovora povezanih sa veštačkom inteligencijom. Poznavanje uobičajenih grešaka i nedostataka u AI ugovorima može Vam pomoći da efikasnije zaštitite poslovanje Vaše kompanije.
a) Posmatranje AI-ja kao bilo koje druge softverske usluge
Jedna od najčešćih grešaka je tretiranje AI rešenja kao da su tradicionalni softver. Kao što je već pomenuto, za razliku od standardnog softvera, AI sistemi možda neće uvek davati dosledne rezultate i često zavise od kvaliteta podataka i kontinuiranog učenja.
Zanemarivanje ovih razlika može dovesti do nerealnih očekivanja, neprecizno definisanih uslova performansi i sporova ako AI rezultati ne budu u skladu sa početnim pretpostavkama.
b) Nedovoljna pažnja pravima i ograničenjima treniranja podacima
Iako AI sistemi funkcionišu na osnovu podataka, ugovori često ne regulišu jasno:
- Ko obezbeđuje podatke za treniranje,
- Kako se ti podaci mogu koristiti tokom i nakon trajanja ugovora,
- Da li Vaša kompanija zadržava prava na bilo kakva poboljšanja AI sistema koja su proizašla iz Vaših podataka.
Zanemarivanje ovih pitanja može dovesti do gubitka konkurentskih prednosti, naročito ako provajder koristi Vaše poverljive podatke za unapređenje svojih modela za druge klijente.
c) Zanemarivanje potrebe kontinuiranog nadzora
Još jedna uobičajena greška je pretpostavka da AI sistemi ne zahtevaju redovan nadzor ili ažuriranja. U stvarnosti, AI modeli se mogu menjati tokom vremena, što može dovesti do smanjenja tačnosti ili pojavljenja pristrasnih rezultata ako se ne izvrši njihovo re-treniranje ili nadogradnja. Da biste to sprečili, ugovor bi trebalo da obuhvati:
- Obaveze za praćenje performansi i izveštavanje,
- Odgovornosti za ažuriranje modela ili njegovo re-treniranje,
- Procedure za reagovanje na propuste u performansama AI sistema.
Izostavljanje ovih odredbi može dovesti do toga da Vaša kompanija ostane sa neefikasnim sistemima i bez jasnog načina za ispravljanje problema.
Budući trendovi u IT ugovorima iz perspektive AI
Na osnovu svega prethodno analiziranog, jasno je da AI ne samo da transformiše proizvode i usluge, već i preoblikuje način na koji se IT ugovori strukturišu i pregovaraju. U budućnosti, nekoliko trendova verovatno će uticati na prakse zaključivanja IT ugovora u sferi veštačke inteligencije:
a) Automatizovani alati za ugovaranje – Kako pravna tehnologija zasnovana na veštačkoj inteligenciji napreduje, procesi ugovornog sastavljanja, pregleda i pregovaranja postaju automatizovani. Alati koji omogućavaju analizu rizika u AI ugovorima, predlažu poboljšanja ugovornih odredaba ili generišu prve nacrte prilagođene transakcijama koje uključuju veštačku inteligenciju, pružaće sve veću podršku pravnim i operativnim timovima.
Kao rezultat, ne samo da se vreme pregovaranja može značajno skratiti, već ovi alati mogu poboljšati doslednost ugovora na organizacionom nivou i efikasnije otkrivati skrivene rizike.
b) Pametni ugovori koji integrišu AI odluke – Još jedan rastući trend jeste upotreba pametnih ugovora koji uključuju funkcionalnosti veštačke inteligencije, posebno u transakcijama zasnovanim na blokčejn tehnologiji. Na primer, AI algoritmi mogu automatski aktivirati ugovorne obaveze ili izvršiti plaćanja na osnovu ulaznih podataka u realnom vremenu ili rezultata učinka.
Iako ovakav pristup donosi operativnu efikasnost, istovremeno otvara nove rizike, kao što su:
- Greške u procesu donošenja odluka od strane AI sistema koje mogu izazvati neželjene posledice,
- Izazovi u pravnom izvršavanju ugovora koji se oslanjaju na AI odluke.
Zbog toga će ugovori koji uključuju ovakve tehnologije zahtevati pažljivo sastavljanje, kako bi se postigla ravnoteža između automatizacije i odgovornosti.
c) Klauzule o veštačkoj inteligenciji postaju standard u ugovorima – Kako se AI sve više ugrađuje u raznovrsna IT rešenja, odredbe koje tretiraju AI-specifična pitanja postaće neizostavan deo standardnih ugovora. Na primer:
- Obavezne odredbe o transparentnosti i objašnjivosti,
- Obaveze za ponovno treniranje AI modela i rasporedi revizije performansi,
- Odredbe o korišćenju podataka, vlasništvu i pravima na unapređenja,
- Usklađenost sa regulativama specifičnim za AI, poput Zakona EU o veštačkoj inteligenciji EU AI akta.
Proaktivno uključivanje ovih odredaba u ugovore pomaže kompanijama da ostanu usklađene, upravljaju rizicima i izbegnu zastoje u pregovorima kako usvajanje se usvajanje veštačke inteligencije ubrzava.
d) Sve veći uticaj regulative na ugovorne odredbe – Sa novim regulativama poput Zakona EU o veštačkoj inteligenciji i globalnim inicijativama za upravljanje AI-jem, regulatorni zahtevi će direktno oblikovati ugovorne obaveze. Ugovori će morati da obuhvate:
- Klasifikaciju AI sistema (npr. sistemi visokog rizika ili GPAI),
- Obavezne procene rizika i dokumentaciju o usklađenosti,
- Obaveze dobavljača da pomažu klijentima u regulatornom izveštavanju.
Kratko rečeno, usklađivanje ugovornih odredbi sa razvojem regulatornih okvira postaće neophodan konkurentski preduslov.
AI oblikuje IT pejzaž neviđenom brzinom, donoseći i mogućnosti i izazove. Kako se ova tehnologija sve više integriše u softverske proizvode, usluge i poslovne procese, tradicionalni IT ugovori više nisu dovoljni da obuhvate složenost koju AI unosi.
Pregovaranje IT ugovora sa elementima AI-ja zahteva jasno razumevanje tehnologije, njenih jedinstvenih rizika i promenljivog regulatornog okruženja. Od definisanja prava intelektualne svojine i prava na korišćenje podataka, do obezbeđivanja transparentnosti, odgovornosti i usklađenosti, svaka ugovorna odredba ima ključnu ulogu u zaštiti Vašeg poslovanja i obezbeđivanju dugoročne vrednosti.
Svaka kompanija koja proaktivno prilagodi svoje ugovorne prakse kako bi obuhvatila AI-specifična pitanja, uključi tehničke i timove za usklađenost od početka i prati buduće trendove, biće u najboljoj poziciji da iskoristi prednosti veštačke inteligencije uz istovremeno efikasno upravljanje rizicima.
