Lični stav

14. 4. 2021. / 19.53

Da li je srpskom pravosuđu potrebna veštačka inteligencija

Uporedna iskustva govore da veštačka inteligencija u pravosuđu može da ima različite namene – može se koristiti za upravljanje predmetima ili (kao podrška) za donošenje sudskih odluka. Ova prva namena, na primer, odnosi se na upotrebu algoritama koji, nakon podnošenja tužbe, procenjuju kompleksnost predmeta, na osnovu čega se donosi odluka o resursima koje je potrebno predvideti (uključujući i angažman sudskog aparata) da bi predmet bio rešen

Da li je srpskom pravosuđu potrebna veštačka inteligencija 1

U svom obraćanju na novogodišnjoj konferenciji za štampu, decembra 2020. godine, predsednik Vučić rekao je da je za Srbiju i njeno pravosuđe važno da u sudove uvede veštačku inteligenciju (VI) i tzv. predictive justice (predvidiva pravda). Svrha ove inovacije bila bi da sudijama pomogne u donošenju odluka, pre svega za saobraćajne prekršaje. Međutim, imajući u vidu da koncept predictive justice ima dosta šire značenje, nije jasno da li je inicijativa usmerena na upotrebu VI samo u oblasti saobraćajnih prekršaja ili bi dobila i širu primenu.

Najava uvođenja veštačke inteligencije u naše pravosuđe sa jedne strane ne iznenađuje – Srbija je usvojila Strategiju razvoja veštačke inteligencije za period 2020–2025. godine, u kojoj je jedna od predviđenih mera i Unapređenje usluga javnog sektora primenom veštačke inteligencije. Kako se pravosuđe Srbije već decenijama bori sa velikim brojem predmeta i nedovoljnom efikasnošću (a uz to se često ističe i neujednačenost sudske prakse), upotreba VI može biti dodatni mehanizam za rešavanje ovih problema. Međutim, ono što (iznova) iznenađuje je to što za ovakve projekte saznajemo iz obraćanja zvaničnika, ekspozea ili medijskih saopštenja, iako se radi o inicijativama koje bi, zbog svoje kompleksnosti i mogućih posledica po pojedince, trebalo da budu predmet šire društvene rasprave.


RAZLIČITE NAMENE

Predictive justice zapravo podrazumeva analizu velikog broja sudskih odluka od strane VI, kako bi se predvideo ishod određenog predmeta ili određene faze postupka. Imajući to u vidu, prirodno je da se ovaj mehanizam više koristi u zemljama precedentnog prava.

Uporedna iskustva govore da VI u pravosuđu može da ima različite namene – može se koristiti za upravljanje predmetima ili (kao podrška) za donošenje sudskih odluka. Ova prva namena, na primer, odnosi se na upotrebu algoritama koji, nakon podnošenja tužbe, procenjuju kompleksnost predmeta, na osnovu čega se donosi odluka o resursima koje je potrebno predvideti (uključujući i angažman sudskog aparata) da bi predmet bio rešen. U SAD, na primer, VI se koristi u nekim saveznim državama (Kalifornija, Viskonsin) za upravljanje predmetima, ali i kao podrška u donošenju odluka. Tako se softver COMPAS koristi za procenu verovatnoće ponavljanja krivičnog dela, na osnovu čega se odlučuje o alternativama pritvoru. Postoje i primeri evropskih zemalja, poput Holandije i Estonije, koje prednjače u upotrebi VI u pravosuđu. U Estoniji je 2019. godine započet projekat kreiranja sudije-robota, koji bi donosio odluke u sporovima male vrednosti. Na odluku bi bilo moguće podneti žalbu, o kojoj bi odlučivao "živi" sudija. Takođe, u širokoj primeni su različiti mehanizmi onlajn rešavanja sporova itd. Za sada veštačka inteligencija nigde nije u potpunosti zamenila sudije, a to potencijalno može doneti najveće probleme za građane. Jednostavno, svi sporovi nisu jednako kompleksni da bi se u potpunosti mogao primeniti jedan model/algoritam za njihovo rešavanje, bez dodatne provere/analize sudije.


PROBLEMI U PRIMENI

Problemi koje primena VI podrazumeva slični su u različitim društvenim oblastima, od medicine, preko bankarstva, do pravosuđa. Oni podrazumevaju pre svega niz etičkih pitanja, počev od upitne neutralnosti algoritama (do sada je više istraživanja ukazalo na moguću diskriminaciju marginalizovanih grupa koje ne ulaze u "srednju vrednost", tj. na koje se ne odnosi najveći broj podataka na kojima se zasniva mašinsko učenje), njihove pravičnosti, s obzirom da ne ulaze u kontekst i specifičnost svakog pojedinačnog slučaja. Takođe, još uvek nisu adekvatno rešena pitanja mogućih grešaka algoritma i posledica koje to nosi, kao transparentnosti algoritma i odgovornosti za donetu odluku. U pogledu upotrebe VI u pravosuđu otvara se niz drugih pitanja, poput uticaja na pristup pravdi i prava na pravično suđenje, ili pak na slobodno sudijsko uverenje, čak i kada se VI koristi kao podrška odlučivanju, a posebno ukoliko se radi o VI koja bi eventualno zamenila sudije.

Baš iz ovih razloga Evropska komisija za efikasnost pravosuđa (CEPEJ), telo Saveta Evrope, usvojila je Evropsku etičku povelju o upotrebi veštačke inteligencije u pravosudnim sistemima. Povelja definiše pet principa koje treba uzeti u obzir pre početka upotrebe VI u pravosuđu. Tako, treba voditi računa o poštovanju osnovnih prava prilikom dizajna i primene VI, sprečiti razvoj ili podsticanje bilo kakve diskriminacije pojedinaca ili grupa pojedinaca, insistirati na kvalitetu i sigurnosti procesa i podataka, omogućiti pristup i razumevanje metoda obrade podataka i eksternu reviziju tih metoda, i omogućiti da korisnici sistema imaju dovoljno informacija i autonomije da mogu da razumeju proces, razmotre alternative, uključujući i mogućnost da o njihovom predmetu odlučuje sudija. Ovo poslednje načelo (under user control) podrazumeva da prilikom uvođenja sistema VI u pravosuđe treba sprovesti i programe računarske pismenosti, kao i debatu u koju bi bila uključena profesionalna javnost. Dakle, kao članica Saveta Evrope, Srbija bi trebalo da uzme u obzir ove principe prilikom planiranja uvođenja VI u pravosuđe.

U Srbiji se problemi koje VI donosi mogu dodatno produbiti, zbog i inače nedovoljno efikasnih mehanizama zaštite ljudskih prava. Uz to, zaštita privatnosti građana do sada nije bila u fokusu ni prilikom planiranja ni implementacije projekata koji podrazumevaju masovne obrade ličnih podataka (poput uvođenja masovnog video-nadzora ili informacionih sistema nastalih zbog pojave kovida 19). Ono što najviše brine jeste činjenica da su najflagrantnije povrede ovog prava dolazile upravo od strane organa vlasti, pa je i poverenje u nove slične projekte, sa razlogom, poljuljano. Nema transparentnosti u odlučivanju, niti bilo kakve šire društvene diskusije o tome da li su nam ovakvi projekti potrebni i koje su njihove prednosti, a koje moguće posledice. Posebno je pitanje ko ovim sistemima upravlja, kako se oni štite, da li se mogu zloupotrebiti itd. Uz to, naš Zakon o zaštiti podataka o ličnosti, koji je usvojen po uzoru na Opštu uredbu EU o zaštiti podataka (GDPR), predviđa i posebne standarde zaštite prava lica u slučajevima automatizovanog donošenja pojedinačnih odluka, i potrebno je da bilo kakav sistem VI odgovori i na ove zahteve.

Imajući sve ovo u vidu, od izuzetnog je značaja da se uvođenju VI u naše pravosuđe pristupa sa velikim oprezom, uz poštovanje najviših etičkih, tehničkih i standarda zaštite ljudskih prava. Ostaje pitanje da li Srbija ima sistem koji ove standarde može da ispuni.

Autorka je izvršna direktorka Partnera Srbije

Iz istog broja

Intervju – Milenija Marušić, arhitekta

Čekajući ceračke ptice

Sonja Ćirić

Ekologija – Protest u Beogradu

Zelena pobuna

Milica Čubrilo Filipović

Zloupotreba institucija

Istraga sudija i pravnika

Slobodan Georgijev

Crna Gora

Tviter politika i »crvene rukavice«

Voislav Bulatović

Slučajevi

Šta ostaje posle biblioteke

Branislav Nikolić

Lični stav

Spor koji ostaje

Tibor Varadi

Antivakseri, vaksoskeptici i zbunjeni

Plodna zemlja za jalovu buku

Jelena Jorgačević

Intervju – Goran Ilić, zamenik Republičkog javnog tužioca

Kako tajne službe prisluškuju građane

Vukašin Obradović

Portret savremenika – Bratislav Bata Gašić

Čovek koji zna da čuva tajne

Nedim Sejdinović

Svi brojevi Vremena na jednom mestu!>

Pogledajte arhivu