Miti o AI v pravu: kaj od tega, kar slišite, dejansko drži?

O umetni inteligenci v pravu se med pravniki govori kar precej, preizkusi pa jo bistveno manj ljudi, kot se o njej pogovarja. Razlogi so skoraj vedno isti in se ponavljajo v enakih stavkih: »AI si izmišlja sodbe«, »AI ne pozna slovenskega prava«, »Ne smem naložiti spisa v AI«, »Itak moram vse potem še preveriti«.

Pomembno je, da je vsak od teh pomislekov na mestu in nosi kanček resnice. Vseeno pa je mogoče pokazati kje teče meja, saj se izkaže, da večina teh trditev opisuje splošni klepetalnik, ne pa umetne inteligence specializirane za pravo. Razlike je smiselno poznati preden se odločimo, da orodja ne bomo uporabljali.

V nadaljevanju je zbranih šest mitov, ki jih pravniki najpogosteje slišimo v povezavi z umetno inteligenco. Pri vsakem pogledamo, kaj v njem drži in kje se mit konča, na koncu pa še, kaj od naštetega dejansko reši orodje, zgrajeno za pravni kontekst.

Mit 1: »AI si izmišlja sodbe.«

Kaj drži: Splošni jezikovni model (LLM) po zasnovi generira najverjetnejše nadaljevanje besedila. Če v njegovem spominu ni prave sodbe, bo sestavil takšno, ki zveni verjetno — s pravilno obliko opravilne številke, prepričljivim povzetkom in ravno tisto pravno tezo, ki jo je uporabnik želel slišati. V nekaterih državah so bili odvetniki zaradi vlog z neobstoječimi sodbami že sankcionirani.

Kje se mit konča: Pri arhitekturi orodja. Model, ki odgovarja iz svojega spomina, in sistem umetne inteligence, ki najprej poišče dejanske dokumente v pravni zbirki in odgovori izključno iz najdenega, nista ista stvar. Tudi drugi lahko zgreši, a narava napake je drugačna: napačno razlago najdene sodbe pravnik ob branju zazna, izmišljene sodbe brez navedenega vira pa ne.

Mit 2: »AI ne pozna slovenskega prava.«

Kaj drži: Za splošne modele je to povsem običajno. Učni podatki so pretežno v angleščini, slovenskih pravnih virov je v njih malo, predvsem pa model ne ve točno, katera različica predpisa velja danes. Rezultat so odgovori, ki se sklicujejo na razveljavljene člene, na osnutke novel ali na tuje pravne institute, prevedene v slovenščino tako, da zvenijo domače.

Kje se mit konča: Pri vprašanju, iz česa orodje sploh črpa. Če je sistem povezan z zbirkami veljavne zakonodaje in sodne prakse ter dela s konsolidiranimi različicami predpisov, vprašanje »pozna slovensko pravo?« ni več vprašanje o modelu, ampak o virih, do katerih dostopa.

Mit 3: »Ne smem naložiti spisa stranke.«

Kaj drži: Nalaganje dokumentov v poljubno spletno orodje je razkritje zaupnih informacij tretji osebi in obdelava osebnih podatkov. Brezplačne različice splošnih klepetalnikov si praviloma pridržujejo pravico, da vnose uporabijo za nadaljnje učenje modelov. Odgovornost za to izbiro nosi pravnik, ne ponudnik.

Kje se mit konča: Poklicna dolžnost varovanja zaupnosti ne prepoveduje uporabe orodij, temveč zahteva skrbno izbiro ponudnika in ustrezno pogodbeno podlago. Pred prvo uporabo je smiselno preveriti štiri stvari: ali je sklenjena pogodba o obdelavi podatkov, kdo so podobdelovalci, kje se podatki gostijo in ali se vnosi hranijo oziroma uporabljajo za učenje.

Mit 4: »AI bo nadomestil pravnike.«

Kaj drži: Določene naloge, ki jih opravljajo pravniki, res izginjajo. Prvi osnutki, povzetki obsežnih spisov, primerjave verzij dokumentov, iskanje po sodni praksi — vse to je danes bistveno hitreje opravljeno, kot je bilo pred nekaj leti. Kdor je pravniško kariero gradil predvsem na obsegu opravljenega rutinskega dela, to spremembo občuti.

Kje se mit konča: Pri presoji in odgovornosti. Ocena verjetnosti uspeha, izbira strategije, pogajanja, razumevanje, kaj stranka v resnici želi doseči, in odgovornost do nje ostajajo človeški. Orodje nima stranke in ne odgovarja nikomur. Razlika, ki nastaja, torej ni med pravnikom in umetno inteligenco, ampak med pravniki, ki jo znajo uporabljati, in tistimi, ki je ne.

Mit 5: »Poskusil sem z AI in dal je slab odgovor.«

Kaj drži: Odgovor je bil najverjetneje res slab. Splošen, previden, poln praznih fraz in brez uporabne vrednosti za konkreten primer.

Kje se mit konča: Pri vhodu, ki je bil podlaga za konkreten odgovor. Tak odgovor je praviloma posledica vprašanja, dolgega dvanajst besed, brez konteksta, brez priloženega dokumenta in brez navodila, kakšna oblika odgovora je sploh želena. Uporaben prompt ima pet gradnikov: vlogo, kontekst zadeve, vhodni material, jasno opredeljeno nalogo in zahtevani format. Isto pravno vprašanje, zastavljeno na oba načina, da dva popolnoma različna odgovora.

Mit 6: »Če moram vse preveriti, nič ne prihranim.«

Kaj drži: Preverjanje ostane in je neprenosljivo. Podpisani ste vi.

Kje se mit konča: Pri primerjavi napačnih alternativ. Vprašanje ni, ali je hitreje delati brez preverjanja (seveda je), ampak ali je hitreje preveriti strukturiran osnutek z navedenimi viri, kot vse skupaj napisati od prazne strani. Branje in popravljanje sta praviloma hitrejša od pisanja, zlasti pri opravilih, kjer je oblika znana vnaprej: pregled pogodbe, povzetek spisa, primerjava dveh različic dokumenta.

Skupni imenovalec

Če te mite postavimo enega ob drugega, se pokaže vzorec: skoraj vsak od njih natančno opisuje splošni model, uporabljen brez pravnih virov, brez konteksta zadeve in brez urejenega ravnanja s podatki. Prav zato nastajajo orodja, zgrajena za pravni kontekst, kot je Veru pravna umetna inteligenca.

Kaj pri tem naredi Veru drugače

Odgovori iz virov, ne iz spomina (mita 1 in 2): Veru ima integrirano iskanje po zakonodaji in sodni praksi, odgovor pa nastane iz najdenih dokumentov in ne iz spomina modela. Vsaka trditev je opremljena z navedbo vira, ki ga je mogoče odpreti in prebrati. Halucinirana sodba brez vira tako preprosto nima kam.

Kontekst zadeve namesto praznega okna (mit 5): Delo v Veru poteka v strukturiranih delovnih prostorih za posamezno zadevo. Dokumenti, dosedanja komunikacija in ugotovitve ostanejo v kontekstu, zato vprašanja ni treba vsakič znova pojasnjevati od začetka.

Osnutek nastane tam, kjer se dokument tudi ureja (mita 4 in 6): Veru vključuje urejevalnik pravnih dokumentov, zato osnutka ni treba prenašati med klepetalnikom, Wordom in e-pošto. Pravnik prevzame delo tam, kjer je največ vredno — pri presoji, popravkih in odločitvi, kaj gre stranki v podpis.

Urejeno ravnanje z zaupnimi podatki (mit 3): Vnosi in dokumenti uporabnikov se ne uporabljajo za učenje ali izboljševanje modelov, obdelava je omejena na zagotavljanje storitve, ponudnik pa dokumente in komunikacijo obravnava kot zaupne.

Nekateri pomisleki pa niso miti in ostanejo: odgovornost za vsako trditev je še naprej pravnikova, preverjanje virov je še naprej obvezno, presoja pa se ne da avtomatizirati. To ni ovira pri uporabi umetne inteligence — to je opis tega, kako se uporablja pravilno.