Glosar AI pojmov za pravnike: od modela do halucinacije

Pravniku ni treba znati programirati, da bi umetno inteligenco uporabljal dobro. Vseeno pa mora razumeti nekaj osnovnih pojmov, saj se ti pojmi pojavljajo tam, kjer je njegova presoja odločilna: v ponudbah ponudnikov, v pogodbah o obdelavi podatkov, v internih pravilnikih in v pogovorih o tem, ali je neko orodje za pravno ali odvetniško pisarno sploh primerno.

Razlika med pravnikom, ki te pojme pozna, in tistim, ki jih ne, ni v tem, da bi prvi znal več. Je v tem, da zna postaviti pravo vprašanje in prepoznati, kdaj odgovor ponudnika v resnici ni odgovor.

Spodnji pregled je urejen po ravneh: najprej so opredeljeni krovni pojmi, nato način, kako model dela z besedilom, zatem tipične napake in nazadnje arhitekturne rešitve, ki jih odpravljajo.

Prva raven: kaj sploh je umetna inteligenca

Umetna inteligenca (UI, angl. AI): Krovni izraz za sisteme, ki opravljajo naloge, za katere bi sicer potrebovali človeško razumevanje (prepoznavanje vzorcev, razvrščanje, pisanje, sklepanje ipd.). Izraz sam po sebi pove malo: pod njim se skriva vse od preprostega filtra neželene pošte do sistemov, ki pišejo pravna besedila. Ko ponudnik reče »uporabljamo AI«, to torej ni podatek, ampak izhodišče za vprašanje, kakšen sistem natanko.

Strojno učenje (angl. machine learning): Pristop, pri katerem sistema ne programiramo s pravili, ampak ga naučimo iz podatkov. Namesto da bi nekdo zapisal pravilo »če pogodba vsebuje to besedo, jo razvrsti sem«, sistem vzorec sam izlušči iz velikega števila primerov. Posledica, ki je za pravnika pomembna je, da takšen sistem nima zapisanih pravil, ki bi jih lahko prebrali in preverili.

Veliki jezikovni model (angl. large language model, LLM): Model, ki je bil naučen na ogromnih količinah besedila in na tej podlagi napoveduje, katera beseda najverjetneje sledi dosedanjemu besedilu. Vse, kar danes poznamo kot pogovorna orodja (ChatGPT, Claude, Gemini ipd.) so v jedru prav veliki jezikovni modeli. Ključno je razumeti, kaj model počne – ne išče odgovora, ampak ga sestavlja. Iz te ene lastnosti izvira večina tega, kar sledi v nadaljevanju.

Generativna umetna inteligenca: Skupno ime za sisteme, ki ustvarjajo novo vsebino – besedilo, sliko, zvok, kodo, namesto da bi obstoječo zgolj razvrščali ali iskali. Pravno relevantno predvsem zato, ker se pri ustvarjeni vsebini odpirajo vprašanja avtorstva, označevanja in odgovornosti, ki jih pri iskalniku ni.

Druga raven: kako model dela z besedilom

Prompt (vhodno navodilo): Obsega vse, kar orodju vnesete: vprašanje, priloženo pogodbo, navodila, kaj naj z njo naredi ipd. Poleg virov, do katerih orodje dostopa, je to edino, kar o vaši zadevi ve. Kakovost prompta zato ni kozmetika – je vhodni podatek, od katerega je odvisen izhod.

Token (žeton): Osnovna enota, na katero model razreže besedilo – približno del besede. V tokenih se meri tako obseg besedila, ki ga model zmore obdelati naenkrat, kot cena uporabe. Za slovenščino to ni nevtralno: pravila razrezovanja so se modeli naučili na gradivu, v katerem močno prevladuje angleščina, zato angleška beseda pogosto zasede en sam token, slovenska pa se razdrobi na več delov – in to ne le, kadar je dolga. Sklanjatve in šumniki učinek še okrepijo. Isto besedilo v slovenščini zato zasede občutno več tokenov kot v angleščini, koliko natanko pa je odvisno od modela.

Kontekstno okno (angl. context window): Koliko besedila ima model lahko hkrati »pred seboj« – prompt, priložene dokumente in dosedanji pogovor skupaj. Predstavljajte si mizo, na katero lahko položite omejeno število listov: kar je na mizi, model vidi; kar ni, ne obstaja. Sodobni modeli zmorejo od nekaj deset do več sto strani besedila, odvisno od modela. Za pravnika to pomeni: če v pogovor naložite spis, ki presega okno, model ni ničesar »pozabil« – tistega dela preprosto nikoli ni videl. In tega vam praviloma ne bo povedal sam.

Presečni datum znanja (angl. knowledge cutoff): Datum, do katerega segajo podatki, na katerih je bil model naučen. Vse poznejše mu ni znano – novela zakona, sprememba prakse, nova sodba. Past je v tem, da model te meje ne občuti: na vprašanje o zakonu, ki je bil vmes spremenjen, bo odgovoril samozavestno in po stari različici. Zato je pri pravnem delu bistveno, ali orodje poleg modela dostopa tudi do aktualnih virov.

Tretja raven: kje gre lahko narobe

Halucinacija: Odgovor, ki je videti pravilen, a ne ustreza resničnosti (npr. izmišljena sodba, napačna opravilna številka, citat, ki ga v členu ni). Ne gre za napako v smislu okvare. Gre za neposredno posledico tega, kar model počne: če v njegovem spominu ni prave sodbe, bo sestavil tisto, ki je glede na vzorce najbolj verjetna. Model nima občutka, da česa ne ve, zato tudi ne zna povedati, da nečesa ne ve.

Pritrjevanje (angl. sycophancy): Nagnjenost modela, da se prilagodi tezi, ki jo uporabnik že nosi v vprašanju. »Ali drži, da lahko v tem primeru odpovem pogodbo?« in »Ali lahko v tem primeru odpovem pogodbo in kaj govori proti temu?« pogosto ne dajeta istega odgovora. Pri pravnem svetovanju je to ena resnejših pasti, ker natanko podvoji potrditveno pristranskost, ki ji je izpostavljen tudi pravnik sam. Rešitev je preprosta: vprašajte tudi po nasprotnih argumentih – ne le po potrditvi.

Četrta raven: kako se to rešuje

RAG (angl. retrieval-augmented generation): Arhitektura, v kateri sistem najprej poišče relevantne dokumente v neki zbirki in šele nato sestavi odgovor iz najdenega. Po domače bi lahko rekli: generiranje, podprto z iskanjem po virih. Razlika je bistvena, saj namesto »kaj se model spomni« dobimo »kaj je sistem našel«. Halucinacije to ne odpravi popolnoma, spremeni pa naravo napake: napačno razlago najdenega dokumenta pravnik ob branju zazna, izmišljene sodbe brez vira pa ne.

Vektorsko iskanje in vgrajevanja (angl. embeddings): Način iskanja, pri katerem se besedilo pretvori v številske zapise, ki predstavljajo pomen, ne besed. Zato tak sistem najde sodbo, ki govori o isti pravni situaciji, tudi če uporablja drugačno terminologijo od vašega vprašanja – kar je pri iskanju po sodni praksi pogosto prav tisto, kar potrebujete. Klasično iskanje po ključnih besedah tega ne zmore.

Sledljivost oziroma utemeljenost odgovora (angl. grounding): Lastnost sistema, da vsako trditev v odgovoru pripne na konkreten vir, ki ga je mogoče odpreti in prebrati. Za pravnika je to praktično edino merilo, ki šteje: notranjosti modela ne bo nihče presojal, preverljivost posamezne trditve pa je vprašanje, na katerega je mogoče odgovoriti z da ali ne.

Agent: Agent je sistem, ki mu namesto enega vprašanja zadate cilj, nato pa sam določi korake do njega, jih izvede po vrsti in se oglasi šele z rezultatom. Pri nalogi »primerjaj te tri pogodbe z našim vzorcem in pripravi seznam odstopanj« bi agent sam odprl vsak dokument, poiskal ustrezne člene, jih primerjal in sestavil seznam – pri pogovornem orodju bi te korake vodili sami, določbo za določbo. Agentu torej ne zaupate posamičnega odgovora, ampak zaporedje svojih odločitev. Pri pravnem delu je uporaben takrat, ko so posamezni koraki vidni in preverljivi – ne zgolj končni rezultat.

Pojmi v praksi

Prav ti pojmi so merilo, po katerem je zgrajena Veru, pravna umetna inteligenca za slovenski prostor. Odgovor nastane iz najdenih pravnih virov in ne iz spomina modela, vsaka trditev je pripeta na vir, ki ga je mogoče odpreti in prebrati, aktualnost pa ni odvisna od presečnega datuma modela. Vnosi in dokumenti uporabnikov se ne uporabljajo za učenje ali izboljševanje modelov. Preverjanje pri izvirnem viru ostaja korak pravnika.

Pojmi dobijo pomen šele, ko jih uporabite. Zato predlagamo naslednje: vzemite eno vprašanje iz zadeve, ki jo trenutno vodite, najbolje takšno, pri katerem že veste, kakšen je pravilen odgovor, in ga zastavite Veru. Nato odprite navedene vire in preverite, ali povedo to, kar odgovor trdi.

Par minut takšnega preizkusa o orodju pove več kot katerikoli opis funkcionalnosti. In po njem boste znali enako preveriti vsako drugo orodje, ki vam ga bo kdo ponudil.