Hur undviker advokater hallucinationer från AI? 8 principer för säkrare juridisk AI-användning

En AI-hallucination innebär förenklat att ett AI-system producerar information som är felaktig eller saknar stöd, trots att svaret kan vara formulerat på ett övertygande sätt.

För jurister är detta särskilt viktigt. Ett välskrivet svar är inte samma sak som ett juridiskt korrekt svar.

Advokater kan minska risken för AI-hallucinationer genom att använda AI med kontrollerbara källor, krav på spårbarhet, genom att begränsa ai:ns uppgift, kontrollera rättsliga hänvisningar och alltid låta en jurist granska materialet innan det används professionellt.

Vad är en AI-hallucination?

Generativ AI kan skapa ett svar som låter professionellt, är språkligt korrekt, och verkar juridiskt rimligt, men ändå innehåller fel.

Inom juridiken kan det exempelvis innebära:

felaktiga rättsfall
felaktiga hänvisningar
påhittade citat
felaktiga datum
felaktiga slutsatser om ett dokument
sammanblandning av olika fakta
för starka slutsatser från begränsat underlag

Det är därför jurister måste skilja mellan språklig trovärdighet och faktisk tillförlitlighet.

AI farligaste fel är inte alltid det uppenbart absurda svaret. Det är det välformulerade svaret som ser korrekt ut men inte är det.

Varför hallucinerar AI?

Generativ AI är byggd för att generera svar. När information saknas kan en modell i vissa situationer fylla ut luckorna istället för att tydligt säga att underlaget inte räcker.

Risken för detta påverkas bland annat av:

vilken modell som används
hur frågan ställs
vilken kontext modellen får
om modellen har tillgång till relevanta källor
hur systemet är byggt
vilka kontrollmekanismer som finns

Hallucinationsrisken är därför inte bara en modellfråga utan också en system- och arbetsflödesfråga.

1. Arbeta från källmaterialet

Om frågan gäller ett specifikt tvistemål bör systemet i första hand analysera det faktiska målmaterialet.

Det minskar behovet av att modellen fyller informationsluckor från generell kunskap.

2. Kräv spårbarhet

Juristen bör kunna kontrollera:

Var kommer den här uppgiften ifrån?

Ett AI-resultat blir betydligt mer användbart om juristen kan gå tillbaka till:

originaldokumentet
relevant textpassage
rättskällan
det faktiska underlaget

Spårbarhet gör inte automatiskt AI korrekt men det gör resultatet lättare att verifiera.

3. Kontrollera rättsfall och rättskällor separat

Rättsliga hänvisningar bör aldrig accepteras bara för att AI presenterar dem självsäkert.

Kontrollera även:

att rättsfallet finns
att målnumret är korrekt
att avgörandet faktiskt säger det AI påstår
att lagrummet är aktuellt
att citatet stämmer

AI kan vara ett effektivt researchstöd men krav på att kontrollera källor kvarstår.

4. Begränsa uppgiften

”Analysera hela målet och säg vem som har rätt” är en mycket bred instruktion.

En mer kontrollerbar uppgift kan vara:”Identifiera alla ställen i materialet där datumet för leveransen anges och visa dokumentreferensen.”

Ju tydligare uppgiften är, desto lättare blir resultatet att kontrollera.

5. Skilj på fakta och analys

Det är värdefullt att separera två saker. Vad säger materialet? Och Vad kan det betyda? Det första kan ofta kontrolleras direkt mot källan. Det andra kräver juridisk analys.

6. Be AI identifiera osäkerhet

AI-system bör inte tvingas producera ett definitivt svar när informationen är otillräcklig.

Ett professionellt arbetsflöde bör ge utrymme för resultat som:

information saknas
underlaget är motsägelsefullt
detta kan inte avgöras från materialet
ytterligare kontroll krävs

I juridiken kan ”jag vet inte” vara ett betydligt bättre AI-svar än ett övertygande antagande.

7. Använd human-in-the-loop

AI-output bör granskas av juristen innan det används som juridiskt arbetsresultat.

Det gäller särskilt:

juridiska slutsatser
rättskällor
klientrådgivning
domstolsinlagor
processstrategi
faktiska påståenden

AI kan effektivisera arbetet.

Det flyttar inte det professionella ansvaret från juristen till modellen.

Värdet med Legal AI ligger inte i att ersätta mänsklig granskning, utan i att göra den mer informerad och systematisk.

8. Använd rätt AI för uppgiften

Generell AI kan vara mycket användbar för jurister men olika uppgifter ställer olika krav.

För språk och brainstorming kan en generell AI-assistent vara fullt tillräcklig.

För analys av ett omfattande svenskt tvistemål kan ett system byggt för målmaterial, spårbarhet och juridiska arbetsflöden vara mer relevant. LexBox är utvecklat utifrån denna senare användning.