Som kode24 tidligere har omtalt, så har det vært flere tilfeller av at advokater har støttet seg på hallusinerende AI i amerikanske domstoler.
Og, som hos Tromsø kommune, kan det gå ganske så galt.
Nå har fenomenet også dukket opp i Norge, melder Advokatbladet.
For i løpet av av årets tre første måneder har Høyesterett mottatt et prosesskriv med oppdikta, eller hallusinert, informasjon. Dette avslører høyesterettsjustitiarius Toril Marie Øie til avisa.
Hadde ikke sjekket AI-kildene
Prosesskrivet ble levert i forbindelse med en ankesak, og inneholdt henvisninger til både lover og forarbeider som ikke var ekte.
Hallusinasjonene ble avslørt i forbindelse med en rutinemessig gjennomgang av de sentrale rettskildene det blir vist til, i forkant av at saker skal behandles i Høyesterett.
– I prosesskrivet var det både henvist til ulike rettskilder og gjengitt sitater fra kildene, sier Øie, og fortsetter:
– Da utrederen hos oss skulle forsøke å finne frem til disse kildene, viste det seg at kildene ikke eksisterte. Her hadde advokaten rett og slett ikke sjekket kildene fra AI før prosesskrivet ble inngitt.
Advokater brukte AI, viste til saker som ikke fantes: «Skammelig!»
Avstår fra å sanksjonere
Hun opplyser at de tok opp saken med advokaten, og at de har anledning til å ilegge bøter eller legge fram saker for Advokatnemnda. Det har de valgt ikke å gjøre denne gangen, men det kan skje i framtidien, sier Øie.
De nøyer seg heller med å advare, og understreke ansvaret til advokatene.
Dette gjør de med å blant annet oppdatere advokatveilederen, der de har lagt til et nytt avsnitt om AI.
- AI er et nyttig og tidsbesparende verktøy for mange. Advokatens plikter er de samme ved bruk av AI-verktøy som ellers. Advokaten er personlig ansvarlig for alle opplysninger som brukes, også opplysninger av rettslig art.
- Det er kjent at AI kan hallusinere og finne opp blant annet rettskilder. Kilder og andre opplysninger AI oppgir, må kvalitetssikres. AI bør bare brukes på områder hvor advokaten har god nok kompetanse til å kontrollere innholdet.
- Advokaten må på vanlig måte forsikre seg om at sentrale kilder ikke er oversett. Prosesskriv og prosedyre bør ikke ha unødige kilder, og advokaten må kunne løfte blikket og konsentrere seg om det sentrale.
Øie påpeker også at hun forventer at dette ikke blir et tema Høyesterett skal måtte forholde seg til videre.
AI-tabbe ryster Tromsø: «Skandale!»
Burde forstå uten presisering
Advokatforeningens leder, Siri Teigum, sier at det var ventet at fenomenet ville nå Norge på et tidspunkt, men at hun er overrasket over at det skjer i et prosesskriv til Høyesterett.
Hun understreker også at tydeliggjøringen ikke bør overraske norske advokater.
– Jeg synes det er positivt at Høyesterett omtaler dette i veilederen sin, men dette er noe man som advokat burde forstå også uten en slik presisering, sier hun til Advokatbladet.
