NAV allierer seg med juss-forskerne: Skal sikre demokrati og rettsstat når maskinene overtar

Nederland endte det i skandale. Myndighetene utviklet et omfattende kontrollsystem for å avsløre trygdesvindlere, men ble selv dømt for å ha brutt loven og krenket menneskerettighetene.

Systemet var basert på algoritmer. Data om personer som var dømt for trygdesvindel, ble brukt til å forutsi hvilke andre trygdemottakere som kunne tenkes å svindle i framtida.

Når maskinene lærte av kjente tilfeller av trygdemisbruk og forbedret dataene stadig mer, ble kontrolltrykket voldsomt mot noen, og aller mest mot folk i fattige og sosialt belastede områder.

Systemet de nederlandske trygdemyndighetene hadde investert enorme ressurser i, ble lagt ned. Noen hadde glemt å tenke på rettsstatsprinsippene.

Enorm iver

– Det er en enorm iver etter å digitalisere velferdsforvaltningen også i Norge og å ta kunstig intelligens og maskinlæring i bruk for fullt. Teknologien gir fantastiske muligheter. Men eksempelet fra Nederland minner oss om noe viktig: At alt må skje innenfor rammene av demokratiet og rettstaten, understreker professor Ingunn Ikdahl og førsteamanuensis Jon Christian Fløysvik Nordrum ved Det juridiske fakultet.

De to leder «Digital velferdsstat», et stort samarbeidsprosjekt mellom juristene på UiO og fagmiljøene i NAV. Målet er klart: å bidra til at den digitaliserte velferdsforvaltningen bygger på et demokratisk og rettsstatlig fundament.  

Enestående i verden

NAV er noe for seg selv. Ikke bare er NAV trolig det velferdsorganet i verden som dekker flest velferdsområder og har flest tjenester samlet under seg. Det er også det velferdsorganet med adgang til de mest omfattende og detaljerte dataene om hver enkelt innbygger i et land.

– Vi har ekstremt høy tillit til forvaltningen og gir mer enn villig fra oss informasjon, påpeker Ikdahl.

Særtrekkene ved norsk forvaltning legger derfor forholdene usedvanlig godt til rette for digitalisering. NAVs planer for bruk av digitale velferdsløsninger, går lenger enn noen andre hittil har gjort. 

"Om vi ikke greier det, risikerer vi tilsvarende skandaler som i Nederland." 

De store mengdene data NAV sitter på om hver enkelt av oss, benytter de allerede nå til å modellere sammenhenger og ‘se inn i framtida’ – for eksempel hvor lenge en sykmelding vil vare.

– Det finnes regler som setter grenser. Alle som arbeider med å utvikle og ta i bruk nye løsninger må være trygge på hva som er lov – som hva slags koblinger av data forvaltningen kan gjøre, og hva informasjonen kan brukes til, understreker Ikdahl.

Reglene i lovverket skal sikre overordnede rettsstatsprinsipper. Men er reglene egnet til å ivareta prinsippene når forvaltningen arbeider på nye måter?

Saksbehandlingen gjøres i stadig mindre grad av en offentlig tjenesteperson på et fysisk sted, dataprogrammer overtar for papirdokumenter, og tiden det tar å fatte et vedtak, er i ferd med å bli forsvinnende kort.

"Behovet er akutt. Men nå er vi heldigvis i gang."

Juristene forteller at NAV tok kontakt for å diskutere problemstillinger. Etter hvert kom invitasjonen til et omfattende samarbeid. NAV erfarer hvilken enorm utfordring det er å få jussen og den nye teknologien til å passe sammen. Hvordan er det mulig å få til?

– Siden Norge ligger helt fremst når det gjelder å utvikle og bruke ny forvaltningsteknologi, vil vi ikke lære stort av å gå til den internasjonale litteraturen eller til andre land. Vi må selv finne løsningene. Da trenger vi å forske, tenke nytt. Ja, vi må drive juridisk innovasjon, erkjenner Nordrum.

– Behovet er akutt. Men nå er vi heldigvis i gang.

Jobber sammen

Og nytenkningen, understreker han, gjør vi sammen med teknologene. For nettopp teknologene spiller en stadig viktigere rolle i å bygge moderne forvaltningssystemer.

– Teknologene snakker ofte om ‘juridiske hindringer’. Men juss er byggestoff, ikke hindring når nye forvaltningssystemer blir til, poengterer juristen.

For virkelig å kunne nyttiggjøre seg av digitaliseringens muligheter, mener han, trenger teknologimiljøene i NAV å få tilført mer kunnskap om forvaltningsverdier, juss, menneskerettigheter og etikk.

Juridisk kompetanse må med fra starten. Juristene på sin side, trenger å forstå teknologiens begrensninger – og muligheter.

– For å løse utfordringene er vi først nødt til å forstå hverandre. I dag er avstanden er stor mellom miljøene. Vi har ulike språk, utdanninger og ståsteder. Nå jobber vi med å finne fram til et felles ståsted og et felles språk. I det nye samarbeidsprosjektet vårt skal vi bygge framtidas forvaltningssystemer sammen.

Rask og effektiv

Målet med digitaliseringen har hittil først og fremst vært å effektivisere forvaltningen. Det går fram av meldinger og handlingsplaner fra regjering og departement. Ny teknologi skal sikre raskere saksbehandling. Oppgaver NAV-ansatte har, skal forenkles på en måte som gjør at de kan uttrykkes ved hjelp av algoritmer og kjøres i datamaskiner. En maskin som fatter tusen vedtak i en jafs, frigjør ressurser.  

– Da kan mennesker gjøre mer av det mennesker er bedre til enn maskiner – de vanskelige vurderingene og møtene med folk som trenger mer bistand enn bare et vedtak, påpeker Ikdahl.

Heller effektiv enn rettssikker 

Digitaliseringen bidrar til det forskerne kaller ‘masseforvaltning’ – en forvaltning der store antall saker behandles ganske rutinemessig og standardisert.  

– En slik forvaltning kan sikre likebehandling, men øker samtidig faren for å masseprodusere feil – feil det er vanskelig å oppdage, både for den saken gjelder og for dem som er satt til å kontrollere, understreker Ikdahl, og viser til at velferdsforvaltningen er et spesielt alvorlig felt å gjøre feil på.  

– Mange lever av ytelsene de får fra NAV. Og feilene blir trolig oppdaget seinere enn for eksempel innen skatteforvaltningen, hvor ressurssterke grupper og individer raskt stiller spørsmål ved systemet.  

Hittil, mener forskerne, har ikke digitaliseringen av velferdsforvaltningen skjedd med det for øye å styrke rettsstaten.

– Det sentrale har vært effektivisering og ikke det å sørge for at innbyggerne i større grad får realisert rettighetene sine, at det blir enklere å kontrollere at forvaltningen ikke gjør feil, eller å gjøre offentlig sektor mer åpen.  

«Svart boks»

Maskinlæring, påpeker de, setter grunnleggende, rettsstatlige prinsipper på prøve – særlig når beslutningene flyttes fra saksbehandlere av kjøtt og blod og over til digitale systemer med store data.

Det er ikke opplagt hva forvaltningen bygger vurderingene sine på dersom deler av grunnlaget for et vedtak er bygd på maskinlæring.

– Et grunnleggende problem er at vi ikke får vite eller ikke lett kan forstå hvordan algoritmene virker. En maskinlæringsmodell produserer et resultat, men hvorfor ble resultatet som det ble? «Computer says no» er ingen god begrunnelse for et vedtak.

Ingen rettsstatsvoktere

Hvordan kan bruken av kunstig intelligens da være rettssikker? Juristene understreker hvor viktig kontroll av forvaltningen er, men at kontrollmulighetene er svekket. Domstolskommisjonen peker i sin NOU fra 2020 på at domstolskontrollen må tilpasses framtidas digitale forvaltning, med automatiserte vedtak og bruk av kunstig intelligens.

Professor Hans Petter Graver kritiserte koronalovene, men vil nok ha problemer med å gå beinhardt løs på algoritmene.

Også allmennhetens innsyn i forvaltningens arbeid er vanskeligere enn før.

– Den kritiske offentlighet, inkludert oss ved Det juridiske fakultet, kan i liten grad kontrollere systemer som bruker kunstig intelligens. Språket som brukes, er ikke norsk. Det er algoritmer, et språk ikke alle kan lese. Dermed har vi færre rettsstatsvoktere som passer på. Professor Hans Petter Graver kritiserte koronalovene, men vil nok ha problemer med å gå beinhardt løs på algoritmene, tror Nordrum.

Juristene minner om at rettssystemet og forvaltningssystemet vårt er innrettet ut fra tanken om én sak, én borger og én saksbehandler.

– Men å hindre feil i digitale forvaltningssystemer? Domstolskontrollen er altfor treg, og også for dommerne er det vanskelig å forstår algoritmene. Dessuten skjer rettsprosessene med utgangspunkt i enkeltsaker. Vi trenger nye former for kontroll, både når nye systemer blir utviklet og når de tas i bruk, sier Ikdahl.

– Vi merker at mange deler av det offentlige er interessert i å diskutere mulighetene. 

På stedet hvil

Forskerne mener at velferdsforvaltningen kanskje står overfor sin største rettsstatlige utfordringen noensinne: Å innpasse maskiner i velferdsstaten.

De peker på behovet for nytenkning i eget fagmiljø, og mener de har mye å lære fra mer tverrfaglig orienterte miljøer ved eget fakultet, som rettssosiologi og ikke minst forvaltningsinformatikk. 

– Forvaltningsretten, som vi underviser i her på instituttet, har endret seg lite de siste femti årene – mens det har skjedd radikale endringer i måten forvaltningen arbeider på. Om vi skal greie å utvikle en digital velferdsforvaltning som både er demokratisk, rettssikker og effektiv, trenger vi å endre retten, framholder Nordrum. 

Unngå skandaler

Juristene forsøker nå å finne ut hvordan retten kan utvikles slik at vi får en rettsstat som fungerer.

– Om vi ikke greier det, risikerer vi tilsvarende skandaler som i Nederland. Får vi mange store feil som rammer bredt, kan tilliten til velferdsstaten bli svekket, advarer Ikdahl.  

Hun understreker samtidig at systemer som bruker kunstig intelligens, gir muligheter vi ikke bør gå glipp av.    

– På sitt beste kan slike systemer styrke stillingen til den enkelte innbygger i møte med en forvaltning som mange opplever som fjern og utilgjengelig – og dermed styrke demokratiet og rettsstaten. Det er mulig å tenke seg algoritmer som hjelper folk med å finne fram i forvaltningen, forklarer vedtak og undersøker klagemuligheter.  

Aktive jurister trengs 

De to kollegene peker på en underliggende utfordring: Samfunnet er i rask endring, det krever jurister som aktivt bidrar. Mange tenker på retten som statisk, konservativ og tilbakeskuende. Men i virkeligheten, mener de, spiller retten en sentral rolle når vi utvikler samfunnet vårt.

– Utfordringene vi står overfor er formidable, som klima- og miljøutfordringen. Da må vi lage rettslige systemer og lover som sikrer verdiene vi ønsker at samfunnet skal bygge på. Det er stadig større behov for jurister som kan bidra til samfunnsutviklingen – altså jurister som ikke bare kan lese dagens lovverk, men også kan lage lover for morgendagens utfordringer.

Kunstig intelligens setter dem på prøve:

– Studentene blir kastet ut i kaos

De søker i Norges lover og i tykke bøker om forvaltningsrett. Men spørsmålene de stiller, må jusstudentene finne svar på selv.  

Kunstig intelligente systemer endrer forvaltningen i rekordfart. Lovverket henger ikke med. I Lovlab – laboratorium for nye lover og regler – gjør studentene noe aktivt for å bøte på dette. De skriver lovforslag i form av en JOU – Jusstudentenes offentlige utredninger – en ‘mini-NOU’ for eksterne oppdragsgivere. 

Må tenke nytt

–  Studentene i Lovlab blir kastet ut i kaos. Forvaltningsrettslitteraturen er ikke i nærheten av å gi dem svar på mange presserende spørsmål som digitaliseringen skaper, fastslår Jon Christian Fløysum Nordrum.

Han er ansvarlig for Lovlab og faget lovgivningslære og viser til at jusstudenter flest ikke lærer å skrive lover og utvikle nye regler, men kun tolke regler som allerede finnes.  

– Studentene blir utfordret. NAV sier: Her er teknologien, hjelp oss med jussen. Studentene bringer til torgs kunnskap om forvaltningsrett og trygderett, men fordi forvaltningsretten slik den er i dag ikke passer, blir de blir tvunget til å tenke nytt: Hvordan er det best å organisere og regulere forvaltningen? Hvilke nye begreper og kategorier trenger jussen?