Pålitelig og tillitsverdig digital velferdsforvaltning

Sammendrag

Denne rapporten besvarer to forskningsspørsmål:

1) Hvilke overveielser har Arbeids- og velferdsdirektoratet gjort om pålitelig digital forvaltning, og hvordan har disse overveielsene påvirket organiseringen av digitaliseringsarbeidet. 2) Hvilke rettslige krav stilles til helt eller delvis automatiserte rettsanvendelsessystemer, og hvordan bør Nav innrette sitt digitaliseringsarbeid for å ivareta disse kravene? I tillegg ser vi på rettslige krav til utvikling og bruk av maskinlærende systemer

For å besvare disse spørsmålene har vi brukt intervjuer, observasjoner i to produktområder og dokumentanalyser, samt gjennomført en analyse av gjeldende rett på området. Teoretisk og normativt er rapporten forankret i en forståelse av at pålitelig digitalisering ikke bare henger sammen med etterlevelse av prosessuelle og materielle krav som loven stiller, men også må sees i lys av og forankres i mer fundamentale verdier knyttet til rettsstat og demokrati.

Arbeids- og velferdsdirektoratet har som mål å effektivisere arbeids- og velferdstjenestene gjennom digitalisering og automatisering. Dette innebærer å utvikle automatiserte rettsanvendelsessystemer. Mens tradisjonell rettsanvendelse skjer i et manuelt» eller fysisk møte mellom saksbehandler og en borger, så er den moderne automatiserte saksbehandlingen en masseforvaltning, hvor det digitale systemet som er i bruk, anvender lov- og forskriftsbestemmelser på et stort antall enkeltsaker helt eller delvis automatisert.

Dette stiller store krav til automatiseringsarbeidet, dvs. til arbeidet med å omdanne lov til kode, slik at rettsanvendelsen blir rettssikker og rettsriktig, at saksbehandlingen er i samsvar med lov og rettslige prinsipper, og skjer på en forutsigbar og sikker måte. Samtidig er dette et krevende arbeid, nettopp fordi de materielle og prosessuelle rettsreglene som skal automatiseres, ikke er tilpasset masseforvaltning, men utviklet for å sikre den enkeltes rettigheter med utgangspunkt i møtet mellom den enkelte og forvaltningen.

Bruken av smidig utvikling har stått sentralt i utviklingen av de automatiserte rettsanvendelsessystemer de siste årene. Metoden er dynamisk og kjennetegnet av høy endringstakt med fortløpende tilpasninger basert på tilbakemeldinger fra brukerne av det digitale systemet. Smidig utvikling innebærer at et system utvikles, testes og leverer funksjonalitet i korte, tidsavgrensede perioder, typisk én til fire uker. Dermed skjer utviklingen gradvis og kontinuerlig. Juridisk metode krever imidlertid at hva som er gjeldende rett, og hvilke opplysninger som må innhentes i saksbehandlingen, må fastlegges og må avklares, før det automatiserte rettsanvendelsessystemet «produksjonssettes». Disse to tilnærmingene utgjør en grunnleggende spenning i automatiseringsarbeidet, mellom teknologi og juss, mellom smidig utvikling og juridisk metode, og mellom pålitelighet og effektivitet.

I denne rapporten gjør vi rede for hvordan spenningen mellom «effektivitet» og «pålitelighet» kommer til uttrykk og er blitt håndtert. Dette gjør vi i lys av de faktiske rettslige forpliktelsene som gjelder, og hvordan disse må inngå i den automatiserte rettsanvendelsen. For å forstå utviklingen i Arbeids- og velferdsdirektoratet, knyttet til forståelsen og organiseringen av forholdet mellom smidighet og pålitelighet, har vi funnet det nyttig å dele inn arbeidet som har pågått, i ulike faser.

Den første fasen er knyttet til oppbyggingen av et stort IT-utviklingsmiljø i direktoratet, i perioden 2017-2020. Da endret direktoratet sourcingstrategi og begynte å bygge opp egne, store IT-utviklingsmiljøer organisert i produktområder fremfor å hyre inn eksterne. Samtidig skiftet IT-miljøene produktutviklingsmetodikk fra såkalt «fossefallstenkning» til «smidig («agile») utvikling», hvor man jobber i tverrfaglige produktteam organisert i produktområder. Dette var en periode preget av stor optimisme på vegne av den effektiviteten digitaliseringen skulle bidra med. 

Den andre fasen varte fra 2021 og frem til 2025. Den er kjennetegnet av et økende fokus på pålitelighet, en oppbygging av den juridiske funksjonen i Arbeids- og velferdsdirektoratet og et søkelys på de utfordringene av kulturell og organisatorisk karakter som produktutviklingen skapte. Kanskje man kan si at dette var en periode preget av økende konflikt og ettertanke.

Organisasjonsreformen som ble iverksatt fra 1. mai 2025 kan kanskje innvarsle en tredje fase – en slags institusjonaliseringsfase, preget av større grad av nøkternhet, og hvor ambisjonen er at produkt- og fagutvikling skal smelte sammen, og direktoratet bli en integrert organisasjon.

Utviklingen har vært preget av i hvert fall fire utviklingsspor, med ulike opphav og begrunnelser, og med ulik vekt. De fire sporene er knyttet til ulike, men ikke gjensidig utelukkende, forståelser av forholdet mellom pålitelighet og smidighet. Alle sporene synes å forutsette at det ikke finnes noen absolutt eller prinsipiell motsetning mellom smidighet og pålitelighet, selv om det finnes spenninger mellom dem.

Moderniserings- og regelverkssporet har vært til stede hele tiden og handler om at utfordringene knyttet til digitalisering av lovgivning ikke så mye ligger i forholdet mellom pålitelighet og smidighet, som i at lovverket er for lite automatiseringsvennlig. Her pekes det oppover mot departement og lovgiver som må gjennomtenke hva en økende digitalisering krever av lover og forskrifter.

Det juridiske sporet har også vært til stede hele tiden. Det sporet ble forsterket av personvernlovgivningen og toppet seg med EØS-saken med Blindsonerapporten fra 2020, og satte sitt preg på arbeidet i flere år. Søkelyset i Blindsonerapporten var ikke eksplisitt på rettslige utfordringer ved digitalisering, men problemforståelsen her var knyttet til en manglende oppmerksomhet om juridiske problemstillinger i Nav, og som fikk konsekvenser for digitaliseringen. Når det noe seinere ble avdekket pålitelighetsutfordringer knyttet til automatiseringsarbeidet, ble oppmerksomheten også rettet mot forhold mellom smidig produktutvikling og pålitelighet.

Kultursporet - som ikke kan sees løsrevet fra det fjerde sporet, organiseringssporet – handler om at de utfordringene som etter hvert ble avdekket knyttet til påliteligheten av de digitale løsningene, nettopp ikke handlet om prinsipielle motsetninger, men om kultur, ledelse og organisering. Årsakene til utfordringene var manglende nysgjerrighet og åpenhet når det gjelder andre synspunkter enn ens egne, og svaret på utfordringene ble kultur- og holdningsendring.

Organiseringssporet har også vært til stede hele tiden. Fra den «digitale transformasjonen» startet, med innføringen av smidig metodikk, har man vært opptatt av at de tverrfaglige, myndiggjorte produktteamene ikke alene var tilstrekkelig til å sikre kvalitet. I tillegg måtte man arbeide med den ledelsesmessige og organisatoriske infrastrukturen rundt produktutviklingen, og hvor juristene måtte spille en sentral rolle. Dette sporet fikk sitt foreløpige toppunkt med den nye organisasjonsreformen.

Det er slikt sett gjort et betydelig arbeid i Arbeids- og velferdsdirektoratet for å øke påliteligheten i digitaliseringsarbeidet og for å få til en tettere integrasjon av fag, juss og teknologi. Vi mener at dette arbeidet er viktig, og at utviklingen går i riktig retning. Samtidig synes det fremdeles å være betydelige utfordringer knyttet til hvordan direktorat og departement skal sikre en pålitelig digital forvaltning.

Grunnleggende sett er vi skeptiske til ideen om at smidighet og pålitelighet, produktutvikling og juridisk metode kan smelte sammen. Dette handler om at jussen til syvende og sist stiller noen krav til automatiseringsarbeidet som er uomgjengelige. Man kan jobbe mye bedre med å integrere juss og smidighet, men til syvende og siste er det en hierarkisk relasjon mellom dem, hvor smidigheten må underordnes loven og jussen.

Videre ser det ut til at omdanningen av regler til kode er mer kompleks enn det man har forestilt seg i utgangspunktet. Det må avklares grunnleggende spørsmål om i hvor stor grad og hvor stort omfang skjønnsbegreper kan skrives om i programkode. Det må også avklares om rettsanvendelse som kan automatiseres, bør automatiseres. I tillegg så skal det avklares og håndteres motstrid mellom tolkningsresultater og forvaltningspraksis, og det må vurderes hvordan saksforhold kan fastlegges forsvarlig digitalt og i samsvar med rettsregler.

Samtidig ser det ut til å mangle en metode som sikrer at de helhetlige hensyns, vurderinger og overveielser som må gjøres for at automatiseringen skal være pålitelig, faktisk finner sted. Det vil si at svært grunnleggende rettslige spørsmål både drøftes og avgjøres langt nede i organisasjonen – i tverrfaglige produktteam – men uten at det ser ut til og finnes en felles metode av hvilke spørsmål som bør stilles og hvilke hensyn som bør avveies, og i hvilken rekkefølge dette skal skje, og hva slags spørsmål som skal avgjøres på hvilket nivå i organisasjonen. Dette gjelder for eksempel spørsmålene om lovverket faktisk egner seg for digitalisering og automatisert rettsanvendelse, mulige konsekvenser av digitaliseringen for ikke digitale brukere, og spørsmål knyttet til risiko. Teamene er videre operative, jobber med frister og skal finne løsninger selv om spørsmålene som stilles er av prinsipiell karakter.

Endelig synes de mange initiativene om å utvikle arbeidsformer som fremmer både smidighet og pålitelighet, å skje ad hoc, både som resultat av eksterne granskninger og tilsyn og av eget kvalitets- og forbedringsarbeid. Det er ikke alltid lett å se hvordan de ulike initiativene og endringssporene konkret henger sammen, og mye er fremdeles overlatt til en type prøve- og feilemetodikk. Antakeligvis er det vanskelig å utvikle en metode for hvordan man skal planlegge og drifte et pålitelig utviklingsarbeid, når tempoet i endringene er såpass høyt, og det ikke finnes en ferdig utviklet metode for hvordan dette skal skje. Arbeidsformen avviker imidlertid fra den som er beskrevet i statens økonomireglement og i utredningsinstruksen, og minner mer om forvaltningen som et laboratorium enn som en styrt og forutsigbar virksomhet. Dette retter oppmerksomheten mot politikerne og departement. Det er de som må skape forutsetningene for at de enkelte virksomheter kan foreta en pålitelig digitalisering.

Per i dag brukes ikke KI-teknologi til rettsanvendelse og saksbehandling i Arbeids- og velferdsdirektoratet, men KI-systemer brukes til andre forvaltningsoppgaver, som håndtering av arkiv og informasjonssøk, språkforbedring, beslutningsstøtte og programmering. Direktoratet har imidlertid store forventninger til det de omtaler som innsiktsteknologi eller datadrevet utvikling, og det er grunn til å tro at dette får stor betydning fremover. Denne problematikken mener vi ytterligere understreker behovet for en helhetlig metodisk fremgangsmåte hvor departement og politikere er tett involvert.