Kunstig intelligens og ejendomsvurdering: Når borgeren står over for et uigennemsigtigt system
Manglende transparens og sporbarhed i det nye ejendomsvurderingssystem skaber udfordringer for borgernes forståelse og kontrol af afgørelser. Manglende transparens og sporbarhed i det nye ejendomsvurderingssystem skaber udfordringer for borgernes forståelse og kontrol af afgørelser
Af lektor Jøren Ullits, Juridisk Institut, Syddansk Universitet
Skattemyndigheden er i gang med en trinvis udrulning af et nyt fuldautomatisk vurderingssystem, der skal fastlægge skattegrundlaget for danske ejendomme. Det er fuldautomatisk i den forstand, at det træffer beslutninger uden menneskelig indblanding i hverken sagsbehandlingen eller under beslutningsprocessen. I hvert fald som udgangspunkt.
I det daglige omtales det ”ejendomsvurderingssystemet”, og den betegnelse i ental er misvisende, da der er tale om et komplekst systemlandskab af indbyrdes forbundne systemer og maskinlæringsmodeller, der er udviklet ved hjælp af kunstig intelligens.
Efter første udsending af ejerboligvurderinger (for 2020) fulgte en massiv offentlig kritik om bl.a. manglende transparens i de modtagne afgørelser. Mange ejendomsejere havde svært ved at forstå, hvordan myndigheden var kommet frem til det pågældende resultat, til trods for at ejendomsvurderingerne over talrige sider prøver at redegøre for den systemfastlagte fremgangsmåde. Afgørelserne er ca. 22 sider lange.
I et forsøg på at legalitetskontrollere sin egen ejendomsvurdering anmodede en af mange borgere skattemyndigheden om aktindsigt i grundlaget for sin 2020-ejendomsvurdering. Det fremgår af skattemyndighedens svar til borgeren, at det kun er en begrænset delmængde af den automatiserede databehandling – i afgørelsen omtalt som ”datamanipulationer”, der gemmes i forbindelse med udarbejdelsen af ejendomsvurderingen. For at imødekomme anmodningen ville det ifølge myndigheden derfor kræve, at ejerens vurdering skulle rekonstrueres, hvilket ikke med sikkerhed ville kunne lade sig gøre, idet den ”aktuelle kodebase og datastruktur havde ændret sig markant” siden udarbejdelsen af hans 2020-ejendomsvurdering.
Man kan på baggrund af svaret blive bekymret for, om skattemyndigheden har anvendt forskellige systemversioner inden for samme vurderingstermin. Dette ville være bekymrende, fordi ændringer af systemet (som led i videreudvikling og kalibrering af beregningsmodellen, efter at systemet er sat i drift og bruges til at træffe afgørelser) kan udgøre en praksisændring, hvis vurderingsgrundlaget ændres. I den automatiserede forvaltning indebærer et grundlæggende krav om ligebehandling, at automatiserede afgørelser om et bestemt sagsforhold – for eksempel vurderingen af ejerboliger for 2020 – baseres på den samme beregningsmodel (myndighedspraksis), medmindre myndigheden har besluttet sig for fremadrettet at ændre praksis (dvs. ændre beregningsmodel). I så fald skal myndigheden kommunikere dette ud.
Legalitetskontrol forudsætter, at myndighedens handlinger er sporbare. Hvis myndigheden kun gemmer en begrænset delmængde af de beregnede værdier i forbindelse med udarbejdelsen af ejendomsvurderingen, og vurderingen ikke senere kan rekonstrueres på grund af systemændringer, synes kontrollen at have svære kår. Som en tidligere amerikansk højesteretsdommer har udtrykt det: ”Sunlight is said to be the best of disinfectants.”
I en anden sag anmodede en borger skattemyndigheden om aktindsigt i ejendomsvurderingssystemets kildekode i et forsøg på at forstå grundlaget for sin vurdering. Kildekoden indeholder instruktioner og logik, der beskriver, hvordan systemet skal opføre sig, hvilke funktioner det skal have, og hvordan det skal interagere med brugere og data. Skattemyndigheden gav afslag på borgerens ønske. Borgeren klagede til Landsskatteretten, der ligeledes afslog.
Reglerne om indsigt kan bruges til at få adgang til myndighedsinformationer, der efter omstændighederne vil kunne give en øget forståelse af baggrunden for en afgørelse. Men disse regler er afgrænset til dokumenter og oplysninger i dokumenter, som er de informationsstrukturer, som myndigheder i dag har pligt til at håndtere og ordne efter reglerne om notat- og journaliseringspligt. Oplysninger om beregningsmodellen anvendt i et automatiseret afgørelsessystem og kildekode passer ikke umiddelbart ind i denne struktur. Derfor har myndigheden også nemt ved at afslå anmodninger om indsigt i sådan et materiale.
Man kunne efter fransk forbillede indføre en ret til indsigt i fuldautomatiske systemers kildekode. En sådan adgang sikrer dog ikke nødvendigvis en videre forståelse hos den enkelte borger om baggrunden, for at afgørelsen faldt ud, som den gjorde. Men det muliggør borgerdrevet såkaldt "grey box-testing" af systemet, dvs. en kritisk undersøgelse og fejlsøgning. I Frankrig gav denne indsigt mulighed for at analysere kildekoden til et omstridt system til allokering af studiepladser. Det kunne afsløre, at når antallet af ansøgere oversteg antallet af ledige pladser på et givet universitet, tildelte systemet pladserne tilfældigt, selvom uddannelsesloven krævede, at universitetets rektor skulle give en begrundelse for eller imod hver tildeling. Med andre ord skete tildelingen i sådanne tilfælde ved et teknisk terningekast. Den indbyggede tildelingsregel var med andre ord i strid med loven og dermed ulovlig.
En ret til indsigt i kildekoden for systemer som bl.a. ejendomsvurderingssystemet er symptombehandling på den situation, hvor borgeren ikke kan forstå afgørelsens udfald og derfor har behov for at tiltvinge sig en forståelse ad omveje. Det ville nok ikke være relevant, hvis myndigheden under udviklingen af systemet faktisk var opmærksom på, at de afgørelser, som det fuldautomatiserede system senere skal træffe, skal kunne læses og forstås af den almene borger.