Om fem år styrer algoritmer virksomheders investeringer

Det er algoritmer, der fodrer vores hjerner på sociale medier. Algoritmer styrer også aktiemarkederne og træffer beslutninger om, hvilken behandling vi skal tilbydes på hospitalerne. Snart er de også med til at beslutte hvilke produkter, der udvikles.

– Der er sat et algoritme-kapløb i gang. Alle store virksomheder taler om det. Jeg siger, at om fem år vil store virksomheders beslutninger vedrørende innovation og investeringer være støttet af algoritmer og kunstig intelligens, siger professor Alf Rehn fra Institut for Teknologi og Innovation.

Han er med i projektet ’Algoritmer, Data og Demokrati’, hvor forskere har modtaget 100 millioner kroner fra VILLUM FONDEN og VELUX FONDEN til at undersøge, hvordan kunstig intelligens påvirker demokratiet.

– Vi taler meget om dark data. Når vi bruger Google, ved vi ikke, hvilke datasæt Google bruger for at finde de rigtige informationer. Det er dark data. I takt med, at algoritmerne bestemmer mere og mere, er det vigtigt at diskutere de datasæt, vi putter ind i algoritmerne, og deres gennemsigtighed, understreger Alf Rehn.

Legetøj til hvide mænd

Som professor i innovation er Alf Rehn bekymret for, at vi går glip af vigtig udvikling, når algoritmerne skal grovsortere projekterne. Hvis vi ikke er meget bevidste om egne blinde vinkler i den data, vi klæder algoritmerne på med, ender vi med at reproducere flere af de produkter, vi i forvejen har.

– Vi kalder det innovation bias. Hvis algoritmerne tænker; Vi har altid udviklet legetøj til Alf, så nu fortsætter vi med at udvikle ting til Alf, så er der mange mennesker i verden, som ikke nyder godt af denne innovation, siger Alf Rehn, som er en 48-årig højtuddannet hvid mand.

Han peger på, at langt størstedelen af udviklingen i dag sker for at tilfredsstille en minoritet: nemlig den privilegerede midaldrende vestlige mands behov for underholdning og for ikke at blive for tyk eller tabe håret. Samtidig dør over 700.000 børn af diarré hvert år.

– Hvis algoritmerne ikke forstår de store problemer i verden og fortsat udvikler legetøj til mig, giver det globale demokratiske problemer.

– Det er mennesker, der styrer det datagrundlag, som algoritmerne træffer beslutninger ud fra, derfor er det hamrende vigtigt, at vi diskuterer algoritmers gennemsigtighed og beslutningsgrundlag, før de bliver låst fast, siger Alf Rehn.

Er algoritmer racistiske?

Et forskningsresultat fra M.I.T Media Lab er et lysende eksempel på, at algoritmer ikke er klogere, end det datasæt de bliver trænet med. Efter at have undersøgt en bred vifte af ansigtsgenkendelsesteknologier kunne forskere i 2018 konkludere, at teknologierne havde meget lettere ved at identificere en hvid mand end nogen anden kombination af hudfarve og køn.

Det samme gjorde sig gældende, da Google i 2015 måtte undskylde, fordi en algoritme kategoriserede billeder af mørke mennesker som gorillaer.

– Det er ikke fordi algoritmen er racist, men algoritmen kommer til at reproducere de ubevidste bias, som de, der udvikler algoritmerne, har. Hvis vi ikke forstår algoritmens begrænsninger, så er der risiko for, at vi mister en hel gren af udvikling, fordi algoritmen er programmeret til at fortætte med at udvikle legetøj til Alf, forklarer Alf Rehn og fortsætter:

– Jeg siger ikke, at det hele bliver meget værre med algoritmestyret innovation. Faktisk har vi en gylden mulighed for, at det bliver bedre, men det sker ikke af sig selv.

– Det sker kun, hvis vi er bevidste om blinde vinkler og forholder os kritisk omkring den data, vi fodrer algoritmen med. Hvis det lykkes, er der mulighed for, at algoritmer vil træffe bedre valg, end de valg mennesker træffer i dag.