Forskere: Har vi styr på etikken, når algoritmerne flytter ind på kommunekontorerne?

Meget tyder på, at det kun er et spørgsmål om tid, før algoritmer potentielt kan blive en fast del af sagsbehandlingen i danske kommuner. Den nye teknologi er kommet for at blive, og derfor er det vigtigt, at vi allerede nu spørger os selv, om vi har sikret, at den nye teknologi udvikles og anvendes på en etisk forsvarlig måde.

Et vigtigt spørgsmål er, hvordan vi udnytter teknologiens potentialer på en etisk forsvarlig måde. Det handler først og fremmest om måden, vi bygger teknologien på og måden, vi fodrer algoritmen med data på. Det etiske ansvar starter nemlig allerede ved opbygningen af teknologien.

Vi må ikke glemme, at det er os selv, der skaber algoritmerne. Har vi ikke øje for de potentielle faldgruber, når algoritmerne potentielt rykker ind på kommunekontorerne, risikerer vi at skabe en diskriminerende og ulige sagsbehandling.

Større usikkerhed for borgere

I vores forskning har vi undersøgt, om det er muligt at skabe en algoritme, som kan forudsige børns mistrivsel i Danmark – og det er det. Algoritmen er bygget med hensigten om at kunne være støtte i sagsbehandlingen, og den benyttes kun til forskning. Algoritmen er ikke en erstatning af socialrådgiveren, men bruges i forskningsprojektet til at identificere mønstre, der kan forudsige børns mistrivsel. Mønstre, som ellers kunne være blevet overset.

I opbygningen af algoritmen har vi haft stor omtanke for, hvordan vi fodrer den med data, og hvilke statistiske sammenhænge der ligger bag. Vi har fjernet eksempelvis data om køn, etnicitet og socioøkonomisk baggrund for at undgå, at den blev biased eller diskriminerende, og den er blevet gjort aldersneutral.

Etikkrav gælder ikke tech-virksomheder

Vores store fokus på databehandling skyldes bl.a., at vi som forskere i Danmark er underlagt krav om etik og gennemsigtighed. Det betyder, at al forskning skal være åben og tilgængelig, så resultaterne og metoderne kan forstås, vurderes og anvendes af andre.

De samme krav gør sig gældende i kommunerne for at sikre borgenes retssikkerhed. Men de samme krav gælder ikke for fx tech-virksomheder, og det skal vi have øje for, især når algoritmer bruges til at løse opgaver. Det kan nemlig skabe en større usikkerhed for både borgere med sager i kommunen og de medarbejdere, der skal tage beslutninger i sagerne.  

Lovgivere skal have øje for udfordringen

Hvis vi skal afprøve ny teknologi i sociale sager, må vi sikre, at systemerne er åbne og forståelige. Fagfolk og familier skal vide, hvordan algoritmerne er udviklet, og hvordan de kommer frem til resultaterne. Alle parter skal føle sig trygge. Det kræver, at det er en problemstilling, som vores lovgivere har øje for, når der skal lovgives - men vi har også brug for mere viden på området.

Vi har brug for forskning, der kan belyse børn, forældres og socialrådgivernes oplevelser med algoritmer i sagsbehandling – ikke kun i potentiel brug, men også når vi bygger dem. Vi skal blive klogere på, hvordan vi bedst samarbejder med børn, familier og kommuner i udviklingen af algoritmer.

Endelig mangler vi at blive klogere på, om og hvordan algoritmerne forbedrer sagsbehandlingen – særligt i forhold til, hvordan det går sårbare familier senere hen. Algoritmerne må ikke ende med at skabe flere problemer, end de løser. Dette kræver mere og tættere samarbejde mellem lovgivere, forskere og kommunerne - og ikke mindst de børn og forældre.