Nyt projekt skal gøre algoritmer gennemskuelige

Indsamling af data og brug af maskinlærings-værktøjer, der kan hjælpe med at træffe beslutninger på baggrund af store datamængder, vinder i stigende grad indpas. Det gælder lige fra sundhedsområdet og kommunernes sagsbehandling til højteknologiske virksomheder, der skal træffe fagligt stærkt komplicerede beslutninger.

Men brugen af værktøjer til beslutningsstøtte skaber også et øget behov for transparens og en forklaring på, hvordan maskinlærings-modellerne kommer frem til de givne resultater. Det er ikke nok bare at stole på det resultat, som den “sorte boks” kommer frem til, når man skal kunne stå på mål for den beslutning, man som fagperson skal føre ud i livet.

En ny strategisk satsning har derfor som mål at gøre beslutningsstøtte-værktøjer lettere tilgængelige for brugere på alle niveauer i virksomheder og organisationer. Det skal bl.a. ske ved hjælp af visualisering af data i værktøjerne og ved at forklare, hvilke dele af data, der fører til et givent resultat.

“Hvis du er læge på et hospital eller sagsbehandler i en kommune, og du anvender de her beslutningsstøtte-værktøjer, vil du selvfølgelig gerne være helt sikker på, at det er de rigtige data, der er anvendt, og at de er behandlet på den rigtige måde, når du bruger forskellige datamodeller til at støtte dig i dine faglige beslutninger. Det er den bekymring, som projektet tager alvorligt. Vi vil derfor frembringe viden om og værktøjer til at skabe transparens i brugen af værktøjer,” forklarer Marie Rørdam Fenger, der er projektleder og Senior Digital Innovation Specialist på Alexandra Instituttet.

Relevant inden for mange områder

Et af de områder, som man vil kigge på i projektet, er hjemmeplejen. Her anvender man beslutningsstøtte til ruteplanlægning.

“Når planlæggere i hjemmeplejen skal lægge den optimale rute, er der rigtig mange parametre, der spiller ind: Kan vi finde den kortest mulige rute? Kan vi sørge for, der bliver mindst mulig spildtid for den enkelte medarbejder, så vi ikke bruger unødige ressourcer? Kan vi sikre, at fru Hansen ikke for femte gang denne uge møder et nyt ansigt, og kan vi generelt minimere antallet af ændringer, hvis nu en medarbejder bliver syg, og de andre skal dække vagten ind?,” forklarer hun og uddyber:

“Alle disse ting er på spil og gør, at det kan være svært at rumme i hovedet for den enkelte planlægger. Men samtidig er der en masse bløde parametre, der er komplicerede at lægge ind i et optimeringssystem, så her er det vores opgave at vælge de rigtige parametre og gøre beslutningsstøttesystemet så transparent, at planlæggeren virkelig har tillid til, at systemet kan lave en bedre rute, end vedkommende selv ville have kunnet uden hjælp,” forklarer Marie Rørdam Fenger.

Læs mere her