AI på socialområdet
Kunstig intelligens kan understøtte arbejdet på socialområdet, men rejser samtidig spørgsmål om borgernes retssikkerhed, værdighed og tillid til myndighederne. Hvordan sikrer vi, at teknologien tager højde for komplekse livssituationer og styrker den socialfaglige indsats? Her præsenterer Dataetisk Råd en rapport og en kort fortalt-version, der giver indblik i mulighederne og de dataetiske udfordringer ved AI på socialområdet. Materialerne indeholder analyser af konkrete anvendelser og seks anbefalinger til ansvarlig brug af teknologien.
Om rapporten
Denne udgivelse fra Dataetisk Råd undersøger de dataetiske spørgsmål, der opstår, når AI anvendes på socialområdet. Formålet er at kvalificere samtalen om, hvordan teknologien kan understøtte det sociale arbejde med respekt for borgernes rettigheder og forskellige livssituationer.
Rapporten tager afsæt i den kommunale socialforvaltning og inddrager perspektiver fra møder med aktører på området. Den analyserer seks konkrete anvendelser af AI: informationsassistenter til medarbejdere, digitale receptionister, automatisk referatskrivning, personlige AI-agenter, intelligente beslutningsstøttende værktøjer og uofficiel anvendelse af AI. For hver anvendelse gennemgår rapporten muligheder og risici og giver fem konkrete dataetiske råd.
På den baggrund fremlægger Dataetisk Råd seks overordnede anbefalinger, som især henvender sig til kommunale beslutningstagere. Rapporten giver ikke et entydigt svar på, om AI bør anvendes på socialområdet. Det afhænger af den konkrete anvendelse, og af om lovgiver og myndigheder får håndteret teknologiens potentielle skadevirkninger.
Dataetisk Råds anbefalinger
Dataetisk Råd anbefaler, at kommunalbestyrelser og administrative ledelser følger seks anbefalinger i både eksisterende og kommende AI-projekter så tidligt i forløbet som muligt, herunder:
Formålet med anvendelsen af AI skal være klart. Det skal være tydeligt, hvilken gavn teknologien skal gøre, og hvordan man vil undgå, at den gør skade. Forventninger og succeskriterier skal kommunikeres klart, og teknologien skal løbende evalueres.
Ansvaret for AI skal altid kunne placeres hos mennesker. Faste procedurer for godkendelse og kvalitetssikring skal sikre, at det er klart, hvem der bærer det faglige ansvar for teknologien og dens konsekvenser.
Anvendelsen af AI skal være gennemsigtig og til at forklare. Både medarbejdere og borgere skal kunne forstå, hvornår AI anvendes, hvilke data der indgår, og hvordan teknologien fungerer.
Datakvaliteten på socialområdet skal styrkes. AI-indsatser skal afstemmes med kvaliteten af de tilgængelige data. Der skal arbejdes systematisk med fælles standarder og kvalitetssikring af data.
Anvendelsen af AI skal fremme borgernes værdighed. Teknologien skal understøtte individuel sagsbehandling, aktiv borgerinddragelse og beskyttelse af borgernes privatliv.
AI skal styrke socialfagligheden. Den socialfaglige vurdering og relationen til borgeren skal fortsat være central. Medarbejderne skal inddrages og have kompetencer og ressourcer til at forstå, udfordre og kvalitetssikre teknologiens bidrag.
AI på socialområdet kort fortalt
Denne kort fortalt-version samler rapportens centrale indsigter og anbefalinger i et kort og tilgængeligt format. Den præsenterer fem centrale fund fra rådets møder med aktører på socialområdet, de seks overordnede anbefalinger og et overblik over de seks konkrete anvendelser af AI med tilhørende dataetiske råd. Publikationen er tænkt som en indgang til emnet for alle, der ønsker et hurtigt overblik.
De seks use cases
Use case 1: Informationsassistenter til medarbejdere
AI-værktøjer, der hjælper medarbejdere med hurtigt at finde relevant viden i lovgivning, retningslinjer og interne dokumenter. Informationsassistenter skal bygge på afgrænsede og forhåndsgodkendte dokumenter med tydelige kildehenvisninger. Medarbejderne skal være uddannede til at anvende og vurdere svarene.
Use case 2: Digitale receptionister
AI-løsninger, der besvarer borgernes standardspørgsmål og hjælper dem med at finde relevant information, eksempelvis via chatbots eller fysiske skærme. Det skal være tydeligt, at borgeren møder AI. Teknologien må ikke erstatte menneskelig kontakt, og der skal være et alternativ til den digitale receptionist.
Use case 3: Automatisk referatskrivning
AI-værktøjer, der automatisk udarbejder referater af møder mellem medarbejdere og borgere eller af interne møder. Det skal være tydeligt for medarbejdere og borgere, hvordan AI anvendes. Referater skal gennemgås og godkendes af sagsbehandleren, og teknologien skal anvendes med respekt for borgeren og relationen.
Use case 4: Personlige AI-agenter
Specialiserede chatbots, der er tilpasset den enkelte medarbejders behov og understøtter bestemte arbejdsopgaver og arbejdsgange. Der skal være klare rammer for, hvilke data agenten må tilgå, og hvem der har ansvaret. Teknologien skal understøtte frem for at erstatte menneskelig faglighed, erfaring og relation.
Intelligente beslutningsstøttende værktøjer
AI-systemer, der analyserer data for at identificere mønstre og risikofaktorer, som kan understøtte socialfaglige vurderinger. Anvendelsen kræver et betydeligt arbejde med datakvalitet og medarbejdere, der kan bruge systemerne kritisk. Teknologien skal supplere en helhedsorienteret vurdering med stærk forankring i et erfaringsbaseret og socialfagligt skøn.
Uofficiel anvendelse af AI
Medarbejderes anvendelse af AI uden for organisationens godkendte systemer og rammer. Det indebærer væsentlige risici for blandt andet privatliv, retssikkerhed og ansvarlighed og bør generelt undgås. Ledelsen skal sikre klare politikker, uddannelse og rammer, hvor uofficiel anvendelse ikke opleves som nødvendig for at løse opgaverne til tiden.