Ny forskning: Kunstig intelligens skaber etiske dilemmaer i ældreplejen
Kunstig intelligens bruges i stigende grad i ældreplejen, og teknologien kan bl.a. hjælpe med alt fra faldregistrering til dokumentation. Men det åbner for nogle svære etiske dilemmaer, når personale, borgere og pårørende skal afveje nogle værdier, som ikke altid kan opfyldes samtidig.
Lektor Agnete Meldgaard Hansen fra Roskilde Universitet, og fellow ved Det Nationale Center for AI i Samfundet (CAISA), er forfatter af et nyt forskningsbrief fra CAISA, som peger på seks centrale etiske spændinger, der opstår, når kunstig intelligens bliver en del af omsorgen for ældre borgere. Pointen er ikke, at teknologien i sig selv er god eller dårlig.
"Der findes ikke én rigtig måde at bruge AI i ældreplejen på. Min analyse viser, at teknologien hele tiden skaber situationer, hvor forskellige hensyn støder sammen. For eksempel kan et ønske om større tryghed også betyde mindre privatliv. Derfor er det afgørende, at de etiske diskussioner følger med den teknologiske udvikling," siger Agnete Meldgaard Hansen.
Afvejning mellem sikkerhed og privatliv
Et af de centrale dilemmaer er forholdet mellem sikkerhed og privatliv. Sensorer baseret på kunstig intelligens og monitoreringssystemer kan for eksempel registrere fald eller ændringer i en borgers adfærdsmønstre. Det kan gøre det muligt at reagere hurtigere på sygdom eller ulykker og dermed øge trygheden for både borgere og pårørende.
Dilemmaet opstår, hvis teknologien opleves som overvågning, for oplysninger om bevægelser, søvnrytmer og daglige rutiner kommer tæt på menneskers private liv.
”Der findes ikke en universel løsning. Hvad der opleves som en rimelig balance, vil ofte afhænge af den enkelte borgers ønsker, behov og situation,” siger Agnete Meldgaard Hansen.
Hvem har ansvaret?
Kunstig intelligens bliver også brugt til at understøtte beslutninger og arbejdsgange i sundheds- og omsorgssektoren. Teknologien kan hjælpe medarbejdere med at identificere behov eller prioritere opgaver, men den kan også påvirke de valg, som træffes i praksis.
Men hvis medarbejdere i stigende grad læner sig op ad algoritmers anbefalinger, opstår spørgsmålet om, hvem der bærer ansvaret, når noget går galt. Der er også en risiko for, at algoritmernes anbefalinger kommer til at gå forud for borgerens egne ønsker eller medarbejderens faglige vurderinger.
"AI kan være en værdifuld støtte for både medarbejdere og ældre borgere, men teknologien fjerner ikke behovet for menneskelige vurderinger. Tværtimod bliver det endnu vigtigere at diskutere, hvordan vi ønsker, at omsorg, ansvar og selvbestemmelse skal se ud i fremtidens ældrepleje," siger Agnete Meldgaard Hansen.
Kunstig intelligens kræver ofte betydeligt menneskeligt arbejde
Flere steder i samfundet bruges kunstig intelligens til effektivisering, og flere kommuner ser teknologien som et muligt svar på manglende arbejdskraft og stigende pres på ældreområdet. Håbet er, at teknologien kan frigøre tid ved at automatisere administrative opgaver eller understøtte planlægning og dokumentation.
Forskningsbriefet fra CAISA peger dog på, at det ofte kræver betydeligt menneskeligt arbejde at få kunstig intelligens til at indgå meningsfuldt i ældreplejen.
Briefet peger på, at omsorgsopgaver er svære at automatisere, og hvis teknologien skal skabe værdi i praksis, bør der være fokus på, hvordan gevinsterne omsættes til bedre omsorg og mere tid til menneskelig kontakt.
”Sociale robotter og andre AI-løsninger kan i nogle situationer bidrage til aktivitet, selskab og støtte. Men de kan ikke uden videre erstatte relationer mellem mennesker,” understreger Agnete Meldgaard Hansen.
Læs forskningsbriefet på Det Nationale Center for AI i Samfundets hjemmeside.