Dirk Lukkien

Dirk Lukkien

Longread - Wat als machines uw zorg gaan bedenken?

De rol van artificiële intelligentie, of AI, wordt steeds groter in de zorg. Toch is het voor velen een onbekend of ontastbaar begrip. Wat voor risico’s kleven er eigenlijk aan de inzet van AI en hoe moeten we er als sector mee omgaan?

28-02-2019

Onderzoeker Dirk Lukkien kijkt naar de ontwikkeling en toepassing van AI in de langdurende zorg. Volgens hem kan de inzet van AI heel goed zijn voor de zorg. 'We moeten er dan wel voor waken dat dit in het belang van de burger is, en niet van het ziekenhuis dat veel omzet wil draaien, van de farmaceut die dure medicijnen wil verkopen, of van Amazon die allerlei hulpmiddelen wil verkopen. Hoe gaan we dat oplossen?'

Wat bedoelen we precies met de term AI?

'AI is het vakgebied dat zich sinds 1950 richt op het ontwikkelen van computersystemen die zelfstandig beslissingen nemen op basis van data uit hun omgeving. De ontwikkeling van AI neemt een steeds grotere vlucht dankzij de toenemende rekenkracht van computers, hoeveelheid data en breedband internet. De rol van AI is echter vaak onzichtbaar, dit terwijl AI een steeds grotere impact heeft op ons dagelijks leven. Neem bijvoorbeeld AI-gedreven applicaties zoals Google, Facebook, Netflix of Spotify die ons adviseren wat te lezen, bekijken of beluisteren. Het maakt het leven van mensen gemakkelijker en rijker, maar in hoeverre kunnen wij zelf nog keuzes maken en wat betekent deze ontwikkeling voor de zorg?'

De rol van AI is vaak onzichtbaar, terwijl het een steeds grotere impact heeft op ons leven.

Wat hebben we er aan in de zorg?

'Ook in de zorg zijn er al verschillende concrete toepassingen waarin AI een rol speelt. Denk bijvoorbeeld aan beslissingsondersteunende software waarmee een arts op basis van specialistische kennis en data van grote groepen cliënten een aanbeveling krijgt over de behandeling die bij een individuele cliënt de grootste kans geeft op de gewenste resultaten. Denk ook aan leefstijlmonitoring, een netwerk van sensoren in huis bij kwetsbare ouderen met dementie, dat door analyse op de verkregen data helpt om de gezondheid en veiligheid van een bewoner in de gaten te houden en vroegtijdig signaleert als er achteruitgang is of een behoefte aan zorg en ondersteuning. Of denk aan sociale robots, wearables en gezondheidsapps, die vaak bakken met data over hun gebruikers verzamelen en steeds beter van deze data zullen leren om gezonde burgers en mensen met een zorgvraag optimaal te ondersteunen.'

Is dat wel veilig, AI in de zorg?

'De Raad voor Volksgezondheid en Samenleving (RVS) heeft in februari een advies uitgebracht over de kansen en risico’s van kunstmatige intelligentie. Zoals de RVS stelt: “Onze zorg en zorgverlening zullen door de toepassing van AI ingrijpend veranderen, op een manier die we nu (nog) niet kunnen overzien of voorzien.” De Raad is van mening dat AI de zorg veel kansen te bieden heeft, aangezien het de kwaliteit, toegankelijkheid, pluriformiteit, betaalbaarheid en solidariteit van de zorg kan doen toenemen. Tegelijkertijd waarschuwt de Raad dat de intrede van AI in de zorg deze publieke waarden ook kan ondermijnen. Zulke risico’s vragen om tijdige maatregelen om de ontwikkelingen in goede banen te leiden en er staat volgens de RVS te veel op het spel om hier een afwachtende houding in te nemen. De ontwikkeling van AI heeft bovendien een hoog tempo, ook in de zorg. Grote techbedrijven als Google, Facebook, Apple, Amazon en Microsoft hebben in andere markten al bewezen in staat te zijn om in korte tijd AI-gedreven technologie en diensten op grote schaal te introduceren. Het is niet ondenkbaar zulke techbedrijven op korte termijn ook belangrijke taken en diensten in de Nederlandse zorg overnemen en beheersen.

Ook het Rathenau Instituut heeft onlangs een rapport uitgebracht dat de overheid, het zorgveld en de politiek handvatten moet geven om te zorgen dat digitale diensten die gebruik maken van gezondheidsdata passen bij een ‘maatschappelijk verantwoorde digitale samenleving’. Ook zij waarschuwt voor de steeds schevere machtsverhoudingen tussen techbedrijven en burgers door monopolisering van gezondheidsdata en beperkte transparantie van de analyses. Een van de aanbevelingen is dan ook om goede voorbeelden van digitale diensten maximaal te benutten en om te komen tot brede gedragsregels - een code of conduct - onder ontwikkelaars en aanbieders van digitale diensten en AI, die zorgen voor een brede verantwoordelijkheid en bewustzijn over de impact op zorg en maatschappij. Dit gaat om (veel) meer dan databeveiliging en privacy alleen. En dit gaat om het centraal stellen van publieke belangen en niet alleen commerciële belangen.'

Klinkt alsof er toch wel wat risico’s aan kleven?

'Klopt, algoritmen zijn over het algemeen in staat om betere, snellere en soms transparantere beslissingen te nemen dan mensen, maar ze kunnen net zo goed discrimineren, seksistisch en racistisch zijn, of de plank volledig mis slaan. Bovendien zijn het steeds vaker “black boxes” die beslissingen maken of begeleiden zonder dat wij ze als mens volledig begrijpen. Dit neemt echter niet weg dat innovaties op het gebied van AI hard nodig zijn om te helpen compenseren voor de toenemende zorgvraag en de krimpende arbeidsmarkt.'

Algoritmen kunnen ook de plank volledig mis slaan.

'Het ministerie van VWS omarmt in een recente Kamerbrief juist de beschikbaarheid en het zinvol gebruik van data als een van de belangrijkste elementen bij het leveren van de juiste zorg op de juiste plaats op het juiste moment voor iedereen. Maar ook zij erkent dat er tegelijkertijd verschillende vertrouwenskwesties aan de orde zijn bij toenemende verzameling, uitwisseling en gebruik van data en de toenemende rol van algoritmen.'

Hoe kijk jij zelf aan tegen de betrouwbare inzet van AI?

'Als samenleving hebben we – net als de meeste bedrijven en burgers - de beste bedoelingen met de inzet van technologie. Steeds meer publieke en commerciële partijen pleiten er dan ook voor, en zetten zich ervoor in om de ontwikkelingen in goede banen leiden, richting de zinvolle en verantwoorde inzet van AI. Volgens mij is dit ontzettend belangrijk, maar moeten we ons ook realiseren dat er enorme uitdagingen zijn op dit gebied. De macht die een aantal grote spelers zich op de internationale markt toe-eigenen kan er bijvoorbeeld toe leiden dat er morele waarden en aannames in AI-systemen worden ingebouwd die niet alleen beperkt zichtbaar zijn, maar ook afwijken van onze eigen normen en waarden. In hoeverre houden we het voor mogelijk dat niet alleen Silicon Valley, maar ook Chinese techbedrijven en het opkomende Chinese Sociaal Krediet Systeem invloed gaan hebben op de manier waarop wij in Nederland en Europa onze zorg organiseren en hoe waarden als toegankelijkheid en solidariteit daarin verankerd zijn? En in hoeverre kunnen we zorgtechnologie die wereldwijd wordt ingezet nog aanpassen aan onze wensen op nationaal en lokaal niveau?'

In hoeverre houden we het voor mogelijk dat Silicon Valley en China invloed gaan hebben op onze zorg?

'De RVS stelt dat we op de korte termijn kwaliteitseisen moeten stellen omtrent de technische en morele betrouwbaarheid van AI-toepassingen. Reeds bestaande algemene principes vormen hierbij een startpunt, maar het wordt erkend dat principes in de praktijk geconcretiseerd moeten worden. Dit is een mooi streven, maar roept wel vragen op. In hoeverre is het bijvoorbeeld haalbaar om de zorgpraktijk hierbij te betrekken? Beleidsmakers, academici en mensen uit de zorgpraktijk streven er als vanzelfsprekend naar om zorggebruikers en andere burgers "centraal" te stellen, maar tegelijkertijd bestaan er allerlei spanningen zoals de grote diversiteit aan belangen van cliënten, burgers, verzorgenden, verzekeraars en andere belanghebbenden, de kloof tussen de referentiekaders van experts en "leken" en de machtsverhoudingen op internationaal, nationaal en lokaal niveau. Zulke spanningen zouden innovatie en de inzet van AI in de zorg in het belang van de individuele cliënt en burger flink in de weg kunnen staan.'

Hoe zorgen we ervoor dat AI een aanvulling is op menselijke kennis in de zorg?

'Vanaf dit jaar doe ik bij Vilans promotieonderzoek naar de ontwikkeling en toepassing van AI in de langdurende zorg, waarbij ik me richt op vraagstukken rondom de rol en het belang van de cliënt, burger, verzorgenden en andere gebruikers van AI. Hoe zorgen we er voor dat AI een aanvulling is op menselijke kennis en expertise in de langdurige zorg, dat mensen vertrouwen hebben in de rol van AI en dat kernwaarden zoals autonomie en privacy worden gerespecteerd? Wie is eigenlijk de gebruiker van AI en welke controle heeft deze gebruiker over de doelstellingen en uitkomsten van AI-gedreven zorgtoepassingen? Ik denk dat er rondom zulke vraagstukken een grote behoefte is aan goede voorbeelden en inzicht in de criteria die men hierbij kan stellen.'

Lees meer over AI in de zorg

Meer informatie? Neem contact op met:

DirkOnderzoeker
Dirk
Lukkien
Onderzoeker d.lukkien@vilans.nl 06 12 41 65 13
Profiel
Persvragen? Neem contact op met afdeling communicatie via 06 460 433 51 of pers@vilans.nl