Dirk Lukkien

Dirk Lukkien

Interview - De ethiek van AI bij gezond ouder worden

De rol van artificiële intelligentie, of AI, wordt steeds groter in de zorg. Toch is het voor velen een onbekend of ontastbaar begrip. Wat voor ethische risico’s kleven er eigenlijk aan de inzet van AI en hoe moeten we er als sector mee omgaan? Hierover publiceerde de European Institute of Technology & Health (EIT Health) onlangs een verkennende studie. Paul Timmers, Chief Advisor van EIT Health en voormalig directeur van de Europese Commissie, legt uit. ‘Het gaat om uitdagende, maar essentiële vragen’.

10-12-2019

Om wat voor studie gaat het?

‘Deze studie is vernieuwend en van belang omdat ze laat zien hoe innovators in EIT Health tegen de Europese richtlijnen over AI en ethiek aankijken. De richtlijnen zijn afgelopen april door een High-Level Expert Group van de Europese Commissie gepubliceerd. Ze gaan onder meer over AI-uitdagingen zoals respect voor de autonomie van het individu, gegevensbescherming, transparantie van AI-algoritmen, bijdrage aan welzijn en verantwoording. De richtlijnen zijn algemeen, dus niet specifiek voor de zorgsector geschreven. Dit onderzoek onthult voor het eerst hoe ze aanslaan (of niet) bij innovators binnen de zorgsector.

Wat is de betrokkenheid van Vilans hierbij?

‘De studie bestaat uit drie delen: de antwoorden van zo’n 80 startups en andere innovators op een uitgebreide vragenlijst, een reeks casestudies en analyse van die beiden met een aantal aanbevelingen. Vanuit Vilans hebben dr. Henk Herman Nap en Dirk Lukkien de casestudies voor hun rekening genomen en essentieel wetenschappelijk werk gedaan voor de analyse en aanbevelingen.’

En wat is daar zoal uitgekomen?

'Ten eerste dat slechts 22 procent van de respondenten van de richtlijnen had gehoord, alhoewel dat niet zo verbazingwekkend is omdat ze zo recent waren ten tijde van het onderzoek. Zo’n 60 procent verwacht dat op hun AI-innovatie uiteindelijk een vorm van AI-wetgeving van toepassing zal zijn. De hoogste prioriteit wordt gegeven aan privacy en gegevensbeheer, beveiliging, traceerbaarheid, en autonomie van het individu. In het algemeen werd de ethiek van diversiteit minder belangrijk gevonden en werd aangenomen dat bestaande procedures voor verantwoording (accountability) adequaat zijn. Een tweede interessante bevinding vind ik dat veel van de respondenten al heel actief zijn met AI en ethiek en daarover praktische voorbeelden aandragen. Die lenen zich om breder gedeeld te worden (een van de aanbevelingen). Het onderzoek richt ten slotte ook de schijnwerper op dilemma’s zoals de keuze tussen het belang van het individu en het algemeen belang.’

De hoogste prioriteit wordt gegeven aan privacy en gegevensbeheer, beveiliging, traceerbaarheid en autonomie van het individu.

Wat kunnen we dus concluderen op basis van deze studie?

‘Als we van een afstand naar deze studie kijken valt op hoeveel praktische informatie zelfs zo’n eerste onderzoek al oplevert. Innovatie in gezondheid en gezond ouder worden kan veel inzicht geven voor een genuanceerde en flexibele aanpak van de combinatie van AI-regulering en innovatie. De noodzaak komt helder naar voren om - samen met de zorgpraktijk en innovators - de praktische vertaalslag te maken. Hoe houdt men in de praktijk rekening met de ethiek van AI, hoe kunnen anderen leren van deze best practices en welke verbeterpunten zijn er? De hoop is dat we nu nog een stap verder kunnen gaan in dit onderzoek om onze inzichten te verdiepen in de uitdagende, maar essentiële vragen omtrent AI en innovatie en dat Vilans daarin opnieuw een essentiële bijdrage gaat leveren.'

De rol van Vilans

Eerder kondigde Vilans al aan dat ze zich in de komende jaren zal richten op het informeren van de sector over de ontwikkelingen, onderzoek- en implementatieprojecten en toepassingen van AI voor de langdurige zorg. Ook zulke (vervolg)onderzoeken zullen de sector ondersteunen bij het nadenken over en kiezen van een zinvolle en verantwoorde richting voor AI. Vanuit het project Datagedreven zorg is er ook aandacht voor de rol van data en 'slimme' technologie in de langdurige zorg, bijvoorbeeld in het artikel over AI-toepassingen in het Elektronisch Cliënten Dossier. Binnenkort worden er ook artikelen gepubliceerd waarin de toenemende rol van AI in de langdurige zorg specifieker wordt omschreven en waarin verschillende uitdagingen en dilemma’s rondom AI worden genoemd.

 

Meer informatie? Neem contact op met:

Henk HermanSenior onderzoeker
Henk Herman
Nap
Senior onderzoeker h.nap@vilans.nl 06 22 81 07 66
Profiel
Persvragen? Neem contact op met afdeling communicatie via 06 460 433 51 of pers@vilans.nl