Wat willen we met AI?

De druk om ‘iets met AI te doen’ is groot. Zorgorganisaties willen het inzetten als een van de instrumenten om de zorgkloof het hoofd te bieden. Dirk: ‘Begin niet vanuit de technologische mogelijkheden, maar vanuit wat je daarmee wilt als organisatie. "We moeten iets met AI" is het verkeerde uitgangspunt. Zorg dat er tijdens het keuzeproces aandacht is voor de kansen én voor de risico’s.’ Mariëlle: ‘Wat technisch mogelijk is, is lang niet altijd ethisch aanvaardbaar of sociaal wenselijk. Meer begrip van AI is zeker nodig, dat helpt om realistische afwegingen te maken, want alles er direct mee oplossen? Nee.’

Wat is AI?

Mariëlle: ‘AI is een containerbegrip voor technologieën die op basis van data en beslisregels uitkomsten genereren zoals voorspellingen, content en aanbevelingen. En Generatieve AI is een type AI-technologie dat nieuwe content, zoals teksten of beelden, genereert op basis van heel veel voorbeelddata.’ Dirk vult aan: ‘Generatieve AI berekent welke logische taal bij jouw prompt past en ook niet meer dan dat. Het rekent, het heeft geen bewustzijn en is geen magie. Je kunt nooit volledig vertrouwen op AI, want het begrijpt onze menselijke werkelijkheid niet.’

Waarvoor kun je AI gebruiken?

Mariëlle: ‘Je kunt AI bijvoorbeeld gebruiken om je te verdiepen in een nieuw onderwerp, maar dat is ook spannend. Weet je veel van een onderwerp, dan kun je kritische tegenvragen stellen. Weet je er minder van, dan kan AI je op weg helpen, maar ben je ook relatief “blind” voor wat het systeem over het hoofd ziet. Stel bijvoorbeeld de tegenvraag: “Klopt dit echt, welke tegenargumenten zijn er?”

Dirk: ‘AI kan een waardevolle sparringpartner zijn, maar een kritische blik blijft noodzakelijk. Vraag je steeds af: snap ik het zelf nog? Maar alle informatie dubbelchecken is geen doen. Daar zit een enorm dilemma: als je alle informatie en bronnen die je krijgt moet nagaan, dan gaat AI-gebruik tijd kosten in plaats van opleveren.

Succesvolle AI-toepassing: spraakgestuurd rapporteren

Spraakgestuurd rapporteren is een veelgebruikte AI-toepassing in de zorg. Mariëlle: ‘De adoptie neemt snel toe, doordat het nu kan samenvatten en tekst op de juiste plek in een ECD kan zetten. Het biedt al snel tijdwinst, waardoor een thuiszorgprofessional meer cliënten kan helpen.’

Dirk: ‘Dat zijn de voordelen en ik ben zeker positief over deze innovatie. Toch pleit ik voor gebalanceerd kijken naar kansen en risico’s. Wat doet het bijvoorbeeld met de cognitieve belasting van zorgverleners en met de kwaliteit van gerapporteerde data als zorgmedewerkers minder reflectietijd hebben in vergelijking met handmatig rapporteren?’

Andere AI-toepassingen in de zorg

Mariëlle somt een aantal andere mogelijke AI-toepassingen op:

• Interne informatie opzoeken, ook buiten het primaire proces: HR-documenten etcetera. ‘Maar wees extra voorzichtig met bijvoorbeeld protocollen, die kun je niet zomaar herformuleren zonder verlies van belangrijke details.’
• Fouten halen uit ingevoerde data. ‘Denk erover na waar in het proces je zo’n toepassing inzet: na afloop als “controller” of tijdens het invoeren met een pop-up die de gebruiker iets leert?’
• Chatbot voor alledaagse vragen van cliënten, bijvoorbeeld in de gehandicaptenzorg.
• Vertaalslag maken, bijvoorbeeld van jargon naar een algemeen leesbare tekst. ‘Bruikbaar voor brieven naar patiënten, cliënten of naasten.’

Mens blijft eindverantwoordelijk

Dirk: ‘Toch geldt ook bij al deze toepassingen: wat willen wij zélf blijven kunnen als zorgprofessionals, welke vaardigheden willen we niet kwijt? Verantwoorde inzet van AI ligt deels bij het ontwerp van de technologie, maar minstens net zo belangrijk zijn bewuste keuzes vanuit de organisatie en de gebruiker.’

‘Bovendien ligt automation bias altijd op de loer. Dat betekent dat mensen geneigd zijn de output van een systeem automatisch te vertrouwen, zelfs wanneer die onjuist is. Simpelweg omdat hij van een “slimme” technologie komt. Maar, de mens blijft eindverantwoordelijk, dus blijf scherp! Varieer in AI-gebruik. Zet soms hulp in, doe het een andere keer zelf. Behoud je vaardigheden en reflectievermogen.’

AI-geletterdheid cruciaal voor verantwoord innoveren

Mariëlle: ‘Innovatie moet worden gedreven vanuit het toevoegen van waarde.’ Dirk: ‘Waarden als kwaliteit van zorg of efficiëntie kunnen worden versterkt maar ook worden ondermijnd door de inzet van AI. Voordelen kunnen onbedoeld doorschieten in nadelen, afhankelijk van technologieontwerp én gebruik. Worden zorgprofessionals bijvoorbeeld té afhankelijk van AI, dan zouden ze signalen kunnen gaan missen. Daarom is ook zo belangrijk dat het innovatieproces ruimte laat voor een kritische blik. Wij zien AI-geletterdheid als cruciaal element van verantwoord innoveren. Beslissers in de zorg moeten weten wat het kan én wat de beperkingen zijn. Ze moeten zich afvragen wat zij met AI willen én waarvan ze juist willen wegblijven. En uiteindelijk geldt hetzelfde voor gebruikers van AI.’