Dirk Lukkien Minke ter Stal

Dirk Lukkien

'Digital Human' Wendy: van geautomatiseerde vraagbaak naar digitale zorgcoach?

Vorig jaar hebben we in een reeks artikelen aandacht besteed aan de kansen, voorbeelden en uitdagingen op het gebied van datagedreven zorg en slimme technologie op basis van AI (artificiële intelligentie). Dit jaar geven wij een vervolg aan deze verkenning door een aantal nieuwe ontwikkelingen binnen de langdurende zorg uit te lichten. Wat is de beoogde en ervaren impact van deze data- en AI-gedreven hulpmiddelen? Hoe staan de ontwikkeling en toepassing er op dit moment voor? En welke uitdagingen zien de betrokkenen?

18-11-2020

In dit artikel gaan we in op de ontwikkeling van 'Digital Human' Wendy. Een samenwerking tussen de zorgorganisatie Omring en Deloitte. Deze online chatbot met spraakfunctionaliteit en een bijna menselijk gezicht werd de afgelopen maanden al ingezet voor het geautomatiseerd beantwoorden van vragen gerelateerd aan COVID-19. De technologie biedt daarnaast ook mogelijkheden voor het ontwikkelen van andere toepassingen, bijvoorbeeld voor het coachen van cliënten omtrent hun gezondheid en voor het ondersteunen van zorgmedewerkers bij het ophalen en verwerken van informatie bij de cliënt. Wij spraken over deze ontwikkeling met Ronald van Rijn (Directeur Klant & Marktontwikkeling) en Marcel Ensing (Chief Information Officer) van Omring en Madeleine Majenburg (Manager Digital Healthcare) van Deloitte.

Ontstaan van ‘Wendy’ digital human

Binnen de zorgsector worden steeds vaker chatbots ingezet. Waar de huidige chatbots niet veel meer zijn dan een simpele chatbox waar via typen of spraak een vraag kan worden gesteld, zien we dat er steeds meer aandacht komt voor de personificatie van chatbots. Zoals bijvoorbeeld Anne4Care, een virtuele assistent, die nu ingezet wordt in de langdurende zorg ter ondersteuning van dagstructuur. Van een simpele chatbox gaan we steeds meer richting de ontwikkeling van een zogenoemde ‘Digital Human’ om op deze manier steeds meer ‘menselijk’ contact te na te bootsen. 

In samenwerking met Deloitte is zorgorganisatie Omring een project gestart naar de ontwikkeling van zo’n Digital Human genaamd Wendy. Een Digital Human kun je scharen onder de embodied conversational agents (ECAs). Dit houdt in dat Wendy door middel van een stem en een gezicht menselijke gezichtsuitdrukkingen en emoties kan nabootsen. Dit maakt het mogelijk om face-to-face met de gebruiker te communiceren en zo mogelijk een verstandhouding met de gebruiker op te bouwen, wat weer kan leiden tot een soort kameraadschap en langdurig gebruik. De ambitie is om een gesprek met Wendy qua beleving steeds meer in de buurt te laten komen van een gesprek met een ‘levensecht’ persoon. 

Bij Omring kwamen ze voor het eerst in aanraking met de mogelijkheden van een digital human bij een conferentie in Amerika. Ze zagen de technologie direct als een potentiële ondersteuning tijdens momenten waarop hun medewerkers het druk hebben met andere zaken of beter hun tijd kunnen besteden aan de cliënt.

“Terug in Nederland zijn we met aantal andere organisaties gaan doordenken welke toepassingsmogelijkheden we zien. Welke slimme toepassingen kunnen we verzinnen in het kader van krapte op de arbeidsmarkt? Hoe kunnen we de zorgmedewerkers ontlasten zodat ze meer tijd en energie kunnen steken in hun core business en het gebeuren daaromheen wellicht met slimme technologie een stukje overnemen? Op een gegeven moment hebben we met elkaar besloten om Wendy te bouwen en om te gaan experimenteren en leren hoe we haar kunnen inzetten om de meest voorkomende vragen over corona te beantwoorden.” - Marcel 

Hoe slim en zelfstandig is Wendy?

De ontwikkeling en inzet van Wendy wordt gefaciliteerd door Deloitte. Samen met de scale-up UneeQ, die eerder al een deel van de onderliggende techniek voor Digital Human ontwikkelde, gingen zij aan de slag met een eerste versie van de Digital Human, geprogrammeerd voor het automatisch afhandelen van bepaalde vragen. Met bestaande technologie voor virtuele assistenten, spraakverwerking en natuurlijke taalverwerking is er gewerkt aan een Nederlandse versie met een passend gezicht en uiterlijk ontworpen voor Omring. In de huidige vorm wordt Wendy ingezet voor een duidelijk afgebakend proces, namelijk het beantwoorden van vragen omtrent COVID-19, maar Omring en Deloitte zien meer mogelijkheden voor de nabije toekomst. 

De grootste uitdaging volgens Marcel: “Hoe zorgen we dat ze de juiste antwoorden geeft en hoe zorgen we dat als er veranderingen zijn, bijvoorbeeld in het beleid van RIVM, dat ze die direct mee neemt?”. Om dit voor elkaar te krijgen, zetten Omring en Deloitte in op het gebruik van AI. AI is een parapluterm voor producten, services en systemen die zich met enige mate van autonomie gedragen op een manier die we als ‘slim’ zouden aanmerken. Op basis van AI kan Wendy bijvoorbeeld automatisch spraak omzetten naar tekst. Vervolgens kan het computersysteem de gestelde vraag herkennen en zoeken naar een bijpassend antwoord door het raadplegen van bronsites zoals die van het RIVM. Het eindresultaat is dat Wendy automatisch een up-to-date- en geverifieerd antwoord zoekt bij verschillende vragen. Deloitte en Omring hebben hiervoor gebruik gemaakt van bestaande technologie zoals IBM Watson. Deze supercomputer is gespecialiseerd in natuurlijke taalverwerking en staat ook wel bekend om het verslaan van menselijke kampioenen in het spel Jeopardy in 2011. Het ontwikkelen en onderhouden van Wendy vergt op dit moment echter ook veel handmatig werk. Op dit moment wordt de informatie bijvoorbeeld nog handmatig van de bronsite gehaald om te zorgen dat Wendy over de juiste en meest up-to-date antwoorden beschikt.

Rule-based redeneren, het volgen van vooraf opgezette regels, is tot nu toe de belangrijkste manier van programmeren binnen Digital Human Wendy. De dialogen die Wendy kan voeren zijn vooraf geprogrammeerd. Om te voorkomen dat Wendy een mogelijk fout antwoord geeft, verwijst ze op dit moment bij vragen die ze (nog) niet kan beantwoorden naar de klantenservice van Omring. Deze vragen worden opgeslagen, zodat de antwoorden hierop later handmatig kunnen worden toegevoegd en Wendy zodoende kan ‘leren’. Dit ‘leren’ gebeurt op dit moment dus nog voornamelijk handmatig door een team vanuit Deloitte dat zich hier op de achtergrond mee bezig houdt. Bij Wendy is de ambitie echter om haar in de toekomst steeds meer zelflerend te maken, zodat ze problemen zelfstandig kan oplossen en breder inzetbaar wordt. 

De afgelopen decennia wordt bij de ontwikkeling van zogenoemde ‘slimme’ en ‘intelligente’ technologie steeds meer gebruik gemaakt van zelflerende algoritmen op basis van machine learning. Zelflerende AI kan zelfstandig afgebakende taken aanleren en is ook in staat om zichzelf hierin te verbeteren op basis van data. Veel berichtgeving en beloftes over AI wekken de indruk dat huidige toepassingen echt intelligent zijn en (nieuwe) problemen kunnen oplossen zoals mensen dat kunnen. In feite zijn huidige AI-gedreven toepassingen echter niet meer dan krachtige rekentools die effectief zijn in hele specifieke situaties.  

"Uiteindelijk willen we naar een zelflerend systeem. Denk aan het juist herkennen van nieuwe vragen. Dit faciliteert schaalbaarheid. Maar het levert ook veel data op waarvan je wil waarborgen dat er veilig mee wordt omgegaan. Daar zijn we nu ook mee bezig, maar vooralsnog doen we dat geheel handmatig en dat is tijdsintensief." - aldus Madeleine van Deloitte. 

Vastleggen gegevens

Voor een goed werkend en zelflerend systeem is veel data nodig waar het systeem zijn uitkomsten op baseert. Het is daarom van belang dat gegevens van de gebruiker worden vastgelegd en dat is ook meteen een volgende uitdaging. Zoals Marcel ook aangeeft: ‘Stel nu dat iemand heel verhaal gaat ophangen met naam en toenaam en ziektebeeld, hoe gaan we daar nou mee om? Binnen dit project is er uiteindelijk voor gekozen om een disclaimer in beeld te brengen dat mensen geen gegevens en zeker geen medische gegevens moeten delen. Dit wordt ook door Wendy uitgesproken. Daarnaast is er voor de livegang van Wendy ook een ethische hacker ingezet om zeker te weten dat de gegevens die Wendy verzameld en verwerkt veilig zijn.

“Het bleek al gauw hoe belangrijk het is om privacy goed te waarborgen. We waren pas 1 seconde live en toen was er al iemand met de vraag hoe hebben jullie het geregeld met de opslag van data?”- Ronald

Personalisatie

Door het toevoegen van een gezicht en uiterlijk is Wendy meer dan alleen een informatiebron. Wendy is in staat om gezichtsuitdrukkingen en emoties te tonen, waardoor er een stukje menselijke interactie wordt gecreëerd. Het koppelen van de juiste emotie aan de juiste uitspraak is bij Wendy nog wel een uitdaging. Uit onderzoek blijkt dat het uiterlijk (geslacht, leeftijd, rol) van het virtuele karakter invloed heeft op hoe de gebruiker het karakter ervaart en ook hoe waarschijnlijk de gebruiker het advies opvolgt. Er zijn op dit moment qua persoonlijkheid verschillende smaken die je kan kiezen voor Wendy, maar dit is nu alleen per use case aan te passen en bijvoorbeeld niet per gebruiker. Tijdens deze eerste pilot had de personalisatie van Wendy nog geen prioriteit en is niet gevraagd naar de mening van gebruikers over het uiterlijk en de stem van Wendy. Samen met een andere zorgorganisatie in Zweden is Deloitte wel een klinisch onderzoek gestart waarbij de Digital Human (in een andere verschijning dan ‘Wendy’) objectief wordt vergeleken met een simpelere chatbot zonder menselijk gezicht en spraakfunctionaliteit. 

Live testen

In 6 weken tijd hebben Omring en Deloitte Wendy ontwikkeld om deze vervolgens in de praktijk te testen. Voor de livegang, in mei en juni van dit jaar, van Wendy op de website van Omring heeft Deloitte eerst de gebruiksvriendelijkheid getest met een aantal zorgmedewerkers en cliënten. Daarbij werd opgemerkt dat sommige ouderen die complexe zorg ontvangen moeite hebben om Wendy te verstaan, het spannend vinden of niet weten hoe het werkt. Maar in het algemeen genomen werd Wendy ontvangen als gebruiksvriendelijk en innovatief.

“De klanten die het gezien hebben vonden het heel levensecht. Die begonnen er tegen te praten alsof het een mens was en ik heb nog niet eerder gezien dat dat zo maar gebeurt zonder schroom. Het is voor sommige gebruikers nog wel de vraag hoe je de knoppen bedient, maar ook zeker voor onze oudere doelgroep met al die iPads is dat vaak geen issue. En bij een jongere klant zou dat al helemaal geen issue moeten zijn.” - Ronald

In het algemeen zijn ze bij Omring en Deloitte tevreden over wat ze in een paar weken tijd hebben kunnen neerzetten. Uit opgehaalde ervaringen met de eerste versie van Wendy, die zich richt op het beantwoorden van vragen omtrent COVID-19, blijkt dat de informatie die Wendy in de huidige vorm soms wat beperkt is, maar dit is pas de eerste stap in een naar verwachting langdurig ontwikkeltraject.

Toekomstige Wendy

Omring en Deloitte zijn momenteel bezig om te kijken in welke richting ze Wendy verder willen ontwikkelen. Voor de inzet van Wendy zien ze bijvoorbeeld kansen bij de algemene klantenservice van Omring. Wendy kan daar vragen afvangen wat een tijdsbesparing op kan leveren. Daarnaast zien ze mogelijkheden om Wendy in te zetten als een zorgcoach in het zorgtraject of voor het afnemen van intake assessments. De meerwaarde zit hem dan in het persoonlijkere contact, dat bijvoorbeeld het invullen van vragenlijsten leuker maakt, en ook dat klanten minder vaak naar een zorginstelling hoeven te komen.

“Je krijgt gewoon wat persoonlijk contact en dat is natuurlijk altijd in combinatie met het contact met je echte zorgverlener. Zo moet je hem denk ik ook zien. Het is aanvullend, complementair. Heel veel mensen moeten voor een spreekuur vragenlijsten invullen, hartstikke saai. Vaak zijn die vooraf nog niet ingevuld, dan nemen ze hem mee en vullen ze het daar even in. Met Wendy wordt het wellicht leuker om het vooraf al in te vullen.” - Ronald

Op dit moment worden potentiële toepassingen van Wendy vooral gezocht in processen waarbij de workflow redelijk vast staat. Op die manier kan je de dialoog vooraf grotendeels vaststellen en loop je minder het risico dat je Wendy niet in staat is een vraag te beantwoorden. 

Betrokkenheid zorgmedewerkers en cliënten

Er zijn dus al verschillende ideeën voor de verdere ontwikkeling en inzet van Wendy. Bij daadwerkelijke vervolgstappen staat echter voorop dat binnen Omring wordt onderzocht waar de zorgmedewerkers en cliënten behoefte aan hebben. Dit doen ze aan de hand van gesprekken met cliënten en door mee te lopen met zorgteams om zodoende te achterhalen waar knelpunten zitten en waar de mogelijke toegevoegde waarde zit. Volgens Ronald is een uitdaging hierbij dat medewerkers heel goed weten waar de problemen zitten, maar dat ze vaak wel enige inspiratie nodig hebben als het gaat om de inzet van bijvoorbeeld een Digital Human, omdat ze geneigd zijn om zich te beperken tot bestaande processen. 

“Wat ik elke keer merk als we iets laten zien, is dat een willekeurige arts of verpleegkundige dan zegt: ‘ja dat is top’. Maar hij of zij kan zelf minder gemakkelijk iets nieuws bedenken omdat men vaak erg denkt in de patronen en structuur van de huidige cliëntdossiers die we bijvoorbeeld gebruiken [..] Ze denken al snel in de beperkingen van de huidige systemen en minder in de mogelijkheden.”- Ronald 

Steeds geavanceerder en echter gesprek

Binnen de eerste versie van Wendy hebben ze ook toegevoegd ze Wendy tot op zekere hoogte ‘small talk’ kan voeren met gebruikers, zoals ‘Wat is het mooi weer vandaag’. Op dit moment zijn de mogelijkheden hiervoor nog vrij minimaal, maar dit is iets waar Omring en Deloitte in de toekomst meer aandacht aan willen besteden. Dit zou ook een belangrijk aspect zijn wanneer je Wendy bijvoorbeeld meer in wil zetten voor gezelschap of als zorgcoach, dan zou ze bijvoorbeeld kunnen vragen ‘Hoe voel je je vandaag?’. Dit vergt wel een meer open conversatie met Wendy en is op dit moment nog een stuk lastiger in de praktijk. ‘Dan moet je altijd een antwoord hebben op een vraag waar je niet op voorbereid bent en niet direct uit een database kan halen’, aldus Marcel. Het zelflerend vermogen van Wendy zal dan een grote rol spelen. Daarvoor heb je ook een team nodig dat continue bezig is met deze ontwikkeling. 

Bij het gebruiken van Wendy op gebied van medische toepassingen - bijvoorbeeld als ze ook aanbevelingen gaat doen met betrekking tot gezondheid - krijg je daarnaast ook te maken met juridische aspecten zoals het aanvragen van een Medical Device Regulation. En een andere kans én noodzaak in de toekomst ziet men in het koppelen van Wendy aan andere systemen zoals het elektronisch cliënten dossier. Zo kunnen ingevulde vragenlijsten in de toekomst mogelijk meteen in het ECD worden vastgelegd, zodat relevante informatie niet handmatig hoeft te worden overgetypt en daarmee tijd wordt bespaard en de kans op fouten wordt verkleind. Het koppelen van een Digital Human aan allerlei andere belangrijke systemen is inmiddels technisch mogelijk, maar het vergt veel tijd om deze integratie volledig te bouwen. Daar is tot nu toe nog geen vraag naar geweest, maar het is een mooi streven, aldus Madeleine. Een belangrijke stap voor nu is om de onderliggende basisinfrastructuur van het systeem op orde te hebben, zodat je bijvoorbeeld onderling betrouwbaar gegevens kunt uitwisselen. 

Voor nu richten Omring en Deloitte zich vooral op afgebakende use cases waar Wendy voor kan worden ingezet. Marcel geeft aan dat het op dit moment vooral belangrijk is om ervaring op te doen met de techniek, zowel voor het ontwikkelteam als voor gebruikers, die ook stap voor stap steeds meer wennen aan de mogelijkheden van technologie. Deloitte is ondertussen ook met andere zorgorganisaties gestart met de inzet van Digital Human voor andere use cases. Zo hebben ze een eerste prototype ontwikkeld voor een psychiatrische coach die mensen met angsten kan bij staan en een Digitale Apotheker die mensen adviseert over juist gebruik van hun medicatie.

Wij horen graag meer over uw ervaringen of vragen

We horen graag van zorgorganisaties, technologie leveranciers en andere belanghebbenden wat voor innovaties zij zien op het gebied van data- en AI-gedreven technologieën in de langdurige zorg, welke behoeften er op dit gebied zijn vanuit gebruikersperspectief, en welke uitdagingen en aandachtspunten men ziet.

Dus heeft u zelf voorbeelden of een prangende vraag omtrent deze ontwikkeling? Neem dan contact met ons op!

Meer informatie? Neem contact op met:

DirkSenior onderzoeker
Dirk
Lukkien
Senior onderzoeker d.lukkien@vilans.nl 06 12 41 65 13
Profiel
Persvragen? Neem contact op met afdeling communicatie via 06 460 433 51 of pers@vilans.nl