Zorgen voor en over AI bij zorgverleners

De beloftes van kunstmatige intelligentie (AI) in de gezondheidszorg zijn groot. Maar AI kent ook nadelen en potentiële gevaren. Met haar theaterstuk Zorgen voor AI wil toekomstantropoloog Roanne van Voorst, Universiteit van Amsterdam, de discussie hierover stimuleren op de werkvloer.

In de gezondheidszorg neemt het gebruik van AI-tools in rap tempo toe. Zoals programma’s die in een handomdraai een gestructureerd consultverslag maken, op een longfoto een tumor herkennen of zorgverleners adviseren over de optimale behandeling van endocarditis. Van Voorst: “Als toekomstantropoloog onderzoek ik grote sociale transformaties en de invloed die deze hebben op mensen. De digitalisering van de zorg is zo’n transformatie. Daarbij stelde ik mij de vraag of, en zo ja hoe, het werken met AI in de zorg de beslissingen van zorgverleners beïnvloedt. Daarnaast wil ik graag de uitkomsten van mijn onderzoek zichtbaar maken aan de mensen over wie het gaat.”

Enthousiasme én zorgen

Dat bij elkaar genomen leidde tot het theaterstuk Zorgen voor AI. “Het stuk is gebaseerd op uitspraken van zorgverleners met wie wij in acht verschillende landen hebben gesproken over AI in de zorg”, licht Van Voorst toe. “Daarbij kwamen naast veel enthousiasme over de mogelijkheden van AI, ook veel zorgen naar voren. Die informatie heb ik met het gezelschap Company New Heroes verwerkt in een theaterstuk. Het afgelopen jaar is dit in diverse theaters en op medische conferenties opgevoerd voor zorgverleners, waaronder ook veel zorgverleners die wij gesproken hadden. Ze hoorden nu hun eigen quotes langskomen in het theater.”

Hindernissen

Zoals gezegd, naast enthousiasme zijn er ook zorgen over AI bij zorgverleners. “Een van de dingen die naar voren kwam uit ons onderzoek is de onzekerheid die bestaat over de verantwoordelijkheid bij het werken met AI-tools. Juridisch gezien is de gebruiker altijd de eindverantwoordelijke. De wet eist dat er sprake is van een ‘human in the loop’. Dat impliceert dat de gebruiker de AI-tool controleert en ingrijpt als de AI-tool een fout maakt. Maar hoe pakt dat in de praktijk uit? Daarover gaat het theaterstuk. In ons onderzoek meldden de zorgverleners twee belangrijke hindernissen bij de genoemde eis: tijdgebrek en gebrek aan kennis en inzicht in de werking van de AI-tool.”

“Eventueel vrijgekomen tijd wordt meteen opgevuld met extra patiënten”

Tijdbesparing valt tegen

“Om met het eerste te beginnen: AI wordt vaak ingevoerd met de belofte dat het de zorgverlener tijd bespaart”, gaat Van Voorst verder. “Maar in de praktijk valt dat meestal tegen. De bespaarde tijd wordt opgeslokt door extra taken of handelingen die vaak nodig zijn doordat de AI-tool toch net niet helemaal aansluit bij het bestaande zorgproces. Externe partijen ontwikkelen regelmatig AI-tools zonder voldoende inzicht te hebben in het totale zorgproces. Daarnaast wordt eventueel vrijgekomen tijd meteen opgevuld met extra patiënten.”

Niet realistisch

Dan het gebrek aan kennis en inzicht in de werking van de AI-tools. Van Voorst: “We hoorden zorgverleners zeggen dat ze het niet realistisch vinden dat zij de AI-tool moeten controleren. ‘Ik ben zorgverlener, geen informatica-expert.’ Bij het gebruik van een AI-tool zou een zorgverlener zich idealiter eerst moeten verdiepen in hoe de AI-tool precies werkt; op basis van welke parameters en welke afwegingen komt het algoritme tot een uitkomst? Zorgverleners vinden het lastig om te vertellen dat ze eigenlijk niet snappen wat de AI-tool doet.”

“Hoe meer je gaat leunen op een AI-tool, des te groter is de kans dat je eigen competenties afnemen”

Eigen competenties

Daar doorheen speelt nog iets anders, aldus Van Voorst. “Om een AI-tool goed te snappen – en waar nodig te corrigeren – is het nodig dat je zelf voldoende competent bent om in de gegeven situatie de beste beslissing te nemen. Maar hoe meer je gaat leunen op een AI-tool, des te groter is de kans dat je eigen competenties afnemen. We zien dit terug in het feit dat vooral de wat oudere rotten in het vak op basis van hun jarenlange ervaring gemakkelijker zien waar een AI-tool de fout ingaat dan jonge zorgverleners. Die laatste missen nog het zogeheten ‘niet-pluisgevoel’.”

Discussie op de werkvloer

In het theaterstuk Zorgen voor AI komen deze dillema’s aan de orde. “Ons doel is hiermee de discussie op de werkvloer op gang te brengen”, vertelt Van Voorst. “Natuurlijk kan AI veel goeds brengen in de gezondheidszorg. Daarnaast moeten zorgverleners wel de ruimte krijgen om hun angsten en zorgen aan te kaarten bij hun collega’s en hun leidinggevenden.

Ik denk dat er voor een verantwoorde invoering van AI in de zorg twee zaken belangrijk zijn. Ten eerste moeten de opleidingen meer aandacht gaan besteden aan AI, inclusief de mogelijke risico’s en valkuilen ervan. Ten tweede is het belangrijk de mensen die uiteindelijk met een AI-tool aan de slag gaan meer te betrekken bij het ontwikkelen van die tool. Waar hebben zij het meeste behoefte aan en hoe sluit de tool het beste aan bij de bestaande zorgprocessen?”

Lees meer over: