DOQ

Artificial intelligence-modellen beter begrijpbaar maken voor artsen

Artificial intelligence speelt in toenemende mate een rol in het bepalen wat de beste therapie is voor de individuele patiënt. Maar de meest gebruikte vormen van AI zijn te zeer een black box om de inhoud van de voorspelling die eruit rolt te kunnen duiden. De ontwikkeling van uitlegbare AI moet hierin verandering brengen.

Voor artsen is het moeilijk te begrijpen wat de artificial intelligence (AI) nu geleerd heeft. En dit kan een hindernis vormen voor de toepassing ervan in de klinische praktijk. “De geleerde modellen zijn onbegrijpelijk voor ze”, zegt Tanja Alderliesten. Zij is in het LUMC projectleider van een onderzoeksgroep die hierin verandering moet brengen door AI-uitkomsten beter begrijpbaar te maken. Bij het onderzoek zijn naast het LUMC ook Amsterdam UMC en het Centrum Wiskunde & Informatica (CWI) betrokken. Ze ontvingen een subsidie van ruim 800 duizend euro van het Gieskes-Strijbis Fonds. “Artsen willen bij toepassing van AI vaak meer weten dan alleen welke data ze erin stoppen en welke voorspelling eruit komt”, vertelt ze. “Daarom werken we aan de ontwikkeling van nieuwe technieken die moeten gaan helpen om de black box die AI nu voor ze is te openen.”

Projectleider LUMC Tanja Alderliesten

Inzicht in bijwerkingen

Een praktisch voorbeeld betreft gynaecologische kankerbehandeling. “Belangrijk hierbij is inzicht krijgen in de bijwerkingen die tijdens en na de behandeling kunnen optreden”, vertelt Alderliesten. “Daarop kunnen behandelaars nu alleen reactief sturen: ze constateren dat een bijwerking optreedt en dan acteren ze daarop. Dit willen we nu veranderen, in een project dat we samen met Amsterdam UMC locatie AMC uitvoeren. Door gebruik te maken van data van eerder behandelde patiënten, hopen we met AI tot voorspellende informatie te kunnen komen over welke acute en late bijwerkingen bij nieuwe patiënten kunnen optreden voor verschillende behandelopties. Als de behandelaar hierin meer inzicht krijgt, kan hij in samenspraak met de patiënt bepalen welke behandeling het best passend is, en wat de patiënt eventueel zelf kan doen om het optreden van ongewenste reacties te voorkomen.”

Radiotherapeut-oncoloog Henrike Westerveld, Amsterdam UMC

Als we AI bijvoorbeeld gebruiken om het bestralingsveld te bepalen, moeten we wel weten of dit bestralingsveld ook daadwerkelijk correct bepaald wordt.”

Radiotherapeut-oncoloog Henrike Westerveld, Amsterdam UMC

Vertrouwen

In Amsterdam UMC locatie AMC is radiotherapeut-oncoloog Henrike Westerveld bij dit onderzoek betrokken. Zij vertelt: “AI-technologie gaat een steeds grotere rol spelen in ons werk. Neem bijvoorbeeld de inwendige bestraling bij prostaatkanker, waarbij we vooraf de contouren en de bestralingsplanningen moeten bepalen. Tijdrovend werk dat met AI veel sneller kan. In een eerder samenwerkingstraject hebben we daarvoor al een AI-gebaseerd automatisch planningssysteem ontwikkeld, dat we nu een jaar actief gebruiken. Maar omdat we AI ook willen begrijpen, is dit vervolgtraject op het gebied van baarmoederhalskanker zo belangrijk. Voor de voorspelling van de uitkomst van de behandeling en bijwerkingen daarbij schrijven wiskundigen en informatici AI-programma’s. Maar zij begrijpen de zorg niet en wij begrijpen AI niet. Tanja is in de discussie hierover de brug tussen beiden, om mee te denken over de vragen: wat komt eruit, begrijpen we dat en is het ook wat we willen dat eruit komt. Voor ons als behandelaars zijn de antwoorden op die vragen belangrijk om op die AI te kunnen vertrouwen. Als we AI bijvoorbeeld gebruiken om het bestralingsveld te bepalen, moeten we wel weten of dit bestralingsveld ook daadwerkelijk correct bepaald wordt.”

Senior onderzoeker Peter Bosman, CWI

“Het is problematisch voor artsen als ze niet kunnen zien waarom een AI-voorspelling is zoals die is, want de patiënt wil weten waarop een behandelbeslissing is gebaseerd”

Senior onderzoeker Peter Bosman, CWI

Knowledge discovery

Het project om tot uitlegbare AI te komen, wordt getrokken door Alderliesten in samenwerking met senior onderzoeker Peter Bosman van het CWI. “Wij zullen vooral input leveren voor de ontwikkeling van de techniek”, vertelt hij. “We gaan mensen aannemen voor de uitwerking hiervan en het netwerk onderhouden en faciliteren. De combinatie van de achtergronden die Tanja en ik hebben – ik de fundamentele wiskunde en informatica en zij de toegepaste medisch-technische informatica – gaat prima samen met het multidisciplinaire team waarin we samen optrekken in dit traject. De artsen hier effectief bij betrekken is essentieel. Zij zien wel de potentie van AI, maar hebben nog niet altijd het besef van wat er precies mee kan worden bereikt. En daar gaat het wel om: de probleemstelling moet vanuit de kliniek komen, niet vanuit ons. We moeten echt van die black box af die AI nu te veel voor hen is. Het is problematisch voor artsen als ze niet kunnen zien waarom een voorspelling is zoals die is. Dat leidt tot ethische vragen want de patiënt wil weten waarop een behandelbeslissing gebaseerd is. De arts wil meer kunnen zeggen dan: ‘Op basis van historische cijfers zien we dat…’. Daaraan werken we dus. En de verwachting is dat dit ook nieuwe kennis zal opleveren, relaties tussen data die de arts niet zo snel had gelegd maar die wel van waarde voor de klinische praktijk kunnen zijn. Knowledge discovery dus, wat natuurlijk nog veel mooier is.”

“Artsen maken wel eens grapjes over hoe AI hen zal vervangen. Maar dat is zeker niet onze visie. Zij zijn de experts en AI blijft beslissingsondersteunend”

Projectleider Tanja Alderliesten, LUMC

Al lang geen hype meer

Op de vraag of dit bij zorgprofessionals tot nieuwe angst voor AI zou leiden, reageren beiden nuchter. “Artsen maken wel eens grapjes over hoe AI hen zal vervangen”, zegt Alderliesten. “Die corrigeren we altijd, want dat is zeker niet onze visie. Zij zijn de experts en AI blijft beslissingsondersteunend.” Bosman vult aan: “Een patiënt blijft een veel complexer gegeven dan de data waartoe we toegang hebben. Subtiele of extra bevindingen uit een arts-patiëntgesprek passen bijvoorbeeld niet zomaar in het AI-model. Toch, tegelijkertijd geldt wel dat AI al lang geen hype meer is. Het speelt zo langzamerhand in alle fundamentele wetenschapsdisciplines, alsook in de zorg, een rol.” Alderliesten vult aan: “Daarom sluit CAIRELab, het LUMC kennis- en expertisecentrum voor AI, zo mooi aan op wat wij aan het doen zijn. Het helpt om kennis over AI te bundelen en beschikbaar te maken voor professionals van alle zorgdisciplines die in het onderwerp geïnteresseerd zijn.”

Lees meer over:


Voor u geselecteerde artikelen

Casus: jongen met gepig­menteerde huid­afwijking

Een tienjarige jongen heeft een opvallende laesie op de rechterbovenarm. Bij navraag blijkt deze laesie al jaren aanwezig. In de familie komen geen melanomen voor. De jongen heeft een blanco voorgeschiedenis. Wat is uw diagnose?

Casus: man met klachten van moeizaam plassen

Een man komt met een doorgemaakte blaasontsteking op uw spreekuur. Plassen gaat al een paar jaar langzaamaan moeilijker en moeilijker. De straal is zwak, nogal eens sproeiend en er wordt bijna altijd wat nagedruppeld. Persen helpt niet echt. Wat is uw diagnose?

Iedere arts moet zich voorbereiden op een leven lang leren

Welzijn is een voorwaarde voor professionele en persoonlijke ontwikkeling. En dat is in de medische sector meer dan ooit een punt van zorg, vindt Marjolein van de Pol. “De nieuwe bewegingen moet je gewoon volgen, in welke fase van je carrière je ook zit.”

‘‘Minder eten en meer bewegen’ is echt een misvatting’

Mensen met obesitas hebben vaak te maken met negatieve vooroordelen, ook in de zorg. Daardoor vermindert de kwaliteit van zorg, legt Paige Crompvoets uit. “Uit mijn onderzoek bleek dat mensen met obesitas soms belachelijk gemaakt worden door hun zorgverleners.”

Whispp biedt oplossing voor mensen met stem- en spraak­problemen

Joris Castermans ontwikkelde Whispp, een app die met behulp van AI fluister- en aangedane spraak kan omzetten in een heldere en natuurlijke stem. “Wie nog audio- of video-opnames heeft van de gezonde stem, kan met Whispp de eigen stem van vroeger creëren.”

Artsen voor Kinderen helpt kinderen met een chronische ziekte of beperking

Michel Weijerman van Stichting Artsen voor Kinderen vertelt over hun projecten voor betere zorg en welzijn voor kinderen met een chronische aandoening. “Zo’n 200 zorgprofessionals zijn op vrijwillige basis bij onze poli betrokken. Binnen 48 uur krijg je antwoord.”

Casus: patiënte met dagelijkse neusbloedingen

Een patiënte is de dagelijkse neusbloedingen rechts helemaal zat. Door het dichtknijpen van de neus gedurende 10 minuten stopt de bloeding wel steeds. Wat is uw diagnose?

‘Wees alert op opioïd­misbruik bij patiënten op SEH’

Opioïdgebruik komt bij SEH-patiënten vaker voor dan gemiddeld. Meer bewustzijn over misbruik van deze medicatie is nodig, aldus Joris Holkenborg. “Maar vergeleken met de VS doen we het in Nederland, mede dankzij apothekers en huisartsen, best wel goed.”

Voorkom een burn-out

Huisarts Nico Verhoef onderzocht waarom steeds meer artsen een burn-out krijgen, hoe dit te voorkomen, én geeft tips hoe je het werk leuk houdt voor jezelf. “Een middag per week maakte ik vrij voor kleine chirurgische ingrepen, omdat ik dat heel leuk vind om te doen.”

De zorgverlener als verwonderaar

Steeds meer resultaten wijzen uit dat een goed contact tussen de zorgverlener, het kind en de ouders, veel leed kan voorkomen. Piet Leroy zet zich in voor pijn- en traumavrije zorg bij kinderen. “Ik spreek nooit over lastige ouders, wel over kwetsbare ouders.”


0
Laat een reactie achterx