Artificial intelligence-modellen beter begrijpbaar maken voor artsen

Artificial intelligence speelt in toenemende mate een rol in het bepalen wat de beste therapie is voor de individuele patiënt. Maar de meest gebruikte vormen van AI zijn te zeer een black box om de inhoud van de voorspelling die eruit rolt te kunnen duiden. De ontwikkeling van uitlegbare AI moet hierin verandering brengen.

Voor artsen is het moeilijk te begrijpen wat de artificial intelligence (AI) nu geleerd heeft. En dit kan een hindernis vormen voor de toepassing ervan in de klinische praktijk. “De geleerde modellen zijn onbegrijpelijk voor ze”, zegt Tanja Alderliesten. Zij is in het LUMC projectleider van een onderzoeksgroep die hierin verandering moet brengen door AI-uitkomsten beter begrijpbaar te maken. Bij het onderzoek zijn naast het LUMC ook Amsterdam UMC en het Centrum Wiskunde & Informatica (CWI) betrokken. Ze ontvingen een subsidie van ruim 800 duizend euro van het Gieskes-Strijbis Fonds. “Artsen willen bij toepassing van AI vaak meer weten dan alleen welke data ze erin stoppen en welke voorspelling eruit komt”, vertelt ze. “Daarom werken we aan de ontwikkeling van nieuwe technieken die moeten gaan helpen om de black box die AI nu voor ze is te openen.”

Inzicht in bijwerkingen

Een praktisch voorbeeld betreft gynaecologische kankerbehandeling. “Belangrijk hierbij is inzicht krijgen in de bijwerkingen die tijdens en na de behandeling kunnen optreden”, vertelt Alderliesten. “Daarop kunnen behandelaars nu alleen reactief sturen: ze constateren dat een bijwerking optreedt en dan acteren ze daarop. Dit willen we nu veranderen, in een project dat we samen met Amsterdam UMC locatie AMC uitvoeren. Door gebruik te maken van data van eerder behandelde patiënten, hopen we met AI tot voorspellende informatie te kunnen komen over welke acute en late bijwerkingen bij nieuwe patiënten kunnen optreden voor verschillende behandelopties. Als de behandelaar hierin meer inzicht krijgt, kan hij in samenspraak met de patiënt bepalen welke behandeling het best passend is, en wat de patiënt eventueel zelf kan doen om het optreden van ongewenste reacties te voorkomen.”

Als we AI bijvoorbeeld gebruiken om het bestralingsveld te bepalen, moeten we wel weten of dit bestralingsveld ook daadwerkelijk correct bepaald wordt.”

Radiotherapeut-oncoloog Henrike Westerveld, Amsterdam UMC

Vertrouwen

In Amsterdam UMC locatie AMC is radiotherapeut-oncoloog Henrike Westerveld bij dit onderzoek betrokken. Zij vertelt: “AI-technologie gaat een steeds grotere rol spelen in ons werk. Neem bijvoorbeeld de inwendige bestraling bij prostaatkanker, waarbij we vooraf de contouren en de bestralingsplanningen moeten bepalen. Tijdrovend werk dat met AI veel sneller kan. In een eerder samenwerkingstraject hebben we daarvoor al een AI-gebaseerd automatisch planningssysteem ontwikkeld, dat we nu een jaar actief gebruiken. Maar omdat we AI ook willen begrijpen, is dit vervolgtraject op het gebied van baarmoederhalskanker zo belangrijk. Voor de voorspelling van de uitkomst van de behandeling en bijwerkingen daarbij schrijven wiskundigen en informatici AI-programma’s. Maar zij begrijpen de zorg niet en wij begrijpen AI niet. Tanja is in de discussie hierover de brug tussen beiden, om mee te denken over de vragen: wat komt eruit, begrijpen we dat en is het ook wat we willen dat eruit komt. Voor ons als behandelaars zijn de antwoorden op die vragen belangrijk om op die AI te kunnen vertrouwen. Als we AI bijvoorbeeld gebruiken om het bestralingsveld te bepalen, moeten we wel weten of dit bestralingsveld ook daadwerkelijk correct bepaald wordt.”

“Het is problematisch voor artsen als ze niet kunnen zien waarom een AI-voorspelling is zoals die is, want de patiënt wil weten waarop een behandelbeslissing is gebaseerd”

Senior onderzoeker Peter Bosman, CWI

Knowledge discovery

Het project om tot uitlegbare AI te komen, wordt getrokken door Alderliesten in samenwerking met senior onderzoeker Peter Bosman van het CWI. “Wij zullen vooral input leveren voor de ontwikkeling van de techniek”, vertelt hij. “We gaan mensen aannemen voor de uitwerking hiervan en het netwerk onderhouden en faciliteren. De combinatie van de achtergronden die Tanja en ik hebben – ik de fundamentele wiskunde en informatica en zij de toegepaste medisch-technische informatica – gaat prima samen met het multidisciplinaire team waarin we samen optrekken in dit traject. De artsen hier effectief bij betrekken is essentieel. Zij zien wel de potentie van AI, maar hebben nog niet altijd het besef van wat er precies mee kan worden bereikt. En daar gaat het wel om: de probleemstelling moet vanuit de kliniek komen, niet vanuit ons. We moeten echt van die black box af die AI nu te veel voor hen is. Het is problematisch voor artsen als ze niet kunnen zien waarom een voorspelling is zoals die is. Dat leidt tot ethische vragen want de patiënt wil weten waarop een behandelbeslissing gebaseerd is. De arts wil meer kunnen zeggen dan: ‘Op basis van historische cijfers zien we dat…’. Daaraan werken we dus. En de verwachting is dat dit ook nieuwe kennis zal opleveren, relaties tussen data die de arts niet zo snel had gelegd maar die wel van waarde voor de klinische praktijk kunnen zijn. Knowledge discovery dus, wat natuurlijk nog veel mooier is.”

“Artsen maken wel eens grapjes over hoe AI hen zal vervangen. Maar dat is zeker niet onze visie. Zij zijn de experts en AI blijft beslissingsondersteunend”

Projectleider Tanja Alderliesten, LUMC

Al lang geen hype meer

Op de vraag of dit bij zorgprofessionals tot nieuwe angst voor AI zou leiden, reageren beiden nuchter. “Artsen maken wel eens grapjes over hoe AI hen zal vervangen”, zegt Alderliesten. “Die corrigeren we altijd, want dat is zeker niet onze visie. Zij zijn de experts en AI blijft beslissingsondersteunend.” Bosman vult aan: “Een patiënt blijft een veel complexer gegeven dan de data waartoe we toegang hebben. Subtiele of extra bevindingen uit een arts-patiëntgesprek passen bijvoorbeeld niet zomaar in het AI-model. Toch, tegelijkertijd geldt wel dat AI al lang geen hype meer is. Het speelt zo langzamerhand in alle fundamentele wetenschapsdisciplines, alsook in de zorg, een rol.” Alderliesten vult aan: “Daarom sluit CAIRELab, het LUMC kennis- en expertisecentrum voor AI, zo mooi aan op wat wij aan het doen zijn. Het helpt om kennis over AI te bundelen en beschikbaar te maken voor professionals van alle zorgdisciplines die in het onderwerp geïnteresseerd zijn.”

Lees meer over: