Prangende vragen én antwoorden over artificial intelligence in de zorg

Het onderwerp Artificial Intelligence (AI) laat zich niet meer wegdenken uit de zorg, maar leidt nog tot veel vragen. Anne de Hond, promovenda LUMC, krijgt hier vanwege haar betrokkenheid bij CAIRELab – Clinical AI Implementation and Research Lab – veel vragen over. Hetzelfde geldt voor Rudolf Fehrmann, internist-oncoloog UMC Groningen, die in zijn onderzoeksgroep AI gebruikt om het gedrag van tumoren beter te begrijpen.

Bezig zijn met AI betekent vragen krijgen over AI, dat merken De Hond en Fehrmann allebei regelmatig. En de eerste vraag is dan vaak: ‘Gaat AI mij vervangen?’. Maar de achterliggende vraag is natuurlijk wat AI eigenlijk precies is. “Het begrip bestaat al sinds de jaren vijftig van de vorige eeuw”, zegt Fehrmann. “Het betekent: alles wat intelligentie nabootst op een computer. Een digitaal rijmwoordenboek is dus ook een voorbeeld van AI. De kern is: gebruikmaken van een algoritme dat je leert om met data een taak uit te voeren. Hoe meer data, hoe beter het algoritme die taak kan uitvoeren. Een onderdeel ervan is machine learning, waarmee je een algoritme leert om een bepaalde taak uit te voeren.”

AI in de zorgpraktijk

In antwoord op de veel gestelde vraag of AI het werk van de zorgprofessional gaat vervangen, zeggen beiden nee. “Met CAIRELab – waarbij veel onderzoekers en zorgprofessionals zijn aangesloten die iets met AI doen – willen we juist onderzoeken hoe AI goed en veilig kan worden geïmplementeerd in de zorgpraktijk”, zegt De Hond. “Ik begrijp dat we daarbij de vraag krijgen van zorgprofessionals hoe een computer het werk kan overnemen waarvoor zij jaren gestudeerd hebben. Ons antwoord op die vraag is steevast dat AI alleen nuttig is als het hun werk ondersteunt. De voorliggende vraag is dus vooral hoe AI kan aansluiten op de klinische praktijk. Een vraag die overigens niet alleen in relatie tot AI relevant is, maar bij alle innovaties in de zorg.”

5 prangende vragen over AI in de zorg

1) Waarom is AI zo’n hype?
Er wordt veel beloofd en veel verwacht van AI in de zorg. Het zou ons werk drastisch kunnen verbeteren. Het gevoel heerst: als we nu niet instappen, missen we de boot. Daarnaast zijn data een nieuw verdienmodel geworden voor bedrijven. 

2) Neemt AI straks de rol van de arts over?
Nee, AI zal altijd ondersteunend zijn aan het werk in de zorg. De arts blijft eindverantwoordelijk. Kritisch blijven kijken naar de ontwikkeling van nieuwe algoritmes is en blijft dus belangrijk. Essentieel is dat zorg en technologie gaan samenwerken. Dan ontstaan er veel mogelijkheden die waarde toevoegen aan de zorg.

3) Hoe weet ik of AI veilig is om te gebruiken?
Patiënt en arts moeten zich veilig voelen bij AI. Er bestaat binnen de Amerikaanse FDA veel aandacht voor ‘software as a medical device’. Een fabrikant kan een algoritme bij de FDA laten registreren als medisch hulpmiddel. Maar bij toepassing in de klinische praktijk draait het om educatie en dynamisch leren. Periodieke evaluatie over de klinische relevantie is belangrijk.

4) Wat moet ik doen en weten om in mijn zorgpraktijk te werken met AI?
Haal de juiste IT-kennis en -expertise in huis. Werk met een projectmatige aanpak. En kies ook zelf voor gerichte educatie op dit vlak. Het draait om kennis van data, algoritmes én de juiste evaluatiepunten. Neem een kritische houding aan; jij kent als clinicus de zorgpraktijk en de klinische vraag. Deze vormen het uitgangspunt voor een goed model.

5) Hoe weet ik of een algoritme betrouwbaar is (en blijft)?
Een algoritme is een reflectie van de data die je erin stopt. Als er in de data een bias* zit, dan komt die ook terecht in het algoritme. Op enig moment blijkt dan dat de uitkomsten niet kloppen. Dit ondervang je door educatie en bewustwording. Wees kritisch op wat je te zien krijgt. En zorg voor een periodieke evaluatie over de klinische relevantie.

*bias: systematische vertekening van de determinant-uitkomstrelatie door gebruik van onjuiste informatie over de determinant, de uitkomst of beide.

Ondersteunend

Fehrmann gaat net iets verder in zijn antwoord. “Ik denk niet dat AI ons werk gaat overnemen”, zegt hij, “zeker niet op de korte termijn. Maar in het verleden hoorden we ook dat internet niets zou worden. Toch zal AI ons vooral gaan ondersteunen in het werk, verwacht ik, bijvoorbeeld om nog meer informatie te verkrijgen vanuit beeldvorming.”

“We gaan niet harder dan de zorgvuldigheid toelaat”

promovenda Anne de Hond

Veiligheid

De Hond noemde al het woord veilig. Ook daarover bestaan veel vragen. “Op dit punt heb ik een beetje een dubbelrol in het CAIRELab-team”, zegt ze. “Ik ben data scientist en promoveer op het onderwerp Responsible AI. Daarin kijk ik naar valkuilen en naar oplossingen daarvoor. Daarbij merk ik hoe complex die vraag naar de veiligheid van AI is. De patiënt en de arts moeten zich veilig voelen bij AI. Mijn voorlopige antwoord is dat de projecten die we ontwikkelen allemaal in dienst staan van die vraag. We gaan niet harder dan de zorgvuldigheid toelaat. Daarbij is bijvoorbeeld de vraag hoe inzichtelijk een algoritme is heel belangrijk. We moeten dat in de praktijk gaan ervaren.”

“Je wilt eerst studies die aantonen dat het gebruik van AI-algoritmen veilig is en toegevoegde waarde heeft voor de patiënt. De cultuur voor dergelijk onderzoek lijkt er echter nog niet te zijn”

Internist-oncoloog Rudolf Fehrmann

Dynamisch leren

Ook voor Fehrmann is de veiligheid een essentieel aandachtspunt. Hij vertelt: “Op dit moment bestaat binnen de Amerikaanse FDA veel aandacht voor het onderwerp software as a medical device. Een fabrikant die een algoritme ontwikkelt, kan het bij de FDA laten registreren als medisch hulpmiddel. Maar als het vervolgens in de klinische praktijk wordt toegepast, blijft het dynamisch leren. Hoe weet je dan of het na een jaar niet afwijkt van de oorspronkelijke bedoeling en dus een bepaalde bias heeft ontwikkeld? Dit hebben we bij de Belastingdienst zien gebeuren in de toeslagenaffaire. Periodieke evaluatie verdient dus zeker aandacht. Er zijn heel veel publicaties over algoritmes die uitvoerig de technische nauwkeurigheid ervan beschrijven. Maar die zegt niets over de klinische relevantie. Aan studies op dat gebied ontbreekt het, en dat betekent dat de eindgebruiker in de kliniek hiervoor de verantwoordelijkheid neemt. Dat is niet de bedoeling, je wilt eerst studies die aantonen dat het gebruik van AI algoritmen veilig is en toegevoegde waarde heeft voor de patiënt. De cultuur voor dergelijk onderzoek lijkt er echter nog niet te zijn.”

“Willen we AI optimaal gebruiken in de zorg, dan moet nog veel werk worden verzet op het gebied van effectiviteit, veiligheid en privacy”

Internist-oncoloog Rudolf Fehrmann,

Kritische houding

De Hond besteedt veel aandacht aan uitleg over de vraag wat de clinicus kan verwachten van AI en wat het gaat betekenen voor diens klinische taken. “Dat laatste is natuurlijk toepassingsafhankelijk”, zegt ze. “Een kritische houding is dus heel belangrijk.” Hoe belangrijk precies onderstreept Fehrmann met een voorbeeld uit de Amerikaanse praktijk, van software die de radioloog ondersteunt bij het beoordelen van een mammogram. Hij vertelt: “Het is redelijk snel geïntroduceerd en pas na vijftien jaar kwam iemand op het idee om een retrospectieve studie te doen naar de vraag of de patiënt beter gediend is met beoordeling door alleen de radioloog, of de radioloog ondersteund door AI. De conclusie was dat er geen wezenlijk verschil was, maar dat de patiënt met beoordeling door alleen de radioloog mogelijk zelfs nog iets beter af was. Willen we AI optimaal gaan gebruiken in de zorg, dan moet dus nog heel veel werk worden verzet op het gebied van effectiviteit en veiligheid, privacy ook trouwens. En onderzoek naar een uniform systeem om data te verzamelen en verwerken, om bias zoveel mogelijk uit te sluiten.”

“Hoewel AI nog te kampen heeft met allerlei kinderziekten, gaat het wel enorm belangrijk worden in de ondersteuning van de zorg”

promovenda Anne de Hond

Belang groeit

Veel clinici zijn zover nog helemaal niet, en stellen nog vooral de vraag hoe ze ermee aan de slag kunnen. “Daarbij hebben ze bij ons in huis het voordeel van een groot aantal onderzoekers met heel diverse achtergronden bij wie ze kunnen aankloppen”, zegt De Hond. “In kleinere ziekenhuizen is wellicht een klinisch fysicus of it’er aanwezig die deze rol kan vervullen. Het is belangrijk die kennis erbij te halen en jezelf te onderwijzen, want hoewel AI nog te kampen heeft met allerlei kinderziekten, gaat het wel enorm belangrijk worden in de ondersteuning van de zorg.”

Uitzending: ‘Kunstmatige intelligentie in de zorg’

In een MEDtalks uitzending met Robert van der Zwart, Anne de Hond, Rudolf Fehrmann en Joost Hazelzet wordt er verder ingegaan op AI in de zorg. Bekijk hier de uitzending.

Lees meer over: