‘AI biedt kansen, maar vraagt wel om kritisch te blijven nadenken’

Het is een toekomstbeeld waar de een van gruwt en de ander naar uitkijkt: ChatGPT of CoPilot die mensen vertelt dat het tijd is om naar de dokter te gaan. Of zelfs al een diagnose stelt. Universitair hoofddocent bio-ethiek Karin Jongsma van het UMC Utrecht doet onderzoek naar deze samenwerking tussen mens en AI. ‘Kunstmatige intelligentie biedt mogelijkheden, maar het gaat niet vanzelf de goede kant op.’

Op elk medisch congres is kunstmatige intelligentie (AI) een hot topic. Artsen staan in rij voor sessies met klinkende titels als: ‘Hoe generatieve AI het werk van artsen gaat veranderen’, ‘Op deze manier transformeert AI medisch-wetenschappelijk onderzoek en de gezondheidszorg’, of ‘Zal AI de dokter vervangen?’ Dat laatste verwacht Karin Jongsma in elk geval niet. ‘Mensen willen niet in een vliegtuig zitten dat bestuurd wordt zonder menselijke piloot, dus het is vrij aannemelijk dat zij ook niet naar een ‘AI-arts’ willen. AI is geen bedreiging voor artsen. Maar wat het wél moet zijn, bijvoorbeeld ondersteunend of aanvullend, dat weten we nog niet precies.’

Mens en machine

Daar doet Jongsma wel onderzoek naar als universitair hoofddocent bio-ethiek aan het UMC Utrecht. ‘Ik geef leiding aan een groep onderzoekers die zich bezighoudt met de ethiek van (bio-)medische technologie, zoals digitale technologie en AI. Mijn eigen onderzoek richt zich voornamelijk op de ethiek van AI-toepassingen in de zorg. Daarbij kun je denken aan wat de betekenis of invloed van AI is op menselijke expertise. Ook wordt samenwerking tussen arts en AI veel genoemd in de literatuur, ook wel human-AI-collaboration genoemd. Ik probeer inzichtelijk te maken wat we daaronder verstaan en of die ontwikkeling wel wenselijk is.’

Silver bullet

Ondertussen lijkt AI een silver bullet: het is snel, kan de zorg efficiënter maken en de dokter ontlasten. Jongsma: ‘Daar kan niemand op tegen zijn, toch? In de ethiek analyseren we onder andere deze beloften. Er wordt over technologische toepassingen wel vaker de belofte gedaan dat ze zaken makkelijker, beter en efficiënter te maken. En zeker, een e-mail is sneller verstuurd dan een brief, maar nu besteden we meer tijd aan mail dan we ooit aan brieven schrijven hebben gedaan. De vraag is dus steeds hoe realistisch de beloften zijn die er over AI worden gedaan.’

Vraagtekens

Een ander punt is hoe betrouwbaar AI is. ‘Bij complexere diagnostische taken, zoals voorspellen of afwijkende cellen in de prostaat mogelijk uitgroeien tot kanker, gaat het om interpretatie van data. Hoe komt AI tot een voorspelling? En hoe heeft AI dat geleerd, met wat voor dataset, en zitten daar geen vervuilde gegevens of biases in? Deze technologie morrelt aan onze epistemische praktijken, oftewel hoe we tot bewijs komen en wat als bewijs telt. Hierbij speelt ook de ethische vraag: wat is de rol van de arts, en willen we dat AI taken overneemt van artsen of ondersteunend is aan artsen? Wij moeten die keuzes maken.’

‘Wat vinden we de rol van de arts, en wat willen we dat AI aan taken overneemt?’ 

Kennis en deugden

Wat kunnen artsen doen als er een voorstel voorligt voor een AI-innovatie op de werkvloer die hun directe praktijk raakt? ‘De belangrijkste vraag die je moet stellen is: lost de innovatie een probleem op? En heeft een algoritme hierbij meerwaarde?’, schetst Jongsma. En vraag je af: als een AI-systeem goed functioneert in een experimentele setting, kan het dit dan ook in de weerbarstige klinische praktijk, wat gebeurt er als het niet goed werkt? Bovendien vraagt waardevolle toepassing van AI om méér dan een technisch goed functionerend systeem. Het vraagt ook om kennis en deugden van de arts, oftewel wat die nodig heeft om goed met het systeem om te kunnen gaan.’

Epistemische nederigheid

AI doet met name een beroep op het beoordelingsvermogen van de arts. ‘Het is ontzettend belangrijk om te kunnen inschatten hoe de uitkomst van een AI-systeem tot stand komt en welke grenzen het systeem heeft’, vindt de Utrechtse ethicus. ‘Een andere belangrijke deugd die artsen ‘van de toekomst’ moeten bezitten, is zogenaamde epistemische nederigheid. Daarmee bedoel ik dat je na moet denken over: wat weet je als arts wel en niet, en wat weet AI wel en niet, en hoe verhoudt zich dat tot elkaar? De volgende vraag is dan hoe je inzichten van beiden goed kunt inzetten.’

Dystopische toekomst

Tot slot wil Karin Jongsma benadrukken dat ze niet tégen AI is. ‘Integendeel, ik zie juist dat het veel mogelijkheden biedt. Nu al wordt het ingezet in de beeldvormende diagnostiek en om administratieve processen te vergemakkelijken. Maar we moeten bij het ontwikkelen en implementeren van AI wel vragen blijven stellen en opletten dat we de regie houden. Een dystopische televisie­serie als Black Mirror laat dat treffend zien. Je ziet dan steeds situaties waarin de technologie het ‘overneemt’, maar als je goed kijkt, zie je dat het niet misgaat door de technologie, maar door de keuzes die mensen maken. We zijn er zelf bij, dus we moeten goed blijven opletten.’