In hun recente opiniestuk in De Telegraaf benadrukken drie onderzoekers van het Amsterdam UMC hoe kunstmatige intelligentie (AI) de potentie heeft om de gezondheidszorg ingrijpend te veranderen. De onderzoekers richten zich op de ethische en juridische vraagstukken die ontstaan door het gebruik van AI in medische procedures. Ze bespreken de rol van voorspellende machine learning (ML)-modellen, die bijvoorbeeld kunnen helpen bij het voorspellen van complicaties na medische ingrepen.

Deze modellen bieden grote voordelen, zoals het verbeteren van patiëntveiligheid en het verlagen van zorgkosten door gepersonaliseerde zorg. Tegelijkertijd vereist het gebruik van dergelijke geavanceerde AI-systemen een zorgvuldige beoordeling van de risico’s. Onder de huidige Europese Medical Device Regulation (MDR) moeten deze AI-systemen grondig geëvalueerd worden voordat ze gebruikt mogen worden.

De naderende Europese AI Act zal strengere eisen stellen aan hoog-risico AI-toepassingen, vooral binnen de gezondheidszorg. Deze wetgeving vereist uitgebreide risicobeoordelingen, gegevensbeheer, en continue monitoring van AI-systemen.

De onderzoekers benadrukken dat, hoewel er regelgeving bestaat, er nog steeds kritieke ethische vragen onbeantwoord blijven. Vragen zoals de invloed van AI op medische besluitvorming en de verantwoordelijkheid voor de uitkomsten van door AI ondersteunde behandelingen moeten worden aangepakt. Dit vereist een brede discussie over hoe we AI op een ethisch verantwoorde manier in de zorgsector willen integreren, met een sterke focus op transparantie, verantwoordelijkheid, en de instemming van de patiënten.