Met een academische achtergrond die het gezondheidsrecht, privacyrecht en de bio-ethiek overbrugt, doet Shabani al meer dan vijftien jaar onderzoek naar het verantwoorde gebruik van gezondheidsdata. Dit interdisciplinaire perspectief heeft haar bijzonder alert gemaakt op de maatschappelijke risico’s van datagedreven innovatie in de zorg: “AI is er al. De vraag is niet óf we het gebruiken, maar hóé we het gebruiken in het belang van de patiënt.”

Haar grootste zorg is dat kunstmatige intelligentie onbedoeld bestaande ongelijkheden in de gezondheidszorg versterkt in plaats van vermindert: “Datagedreven technologieën komen niet alle gemeenschappen in gelijke mate ten goede. Sterker nog, ze kunnen bestaande ongelijkheden op het gebied van gezondheid vergroten.”

Een vijfjarig onderzoeksproject naar rechtvaardigheid in datagedreven gezondheidstechnologieën

Met de steun van een Vidi-beurs van ongeveer €850.000 lanceert Shabani een vijfjarig onderzoeksproject waarin rechtvaardigheid in datagedreven gezondheidszorgtechnologieën centraal staat. Het project richt zich in het bijzonder op kunstmatige intelligentie en de groeiende rol daarvan in de medische praktijk.

De kern van het onderzoek draait om een fundamentele vraag: wat betekent rechtvaardigheid eigenlijk in de context van AI in de gezondheidszorg? Shabani merkt op dat het antwoord sterk varieert per disciplinaire achtergrond: “Informatica-experts, juristen, filosofen en ethici spreken allemaal over rechtvaardigheid, maar ze bedoelen vaak heel verschillende dingen.”

Door rechtvaardigheid expliciet te koppelen aan kansengelijkheid in de zorg, onderzoekt het project hoe AI-systemen er soms niet in slagen om bepaalde bevolkingsgroepen adequaat te bedienen. Het gaat hierbij om mensen met verschillende etnische achtergronden, ouderen met lagere digitale vaardigheden, taalkundige en culturele minderheden, en individuen wier mentale gezondheid of sociaaleconomische omstandigheden onvoldoende weerspiegeld worden in de bestaande data. “Als gezondheidsdata niet representatief zijn, zullen de resulterende algoritmen niet voor iedereen even goed werken.”

De combinatie van theorie, empirisch onderzoek en regelgeving

Het project is opgezet als een interdisciplinair en iteratief proces dat continu beweegt tussen conceptueel werk en input uit de praktijk. Het begint met een theoretische analyse, waarbij gebruik wordt gemaakt van juridische, ethische en filosofische perspectieven om te verduidelijken wat rechtvaardigheid zou moeten inhouden binnen zorg-AI.

Dit theoretische werk wordt vervolgens aangevuld met empirisch onderzoek. Shabani zal focusgroepen organiseren met een breed scala aan belanghebbenden, waaronder zorgprofessionals, beleidsmakers, AI-ontwikkelaars, patiënten en burgers. Er zal extra aandacht worden besteed aan het betrekken van stemmen die vaak ondervertegenwoordigd zijn, zowel binnen Nederland als internationaal, waarbij online tools worden ingezet om de participatie te vergroten. “Ik wil horen van degenen die vaak over het hoofd worden gezien en begrijpen wat zij verwachten van een rechtvaardig AI-systeem.”

Het waarborgen van de toegankelijkheid is in deze fase een belangrijke uitdaging. Deelnemers moeten voldoende informatie ontvangen om zinvol aan het gesprek te kunnen deelnemen, zonder dat hun opvattingen onnodig worden beïnvloed. “Mensen moeten de basis begrijpen, maar we willen ook hun oprechte percepties vangen.”

De inzichten uit theorie en praktijk worden uiteindelijk vertaald naar concrete richtlijnen en kaders. Deze zijn bedoeld ter ondersteuning van regelgevers, toezichthoudende instanties en beleidsmakers die verantwoordelijk zijn voor de evaluatie en goedkeuring van nieuwe, op AI gebaseerde medische technologieën. “Het doel is om besluitvormers te helpen risico’s op het gebied van rechtvaardigheid te herkennen bij de beoordeling van nieuwe instrumenten.”

Toekomstperspectief: Naar een meer rechtvaardige innovatie in de gezondheidszorg

Hoewel academische publicaties een belangrijke uitkomst zijn van het project, benadrukt Shabani de bredere maatschappelijke ambities. Ze hoopt dat het onderzoek het bewustzijn zal vergroten onder beleidsmakers, zorgprofessionals en het grote publiek over de uitdagingen rondom rechtvaardigheid bij AI in de zorg. “Het creëren van maatschappelijk bewustzijn is net zo belangrijk als het beïnvloeden van regelgeving.”

Hoewel de richtlijnen primair worden ontwikkeld voor de Europese regelgevende context, sluiten ze aan bij kaders zoals de AI Act, de verordening voor medische hulpmiddelen (MDR) en de AVG (GDPR). Hierdoor kan de relevantie ervan zich ver buiten Europa uitstrekken. “Europese regelgeving vormt vaak de basis voor wereldwijde normen, wat betekent dat dit werk internationale impact kan hebben.”

Het project sluit bovendien nauw aan bij Shabani’s betrokkenheid bij het ELSA Lab AI for Health Equity, dat zich richt op de ethische, juridische en sociale aspecten van AI in de gezondheidszorg. Samen zorgen deze initiatieven voor synergie in zowel inhoud als timing. Uiteindelijk is Shabani’s ambitie helder: bijdragen aan een gezondheidszorgsysteem dat technologische innovatie omarmt, maar tegelijkertijd fundamenteel rechtvaardig blijft. “Innovatie mag nooit ten koste gaan van rechtvaardigheid. De belangen van patiënten moeten altijd vooropstaan.”