Shabani ziet dat AI-systemen steeds vaker verantwoordelijkheden overnemen die traditioneel bij zorgverleners lagen. Dat verandert de relatie tussen patiënt en zorgverlener en roept vragen op over aansprakelijkheid, vertrouwen en rechtvaardigheid. Niet iedereen profiteert echter in gelijke mate van deze technologie. Toegang tot digitale infrastructuur, digitale vaardigheden en leeftijd spelen een rol, maar ook de manier waarop AI wordt ontwikkeld. Veel medische AI-tools zijn getraind op datasets die grotendeels bestaan uit mensen met Europese voorouders, waardoor de uitkomsten minder betrouwbaar kunnen zijn voor andere groepen.

Volgens Shabani kan dit leiden tot slechtere zorg voor minderheden en tot verlies van vertrouwen in het zorgsysteem. Wanneer mensen merken dat AI-toepassingen niet goed voor hen werken, bestaat het risico dat zij zorg gaan mijden. Vertrouwen is volgens haar een fundamentele voorwaarde voor goede gezondheidszorg, en AI zou dat vertrouwen moeten versterken in plaats van ondermijnen.

In haar onderzoek richt Shabani zich op de vraag hoe dit probleem juridisch en regulatoir kan worden aangepakt. Zij pleit voor een sterkere rol van toezichthouders bij de beoordeling van medische AI. Inclusiviteit en mogelijke discriminatie zouden expliciet moeten worden meegenomen in goedkeuringsprocedures, bijvoorbeeld via verplichte fairness checks. Daarbij is een scherpere juridische definitie van rechtvaardigheid noodzakelijk.

Het doel is om een praktisch en juridisch onderbouwd kader te ontwikkelen dat zowel toezichthouders als ontwikkelaars kunnen gebruiken om AI in de gezondheidszorg inclusiever te maken. Daarnaast wil Shabani bijdragen aan meer bewustwording en een bredere maatschappelijke discussie over de gevolgen van datagedreven technologie in de zorg.