< Terug naar nieuws

17 Mei 2024

UvA-onderzoekers hebben een evaluatiechecklist voor datasets gemaakt

AI kan medische gegevens snel en nauwkeurig analyseren, wat potentieel de diagnose en behandelplannen verbetert. Echter, bias blijft een hardnekkig probleem, waardoor medische AI-oplossingen niet altijd effectief zijn voor elke bevolkingsgroep. Onderzoekers van de UvA aan het Informatica Instituut ontvouwen het probleem van bias en doen suggesties voor verbetering.

Met de verwachte groei van AI-toepassingen in de gezondheidszorg door onder andere de vergrijzende bevolking en stijgende zorgkosten, wordt de noodzaak van betrouwbare AI-oplossingen steeds duidelijker. Maria Galanty, een promovenda aan de UvA, benadrukt het belang van goed gedocumenteerde datasets om bias in medische AI aan te pakken. "Bias verwijst naar een systematische fout in machine learning-modellen, die hun vermogen beïnvloedt om subgroepen van patiënten correct te classificeren," zegt Galanty. Dit probleem ontstaat wanneer datasets de doelpopulatie niet goed representeren.

 

Galanty behaalde haar bachelor in wiskunde en cognitiewetenschappen aan de Universiteit van Warschau, maar besloot naar Nederland te verhuizen. "Ik wilde ervaren hoe het zou zijn om in het buitenland te werken en te wonen, en werd aangetrokken door het hoge onderwijsniveau en de goede werk-privébalans in Nederland." Ze volgde een master in kunstmatige intelligentie aan de Universiteit Utrecht en werd geïnteresseerd in de kruising van AI en gezondheidszorg, wat leidde tot haar promotieonderzoek naar bias in medische data.

 

Samen met Dieuwertje Luitse, ook promovenda, voerde Galanty een studie uit naar de documentatie van publiekelijk beschikbare medische datasets. Deze datasets worden vaak hergebruikt door machine learning-ingenieurs die niet betrokken waren bij het creatieproces, waardoor zij geen extra kennis hebben over de data. Hun onderzoek richtte zich op verschillende medische data, zoals MRI's, kleurenfundusfotografie van het oog en elektrocardiogrammen.

 

Ze ontwikkelden een evaluatie-instrument, een checklist, om de volledigheid van de datasetdocumentatie te beoordelen. "Er is veel variatie in de datasetdocumentatie. Soms staat er alleen dat de annotaties door een medisch professional zijn uitgevoerd, terwijl andere het proces gedetailleerd beschrijven," legt Galanty uit. Ze pleit voor richtlijnen voor het opstellen van goede documentatie, zodat alle relevante informatie wordt opgenomen. Goede documentatie stelt gebruikers van de data in staat om zich bewust te zijn van mogelijke biases en deze te verminderen.

 

Galanty's ambitie is bij te dragen aan robuustere medische AI-oplossingen. "De stap van het ontwikkelen van machine learning-tools aan de universiteit naar toepassing in ziekenhuizen is nog steeds groot. Als we willen dat een tool daadwerkelijk voor patiënten wordt gebruikt, moet deze grondig getest zijn en voldoen aan alle ethische en juridische voorwaarden."

 

Bron

Vergelijkbaar >

Vergelijkbare nieuwsitems

>Bekijk alle nieuwsitems >
 € 28 miljoen voor AI-startup in Amsterdam gericht op de ontwikkeling van materialen voor de klimaattransitie

20 Juni 2024

€ 28 miljoen voor AI-startup in Amsterdam gericht op de ontwikkeling van materialen voor de klimaattransitie >

Het Brits-Nederlandse bedrijf CuspAI heeft 28 miljoen euro aan startkapitaal opgehaald om materialen te ontwikkelen voor efficiëntere CO2-afvang met behulp van AI. Durfkapitalisten zien potentieel in deze innovatieve aanpak. CuspAI, een startup opgericht door de Nederlandse professor Max Welling, computerwetenschapper aan de Universiteit van Amsterdam en AI-expert, wil AI gebruiken om materialen te vinden en te ontwikkelen die op efficiënte wijze CO2 kunnen afvangen. Het bedrijf maakte dinsdag bekend dat het 28 miljoen euro aan financiering van investeerders heeft binnengehaald.

Lees meer >

Binge Watch Amsterdam AI Video Series

20 Juni 2024

Binge Watch Amsterdam AI Video Series >

Bekijk onze Video Serie nu.

Lees meer >

 70% van de Nederlanders maakt geen gebruik van generatieve AI

20 Juni 2024

70% van de Nederlanders maakt geen gebruik van generatieve AI >

Uit onderzoek van de AlgoSoc AI Opinion Monitor van de Universiteit van Amsterdam blijkt dat 70% van de Nederlanders geen gebruik heeft gemaakt van generatieve AI zoals ChatGPT. De houding en het gebruik verschillen echter per leeftijd. Onderzoekers Ernesto de León, Fabio Votta, Theo Araujo en Claes de Vreese ondervroegen bijna 4.000 respondenten en zullen dit onderzoek de komende drie jaar voortzetten.

Lees meer >