SVG Image
< Terug naar nieuws

17 Mei 2024

UvA-onderzoekers hebben een evaluatiechecklist voor datasets gemaakt

AI kan medische gegevens snel en nauwkeurig analyseren, wat potentieel de diagnose en behandelplannen verbetert. Echter, bias blijft een hardnekkig probleem, waardoor medische AI-oplossingen niet altijd effectief zijn voor elke bevolkingsgroep. Onderzoekers van de UvA aan het Informatica Instituut ontvouwen het probleem van bias en doen suggesties voor verbetering.

Met de verwachte groei van AI-toepassingen in de gezondheidszorg door onder andere de vergrijzende bevolking en stijgende zorgkosten, wordt de noodzaak van betrouwbare AI-oplossingen steeds duidelijker. Maria Galanty, een promovenda aan de UvA, benadrukt het belang van goed gedocumenteerde datasets om bias in medische AI aan te pakken. "Bias verwijst naar een systematische fout in machine learning-modellen, die hun vermogen beïnvloedt om subgroepen van patiënten correct te classificeren," zegt Galanty. Dit probleem ontstaat wanneer datasets de doelpopulatie niet goed representeren.

 

Galanty behaalde haar bachelor in wiskunde en cognitiewetenschappen aan de Universiteit van Warschau, maar besloot naar Nederland te verhuizen. "Ik wilde ervaren hoe het zou zijn om in het buitenland te werken en te wonen, en werd aangetrokken door het hoge onderwijsniveau en de goede werk-privébalans in Nederland." Ze volgde een master in kunstmatige intelligentie aan de Universiteit Utrecht en werd geïnteresseerd in de kruising van AI en gezondheidszorg, wat leidde tot haar promotieonderzoek naar bias in medische data.

 

Samen met Dieuwertje Luitse, ook promovenda, voerde Galanty een studie uit naar de documentatie van publiekelijk beschikbare medische datasets. Deze datasets worden vaak hergebruikt door machine learning-ingenieurs die niet betrokken waren bij het creatieproces, waardoor zij geen extra kennis hebben over de data. Hun onderzoek richtte zich op verschillende medische data, zoals MRI's, kleurenfundusfotografie van het oog en elektrocardiogrammen.

 

Ze ontwikkelden een evaluatie-instrument, een checklist, om de volledigheid van de datasetdocumentatie te beoordelen. "Er is veel variatie in de datasetdocumentatie. Soms staat er alleen dat de annotaties door een medisch professional zijn uitgevoerd, terwijl andere het proces gedetailleerd beschrijven," legt Galanty uit. Ze pleit voor richtlijnen voor het opstellen van goede documentatie, zodat alle relevante informatie wordt opgenomen. Goede documentatie stelt gebruikers van de data in staat om zich bewust te zijn van mogelijke biases en deze te verminderen.

 

Galanty's ambitie is bij te dragen aan robuustere medische AI-oplossingen. "De stap van het ontwikkelen van machine learning-tools aan de universiteit naar toepassing in ziekenhuizen is nog steeds groot. Als we willen dat een tool daadwerkelijk voor patiënten wordt gebruikt, moet deze grondig getest zijn en voldoen aan alle ethische en juridische voorwaarden."

 

Bron

Vergelijkbaar >

Vergelijkbare nieuwsitems

>Bekijk alle nieuwsitems >
 De Amsterdamse Visie op AI: Een Realistische Blik op Kunstmatige Intelligentie

14 November 2024

De Amsterdamse Visie op AI: Een Realistische Blik op Kunstmatige Intelligentie >

In het nieuwe beleid, De Amsterdamse Visie op AI, wordt beschreven hoe kunstmatige intelligentie (AI) een rol mag spelen in Amsterdam, en hoe deze technologie het leven in de stad mag beïnvloeden volgens de inwoners. Deze visie is tot stand gekomen na een maandenlang proces van gesprekken en dialoog, waarin een breed scala aan Amsterdammers – van festivalbezoekers tot schoolkinderen en van experts tot digibeten – hun mening gaven over de toekomst van AI in hun stad.  

Lees meer >

Interview: KPN Responsible AI Lab met Gianluigi Bardelloni en Eric Postma

14 November 2024

Interview: KPN Responsible AI Lab met Gianluigi Bardelloni en Eric Postma >

ICAI's Interview featured deze keer Gianluigi Bardelloni en Eric Postma, zij praten over de ontwikkelingen in hun ICAI Lab.

Lees meer >

AI pilots TLC Science: Generatieve AI in wetenschappelijk onderwijs

14 november

AI pilots TLC Science: Generatieve AI in wetenschappelijk onderwijs >

De UvA is een nieuw project gestart waarbij het Teaching & Learning Centre Science onderzoekt hoe Generatieve AI, specifiek ChatGPT, kan bijdragen aan het verbeteren van academisch onderwijs. Binnen dit pilotprogramma aan de Faculteit der Natuurwetenschappen worden diverse toepassingen van GenAI in het hoger onderwijs getest en geëvalueerd.

Lees meer >