Machine learning-modellen worden steeds vaker ingezet om weerpatronen te voorspellen, moleculaire eigenschappen te bepalen of nieuwe materialen voor te stellen, vaak door deze systemen weer te geven als graphs: netwerken van verbonden onderdelen. Hoewel deze modellen zeer nauwkeurige voorspellingen kunnen doen, kunnen wetenschappers vaak niet verklaren hoe een model tot die uitkomst komt. Een model kan het juiste antwoord geven terwijl het daarbij op de verkeerde redenering steunt, een probleem dat cruciaal wordt zodra deze modellen worden gebruikt om echte wetenschappelijke conclusies te onderbouwen.

Lucic’s onderzoek richt zich op het openen van deze “black boxes”. Door de exacte rekenstappen binnen graph-gebaseerde machine learning-modellen te volgen, ontwikkelt ze instrumenten waarmee wetenschappers kunnen controleren of de voorspellingen van een model daadwerkelijk kloppen met natuurwetten, in plaats van blind te vertrouwen op de uitkomst. Die verificatie bepaalt uiteindelijk of graph-gebaseerde AI een betrouwbaar instrument voor wetenschappelijke ontdekkingen kan zijn, in plaats van een black box die toevallig het juiste antwoord geeft.

Lucic is een van de 28 UvA- en Amsterdam UMC-onderzoekers die in deze ronde een Veni-beurs ontvingen. De Veni maakt deel uit van het NWO Talentprogramma, een individuele beurs voor avontuurlijke, getalenteerde onderzoekers aan het begin van hun carrière, die hen de ruimte geeft om hun eigen onderzoeksideeën verder uit te werken. NWO kende in deze ronde landelijk in totaal 200 onderzoeksprojecten toe.