Het gebrek aan transparantie in AI-classificatiemodellen is een hardnekkig probleem in domeinen waar de redenering achter een voorspelling er echt toe doet, zoals financiën, zorg en juridische toepassingen. Onderzoekers van de Universiteit van Amsterdam presenteren op ICML 2026 ECSEL, een aanpak die interpreteerbare modellen leert die hun beslissingen uitleggen in de vorm van wiskundige vergelijkingen.
ECSEL (Explainable Classification via Signomial Equation Learning) is ontwikkeld door Adia Lumadjeng, Ilker Birbil en Erman Acar als antwoord op de groeiende vraag naar uitlegbare kunstmatige intelligentie. De methode leert signoomiaalvergelijkingen die inzicht geven in hoe een classificatiemodel tot een uitkomst komt, op een manier die begrijpelijk is voor mensen buiten het model.
De aanpak onderscheidt zich doordat de verklaringen niet achteraf worden gegenereerd, maar onderdeel zijn van het leerproces zelf. Daarmee biedt ECSEL een alternatief voor black-box modellen in situaties waar transparantie wettelijk verplicht is of operationeel noodzakelijk, bijvoorbeeld bij kredietbeslissingen, fraudedetectie of medische diagnoses. Het paper is gepresenteerd op de International Conference on Machine Learning (ICML 2026).
Lees ook
