Metikoš, verbonden als postdoctoraal onderzoeker aan het Instituut voor Informatierecht van de UvA, onderzocht de juridische en ethische vraagstukken die ontstaan wanneer AI wordt gebruikt in gerechtelijke besluitvormingsprocedures. Zijn proefschrift draagt de titel ‘Enabling Contestation: The Right to an Explanation of Judicial AI’. Daarin pleit hij voor een wettelijk recht op uitleg voor burgers die te maken krijgen met AI-ondersteunde rechtspraak.

De toepassingen van AI in de rechtszaal lopen sterk uiteen. Aan de ene kant gaat het om relatief neutrale taken zoals het sorteren van documenten of het opzoeken van jurisprudentie. Aan de andere kant zijn er systemen die mensen profileren en berekenen dat iemand bijvoorbeeld zeventig procent kans heeft op recidive, of die daadwerkelijk uitspraken schrijven. Metikoš benadrukt dat dergelijke systemen verstrekkende gevolgen kunnen hebben in zaken over voogdij, gevangenisstraffen en uitkeringen.

In Nederland zijn er pilots geweest waarbij AI in eenvoudige zaken werd ingezet om uitspraken te schrijven, maar de toepassing gaat hier nog niet veel verder. Profileringssystemen worden wel al veelvuldig gebruikt, bijvoorbeeld door de reclassering. Internationaal lopen China en Brazilië voorop in het gebruik van AI binnen de rechtspraak. Brazilië beschikt bovendien over uitgebreide en gedetailleerde wetgeving specifiek gericht op dit gebruik, wat het volgens Metikoš tot een interessanter voorbeeld maakt dan China, waar regulering achterblijft.

Een van de centrale problemen die Metikoš beschrijft, is dat burgers allerlei vragen kunnen hebben over de werking van AI in hun zaak, zoals waarom een systeem een bepaalde uitspraak schreef, waarom iemand een bepaald recidivepercentage kreeg toegewezen, of welke zaken ter vergelijking werden gebruikt en welke niet. Zonder inzicht in de onderliggende logica zijn zij niet in staat fouten op te sporen of beslissingen aan te vechten. Dat raakt direct aan de procedurele rechtvaardigheid: de mate waarin mensen het proces en de besluitvorming als eerlijk ervaren.

Metikoš wijst er ook op dat het technisch soms moeilijk of zelfs onmogelijk kan zijn om een AI-systeem volledig te doorgronden. De grootste AI-modellen kunnen zich gedragen op een manier die voor mensen onlogisch en onnavolgbaar is. Toch is transparantie volgens hem onmisbaar. Wanneer burgers worden gereduceerd tot een reeks factoren waar zij geen weet van hebben en waarop zij niet kunnen reageren, worden zij volgens Metikoš niet serieus genomen in de procedure. “Het getuigt van een gigantisch gebrek aan respect als dat niet gebeurt”, aldus de onderzoeker.