De Britse overheid werkt aan een AI-project dat tot doel heeft om op basis van historische data en persoonlijke gegevens te voorspellen wie een verhoogd risico vormt voor het plegen van een ernstige geweldsmisdaad. Volgens berichtgeving van The Guardian, en bevestigd via documenten verkregen door actiegroep Statewatch, wil het ministerie van Justitie hiermee publieke veiligheid verbeteren.

Het project maakt gebruik van informatie van personen die al bekend zijn bij de autoriteiten, waaronder ook gegevens over geestelijke gezondheid, verslaving en suïcidale neigingen. Op basis hiervan wil men ‘potentiële moordenaars’ identificeren. De aanpak roept stevige ethische en juridische vragen op. Onderzoeker Sofia Lyall (Statewatch) stelt dat dergelijke systemen de structurele vooroordelen binnen het strafrecht kunnen versterken.

Hoewel voorspellende politietechnologie niet nieuw is, blijft het gebruik ervan uiterst controversieel. Volgens Statewatch is dit project “huiveringwekkend en dystopisch”. Ook in andere landen is zorgen geuit. In Nederland waarschuwde de Algemene Rekenkamer in 2022 voor het gebruik van het Criminaliteit Anticipatie Systeem (CAS), waarin mogelijk onwenselijke vooroordelen over bepaalde groepen kunnen zijn ingebouwd. Toch wordt CAS nog altijd ingezet.

Het Britse ministerie benadrukt dat het project zich in de onderzoeksfase bevindt en dat enkel gegevens van veroordeelden worden gebruikt, met het oog op risico-inschatting tijdens hun proeftijd. Toch ligt het initiatief onder een vergrootglas, zeker met het oog op de Europese AI-verordening, waarin predictive policing wordt aangemerkt als een ‘onaanvaardbaar risico’. In de EU zal dit soort AI-gebruik daarom worden verboden.