De subcommissie concludeert dat datagedreven profilering en geautomatiseerde risicoselectie door overheidsorganisaties de afgelopen jaren sterk zijn toegenomen, terwijl meerdere voorbeelden aantonen dat deze praktijken leiden tot discriminatie van grote groepen burgers, met ingrijpende gevolgen voor mens en maatschappij. Toezichthouders als de Autoriteit Persoonsgegevens en het College voor de Rechten van de Mens hebben herhaaldelijk gewezen op onrechtmatige en discriminerende gegevensverwerking en op de toenemende complexiteit door algoritmes en AI. Toch heeft de overheid haar profileringspraktijken voortgezet.

Ghebreab legt uit dat overheidsorganisaties datagedreven profilering zijn gaan zien als een efficiënte vorm van handhaving: met beperkte capaciteit toch veel overtreders opsporen. Dit idee wordt versterkt door politieke druk om fraude aan te pakken en door de behoefte om grote overheidssystemen beheersbaar te houden. Een breed techno-optimisme over de mogelijkheden van AI en data speelt hierbij een rol, maar brengt risico’s met zich mee wanneer kritische reflectie ontbreekt. Ook de maatschappelijke context is van belang: een verhard klimaat rondom fraude en misbruik van sociale voorzieningen, mede gevoed door incidenten zoals de ‘Bulgarenfraude’ in 2013, heeft geleid tot strengere controlepraktijken waarbij de risico’s op discriminatie onvoldoende zijn onderkend.

De gevolgen van deze praktijken zijn in de praktijk zeer groot gebleken. De toeslagenaffaire is het meest indringende voorbeeld, waarbij onder meer op basis van nationaliteit werd bepaald wie als risicovol gold en intensief gecontroleerd werd. Bij de controle op de uitwonendenbeurs door DUO bleek bovendien dat studenten met een migratieachtergrond vaker werden geselecteerd voor controle. Zulke praktijken hebben grote impact op het leven van mensen, financieel, sociaal en psychologisch. Ghebreab benadrukt dat deze voorbeelden waarschijnlijk slechts het topje van de ijsberg zijn, omdat veel profilering plaatsvindt buiten het zicht van burgers in systemen die voor hen niet transparant zijn. Transparantie over en registratie van deze systemen door de overheid blijft achter, waardoor onduidelijk is hoe vaak en op welke manier profilering wordt toegepast.

De subcommissie stelt dat profilering een uitdijend en moeilijk te begrenzen fenomeen is, waarbij de overheid in de praktijk vaak pragmatisch handelt. Getoetst aan principes van de rechtsstaat, democratische legitimiteit en goed bestuur, acht de commissie deze situatie onhoudbaar en pleit zij voor principiële maatregelen om verdere schade te voorkomen.