Voor Lodder is AI geen nieuw thema. Al in de jaren negentig deed hij juridisch onderzoek binnen een informaticaproject. Wat nu verandert, is vooral de praktische doorwerking. “Heel lang waren het vooral voorspellingen en theorie. Nu werkt het ook in de praktijk”, zegt hij. Dat maakt de discussie over recht en verantwoordelijkheid urgenter dan voorheen.
AI-systemen worden ontwikkeld door mensen en organisaties die keuzes maken. Welke data worden gebruikt? Welke doelen krijgt een systeem mee? En op basis waarvan komt een uitkomst tot stand? Die keuzes zijn niet neutraal. Ze kunnen grote gevolgen hebben voor burgers, bijvoorbeeld wanneer AI wordt gebruikt bij onderwijs, werk of in de zorg.

Juist daarom moet volgens Lodder al vroeg worden nagedacht over de inzet van AI. Hij ziet te vaak dat organisaties meedoen omdat een technologie nieuw is, zonder scherp te formuleren welk probleem zij ermee oplossen. “Er wordt niet echt kritisch nagedacht aan de voorkant over wat je nu eigenlijk denkt te kunnen bereiken. Dat vind ik zorgelijk.”
Ethiek overlaten aan alleen de ontwikkelaars vindt Lodder daarom geen goed idee: “Uiteindelijk willen bedrijven die technologie gebruiken winst maken. Op het moment dat ethiek niet bijdraagt aan die winst, zullen ze er minder in geïnteresseerd zijn”. Juist daarom zijn regels nodig die afdwingbaar zijn. Niet om innovatie tegen te houden, maar om duidelijke grenzen te stellen.

The black box

Een belangrijk probleem bij AI is dat systemen vaak moeilijk te doorgronden zijn. Het is niet altijd duidelijk hoe een uitkomst tot stand is gekomen. Dit wordt ook wel de ‘black box’ genoemd. Voor Lodder is dat niet alleen een technisch probleem, maar ook een maatschappelijk en juridisch vraagstuk. “Het is vaak niet eens duidelijk waarom het op die manier gaat. Die black box vind ik best zorgelijk bij AI-toepassingen, ook ethisch gezien.” Zonder uitleg is het lastig om verantwoordelijkheid aan te wijzen.

Die verantwoordelijkheid ligt volgens Lodder niet bij één partij. Ontwikkelaars, organisaties, gebruikers en overheden spelen allemaal een rol. Toch ziet hij dat de aandacht in regelgeving vaak sterk ligt op de gebruiker van een systeem. “In algemene zin wordt in regelgeving te weinig gekeken naar de ontwikkelaar. De verantwoordelijkheid wordt veel bij de gebruiker gelegd.” Terwijl juist ontwikkelaars aan het begin al belangrijke keuzes maken. Zij bepalen met welke data wordt gewerkt, welke aannames in het systeem zitten en welke doelen technisch worden ingebouwd.

Kritisch denken

Ook vooroordelen vormen een risico. AI-systemen worden vaak getraind op bestaande data. Als die data ongelijkheid of stereotypen bevatten, kan een systeem die patronen overnemen of zelfs versterken. Lodder illustreert dit met het voorbeeld van autoverzekeringen in de Verenigde Staten. Daar werd de premie in sommige gevallen mede bepaald door de manier waarop mensen hun creditcardrekeningen betaalden.

Mensen met minder financiële ruimte konden daardoor een hogere premie krijgen, niet omdat zij onveiliger reden, maar omdat hun betaalgedrag als risicosignaal werd gebruikt. Volgens Lodder is dat problematisch: “Dat heeft op zich niks met je rijgedrag te maken.” Het voorbeeld laat zien dat een AI-systeem ogenschijnlijk neutraal kan rekenen, terwijl het in feite sociale ongelijkheid vertaalt naar financiële benadeling. Het probleem ontstaat dus niet pas op het moment dat AI wordt gebruikt, maar al veel eerder: bij het ontwerp van het systeem en bij de selectie van de data waarop beslissingen worden gebaseerd.

Daarom begint verantwoorde AI volgens Lodder met kritisch kijken naar de basis. Welke data gebruiken we? Waarom gebruiken we die data? Welke groepen ontbreken misschien? En wie controleert of de uitkomsten kloppen? AI mag niet worden behandeld als een systeem dat vanzelf objectieve antwoorden geeft. Lodder benadrukt daarom het belang van de “waarom-vraag”: “Waarom wil je bepaalde AI gebruiken?” Volgens hem moeten organisaties “kritischer nadenken over wat ze willen bereiken” voordat ze AI inzetten. Menselijke controle en kritische vragen zijn daarbij noodzakelijk, omdat anders het risico bestaat dat systemen worden gebruikt zonder dat duidelijk is welk probleem ze eigenlijk oplossen.

Menselijke controle en kritische vragen zijn daarbij noodzakelijk, omdat anders het risico bestaat dat systemen worden gebruikt zonder dat duidelijk is welk probleem ze eigenlijk oplossen.

Europese AI-verordening

De Europese AI-verordening probeert hier meer grip op te krijgen. AI-systemen worden daarin ingedeeld in risicocategorieën. Dat vindt Lodder een goede ontwikkeling, omdat organisaties vooraf moeten nadenken over de gevolgen van hun technologie. Toch ziet hij ook beperkingen. De wet kijkt sterk naar sectoren en toepassingen. Een AI-systeem in het onderwijs kan bijvoorbeeld als hoog risico worden gezien, terwijl sommige toepassingen daar vrij onschuldig zijn. Andersom kunnen er buiten die categorieën systemen bestaan die wél grote risico’s hebben.

Lodder pleit daarom voor een bredere benadering. Niet alleen de sector moet bepalen hoe streng de regels zijn, maar vooral de mogelijke impact. “Wat mij betreft zou je dat meer generiek moeten insteken en niet op een bepaald type toepassing”, zegt hij. Wat gebeurt er als het systeem fouten maakt? Wie kan daardoor geraakt worden? En hoe afhankelijk zijn mensen van de uitkomst?

Een ander belangrijk punt is toezicht. Regels zijn pas waardevol als ze ook goed worden gecontroleerd. Daar ligt volgens Lodder een uitdaging. Toezichthouders moeten genoeg kennis, capaciteit en toegang hebben om AI-systemen echt te kunnen beoordelen. Anders bestaat het risico dat organisaties vooral bezig zijn met formulieren, procedures en documenten, terwijl er in de praktijk weinig verandert. “Dan krijg je een soort papieren werkelijkheid”, zegt hij, “zonder echt na te denken over waar het over zou moeten gaan.”

Lodders boodschap is duidelijk: AI vraagt niet alleen om slimme technologie, maar ook om duidelijke spelregels. Ethiek helpt om te bepalen wat wenselijk en verantwoord is. Maar wanneer vrijwillige afspraken tekortschieten, moet het recht grenzen stellen. Alleen zo kunnen transparantie, verantwoordelijkheid en grondrechten ook in de praktijk worden beschermd.

Interview door Bodiel Siebers