Amsterdam zet sterk in op de verantwoorde ontwikkeling van AI. Hoe zorgen we ervoor dat AI-systemen eerlijk, transparant en controleerbaar blijven? En wie is verantwoordelijk als een systeem verkeerde of schadelijke uitkomsten geeft? Arno Lodder is hoogleraar Internet Governance and Regulation aan de Vrije Universiteit Amsterdam. Volgens Lodder blijven ethische richtlijnen, zonder een sterk juridisch kader daarbij te vrijblijvend: \u201cMet ethiek alleen redden we het niet\u201d. <\/p>\n","nieuwsbericht":"
Voor Lodder is AI geen nieuw thema. Al in de jaren negentig deed hij juridisch onderzoek binnen een informaticaproject. Wat nu verandert, is vooral de praktische doorwerking. \u201cHeel lang waren het vooral voorspellingen en theorie. Nu werkt het ook in de praktijk\u201d, zegt hij. Dat maakt de discussie over recht en verantwoordelijkheid urgenter dan voorheen.
Juist daarom moet volgens Lodder al vroeg worden nagedacht over de inzet van AI. Hij ziet te vaak dat organisaties meedoen omdat een technologie nieuw is, zonder scherp te formuleren welk probleem zij ermee oplossen. \u201cEr wordt niet echt kritisch nagedacht aan de voorkant over wat je nu eigenlijk denkt te kunnen bereiken. Dat vind ik zorgelijk.\u201d
The black box<\/strong><\/p>\n Een belangrijk probleem bij AI is dat systemen vaak moeilijk te doorgronden zijn. Het is niet altijd duidelijk hoe een uitkomst tot stand is gekomen. Dit wordt ook wel de \u2018black box\u2019 genoemd. Voor Lodder is dat niet alleen een technisch probleem, maar ook een maatschappelijk en juridisch vraagstuk. \u201cHet is vaak niet eens duidelijk waarom het op die manier gaat. Die black box vind ik best zorgelijk bij AI-toepassingen, ook ethisch gezien.\u201d Zonder uitleg is het lastig om verantwoordelijkheid aan te wijzen. <\/p>\n Die verantwoordelijkheid ligt volgens Lodder niet bij \u00e9\u00e9n partij. Ontwikkelaars, organisaties, gebruikers en overheden spelen allemaal een rol. Toch ziet hij dat de aandacht in regelgeving vaak sterk ligt op de gebruiker van een systeem. \u201cIn algemene zin wordt in regelgeving te weinig gekeken naar de ontwikkelaar. De verantwoordelijkheid wordt veel bij de gebruiker gelegd.\u201d Terwijl juist ontwikkelaars aan het begin al belangrijke keuzes maken. Zij bepalen met welke data wordt gewerkt, welke aannames in het systeem zitten en welke doelen technisch worden ingebouwd. <\/p>\n Kritisch denken<\/strong><\/p>\n Ook vooroordelen vormen een risico. AI-systemen worden vaak getraind op bestaande data. Als die data ongelijkheid of stereotypen bevatten, kan een systeem die patronen overnemen of zelfs versterken. Lodder illustreert dit met het voorbeeld van autoverzekeringen in de Verenigde Staten. Daar werd de premie in sommige gevallen mede bepaald door de manier waarop mensen hun creditcardrekeningen betaalden. <\/p>\n Mensen met minder financi\u00eble ruimte konden daardoor een hogere premie krijgen, niet omdat zij onveiliger reden, maar omdat hun betaalgedrag als risicosignaal werd gebruikt. Volgens Lodder is dat problematisch: \u201cDat heeft op zich niks met je rijgedrag te maken.\u201d Het voorbeeld laat zien dat een AI-systeem ogenschijnlijk neutraal kan rekenen, terwijl het in feite sociale ongelijkheid vertaalt naar financi\u00eble benadeling. Het probleem ontstaat dus niet pas op het moment dat AI wordt gebruikt, maar al veel eerder: bij het ontwerp van het systeem en bij de selectie van de data waarop beslissingen worden gebaseerd. <\/p>\n Daarom begint verantwoorde AI volgens Lodder met kritisch kijken naar de basis. Welke data gebruiken we? Waarom gebruiken we die data? Welke groepen ontbreken misschien? En wie controleert of de uitkomsten kloppen? AI mag niet worden behandeld als een systeem dat vanzelf objectieve antwoorden geeft. Lodder benadrukt daarom het belang van de \u201cwaarom-vraag\u201d: \u201cWaarom wil je bepaalde AI gebruiken?\u201d Volgens hem moeten organisaties \u201ckritischer nadenken over wat ze willen bereiken\u201d voordat ze AI inzetten. Menselijke controle en kritische vragen zijn daarbij noodzakelijk, omdat anders het risico bestaat dat systemen worden gebruikt zonder dat duidelijk is welk probleem ze eigenlijk oplossen. <\/p>\n Menselijke controle en kritische vragen zijn daarbij noodzakelijk, omdat anders het risico bestaat dat systemen worden gebruikt zonder dat duidelijk is welk probleem ze eigenlijk oplossen.<\/p>\n Europese AI-verordening<\/strong><\/p>\n De Europese AI-verordening probeert hier meer grip op te krijgen. AI-systemen worden daarin ingedeeld in risicocategorie\u00ebn. Dat vindt Lodder een goede ontwikkeling, omdat organisaties vooraf moeten nadenken over de gevolgen van hun technologie. Toch ziet hij ook beperkingen. De wet kijkt sterk naar sectoren en toepassingen. Een AI-systeem in het onderwijs kan bijvoorbeeld als hoog risico worden gezien, terwijl sommige toepassingen daar vrij onschuldig zijn. Andersom kunnen er buiten die categorie\u00ebn systemen bestaan die w\u00e9l grote risico\u2019s hebben. <\/p>\n Lodder pleit daarom voor een bredere benadering. Niet alleen de sector moet bepalen hoe streng de regels zijn, maar vooral de mogelijke impact. \u201cWat mij betreft zou je dat meer generiek moeten insteken en niet op een bepaald type toepassing\u201d, zegt hij. Wat gebeurt er als het systeem fouten maakt? Wie kan daardoor geraakt worden? En hoe afhankelijk zijn mensen van de uitkomst? <\/p>\n Een ander belangrijk punt is toezicht. Regels zijn pas waardevol als ze ook goed worden gecontroleerd. Daar ligt volgens Lodder een uitdaging. Toezichthouders moeten genoeg kennis, capaciteit en toegang hebben om AI-systemen echt te kunnen beoordelen. Anders bestaat het risico dat organisaties vooral bezig zijn met formulieren, procedures en documenten, terwijl er in de praktijk weinig verandert. \u201cDan krijg je een soort papieren werkelijkheid\u201d, zegt hij, \u201czonder echt na te denken over waar het over zou moeten gaan.\u201d <\/p>\n Lodders boodschap is duidelijk: AI vraagt niet alleen om slimme technologie, maar ook om duidelijke spelregels. Ethiek helpt om te bepalen wat wenselijk en verantwoord is. Maar wanneer vrijwillige afspraken tekortschieten, moet het recht grenzen stellen. Alleen zo kunnen transparantie, verantwoordelijkheid en grondrechten ook in de praktijk worden beschermd. <\/p>\n Interview door Bodiel Siebers<\/em><\/p>\n","text_externe_bron":"Vind hier meer informatie over Arno Lodder's onderzoeken:","link_externe_bron":"https:\/\/research.vu.nl\/en\/persons\/arno-r-lodder\/","referentie":""},"nieuws-tax":[],"class_list":["post-5566","nieuws","type-nieuws","status-publish","has-post-thumbnail","hentry"],"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/nieuws\/5566","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/nieuws"}],"about":[{"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/types\/nieuws"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/media\/5565"}],"wp:attachment":[{"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/media?parent=5566"}],"wp:term":[{"taxonomy":"nieuws-tax","embeddable":true,"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/nieuws-tax?post=5566"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}