< Terug naar nieuws
In het rapport haalt de toezichthouder data aan over het aantal geregistreerde AI-incidenten. Dat is vertienvoudigd. Het gaat om wereldwijde cijfers, afkomstig van de Organisatie voor Economische Samenwerking en Ontwikkeling. Het vermoeden is dat het slechts gaat om een topje van de ijsberg.
In het rapport pleit de Autoriteit Persoonsgegevens voor een Deltaplan voor 2030, om algoritmes en AI onder controle te krijgen. "Het betekent allereerst dat mensen die werken met AI ondersteund gaan worden, bijvoorbeeld politieagenten, docenten en artsen. Zij moeten goed snappen hoe algoritmes en AI werken, wat de sterke en wat de zwakke punten zijn", zegt Stevenson. 
29 december 2023
Zorgen bij toezichthouder over risico’s AI, weinig zicht op incidenten
De risico's van het gebruik van kunstmatige intelligentie (AI) zijn dit jaar sterk toegenomen, waarschuwt de Autoriteit Persoonsgegevens in zijn eerste jaarrapport over AI.
De zorgen betreffen met name de opkomst van generatieve AI, technologie die op basis van een opdracht tekst, afbeeldingen of foto's genereert. Een bekend voorbeeld hiervan is ChatGPT.
"Wat algoritmes doen, is dat ze voorspellen. Ze delen mensen in in groepen of ze profileren ze", zegt Sven Stevenson, programmadirecteur AI bij de Autoriteit Persoonsgegevens in gesprek met de NOS. "En dat brengt het risico mee dat de uitkomst voor jou oneerlijk is. Dat je soms wordt gediscrimineerd. Of dat je zelfs fysieke risico's hebt."
Gevraagd naar een voorbeeld waarbij het met AI fout gaat, verwijst Stevenson naar scanauto's die rondrijden in gemeenten en op basis van een kenteken controleren of er wel wordt betaald voor een parkeerplek. "Dat pakt soms helemaal verkeerd uit. Mensen die honderden parkeerboetes krijgen van één incident omdat die scanauto maar langs blijft rijden."
Wereldwijd grote stijging AI-incidenten
In het rapport haalt de toezichthouder data aan over het aantal geregistreerde AI-incidenten. Dat is vertienvoudigd. Het gaat om wereldwijde cijfers, afkomstig van de Organisatie voor Economische Samenwerking en Ontwikkeling. Het vermoeden is dat het slechts gaat om een topje van de ijsberg.
Nederlandse cijfers zijn er niet. "Het eerlijke antwoord is dat we dat gewoon heel slecht weten", zegt Stevenson. Dat is zorgelijk, erkent hij. "Daar gaan we wel met z'n allen mee aan de slag. Maar het is wat dat betreft ook echt een oproep aan burgers en bedrijven: als er iets aan de hand is waarvan iemand het gevoel heeft van: 'hee dit klopt niet, dit is raar', stel dan de vraag of controleer of er een algoritme in het spel is."
Deltaplan 2030
In het rapport pleit de Autoriteit Persoonsgegevens voor een Deltaplan voor 2030, om algoritmes en AI onder controle te krijgen. "Het betekent allereerst dat mensen die werken met AI ondersteund gaan worden, bijvoorbeeld politieagenten, docenten en artsen. Zij moeten goed snappen hoe algoritmes en AI werken, wat de sterke en wat de zwakke punten zijn", zegt Stevenson.
En misschien wel het belangrijkst: het betekent volgens de toezichthouder dat burgers straks moeten begrijpen hoe een besluit van een AI-systeem tot stand is gekomen. "Dat er bijvoorbeeld in zo'n brief staat 'het AI-systeem was een bepalende factor in de voorbereiding van dit besluit'", zegt Stevenson.
De waakhond noemt de komst van de Europese AI Act een belangrijke mijlpaal. Maar dat het toezicht in Nederland nog in de kinderschoenen staat, is af te lezen aan de grootte van het coördinerende AI-team binnen de Autoriteit Persoonsgegevens. Er zijn zeven mensen mee bezig, inclusief Stevenson. Volgend jaar moet dit aantal verdubbelen. Wel wordt benadrukt dat het hier gaat om 'pionierswerk', het team is een van de eerste in Europa.
Vergelijkbaar >
Vergelijkbare nieuwsitems
14 November 2024
Interview: KPN Responsible AI Lab met Gianluigi Bardelloni en Eric Postma
ICAI's Interview featured deze keer Gianluigi Bardelloni en Eric Postma, zij praten over de ontwikkelingen in hun ICAI Lab.
Lees meer >
13 November
Wist je dat dit jaar 13 AI-pilots lopen bij de FNWI?
De opkomst van Genatieve Kunstmatige Intelligentie (GenAI) heeft een aanzienlijke impact op het academisch onderwijs. Daarom is het Teaching & Learning Center Science een project gestart om GenAI, en met name ChatGPT, te integreren in het onderwijsproces.
Lees meer >
13 november
Toekomstscenario's schrijven met de nieuwsindustrie: Drie lessen van de Digital Growth Summit
Dit artikel, afkomstig van ai4dem.nl, bespreekt de inzichten van Professor Natali Helberger en Dr. Hannes Cools tijdens de Digital Growth Summit in Brussel, georganiseerd door Twipe. Tijdens dit evenement stond de impact van Generative AI op de nieuwsindustrie centraal. Helberger en Cools delen drie belangrijke lessen uit de workshop Toekomstscenario's Schrijven, waarin de toekomstige ontwikkelingen van de nieuwssector werden verkend.
Lees meer >