Een internationaal onderzoeksteam heeft een nieuwe, representatief samengestelde fotodataset ontwikkeld om te testen hoe eerlijk AI-systemen omgaan met het herkennen en labelen van mensen. De verzameling toont hoe huidige modellen presteren in situaties waarin diversiteit een rol speelt.<\/p>\n","nieuwsbericht":"
De discussie over discriminerende algoritmen laaide de afgelopen jaren regelmatig op door voorbeelden waarbij AI mensen onjuist of stigmatiserend labelde. Een bekend incident uit 2015 betrof een foto-app die een Amerikaans stel met een zwarte huidskleur classificeerde als gorilla\u2019s. Ook later onderzoek liet zien dat gezichtsherkenningssystemen moeite hadden met het juist classificeren van bepaalde groepen, zoals zwarte vrouwen, die destijds tot in 35 procent van de gevallen verkeerd werden ingedeeld.<\/p>\n
Sony AI onderzoekt nu of systemen in 2025 nog steeds met dergelijke vooroordelen kampen. Het team ontwikkelde een dataset met meer dan tienduizend foto\u2019s van bijna tweeduizend personen uit 81 landen en regio\u2019s. De beelden zijn gemaakt met toestemming van de geportretteerden, een belangrijk verschil ten opzichte van eerdere datasets die vaak zonder medeweten van personen werden verzameld. De beschrijving van kenmerken zoals houding, huidskleur en gezichtsuitdrukking komt bovendien van de deelnemers zelf, om het risico op verkeerd toegewezen eigenschappen te verkleinen.<\/p>\n
De onderzoekers testten meerdere AI-modellen op herkenning van personen, lichaamshoudingen en gezichtsuitdrukkingen. De systemen bleken over het algemeen goed te presteren, ongeacht huidskleur, leeftijd of gender. Volgens Theo Gevers, hoogleraar computer vision aan de Universiteit van Amsterdam, hangt de detectie van personen vooral af van vormen en contrasten in afbeeldingen. Factoren zoals slechte belichting of een gedeeltelijk bedekt gezicht spelen volgens hem een grotere rol dan etniciteit.<\/p>\n
Toch heeft ook deze dataset beperkingen. Zo zijn bepaalde groepen, waaronder Angolezen, Filipijnen en Indi\u00ebrs, relatief sterk vertegenwoordigd. Sony AI benadrukt dat de set bedoeld is om AI-systemen te testen op vooroordelen, niet om nieuwe modellen mee te trainen. Volgens Gevers vormt het onderzoek een waardevolle stap, maar blijft diversiteit in trainingsdata een complex vraagstuk.<\/p>\n
\n","text_externe_bron":"Lees het volledige artikel in de Volkskrant","link_externe_bron":"https:\/\/www.volkskrant.nl\/wetenschap\/discrimineert-ai-wetenschappers-testten-dat-met-foto-s-van-tweeduizend-wereldburgers~bfffbb1a\/","referentie":""},"nieuws-tax":[],"class_list":["post-3647","nieuws","type-nieuws","status-publish","has-post-thumbnail","hentry"],"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/nieuws\/3647","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/nieuws"}],"about":[{"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/types\/nieuws"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/media\/3649"}],"wp:attachment":[{"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/media?parent=3647"}],"wp:term":[{"taxonomy":"nieuws-tax","embeddable":true,"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/nieuws-tax?post=3647"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}