UvA onderzoekt invloed van AI op visuele representaties van gender

Generatieve AI wordt steeds vaker ingezet voor het maken van beelden, maar het is nog grotendeels onduidelijk hoe deze systemen werken – en in welke mate ze bevooroordeeld zijn, bijvoorbeeld op het gebied van gender. Een interdisciplinair team van UvA-onderzoekers gaat dit onderzoeken binnen het project Visual Imaginaries of Gender: The potentials and limitations of GenAI, in samenwerking met onder meer het Sandberg Instituut en Studio Bertels.

Volgens informaticus Nanne van Noord is het aannemelijk dat AI-systemen mannelijke beelden genereren wanneer er geen specifieke voorkeur voor gender wordt aangegeven. ‘Dat is al eerder onderzocht. Maar hoe werkt dit in culturele en historische contexten? Bijvoorbeeld: is het makkelijker voor AI om een man in een historisch vrouwelijke rol te genereren dan een vrouw als generaal in een Romeins leger? Die vraag staat centraal in dit project.’

De onderzoeksgroep bestaat uit Van Noord (Faculteit der Natuurwetenschappen, Wiskunde en Informatica), sociaal- en cultuurpsycholoog Eftychia Stamkou (Faculteit Maatschappij- en Gedragswetenschappen) en historicus Melvin Wevers (Faculteit der Geesteswetenschappen). Partners buiten de universiteit zijn de Hogeschool van Amsterdam, het Sandberg Instituut en Studio Bertels.

Het onderzoek maakt deel uit van het UvA-brede thema Responsible Digital Transformations, gericht op de maatschappelijke, juridische en ethische impact van digitale technologie. Door middel van workshops met kunstenaars en ontwerpers wordt onderzocht hoe generatieve AI bijdraagt aan – of juist beperkt – hoe gender visueel wordt verbeeld.

Van Noord: ‘De technologie is breed beschikbaar en wordt inmiddels ingezet in advertenties, media en kunst. Maar wat precies de invloed is van AI op die beelden, is nog onduidelijk. Door met makers samen te werken, hopen we dat beter te begrijpen – en uiteindelijk bij te dragen aan inclusieve, creatieve tools voor onderzoek, onderwijs en kunst.’

Lees meer over het project op de website van de UvA.