Sandjai Bhulai, hoogleraar Business Analytics aan de VU, opende het symposium met een treffende demonstratie. Hij vroeg AI-software portretten te genereren van artsen en bestuursvoorzitters. Het resultaat: uitsluitend witte mannen van middelbare leeftijd. Bij financieel adviseurs verschenen tien mannen met stropdas, terwijl de enige vrouw werd afgebeeld met blote armen en blond golvend haar. Bhulai benadrukte dat deze beelden niet het gevolg zijn van fundamentele fouten in algoritmes, maar van vooroordelen in de trainingsdata.

De hoogleraar, die bedrijven helpt met datagestuurde besluitvorming, presenteerde concrete voorbeelden uit de gezondheidszorg. Bij studies naar pijnherkenning worden algoritmes gevormd door historische data uit periodes waarin pijn bij vrouwen minder serieus werd genomen. Dit leidt ertoe dat vrouwen soms minder pijnstilling krijgen dan nodig. Ook zuurstofmetingen vormen een probleem: deze worden meestal uitgevoerd op een witte huid, waardoor de resulterende data niet representatief zijn voor mensen met een donkere huidskleur.

Bhulai stelde dat algoritmes de samenleving een spiegel voorhouden. Onderzoek laat zien dat vrouwen minder online tech-advertenties te zien krijgen en dat wanneer applicaties bepalen wie recht heeft op salarisverhoging of promotie, vrouwen aanzienlijk lager scoren dan mannen. Na de presentatie volgde een rondetafelgesprek met VU-wetenschappers over de praktische gevolgen van deze technologische vooroordelen. Het symposium trok opvallend genoeg niet alleen de traditioneel grote groep vrouwelijke bezoekers, maar dit keer ook mannen in groten getale.