In haar essay, getiteld “De mens als opdrachtgever”, stelt Nanda Piersma dat de huidige hype rond AI-technologie ons soms doet vergeten wat we echt willen oplossen. In plaats van technologie te ontwikkelen puur om het bestaan ervan, moeten we nadenken over de daadwerkelijke problemen die AI moet aanpakken. Zo vraagt Piersma zich af waarom we in sommige situaties AI inzetten, terwijl low-tech oplossingen zoals een klaphek bij een supermarkt net zo effectief zouden kunnen zijn.

Piersma geeft voorbeelden van hoe AI soms onnodig wordt toegepast, zoals in slimme koelkasten met camera’s die vragen oproepen rondom privacy. Ze waarschuwt dat het blind volgen van de hype meer ethische problemen veroorzaakt dan het oplost. Daarbij benadrukt ze dat half-afgemaakte AI-systemen, zoals gezichtsherkenningstechnologie die enkel witte gezichten herkent, uiteindelijk meer schade aanrichten dan dat ze helpen.

Verantwoorde AI, volgens Piersma, kan alleen ontstaan door co-creatie met ondernemers en ontwerpers, waarbij de mens centraal staat als opdrachtgever in plaats van enkel gebruiker. Dit vraagt om innovatie die niet alleen technisch vooruitstrevend is, maar ook ethisch verantwoord en afgestemd op de behoeften van de mens.