We vroegen ChatGPT na te denken over zijn waarden

ChatGPT haalt al weken het nieuws, met artikelen die variëren van zorgen over het mogelijke verlies van banen tot het gevaar dat ChatGPT overtuigend kan liegen. Max Kortlander, werkzaam bij Waag Futurelab, vroeg ChatGPT naar zijn waarden en hoe deze overeenkwamen met publieke waarden als openheid, eerlijkheid en inclusiviteit. ChatGPT antwoordde dat er verschillende manieren zijn om ervoor te zorgen dat AI wordt ontwikkeld en gebruikt in overeenstemming met publieke waarden, waaronder het ontwikkelen en bevorderen van ethische richtlijnen, het bevorderen van transparantie en uitlegbaarheid, het aanmoedigen van diverse deelname, het benadrukken van verantwoordingsplicht, het ondersteunen van onderzoek en onderwijs en het bevorderen van de publieke dialoog. Op de vraag of ChatGPT zelf in overeenstemming met deze waarden is ontwikkeld en gebruikt, antwoordde zij dat OpenAI verschillende stappen heeft ondernomen om ervoor te zorgen dat haar modellen in overeenstemming zijn met algemeen aanvaarde waarden en beginselen, maar dat er altijd ruimte is voor verbetering. Op de vraag in welk opzicht het niet open, eerlijk en inclusief is, antwoordde ChatGPT ten slotte dat het als AI-model dat op een grote dataset van tekst is getraind, onderworpen is aan de beperkingen van die gegevens en dat het verbeteren van de eerlijkheid en inclusiviteit van AI-systemen een continu proces is dat voortdurend toezicht en verbetering vereist.