AI-systemen zoals chatbots worden steeds vaker ingezet in gevoelige sectoren zoals de openbare dienstverlening en de gezondheidszorg. Om betrouwbaar te zijn, moeten deze systemen niet alleen onveilig gedrag vermijden, maar ook reageren op een manier die aansluit bij menselijke waarden, zoals veiligheid en autonomie. Dat stelt specifieke eisen aan hoe zulke systemen omgaan met de diversiteit aan behoeften en voorkeuren van gebruikers.

Een structureel probleem is dat AI-systemen leren van grote hoeveelheden online data, waardoor ze vaak de meest gangbare meningen en denkwijzen weerspiegelen in plaats van zich aan te passen aan de individuele persoon. In alledaagse situaties levert dat soms een algemeen antwoord op dat niet helemaal aansluit bij iemands situatie. In meer gevoelige contexten kunnen de gevolgen ernstiger zijn. Zo stelde de Autoriteit Persoonsgegevens voorafgaand aan de laatste Nederlandse verkiezingen vast dat populaire chatbots onevenredig veel aandacht besteedden aan de grootste politieke partijen, terwijl kleinere partijen nauwelijks werden genoemd.

Liscio stelt dat de sleutel tot een oplossing ligt in het herkennen van menselijke waarden. Waarden als autonomie, veiligheid, rechtvaardigheid of respect voor traditie spelen een belangrijke rol bij de keuzes die mensen maken, maar zijn voor AI moeilijk te identificeren. “Waarden verschillen van persoon tot persoon, veranderen afhankelijk van de situatie en worden vaak niet expliciet uitgesproken,” zegt Liscio. “Mensen zijn zich bovendien niet altijd bewust van hun eigen waarden totdat ze daar bewust over nadenken.”

In eerder onderzoek ontwikkelde Liscio, samen met een interactieontwerper, een prototype waarmee werd onderzocht hoe gebruikers via chatbot-interfaces over hun waarden konden nadenken en deze konden communiceren. Voortbouwend op die inzichten zal zijn Veni-project nieuwe methoden ontwikkelen waarmee taalmodellen de waarden van gebruikers uit gesprekken kunnen herkennen en reacties kunnen genereren die beter aansluiten bij wat voor hen belangrijk is, terwijl het systeem transparant blijft en gebruikers de controle behouden. Daarbij combineert hij technische AI-ontwikkeling met experimenten met echte gebruikers.

Liscio test zijn aanpak op twee toepassingsgebieden. Het eerste betreft stemadvies: politieke voorkeuren hangen vaak samen met verschillende waardeprioriteiten, en een beter begrip van die waarden kan helpen transparanter advies te geven dat mensen ondersteunt bij het nadenken over hun eigen voorkeuren. Het tweede toepassingsgebied richt zich op lifestyle-coaching voor mensen met diabetes, waarbij persoonlijke afwegingen tussen gezondheid, zelfstandigheid en dagelijkse routines een centrale rol spelen. Een AI-systeem dat deze verschillen begrijpt, kan in beide gevallen gerichter en relevanter ondersteuning bieden.