Je stond aan de wieg van De Digitale Stad. Welke les uit die tijd is nu relevant voor de ontwikkeling van AI?

‘Begin jaren negentig waren we ons er heel bewust van dat er een digitaal publiek domein nodig was. Technologie moest in handen van de samenleving komen. De Digitale Stad was daar een voorbeeld van: een stichting die het initiatief nam, kennis organiseerde en publieke waarden borgde.

Bij AI willen we hetzelfde. De taalmodellen die we nu gebruiken, zijn in eigendom van private bedrijven met geopolitieke motieven en ideologische drijfveren. Dat betekent dat die AI per definitie niet te vertrouwen is. Daar willen we publieke AI tegenover zetten: AI als een nutsvoorziening die beheerd wordt door een non-profitentiteit, zich expliciet houdt aan AI-wetgeving, zorgvuldig is met de data waarop de AI is getraind en transparant is over de “value alignment” en het gedrag van de AI. Op een dergelijk foundational model kunnen bedrijven diensten ontwikkelen. Dat kennen we van Linux, het operating system van het internet. 97% van het internet draait op Linux, een nutsvoorziening met een groot ecosysteem van bedrijven die daar diensten op leveren. Van eenpitters tot beursgenoteerde ondernemingen.’

Waarin verschilt de ontwikkeling van AI van de opkomst van het internet?

‘Het internet is ontstaan vanuit open standaarden en gedistribueerde protocollen. Maar het verhaal is veel breder dan de militaire oorsprong van ARPANET. Sociale bewegingen en het creatieve, civiele domein hebben een belangrijke rol gespeeld in het ontstaan van computernetwerken. Dat wordt vaak onvoldoende begrepen. Midden jaren tachtig waren er al vele computernetwerken. Naast PeaceNet, HivNet, GreenNet en het Antenna-netwerk was er ook een levendige BBS-cultuur. Discussiegroepen, chat, games, user-generated content, avatars, profielpagina’s, aanbevelingsalgoritmes: ze werden bedacht, ontwikkeld en beheerd door creatieve makers en maatschappelijke organisaties, niet door de IT-industrie.

Bij de AI-ontwikkeling zie je hoe snel kapitaalpartijen zich erop hebben gestort. Rond het internet bouwde die commerciële invloed zich geleidelijk op. Nu gaat het meteen om miljarden en daardoor om een sterke concentratie van macht. Er is weinig over van die oorspronkelijke gedachte van een gemeenschappelijke voorziening. Het is het feest van het venture capital. Of eerder een bacchanaal. De vraag is wie wie opeet. Er tekent zich nu al een grote crash af.’

“Het is het feest van het venture capital. Of eerder een bacchanaal. De vraag is wie wie opeet.”

Hoe zou je publieke AI kunnen organiseren?

‘We zitten vaak vast in het idee dat technologie óf via bedrijven óf via de staat georganiseerd moet worden. Maar er is nog een andere mogelijkheid: de commons, gemeenschappelijke voorzieningen die je gezamenlijk beheert. Denk aan een stichting of een trust waarin je publieke belangen borgt.

Die gedachte kennen we bijvoorbeeld van Linux en van de open standaarden van het web. We hebben dus voorbeelden van technologie die op een andere manier wordt georganiseerd. Als je die noemt, beginnen mensen te zien dat er meer mogelijk is dan alleen de benadering van start-ups, scale-ups en unicorns.’

Welke onderdelen van de AI-infrastructuur zouden een publieke voorziening moeten zijn?

‘Allereerst de rekeninfrastructuur. Het heeft weinig zin om overal datacenters te hebben als je daar geen zeggenschap over hebt. Je moet kunnen bepalen voor welke doelen die infrastructuur wordt gebruikt, zoals je ook afspraken maakt over het gebruik van een wegennet.’

Ja, logisch eigenlijk.

‘Daarnaast gaat het om de modellen zelf. Wij maken ons hard voor publieke investeringen in taalmodellen, zodat de Nederlandse taal, Europese talen en ons culturele erfgoed daarin geborgd zijn. Je moet in ieder geval zorgen dat die basis op orde is.

Een derde mogelijkheid is om beschermende lagen rond bestaande AI-systemen te bouwen. Een zogenaamd “harnas”. Daarmee kun je bescherming inbouwen rond het gebruik ervan. Ook dat zou een publieke voorziening kunnen zijn.’

Welke belofte van AI vind je op dit moment overtuigend?

‘Dat het tot de verbeelding spreekt, maakt AI in ieder geval waar. Het is een fascinerend gereedschap. Het idee dat je ergens tegen kunt praten en vervolgens een stuk code krijgt, alsof je ineens zelf een programmeur hebt, spreekt mensen aan. Anderen worden heel enthousiast van het idee dat een agent hun leven kan helpen inrichten. Die fascinatie is er duidelijk.’

En de belofte dat AI ons veel efficiënter maakt?

‘Daar ben ik kritischer over. Op de ene plek ontstaat misschien wat efficiëntie, terwijl er op een andere plek juist meer werk bijkomt. Dat hebben we bij digitalisering vaker gezien. Ook de claim dat je allerlei menselijke intelligentie kunt vervangen, vind ik fundamenteel problematisch. AI is gebaseerd op statistiek. Het heeft geen bewustzijn. Het is en blijft een machine die uitvoert wat het bedrijf erin heeft geprogrammeerd. Zelfs als deze “op hol slaat”. Het begrip “intelligentie” is dan ook zeer verraderlijk. Helemaal als de AI zich ook menselijk gaat voordoen. Je hebt nog steeds het wereldse verstand van mensen nodig om te beoordelen of een AI wel het juiste antwoord geeft.’

“AI is gebaseerd op statistiek. Het heeft geen bewustzijn. Het is en blijft een machine die uitvoert wat het bedrijf erin heeft geprogrammeerd.”

Geldt die kritiek voor alle vormen van AI?

‘Nee, we hebben het nu vooral over generatieve AI en taalmodellen. Die nemen heel veel ruimte in het gesprek in. Maar er zijn ook AI-systemen die onderzoek naar eiwitten ondersteunen of patronen herkennen in complexe beelddata. Die kunnen ook problematisch zijn, maar veel van de vragen rond taalmodellen spelen daar minder sterk. Als we het over democratie hebben, gaat het in dit gesprek vooral over die taalmodellen.’

Wat maakt taalmodellen in dat opzicht zo ingewikkeld?

‘Een taalmodel is niet neutraal. Dat begint bij de data waarop het is getraind. Welke kennis is daarin opgenomen en welke ontbreekt? Daarnaast wordt ook het gedrag van een model gevormd door keuzes over wat wenselijk is. Daar kunnen ideologische opvattingen in zitten.

Je kunt best een aardige vertaling of samenvatting laten maken. Maar bij het gebruik van zo’n systeem komen ook vragen mee die je echt moet begrijpen. Zeker als je het inzet voor publieke taken, moet duidelijk zijn hoe het tot stand is gekomen en wie er verantwoordelijkheid voor neemt.’

Waarover moeten Amsterdammers kunnen meebeslissen als de gemeente een AI-systeem inzet?

‘Bij een taalmodel kun je al beginnen bij de vraag op basis van welke data het wordt getraind. Daar kun je een transparant proces van maken. Vervolgens gaat het ook om wat value alignment wordt genoemd: de keuzes waarmee je het gedrag van een AI afstemt op bepaalde waarden.

Veel mensen weten niet eens dat dat gebeurt. Je moet dus ook zorgen dat die kennis in het maatschappelijke domein aanwezig is. Daarna kun je bekijken hoe je mensen bij die keuzes betrekt. Alleen vragen wat iemand van AI vindt, geeft die persoon nog geen positie in het ontwerp.’

“Alleen vragen wat iemand van AI vindt, geeft die persoon nog geen positie in het ontwerp.”

Hoe geef je de samenleving die positie wel?

‘Je kunt niet alle burgers aan tafel zetten, maar je kunt wel maatschappelijke organisaties betrekken. Burgers hebben zich daarin georganiseerd, net zoals mensen zich in bedrijven organiseren. Toch ontbreekt dat maatschappelijke middenveld vaak in de innovatieketen.

Ik zou veel meer naar publiek-civiele samenwerking willen. Daarin bepalen de overheid en maatschappelijke organisaties samen waar AI zinvol kan zijn en onder welke voorwaarden. Van daaruit kun je ook bepalen wat je van marktpartijen vraagt. Nu zie je vaak dat de markt bepaalt hoe de technologie eruitziet en dat de overheid vooral bezig is met zo snel mogelijk toepassen.’

Wat gaat er mis als de overheid hierop stuurt?

‘Dan ontstaat bijvoorbeeld het idee dat je ambtenaren zomaar door AI kunt vervangen. Maar een ambtenaar moet verantwoording afleggen over keuzes. Die verantwoordelijkheid kun je niet naar een systeem verplaatsen. Als je AI wilt gebruiken om Kamervragen te beantwoorden of beleidsnotities te schrijven, moet je je afvragen welk systeem je daarvoor gebruikt en welke opvattingen daarin zitten. Dat leidt tot tunnelvorming en cirkelredeneringen. Als de data die jouw argument onderstrepen of falsificeren niet in het model aanwezig zijn, zul je die ook niet aangereikt krijgen. Er worden bijvoorbeeld door de Trump-regering grote databestanden rond hernieuwbare energie offline gehaald. 50 jaar aan data verdwenen. Er wordt ook via Reddit desinformatie verspreid die gebruikt wordt voor het trainen van AI. Alleen zeggen dat we AI moeten inzetten, laat nog niet zien dat je begrijpt wat die technologie doet. Een acute bedreiging van de democratie.’

“Een ambtenaar moet verantwoording afleggen over keuzes. Die verantwoordelijkheid kun je niet naar een systeem verplaatsen.”

AI heeft ook veel impact op het onderwijs. Welke verandering moet daar plaatsvinden?

‘Misschien moeten we minder op het eindresultaat toetsen, want dat kan iedereen steeds verder laten opleuken door een AI. We moeten veel meer met elkaar in gesprek over het leren zelf. Wat is een goede omgeving om te leren? Wat maakt een groep studenten en docenten tot een leergemeenschap?

Dat brengt je terug bij primaire vaardigheden: denken, praten, schrijven en echt lezen. Misschien moet je studenten ter plekke laten schrijven. Bijvoorbeeld met creatieve schrijfmethoden zoals de “écriture automatique”, waarin je schrijft wat er in je omgaat, automatisch. Beelden, gevoelens, ideeën. Misschien gaat het er minder om dat iemand heel veel pagina’s heeft gelezen en meer om de vraag of diegene de pagina’s werkelijk begrijpt. En oorspronkelijk leren denken. Überhaupt leren denken. Bijvoorbeeld door socratische gesprekken. Het gaat erom jezelf te vormen. Daarbij vind ik het problematisch als AI-assistenten vanzelf in een digitale leeromgeving worden aangezet. Dat moet je niet zomaar als gegeven accepteren.’

Wat moeten studenten leren om kritisch te blijven als ze AI gebruiken?

‘Ze moeten kunnen onderzoeken hoe eerlijk en feitelijk een systeem is en welke vooroordelen erin zitten. Je moet begrijpen dat AI altijd een bepaalde kleuring heeft en jezelf kunnen afvragen of je dit systeem eigenlijk wel wilt gebruiken. Daar gaat ook een vraag aan vooraf: wat zijn je eigen waarden?

Ik begrijp de verleiding van gemak heel goed. Je hebt haast en wilt snel iets maken. Maar je moet ook stilstaan bij wat dat met je eigen vermogens doet. Waarom doe je deze studie? Wil je jezelf ontwikkelen of wil je vooral een papiertje halen? Maar wat betekent het papiertje als je geen vaardigheden hebt?

De studenten die ik heb meegemaakt, zijn vaak heel gemotiveerd. Ze willen zich tot de wereld verhouden en daarin iets betekenisvols doen. Dan is het zonde om die studietijd alleen te gebruiken om er zo snel mogelijk doorheen te promoten.’

“Wil je jezelf ontwikkelen of wil je vooral een papiertje halen? Maar wat betekent het papiertje als je geen vaardigheden hebt?”

Over betekenis gesproken: welke vraag over AI houdt je momenteel bezig?

‘Of het ons lukt om mensen ervan te overtuigen dat we moeten investeren in een Nederlands en Europees taalmodel. Veel mensen denken dat dat niet meer kan, omdat je daar miljarden voor nodig zou hebben. Ik denk dat het wel haalbaar is en niet de wereld hoeft te kosten. Alleen Nederland rond de 30 miljoen, in Europa een paar honderd. Dat heb je er zo weer uit als je de licentiekosten niet aan de VS of China hoeft te betalen. Anderen vinden dat we ons vooral op het allernieuwste onderzoek moeten richten. Ook begrijpelijk, maar we moeten de basis ook op orde hebben. We moeten beter begrijpen dat de systemen die we nu gebruiken niet neutraal zijn.’

En hoe zie je jouw rol hierin?

‘Als je een publiek model inzet in het onderwijs, bij de overheid of in een chatbot, moet je weten wie er verantwoordelijkheid voor draagt. Als het iets raars doet, moet je weten wie je kunt bellen. Ik houd me bezig met de argumenten om mensen daarvan te overtuigen en om de wil te organiseren om dit samen te ontwikkelen. Vanuit Waag zijn we betrokken bij AI-ontwikkeling, bijvoorbeeld op het gebied van value alignment. En we werken veel met experimentele vormen van AI in samenwerking met kunstenaars en wetenschappers.’

Welk idee over technologische ontwikkeling zou je vooral willen veranderen?

‘Het eendimensionale denken over hoe we de wedstrijd met China en Amerika moeten winnen. Daar zit vaak de aanname achter dat alles via bedrijven moet gebeuren en dat we vooral meer start-ups, scale-ups en unicorns nodig hebben. Maar als we met hetzelfde type venture capital die start-ups gaan financieren, zul je zien dat deze bij exits als gebraden kippetjes in de muil van Big Tech landen.

We moeten fundamenteel anders naar de onderliggende vraag gaan kijken. Eerst bepalen wat we als gemeenschappelijke voorzieningen nodig hebben en dat als uitgangspunt nemen voor wat we willen ontwikkelen. En te allen tijde borgen dat we als continent, land, organisatie en individu onze strategische onafhankelijkheid niet opgeven. Dat is voor mij het diepere vraagstuk: een fundamenteel andere kijk op wat er nodig is voor een toekomstbestendige en weerbare economie en samenleving.’

“Eerst bepalen wat we als gemeenschappelijke voorzieningen nodig hebben en dat als uitgangspunt nemen voor wat we willen ontwikkelen.”

Interview door Bodiel Siebers