Van der Knaap ziet dat filosofen en AI-onderzoekers vaak op zoek zijn naar hetzelfde: “Als je intelligentie wilt namaken, dan ben je op zoek naar het wezen van intelligentie. En dat is ook waar filosofen eeuwenlang over hebben nagedacht. Wat betekent het om mens te zijn? Wat betekent het om te kunnen nadenken? Al dat soort vragen — misschien onder de oppervlakte — toont, denk ik, een hele grote overeenkomst tussen waar filosofen en huidige AI-onderzoekers naar op zoek zijn.”

Dat raakvlak tussen filosofie en AI is volgens hem het duidelijkst zichtbaar op het terrein van cognitie: “Dus wat betekent het om te kunnen denken? Wat is intelligentie? Dat soort filosofische vragen komen heel duidelijk terug binnen AI.” Maar daarnaast ontstaat volgens hem ook een tweede, minstens zo belangrijk raakvlak: “[…] er is ook een overlap tussen allerlei ethische en politiek-filosofische vragen die opkomen vanwege de toepassing van AI en hoe die algoritmen in elkaar zitten. Zit er een bias in of niet, zijn ze discriminerend? Dat zijn deels ook filosofische vragen. Ik kan wel een rechtvaardig algoritme willen maken — daar hebben ze het soms over: ‘we willen een rechtvaardig algoritme’ — maar dan moet je natuurlijk wel eerst een idee hebben van wat rechtvaardigheid is. En dat is in zekere zin een hele filosofische vraag.”

Dialoog

Toch is de dialoog tussen filosofen en AI-onderzoekers volgens Van der Knaap vaak nog onvoldoende aanwezig. Dat is volgens hem geen kwestie van onwil, maar vooral van institutionele structuren: “Een onderzoeker moet targets halen, wordt gevraagd om te publiceren of moet onderwijs verzorgen.” Hierdoor blijft er volgens hem voor academici vaak weinig ruimte over om zich langdurig in andere disciplines te verdiepen.

Van der Knaap stelt dat de verhouding tussen AI en andere disciplines vaak verschilt per universiteit. Sommige AI-opleidingen zijn sterk verbonden met filosofie en psychologie, terwijl bijvoorbeeld de Universiteit van Amsterdam nadrukkelijker vanuit de informatica is opgebouwd, stelt hij. Juist deze breedte maakt AI volgens Van der Knaap zo moeilijk én zo interessant: “Het is een heel breed onderwerp met een heel technische kant, en een meer menselijke of misschien zelfs filosofische kant. En het is – denk ik – soms lastig voor een opleiding of voor een universiteit om die allebei te bedienen. Omdat als je het één doet, je vaak het andere niet doet.”

Cognitie

De spanning tussen filosofie en AI wordt goed zichtbaar bij de Turingtest. Volgens deze test is een machine intelligent wanneer een computer gedrag vertoont dat niet te onderscheiden is van menselijk gedrag. Filosofen hebben daar fundamentele kritiek op geleverd. Gedrag of output zegt volgens veel filosofen namelijk niet noodzakelijk iets over wat er ‘onder de motorkap’ van een computer gebeurt: “Dus je kan wel dat gedrag vertonen, maar dat wil niet zeggen dat je dezelfde intentie hebt, of dat je creatief bent, of dat je kunt nadenken. Als ik — laten we even aannemen dat ik dat kan — een schilderij van Mondriaan nateken, dan kan ik helemaal niet ineens zo goed tekenen als Mondriaan. […] De Turingtest beweert dat imitatie genoeg is voor het origineel.”

Turing verdedigde zich tegen deze kritiek door te wijzen op het gevaar van solipsisme: de filosofische positie waarin men alleen van het eigen bewustzijn zeker kan zijn. Als we absolute zekerheid eisen over het bewustzijn van een machine, zouden we diezelfde zekerheid ook over andere mensen moeten eisen: “Als we daarvan uitgaan, ja, dan kunnen we nooit in het hoofd van een AI kijken. Maar dat is een absurde eis […] ik ga er ook vanuit dat jij intelligentie hebt en dat jij bewustzijn hebt.” Volgens Turing moeten we daarom pragmatisch zijn: “We moeten, als systemen bepaald gedrag vertonen, er maar van uitgaan dat ze intelligent zijn. Weet je, het argument: als het loopt als een eend, kwaakt als een eend en het heeft veren — nou ja, dan zal het wel een eend zijn.”

Ethiek

Naast cognitie speelt ethiek een centrale rol in Van der Knaaps analyse. Het utilitarisme is een van de hoofdstromingen in de ethiek. Het utilitarisme definieert ethisch handelen als voor iedereen zo veel mogelijk geluk en zo min mogelijk pijn nastreven. Het utilitarisme lijkt volgens Van der Knaap op het eerste gezicht bijzonder geschikt voor AI: “Als AI ergens goed in is, zou je zeggen, is het optellen en aftrekken en berekeningen maken. Dus dat leidt tot een match made in heaven […]”.

Toch wantrouwt Van der Knaap juist deze ogenschijnlijke vanzelfsprekendheid: “Maar dan krijg je vervolgens allerlei bezwaren die grotendeels filosofisch zijn […]. Wat is pijn? Wat is geluk? Hoe ga je dat meten? Dat zijn allerlei filosofische vragen. Vervolgens ook nog allerlei rekenkundige vragen — of computationele vragen — kun je dat wel allemaal berekenen? […] Ik denk dat ethiek meer is […] dan alleen het kille optellen van pijn en geluk met een rekenmachine.”

Hij geeft daar een voorbeeld bij van de Britse filosoof Bernard Williams: “Stel, jouw vrouw of vriendin is gek op bloemen. En je weet dat, dus je komt op een dag thuis en neemt een bos bloemen voor haar mee. En dan vraagt zij: ‘Oh, waarom heb je die bos bloemen voor me meegenomen?’ Dan moet je natuurlijk zeggen […]: ‘Ja, omdat ik van je hou.’ Dat is wat ons tot mensen maakt en wat menselijke relaties vormgeeft. Maar volgens het utilitarisme moet je dan zeggen: ‘Omdat ik zo het geluk in de wereld het meest vergroot.’ Ja, dan denkt zij: wat moet ik hiermee? Dus het is niet ethisch, of niet menselijk in mijn ogen, om dat allemaal uit te besteden aan formules.”

Een ander voorbeeld uit het utilitarisme is het bekende trolleyprobleem. Voor het trolleyprobleem wordt een situatie geschetst van een trolley die op vijf mensen afrijdt. Hierna wordt de keuze voorgesteld om de trolley van koers te laten wijzigen zodat er slechts één persoon overlijdt: “Je moet altijd kiezen tussen één of meerdere mensenlevens. En je kunt je natuurlijk voorstellen dat een zelfrijdende auto ook in zo’n situatie terechtkomt. En dan moet die zelfrijdende auto kiezen, want ook geen keuze is een keuze […].” Maar wat als de vijf personen hoogbejaard zijn en de andere persoon juist heel jong is? Of wat als één van die vijf personen een moordenaar is? Levert het dan nog steeds minder pijn op om de trolley van koers te laten veranderen? Deze voorbeelden laten zien hoe ingewikkeld het is om zulke morele keuzes op een utilitaristische manier te benaderen.

Op dit probleem biedt hij een antwoord aan de hand van de deugdethiek van Aristoteles. In plaats van regels of berekeningen centraal te stellen, richt deze benadering zich op karaktervorming: het ontwikkelen van de juiste morele eigenschappen en intenties. Volgens Van der Knaap is deze benadering van ethiek erg urgent in het AI-tijdperk: “Volgens mij is het juist urgent omdat het ons een soort tegengewicht biedt tegen die formules. Voor mij is ethisch handelen niet domweg het opvolgen van instructies of het volgen van een formule, zoals het utilitaristische schema bijvoorbeeld wil. Maar ethisch handelen is iets wat je moet ontwikkelen. En dat gaat ook om de intentie — dat je het met de juiste intenties doet, dus dat er het juiste karakter achter zit. En dat is iets diep menselijks, wat je moet ontwikkelen. Daarom is dat volgens mij juist zo relevant […]”

Deugdethiek staat volgens hem ook centraal in recente maatschappelijke discussies: “En je hebt natuurlijk gezien bij de toeslagenaffaire, dat vervolgens binnen de overheid opkomt: ja, het gaat nu ook om de menselijke maat. Waar je, losjes gedacht, een soort deugdethisch idee achter kunt zien.” Toch is dat idee van de menselijke maat volgens hem erg lastig om te bepalen: “Wat is dan die menselijke maat? Hoe voeren we dat uit? Dus ja, ik denk dat het goed is dat je dat in je achterhoofd hebt, maar ik zie ook dat dat in de praktijk helemaal niet zo makkelijk te implementeren valt.”

Politieke filosofie

Ook politiek-filosofisch roept AI fundamentele vragen op. Van der Knaap bespreekt Karl Marx en zijn analyse van het kapitalisme als een systeem van kapitaalconcentratie en groeiende ongelijkheid. AI is volgens Van der Knaap in veel opzichten een voortzetting van deze dynamiek: “AI is eigenlijk ten diepste een kapitalistisch product. Kijk maar naar de bedrijven die het ontwikkelen — dat is een handjevol, en die hebben enorm veel kapitaal nodig.”

De dynamiek die Marx beschrijft is volgens hem goed terug te zien in delen van de wereld waar arbeid wordt verricht onder relatief lage lonen: “[…] dat die bedrijven vaak ook gebruikmaken van datalabeling in bijvoorbeeld Afrika of ergens op het zuidelijk halfrond, waar mensen tegen hele lage lonen — zeker in verhouding tot het geld dat OpenAI heeft — data labelen of heftige content moeten bekijken.”

Van der Knaap haalt de filosoof Frank Stilwell aan. Stilwell wijst op de ironische mogelijkheid dat er door de automatisering van AI een afname in loonarbeid zal plaatsvinden, waardoor het kapitalisme ten einde moet komen: “Het originele idee van Marx is natuurlijk […] dat de kapitalist profiteert van de loonarbeider en die uitbuit. En daar komt het kapitaal vandaan. En als je zo redeneert: als je geen loonarbeiders meer hebt, heeft die kapitalist ook niemand meer om uit te buiten. Dus in die zin is het logisch.”

Maar volgens Van der Knaap is die dynamiek sterk veranderd: “Het kapitalisme heeft zich natuurlijk ontwikkeld — het heeft niet stilgestaan de afgelopen tweehonderd jaar. Het heeft helemaal niet meer die loonarbeiders nodig om mensen uit te buiten. Het gaat ook om vermogen dat ze gebruiken, of om klanten — je kan ook op andere manieren aan geld komen. Dus het is leuk gevonden, maar het lijkt me niet direct het einde van het kapitalisme.”

Over de toekomst van AI blijft Van der Knaap bewust voorzichtig: “In die zin dat […] regelmatig de loftrompet is gestoken, en dat bleek dan onterecht. Of men was juist superpessimistisch, en dan kwam er toch weer een doorbraak.” De enorme investeringen die technologiebedrijven de laatste jaren hebben gedaan, roepen volgens hem een fundamentele vraag op: “Die zijn zo groot dat je de vraag kunt stellen: gaan die zich echt uitbetalen?” Daar hangt volgens hem een tweede vraag direct mee samen: “In hoeverre is het echt mogelijk om er een winstgevend model van te maken?” Het antwoord op die vragen is volgens Van der Knaap voorlopig onzeker.

Van Aristoteles tot algoritme

Juist daarom pleit hij voor reflectie. Zijn boek nodigt lezers uit om afstand te nemen en na te denken over de aannames achter AI. Het is, zoals hij zelf zegt, “meer een soort zomervakantieboek” — niet omdat het makkelijk is, maar omdat het ruimte biedt voor vertraging en verdieping. Innovatie vraagt niet alleen om een technische, maar ook om een menselijke benadering. Wie AI ontwikkelt, beïnvloedt immers niet alleen systemen, maar ook mensbeelden, instituties en maatschappelijke verhoudingen. Juist daarom blijft Aristoteles volgens Van der Knaap zo dicht bij het algoritme.

Guido van der Knaap is filosoof, docent van het vak Filosofie en AI aan de UvA en auteur van het boek Van Aristoteles tot algoritme; Filosofie van kunstmatige intelligentie (2023).

Interview door: Bodiel Siebers, Amsterdam AI.