AI kan complexe berekeningen oplossen, programmeren en nuttige inzichten genereren. Maar naarmate de technologie krachtiger wordt, worden ook haar beperkingen zichtbaarder. In zijn rede Prachtige onbetrouwbare technologie waarschuwt lector Pascal Wiggers dat de genialiteit van kunstmatige intelligentie gepaard gaat met een fundamenteel gebrek aan betrouwbaarheid.
Volgens Wiggers maakt AI “fouten op onvoorspelbare momenten, kan het waarheid niet van onwaarheid onderscheiden en heeft het geen notie van betekenis.” Deze tekortkomingen zijn volgens hem diep verankerd in de manier waarop AI leert: door patronen te herkennen in enorme hoeveelheden data. “De momenten waarop het fantastisch goed en waarop het volledig fout gaat, lopen door elkaar.”
Waar grote techbedrijven geloven dat AI zich vanzelf zal ontwikkelen tot een menselijke of zelfs bovenmenselijke intelligentie, is Wiggers kritisch. “Deze beperkingen verdwijnen niet. Ze zijn structureel.”
Hij verwijst naar voorbeelden van AI-systemen die overtuigend maar foutief redeneren — zoals een model dat longontstekingpatiënten onterecht naar huis stuurde. Zulke fouten tonen volgens Wiggers aan dat AI geen redeneervermogen heeft, maar slechts taal en logica nabootst op basis van kansberekening.
Daarnaast wijst hij op de tastbare realiteit achter ‘artificiële’ intelligentie: gigantische datacenters, energieverbruik, mijnbouw en slechtbetaalde datalabelers. “AI lijkt immaterieel, maar heeft een fysieke, wereldwijde impact.”
Wiggers pleit voor een kritische en verantwoorde omgang met AI. “Verantwoord is een werkwoord,” zegt hij. “We moeten blijven afwegen, experimenteren en soms bewust besluiten om AI niet in te zetten.” Hij benadrukt dat kritisch vakmanschap belangrijker wordt dan ooit: “We hebben mensen nodig die begrijpen wat AI kan — én wat het niet kan.”