De richtingenstrijd bij OpenAI: 'Winstbejag gekozen boven verantwoord uitrollen'

"In dit verhaal ontbreekt een hele belangrijke derde richting", zegt Jelle Zuidema, universitair hoofddocent explainable AI aan de Universiteit van Amsterdam. "Namelijk de groep die het niet wil hebben over het existentiële gevaar, want dat vinden ze overdreven, maar wel degelijk bezorgd is over de effecten die het nu heeft."

Een 'AI-doorbraak'

Daar komt nog bij dat er volop speculatie is over de vraag of OpenAI dit jaar een technologische 'doorbraak' heeft bereikt, wat de systemen nog veel krachtiger kan maken. Aanleiding is berichtgeving van The Information en Reuters. Het gaat hier om de doorbraak die ook wel "Q*" (uitgesproken als Q-star) wordt genoemd. Het zou onder meer in staat zijn wiskundige sommen op te lossen die andere AI-varianten te moeilijk vinden.

De veronderstelde doorbraak zou medewerkers ongerust hebben gemaakt dat er niet genoeg veiligheidswaarborgen zijn. Onderzoekers zouden het bestuur hiervoor in een brief hebben gewaarschuwd. Het wekt de suggestie dat die zorgen hebben bijgedragen aan Altmans ontslag, al meldde technieuwsbrief Platformer dat het bestuur nooit zo'n brief heeft ontvangen.

Volgens Nuijten van de TU Eindhoven zou het een doorbraak betekenen in hoe AI redeneert, iets waar al decennia aan wordt gewerkt. Al kan hij moeilijk inschatten of OpenAI daar werkelijk al is. "Het zou dan op de basis van de kennis en regels die wij hebben over de logica en de fysieke wereld bepaalde theorieën kunnen bewijzen en nieuwe uitvindingen doen."

Zuidema merkt daarbij op dat zulke nieuwsberichten over technologische doorbraken ook een ander doel kunnen dienen, namelijk de wereld ervan overtuigen dat OpenAI verder is dan de concurrentie.

Ook strijd rond nieuwe regels

Alle drie de deskundigen beamen dat je techbedrijven niet kunt vertrouwen in het ontwikkelen van AI zonder toezicht. Er moet regelgeving komen. Daar wordt bijvoorbeeld in Europa aan gewerkt, al is dat ook een strijd op zich.

Europarlementariër Kim van Sparrentak (GroenLinks) neemt deel aan de onderhandelingen en zegt dat het spannend wordt. Duitsland, Frankrijk en Italië willen niet te strenge regels, uit angst om Europese bedrijven dwars te zitten. Van Sparrentak merkt dat er ondertussen stevig wordt gelobbyd door techbedrijven, waaronder ook OpenAI.

Dit artikel is gepubliceerd door NOS.