Amsterdam en Offlimits steunen samen met meer dan 100 (inter)nationale organisaties een oproep aan het kabinet en de Europese Unie om nudify-tools expliciet te verbieden. Deze technologie gebruikt AI om bestaande foto’s te manipuleren tot realistische naaktbeelden. Hoewel het maken en verspreiden van deepfake-naaktbeelden in Nederland strafbaar is, blijven nudify-websites en -apps eenvoudig toegankelijk, vaak zonder leeftijdscontrole of expliciete toestemming van betrokkenen.

Volgens Offlimits wordt de technologie steeds vaker ingezet voor seksuele chantage, online pesten en misbruik van minderjarigen. Onderzoek van Offlimits toont aan dat bijna 40 procent van de jonge mannen tussen 18 en 25 jaar ooit strafbare of gewelddadige seksuele beelden heeft gezien. Daarnaast geeft 15,6 procent aan beelden van seksueel misbruik van minderjarigen te hebben gezien, zowel realistische als AI-gegenereerde varianten.

Een afzonderlijk onderzoek van het tv-programma Pointer onder ruim 60 middelbare scholen laat zien dat 24 procent van de scholen te maken heeft met pesten via AI-gegenereerde naaktbeelden. Tien procent van de scholen meldt dat dit meer dan vijf keer per jaar voorkomt.

De oproep tot een verbod wordt wereldwijd ondersteund door organisaties zoals de Nationaal Rapporteur Mensenhandel en Seksueel Geweld tegen Kinderen, INHOPE, Interpol, Safe Online, WeProtect Global Alliance en Child Helpline International. Zij pleiten ervoor dat platforms, appstores en hostingdiensten deze technologie actief weren.

Wethouder Alexander Scholtes (ICT en Digitale Stad) benadrukt dat digitale weerbaarheid alleen niet voldoende is wanneer schadelijke technologie vrij beschikbaar blijft. Volgens hem is het onacceptabel dat het gemak van nudify-tools seksuele intimidatie en misbruik verlaagt tot een laagdrempelige handeling. Amsterdam ondertekent daarom het manifest met de boodschap dat technologie die aantoonbare schade veroorzaakt, niet alleen gereguleerd maar ook verboden moet kunnen worden.