Een grote en veelgebruikte AI-database is tijdelijk offline gehaald nadat onderzoekers hadden ontdekt dat deze meer dan duizend afbeeldingen met kindermisbruik bevat. Pijnlijk, want AI-bedrijven gebruiken de beeldbank om hun modellen te trainen.<\/p>\n","nieuwsbericht":"
In de ruim vijf miljard afbeeldingen in de AI-beeldbank\u00a0Laion-5B<\/a>\u00a0zitten minimaal duizend gevallen van kindermisbruik. Dit blijkt uit\u00a0nieuw onderzoek\u00a0<\/a>van de Stanford Internet Observatory. De foto\u2019s kwamen aan het licht door Laion te vergelijken met bestaande databases met bekend kindermisbruik-beeldmateriaal.<\/p>\n AI-bedrijven kunnen Laion gratis gebruiken om hun modellen te trainen. Het bekendste voorbeeld is Stable Diffusion, dat in staat is om fotorealistische afbeeldingen te maken op basis van tekstbeschrijvingen. Bijvoorbeeld: \u2018Franse kat die een dansje op de maan doet.\u2019<\/p>\n De Duitse non-profitorganisatie achter Laion verzamelde miljarden plaatjes op het internet, inclusief de bijbehorende beschrijvende teksten. Het probleem is dat dit geautomatiseerd afstruinen van het web ook problematisch materiaal binnenhengelt, op basis waarvan AI vervolgens weer nieuw illegaal beeld kan genereren.<\/p>\n De Duitse organisatie heeft zijn\u00a0database<\/a>\u00a0tijdelijk offline gehaald. AI-hoogleraar Marcel Worring (UvA) roemt dit besluit, maar vindt ook dat de organisatie in gebreke is gebleven: \u2018In ieder geval een deel van het onderzoek van Stanford hadden ze ook zelf kunnen doen. Namelijk: het vergelijken van Laion met de misbruikbeelden die al bekend zijn.\u2019<\/p>\n Stability, het Britse bedrijf achter het veelgebruikte Stable Diffusion,\u00a0benadrukt tegenover\u00a0Bloomberg<\/em><\/a>dat het al eerder actie ondernam om illegale activiteiten te beperken.<\/p>\n Het\u00a0onderzoek<\/a>\u00a0concentreert zich op Stable Diffusion omdat Stability als een van de weinige AI-bedrijven transparant is over zijn trainingsdata. Bij andere grote beeldgeneratoren is dat niet het geval. Midjourney gebruikt Laion-5B vermoedelijk ook, maar wil tegenover\u00a0Forbes\u00a0<\/em>niet reageren<\/a>.<\/p>\n Imagen van Google werd ook deels gemaakt met behulp van Laion, maar tijdens een intern onderzoek vonden ontwikkelaars \u2018een breed scala aan ongepaste inhoud\u2019, waaronder porno en racistische opmerkingen. Google achtte Laion daarna ongeschikt voor openbaar gebruik, schrijven de onderzoekers.<\/p>\n OpenAI trainde Dall-E niet met Laion. Waarmee w\u00e9l, is in nevelen gehuld, zegt Worring. \u2018Misschien bevat hun database ook wel problematisch materiaal, maar onderzoekers kunnen hier niet bij. Laion ligt nu terecht onder het vergrootglas, maar dat is ook het gevolg van het feit dat zij transparant zijn.\u2019<\/p>\n Natali Helberger, hoogleraar recht en digitale technologie aan de UvA, noemt het onderzoek \u2018zorgwekkend\u2019, ook met het oog op de zogeheten EU AI Act, de Europese wetgeving voor kunstmatige intelligentie. Na een intensieve lobby van Duitsland en Frankrijk bereikten het Europees Parlement en de lidstaten vorige week een compromis: alleen de grootste modellen, zoals die van OpenAI en Google, moeten aan de strengste eisen voldoen.<\/p>\n \u2018Juist voor de kleinere modellen is het gratis Laion een realistische keuze, maar zij hoeven niet te bewijzen of hun data is gecontroleerd op de aanwezigheid van bias, haat of illegaal materiaal\u2019, zegt Helberger. En dus ontstaat de \u2018vreemde situatie\u2019 dat de Amerikaanse bigtech w\u00e9l moet voldoen aan de Europese waarden, aldus de hoogleraar. Het incident met Laion is daarmee volgens haar \u2018een naar voorbeeld van het gat in de Europese wetgeving\u2019.<\/p>\n","text_externe_bron":"Lees het artikel op de Volkskrant","link_externe_bron":"https:\/\/www.volkskrant.nl\/tech\/bekendste-ai-beeldbank-offline-na-ontdekking-van-afbeeldingen-met-kindermisbruik~bf6dc91d\/","referentie":"Dit artikel is gepubliceerd op de website van de Volkskrant. \u00a9 SOPA Images\/LightRocket via Gett"},"nieuws-tax":[],"class_list":["post-844","nieuws","type-nieuws","status-publish","has-post-thumbnail","hentry"],"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/nieuws\/844","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/nieuws"}],"about":[{"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/types\/nieuws"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/media\/845"}],"wp:attachment":[{"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/media?parent=844"}],"wp:term":[{"taxonomy":"nieuws-tax","embeddable":true,"href":"https:\/\/amsterdamai.com\/nl\/wp-json\/wp\/v2\/nieuws-tax?post=844"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Andere bedrijven delen database niet<\/h4>\n
Maas in de EU-wet<\/h4>\n