4 november
Google maakt AI-watermerktool SynthID openbaar
Google heeft zijn SynthID-tool, een technologie die onzichtbare watermerken aan AI-gegenereerde content toevoegt, openbaar beschikbaar gemaakt. Deze tool stelt ontwikkelaars en bedrijven in staat om gemakkelijker te achterhalen of hun content door AI is gegenereerd, en zorgt ervoor dat AI-creaties beter herkenbaar zijn, wat helpt bij het tegengaan van verkeerde informatie.
SynthID werkt door subtiel de waarschijnlijkheid van woordkeuze aan te passen in AI-gegenereerde teksten. Stel dat een gebruiker aan een chatbot vraagt: "Wat is je favoriete fruit?", dan kan de watermerktechnologie ervoor zorgen dat de kans toeneemt dat de chatbot bijvoorbeeld "mango" als antwoord geeft in plaats van "appel" of "banaan". Dit patroon van waarschijnlijkheidsaanpassingen wordt gebruikt als watermerk en is voor mensen onzichtbaar, maar kan door machines worden gedetecteerd.
Deze techniek kan worden toegepast op een enkele zin, die al meerdere aangepaste "waarschijnlijkheidsscores" kan bevatten. Bij langere teksten neemt de nauwkeurigheid van SynthID toe, aangezien een volledige pagina honderden van dergelijke aanpassingen kan bevatten. Door deze waarschijnlijkheidsscores te analyseren, kan SynthID achterhalen of een tekst door een AI-model is gegenereerd. Het systeem werkt ook goed op teksten die zijn aangepast, ingekort of geparafraseerd, hoewel het meer moeite heeft met korte of vertaalde teksten.
SynthID kan naast teksten ook watermerken genereren voor foto's, video's en audio. Dit maakt het mogelijk om bijvoorbeeld te controleren of een afbeelding of video is gegenereerd door een AI-model, zonder dat de visuele of auditieve kwaliteit van de content wordt aangetast.
Vergelijkbaar >
Vergelijkbare nieuwsitems
4 november
Google maakt AI-watermerktool SynthID openbaar
Lees meer >
4 november
Mens en AI: een goed team? Onderzoek pleit voor duidelijke taakverdeling
Lees meer >
1 november
Geert Wissink jurylid bij Data Science Top 50 Event
Lees meer >