SVG Image
< Terug naar nieuws

4 november

Google maakt AI-watermerktool SynthID openbaar

Google heeft zijn watermerktool SynthID, die AI-gegenereerde content identificeert, gratis beschikbaar gesteld voor ontwikkelaars en bedrijven. Deze tool, ontwikkeld door DeepMind, embedt digitale watermerken in teksten, audio, afbeeldingen en video's, zonder de kwaliteit of ervaring van de content te beïnvloeden.

Google heeft zijn SynthID-tool, een technologie die onzichtbare watermerken aan AI-gegenereerde content toevoegt, openbaar beschikbaar gemaakt. Deze tool stelt ontwikkelaars en bedrijven in staat om gemakkelijker te achterhalen of hun content door AI is gegenereerd, en zorgt ervoor dat AI-creaties beter herkenbaar zijn, wat helpt bij het tegengaan van verkeerde informatie.

 

SynthID werkt door subtiel de waarschijnlijkheid van woordkeuze aan te passen in AI-gegenereerde teksten. Stel dat een gebruiker aan een chatbot vraagt: "Wat is je favoriete fruit?", dan kan de watermerktechnologie ervoor zorgen dat de kans toeneemt dat de chatbot bijvoorbeeld "mango" als antwoord geeft in plaats van "appel" of "banaan". Dit patroon van waarschijnlijkheidsaanpassingen wordt gebruikt als watermerk en is voor mensen onzichtbaar, maar kan door machines worden gedetecteerd.

 

Deze techniek kan worden toegepast op een enkele zin, die al meerdere aangepaste "waarschijnlijkheidsscores" kan bevatten. Bij langere teksten neemt de nauwkeurigheid van SynthID toe, aangezien een volledige pagina honderden van dergelijke aanpassingen kan bevatten. Door deze waarschijnlijkheidsscores te analyseren, kan SynthID achterhalen of een tekst door een AI-model is gegenereerd. Het systeem werkt ook goed op teksten die zijn aangepast, ingekort of geparafraseerd, hoewel het meer moeite heeft met korte of vertaalde teksten.

 

SynthID kan naast teksten ook watermerken genereren voor foto's, video's en audio. Dit maakt het mogelijk om bijvoorbeeld te controleren of een afbeelding of video is gegenereerd door een AI-model, zonder dat de visuele of auditieve kwaliteit van de content wordt aangetast.