Google heeft aangekondigd dat het een digitaal watermerksysteem gaat testen, ontwikkeld door zijn AI-bedrijf DeepMind, dat tot doel heeft door AI gegenereerde afbeeldingen te identificeren en veranderingen in individuele pixels in te sluiten: deze veranderingen zijn onzichtbaar voor het menselijk oog, maar computers kunnen ze detecteren en markeren.
Het heet SynthID, wat nogal Blade Runner-achtig klinkt, en het komt naar voren in een tijd waarin de ethische vragen rond beeldmanipulatie op de voorgrond treden. Het is één ding als we het hebben over kunst- en fotografiewedstrijden, maar het vermogen van AI-gegenereerde beelden voor politieke en sociale desinformatie is enorm, opkomend en voelt nauwelijks begrepen. De paus in een pufferjack is onze kanarie in de kolenmijn.
DeepMind waarschuwt dat de technologie momenteel niet “onfeilbaar is tegen extreme beeldmanipulatie, maar wel een veelbelovende technische aanpak biedt om mensen en organisaties in staat te stellen op verantwoorde wijze met door AI gegenereerde inhoud te werken.” Sterker nog: de tool wordt momenteel alleen gebruikt voor afbeeldingen die zijn gegenereerd door Google's eigen software voor het genereren van afbeeldingen, Imagen.
“Deze benaderingen [voor het identificeren van door AI gegenereerd materiaal] moeten robuust en aanpasbaar zijn naarmate generatieve modellen zich ontwikkelen en zich uitbreiden naar andere media,” zegt de aankondiging van DeepMind. “SynthID zou kunnen worden uitgebreid voor gebruik in andere AI-modellen en we zijn enthousiast over het potentieel om het in meer Google-producten te integreren en het in de nabije toekomst beschikbaar te maken voor derden, waardoor mensen en organisaties verantwoord kunnen werken met door AI gegenereerde inhoud .”
“Voor jou en mij, voor een mens, verandert [het beeld] niet”, Pushmeet Kohli van DeepMind vertelde de BBC, waarin wordt uitgelegd dat daaropvolgende manipulatie de identificatie ervan niet zal beïnvloeden. “Je kunt de kleur veranderen, je kunt het contrast veranderen, je kunt het formaat zelfs wijzigen… [en SynthID] zal nog steeds kunnen zien dat het door AI is gegenereerd.” Kohli benadrukte dat deze software nog steeds wordt uitgeprobeerd en wat DeepMind nu nodig heeft, is dat mensen de beperkingen ervan in het wild testen.
Google is een van de zeven grote technologiebedrijven die president Biden in juli beloofden dat hij heel hard zou werken om ervoor te zorgen dat AI niet zou werken en ons via Skynet zou kunnen bereiken. De vrijwillige overeenkomst omvatte verschillende toezeggingen, waaronder dat door AI gegenereerde inhoud een robuust watermerk zal krijgen. SynthID is een eerste stap in die richting, maar zal uiteindelijk verder moeten gaan dan Google's eigen productsuite als het algemeen bruikbaar wil zijn. Onder de andere ondertekenaars heeft Meta een nog niet uitgebrachte videogenerator genaamd Make-A-Video, die zijn eigen producties van een watermerk zal voorzien.
Op mondiaal vlak is de Chinese Communistische Partij nog verder gegaan en heeft zij door AI gegenereerde beelden zonder watermerk volledig verboden. Grote Chinese technologiebedrijven als Alibaba hebben hun eigen oplossingen al geïmplementeerd, maar dit onderstreept opnieuw het gebrek aan mondiale standaardisatie bij het aanpakken van een mondiaal probleem. Maar maak je geen zorgen, de VN zijn hier om ons op te vrolijken en organiseerden onlangs een persstunt waarbij AI-robots in de rij stonden om te beloven dat ze niemand zullen vermoorden, voordat iemand zei: “laten we wild worden en van deze wereld onze speeltuin maken'.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. Automotive / EV's, carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
- ChartPrime. Verhoog uw handelsspel met ChartPrime. Toegang hier.
- BlockOffsets. Eigendom voor milieucompensatie moderniseren. Toegang hier.
- Bron: https://www.pcgamer.com/google-begins-trialling-tool-that-adds-a-watermark-to-ai-generated-images
