In een wereld waar door AI gegenereerde beelden steeds minder te onderscheiden zijn van menselijke foto's, heeft Meta zijn 'Imagine with Meta AI'-tool bijgewerkt.
Volgens hun blogintroduceert deze update onzichtbare watermerken voor alle afbeeldingen die door de tool worden gegenereerd, wat een stap markeert in het garanderen van transparantie en traceerbaarheid in door AI gegenereerde inhoud.
De onzichtbare watermerkfunctie van Meta AI is een reactie op de groeiende bezorgdheid over het mogelijke misbruik van AI-technologieën bij het creëren van bedrieglijke of misleidende inhoud. In tegenstelling tot conventionele watermerken zijn deze onzichtbaar voor het menselijk oog, maar kunnen ze worden gedetecteerd met behulp van een overeenkomstig model. Deze aanpak is ontworpen om bestand te zijn tegen veel voorkomende beeldmanipulaties, waaronder bijsnijden, veranderingen in kleurhelderheid of contrast, en schermafbeeldingen.
Meta lanceerde ook een zelfstandig product genaamd 'Image with Meta AI'.
Het is een gratis afbeeldingsgenerator - binnenkort beschikbaar met onzichtbare watermerken om de transparantie van AI-afbeeldingen te vergroten.
Probeer het hier: https://t.co/4S37p2Hy2j pic.twitter.com/U8pteh6Pc9
— Rowan Cheung (@rowancheung) 7 december 2023
Meta's beslissing om deze functie op te nemen in hun door AI gegenereerde afbeeldingen heeft tot doel een nieuwe standaard in de branche te vestigen en ervoor te zorgen dat de oorsprong van door AI gemaakte inhoud traceerbaar en transparant is. Het watermerk wordt toegepast met behulp van een deep-learning-model, een bewijs van Meta's streven om technologie te gebruiken om de digitale veiligheid en integriteit te verbeteren.
Het evoluerende landschap van Meta A
Meta-AI, bekend om zijn vermogen om fotorealistische afbeeldingen te genereren en gedetailleerde antwoorden te geven op een breed scala aan verzoeken, is niet beperkt tot watermerken. Het AI-platform heeft zijn mogelijkheden uitgebreid. De 'reimagine'-functie, geïntroduceerd op Messenger en Instagram kunnen gebruikers door AI gegenereerde afbeeldingen verzenden en ontvangen, waardoor de sociale media-ervaring met een creatieve twist wordt verbeterd.
Meta AI speelt ook een rol bij het verbeteren van de gebruikerservaring op Facebook en Instagram. Van het aanbieden van door AI gegenereerde suggesties voor postreacties en zoekresultaten tot het faciliteren van creatieve toepassingen in winkels: Meta AI wordt een onderdeel van Meta's ecosysteem.
Een standpunt tegen AI-misbruik
De stap om onzichtbare watermerken op te nemen in door AI gegenereerde afbeeldingen maakt deel uit van een bredere inspanning van Meta om de ethische uitdagingen van AI-technologie aan te pakken. De laatste tijd zijn het aantal door AI aangedreven oplichtingscampagnes enorm toegenomen, waarbij oplichters gebruik maken van direct verkrijgbare tools om nieuwe dingen te creëren nepvideo's, audio en afbeeldingen van publieke figuren. Dit heeft geresulteerd in aanzienlijke desinformatie en zelfs tijdelijke onrust op de markt, zoals blijkt uit het incident met een vals beeld van een explosie nabij het Pentagon.
De stap van Meta is een proactieve maatregel om dergelijke risico's te beperken en ervoor te zorgen dat door AI gegenereerde inhoud gemakkelijk kan worden geïdentificeerd en onderscheiden van door mensen gegenereerd materiaal. Deze aanpak bevordert het verantwoorde gebruik van AI en helpt het vertrouwen van het publiek in digitale inhoud te waarborgen.
Meta's voortdurende inspanningen op het gebied van AI-veiligheid
Naast de onzichtbare watermerken investeert Meta in red teaming als onderdeel van haar zoektocht naar AI-veiligheid. Red teaming omvat het testen van generatief AI-onderzoek en -functies om potentiële risico's in de output te identificeren. De introductie van het Multi-round Automatic Red-Teaming (MART) raamwerk is een stap in deze richting, met als doel de veiligheid van AI-toepassingen voortdurend te verbeteren.
Nieuw AI-onderzoekspapier van Meta - MART, of Multi-round Automatic Red-Teaming, is een raamwerk voor het verbeteren van de LLM-veiligheid dat een vijandige en doelgerichte LLM traint door middel van automatische iteratieve vijandige red-teaming.
Details in de krant ➡️ https://t.co/lGuJrPDsCD pic.twitter.com/KNfWqx8JTk
— AI bij Meta (@AIatMeta) 15 november 2023
Meta's ontwikkeling heeft tot doel een laag van transparantie en traceerbaarheid toe te voegen aan door AI gegenereerde inhoud, wat een verschuiving markeert in de manier waarop dergelijke inhoud wordt beheerd en geverifieerd. Het onzichtbare watermerk, niet waarneembaar met het blote oog maar wel identificeerbaar via specifieke modellen, is ontworpen om door AI gemaakte afbeeldingen te onderscheiden van afbeeldingen die door mensen zijn geproduceerd. Deze stap van Meta weerspiegelt een poging om enkele ethische problemen aan te pakken die verband houden met AI-technologie en het potentieel ervan voor misbruik bij het creëren van misleidende inhoud.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
- Bron: https://metanews.com/meta-ai-to-add-invisible-watermarks-for-increased-transparency/
