Von den generativen Modellen von OpenAI ausgegebene Bilder enthalten Metadaten, die ihren Ursprung offenlegen, die wiederum von Anwendungen verwendet werden können, um Menschen auf die maschinelle Natur dieser Inhalte aufmerksam zu machen.

Konkret übernimmt das von Microsoft geförderte Superlabor erwartungsgemäß die Content Credentials-Spezifikation, die von der Coalition for Content Provenance and Authenticity entwickelt wurde (C2PA), ein Branchenverband, der von Adobe, Arm, Microsoft, Intel und anderen unterstützt wird.

Inhaltliche Anmeldeinformationen sind ziemlich einfach und spezifiziert in vollem Umfang hier: es benutzt Standarddatenformate um in Mediendateien Details darüber zu speichern, wer das Material wie erstellt hat. Diese Metadaten sind für den Benutzer nicht direkt sichtbar und kryptografisch geschützt, sodass alle nicht autorisierten Änderungen offensichtlich sind.

Von Anwendungen, die diese Metadaten unterstützen, wird erwartet, dass sie, wenn sie sie im Inhalt einer Datei erkennen, ein kleines „cr“-Logo über dem Inhalt anzeigen, um anzuzeigen, dass in dieser Datei Informationen zu den Anmeldeinformationen für den Inhalt vorhanden sind. Wenn Sie auf dieses Logo klicken, sollte ein Popup-Fenster mit diesen Informationen geöffnet werden, einschließlich aller Offenlegungen, dass das Material von KI erstellt wurde.

Wie das C2PA-Logo „cr“ auf einem von OpenAI generierten Bild in einer unterstützenden App angezeigt werden könnte. Quelle: OpenAI

Die Idee dabei ist, dass es für Menschen, die Dinge in unterstützenden Anwendungen betrachten oder bearbeiten – idealerweise von Bildbearbeitungsprogrammen bis hin zu Webbrowsern – sofort offensichtlich sein sollte, ob der Inhalt auf dem Bildschirm von KI erstellt wurde oder nicht.

Menschen dabei zu helfen, zwischen echten und gefälschten Bildern zu unterscheiden, wird zweifellos immer wichtiger, da KI-generierte Inhalte so weit verbessert werden, dass sie offensichtlich nicht mehr das Ergebnis einer Maschine sind. Experten befürchten, dass solche synthetischen Medien Internetnutzer in die Irre führen und zur Verbreitung von Fehlinformationen oder zur Unterstützung von Desinformationskampagnen missbraucht werden. Technologieunternehmen verstärken ihre Bemühungen zur Risikominimierung, da zum einen die US-Präsidentschaftswahl 2024 näher rückt.

Doch die Content Credentials-Strategie ist nicht so narrensicher wie wir zuvor berichtet. Die Metadaten können problemlos entfernt oder ohne Metadaten exportiert werden, oder das „cr“ kann aus Screenshots herausgeschnitten werden, sodass in Zukunft in keiner Anwendung mehr das „cr“-Logo auf dem Material angezeigt wird. Es ist auch auf Apps und Dienste angewiesen, die die Spezifikation unterstützen, unabhängig davon, ob sie Medien erstellen oder anzeigen.

Um in großem Umfang zu funktionieren und Akzeptanz zu finden, ist außerdem eine Art Cloud-System erforderlich, mit dem entfernte Metadaten wiederhergestellt werden können, was Adobe gerade vorantreibt, sowie eine Marketingkampagne zur Steigerung der Markenbekanntheit. Erhöhen Sie die Markenbreite, wenn Sie so wollen.

OpenAI hat dies diese Woche bestätigt, als es ankündigte, dass ChatGPT und die DALL-E 3 API diese Woche die Content Credentials von C2PA in ihre Ausgabe aufnehmen werden.

„Metadaten wie C2PA sind kein Allheilmittel zur Lösung von Herkunftsfragen“, sagt OpenAI zugelassen. „Es kann leicht versehentlich oder absichtlich entfernt werden. Beispielsweise entfernen die meisten Social-Media-Plattformen heutzutage Metadaten aus hochgeladenen Bildern, und durch Aktionen wie das Erstellen eines Screenshots können diese ebenfalls entfernt werden. Daher kann es sein, dass ein Bild, dem diese Metadaten fehlen, mit ChatGPT oder unserer API generiert wurde.“

In Bezug auf die Auswirkungen auf die Dateigröße bestand OpenAI darauf, dass eine 3.1 MB große PNG-Datei, die von seiner DALL-E-API generiert wurde, um etwa drei Prozent (oder etwa 90 KB) wächst, wenn die Metadaten einbezogen werden. Eine 287 KB große WebP-Datei hingegen wird mit dieser 32 KB großen Nutzlast um etwa 90 Prozent ansteigen.

C2PA gewinnt an Bedeutung: Je mehr Apps und Dienste sich verpflichten, es zu unterstützen, desto mehr Software kann es nutzen, mehr Menschen sollten es sehen, und so wächst es. Meta angekündigt Diese Woche wurden Tools zur Unterstützung der Spezifikation der Industriegruppe entwickelt.

„Wir glauben, dass die Übernahme dieser Methoden zur Feststellung der Herkunft und die Ermutigung der Benutzer, diese Signale zu erkennen, der Schlüssel zur Erhöhung der Vertrauenswürdigkeit digitaler Informationen sind“, erklärte OpenAI.

Uns wurde mitgeteilt, dass ChatGPT über das Web und das DALL-E 3-Modell über seine API nun die C2PA-Metadaten enthalten werden und mobile Benutzer diese bis zum 12. Februar erhalten werden. ®

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://go.theregister.com/feed/www.theregister.com/2024/02/08/openai_is_adding_a_watermark/