Adobe ließ Benutzer glauben, dass es zum Trainieren seines AI-Bildgenerator-Firefly-Modells ausschließlich seinen eigenen Bildbestand verwendet habe, Berichten zufolge wurden jedoch auch AI-Bilder von Konkurrenten wie Midjourney einbezogen.

Firefly gilt als der ethischste und wirtschaftlich sicherste Bildgenerator, der seinen eigenen Bildbestand nutzt. Es wurde jedoch festgestellt, dass sie im Gegensatz zu den Behauptungen, Adobe Stock zu verwenden, auch KI-generierte Bilder von Tools wie Midjourney verwenden.

Nicht so ethische KI

Das Unternehmen hat seine verkauft Firefly als eine Art „ethische KI“, die auf Adobes eigener Bibliothek lizenzierter Stockfotos trainiert. Dabei handelt es sich um Millionen von Designs, Bildern und Illustrationen aus der Adobe Stock-Bibliothek.

Im Gegensatz dazu ist ein neuer Bericht aufgetaucht, der zeigt, dass der Bildgenerator doch nicht so sauber ist wie das Bild, das er auf den Markt projiziert. A Bloomberg Bericht hat ergeben, dass der Photoshop-Hersteller „ein paar Skelette im Schrank“ hat.

Einige der während des Firefly-Trainings verwendeten Bilder stammen von Wettbewerbern Zwischendurch, das die Quelle seiner Trainingsdaten nicht preisgegeben hat, obwohl viele vermuten, dass die Bilder durch die Vernichtung des Internets ohne jegliche Lizenz erlangt wurden. Und das, obwohl Firefly als „kommerziell sicher“ gilt.

Für Rachel Metz geht es dabei nicht um „KI-Inzest“, wie er heute genannt wird, sondern um einen Widerspruch zu dem, was Adobe seinen KI-Bildgenerator in den Augen der Öffentlichkeit darstellt.

„Es geht darum, eine bewusste Entscheidung zu treffen, KI-generierte Bilder von Adobe Stock in seinen Datensatz aufzunehmen und sich gleichzeitig öffentlich als deutlich anders als die Unternehmen zu positionieren, deren Tools zur Erstellung dieser KI-generierten Bilder verwendet wurden“, antwortete Metz auf X.

Einige Benutzer halten es jedoch für nahezu unmöglich, eine Datenkontamination zu vermeiden.

„Es ist im wahrsten Sinne des Wortes unmöglich, keine Verunreinigung der Trainingsdaten zu verursachen, wenn man nicht jedes Bild manuell zuordnet und überprüft, was viel zu umständlich ist.“ reagiert Raj Singh.

Lies auch: Gen AI Music erreicht 20 % Erfolgsquote bei kommerziellen Briefings

Die mit KI gekennzeichneten Bilder

Der Bloomberg-Bericht enthüllt außerdem, dass Adobe Stock, das zum Trainieren von Firefly verwendet wurde, über 57 Millionen Bilder mit der Bezeichnung „KI-generiert“ verfügt, was etwa 14 % der Gesamtbilder in dieser Datenbank entspricht.

Der Photoshop-Hersteller hat enthüllt, dass nur 5 % der Bilder, die für das Training von Firefly verwendet wurden, in diese Kategorie fallen, während der Rest „Teil der Adobe Stock-Bibliothek war, was bedeutete, dass sie einen ‚strengen Moderationsprozess‘ durchlaufen hatten.“

„Jedes an Adobe Stock übermittelte Bild, einschließlich einer sehr kleinen Teilmenge der mit KI generierten Bilder, durchläuft einen strengen Moderationsprozess, um sicherzustellen, dass es keine geistigen Eigentumsrechte, Marken, erkennbaren Zeichen oder Namen von Referenzkünstlern enthält“, sagte ein Sprecher gegenüber Bloomberg.

Bei seinem Start, Adobe sagte, Firefly sei gegen Urheberrechtsdiebstahl und bot seinen gewerblichen Kunden eine Entschädigung an, da das Unternehmen sie davon überzeugt habe, dass sein KI-Modell sicher sei.

🚨Scoop von mir und @BrodyFord_: Adobe hat Firefly als sichere und ethische Alternative zu Konkurrenten wie Midjourney angepriesen … aber es hat Firefly auch stillschweigend für Midjourney-Bilder geschult.

Die „ethische“ Firefly-KI von Adobe wurde auf Midjourney-Bildern trainiert https://t.co/LIYD9RuExS

– Rachel Metz (@rachelmetz) 12. April 2024

Besser als seine Konkurrenten

Adobe stellte sein KI-Bilderstellungstool auch als „sichere Alternative“ zu den Konkurrenten Midjourney und Dall-E dar, da es behauptete, die Daten seien lizenziert und „zur Verwendung beim Training des Modells freigegeben“.

Laut Tom's Guide, nicht alle Künstler waren damals so begeistert und „fühlten sich gezwungen, der Nutzung ihrer Werke durch den kreativen Technologieriesen zuzustimmen.“ Die verkaufte Idee war jedoch, dass mit Firefly erstellte Bilder sicher verwendet werden könnten, „ohne das Risiko einer Klage wegen Urheberrechtsdiebstahls“.

Der Bloomberg-Bericht hat der „Ethik“ von Adobe Firefly jedoch eine weitere Dimension verliehen.

Adobe hat seinen KI-Bildgenerator von Mitbewerbern wie Dall-E 3, Stable Diffusion und Midjourney differenziert „kommerziell sicher.“

„Adobe hat die KI-Ethikprinzipien der Rechenschaftspflicht, Verantwortung und Transparenz etabliert.“ schrieb das Unternehmen in einem Beitrag.

Anschließend erstellte das Unternehmen einen Vergütungsplan für alle Künstler, deren Arbeit in die erste Ausbildung von Firefly einfloss. Einige der Künstler, so Laut Unternehmer täglich, Eingereichte Bilder, die von Midjourney erstellt wurden, aber von Adobe für ihren Beitrag vergütet wurden.

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://metanews.com/firefly-training-included-rivals-ai-images/