Adobe 讓用戶相信它完全使用自己的圖像庫來訓練其 AI 圖像生成器 Firefly 模型,但報告顯示它還包括來自 Midjourney 等競爭對手的 AI 圖像。
Firefly 被譽為最道德和商業安全的圖像生成器,使用自己的圖像庫。但人們發現,他們也使用 Midjourney 等工具透過 AI 產生的圖像,這與使用 Adobe Stock 的說法相反。
不那麼道德的人工智慧
該公司已出售其 螢火蟲 作為某種“道德人工智慧”,它在 Adobe 自己的許可庫存圖像庫上進行訓練。這些是來自 Adobe Stock 庫的數百萬設計、圖像和插圖。
與此相反,一份新的報告顯示,影像產生器並不像它在市場上投射的影像那麼乾淨。 A 彭博社 報告顯示,Photoshop 製造商「有一些秘密」。
Firefly 訓練過程中使用的一些影像來自競爭對手 中途該公司尚未透露其訓練數據的來源,儘管許多人懷疑這些圖像是在沒有任何許可的情況下透過廢棄互聯網獲得的。儘管 Firefly 被視為「商業安全」。
對於 Rachel Metz 來說,這並不是現在眾所周知的“AI 亂倫”,而是與 Adobe 在公眾眼中展示的 AI 圖像生成器的形象相矛盾。
「這是一個深思熟慮的選擇,將AdAdobe Stock 中的AI 生成圖像納入其數據集中,同時公開將自己定位為與使用工具製作這些AI 生成圖像的公司截然不同,」Metz 在X 上回應道。
然而,一些用戶認為避免數據污染幾乎是不可能的。
“實際上不可能沒有任何訓練資料污染,除非您手動歸因並驗證每個圖像,這太麻煩了,” 回應 拉傑·辛格.
另請閱讀: Gen AI Music 商業簡報成功率達 20%
AI標記的圖像
彭博社的報告進一步透露,用於訓練 Firefly 的 Adobe Stock 擁有 57 萬張標記為 AI 生成的圖像,約佔該資料庫中圖像總數的 14%。
這家 Photoshop 製造商透露,用於訓練 Firefly 的圖像中只有 5% 屬於此類,其餘「都是 Adobe Stock 庫的一部分,這意味著它們經過了『嚴格的審核過程』」。
「提交給AdAdobe Stock 的每張圖像,包括人工智慧生成的一小部分圖像,都會經過嚴格的審核流程,以確保其中不包含智慧財產權、商標、可識別的字元或引用藝術家的姓名, 」一位發言人告訴彭博社。
在其推出時, 土磚 Firefly 表示,該公司反對侵犯版權,並為其商業客戶提供賠償,因為該公司說服了他們,其人工智慧模型是安全的。
🚨從我這裡挖出來 @布羅迪福特_:Adobe 宣稱 Firefly 是 Midjourney 等競爭對手的安全且合乎道德的替代品……但它也悄悄地對 Firefly 進行了 Midjourney 圖像方面的培訓。
Adobe 的「道德」Firefly AI 在中途影像上進行訓練 https://t.co/LIYD9RuExS
— 雷切爾·梅茨 (@rachelmetz) 2024 年 4 月 12 日
比競爭對手更好
Adobe 還將其 AI 圖像創建工具視為競爭對手 Midjourney 和 Dall-E 的“安全替代品”,因為它聲稱這些數據已獲得許可並“獲準用於訓練模型”。
根據 湯姆指南,當時並非所有藝術家都那麼熱衷,並且“感覺他們被迫同意讓他們的作品被創意科技巨頭使用。”然而,銷售的想法是用 Firefly 製作的圖像可以安全使用,「沒有因侵犯版權而被起訴的風險」。
然而,彭博社的報告對 Adobe Firefly 的「道德」提出了另一個維度。
Adobe 已將其 AI 影像產生器與 Dall-E 3、Stable Diffusion 和 Midjourney 等同行區分開來,並宣稱 “商業安全。”
“Adobe 制定了問責制、責任和透明度的人工智慧道德原則,” 公司寫道 在一篇文章中。
該公司隨後為所有參加螢火蟲第一次培訓的藝術家製定了補償計劃。據報道,部分藝術家 企業家日報、 提交的圖像由 Midjourney 創建,但 Adobe 為其輸入提供了補償。