Adobe 让用户相信它完全使用自己的图像库来训练其 AI 图像生成器 Firefly 模型,但报告显示它还包括来自 Midjourney 等竞争对手的 AI 图像。
Firefly 被誉为最道德和商业安全的图像生成器,使用自己的图像库。但人们发现,他们还使用 Midjourney 等工具通过 AI 生成的图像,这与使用 Adobe Stock 的说法相反。
不那么道德的人工智能
该公司已出售其 萤火虫 作为某种“道德人工智能”,它在 Adobe 自己的许可库存图像库上进行训练。这些是来自 Adobe Stock 库的数百万设计、图像和插图。
与此相反,一份新的报告显示,图像生成器并不像它在市场上投射的图像那么干净。 A 彭博 报告显示,Photoshop 制造商“有一些秘密”。
Firefly 训练过程中使用的一些图像来自竞争对手 中途该公司尚未透露其训练数据的来源,尽管许多人怀疑这些图像是在没有任何许可的情况下通过废弃互联网获得的。尽管 Firefly 被视为“商业安全”。
对于 Rachel Metz 来说,这并不是现在众所周知的“AI 乱伦”,而是与 Adobe 在公众眼中展示的 AI 图像生成器的形象相矛盾。
“这是一个深思熟虑的选择,将 Adobe Stock 中的 AI 生成图像纳入其数据集中,同时公开将自己定位为与使用工具制作这些 AI 生成图像的公司截然不同,”Metz 在 X 上回应道。
然而,一些用户认为避免数据污染几乎是不可能的。
“实际上不可能没有任何训练数据污染,除非您手动归因并验证每个图像,这太麻烦了,” 回应 拉杰·辛格.
也可以参考: Gen AI Music 商业简报成功率达到 20%
AI标记的图像
彭博社的报告进一步透露,用于训练 Firefly 的 Adobe Stock 拥有 57 万张标记为 AI 生成的图像,约占该数据库中图像总数的 14%。
这家 Photoshop 制造商透露,用于训练 Firefly 的图像中只有 5% 属于此类,其余“都是 Adobe Stock 库的一部分,这意味着它们经过了‘严格的审核过程’”。
“提交给 Adobe Stock 的每张图像,包括人工智能生成的一小部分图像,都会经过严格的审核流程,以确保其中不包含知识产权、商标、可识别的字符或引用艺术家的姓名,”一位发言人告诉彭博社。
在启动时, 土砖 Firefly 表示,该公司反对侵犯版权,并为其商业客户提供赔偿,因为该公司说服了他们,其人工智能模型是安全的。
🚨从我这里挖出来 @布罗迪福特_:Adobe 宣称 Firefly 是 Midjourney 等竞争对手的安全且合乎道德的替代品……但它也悄悄地对 Firefly 进行了 Midjourney 图像方面的培训。
Adobe 的“道德”Firefly AI 在中途图像上进行训练 https://t.co/LIYD9RuExS
— 雷切尔·梅茨 (@rachelmetz) 2024 年 4 月 12 日
比竞争对手更好
Adobe 还将其 AI 图像创建工具视为竞争对手 Midjourney 和 Dall-E 的“安全替代品”,因为它声称这些数据已获得许可并“获准用于训练模型”。
根据 汤姆指南,当时并非所有艺术家都那么热衷,并且“感觉他们被迫同意让他们的作品被创意科技巨头使用。”然而,销售的想法是用 Firefly 制作的图像可以安全使用,“没有因侵犯版权而被起诉的风险”。
然而,彭博社的报告对 Adobe Firefly 的“道德”提出了另一个维度。
Adobe 已将其 AI 图像生成器与 Dall-E 3、Stable Diffusion 和 Midjourney 等同行区分开来,并宣称 “商业安全。”
“Adobe 制定了问责制、责任和透明度的人工智能道德原则,” 公司写道 在一篇文章中。
该公司随后为所有参加萤火虫第一次培训的艺术家制定了补偿计划。据报道,部分艺术家 企业家日报、 提交的图像由 Midjourney 创建,但 Adobe 为其输入提供了补偿。