Dans un monde où les images générées par l'IA sont de plus en plus impossibles à distinguer des photographies humaines, Meta a mis à jour son outil « Imaginez avec Meta AI ».
Selon eux blogue, cette mise à jour introduit des filigranes invisibles sur toutes les images générées par l'outil, marquant une étape vers la garantie de la transparence et de la traçabilité du contenu généré par l'IA.
La fonction de filigrane invisible de Meta AI est une réponse aux inquiétudes croissantes concernant l'utilisation abusive potentielle de Technologies AI dans la création de contenu trompeur ou trompeur. Contrairement aux filigranes classiques, ceux-ci sont invisibles à l’œil humain mais peuvent être détectés grâce à un modèle correspondant. Cette approche est conçue pour être résiliente aux manipulations d’images courantes, notamment le recadrage, les changements de luminosité ou de contraste des couleurs et les captures d’écran.
Meta a également lancé un produit autonome appelé « Image with Meta AI ».
Il s'agit d'un générateur d'images gratuit, avec des filigranes invisibles pour augmenter la transparence des images IA à venir.
Essayez ici: https://t.co/4S37p2Hy2j pic.twitter.com/U8pteh6Pc9
– Rowan Cheung (@rowancheung) 7 décembre 2023
La décision de Meta d'incorporer cette fonctionnalité dans ses images générées par l'IA vise à établir une nouvelle norme dans l'industrie, garantissant que les origines du contenu créé par l'IA sont traçables et transparentes. Le filigrane est appliqué à l'aide d'un modèle d'apprentissage en profondeur, ce qui témoigne de la volonté de Meta de tirer parti de la technologie pour améliorer la sécurité et l'intégrité numériques.
Le paysage évolutif de Meta A
Méta IA, connu pour sa capacité à générer des images photoréalistes et à fournir des réponses détaillées à un large éventail de demandes, ne se limite pas au tatouage. La plateforme d'IA a étendu ses capacités. La fonctionnalité « réimaginer », introduite sur Facebook Messenger et Instagram, permet aux utilisateurs d'envoyer et de recevoir des images générées par l'IA, améliorant ainsi l'expérience des médias sociaux avec une touche créative.
Meta AI joue également un rôle dans l’amélioration de l’expérience utilisateur sur Facebook et Instagram. Qu'il s'agisse de proposer des suggestions de commentaires et des résultats de recherche générés par l'IA ou de faciliter des applications créatives dans les magasins, Meta AI devient une partie de l'écosystème de Meta.
Une position contre l’utilisation abusive de l’IA
La décision d’inclure des filigranes invisibles dans les images générées par l’IA fait partie d’un effort plus large de Meta visant à relever les défis éthiques posés par la technologie de l’IA. Récemment, les campagnes d'escroquerie basées sur l'IA se sont multipliées, les fraudeurs utilisant des outils facilement disponibles pour créer fausses vidéos, audio et images de personnalités publiques. Cela a entraîné une désinformation importante et même des bouleversements temporaires du marché, comme en témoigne l'incident impliquant une fausse image d'une explosion près du Pentagone.
La décision de Meta est une mesure proactive visant à atténuer ces risques, en garantissant que le contenu généré par l'IA puisse être facilement identifié et différencié du matériel généré par l'homme. Cette approche promeut une utilisation responsable de l’IA et contribue à préserver la confiance du public dans le contenu numérique.
Les efforts continus de Meta en matière de sécurité de l'IA
En plus du filigrane invisible, Meta investit dans l'équipe rouge dans le cadre de son incursion dans la sécurité de l'IA. L’équipe rouge implique des tests de pression sur la recherche et les fonctionnalités de l’IA générative pour identifier les risques potentiels dans les résultats. L’introduction du cadre Multi-round Automatic Red-Teaming (MART) est un pas dans cette direction, visant à améliorer continuellement la sécurité des applications d’IA.
Nouveau document de recherche sur l'IA de Meta — MART, ou Multi-round Automatic Red-Teaming, est un cadre pour améliorer la sécurité du LLM qui forme un LLM adverse et cible grâce à une équipe rouge contradictoire itérative automatique.
Détails dans le journal ➡️ https://t.co/lGuJrPDsCD pic.twitter.com/KNfWqx8JTk
– L'IA chez Meta (@AIatMeta) 15 novembre 2023
Le développement de Meta vise à ajouter une couche de transparence et de traçabilité au contenu généré par l'IA, marquant un changement dans la manière dont ce contenu est géré et authentifié. Le filigrane invisible, indétectable à l’œil nu mais identifiable grâce à des modèles spécifiques, est conçu pour aider à différencier les images créées par l’IA de celles produites par les humains. Cette décision de Meta reflète un effort visant à répondre à certaines préoccupations éthiques associées à la technologie de l'IA et à son potentiel d'utilisation abusive dans la création de contenu trompeur.
- Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
- PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
- PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
- PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
- PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
- La source: https://metanews.com/meta-ai-to-add-invisible-watermarks-for-increased-transparency/
