AI가 생성한 이미지가 사람의 사진과 점점 더 구별하기 어려워지는 세상에서 Meta는 'Imagine with Meta AI' 도구를 업데이트했습니다.
그들의 말에 따르면 블로그, 이 업데이트는 도구에서 생성된 모든 이미지에 보이지 않는 워터마크를 도입하여 AI 생성 콘텐츠의 투명성과 추적성을 보장하는 단계를 나타냅니다.
Meta AI의 보이지 않는 워터마킹 기능은 잠재적인 오용에 대한 우려가 커지는 것에 대한 대응입니다. 인공 지능 기술 기만적이거나 오해의 소지가 있는 콘텐츠를 만드는 행위. 기존 워터마크와는 달리 사람의 눈에는 보이지 않지만 해당 모델을 사용하면 감지할 수 있습니다. 이 접근 방식은 자르기, 색상 밝기 또는 대비 변경, 스크린샷 등 일반적인 이미지 조작에 탄력적으로 대응하도록 설계되었습니다.
Meta는 'Image with Meta AI'라는 독립형 제품도 출시했습니다.
AI 이미지의 투명성을 높이기 위해 눈에 보이지 않는 워터마크가 포함된 무료 이미지 생성기입니다. 곧 출시될 예정입니다.
여기에서 시도하십시오 : https://t.co/4S37p2Hy2j pic.twitter.com/U8pteh6Pc9
— 로완 청(@rowancheung) 2023 년 12 월 7 일
이 기능을 AI 생성 이미지에 통합하기로 한 Meta의 결정은 AI 생성 콘텐츠의 출처를 추적 가능하고 투명하게 보장하여 업계의 새로운 표준을 확립하는 것을 목표로 합니다. 워터마크는 디지털 안전과 무결성을 향상시키기 위해 기술을 활용하려는 Meta의 노력에 대한 증거인 딥 러닝 모델을 사용하여 적용됩니다.
Meta A의 진화하는 환경
메타 AI사실적인 이미지를 생성하고 다양한 요청에 대해 상세한 응답을 제공하는 기능으로 알려진 는 워터마킹에만 국한되지 않습니다. AI 플랫폼의 기능이 확장되었습니다. 에 소개된 '재상상' 기능 페이스 북 메신저 인스타그램을 통해 사용자는 AI가 생성한 이미지를 보내고 받을 수 있어 창의적인 방식으로 소셜 미디어 경험을 향상시킬 수 있습니다.
Meta AI는 Facebook과 Instagram 전반에서 사용자 경험을 향상시키는 역할도 합니다. AI가 생성한 게시물 댓글 제안 및 검색 결과 제공부터 상점에서의 창의적인 애플리케이션 촉진에 이르기까지 Meta AI는 Meta 생태계의 일부가 되어가고 있습니다.
AI 오용에 반대하는 입장
AI가 생성한 이미지에 보이지 않는 워터마크를 포함시키려는 움직임은 AI 기술로 인해 발생하는 윤리적 문제를 해결하기 위한 Meta의 광범위한 노력의 일환입니다. 최근 AI 기반 사기 캠페인이 급증했으며, 사기꾼은 쉽게 사용할 수 있는 도구를 사용하여 가짜 비디오, 오디오 및 공인의 이미지. 이는 펜타곤 근처 폭발의 가짜 이미지와 관련된 사건에서 목격된 것처럼 심각한 잘못된 정보와 심지어 일시적인 시장 혼란을 초래했습니다.
Meta의 움직임은 이러한 위험을 완화하기 위한 선제적인 조치로, AI 생성 콘텐츠를 인간 생성 콘텐츠와 쉽게 식별하고 구별할 수 있도록 보장합니다. 이러한 접근 방식은 AI의 책임감 있는 사용을 장려하고 디지털 콘텐츠에 대한 대중의 신뢰를 보호하는 데 도움이 됩니다.
AI 안전을 위한 메타의 지속적인 노력
눈에 보이지 않는 워터마킹 외에도 메타는 AI 안전을 위한 노력의 일환으로 레드팀 구성에 투자하고 있습니다. 레드팀 구성에는 생성적 AI 연구 및 기능을 압력 테스트하여 결과의 잠재적 위험을 식별하는 작업이 포함됩니다. MART(Multi-round Automatic Red-Teaming) 프레임워크를 도입하는 것은 AI 애플리케이션의 안전성을 지속적으로 향상시키는 것을 목표로 하는 이러한 방향의 한 단계입니다.
Meta의 새로운 AI 연구 논문 - MART(Multi-round Automated Red-Teaming)는 자동 반복적 적대 레드팀을 통해 적대자와 대상 LLM을 훈련시키는 LLM 안전성을 향상시키기 위한 프레임워크입니다.
자세한 내용은 논문에 나와 있습니다 ➡️ https://t.co/lGuJrPDsCD pic.twitter.com/KNfWqx8JTk
— 메타의 AI(@AIatMeta) 2023 년 11 월 15 일
Meta의 개발은 AI 생성 콘텐츠에 투명성과 추적성을 추가하여 이러한 콘텐츠를 관리하고 인증하는 방법을 바꾸는 것을 목표로 합니다. 육안으로는 감지할 수 없지만 특정 모델을 통해 식별할 수 있는 보이지 않는 워터마크는 AI가 생성한 이미지와 인간이 생성한 이미지를 구별하는 데 도움이 되도록 설계되었습니다. Meta의 이러한 움직임은 AI 기술과 관련된 일부 윤리적 문제와 오해의 소지가 있는 콘텐츠 제작 시 오용 가능성을 해결하려는 노력을 반영합니다.
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
- PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
- PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
- 출처: https://metanews.com/meta-ai-to-add-invisible-watermarks-for-increased-transparency/
