이번 주에 소셜 미디어를 방문했다면 요정, 애니메이션 캐릭터, 아바타, 마법의 존재로 친구의 AI 생성 이미지 사진을 보았을 것입니다.

이것은 부분적으로 사용자가 업로드한 사진을 기반으로 디지털 초상화를 합성하는 AI인 Lensa 때문입니다. 이 앱의 인물사진은 실제로 인터넷을 장악했으며 Lensa는 Apple의 앱 스토어에서 가장 많이 다운로드된 앱이 되었습니다.

이미지를 디지털 방식으로 렌더링하는 모든 AI 애플리케이션과 마찬가지로 Lensa는 겉보기에 노골적으로 여성 이미지를 성적으로 표현한 것으로 인해 감탄과 논란을 모두 불러일으켰습니다. 다른 사용자들은 앱으로 인해 피부가 더 창백해지거나 몸이 더 가늘어졌다고 언급했습니다.

또한 읽기 : 생명을 앗아가는 딥 페이크 이미지를 만드는 AI 기술

나만의 '마법의 아바타'를 얻는 방법

회전하는 이미지는 Lensa의 매직 아바타 기능의 자랑스러운 창작물입니다. 그것을 느끼려면 휴대폰에 Lensa 앱을 다운로드해야 합니다. 연간 구독료는 약 $35.99이지만 먼저 확인하고 싶다면 일주일 동안 무료로 제한이 있지만 서비스도 사용할 수 있습니다.

그러나 인기있는 마법 아바타를 생성하려면 앱에서 말하는 "엄청난 계산 능력"을 달성하기 위해 추가 비용이 필요합니다.

무료 평가판에서는 $50에 3.99개의 아바타를, $200에 7.99개의 아바타를 얻을 수 있습니다. 최상의 결과를 얻기 위해 앱은 사용자가 최소 20개의 클로즈업 이미지를 업로드하도록 권장합니다.

이상적으로 이러한 이미지는 서로 다른 배경, 얼굴 표정 및 각도로 배열된 사람의 얼굴 클로즈업이어야 합니다. 이 애플리케이션은 사용자가 13세 이상이어야 한다고 주장합니다. Lensa는 완전히 새로운 애플리케이션이 아닙니다.

프리즈마(Prisma)의 제품으로 2016년 셀카를 유명 아티스트 스타일의 사진으로 바꾸는 기능으로 처음 인기를 끌었다.

렌사는 어떻게 작동합니까?

회사에 따르면 사용자가 사진 또는 "얼굴 데이터"를 제공하는 "TrueDepth API 기술"을 사용하면 AI가 더 나은 성능을 발휘하고 더 나은 결과를 보여주기 위해 알고리즘에 대해 훈련됩니다. 학습은 AI가 데이터를 처리하고 모델을 검증 및 테스트하는 것입니다.

앱을 사용하기 위해 다양한 표정과 각도로 20개의 셀카를 큐레이팅할 수 있으며 100개의 아바타 옵션을 선택했습니다.

작업시간은 20분정도 소요됩니다. 완료되면 AI는 판타지, 요정 공주, 포커스, 팝, 스타일리시, 애니메, 라이트, 카와이, 무지갯빛, 우주와 같은 10가지 범주에 속하는 아바타를 반환합니다.

“일반적으로 앱이 내 셀카를 기반으로 예술적인 이미지를 생성하는 데 괜찮은 역할을 했다고 느꼈습니다. 대부분의 초상화에서 제 자신을 알아볼 수 없었지만 사진이 어디에서 왔는지는 알 수 있었습니다.” 조 소틸 CNN이 썼다.

“창백한 피부나 동그란 코 같은 특정 특징을 남들보다 더 잘 인식하고 반복하는 것 같았어요. 일부는 좀 더 사실적인 스타일로, 멀리서 보면 실제 내 사진인 줄 알 정도로 가까이 있었다. 다른 것들은 훨씬 더 양식화되고 예술적이어서 나에게 덜 구체적이라고 느꼈습니다.”

Sottile은 AI가 그녀를 더 가볍게 만들었다는 것을 알아차렸습니다.

나 역시 자동으로 나를 더 밝게 만들어주는 것을 느꼈고, 나와 내 갤러리에서 시도한 이미지와 피부색이 약간 어두운 친구가 우리의 다소 밝은 버전을 반환했으며, 분명히 과장이었고, 밝게 하려는 경향을 드러냈습니다. 검은 피부 톤.

여성을 성적으로

그것을 사용한 다른 사람들은 다소 비슷한 우려를 가지고 있었습니다.

여성들은 AI가 자신의 이미지를 빠르게 성적으로 표현한다고 말합니다. 그러나 이전 기사에서 우리는 설명 이것은 AI 교육에 사용되는 데이터 세트에서 발견되는 수많은 성적인 이미지로 인해 가능해졌습니다.

즉, 이것은 AI가 이러한 이미지를 생성하는 방법에 너무 익숙하고 쉽게 음란물이 된다는 것을 의미합니다. 약간의 속임수를 사용하면 사용자가 원하는 경우 해당 이미지에서 자신도 모르게 포르노를 생성하도록 유도할 수 있습니다.

이러한 유형의 성적 대상화를 피하기 위해 대부분의 시간을 헐렁한 옷을 입고 대중 앞에서 보내는 젊은 여성을 성적 대상화합니다. 남성의 AI 사용 금지 https://t.co/YnNCurvYDS

— 잔다르크지만 코미(@postnuclearjoan) 2022 년 12 월 13 일

다른 이야기에서 우리는 AI:s가 어떻게 속일 수 있는지에 대한 정보를 제공하도록 속일 수 있는 방법을 다루었습니다. 폭탄 예를 들어. 이상하게도 매직아바타에 올라온 남성들의 이미지에는 성애화 문제가 나타나지 않았다. MIT Technology Review의 경우 Melissa Heikkilä 쓴,

"내 아바타는 만화처럼 포르노화되었고, 남성 동료들은 우주비행사, 탐험가, 발명가가 되었습니다."

반면에 Sottile은 AI가 "가장 혼란스러운 이미지 중 하나에서" 그녀를 "내 얼굴 버전이 벌거벗은 몸에 있는 것처럼" 보이게 만들었다는 것을 알아차렸습니다.

그녀는 “여러 사진에서 내가 알몸인 것처럼 보였지만 전략적으로 담요를 깔았거나 노골적인 것을 숨기기 위해 이미지를 잘랐다”고 말했다.

Zoe Sottile은 “그리고 내가 완전히 옷을 입은 상태에서도 많은 이미지가 음탕한 표정, 상당한 가슴골, 헐렁한 옷차림을 특징으로 하여 내가 제출한 사진과 일치하지 않았습니다.”라고 덧붙입니다.

다른 사람들은 Lensa와 같은 AI 기술로 포르노 스타가 될 것이라는 두려움을 표현했습니다.

경고: 세상의 누구라도 지금 당신의 합의되지 않은 포르노를 가질 수 있습니다!!

사람들은 끔찍한 결과를 이해하지 못한 채 Lensa와 같은 생성 AI 도구에 경외감을 느낍니다.

🧵 최악의 부분? 회사에서 귀하가 알기를 원하지 않는 사항은 다음과 같습니다. pic.twitter.com/gdS0h1FbXj

— 크리타르스 미탈 | 대작가 🖋️(@kritarthmittal) 2022 년 12 월 14 일

바디 샤이닝

전신 여성의 경우 경험은 다소 다르며 어떤 경우에는 더 나빴습니다. AI는 그들을 날씬하고 섹시하게 만들었습니다.

“Lmfao의 경우 신체 이형증이 있는 경우 AI 생성 사진에 Lensa 앱을 사용하지 마십시오. 이것은 당신의 경고입니다.” 쓴.

또 다른 사람은 앱이 그녀를 동양인처럼 보이게 만들었다고 말했습니다.

AI Lensa 앱을 사용해 보았습니다. AI가 나를 그 어느 때보다 더 동양인으로 보이게 만든 이유를 말해주세요. 😂😂😂😂 pic.twitter.com/lveJNXaXHO

— 크리스티나🌴🌊🐚(@kut1e) 2022 년 12 월 9 일

또 다른 사용자는 AI를 사용할 때 신체 이형증을 경험하기 위해 8달러를 지불했다고 불평하기 위해 트위터를 찾았습니다.

신체 이형증을 경험하기 위해 Lensa에 8달러를 지불했습니다. pic.twitter.com/NRYfh5Jyej

— 가렛(@dollhaus_x) 2022 년 12 월 3 일

신체 이형은 사람이 외모의 결함에 대해 걱정하는 데 많은 시간을 보내는 정신 건강 상태입니다. 이러한 결함은 종종 다른 사람에게는 눈에 띄지 않습니다.

또 다른 사람은 AI가 자동으로 그녀의 전체 모습 이미지에 상당한 가중치를 줄였다고 불평했습니다.

“Lensa AI에 대한 한 가지 불만은 일부 이미지에서 당신을 날씬하게 만든다는 것입니다. 뚱뚱한 사람으로서 그 이미지는 정말 괴로웠습니다. 마른 체형이 되는 데 관심이 없는 동료 뚱보라면 방아쇠를 당기지 않도록 주의하세요.

심리적 시한폭탄

그리고 심리학자들은 AI가 완전한 여성을 유발할 수 있다는 그녀의 진술에 동의합니다.

임상심리학자인 Dr. 토니 피쿠스신체 기형 장애 치료를 전문적으로 연구하고 전문적으로 연구하는 호주 기반의 정신 건강 의사인 은 애플리케이션이 득보다 실이 많을 수 있으며 자기 인식을 변경하기 위한 "사진 필터링 도구"에 불과하다고 믿었습니다.

"이상적인 외모와 인지된 외모 사이에 더 큰 불일치가 있을 때, 그것은 신체의 불만, 고통, 그리고 잠재적으로 건강에 해롭거나 안전하지 않은 수단으로 자신의 외모를 고치거나 바꾸려는 욕구를 불러일으킬 수 있습니다."라고 Pikoos는 말합니다.

그녀는 피부에 대한 고민을 키울 수 있는 '주근깨', '주근깨' 등 '복잡한 디테일'이 지워진 이미지에 대해 우려를 표했다. 이것은 또한 취약한 사람을 심리적으로 유발할 수 있다고 그녀는 말합니다.

“자신의 불안감을 반영하는 외부 이미지를 보면 '봐, 이건 내가 잘못했어! 그리고 저만 그것을 볼 수 있는 것이 아닙니다!'”라고 Pikoos는 말합니다.

AI가 사용자의 실제 모습을 묘사하지 않는 자체 기능을 도입하기 때문에 앱이 새로운 불안을 유발할 수 있다고 그는 말합니다.

그녀는 AI의 "마술 아바타"가 "마치 어떤 외부의 모든 것을 아는 존재가 당신의 모습에 대한 이미지를 생성한 것처럼 더 객관적으로 보이기 때문에 특히 흥미로웠다"고 말했습니다.

그녀는 이것이 신체 이형 장애가 있는 사람들에게 실제로 "유용"하고 "자신에 대한 개인의 부정적인 견해와 다른 사람들이 보는 방식" 사이의 "불일치"를 밝히는 데 도움이 될 것이라고 생각합니다.

그러나 그녀는 AI가 얼굴의 완벽하고 "향상되고 완벽한 버전"을 묘사하려는 시도 때문에 객관적이지 않다고 지적했습니다.

예를 들어, 신체 이형 장애(BDD)를 경험하는 사람은 "자신의 이미지를 볼 때 짧은 자신감 향상을 경험할 수 있고 자신의 이 버전을 세상과 공유하고 싶어할 수 있습니다."라고 그녀는 말합니다. 화면, 여과되지 않은, 거울 속 또는 그들이 직접 찍은 사진.”

자신의 방어

Prisma Labs의 CEO인 Andrey Usoltsev는 그의 회사가 현재 Lensa에 대한 문의로 "압도당했다"고 말하며 Pikoos가 설명하는 사용자 반응은 아니지만 성적인 이미지에 대한 질문을 다루는 FAQ 페이지에 대한 링크를 제공했습니다.

"이것이 앱에 반영되는 것을 보는 것은 매우 직면하게 될 것이며 그들이 자신을 보는 방식에 대한 일종의 '확인'을 제공할 것입니다."

안정적인 확산

Lensa는 또한 텍스트 설명에서 새로운 이미지를 생성하고 Windows 또는 Linux PC, Mac 또는 임대 컴퓨터 하드웨어의 클라우드에서 실행할 수 있는 딥 러닝 합성을 사용하는 Stable Diffusion을 사용합니다.

Stable Diffusion의 신경망은 집중 학습을 통해 단어를 연결하고 이미지의 픽셀 위치 간의 일반적인 통계적 연결을 마스터했습니다.

우리는 다른 것을 덮었습니다. 이야기 기술이 범죄자로 보이거나 절도와 같은 덜 아첨하는 관행에 연루된 것처럼 보이는 사람들의 이미지를 렌더링하고 묘사함으로써 어떻게 생명을 파괴하는 결과를 초래할 수 있는지.

예를 들어 오픈 소스 Stable Diffusion에 "교실의 톰 행크스"와 같은 프롬프트를 제공하면 교실에서 톰 행크스의 새로운 이미지를 얻을 수 있습니다. Tom Hank의 경우 수백 장의 사진이 Stable Diffusion 훈련에 사용된 데이터 세트에 이미 있기 때문에 공원 산책과도 같습니다.

아티스트도 원시 거래를 받고 있습니다.

예술계에서 일부 예술가들은 불행해합니다.

그들은 AI가 그들의 생계를 위협할 수 있다고 우려합니다. 디지털 인물을 포함한 예술가들도 AI만큼 빠르게 디지털 초상화를 제작할 수 없기 때문이다.

나는 개인 정보 보호를 위해/개인을 부르려는 것이 아니기 때문에 이것을 자르고 있습니다. 이것들은 모두 망가진 예술가의 서명이 남아있는 Lensa 초상화입니다. 그것이 훔친 여러 예술가 중 한 명의 서명의 잔해입니다.

🧵 https://t.co/0lS4WHmQfW pic.twitter.com/7GfDXZ22s1

— 로린 입숨(@LaurynIpsum) 2022 년 12 월 6 일

Lensa의 모회사인 Prisma는 디지털 아티스트의 작업을 제거하는 기술에 대한 우려를 완화하려고 시도했습니다.

“인간과 AI 모두 예술적 스타일에 대해 반유사한 방식으로 학습하지만 몇 가지 근본적인 차이점이 있습니다. 인간으로서" 쓴 회사는 6월 XNUMX일 트위터에서

"출력물은 특정 아트워크의 정확한 복제본으로 설명할 수 없습니다."라고 말합니다.

이 AI 생성 예술입니까 아니면 AI 복사 예술입니까? Lensa AI는 인간의 예술을 훔치고 있습니까? 전문가가 논쟁을 설명하다 https://t.co/cxi2t6URC7 pic.twitter.com/20xJgbHZgA

— 존 채프먼(@JChapman1729) 2022 년 12 월 15 일

자기 이미지 변경

토론토 대학의 생명윤리학자인 Kerry Bowman은 AI가 다른 윤리적 문제 중에서도 자아상에 부정적인 영향을 미칠 가능성이 있다고 말합니다.

Bowman은 월요일에 "어떤 면에서는 매우 재미있을 수 있지만 이러한 이상적인 이미지는 매우 잔인하고 매우 편협할 수 있는 사회적 기대에 의해 주도되고 있습니다."라고 말했습니다.

Bowman은 이러한 AI 프로그램이 이러한 초상화를 만들기 위해 다양한 예술 스타일을 찾기 위해 인터넷과 같은 데이터 세트 소스를 사용한다고 말했습니다. 단점은 AI가 그렇게 할 때 아티스트가 자신의 작품 사용에 대해 재정적으로 보상을 받거나 크레딧을 받는 경우가 거의 없다는 것입니다.

“신흥 AI에서 일어나는 일은 법률이 저작권법 측면에서 이를 따라갈 수 없다는 것입니다. 그것은 매우 어렵고 매우 모호하며 윤리는 법보다 훨씬 더 뒤처져 있습니다. 왜냐하면 저는 이것이 근본적으로 불공평하다고 주장하기 때문입니다.”라고 Bowman이 말했습니다.

개인 데이터 문제

Bowman은 또한 사람들의 개인 데이터가 저장되는 방식에 대한 우려를 제기했습니다.

“정말로 큰 데이터베이스에 있는 당신의 얼굴을 원하십니까? 사람들은 이것에 대해 스스로 결정할 필요가 있지만 그것은 온건하지 않고 이것에 아무 것도 없으며 단지 재미만 있는 것이 아닙니다.”라고 그는 말했습니다.

Lensa는 사진이 서버와 앱에 24시간 이상 보관되지 않는다고 말합니다. 딥 러닝 및 머신 러닝 알고리즘을 통해 AI는 삭제된 데이터를 기반으로 미래에 더 나은 결과를 수집하고 제공합니다. Bowman은 이러한 유형의 데이터가 경찰에 의해 불법적으로 사용될 수 있기 때문에 안면 인식의 잠재적 사용에 대한 안전 문제를 초래할 것이라고 말했습니다.

/메타뉴스.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• 플라토 블록체인. Web3 메타버스 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 출처: https://metanews.com/ai-selfie-app-revealed-as-male-shauvinist/?utm_source=rss&utm_medium=rss&utm_campaign=ai-selfie-app-revealed-as-male-shauvinist