최근 연구에 따르면 AI로 구동되는 예술 생성기 'Midjourney'는 회사가 가드레일을 설치했음에도 불구하고 쉽게 속아 잘못된 정보와 악성 콘텐츠를 생성할 수 있다는 사실이 밝혀졌습니다.

사용자가 원하는 거의 모든 것을 만들 수 있는 능력으로 인해 비양심적인 개인이 선전, 증오, 인종 차별 및 기타 형태의 편견을 퍼뜨리는 것과 같은 잘못된 이유로 생성 AI를 사용할 수 있다는 우려가 제기되었습니다.

이를 인식하고 당국은 AI 회사에 도구의 "잘못된" 사용을 근절하기 위해 노력할 것을 촉구했습니다. 제작자는 사람들이 유해한 콘텐츠를 만들지 못하도록 막을 수 있는 몇 가지 보호 장치를 마련했습니다.

가드레일 부수기

그러나 가드레일을 두었음에도 불구하고 최근 연구 결과를 블룸버그 게시물에서 그렇지 않다고 말합니다. CCDH(Center for Countering Digital Hate)로 알려진 비영리 조직의 연구원들이 수행한 이 연구는 Midjourney가 음모적이고 인종차별적인 어조로 가득 찬 여러 이미지를 보여 주며 회사 규정을 많이 위반합니다.

연구에 따르면 몇몇 이미지 메시지는 "웃는 사악한 정치인, 슬픈 아이들, 혜성 피자 가게"와 같은 "정치적 주제"와 관련이 있습니다. 피자 게이트 음모.

Midjourney는 이 특정 문제에 응답하지 않았지만 앱 사용을 감독하는 68명의 콘텐츠 조정자와 가이드가 있다고 회사는 말했습니다. 따라서 회사는 도구가 "일부 텍스트 입력을 자동으로 차단"한다고 말했습니다.

그러나 이 연구는 도구가 조작되기 쉽기 때문에 이것이 사실이 아님을 보여줍니다. 실제로 이 도구는 "타협적인 시나리오에서 정치인, 유명인 및 기타 공인의 조작된 이미지"에 대한 요청을 준수합니다.

이미지 제작자인 OpenAI와 같은 다른 회사가 있는 반면 달-이 SimilarWeb의 통계에 따르면 Midjourney는 42월에 XNUMX만 명 이상의 월간 방문자를 기록하며 많은 고객을 유치한 것으로 보입니다.

Midjourney는 광고 소재 활용 자연어 입력에서 고유한 이미지를 생성합니다.

또한 읽기 : 백악관, 미국의 디지털 미래를 확보하기 위해 AI 사이버 챌린지 시작

악의

사용자는 액세스하려면 $10부터 시작하는 월간 구독료를 지불합니다. 중도 14만 명 이상의 가입자를 보유한 메시징 앱 Discord를 통해 그런 다음 사용자는 Midjourney 봇을 통해 이미지에 대한 메시지 요청을 보냅니다.

블룸버그에 따르면 생성된 이미지는 제작자의 사용자 이름에 기인하지만 해당 이미지는 기본적으로 공개됩니다.

연구를 위해 Discord 서버를 샅샅이 뒤진 연구원들은 잘못된 정보의 가해자들도 파악하고 있다고 말했습니다.

이 보고서는 Midjourney에게 "복화술사로서의 조지 소로스"의 반유대주의적 사진을 요청한 전 Breitbart News London의 편집장인 Raheem Kassam의 예를 인용합니다. 300,000만 명에 가까운 구독자를 보유한 유튜브 해설자 잭슨 힝클도 같은 달(XNUMX월) 미드저니에게 '악마 같은 조지 소로스'의 사진을 요청했다. 보고서에 따르면 카삼은 논평을 요청했을 때 응답하지 않았고 힝클은 소로스를 거짓으로 고발한 것으로 전해졌다.

"누구나 이러한 도구 중 하나를 사용하여 그런 종류의 콘텐츠를 생성할 수 있습니다."라고 CCDH 연구 책임자인 Callum Hood는 말했습니다.

"이 연구는 정확히 그 목적으로 그것을 사용하는 사람들이 당신이 생각하는 것보다 더 큰 풀이 있다는 것을 보여줍니다."

사실적인 이미지

후드는 걱정스러운 추세 중 하나는 도구가 사실적인 이미지를 생성하여 결코 발생하지 않은 이벤트를 보여주고 2024년 선거에 영향을 미칠 수 있다는 것이라고 말했습니다.

그는 “2024년 대선이 다가오면서 사람들이 가장 많이 생각하는 것일 것”이라고 말했다.

생성 AI의 사용이 증가함에 따라 딥 페이크 생성이 촉진되면서 미국 연방 선거 관리 위원회(FEC)는 청원을 진행 정치 캠페인에서 AI가 생성한 딥 페이크의 사용을 규제합니다.

XNUMX월에 공화당원들은 AI 도구인 Dal-E와 Midjourney를 사용했습니다. 광고 공격 내년 대통령 선거에서 조 바이든 대통령이 재선 출마를 선언했을 때. 바이든 대통령과 그의 보좌관인 카말라 해리스(Kamala Harris)가 가상의 승리를 축하하는 모습을 담은 영상의 이미지는 모두 AI가 생성한 것입니다.

같은 달, 세계는 AI가 만든 세련된 흰색 푹신한 코트를 입은 프란치스코 교황의 사진으로 떠들썩했습니다. 도널드 트럼프 전 대통령이 경찰과 몸싸움을 벌이는 또 다른 사진이 공개됐다.

그리고 AI 도구에 대한 업데이트가 정기적으로 쏟아져 나오면서 딥페이크를 만든 범인도 교묘해질 것이라는 우려도 있습니다.

중도 발표 5월에 출시된 VXNUMX 버전은 이전 버전에 비해 훨씬 나은 버전입니다.

회사는 V5를 설명하면서 "훨씬 더 높은 이미지 품질, 더 다양한 출력, 더 넓은 스타일 범위, 매끄러운 질감 지원, 더 넓은 종횡비, 더 나은 이미지 프롬프팅, 더 넓은 다이내믹 레인지 등"이라고 자랑했습니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 자동차 / EV, 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 차트프라임. ChartPrime으로 트레이딩 게임을 향상시키십시오. 여기에서 액세스하십시오.
• BlockOffsets. 환경 오프셋 소유권 현대화. 여기에서 액세스하십시오.
• 출처: https://metanews.com/ai-is-helping-solve-uks-biodiversity-challenges-study-reveals/