플레이어들의 항의에 따라 에픽게임즈는 인기 배틀 로얄 게임인 포트나이트(Fortnite)에 사용자가 업로드한 인종차별적인 AI 생성 이미지를 삭제한다고 밝혔습니다. 신고 by Kotaku.
Fortnite를 오늘날의 대박 온라인 게임으로 만든 기능 중 하나는 사용자가 자신만의 지도를 만들고 플레이 가능한 경험을 전 세계와 공유할 수 있는 기능입니다. 그러나 이러한 창의성의 배출구는 사용자가 잠재적으로 문제가 있는 콘텐츠를 업로드할 수 있음을 의미하며, 이것이 여기서 일어났습니다.
최근 사용자들은 인종차별적 고정관념을 고착시키는 조잡한 AI 생성 이미지가 포함된 섬 지도를 발견하기 시작했습니다. 처럼 Kotaku 보고된 바에 따르면, 지도의 예로는 "Arab Zonewars", "Nigerian Zonewars" 및 "China Zonewars"와 같은 이름이 포함됩니다.
지도에는 폭탄을 들고 있는 중동 남성과 프라이드치킨을 먹는 흑인 남성 등 고정관념을 지속시키는 인종차별주의적이고 AI가 생성한 것으로 보이는 이미지가 포함되어 있습니다. 대부분의 맵에는 서버 인구가 적었지만 "Jamaica Zonewars"라는 한 맵에는 이번 달 초에 35,000명이 넘는 활성 플레이어가 있었습니다.
이미지: Fortnite Creative에서 "flaming" 사용자가 금지된 섬에서 가져온 작품입니다.
Epic Games는 “참조된 섬 중 다수가 이미 제거되었으며 제작자가 조치를 취했습니다.”라고 말했습니다. Kotaku 성명서에서. "우리는 이미 이와 유사한 썸네일 형식을 사용하는 콘텐츠 위반 문제가 있는 100개 이상의 섬을 해결했으며 앞으로도 계속 그렇게 할 것입니다."
Epic Games는 차별적인 콘텐츠가 Fortnite에 있을 수 없으며 회사의 섬 제작자 규칙을 위반하며 이러한 지침을 위반하는 사용자는 계정이 영구적으로 금지될 수 있다고 덧붙였습니다.
에픽게임즈는 “저희 중재 팀은 게시 전에 모든 콘텐츠를 검토하며, 플레이어에게 도달하는 위반 지도 수를 최소화하기 위해 섬 제작자 규칙과 중재 교육 프로그램을 적극적으로 업데이트하고 있습니다.”라고 밝혔습니다. “우리는 플레이어들이 우리 규칙을 위반할 수 있는 섬을 발견하면 신고할 것을 권장합니다.”
에 제공되는 문 해독의 GG, Epic Games는 사용자가 만든 모든 섬은 게시 전에 중재자의 검토를 받지만 팀이 약간의 손길을 가한다고 말했습니다.
이미지: Fortnite Creative의 사용자 "drzen"이 금지된 섬에서 가져온 작품입니다.
Epic Games는 “콘텐츠 위반에 대해 확신이 없는 경우 제작자를 대신하여 선의의 의도를 가지고 있다고 판단하여 과도한 검열을 하지 않도록 중재팀에 요청합니다.”라고 밝혔습니다. “때때로 이것은 게시되어서는 안 될 내용이 게시된다는 것을 의미하며, 우리는 문제가 되는 콘텐츠를 모두 삭제하고 중재자를 위한 새로운 교육 자료를 작성하기 위해 신속하게 노력합니다. 크리에이터 규칙을 위반한 것으로 밝혀진 크리에이터는 영구 게시, 수익 창출 금지 등 다양한 집행 조치를 받게 됩니다.”
게시자는 "섬 제작자 규칙 및 조정 교육 프로그램"을 업데이트하는 작업을 진행하고 있다고 덧붙였습니다.
에 가입 생성 적 AI 열풍, Epic Games Store가 시작되었습니다 수 9월에는 AI 아트 및 기타 요소를 갖춘 게임 및 제출물이 있었습니다. 이는 경쟁 PC 게임 시장인 Steam 이후에 나온 것입니다. AI 콘텐츠에 반대하는 입장을 취하다,하지만 이후 규제 완화 그러한 제출이 증가하는 가운데.
“우리는 신기술을 사용한다는 이유로 게임을 금지하지 않습니다.” Epic Games 창립자이자 CEO인 Tim Sweeney 쓴 당시 트위터에는 에픽게임즈가 그해 초 완전한 자체 퍼블리싱을 시작했다는 점을 언급했습니다.
AI 개발자는 모델에서 공격적인 이미지를 제거하는 데 막대한 투자를 한 반면, 사용자는 특수한 프롬프트를 사용하여 모델을 "탈옥"하는 방법을 찾았습니다. 10월에는 AI가 생성한 이미지 스폰지 밥 SquarePants나 Nintendo의 Kirby가 제트 여객기를 타고 세계 무역 센터로 날아가는 모습이 입소문을 탔습니다.
