딥페이크 포르노 스캔들이 스트리밍 커뮤니티를 뒤흔들었습니다. 호주 법이 이 문제를 해결하고 있을까요?
인디아나 죠스
2024. 8. 30. 13:06
728x90
반응형
QTCinderella는 딥페이크 포르노가 만들어졌다는 사실을 알게 된 후 자신의 고통을 공유하기 위해 라이브로 나섰습니다. 출처: Twitch
AI 딥페이크는 정치인들의 이미지를 조작하여 허위 정보를 퍼뜨리는 데 사용될 수 있습니다. 배우 스칼렛 요한슨과 같은 유명인의 사진을 성적으로 노골적인 영상으로 조작할 수 있고 조작했습니다. 하지만 만약 스칼렛 요한슨이 아니었다면? 만약 당신이었다면?
딥페이크 영상을 추적하는 연구 기업 센시티 AI는 2019년 연구에서 그 중 96%가 포르노라고 밝혔습니다.
지난주, 인기 있는 미국 트위치 스트리머인 브랜든 "아트리옥" 유잉이 여러 여성 스트리머의 AI가 생성한 영상을 시청하는 모습이 적발되면서 딥페이크 포르노 문제가 다시 대중의 화제로 떠올랐습니다.
그 여파로, 인기 있는 트위치 스트리머 QTCinderella는 자신도 AI에 의해 조작되었고 가짜 자료가 웹사이트에서 판매되고 있다는 사실을 알게 되었습니다. 본명이 블레어인 28세의 그녀는 반응에서 눈에 띄게 괴로워했습니다.
.트위치 스트리머 아트리옥이 딥페이크 포르노 영상을 시청한 혐의로 사과 영상을 공개했습니다.
"이게 침해당했다고 느끼는 감정이에요. 이게 이용당하는 감정이에요. 이게 자신의 의지에 반해 알몸이 인터넷에 퍼지는 걸 보는 감정이에요. 이게 바로 그 감정이에요." 그녀는 스트리밍 중에 말했다.
"씨발 인터넷 엿먹어. 여성에 대한 끊임없는 착취와 대상화 엿먹어. 지치고 지치고. 수천 명의 사람들에게 보여준 Atroic 엿먹어.
"그 웹사이트에서 내 사진을 DM으로 보내는 사람들 엿먹어... 이게 바로 모습이야, 이게 바로 고통의 모습이야.
"자신을 팔지 않거나 이익을 얻지 못하는 여성을 볼 수 있다면... 당신이 문제라는 것을 볼 수 있다면. 당신은 여성을 대상으로 봅니다."
이 사건의 또 다른 피해자인 700만 명 이상의 팔로워를 보유한 포키마네는 트윗에서 "동의 없이 사람들을 성적 대상화하는 것을 중단하라. 그게 다야, 그게 트윗이야."라고 그들에게 촉구했습니다.
인기 여성 게이머 Pokimane이 시청자들에게 그녀를 성적 대상화하는 것을 멈추라고 요청했습니다. 출처: Pokimane
하지만 사건 이후에도 많은 댓글에서는 Atrioc이 실제 사람들이 출연한 동의 없는 가짜 포르노를 보는 것에는 문제가 없다고 보았습니다.
"그 사람이 좀 불쌍하긴 해요.", "괜찮아요, 해야 할 일을 해야죠.", "웹사이트가 뭔데요? 친구를 위해 물어보는 거예요." 등은 Atrioc 편을 드는 많은 댓글 중 일부에 불과합니다.
호주에서 'Teach us Consent' 캠페인을 주도해 새로운 국가적 동의 교육 과정을 탄생시킨 동의 운동가 샤넬 콘토스는 이 사건과 일부 시청자들의 반응이 "매우 불안하다"고 말했습니다.
반응형
"이와 관련해 견고한 규칙, 규정 및 법률이 필요하지만, 사람들이 이미지 기반 학대를 악용하는 것을 막는 유일한 방법은 사람들, 특히 이런 종류의 AI 기술을 사용할 의향이 더 큰 젊은 세대에게 동의 개념을 심어주는 것입니다." Ms Contos가The Feed에 말했습니다.
"AI 기술은 그것을 매우 사실적으로 만들고, 그것을 더욱 침해합니다. 움직이는 사진은 명백히 포토샵으로 처리된 정지 이미지보다 훨씬 더 충격적일 수 있습니다."
딥페이크란 무엇인가요?
딥페이크(이 단어는 딥 러닝과 가짜의 합성어) 미디어는 기존 이미지에 이미지나 비디오를 오버레이합니다. 머신 러닝과 AI를 사용하여 비주얼과 오디오를 조작하여 다른 사람처럼 보이고 들리게 할 수 있습니다.
경고: 다음 트윗에는 거친 언어가 포함되어 있습니다.
이 이야기가 제가 이 웹사이트에 있다는 것을 알게 된 계기가 되었어요. 저는 문자 그대로 성판매에 참여하지 않음으로써 수백만 달러를 넘기기로 선택하고, 무작위로 치토를 이용한 음란물 중독자들은 제 동의 없이 제 몸을 유혹해요. 이 시점에서 울어야 할지, 깨야 할지, 웃어야 할지 모르겠어요.
딥페이크는 엔터테인먼트나 게임 산업을 향상시킬 수 있는 반면, 아동 성적 학대 영상, 유명인 포르노 영상, 복수 포르노, 가짜 뉴스, 금융 사기, 그리고 동의하지 않은 사람들의 가짜 포르노 영상을 만들 수 있는 잠재력에 대한 우려도 불러일으켰습니다.
지난 3월, 우크라이나 대통령 볼로디미르 젤렌스키의 딥페이크 영상이 소셜 미디어에 유포되었고, 해커들이 우크라이나 뉴스 웹사이트에 심어놓은 후, 사실이 아닌 것으로 밝혀져 삭제되었습니다.
이 깊은 가짜들은 무서울 정도로 현실적입니다. 젤렌스키가 실제로 그렇게 완전히 미친 말을 했다고 상상해 보세요. 이거 딥페이크죠? 그렇죠?
조작된 영상은 우크라이나 군대에 무기를 내려놓고 러시아와의 싸움에서 항복하라고 말하는 듯합니다. 많은 사람들이 이 영상이 러시아의 정보전의 일부라고 믿었습니다. 그는 AI가 만든 복수 포르노에 대해 "큰 우려"를 갖고 있다고 말했다.
Deep Fake 기술이 향상되고 있습니다: 여기 톰 크루즈와 패리스 힐튼의 비디오가 있습니다 정말 패리스 힐튼이지만, 그 남자는 소비자용 노트북에서 하는 인공지능 톰 크루즈입니다.
그는 "저는 오픈소스 이미지 생성기를 통해 일어나는 복수 포르노 세대를 큰 우려로 지켜보고 있었습니다."라고 말했습니다.
"저는 그것이 엄청나고 예측 가능한 피해를 끼친다고 생각합니다."
호주의 법률은 딥페이크 포르노에 대해 어떻게 규정하고 있나요?
eSafety 위원인 줄리 인먼 그랜트는 The Feed에 보낸 성명에서"최근 들어 딥페이크 기술이 무기화되어 가짜 뉴스, 거짓 포르노 영상, 악의적인 사기를 만드는 사례가 늘고 있습니다. 이런 사례는 주로 정치인이나 연예인 등 유명인을 표적으로 삼습니다.
"이 기술이 더 쉽게 접근 가능해짐에 따라 일반 호주 시민도 영향을 받을 것으로 예상합니다.
"누드나 성적 딥페이크를 게시하는 것은 이미지 기반 학대의 한 형태로, 누군가의 동의 없이 온라인에서 누군가의 사적인 이미지를 공유하는 것입니다."
이미지 기반 학대는 eSafety가 관리하는 법률인 온라인 안전법 2021을 위반하는 것입니다. 이 법에 따라 가해자는 벌금을 부과받지만 다른 관할권의 법률은 징역형을 선고할 수 있습니다.
사적인 내용으로 보이도록 변경된 사진이나 영상이 동의 없이 온라인에 게시된 모든 호주인은 eSafety에 연락하여 삭제를 요청할 수 있습니다.
"딥페이크를 식별, 탐지, 확인하는 데 도움이 되는 혁신이 발전하고 있으며, 기술 회사는 이를 플랫폼과 서비스에 통합할 책임이 있습니다." 인먼 여사는 성명에서 이렇게 덧붙였습니다.
로펌 길버트+토빈의 기술 파트너인 앤드류 히는 연방법이 호주 국민을 이런 종류의 남용으로부터 보호하지만 규제에 대한 추측은 여전히 남아 있다고 말했습니다.
그는 "규제 당국이 이러한 법률을 시행하고 이런 일의 피해자라고 생각하는 사람들이 이를 막기 위한 조치를 취하는 것을 충분히 쉽게 만드는 데 충분한 노력을 기울이고 있는지에 대한 의문이 있다고 생각한다"고 말했다.