딥페이크 포르노 스캔들이 스트리밍 커뮤니티를 뒤흔들었습니다. 호주 법이 이 문제를 해결하고 있을까요?

QTCinderella는 딥페이크 포르노가 만들어졌다는 사실을 알게 된 후 자신의 고통을 공유하기 위해 라이브로 나섰습니다.  출처: Twitch

AI 딥페이크는 정치인들의 이미지를 조작하여 허위 정보를 퍼뜨리는 데 사용될 수 있습니다. 배우 스칼렛 요한슨과 같은 유명인의 사진을 성적으로 노골적인 영상으로 조작할 수 있고 조작했습니다. 하지만 만약 스칼렛 요한슨이 아니었다면? 만약 당신이었다면?

딥페이크 영상을 추적하는 연구 기업 센시티 AI는 2019년 연구에서 그 중 96%가 포르노라고 밝혔습니다.

지난주, 인기 있는 미국 트위치 스트리머인 브랜든 "아트리옥" 유잉이 여러 여성 스트리머의 AI가 생성한 영상을 시청하는 모습이 적발되면서 딥페이크 포르노 문제가 다시 대중의 화제로 떠올랐습니다.

그 여파로, 인기 있는 트위치 스트리머 QTCinderella는 자신도 AI에 의해 조작되었고 가짜 자료가 웹사이트에서 판매되고 있다는 사실을 알게 되었습니다. 본명이 블레어인 28세의 그녀는 반응에서 눈에 띄게 괴로워했습니다.

.

트위치 스트리머 아트리옥이 딥페이크 포르노 영상을 시청한 혐의로 사과 영상을 공개했습니다.

"이게 침해당했다고 느끼는 감정이에요. 이게 이용당하는 감정이에요. 이게 자신의 의지에 반해 알몸이 인터넷에 퍼지는 걸 보는 감정이에요. 이게 바로 그 감정이에요." 그녀는 스트리밍 중에 말했다.

"씨발 인터넷 엿먹어. 여성에 대한 끊임없는 착취와 대상화 엿먹어. 지치고 지치고. 수천 명의 사람들에게 보여준 Atroic 엿먹어.

"그 웹사이트에서 내 사진을 DM으로 보내는 사람들 엿먹어... 이게 바로 모습이야, 이게 바로 고통의 모습이야.

"자신을 팔지 않거나 이익을 얻지 못하는 여성을 볼 수 있다면... 당신이 문제라는 것을 볼 수 있다면. 당신은 여성을 대상으로 봅니다."

이 사건의 또 다른 피해자인 700만 명 이상의 팔로워를 보유한 포키마네는 트윗에서 "동의 없이 사람들을 성적 대상화하는 것을 중단하라. 그게 다야, 그게 트윗이야."라고 그들에게 촉구했습니다.

인기 여성 게이머 Pokimane이 시청자들에게 그녀를 성적 대상화하는 것을 멈추라고 요청했습니다.  출처: Pokimane

하지만 사건 이후에도 많은 댓글에서는 Atrioc이 실제 사람들이 출연한 동의 없는 가짜 포르노를 보는 것에는 문제가 없다고 보았습니다.

"그 사람이 좀 불쌍하긴 해요.", "괜찮아요, 해야 할 일을 해야죠.", "웹사이트가 뭔데요? 친구를 위해 물어보는 거예요." 등은 Atrioc 편을 드는 많은 댓글 중 일부에 불과합니다.

호주에서 'Teach us Consent' 캠페인을 주도해 새로운 국가적 동의 교육 과정을 탄생시킨 동의 운동가 샤넬 콘토스는 이 사건과 일부 시청자들의 반응이 "매우 불안하다"고 말했습니다.

반응형

"이와 관련해 견고한 규칙, 규정 및 법률이 필요하지만, 사람들이 이미지 기반 학대를 악용하는 것을 막는 유일한 방법은 사람들, 특히 이런 종류의 AI 기술을 사용할 의향이 더 큰 젊은 세대에게 동의 개념을 심어주는 것입니다." Ms Contos가 The Feed에 말했습니다.

"AI 기술은 그것을 매우 사실적으로 만들고, 그것을 더욱 침해합니다. 움직이는 사진은 명백히 포토샵으로 처리된 정지 이미지보다 훨씬 더 충격적일 수 있습니다."

딥페이크란 무엇인가요?

딥페이크(이 단어는 딥 러닝과 가짜의 합성어) 미디어는 기존 이미지에 이미지나 비디오를 오버레이합니다. 머신 러닝과 AI를 사용하여 비주얼과 오디오를 조작하여 다른 사람처럼 보이고 들리게 할 수 있습니다.

경고: 다음 트윗에는 거친 언어가 포함되어 있습니다.

 

이 이야기가 제가 이 웹사이트에 있다는 것을 알게 된 계기가 되었어요. 저는 문자 그대로 성판매에 참여하지 않음으로써 수백만 달러를 넘기기로 선택하고, 무작위로 치토를 이용한 음란물 중독자들은 제 동의 없이 제 몸을 유혹해요. 이 시점에서 울어야 할지, 깨야 할지, 웃어야 할지 모르겠어요.

딥페이크는 엔터테인먼트나 게임 산업을 향상시킬 수 있는 반면, 아동 성적 학대 영상, 유명인 포르노 영상, 복수 포르노, 가짜 뉴스, 금융 사기, 그리고 동의하지 않은 사람들의 가짜 포르노 영상을 만들 수 있는 잠재력에 대한 우려도 불러일으켰습니다.

지난 3월, 우크라이나 대통령 볼로디미르 젤렌스키의 딥페이크 영상이 소셜 미디어에 유포되었고, 해커들이 우크라이나 뉴스 웹사이트에 심어놓은 후, 사실이 아닌 것으로 밝혀져 삭제되었습니다.

 

이 깊은 가짜들은 무서울 정도로 현실적입니다. 젤렌스키가 실제로 그렇게 완전히 미친 말을 했다고 상상해 보세요. 이거 딥페이크죠? 그렇죠?

 

조작된 영상은 우크라이나 군대에 무기를 내려놓고 러시아와의 싸움에서 항복하라고 말하는 듯합니다. 많은 사람들이 이 영상이 러시아의 정보전의 일부라고 믿었습니다.
그는 AI가 만든 복수 포르노에 대해 "큰 우려"를 갖고 있다고 말했다.

 

Deep Fake 기술이 향상되고 있습니다: 여기 톰 크루즈와 패리스 힐튼의 비디오가 있습니다 정말 패리스 힐튼이지만, 그 남자는 소비자용 노트북에서 하는 인공지능 톰 크루즈입니다.

그는 "저는 오픈소스 이미지 생성기를 통해 일어나는 복수 포르노 세대를 큰 우려로 지켜보고 있었습니다."라고 말했습니다.

"저는 그것이 엄청나고 예측 가능한 피해를 끼친다고 생각합니다."

호주의 법률은 딥페이크 포르노에 대해 어떻게 규정하고 있나요?

eSafety 위원인 줄리 인먼 그랜트는 The Feed 에 보낸 성명에서 "최근 들어 딥페이크 기술이 무기화되어 가짜 뉴스, 거짓 포르노 영상, 악의적인 사기를 만드는 사례가 늘고 있습니다. 이런 사례는 주로 정치인이나 연예인 등 유명인을 표적으로 삼습니다.

"이 기술이 더 쉽게 접근 가능해짐에 따라 일반 호주 시민도 영향을 받을 것으로 예상합니다.

"누드나 성적 딥페이크를 게시하는 것은 이미지 기반 학대의 한 형태로, 누군가의 동의 없이 온라인에서 누군가의 사적인 이미지를 공유하는 것입니다."

이미지 기반 학대는 eSafety가 관리하는 법률인 온라인 안전법 2021을 위반하는 것입니다. 이 법에 따라 가해자는 벌금을 부과받지만 다른 관할권의 법률은 징역형을 선고할 수 있습니다.

사적인 내용으로 보이도록 변경된 사진이나 영상이 동의 없이 온라인에 게시된 모든 호주인은 eSafety에 연락하여 삭제를 요청할 수 있습니다.

 

"딥페이크를 식별, 탐지, 확인하는 데 도움이 되는 혁신이 발전하고 있으며, 기술 회사는 이를 플랫폼과 서비스에 통합할 책임이 있습니다." 인먼 여사는 성명에서 이렇게 덧붙였습니다.

로펌 길버트+토빈의 기술 파트너인 앤드류 히는 연방법이 호주 국민을 이런 종류의 남용으로부터 보호하지만 규제에 대한 추측은 여전히 ​​남아 있다고 말했습니다.

그는 "규제 당국이 이러한 법률을 시행하고 이런 일의 피해자라고 생각하는 사람들이 이를 막기 위한 조치를 취하는 것을 충분히 쉽게 만드는 데 충분한 노력을 기울이고 있는지에 대한 의문이 있다고 생각한다"고 말했다.