딥페이크를 이용한 음란물이 텔레그램을 통해 유포됐다고 해요. 특히 10대 청소년들이 피해를 많이 당해서 큰 문제가 되고 있어요. 딥페이크 뜻, 학교 등에서 벌어지는 딥페이크 범죄와 처벌에 알아보겠습니다.
목차
1. 딥페이크 개요
1.1 딥페이크 뜻
딥페이크(Deepfake)란 딥러닝(Deep Learning)과 가짜(Fake)의 합성어로, 인공 지능을 기반으로 한 인간 이미지 합성 기술이에요. 기계 학습 기술을 사용하여, 사진이나 영상을 원본 사진이나 영상에 겹쳐서 만들어내요. 합성하려는 인물의 얼굴 동영상을 딥러닝하여, 대상이 되는 동영상을 프레임 단위로 합성시키는 것이죠.
머리 외곽선을 통째로 따서 합성하는 것이 아니고, 안면윤곽 안쪽 부분만 피부톤을 맞춰 바꿔치기해요. 눈코입 부분만 합성하는 거예요. 합성 대상과 원본의 안면윤곽이 확연히 다르다면 합성을 해도 다른 사람처럼 보일 수 있어요.
딥페이크는 영화나 방송에서 사망하거나 나이가 든 배우를 스크린에 재현하거나 초상권 보호 등을 위해 좋은 의도로 쓸 수 있어요. 하지만 딥페이크 포르노그래피를 포함한 유명인의 가짜 섹스 동영상에 악용되죠. 가짜 리벤지 포르노, 가짜 뉴스나 악의적 사기 등 범죄에 악용되기도 해요.
1.2 딥 페이크 시초
2017년 미국 대형 온라인 커뮤니티 ‘레딧’에 올라온 합성 포르노 영상을 딥페이크의 시초로 봅니다. ‘Deepfakes’라는 아이디를 쓰는 이용자가 유명 연예인과 포르노를 합성한 영상을 올렸어요. 이후 ‘FakeApp’이라는 무료 SW가 배포되면서 초보자도 쉽게 딥페이크 영상을 만들어 올리기 시작했고 진짜와 구분하기 어려운 수준까지 발전했어요.
1.3 위조 포르노
위조 포르노 피해자가 늘어난다는 점이 가장 큰 문제에요. 갤 가돗, 엠마 왓슨 등 미국 할리우드 유명 여배우들이 딥페이크 포르노 영상으로 많은 피해를 입었죠. 아시아에서는 한국 케이팝 가수들이 주 타깃이에요. 사이버 보안 연구회사 딥트레이스의 보고에 따르면 2019년 딥페이크 영상 1만 4,698점 가운데 96%는 포르노였어요. 얼굴 합성 피해자는 미국/영국 여배우가 46%, 한국 케이팝 가수가 25% 였어요.
1.4 가짜뉴스
딥페이크 가짜뉴스의 위험성도 큽니다. 유명 정치인의 얼굴을 합성한 딥페이크 연설 영상은 파급력이 클 수 있죠.
1.4.1 버락 오바마 가짜 뉴스
2018년 미국 배우 조던 필이 출연한 오바마 딥페이크가 유튜브에 올라갔어요. 오바마가 트럼프의 이름을 저주하고 부르는 모습을 묘사했죠. 이 딥페이크에서는 필의 목소리와 얼굴이 오바마의 목소리와 얼굴로 변형되었어요. 딥페이크의 위험을 알리기 위해 만들었죠.
1.4.2 도널드 트럼프 가짜 뉴스
2023년 트럼프를 제지하는 뉴욕 경찰의 모습이 이미지로 돌아다녔죠. 미드저니(Midjourney)라는 프로그램으로 만든 이미지였어요. 트위터(X)에 게시된 이미지는 다시 공유되면서 일부는 이 사진이 실제라고 믿었어요.
2. 딥페이크 범죄 - 학교 중심 확산
학교를 중심으로 딥페이크로 음란물을 제작하고 유포한 범죄에 대해 알아봅시다.
2.1 딥페이크 음란물 제작 및 유포
텔레그램 기반의 딥페이크 음란물 제작 및 유포 사건이 확산되면서 파문이 일고 있어요. 최근 한 대학에서 여학생의 얼굴에 음란물을 합성한 딥페이크 영상이 유포된 적이 있어요. 비슷한 종류의 텔레그램 대화방이 잇따라 발견돼 사회 문제로 대두됐어요.
피해자는 대학생뿐만 아니라 중고생 등 미성년자, 교사, 군인 등도 포함된 것으로 알려졌어요. '피해 학교 명단'으로 떠도는 곳만 100곳 이상이라 공포심도 확산하고 있어요.
2.2 학교에서 확산하는 딥페이크 성범죄
인공지능 기술을 활용한 이미지 합성으로 음란물을 만드는 딥페이크 성범죄가 10대들 사이에서도 확산하고 있어요. 딥페이크 음란물 다수가 주변인의 이미지로 만들어져요. 텔레그램 등에서 은밀하게 유포되는데, 누구나 피해자가 될 수 있어요.
SNS에선 전국 중·고교, 대학교 이름이 적힌 '딥페이크 피해자 명단'이라는 글까지 나돌고 있어요. 가해자들은 텔레그램 대화방을 만들어 SNS에 있는 여성 지인의 얼굴을 나체에 합성해 제작/ 공유한 것으로 전해졌어요. 각종 SNS에는 미성년자들의 딥페이크 성범죄 관련 글도 어렵지 않게 접할 수 있다고 해요.
경찰은 올들어 14세 이상 청소년 10명이 딥페이크 범죄로 검거됐다고 밝혔어요. 같은 학교/ 학원 여학생의 SNS 사진과 음란물을 합성해 딥페이크 성범죄물을 제작·유포한 혐의예요. 2021년~2023년까지 3년 동안 허위영상물 범죄 피의자의 68.6%(194명)가 10대였어요.
학생들끼리는 물론 교사에 대해서도 딥페이크 사진·영상물을 만든다고 해요. 정보기술(IT) 기기에 익숙한 청소년을 중심으로 범죄가 확산하고 있는거죠
2.3 '공유 목적' 입증 어려워, 처벌 공백 우려
딥페이크 성범죄는 지인 사이에서 이뤄지면서 피해자의 실명, 직업, 주소까지 공개하는 경우가 많아요. 피해가 광범위하게 발생하고 있지만, 처벌에는 한계가 있다는 지적이 나와요.
'허위영상물 등의 반포'는 반포할 목적이 있을 때만 처벌할 수 있어요. 그런데 이를 증명하는 게 쉽지 않다고 해요. 혼자서 볼 목적으로는 처벌할 수 없다고 합니다.
3. 딥페이크 범죄 - 신종 피싱
딥페이크(Deepfake)를 활용한 신종 피싱범죄에 대해 알아보겠습니다.
3.1 유명 투자 전문가를 딥페이크 한 신종 피싱
개인투자자로 활동 중인 전 코미디언 황모씨는 SNS에 자신을 사칭한 가짜 계정들이 있다는 걸 알고 충격을 받았어요.
누군가 황씨의 얼굴과 이름을 도용해, SNS와 동영상 플랫폼에서 투자 광고를 진행하고 있었던 거죠. 영상 속 채팅방에서는 황씨를 사칭한 인물이 주식 투자를 유도하고 있었어요. 투자 피해자가 속출하고 있었고, 황씨는 억울한 누명을 써야만 했어요.
또 다른 유명 투자 전문가 역시 황씨와 비슷한 피해를 입었어요. 사칭 계정이 많아 잡으러 다닐 수도 없고 사기 피해자만 계속 생긴다고 해요.
3.2 유명인 사칭 온라인 피싱
이름과 사진을 도용당했다는 유명인만 무려 137명에 이르렀어요. 유명인 사칭 온라인 피싱 범죄의 피해액은 무려 약 1조 원에 달한다고 해요.
2차 전지 관련주로 화제를 모은 박모 작가를 사칭한 계정도 등장했죠. 주식 종목을 추천해 투자자들을 유인했다고 해요. 반신반의하던 투자자들은 유명 배우들의 축하영상을 보고 투자를 결정했어요.
하지만 축하영상이나 SNS 계정 모두 피싱범죄 조직이 딥페이크로 조작한 가짜 영상이었어요.
3.3 딥페이크 신종범죄의 위험성
딥페이크가 빠른 속도로 진화하면서 우리의 눈과 귀를 속이는 새로운 범죄수단으로 떠올랐어요. 누구든지 표적이 될 수 있다는 것은, 딥페이크 신종 범죄가 더욱 위험한 이유죠.
빠르면 몇십 초 이내에 특정인의 음성을 그대로 변조해 내는 것이 가능해졌다고 해요. 일반인들도 쉽게 접할 수 있는 프로그램으로 딥페이크 콘텐츠를 구현하는 데 2, 3분도 걸리지 않는다고 하죠.
SNS에 자신의 사진이나 영상을 올리곤 합니다. 범죄 조직들은 신상 자료들을 도용한 뒤 딥페이크로 목소리와 사진을 변조하여 범죄의 도구로 써먹는 거죠.
악성코드로 발신번호를 변조하면, 직접 눈으로 보고 귀로 들어도 속을 수 있어요.
4. 딥페이크 처벌
4.1 딥페이크 음란물 제작 배포 처벌
딥페이크로 음란물 등을 제작해서 배포하면 '성폭력범죄의 처벌 등에 관한 특례법'에 따라 처벌받아요. '허위사실 적시에 의한 사이버 명예훼손'도 성립하며, 음란물 유포죄로 형사 처벌이 가능해요.
민사로는 당사자 동의 없이 딥페이크 포르노를 제작하였으므로 초상권 침해가 성립해요. 하지만 우회적 처벌이 아니라, 직접적으로 처벌할 수 있는 법을 신설해야 한다는 목소리가 높아졌어요.
2020년.2/5일 <불법합성물 제작·유포에 대한 처벌 규정을 담은 성폭력범죄의 처벌 등에 관한 특례법 개정안>이 시행됐어요.
4.2 딥페이크 영상 소지·시청도 처벌 법안 발의
더불어민주당은 2024.8/27일 딥페이크 영상(허위영상물)을 반포한 자뿐만 아니라 소지·구입·저장 및 시청한 자까지 처벌하는 성폭력범죄처벌 특례법 개정안을 발의했어요.
딥페이크라는 말이 아직 생소하기만 한데 딥페이크 범죄는 너무나 가까이 와 있네요. 특히 청소년들이 피해를 입지 않도록 제대로 대책을 세워야 합니다. 딥페이크 신종피싱도 피해를 입지 않도록 딥페이크에 대한 지식과 대비가 필요합니다.
