# data[].attributes.body
같은 학교 동문의 사진을 허락없이 도용하고 딮페이크 범죄를 저질렀다. 이로인해 많은 학교 학생들이 피해를 입었고 트라우마가 생겼을 것이다

1.심각성을 더 잘 알게되서 얼마나 위험한지 잘 알았다

2.경찰에 신고를 할 것이다.

3.허용하지 않은 사진은 사용못하도록 한다

# data[].attributes.attachment_link.readable_text
불법합성물(딥페이크) 성범죄가 대학가를 넘어 초중고까지 침투했다. 한겨레 자료사진

서울의 한 고등학교에 다니는 학생들 사이에선 최근 주변 4개 고교에 재학 중인 남학생 5명이 동료 여학생 10여명의 사진을 불법합성물(딥페이크)로 제작해 공유하고 있다는 문자가 나돌았다.

문자에는 가해자로 지목된 학생 5명의 이름과 학교까지 적혔다. 해당 지역의 한 고교생은 "가해자로 적힌 이들이 다 아는 사람이라 충격받았다"며 "학교에선 어떤 조처를 하고 있는지 모르겠다"고 말했다.

27일 초등학교부터 대학교에 이르기까지 지인을 상대로 한 딥페이크 텔레그램 대화방이 잇따라 발견되면서 학생과 학부모, 교사의 불안이 커지고 있다. 교육당국이 나서야 한다는 비판이 일자 교육부는 뒤늦게 피해 규모 파악에 나섰다.

이날 사회관계망서비스 엑스(X·옛 트위터)를 보면, 전국 지역·학교별 딥페이크 성범죄 제보를 바탕으로 작성된 피해 학교는 늘어나고 있다. '딥페이크 피해 학교 지도'도 만들어져, 400곳(오후 4시 기준)이 넘었다.

만연한 디지털 성범죄에도 개인이 할 수 있는 대응은 많지 않았다. 학생들은 임시방편으로 에스엔에스(SNS)에 올린 얼굴과 몸이 드러나는 사진을 삭제했다. 경기 용인에 사는 고등학생 ㄱ(17)양은 "우리 반 여학생 대부분이 에스엔에스에서 사진을 모두 내렸다"며 "몇몇은 텔레그램에 가입돼 있는 남학생을 확인하기도 했다"고 말했다.

게티이미지코리아

피해 대상으로 지목된 교사들도 별다른 조처는 어려웠다.

이기백 전국교직원노동조합 대변인은 "29일 기자회견을 앞두고 오늘만 약 180건의 피해 사례를 수집했는데 이 중 교사 피해자가 170건"이라며 "교사가 자신의 딥페이크 피해를 확인했으나 개인정보 보호를 이유로 경찰이 학교에 가해 학생과 관련한 수사 정보 공유를 거부해 교권보호위를 열지 못한 사례도 있다"고 말했다.

학교가 피해 사실을 확인해도 적극적인 대처가 쉽지 않다는 지적도 있다. 서울의 한 중학교에서 일하는 ㄴ 교사는 지난해 가해 학생 친구의 제보로 피해 학생들의 존재를 알게 됐다.

그는 "학폭위에서 가해 학생에 대한 강제전학 조치가 이뤄졌으나, 학교는 수사 기관이 아니어서 가해 학생의 범죄를 입증하는 일부터 힘들었다"며 "피해 학생을 위한 조처에도 한계가 있었다"고 말했다.

교육당국은 뒤늦게 피해 규모를 파악하기 시작했다. 교육부는 이날 각 17개 시·도교육청에 공문을 보내 정오까지 딥페이크 피해 현황을 제출하도록 했다.

지난 26일에는 학생들에게 예방교육을 시행하고 디지털 성범죄가 발생할 경우 즉시 신고기관에 도움을 요청하라는 내용이 담긴 공문을 시·도교육청에 보냈다.

엑스(X·옛 트위터)에 올라온 전국 딥페이크 피해학교를 표시한 지도. '딥페이크 피해학교 지도' 갈무리

일선 교육청과 학교도 학생들에게 개인정보 유출 주의를 당부하며 피해 사례 확인에 나섰다. 서울시교육청은 이날 서울경찰청과 함께 '긴급스쿨벨'을 발령해 서울 시내 초·중·고등학교의 학생·교사와 학부모에게 딥페이크 범죄 처벌 경고와 신고 방법을 담은 카드뉴스를 전파했다.

서울시교육청 관계자는 "가해 학생을 적발할 시 수사기관에 신고하고, 불법영상물을 삭제 요청하고 학교 폭력 사안으로 처리할 것"이라고 말했다.

경남교육청은 이날까지 접수된 학내 딥페이크 사건은 24건(초등학교 1건, 중학교 13건, 고등학교 10건)이라고 밝혔다. 대전시교육청은 4개 고등학교로부터 "딥페이크 피해를 본 학생이 있다는 소문이 돈다"는 제보를 받아 구체적인 사실을 확인하고 있다.

법무부 산하 디지털 성범죄 등 전문위원회 팀장을 맡았다가 법무부로부터 원대복귀 인사 통보를 받고 사직한 서지현 전 검사는 "디지털 성범죄 지옥문이 이미 열렸다고 (전문위에서) 대책을 만들어 시행을 촉구한 지도 2년이 넘었는데 법무부, 국회, 국가는 그동안 무엇을 했냐"며 △텔레그램 수사 비협조 시 앱스토어에서 앱 삭제 △추가 피해 확산을 막기 위한 '응급조치' 신설 △신속한 증거 보전을 위한 '피해 영상물 보전 명령' 신설 등이 시급히 이뤄져야 한다고 주장했다.

(취재 도움: 조승우·조영은 교육연수생)

이우연 기자 azar@hani.co.kr 최상원 기자 csw@hani.co.kr
최예린 기자 floye@hani.co.kr 박고은 기자 euni@hani.co.kr
최윤아 기자 ah@hani.co.kr

# data[].attributes.attachment_link.authors[].name
이우연,최상원,최예린,박고은,최윤아

# data[].attributes.attachment_link.title
"혹시 내 사진도?"...학교 덮친 딥페이크 범죄 공포

# data[].attributes.attachment_link.description
서울의 한 고등학교에 다니는 학생들 사이에선 최근 주변 4개 고교에 재학 중인 남학생 5명이 동료 여학생 10여명의 사진을 불법합성물(딥페이크)로 제작해 공유하고 있다는 문자가 나돌았다. 문자에는 가해자로 지목된 학생 5명의 이름과 학교까지 적혔다. 해당 지역의 한 고

# data[].attributes.headline
​공감신문의 기사에 따르면, 딥페이크 성

# data[].attributes.body
​공감신문의 기사에 따르면, 딥페이크 성범죄 영상물에 대한 시정 요구가 전년 대비 166% 증가한 것으로 나타났습니다. 특히 피해자 중 59.8%가 10대 청소년으로 확인되었으며, 정부는 이를 계기로 딥페이크 성범죄 대응 강화방안을 발표하여 처벌 강화, 피해자 보호, 플랫폼 책임성 제고 등을 포함한 4대 분야 10개 과제를 추진하고 있습니다.

알게된점: 성인보다 청소년이 더 위험하다

대처법: 경찰에 신고를한다

예방법:얼굴이 노출된사진을 온라인상에서 공개하지 않는다.

# data[].attributes.attachment_link.title
딥페이크 성범죄 영상물 시정 요구 급증…전년 대비 166% 증가

# data[].attributes.attachment_link.description
[공감신문] 정재은 기자=방송통신심의위원회는 1분기 동안 딥페이크 성범죄 영상물에 대한 시정 요구 건수가 전년 대비 크게 증가했다고 23일 밝혔다. 이번에 처리된 건수는 9천443건에 달해, 이는 지난해 같은 기간의 자료와 비교했을 때 166.7% 증가율을 보였다. 특히, 2023년

# data[].attributes.body
딥페이크 관련 피해가 생성형 AI의 발전과 맞물려 1년 사이 2배 가량 증가했고 불법 동영상 촬영 및 유포 등의 다른 디지털 성범죄보다 딥페이크 범죄의 증가폭이 훨씬 높다.

딥페이크 괸련 범죄의 피해의 심각성과 더 이상 남일이 아니라 내 주변에서도 일어날 수 있는 일이라는 것을 실감했다.

딥페이크 게시물을 발견하는 즉시 신고한다.

# data[].attributes.body
기사내용

해당 기사에서는 2024년 총선을 앞두고 AI 딥페이크 기술을 악용한 가짜뉴스와 허위 정보가 국내외 선거에 영향을 미치고 있다는 우려를 다룹니다. 실제 정치인의 목소리나 얼굴을 합성한 딥페이크 콘텐츠가 빠르게 확산되고 있으며, 선거법 위반 사례도 다수 적발되었습니다.

사고 예방법

1선거정보는 공식 사이트나 언론을 통해 확인하기

2영상·음성 자료의 진위 확인에 주의하기

3의심 콘텐츠는 신고하거나 공유하지 않기

새롭게 알게 된 내용

AI 음성 복제 및 영상 합성이 수 분 내 가능할 정도로 발전함

4SNS를 통해 딥페이크 영상이 순식간에 확산됨

5선거에 악용될 경우 여론 조작 가능성이 높음

대처 방법

1영상에 등장한 인물이 실제 발언했는지 사실 확인하기

2선관위 등 공신력 있는 기관에 의심 콘텐츠 신고

3온라인 플랫폼의 AI 콘텐츠 신고 기능 활용

관련법률

공직선거법: 선거 90일 전부터 딥페이크로 만든 선거 관련 콘텐츠 제작·유포 시 7년 이하 징역 또는 최대 5000만 원 벌금

형법 및 정보통신망법: 명예훼손·허위사실 유포 시 처벌 가능

# data[].attributes.headline
요약)7개월간 잡은 딥페이크 성범죄자 9

# data[].attributes.body
요약)7개월간 잡은 딥페이크 성범죄자 960여 명중

10,20대 비율이 93%, 즉 10명중 9명은 10대-20대이다.

새롭게 알게 된 점: 딥페이크 범죄자 중 10대가 가장 많다는 것을 새롭게 알게 되었다.

피해발생시 대처법: 피해를 당했을 경우, 즉시 경찰에 신고한다. 음란물 피해의 경우 디지털 피해자지원센터에 삭제 요청한다.

범죄 예방 방법: 출처 미상의 이메일이나 파일은 열람하지 않는다. sns에 사진 개인정보 공개를 최소화 한다.

# data[].attributes.attachment_link.title
[와글와글 플러스] 딥페이크 성범죄자 93%는 10·20대

# data[].attributes.attachment_link.description
입니다. 경찰이 딥페이크 성범죄를 집중 단속해 7개월간 960여 명을 검거했는데요. 10대와 20대 비율이 93%나 됐습니다. 경찰청 국가수사본부는 지난해 8월 말부터 지난달까지 ...

# data[].attributes.body
3. 대학생이 동기들의 사진을 딥페이크하여 게시함.

4. 딥페이크 피해가 많은곳에서 일어나는것을 알게됨.

# data[].attributes.headline
1학년 3반 2번 권용희

# data[].attributes.subject
1학년 3반 2번 권용희

# data[].attributes.body
기사 요약: 올해 딥페이크 피의자연령대 비율은 10대 청소년이 83%를 차지했다 이 범죄를 잡기 위해 텔레그램측과 전화번호를 얻을 수 있도록 할것이고 국회는 처벌강화와 피해자 보호에 힘쓸것이라 밝혔다

2.새롭게 알게된점: 아직도 딥페이크에 관한 많은범죄가 발생하고 있다는것을 알게됐다

3.대처법:나는 평소에 이런것에 나는 관련없다고 생각해서 관심없었는데 이런 교육을 잘들어놔서 나중에 주변사람이 피해를 입었거나 내가 당했을때 신고하거나 보호자에게 알려 대처하겟다

# data[].attributes.attachment_link.title
10대까지 침투한 '딥페이크'...법 강화해도 처벌 '미온적' / YTN

# data[].attributes.attachment_link.readable_text
딥페이크 (PG)
연합뉴스 자료사진

대학 동문, 지인 등 여성 41명의 얼굴에 나체사진을 합성한 뒤 유포한 일당이 재판에 넘겨졌습니다.

인천지검 여성아동범죄조사부(정희선 부장검사)는 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 편집·반포 등 혐의로 24살 대학원생 A 씨 등 10~30대 남성 8명을 구속 기소했다고 오늘(22일) 밝혔습니다.

이들은 2022년 8월부터 지난해 12월까지 피해 여성들을 대상으로 성범죄물을 만든 뒤 텔레그램에 개설한, 이른바 '지인 능욕방'을 통해 유포한 혐의를 받습니다.

이 가운데 대화방 관리자인 B 씨는 피해자들의 사진을 편집·합성해 2,200여 차례 게시했으며, 또 다른 공범 C 씨는 성 착취물 3,020개를 소지했던 것으로 밝혀졌습니다.

이들은 인공지능(AI)을 이용한 '딥페이크' 기술이나 사진 편집 프로그램으로 대학교 동문 여성과 지인 등의 얼굴에 다른 여성의 나체사진을 합성한 것으로 파악됐습니다.

인스타그램이나 네이버 블로그 등에 올라온 피해자들의 사진과 개인정보를 이용해 이런 범행을 벌인 것으로 조사됐습니다.

#딥페이크 #나체 #합성

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

권정상(jusang@yna.co.kr)

# data[].attributes.attachment_link.title
'딥페이크'로 여성 41명 얼굴에 나체사진 합성...대학원생 등 8명 기소 : 네이트 뉴스

# data[].attributes.attachment_link.description
한눈에 보는 오늘 : 사회 - 뉴스 : 대학 동문, 지인 등 여성 41명의 얼굴에 나체사진을 합성한 뒤 유포한 일당이 재판에 넘겨졌습니다. 인천지검 여성아동범죄조사부(정희선 부장검사)는 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 편집·반포 등 혐의로 24살 대학원생 A 씨 등 10~

# data[].attributes.body
요약:최근 기술의 발전으로 인해 딥페이크 피해자가 11배정도 증가함

하고 학교폭력 왕따등에도 이용됨

딥페이크가 엄청 심각한 문제란걸 알았고

최대한 빠르게 신고해 야한단걸 알았고

불법적으로 만들어진 딥페이크 영상을 보면 안됄듯함

# data[].attributes.attachment_link.authors[].name
이채완 기자 동아일보 사회부

# data[].attributes.attachment_link.title
[단독]‘딥페이크 성범죄’ 6년간 11배… 학폭-왕따 등 현실범죄 악용도

# data[].attributes.attachment_link.description
딥페이크(인공지능 기반 이미지 합성) 범죄가 온라인 성착취물 제작, 유포를 넘어 오프라인으로 번지고 있는 것으로 나타났다. 가해자들은 피해 여성이나 그 가족에게 음란물을 전송하거…

# data[].attributes.body
https://www.bbc.com/korean/articles/cdx6pxr7w6xo

성범죄로 악용되는 사례가 많다는걸 알게 되었다

# data[].attributes.body
기사요약

경남경찰청이 딥페이크 영상물 등 허위 영상물 범죄와 아동 성 착취물 제작·유포에 대한 집중 단속을 벌여 총 60명을 검거하고 이 중 4명을 구속했다고 21일 밝혔다.
경찰에 따르면 지난해 8월부터 올해 3월까지 허위 영상물 범죄에 대한 집중 단속을 벌여 42명을 검거하고 이 중 3명을 구속했다.
출처 : https://www.sedaily.com/NewsView/2GRLXOGS02

딥페이크를 만드는 것 뿐만 아니라, 보는 것 자체가 범죄임을 깨달았다.

딥페이크가 의심될 경우 즉시 경찰에 신고하거나 사이버수사대에 상담을 요청한다.

# data[].attributes.body
https://news.kbs.co.kr/news/pc/view/view.do?ncd=8230473

집중단속하고있다

20대가 많다

심각성을 알려야한다

# data[].attributes.body
요약:디지털 성범죄 피해자가 지난해 처음으로 만 명을 넘었고, 특히 딥페이크 피해는 1년 새 3배 이상 급증했다. 피해자의 80%가 10대와 20대이며, 해외 서버를 이용한 불법 영상물 유포로 국제 공조가 필요하다는 지적이 나온다.

알게된 점: 디지털 성범죄 신고 체계를 긴급전화 1366으로 일원화하고, AI 기반 자동 탐지·삭제 시스템 도입을 예고했다.

대처법: 방통심의위(1377)로 신고,계정 비공개 전환, 개인정보 노출 게시물 삭제,디지털성범죄피해자지원센터(02-735-8994)로 삭제·법률 지원 요청

예방법: SNS에 사진·음성·개인적 위치 정보 게시를 제한하고, 교복·건물·위치 태그 등 식별 가능한 요소가 포함된 게시물은 삭제,출처 불분명한 파일·링크 클릭 금지,가족·지인과의 대화 시 무리한 금전 요구나 인증샷 요청 시 의심하고, 개인정보를 먼저 알려주지 않기

# data[].attributes.attachment_link.title
디지털 성범죄 피해자 만 명 넘었다…10·20대 ‘딥페이크’ 급증

# data[].attributes.attachment_link.description
[앵커] 디지털 성범죄 피해자가 지난해 처음으로 만 명을 넘었습니다. 피해자의 80% 가까이가 SNS를 활발히…

# data[].attributes.headline
1학년 3반 4번 류현우

# data[].attributes.subject
1학년 3반 4번 류현우

# data[].attributes.body
요약: 10대 청소년의 딥페이크 성범죄 문제가 증가하고 있으며 피해자에게는 온라인에서 불특정 다수에게 원치 않는 모습이 퍼지는 것은 그 자체로 큰 공포와 수치심, 불안을 유발한다. 특히 10대는 성 관념이 충분히 확립되지 않아 정신적 피해가 크고 후유증이 오래 남는다.

1. 가해자 대부분이 10대 청소년인데 딥페이크의 심각성을 잘 모르는 청소년들이 많다는 것을 알았다.

2. 대부분의 피의자들의 처벌이 강함에도 불구하고 범죄는 계속 증가 하고 있다는 것을 알았다.

3. 딥페이크와 관련된 모든 것들을 멀리 해야겠다.

# data[].attributes.attachment_link.title
10대 노리는 딥페이크 범죄…“부모 알면 큰일” 신고도 못해

# data[].attributes.attachment_link.description
“최근 애플리케이션(앱) 등을 이용해 친구나 교사 사진을 합성하는 게 10대 사이에서 일종의 ‘놀이 문화’처럼 여겨지고 있습니다. 10대가 딥페이크(허위 영상물) 제작 업체에 의…

# data[].attributes.body
지난해 디지털 성범죄 피해 지원자가 1만 명을 넘기며 역대 최고치를 기록했고, 딥페이크 등 합성·편집 피해는 전년 대비 227.2% 급증했다.
피해자의 대부분은 10~20대 여성으로, 유포불안과 개인정보 유출 등 심각한 심리·사회적 피해가 확인됐다.

대처법:개인 정보 보호를 확실하게한다,이미지를 도용하지 않는다.

# data[].attributes.attachment_link.title
지난해 디지털 성범죄 피해자 1만 명…‘딥페이크’ 227% 늘었다

# data[].attributes.attachment_link.description
지난해 중앙 디지털 성범죄피해자지원센터(중앙디성센터)로부터 피해 영상물 삭제 등의 지원을 받은 피해자가 중앙디성센터 출범 이래 처음으로 1만명을 넘겼다. 딥페이크 등 디지털…

# data[].attributes.body
요약: 딥페이크 성범죄는 AI 기술의 발전으로 인해 일반인에게까지 피해가 확산되고 있으며, 피해자들은 심각한 정신적 고통을 겪고 있습니다. 디성센터는 이러한 피해자들을 위해 영상 삭제, 상담, 법률 지원 등 종합적인 서비스를 제공하고 있으며, 빠른 신고와 사회적 인식 개선이 무엇보다 중요함.

새롭게 알게 된 점: 딥페이크 피해자가 급증하고있다.

피해 발생 시 대처법: 영상이나 이미지 등의 정보를 즉시 확보한다.

사고 예방법: 온라인에 자신의 개인정보를 최대한 공개하지않는다.

# data[].attributes.attachment_link.readable_text
"바깥 활동을 할 수가 없었어요. 결국 경제 활동도 끊겼고, 집에만 박혀 살았던 것 같아요. 그 당시에는 아무것도 할 수 없었습니다. 부정적인 생각들로 머리가 꽉 차서 사람이 너무 싫고, 믿지도 못하겠고. 대인기피증이 이런 거구나 싶었어요. 사람이랑 대화하는 것 자체가 너무 싫었거든요." "너무 힘들어서 입원 치료까지 했어요. 한번은 제가 난리를 치던 상황이 있었는데 병원 직원들이 저를 붙잡았거든요. 그렇게 타인이 제 신체를 붙잡는 것조차도 저는 폭력처럼 느껴지는 거예요. 트라우마가 너무 컸던 것 같아요. 카메라 플래시 터지는 소리가 계속 귀에 맴도는 느낌이었어요 ."
2023년 한국여성인권진흥원 디지털성범죄피해자센터에서 진행한 <디지털 성범죄 유포 및 유포 불안 피해 경험에 관한 연구>에서 발췌한 피해자 증언 일부를 각색한 내용들이다.

디지털 성범죄 피해자들은 피해 사실을 알고 난 후부터 '실존적 생지옥'을 일상적으로 겪는다. 나도 모르는 사이버 공간에 영상물이 버젓이 남아 있진 않는지 누군가 자신을 알아보는 것은 아닐지, 이러한 극도의 불안함과 공포가 계속해서 이어지다가 결국 일상이 붕괴되는 것이다.

딥페이크 성범죄는 인공지능(AI) 기술이 발전하고, 이로 인한 딥페이크 합성이 고도화되면서 피해자들의 얼굴을 성착취물 영상에 합성해 실제처럼 보이게 만드는 범죄 유형이다. 이미 연예인이나 케이팝 아이돌을 대상으로 퍼지고 있는 범죄 양상이었는데, 최근에는 일반인을 대상으로 한 딥페이크 합성편집물이 많아지고 있어 사회적 이슈로 떠오르고 있다.

여가부 산하기관인 한국여성인권진흥원에 설치된 디지털성범죄피해자지원센터(이하 디성센터)는 이러한 디지털 성범죄에 노출된 피해자들을 위해 2018년 4월 30일 개소한 이후, 디지털 성범죄 피해상담과 피해촬영물에 대한 삭제를 지원하고, 수사·법률·의료지원 연계 등 종합적인 서비스를 제공하고 있다.

딥페이크 피해 사실을 알게 된 피해자들은 주저하지 말고 디성센터에 연락해 피해영상물 삭제를 요청해야 한다. 디지털 성범죄는 특성상 유포가 굉장히 빠르고 쉽게 이뤄지지만, 추적은 어렵기 때문이다.

삭제지원팀을 진두지휘하는 박성혜 팀장은 디지털 성범죄 피해를 인지하자마자 골든타임 내 반드시 신고해야 한다고 강조했다. 한번 유포되면 재유포가 반복되는 디지털 범죄 특성상 빠른 신고만이 피해를 최소화할 수 있는 유일한 방법이기 때문이다.

이를 위해 삭제지원팀은 피해자들을 위해 최대한 많은 합성물을 삭제하려고 노력하고 있다. 지난해 센터가 삭제지원한 영상은 3만 5000여 건으로 이는 2022년 3만 1000여 건에 비해 무려 14% 늘어난 수치이다.

무엇보다도 디지털 성범죄가 근본적으로 차단되기 위해서는 '딥페이크와 같은 허위영상물의 제작·소지·시청·유포는 명백한 범죄'라는 인식개선이 우선되어야 한다고 박성혜 팀장은 강조했다.

박 팀장은 디지털 성범죄는 더 이상 특정인을 대상으로 한 범죄가 아닌 나도 피해자가 될 수 있는 범죄 유형이며 내 주변 사람이 가해자가 될 수도 있는 범죄 유형이라는 점이 다른 범죄 유형과의 차이점이라고 말했다. 그러나 가해자 상당수가 "단순한 놀이"라고 인식하고 있다는 점에 놀랐고 합성편집물 유포는 명백한 범죄라는 인식개선의 필요성을 절감했다고.

현재 39명의 센터 구성원과 함께 상담·삭제지원 업무에 매진하는 것만으로도 벅찬 것이 사실이다. 하지만 근본적인 원인개선이 선행되어야 함을 잘 알기에 관계부처 협업으로 교육 지침서를 제작하고 국제공조 등을 통해 피해자 사례 분석, 기술 고도화에도 힘을 쏟으며 피해 발생 자체를 낮추기 위한 노력에도 공을 들이고 있다.

다음은 박성혜 팀장과의 일문일답.

◆ 한국여성인권진흥원 디지털성범죄피해자지원센터에 대해 소개 부탁드립니다.

2018년 4월 30일 개소한 디지털성범죄피해자지원센터(이하 디성센터)는 불법촬영물 및 딥페이크와 같은 허위영상물 삭제, 아동·청소년성착취물 선제적 삭제 업무를 기본으로 디지털 성범죄 삭제 업무 실효성 확보를 위한 국내외 유관기관 협력 체계 구축, DNA 검출·얼굴 인식 등 모니터링 자동화 기술 개발 및 고도화, 매뉴얼 제작 및 실무자 교육 등 역량 확산을 통한 일반의 디지털 성범죄 피해지원 서비스 접근성 강화, 기타 연구 및 홍보활동을 하는 국내 유일의 디지털 성범죄 피해자 지원 업무를 수행하는 국가 전문기관입니다.

◆ 디지털성범죄피해자지원센터는 어떤 업무를 하는지 구체적으로 알려주세요.

현재 삭제지원팀, 상담연계팀, 청소년보호팀 총 3개 팀으로 구성되어 운영 중입니다. 삭제지원팀은 불법촬영물과 딥페이크와 같은 허위 영상물 삭제, 아동·청소년 성착취물 선제적 삭제 등 기본적인 업무 외에도 국내외 유관기관과 협력해 DNA 검출과 인식 등 모니터링 자동화 기술 개발 및 고도화, 설명 제작·실무자 교육 등 역량 강화를 통한 디지털 성범죄 피해지원 서비스 접근성 강화 사업을 통해 디지털 성범죄 피해자를 지원하고 있습니다. 그리고 상담연계팀에서는 피해자가 국가로부터 온전히 보호받고 있다는 신뢰와 안정감을 통해 빠르게 회복하고 일상으로 복귀할 수 있도록 심리상담과 법률지원 등 다각도로 지원해 드리고자 노력하고 있습니다. 청소년보호팀은 청소년 피해자를 해바라기 센터의 아동센터에 연계해 상담과 치료, 법률적 지원을 받을 수 있도록 합니다.

◆ 딥페이크 성범죄가 최근 사회적 이슈로 떠오르는 이유가 무엇일까요?

디지털 성범죄의 심각성은 과거에도 마찬가지였지만, 기존에는 피해가 특정 대상 또는 계층에 한정된 범죄라는 인식이 많았습니다.

그런데 최근 전국 대다수의 학교와 직업군에서 피해 사례가 확인되고 있어 특정의 누군가가 아닌, '나도 피해자'가 될 수 있다는 불안감이 확산되고 있습니다. 주로 연예인이나 케이팝 아이돌을 대상으로 퍼지던 범죄 양상이 이제는 일반인을 대상으로 한 합성편집물로 확대되고 있는 것이죠.

또한, 친척, 친구, 직장 동료 등 내 주변인이 가해자라는 점에서 사회 전체가 공동으로 두려움을 체감하게 되면서 이와 같은 현상이 나타나고 있다고 생각합니다.

◆ 딥페이크 성범죄 양상은 어떻게 변화하고 있나요?

딥페이크 성범죄와 같은 합성편집물들은 가해 연령대가 현저히 낮다는 것이 특징입니다. 이미 초등학생들도 성적인 사진에 학교 선생님 얼굴을 합성해 친구들과 돌려보는 사례가 몇 년 전부터 시작되고 있고 딥페이크 앱을 활용한 합성이 누구나 손쉽게 가능해지면서 불법적인 합성편집물을 만드는 연령대가 더 낮아지고 있습니다.

또한, 미성년자인 아이들은 성착취물 영상에 친구, 선생님, 부모님들의 얼굴을 합성하고 유포하는 것을 그저 놀이문화 중 하나라고 인식하는 경우가 많습니다.

게다가 요즘 아이들은 디지털 네이티브 세대라고 불릴 만큼 스마트폰과 AI기술에 익숙하기 때문에 부모님과 선생님의 눈길을 피해 손쉽게 딥페이크 합성편집물을 만들 수 있는 거죠. 특히, 코로나19 기간 중 바깥 활동에 제약이 많았고 고립되는 시간이 늘어나면서 온라인상의 놀이문화가 청소년들에게 더욱 익숙해진 계기가 되면서 유독 미성년자 가해자들이 많았던 것은 아닌지, 저희 센터에서도 다양한 관점에서 분석해 보는 중입니다.

◆ 피해자들의 유형에 대해 더 자세히 들려주실 수 있으세요?

디성센터에서 합성편집물 피해로 삭제 지원 등을 요청한 피해자들의 비중을 살펴보면 성인이 절반, 미성년자가 절반가량입니다. 워낙 쉽게 딥페이크 합성물을 만들 수 있기에 피해자분들도 다양한데요, 이분들이 자신의 피해 사실을 바로 알기는 어렵습니다. 가해자가 직접 협박 연락을 하는 경우도 있지만 대부분은 친구, 전 애인, 지인들이 합성물을 보고 연락을 주는 경우가 많습니다. 미성년자의 경우, 부모님들이 피해 사실을 인지하거나 발견해 신고하는 경우도 있고요.

신고가 들어오면 저희는 긴급삭제를 바로 진행합니다. 당장 눈에 띄는 합성물부터 삭제를 시작하고요. 피해자들이 극도로 불안함과 공포를 느끼는 경우가 대부분이라 일단 눈앞에 보이는 합성물을 삭제하는 것만으로도 안도감을 느끼곤 합니다. 하지만 '누군가 날 알아보면 어쩌지?'라는 불안함에 집 밖에 나가지 못하는 분들도 계시고 직장을 그만두는 등 사회생활이 중단되는 분들도 많습니다.

아동·청소년의 경우, 피해 아이뿐 아니라 부모님들도 함께 무너지는 경우가 참 많습니다. 그래서 아예 등교를 시키지 않는 부모님들도 계시죠. 그런 숱한 경우를 지켜보면서 저희 삭제지원팀은 최대한 많은 합성물을 삭제하려고 노력합니다. 다만, 디지털 성범죄 특성상 유포가 쉽고 추적이 어려워 100% 삭제까진 쉽지 않은 상황입니다.

◆ 접수된 사례 중 기억에 남는 범죄 사례를 소개해 주실 수 있을까요?

기존의 불법합성물은 매우 조악한 형상의 이미지들이 많았는데, 기술이 고도화되면서 현재는 일반인 누구나 정교한 불법영상물을 제작하고 소지할 수 있게 되었습니다. 특히, AI 기술을 활용한 피해 유형이 최근 늘어나고 있습니다.

피해자 일상 사진을 기반으로 옷을 투명하게 만들거나 신체를 노출한 것처럼 보이게 만드는 소위 '딥누드(Deep nude)' 형태로 피해자의 실제 몸이 아님에도 실제처럼 보이도록 합성한 영상이 등장하고 있는 것입니다. 또한, 피해자 얼굴 사진에 미소, 눈빛, 입술 모양 등 표정까지도 성적으로 변형시켜 피해자 이미지를 왜곡하고 성적인 의도를 담아 원본과 전혀 다른 형태로 변형시키는 딥누드 영상들이 새로운 범죄 유형으로 떠오르고 있습니다.

◆ 딥페이크 영상 피해에 대응하는 방법에 대해 자세히 말씀해주세요.

저희가 늘 말씀드리는 것은 '피해 사실을 인지한 즉시, 저희 센터나 경찰에 신고하라'는 것입니다. 생각보다 피해 사실 인지 후에 신고를 못하는 경우가 많습니다. 가해자들이 '신고하면 네 사진을 유출한다'고 협박하거나 심리적 지배(가스라이팅)를 하기 때문입니다.

그러나 유포 사실을 알게 된 즉시, 바로 신고하셔야 합니다. 24시간을 넘기면 그 피해가 걷잡을 수 없이 커지기 때문입니다. 저희 센터에 신고할 경우, 바로 삭제작업을 진행합니다. 디지털 성범죄는 온라인이라는 특성상 유포가 매우 빠르고 쉬우나 추적은 어렵습니다. 그럼에도 삭제지원팀원들 모두 최대한 많은 영상을 찾아 반드시 삭제한다는 각오로 업무에 임하고 있습니다.

피해 사실을 확인하면 바로 연락주셔야 합니다. 24시간 골든타임 내 삭제를 시작한다면 피해를 확실히 줄일 수 있습니다. 가해자의 위협이 두려워도 반드시 신고해주세요. 변호사와 연계한 법률지원은 물론, 지역 상담센터와 연계한 심리상담도 지원해 피해자 여러분이 하루빨리 일상으로 복귀할 수 있도록 다양한 방법을 동원해 도와드리고 있습니다.

◆ 딥페이크 성범죄 근절과 방지 대책을 위해 어떤 점들이 필요하다고 생각하시나요?

이미 저희 센터와 여성가족부, 교육부가 협력해 딥페이크 성범죄 관련 교육 과정을 제작하고 있습니다. 하지만 딥페이크 성범죄가 기술을 활용한 범죄인만큼 아이들에게 올바른 기술 활용을 위한 교육을 강화하고 성인지적 가치 교육 등이 필요하다고 생각합니다.

많은 기관에서 소개하는 예방책은 피해자가 행위 주체로서 무엇을 하지 말아야 할 지를 주로 소개하는데, 막상 마련된 정책과 이를 이행하는 법적 절차에서는 피해자는 당사자로서의 권리를 제대로 보장받지 못하고, 피해자의 안녕은 도외시되는 경향이 있습니다. 피해자가 국가로부터 온전히 보호받고 있다는 신뢰와 안정감을 통해 빠르게 회복하여 일상에 복귀할 수 있도록 다각도의 노력도 필요할 것입니다.

앞으로 센터는 딥페이크 성범죄 대응 범정부 대응 전담팀을 설치하고 기술과 시스템 고도화를 추진할 계획입니다. 이를 위해 절실한 것은 인력 증원입니다. 현재 39명이 근무 중이며 2025년 2명 증원이 예정되어 있습니다. 삭제 요청 수요에 비하면 부족한 것이 사실입니다. 더 많은 인력이 안정적으로 근무한다면 상당한 기술이 요구되는 삭제지원 업무가 더 안정적으로 이뤄질 것이라 확신합니다.

국제공조를 통해 삭제 요청에 응답하지 않는 해외 사이트에 대한 대응도 강화할 것입니다. 해외법령 분석을 연구하고 우수한 기술력도 도입하고 싶습니다.

현재 해외의 디지털 성범죄 사례를 분석한 자료들을 종합해 보면 한국의 피해자 지원제도는 매우 선도적입니다. 무관용 원칙을 기본으로 하고 있기 때문이라 생각합니다. 이러한 점들도 널리 홍보하고 싶습니다. 우리가 하는 일들이 디지털 성범죄 발생과 확산을 막고 대한민국이 디지털 성범죄로부터 자유로운 나라, 청정한 온라인 세상을 구현한 수준 높은 디지털 국가로 도약할 수 있는데 계속해서 보탬이 되고 싶은 게 저의 바람입니다.

☞ 디지털성범죄피해자지원센터 온라인게시판 https://d4u.stop.or.kr/

☞ 365일 전문상담전화 02-735-8994

· 지자체 디지털성범죄 피해자 지원 기관 (서울, 인천, 경기, 부산)

· 디지털성범죄 지역특화상담소(14개소*)

* 지역별 찾기 : → 정책정보 → 인권보호 → 디지털 성범죄 대응 및 피해자 지원

# data[].attributes.attachment_link.keywords[]
디지털 성범죄 지역 특화상담소

# data[].attributes.attachment_link.keywords[]
디지털 성범죄 종합대책

# data[].attributes.attachment_link.keywords[]
디지털 성범죄 피해자 지원센터

# data[].attributes.attachment_link.title
"딥페이크 영상 유포는 명백한 범죄, 삭제 골든타임 놓치면 안돼"

# data[].attributes.attachment_link.description
"바깥 활동을 할 수가 없었어요.결국 경제 활동도 끊겼고, 집에만 박혀 살았던것 같아요.그 당시에는 아무것도 할 수 없었습니다. 부정적인 생각들로 머리가 꽉 차서 사람이 너무 싫고 - 정책브리핑 | 뉴스 | 정책뉴스

# data[].attributes.body
요약:딥페이크 피해자 신고가 3.7배 올랐는데 미성년자들의 신고수는 4.5배가 됨

새롭게 알게된 점

현행법상 디페이크 성착취 피해자가 19세 미만 아동·청소년이면 아동·청소년성보호법 제11조(아동·청소년성착취물의 제작·배포 등)가 적용돼 문제 영상을 소지·시청하면 1년 이상의 징역, 제작·배포할 경우 최소 징역 3년에서 최대 무기징역까지 선고된다.

대처법

디성센터로 상담을 접수할 수 있다. 피해 지원 상담은 365일 운영하는 전화(☎ 02-735-8994)나 온라인게시판(d4u.stop.or.kr)을 통해 신청하면 된다.

예방법

개인정보와 사생활을 잘 보호 한다.

피싱과 악성링크를 경계한다

세계 일보

# data[].attributes.attachment_link.title
딥페이크 피해자 3명 중 1명은 미성년자… 2년 전보다 4.5배↑

# data[].attributes.attachment_link.description
지인이나 사회관계망서비스(SNS)에서 가져온 이용자 얼굴 사진을 음란물과 합성해 만든 딥페이크(Deepfake) 음란물 피해자 3명 중 1명은 미성년자인 것으로 나타났다. 28일 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월1일부터 8월25일까지 디지털성범죄피해자지원센…

# data[].attributes.body
최근 10대 청소년들에게도 딥페이크 범죄들이 점저 증가 하고 있다 최근 한 학교에 여학생을 딥페이크를 해서 유출한 사건이다. 이러한 일이 생기지 않도록 경각심을 가지고 남의 사진을 허락없이 보유 하고 있지 않아야 한다.

느낀점

1. 남의 사진을 맘대로 보유하지 않아야 한다

2. 딥페이크를 하는 친구를 보면 당장 신고해서 또 다른 피해자가 생기지 않게 말려야 겠다

3. 항상 경각심을 가지고 있어야겠다

# data[].attributes.attachment_link.title
한국 학교를 집어삼킨 ‘딥페이크 음란물’ 사태를 들여다보다 - BBC News 코리아

# data[].attributes.attachment_link.description
최근 한국 사회를 충격에 빠뜨린 ‘딥페이크 음란물’ 사태에는 많은 미성년자 피해자가 포함돼 있다.

# data[].attributes.body
요약:딥페이크 기술을 이용한 가짜 뉴스가 사회적 문제로 떠오르며, 이를 구별하기 어려워하는 사람들이 많다는 점을 경고하고 있습니다. 이에 따라 대처와 예방이 필요하다고 강조합니다.

1.딥페이크로 만든 가짜 뉴스가 사람들의 신뢰를 크게 위협한다.

2.증거를 확보하고 신고한 후, 법적 대응을 고려해야 한다.

3.AI 도구로 딥페이크를 식별하고, 디지털 신원 인증과 미디어 리터러시 교육을 강화해야 한다.

# data[].attributes.attachment_link.title
[주간 뉴스타파] 딥페이크의 공범들② 학교 딥페이크, 가해자가 돌아왔다

# data[].attributes.attachment_link.description
[주간 뉴스타파] 딥페이크의 공범들② 학교 딥페이크, 가해자가 돌아왔다

# data[].attributes.body
요약 : 이 사건은 교장이 인종차별적 발언을 했다는 오디오가 AI 딥페이크 기술로 조작돤 후 확산된 사건이다. 경찰은 그 오디오가 AI로 조작된 가짜임을 확인했지만, 지역사회와 관련자의 피해는 여전히 남아 있다.

알게된 점 : AI 딥페이크 기술은 조작 정보를 만들어 사회적 혼란을 불러올 수 있다

대처법 : 의심 콘텐츠를 확인하고 관련 기관에 신고하며 확산 방지에 노력해야 한다

예방법 : 신뢰할 수 있는 출처를 이용하고 가짜 정보를 구별한다.

# data[].attributes.attachment_link.title
AI : 딥페이크로 조작한 인종차별 발언 영상, 미국의 한 지역을 완전히 분열시키다 - BBC News 코리아

# data[].attributes.attachment_link.description
미국의 한 학교 교장이 인종적 비하 발언을 하는 AI로 조작된 오디오 클립이 온라인에 퍼지면서 교사들이 살해 협박을 받는 등 인근 지역으로 큰 파문이 일었다.

# data[].attributes.body
정치인의 얼굴을 합성한 딥페이크 영상에 대한 경찰의 조사

1. 딥페이크로인한 성범죄가 점점늘고 있다는걸 알게되었다.

2. 딥페이크 범죄피해 발생시 빨리 경찰에 신고한다.

3. 나의 사진이 아무대나 공유되지 않도록 조심한다.

# data[].attributes.attachment_link.title
경찰 ”이재명 딥페이크 영상 유포 관련 6건 수사중”

# data[].attributes.attachment_link.description
윤석열 대통령 탄핵심판 선고를 하루 앞둔 3일 박현수 서울경찰청장 직무대리가 서울 종로구 헌법재판소 앞에서 발언하고 있다. 연합뉴스 이재명 더불어민주당 대선 경선 후보와 관련한 딥페이크 영상물을 두고 경찰이 수사에 착수했다. 박현수 서울경찰청장 직무대리는 21일 정례 기자간담회에서 관련 질문에 ”민주당 측에서 딥페이크 영…

# data[].attributes.headline
1학년 2반 1번 강우현

# data[].attributes.subject
1학년 2반 1번 강우현

# data[].attributes.body
요약 : 서울대학교 동문들의 졸업 사진 등을 이용해 피해자의 얼굴을 합성한 불법 합성 영상물 딥페이크를 제작·유포한 혐의로 법원이 항소심에서 징역 9년을 선고했다.

1. 딥페이크를 만드는 사람들이 은근히 많다는 것을 알았다.

2. 아무리 좋은 학교에 가도 죄 한번 지으면 망한다는 것을 알았다.

3. 딥페이크에 관련된 친구들을 멀리 해야겠다.

# data[].attributes.attachment_link.readable_text
텔레그램 딥페이크 성범죄 경찰 수사 촉구 기자회견이 지난해 서울 서대문구 경찰청 앞에서 열려 참가자들이 엄정 수사를 촉구하는 행위극을 하고 있다. 김영원 기자 forever@hani.co.kr

서울대학교 동문들의 졸업사진 등을 이용해 피해자의 얼굴을 합성한 불법합성 영상물(딥페이크)을 제작·유포한 혐의로 기소된 박아무개(41)씨에게 법원이 항소심에서 징역 9년을 선고했다. 징역 10년이 나왔던 1심보다 1년 줄었다.

서울고법 형사8부(재판장 김성수)는 18일 성폭력처벌법 위반 혐의로 구속기소된 박씨에게 10년형을 선고한 1심을 파기하고 징역 9년을 선고했다. 공범 강아무개(32)씨에게도 1심 징역 4년보다 감형된 3년6개월이 선고됐다.

박씨는 서울대 동문 등 여성들의 졸업 사진이나 사회관계망에 올라온 사진으로 성범죄물을 제작한 뒤 텔레그램 채널과 대화방을 통해 유포한 혐의로 재판에 넘겨졌다. 박씨와 강씨 등은 텔레그램을 통해 만나 역할을 분담해 범죄를 저질렀고 피해자들을 협박하기도 했다. 현재까지 확인된 피해자는 서울대 동문 12명을 포함해 60여명이 넘는 것으로 알려졌다.

1심 재판부는 검찰의 구형을 그대로 받아들이며 "자신들의 행위에 대한 범죄를 명확하게 인식했고, 사회적으로 잘 나가는 여성에 대한 열등감과 증오심을 강력한 익명성의 집단 분위기에 취해 변태적으로 표출했다"며 "선의의 제보자들의 노력 끝에 피고인들을 간신히 체포했고 막대한 사회적 비용이 청구됐다"며 중형 이유를 설명한 바 있다.

반면 항소심은 박씨가 2심 과정에서 일부 피해자와 합의한 사실을 고려했다. 2심 재판부는 "주변 사람들의 얼굴 사진을 이용해 성적 모멸감을 주는 합성사진·동영상을 만들고, 이를 피해자들에게 전송해 농락하려 했다는 점에서 비난 가능성이 크고 범행 이후 정황도 매우 불량하다"면서도 "다만 1심과 달리 항소심에서는 범행을 모두 인정하고 반성했으며 신원이 확인된 피해자 중 일부와 합의해 그들이 선처 의사를 밝혔다"는 점을 들어 형량을 낮췄다.

피해자를 대리한 법률사무소 이채의 김민아 변호사는 선고를 마치고 기자들과 만나 "피해자들 일부가 합의한 부분이 참작된 것으로 보이는데, 딥페이크 성범죄의 심각성이 있다고 봐서 양형에 크게 반영된 것으로 보이진 않는다"며 "여성을 성적 대상화하는 사건이고 이를 범죄로 인정하며 사회적으로 경종을 울리는 계기가 됐을 것"이라고 말했다.

김지은 기자 quicksilver@hani.co.kr

# data[].attributes.attachment_link.title
'서울대 딥페이크' 주범 2심서 1년 감형...징역 9년 선고

# data[].attributes.attachment_link.description
서울대학교 동문들의 졸업사진 등을 이용해 피해자의 얼굴을 합성한 불법합성 영상물(딥페이크)을 제작·유포한 혐의로 기소된 박아무개(41)씨에게 법원이 항소심에서 징역 9년을 선고했다. 징역 10년이 나왔던 1심보다 1년 줄었다. 서울고법 형사8부(재판장 김성수)는 18일

# data[].attributes.body
인공지능(AI) 기술을 악용한 이른바 불법 합성물 ‘딥페이크’ 성범그림자가 10대를 둘러싸고 있다. 가해자 대다수가 10대인 것과 동시에 피해자 또한 2명 중 1명꼴로 10대였다.
가해자가 경민한 처벌도 받는 경우가 있지만

허나 피해자가 고통받을 경우에 가해자에게

주요한 처벌이 될수 있다는 것을 알았다. 또한 경미한 목소리나 신체의 큰부분도 딥페이크로 할 수 있다는 것을 알았다.

피해 발생시 대처법은 딥페이크 당했다는 것을 알았을떄 즉시 경찰에 신고히고 인스타에 있는 사진을 다 내리면 된다. 또한 심리상담센터에 가서 상담을 받으면 된다.

법죄를 예방하기 위해서는 인스타에 노출이 심한 사진을 올리지 말고 주위에 딮페이크 하는 사람이 있으면 적극 신고 해야한다.

# data[].attributes.attachment_link.title
″호기심에”…‘딥페이크’ 성범죄 피의자 78% 10대

# data[].attributes.attachment_link.description
인공지능(AI) 기술을 악용한 이른바 불법 합성물 ‘딥페이크’ 성범죄 그림자가 10대를 둘러싸고 있다. 가해자 대다수가 10대인 것과 동시에 피해자 또한 2명 중 1명꼴로 10대였다.경남경찰청 사이버수사과는 지난해 8월부터 지난달 말까지 7개월 동안 허위영상물 범죄 집중 단속을 벌여

# data[].attributes.body
요약:A씨를 포함한 10~30대 남성 8명이

딥페이크로 어느 체팅방에 '지인 능욕방'을 만들어서,

딥페이크 영상 만듬

예방법:일단 딥페이크 영상 올린다는 협박받을시, 협박에 요구 하는 척하면서 카톡에 112 쳐서 신고를 한다.

알게 된 점:딥페이크 범죄가 점점 커지고 있는걸 못 느끼고 있었다. 이번 조사로 너무 위험하다는걸 알았다.

# data[].attributes.attachment_link.title
‘딥페이크’로 대학 동문 얼굴에 나체사진 합성…8명 구속기소

# data[].attributes.attachment_link.description
인천지검 여성아동범죄조사부는 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 편집·반포 등 혐의로 대학원생 A 씨 등 10∼30대 남성 8명을 구속 기소했다고 밝혔습니다.

# data[].attributes.headline
1학년 1반 2번 김태형

# data[].attributes.subject
1학년 1반 2번 김태형

# data[].attributes.body
서울의 한 고등학교에서 주변 학교의 5명이 재학중인 여학생 10여명을 대상으로 딥페이크를 제작했다. 검거후 밝혀진 사실로는 5명모두 피해자 들과 아는 사이로 밝혀졌다.

딥페이크가 이렇게 쉽게 만들어 지는 건지 몰랐다. 피해 사실을 접하게 되면 경찰에 신고하고 sns에 사진을 올리지 말아야 겠다.

# data[].attributes.attachment_link.authors[].name
이우연,최상원,최예린,박고은,최윤아

# data[].attributes.attachment_link.title
“혹시 내 사진도?”…학교 덮친 딥페이크 범죄 공포

# data[].attributes.attachment_link.description
서울의 한 고등학교에 다니는 학생들 사이에선 최근 주변 4개 고교에 재학 중인 남학생 5명이 동료 여학생 10여명의 사진을 불법합성물(딥페이크)로 제작해 공유하고 있다는 문자가 나돌았다. 문자에는 가해자로 지목된 학생 5명의 이름과 학교까지 적혔다. 해당 지역의 한 고

# data[].attributes.body
서울대학교 동문들의 졸업사진 등을 이용해 피해자의 얼굴을 합성한 불법합성 영상물(딥페이크)을 제작·유포한 혐의로 기소된 박아무개(41)씨에게 법원이 항소심에서 징역 9년을 선고했다. 징역 10년이 나왔던 1심보다 1년 줄었다.

딥페이크 범죄가 생각보다 우리 주변에서 일어나고 있다는 것을 알았다

대처법: 인스타나 카톡에 자기 얼굴이 올라온 사진을 올리지 않거나 자신의 친구들에게만 공개한다

# data[].attributes.attachment_link.readable_text
텔레그램 딥페이크 성범죄 경찰 수사 촉구 기자회견이 지난해 서울 서대문구 경찰청 앞에서 열려 참가자들이 엄정 수사를 촉구하는 행위극을 하고 있다. 김영원 기자 forever@hani.co.kr

서울대학교 동문들의 졸업사진 등을 이용해 피해자의 얼굴을 합성한 불법합성 영상물(딥페이크)을 제작·유포한 혐의로 기소된 박아무개(41)씨에게 법원이 항소심에서 징역 9년을 선고했다. 징역 10년이 나왔던 1심보다 1년 줄었다.

서울고법 형사8부(재판장 김성수)는 18일 성폭력처벌법 위반 혐의로 구속기소된 박씨에게 10년형을 선고한 1심을 파기하고 징역 9년을 선고했다. 공범 강아무개(32)씨에게도 1심 징역 4년보다 감형된 3년6개월이 선고됐다.

박씨는 서울대 동문 등 여성들의 졸업 사진이나 사회관계망에 올라온 사진으로 성범죄물을 제작한 뒤 텔레그램 채널과 대화방을 통해 유포한 혐의로 재판에 넘겨졌다. 박씨와 강씨 등은 텔레그램을 통해 만나 역할을 분담해 범죄를 저질렀고 피해자들을 협박하기도 했다. 현재까지 확인된 피해자는 서울대 동문 12명을 포함해 60여명이 넘는 것으로 알려졌다.

1심 재판부는 검찰의 구형을 그대로 받아들이며 "자신들의 행위에 대한 범죄를 명확하게 인식했고, 사회적으로 잘 나가는 여성에 대한 열등감과 증오심을 강력한 익명성의 집단 분위기에 취해 변태적으로 표출했다"며 "선의의 제보자들의 노력 끝에 피고인들을 간신히 체포했고 막대한 사회적 비용이 청구됐다"며 중형 이유를 설명한 바 있다.

반면 항소심은 박씨가 2심 과정에서 일부 피해자와 합의한 사실을 고려했다. 2심 재판부는 "주변 사람들의 얼굴 사진을 이용해 성적 모멸감을 주는 합성사진·동영상을 만들고, 이를 피해자들에게 전송해 농락하려 했다는 점에서 비난 가능성이 크고 범행 이후 정황도 매우 불량하다"면서도 "다만 1심과 달리 항소심에서는 범행을 모두 인정하고 반성했으며 신원이 확인된 피해자 중 일부와 합의해 그들이 선처 의사를 밝혔다"는 점을 들어 형량을 낮췄다.

피해자를 대리한 법률사무소 이채의 김민아 변호사는 선고를 마치고 기자들과 만나 "피해자들 일부가 합의한 부분이 참작된 것으로 보이는데, 딥페이크 성범죄의 심각성이 있다고 봐서 양형에 크게 반영된 것으로 보이진 않는다"며 "여성을 성적 대상화하는 사건이고 이를 범죄로 인정하며 사회적으로 경종을 울리는 계기가 됐을 것"이라고 말했다.

김지은 기자 quicksilver@hani.co.kr

# data[].attributes.attachment_link.title
'서울대 딥페이크' 주범 2심서 1년 감형...징역 9년 선고

# data[].attributes.attachment_link.description
서울대학교 동문들의 졸업사진 등을 이용해 피해자의 얼굴을 합성한 불법합성 영상물(딥페이크)을 제작·유포한 혐의로 기소된 박아무개(41)씨에게 법원이 항소심에서 징역 9년을 선고했다. 징역 10년이 나왔던 1심보다 1년 줄었다. 서울고법 형사8부(재판장 김성수)는 18일

# data[].attributes.body
요약: 서울 한 초등학교가 딥페이크 예방을 위해 졸업앨범 사진 악용 금지 서약서를 도입했고, 교육부는 디지털 성폭력 대응 가이드를 배포해 대응 강화에 나섰다.

1. 초등학교에서도 딥페이크 예방을 위해 조치를 취하고 있다는 것이 놀랍고 딥페이크 문제가 많이 심각하다는 것을 알게되었다.

2. 딥페이크 사진을 보게된다면 빠르게 신고해 더 이상의 피해를 줄인다

3. 딥페이크 피의자 80퍼센트가 청소년이라고 했으므로 학교에서 한달아니면 두달에 한번 정도는 딥페이크 교육을 해야한다고 생각한다

# data[].attributes.attachment_link.title
초등학교에 등장한 ‘딥페이크 예방 서약서’

# data[].attributes.attachment_link.description
졸업앨범 사진 공유 금지 등 디지털 성범죄 방지 고육책 교육부는 ‘SOS 가이드’ 배포 서울 강동구 명일동의 한 초등학교는 최근 졸업앨범 구입 신청과 관련된 가정통신문을 학생들에게 나눠줬다. 가정통신문에는 예년과 같이 ‘6학년 졸업앨범 구입 신청 및 개인정보 동의서’가 담겼다. 이 학교는 올해 개인정보 동의서에 더해 ‘딥페이크 예방 서약서’까지 받았다. 서약서에는 ‘앨범 사진을 함부로 공유하거나 활용하지 않을 것임을 서약하며, 사안 발생 시 경찰청 및 여성가족부 등 전문기관에 의한 처벌, 특별교육 이수, 생활기록부상 불이익이 발생할 수 있음을 이해했다’고 쓰여 있다. 졸업앨범 사진을 활용한 딥페이크(허위 영상물) 디지털 성범죄 문제가 빈발하자 학교 측이 생각해낸 고육책이다. 교육부는 22일 교육 현장에서 일어나는 디지털 성범죄에 대응하기 위해 ‘디지털성폭력 SOS 가이드’를 배포했다고 밝혔다.…

# data[].attributes.body
https://www.hani.co.kr/arti/society/society_general/1154764.html

요약:텔레그램 기반한 딥페이크 성범죄가 잇달아 벌어지고 한 텔레그램 방에서 여성의 사진을 넣으면 가슴 사이즈 등을 편집하여 나체 사진으로 만드는 불법 합성물 봇이 탑재 되어 있다. 이 방에는 22만명의 사용자가 존재하기에 어떤 위협으로 다가올지 모른다.

1.사진을 올리면 제작해주는 방이 있는 사실을 깨달았다.

2.이라한 방의 홍보가 이루어지고 있는데, 홍보글은 계속 인기글이 되어 활발히 홍보가 된다.

# data[].attributes.body
요약: 텔레그램에서 일어난 딥페이크 음란물 제작사건. 이로인해 여성 인권 운동가들이 시위를 벌였다.

딥페이크 범죄 예방에서 새롭게 알게 된 점은, 딥페이크 기술이 점점 더 발전하여 개인의 이미지나 음성을 정교하게 조작할 수 있다는 점입니다. 대처법으로는, 의심스러운 콘텐츠를 발견했을 때 즉시 신고하고, 사실 확인을 철저히 하는 것이 중요합니다. 예방법으로는 개인의 사진과 음성 데이터 보호, 그리고 딥페이크 탐지 기술을 활용하는 것이 필요합니다.

# data[].attributes.attachment_link.title
한국 학교를 집어삼킨 ‘딥페이크 음란물’ 사태를 들여다보다 - BBC News 코리아

# data[].attributes.attachment_link.description
최근 한국 사회를 충격에 빠뜨린 ‘딥페이크 음란물’ 사태에는 많은 미성년자 피해자가 포함돼 있다.

# data[].attributes.body
요약: 서울대 졸업생 40대 박 모 씨 등 4명이 동문 여성을 대상으로 딥페이크 음란물을 만들어 유포하다가 구속됨. 징역 5년을 받음

1. 이런거 만들어다 유포하면 언젠가는 잡힌다.

2. 하다가 잡히면 처벌이 은근 강하니 보지도말고 만들지도 말아야한다.

3. 이런거 만드는 친구 가까이하면 나까지 위험해질수있으니 멀리해야한다.

# data[].attributes.attachment_link.title
서울대 딥페이크 성범죄 사건 1심 선고…징역5년｜지금 이 뉴스

# data[].attributes.body
텔레그램을 이용한 딥페이크 성범죄가 한국의 고등학생을 중심으로 확산되고 있다. 피해자들은 사진 합성 유포로 인해 불안을 느끼고 있으며, 정부와 경찰은 뒤늦게 문제를 해결한다. 과거 n번방 사건처럼 텔레그램은 수사 협조를 거부했고, 여성 단체들은 정부의 미흡한 대응을 비판하고 있다. 딥페이크 피해는 증가하고 있으며, 여성 인권 단체들은 이번 사태를 구조적 성차별의 결과로 보고 강력한 처벌을 요구하고 있다.

1. 윤리적인 관점이 과학 발전에 얼마나 중요한 역할을 하는지 두 눈으로 깨닫게 되었다.

2. 기술이 빨리 발전하지만, 정부와 경찰, 또는 법률은 기술 발전에 뒤쳐지고 있어서 새로운 기술에 대한 대처가 매우 느리다는 생각이 들었다.

3. AI 기술을 개발하는 사람들에게 법적 위력이 있는 AI 제작 관련 법률을 행사해야 한다고 생각한다.

# data[].attributes.attachment_link.title
한국 학교를 집어삼킨 ‘딥페이크 음란물’ 사태를 들여다보다 - BBC News 코리아

# data[].attributes.attachment_link.description
최근 한국 사회를 충격에 빠뜨린 ‘딥페이크 음란물’ 사태에는 많은 미성년자 피해자가 포함돼 있다.

# data[].attributes.body
딥페이크 성범죄가 청소년 사이에서 자주 일어난다.

딥페이크 성범죄를 저지르는 비율이 10대가 많기 때문에 혹시라도 주변에 딥페이크 성범죄를 하는 친구가 있다면 바로 신고해야 할거 같다.

# data[].attributes.attachment_link.description
경찰이 인공지능(AI) 기술을 악용한 딥페이크 범죄에 대해 집중 단속을 벌인 결과 7개월간 963명을 검거했다. 이 중 10대와 20대가 전체의 93%를 차지해 청소년 사이에서의 범죄 확산이 심각한 수준인 것으로 나타났다.경찰청 국가수사본부는 지난해 8월 28일부터…

# data[].attributes.body
세 인물이 딥페이크 관련 범죄를 저지른 후 체포된 내용

1. 자신에게 피해가 되는 딥페이크 범죄 발생 시 증거를 남기고 바로 신고하기

2. 강력한 법과 그 에 따른 강력한 응징이 딥페이크 범죄의 굴레를 멈출수 있다고 생각이 된다.

3. 그 누구나 딥페이크의 피해자가 될수 있다는 점이 새롭게 알게 된 점이 된다.

4. 범죄 예방법 으로는 인터넷 소셜 미디아 매체사용을 좀 더 조심하여 사용하는 것이 되겠다

# data[].attributes.attachment_link.title
대학 동문 41명 ‘딥페이크’로 성범죄물 제작·유포한 8명 구속기소

# data[].attributes.attachment_link.description
단체 대화방에서 ‘딥페이크(인공지능 기반 이미지 합성)’ 기술을 이용해 같은 대학에 다니는 여대생과 졸업생에게 신체 사진을 합성한 성범죄물을 만들어 유포한 대학원생 등이 재판에 넘겨졌다. 인천지검 여성아동범죄조사부(

# data[].attributes.body
딥페이크 피해자가 2년 사이에 30배나 늘어 났다는 것이 충격적 이였다. 얼마나 심각한 일인지 많은 사람들이 알아야 할 거 같다

# data[].attributes.attachment_link.title
딥페이크 피해 2년새 30배↑…가해·피해자 모두 10대가 ‘최다’

# data[].attributes.attachment_link.description
최근 딥페이크(불법합성물) 성범죄가 사회 문제로 대두한 가운데 서울 디지털 성범죄 안심센터에 접수된 딥페이크 피해자가 2년새 30배가량 증가한 것으로 나타났다. 서울시는 서울경찰청, 서울교육청 등과 딥페이크 공동대응에 나서기로 했다. 서울시는 서울 디지털 성범죄 안심지

# data[].attributes.headline
10402 강민준의 딥페이크

# data[].attributes.subject
10402 강민준의 딥페이크

# data[].attributes.body
기사 요약 (2줄)

경찰청은 딥페이크 성범죄 집중 단속을 통해 7개월간 963명을 검거하였으며, 이 중 93%가 10~20대였습니다.

딥페이크 성범죄는 단순 시청이나 소지만으로도 처벌 대상이 되며, 피해자 중 상당수가 청소년으로 나타났습니다.

새롭게 알게 된 점

딥페이크 성범죄는 단순히 제작자뿐만 아니라, 이를 소지하거나 시청하는 행위도 처벌 대상이 됩니다.

피의자 중 상당수가 10대 청소년으로, 촉법소년도 포함되어 있어 교육과 인식 개선이 시급합니다.

피해 시 대처법

1. 즉시 신고: 경찰청 사이버범죄 신고시스템(https://ecrm.police.go.kr)에 신고하거나, 가까운 경찰서에 방문하여 피해 사실을 알립니다.

2. 증거 확보: 피해 영상이나 사진, 관련 대화 내용 등을 캡처하여 보관합니다.

3. 전문 기관 상담: 디지털 성범죄 피해자 지원센터(☎ 02-735-8994) 등 전문 기관에 상담을 요청합니다.

예방법

SNS에 개인 사진이나 영상을 업로드할 때는 공개 범위를 제한하고, 불필요한 정보 노출을 피합니다.

의심스러운 링크나 파일은 열지 않으며, 출처가 불분명한 앱이나 프로그램은 설치하지 않습니다.

자녀나 청소년에게 딥페이크의 위험성과 법적 처벌에 대해 교육하고, 온라인 활동을 주기적으로 점검합니다.

# data[].attributes.attachment_link.title
‘딥페이크’ 피해 하루 평균 7건 발생했다...경찰 신고 1000건 돌파

# data[].attributes.attachment_link.description
【투데이신문 권신영 기자】 경찰청이 ‘불법합성물(딥페이크)’ 집중 단속을 실시 중인 가운데, 올해 경찰에 접수된 딥페이크 성범죄 신고가 1000건을 넘어선 것으로 나타났다. 신고 및 검거 건수는 매달 감소세를 보이고 있다.경찰청은 3일 올해 하반기에 시작된 ‘허위영상물 범죄 집중 단속 기간’ 이후부터 지난달 30일까지 총 649건의 딥페이크 성범죄 사건을 접수했다고 밝혔다. 올해 1월부터 지난달 30일까지 전국 경찰에 접수된 딥페이크 성범죄 사건은 1094건이다.일평균 신고 건수는 단속 이전 1.85건에서 집중단속 이후(지난 9월

# data[].attributes.body
6·3 대선을 앞두고 ‘딥페이크(Deepfake)’가 골칫덩이로 부상했다.

딥페이크 위험성
조작된 영상으로 지인이나 가족을 사칭해 금전을 요구
특정인의 얼굴을 합성하여 음란물 제작
실제로 하지 않은 말과 행동을 조작하여 거짓 정보 유포
목소리를 모방하여 보이스피싱에 악용

예방 및 대처법
개인정보와 사생활 보호
-온라인에서 자신의 이름, 주소, 전화번호, 학교 등 개인 정보를 공개하는 것을 주의
-sns나 온라인 계정을 비공개로 설정, 모르는 사람과의 접촉은 신중히 판단

피싱과 악성 링크 경계

- 출처가 불분명한 이메일이나 파일 열람 주의
- 의심스러운 링크는 클릭하지 말고 삭제

링크 클릭 절대 금지

새롭게 알게된 점

딥페이크가 '생각보다 더 심각하구나'를 알게됨

온라인 상에서 무엇을 할떄 더욱더 신중히 써야함

# data[].attributes.attachment_link.readable_text
#1. "딥페이크 고발은 무조건이다. 나오는 대로 계속 고발한다." 이재명 더불어민주당 대선 경선 후보 캠프는 최근 인공지능(AI) 기술을 이용한 흑색 비방 선전물에 무관용·강경 대응 원칙을 세웠다. 법률지원단 관계자는 20일 통화에서 "지금도 계속 게시물을 찾고 분석 중"이라며 "허위·조작 정보는 절대 용납하지 않는다"고 강조했다. 법적 조치가 외려 관심도를 높이는 부작용이 우려되지만 선제 대응을 통해 '떳떳함'을 강조하는 게 낫다는 전략이다.

#2. "대응하면 오히려 더 퍼지고 기정사실화 되는 것 아닌가." 한동훈 국민의힘 대선 경선 후보 캠프 관계자들은 요즘 소셜미디어와 온라인 커뮤니티에 퍼지는 가짜 영상으로 골머리를 앓고 있다. 윤석열 전 대통령까지 동원해 한 후보의 외모를 비하하는 내용이라 자칫 '긁어 부스럼'이 될까 우려하는 것이다. 캠프 관계자는 "전담 변호사를 배정해 실시간 모니터링을 하고 있다"며 "한 번에 모아서 조치할 것"이라고 밝혔다.

6·3 대선을 앞두고 '딥페이크(Deepfake)'가 골칫덩이로 부상했다. 딥페이크는 딥러닝(Deep Learning)과 페이크(Fake)의 합성어로 AI 기술을 활용해 진짜처럼 보이는 가짜 영상을 만들어내는 걸 뜻한다. AI 기술 발전으로 누구나 손쉽게 특정 후보의 얼굴·목소리 등을 꾸며낼 수 있게 되면서 이를 활용한 음해·비방·인신공격 등이 겉잡을 수 없이 늘고 있다. 그래서 정치권이 '딥페이크와의 전쟁'에 나서야 할 판이 된 것이다.

실제 유력 대선 주자들은 이미 딥페이크 피해를 호소하고 있다. 이재명 후보 측 박수현 선대위 공보단장은 지난 11일 "이 후보가 김혜경 여사에게 욕설을 하는 내용의 딥페이크 영상 제작·유포 시도가 있다는 제보가 접수됐다"며 "과거 수사기관 조사를 받고 귀가한 김 여사에게 이 후보가 험악한 표현을 쓰며 나무라는 상황으로 설정된 영상"이라고 브리핑했다.

이성엽 고려대 기술경영전문대학원 교수는 "최근 챗GPT 배우기 열풍 등으로 특별한 전문 지식이 없는 사람도 영상 합성이 가능해졌다"며 "진짜같은 AI 가상 제작물이 치열한 비방전의 잘못된 도구로 쓰이고 있다"고 진단했다.

기술의 진보를 막을 수 없는 만큼 각 캠프는 일단 강경 대응 원칙을 세워 적극 대응하고 있다.

'악마화 적극 대응' 원칙을 내세운 이 후보 캠프는 지난 16일 보수 유튜버 성창경 씨 등 17명을 공직선거법 위반 혐의로 서울경찰청에 고발했다. 박균택 법률지원단장은 "이 후보가 박찬대 민주당 원내대표에게 욕을 섞어 지시하는 영상 등을 고발했다"고 전했다. 여기엔 마치 이 후보가 "같이 나라 말아먹자" "시진핑 형님께 속국 하나 추가했다"라고 말하는 것처럼 조작한 '대한 중화 인민 공화국' 유튜브 영상이 포함됐다.

하지만 강경 대응이 불러올 부작용에 대한 우려 또한 커지고 있다. 민주당 보좌관은 "딥페이크 좌표가 하나 뜨면 상대 진영 유튜버들이 오히려 그걸 홍보 수단으로 쓴다"며 "조회수로 돈을 더 버니 벌금 좀 내고 만다는 식"이라고 토로했다. 국민의힘 미디어국 관계자는 "계엄 국면 때도 윤 전 대통령 등이 등장한 딥페이크 영상이 넘쳐났지만 고발에 이른 건 단 1건"이라며 "지난 대선이나 총선 때도 전부 고발하진 않았다"고 했다.

각 후보가 AI 분야에 최대 200조원 투자까지 공약하는 상황에서 처벌만이 능사가 아니라는 반론도 만만찮다. 한상희 건국대 법학전문대학원 교수는 "정치적 표현의 자유가 최대한 보장돼야 하는 선거 시기에 국가가 일괄 규제를 하는 것은 바람직하지 않다"며 "현실적으로 딥페이크 원천 차단이 불가능한 만큼 각 후보 차원의 민사 소송 대응과 정부 차원의 캠페인 등을 병행해야 한다"고 말했다.

중앙선거관리위원회는 지난 9일부터 검찰·경찰 및 네이버·카카오 등과 민·관 합동 특별대응팀을 꾸려 선거 딥페이크에 적극 대응 중이다. 지난해 1월 시행된 개정 선거법엔 위반시 최대 징역 7년형을 선고하는 딥페이크 영상 규제 조항(82조9)이 신설됐다.

# data[].attributes.attachment_link.title
후보가 "같이 나라 말아먹자"...초유의 딥페이크 대선 전쟁 | 중앙일보

# data[].attributes.attachment_link.description
이재명 더불어민주당 대선 경선 후보 캠프는 최근 인공지능(AI) 기술을 이용한 흑색 비방 선전물에 무관용·강경 대응 원칙을 세웠다. 한동훈 국민의힘 대선 경선 후보 캠프 관계자들은 요즘 소셜미디어와 온라인 커뮤니티에 퍼지는 가짜 영상으로 골머리를 앓고 있다.

# data[].attributes.body
요약: 여성의 얼굴 사진을 음란물과 합성한 딥페이크 허위영상물 성범죄로 7개월간 총 963명이 경찰에 붙잡혔다 경찰청 관계자는 "딥페이크 성범죄는 누구나 피해자가 될 수 있는 심각한 범죄인 만큼 국민 안전을 지키기 위해 집중단속을 지속하고 강화하겠다"며 "딥페이크를 이용해 성적 허위영상물을 제작하는 행위뿐 아니라 단순히 소지하고 시청만 하는 경우도 처벌 대상"이라고 강조했다

새롭게알게된점: 딥페이크가 얼마나 심각한지 알게되었다

# data[].attributes.attachment_link.readable_text
경찰, 딥페이크 성범죄 963명 검거...10대가 70%

김영봉 기자

입력: 2025.04.17 10:10 / 수정: 2025.04.17 10:10

7개월간 집중단속 결과...59명은 구속
"성적 허위영상물 소지 및 시청도 처벌"

[더팩트ㅣ김영봉 기자] 여성의 얼굴 사진을 음란물과 합성한 이른바 '딥페이크' 허위영상물 성범죄로 7개월간 총 963명이 경찰에 붙잡혔다. 10명 중 7명은 10대였으며 촉법소년(만 14세 미만)도 72명에 달했다.

경찰청 국가수사본부(국수본)는 지난해 8월28일부터 올해 3월31일까지 허위영상물 범죄 집중단속을 통해 963명을 검거하고 59명을 구속 송치했다고 17일 밝혔다. 집중단속 전인 지난해 1월1일부터 8월27일까지 검거된 267명보다 260.7% 급증한 수치다.

연령별로는 10대가 669명으로 전체의 69.5%를 차지했다. 촉법소년은 72명이었다. 20대는 228명(23.7%), 30대 51명(5.3%), 40대 11명(1.1%), 50대 이상 4명(0.4%) 등이다. 10대와 20대가 전체의 93.2%를 차지했다.

경찰이 집중단속 기간 수사한 딥페이크 성범죄 사건은 총 1429건에 달했다. 지난 3년간 경찰에 접수된 딥페이크 성범죄 사건은 2021년 156건(검거 79명), 2022년 160건(검거 78명), 2023년 180건(검거 100명) 등이었다.

서울경찰청은 지난 2020년 5월부터 올해 1월까지 피해자를 협박해 가학적 성착취물을 제작하고 유포한 총책 등 54명을 검거하고 2명을 구속했다.

인천경찰청은 지난 2022년 11월부터 지난해 8월까지 대학생들의 이름과 학교명이 들어간 텔레그램방을 개설한 후 허위영상물을 약 270회 유포한 15명을 검거하고 8명을 구속했다.

경찰은 성폭력처벌법 개정에 따라 오는 6월4일부터 딥페이크 성범죄 피해자가 성인인 경우에도 위장수사가 가능해진 만큼 위장수사를 적극 활용할 계획이다.

경찰청 관계자는 "딥페이크 성범죄는 누구나 피해자가 될 수 있는 심각한 범죄인 만큼 국민 안전을 지키기 위해 집중단속을 지속하고 강화하겠다"며 "딥페이크를 이용해 성적 허위영상물을 제작하는 행위뿐 아니라 단순히 소지하고 시청만 하는 경우도 처벌 대상"이라고 강조했다.

발로 뛰는 <더팩트>는 24시간 여러분의 제보를 기다립니다.

· 카카오톡: '더팩트제보' 검색

· 이메일: jebo@tf.co.kr

· 뉴스 홈페이지: https://talk.tf.co.kr/bbs/report/write

· 네이버 메인 더팩트 구독하고 [특종보자→]

· 그곳이 알고싶냐? [영상보기→]

# data[].attributes.attachment_link.keywords[]
경찰 경찰청 딥페이크 성범죄 서울경찰청 청소년 촉법소년 10대 허위영상물

# data[].attributes.attachment_link.description
7개월간 집중단속 결과...59명은 구속성적 허위영상물 소지 및 시청도 처벌여성의 얼굴 사진을 음란물과 합성한 이른바 딥페이크 성범죄로 7개월간 총 963명이 경찰에 붙잡혔..

# data[].attributes.body
가해자는 2022년 8월부터 지난해 12월까지 피해자들의 사진을 2575회 편집, 합성한 후 단체 대화방에 허위 영상물 2279개를 게시하고, 허위영상물과 성착취물 87개를 소지한 혐의를 받고 있다.

1.아직도 이런 추한 행동을 하는 사람이 있다는 걸 알게 됐다

2.즉시 경찰에 신고한다

3.타인에게 사진을 안 찍힌다

# data[].attributes.attachment_link.title
대학 동문 41명 ‘딥페이크’로 성범죄물 제작·유포한 8명 구속기소

# data[].attributes.attachment_link.description
단체 대화방에서 ‘딥페이크(인공지능 기반 이미지 합성)’ 기술을 이용해 같은 대학에 다니는 여대생과 졸업생에게 신체 사진을 합성한 성범죄물을 만들어 유포한 대학원생 등이 재판에 넘겨졌다. 인천지검 여성아동범죄조사부(

# data[].attributes.body
딥페이크 기술이 날이 가면 갈수록 증가하고 있다.

때문에 조심,또 조심해야 한다는 걸 깨달았다.

예방법

1.함부로 사이트에 본인사진을 계시하지 않아야겠다

2.딥페이크는 심각한 범죄임을 깨달았으며

절대 만들지 않아야겠다

# data[].attributes.attachment_link.keywords[]
사실 앞에 겸손한 민영 종합 뉴스통신사

# data[].attributes.attachment_link.title
순천시의원들 딥페이크 음란물 협박받아...경찰수사 의뢰

# data[].attributes.attachment_link.description
지난해 11월 광주 기초의원들도 피해 "선출직이라 누리집 사진 도용된 듯" 전남 순천시의회 의원들이 딥페이크 음란물 협박 메일을 받아 경찰에 수사를 의뢰했다.9일 순천시의회에 따르면 정광현 의원은 지난 7일과 8일 두차례에 걸쳐 딥페이크 ...

# data[].attributes.body
내용-서울대 딥페이크 사건은 서울대 출신인 박씨와 강씨 등이 대학 동문 등 여성 수십명의 사진을 딥페이크 기술로 음란물과 합성해 텔레그램으로 유포한 사건이다. '서울대 N번방' 사건으로 알려지기도 했다.

이 사건에 대해 재판부는 각각 징역 9년,징역 5년씩을 선고하였다.

1. 이렇게 좋은 대학교에 간 똑똑한 사람들도 이런 범죄를 저지르는것이 이해가 안됐고 딥페이크 범죄에대한 형량이 내 생각보다 높아 놀라웠다.

2. 딥페이크 범죄가 발생한것을 알게되면 그 사람을 신고하여 처벌받게 할것이다

3. 예방법- 인터넷 정보의 출처를 잘 확인하고 비밀번호를 강력히 설정한다. 또한 공유 할때 주의를 기울여야한다.

# data[].attributes.attachment_link.title
‘서울대 딥페이크’ 주범 항소심서 징역 9년으로 감형 | 연합뉴스

# data[].attributes.attachment_link.description
(서울=연합뉴스) 이미령 기자 = 이른바 ‘서울대 딥페이크’(서울대 N번방) 사건으로 불리는 디지털 성범죄 사건의 주범이 항소심에서 감형받았다.

# data[].attributes.body
최근 한국에서는 딥페이크 기술을 악용한 성범죄가 급증하며 사회적 충격을 주고 있습니다. 텔레그램을 중심으로 대학생, 고등학생, 심지어 중학생까지 피해를 입고 있으며, 정부와 경찰은 수사 및 처벌 강화에 나섰지만 피해자들은 여전히 불안에 떨고 있습니다. 경찰에 신고한다. 인스타에 사진을 올리지 않는다.

# data[].attributes.attachment_link.title
한국 학교를 집어삼킨 ‘딥페이크 음란물’ 사태를 들여다보다 - BBC News 코리아

# data[].attributes.attachment_link.description
최근 한국 사회를 충격에 빠뜨린 ‘딥페이크 음란물’ 사태에는 많은 미성년자 피해자가 포함돼 있다.

# data[].attributes.body
https://news.kbs.co.kr/news/pc/view/view.do?ncd=8230473

딥패이크를 집중단속하고있다

10대20대가 많았다

딥페이크의 심각성을 알리는 자료를 더 만들어 배퍼해야할것 같다

# data[].attributes.body
경찰이 딥페이크 성범죄를 7개월간 집중 단속해 963명을 검거했다. 전체 검거 인원의 70%가 10대였으며 촉법소년도 72명 붙잡혔다.

딥페이크 문제가 심각하다는 것을 알았다.

피해발생시 경찰에 신고한다.

사진을 함부로 올리지 않는다.

# data[].attributes.attachment_link.title
딥페이크 성범죄 7개월간 963명 검거…70%가 10대였다

# data[].attributes.attachment_link.description
딥페이크 성범죄 7개월간 963명 검거70%가 10대였다

# data[].attributes.body
1.실제 사람의 얼굴을 성적인 사진에 합성하는 사례가 많은 딥페이크 이미지는 AI 발전과 함께 점점 더 많이 생겨나고 있다는것을 새롭게 알았다.

2.사이버 경찰에게 내가 피해를 당했다고 신고 할것이다.

3.인터넷에 나의 사진을 게시하지 않겠다.

# data[].attributes.attachment_link.title
한국 학교를 집어삼킨 ‘딥페이크 음란물’ 사태를 들여다보다 - BBC News 코리아

# data[].attributes.attachment_link.description
최근 한국 사회를 충격에 빠뜨린 ‘딥페이크 음란물’ 사태에는 많은 미성년자 피해자가 포함돼 있다.

# data[].attributes.body
2019년 'N번방' 사건을 최초 보도한 추적단 불꽃 대표는"현장은 여전하다"고 말한다.

딥페이크가 우리 삶에 많은 영향을 끼친다는 점

피해자가 많이 고통받고 있음을 드러내고 있음

새롭게 알게 된 점:딥페이크는 이제는 편집의 영역이 아닌 범죄의 영역이라는 것을 알게 되었다.이런 문제가 발생했을 경우 즉각적으로 경찰에게 알려 법적으로 대응할 것이다.그리고 이것을 예방하기 위해서는 이미지 도용을 하지 않는 것이 중요하다.

# data[].attributes.body
https://naver.me/xBwlzSsC

요약 : AI의 발달로 관련 지식이 없는 청소년들이 딥페이크 음란물을 우호죽순 만들고 있다. 이에 대응해 경찰 측에서는 제작뿐 아니라 소지만으로도 처벌 할 것이라 밝혔다.

AI의 발달로 사전 지식이 없는 사람들까지 약간의 조작만으로 위험천만한 것들을 만들 수 있다는 것을 알았다.

이러한 상황이 발생할 경우 경찰에 알리고, 가해자에게 줄 수 있는 최고 수준의 벌로 강경하게 대해야 한다.

또한 딥페이크 음란물을 예방하려면 딥페이크의 위험성을 시민 전반에 각인시켜야 하며, 관련 문제에 대하여 강력한 처벌을 내려야 한다.

# data[].attributes.attachment_link.title
딥페이크·아동 성 착취물 집중 단속…10대 무더기 적발

# data[].attributes.attachment_link.description
경남경찰청이 딥페이크 영상물 등 허위 영상물 범죄와 아동 성 착취물 제작·유포에 대한 집중 단속을 벌여 총 60명을 검거하고 이 중 4명을 구속했다고 21일 밝혔다. 경찰에 따르면 지난해 8월부터 올해 3월까지 허위

# data[].attributes.body
딥페이크 영상이 선거철을 맞아 후보자들을 타겟으로 유포되면서, 법조계는 해당 범죄가 확산될 경우 중대한 처벌을 받을 수 있음을 경고하고 있다. 또한, 플랫폼 사업자에게도 법적 책임을 부여해야 한다는 의견이 제기되고 있다.

새롭게 알게된점: 딥페이크 피해자가 정치인들 같이 무분별하게 퍼지고 있다.

피해 발생 시 대처법: 신고를 한다

사고 예방법:SNS를 비공개로 설정한다

아시아투데이:김채연 기사

# data[].attributes.body
딥페이크 기술은 영상 제작 분야에서는 실제 구현하기 어려운 영상을 재현하거나 비용을 절감할 수 있다는측면에서 크게 주목받고 있습니다.
그러나 한편에서는 딥페이크 기술을 활용하여 가짜뉴스(허위조작정보* 포함)를 제작‧유포하는 등 개인의 권리가 침해되거나 정치·경제·사회적으로 피해가 발생하는 것에 대해서 우려가 제기되고 있습니다.

# data[].attributes.body
https://n.news.naver.com/article/001/0015335135?sid=102

딥페이크 시청은 아떻게든 걸린다

# data[].attributes.attachment_link.authors[].name
옥동자의 부동산러브 레터 (옥부레)

# data[].attributes.attachment_link.title
경찰, 딥페이크 성범죄 단속 7개월만에 963명 검거

# data[].attributes.attachment_link.description
10명 중 9명이 10·20대…”소지·시청도 처벌대상” 경찰이 딥페이크를 이용한 성범죄를 7개월간 집중 단속한 결과 963명을 검거했다. 17일 경찰청 국가수사본부는 2024년 8월 28일∼2025년 3월 31일 성

# data[].attributes.body
요즘 AI가 발전함에 따라 딥페이크와 같은 범죄가 많이 일어나고 있으며 이중 가해자의 대다수가 십대 청소년이라는 사실이 충격적이었으며 온라인상에서도 항상 조심해야 되겠다는 생각이 들었다.

# data[].attributes.attachment_link.title
딥페이크 범죄 집중단속 963명 검거…10월 말까지 엄정대응

# data[].attributes.attachment_link.description
경찰청 국가수사본부는 딥페이크 성범죄에 엄정 대응하기 위해 지난해 8월 28일부터 올해 3월 31일까지 약7개월 동안 허위영상(딥페이크) 범죄를 집중단속한 결과 963명을 검거하고 - 정책브리핑 | 뉴스 | 정책뉴스

# data[].attributes.body
#1. “딥페이크 고발은 무조건이다. 나오는 대로 계속 고발한다.” 이재명 더불어민주당 대선 경선 후보 캠프는 최근 인공지능(AI) 기술을 이용한 흑색 비방 선전물에 무관용·강경 대응 원칙을 세웠다. 법률지원단 관계자는 20일 통화에서 “지금도 계속 게시물을 찾고 분석 중”이라며 “허위·조작 정보는 절대 용납하지 않는다”고 강조했다. 법적 조치가 외려 관심도를 높이는 부작용이 우려되지만 선제 대응을 통해 ‘떳떳함’을 강조하는 게 낫다는 전략임다

#2. “대응하면 오히려 더 퍼지고 기정사실화 되는 것 아닌가.” 한동훈 국민의힘 대선 경선 후보 캠프 관계자들은 요즘 소셜미디어와 온라인 커뮤니티에 퍼지는 가짜 영상으로 골머리를 앓고 있다. 윤석열 전 대통령까지 동원해 한 후보의 외모를 비하하는 내용이라 자칫 ‘긁어 부스럼’이 될까 우려하는 것이다. 캠프 관계자는 “전담 변호사를 배정해 실시간 모니터링을 하고 있다”며 “한 번에 모아서 조치할 것”이라고 밝힘

6·3 대선을 앞두고 ‘딥페이크(Deepfake)’가 골칫덩이로 부상했다. 딥페이크는 딥러닝(Deep Learning)과 페이크(Fake)의 합성어로 AI 기술을 활용해 진짜처럼 보이는 가짜 영상을 만들어내는 걸 뜻한다. AI 기술 발전으로 누구나 손쉽게 특정 후보의 얼굴·목소리 등을 꾸며낼 수 있게 되면서 이를 활용한 음해·비방·인신공격 등이 겉잡을 수 없이 늘고 있다. 그래서 정치권이 ‘딥페이크와의 전쟁’에 나서야 할 판이 된 것임다.

ADVERTISEMENT

실제 유력 대선 주자들은 이미 딥페이크 피해를 호소하고 있다. 이재명 후보 측 박수현 선대위 공보단장은 지난 11일 “이 후보가 김혜경 여사에게 욕설을 하는 내용의 딥페이크 영상 제작·유포 시도가 있다는 제보가 접수됐다”며 “과거 수사기관 조사를 받고 귀가한 김 여사에게 이 후보가 험악한 표현을 쓰며 나무라는 상황으로 설정된 영상”이라고 브리핑했음

이성엽 고려대 기술경영전문대학원 교수는 “최근 챗GPT 배우기 열풍 등으로 특별한 전문 지식이 없는 사람도 영상 합성이 가능해졌다”며 “진짜같은 AI 가상 제작물이 치열한 비방전의 잘못된 도구로 쓰이고 있다”고 진단함

더불어민주당 이재명 후보 캠프 소속 의원들이 16일 서울경찰청 민원실에서 이 전 대표의 딥페이크 영상 유포 혐의를 받는 유튜버 등을 공직선거법 위반죄로 고발하고 있다. 연합뉴스

기술의 진보를 막을 수 없는 만큼 각 캠프는 일단 강경 대응 원칙을 세워 적극 대응하고 있다.

‘악마화 적극 대응’ 원칙을 내세운 이 후보 캠프는 지난 16일 보수 유튜버 성창경 씨 등 17명을 공직선거법 위반 혐의로 서울경찰청에 고발했다. 박균택 법률지원단장은 “이 후보가 박찬대 민주당 원내대표에게 욕을 섞어 지시하는 영상 등을 고발했다”고 전했다. 여기엔 마치 이 후보가 “같이 나라 말아먹자” “시진핑 형님께 속국 하나 추가했다”라고 말하는 것처럼 조작한 ‘대한 중화 인민 공화국’ 유튜브 영상이 포함임

하지만 강경 대응이 불러올 부작용에 대한 우려 또한 커지고 있다. 민주당 보좌관은 “딥페이크 좌표가 하나 뜨면 상대 진영 유튜버들이 오히려 그걸 홍보 수단으로 쓴다”며 “조회수로 돈을 더 버니 벌금 좀 내고 만다는 식”이라고 토로했다. 국민의힘 미디어국 관계자는 “계엄 국면 때도 윤 전 대통령 등이 등장한 딥페이크 영상이 넘쳐났지만 고발에 이른 건 단 1건”이라며 “지난 대선이나 총선 때도 전부 고발하진 않았다”고 함.

각 후보가 AI 분야에 최대 200조원 투자까지 공약하는 상황에서 처벌만이 능사가 아니라는 반론도 만만찮다. 한상희 건국대 법학전문대학원 교수는 “정치적 표현의 자유가 최대한 보장돼야 하는 선거 시기에 국가가 일괄 규제를 하는 것은 바람직하지 않다”며 “현실적으로 딥페이크 원천 차단이 불가능한 만큼 각 후보 차원의 민사 소송 대응과 정부 차원의 캠페인 등을 병행해야 한다”고 말함.

중앙선거관리위원회는 지난 9일부터 특별대응팀을 꾸려 선거 딥페이크에 적극 대응 중이다. 지난해 1월 시행된 개정 선거법엔 위반시 최대 징역 7년형을 선고하는 딥페이크 영상 규제 조항(82조9)이 신설됨!

1.요즘 AI로 딥페이크를 한다고 한다니 말도안된다

2.디페이크 처벌 수위를 좀더 올리면 좋을지도 모를거다

3.딥페이크하는 사람을 발견하거나 딥페이크를 발견하면 신고해야한다

4.ㄷ 딥페이크를 하면 절대절대 안됀다!

# data[].attributes.body
딥페이크 성범죄는 인공지능(AI) 기술이 발전하고, 이로 인한 딥페이크 합성이 고도화되면서 피해자들의 얼굴을 성착취물 영상에 합성해 실제처럼 보이게 만드는 범죄 유형이다. 이미 연예인이나 케이팝 아이돌을 대상으로 퍼지고 있는 범죄 양상이었는데, 최근에는 일반인을 대상으로 한 딥페이크 합성편집물이 많아지고 있어 사회적 이슈로 떠오르고 있다.

새롭게 알게 된점: 딥페이크를 통해서 사람에게 피해를 줄수있다.

피해 발생시 대처법: 경찰에 신고한다

범죄 예방법: 개인정보를 sns에 함부로 공유하지 않는다

# data[].attributes.attachment_link.readable_text
"바깥 활동을 할 수가 없었어요. 결국 경제 활동도 끊겼고, 집에만 박혀 살았던 것 같아요. 그 당시에는 아무것도 할 수 없었습니다. 부정적인 생각들로 머리가 꽉 차서 사람이 너무 싫고, 믿지도 못하겠고. 대인기피증이 이런 거구나 싶었어요. 사람이랑 대화하는 것 자체가 너무 싫었거든요." "너무 힘들어서 입원 치료까지 했어요. 한번은 제가 난리를 치던 상황이 있었는데 병원 직원들이 저를 붙잡았거든요. 그렇게 타인이 제 신체를 붙잡는 것조차도 저는 폭력처럼 느껴지는 거예요. 트라우마가 너무 컸던 것 같아요. 카메라 플래시 터지는 소리가 계속 귀에 맴도는 느낌이었어요 ."
2023년 한국여성인권진흥원 디지털성범죄피해자센터에서 진행한 <디지털 성범죄 유포 및 유포 불안 피해 경험에 관한 연구>에서 발췌한 피해자 증언 일부를 각색한 내용들이다.

디지털 성범죄 피해자들은 피해 사실을 알고 난 후부터 '실존적 생지옥'을 일상적으로 겪는다. 나도 모르는 사이버 공간에 영상물이 버젓이 남아 있진 않는지 누군가 자신을 알아보는 것은 아닐지, 이러한 극도의 불안함과 공포가 계속해서 이어지다가 결국 일상이 붕괴되는 것이다.

딥페이크 성범죄는 인공지능(AI) 기술이 발전하고, 이로 인한 딥페이크 합성이 고도화되면서 피해자들의 얼굴을 성착취물 영상에 합성해 실제처럼 보이게 만드는 범죄 유형이다. 이미 연예인이나 케이팝 아이돌을 대상으로 퍼지고 있는 범죄 양상이었는데, 최근에는 일반인을 대상으로 한 딥페이크 합성편집물이 많아지고 있어 사회적 이슈로 떠오르고 있다.

여가부 산하기관인 한국여성인권진흥원에 설치된 디지털성범죄피해자지원센터(이하 디성센터)는 이러한 디지털 성범죄에 노출된 피해자들을 위해 2018년 4월 30일 개소한 이후, 디지털 성범죄 피해상담과 피해촬영물에 대한 삭제를 지원하고, 수사·법률·의료지원 연계 등 종합적인 서비스를 제공하고 있다.

딥페이크 피해 사실을 알게 된 피해자들은 주저하지 말고 디성센터에 연락해 피해영상물 삭제를 요청해야 한다. 디지털 성범죄는 특성상 유포가 굉장히 빠르고 쉽게 이뤄지지만, 추적은 어렵기 때문이다.

삭제지원팀을 진두지휘하는 박성혜 팀장은 디지털 성범죄 피해를 인지하자마자 골든타임 내 반드시 신고해야 한다고 강조했다. 한번 유포되면 재유포가 반복되는 디지털 범죄 특성상 빠른 신고만이 피해를 최소화할 수 있는 유일한 방법이기 때문이다.

이를 위해 삭제지원팀은 피해자들을 위해 최대한 많은 합성물을 삭제하려고 노력하고 있다. 지난해 센터가 삭제지원한 영상은 3만 5000여 건으로 이는 2022년 3만 1000여 건에 비해 무려 14% 늘어난 수치이다.

무엇보다도 디지털 성범죄가 근본적으로 차단되기 위해서는 '딥페이크와 같은 허위영상물의 제작·소지·시청·유포는 명백한 범죄'라는 인식개선이 우선되어야 한다고 박성혜 팀장은 강조했다.

박 팀장은 디지털 성범죄는 더 이상 특정인을 대상으로 한 범죄가 아닌 나도 피해자가 될 수 있는 범죄 유형이며 내 주변 사람이 가해자가 될 수도 있는 범죄 유형이라는 점이 다른 범죄 유형과의 차이점이라고 말했다. 그러나 가해자 상당수가 "단순한 놀이"라고 인식하고 있다는 점에 놀랐고 합성편집물 유포는 명백한 범죄라는 인식개선의 필요성을 절감했다고.

현재 39명의 센터 구성원과 함께 상담·삭제지원 업무에 매진하는 것만으로도 벅찬 것이 사실이다. 하지만 근본적인 원인개선이 선행되어야 함을 잘 알기에 관계부처 협업으로 교육 지침서를 제작하고 국제공조 등을 통해 피해자 사례 분석, 기술 고도화에도 힘을 쏟으며 피해 발생 자체를 낮추기 위한 노력에도 공을 들이고 있다.

다음은 박성혜 팀장과의 일문일답.

◆ 한국여성인권진흥원 디지털성범죄피해자지원센터에 대해 소개 부탁드립니다.

2018년 4월 30일 개소한 디지털성범죄피해자지원센터(이하 디성센터)는 불법촬영물 및 딥페이크와 같은 허위영상물 삭제, 아동·청소년성착취물 선제적 삭제 업무를 기본으로 디지털 성범죄 삭제 업무 실효성 확보를 위한 국내외 유관기관 협력 체계 구축, DNA 검출·얼굴 인식 등 모니터링 자동화 기술 개발 및 고도화, 매뉴얼 제작 및 실무자 교육 등 역량 확산을 통한 일반의 디지털 성범죄 피해지원 서비스 접근성 강화, 기타 연구 및 홍보활동을 하는 국내 유일의 디지털 성범죄 피해자 지원 업무를 수행하는 국가 전문기관입니다.

◆ 디지털성범죄피해자지원센터는 어떤 업무를 하는지 구체적으로 알려주세요.

현재 삭제지원팀, 상담연계팀, 청소년보호팀 총 3개 팀으로 구성되어 운영 중입니다. 삭제지원팀은 불법촬영물과 딥페이크와 같은 허위 영상물 삭제, 아동·청소년 성착취물 선제적 삭제 등 기본적인 업무 외에도 국내외 유관기관과 협력해 DNA 검출과 인식 등 모니터링 자동화 기술 개발 및 고도화, 설명 제작·실무자 교육 등 역량 강화를 통한 디지털 성범죄 피해지원 서비스 접근성 강화 사업을 통해 디지털 성범죄 피해자를 지원하고 있습니다. 그리고 상담연계팀에서는 피해자가 국가로부터 온전히 보호받고 있다는 신뢰와 안정감을 통해 빠르게 회복하고 일상으로 복귀할 수 있도록 심리상담과 법률지원 등 다각도로 지원해 드리고자 노력하고 있습니다. 청소년보호팀은 청소년 피해자를 해바라기 센터의 아동센터에 연계해 상담과 치료, 법률적 지원을 받을 수 있도록 합니다.

◆ 딥페이크 성범죄가 최근 사회적 이슈로 떠오르는 이유가 무엇일까요?

디지털 성범죄의 심각성은 과거에도 마찬가지였지만, 기존에는 피해가 특정 대상 또는 계층에 한정된 범죄라는 인식이 많았습니다.

그런데 최근 전국 대다수의 학교와 직업군에서 피해 사례가 확인되고 있어 특정의 누군가가 아닌, '나도 피해자'가 될 수 있다는 불안감이 확산되고 있습니다. 주로 연예인이나 케이팝 아이돌을 대상으로 퍼지던 범죄 양상이 이제는 일반인을 대상으로 한 합성편집물로 확대되고 있는 것이죠.

또한, 친척, 친구, 직장 동료 등 내 주변인이 가해자라는 점에서 사회 전체가 공동으로 두려움을 체감하게 되면서 이와 같은 현상이 나타나고 있다고 생각합니다.

◆ 딥페이크 성범죄 양상은 어떻게 변화하고 있나요?

딥페이크 성범죄와 같은 합성편집물들은 가해 연령대가 현저히 낮다는 것이 특징입니다. 이미 초등학생들도 성적인 사진에 학교 선생님 얼굴을 합성해 친구들과 돌려보는 사례가 몇 년 전부터 시작되고 있고 딥페이크 앱을 활용한 합성이 누구나 손쉽게 가능해지면서 불법적인 합성편집물을 만드는 연령대가 더 낮아지고 있습니다.

또한, 미성년자인 아이들은 성착취물 영상에 친구, 선생님, 부모님들의 얼굴을 합성하고 유포하는 것을 그저 놀이문화 중 하나라고 인식하는 경우가 많습니다.

게다가 요즘 아이들은 디지털 네이티브 세대라고 불릴 만큼 스마트폰과 AI기술에 익숙하기 때문에 부모님과 선생님의 눈길을 피해 손쉽게 딥페이크 합성편집물을 만들 수 있는 거죠. 특히, 코로나19 기간 중 바깥 활동에 제약이 많았고 고립되는 시간이 늘어나면서 온라인상의 놀이문화가 청소년들에게 더욱 익숙해진 계기가 되면서 유독 미성년자 가해자들이 많았던 것은 아닌지, 저희 센터에서도 다양한 관점에서 분석해 보는 중입니다.

◆ 피해자들의 유형에 대해 더 자세히 들려주실 수 있으세요?

디성센터에서 합성편집물 피해로 삭제 지원 등을 요청한 피해자들의 비중을 살펴보면 성인이 절반, 미성년자가 절반가량입니다. 워낙 쉽게 딥페이크 합성물을 만들 수 있기에 피해자분들도 다양한데요, 이분들이 자신의 피해 사실을 바로 알기는 어렵습니다. 가해자가 직접 협박 연락을 하는 경우도 있지만 대부분은 친구, 전 애인, 지인들이 합성물을 보고 연락을 주는 경우가 많습니다. 미성년자의 경우, 부모님들이 피해 사실을 인지하거나 발견해 신고하는 경우도 있고요.

신고가 들어오면 저희는 긴급삭제를 바로 진행합니다. 당장 눈에 띄는 합성물부터 삭제를 시작하고요. 피해자들이 극도로 불안함과 공포를 느끼는 경우가 대부분이라 일단 눈앞에 보이는 합성물을 삭제하는 것만으로도 안도감을 느끼곤 합니다. 하지만 '누군가 날 알아보면 어쩌지?'라는 불안함에 집 밖에 나가지 못하는 분들도 계시고 직장을 그만두는 등 사회생활이 중단되는 분들도 많습니다.

아동·청소년의 경우, 피해 아이뿐 아니라 부모님들도 함께 무너지는 경우가 참 많습니다. 그래서 아예 등교를 시키지 않는 부모님들도 계시죠. 그런 숱한 경우를 지켜보면서 저희 삭제지원팀은 최대한 많은 합성물을 삭제하려고 노력합니다. 다만, 디지털 성범죄 특성상 유포가 쉽고 추적이 어려워 100% 삭제까진 쉽지 않은 상황입니다.

◆ 접수된 사례 중 기억에 남는 범죄 사례를 소개해 주실 수 있을까요?

기존의 불법합성물은 매우 조악한 형상의 이미지들이 많았는데, 기술이 고도화되면서 현재는 일반인 누구나 정교한 불법영상물을 제작하고 소지할 수 있게 되었습니다. 특히, AI 기술을 활용한 피해 유형이 최근 늘어나고 있습니다.

피해자 일상 사진을 기반으로 옷을 투명하게 만들거나 신체를 노출한 것처럼 보이게 만드는 소위 '딥누드(Deep nude)' 형태로 피해자의 실제 몸이 아님에도 실제처럼 보이도록 합성한 영상이 등장하고 있는 것입니다. 또한, 피해자 얼굴 사진에 미소, 눈빛, 입술 모양 등 표정까지도 성적으로 변형시켜 피해자 이미지를 왜곡하고 성적인 의도를 담아 원본과 전혀 다른 형태로 변형시키는 딥누드 영상들이 새로운 범죄 유형으로 떠오르고 있습니다.

◆ 딥페이크 영상 피해에 대응하는 방법에 대해 자세히 말씀해주세요.

저희가 늘 말씀드리는 것은 '피해 사실을 인지한 즉시, 저희 센터나 경찰에 신고하라'는 것입니다. 생각보다 피해 사실 인지 후에 신고를 못하는 경우가 많습니다. 가해자들이 '신고하면 네 사진을 유출한다'고 협박하거나 심리적 지배(가스라이팅)를 하기 때문입니다.

그러나 유포 사실을 알게 된 즉시, 바로 신고하셔야 합니다. 24시간을 넘기면 그 피해가 걷잡을 수 없이 커지기 때문입니다. 저희 센터에 신고할 경우, 바로 삭제작업을 진행합니다. 디지털 성범죄는 온라인이라는 특성상 유포가 매우 빠르고 쉬우나 추적은 어렵습니다. 그럼에도 삭제지원팀원들 모두 최대한 많은 영상을 찾아 반드시 삭제한다는 각오로 업무에 임하고 있습니다.

피해 사실을 확인하면 바로 연락주셔야 합니다. 24시간 골든타임 내 삭제를 시작한다면 피해를 확실히 줄일 수 있습니다. 가해자의 위협이 두려워도 반드시 신고해주세요. 변호사와 연계한 법률지원은 물론, 지역 상담센터와 연계한 심리상담도 지원해 피해자 여러분이 하루빨리 일상으로 복귀할 수 있도록 다양한 방법을 동원해 도와드리고 있습니다.

◆ 딥페이크 성범죄 근절과 방지 대책을 위해 어떤 점들이 필요하다고 생각하시나요?

이미 저희 센터와 여성가족부, 교육부가 협력해 딥페이크 성범죄 관련 교육 과정을 제작하고 있습니다. 하지만 딥페이크 성범죄가 기술을 활용한 범죄인만큼 아이들에게 올바른 기술 활용을 위한 교육을 강화하고 성인지적 가치 교육 등이 필요하다고 생각합니다.

많은 기관에서 소개하는 예방책은 피해자가 행위 주체로서 무엇을 하지 말아야 할 지를 주로 소개하는데, 막상 마련된 정책과 이를 이행하는 법적 절차에서는 피해자는 당사자로서의 권리를 제대로 보장받지 못하고, 피해자의 안녕은 도외시되는 경향이 있습니다. 피해자가 국가로부터 온전히 보호받고 있다는 신뢰와 안정감을 통해 빠르게 회복하여 일상에 복귀할 수 있도록 다각도의 노력도 필요할 것입니다.

앞으로 센터는 딥페이크 성범죄 대응 범정부 대응 전담팀을 설치하고 기술과 시스템 고도화를 추진할 계획입니다. 이를 위해 절실한 것은 인력 증원입니다. 현재 39명이 근무 중이며 2025년 2명 증원이 예정되어 있습니다. 삭제 요청 수요에 비하면 부족한 것이 사실입니다. 더 많은 인력이 안정적으로 근무한다면 상당한 기술이 요구되는 삭제지원 업무가 더 안정적으로 이뤄질 것이라 확신합니다.

국제공조를 통해 삭제 요청에 응답하지 않는 해외 사이트에 대한 대응도 강화할 것입니다. 해외법령 분석을 연구하고 우수한 기술력도 도입하고 싶습니다.

현재 해외의 디지털 성범죄 사례를 분석한 자료들을 종합해 보면 한국의 피해자 지원제도는 매우 선도적입니다. 무관용 원칙을 기본으로 하고 있기 때문이라 생각합니다. 이러한 점들도 널리 홍보하고 싶습니다. 우리가 하는 일들이 디지털 성범죄 발생과 확산을 막고 대한민국이 디지털 성범죄로부터 자유로운 나라, 청정한 온라인 세상을 구현한 수준 높은 디지털 국가로 도약할 수 있는데 계속해서 보탬이 되고 싶은 게 저의 바람입니다.

☞ 디지털성범죄피해자지원센터 온라인게시판 https://d4u.stop.or.kr/

☞ 365일 전문상담전화 02-735-8994

· 지자체 디지털성범죄 피해자 지원 기관 (서울, 인천, 경기, 부산)

· 디지털성범죄 지역특화상담소(14개소*)

* 지역별 찾기 : → 정책정보 → 인권보호 → 디지털 성범죄 대응 및 피해자 지원

# data[].attributes.attachment_link.keywords[]
디지털 성범죄 지역 특화상담소

# data[].attributes.attachment_link.keywords[]
디지털 성범죄 종합대책

# data[].attributes.attachment_link.keywords[]
디지털 성범죄 피해자 지원센터

# data[].attributes.attachment_link.title
"딥페이크 영상 유포는 명백한 범죄, 삭제 골든타임 놓치면 안돼"

# data[].attributes.attachment_link.description
"바깥 활동을 할 수가 없었어요.결국 경제 활동도 끊겼고, 집에만 박혀 살았던것 같아요.그 당시에는 아무것도 할 수 없었습니다. 부정적인 생각들로 머리가 꽉 차서 사람이 너무 싫고 - 정책브리핑 | 뉴스 | 정책뉴스

# data[].attributes.body
피해자 수와 성비 불균형
2024년 기준, 디지털 성범죄 피해자 중 약 99.6%가 여성으로 나타났습니다. 특히, 10대와 20대 여성의 피해 비율이 높아, 청소년층의 위험성이 강조되고 있습니다.

알게 된 점

딥페이크 기술의 발전은 영상 콘텐츠의 진위를 판단하기 어렵게 만들어, 개인의 명예와 개인정보를 침해하는 새로운 형태의 범죄를 야기하고 있다는 것을 알게 되었습니다.

# data[].attributes.headline
2학년 2반 7번 박규동

# data[].attributes.subject
2학년 2반 7번 박규동

# data[].attributes.body
본인이 딥페이크 피해를 입었다면, 상황을 정리하고 증거를 확보한 뒤 학교·경찰·디지털 성범죄 피해자 지원센터 등에 신고하고 보호조치도 요청해야 합니다.

딥페이크 피해를 입었을 때 대처 방안을 알게 되었다.

담임교사나 상담교사에게 알리고 2차 피해를 막기 위해 가해자와의 분리, 심리 상담, 법률 지원 등 보호 조치를 요청할 수 있도록 하겠다.

1:1 대화에서 민감한 사진, 영상, 메시지 절대 전송하지 않기

# data[].attributes.attachment_link.readable_text
최근 늘고 있는 딥페이크 등 디지털 성범죄가 일어났을 때 초기 대응을 돕기 위한 교육부의 안내서가 나왔습니다. 이해를 돕기 위해 초등학생과 중·고등학생, 대학생 등 눈높이를 세분화해 제작됐습니다.

장훈경 기자가 전해드립니다.

<기자>

지난해 디지털 성범죄 피해자는 1만 명을 넘었습니다.

특히 합성·편집으로 만든 딥페이크는 전년에 비해 3.3배 늘었는데, 10대와 20대 피해 건수가 92.6%로 대부분이었습니다.

교육부는 이런 상황을 반영해 학교 디지털 성폭력 초기 대응을 위한 가이드라인을 발간했습니다.

학생용 3종, 교사용, 학부모용 등 모두 다섯 종류입니다.

특히 학생용은 초등학생, 중·고등학생, 대학생용으로 눈높이를 맞추어 제작됐습니다.

학교 내에서 발생할 수 있는 디지털 성폭력 유형과 상황별 대응 방법, 도움받을 수 있는 기관 등이 망라돼 있습니다.

다른 사람의 사진이나 영상 전달 금지 등 1:1 메신저 대화 시 유의사항도 담아 교사나 학부모가 아이들을 지도할 때 참고할 수 있도록 했습니다.

본인이 디지털 성폭력 피해를 입었다면, 상황을 정리하고 증거를 확보한 뒤 학교·경찰·디지털 성범죄 피해자 지원센터 등에 신고하고 추가 피해에 대한 보호조치도 요청해야 합니다.

친구나 주변인이 피해를 입었다는 사실을 알게 되면 상처가 되지 않게 사건을 비밀로 유지하고 2차 피해가 생기지 않도록 행동해야 합니다.

만약 자신의 행동으로 문제가 생겼다면 잘못을 인정하고 책임을 져야 하며, 학부모 역시 호기심에 따른 실수로 넘어가지 말고 폭력이라는 점을 분명히 인지시켜야 합니다.

디지털 성폭력 초기대응 가이드라인은 교육부와 학부모 온누리 홈페이지 등에서 내려받을 수 있습니다.

(영상편집 : 최진화)

# data[].attributes.attachment_link.authors[].name
장훈경 기자페이지 바로가기

# data[].attributes.attachment_link.title
딥페이크 피해 시 어떻게?...가이드라인 발간

# data[].attributes.attachment_link.description
최근 늘고 있는 딥페이크 등 디지털 성범죄가 일어났을 때 초기 대응을 돕기 위한 교육부의 안내서가 나왔습니다. 이해를 돕기 위해 초등학생과 중·고등학생, 대학생 등 눈높이를 세분화해 제작됐습니다.

# data[].attributes.headline
1학년 7반 8번 송찬우

# data[].attributes.subject
1학년 7반 8번 송찬우

# data[].attributes.body
딥페이크 범죄의 현황과 피해

피해 확산: 딥페이크 기술을 이용해 피해자의 얼굴을 성착취물 영상에 합성하는 범죄가 증가하고 있습니다. 이러한 영상은 연예인뿐만 아니라 일반인에게도 피해를 주고 있습니다. 피해자들은 이러한 영상이 온라인에 유포되면서 일상생활에 큰 영향을 받고 있습니다.

청소년 가해자 증가: 딥페이크 범죄의 가해자 중 상당수가 10대 청소년으로, 이들은 이를 단순한 놀이로 인식하는 경우가 많습니다. 이러한 인식 부족은 범죄를 더욱 확산시키는 요인이 되고 있습니다.

법적 대응과 처벌

법적 처벌 강화: 딥페이크 영상의 제작, 유포, 소지 등은 명백한 범죄로 간주되며, 관련 법률에 따라 처벌받을 수 있습니다. 그러나 일부 가해자들은 이를 단순한 장난으로 생각하고 있어 법적 대응이 어려운 경우가 있습니다.

대응 방안과 지원

피해자 지원: 한국여성인권진흥원은 디지털 성범죄 피해자들을 위해 상담, 영상 삭제, 법률 지원 등 다양한 서비스를 제공하고 있습니다. 피해를 인지한 즉시 신고하여 빠른 대응이 중요합니다.

예방 및 교육: 딥페이크 범죄를 예방하기 위해서는 기술에 대한 이해와 함께 올바른 인식이 필요합니다. 학교와 사회에서의 교육을 통해 이러한 범죄를 예방할 수 있습니다.

# data[].attributes.attachment_link.title
“딥페이크 영상 유포는 명백한 범죄, 삭제 골든타임 놓치면 안돼”

# data[].attributes.attachment_link.description
“바깥 활동을 할 수가 없었어요.결국 경제 활동도 끊겼고, 집에만 박혀 살았던것 같아요.그 당시에는 아무것도 할 수 없었습니다. 부정적인 생각들로 머리가 꽉 차서 사람이 너무 싫고, 믿지도 못하겠고. 대인기피증이 이런 거구나 싶었어요.사람이랑 대화하는 것 자체가 너무 싫었거든요.”“너무

# data[].attributes.body
딥페이크 예방 방법

1. 개인 정보 보호

얼굴 사진, 음성, 영상 등 개인 미디어 콘텐츠를 SNS나 온라인에 무분별하게 업로드하지 않기.

특히 고화질 사진이나 영상은 최대한 조심해서 올리기.

2. 보안 강화

클라우드, 이메일, SNS 등 계정은 2단계 인증 설정.

비밀번호는 주기적으로 변경하고, 같은 비밀번호를 여러 곳에서 사용하지 않기.

3. AI 탐지 기술 활용

딥페이크를 탐지해주는 딥페이크 감지 프로그램이나 앱 사용 (예: Deepware Scanner, Microsoft Video Authenticator).

영상이나 사진을 업로드하기 전에 검토하기.

4. 교육과 인식

딥페이크가 무엇이고 어떻게 만들어지는지 스스로 학습하고 주의.

기업이나 학교에서는 정기적인 보안 교육 실시.

딥페이크 대처 방법

1. 딥페이크 영상 발견 시

본인의 얼굴이 조작된 영상을 발견했다면 즉시 캡처 및 저장 (증거 확보).

영상이 퍼지기 전에 플랫폼에 신고 (YouTube, Instagram, TikTok 등 대부분 플랫폼에서 허위 콘텐츠 신고 가능).

2. 법적 대응

사이버 명예훼손, 초상권 침해, 성범죄(불법 합성물) 등으로 고소 가능.

경찰청 사이버수사국, 방송통신심의위원회 등에 신고할 수 있음.

3. 전문가 상담

법률 상담을 통해 법적 대응 방향 설정.

필요시 정신적 피해에 대한 심리 상담도 병행.

# data[].attributes.attachment_link.title
디지털 성범죄 딥페이크, "침착하게 대처하는 법"

# data[].attributes.body
요약 : 딥페이크 범죄에 대한 청소년들의 잘못된 인식이 큰 문제로 꼽힌다.

딥페이크 범죄가 적발됐을 경우 14세 이상의 청소년은 형사 처벌의 대상이 된다.

새로 안점 : 딥페이크가 학교에서도 일어난다고 합니다.

또한 딥페이크를 만드는 사람이 청소년이 많다고 합니다.

대처법 : 딥페이크로 인한 피해를 받을시 즉시 증거를 확보하고 경찰에 신고한다.

예방법 : 얼굴 사진이나 개인정보 공개를 최소한으로 하고, 딥페이크와 관련된 매체들을 멀리한다.

# data[].attributes.attachment_link.readable_text
(서울=연합뉴스) 심재훈 기자 = 우리가 일상에서 접하는 유튜브나 인스타그램 등을 볼 때마다 이게 진짜가 맞냐는 생각이 들 때가 있다.

그만큼 최근 들어 딥페이크(허위 영상물)가 많아져 소셜미디어(SNS) 동영상도 믿기 힘든 시대가 됐기 때문이다.

특히 최근에는 연예인 얼굴 등을 교묘하게 딥페이크로 편집하는 성범죄도 발생해 정부가 대대적인 단속에 나서고 있다는 보도도 나오고 있다.

딥페이크의 생산자가 대부분 10대라고 하는데 과연 맞는 걸까. 10대 청소년도 딥페이크 범죄를 저지르면 처벌을 받게 되는 걸까.

결론부터 말하자면 딥페이크는 주로 정보통신기술(ICT)에 익숙한 10대 청소년이 만드는 것으로 파악되며, 딥페이크 성범죄에도 10대 청소년의 연루가 심각한 수준인 것으로 보인다. 10대 청소년이 생성형 AI의 발달로 손쉽게 불법 영상물을 제작할 수 있게 되면서 범죄에 무방비로 노출되고 있기 때문이다.

청소년 본인은 딥페이크 범죄가 별것이 아니라고 여길 수 있지만 적발될 경우 14세 이상은 형사 처벌 대상이 되기 때문에 학교나 기관에서 청소년을 대상으로 지속적인 계도가 필요한 상황이다.

◇ 10대가 딥페이크 범죄 주로 연루...피해자도 많아

경남의 한 경찰서는 지난해 11월 또래 여학생 얼굴 사진을 가지고 '딥페이크' 성 착취물을 제작해 소지한 혐의로 10대 고등학생 2명을 불구속 입건했다. 이들은 중학교 동창 등 여학생 사진을 SNS에서 내려받아 휴대전화 AI 프로그램으로 딥페이크 성 착취물을 제작해 소지한 혐의였다. 이들이 다른 학생과 성 착취물을 돌려 보는 것을 알게 된 피해 여학생이 학교 측에 알리면서 범행이 드러났다.

지난해 9월 대전경찰청은 친구의 사진을 이용해 딥페이크 성 착취물을 제작·유포한 고교생 등 3명을 검거했다. 이들은 딥페이크 인공지능 봇(Bot)을 이용해 학교 친구, 학교 동창 또는 지인의 인스타그램 등 SNS 사진을 다운받아 성 착취물과 합성하고 이 중 일부는 지인이나 SNS 단체대화방에 유포한 것으로 확인됐다.

교육부가 공개한 '학교 딥페이크 허위 영상물 피해 현황' 10차 조사 결과 발표에 따르면 지난해 1월부터 11월 8일까지 피해 학생은 908명으로 집계됐다. 교원 피해자는 36명, 직원 등 피해자는 4명으로 학생과 교직원을 합한 누적 피해자는 948명에 달했다.

지난해 누적 딥페이크 피해 신고는 561건이었다. 수사 의뢰는 475건, 삭제 지원 연계 건수는 252건이었다.

국민권익위원회가 범정부 민원 분석시스템에 수집된 딥페이크 관련 민원 분석 결과를 공개했는데, 허위로 만든 성적 사진과 영상물 등 '딥페이크 성범죄' 관련 민원이 지난해 1∼10월 월평균 50건 접수돼 전년 동기 대비 1.7배 늘었다.

경찰청은 지난해 1월부터 10월까지 딥페이크 성범죄 사건 964건을 접수·수사해 피의자 506명을 검거했는데 10대가 411명으로 81.2%의 비중을 차지해 가장 많았다. 촉법소년(10세 이상 14세 미만)도 78명(15.4%)이나 됐다. 20대 77명(15.2%), 30대 13명(2.6%), 50대 이상 3명(0.6%), 40대 2명(0.4%)이었다.

인천경찰청에 따르면 지난해 1월부터 9월까지 인천에서 접수된 딥페이크 범죄는 모두 52건으로, 경찰은 딥페이크 사건 피의자로 24명을 검거했으며 이들 중 성인 1명 빼고 나머지 23명(95.8%)은 모두 청소년인 것으로 파악됐다.

인천에서는 지난해 7월 딥페이크 성 착취물로 피해를 본 교사들이 경찰서를 찾았으나 수사가 부진해지자 직접 증거를 수집해 피의자인 학생을 찾아내기도 했다.

경찰청에 따르면 디지털 성범죄에 대한 경찰 위장 수사를 허용하도록 개정된 법률이 2021년 9월 시행된 이후 지난해 8월 말까지 총 515건의 위장 수사가 이뤄졌다. 이를 통해 피의자 1천416명이 검거됐고 이 중 94명이 구속됐다.

지난해 경기남부경찰청이 피의자 27명을 검거한 디지털 성범죄 사건에서도 위장 수사가 활용됐다. 10대 판매자 3명은 텔레그램 채널을 개설해 연예인이 성적 행위를 하는 내용의 딥페이크 성 착취물을 불특정 다수에게 판매했다가 적발됐다.

더불어민주당 양부남 의원이 경찰청에서 제출받은 자료에 따르면 2021∼2023년 경찰에 신고된 딥페이크 범죄의 피해자 총 527명 중 59.8%(315명)가 10대였다. 딥페이크 범죄로 피해를 본 미성년자는 2021년 53명에서 2022년 81명, 2023년 181명으로 2년 만에 3.4배가 됐다. 전체 피해자에서 10대가 차지하는 비중은 2021년 64.6%에서 2022년 52.9%로 낮아졌다가 2023년 62.0%로 다시 높아졌다.

기술 발전으로 딥페이크 제작이 쉬워지면서 가해자 중 미성년자 비중도 눈에 띄게 늘고 있다. 허위 영상물 범죄 혐의로 입건된 전체 피의자 중 10대가 차지하는 비중은 2021년 65.4%, 2022년 61.2%에서 2023년 75.8%로 커졌다.

◇ 청소년 '잘못된 인식'...딥페이크 범죄로 이어져

딥페이크 범죄에 대한 청소년들의 잘못된 인식이 큰 문제로 꼽힌다.

지난해 12월 교육부가 중·고등학교 1∼2학년 학생 2천145명을 대상으로 조사해 발표한 '학교 딥페이크 불법 영상물 관련 청소년 인식 조사 결과'에 따르면 중고생들은 딥페이크 성범죄 발생 원인(중복응답)을 묻는 말에 '장난으로'(54.8%)를 1순위로 꼽았다.

이어 '성적 호기심 때문에'(49.3%), '해도 들키지 않을 것으로 생각해서'(44.1%), '들켜도 처벌이 약해서'(38.2%), '심각하게 잘못된 행동은 아니라고 생각해서'(31.4%) 순이었다. '친구들과 어울리고 인정받기 위해'라는 응답도 12.9%나 됐다.

딥페이크 확산의 책임이 어디에 있느냐는 질문에는 92%가 '사진을 도용해 가짜 사진이나 영상물을 만든 사람'이라고 답했고, 75.9%는 '약한 처벌'을 꼽았다. 본인 개인정보나 사진을 제대로 관리하지 못한 '피해자 책임'이라는 응답도 13.6%나 돼 인식 개선 교육이 필요한 것으로 나타났다.

불법 합성물을 제작하는 주 도구로 지목되는 생성형 AI에 대해 제대로 교육받은 중고등학생이 3명 중 1명에 불과한 점도 문제다.

한국청소년정책연구원의 '청소년 디지털 인재를 어떻게 양성할까' 보고서에서 따르면 2023년 7∼8월 전국 중·고등학교에 다니는 청소년 2천261명을 설문해보니 지난 6개월 동안 학교에서 '생성형 AI 기술 활용 교육'을 받은 비율은 35.7%에 불과했다.

반면 일상에서 생성형 AI를 이용한 적이 있다고 답한 비율은 이보다 17%포인트 많은 52.1%로 조사됐다. 성별로는 남자(57.3%)가 여자(46.6%)보다 많았고, 학교급별로는 고등학생(61.5%)이 중학생(43.7%)보다 많았다.

보고서에 따르면 학생들은 딥페이크나 사이버 폭력 등의 디지털 범죄를 방지할 수 있도록 윤리 교육이 지금보다 더 마련돼야 한다는 입장을 밝혔다.

보고서는 "AI를 활용해 특정 인물의 얼굴을 영상에 합성한 딥페이크 기술이 발전함에 따라 허위 조작 정보가 넘쳐나고 있다"며 "이처럼 새로운 기술에 따른 부작용이 심해지면서 청소년의 리터러시 역량이 더욱 중요해졌다"고 설명했다.

딥페이크 범죄가 적발됐을 경우 14세 이상의 청소년은 형사 처벌의 대상이 된다.

14세 미만인 촉법 소년은 형사처벌은 받지 않지만 가정법원 등에서 사회봉사 명령을 받거나 소년원 송치 등 보호 처분을 받게 된다는 점을 명심해야 한다.

딥페이크 범죄 관련 법안도 속속 도입돼 향후 처벌이 강화된다는 점도 유념해야 한다.

지난해 9월에는 딥페이크 성 착취물을 소지하거나 시청한 사람에 대해 징역형 처벌이 가능하게 하는 성폭력 범죄 처벌특례법 개정안이 국회를 통과했다. 개정안은 성 착취물을 비롯한 허위 영상물 등의 소지·구입·저장·시청죄를 신설해 3년 이하 징역 또는 3천만원 이하의 벌금에 처하도록 했다.

또한 허위 영상물의 유포 목적이 입증되지 않더라도 제작자를 처벌할 수 있게 했으며, 그 형량을 불법 촬영 및 불법 촬영물 유포(징역 7년 또는 5천만원 이하의 벌금)와 동일한 수위로 늘렸다. 허위 영상물을 이용한 협박·강요에 대한 처벌 규정(징역 1년 이상)도 마련됐다.

◇ 딥페이크 악용 막으려면...SNS 공개 등 지양해야

딥페이크 범죄에 악용되지 않기 위해서는 될 수 있으면 자신의 사진을 대외 공개하지 않는 것이 좋다.

딥페이크 범죄가 다양해지고 기술은 고도화하면서 카카오톡 프로필 사진을 이용하는 범죄까지 등장함에 따라 SNS 계정을 비공개로 전환하거나 아예 폐쇄하는 사람들이 늘고 있다.

한국교원단체총연합회가 지난해 9월 30일부터 10월 9일까지 전국 유·초·중·고 교원 3천537명을 대상으로 설문조사를 실시한 결과, 응답한 교원의 93.1%가 졸업사진을 활용한 딥페이크 범죄나 사진 합성, 초상권 침해가 우려된다고 했다.

실제로 졸업앨범에 사진을 넣는 교원들이 줄고 있다. 응답한 교원의 72.5%는 '사진을 넣는 것이 점점 줄고 있다'고 했고 17.7%만 '이전과 변화가 없다'고 답했다. 담임의 얼굴 사진도 20.4%는 '넣지 않는다'고 했고, 17.7%는 '희망자 등 일부만 넣는다'고 답했다.

학급 단체 사진에서도 응답한 교원의 14.9%는 담임 사진을 넣지 않았다. 학생 또한 자기 얼굴이 딥페이크에 활용될까 봐 졸업앨범에 사진이 들어가길 꺼렸다. 사진 넣기를 꺼리거나 빼기를 원하는 학생이 늘고 있냐는 질문에 응답한 교원의 45.5%는 '그렇다'고 했다.

기존 범죄가 목소리 흉내에 그쳤다면, 이제는 실제에 가까운 자녀의 얼굴이나 목소리를 활용해 부모에게 심리적 압박을 가하는 딥페이크 범죄까지 등장하고 있다.

지난해 10월 딥페이크 영상을 이용한 납치 협박 사건이 실제 발생하기도 했다. 외국인 A씨는 한국을 여행하던 딸이 감금된 채 울면서 "살려달라"고 하는 영상을 받았다. 상대방은 돈을 보내라고 협박했지만, 딸은 안전했고 영상은 가짜였다.

경찰청은 딥페이크 범죄에 이용을 막기 위해 SNS 전체 공개 설정을 지양해야 한다고 경고하고 있다.

딥페이크 범죄는 상대방을 가리지 않고 확산하고 있기 때문이다. 지난해 서울, 부산, 대전 등 전국 각지에서 남성 지방의원들이 딥페이크 불법 합성물이 담긴 협박성 메일을 받아 큰 소동이 일기도 했다.

정부는 지난해 11월 국무조정실을 중심으로 발표한 딥페이크 성범죄 대응 방안에서 플랫폼 사업자의 의무 강화 방침을 내놨다. 이에 따라 네이버, 메타 등 기존에 당국의 관리 아래 있는 플랫폼 사업자들은 불법 촬영물 유통 방지 의무를 이행하지 않으면 시정 명령이나 과징금 대상이다.

텔레그램 등 해외에 기반을 둔 플랫폼은 규제의 사각지대라는 지적을 고려해 방송통신심의위원회와 경찰청은 텔레그램과 핫라인 구축, 실무협의 정례화 등에 합의했고 수사와 관련한 협조 의사를 전달받았다.

과학기술정보통신부는 딥페이크 성범죄 확산을 AI 등 최신 기술로 최소화하기 위해 차단·탐지 기술의 연구개발을 지원하고 딥페이크 보안 기술을 특허 우선심사 대상에 선정해 3개월 내 신속 심사가 이뤄지도록 할 계획이다.

# data[].attributes.attachment_link.title
[팩트체크] '허위 영상물' 딥페이크는 10대 청소년이 만든다? | 연합뉴스

# data[].attributes.attachment_link.description
(서울=연합뉴스) 심재훈 기자 = 우리가 일상에서 접하는 유튜브나 인스타그램 등을 볼 때마다 이게 진짜가 맞냐는 생각이 들 때가 있다.

# data[].attributes.headline
1학년 1반 1번 김미종

# data[].attributes.subject
1학년 1반 1번 김미종

# data[].attributes.body
요약:서울경찰청은 지난 8월부터 불법 합성물 제작 및 유포자들을 집중 수사하는 '허위영상물 집중대응 TF팀'을 운영하고 있다. 경찰은 딥페이크와 같은 불법 성영상물에 대해 엄정 대응하며, 범죄수익금을 전액 추적해 환수하고 유통을 근절하기 위해 노력할 것이라고 밝혔다.

1:생각보다 경찰대응이 활발하다

2:그 즉시 경찰에 신고한다

3:SNS에 얼굴 사진등을 게시 하지 않는다

# data[].attributes.attachment_link.title
경찰, ‘연예인 딥페이크’ 영상 사이트 운영 중국인 남성 검거 - 매일경제

# data[].attributes.attachment_link.description
1만5000여개 제작해 유포 도박사이트 연결해 돈벌이 운영수익 1억4000만원 달해 생성형 AI 프로그램 만들어 연예인 합성 20대 남성도 검거

# data[].attributes.body
인하대 여학생과 여성 40명 넘는 얼굴을 이용하여 딥페이크 범죄를 저질렀다.

1 딥페이크는 큰 범죄인것을 알았다

2 딥페이크 기술이 나쁜 사람의 손에 함부로 넘어가면 안될것 같다.

3 딥페이크로 피해받는 가람들의 마음을 알게되었다

예방방법:딥페이크 범죄에대한 심각성을 인지 하고 교육 영상을 열심히 시청한다

# data[].attributes.attachment_link.title
‘인하대 여학생’ 딥페이크 영상 제작·유포男 8명 구속기소

# data[].attributes.attachment_link.description
인하대 학생 등 여성 41명의 사진을 이용해 딥페이크(인공지능 기반 합성) 사진·영상을 만들어 유포한 혐의로 구속된 남성 8명이 재판에 넘겨졌다. 인천지검 여성아동범죄조사부(부장 정희선)는 성폭력처벌법상 허위영상물 편집 등의 혐의로 텔레그램 그룹방 운영자 A씨(24…

# data[].attributes.body
요약: 이재명 더불어민주당 대표와 부인 김혜경을 음해하는 딥페이크 영상이 유포된 사건과 관련해 이재명은 법적 대응 방침을 밝혔다. 현재 해당 영상 유포와 관련해 최소 14명이 수사를 받고 있다.

1. 딥페이크가 엄청 심각하다는 것을 알았다.

2. 딥페이크가 발생하지 않도록 내 사진을 인터넷에 많이 올리지 않는다.

3.딥페이크 영상을 만들거나 공유 하는 애랑은멀리하고 관심을 가지지 않아야겠다.

# data[].attributes.attachment_link.title
경찰 “이재명 딥페이크 영상 유포 14명 수사”

# data[].attributes.attachment_link.description
경찰이 이재명 더불어민주당 대선 경선 후보와 관련한 딥페이크 영상물 수사에 착수했다.박현수 서울경찰청장 직무대리는 21일 정례 기자간담회에서 “민주당

# data[].attributes.body
딥페이크 성착취물 사건이 사회적으로 충격을 주고 있고

밤좌자들이 익명으로 활동을 하고 증거를 삭제할수 있기때문에 큰문제로 지목됨 한국 정부와 경찰은 강력한 수사와 조사 중임

대처법

112애 신고한다

# data[].attributes.attachment_link.title
한국 학교를 집어삼킨 ‘딥페이크 음란물’ 사태를 들여다보다 - BBC News 코리아

# data[].attributes.attachment_link.description
최근 한국 사회를 충격에 빠뜨린 ‘딥페이크 음란물’ 사태에는 많은 미성년자 피해자가 포함돼 있다.

# data[].attributes.headline
2학년 1반 3번 서동현

# data[].attributes.subject
2학년 1반 3번 서동현

# data[].attributes.body
기사 요약:판결문에서 가해자와 피해자가 어떻게 아는 사이인지 알 수 있는 사례를 추려 따로 들여다보니, 피해자 89명 가운데 50명은 가해자와 초·중·고, 대학 등(학원 포함)을 통해 연결돼 있었다. 학교 단위에서 서로 아는 피해자를 대상으로 딥페이크 성범죄물을 만들어 모욕하고 공유하는 범죄가 이미 4년여 전부터 발생하고 있었던 셈이다. 전 연인 같은 교제 관계(14명)로 알게 된 사이가 그다음으로 많았다. 이 밖에 게임·에스엔에스 등 온라인(6명), 친·인척(3명), 직장(2명) 등의 관계망에서 범죄가 발생했다.

새롭게 알게된 점: 딥페이크 기술이 생각보다 정교하고 쉽게 악용될 수 있다는 사실을 알게 되었다.
피해자가 입는 정신적·사회적 피해가 심각하다는 점을 깨달았다.
사고 예방법: SNS에 민감한 개인 정보나 사진을 과도하게 올리지 않는다.비밀번호를 주기적으로 변경하고 보안 설정을 강화한다.

피해 대처법: 플랫폼에 신고하고 삭제 요청을 한다.경찰청 사이버수사대나 방송통신심의위원회에 신고해 법적 조치를 받는다.

# data[].attributes.attachment_link.readable_text
게티이미지뱅크

한겨레 젠더팀은 딥페이크 성범죄의 구체적인 양상을 파악하기 위해 성폭력범죄의 처벌 등에 관한 특례법 14조의2(허위영상물 반포 등)가 시행된 2020년 6월25일부터 올해 6월까지 해당 법 위반 혐의가 포함된 105건의 1·2심 판결문을 살폈다. 딥페이크 성범죄의 심각성은 '이미지 합성'만으론 설명되지 않는다. 신상정보 유포·성적 괴롭힘을 비롯해 여러 종류의 성폭력이 중첩된 범죄로 피해자는 신체·정신적 고통, 경제적 손실, 폭력 위험 가중 등 광범위한 피해를 겪고 있다.

"네 동영상을 갖고 있다."

ㄱ은 2021년 어느 날 익명으로 피해자에게 협박 메시지를 보냈다. 신체를 노출한 사진을 보내지 않으면 성관계 영상을 퍼뜨리겠다는 내용이었다. 결국 경찰에 붙잡힌 가해자는 수년 전 피해자와 교제한 남성이었다. 그는 딥페이크 제작자에게 의뢰해 피해자 얼굴을 합성한 성범죄물을 만들어 자신의 에스엔에스(SNS) 계정에 올리기까지 했다. 1심 재판부가 그의 파렴치한 행각에 징역 7년을 선고하자 '너무 무거워서 부당하다'며 항소했으나 2심 재판부는 이를 받아들이지 않았다.

가해자 ㄴ 역시 2022년 수년 전 교제한 여성의 불법촬영물을 유포하고 피해자를 성적으로 모욕하는 합성 성범죄물을 만들어 퍼뜨린 혐의로 유죄(징역 3년→징역 2년)를 선고받았다. 성범죄물엔 피해자 이름·나이·직업뿐 아니라 에스엔에스 계정도 적혀 있었다. 이 사건 1·2심 재판부는 판결문에서 "피해자 사진·영상이 널리 유포된 것으로 보이고, 불특정 다수가 (불법촬영물을) 이용해 합성 성범죄물을 제작, 재유포하는 등 2차 피해도 심각하다"고 우려했다.

딥페이크 성범죄 가해자들은 전 연인 같은 친밀한 관계를 포함해 선후배 및 교사 등 학교 구성원, 친·인척, 온·오프라인 관계망을 통해 알게 된 여성을 타깃으로 여러 유형의 성폭력을 중첩적으로 저지르는 경향을 보였다. 한겨레가 성폭력범죄의 처벌 등에 관한 특례법 14조의2(허위영상물 반포 등) 위반 혐의 등으로 기소된 105건의 1·2심 판결문을 살핀 결과, 합성 성범죄물 제작·유포 혐의만으로 가해자가 법정에 선 사건은 25건(23.8%)이었다. 나머지 80건(76.2%)엔 여러 가해 행위가 중첩돼 있었는데, 명예훼손·모욕, 스토킹, 강요·협박, 성폭행 등 모두 39가지에 걸쳐 있다. 특히 피해자 신상정보 유포(38건·36.2%)와 당사자가 원하지 않는 성적 메시지 등으로 고통을 준 성적 괴롭힘(41건·39.0%)이 빈번하게 나타났다. 성별을 알 수 있는 피해자 137명(연예인 제외) 가운데 130명(약 95%)은 여성, 가해자 22명 중 21명(약 95%)은 남성이었다. 기본소득당 용혜인 의원실이 경찰청으로부터 받은 자료를 보면, 올해 들어 9월25일까지 검거된 딥페이크 성범죄 관련 피의자(387명)의 약 98%(378명)가 남성이다. 딥페이크 성범죄는 여성 피해자가 다수인 젠더 기반 폭력임이 명확한 셈이다.

피해자를 고통 속에 몰아넣는 가장 큰 흉기는 합성 성범죄물과 함께 유포한 신상 정보다. 가해자 ㄷ은 2020년 약 3개월 동안 초등학교 동창과 그 가족, 만난 적 없는 여성 등 7명의 사진을 또 다른 여성의 맨몸 사진과 합성했다. 이런 성범죄물 속 피해자 얼굴에 여성을 성적으로 비하하는 문구와 욕설을 써넣었다. 그러곤 자신의 에스엔에스 계정을 통해 피해자 이름·직업·학교 등 정보를 함께 유포했다. 피해자들은 직장·학교 생활을 정상적으로 할 수 없었고, 일부는 모르는 남성으로부터 원하지 않는 연락을 받았다. 가해자가 학교, 아르바이트 장소 등을 퍼뜨린 통에 전혀 알지 못하는 이들로부터 성적 접근을 받는 고통을 겪은 피해자도 있었다. 가해자 중에는 피해자 연락처뿐 아니라 피해자의 아버지 연락처까지 퍼뜨린 이도 있었다.

불법촬영이든 합성이든 한번 유포된 성범죄물은 또 다른 가해자 손을 거쳐 확대·재생산될 위험이 컸다. 20대 초반 가해자 ㄹ은 2021년 자신이 졸업한 학교 교사를 사칭해 에스엔에스 계정을 만들어 피해자 얼굴을 훔쳐 만든 성범죄물을 지속적으로 올렸다. 이를 본 같은 학교 출신의 또 다른 제자가 피해자를 타깃으로 한 합성 성범죄물 제작에 손을 댔다.

판결문에서 가해자와 피해자가 어떻게 아는 사이인지 알 수 있는 사례를 추려 따로 들여다보니, 피해자 89명 가운데 50명은 가해자와 초·중·고, 대학 등(학원 포함)을 통해 연결돼 있었다. 학교 단위에서 서로 아는 피해자를 대상으로 딥페이크 성범죄물을 만들어 모욕하고 공유하는 범죄가 이미 4년여 전부터 발생하고 있었던 셈이다. 전 연인 같은 교제 관계(14명)로 알게 된 사이가 그다음으로 많았다. 이 밖에 게임·에스엔에스 등 온라인(6명), 친·인척(3명), 직장(2명) 등의 관계망에서 범죄가 발생했다.

그러나 피해자들은 수사가 진척되기 전까진 익명의 범인이 누구인지 몰랐던 경우가 많았다. 심지어 자신의 피해 사실 자체를 모르는 이들이 상당수로 추정된다. 판결문 곳곳엔 누구인지 특정되지 않는 '성명불상' 피해자들이 언급돼 있기 때문이다. 가해자가 주변인·연예인 등의 합성 성범죄물을 만들어 유포한 혐의로 기소된 사건 항소심 재판부(제주지법 형사1부)는 2021년 11월 유죄를 선고하며 이렇게 개탄했다. "피고인이 가공한 영상물엔 피해자들(피고인 지인이거나 채팅방 참여자 지인들로 대부분 일반인) 얼굴이 그대로 나오고 이름·학교 등 개인정보까지 노출돼 있다. 피해자들이 이를 알게 됐을 때의 정신적 충격과 피해는 가늠할 수도 없다."

올해 초 자신이 딥페이크 성범죄 피해자임을 뒤늦게 알게 된 주환경(가명)씨도 지난 8월 한겨레에 학교생활을 함께한 대학 동문이 가해자라는 사실에 "더 큰 충격을 받았고, 인간관계 자체가 뿌리째 흔들리는 타격을 받았다"(가해자 재판부에 낸 진술서)고 했다.

가해자들에게 가해 행위는 누군가의 인격을 무너뜨리는 범죄이기보단 이목을 끌 수 있는 '놀이'였다. 딥페이크 성범죄 과정엔 여러 가해자들이 관여하기에 죄책감을 더는 경향도 보였다. 가해자 ㅁ은 에스엔에스를 통해 익명 가해자들로부터 받은 여성들의 사진으로 합성 성범죄물을 만들어 나이·주소, "문란한 성생활을 하는 것" 같은 거짓 정보를 함께 유포했다. 범행 동기는 "(에스엔에스) 팔로어를 늘리고 사람들 관심을 받고 싶어서"였다. ㅁ은 1심 재판부에 "어린 시절 가족 울타리 안에서 보호받지 못하고 외로운 시간을 보내면서 인터넷 등을 통해 잘못된 성관념이 생성됐다"고 호소했다. "(불법합성) 영상을 올릴 때마다 댓글이 달리고 자신을 인정해주는 것이 좋았다"고 말한 가해자도 있었다. 텔레그램 대화방에서 피해자 전화번호와 '연락 바람' 문구를 함께 넣은 합성 성범죄물을 유포하는 식으로 범죄 가담을 독려하는 행태도 엿보였다.

권김현영 여성현실연구소장은 "교제폭력은 살인 같은 강력범죄가 동시에 벌어지기 때문에 (이런 관계에서 나타나는) 딥페이크 성범죄는 상대적으로 '가볍다'는 인식을 주기 쉬운데, 중요한 건 디지털 성폭력 생태계의 진입 장벽이 낮아졌다는 점"이라며 "누구든 작은 악의로 손쉽게 딥페이크 성범죄를 저지를 수 있는 환경이기에 (범행으로 향하는) 여러 경로와 여성을 대상으로 중첩적으로 발생하는 범죄의 연결 고리를 함께 고려한 대책이 필요하다"고 말했다.

김효실 기자 trans@hani.co.kr 정인선 기자 ren@hani.co.kr 박현정 saram@hani.co.kr

# data[].attributes.attachment_link.title
인격 살해 범죄 '딥페이크'...성범죄물 확대·재생산에 신상 퍼뜨려

# data[].attributes.attachment_link.description
한겨레 젠더팀은 딥페이크 성범죄의 구체적인 양상을 파악하기 위해 성폭력범죄의 처벌 등에 관한 특례법 14조의2(허위영상물 반포 등)가 시행된 2020년 6월25일부터 올해 6월까지 해당 법 위반 혐의가 포함된 105건의 1·2심 판결문을 살폈다. 딥페이크 성범죄의 심각

# data[].attributes.body
오바마 딥페이크 사건으로 정치적 충돌이 발생한적이 있어 현재 사회에 큰 문제 중 하나이다.

1. 딥페이크가 순식간에 만들어질 수 있다는 것을 알게 되었다.

2. 내 친구가 당하면 옆에서 돕도록 관심을 가져야겠다.

3. 10대에서 딥페이크가 많은 일이일어난다는것을 알게 되었다.

# data[].attributes.body
2024년 1분기 딥페이크 성범죄 시정 요구가 9,443건으로 전년 대비 166.7% 증가했다. 방심위는 생성형 AI의 부작용으로 이 추세가 계속될 가능성이 높다고 밝혔다.

딥페이크가 요즘 점점 증가하고 있다는 것을 알게 되었고 하는 사람이 있으면 신고하도록 하겠고 딥페이크를 하지 않도록 항상 생각하면서 살아야겠다

# data[].attributes.attachment_link.description
The previous page is sending you to https://www.yna.co.kr/view/AKR20250423107300017.

# data[].attributes.body
홍콩의 한 금융사 직원이 딥페이크 영상통화에 속아 342억 원을 송금하는 사기를 당하는 등, 딥페이크 기술을 악용한 금융 범죄 사례가 증가하고 있다. 이 기술은 얼굴, 영상, 목소리까지 정교하게 조작 가능해 선거, SNS 등 다양한 분야에서도 악용될 수 있다는 우려가 커지고 있다.

# data[].attributes.attachment_link.readable_text
홍콩 글로벌 업체...CFO 등 사칭한 가짜 화상회의에 의심접어

AI로 영상·목소리 재현...이미 정치인·연예인 허위정보 급증세

딥페이크 (PG)
[홍소영 제작] 일러스트

(서울=연합뉴스) 임지우 기자 = 홍콩의 한 금융사 직원이 딥페이크(AI 기술을 기반으로 만들어낸 가짜 이미지)로 만들어진 '가짜' 이사와의 영상통화에 속아 2억 홍콩달러(한화 약 342억원)를 송금하는 사기를 당했다고 미 CNN 방송이 4일(현지시간) 보도했다.

홍콩 경찰 당국에 따르면 한 글로벌 금융사의 홍콩 지부에서 일하던 이 직원은 영국에 있는 회사의 최고재무책임자(CFO)로부터 거액의 돈을 비밀리에 거래할 것을 요구하는 이메일을 받았다.

수상한 요구에 처음엔 피싱 메일이라고 의심했던 이 직원은 이후 회사 동료 여러 명이 함께 참여한 화상 회의에서도 같은 지시를 받자 의심을 접고 2억 홍콩달러를 송금했다.

이 모든 게 사기였다는 사실은 이 직원이 나중에 회사 본사에 확인한 뒤에야 밝혀졌다.

사기꾼 일당은 CFO 뿐 아니라 화상회의에 참석했던 모든 직원의 얼굴을 딥페이크로 재현해 피해 직원을 속인 것으로 드러났다.

홍콩 경찰 당국자는 "여러 명이 참석한 화상 회의에서, 이 직원이 봤던 모든 사람들은 가짜였다"고 설명했다.

홍콩에서 딥페이크를 활용해 사람들을 속여 돈을 빼앗은 사례는 이번이 처음이 아니다.

이날 홍콩 경찰에 따르면 최근 체포된 한 사기 일당은 지난해 7월부터 9월까지 분실 신분증 8개를 도용해 만든 딥페이크 이미지로 은행 대출 90건을 받고 계좌 54개를 만들었다.

이외에도 최근 적발된 딥페이크를 악용한 사기 행각은 최소 스무 건에 달한다고 홍콩 경찰은 밝혔다.

홍콩 금융가
[EPA=연합뉴스 자료사진]

이처럼 딥페이크 기술이 금융 사기를 비롯해 선거, 사회관계망서비스(SNS) 등 각종 분야에서 악용될 수 있다는 우려가 전 세계적으로 커지고 있다.

딥러닝(Deep learning)과 가짜(Fake)의 합성어인 딥페이크는 사진이나 영상뿐 아니라 목소리까지도 조작하며 허위 정보를 퍼뜨리는데 악용되는 사례가 늘고 있다.

최근 미국에서는 팝스타 테일러 스위프트의 얼굴 사진이 합성된 음란 이미지가 온라인상에서 확산해 팬들의 공분을 일으켰다.

올해 11월 열리는 미국 대선과 관련해서는 민주당 당원들에게 경선 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리 전화가 확산해 문제가 되기도 했다.

wisefool@yna.co.kr

# data[].attributes.attachment_link.title
영화 속 얘기 아냐...금융사 직원, 딥페이크에 속아 340억원 송금 | 연합뉴스

# data[].attributes.attachment_link.description
(서울=연합뉴스) 임지우 기자 = 홍콩의 한 금융사 직원이 딥페이크(AI 기술을 기반으로 만들어낸 가짜 이미지)로 만들어진 '가짜' 이사와의 영...

# data[].attributes.body
대학원생 등 8명이 딥페이크 기술로 같은 대학 재학생과 졸업생 17명의 신체 사진을 합성해 성범죄물을 제작·유포한 혐의로 구속 기소됐다.

피해자는 총 41명이며, 검찰은 디지털성범죄 피해자 지원과 영상물 삭제·차단 조치를 취하고, 엄정 대응 방침을 밝혔다.

새롭게 알게 된 점:

딥페이크 기술이 단순한 장난이 아니라 실제로 대학 동문 사이에서도 악용돼 심각한 성범죄로 이어질 수 있으며, 피해자 수가 매우 많고 피해 범위가 생각보다 광범위하다는 사실을 알게 되었다.

피해 발생 시 대처법:

•즉시 경찰에 신고하고, 디지털성범죄피해자지원센터에 영상 삭제 요청

•증거 자료(대화 내용, 파일 등) 확보

•전문가 상담 및 법률 지원 요청

범죄 예상법:

•모르는 사람이 영상·사진을 요구할 때 경계

•SNS나 단체 채팅방에서 개인정보와 얼굴 사진 노출을 최소화

•자신이나 주변인의 얼굴이 합성된 의심스러운 콘텐츠가 돌 때 바로 확인하고 조치를 취하기

# data[].attributes.attachment_link.title
대학 동문 41명 ‘딥페이크’로 성범죄물 제작·유포한 8명 구속기소

# data[].attributes.attachment_link.description
단체 대화방에서 ‘딥페이크(인공지능 기반 이미지 합성)’ 기술을 이용해 같은 대학에 다니는 여대생과 졸업생에게 신체 사진을 합성한 성범죄물을 만들어 유포한 대학원생 등이 재판에 넘겨졌다. 인천지검 여성아동범죄조사부(

# data[].attributes.headline
1학년 3반 3번 김민건

# data[].attributes.subject
1학년 3반 3번 김민건

# data[].attributes.body
요약 : 실제 사람의 얼굴을 성적인 사진에 합성하는 사례가 많은 딥페이크 이미지는 AI 발전과 함께 점점 더 많이 생겨나고 있다.

2023년 기준 지원 센터가 상담한 딥페이크 음란물 피해 10대 청소년은 86명이었다. 그런데 올해 8월까지 그 수는 238명으로 급증했다. 그리고 지난 한 주간 무려 10대 청소년 64명이 추가로 찾아왔다고 한다.

1. 딥페이크 만든 사람들은 엄격한 처벌을 받아야 마땅하다

2. 딥페이크는 제작 되거나 유포되어서는 안된다

3. 아무리 외국이라도 문제가 될 만한 심각한 문제이다.

# data[].attributes.attachment_link.readable_text
인쇄하기

최근, 학생들이 만든 딥페이크 사진과 영상이 사회적 논란의 중심에 서 있습니다. 기술이 발전하며 딥페이크 제작이 점점 더 쉬워지고 있는 가운데, 이러한 현상이 전국적으로 확산하고 있습니다. 특히 학생들 사이에서 이루어진 이런 행위들은 그 의도가 어떠한지, 그리고 어떠한 목적으로 이러한 이미지를 만들었는지에 대한 질문을 낳고 있습니다. 이는 단순히 장난이나 호기심의 산물이라기보다는, 때로는 깊은 사회적 문제들을 반영하는 결과일 수 있습니다.

AI 기술의 급격한 발전은 분명 우리 사회에 많은 혜택을 가져왔지만, 동시에 새로운 형태의 위험도 도래했습니다. 이런 배경에서, 이 글은 특히 기업 환경 내에서 딥페이크 기술이 어떻게 활용되고 있으며, 어떤 문제들을 야기할 수 있는지를 살펴보고자 합니다.

딥페이크(Deepfake)란 무엇인가?

웹스터 사전[1] 의 사전적 정의에 의하면, 딥페이크(deepfake)란 실제로 행동하지 않았거나 말하지 않은 것을 한 것처럼 조작한 이미지 또는 영상을 말합니다. 딥페이크(deepfake)는 "deep learning"과 "fake"의 합성어로, 인공지능 기술을 사용하여 현실에 존재하지 않는 것이나 발생한 적이 없는 사건을 이미지, 비디오, 오디오 등을 합성하여 만들어냅니다. 딥페이크는 처음에는 유명인들의 가짜 인터뷰나 영화 속 캐릭터를 재구성하는 재미 요소로 시작되었지만, 점차 가짜 뉴스, 허위 정보 유포, 정치적 선동, 범죄적 목적으로 악용되고 있습니다. 특히 소셜 미디어와 같은 플랫폼을 통해 딥페이크 콘텐츠가 빠르게 확산하면서 대중이 이러한 정보를 진짜로 믿게 되는 경우가 빈번해지고 있습니다. '경찰에 체포되는 전 미국 대통령 도널드 트럼프'의 이미지나 '퍼퍼 재킷을 입은 프란치스코 교황'의 이미지는 대표적인 딥페이크 이미지로 널리 유포되기도 했습니다.

프란치스코 교황의 실제 사진 (이미지 출처: 브리태니커[2])

퍼퍼 재킷을 입은 프란치스코 교황의 딥페이크 사진 (이미지 출처: @andrea_ciulu|X.com[3])

딥페이크 기술은 2017년경부터 급격하게 발전하기 시작했으며, AI 알고리즘이 데이터 분석과 학습 능력을 통해 점점 더 정교한 합성을 가능하게 만들었습니다. 이제는 전문가뿐 아니라 일반인도 쉽게 온라인에서 딥페이크 소프트웨어를 접할 수 있게 되어 누구나 간단하게 가짜 콘텐츠를 만들 수 있게 되었습니다. 현재 딥페이크의 가장 위협적인 대상은 여성입니다. 하지만 여성만이 괴롭힘의 대상이 되지는 않을 것입니다. 딥페이크는 학교든 정부든 기업이든, 누구든 괴롭히거나 위험하게 할 수 있습니다.

딥러닝 알고리즘을 통해 대량의 데이터를 학습하고, 특정 인물의 얼굴, 목소리, 제스처 등을 모방하여 가상의 이미지나 동영상을 생성할 수 있습니다. 이 기술은 영상 편집이나 목소리 변조에 주로 사용되며 실제와 거의 구분이 안 될 정도로 정교한 미디어 콘텐츠를 만들어내기 때문에, 실제 인물이 한 것처럼 보이게 할 수 있습니다.

딥페이크는 주로 두 가지 주요 기술로 구성됩니다:

* Autoencoders: 입력된 데이터를 압축하고, 압축된 데이터를 바탕으로 원래의 데이터와 유사한 형태로 복원하는 신경망입니다. 딥페이크에서는 특정 인물의 얼굴 특징을 학습하고 이를 변형하거나 다른 인물의 얼굴에 적용하여 실제처럼 보이는 합성 이미지를 생성하는 데 사용됩니다.

* Generative Adversarial Networks (GANs): 두 개의 신경망, 즉 생성자와 판별자가 서로 경쟁하면서 학습하는 구조입니다. 생성자는 진짜와 구분할 수 없는 가짜 이미지를 만들어내고, 판별자는 이 이미지가 진짜인지 가짜인지를 판별하려고 합니다. 이 과정을 통해 생성자는 점점 더 정교한 가짜 이미지를 생성할 수 있게 됩니다.

딥페이크 생성 워크플로우 (이미지 출처: Rahul Katarya 논문[4])

딥페이크 기술은 많은 분야에서 혁신적이고 유용한 방법으로 활용될 수 있습니다.

마케팅 및 광고

딥페이크는 마케팅과 광고 분야에서 고객 맞춤형 콘텐츠 제작, 비용 절감, 그리고 브랜드 차별화에 효과적으로 활용될 수 있습니다.

딥페이크 기술은 소비자 맞춤형 광고를 제작하는 데 매우 유용합니다. 동일한 유명 인플루언서나 셀러브리티를 여러 언어로 등장하는 광고를 만들어, 소비자와의 친밀감을 높일 수 있습니다. 이는 딥페이크의 얼굴 및 음성 합성 기술을 활용해 지역화된 메시지를 전달하는 방식입니다. 딥페이크는 연예인이나 유명 모델과 직접 협력하지 않고도 이미지와 목소리를 사용할 수 있어 비용 절감에 크게 기여할 수 있습니다. 기술적으로 촬영이나 계약 없이도 다양한 변형 광고를 손쉽게 제작할 수 있기 때문에, 비용 효율적인 마케팅 전략을 실행할 수 있습니다. 자사의 창립자나 초기 모델을 딥페이크로 복원해 광고에 등장시킴으로써, 브랜드 역사를 강조하는 동시에 현대 소비자들에게 매력적인 콘텐츠를 제공할 수 있습니다. 이는 브랜드의 유산과 최신 기술의 결합으로, 광고에 새로운 스토리텔링 요소를 추가할 수 있는 좋은 예입니다.

Nike의 "Footballverse[5]" 광고 캠페인은 호나우지뉴, 다비즈, 호날두 등 다양한 세대의 축구 스타들이 경기하는 모습을 보여주는 혁신적인 콘텐츠입니다. 이 캠페인은 디지털 기술을 활용해 과거와 현재의 축구 선수들이 같은 경기장에서 맞붙는 상상을 구현했으며, 선수들의 모습과 플레이를 복원하여 창조적으로 재현한 사례입니다. 이를 위해 딥페이크 방식의 비디오 편집과 합성 기술이 사용되었습니다. Nike는 이 광고를 통해 세대 간의 축구에 대한 열정과 연결성을 강조하며, 팬들에게 몰입감 있는 경험을 제공하고자 했습니다.

교육

딥페이크는 교육 분야에서 몰입감과 상호작용을 높여 학습 효과를 극대화하는 데 기여하고, 이를 통해 보다 현실적이고 개인화된 학습 경험을 제공합니다.

미국 플로리다의 달리 미술관은 딥페이크 기술을 통해 예술가 살바도르 달리를 부활시키는 프로젝트를 진행했습니다. 이 프로젝트의 목적은 달리가 방문객들에게 직접 말하는 것처럼 느끼게 하는 것이었습니다. 1904년부터 1989년까지 살았던 달리는 자신의 이미지를 많이 남겼고, 이를 바탕으로 AI가 그의 목소리와 얼굴을 재현했습니다. 관람객들은 미술관에서 디지털 화면을 통해 달리와 상호작용할 수 있고, 달리는 관람객들에게 자신의 삶, 작품에 대해 이야기하거나 사진을 찍기도 했습니다. 이 프로젝트는 단순한 정보 전달을 넘어서, 관람객들에게 더 몰입감 있는 경험을 제공하려는 시도로 평가되었습니다.

달리 미술관의 포토 부스 (이미지 출처: The Dalí Museum[6])

이처럼 딥페이크 기술은 역사적 인물을 생생하게 재현해 학생들에게도 실감나는 교육 경험을 제공할 수 있습니다. 물리학 강의에서 알베르트 아인슈타인(Albert Einstein)이 상대성 이론에 대해 직접 강연하는 모습[7]을 보여줄 수 있습니다. 이를 통해 딥페이크는 전통적인 텍스트 기반 학습을 보완하고, 학습자들이 주제에 더 몰입할 수 있도록 돕습니다. 이는 학생들에게 이론을 더 쉽게 이해하도록 돕고, 교육 경험을 혁신적으로 변화시킬 수 있을 것입니다.

딥페이크 기술을 활용하면 언어 학습 과정에서 학습자의 언어 수준에 맞춰 교사나 유명인이 다양한 상황에서 가상 대화를 나누는 장면을 만들 수 있습니다. 중국어 수업에서 원어민 교사나 유명 배우가 학생과 대화하는 가상 상황을 통해 실시간으로 언어를 연습할 수 있습니다. 이를 통해 학습자는 몰입형 환경에서 자연스럽게 언어를 습득할 수 있으며, 보다 개인화된 학습 경험을 제공합니다.

딥페이크는 기업 교육 프로그램에서 가상 리더십 트레이닝과 같은 목적으로도 활용할 수 있습니다. 기업의 CEO나 임원이 직접 참석하지 않더라도 딥페이크 기술을 사용해 가상 리더십 세션을 진행할 수 있습니다. 이를 통해 직원들은 현실감 있는 시뮬레이션 속에서 리더십 및 의사결정 훈련을 받을 수 있으며, 상호작용을 통해 다양한 시나리오를 경험할 수 있습니다.

의료

딥페이크는 의료 분야에서 환자의 맞춤형 치료 경험을 제공하고, 치료사들의 훈련을 돕습니다. 이를 통해 환자들은 보다 효과적이고 개인화된 치료를 받을 수 있으며, 특히 의사소통, 정서적 지원, 인지 치료 등의 영역에서 실질적인 효과를 기대할 수 있습니다.

딥페이크 기술은 발음 장애나 실어증을 겪는 환자들에게 목소리를 복원하거나, 맞춤형 의사소통 장치를 제공하는 데 활용됩니다. 딥페이크 음성 합성 기술을 통해 환자의 실제 목소리를 복제하고, 텍스트나 제스처를 입력하면 환자의 목소리로 말하는 장치를 개발할 수 있습니다. 이는 환자들이 본인의 목소리로 의사소통할 수 있도록 도와주며, 환자의 자존감을 높이고, 심리적 안정감을 제공합니다. 딥페이크 기술을 사용해 가상 상담 환경을 구축함으로써, 심리 치료사들은 다양한 시나리오를 시뮬레이션할 수 있습니다. 우울증, 불안, 트라우마를 겪는 가상의 환자와 상호작용하는 장면을 딥페이크로 만들 수 있으며, 이를 통해 심리 치료사는 다양한 환자 반응에 대해 적절한 대응 전략을 연습할 수 있습니다. 이러한 가상 환경은 치료사의 훈련 수준을 높이고, 실제 환자 상담에 대한 자신감을 키울 수 있습니다.

Team Gleason은 루게릭병(ALS, Amyotrophic Lateral Sclerosis)을 앓고 있는 환자들이 자신의 목소리를 복제하여 커뮤니케이션할 수 있도록 돕는 프로젝트를 진행 중입니다.[8] 루게릭병 환자들은 병의 진행에 따라 점점 말하기 어려워지거나 완전히 말할 수 없게 되는데, 딥페이크 기술을 사용해 실제 목소리를 그대로 재현하는 것을 목표로 합니다. Team Gleason은 딥페이크 음성 기술을 통해 환자들이 자신만의 목소리로 계속해서 소통할 수 있도록 했습니다. 이를 통해 환자들은 기술 덕분에 자신의 정체성과 존엄성을 유지하며 가족, 친구들과 감정적으로 중요한 대화를 이어갈 수 있게 되었습니다. 이러한 딥페이크의 긍정적 사용 사례는 기술의 윤리적 사용이 사람들에게 실질적인 혜택을 줄 수 있음을 보여줍니다.

영화 및 엔터테인먼트

딥페이크 기술은 영화 및 엔터테인먼트 산업에서 배우의 나이, 고인의 복원, 대역 배우 활용, 목소리 합성 등 다양한 방식으로 활용되며, 창의적인 연출과 더불어 현실적인 몰입감을 제공합니다. 이러한 기술은 관객에게 더 풍부한 시청 경험을 제공하고, 영화 제작에 있어 새로운 가능성을 열어줍니다.

영화 제작에서 위험한 액션 장면이나 스턴트 장면을 위해 대역 배우를 사용할 때, 딥페이크 기술은 주연 배우의 얼굴을 대역 배우에게 자연스럽게 합성할 수 있습니다. 영화 <분노의 질주(Fast & Furious)> 시리즈 가운데, "더 세븐" 촬영 기간에 폴 워커(Paul Walker)가 자선 행사에 참석 후 돌아오던 중에 사고로 사망했습니다. 20% 정도의 출연 분량이 남아 있었는데, 남은 장면들은 그의 형제를 대역으로 세우고 폴 워커의 모습과 음성을 딥페이크로 합성하여 완성했습니다. 이 기술을 통해 관객에게는 자연스러운 연출을 제공하고, 주연 배우가 직접 모든 장면을 촬영하지 않아도 되는 이점을 제공합니다.

'분노의 질주: 더 세븐'의 한 장면 (이미지 출처: ScreenRant[9])

딥페이크 기술은 영화나 TV 시리즈에서 배우의 나이를 자유롭게 변화시키는 데 사용됩니다. 마블 영화 <아이언맨> 시리즈에서는 로버트 다우니 주니어(Robert Downey Jr.)의 젊은 시절 모습을 딥페이크 기술로 재현했습니다. 이러한 기술은 배우가 현재 나이에 상관없이 특정 연령대의 캐릭터를 연기할 수 있도록 해주며, 복잡한 메이크업 없이도 자연스러운 나이 변화를 가능하게 합니다. 이는 특히 회상 장면이나 타임 점프가 빈번한 영화에서 매우 유용하게 사용됩니다.

공공 안전

공공 안전 분야에서 딥페이크 기술은 훈련 시나리오를 보다 현실감 있게 만들어 주는 데 활용됩니다. 경찰, 소방관, 군인과 같은 공공 안전 담당자들은 종종 예상치 못한 위기 상황에 직면하며, 딥페이크 기술을 통해 이러한 상황을 가상의 영상으로 재현하여 훈련할 수 있습니다.

경찰은 딥페이크 기술을 활용해 실제 범죄 현장을 가상으로 재현하여 복잡한 범죄 수사나 위기 대응 훈련을 진행할 수 있습니다. 인질 사건, 은행 강도, 테러 공격과 같은 시나리오가 딥페이크 기술로 재현하면, 단순한 모형 훈련을 넘어 실제 인물의 움직임, 대화, 표정까지 포함한 생동감 있는 상황을 체험할 수 있습니다.

군사 훈련에서 딥페이크 기술은 잠재적인 적의 행동이나 전략을 시뮬레이션하는 데 유용하게 쓰일 수 있습니다. 군인들은 전투 상황에서 적군과 민간인의 차이점을 신속하게 파악하는 훈련을 딥페이크로 강화할 수 있으며, 이를 통해 오인 사격이나 판단 실수의 위험을 줄일 수 있습니다.

또한, 소방관들은 딥페이크를 활용한 훈련을 통해 다양한 화재 상황에 대한 보다 구체적이고 사실적인 시나리오를 경험할 수 있습니다. 딥페이크로 생성된 화재 현장에서 불길의 확산, 연기의 흐름, 사람들의 탈출 경로 등 복잡한 환경적 요소들을 반영할 수 있어, 소방관들이 보다 전략적으로 현장에 대응할 수 있도록 돕습니다.

딥페이크가 기업에 미치는 부정적인 영향

기업들은 명성과 신뢰를 기반으로 운영되기 때문에, 가짜 뉴스나 불신을 야기하는 딥페이크 기술은 기업의 브랜드 이미지와 평판에 심각한 위협이 될 수 있습니다. 딥페이크 영상이 특정 기업의 임원, 직원, 혹은 제품과 관련된 가짜 정보를 유포하는 경우, 고객과 투자자들 사이에서 불신이 생길 수 있으며, 이는 경제적 손실로 이어질 가능성이 큽니다. 또한, 경쟁사나 악의적인 개인들이 딥페이크를 악용해 의도적으로 기업의 평판을 훼손하는 경우도 발생할 수 있습니다.

기업 명성 손상

딥페이크 기술을 이용해 기업의 대표나 임원이 가짜 발언을 하는 영상이나, 제품 관련 허위 광고 영상이 유포될 수 있습니다. 경쟁 기업이나 악의적인 단체가 딥페이크를 이용해 기업의 부정적인 이미지를 만들거나, 잘못된 행동을 연출하는 영상을 배포할 수 있습니다. 이는 소비자와 투자자의 신뢰를 저하시켜 기업의 명성에 큰 타격을 줄 수 있습니다.

재정적 피해

딥페이크를 사용해 가짜 지시나 의사 결정을 만들어내어 금융 거래를 조작하는 경우가 발생할 수 있습니다. CEO가 가짜 영상으로 재정 지시를 내리면, 그에 따라 잘못된 거래나 사기 사건이 발생할 수 있습니다. 실제로 일부 기업들은 딥페이크 기술을 활용한 사기 공격에 수백만 달러의 손해를 입은 사례가 있습니다.

고객 신뢰 상실

딥페이크 기술로 제작된 허위 광고, 제품 리뷰, 가짜 인터뷰 등의 콘텐츠가 고객들에게 혼란을 일으키며, 기업에 대한 신뢰를 잃게 할 수 있습니다. 고객들은 진짜와 가짜를 구분하기 어려워 기업이 제공하는 정보에 대해 의심을 가질 수 있습니다. 또한 딥페이크로 제작된 가짜 고객 서비스 영상이나 음성이 배포되면, 고객들은 이로 인해 혼란을 겪고 기업의 서비스에 대한 신뢰를 잃을 수 있습니다. 딥페이크 기술로 인해 영상과 음성에 대한 사회적 신뢰도가 떨어지면, 기업의 홍보 및 커뮤니케이션 활동 전반에도 부정적인 영향을 미칠 수 있습니다. 영상과 음성 메시지에 대한 신뢰가 무너지는 경우, 기업이 공신력을 유지하는 것이 더욱 어려워질 수 있습니다.

법적 및 규제 리스크

딥페이크로 인해 발생한 피해에 대해 기업은 법적 책임이 부과될 수 있으며, 이에 대한 규제나 법적 대응에 소요되는 비용이 발생할 수 있습니다. 또한, 딥페이크 대응을 위해 필요한 보안 시스템 구축이나 교육 프로그램 마련도 추가적인 부담으로 작용합니다.

딥페이크 위협으로부터의 대응 방안

많은 국가가 딥페이크에 대한 정책과 법률을 검토하는 가운데, 우리나라는 상당히 발 빠르고 구체적으로 조치를 취하고 있습니다. 지난 5월, 우리나라는 딥페이크 가짜 뉴스를 막기 위한 방안으로서 'AI 생성물'에 대해 워터마크 표시를 의무화하기로 했습니다. 아울러 AI 안전성을 검증/연구하는 전담 조직을 신설하고, 디지털 위협에 대비하기 위한 '디지털 서비스 안전법'을 제정하기로 했습니다.

기업들이 딥페이크 기술의 발전에 따른 위협에 대응하기 위해서는 기술적, 법적, 교육적, 전략적 방안을 종합적으로 활용하고, 다양한 예방 및 대응 전략이 필요합니다.

딥페이크 모니터링 및 탐지 기술 도입

딥페이크 영상을 자동으로 식별할 수 있는 AI 기반 탐지 도구를 도입하는 것이 필수적입니다. 이러한 도구는 영상의 픽셀 이상, 비정상적인 움직임, 음성 합성의 불일치를 감지하여 딥페이크 여부를 판별합니다. 딥페이크 탐지 솔루션을 활용해 온라인에서 자사와 관련된 가짜 콘텐츠가 생성되는 것을 조기에 감지하고 대응할 수 있습니다. AI 기반의 딥페이크 탐지 솔루션이 발전함에 따라, 이를 적극 활용하는 것이 중요합니다. 딥페이크 기술로 인해 해킹 및 사기가 발생할 가능성이 높아짐에 따라, 기업은 중요한 거래나 결정을 내릴 때 다중 인증(2FA)과 같은 추가적인 보안 절차를 도입해야 합니다. 음성이나 영상 인증을 넘어서, 추가적인 인증 방법을 요구함으로써 보안 위험을 줄일 수 있습니다.

법률적 대비책 구축

딥페이크 관련 법률 및 규제를 준수하며, 만약 딥페이크 공격을 받았을 때 즉각적으로 대응할 수 있는 법적 절차와 방침을 마련해야 합니다. 이는 피해 복구와 명예 회복을 위한 중요한 대응 방안입니다. 정부와 협력해 딥페이크를 규제하는 법적 프레임워크를 구축하고, 업계 표준을 개발하는 데 기여합니다. 특히 사이버 보안 관련 규제와 관련된 협력이 중요합니다.

교육 및 인식 제고

탐지 솔루션을 활용해 온라인에서 자사와 관련된 가짜 콘텐츠가 생성되는 것을 조기에 감지하고 대응할 수 있습니다. AI 기반의 딥페이크 탐지 솔루션이 발전함에 따라, 이를 적극 활용하는 것이 중요합니다. 딥페이크 기술로 인해 해킹 및 사기가 발생할 가능성이 높아짐에 따라, 기업은 중요한 거래나 결정을 내릴 때 다중 인증(2FA)과 같은 추가적인 보안 절차를 도입해야 합니다. 음성이나 영상 인증을 넘어서, 추가적인 인증 방법을

위기 관리 계획 수립

딥페이크로 인해 발생할 수 있는 혼란에 대비해, 기업은 명확하고 투명한 커뮤니케이션 체계를 구축해야 합니다. 중요한 공지나 발표는 공식 채널을 통해 이루어지며, 비공식 경로로 유포되는 정보는 의심하고 검증하도록 권장할 필요가 있습니다. 딥페이크 공격 발생 시 기업의 명성과 신뢰를 지키기 위한 즉각적인 대응 계획을 마련해야 합니다. 신속한 대중 대응 및 위기 관리 절차는 딥페이크로 인한 피해를 최소화하고, 기업의 이미지 회복에 도움이 됩니다. 딥페이크 공격으로 인해 발생한 문제에 대해 즉각적으로 대중에게 사실을 알리고, 신뢰를 회복할 수 있는 투명한 커뮤니케이션 전략을 유지해야 합니다. 잘못된 정보나 루머가 퍼지는 것을 방지하기 위해 신속하고 정확한 대응이 필요합니다.

이와 같은 대응 방안들이 적절하게 마련되지 않으면 딥페이크는 기업에 상당한 위협이 될 수 있으므로, 딥페이크 위협을 사전에 차단하고, 발생한 위협에 신속히 대응할 수 있는 체계를 갖추는 것이 중요합니다.

# References
[1] https://www.merriam-webster.com/dictionary/deepfake
[2] https://www.britannica.com/biography/Francis-I-pope
[3] https://x.com/andrea_ciulu/status/1640059968484257793
[4] Rahul Katarya, Anushka Lal, 'A Study on Combating Emerging Threat of Deepfake Weaponization', 2020
[5] https://en.esloganmagazine.com/nike-commercial-footballverse/
[6] https://www.theverge.com/2019/5/10/18540953/salvador-dali-lives-deepfake-museum
[7] https://www.youtube.com/watch?v=Sv4GKbmzjmM
[8] https://towardsdatascience.com/positive-use-cases-of-deepfakes-49f510056387
[9] https://screenrant.com/furious-7-brian-scenes-not-paul-walker-brothers/

▶ 이 글은 저작권법에 의하여 보호받는 저작물로 모든 저작권은 저작자에게 있습니다.
▶ 이 글은 사전 동의 없이 2차 가공 및 영리적인 이용을 금하고 있습니다.

이 글이 좋으셨다면 구독&좋아요

여러분의 "구독"과 "좋아요"는
저자에게 큰 힘이 됩니다.

좋아요

# data[].attributes.attachment_link.title
딥페이크란 무엇이고, 기업에 어떤 영향을 미치는가? | 인사이트리포트 | 삼성SDS

# data[].attributes.attachment_link.description
이 글에서는 딥페이크의 정의와 활용 사례를 보고, 기업들이 이러한 기술의 위협에 어떻게 대응할 수 있을지에 대해 살펴봅니다.

# data[].attributes.body
AI 기술이 사회 전반에 확산되며 혁신을 이끄는 동시에, 딥페이크 영상과 AI 뉴스 요약의 악용 사례가 심각한 사회 문제로 대두되고 있다. 딥페이크는 성범죄나 가짜뉴스 등 범죄 수단으로 악용되며 피해자 중 10대 비율이 매우 높고, AI 기반 뉴스 요약 기능도 왜곡과 오류가 많아 신뢰성 문제가 제기되고 있다.

1. 딥페이크와 AI 뉴스 요약 기술이 발전하면서, 범죄 악용과 정보 왜곡 등 심각한 부작용이 발생하고 있다는 점을 알게 됐다.

2. 피해가 발생하면 증거를 확보하고 관련 기관에 신고해야 한다.

3. 개인정보 보호를 철저히 하고, 의심스러운 콘텐츠를 신뢰하지 않으며, 관련 교육과 법적 대응을 강화해야 한다.

# data[].attributes.attachment_link.provider_name
[일상생활 스며든 AI] ‘딥페이크·가짜뉴스’ 사회혼란 가중…비상구 있을까

# data[].attributes.attachment_link.title
[일상생활 스며든 AI] ‘딥페이크·가짜뉴스’ 사회혼란 가중…비상구 있을까

# data[].attributes.attachment_link.description
인공지능(AI) 시스템이 사회 곳곳에 응용되기 시작해 혁명적인 변화의 파도가 일고 있다. 하지만 첨단 기술을 통해 얻을 수 있는 편리함에 반해 여러 가지 치명적인 악용사례와 단점 등이 나타나면서 사회 문제로 떠올랐다. ◆딥페이크…범죄수단의 대명사 되다 영화의 한 장면에 다른…

# data[].attributes.body
대통령실은 4월 15일 광주 5.18 민주광장에서 열린 대통령 탄핵 찬성 집회에서 윤석열 대통령 부부의 얼굴을 합성한 딥페이크 영상이 재생된 것에 대해 강하게 반발했다. 이를 심각한 인격 모독, 인권 침해, 범죄 행위로 규정하며 강력한 유감을 표명했다. 또한 영상 제작자, 재생자, 방관자 모두에게 법적 대응을 포함한 조치를 취할 것이라고 밝혔다.

# data[].attributes.attachment_link.title
대통령실, 대통령 딥페이크 영상 법적조치

# data[].attributes.attachment_link.description
대통령실은 16일 공지를 통해 “15일 광주 5.18 민주광장에서 열린 대통령 탄핵 찬성 집회 현장에서 대통령 부부의 얼굴을 합성한 딥페이크 영상이 재생됐는데 이는 현직 대통령 부부를 향한 조롱을 넘어선 심각한 인격 모독과 인권 침해, 딥페이크를 이용한 범죄 행위로 분노를 금할 길이 없다”고 밝혔다.또 “윤석열 대통령은 엄연히 현직 대통령 지위를 유지하고 있으며, 이는 국가원수에 대한 명백한 모독이다”며 “대통령실은 해당 딥페이크 영상을 제작한 자, 집회 현장에서 재생한 자, 이를 현장에서 방관한 자 모두에게 강력한 유감”을 표했다

# data[].attributes.body
https://v.daum.net/v/20240909120224962

최근 딥페이크 범죄가 늘고있다 경찰에 따르면 성별 구분 없이 10대가 39명으로 75%, 20대 11명(21%), 30대 2명(4%)으로 특정됐다

# data[].attributes.body
서울대 동문 등 여성 수십명의 사진으로 허위 영상물을 만들어 유포한 이른바 ‘서울대 딥페이크(인공지능을 기반으로 가짜 이미지·동영상을 만들어내는 기술) 사건’의 주범 박모씨가 1심에서 징역 10년을 선고받았다.서울중앙지법은 30일 아동·청소년의 성보호에 관한 법률 위반(성 착취물 제작·배포) 등 혐의로 기소된 박씨에게 검찰 구형과 같은 징역 10년을 선고했다. 다른 주범 강모씨에게는 징역 4년을 선고했다.

범죄예방법:소셜미디어에 개인정보를 노출하지않기

알게된점: 기술의 발달로 인해서 이러한 심각한 문제를 일으킨다는걸 알게되었다

# data[].attributes.attachment_link.title
‘서울대 딥페이크 사건’ 주범 1심 징역 10년···“인격 말살 범죄, 경악스러워”

# data[].attributes.attachment_link.description
서울대 동문 등 여성 수십명의 사진으로 허위 영상물을 만들어 유포한 이른바 ‘서울대 딥페이크(인공지능을 기반으로 가짜 이미지·동영상을 만들어내는 기술) 사건’의 주범 박모씨(40)가 1심에서 징역 10년을 선고받았다. 서울중앙지법 형사합의31부(재판장 박준석)는 30일 아동·청소년의 성보호에 관한 법률 위반(성 착취물 제작·배포) 등 혐의로 기소된 박…

# data[].attributes.body
'서울대 딥페이크'(서울대 N번방) 사건의 공범 중 한 명에게 무죄가 선고됐다.

서울중앙지법 형사22단독 하진우 판사는 13일 성폭력범죄 처벌 등에 관한 특례법상 허위 영상물 편집·반포 등 혐의로 재판에 넘겨진 한모(31)씨에게 무죄를 선고했다.

(대처법 예방법)

-안전한 인터넷 사용습관
-강력한 비밀번호(문자, 숫자, 특수문자 조합) 설정
-인터넷에 사진과 영상 공유 주의

피해도움요청
- 피해를 당한 경우 즉시 경찰에 신고 (신속한 대응)
- 성범죄 피해 경우 디지털성범죄 피해자지원센터에 삭제 요청

# data[].attributes.attachment_link.title
‘서울대 딥페이크’ 30대 공범에 무죄…”증거 없어” | 연합뉴스

# data[].attributes.attachment_link.description
(서울=연합뉴스) 한주홍 기자 = 이른바 ‘서울대 딥페이크’(서울대 N번방) 사건의 공범 중 한 명에게 무죄가 선고됐다.

# data[].attributes.body
요약:딥페이크 합성물을 탤레그램을 통해 가짜 음란물을 만드는 채팅방이 늘어나고 있으며 경찰이 강력하게 수사하고 있다

알게 된 점:딥페이크가 누군가에게는 장난으로 느끼지만 당하는 당사자는 괴롭고 힘들어 한다는 것을 알 수 있었다.

피해 사진을 발견 했다면 경찰에 신고한 후 자신이 SNS에 올린 사진을 전부 삭제하거나 SNS를 비공게로 전환하는 등의 예방을 한다.

# data[].attributes.attachment_link.title
한국 학교를 집어삼킨 ‘딥페이크 음란물’ 사태를 들여다보다 - BBC News 코리아

# data[].attributes.attachment_link.description
최근 한국 사회를 충격에 빠뜨린 ‘딥페이크 음란물’ 사태에는 많은 미성년자 피해자가 포함돼 있다.

# data[].attributes.body
한국에서는 딥페이크 성범죄 영상을 제작해서 인터넷 등에 배포하면 성폭력범죄의 처벌 등에 관한 특례법 제14조의2에 따라 처벌받는다. 일방적으로 당사자를 성적 대상으로 삼는 행위인 데다가 다른 사람의 영상에 얼굴을 합성한 행위이므로 '허위사실 적시에 의한 사이버 명예훼손'이 성립하며, 어찌 되었든 포르노이므로 공연히 적시했다면 음란물 유포죄로 형사 처벌이 가능하다.

1.딥페이크 성폭력은 단순한 장난이 아닌 범죄라는 걸 알게 되었다.

2.성폭력 피해를 받았을 때에는 빠르게 경찰에 신고해야 하는 걸 알았다.

3.앞으로도 딥페이크 범죄와 관련된 예방 교육 영상을 꾸준히 시청해야겠다.

# data[].attributes.body
서울대 딥페이크 사건’ 주범 박모 씨가 항소심에서 징역 10년에서 9년으로 감형됐고, 공범들도 감형을 받았다. 이들은 지인 여성들의 얼굴을 딥페이크 음란물로 합성·유포해 61명에게 피해를 입혔다.

딥페이크가 AI기술의 발달로 인해 일반인도 조금만 배우면 할 수 있게 되어 점점 더 많은 사람들이 피해를 입고 있다는 것을 알게되었다.

캡처 같은 증거확보를 해야한다. 법적 대응을 하고 심리상담을 받아야한다.

사진을 유출되지 않도록 관리를 잘하고, 인증 보안을 강화해야한다.

# data[].attributes.attachment_link.title
‘서울대 딥페이크’ 주범 항소심서 징역 9년…”비난가능성 커”(종합) | 연합뉴스

# data[].attributes.attachment_link.description
(서울=연합뉴스) 이미령 기자 = 이른바 ‘서울대 딥페이크’(서울대 N번방) 사건으로 불리는 디지털 성범죄 사건의 주범이 항소심에서 감형받았다.

# data[].attributes.body
방송통신심의위원회는 지난 1분기 딥페이크 성범죄 영상물에 대해 시정을 요구한 건수가 9천443건으로 전년 동기 대비 166.7% 증가했다.방심위는 딥페이크 성범죄 증가 등은 생성형 인공지능 기술의 부작용이 본격화되고 있음을 방증하는 것으로 이러한 추세가 당분간 지속될 가능성이 높다 고 전망했다.

알게된점:인공지능이 어떻게 쓰느냐에 따라 우리에게 도움이 될 수 있고 피해도 입힐 수 있다는것을 알았다.

피해 발생시 대처법: 선생님이나 부모님에게 알린다.

범죄 예방법:모르는 사람에게 자신의 사진을 보내지 않는다.

# data[].attributes.attachment_link.title
방심위 ”딥페이크 성범죄영상물 시정요구 1년새 167% 증가” | 연합뉴스

# data[].attributes.attachment_link.description
(서울=연합뉴스) 조성미 기자 = 방송통신심의위원회는 지난 1분기 딥페이크 성범죄 영상물에 대해 시정을 요구한 건수가 9천443건으로 전년 동기…

# data[].attributes.body
전국의 중학생, 고등학생, 심지어 초등학생까지 아주 골고루 딥페이크 영상이 유포되었다. 지역 학교전담경찰관이 디지털 성범죄 사례와 처벌 내용, 피해 대응 방안 등을 교육할 예정이다.

알게된점: 연예인들 대상의 딥페이크 피해가 심한것은 알고 있었지만 초중고 학생들까지 피해가 심각하다는 사실을 알게 되었다.

대처법:

피해도움요청
- 피해를 당한 경우 즉시 경찰에 신고 (신속한 대응)
- 성범죄 피해 경우 디지털성범죄 피해자지원센터에 삭제 요청

예방법:

안전한 인터넷 사용습관
-강력한 비밀번호(문자, 숫자, 특수문자 조합) 설정
-인터넷에 사진과 영상 공유 주의

# data[].attributes.attachment_link.title
이젠 초등학생까지…대전 ‘딥페이크 영상’ 피해 신고 12건 | 연합뉴스

# data[].attributes.attachment_link.description
(대전=연합뉴스) 이주형 기자 = 텔레그램 등 특정 누리소통망(SNS)을 통해 전국

# data[].attributes.body
https://www.ohmynews.com/NWS_Web/View/at_pg.aspx?CNTN_CD=A0003062011&CMPT_CD=P0010&utm_source=naver&utm_medium=newsearch&utm_campaign=naver_news

같은 학교를 나온 피해자들의 카카오톡 프로필 사진 등 SNS에 게시된 사진을 다운로드했다.이어 '텔레그램 봇'(일종의 프로그램)을 이용해 음란 사진으로 합성한 후 휴대전화에 유포 하지는 않고 보관 하였다.

딥페이크로 일어나는 범죄는 아무 것도 하지않은 사람들에게 피해를 주는 위험한 것이라는 생각을 하였다. 대처 방법으로는 자신의 딥페이크 사진이 돌아다니는 것을 알게 되면 그것을 바로 경찰에 연락을 하는 대처법이 있을 것 같고 예방법으로 SNS를 하지않는 것이 있을 것 같다.

# data[].attributes.attachment_link.title
여학생 20명 딥페이크 사진 만든 고교생 ‘검찰행’

# data[].attributes.attachment_link.description
또래 여학생 20여 명의 사진을 ‘딥페이크’ 수법으로 합성해 휴대전화에 보관 중이던 10대 남학생이 경찰에 붙잡혔다. 광주경찰청 사이버범죄수사대는 고교생 A 군을 붙잡아 조사한 뒤 아동청소년 성보호에 관한 법률상 아동성착취물 제작 등 혐의를 적용해 검찰에 넘겼다고 9일 밝혔다. A 군은 지난해 6월부터 올해 8월까…

# data[].attributes.body
https://imgnews.pstatic.net/image/032/2025/04/22/0003364917_001_20250422172309936.jpg?type=w860

대학 동문 41명을 상대로 딥페이크 기술을 이용해 제작 및 유포한 8명이 구속되었다. 검찰은 해당 영상물의 삭제와 피해자 지원에 나섰다.

딥페이크는 우리 주변에서도 쉽게 일어날수가 있다는 것을 알았다

경찰에 신고를 한다

# data[].attributes.body
경남 경찰청이 딥페이크 영상물 등 허위 영상물 범죄와 아동 성 착취물 제작·유포에 대한 집중 단속을 벌여 총 60명을 검거하고 이 중 4명을 구속했다고 21일 밝혔다.

경찰에 따르면 지난해 8월부터 올해 3월까지 허위 영상물 범죄에 대한 집중 단속을 벌여 42명을 검거하고 이 중 3명을 구속했다. 또 지난 2월 24일부터 지난달 28일까지 진행된 ‘아동 성 착취물 아시아 6개국 특별 단속’에서는 18명을 검거하고 1명을 구속 송치했다. 아시아 6개국 단속에는 한국·말레이시아·싱가포르·일본·태국·홍콩이 참여했다.

허위 영상물 관련 범죄로 검거된 피의자 42명 중 10대가 80%에 육박하는 33명(78.6%)에 달했다. 이들은 호기심, 장난 등으로 범행을 저질렀다고 진술했다.

1. 딥페이크를 보는 것 자체가 범죄임을 알았다.

2. 딥페이크 피해 발생 시 바로 112에 신고한다.

3. 자신의 정보를 소중히 여긴다

# data[].attributes.attachment_link.title
딥페이크·아동 성 착취물 집중 단속…10대 무더기 적발

# data[].attributes.attachment_link.description
사회 > 사회일반 뉴스: 경남경찰청이 딥페이크 영상물 등 허위 영상물 범죄와 아동 성 착취물 제작·유포에 대한 집중 단속을 벌여 총 60명을 검…

# data[].attributes.body
경찰이 이재명 대선 경선 후보 관련 딥페이크 영상물 수사에 들어갔다. 민주당은 14명에 대해 6건을 고발하였다.

1.딥페이크 범죄가 정치적 사건까지 영향을 미친 것에 놀랐다.

2.즉각 신고 후 증거 확보에 나서야 한다.

3.sns에 얼굴사진을 올리지 않는다

# data[].attributes.attachment_link.title
경찰 “이재명 딥페이크 영상 유포 14명 수사”

# data[].attributes.attachment_link.description
경찰이 이재명 더불어민주당 대선 경선 후보와 관련한 딥페이크 영상물 수사에 착수했다. 박현수 서울경찰청장 직무대리는 21일 정례 기자간담회에서 “민주당 측에서 딥페이크 영상물과 관련해 14명에 대해 6건을 고발했다”

# data[].attributes.body
https://n.news.naver.com/article/018/0005994330?sid=102

인하대 학생 등 여성 41명의 사진을 이용해 딥페이크(인공지능 기반 합성) 사진·영상을 만들어 유포한 혐의로 구속된 남성 8명이 재판에 넘겨졌다.

새롭게 알게 된점: 딥페이크 범죄도 성범죄 처벌법에 의해서 처벌받는다는것을 알게 되었습니다.

피해 발생시 대처법:112에 신고하거나 부모님 선생님께 알리기

범죄 예방법: 성범죄 처벌법을 강화한다

# data[].attributes.body
방심위 "딥페이크 성범죄영상물 시정요구 1년새 167% 증가"

알게 된 점:딥페이크 성범죄영상물 시정요구 1년새 167% 증가

대처법:신고

예방법:시작x

# data[].attributes.attachment_link.title
방심위 ”딥페이크 성범죄영상물 시정요구 1년새 167% 증가” | 연합뉴스

# data[].attributes.attachment_link.description
(서울=연합뉴스) 조성미 기자 = 방송통신심의위원회는 지난 1분기 딥페이크 성범죄 영상물에 대해 시정을 요구한 건수가 9천443건으로 전년 동기…

# data[].attributes.headline
1학년 4반 9번 박민재

# data[].attributes.subject
1학년 4반 9번 박민재

# data[].attributes.body
1.딥페이크 범죄로 대학동문 41명이 피해를 받음

2. 8명이 구속 기소됨.

3.딥페이크를 하지말자

# data[].attributes.attachment_link.title
대학 동문 등 얼굴에 나체사진 딥페이크 합성‧유포…檢, 8명 ‘구속 기소’

# data[].attributes.attachment_link.description
대학 동문 등 얼굴에 나체사진 딥페이크 합성‧유포檢, 8명 구속 기소

# data[].attributes.body
딥페이크로 인하여 많은 사람들이 피해를 봤다는 것을 알게 되고 청소년을 상대로 많이 활동하여 청소년들에게 많은 피해를 입혔다는 것을 알게 되었다.

# data[].attributes.attachment_link.title
여학생 20명 딥페이크 사진 만든 고교생 ‘검찰행’

# data[].attributes.attachment_link.description
▲ 광주경찰청 청사. ⓒ 안현주 또래 여학생 20여 명의 사진을 ‘딥페이크’ 수법으로 합성해 휴대전화에 보관 중이던 10대 남학생이 경찰에 붙잡혔다. 광주경찰청 사이버범죄수사대는 고교생 A 군을 붙잡아 조사한 뒤 아

# data[].attributes.body
요약: 최근 딥페이크 기슬을 악용하는 사람이 늘고잇다. 이들중 대부분이 10대이고 피해자도 절반이상이다. 빨리 예방, 해결책을 마령해야한다.

1. Ai기술이 너무 발전해서 무습다

2. 딥페이크 하는 친구를 말리고 신고해야겟다

3. 인터넷을보다 발견하면 신고해야겠다

# data[].attributes.attachment_link.title
″호기심에”…‘딥페이크’ 성범죄 피의자 78% 10대

# data[].attributes.attachment_link.description
인공지능(AI) 기술을 악용한 이른바 불법 합성물 ‘딥페이크’ 성범죄 그림자가 10대를 둘러싸고 있다. 가해자 대다수가 10대인 것과 동시에 피해자 또한 2명 중 1명꼴로 10대였다.경남경찰청 사이버수사과는 지난해 8월부터 지난달 말까지 7개월 동안 허위영상물 범죄 집중 단속을 벌여

# data[].attributes.body
딥페이크가 여러가지 이익을 주는것도 있지만이 딮페이크 기술이 유명 인사들의 얼굴을 다른 사람의 몸에 합성하는 등 가짜 음란물로 명예 훼손 사건을 일으켰으며, 최근에는 음란물 외 투자 사기 광고 등에 활용되어 투자 사기 등 문제를 유발하고 있다는 것을 통해 딮페이크의 위험성도 확실하게 알게되었다

# data[].attributes.attachment_link.title
[Pick사이언스] 딥페이크 기술의 명과 암

# data[].attributes.body
요약: 딥페이크 영상이 제작·유통되는 사이버 공간에서 이뤄지는 선거범죄의 증가세는 상당히 가파르다. 6·3 대선을 앞두고 있는 현재, 딥페이크 영상은 선거범죄의 복병으로 수사기관들은 올해 대선에서 딥페이크 영상을 집중 모니터링한다는 방침을 밝혔다.

1. 딥페이크가 성범죄를 넘어 가짜 뉴스에도 쓰일 수 있으며 사회적인 혼란을 야기할 수 있음을 알게 되었다.

2. 딥페이크 피해를 발견하거나 겪게 된다면, 증거를 확보하여 경찰에 신고하도록 한다.

3. sns에서 사진과 영상을 공유하는 데에 있어 신중해야 한다

# data[].attributes.attachment_link.readable_text
딥페이크 영상 통한 선거범죄 최대 7년 징역형
선관위 특별대응팀·경찰 수사상황실 꾸려

[파이낸셜뉴스]6·3 대선을 앞두고 '딥페이크(Deepfake) 영상'이 선거범죄의 복병으로 부상하고 있다. '챗GPT'등 별다른 기술 없이 딥페이크 영상을 제작할 수 있는 프로그램이 보편화하면서 범죄도 급증하는 양상이다. 수사기관들은 집중 단속에 나서는 등 엄중 대응을 예고했다.

21일 경찰에 따르면 서울경찰청은 이재명 더불어민주당 대선 경선 후보 딥페이크 영상물을 제작하고 게시한 혐의로 고발된 사건 6건을 사이버수사대에 배당하고 수사에 착수했다.

앞서 이 후보 선거대책위원회는 지난 16일 보수 유튜버를 비롯한 17명을 명예훼손과 공직선거법 위반 등 혐의로 고발했다.

이 후보의 선대위 공보단장인 박수현 의원은 지난 11일 "이 후보가 김혜경 여사에게 욕설하는 내용의 딥페이크 영상 제작·유포 시도가 있다는 제보가 접수됐다"며 "과거 수사기관 조사를 받고 귀가한 김 여사에게 이 후보가 험악한 표현을 쓰며 나무라는 상황으로 설정된 영상"이라고 전했다.

딥페이크는 딥러닝(Deep Learning)과 페이크(Fake)의 합성어로 인공지능(AI) 기술을 활용해 진짜처럼 보이는 가짜 영상을 만들어내는 것을 뜻한다. 이 후보가 부인에게 욕하는 영상을 비롯해 한동훈 국민의힘 대선 경선 후보의 외모를 비하하는 내용의 딥페이크 영상도 사회관계망서비스(SNS)를 통해 유포되는 등 다른 피해 사례도 정치권에서 속출하고 있다.

딥페이크 영상에 의한 선거범죄는 생성형 AI기술이 비약적으로 발달한 최근 몇 년 사이에 갑자기 부상해 그 규모의 추이를 파악하기 어려울 정도라고 검찰은 설명했다.

다만 딥페이크 영상이 제작·유통되는 사이버 공간에서 이뤄지는 선거범죄의 증가세는 가파르다는 것이 확인 가능하다. 국회 행정안전위원회 소속 한병도 민주당 의원이 지난해 9월 중앙선거관리위원회로부터 제출받은 국정감사 자료를 보면 사이버상 공직선거법 위반 행위는 제22대 총선에서 7만4172건으로 12년 전인 제19대 총선의 1792건과 견줘 41배 폭증했다.

불법 딥페이크 영상은 최대 7년 이상의 징역에 처할 수 있는 중범죄에 해당한다. 공직선거법 제82조의8과 제250조에 따르면 선거일 전 90일부터 딥페이크 영상을 제작·편집·유포·상영·게시하는 행위를 하면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처하거나 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처한다.

수사기관들도 올해 대선에서 딥페이크 영상을 집중 모니터링한다는 방침이다. 대검찰청은 전국 검찰청에 선거전담수사반을 편성하고 단계별 비상근무에 들어간다.

경찰 역시 전국 278개 경찰서에 설치한 선거사범 수사상황실을 통해 딥페이크 관련 선거 범죄를 집중 단속한다는 계획이다. 선관위는 지난 9일부터 네이버·카카오 등과 민·관 합동 특별대응팀을 꾸려 선거 딥페이크에 적극 대응 중이다.

경찰청 선거사범 수사상황실 관계자는 "디테일하게 말하려면 수사기법을 설명할 수밖에 없기 때문에 양해 바란다"면서도 "선거법은 공소시효가 6개월밖에 되지 않는 만큼 최대한 선관위· 검찰과 협조해 엄정하게 수사할 것"이라고 경고했다.

kyu0705@fnnews.com 김동규 정경수 기자

# data[].attributes.attachment_link.title
조기대선 하자마자 딥페이크 극성...수사기관 '엄중 대응'

# data[].attributes.attachment_link.description
6·3 대선을 앞두고 '딥페이크(Deepfake) 영상'이 선거범죄의 복병으로 부상하고 있다. '챗GPT'등 별다른 기술 없이 딥페이크 영상을 제작할 수 있는 프로그램이 보편화하면서 범죄도 급증하는 양상이다. 수사기관들은 집중 단속에 나서는 등 엄중 대응을 예고했다.21일..

# data[].attributes.body
방송통신심의위원회는 지난 1분기 딥페이크 성범죄 영상물에 대해 시정을 요구한 건수가 9천443건으로 전년 동기 대비 166.7% 증가했다고 23일 밝혔다.

이 수치는 2023년 시정 요구 건수 1천건에 비해 9.4배 증가한 것이다.

1분기 디지털 성범죄 정보에 대한 전체 시정 요구 건수는 2만8천451건으로 전년 동기 대비 약 70% 늘었다.

방심위는 "딥페이크 성범죄 증가 등은 생성형 인공지능(AI) 기술의 부작용이 본격화되고 있음을 방증하는 것으로 이러한 추세가 당분간 지속될 가능성이 높다"고 전망했다.

# data[].attributes.body
딥페이크 방지법이 생겼다는 것이 놀랍고 정말 많이 일어나는 것 같다는 느낌이 들었다.

딥페이크 범죄가 줄어들고 피해를 받는 사람들이 없었으면 좋겠다.

요약:딥페이크 성범죄물 시청만 해도 처벌

이날 통과된 법들은 아동·청소년을 대상으로 하는 딥페이크 성착취물의 수사와 처벌을 강화하고, 피해자를 보호하는 내용을 골자로 한다.

딥페이크 성범죄물을 시청한 행위도 처벌 대상이 됐다. 개정된 성폭력처벌법은 불법합성 성범죄물을 소지·구입·저장 또는 시청할 경우 3년 이하의 징역 또는 3천만원 이하 벌금에 처하도록 했다.

# data[].attributes.attachment_link.title
‘딥페이크 성범죄 방지법’ 국회 통과...텔레그램을 이용한 디지털 성범죄 근절될까? - BBC News 코리아

# data[].attributes.attachment_link.description
딥페이크를 이용한 성범죄를 막고 피해자를 보호하기 위한 이른바 ‘딥페이크 성범죄 방지법’이 국회 본회의를 통과한 가운데, 이 법이 딥페이크 성범죄를 근절할 수 있을지 귀추가 주목된다.

# data[].attributes.body
청소년들의 딥페이크 성범죄로 인해 피해자들이 극심한 정신적 고통에 시달림

딥페이크가 청소년들 사이에서 빠르게 확산되고 있음

sns에 민감한 사진을 올리지 않는다

딥페이크 피해 발생 시 경찰에 신고한다

# data[].attributes.attachment_link.title
[주간 뉴스타파] 딥페이크의 공범들② 학교 딥페이크, 가해자가 돌아왔다

# data[].attributes.attachment_link.description
[주간 뉴스타파] 딥페이크의 공범들② 학교 딥페이크, 가해자가 돌아왔다

# data[].attributes.body
방송통신심의위원회는 지난 1분기 딥페이크 성범죄 영상물에 대해 시정을 요구한 건수가 9천443건으로 전년 동기 대비 166.7% 증가했다고

이 수치는 2023년 시정 요구 건수 1천건에 비해 9.4배 증가한 것이다

1.딥페이크 위험하다

2.딥페이크는 장난이 아니다.

3.딥페이크는 폭력이다

# data[].attributes.attachment_link.title
방심위 ”딥페이크 성범죄영상물 시정요구 1년새 167% 증가” | 연합뉴스

# data[].attributes.attachment_link.description
(서울=연합뉴스) 조성미 기자 = 방송통신심의위원회는 지난 1분기 딥페이크 성범죄 영상물에 대해 시정을 요구한 건수가 9천443건으로 전년 동기…

# data[].attributes.body
요약: 여성의 얼굴 사진을 음란물과 합성한 딥페이크 허위영상물 성범죄로 7개월간 총 963명이 경찰에 붙잡혔다 경찰청 관계자는 "딥페이크 성범죄는 누구나 피해자가 될 수 있는 심각한 범죄인 만큼 국민 안전을 지키기 위해 집중단속을 지속하고 강화하겠다"며 "딥페이크를 이용해 성적 허위영상물을 제작하는 행위뿐 아니라 단순히 소지하고 시청만 하는 경우도 처벌 대상"이라고 강조했다

새롭게알게된점: 딥페이크가 얼마나 심각한지 알게되었다

# data[].attributes.attachment_link.readable_text
경찰, 딥페이크 성범죄 963명 검거...10대가 70%

김영봉 기자

입력: 2025.04.17 10:10 / 수정: 2025.04.17 10:10

7개월간 집중단속 결과...59명은 구속
"성적 허위영상물 소지 및 시청도 처벌"

[더팩트ㅣ김영봉 기자] 여성의 얼굴 사진을 음란물과 합성한 이른바 '딥페이크' 허위영상물 성범죄로 7개월간 총 963명이 경찰에 붙잡혔다. 10명 중 7명은 10대였으며 촉법소년(만 14세 미만)도 72명에 달했다.

경찰청 국가수사본부(국수본)는 지난해 8월28일부터 올해 3월31일까지 허위영상물 범죄 집중단속을 통해 963명을 검거하고 59명을 구속 송치했다고 17일 밝혔다. 집중단속 전인 지난해 1월1일부터 8월27일까지 검거된 267명보다 260.7% 급증한 수치다.

연령별로는 10대가 669명으로 전체의 69.5%를 차지했다. 촉법소년은 72명이었다. 20대는 228명(23.7%), 30대 51명(5.3%), 40대 11명(1.1%), 50대 이상 4명(0.4%) 등이다. 10대와 20대가 전체의 93.2%를 차지했다.

경찰이 집중단속 기간 수사한 딥페이크 성범죄 사건은 총 1429건에 달했다. 지난 3년간 경찰에 접수된 딥페이크 성범죄 사건은 2021년 156건(검거 79명), 2022년 160건(검거 78명), 2023년 180건(검거 100명) 등이었다.

서울경찰청은 지난 2020년 5월부터 올해 1월까지 피해자를 협박해 가학적 성착취물을 제작하고 유포한 총책 등 54명을 검거하고 2명을 구속했다.

인천경찰청은 지난 2022년 11월부터 지난해 8월까지 대학생들의 이름과 학교명이 들어간 텔레그램방을 개설한 후 허위영상물을 약 270회 유포한 15명을 검거하고 8명을 구속했다.

경찰은 성폭력처벌법 개정에 따라 오는 6월4일부터 딥페이크 성범죄 피해자가 성인인 경우에도 위장수사가 가능해진 만큼 위장수사를 적극 활용할 계획이다.

경찰청 관계자는 "딥페이크 성범죄는 누구나 피해자가 될 수 있는 심각한 범죄인 만큼 국민 안전을 지키기 위해 집중단속을 지속하고 강화하겠다"며 "딥페이크를 이용해 성적 허위영상물을 제작하는 행위뿐 아니라 단순히 소지하고 시청만 하는 경우도 처벌 대상"이라고 강조했다.

발로 뛰는 <더팩트>는 24시간 여러분의 제보를 기다립니다.

· 카카오톡: '더팩트제보' 검색

· 이메일: jebo@tf.co.kr

· 뉴스 홈페이지: https://talk.tf.co.kr/bbs/report/write

· 네이버 메인 더팩트 구독하고 [특종보자→]

· 그곳이 알고싶냐? [영상보기→]

# data[].attributes.attachment_link.keywords[]
경찰 경찰청 딥페이크 성범죄 서울경찰청 청소년 촉법소년 10대 허위영상물

# data[].attributes.attachment_link.description
7개월간 집중단속 결과...59명은 구속성적 허위영상물 소지 및 시청도 처벌여성의 얼굴 사진을 음란물과 합성한 이른바 딥페이크 성범죄로 7개월간 총 963명이 경찰에 붙잡혔..

# data[].attributes.body
만약 내가 아는 사람 중 딥페이크를 하는 사람이 있다면 끝 말릴 것이다.

# data[].attributes.attachment_link.readable_text
◀ 앵커 ▶

지난해 디지털 성범죄로 인해 정부 기관에 도움을 요청한 피해자가 처음으로 1만 명을 넘어섰습니다.

특히 '딥페이크'로 합성된 음란물로 인한 피해 건수가 3배 이상 늘었는데요.

피해자의 절반 가까이는 미성년자였습니다.

조명아 기자입니다.

◀ 리포트 ▶

대학 동문의 사진으로 딥페이크 음란물을 만들어 유포한 이른바 '서울대 N번방' 사건.

3년 반 동안 확인된 피해자만 61명, 합성된 영상물은 2천 개가 넘습니다.

동료인 여군의 사진을 딥페이크 음란물로 만들어 SNS에 공유하다 적발되기도 했습니다.

지난해 정부가 운영하는 디지털성범죄피해자 지원센터에 접수된 피해자는 1만 305명.

피해자가 만 명을 넘은 건 지난 2018년 센터가 문을 연 이후 처음입니다.

[박성혜/중앙디지털성범죄지원센터 삭제지원팀장]
"나도 모르게 (다른 사람들이) 이런 거를 봤다는 사실 자체에 이제 처음에 굉장히 충격적이라고 생각을 하기 때문에 처음 통화를 하면은 '거의 살고 싶지 않다' 정도까지 그런 상태로 저희에게 오십니다."

피해자가 늘면서 센터에서 삭제한 피해 영상물도 30만 건을 넘었습니다.

눈에 띄는 건 딥페이크 등 디지털 기술을 활용한 합성이나 편집으로 인한 피해가 3배 이상 급증했다는 점입니다.

피해자 대부분은 20대 이하였는데, 10대인 미성년자가 피해자의 절반에 육박했습니다.

SNS에 자신의 사진을 올리고 공유하는 게 보편화되어 있는 세대이다 보니 디지털 성범죄 피해에 노출될 가능성이 높은 겁니다.

우려되는 건 오픈 AI 기술이 보편화되면서 합성 이미지가 갈수록 정교해지고 있다는 겁니다.

[박성혜/중앙디지털성범죄지원센터 삭제지원팀장]
"앱 같은 것들을 활용해서 얼굴을 합성한다거나 이제 그런 합성을 하면서 놀이 문화처럼 서로 친구도 합성하고 선생님도 합성하다가‥"

또 디지털 성범죄 피해 영상물 4건 중 1건꼴로 피해자 이름과 주소 등 개인정보도 함께 유출된 것으로 나타났습니다.

오는 17일부터는 성폭력방지법 개정안 시행으로 영상물과 함께 피해자 신상정보도 삭제할 수 있게 돼 2차 피해를 막을 수 있을 것으로 기대됩니다.

MBC뉴스 조명아입니다.
MBC 뉴스는 24시간 여러분의 제보를 기다립니다.
▷ 전화 02-784-4000
▷ 이메일 mbcjebo@mbc.co.kr
▷ 카카오톡 @mbc제보

# data[].attributes.attachment_link.title
'딥페이크' 피해 3배 급증‥피해자 절반 '미성년자'

# data[].attributes.attachment_link.description
지난해 디지털 성범죄로 인해 정부 기관에 도움을 요청한 피해자가 처음으로 1만 명을 넘어섰습니다. 특히 '딥페이크'로 합성된 음란물로 인한 피해 건수가 3배 이상 늘었...

# data[].attributes.body
인공지능 기술이 발전하면서 지난해 급격하게 늘어나기 시작한 딥 페이크 성범죄 피햊자만 948명 학생들은 졸업사진에서 얼굴을 빼달라고도 부탁하였다 만약 학생이 이런 피해를 당했다면 먼저 위로를 해주면서 절대 피해자를 탓하면 안된다는 거을 알게 되었다.

# data[].attributes.attachment_link.title
초등생 딸, 딥페이크 피해자 되면?...학부모 대응은 ”ㅇㅇ부터 해야” | JTBC 뉴스

# data[].attributes.attachment_link.description
인공지능 기술이 발전하면서 지난해 급격하게 늘어나기 시작한 딥 페이크 성범죄. 교육부가 파악한 피해자만 지난해 948명에 달했습니다. [피해 교사 : 제 얼굴만 부분 캡처해서…

# data[].attributes.body
점점 하루 평균 딥페이크 발생률이 올라가고 있다

딥페이크를 선호하지 않는 사회로 만들어야 한다

딥페이크를 당하면 당황하지 않고 침착하게 신고해야 한다는 것을 알게 되었다

# data[].attributes.attachment_link.title
‘딥페이크’ 피해 하루 평균 7건 발생했다...경찰 신고 1000건 돌파

# data[].attributes.attachment_link.description
【투데이신문 권신영 기자】 경찰청이 ‘불법합성물(딥페이크)’ 집중 단속을 실시 중인 가운데, 올해 경찰에 접수된 딥페이크 성범죄 신고가 1000건을 넘어선 것으로 나타났다. 신고 및 검거 건수는 매달 감소세를 보이고 있다.경찰청은 3일 올해 하반기에 시작된 ‘허위영상물 범죄 집중 단속 기간’ 이후부터 지난달 30일까지 총 649건의 딥페이크 성범죄 사건을 접수했다고 밝혔다. 올해 1월부터 지난달 30일까지 전국 경찰에 접수된 딥페이크 성범죄 사건은 1094건이다.일평균 신고 건수는 단속 이전 1.85건에서 집중단속 이후(지난 9월

# data[].attributes.body
딥페이크를 당하는 사람들이 학교에서조차 늘어나고 있다. 그러나 수사기관 및 학교의 약한 미온적 대응으로 인해 피해자들은 여전히 고통속에 시달리고 있다.

알게된 점: 나는 경험해본 적이 없지만 생각보다 훨씬 광범위하게 일어난 범죄라는걸 다시 알게 되었다.

대처법: 피해자를 위해 가해자에게 합당한 처벌을 받을 수 있게 한다.

예방법: 국가 차원에서의 지속적인 검토가 필요할 거 같다.

# data[].attributes.attachment_link.title
[주간 뉴스타파] 딥페이크의 공범들② 학교 딥페이크, 가해자가 돌아왔다

# data[].attributes.attachment_link.description
[주간 뉴스타파] 딥페이크의 공범들② 학교 딥페이크, 가해자가 돌아왔다

# data[].attributes.body
https://imnews.imbc.com/news/2025/society/article/6708569_36718.html

요약:이재명 대선 경선후보와 관련된 딥페이크 영상물이 허위유포되어 경찰이 조사에 착수하기 시작했다. 이후보의 사건은 서울청 사이버수사대에 배당되었다.

1.딥페이크가 단순히 성적인부분만 있는것이 아니라 정치적으로도 이용된다는것을 알게되었다.

2.딥페이크 피해 발생경우 경찰서로 찾아가거나 신고해야한다.

3.딥페이크를 당하지 않도록 허락하지 않은사진은 공유하지 못하게한다.

# data[].attributes.body
2018년 69건에서 2024년 781건으로 11배 이상 증가했다.

특히, 2024년 피해자 중 약 37%가 10대 이하 청소년으로 나타났습니다. 디성센터는 'DNA 시스템'을 통해 불법 촬영물과 딥페이크를 탐지·삭제하고 있으나, 텔레그램 등 해외 플랫폼에서는 대응에 한계가 있다.​

전문가들은 딥페이크 제작·유포자에 대한 강력한 처벌과 청소년 대상 디지털 교육 강화를 강조하며, 사회 전반의 인식 개선이 필요하다고 지적했다.ai의 기술이 계속해서 진보함에 따라 여러 부작용들이 사회 곳곳에서 일어나고 있다 이에따라 인식의 변환이 필요해 보인다.

1.딥페이크에 대한 경각심을 가지게 되었다.

2.딥페이크 피해 사례가 있으면 주저하지 않고 신고해야겠다.

3.ai기술에 대한 단속기술을 신속하게 개발해야 한다는 생각이 들었다

# data[].attributes.attachment_link.title
‘딥페이크’ 피해자 2천명 넘었다…6년새 11배 넘게 급증 | 연합뉴스

# data[].attributes.body
2025년 기준, 딥페이크로 인한 디지털 성범죄 피해자는 전년 대비 3배 이상 증가하여 1만 명을 넘었으며, 이 중 절반가량이 미성년자인 것으로 확인되었습니다.

새롭게 알게 된 점 - 피해자 연령층 다양화: 기존에는 주로 유명인이나 성인을 대상으로 한 딥페이크 피해가 많았으나, 최근엔 미성년자와 학생들을 대상으로 한 범죄가 급증하고 있음.

피해 발생 시 대처법 - 즉시 증거 확보 : 유포된 영상이나 게시물을 스크린샷 및 URL 형태로 저장하여 법적 증거로 확보합니다.

영상 삭제 요청 : 방송통신심의위원회(1377), 사이버안전지킴이 등을 통해 긴급 삭제 요청을 합니다.

예방법 - 개인 이미지 유포 최소화 : SNS나 커뮤니티에 선명한 얼굴 사진, 전신 사진을 과도하게 게시하지 않도록 주의합니다.