딥페이크 하브루타 토론하기 by 교사용박수빈

학번 + 이름

20yj9013 — 2023-03-30 06:17:08 UTC

<1차 토론>
- 찬성(이름)
1.
2.
3.
-반대 (이름)
1.
2.
3.

<2차 토론>
- 찬성(이름)
1.
2.
3.
-반대 (이름)
1.
2.
3.

<<최종토론>>
딥페이크를 올바르게 사용하기 위한 방안 작성하기 (법안, 규제, 기술적 지원/제한 등)
1.
2.
3.

21102김건우, 21106박성현

2023-03-30 06:22:20 UTC

<1차 토론>
찬성(박성현)
1. 모자이크보다도 더 신상보호에 용이하다.
2. 딥페이크 의료 영상으로 환자의 정보 유출을 막을 수 있다.
3. 온라인 가계도 서비스를 제공하는 마이헤리티지에서는 고인이 된 가족, 순국열사 등 새로운 방식으로 추모할 수 있다.
반대(김건우)
1. 디지털성범죄(음란물에 무관한 사람을 합성해서 유포)
2. 딥페이크피싱(병원에서 치료받고 있는 상황 등 의심없이 돈을 전달하는데 신뢰도를 높일만한 배경과 몸체에 가족얼굴을 합성하여 입금요구 협박)
3. 유명인을 이용한 여론몰이(기업 ceo, 정치인을 딥페이크 영상에 등장시켜 여론 조작)

<2차 토론>
찬성(김건우)
1. 교육: 움직이는 초상화, 죽은 위인의 인터뷰 등 생생한 예술,역사 교육이 가능해진다.
2. 엔터: 좋아하는 가수의 공연, 공상과학영화, 게임 산업 등 가상 현실 제작에 활용
3. 복지: 청각장애, 언어장벽자에게 인공 목소리 제공
반대(박성현)
1. 가짜뉴스에 활용된다.
2. 음성 딥페이크로 보이스피싱 사기가 발생한다.
3. 기업을 사칭한 허위 콘텐트가 생길 수 있다.

<<최종토론>>
딥페이크를 올바르게 사용하기 위한 방안 작성하기 (법안, 규제, 기술적 지원/제한 등)
1. 법률을 강화한다.
2. 딥페이크 영상에 대한 표시의무 부과한다.
3. 딥페이크 교육을 한다.

21105 김한태, 21111 정재원, 21112 지현서

2023-03-30 06:22:27 UTC

<1차 토론>
찬성(지현서)
1. 정치적 풍자를 만드는데 사용됨
2. 시뮬레이션을 만드는데 사용됨
3. 특수 효과 생성 가능함

반대(김한태, 정재원)
1. 성범죄에 이용됨
2. 금융 사기, 신분증 위조 등에 이용됨
3. 가짜 뉴스에 활용됨

<2차 토론>
찬성(김한태, 정재원)
1. 영화 산업에서 딥페이크 기술을 이용한 얼굴 변형
2. 의류 산업에서 가상 의류 활용 가능
[ ex) 고객들이 옷을 가상으로 입어볼 수 있음]
3. 의료 분야에서 다양하게 기술 적용 가능

반대(지현서)
1. 유명인을 이용한 여론 몰이(가짜 영상)
2. 딥페이크 기술 악용
[ ex) 눈을 깜빡이는 횟수를 늘리는 훈련을 통해 탐지를 피함]
3. 딥페이크 영상(가짜 영상)을 통한 협박

<최종 토론>
1. 딥페이크 기술을 악용했을 때의 처벌 강화
2. 딥페이크 기술 관련 교육 실시

21101 권도형 + 21107 유민준

2023-03-30 06:22:52 UTC

<1차 토론>
-찬성 (권도형)
1.예술적 창작에 대한 새로운 가능성
2.연예게 및 산업계 발전
3.비지니스적 이점 (서비스 홍보 기타 등)

-반대 (유민준)
1.믿을 수 없는 정보가 확산 될 수 있다: 대중의 판단력과 믿음의 훼손 가능성이 있다.
2.성차별, 혐오 발언 등의 악성 사용 가능성이 있다:사회적 분열과 혐오를 일으킬 수 있다.
3.개인정보 보호 문제가 발생할 수 있다:사람들의 신용카드정보나 개인정보를 탈취 할 수 있다.

21116 이지원, 21110 전의혁

2023-03-30 06:23:07 UTC

<1차 토론>
- 찬성(이지원)
1. 딥페이크를 이용해 창의적으로 자신의 의견을 표현할 수 있다.
2. 기존 기술로는 생성하기 어려운 특수효과를 생성할 수 있다.
3. 딥페이크로 현실적인 시뮬레이션을 만들 수 있다, ex) 응급상황 시뮬레이션
-반대(전의혁)
1. 딥페이크는 본인의 의도없이 본인의 사진만 있으면 실제처럼 합성할 수 있다.
2. 딥페이크를 이용하여 영상을 보내 협박 등 사기같은 범죄가 발생할 수 있다.
3. 음란물에 이용될 수 있다. (성범죄)

<2차 토론>
- 찬성(전의혁)
1. 특정인의 신원을 확인할 수 있어서 범죄자 색출, 테러범 차단이 가능하다.
2. 암에 징후를 미리 찾아 조기에 진단하여 에방이 가능하다.
3. 다시는 보지 못하는 사람들의 생존 모습을 담아 재현이 가능하다.
-반대(이지원)
1. 딥페이크를 이용해서 유명인을 이용한 여론몰이를 할 수 있다.
2. 딥페이크를 이용해서 얼굴이 떠돌아다닐 수 있다.
3. 현재의 자신과 조작된 모습 사이에 거리감이 더 느껴져서 정신적으로 문제가 생길 수도 있다.

21108이강산 21113박지현

2023-03-30 06:24:22 UTC

<1차 토론>
- 찬성(이강산)
1. 의료계에서는 딥페이크 기술을 토대로 만든 딥페이크 의료영상을 인공지능에게 학습시켜 정확히 암을 진단할 수 있게 하였다.
2. 신원보호가 필요한 피해자들의 모습을 딥페이크로 재현하여 익명성은 보장하면서도, 생동감 있게 그들의 감정을 전달할 수 있다. ex)그것이 알고 싶다
3. 고인의 살아 생전 사진을 토대로 실제 모습을 구현한 새로운 추모 방식이 등장했다.
- 반대(박지현)
1. 딥페이크 기술을 이용해 성적인 영상을 만들어 온라인 사이트에 공유하는 일이 생길 수 있다.
2. 딥페이크 기술을 이용해 그 사람이 실제 있는 것처럼 속이고 금품을 요구하는 일이 생길 수 있다.
3. 딥페이크 기술을 이용해 대기업의 CEO가 주식 가격에 영향을 줄 수 있는 발언을 담은 가짜 뉴스를 유포할 수 있다.

<2차 토론>
- 찬성(박지현)
1. 영화나 드라마를 제작할 대 죽은 주인공을 대체하거나 젊은 시절에 등장했던 캐릭터를 보여주기 위해 사용할 수 있다.
2. 의류 업체가 고객들이 옷을 가상으로 입어볼 수 있도록 딥페이크 기술을 활용해 매출을 증가 시킬 수 있다.
3. 교과서에서만 봤던 역사적 인물을 딥페이크 기술을 이용해 생동감을 주면 학생들이 더 관심과 흥미를 가지고 공부할 수 있다.
- 반대(이강산)
1. 딥페이크를 이용한 가짜 뉴스의 확대로 정보에 대한 신뢰성이 하락하고 사회적 혼동을 불러일으킬 가능성이 있다.
2. 디지털 성범죄에 사용될 우려가 있다. 실제로 딥페이크 피해의 95%는 성범죄라고 한다.
3. 딥페이크를 이용한 피싱 사례가 점차 증가하고 있다.

<<최종토론>>
딥페이크를 올바르게 사용하기 위한 방안 작성하기(법안, 규제, 기술적 지원/제한 등)
1. 딥페이크를 활용한 사진, 비디오 등에 딥페이크가 사용되었음을 증명하는 코드를 필수로 기입하게 해 악용 방지
2. 실제 인물의 동의를 구하지 않은 딥페이크 활용 금지
3. 딥페이크가 사용되었음을 입증할 수 있는 기술 개발 지원

21117이하연21114백민서

2023-03-30 06:24:28 UTC

<1차토론>
-찬성(이하연)
1. 더 정교한 CG기술
2.의류분야에서 옷을 가상으로 입어볼 수 있음
3.신변보호할 떄 현실에 존재하지 않는 사람의 얼굴로 생생히 전달할 수 있음
-반대(백민서)
1.음란물 악용
2.음성 딥페이크로 인한 보이스 피싱사기
3.정치분야에서 악용 여론조작

<2차토론>
-찬성(백민서)
1. 환자의 질병 정확한 학습, 진단
2. 고인이 된 가족이나 순국열사 등을 새로운 방식으로 추모가능
3. 예술, 역사 분야에서의 생생한 교육 가능
-반대(이하연)
1. 금융사기
2. 일반인을 실제처럼 조작하여 영상으로 제작하여 피해를 줌
3. 대기업 주식가격에 영향을 미쳐 손실을 줌

<최종토론>
1. 딥페이크 관련 법률강화
2.딥페이크 영상에 대한 표시의무 부과 하여 분별을 할 수 있도록함.
3. 학생들에게 딥페이크에 대한 교육 강화

21104김시원 21118정미겸

2023-03-30 06:25:30 UTC

<1차 토론>
-찬성(김시원)
1.절약할 수 있는 인건비가 엄청 늘어난다
2.모자이크보다 더 신상보호에 용이하다
3.엔터테이먼트,훈련 밎 교육,정치적 풍자,창의적인 표현,특수효과 등에 다양한 목적으로 사용될 수 있다
-반대(정미겸)
1.딥페이크를 통한 성범죄가 일어날 수 가 있다
2.딥페이크 영상 피싱으로 발전할 수가 있다
3.딥페이크를 통한 가짜뉴스가 확산되면 큰 사회적 혼란이 있을수 있다
<2차 토론>
-찬성(정미겸)
1.얼굴 정보를 익혀 신원 확인을 할 수 있다
2.CT,MRI의 자료 분석을 통해 암의 징후 등을 미리 찾아 예방할 수있다
3.다시 보지 못하는 사람들의 생전모습을 보는 재현이 가능하다
-반대(김시원)
1.불법 비디오 제작에 사용가능하다
2.SNS에 업로드된 사진을 이용하여 협박가능하다
3.범죄 수법이 늘어나고 있다
최종토론: 딥페이크 사용표시 제도 마련/범죄처벌 형량 증가

21101 권도형 + 21107 유민준

2023-03-30 06:33:03 UTC

^{<2차 토론>}

-찬성 (유민준)

1. [활용 사례 1] 질병예방에 사용된 사례가 있다. 2019년 7월 독일 뤼벡대(University of Lübeck) 의료정보학연구소에서는 CT, MRI, X선 이미지를 분석해 다양한 암의 징후와 이상신호를 탐지 모델을 개발했다. GAN을 이용하여 원본 영상과 진위여부를 구별할 수 없을 정도로 정확한 딥페이크 의료영상을 만들어 인공지능이 질병을 올바르게 학습하고 정확하게 진단할 수 있는데 사용하고 있다.

2. [활용 사례 2] 마이헤리티지 – 새로운 추모 방식

온라인 가계도 서비스를 제공하는 마이헤리티지(MyHeritage)에서는 고인이 된 가족, 순국열사 등 새로운 방식으로 추모할 수 있다.

3. [활용 사례 3] 신기술 접목 – 재회

딥페이크 기술에 VR/AR, 음성 복원 등의 기술을 더하면 큰 감동을 주기도 한다.

딥페이크와 음성 복원 기술을 접목해 김현식, 김광석, 터틀맨(임성훈) 등 그리운 이들의 목소리, 그리고 그룹의 완전체 모습을 다시 볼 수 있게 되었다. AI 음악 프로젝트 다시 한번의 첫 주인공 터틀맨(임성훈) 사례이다. 2008년 심근경색으로 세상을 떠나기 전 영상 자료를 기반으로 목소리를 복원하고 페이스 에디팅 기술로 얼굴을 재현했다. 다시는 만날 수 없을 것만 같던 이들과의 만남이 기술의 발전으로 가능해져 많은 사람들을 놀라게 했고 감동과 위로를 전했다.

-반대 (권도형)

1. 인권차별과 사생활 침해 문제를 야기할 수 있다.

2. 대량생산과 대량배포가 가능한 인터넷환경에서 특히 위험하다.

3. 공공의 이익에 관련된 정보 위조가 가능하다.

21101 권도형 + 21107 유민준

2023-03-30 06:40:05 UTC

^{<<최종토론>>
1. 딥페이크 기술은 인간의 노동력을 대체할 수 있는 기술이기도 하다. 딥페이크 기술을 이용하면 기존에는 사람이 하는 작업을 인공지능이 대신 수행할 수 있으므로, 일자리 감소와 같은 사회적 문제가 발생 할 수 있습니다. 이에 대한 대책이 마련되어야 한다.

2.딥페이크는 사칭을 전제로 하므로 사칭을 처벌할 필요가 있는지 진지하게 따져보아야 한다. 딥페이크 현상이 발생하기 이전에 이미 SNS 사칭을 처벌하는 입법례도 있었다는 점을 감안하면 진지하게 사칭 범죄를 (재산적 피해 등이 발생하지 않더라도) 형사적으로 처벌할 필요가 있는지 검토해 보아야 한다.

3. <법률적 대응방안>}

^{1) 성폭력처벌법 : n번방 사건에 대한 국회동의청원 결과 나온 첫번째 산출물이 바로 딥페이크 처벌 조항이다. 우선 '딥페이크'에 대하여 '특정 인물의 신체 등을 대상으로 한 영상물 등을 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집하는 행위 등'라고 보고 있다. 관련 조항을 소개하면 아래와 같다.}

^{성폭력처벌법 제14조의2(허위영상물 등의 반포등)}

^{① 반포등을 할 목적으로 사람의 얼굴ㆍ신체 또는 음성을 대상으로 한 촬영물ㆍ영상물 또는 음성물 (이하 이 조에서 “영상물등”이라 한다)을 영상물등의 대상자의 의사 에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공(이하 이 조에서 “편집등”이라 한다)한 자는 5년 이하 의 징역 또는 5천만원 이하의 벌금에 처한다.}

^{② 제1항에 따른 편집물·합성물·가공물(이하 이 항에서 “편집물등” 이라 한다) 또는 복제물(복제물의 복제물을 포함한다. 이하 이 항에 서 같다)을 반포등을 한 자 또는 제1항의 편집등을 할 당시에는 영 상물등의 대상자의 의사에 반하지 아니한 경우에도 사후에 그 편집 물등 또는 복제물을 영상물등의 대상자의 의사에 반하여 반포등을 한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다.}

^{③ 영리를 목적으로 영상물등의 대상자의 의사에 반하여 정보통신 망을 이용하여 제2항의 죄를 범한 자는 7년 이하의 징역에 처한다.}

^{일단 딥페이크를 편집, 합성, 가공하면 5년 이하의 징역으로 처벌된다. 다만 모든 딥페이크 제작 행위를 처벌하는 것은 아니고 성적 욕망 또는 수치심을 유발할 수 있는 형태의 딥페이크만 처벌됨에 유의해야 하고, 반포 등의 목적이 있어야 한다.}

^{더불어 딥페이크를 반포 등을 하면 역시 5년 이하의 징역으로 처벌된다. 복제물을 반포 등을 해도 같은 형으로 처벌된다.}

^{다만 영리를 목적으로 딥페이크를 제작하거나 반포 등을 하면 가중처벌되어 7년 이하의 징역으로 상향조정된다. 이 경우 벌금형은 존재하지 않는다.}

^{위 성폭력처벌법은 2020. 3. 5. 국회 본회의를 통과하였고 2020. 3. 24. 공포되었다. 공포시로부터 3개월 이후에 실행되므로 2020. 6. 24.경에 시행된다.}

^{2) 형법 : 딥페이크를 통해서 보이스피싱을 하는 경우 사기로 처벌된다. 통상 보이스피싱 범죄가 중하게 처벌된다는 점을 감안하면 필수적으로 구속될 것으로 보인다.}

^{3) 정보통신망법 : 딥페이크를 통해서 타인의 명예를 훼손하는 경우 정보통신망법으로 처벌되는데, 합성된 특정인의 명예가 훼손되는 경우와 언급된 타인의 명예가 훼손되는 경우로 나누어서 처벌될 수 있다.}