2개(영상, 기사등)를 조사하면 됩니다.

인공지능 생성 결과물에 대한 별도 표시가 필요할까?

딥페이크, 저작권 과같이 작성하지 않고, 조사된 사례에 안내한 "누군가 내 얼굴을 훔치고 있다"-

와 같이 진술해보세요.

패들렛을 추가해주세요

• 목적: 주제 소개 및 흥미 유발

• 딥페이크 예시:

  • 제목: "당신이 본 영상, 진짜일까요?"

  • 부제: "딥페이크와 AI 윤리 이야기"

  • 임팩트 있는 비주얼 + 간단한 질문

2장 - 문제 정의 (개념 설명)

• 목적: AI 기술/문제가 무엇인지 명확히 설명

• 딥페이크 예시:

  • "딥페이크란?" 간단한 정의

  • 어떻게 만들어지는지 (AI 기술 활용)

  • 얼마나 정교해졌는지 (기술 발전 수준)

3장 - 실제 사례 (구체적 상황)

• 목적: 현실에서 일어난 사례로 문제의 심각성 인식

• 딥페이크 예시:

  • 유명인 얼굴 도용 사례

  • 가짜 뉴스/정치적 악용 사례

  • 일반인 피해 사례 (디지털 성범죄 등)

  • 피해 규모와 통계

4장 - 윤리적 쟁점 (Why it matters)

• 목적: 왜 이것이 윤리적 문제인지 분석

• 딥페이크 예시:

  • 초상권/인격권 침해

  • 정보의 진실성 훼손

  • 사회적 신뢰 붕괴

  • 악용 가능성 (범죄, 사기 등)

5장 - 해결방안 (What we can do)

• 목적: 기술적·제도적·개인적 대응 방안 제시

• 딥페이크 예시:

  • 기술: 딥페이크 탐지 AI 개발

  • 제도: 관련 법규 제정 및 처벌 강화

  • 교육: 미디어 리터러시 교육

  • 개인: 출처 확인, 신중한 공유

6장 - 행동 촉구 (Call to Action)

• 목적: 독자의 실천 유도 및 메시지 마무리

• 딥페이크 예시:

  • "의심하고, 확인하고, 공유하지 마세요"

  • 체크리스트 (영상 진위 확인 방법)

  • 관련 기관 연락처/신고 방법

  • 해시태그 캠페인

제목: "기계가 인간의 가치를 잊고 있다"
부제: "AI 시대, 인간 존엄성은 어디로 갔을까?"
임팩트 있는 비주얼 예시:
AI 로봇이 사람의 얼굴을 관찰하는 장면, 또는 사람이 숫자 코드 속에 갇혀 있는 이미지
짧은 질문 문구:
“당신의 존재는 데이터로 설명될 수 있나요?”

2장 - 문제 정의 (개념 설명)

목적: 인공지능과 인간 존엄성의 관계 이해

• 인간 존엄성이란 모든 인간이 단순한 수단이 아닌 목적으로 존중받는다는 가치

• 인공지능은 인간을 ‘데이터’ 혹은 ‘효율’의 관점에서 판단

• AI 활용 범위가 확대되면서 인간 존엄성이 흔들릴 위험 존재

• 예: 돌봄 AI가 사람의 감정을 기계적으로 대체하거나, 채용 알고리즘이 인간 가치를 점수로 평가하는 상황

3장 - 실제 사례 (구체적 상황)

목적: 기술이 인간 존엄성에 미치는 실제 영향 제시

• AI 채용 시스템 차별 사례: 외모나 성별, 나이에 따른 자동 필터링

• 돌봄 로봇의 문제: 외로움 완화를 목적으로 하지만 인간 관계의 진정성을 약화

• 노인·장애인을 위한 감시 AI: 보호 목적으로 도입됐지만 사생활 침해 우려

• 생명 관련 결정에서 AI 활용: 의료 AI가 치료 우선순위를 판단하며 인간적 판단 배제

4장 - 윤리적 쟁점 (Why it matters)

목적: 왜 존엄성 침해가 윤리적으로 중요한지 설명

• 인간을 단순한 ‘데이터 객체’로 취급하는 위험

• 감정·개성·가치의 측정 불가능한 영역을 무시

• 효율성 중심 기술이 인간의 존중과 배려를 약화

• 사회·직장·의료 분야에서 인간의 ‘존재 의미’가 줄어듦

• 존엄성 침해가 신뢰, 공감, 공동체 의식을 붕괴시킬 위험

5장 - 해결방안 (What we can do)

목적: 존엄성 보호를 위한 실천적 접근 제시

• 기술적 방안: 인간 중심 설계(Human-Centered Design) 적용, AI 윤리 가이드라인 내재화

• 제도적 방안: AI 의사결정 과정의 투명성 의무화, 인권 보호 법제 강화

• 교육적 방안: 인공지능 윤리·인문학 교육 확대, 기술과 인간 가치 균형 교육

• 개인적 실천: AI에 대한 맹신 피하기, 기술 결정 과정에 인간적 판단 개입 유지

6장 - 행동 촉구 (Call to Action)

목적: 독자가 존엄성 회복의 주체로 참여하도록 유도

• 메시지: “기술보다 사람을 먼저 생각하세요.”

• 실천 리스트:

  • AI 서비스 이용 시 개인정보 제공 신중히

  • 인간의 감정과 관계를 대체하지 않기

  • AI 윤리 논의에 적극 참여하기

• 캠페인 문구:
  **#사람이먼저 #인공지능윤리 #보다인간

누군가 내 얼굴을 훔치고 있다. 딥페이크 사례 안내

2. 주제의 문제

생성형 인공지능으로 인해 만들어지는

영상, 소리 등 다양한 정보로

진짜와 가짜를 구분하기 어려운 정보 수준

3. 발생 이유

생성형 인공지능 예시>광고, 영상등을 소개(지브리 스타일 이미지등등)

4. 악용사례1

유투브 광고 사례(가짜 의사)

5. 악용사례2

: 지인의 목소리로 걸려오는 사기 전화

(인공지능으로 목소리를 변조하여 사기전화를 하는 것을 이해하기 쉽게 표현

2장. 문제 내용 설명

: 목소리 변조를 통해 사기를 치는 범죄의 유형 소개

3장. 관련 기술의 원리 소개

4장. 음성 변조 기술 발전 현황

5장. 피해를 입은 실제 사례 소개

6장. 피해를 예방하기 위한 방안 제시

2장- 딥페이크란? (단어 설명)

3장- 실제 사례

좋은 사례(죽은 가족이나 친구의 얼굴을 딥페이크 해서 다시 만난 사례)

나쁜 사례(유명인의 얼굴을 딥페이크한 사례)

4장- 윤리적 쟁점

초상권. 인권 침해

사진이나 영상이 진실인지 아닌지 구분할 수 없음

악용 가능성이 너무 큼

5장- 해결방안

딥페이크의 관련 벌을 더 강하게 제정

딥페이크를 구분하는 인공지능 개발

개인이 어떤 사진이나 영상을 누군가에게 공유할 때 이것이 범죄에 악용될 수 있음을 알고 주의하는 것

6장- 결론(마지막으로 기억에 남도록 요약해서 내용 전달)

2.주제의 문제 : 인공지능이 사용자의 감정 데이터를 활용해 감정을 인위적으로 조작하거나 유도하는 것은 인간의 자율성과 감정의 진정성을 침해할 수 있다는 문제가 있다.

3.발생이유 : 감정 데이터를 활용하면 사용자의 행동을 예측하고 통제하기 쉽다. 또한 기업이 이익을 극대화하기 위해 감정 유도형 알고리즘을 설계했다.

4.악용사례1 : SNS 추천 알고리즘이 사용자의 분노나 불안을 자극하는 콘텐츠를 반복적으로 노출해 사용시간을 늘리고, 사회적 갈등을 심화시킨 사례

5.악용사례2 : AI챗봇이 감정적으로 취약한 사용자에게 공감, 위로하는 말을 반복하여 정서적 의존을 유도하거나, 소비 행동을 유발한 사례

마음까지 해킹하는 AI시대, 우리는 안전한가?

AI가 해킹에 활용되고 인간의 정신에 영향을 미침

2.주제의 문제

AI활용한 해킹 문제와 사람들이 심리에 악영향을 미치는 AI의 사례가 많음

3.이러한 문제가 발생하는 이유

4.실제 사례

악용되고 있는 실제 사례 기사들과 내용 제시

5.이를 방지하기 위한 방안

제목: 극단적 선택 조언하는 ai

부제:ai 과의존

2장

AI와 인간의 관계에서 문제가 생기는 이유 중 하나는 인간이 사물을 쉽게 의인화한다는 점

AI 챗봇이 기본적으로 사용자에게 동조하며 친절하게 대하도록 설계됐다는 점도 영향을 미친다

3장

지난해 스스로 목숨을 끊은 미국의 10대 소년 슈얼 세처가 인공지능(AI) 챗봇에 "고통 없이 죽을 수 있을지 두렵다"고 하자 답변으로 들은 말이다. 세처의 어머니는 세처가 이용한 챗봇 서비스 기업인 '캐릭터.AI(Character.AI)'를 상대로 소송을 제기하고 아들이 AI 챗봇에 중독된 뒤 자존감이 떨어졌으며 결국 극단적 선택을 한 것이라고 주장

4장

AI 과의존이 윤리적 문제인 이유는 여러 측면에서 심각한 사회적·개인적 부작용을 초래하고 책임 소재가 불분명하기 때문

5장

기술:윤리적 기준과 기술적 가이드라인을 마련하여, AI 개발 과정에서 책임 소재와 안전성을 명확히 할 수 있다

제도:정부·지자체 정책: AI 기반 서비스의 중독 유발 요소 규제, 예방 교육, 쉼 센터 운영 등이 시행

교육:디지털 리터러시 교육: 학교와 공공기관에서 AI와 디지털 사용의 위험성과 올바른 활용법 교육 실시가 필요

개인:디지털 디톡스: AI 및 스마트 기기 사용 시간을 정해두고 관리함으로써 의존도를 낮출 수 있다

6장

스스로 생각하고 판단하는 능력을 잃지 말자

AI가 내리는 결정에 도덕적 정당성이 부족하며, 책임 소재가 불분명하다. AI는 학습 데이터에 내재된 편향을 그대로 재생산하고, 결정 과정이 불투명한 ‘블랙박스’ 문제도 존재한다. 게다가 AI가 복잡한 환경에서 예기치 않은 판단을 할 때, 법적·윤리적 책임을 누구에게 물어야 하는지 사회적 합의가 부족하다.

해결방안

1. 명확한 책임 분배 체계 확립: 시스템 설계 단계부터 개발자, 운영자, 사용자 등 각 주체의 책임 범위를 명시하고 의사결정 과정의 추적 가능성을 확보한다

2. 인간 개입 보장과 윤리 기준 적용: 비가역적 결정을 AI가 독자적으로 내리지 않도록 ‘인간 개입’ 원칙을 도입하며, 데이터 출처의 적법성과 편향 검증을 강화한다. 아울러 국제적 윤리 기준의 최소 공약수 전략을 적용해 지역별 규제 차이를 조절한다

제목: 내 창작물이 무단 사용된다.

부제: AI의 저작권 침해

2장-사례1: 게티이미지의 저작권 소송

3장-사례2: 지브리풍ai등 그림체 ai생성

4장-ai저작권 침해의 문제(이유)

5장-저작권논쟁: 저작권 침해이다vs아니다.{찬/반)

6장-행동촉구- 독자의 실천 및 메세지 전달

예)저작권 함께 지켜나가자.

4. 논의 되는 해결 방안

-딥러닝(Deep Learning)과 Fake의 합성어로, 딥러닝 기술을 사용하는 인간 이미지 합성 기술

2.긍정/부정적 사례

- 영화 속 특수 효과, 고인 복원, 다국어 더빙

- 교육/의료: 수술 시뮬레이션, 질병 진단 보조

-디지털 성범죄: 불법 성적 허위 영상물 제작 및 유포

- 사회적 조작/사례: 가짜 뉴스(여론 조작), 정치인 딥페이크, 금융 사기(보이스피싱, 투자 유도 광고)

-개인 권리 침해: 명예 훼손, 초상권 및 프라이버시 침해, 신원 도용

3.핵심 윤리 쟁점

-진실성/신뢰성 훼손: 진짜와 가짜의 경계 붕괴

-피해의 비가역성: 삭제 및 복구의 어려움과 피해자의 고통

4.대응 반응

법적/제도적 대응

-국내: 성폭력처벌법 강화, 공직선거법 개정을 통한 딥페이크 선거운동 금지 조항

-해외: EU AI 법, 미국 등 주요 국가의 규제 동향 (워터마크 의무화 등)

기술적 대응

- 딥페이크 탐지 기술 개발 및 적용

- 콘텐츠의 진위 여부를 확인하는 출처 표기/워터마킹 기술

윤리 및 교육적 대응

-미디어 리트러시: 교육 강화 (진위 판별 능력)- 플랫폼 기업의 윤리적 책임 및 자율 규제 노력

• AI가 ‘도구’에서 ‘무기’로

2장 - 문제 정의 (개념 설명)

• 예시:

  • AI 해킹 = AI를 이용해 공격을 설계·자동화·확장하는 행위

3장 - 실제 사례 (구체적 상황)

• 구글의 메일과 오피스 등에서 활용 가능한 AI 서비스 Gemini for Workspace는 G-Mail로 수신한 메일을 자동으로 요약하거나 회신을 작성하는 기능을 갖는다. 모질라재단 보안 연구진은 이 기능을 악용해 AI가 악의적 지시를 따르도록 하는 명령어를 이메일 본문에 숨길 수 있음을 보였다.

• 다크웹에서는 대형언어모델(LLM)을 해킹 공격에 효과적으로 이용하기 위한 연구 자료와 최신 논문이 공유되고 있고, 일부 사용자는 프롬프트를 교묘히 변경해 LLM이 직접 공격 코드를 생성하도록 유도하는 방법까지 확산시키는 등 AI를 악용한 해킹 도구와 기법이 확산되고 있다.

4장 - 윤리적 쟁점 (Why it matters)

• 범죄나 사기 같은 악용 가능성

• 개인 정보-금융 피해·기업·국가 인프라 위협 가능

5장 - 해결방안 (What we can do)

• 개인 대응 방안:

  • 같은 비밀번호를 쓰지 말고 주기적으로 비밀번호를 바꾸며 2단계 인증을 사용 습관화

  • 수상한 메일이나 문자의 링크는 누르기 금지

  • 불필요한 개인정보 온라인에 입력 금지

• 정부 대응 방안:

  • 개인정보 유출 기업에 대한 징벌적 손해배상제도나 과징금 상향 등 법적 제재를 강화

  • 해외 기업과 공조를 통해 국제적인 정보 유통을 막는 노력

  • 정부와 민간 기업이 AI 기반 위협 탐지 시스템을 도입해 유출을 사전에 감지하고 차단하는 기술적 방어 체계를 강화해야 한다

6장 - 행동 촉구 (Call to Action)

• '털린 내 정보 찾기' 서비스를 운영해 개인이 스스로 유출 여부를 확인할 수 있도록 돕는다.

추가탐구가 피룡하다고 생각하는 내용: AI의 책임 소재 – 인공지능이 잘못된 결정을 내렸을 때 법적·도덕적 책임은 누구에게 있는가? 개발자, 사용자, 혹은 기업인가

카드뉴스를 보는 친구들에게 안내하고 싶은 내용: AI가 내리는 결정은 ‘중립적’이지 않다. 데이터를 설계한 사람의 가치관이 반영될 수 있음