정치지역 분과 2. 침착하다. 3. 무제한 토론회 진행방식 이해하기

경제계층 분과

사회, 경제, 환경, 과학, 정치 등 다양한 지식에 관심이 많다

경청 하기

경제계층 분과 이송은

경청을 잘 한다

나와 의견이 다르더라도 받아들일 수 있는 자세를 갖추겠습니다.

사회문화 문과

독특한 시선

작은 의견도 존중

사회문화 분과 이용권

저는 순천에서 웹툰 애니메이션 중심의 청년 예술 단체를 이끌고 있는 유일무이한 존재입니다!

다른분의 의견을 경청하고 받아들이는 그런 자세로 임하겠습니다!

사회문화분과

타자가 빠르다

내 생각을 확실히 말할 것

경제계층분과

딱히 떠오르지 않네요

잘 듣겠습니다.

정치지역 분과

사람들의 의견을 잘 듣고, 더 좋은 방향으로 나아가도록 제안하기도 함

잘 모르더라도 부끄러워하지 않고 열심히 참여하겠습니다.

경제계층 분과

아이디어 뱅크라는 소리를 많이 듣습니다.

무제한 토론과 토론대회와 토의의 차이점?을 알고 싶습니다, 또 새로운 방식의 회의방식에 대해 궁금합니다.

핵심내용: 딥페이크 범죄 증가, 미성년 피해자 증가

1) 디지털성범죄피해자지원센터: 2018년 4월 이후 2024. 8. 25.까지 딥페이크로 인한 피해 지원 건수는 2018년 69건에서 8월 25일 기준 781건으로 11배 넘게 급증

2) 국회에 제출한 경찰청 자료

: 2021~2023년 3년간 경찰에 신고된 허위영상물 사건 피해자는 총 527명이다. 이 중 10대는 59.8%(315명), 20대는 32.1%(169명) 등으로 다른 연령대보다 10대가 월등히 높은 비중을 차지하고 있다.

알고리즘 편향과 차별의 강화

• 근거: AI 알고리즘이 편향된 데이터를 학습하면 그 편향을 그대로 재생산하거나 강화할 수 있습니다.

• 출처:

  • 책: 캐시 오닐, 《수학 파괴 무기(Weapons of Math Destruction)》, 사이언스북스, 2018년. 이 책에서는 알고리즘이 어떻게 사회적 불평등과 차별을 강화하는지 다양한 사례를 통해 설명하고 있습니다.

  • 논문: Joy Buolamwini & Timnit Gebru, "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification", Proceedings of Machine Learning Research 81:1–15, 2018년. 이 논문은 상업용 얼굴 인식 시스템이 인종과 성별에 따라 정확도에 큰 차이가 있음을 보여줍니다.

혐오 콘텐츠의 자동 확산

• 근거: 소셜 미디어의 추천 알고리즘이 극단적이거나 혐오적인 콘텐츠를 더 많이 노출시킬 수 있습니다.

• 출처:

  • 보고서: Rebecca Lewis, "Alternative Influence: Broadcasting the Reactionary Right on YouTube", Data & Society Research Institute, 2018년. 이 보고서는 유튜브 알고리즘이 극우 성향의 콘텐츠를 어떻게 확산시키는지 분석합니다.

  • 기사: Guillaume Chaslot의 인터뷰 및 연구 내용이 포함된 The Guardian 기사, "YouTube extremism fueled by algorithm, ex-employee reveals", 2018년 2월 2일자.

딥페이크 기술의 악용

• 근거: 딥페이크를 이용한 허위 정보와 가짜 영상이 혐오를 조장할 수 있습니다.

• 출처:

  • 보고서: RAND Corporation, "Deepfakes and Synthetic Media: The Coming Infocalypse", 2020년. 딥페이크 기술의 잠재적 위협과 사회적 영향에 대해 다룹니다.

  • 기사: World Economic Forum, "Why deepfakes are a real threat in 2020", 2020년 1월 10일자. 딥페이크의 위험성과 그로 인한 사회적 문제를 논의합니다.

자동화된 혐오 발언의 확산

• 근거: 봇을 이용한 혐오 발언의 대량 유포는 사회적 갈등을 증폭시킵니다.

• 출처:

  • 보고서: NATO StratCom Centre of Excellence, "Robotrolling" 시리즈 보고서, 정기적으로 발행됨. 소셜 미디어에서 자동화된 계정의 활동과 그 영향에 대해 분석합니다.

  • 기사: The New York Times, "The Follower Factory", 2018년 1월 27일자. 가짜 계정과 봇이 어떻게 소셜 미디어에서 여론을 조작하는지 조사합니다.

프라이버시 침해와 감시 사회의 강화

• 근거: AI 기반 감시 기술이 특정 집단을 표적으로 삼아 혐오를 조장할 수 있습니다.

• 출처:

  • 책: 쇼샤나 주보프, 《감시 자본주의 시대(The Age of Surveillance Capitalism)》, 세종서적, 2020년. 감시 기술의 발전이 개인의 자유와 민주주의에 미치는 영향을 분석합니다.

  • 보고서: Amnesty International, "Surveillance Giants: How the Business Model of Google and Facebook Threatens Human Rights", 2019년. 대규모 감시가 인권에 미치는 영향을 다룹니다.

익명성을 이용한 책임 회피

• 근거: AI 기술을 통해 익명으로 혐오 발언을 하거나 확산시키는 것이 용이해졌습니다.

• 출처:

  • 보고서: Pew Research Center, "Online Harassment 2017", 2017년. 온라인 상의 괴롭힘과 그 영향에 대해 조사합니다.

  • 기사: The Guardian, "How anonymous are you online?", 2014년 4월 23일자. 온라인 익명성이 어떻게 악용되는지 설명합니다.

사회적 분열의 심화

• 근거: 필터 버블 현상이 다양한 관점의 수용을 방해하여 편견을 강화합니다.

• 출처:

  • 책: 엘리 패리저, 《필터 버블(The Filter Bubble)》, 책읽는수요일, 2012년. 인터넷 알고리즘이 어떻게 정보 편향을 일으키는지 설명합니다.

  • 기사: MIT Technology Review, "How Facebook's algorithm suppresses content diversity—and how the platform could fix it", 2018년 10월 23일자. 페이스북 알고리즘이 콘텐츠 다양성을 어떻게 제한하는지 분석합니다.

자동화된 무기와 폭력 수단의 발전

• 근거: AI 기술이 자동화된 무기의 개발을 촉진하여 대규모 피해를 유발할 수 있습니다.

• 출처:

  • 보고서: Human Rights Watch, "Losing Humanity: The Case Against Killer Robots", 2012년. 자율 무기의 윤리적 문제와 그로 인한 위험을 다룹니다.

  • 기사: The Economist, "The dawn of killer robots", 2012년 11월 24일자. 자율 무기의 발전과 그 위험성에 대해 논의합니다.

핵심내용: 50대(560억원, 29.0%) 및 60대 이상(704억원, 36.4%)이

전체의 절반 이상을 차지/ 특히 50, 60대에게는 가족, 지인 사칭 범죄가 많은 상황임.

딥보이스가 이루어진다면 향후 50, 60대 이상 노인의 범죄 피해 증가가 우려됨

딥페이크 범죄를 조장함

• 최근 딥페이크 범죄 증가함, 미성년 피해자가 증가함 (매일경제 기사)

• 경찰청 통계 10대 가해자가 매우 많음(무분별한 범죄 노출 증가)

• 이송은님 주변 피해 사례, 정주은 맡은 사건 사례

혐오 범죄를 조장하는 것이 수단으로서의 실현 가능성을 인공 지능이 범죄의 의도를 가진 사람에게 보장할지라도, 사람에게 혐오 범죄를 하도록 인공 지능 자체가 존재하는 것도 아니며 이 인공 지능의 이용 및 활용 자체는 그 작동의 배후에 작동을 시킨 사람, 즉 진정한 행위자의 의도에 따르는 부가적인 혐오 범죄의 발생이 있을 수 있다고 하더라도 이 인공 지능 기술 자체가 그렇다고 보기에는 어렵다.

AI와 같은 기술 발전의 대표적인 예시가 되는 인터넷은 통신의 획기적인 발전으로 사람들 사이의 소통을 늘려 주었으나, 그와 함께 다른 범죄의 또다른 소굴이 되기도 하였다.

알고리즘 편향과 차별의 강화

AI는 대량의 데이터를 학습하여 의사결정을 내리는데, 이 데이터가 기존의 사회적 편견이나 차별을 포함하고 있다면, AI 역시 이러한 편향을 그대로 학습합니다. 예를 들어, 인종이나 성별에 따른 부정적인 고정관념이 담긴 데이터를 학습한 AI는 특정 집단에 대한 차별적인 판단을 내릴 수 있으며, 이는 사회 전반에 걸쳐 혐오를 조장하는 결과를 초래할 수 있습니다.

혐오 콘텐츠의 자동 확산

소셜 미디어 플랫폼에서 AI는 사용자들의 관심사에 맞춰 콘텐츠를 추천합니다. 그러나 이러한 알고리즘이 혐오적인 내용이나 극단적인 견해를 가진 콘텐츠를 더 많이 노출시키는 경우, 사용자들은 더욱 극단적인 의견에 노출되고, 이는 혐오범죄로 이어질 수 있는 사회적 분위기를 형성합니다.

딥페이크 기술의 악용

AI를 이용한 딥페이크 기술은 실제와 구분하기 어려운 가짜 영상이나 음성을 생성할 수 있습니다. 이러한 기술이 특정 인물이나 집단을 비방하거나 허위 정보를 퍼뜨리는 데 사용된다면, 대중의 오해와 분노를 유발하여 혐오범죄를 촉발할 수 있습니다.

자동화된 혐오 발언의 확산

AI 챗봇이나 자동화된 시스템이 인터넷 상에서 혐오 발언이나 가짜 뉴스를 대량으로 유포할 수 있습니다. 이는 특정 집단에 대한 부정적인 인식을 강화하고, 사회적 갈등을 심화시키며, 결국 혐오범죄로 이어질 수 있습니다.

프라이버시 침해와 감시 사회의 강화

AI 기술의 발전으로 개인의 행동과 정보를 감시하고 수집하는 것이 용이해졌습니다. 이러한 감시 기술이 특정 집단을 표적으로 삼는다면, 그 집단에 대한 불신과 혐오를 조장하고, 이는 물리적인 공격이나 범죄로 발전할 수 있습니다.

익명성을 이용한 책임 회피

AI 기술은 온라인 상에서 익명성을 보장하는 도구로 사용될 수 있으며, 이는 개인들이 책임감 없이 혐오 발언이나 행동을 할 수 있게 만듭니다. 이러한 환경은 혐오범죄를 조장하고 사회적 문제를 악화시킵니다.

사회적 분열의 심화

AI 알고리즘은 사용자들에게 맞춤형 정보를 제공하지만, 이는 '필터 버블' 현상을 일으켜 다양한 관점을 접하는 것을 방해합니다. 그 결과, 사람들은 자신과 다른 집단에 대한 이해가 부족해지고, 편견과 혐오가 강화되어 범죄로 이어질 수 있습니다.

자동화된 무기와 폭력 수단의 발전

AI 기술은 무인 드론이나 로봇과 같은 자동화된 무기의 개발을 촉진하고 있습니다. 이러한 기술이 테러 조직이나 혐오 단체의 손에 들어간다면, 대규모 혐오범죄에 사용될 위험이 있습니다.

AI 기술을 이용한 혐오 범죄는 범죄가 전개된 어느 한 가지의 양상일 뿐이며 사용자인 범죄인의 의도가 있어야 일어납니다.

AI 기술을 이용한 범죄는 그 기술 구조에 대한 이해 및 개입으로 예방할 수 있습니다.

AI 기술 발전으로 혐오 범죄 등 범죄를 예방할 기술들이 꾸준히 개발되고 있습니다.

모든 기술 발전의 부작용은 항상 개선되고 교정되어 왔으며 AI 기술 발전도 다르지 않을 것입니다.