한겨례신문( 인공지능연구소 연구원 말 인용)

경찰청은 “앞으로 빅데이터 플랫폼의 활용 영역을 경찰 전반으로 넓혀 인공지능 치안 서비스를 개발하고, 국민이 체감할 수 있는 선제적 · 예방적 경찰 활동을 전개해 나가겠다.”라고 밝혔다.

• 출처: 대한민국 정책브리핑(2020)

인공지능을 활용한 범죄는 지속적으로 증가하고 있으며, 전 세계 ai범죄 피해 규모는 190조에 이른다.

이 외에 음란물 제작을 비롯하여 다양한 피해가 있으나 피해자를 특정하지 못하여 처벌이 어렵다는 문제도 있다.

출처-글로벌이코노믹 뉴스, 문화일보, 한국 AI교육협회

• CCTV 기반 AI 인식시스템으로 국내 범죄예측 역사 열어

  
  

• ​데이터를 기반으로 인공지능이 판독하는 시스템

  
  

• 최근 국내에서 범죄를 예측할 수 있는 시스템이 선을 보여 관심이 쏠리고 있다. 경찰청이 개발한 ‘범죄 위험도 예측분석 시스템(Pre-CAS)’이라는 명칭의 이 시스템은 범죄통계나 112신고 같은 치안 데이터와 인구 및 기상 등의 공공데이터를 통합한 빅데이터를 인공지능(AI)이 분석하여 범죄위험도를 예측한 것이 특징이다.

  
  

• 출처: 사이언스타임즈

인공지능과 빅데이터를 활용하여 범죄를 효과적으로 예측하고 방지할 수 있다.

출처-이데일리

지구 종 프로젝트(ESP: The Earth Species Project)도 생물 다양성을 모니터링하는 데에 AI 도구를 활용하고 있다. 지구 종 프로젝트는 인간이 아닌 다른 종에 대한 이해와 다른 종과의 의사소통이 우리와 자연 간의 관계를 변화시킬 것이라는 목적 아래 AI를 도입하고 있다. 위 프로젝트는 궁극적으로 동물의 의사소통에 대한 깊은 이해를 기반으로 다른 생물종과 소통하고 그들을 보호하는 데 도움을 주고자 하고 있다.

• 출처: 사이언스타임즈

디지털성범죄자지원센터 딥패이크 패해 지원 요청 10대 현황에 따르면,

2024년 1월-8월25일 기준, 전체 781명중 288명 차지.

2022년: 전체212명 중 10대 64명 -> 2024년 전체 288명 중 781명으로(2년 사이 3~4배 증가)

출처 아시아 투데이 2024.8.28.

https://www.asiatoday.co.kr/view.php?key=20240829010016008

이를 통해 업무분담을 줄이고 보다 효율적인 수사를 진행할 수 있음을 기대하고 있다.

출처-법률저널, 검찰청

AI 기술은 그 자체로 중립적입니다. AI의 개발 및 적용은 사람의 의도와 사용에 따라 다르게 나타납니다. 즉, AI 기술이 혐오범죄를 조장한다기보다는 이를 악용하는 특정 개인이나 집단의 행동이 문제입니다.

Q. (반박) AI 기술의 악용 가능성은?

기술 자체의 악용 가능성은 모든 기술에 내재된 문제입니다. 그러나 이는 기술이 본질적으로 혐오범죄를 조장한다고 볼 수는 없습니다. 대신, 사회는 이러한 악용을 방지하기 위한 법적, 윤리적 규제를 강화할 수 있으며, 이는 기술 사용의 책임을 명확히 하는 데 기여합니다.

Q. (반박) 혐오 발언의 확산 가능성은?

AI 알고리즘은 사용자 데이터를 기반으로 작동하지만, 이는 사용자 경험을 개선하기 위한 것이며, 정책적으로 이를 제어할 수 있는 방안이 필요합니다. 예를 들어, 플랫폼 기업들은 알고리즘의 투명성을 높이고, 혐오 발언을 감지하고 차단하는 시스템을 구축함으로써 이러한 문제를 해결할 수 있습니다.

*출처: 사이언스타임즈https://scienceon.kisti.re.kr/srch/selectPORSrchTrend.do?cn=SCTM00218861

: 정부와 사회는 AI 기술의 발전에 따라 관련 법률과 윤리적 기준을 강화하고 있습니다. 이는 AI 기술이 혐오범죄를 조장하는 것이 아니라, 그 사용을 적절하게 통제하는 방향으로 나아가고 있음을 보여줍니다.

2. 투명한 알고리즘

   : AI 시스템의 투명성을 높여 혐오범죄의 원인을 분석하고 예방할 수 있는 기반을 마련할 수 있습니다. 이는 기술이 혐오범죄를 조장하지 않도록 하는 데 기여합니다.

인공지능은 범죄를 조장하는 목적으로 만들어진 것이 아니다. 인공지능은 도구일 뿐이며 중요한 것은 사용자의 의도이다.
딥페이크 기술의 경우 범죄에 악용될 수 있지만, 동시에 실종 아동의 예상 얼굴을 만들어내거나, 역사적 인물의 얼굴을 복원하는 데 사용되는 등 긍정적인 활용도 많다.

10대들도 활발하게 이미지, 영상을 생성한다는 점에서 혐오범죄를 저지르기 쉬워졌다는 사실은 인정한다. 방금 딥페이크 소스코드 실행 영상을 봤는데 경로만 맞춰주면 정말로 쉽게 이미지가 만들어진다는 것을 확인했다. 그러나 '사용하기 쉬운 도구'는 인공지능 그 자체의 특징이지 범죄를 조장한다는 것에는 동의할 수 없다.

혐오범죄와 같은 사례를 들어서 인공지능이 범죄를 조장한다고 주장하는 것은 편향적이며 과도한 일반화라고 생각한다.

사용하는 사람이 악의가 있든 없든 피해자의 입장에서 봤을때는 혐오범죄를 당한입장에서는 이미 혐오범죄피해자임.

최근 10대 청소년들이 또래집단에 끌려가는 모방범죄가 발생하는 사례가 다수 존재함.

혐오범죄(인종,젠더 등) 차별을 심화시키고 사람들은 자신도 모르게 그런 잘못된 정보에 노출됨으로 잘못된 인식이 자리잡게 되고 그것이 범죄로 이어질 수 있음

실제 AI로 만든 학교교장의 인종차별발언이 사회적 큰 파장을 불러일으키기도 함.

인터넷, 소셜 미디어 등도 범죄에 악용될 수 있지만, 기술 자체가 본질적으로 범죄를 조장하는 것은 아닙니다. AI도 마찬가지로, 딥페이크 같은 기술이 악용된다면, 이는 범죄 행위자의 책임이며 기술 자체의 문제는 아닙니다.

AI 기술 발전이 혐오범죄를 조장하지 않는다는 입장은 기술의 중립성, 예방 및 감시 기능, 법적 기준 강화를 통해 뒷받침됩니다. AI는 혐오범죄를 예방하고 사회적 인식을 높이는 데 기여할 수 있으며, 이는 혐오범죄의 감소로 이어질 수 있습니다.

이러한 우려는 기술 자체의 문제라기보다는 그 사용에 대한 책임과 규제의 문제로 볼 수 있습니다. 따라서 AI 기술을 보다 안전하게 활용하고, 사회적 변화를 이끌어내는 방향으로 나아가는 것이 중요합니다.

요리사의 칼과 범죄자의 칼은 다릅니다. 따라서 칼을 안전하게 잘 다룰 수 있는 윤리의식을 함양하는 교육 및 법적 강화가 필요합니다.