# data[].attributes.body
1. 김율 사회문화분과

2. 요약을 잘 한다

3. 다른 사람의 의견을 잘 경청하기

# data[].attributes.body
1. 사회문화 분과

2. 여러 분야에 관심이 많다.

3. 다른 분과원들의 의견에 적극적으로 반응하기

# data[].attributes.body
1. 경제계층

2. 아직 퇴근 못하고 있음

3. 상대의 말을 끝까지 경청하고 집중하는 자세

# data[].attributes.body
1. 황준환, 사회문화분과

2. 저희 집 강아지가 정말 귀엽습니다.

3. 경청하고 공감하기

# data[].attributes.body
1. 정치지역분과

2. 다른 사람의 의견을 잘 경청한다.

3. 여러 의견을 존중하며 적극적으로 임하기.

# data[].attributes.body
1. 최기철 정치지역분과

2. 새벽에 일어나서 운동다녀옴

3. 모든 의견을 경청하기

# data[].attributes.body
1. 정치지역분과

2. 다양한 분야를 경험해보았다.

3. 모두의 의견을 편견 없이 듣기.

# data[].attributes.headline
조선일보_인공지능의 데이터 편향성으로 편견과 차별을 심화

# data[].attributes.subject
조선일보_인공지능의 데이터 편향성으로 편견과 차별을 심화

# data[].attributes.attachment_link.title
인간에 오염된 데이터로 학습… “편향 없는 AI는 불가능”

# data[].attributes.attachment_link.description
인간에 오염된 데이터로 학습 편향 없는 AI는 불가능 AI의 편견과 차별, 왜 못 막나

# data[].attributes.headline
BBC뉴스_AI 딥페이크로 조작한 인종차별 발언 영상으로 분열된 지역의 사례

# data[].attributes.subject
BBC뉴스_AI 딥페이크로 조작한 인종차별 발언 영상으로 분열된 지역의 사례

# data[].attributes.attachment_link.title
AI : 딥페이크로 조작한 인종차별 발언 영상, 미국의 한 지역을 완전히 분열시키다 - BBC News 코리아

# data[].attributes.attachment_link.description
미국의 한 학교 교장이 인종적 비하 발언을 하는 AI로 조작된 오디오 클립이 온라인에 퍼지면서 교사들이 살해 협박을 받는 등 인근 지역으로 큰 파문이 일었다.

# data[].attributes.headline
AI타임스_인공지능의 데이터 편향성으로 실제로 차별 및 혐오를 조장하는 사례

# data[].attributes.subject
AI타임스_인공지능의 데이터 편향성으로 실제로 차별 및 혐오를 조장하는 사례

# data[].attributes.attachment_link.readable_text
instagram naverpost twitter youtube instagram naverpost twitter youtube
MS '테이'챗봇, 트위터서 배운대로···인종차별·여성혐오 막말트윗 쏟아내?

아마존 AI, 남성위주 데이트 세트로 학습···여성 지원자 등급 하향 낙방

타겟, 고객데이터 반영 임신소녀에 산모용품 광고우편물··가족들 '날벼락'

美정부 의료지원 AI, 보험료 보고 대상 선별···실수요 저소득 흑인 누락?

英정부, SW 데이터 한도 모르고 쓰다가 코로나19 데이터 대규모 분실?

▲MS '테이' 챗봇은 트위터에서 배운대로 인종차별·여성혐오 막말트윗 쏟아내면서 AI의 위험성을 새삼 부각시킨 사례로 꼽힌다. 사진=쿼츠

'챗봇은 온라인에서 얻은 무분별한 데이터를 소화해 인종차별·여성혐오 트윗을 쏟아냈다. 남성 직원 위주의 데이터세트로 학습한 채용 도우미 인공지능(AI)가 여성 지원자를 낙방시키고 남성만 채용했는가 하면, 매장 고객 데이터 분석을 통해 임신한 소녀에게 임산부용품 마케팅 우편물을 보내면서 상황을 모르고 있던 가족들을 혼비백산하게 만들었다. 영국에선 정부가 집계한 코로나19 검진 데이터가 대규모로 사라졌는가 하면, 미국에선 의료지원이 꼭필요한 저소득층 흑인이 오히려 차별적으로 누락되는 사태가 발생했다.'

CIO닷컴은 22일(현지시각) 지난 10년간 인공지능(AI) 데이터 분석 및 머신러닝 관련 최악의 사고 5건을 이같이 꼽았다. 물론 테슬라의 자율주행전기차가 사람을 친 사고 등이 포함돼야 할 것 같긴 하지만 여기에선 빠져 있다.

지난 10년간 AI 데이터분석과 기계학습에서 무엇이 잘못될 수 있는지를 잘 보여주면서 반면교사(反面敎師)로 삼을 만한 데이터분석 및 AI의 실책 사고 5건을 소개한다.

◆ MS 챗봇 '테이', 인종차별·여성혐오 트윗 쏟아내다

지난 2016년 3월 마이크로소프트(MS)는 트위터와의 상호작용을 머신러닝 알고리즘 훈련 데이터로 활용하면 실망스러운 결과를 가져올 수 있다는 사실을 새삼 확인했다. 이는 전 세계를 놀래키면서 AI의 위험성을 새삼 알린 대표적 사례로 꼽힌 챗봇 '테이(Tay)' 얘기다.
당시 MS는 소셜 미디어 플랫폼에 테이를 공개하면서 '대화를 통한 이해'에 대한 실험을 위한 것이라고 설명했다. 챗봇이 10대 소녀라고 가정하고, 기계학습과 자연어 처리의 조합을 이용해 트위터 상에서 개인들과 교류한다는 것이었다.

MS는 테이에 익명화된 공공 데이터와 코미디언들이 미리 작성한 자료를 심어놓고, 소셜 네트워크 상에서 상호 작용을 통해 배우고 진화하도록 풀어놓았다.

테이는 16시간 동안 무려 9만5000개가 넘는 트윗을 올렸는데 그 트윗들은 점차 노골적 인종차별주의, 여성혐오주의, 반유대주의로 급변하기 시작했다. MS는 조정을 위해 신속하게 서비스를 멈췄고, 결국 사용을 중단하기에 이르렀다.

사고가 발생하자 피터 리 MS 리서치앤인큐베이팅스(당시 MS 헬스케어) 부사장은 MS 공식 블로그에 올린 글에서 "우리가 어떤 사람인지, 우리가 무엇을 옹호하는지, 어떻게 우리가 테이를 설계했는지를 나타내지 않은 것이며, 의도치 않게 공격적이고 상처를 준 테이의 트윗에 대해 깊이 사과드린다"고 썼다.

리 부사장은 "테이가 나오기 2년 전인 지난 2014년 MS가 중국에서 출시한 테이 전작인 샤오이스(小?)가 4000만명 이상의 사람들과 성공적으로 대화를 나눴다"고 언급했다.

하지만 MS가 놓쳤던 게 있었다. 그것은 일단의 트위터 사용자들이 즉시 테이에게 인종차별주의적이고 여성 혐오적인 발언을 트윗하기 시작할 것이라는 점이었다. 챗봇은 그 자료로부터 재빨리 '배웠고' 그것을 자신의 트윗에 포함시켰다.

리 부사장은 "우리는 여러 종류의 시스템 남용에 대비했지만, 이 중대한 특정 공격을 간과했다. 그 결과 테이는 대단히 부적절하고 비난받을 만한 말과 이미지를 트위터에 올렸다"며 자세를 낮췄다.

◆ 아마존 직원 채용 AI가 오히려 불공정···여성 빼고 남성만

▲아마존이 채용을 위해 개발한 AI는 남성위주 데이트 세트로 학습하면서 여성 지원자를 차별했고 개선의 여지가 없다고 본 아마존은 이를 폐기했다. 사진=아마존

많은 대기업들처럼, 아마존은 최고의 후보자들을 뽑기 위한 인사 검증을 도울 도구를 갈망해 왔다. 지난 2014년 아마존은 바로 그 일을 하기 위해 AI 기반 채용 소프트웨어(SW) 개발에 착수했다. 그런데 문제가 터졌다. 이 시스템은 남성 후보자들을 크게 선호했다. 로이터통신은 아마존이 4년만인 2018년 결국 이 프로젝트를 폐기했다고 전했다.

아마존의 시스템은 후보자들에게 1점부터 5점까지의 별점을 주었다. 그러나 이 시스템의 핵심에 있는 기계 학습 모델들은 아마존에 제출된 지난 10년 치 이력서에 대한 교육을 받았는데, 불행하게도 대부분 남성들의 것이었다. 그러한 배경을 가진 훈련 자료로 교육받은 이 AI 시스템은 이력서에 '여성'이라는 단어가 포함된 문구를 처벌하기 시작했고, 심지어 여대 출신 지원자들의 점수 등급을 낮추기까지 했다.

당시 아마존은 아마존 채용 담당자들이 채용 후보 평가를 위해 이 도구를 사용한 적이 없다고 주장했다.

이 회사는 AI채용 툴을 중립적으로 만들기 위해 편집하려 했지만, 결국 이 AI가 채용 후보자들을 분류하는 다른 차별적 방법을 배우지 않으리란 보장이 없다고 판단하고 이 프로젝트를 폐기했다.

◆ 타겟, 놀랄 만한 고객데이터 수집·분석 활용···사생활보호는 어디에

지난 2012년, 미국의 소매 유통 거인 타겟의 분석 프로젝트는 기업이 데이터를 통해 고객들에 대해 얼마나 많이 배울 수 있는지를 잘 보여주었다.

뉴욕타임스에 따르면 타겟의 마케팅 부서는 어떻게 고객의 임신 여부를 알 수 있을지 궁금해 하기 시작했다.

그 일련의 조사결과 타겟은 이후 10대 소녀의 가족에게 그녀가 임신했다는 것을 무심코 밝히게 되면서 유명해진 예측 분석 프로젝트를 추진하게 된다.

타겟의 마케팅 부서가 고객들 중에서 임산부들을 확인하고 싶어한 것은 특히 임신기간 중 여성 소비자들이 구매 습관을 근본적으로 바꿀 가능성이 가장 높은 기간이기 때문이란 점 때문이었다. 타겟이 그 기간 동안 고객에게 손을 뻗칠 수 있다면, 예를 들어 이 고객들이 식료품, 의류 또는 기타 상품을 타겟에서 사도록 하는 새로운 행동을 개발해 낼 수 있을 것이기 때문이었다.

다른 모든 대형 소매업체들과 마찬가지로 타겟은 쇼핑객 코드, 신용카드, 설문 조사 등을 통해 고객 데이터를 수집해 왔다. 그 데이터를 인구통계학적 데이터와 외부에서 사들인 제3자 데이터로 덮어버렸다.

▲타겟 데이터분석팀이 고객데이터를 반영해 임신한 것으로 보이는 소녀에게 산모용품 광고우편물을 보냈는데 실제로 그녀가 임신중인 것이 드러나면서 프라이버시 문제가 재부각되는 등 파문이 일었다. 사진은 기사내 특정 내용과 무관하다. 사진=위키피디아

타겟 분석 팀은 이 모든 데이터들을 분석했다. 그리고 자신들이 판매한 25개 정도의 제품을 함께 분석해 '임신 예상'점수를 만들어낼 수 있었다. 마케팅 부서는 이에 따라 이 예측 점수가 높은 고객을 타깃으로 삼아 쿠폰과 마케팅 메시지를 보냈다. 그 결과 집으로 보내진 우편물로 인해 소녀의 가족들이 그녀의 임신 사실을 알고 소스라치게 된다.

추가적 연구는 고객의 임신 상태를 연구하는 것이 그러한 고객들 중 일부에게 오싹함을 느낄 수 있다는 것을 밝혀내게 될 것으로 보인다.

뉴욕타임스에 따르면, 타겟은 이제 데이터분석 결과를 더욱 교묘하게 사용하기 시작했다. 즉, 목표한 마케팅 대상고객에게서 물러서지 않고, 광고가 무작위로 보내진 것처럼 보이도록 하기 위해 혼합광고를 보내기 시작했다. 예를 들어 임산부 고객들이 살 기저귀 광고를 하면서 그 옆에 이들이 사지 않을 것임을 (분명히) 알고 있는 잔디깎이 기계 같은 것들을 섞어 광고하기 시작했다.

◆ 美 의료지원 AI, 흑인 환자 차별

지난해 사이언스 지에 발표된 연구에 따르면, 미국 전역의 병원과 보험사가 '고위험 진료 관리' 프로그램을 필요로 하는 환자 식별용으로 사용하는 건강관리 예측 알고리즘이 흑인 환자를 선별할 가능성은 훨씬 낮았다.

고위험 관리 프로그램은 만성 질환 환자들의 심각한 합병증 예방을 위해 이들에게 훈련된 간호 인력과 일차 관리 모니터링을 제공한다. 그러나 이 알고리즘은 이런 프로그램에 흑인 환자보다 백인 환자를 추천할 가능성이 훨씬 높았다.

AI를 사용해서 공정하고 공평하게 일을 처리하려 한 게 오히려 불공정을 심화시킨 결과로 나온 것이다.
연구결과 AI 알고리즘이 개인의 건강관리 필요성을 판단하는 근거지표로 건강관리 지출비(여부와 다과)를 사용했다는 것을 발견했다. 그러나 사이언틱아메리카에 따르면 병든 흑인들의 건강관리 비용은 더 건강한 백인들의 비용과 맞먹는다. 즉, 흑인들이 선택돼야 할 필요성이 더 큰데도 더 낮은 위험 점수를 받아 배제됐다는 것이다.

연구원들은 왜 이렇게 됐는지에 대한 가능성있는 몇 가지 요인들을 꼽았다.

첫째, 유색인종은 소득이 더 낮을 가능성이 높으며, 이는 보험에 가입되어 있을 때에도 의료서비스에 접근할 가능성이 더 낮아지게 할 수 있다. 또한 암묵적 편견은 유색인종들이 질 낮은 치료를 받게 할 수도 있다.

이 연구는 알고리즘이나 개발자의 이름을 밝히지 않았지만, 연구원들은 이 상황을 해결하기 위해 개발자와 함께 일하고 있다고 말했다.

◆ 영 공중보건국, MS 스프레드시트 쓰다가 "앗뜨거"···모든 시스템 전면 조사

코로나19 신규 확진자 집계를 담당하는 영국 공중보건국(Public Health England·PHE)은 지난 달 25일부터 이달 2일까지 거의 1만6000건의 코로나19 바이러스 환자가 보고되지 않았다고 밝혔다. 문제는 바로 마이크로소프트(MS) 엑셀의 데이터 한도 초과에 있었다.

PHE는 자동화된 프로세스를 사용해 CSV 파일로 실험실의 코로나19 확진자 결과를 보고용 대시보드와 연락처 추적용으로 사용되는 MS 엑셀 템플릿으로 전송한다. 불행하게도 엑셀 스프레드시트는 워크시트 당 최대 104만 8576개 행과 1만 6384개의 열 밖에 수용하지 못한다.

더구나 PHE는 행이 아닌 열에 사례를 나열하고 있었다. 엑셀은 1만 6384개 열의 한도를 넘기자 그 하단의 1만5841개 코로나19 검진자 기록을 끊어버렸다.

이 장애에도 불구하고 검사받은 개인은 그 결과를 받아 볼 수 있었지만, 접촉자 추적을 어렵게 만들었고, 영국 의료보험공단(NHS)이 감염 환자와 밀접하게 접촉한 개인을 식별하고 통보하는 데 어려움을 겪었다.

마이클 브로디 PHE 임시 최고경영자(CEO)는 지난 4일 발표문을 통해 "NHS테스트추적 부서와 PHE는 이 문제를 신속히 해결하고 모든 미결 사례를 즉시 NHS테스트추적 시스템으로 이전했다"고 밝혔다.

PHE는 대용량 파일을 분할하는 '급속 완화(rapid mitigateion)'조치를 시행하고, 향후 유사한 사건이 재발방지를 위해 모든 시스템에 대해 전면적인 검사를 실시했다.

◆ 사고는 데이터와 머신러닝 알고리즘 통찰력의 명암 반면교사

데이터와 머신러닝 알고리즘의 통찰력은 더할나위없이 귀중할 수 있지만 실수는 평판, 수익 , 심지어 생명을 앗아갈 수도 있다. 이런 세간의 이목을 끄는 분석과 AI 실수는 무엇이 잘못될 수 있는지를 잘 보여주면서 향후 실수와 재난에 대비할 수 있게 한다.

지난 2017년 영국의 더이코노미스트는 석유가 아닌 데이터가 세계에서 가장 가치 있는 자원이 됐다고 선언했다. 이후 이 말은 반복됐다. 산업계 전 업종의 조직들은 데이터와 분석에 많은 투자를 해왔고 지속적으로 투자하고 있다. 하지만 데이터와 분석도 석유처럼 어두운 면을 가지고 있다.

IDG의 'CIO 2020상황' 보고서에 따르면 IT 리더 가운데 37%가 올해 자신의 조직 IT투자에서 가장 많은 부문이 데이터 분석이라고 말했다.

머신러닝 알고리즘에 의해 추진되는 분석과 활동에서 얻은 통찰력은 조직에 경쟁 우위를 줄 수 있지만, 실수는 평판, 수익 또는 심지어 삶의 측면에서 비용이 많이 들 수 있다.

사용자들이 데이터와 그것이 말해주는 의미를 이해하는 것도 중요하지만, 사용하는 툴을 이해하고, 데이터를 알고, 그들의 조직의 가치를 확고히 하도록 명심하는 것도 중요하다.

Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com)
무단전재 및 재배포 금지

기사제보 및 보도자료 news@aitimes.com

▲MS '테이' 챗봇은 트위터에서 배운대로 인종차별·여성혐오 막말트윗 쏟아내면서 AI의 위험성을 새삼 부각시킨 사례로 꼽힌다. 사진=쿼츠

▲아마존이 채용을 위해 개발한 AI는 남성위주 데이트 세트로 학습하면서 여성 지원자를 차별했고 개선의 여지가 없다고 본 아마존은 이를 폐기했다. 사진=아마존

▲타겟 데이터분석팀이 고객데이터를 반영해 임신한 것으로 보이는 소녀에게 산모용품 광고우편물을 보냈는데 실제로 그녀가 임신중인 것이 드러나면서 프라이버시 문제가 재부각되는 등 파문이 일었다. 사진은 기사내 특정 내용과 무관하다. 사진=위키피디아

# data[].attributes.attachment_link.title
반면교사···지난 10년간 발생한 최악의 인공지능(AI) 사고 5건은?

# data[].attributes.attachment_link.description
'챗봇은 온라인에서 얻은 무분별한 데이터를 소화해 인종차별·여성혐오 트윗을 쏟아냈다. 남성 직원 위주의 데이터세트로 학습한 채용 도우미 인공지능(AI)가 여성 지원자를 낙방시키고 남성만 채용했는가 하면, 매장 고객 데이터 분석을 통해 임신한 소녀에게 임산부용품 마케팅 우편물을 보내면서 상황을 모르고 있던 가족들을 혼비백산하게 만들었다.

# data[].attributes.body
AI는 흑인영어를 구사하는 사람은 질이 나쁜 일자리를 소개받거나 동일한 범죄라도 재판에서 중형을 선고받을 것으로 예측함

한겨례신문( 인공지능연구소 연구원 말 인용)

# data[].attributes.attachment_link.title
AI의 인종차별은 사람보다 더 은밀하고 견고하다

# data[].attributes.attachment_link.description
챗지피티(GPT) 등 최첨단 인공지능에서 명시적 인종 차별은 사라졌지만, 은밀한 차별은 여전하다는 연구 결과가 공개돼 논란이 일고 있다. 이들이 학습한 데이터는 인종·성·계급 등 사회에 만연한 차별과 혐오를 답습하고 있어 공정성에 대한 우려가 지속적으로 제기되어왔다.

# data[].attributes.headline
경찰청, 빅데이터 플랫폼 구축하고 인공지능(AI) 범죄 예방 시범운영

# data[].attributes.subject
경찰청, 빅데이터 플랫폼 구축하고 인공지능(AI) 범죄 예방 시범운영

# data[].attributes.body
요약: ‘경찰청 빅데이터 플랫폼’의 데이터와 분석기능을 활용해 범죄 위험을 예측

경찰청은 “앞으로 빅데이터 플랫폼의 활용 영역을 경찰 전반으로 넓혀 인공지능 치안 서비스를 개발하고, 국민이 체감할 수 있는 선제적 · 예방적 경찰 활동을 전개해 나가겠다.”라고 밝혔다.

출처: 대한민국 정책브리핑(2020)

# data[].attributes.attachment_link.title
경찰청, 빅데이터 플랫폼 구축하고 인공지능(AI) 범죄 예방 시범운영

# data[].attributes.attachment_link.description
경찰청, 빅데이터 플랫폼 구축하고 인공지능(AI) 범죄 예방 시범운영- 치안분야 빅데이터를 인공지능 기술로 분석하는 ‘빅데이터 플랫폼’ 1단계 구축- 예방적 현장활동의 초석인 ‘범죄위험도 예측분석 시스템’ 시범 운영- ‘벤처형 조직’ 운영을 통한 효과적인 사업 수행으로 성과 창출경찰청(청장 김창룡)은 빅데이터와 인공지능 기술을 경찰 업무에 접목하기 위한 ’

# data[].attributes.headline
한보라_딥페이크(ai기술) 10대 범죄 증가

# data[].attributes.subject
한보라_딥페이크(ai기술) 10대 범죄 증가

# data[].attributes.body
‘쉬운 음란 (딥페이크)영상물 제작에 단체방 공유 등의 범죄 증가.

디지털성범죄자지원센터 딥패이크 패해 지원 요청 10대 현황에 따르면,

2024년 1월-8월25일 기준, 전체 781명중 288명 차지.

2022년: 전체212명 중 10대 64명 -> 2024년 전체 288명 중 781명으로(2년 사이 3~4배 증가)

출처 아시아 투데이 2024.8.28.

https://www.asiatoday.co.kr/view.php?key=20240829010016008

# data[].attributes.attachment_link.title
‘AI 얼굴 합성’ 앱 하나로 뚝딱… 철없는 10대들의 ‘범죄놀이’

# data[].attributes.attachment_link.description
딥페이크(Deepfake) 기술을 악용한 범죄의 가해자와 피해자가 모두 10대 청소년인 사례가 지속 증가하면서 딥페이크 기술이 단순한 오락을 넘어 심각한 사회적 문제로 부각되고 있…

# data[].attributes.headline
(혐오 범죄 예방과 감시) 빅데이터와 AI로 범죄발생 예측한다

# data[].attributes.subject
(혐오 범죄 예방과 감시) 빅데이터와 AI로 범죄발생 예측한다

# data[].attributes.body
https://scienceon.kisti.re.kr/srch/selectPORSrchTrend.do?cn=SCTM00218861

CCTV 기반 AI 인식시스템으로 국내 범죄예측 역사 열어

​데이터를 기반으로 인공지능이 판독하는 시스템

최근 국내에서 범죄를 예측할 수 있는 시스템이 선을 보여 관심이 쏠리고 있다. 경찰청이 개발한 ‘범죄 위험도 예측분석 시스템(Pre-CAS)’이라는 명칭의 이 시스템은 범죄통계나 112신고 같은 치안 데이터와 인구 및 기상 등의 공공데이터를 통합한 빅데이터를 인공지능(AI)이 분석하여 범죄위험도를 예측한 것이 특징이다.

출처: 사이언스타임즈

# data[].attributes.attachment_link.readable_text
2021-03-15

아직 발생하지 않은 범죄를 미리 파악하여 예방할 수 있을까. 이처럼 꿈속에서나 가능할 법한 상상력을 주요 내용으로 다룬 작품이 있다. 바로 지난 2002년에 개봉하여 공전의 히트를 기록한 '마이너리티 리포트(Minority Report)'다.
이 영화는 원래 1956년 공상과학 소설가인 '필립 딕(Philip Dick)'의 동명소설을 영상으로 만든 것으로서, 범죄를 예측하는 시스템이라는 개념을 처음 소개하여 주목을 끌었다. 이 시스템은 현실에서 아직 발생하지 않은 범죄를 미리 알아내는 장치로서, 영화에서는 '프리크라임(pre-crime)'이라는 이름으로 불렸다.
그런데 최근 국내에서도 이처럼 범죄를 예측할 수 있는 시스템이 선을 보여 관심이 쏠리고 있다. 경찰청이 개발한 '범죄 위험도 예측분석 시스템(Pre-CAS)'이라는 명칭의 이 시스템은 범죄통계나 112신고 같은 치안 데이터와 인구 및 기상 등의 공공데이터를 통합한 빅데이터를 인공지능(AI)이 분석하여 범죄위험도를 예측한 것이 특징이다.

CCTV 기반 AI 인식시스템으로 국내 범죄예측 역사 열어

국내 범죄예측의 선두주자는 전자통신연구원(ETRI)이다. ETRI는 과거 CCTV를 활용한 AI 인식시스템으로 국내 범죄 예측 시스템 개발 역사의 새로운 장을 열었다.
과거보다 CCTV도 다양한 기능이 적용되면서 많이 발전했지만, 아직도 관제요원의 보조 수단으로 사용되는 경우가 대부분이다. 하지만 ETRI의 AI 인식시스템이 도입되면 완전히 독립적인 예측 수단으로 사용될 것으로 보인다.
범죄자 도주 경로를 실시간 알려주는 미국의 'DAS 범죄정보 시스템'처럼 빅데이터와 AI가 결합한 범죄예측 시스템 개발이 국내에서도 멀지 않았기 때문이다.
'DAS 범죄정보 시스템(Domain Awareness System)'이란 지난 2012년 뉴욕 경찰청이 마이크로소프트(MS)사와 공동으로 개발한 최첨단 범죄감시 시스템으로서, 빅데이터를 통해 범죄를 막는다는 개념에서 시작되었다.
ETRI의 AI 인식시스템을 더욱 쉽게 이해하려면 약간의 가정이 필요하다. 만약 새벽 1시 으슥한 골목에서 앞서가는 여자를 지속해서 쫓아가는 남자가 있다고 가정해 보자. 마스크로 입을 가리고 모자로 얼굴을 숨기고 있다면 범죄 확률이 높다고 가정할 수밖에 없다. 또한 과거 그 지역이 동일 범죄 발생이 많았던 지역이었다면 범죄확률은 더 치솟을 것이다.
그러나 이런 상황이 환한 대낮인 오후 2시경에 벌어졌다면 어떻게 됐을까. 아마도 범죄 확률은 대폭 줄어들 수밖에 없을 것이다. 시간대별로 범죄가 발생할 가능성이 높은지 또는 낮은지를 AI가 판단하여 신고 여부를 결정하는 것이다.
이 외에도 ETRI는 현재 원천기술로 확보한 '사람 재식별 기술(Person Re-ID)'을 활용하여 전자발찌 착용자처럼 고위험군 특정인의 경로 분석이 필요할 시, 즉각적으로 사람을 찾을 수 있는 시스템도 개발하고 있다. 다양한 범죄 유형을 학습시켜 예측 정확도를 끌어올린 뒤, 오는 2022년까지 개발을 완료할 예정인 것으로 알려졌다.

​ 데이터를 기반으로 인공지능이 판독하는 시스템

경찰청이 최근 공개한 '범죄 위험도 예측분석 시스템(Pre-CAS)'은 ETRI의 CCTV를 활용한 AI 인식시스템에서 한 단계 더 진화한 범죄예측 시스템이라고 할 수 있다.
위험도 예측을 위한 분석 데이터 종류로는 크게 치안 데이터와 공공데이터가 있다. 치안 데이터에는 112 신고 건수나 유흥시설 수, 또는 교통사고 건수나 경찰관 숫자 등이 포함된다.
또한 공공데이터에는 해당 지역 인구수나 날씨와 요일, 그리고 실업률 및 고용률 등이 있다. 이 외에도 건물 노후 정도나 공원 숫자, 관광지 및 소상공인 업소의 숫자 등이 모두 공공데이터에 해당된다.
이처럼 치안데이터와 공공데이터를 기반으로 경찰청은 Pre-CAS를 개발했다. 'Pre-CAS(Predictive Crime Risk Analysis System)'는 일정한 구역별로 범죄위험도 등급을 1에서부터 10까지 나눠 2시간 간격으로 표시하도록 설계되었다.
범죄위험도가 높은 장소와 경로는 순찰차 내비게이션에 자동으로 전달하여 범죄취약지에 대한 선제적인 순찰이 가능하다. 일정한 구역이란 10㎢에 해당하는 지역 면적을 가리킨다.
또한, 시간과 장소별로 범죄와 무질서 발생 건수를 예측하여, 경찰관 배치 등을 통해 사전에 대비할 수도 있다는 것이 범죄 위험도 예측분석 시스템의 장점이다.
특히 지역의 방범시설 현황과 112 신고내역, 그리고 범죄예방 진단 결과 등을 하나의 화면에서 비교할 수 있는 점은 다른 예측분석 시스템에서는 찾아볼 수 없는 범죄 위험도 예측분석 시스템의 특징이다.
예를 들어 범죄위험도가 높지만, CCTV가 부족한 장소나 질서위반 112신고가 많지만, 관리 장소에서 제외된 곳, 또는 순찰이 미흡한 장소의 도출과 같이 세밀하고 심층적인 분석도 가능하다는 것이 경찰청 측의 설명이다.
경찰청의 발표에 따르면 3월 한 달 동안 울산과 경기 북부, 그리고 충남청 등 3개 시·도의 경찰청에서 범죄 위험도 예측분석 시스템을 시범 운영하는 것으로 나타났다.
향후 계획에 대해 살펴보면 경찰청은 범죄예방 및 교통 등 자치경찰 분야의 역량을 강화하기 위해, Pre-CAS 같은 첨단 시스템을 개발하는 등 현장 지원 역할에 집중한다는 계획이다.
반면에 시·도 경찰청은 경찰청에서 제공한 시스템 활용을 통해 지역 특성을 반영한 맞춤형 치안 전략을 수립함으로써 자치경찰제가 안착하는데 많은 기여를 할 것으로 기대하고 있다.

# data[].attributes.attachment_link.title
[동향]빅데이터와 AI로 범죄발생 예측한다

# data[].attributes.attachment_link.description
아직 발생하지 않은 범죄를 미리 파악하여 예방할 수 있을까. 이처럼 꿈속에서나 가능할 법한 상상력을 주요 내용으로 다룬 작품이 있다. 바로 지난 2002년에 개봉하여 공전의 히트를 기록한 '마이너리티 리포트(Minority Report)'다.이 영화는 원래 1956년 공상과학 소설가인 '필립 딕(Philip Dick)'의 동명소설을 영상으로 만든 것으로서, 범죄를 예측하는 시스템이라는 개념을 처음 소개하여 주목을 끌었다.

# data[].attributes.headline
(의사소통의 발전) 동물과의 의사소통을 위해서 AI를 이용한다?

# data[].attributes.subject
(의사소통의 발전) 동물과의 의사소통을 위해서 AI를 이용한다?

# data[].attributes.body
요약: AI 도구를 통해 동물들과 소통하는 것은 동물들의 삶을 개선하고 신경과학 분야에서 인간이 번역 가능한 발견의 비율을 높일 수 있어 도움이 될 것이라고 코피 교수는 말한다.

지구 종 프로젝트(ESP: The Earth Species Project)도 생물 다양성을 모니터링하는 데에 AI 도구를 활용하고 있다. 지구 종 프로젝트는 인간이 아닌 다른 종에 대한 이해와 다른 종과의 의사소통이 우리와 자연 간의 관계를 변화시킬 것이라는 목적 아래 AI를 도입하고 있다. 위 프로젝트는 궁극적으로 동물의 의사소통에 대한 깊은 이해를 기반으로 다른 생물종과 소통하고 그들을 보호하는 데 도움을 주고자 하고 있다.

출처: 사이언스타임즈

# data[].attributes.attachment_link.title
[동향]동물과의 의사소통을 위해서 AI를 이용한다?

# data[].attributes.attachment_link.description
숲이나 산, 들판의 바위에 앉아 있으면 자연이 조용하지 않음을 알 수 있다. 새들은 지저귀고 있으며 콧노래 소리를 부르고 있다. 이는 도시, 시골을 가리지 않으며 지역별 서식하는 동물에 따라서도 달라진다. 심지어 같은 동물이어도 지역과 상황에 따라 약간 다른 소리로 자신들의 의사를 표현할 때가 있는 듯 보인다. 예를 들면 소는 거주 지역마다 우는 소리가 다르다고 알려져 있으며 원숭이는 상황과 위협 정도에 따라 특정 소리가 나오곤 한다. 또한 생쥐는 노래를 한다고 알려져 있으며 귀뚜라미는 특이하게도 짝짓기 시 비명을 지른다고 알려져 있다. 이를 보면 동물의 의사소통은 인간의 의사소통과 비슷하면서도 다름을 알 수 있다. 그리고 과학자들은 AI를 사용하여 동물의 발성, 특히 그들의 복잡한 의사소통 시스템을 연구 및 해독하고 있다.과학자들은 이러한 연구를 통해 인간의 언어가 그다지 독특하지 않을 수 있다는 사실을 깨닫고 있다. 새로운 연구에 따르면 향유고래는 ‘ㅏ’모음과 ‘ㅣ’모음의 패턴으로 의사소통하는 것으로 보이며, 향유고래 발성에서 들리는 ‘딸깍’ 소리가 인간의 말로 치면 모음과 비슷하다고 한다. 그렇다면 이들에게도 인간이 부르는 ‘언어’라는 것이 있을까? 이들의 의사소통은 인간의 의사소통과 어떻게 다를까?최근 십수 년간 인문학부터 자연과학, 공학 그리고 심지어는 예술 부분까지 모든 분야에 인공지능이 사용되고 있다. 과학자들은 더 정교한 알고리즘을 통하여 과학적으로 신뢰도가 높은 결과 도출을 추구하고 있으며, 동물과의 의사소통 연구 분야에도 인공지능이 이용되고 있다. 이유는 간단하다. 방대한 양의 동물 울음소리 오디오 데이터를 인간이 작업하면 수십 년이 걸리겠지만, 인공지능 도구를 이용하면 단 몇 초 만에 분석할 수 있기 때문이다.미국 워싱턴 대학교의 신경과학자 케빈 코피 교수(Prof. Kevin Coffey)는 설치류의 발성을 해독하는 머신러닝 도구 ‘딥스퀴크(DeepSqueak)’를 최근 개발하였다. 딥스퀴크는 원시 오디오 데이터에서 쥐의 울음소리를 골라내어 비슷한 특성의 울음소리와 비교하고 동물의 행동에 대한 힌트를 제공한다.코피 교수에 따르면 쥐는 초음파 발성(USV: UltraSonic Vocalizations)을 사용한다. 쥐가 내는 소리 중 50킬로 헤르츠(kHz)의 고음은 웃음소리와 비슷한 것으로 알려져 있는데 놀이, 구애, 심지어 약을 먹었을 때와 같은 긍정적인 상황에서 50kHz의 울음소리를 낸다고 한다. 쥐가 내는 소리 중 22kHz의 울음소리는 통증을 느낄 때 같은 부정적인 상황에서 관찰되었다. 코피 교수는 이 주파수를 적용시킨 실험을 통해 실험에서 쥐의 기분이 나빠지는 때를 알 수 있다고 설명한다. 물론 쥐가 내는 소리는 사람이 들을 수 있는 주파수 범위를 벗어나기 때문에 사람이 직접적으로 해석할 수는 없다. 하지만 딥스퀴크 등 기타 도구를 사용하면 쥐가 내는 소리에 따른 의미를 해독하는 데 도움을 받을 수 있다. 딥스퀴크는 2018년에 출시된 이후 설치류의 사회적 행동, 약물 사용, 자폐증 등을 연구하는 데 사용되어 왔다. 또한 돌고래, 원숭이, 새와 같은 다른 종에도 사용할 수 있도록 기능이 추가되고 있다.코피에 따르면, 과거에는 수작업으로 USV 스펙트로그램을 분석했지만 AI 도구를 사용하면 프로세스를 자동화할 수 있어 시간을 절약할 수 있다고 설명한다. 하지만 각각의 발성이 무엇을 의미하는지 판단하는 것은 여전히 인간의 몫이다. AI와 딥러닝 도구는 마법이 아니기 때문이다. 따라서 다양한 상황에서 동물을 관찰하고 울음소리를 행동, 감정 등과 연결시켜야 하는 생물학자들은 매우 진보된 AI 도구의 개발에도 끝없는 힘든 작업을 수행하고 있는 셈이다.의사소통은 본질적으로 정보의 전달이 목적이다. 모든 동물은 냄새, 페로몬, 행동, 발성 등 여러 방법을 사용하여 의사소통하는데, 동물의 언어에 대한 개념은 부분적으로 논쟁의 여지가 있다. 이는 인간이 언어를 바라보는 시각과 언어가 인간에게 어떤 역할을 하는지에 대한 의미를 동물에 그대로 적용하기 어렵기 때문이다.동물에게도 언어와 비슷한 형태의 소통 방법이 있다. 물론 향유고래의 대화나 원숭이의 상징적 의사소통과 같이 대부분 동물의 의사소통은 인간 언어의 풍부함에 미치지 못한다. 이러한 측면에서 코피 교수는 ‘언어’라고 부를 수 있는 도구는 인간에게만 있는 것으로 보이며, 언어는 의사소통을 위한 특별히 고도로 발전된 인간의 도구라고 설명한다. 코피 교수는 ‘물론 설치류들은 확실히 매우 사회적이고 의사소통 능력이 뛰어나며 그들이 만들어내는 발성은 매우 다양하고 다양한 유형의 정보를 전달한다’ 라고 설명하지만, 그는 여전히 이것이 ‘언어’ 라고 생각하지는 않는다고 말한다.인류학자들 역시 언어가 문화적 신념, 관계, 정체성을 창조하고 유지하는 능력 때문에 인간에게만 나타나는 고유한 도구라고 설명한다. 또한, 인간의 언어는 다른 사람이 이해할 수 있도록 내면의 생각과 감정을 표현할 수 있게 해준다. 일부 이론에 따르면 인간의 의식과 이를 향한 표현이 인간의 언어 능력과 함께 발전했다고 주장하기도 한다. 전문가들에 따르면 다른 동물의 발성이나 행동으로는 이러한 표현을 할 수 없다고 한다.오스트리아의 철학자 루트비히 비트겐슈타인(Ludwig Wittgenstein)은 자신의 말에는 의미가 있지만 앵무새의 말에는 의미가 없다고 말했다. 이는 인간의 말에는 의미가 포함되어 있다는 뜻과도 같다. 20세기 초 비트겐슈타인이 위와 같이 말한 이후 과학은 엄청난 발전을 해왔다. 그리고 우리는 이제 보다 많은 것을 알고 있다.예를 들어, 베를린의 과학자들은 쥐가 간지럽힘을 당하면 ‘웃는다’는 것을 발견했다고 보고한 바 있는데, 이때 이를 지켜보던 사람들 대부분은 쥐에게 유머를 즐길 수 있는 감각이 있다고 생각했다고 한다. 그렇다면 쥐가 간지럼을 ‘재미있다’ 고 느꼈다는 것을 어떻게 알 수 있을까? 결과부터 말하자면 우리는 그 답을 알 수 없다. 우리는 쥐의 마음을 읽을 수 없기 때문이다.과학자들은 이에 대해 간지럼힘을 당한 쥐의 50kHz 고주파 울음소리를 유머나 웃음으로 해석하는 것은 인간이 동물을 의인화하는 것 즉, 동물이나 심지어 로봇과 같은 사물을 ‘인간화’하는 경향의 문제라고 주장한다. 일부 연구자들 역시 과학자나 비과학자가 다른 동물의 ‘삐걱거리는 소리’와 ‘꽥꽥거리는 소리’에 의미를 투영하는 것 역시 바로 인간이 부여한 의미에 대한 생각 때문이라고 설명한다.물론 또 다른 전문가들은 고통을 느끼는 물고기, 지능적인 문어, 쥐의 웃음 등 새로운 발견에 대한 연구 결과가 점점 더 많아지고 있는 것을 근거로 우리가 동물의 능력을 과소평가하고 있다고 주장하기도 한다. 단적인 예로 반려견이나 반려묘가 언제 행복한지 슬픈지 정확히 알 수 있다고 주장하는 반려동물 보호자 역시 비슷한 관점을 가진 셈이다.물론 코피 교수에 따르면 어느 정도의 의인화는 사람들이 동물들과 소통하는 데 도움이 되기 때문에 좋다고 설명한다. 하지만 그는 학계에서 의사소통과 언어에 대해 신중한 태도를 유지해야 한다고 주장한다. 그 이유는 우리가 결코 쥐, 돌고래 등의 동물들과 ‘e스포츠’나 ‘인플레이션’에 대해 논하는 일이 절대 없을 것이기 때문이다.AI 도구를 통해 동물들과 소통하는 것은 동물들의 삶을 개선하고 신경과학 분야에서 인간이 번역 가능한 발견의 비율을 높일 수 있어 도움이 될 것이라고 코피 교수는 말한다. 물론 이를 위해 실험실에서 연구를 통해 설치류의 의사소통을 이해하는 것은 그 퍼즐의 한 조각일 뿐이며 아직 갈 길이 멀다고 할 수 있다.다른 과학자들과 단체들 역시 야생 동물의 생물 다양성을 모니터링하기 위해 AI 도구를 사용한다. 예를 들면, 독일 뷔르츠부르크 대학의 연구원들은 마이크를 사용하여 열대우림의 소리를 녹음하고 곤충과 새를 포함한 동물 발성의 불협화음을 분석하여 생물 다양성 회복을 추적하고 있다.지구 종 프로젝트(ESP: The Earth Species Project)도 생물 다양성을 모니터링하는 데에 AI 도구를 활용하고 있다. 지구 종 프로젝트는 인간이 아닌 다른 종에 대한 이해와 다른 종과의 의사소통이 우리와 자연 간의 관계를 변화시킬 것이라는 목적 아래 AI를 도입하고 있다. 위 프로젝트는 궁극적으로 동물의 의사소통에 대한 깊은 이해를 기반으로 다른 생물종과 소통하고 그들을 보호하는 데 도움을 주고자 하고 있다.

# data[].attributes.headline
국민 절반 이상 "AI 기술 이점이 더 크고 혁신이 규제보다 중요"

# data[].attributes.subject
국민 절반 이상 "AI 기술 이점이 더 크고 혁신이 규제보다 중요"

# data[].attributes.body
요약: 국민 765명이 참여한 대국민 설문조사 결과 응답자의 57%가 'AI 기술의 잠재적 이점이 위험보다 많다'고 답한 것으로 나타났다. 또 응답자 55%는 '안전한 인공지능 발전을 위해 규제보다 혁신이 중요하다'고 답했다. 가장 중요한 정부 정책으로 34%의 응답자가 '인공지능법 제정 및 윤리기준 마련'을 꼽았다.

출처: 과학기술정보통신부 대국민 설문조사 '인공지능의 안전, 신뢰 및 윤리'

# data[].attributes.attachment_link.title
국민 절반 이상 “AI 기술 이점이 더 크고 혁신이 규제보다 중요”

# data[].attributes.attachment_link.description
게티이미지뱅크 제공 대국민 설문조사 결과 절반 이상의 국민이 인공지능(AI) 기술의 이점이 위험보다 크고 AI 규제보다 혁신이 중요하다고 응답했다. AI 안전과 관련해 국민들이 생각하는 가장 중요한 정부 정책은 인공지능…

# data[].attributes.headline
인공지능 활용 범죄의 증가

# data[].attributes.subject
인공지능 활용 범죄의 증가

# data[].attributes.body
https://munhwa.com/news/view.html?no=2023071801070907275001

인공지능을 활용한 범죄는 지속적으로 증가하고 있으며, 전 세계 ai범죄 피해 규모는 190조에 이른다.

이 외에 음란물 제작을 비롯하여 다양한 피해가 있으나 피해자를 특정하지 못하여 처벌이 어렵다는 문제도 있다.

출처-글로벌이코노믹 뉴스, 문화일보, 한국 AI교육협회

# data[].attributes.attachment_link.title
AI의 발전이 만든 ‘사이버 범죄의 대중화’ - 글로벌이코노믹

# data[].attributes.attachment_link.description
윈도가 등장하며 퍼스널 컴퓨터(PC)가 대중화됐고, 아이폰이 등장하며 전화기의 정의가 바뀌었듯이 챗GPT의 등장으로 인공지능(AI)의 활용이 산업군을 가리지 않고 다양하게 이뤄지고 있다. 챗GPT는 까다로운 질문에 대해 때론 인간보다 더 똑똑하게 답변하고, 정리하고, 요약까지 해준다.

# data[].attributes.headline
검, 경 AI수사관 도입

# data[].attributes.subject
검, 경 AI수사관 도입

# data[].attributes.body
검찰과 경찰이 인공지능을 활용한 형사사법정보시스템 및 AI조서 시스템을 도입한다.

이를 통해 업무분담을 줄이고 보다 효율적인 수사를 진행할 수 있음을 기대하고 있다.

출처-법률저널, 검찰청

# data[].attributes.attachment_link.title
검경 'AI 수사관' 도입한다

# data[].attributes.attachment_link.description
lt;사진=unsplash> 검찰과 경찰 수사 당국이 수사 효율성을 높이기 위해 AI 기술을 도입한다. 일명 'AI수사관'으로 불리는 AI 시스템은 유사 사건을 자동으로 찾아주는 서비스다. AI 기술을 도입해 업무 부담은 줄이고 범죄 수사 효율을 높이겠다는 취지다. 대검찰청은 올해 말 AI 기반으로 유사 사건을 자동으로 찾아주는 서비스를 도입한다.

# data[].attributes.headline
AI는 도구일 뿐, 중요한 것은 도구를 어떻게 사용하느냐의 문제

# data[].attributes.subject
AI는 도구일 뿐, 중요한 것은 도구를 어떻게 사용하느냐의 문제

# data[].attributes.attachment_link.title
딥페이크 기술의 순기능? '실종 아동 찾기' 앞 지나자 미소 짓고 눈 '깜빡' (현장영상) / SBS

# data[].attributes.headline
AI로 범죄를 방지하는 기술 확보

# data[].attributes.subject
AI로 범죄를 방지하는 기술 확보

# data[].attributes.body
AI를 이용하여 오히려 범죄를 효과적으로 방지할 수 있는 기술 확보.

인공지능과 빅데이터를 활용하여 범죄를 효과적으로 예측하고 방지할 수 있다.

출처-이데일리

# data[].attributes.attachment_link.title
“AI로 범죄 예측·예방…미래 형사·법무정책 AI가 만든다”[만났습니다]

# data[].attributes.attachment_link.description
“인공지능(AI)을 활용하면 형사정책과 법무정책을 연구하는 것에도 큰 도움이 될 것이다. 새로운 유형의 범죄들에 대한 예방법 마련뿐만 아니라 수사 과정에도 활용 가능하다고 생각한다.”하태훈 한국형사·법무정책연구원장은 30일 이데일리와의 인터뷰에서 AI 기술의 발전이…

# data[].attributes.attachment_caption
대규모의 다양한 데이터로 사전학습된 언어모델이 편향에 비교적으로 취약하지 않다는 내용이 포함

# data[].attributes.headline
한국빅데이터학회지_딥러닝 기반 사전학습 언어모델에 대한 이해와 현황

# data[].attributes.subject
한국빅데이터학회지_딥러닝 기반 사전학습 언어모델에 대한 이해와 현황

# data[].attributes.body
1. 기술 자체의 중립성:

AI 기술은 그 자체로 중립적입니다. AI의 개발 및 적용은 사람의 의도와 사용에 따라 다르게 나타납니다. 즉, AI 기술이 혐오범죄를 조장한다기보다는 이를 악용하는 특정 개인이나 집단의 행동이 문제입니다.

Q. (반박) AI 기술의 악용 가능성은?

기술 자체의 악용 가능성은 모든 기술에 내재된 문제입니다. 그러나 이는 기술이 본질적으로 혐오범죄를 조장한다고 볼 수는 없습니다. 대신, 사회는 이러한 악용을 방지하기 위한 법적, 윤리적 규제를 강화할 수 있으며, 이는 기술 사용의 책임을 명확히 하는 데 기여합니다.

# data[].attributes.headline
2. 혐오 범죄 예방과 감시 기능

# data[].attributes.subject
2. 혐오 범죄 예방과 감시 기능

# data[].attributes.body
1. 감시 및 예방 시스템

: AI 기술은 혐오범죄를 예방하는 데 기여할 수 있습니다. 예를 들어, AI 기반의 감시 시스템은 혐오발언을 감지하고 이를 신고할 수 있는 기능을 갖추고 있어, 범죄 발생 가능성을 줄이는 데 도움이 됩니다.

2. 빅데이터 분석

: AI는 데이터를 분석하여 혐오범죄의 패턴을 발견하고 이를 기반으로 예방 전략을 수립하는 데 활용될 수 있습니다. 이러한 분석을 통해 사회의 안전성을 높일 수 있습니다.

Q. (반박) 혐오 발언의 확산 가능성은?

AI 알고리즘은 사용자 데이터를 기반으로 작동하지만, 이는 사용자 경험을 개선하기 위한 것이며, 정책적으로 이를 제어할 수 있는 방안이 필요합니다. 예를 들어, 플랫폼 기업들은 알고리즘의 투명성을 높이고, 혐오 발언을 감지하고 차단하는 시스템을 구축함으로써 이러한 문제를 해결할 수 있습니다.

*출처: 사이언스타임즈https://scienceon.kisti.re.kr/srch/selectPORSrchTrend.do?cn=SCTM00218861

# data[].attributes.attachment_link.readable_text
2021-03-15

아직 발생하지 않은 범죄를 미리 파악하여 예방할 수 있을까. 이처럼 꿈속에서나 가능할 법한 상상력을 주요 내용으로 다룬 작품이 있다. 바로 지난 2002년에 개봉하여 공전의 히트를 기록한 '마이너리티 리포트(Minority Report)'다.
이 영화는 원래 1956년 공상과학 소설가인 '필립 딕(Philip Dick)'의 동명소설을 영상으로 만든 것으로서, 범죄를 예측하는 시스템이라는 개념을 처음 소개하여 주목을 끌었다. 이 시스템은 현실에서 아직 발생하지 않은 범죄를 미리 알아내는 장치로서, 영화에서는 '프리크라임(pre-crime)'이라는 이름으로 불렸다.
그런데 최근 국내에서도 이처럼 범죄를 예측할 수 있는 시스템이 선을 보여 관심이 쏠리고 있다. 경찰청이 개발한 '범죄 위험도 예측분석 시스템(Pre-CAS)'이라는 명칭의 이 시스템은 범죄통계나 112신고 같은 치안 데이터와 인구 및 기상 등의 공공데이터를 통합한 빅데이터를 인공지능(AI)이 분석하여 범죄위험도를 예측한 것이 특징이다.

CCTV 기반 AI 인식시스템으로 국내 범죄예측 역사 열어

국내 범죄예측의 선두주자는 전자통신연구원(ETRI)이다. ETRI는 과거 CCTV를 활용한 AI 인식시스템으로 국내 범죄 예측 시스템 개발 역사의 새로운 장을 열었다.
과거보다 CCTV도 다양한 기능이 적용되면서 많이 발전했지만, 아직도 관제요원의 보조 수단으로 사용되는 경우가 대부분이다. 하지만 ETRI의 AI 인식시스템이 도입되면 완전히 독립적인 예측 수단으로 사용될 것으로 보인다.
범죄자 도주 경로를 실시간 알려주는 미국의 'DAS 범죄정보 시스템'처럼 빅데이터와 AI가 결합한 범죄예측 시스템 개발이 국내에서도 멀지 않았기 때문이다.
'DAS 범죄정보 시스템(Domain Awareness System)'이란 지난 2012년 뉴욕 경찰청이 마이크로소프트(MS)사와 공동으로 개발한 최첨단 범죄감시 시스템으로서, 빅데이터를 통해 범죄를 막는다는 개념에서 시작되었다.
ETRI의 AI 인식시스템을 더욱 쉽게 이해하려면 약간의 가정이 필요하다. 만약 새벽 1시 으슥한 골목에서 앞서가는 여자를 지속해서 쫓아가는 남자가 있다고 가정해 보자. 마스크로 입을 가리고 모자로 얼굴을 숨기고 있다면 범죄 확률이 높다고 가정할 수밖에 없다. 또한 과거 그 지역이 동일 범죄 발생이 많았던 지역이었다면 범죄확률은 더 치솟을 것이다.
그러나 이런 상황이 환한 대낮인 오후 2시경에 벌어졌다면 어떻게 됐을까. 아마도 범죄 확률은 대폭 줄어들 수밖에 없을 것이다. 시간대별로 범죄가 발생할 가능성이 높은지 또는 낮은지를 AI가 판단하여 신고 여부를 결정하는 것이다.
이 외에도 ETRI는 현재 원천기술로 확보한 '사람 재식별 기술(Person Re-ID)'을 활용하여 전자발찌 착용자처럼 고위험군 특정인의 경로 분석이 필요할 시, 즉각적으로 사람을 찾을 수 있는 시스템도 개발하고 있다. 다양한 범죄 유형을 학습시켜 예측 정확도를 끌어올린 뒤, 오는 2022년까지 개발을 완료할 예정인 것으로 알려졌다.

​ 데이터를 기반으로 인공지능이 판독하는 시스템

경찰청이 최근 공개한 '범죄 위험도 예측분석 시스템(Pre-CAS)'은 ETRI의 CCTV를 활용한 AI 인식시스템에서 한 단계 더 진화한 범죄예측 시스템이라고 할 수 있다.
위험도 예측을 위한 분석 데이터 종류로는 크게 치안 데이터와 공공데이터가 있다. 치안 데이터에는 112 신고 건수나 유흥시설 수, 또는 교통사고 건수나 경찰관 숫자 등이 포함된다.
또한 공공데이터에는 해당 지역 인구수나 날씨와 요일, 그리고 실업률 및 고용률 등이 있다. 이 외에도 건물 노후 정도나 공원 숫자, 관광지 및 소상공인 업소의 숫자 등이 모두 공공데이터에 해당된다.
이처럼 치안데이터와 공공데이터를 기반으로 경찰청은 Pre-CAS를 개발했다. 'Pre-CAS(Predictive Crime Risk Analysis System)'는 일정한 구역별로 범죄위험도 등급을 1에서부터 10까지 나눠 2시간 간격으로 표시하도록 설계되었다.
범죄위험도가 높은 장소와 경로는 순찰차 내비게이션에 자동으로 전달하여 범죄취약지에 대한 선제적인 순찰이 가능하다. 일정한 구역이란 10㎢에 해당하는 지역 면적을 가리킨다.
또한, 시간과 장소별로 범죄와 무질서 발생 건수를 예측하여, 경찰관 배치 등을 통해 사전에 대비할 수도 있다는 것이 범죄 위험도 예측분석 시스템의 장점이다.
특히 지역의 방범시설 현황과 112 신고내역, 그리고 범죄예방 진단 결과 등을 하나의 화면에서 비교할 수 있는 점은 다른 예측분석 시스템에서는 찾아볼 수 없는 범죄 위험도 예측분석 시스템의 특징이다.
예를 들어 범죄위험도가 높지만, CCTV가 부족한 장소나 질서위반 112신고가 많지만, 관리 장소에서 제외된 곳, 또는 순찰이 미흡한 장소의 도출과 같이 세밀하고 심층적인 분석도 가능하다는 것이 경찰청 측의 설명이다.
경찰청의 발표에 따르면 3월 한 달 동안 울산과 경기 북부, 그리고 충남청 등 3개 시·도의 경찰청에서 범죄 위험도 예측분석 시스템을 시범 운영하는 것으로 나타났다.
향후 계획에 대해 살펴보면 경찰청은 범죄예방 및 교통 등 자치경찰 분야의 역량을 강화하기 위해, Pre-CAS 같은 첨단 시스템을 개발하는 등 현장 지원 역할에 집중한다는 계획이다.
반면에 시·도 경찰청은 경찰청에서 제공한 시스템 활용을 통해 지역 특성을 반영한 맞춤형 치안 전략을 수립함으로써 자치경찰제가 안착하는데 많은 기여를 할 것으로 기대하고 있다.

# data[].attributes.attachment_link.title
[동향]빅데이터와 AI로 범죄발생 예측한다

# data[].attributes.attachment_link.description
아직 발생하지 않은 범죄를 미리 파악하여 예방할 수 있을까. 이처럼 꿈속에서나 가능할 법한 상상력을 주요 내용으로 다룬 작품이 있다. 바로 지난 2002년에 개봉하여 공전의 히트를 기록한 '마이너리티 리포트(Minority Report)'다.이 영화는 원래 1956년 공상과학 소설가인 '필립 딕(Philip Dick)'의 동명소설을 영상으로 만든 것으로서, 범죄를 예측하는 시스템이라는 개념을 처음 소개하여 주목을 끌었다.

# data[].attributes.headline
3. 법적 및 윤리적 기준 강화

# data[].attributes.subject
3. 법적 및 윤리적 기준 강화

# data[].attributes.body
1. AI 규제 및 윤리적 기준

: 정부와 사회는 AI 기술의 발전에 따라 관련 법률과 윤리적 기준을 강화하고 있습니다. 이는 AI 기술이 혐오범죄를 조장하는 것이 아니라, 그 사용을 적절하게 통제하는 방향으로 나아가고 있음을 보여줍니다.

2. 투명한 알고리즘

: AI 시스템의 투명성을 높여 혐오범죄의 원인을 분석하고 예방할 수 있는 기반을 마련할 수 있습니다. 이는 기술이 혐오범죄를 조장하지 않도록 하는 데 기여합니다.

# data[].attributes.headline
범죄를 저지르기 쉬운 것과 범죄를 조장하는 것은 다르다

# data[].attributes.subject
범죄를 저지르기 쉬운 것과 범죄를 조장하는 것은 다르다

# data[].attributes.body
조장은 의도적으로 범죄를 유도하거나, 바람직하지 않은 행동을 하게끔 부추기는 행위이다(네이버 국어사전). 인공지능은 범죄를 부추기고자 개발된 것이 아니며, 생산성 향상, 문제 해결 등을 위해 개발되었다. 기술 자체는 중립적인 도구이며 사용하는 자가 어떤 의도인지에 따라 결과가 나뉜다.

인공지능은 범죄를 조장하는 목적으로 만들어진 것이 아니다. 인공지능은 도구일 뿐이며 중요한 것은 사용자의 의도이다.
딥페이크 기술의 경우 범죄에 악용될 수 있지만, 동시에 실종 아동의 예상 얼굴을 만들어내거나, 역사적 인물의 얼굴을 복원하는 데 사용되는 등 긍정적인 활용도 많다.

10대들도 활발하게 이미지, 영상을 생성한다는 점에서 혐오범죄를 저지르기 쉬워졌다는 사실은 인정한다. 방금 딥페이크 소스코드 실행 영상을 봤는데 경로만 맞춰주면 정말로 쉽게 이미지가 만들어진다는 것을 확인했다. 그러나 '사용하기 쉬운 도구'는 인공지능 그 자체의 특징이지 범죄를 조장한다는 것에는 동의할 수 없다.

혐오범죄와 같은 사례를 들어서 인공지능이 범죄를 조장한다고 주장하는 것은 편향적이며 과도한 일반화라고 생각한다.

# data[].attributes.headline
이소영_AI 기술발전이 혐오범죄를 조장한다고 본다.

# data[].attributes.subject
이소영_AI 기술발전이 혐오범죄를 조장한다고 본다.

# data[].attributes.body
인공지능 기술 발전이 혐오범죄를 조장한다고 봅니다. 그 핵심에는 인공지능의 데이터 편향성이 있습니다. 인공지능 데이터 편향성이란, 기계학습 모델을 학습시키는 데 사용되는 데이터가 사람이나 사회가 가지는 편견을 포함하고 있는 것을 의미합니다. 이렇게 편향성을 가진 데이터를 사용하여 학습한 인공지능은 편향된 결과를 출력할 수밖에 없고, 그 결과는 차별을 가져오게 됩니다. 예를 들어, AI 면접에서 젠더 차별이나 인종 차별이 발생합니다. 데이터 편향성을 지닌 인공지능이 만들어낸 결과물이 생성되며 사람들에게 확증 편향을 일으키고, 혐오를 조장하게 됩니다. 실제로 2024년 10월 5일 미국의 한 학교 교장이 인종적 비하 발언을 하는 오디오 클립이 온라인에 퍼지면서 교사들이 살해 협박을 받는 등 인근 지역으로 큰 파문이 일었습니다. 이것은 실제로는 인공지능 기술로 만들어낸 영상이라고 합니다.

# data[].attributes.headline
한보라_쉬운 접근성적인 측면에서,  ai는 혐오범죄를 조장한다.

# data[].attributes.subject
한보라_쉬운 접근성적인 측면에서,  ai는 혐오범죄를 조장한다.

# data[].attributes.body
AI는 쉬운 접근성으로 인해 혐오범죄를 조장할 수 있습니다. 특히 딥페이크 범죄에서 10대 가해자 비율이 높다는 점이 이를 뒷받침합니다. 디성센터에 따르면, 2024년 기준으로 신고된 781건 중 10대 가해자는 288명으로, 전체의 36.88%를 차지합니다. 이는 미성숙한 자아를 가진 청소년들이 AI 기술을 악용한 범죄에 더 쉽게 노출되고 취약하다는 것을 시사합니다.

# data[].attributes.headline
(이소영, 최기철, 한보라)

# data[].attributes.subject
(이소영, 최기철, 한보라)

# data[].attributes.body
AI기술 발전을 막자는것이 아닌

사용하는 사람이 악의가 있든 없든 피해자의 입장에서 봤을때는 혐오범죄를 당한입장에서는 이미 혐오범죄피해자임.

최근 10대 청소년들이 또래집단에 끌려가는 모방범죄가 발생하는 사례가 다수 존재함.

혐오범죄(인종,젠더 등) 차별을 심화시키고 사람들은 자신도 모르게 그런 잘못된 정보에 노출됨으로 잘못된 인식이 자리잡게 되고 그것이 범죄로 이어질 수 있음

실제 AI로 만든 학교교장의 인종차별발언이 사회적 큰 파장을 불러일으키기도 함.

# data[].attributes.attachment_link.title
AI : 딥페이크로 조작한 인종차별 발언 영상, 미국의 한 지역을 완전히 분열시키다 - BBC News 코리아

# data[].attributes.attachment_link.description
미국의 한 학교 교장이 인종적 비하 발언을 하는 AI로 조작된 오디오 클립이 온라인에 퍼지면서 교사들이 살해 협박을 받는 등 인근 지역으로 큰 파문이 일었다.

# data[].attributes.headline
이찬규, 이서정, 황준환, 김율

# data[].attributes.subject
이찬규, 이서정, 황준환, 김율

# data[].attributes.body
"기술의 악용은 사용자 책임의 문제"

인터넷, 소셜 미디어 등도 범죄에 악용될 수 있지만, 기술 자체가 본질적으로 범죄를 조장하는 것은 아닙니다. AI도 마찬가지로, 딥페이크 같은 기술이 악용된다면, 이는 범죄 행위자의 책임이며 기술 자체의 문제는 아닙니다.

AI 기술 발전이 혐오범죄를 조장하지 않는다는 입장은 기술의 중립성, 예방 및 감시 기능, 법적 기준 강화를 통해 뒷받침됩니다. AI는 혐오범죄를 예방하고 사회적 인식을 높이는 데 기여할 수 있으며, 이는 혐오범죄의 감소로 이어질 수 있습니다.

이러한 우려는 기술 자체의 문제라기보다는 그 사용에 대한 책임과 규제의 문제로 볼 수 있습니다. 따라서 AI 기술을 보다 안전하게 활용하고, 사회적 변화를 이끌어내는 방향으로 나아가는 것이 중요합니다.

요리사의 칼과 범죄자의 칼은 다릅니다. 따라서 칼을 안전하게 잘 다룰 수 있는 윤리의식을 함양하는 교육 및 법적 강화가 필요합니다.