# data[].attributes.body
1. 박성준 / 경제계층

2. AI 관련 업무 / 전공

3. 다른 사람 의견 귀담아 듣기

# data[].attributes.body
1. 분과미정

2. 성실함으로 신뢰를 주기 위해 노력

3. 배움의 자세로 경청하기

# data[].attributes.body
1. 분과미정(신규위원)

2. 다양한 의견을 수용할 자세

3. 나의 생각과 다르다고 해서 절대 감정적으로 대응하지 않기

# data[].attributes.body
1. 조성용, 사회문화분과

2. 생각이 깊습니다.

3. 열심히 듣고, 생각하겠습니다.

# data[].attributes.body
1. 김주태 / 경제계층

2. 책임감

3. 경청과 존중

# data[].attributes.body
1. 정치지역 분과

2. 대화 과정에서의 중간 정리

3. 토론 과정에서 유의미한 논의가 나올 수 있도록 경청하기

# data[].attributes.body
1. 최보광/정치지역분과

2. 긍정적이다

3. 또박또박 논리적으로 천천히 말하기

# data[].attributes.body
1. 경제계층분과 최무순

2. 긍정적인 성격, 지역활동

3. 다양한 의견 청취

# data[].attributes.body
1. 사회문화 / 이동헌

2. 여러의견 존중

3. 경청

# data[].attributes.headline
독일 연방의회, 딥페이크 처벌을 위한 「형법」 개정안 발의

# data[].attributes.subject
독일 연방의회, 딥페이크 처벌을 위한 「형법」 개정안 발의

# data[].attributes.body
[한국인터넷진흥원 / 2024-07]

(배경) AI를 통해 생성되거나 변형되어 사실적으로 보이는 미디어 콘텐츠(소위 ‘딥페이크’)가 수년 동안 증가 추세에 있고, 딥페이크와 관련된 기술 조작은 개인의 재산과 인격권은 물론 민주적 의사결정 과정에 심각한 위험을 초래

얼굴이나 기타 신체 부위를 교체하고 몸짓, 표정 및 목소리를 모방하는 이미지 및 동영상 조작을 통해, 여성이 원치 않는 성적 맥락에 놓이는 경우(소위 딥누드)

정치적 경쟁 관계에서 상대방의 신용을 악의적으로 깎아내리고 부정적인 여론을 형성하기 위해 딥페이크를 사용

AI가 생성한 가족의 목소리를 범죄에 활용하는 쇼크콜(Schockanrufe)

(주요 내용)

▲컴퓨터 기술을 이용해 조작된 미디어 콘텐츠(소위 ‘딥페이크’)를 제3자에게 제공함으로써 타인의 인격권을 침해한 경우, 최대 2년의 징역 또는 벌금형에 처하고

▲이러한 조작 콘텐츠를 대중적으로 공개하는 경우, 최대 5년의 징역 또는 벌금형에 처하도록 하는 조항을 기존 「형법」에 추가

# data[].attributes.headline
미국 상원, 「AI 대중 인식 및 교육 캠페인 법안」 발의

# data[].attributes.subject
미국 상원, 「AI 대중 인식 및 교육 캠페인 법안」 발의

# data[].attributes.body
[한국인터넷진흥원 / 2024-07]

선거/민주주의 – 대중 보호를 위하여 '딥페이크'가 선거 콘텐츠에 악용되는 등 AI 기술이 사적인 영역에 악용되는 문제를 해결하고, AI가 콘텐츠 제작자에게 미치는 영향을 연구

주요 캠페인 중 출처정보 감지 지원 이라는 캠페인이 있으며,

AI 캠페인 활동에 인간이 생성하거나 알고리즘이 생성 및 수정을 가한 콘텐츠(예: 딥페이크 및 챗봇 프로그램으로부터 생성된 콘텐츠)와 같은 디지털 미디어 포함)

상기 미디어 콘텐츠 등을 탐지하거나 구분하기 위한 도구와 그 방법에 대한 자원 및 가이드 제공

AI를 악용한 사기 행위에 특히 취약한 연령층을 파악하고, 해당 연령층에 AI 관련 사기 활동에 대해 알리고 이를 예방하기 위한 맞춤형 지원활동 수행

# data[].attributes.headline
2024 인공지능 윤리기준 실천을 위한 자율점검표 (안)_ 김석정

# data[].attributes.subject
2024 인공지능 윤리기준 실천을 위한 자율점검표 (안)_ 김석정

# data[].attributes.body
출처: 과학기술정보통신부

인공지능 윤리기준 실천을 위해 10대 핵심요건별 점검 문항 기재

# data[].attributes.attachment_link.title
2024 인공지능 윤리기준 실천을 위한 자율점검표 (안)

# data[].attributes.headline
미국 연방통신위원회(FCC)는 정치광고에서 AI가 생성한 콘텐츠의 공개 및 투명성에 관한 잠정규정 예고문(NPRM)에 대한 의견수렴을 진행

# data[].attributes.subject
미국 연방통신위원회(FCC)는 정치광고에서 AI가 생성한 콘텐츠의 공개 및 투명성에 관한 잠정규정 예고문(NPRM)에 대한 의견수렴을 진행

# data[].attributes.body
[한국인터넷진흥원 / 2024-08]

(추진배경) AI 기술 발전에 따라, 해당 기술을 악용하여 생성된 가짜 목소리와 이미지(소위 ‘딥페이크’)가 유권자에게 기만적이거나 오해의 소지가 있는 사기성 정보를 제공할 위험성 대두

(주요내용) FCC는 선거 후보자가 정치광고에서 AI를 활용할 경우 특정 커뮤니티에 최적화된 광고를 쉽게 만들 수 있는 등 유익한 수단이 될 수 있음을 인정하고, 정치광고에 AI 사용을 허용

(전망) FCC는 오랫동안 TV/라디오 정치광고 관련 투명성을 규제해왔고, 연방선거관리위원회(Federal Election Commission, FEC)와 협력하여 AI 규제를 추진할 계획

(전망) 동 잠정규정 예고문은 정치광고 내 AI 생성 콘텐츠 공개를 통한 투명성과 신뢰성을 제고하여, 유권자들로 하여금 AI 생성 콘텐츠를 식별하고 부정확한 정보 유포를 막도록 할 수 있음

# data[].attributes.headline
생성형 인공지능 관련 범죄위협분류및대응방안_김석정

# data[].attributes.subject
생성형 인공지능 관련 범죄위협분류및대응방안_김석정

# data[].attributes.body
생성형 인공지능의 범죄 잠재성: 생성형 인공지능은 텍스트, 이미지, 음성 등 다양한 데이터를 생성할 수 있는 기술로 생산성 향상에 기여할 수 있지만,

이를 악용한 범죄 사례가 증가.

범죄 유형 분류: 기존의 사이버범죄 분류법을 참조하여 생성형 인공지능을 악용한 범죄를 3가지로 분류

생성형 인공지능 침해범죄: 인공지능 시스템에 직접적인 공격이나 침입을 통한 범죄

생성형 인공지능 이용범죄: 인공지능을 이용한 사기, 가짜 뉴스 생산 등 범죄 행위

기타 인공지능 관련 위협: 인공지능 개발사의 과실이나 책임으로 발생할 수 있는 문제

기술적 대응 방안: 생성형 인공지능 개발 단계별로 대응 방안을 제시하고 있습니다. 데이터 수집과 전처리 과정에서 편향성을 줄이고, 필터링 및 보안 취약점을 보완하는 방법을 포함

법적 제도적 대응: 법적으로 생성형 인공지능 범죄에 대해 명확한 책임 소재를 규정해야 하며, 특히 개발사의 책임 강화와 학습 데이터의 저작권 보호가 필요

해당 연구는 현재 법적 제도와 기술적 대응이 부족한 상황에서 인공지능 관련 범죄를 예방하고 규제할 수 있는 구체적인 방안을 제시하고자 하는 것을 목적

# data[].attributes.attachment_link.title
생성형 인공지능 관련 범죄위협분류및대응방안

# data[].attributes.headline
'딥페이크 강력 규제' AI 기본법 만든다

# data[].attributes.subject
'딥페이크 강력 규제' AI 기본법 만든다

# data[].attributes.body
[조선일보 / 2024.09.27.]

https://www.chosun.com/politics/politics_general/2024/09/27/33KKSLV6RRGIHHEVJ5U6XNRCTE/

국가AI위원회의 안전 신뢰 분과에서 중점적으로 (딥페이크 문제를) 다룰 것”이라며 “적극적인 딥페이크 규제를 도입하고,

이미 피해자가 발생한 범죄 현상에 대해서는 단순한 기술 규제가 아니라 처벌로 대응해야 할 것

# data[].attributes.attachment_link.title
‘딥페이크 강력 규제’ AI 기본법 만든다

# data[].attributes.attachment_link.description
딥페이크 강력 규제 AI 기본법 만든다 국가 AI위원회 출범, 첫 회의 개최 가짜뉴스 등 부작용 방지안 추진

# data[].attributes.headline
디지털 성범죄 구속률 고작 5.5%...피해자 인권은 어디로?

# data[].attributes.subject
디지털 성범죄 구속률 고작 5.5%...피해자 인권은 어디로?

# data[].attributes.body
[농민신문 / 2024.09.04.]

https://www.nongmin.com/article/20240903500489

2021~2023년 9,864건 발생 사건중

7530명 검거…구속은 412명 그쳐

황정아 의원 “종합적 대책 세워야”

# data[].attributes.attachment_link.title
디지털 성범죄 구속률 고작 5.5%...피해자 인권은 어디로?

# data[].attributes.attachment_link.description
지난 3년간 디지털 성범죄로 7500여명이 검거됐으나 이들 중 구속된 비율은 5%가량에 그치는 것으로 나타났다. 3일 국회 과학기술정보방송통신위원회 소속 황정아 더불어민주당 의원이 경찰청으로부터 받은 자료에 따르면 2021년부터 2023년까지 사이버 성폭력(정보통신망을

# data[].attributes.headline
텔레그램 창업자 체포에 러시아 관리들이 "분노", 왜 

# data[].attributes.subject
텔레그램 창업자 체포에 러시아 관리들이 "분노", 왜 

# data[].attributes.body
[중앙일보 / 2024.08.26.]

https://www.joongang.co.kr/article/25273180

텔레그램의 창업자이자 최고경영자(CEO)인 파벨 두로프(39)가 텔레그램에서 일어나는 각종 범죄를 방치한 혐의로 24일(현지시간) 프랑스 파리에서 체포

WSJ는 “두로프가 텔레그램의 암호화된 통신을 해독하려는 서방 정보기관에 귀중한 자산이 될 수 있다”고 평했다.

# data[].attributes.attachment_link.readable_text
"러시아는 국제기구가 (파벨 두로프의) 인권 보호와 언론 자유 보장에 대해 깨어있을지 보겠다."(마리아 자하로바 러시아 외무부 대변인)

"러시아의 적은 두로프를 러시아인으로 간주할 뿐이다."(드미트리 메드베데프 러시아 국가안보회의 부의장)

9억 명의 사용자를 보유하고 있는 메신저 앱 텔레그램의 창업자이자 최고경영자(CEO)인 파벨 두로프(39)가 텔레그램에서 일어나는 각종 범죄를 방치한 혐의로 24일(현지시간) 프랑스 파리에서 체포되자 러시아 정부 인사들이 내놓은 반응이다.

월스트리트저널(WSJ)은 25일 "프랑스가 두로프를 체포해 러시아와의 긴장이 고조되고 있다"며 "러시아 관리들이 두로프의 체포에 분노했고, 일부는 이것이 러시아에 대한 간접적인 적대 행위라고 묘사했다"고 전했다. 이날 파리 주재 러시아 대사관이 프랑스 외무부에 두로프에 대한 영사 접견권 보장을 요구하는 서신을 보냈으나 거부당하기도 했다.

두로프는 러시아 태생이지만, 현재는 아랍에미리트(UAE)와 프랑스 국적임을 강조한다. 2006년 '러시아판 페이스북'으로 불리는 소셜미디어(SNS) 프콘탁테(VK)를 만들어 '러시아의 마크 저커버그'로 불렸다. 그러나 2014년 러시아 정부가 반정부 시위에 참가한 VK사용자 정보를 달라고 요구하자, 이를 거절하며 러시아를 떠났다.

그럼에도 러시아가 두로프 체포에 예민한 건 텔레그램이 러시아에서 많이 쓰이는 메신저이기 때문이다. 러시아와 우크라이나 정부는 텔레그램을 사용해 전쟁 뉴스를 전달해왔고, 러시아는 유럽에서 작전을 수행할 요원도 텔레그램으로 모집한다고 한다. 마침 최근 러시아는 프랑스를 표적으로 여러 작전을 펼치던 터다.

이런 점을 들어 WSJ는 "두로프가 텔레그램의 암호화된 통신을 해독하려는 서방 정보기관에 귀중한 자산이 될 수 있다"고 평했다.

러시아는 두로프의 체포를 유럽을 비판하는 구실로도 삼고 있다. 러시아 의원 마리아 부티나는 두로프가 "서방의 마녀사냥 피해자"라며 그의 체포가 "유럽에서 언론의 자유가 죽었다는 것을 의미한다"고 주장했다.

# data[].attributes.attachment_link.title
텔레그램 창업자 체포에 러시아 관리들이 "분노", 왜 | 중앙일보

# data[].attributes.attachment_link.description
9억 명의 사용자를 보유하고 있는 메신저 앱 텔레그램의 창업자이자 최고경영자(CEO)인 파벨 두로프(39)가 텔레그램에서 일어나는 각종 범죄를 방치한 혐의로 24일(현지시간) 프랑스 파리에서 체포되자 러시아 정부 인사들이 내놓은 반응이다. 월스트리트저널(WSJ)은 25일 "프랑스가 두로프를 체포해 러시아와의 긴장이 고조되고 있다"며 "러시아 관리들이 두로프의 체포에 분노했고, 일부는 이것이 러시아에 대한 간접적인 적대 행위라고 묘사했다"고 전했다.

# data[].attributes.headline
AI 관련 국내외 법제 동향

# data[].attributes.subject
AI 관련 국내외 법제 동향

# data[].attributes.body
국내외 AI 관련 법제 동향을 정리해둠

출처: 법제처 미래법제혁신기획단

# data[].attributes.attachment_link.title
법제소식_7월호_05_최신입법동향

# data[].attributes.headline
인공지능 알고리즘의 편향성과 공정성

# data[].attributes.subject
인공지능 알고리즘의 편향성과 공정성

# data[].attributes.body
정원섭. (2020). 인공지능 알고리즘의 편향성과 공정성. 인간.환경.미래, 25, 55-73.

인공지능의 편향성 논쟁:

인공지능(AI)이 다양한 분야에서 사용됨에 따라 그 효율성에도 불구하고, 편향성 문제에 대한 논쟁이 국내외에서 점차 확대되고 있음.

예를 들어, 네이버가 검색 알고리즘을 인위적으로 조정하여 불공정 경쟁을 유발했다는 혐의로 과징금을 부과받은 사례가 언급됨.

이는 AI 알고리즘 자체의 편향성이 아니라, 인위적 조작과 같은 외부적 요인으로 인한 문제임을 시사함.

AI와 사회적 편견의 강화:

인공지능 기술이 기존의 사회적 편견과 차별을 무비판적으로 강화할 위험성이 있음.

마이크로소프트사의 챗봇 ‘테이’가 사회적 약자를 향한 혐오 발언을 학습하면서, 인공지능이 편향된 데이터를 학습하여 사회적 편견을 증폭시킬 수 있다는 우려가 대두됨.

데이터 마이닝의 편향성 문제:

인공지능의 결과는 알고리즘과 입력 데이터에 의해 결정되며, 데이터 마이닝 과정에서의 편향이 편견을 강화할 수 있음.

데이터 수집 및 처리 단계에서의 자의적 판단이 편향성을 초래할 수 있으며, 공정성과 정확성 모두에서 위기가 발생할 가능성이 있음.

전문가 윤리와 알고리즘의 투명성:

알고리즘의 비가시성(invisibility)은 전문가 윤리의 중요성을 강조함. 알고리즘 설계 과정은 일반인들에게 투명하지 않으므로, 전문가의 윤리적 책임과 도덕성이 중요함.

알고리즘 자체의 투명성을 확보하기 어려운 경우, 원칙적인 윤리적 기준을 공개하고, 인공지능 전문가들의 자율적 활동을 보장하는 것이 필요함.

결론:

AI 기술이 사회적으로 확산되면서 편향성과 공정성 문제는 점차 중요한 논쟁거리로 떠오르고 있으며, 이를 해결하기 위해 전문가들의 윤리 의식과 사회적 협력이 필요하다고 결론지음.

# data[].attributes.attachment_link.title
인공지능 알고리즘의 편향성과 공정성

# data[].attributes.headline
인공지능(ai)안전 및 보안 규범 분석 및 시사점

# data[].attributes.subject
인공지능(ai)안전 및 보안 규범 분석 및 시사점

# data[].attributes.attachment_link.title
[KISA Insight 2023 Vol.06] 인공지능(AI) 안전 및 보안 규범 분석 및 시사점

# data[].attributes.headline
보이스피싱 디응 ai 기술 서비스 민관협력으로 개발한다

# data[].attributes.subject
보이스피싱 디응 ai 기술 서비스 민관협력으로 개발한다

# data[].attributes.headline
한미 과학 디지털 동맹 강화

# data[].attributes.subject
한미 과학 디지털 동맹 강화

# data[].attributes.attachment_link.title
美_과학_수장_만난_유상임_과기장관…한미_과학·디지털_동맹_강화

# data[].attributes.headline
2024 AI Security Day 행사, AI 위협 사례 공유 및 대응 방안 논의

# data[].attributes.subject
2024 AI Security Day 행사, AI 위협 사례 공유 및 대응 방안 논의

# data[].attributes.body
AI 시대 생성형 AI를 악용한 다양한 사이버 공격과 새로운 형태의 범죄, 보안 위협이 발생하고 있다. 기술 발전 속도에 맞춰 관련 대응책이 신속하게 마련되지 않으면 피해는 더욱 커질 수 있는 상황이다. AI와 관련된 다양한 사이버 위협 사례를 공유하고 대응방안을 논의하는 자리가 ‘2024 AI Security Day’에서 마련됐다.

# data[].attributes.attachment_link.title
딥페이크 성범죄 등 ‘AI’로 인해 발생하는 보안 위협과 대응현황 살펴보니

# data[].attributes.attachment_link.description
AI 시대 생성형 AI를 악용한 다양한 사이버 공격과 새로운 형태의 범죄, 보안 위협이 발생하고 있다. 기술 발전 속도에 맞춰 관련 대응책이 신속하게 마련되지 않으면 피해는 더욱 커질 수 있는 상황이다. AI와 관련된 다양한 사이버 위협 사례를 공유하고 대응방안을 논의하는 자리가 ‘2024 AI Security Day’에서 마련됐다.

# data[].attributes.headline
딥페이크 성범죄 수사·처벌 개선방안 [국회입법조사처]

# data[].attributes.subject
딥페이크 성범죄 수사·처벌 개선방안 [국회입법조사처]

# data[].attributes.body
딥페이크 범죄가 사회적 관심의 대상이 되면서 디지털 성범죄에 대한 인식 부족과 부적절한 대응체계에 대한 비판의 목소리가 높아지고 있다. 오프라인 기반의 범죄에 대한 대응체계로는 적절한 대응이 어려운 측면이 있기 때문이다. 디지털 성범죄의 특수성과 피해자가 겪는 고통의 정도를 고려하건대, 성인 대상 디지털 성범죄로 신분위장수사기법 도입을 확대하고, 그에 대한 엄중한 처벌을 통한 인식개선이 필요하다.

# data[].attributes.headline
■ 최근 10년간 혐오 범죄는 증가 추세였음

# data[].attributes.subject
■ 최근 10년간 혐오 범죄는 증가 추세였음

# data[].attributes.body
[지구촌 돋보기] “다른 인종도 나라도 싫다”…혐오 범죄 늘어나는 이유는? | KBS 뉴스

'소수자 혐오 트윗' 늘면, '혐오범죄'도 증가 (pressian.com)

- 미국 디지털혐오대응센터는 이전보다 혐오 범죄가 늘어난 이유로 팬데믹으로 사회적 거리 두기가 길어지면서 발생한 온라인 활동의 증가를 꼽았음

- 온라인상에서 혐오 콘텐츠나 음모론 등 잘못된 정보를 접하는 사람들이 늘었고, 이게 실생활에서 일어나는 범죄에 영향을 끼친다는 것

- 대표적으로 2년전 트럼프의 대선 패배에 불복해 벌어진 미국 의회 난입 사건의 뒤에, 미국의 온라인 극우 음모론 집단, '큐아논'이 있다는 사실이 지적됨

- 미연방수사국(FBI) 혐오범죄 통계에 따르면, 아시아인 대상 혐오범죄는 2017-2019년 대비 2020-2022년에 무려 243.2% 증가했음

- 팬더믹 기간 중 실시한 설문조사에서는 아시아인 다섯 명 중 한 명이 지난 한 해 동안 혐오에 기반한 범죄사건을 겪었다고 응답했으며, 중국계, 한국계, 그리고 필리핀계 순으로 피해가 많았던 것으로 나타났음

- 연구팀은 2019년부터 2022년까지 뉴욕시를 기반으로 한 공개 트윗 중 1%를 무작위로 선정하였고, 그 중 "Asian", "Chinese", "Filipino", "Korean" 등 아시아인 관련 10개 키워드를 포함한 트윗을 분류하였음

- 트윗 내용에 아시아인에 대한 긍정적 혹은 부정적 정서를 담고 있는지에 따라 추가적으로 분류하여 분석한 결과, 연구 기간 동안 긍정적 정서를 담은 트윗은 전반적으로 줄어들고 부정적 정서를 담은 트윗은 미국 내 코로나19 감염이 확산되기 시작했던 2020년 3월에 급증했고, 2021년 3월에 다시 한 번 정점을 찍은 것으로 나타남

- 특히 2021년 3월의 경우, 조지아주 애틀랜타 지역 내 스파 세 곳에서 아시아계 미국인을 대상으로 발생했던 총격 사건이 발생하여 이와 연결시켜 생각해 볼 필요 존재

- 분석 결과, 아시아인 커뮤니티에 대한 부정적 정서가 증가할수록 같은 달 아시아인 대상 혐오범죄 또한 증가했음

- 아시아인 커뮤니티에 대한 부정적 정서가 1% 포인트 증가할 때마다 같은 달 반(反)아시아계 혐오범죄도 24% 증가하는 것으로 나타남

- 아시아인에 대한 혐오범죄가 악화된 배경에는 코로나19를 "중국 바이러스(Chinese virus)"로 지칭하는 등 팬더믹에 대한 책임을 아시아인 커뮤니티에 전가하는 미국의 초기 대응이 주 원인

-이러한 정치적 레토릭과 부적절한 명명으로 인해 아시아인에 대한 편견과 차별이 조장되었고, 트위터를 통해 이러한 인식이 빠르게 확산되면서 실제 혐오범죄 증가로 이어졌을 가능성이 큼

# data[].attributes.attachment_link.title
From Tweets to Streets: Observational Study on the Association Between Twitter Sentiment and Anti-Asian Hate Crimes in New York City from 2019 to 2022

# data[].attributes.attachment_link.description
Background: Anti-Asian hate crimes escalated during the COVID-19 pandemic; however, limited research has explored the association between social media sentiment and hate crimes toward Asian communities.
Objective: This study aims to investigate the relationship between Twitter (rebranded as X) sentiment data and the occurrence of anti-Asian hate crimes in New York City from 2019 to 2022, a period encompassing both before and during COVID-19 pandemic conditions.
Methods: We used a hate crime dataset from the New York City Police Department. This dataset included detailed information on the occurrence of anti-Asian hate crimes at the police precinct level from 2019 to 2022. We used Twitter’s application programming interface for Academic Research to collect a random 1% sample of publicly available Twitter data in New York State, including New York City, that included 1 or more of the selected Asian-related keywords and applied support vector machine to classify sentiment. We measured sentiment toward the Asian community using the rates of negative and positive sentiment expressed in tweets at the monthly level (N=48). We used negative binomial models to explore the associations between sentiment levels and the number of anti-Asian hate crimes in the same month. We further adjusted our models for confounders such as the unemployment rate and the emergence of the COVID-19 pandemic. As sensitivity analyses, we used distributed lag models to capture 1- to 2-month lag times.
Results: A point increase of 1% in negative sentiment rate toward the Asian community in the same month was associated with a 24% increase (incidence rate ratio [IRR] 1.24; 95% CI 1.07-1.44; P=.005) in the number of anti-Asian hate crimes. The association was slightly attenuated after adjusting for unemployment and COVID-19 emergence (ie, after March 2020; P=.008). The positive sentiment toward Asian tweets with a 0-month lag was associated with a 12% decrease (IRR 0.88; 95% CI 0.79-0.97; P=.002) in expected anti-Asian hate crimes in the same month, but the relationship was no longer significant after adjusting for the unemployment rate and the emergence of COVID-19 pandemic (P=.11).
Conclusions: A higher negative sentiment level was associated with more hate crimes specifically targeting the Asian community in the same month. The findings highlight the importance of monitoring public sentiment to predict and potentially mitigate hate crimes against Asian individuals.

# data[].attributes.headline
미국 혐오표현 및 증오범죄 규제 범위와쟁점

# data[].attributes.subject
미국 혐오표현 및 증오범죄 규제 범위와쟁점

# data[].attributes.body
양정화. (2021). 미국 혐오표현 및 증오범죄 규제 범위와 쟁점. 2021 여름호 KIPA 규제동향.

# data[].attributes.attachment_link.title
7_해외_이슈분석_미국

# data[].attributes.headline
외국은 '혐오와의 전쟁 중'…한국은 '기업국적 탓'만

# data[].attributes.subject
외국은 '혐오와의 전쟁 중'…한국은 '기업국적 탓'만

# data[].attributes.body
영국 '온라인 안전법'·독일 '네트워크시행법' 주목
프랑스 '자율규제기구'에는 구글·페이스북도 동참
여 '전통망법 개정안'·야 '인터넷 준실명제' 발의
'위헌 소지·외국 기업 규제 실효성' 부딪혀 소위 계류

배한님, 조성진 (2022.02.11). "외국은 '혐오와의 전쟁 중'...한국은 '기업국적 탓'만' . 뉴스토마토

# data[].attributes.attachment_link.title
외국은 ‘혐오와의 전쟁 중‘…한국은 ‘기업국적 탓’만

# data[].attributes.attachment_link.description
배구선수 김인혁과 BJ잼미 사태로 혐오 댓글·콘텐츠의 심각성이 다시 주목받으며 관련법 제…

# data[].attributes.headline
■ 기술발전에 대해 미비한 법

# data[].attributes.subject
■ 기술발전에 대해 미비한 법

# data[].attributes.body
https://variety.com/2023/film/news/joe-biden-worried-ai-mission-impossible-dead-reckoning-1235775115/

- 기술은 계속 발전하지만 관련해서 위험성 인지나 관련 법 및 규제가 미비한게 현 상황

- 딥페이크 관련 법률이 없어 딥페이크 관련 범죄가 생겨도 다른 죄목으로 처벌하여야 함

- 기술 발전에 대해 다룰 때 대부분 긍정적인 부분만 다루고 있음

- 버라이어티와 AP통신의 보도에 따르면 바이든 대통령이 AI 관련 행정명령을 내리기 전 AI의 잠재적인 장점과 위험성을 설명하는 과학자들을 만나면서도 그렇게 AI 기술 발전에 대해 부정적인 생각을 하지 않았으나, 미션임파서블 7에 나오는 인공지능 엔티티를 보고 위험성을 인지해서 관련 행정명령에 서명했다고 보도함

- 피해자를 줄이기 위해서 위험성 인식과 법 및 규제를 동반하여 발전시켜야 함

# data[].attributes.attachment_link.title
“AI로 가짜 교장 목소리 만들어 유포한 교사” 엉뚱한 죄목 체포 왜? - 매일경제

# data[].attributes.attachment_link.description
교장이 비위 사실 조사하자 악한 감정 품고 SNS에 올려

# data[].attributes.headline
인공지능 시대 도래에 따른 AI 입법수요 및 과제 연구

# data[].attributes.subject
인공지능 시대 도래에 따른 AI 입법수요 및 과제 연구

# data[].attributes.body
국회입법조사처 정책연구용역보고서(2023.12.20.)

AI 입법 방안(법률안에 포함될 주요 내용)

허위 정보나 혐오 표현과 관련된 직접적인 규정의 시행은 표현의 자유라는 기본권을 침해할 가능성이 있음. 따라서, 디지털 문해력 증진을 통해 시민의 AI 윤리 역량을 향상시키기 위한 전략을 추진하는 것이 바람직하다. 즉, AI 시스템 활용에 필요한 비판적 사고와 역량을 강화하는 데 힘써야 한다는 것임.

# data[].attributes.attachment_link.title
231222_인공지능 시대 도래에 따른 입법수요 및 과제 연구 AI

# data[].attributes.headline
■ 기술발전에 대해 미비한 법

# data[].attributes.subject
■ 기술발전에 대해 미비한 법

# data[].attributes.body
- 이루다는 스타트업 스캐터랩이 2020년 12월 말 출시한 '딥러닝' 방식의 20대 여성 대학생 AI 챗봇이다. 하지만 이루다가 이용자와 대화하며 여성과 동성애, 장애인에 대한 혐오 메시지나 흑인 등을 대상으로 한 인종차별적 메시지를 전송한다는 등의 문제가 식별되며 3주 만에 서비스가 중단됨

- 인권위는 "이루다의 혐오와 차별적 메시지는 인공지능 시대에 발생할 수 있는 혐오와 차별의 결과를 보여줄 수 있는 대표 사례"라며 "인공지능과 관련한 법률을 마련할 경우, 인공지능과 인권 문제는 설계와 개발단계에서 인권 존중 관련 원칙을 두는 것이 강조될 필요가 있다"고 제언

- 인권위는 "인공지능은 과거 한국 사회에서 누적된 데이터에 의존해 학습하는데 데이터가 다양한 요소에 기반한 오랜 차별이 반영되어 있어 인공지능 기술이 불평등과 차별을 학습하는 결과로 이어질 수 있다는 지적이 있다"고 설명

-"성별, 연령, 신체조직, 용모, 출신지역 등의 차별이 없는 채용을 규정하고 있는 국내의 관련 법 제도가 인공지능을 활용한 채용에서 제대로 실현되고 있는지 확인할 필요가 있다"고 지적

-인권위는 AI 면접 과정에서 인공지능의 판단이나 결정에 책임을 질 수 있는 주체와 절차를 명확히 하고 그에 따른 법적·제도적 근거가 있어야만 투명성과 공정성을 확보할 수 있다고 제언하며 이를 위한 법률적 장치가 부족하다고 평가

-인권위는 "인공지능을 직접 규율 대상으로 하는 법률안이 다수 제안돼있지만, 인공지능의 투명성·공정성 관련 원칙과 구체적인 내용은 찾아보기 어렵다"며 "인공지능 행위의 법적·제도적 책임에 관한 논의도 필요하다"고 지적

# data[].attributes.attachment_link.title
고도화·보편화하는 AI…인권침해 방지 관련법은 부재 | 연합뉴스

# data[].attributes.attachment_link.description
(서울=연합뉴스) 윤우성 기자 = 인공지능(AI) 기술이 고도화되고 활용 영역도 넓어지는 등 보편화하면서 인권침해 우려도 커지고 있어 제도 마련…

# data[].attributes.headline
AI 기술이 발달하면서 AI를 활용한 거짓 정보 유포가 가능해짐

# data[].attributes.subject
AI 기술이 발달하면서 AI를 활용한 거짓 정보 유포가 가능해짐

# data[].attributes.body
인공지능 포르노: 왜 위험한가 - BBC News 코리아

■ AI 기술이 발달하면서 AI를 활용한 거짓 정보 유포가 가능해짐

- 미국 메릴랜드주 볼티모어 파이크스빌 고등학교 운동부 감독 다존 다리엔은 2024년 1월 자신이 근무하던 고교 교장 에릭 아이스워트(Eric Eiswert)의 목소리를 AI로 합성, 교장이 인종차별적이고 반유대주의적인 발언을 하는 것처럼 가짜 음성파일을 제작한 뒤 일부 교사에게 이메일 전송하였음

- 가짜 음성파일이 SNS로 퍼지면서 학교에는 항의전화가 빗발쳤고, 교장은 신변위협을 받아 경찰의 자택경호를 받아야 했음

- 지역신문 '볼티모어 배너'에 따르면 일부 교사들은 학교에 녹음기가 설치된 것으로 의심하고 전화를 자신의 차량에서 받기도 함(통상 AI 음성을 학습시키기 위해서는 30분 이상 깨끗한 진짜 사람의 목소리가 필요하기 때문)

- 가짜 음성파일에는 AI 생성 콘텐츠의 흔적이 있어 조작인게 밝혀졌음

- 다리엔은 업무성과와 학교자금을 남용했다는 의혹이 교장으로부터 제기되자 보복차원에서 가짜 음성파일을 공개한 것으로 밝혀짐

- 아직까지 AI 생성 기술이 더 발전할 여지가 있어 조작 흔적을 찾아낼 수 있었지만, 기술이 더 발전하면 조작 흔적을 찾아내기가 점점 더 어려워지고 더 빨라질 것((지금은 영상의 완성본을 보기 위해 40시간 넘게 기다려야 함)

- '더 아웃라인(The Outline)'의 존 크리스티안 기자는 최악의 상황을 가정하며 '평화에 적대적인 세력이 정부와 국민을 꾀거나 국재 분쟁을 일으키기 위해 사용될 수 있다'고 경고했음

# data[].attributes.attachment_link.title
[IT썰] AI로 목소리 꾸며내 교장 모함한 고교 체육감독 : 네이트 뉴스

# data[].attributes.attachment_link.description
한눈에 보는 오늘 : IT/과학 - 뉴스 : /로이터=뉴스1AI(인공지능)로 가짜 육성을 생성, 교장을 인종차별주의자로 몰아가려고 시도한 혐의를 받는 미국 고등학교 운동부 감독이 재판에 넘겨졌다. 1일(현지시간) AP통신은 지난주 업무방해·절도·스토킹·증인보복 등 혐의로 기소된 미국 메릴랜드주

# data[].attributes.headline
생성형 인공지능 관련 범죄 위협 분류 및 대응 방안

# data[].attributes.subject
생성형 인공지능 관련 범죄 위협 분류 및 대응 방안

# data[].attributes.body
박우빈, 김민수, 박윤지, 유혜진 and 정두원. (2024). 생성형 인공지능 관련 범죄 위협 분류 및 대응 방안. 정보보호학회논문지, 34(2), 301-321.

생성형 인공지능의 급속한 발전과 범죄 가능성

생성형 인공지능(GAI)은 텍스트, 이미지, 음성 등 다양한 형태의 데이터를 생성할 수 있는 기술로, 2022년 하반기부터 산업적으로 확장되었다.

ChatGPT와 같은 대표적인 생성형 인공지능 서비스는 빠른 속도로 이용자가 증가하고, 다양한 산업 분야에서 활용되고 있다.

그러나 생성형 인공지능은 악의적으로 사용될 가능성이 있으며, 실제 범죄로 이어진 사례도 존재한다. 예를 들어, 딥페이크 기술을 사용해 나체 사진을 생성하거나, 악성 코드를 제작하는 등의 문제가 발생하고 있다.

범죄 위협 유형 분류
논문에서는 생성형 인공지능을 이용한 범죄 위협을 세 가지로 분류하였다:

생성형 인공지능 이용범죄 위협: 생성형 인공지능을 범죄 행위에 직접적으로 사용하는 경우(예: 피싱, 사이버 사기).

생성형 인공지능 침해범죄 위협: 생성형 인공지능 시스템 자체를 대상으로 하는 공격(예: 모델을 해킹하여 악의적 학습 데이터 주입).

기타 인공지능 관련 위협: 인공지능 개발 과정에서 발생할 수 있는 개인정보 유출, 저작권 침해, 혐오 발언 생성 등.

사례 연구

생성형 인공지능 기술을 악용하여 피싱 이메일이나 사기성 콘텐츠를 자동 생성하고, 소셜 네트워크나 이메일을 통해 다수의 사용자에게 전송하는 사례가 증가하고 있음.

또한, 딥페이크 기술을 통해 악의적 콘텐츠를 제작하고 배포하는 행위가 성행하고 있으며, 이는 사이버 성범죄로 이어질 수 있다.

대응 방안

범죄 위협에 대한 기술적 대응 방안을 인공지능 개발 단계별로 제시하였으며, 법적 개선 사항도 함께 제안되었다. 구체적으로, 데이터 수집 단계에서 학습 데이터의 편향성을 줄이고, 적대적 공격에 대응하는 모델 학습 방식이 필요하다는 내용이 포함되었다.

법적으로는 인공지능 개발사에 대한 책임을 명확히 하고, 개인정보 보호 및 저작권 침해 방지를 위한 법적 규제 강화가 필요하다고 제안하고 있다.

결론

생성형 인공지능 기술이 빠르게 발전하는 만큼, 이를 악용할 수 있는 범죄 위협도 증가하고 있으므로, 기술적 및 법적 대응 방안을 통해 안전한 인터넷 환경을 구축할 필요성이 강조된다.

# data[].attributes.attachment_link.title
생성형 인공지능 관련 범죄 위협 분류 및 대응 방안

# data[].attributes.headline
소회의실 A(경제계층 김주태, 분과미정 김석정)

# data[].attributes.subject
소회의실 A(경제계층 김주태, 분과미정 김석정)

# data[].attributes.body
결과적으로는 윤리적인 기준을 법적으로 제대로 뒷받침해주기 전 AI 기술이 급격하게 성장,

당연하게 풍선효과로 신종범죄가 발생.

가장 큰 이슈가 된 것이 딥페이크 범죄이고 현재 뒤늦게 윤리적인 기준을 정부차원에서 제시했으나, 어디까지나 권고사항임.

결국 AI가 혐오범죄는 물론 다양한 범죄의 창구가 되었음을 인정하고, 관련하여 법적 대응책을 마련할 필요가 있음.

# data[].attributes.body
ㅇ.최근 들어, 혐오 표현의 수위가 높아지고, 증오범죄로 표출되는 경우가 급증함.

ㅇ.이는 정보통신기술의 발전으로 혐오 표현의 노출이 쉬우며, AI 기술의 발전으로 인해 정보 조작이 쉬워짐. 이로 인해 혐오표현이 증오범죄로 발전하는 기반이 되었음.

ㅇ. 따라서, 혐오 표현이 증오 범죄로 이어지지 못하도록 정부 규제, 법적 규제 등의 대처 방안 마련이 필요함.

[참고 자료]

https://news.kbs.co.kr/news/pc/view/view.do?ncd=6550745

https://www.pressian.com/pages/articles/2024091909172574811

# data[].attributes.attachment_link.title
[지구촌 돋보기] “다른 인종도 나라도 싫다”…혐오 범죄 늘어나는 이유는?

# data[].attributes.attachment_link.description
[앵커] 최근 독일 시내에서 대낮에 한국이 유학생이 폭행을 당해 현지 경찰이 수사에 나섰습니다. 달아난…

# data[].attributes.headline
박성준, 박수민, 최무순

# data[].attributes.subject
박성준, 박수민, 최무순

# data[].attributes.body
주장: AI 기술이 조장하지 않는다고 본다 (인과관계가 아니라 '상관관계')

기본적으로 주제 문장 자체에 문제가 존재

'조장하다'는 주로 부정적인 상황에서, 어떤 행동이나 상황을 더 악화시키거나 확대하도록 부추기는 의미로 사용됨

만약, 질문이 'AI 기술 발전이 혐오 범죄 증가에 영향을 미친다'라고 한다면, 그렇다고 답할 것임

‘AI 기술’이 혐오 범죄를 조장하는 주체가 될 수는 없기에, ‘조장하지 않는다‘를 선택

물론, AI 기술 발전이 혐오 범죄를 줄이기보다는 오히려 증가시킬 가능성이 더 크다고 보기에, 규제는 확실히 필요하다고 봄

범죄에 대해서 규제를 하는 것은 맞지만, 무분별한 규제가 쌓이고 쌓이다보면, 기술 발전을 저해하게 됨

기업들의 입장에서 필요한 것들은 막연한 규제가 아니라, AI 관련 윤리 강령에 대해서 다룬 공식적인 정부의 가이드라인

# data[].attributes.headline
소희의실 D(신우철, 이동헌)

# data[].attributes.subject
소희의실 D(신우철, 이동헌)

# data[].attributes.body
V 주장:

AI 기술 발전은 혐오범죄를 조장하지 않는다. AI는 중립적인 도구로, 그 자체가 혐오범죄를 발생시키는 것이 아니라, 이를 사용하는 인간의 의도와 활용 방식에 따라 결과가 달라진다. 따라서 혐오범죄를 예방하기 위해서는 AI의 올바른 사용을 위한 인간의 교육과 제도적 규제가 필요하다.

V 내용:

1. AI는 중립적 도구로서 감정이나 의도를 지니지 않는다

AI 기술은 데이터를 처리하고 결과를 도출하는 도구이며, 그 자체로 혐오적인 감정이나 의도를 가지지 않는다. AI가 특정 행동을 조장하거나 방해하지 않으며, 주어진 데이터를 기반으로 학습하고 분석할 뿐이다. 혐오범죄의 발생은 주로 인간이 편향된 데이터를 제공하거나, 악의적으로 AI를 사용하는 것에서 비롯된다.

2. AI는 혐오발언 및 범죄 예방에 기여할 수 있다

AI 기술은 오히려 혐오발언을 감지하고 차단하는 시스템으로 활용될 수 있다. 소셜 미디어 플랫폼과 같은 곳에서 AI를 통해 혐오 발언을 실시간으로 감지하고 차단하는 시스템을 도입함으로써, 혐오범죄 확산을 막는 데 기여할 수 있다. 이와 함께, 경찰이나 수사기관에서도 AI 기술을 활용해 혐오범죄를 사전에 탐지하고 예방할 수 있다.

3. AI의 악용은 인간의 문제이며, 기술 자체의 문제로 보기 어렵다

AI가 혐오범죄에 악용되는 것은 기술 자체의 결함이 아니라, 이를 악용하는 인간의 선택에서 비롯된다. 예를 들어, AI를 편향된 데이터를 학습시키거나, 범죄적 목적으로 사용하는 것은 인간의 의도와 책임이다. AI 기술은 기본적으로 중립적이며, 그 사용 방식에 따라 긍정적 또는 부정적 결과가 나올 수 있다.

4. AI 기술에 대한 윤리적 규제와 관리가 강화되고 있다

AI의 부정적 사용을 방지하기 위해 AI에 대한 법적 규제와 윤리적 기준이 강화되고 있다. AI 기술이 부정적 목적으로 사용되지 않도록, 법적 제도와 관리 시스템이 마련되고 있으며, 이를 통해 AI가 사회적으로 유익하게 사용될 수 있도록 장치가 마련되고 있다.

Twitter의 사례: Twitter는 2019년에 발표한 보고서에서 AI를 통해 매일 수천 건의 혐오 콘텐츠를 감지하고 삭제.
이 데이터에 따르면, AI 도구가 도입된 후 혐오 표현의 보고 건수가 20% 이상 감소

Facebook의 콘텐츠 관리: Facebook도 AI를 사용하여 혐오적인 콘텐츠를 사전 차단하는 시스템을 운영 중 이들은 AI가 특정 키워드와 패턴을 기반으로 혐오 표현을 탐지하여 관리하는 방식을 사용하고 있음.

네이버 또한 댓글 ai기능을 이용해 악플을 더 줄이고 있는 상황

# data[].attributes.attachment_link.title
구글 ”증오·혐오 일으키는 커뮤니티 콘텐츠 AI로 차단”

# data[].attributes.attachment_link.description
구글이 테러리즘 등 극단적이고 폭력적인 행위를 선동하고 증오를 일으키는 콘텐츠를 차단하기 위해 인공지능(AI)을 도입한다.23일 테크크런치 등 외신에 따르면 구글의 자회사 직소는 AI기반 콘텐츠 모더레이션 도구 ‘AI튜티드’를 오픈소스로 공개했다.콘텐츠 모더레이션은 사용자…

# data[].attributes.headline
비싼데 임무실패…우크라 전장 미제 드론 사라지고 중국제 부상

# data[].attributes.subject
비싼데 임무실패…우크라 전장 미제 드론 사라지고 중국제 부상

# data[].attributes.body
전장에서 드론을 적극 활용하고 있는 우크라이나가 미국산 드론보다는 중국산 드론을 주력으로 사용하고 있다고 월스트리트저널(WSJ)이 10일(현지시간) 보도했다.

미국산은 가격이 훨씬 비싼데도 러시아의 전파 방해에 대응하지 못하는 등 결함이 많아 우크라이나가 미국의 제재를 받는 중국 드론 제조업체 DJI의 값싼 드론을 구입해 전장에 투입하고 있다는 것이다.

개발사와 미 국방부 관계자들은 정부가 정한 통신 표준에 맞춰 드론을 개발하다 보니 진화하는 사이버 공격 대응에 취약했고, 정부의 중국산 부품 사용 금지 규제 때문에 드론 가격도 비싸질 수밖에 없었다고 분석했다.

# data[].attributes.attachment_link.title
비싼데 임무실패…우크라 전장 미제 드론 사라지고 중국제 부상 | 연합뉴스

# data[].attributes.attachment_link.description
(서울=연합뉴스) 신재우 기자 = 전장에서 드론을 적극 활용하고 있는 우크라이나가 미국산 드론보다는 중국산 드론을 주력으로 사용하고 있다고 월스…

# data[].attributes.headline
AI 기술 발전이 혐오범죄를 조장할 수 있다

# data[].attributes.subject
AI 기술 발전이 혐오범죄를 조장할 수 있다

# data[].attributes.body
ㅇ.최근 들어, 혐오 표현의 수위가 높아지고, 증오범죄로 표출되는 경우가 금증함.

ㅇ.이는 정보통신기술의 발전으로 혐오표현의 노출이 쉬우며, AI 기술의 발전으로 인해 정보 조작이 쉬워짐. 이로 인해 AI가 혐오범죄는 물론 다양한 범죄의 수단 및 창구가 되었음.

ㅇ.따라서, AI 기술이 혐오 범죄 (증오범죄)로의 활용을 막기 위한 정부 규제 (포지티브 규제 및 자율 규제), 이용자들을 대상으로 한 교육, 윤리 기준 마련, 법적 장치 마련 등이 필요함.

# data[].attributes.headline
 AI 기술 발전이 혐오범죄를 조장하지 않는다

# data[].attributes.subject
 AI 기술 발전이 혐오범죄를 조장하지 않는다

# data[].attributes.body
■ 핵심 주장:
○ AI는 도구일 뿐, 스스로 혐오범죄를 조장하지 않음
- AI는 데이터를 처리하는 도구로서 그 자체로 범죄를 일으키지 않음. 기술 자체는 중립적이며, 결과는 인간이 어떻게 사용하는지에 따라 달라짐.
○ AI는 오히려 범죄 예방에 기여할 수 있음
- AI는 소셜 미디어에서 혐오발언을 감지하고 차단하는 등, 범죄 행위를 실시간으로 탐지하여 예방할 수 있음. 기술은 범죄 차단 도구로 유용하게 사용될 수 있음.
○ AI 악용은 인간의 선택에 따른 문제임
- AI가 악용되는 것은 기술 자체의 문제가 아닌, 이를 사용하는 인간의 의도에 따른 것임. AI는 인간이 입력한 데이터를 학습하고 그에 따라 작동하므로, 결과는 인간의 책임임.
○ 정부의 가이드라인 제공이 중요함
- 지나친 규제보다는 정부가 윤리적 가이드라인을 제시하여, AI 기술이 악용되지 않도록 하는 것이 바람직함. 이렇게 하면 기술 혁신을 저해하지 않으면서도 사회적 위험을 최소화할 수 있음.

■ 사례
○ Twitter: AI를 통해 혐오 콘텐츠를 감지 및 삭제하여, 혐오 표현 관련 사건이 20% 이상 감소함.
○ Facebook: AI를 활용해 혐오성 콘텐츠를 사전에 탐지하고 차단하여, 자동으로 부적절한 콘텐츠를 삭제하는 시스템을 운영함.
○ 독일 형법 개정안: 딥페이크 기술이 인격권 침해와 정치적 비방에 악용되면서, 독일은 딥페이크 관련 처벌 규정을 강화하여 최대 5년의 징역형을 부과하는 형법 개정안을 발의함. 그러나 법적 규제보다는 정부의 가이드라인을 통한 대응이 더 효과적일 수 있음.

결론적으로, AI 기술은 범죄를 조장하지 않으며, 정부는 규제 대신 가이드라인을 제공해 윤리적 사용을 권장하는 방식이 기술 혁신과 사회적 안전 모두에 이로울 수 있음.