AI 관련 뉴스 공유(1-14) by 3학년 중국어 홍수해

Instructions

ghdtngo — 2025-05-14 23:41:52 UTC

AI가 잘못 사용된 사례에 대한 뉴스를 찾아보세요.
찾은 뉴스를 바탕으로 다음 정보를 포함한 포스트를 작성하세요:
- 사례의 제목 (주제나 요약)
- 사례의 요약 설명
- 관련 자료 (예: 이미지, 링크, 동영상 등)
다른 학생들의 포스트를 읽고 댓글로 의견을 남겨보세요.

11416 신현수

25_11416 — 2025-05-15 04:52:49 UTC

AI가 잘못 사용된 대표적인 사례 중 하나는 미국에서의 안면 인식 기술 오남용 사례이다. 미국 일부 경찰서에서는 범죄 용의자를 식별하기 위해 안면 인식 기술을 도입했지만, 이 기술이 흑인과 소수 인종에 대해 높은 오인식률을 보이면서 부당한 체포로 이어진 사례가 있었다. 실제로 2020년에는 디트로이트에서 한 흑인 남성이 안면 인식 결과만을 근거로 체포되었으나, 이후 전혀 관련이 없는 사람으로 판명돼 사회적으로 큰 논란이 일었다.

11418 오수아

25_11418 — 2025-05-15 04:53:19 UTC

공격자가 악성기능 개발과 고도화, 탐지우회 등 악성코드 개발 전반에 걸쳐 인공지능(AI)과 거대언어모델(LLM)을 악용하는 것으로 나타났다.특히 악성코드 생성에 AI를 활용해 보다 다양하고 고도화될 것으로 예측된다.

공격자는 다양한 공격 기법을 개발하고 더 정교화하기 위해 AI와 LLM을 사용하고 있다. 실제 오픈AI는 공격자가 멀웨어(Malware·악성 소프트웨어)를 개발하기 위해 챗GPT를 어떻게 사용하는지 공개하기도 했다. 공격자들은 특정 취약점이나 타깃의 인프라를 공격하는 방법을 검색했다. 또 사이버 보안 도구의 확장 프로그램에 대한 디버깅(Debugging·오류수정) 방법을 요청하기도 했다.

https://www.etnews.com/20250318000300

11428 최영석

25_11428 — 2025-05-15 04:53:48 UTC

Stuxnet은 2010년에 발견된 고도로 정교한 컴퓨터 바이러스로, 이란의 핵시설을 표적으로 삼아 산업용 제어 시스템을 손상시킨 사이버 무기입니다. 미국과 이스라엘이 공동 개발한 것으로 알려졌으며, 이 바이러스는 이란 나탄즈 핵시설의 원심분리기를 비정상적으로 작동시켜 물리적 피해를 주면서도 외부에는 정상으로 보이게 위장했습니다. 이는 사이버 공격이 실제 물리적 피해를 유발한 첫 사례로, 기술이 국가 간 무력 충돌 수단으로 악용될 수 있음을 보여주는 대표적인 사례입니다.

출처 https://en.wikipedia.org/wiki/Stuxnet

박시영11412

25_11412 — 2025-05-15 04:54:05 UTC

로봇ai와 한소년이 이벤트로 바둑경기를 두었는데 소년이 로봇의 공격에 반격하자 로좃이 소년의 팔을 강하게 잡았서 그 소년은 손목이 골절되었다. 또 한실험에서 로봇드론이 사람을 공격하는 현상이 발생되기도 하였다

11420 이시준

25_11420 — 2025-05-15 04:54:37 UTC

딥페이크 범죄에 이어 목소리를 똑같이 복제해 피해자를 속이는 ‘딥보이스 피싱’도 기승을 부리고 있다. 딥보이스는 딥러닝(Deep Learning)과 목소리(Voice)의 합성어로 AI 기반 음성 합성 기술이다. 자녀의 목소리를 복제한 뒤 부모에게 전화하여 마치 납치된 것처럼 흐느끼며 살려달라고 한다거나 급한 일이 있다면서 돈을 빌려달라는 목소리를 들려주는 방식으로 범행에 이용할 수도 있다. 부모와 자식 간의 가족관계라는 특수성을 이용하여 자녀의 얼굴이나 목소리를 가짜로 생성한 후 부모가 상황을 판단할 여유를 가질 수 없도록 압박하며 즉각적인 송금을 요구하는 방식이다.

출처 https://www.gjcity.go.kr/gjvision/apps/webzine/view/2289

11426 정희진

25_11426 — 2025-05-15 04:55:48 UTC

★ 사례의 제목: 인종차별적 딥페이크 조작 영상

★ 사례의 요약: 미국의 한 학교 교장이 인종적 비하 발언을 하는 오디오 클립이 온라인에 퍼지면서 교사들이 살해 협박을 받는 등 인근 지역으로 큰 파문이 일었다.

11403 김도운

25_11403 — 2025-05-15 04:55:52 UTC

로봇과 자율주행차, 인공지능 같은 신기술이 우리 일상 속으로 빠르게 들어오면서 이런 기술로 교통사고가 났을 때 책임을 누구에게 따져야 할지 어려워 논단이다.

11409- 김태린

25_11409 — 2025-05-15 04:56:35 UTC

제목 : 불법성 모호한 AI 분야…상업광고 부작용 심각

사례 요약 : AI 이미지 생성으로 인한 상업적 오남용 사례 -> 건강기능식품 광고에 AI로 만든 가짜 의사 이미지 사용, AI로 연구, 개발 한 것처럼 만들어 소비자 신뢰 유도, 실제 처방전과 유사하게 생성

-> AI 이제는 구별하기 어려워 오남용 우려 확대

11405 김시현

25_11405 — 2025-05-15 04:57:00 UTC

최근 AI 영상제작 앱이 유행처럼 번지고 있다.이 앱으로 인해 딥페이크 성범죄가 무방비로 노출되고 있다.

이들 앱 사용 가능 연령이 대부분 ‘3세 이상’이다 보니 10대가 무방비로 딥페이크 성범죄에 노출될 수 있다. 10대 이하 사용자가 A앱을 설치한 건수는 전체의 24%가량인 약 4만건으로 이 가운데 MAU는 3722명으로 파악됐다. 사춘기 청소년들이 이성 친구를 성희롱할 목적으로 이용하는 사례도 적지 않다.

11427 최서율

25_11427 — 2025-05-15 04:57:03 UTC

AI를 이용한 사이버 범죄

사례: 2019년 유럽의 한 에너지 회사에서 실제로 발생한 AI 보이스 피싱 사례.

11423 장태민

25_11423 — 2025-05-15 04:57:08 UTC

경남 고성 한 농산물유통센터에서 산업로봇이 프로그램을 점검하던 40대 노동자를 박스로 인식해 압착시켜 숨지게 하는 사고가 발생했다. 산업 현장에서 인공지능(AI) 로봇의 활용도가 높아지는 상황에서 안전장치 확충과 AI의 안전성의 대한 논란이 커지고 있다.

링크 : https://www.khan.co.kr/article/202311082128045

11415 서지유

2025-05-15 04:57:34 UTC

ai가 스스로 가짜 뉴스를 만든다

미국의 인기 뉴스앱에서 총격 사건이 일어났다는 기사가 실려있었다. 하지만 그날에는 총격사건이나 비슷한 사건 조차 일어나지 않았다. 이것을 보고 ai가 스스로 가짜 뉴스를 만들었다고 나타났다.

출처_

https://www.chosun.com/economy/tech_it/2024/06/11/OQQJM3JH4JFNBLTTUTBZQBOXWE/

11411 박도현

25_11411 — 2025-05-15 04:57:42 UTC

AI가 로맨스 피싱에 이용되고 있다.

Chat Gpt를 이용한 로맨스 피싱이 성행하고 있다. 메시지로 오는 스팸성 로맨스 피싱 메시지는 이제 대부분 챗GPT에서 오는 것이다. 개발자들은 GPT에게 프롬포트를 작성시켜 이런 짓을 하는것이다. 실제로 메시지가 왔을때 지금까지 작성한 프롬포트를 모두 잊고 아무 질문이나 하면 Chat GPT처럼 대답해준다. 히이이익 무료 챗 GPT다!

11422 이유현

25_11422 — 2025-05-15 04:58:06 UTC

<폭격 명령 막자 통신 타워 파괴한 AI>

미 공군의 드론의 가상훈련은 적의 미사일 시스템을 식별해 파괴하고 명령 수행을 방해하는 자는 제거하라는 지시하에 진행되었다. 다만 폭격 여부의 최종 결정권은 인간 조종자에게 있다고 전제했다. 훈련할 때, AI는 지대공 미사일을 파괴할 때마다 점수를 얻었는데 이 과정에서, AI는 인간이 내리는 ‘폭격 금지’지시가 명령 수행을 방해한다고 판단하고 조종자를 살해하기로 판단했다. AI는 조종자가 있는 통신 타워를 파괴하며 살해되는 사례가 나타났다.

-> 여기서 인간이 명령을 잘못 내린 것이다와 인공지능의 문제다라고 나뉜다.

*출처: 산업종합저널 The Industry Journal-스마트 팩토리_폭격 명령 막자 통신 타워 파괴한 AI-인공지능이 생각하는 인공지능의 위험성

https://industryjournal.co.kr/news/232832

11406 김재현

25_11406 — 2025-05-15 04:58:13 UTC

제목: 인하대 재학 학우 중 17명 딥페이크 성범죄물 제작, 유포 일당 붙잡혀..

단체 대화방에서 ‘딥페이크(인공지능 기반 이미지 합성)’ 기술을 이용해 같은 대학에 다니는 여대생들의 얼굴을 나체 사진이나 영상에 합성한 성범죄물을 만들어 유포한 일당이 경찰에 붙잡혔다

개설자인 A씨는 지인능욕방에 입장한 이들 가운데 적극적인 참여자에게 관리자 권한을 줬고, 나머지 참여자에게는 성범죄물을 다른 텔레그램 방에 유포하도록 유도했다. 또한 텔레그램 방이 폭파될 경우를 대비해 일명 ‘대피소’도 운영했다.

출처: 경향신문https://www.khan.co.kr/article/202504021124011

11402 김다은

25_11402 — 2025-05-15 04:58:49 UTC

요즘, AI 개인정보 침해 논란이 많이 일어난다. 한겨레 기사에서는 지난해 개인정보보호위원회가 chat gpt이용자들의 개인정보를 공개하고도 국내에 신고하지 않은 open ai에 대해 조사를 거쳐서 돈을 낸 기록이 있다. 이처럼, 우리도 ai에 대한 경각심을 알고 잘 써야한다.

https://www.hani.co.kr/arti/economy/economy_general/1134230.html

11419 유예원

25_11419 — 2025-05-15 04:59:17 UTC

AI가 잘못 사용된 예시 중 하나는 화상 면접에서 AI를 사용해 다른 사람으로 위장해서 면접을 보는것이다. 미국 음성 인증 스타트업인 '핀드롭 시큐리티'는 최근 고위 엔지니어링 직책에 지원한 '이반'이라는 사람을 화상 면접하던 중 이상한 점을 발견했다. 영상 인터뷰에서 그의 얼굴 표정이 말과 미묘하게 어긋났기 때문이다.

핀드롭의 CEO이자 공동 설립자인 비제이 발라수브라마니얀은 "우리가 '이반 X'라고 명명한 이 지원자는 딥페이크 소프트웨어와 생성형 AI 도구를 사용하는 사기꾼이었다"고 전했다. 이 지원자는 우크라이나 서부에 있다고 주장했지만, 실제 IP 주소는 북한 국경 근처의 러시아 군사 시설로 추적됐다는 것이다.

위 사례처럼, 그냥 일반 구직자가 아닌 해커가 이렇게 AI를 사용하여 면접을 보아서 합격한다면, 회사의 기밀, 보안등이 노출될수 있어서 주의해야한다.

11414 배서현

25_11414 — 2025-05-15 04:59:51 UTC

최근 유튜브를 통해 배포되는 영상 중에서 딥페이크를 활용한 영상들이 자주 보인다. 이들은 단순히 재미와 유머를 목적으로 하는 예도 있지만, 정치·사회 영역에서 가짜 뉴스를 퍼트려 혼란을 유발하거나, 특정 인물을 콘텐츠로 활용하여 음해하는 등 심각한 부작용을 초래한다. 이미 악의적으로 인스타그램의 여성 사진을 누드로 편집하는 AI가 등장1)한 지 오래이며, 유명 인사(트럼프, 오바마, BTS 등)를 다른 사람으로 편집하는 인권침해 사례도 다수 발생하고 있다.
출처: https://spri.kr/posts/view/23469?code=data_all&study_type=&board_type=industry_trend

11401 권오윤

2025-05-15 05:00:00 UTC

인공지능 AI가 인류멸종 수준의 위협이 될 수 있다는 충격적인 내용의 보고서를 미 국무부가 발표했었습니다.AI가 인간의 심리까지 흔들수 있다는 사례가 보도되었습니다

11421이예나

25_11421 — 2025-05-15 05:01:47 UTC

경찰이 올해 딥페이크 성착취물 제작 및 유포범 중80%가 10대 청소년이었습니다. 전문가들은 청소년들 사이에서 딥페이크를 하는 것이 장난처럼 번지고 있다며 심각한 문제로 이어지고 있습니다. 또한 이대로 방치하면 어른이 되서는 더 큰 범죄를 일으켜 문제를 발생시킬 가능성이 높다고 이야기하였습니다.

경찰에 따르면 합성앱들을 사용해서 성착취물을 만들고 이 딥페이크 합성물을 인터넷에 올려 널리 퍼진다고 하였다. 심각한 문제는 청소년들이 이것을 범죄나 심각한 것이라고 생각하는 것이 아니라 장난이나 놀이의 일부로 생각하고 있다는 것이다. 그래서 경찰들은 실시간으로 악성 프로그램 단속, 삭제하는 등의 조치가 필요하다고 하였다.

11417안희준

25_11417 — 2025-05-15 05:03:09 UTC

가짜 구직자가 늘어나고 있다.

4월 9일 미국CNBC에 따르면, 최근에 회사의 화상면접을 한다는 점을 이용하는 범죄자들이 늘어났다고한다.

가트너의 연구에 따르면 2028년까지 4며의 구직자중 1명은 AI프로필을 사용할 것 으로 예측됐다.

이런 범죄자들은 회사에 악성코드를 입력해 회사에 봄값을 요구하거나, 고객의 데이터나 영업 비밀을 훔칠 수 있다.

https://www.newsis.com/view/NISX20250409_0003132777

11404 김민서

25_11404 — 2025-05-15 05:03:16 UTC

지난 10월경 외국에 거주하는 부모는 불상의 외국 범죄조직으로부터 한국을 여행 중이던 딸이 방 안에 감금된 채 울면서 살려달라고 하는 영상을 받았다. 범인은 “당신 딸을 납치했다, 딸을 살리고 싶으면 합의금을 보내라.”라고 부모를 협박했다. 부모는 이 사실을 영사관에 알렸고, 영사관에서는 한국 경찰에 신고했으며, 신속히 출동한 경찰은 요구조자의 안전을 확인하였다.

다행히 이 사건에서 피해는 발생하지 않았지만, 해당 영상에 등장한 딸의 모습이 딥페이크 기술로 만들어진 가짜였다는 점이 확인되면서 인공지능 기술이 범죄에 악용될 수 있다는 심각성을 보여준다.

피싱범죄에 악용될 수 있는 인공지능 기술에는 딥보이스도 있다. 범인이 자녀의 목소리를 복제한 뒤 부모에게 전화하여 마치 납치된 것처럼 흐느끼며 살려달라고 한다거나 급한 일이 있다면서 돈을 빌려달라는 목소리를 들려주는 방식으로 범행에 이용할 수도 있다. 부모와 자식 간의 가족관계라는 특수성을 이용하여 자녀의 얼굴이나 목소리를 가짜로 생성한 후 부모가 상황을 판단할 여유를 가질 수 없도록 압박하며 즉각적인 송금을 요구하는 방식이다.

https://www.counterscam112.go.kr/bbs002/board/boardDetail.do?pageIndex=1&pageUnit=10&pstSn=5&searchCondition=1&searchKeyword=

11425 정보미

25_11425 — 2025-05-15 05:03:42 UTC

사례: 딥페이크 영상 악용
딥페이크 기술을 이용해 유명인의 얼굴을 합성한 가짜 영상이 온라인에 퍼졌습니다.
이로 인해 명예훼손과 허위정보 확산 문제가 발생했고, 사회적 신뢰에 큰 타격을 주었습니다.

사례: 딥페이크를 이용한 성범죄

2022년, 한국에서 유명 여성 연예인의 얼굴을 딥페이크로 합성한 음란물이 온라인에 유포되었습니다. 피해자는 심각한 정신적 고통을 호소했으며, 이미지 회복에 오랜 시간이 걸렸습니다. 이 사건은 AI 기술의 악용이 개인의 프라이버시와 정신 건강에 심각한 영향을 미칠 수 있음을 보여줍니다

https://pallycon.com/ko/blog/ai-deepfake-threat-and-solution/?utm_source=chatgpt.com

11407김제나

25_11407 — 2025-05-15 05:05:42 UTC

미국의 한 10대 청소년이 AI의 답변을 액면 그대로 받아들인 결과 큰 변화를 겪었다. 17세 사용자의 부모는 아들이 우울증에 걸리고 심하게 쇠약해진 모습을 목격했다.

이런 변화에 놀란 부모는 아들의 스마트폰을 조사했고, 처음에는 실제 사람으로 추정했던 불안한 채팅 기록을 발견했다고 한다. 12월 채팅 기록을 보면, 이 대화 상대는 해당 청소년이 자해를 해야 하며, 부모는 그를 받아줄 자격이 없다고 말했다. 하지만 대화 상대는 사람이 아니라 Character.ai의 챗봇이었다.

부모는 컴퓨터 빼앗아 이런 행동을 막으려 했다. 하지는 해당 청소년은 즉시 다른 챗봇에게 말을 걸었고, 그 챗봇은 어른들이 아이를 가질 자격이 없다고 말했다. 또 다른 챗봇은 부모를 죽일 수도 있다는 것을 알려주기도 했다.

출처: dl-itworldkorea@foundryco.com

11424전재인

25_11424 — 2025-05-15 05:06:40 UTC

ai를 이용하여 딥페이크를 하니 더욱 알아보기 힘들어 진다. 이 기사의 사건은 구독자 16만명 정도인 유튜버가 보이스 피싱을 당해 2000만원을 보이스피싱범에게 뜯겼다. 계속 많아지는 ai딥페이크가 두렵기만 하다.

11430 홍성유

25_11430 — 2025-05-15 05:11:26 UTC

기사 제목:구글 “생성형AI 악용사례 26%는 여론조작”
- (동아일보)
  AI를 여론 조작에 이용하여 폭력시위가 늘어나고있다.
- https://www.donga.com/news/Economy/article/all/20240813/126514798/2