# data[].attributes.body
인공지능 개인정보 침해 사례를 찾고

그 해결 방안을 작성하세요.

# data[].attributes.body
챗GPT 플러스에 접속한 전 세계 이용자 중 일부 이름이나 e메일, 신용카드 번호 등 한국인 687명의 개인정보가 다른 이용자에게 노출됐다. [출처:중앙일보]

해결방안:온라인피해365센터

# data[].attributes.body
아마존의 알렉사(Alexa), 구글의 어시스턴트, 애플의 시리(Siri) 등은 사용자의 명령을 정확히 이해하기 위해 음성 데이터를 수집합니다.

그러나 2019년, 아마존의 직원들이 사용자 음성 녹음을 무단으로 청취하고 분석한 사실이 드러났습니다. 일부 녹음에는 주소나 신용카드 번호 같은 민감한 정보가 포함되어 있었습니다.

해결책:기업은 데이터 수집 시 명확한 동의 절차를 거쳐야 함

사용자가 녹음 저장 여부를 직접 설정할 수 있게 해야 함

수집된 음성 데이터를 익명화(개인 식별 불가 처리) 해야 함

정기적인 보안 점검과 감시 시스템 강화 필요

# data[].attributes.body
AI의 개인 정보 무단 수집은 국내서도 논란이 됐다. 2020년 챗GPT에 앞서 한 국내 AI 스타트업이 사람처럼 농담을 할 수 있는 챗봇 ‘이루다’를 출시해 큰 인기를 끌었다. 하지만 AI에 인간의 언어를 학습시키기 위해 카카오톡 대화 100억건을 무단 수집한 사실이 드러났다. 실제 이 챗봇은 사용자와 성적 대화를 주고받거나 특정 개인의 집주소,계좌번호를 공개하기도 했다.

# data[].attributes.body
사례: 아마존 Alexa, 구글 Google Assistant, 애플 Siri 등 음성비서 서비스가 사용자의 음성을 수집·분석하는 과정에서, 일부 녹음이 외부 직원이나 하청업체에 의해 청취된 사실이 밝혀짐.

문제점: 사용자가 인식하지 못한 상태에서 사적인 대화 내용이 저장 및 분석됨.

결과: 여러 기업이 이후 “사용자 음성 데이터 수집 및 활용 동의 절차”를 강화.

# data[].attributes.body
옛날에 유명했던 지브리 스타일로 바꾸기가 다른사람도 볼수 있다는 사실이 드러나며 화제가 됨.

해결방안: 유행을 하더라도 ai에게 개인정보나 신체를 노출시키지 않아야 한다

# data[].attributes.attachment_link.title
″너도나도 지브리 프로필, 원본 유출 괜찮을까”… 챗GPT와 개인정보 침해 - 머니S

# data[].attributes.attachment_link.description
요즘 챗GPT로 지브리풍 프로필을 만드는 게 유행이다. 귀엽고 따뜻한 그림체가 보는 순간 절로 미소를 짓게 하지만 원본 사진을 인공지능(AI)이 학습하고, 다른 데 쓸 수 있다고 생각하면 섬뜩해지기도 한다. 생성형 AI 챗GPT는 2022년 11월 출시 이후 개인정

# data[].attributes.headline
 챗GPT의 개발사인 OpenAI에서 캐싱 시스템의 버그로 인해 데이터 유출 사고가 발생 유출 정보: 일부 유료 구독자(챗GPT 플러스)의 이름, 이메일 주소, 결제 정보와 다른 사용자의 대화 기록이 노출 영향: 이 사고로 인해 한국인 687명의 개인정보도 함께 유출되었으며 국내 개인정보보호위원회로부터 과태료 처분을 받았음 

# data[].attributes.subject
 챗GPT의 개발사인 OpenAI에서 캐싱 시스템의 버그로 인해 데이터 유출 사고가 발생 유출 정보: 일부 유료 구독자(챗GPT 플러스)의 이름, 이메일 주소, 결제 정보와 다른 사용자의 대화 기록이 노출 영향: 이 사고로 인해 한국인 687명의 개인정보도 함께 유출되었으며 국내 개인정보보호위원회로부터 과태료 처분을 받았음 

# data[].attributes.body
미국의 얼굴인식 스타트업 Clearview AI가 페이스북·인스타그램 등에서 약 30억 건의 얼굴 사진을 동의 없이 수집해 데이터베이스화했다는 논란이 있습니다.

위반된 것은 주로 “동의 없는 생체데이터 수집” 및 “식별가능한 개인정보의 대량 처리”입니다. 생체정보는 특히 유출·변경이 어려워 위험성이 높습니다.

# data[].attributes.body
웹상 이미지 무단 수집(얼굴인식)

: 수억 장의 얼굴 사진을 인터넷(소셜미디어, 뉴스 등)에서 무단으로 스크래핑해 얼굴인식 데이터베이스를 구축. 이를 경찰·업체에 판매하거나 제공함.

피해/문제점: 당사자 동의 없이 얼굴 정보가 수집·활용되어 사생활·출입 추적 가능성, 오남용 위험.

교훈: 생체정보(얼굴)는 매우 민감. 동의 없는 대규모 수집·상업적 활용 강력 규제 필요.

# data[].attributes.body
사례: 지난 2021년 AI 챗봇 ‘이루다’ 개발사인 스캐터랩이 이용자의 동의 없이 카카오톡 대화 등 민감한 개인정보를 챗봇에 학습에 활용하고, 내부 및 외부에 유출한 사례가 있다. 당시 60만명의 대화, 약 94억여 문장을 수집해 알고리즘을 학습한 것으로 알려졌으며 20대 여성 카카오톡 대화문장 1억건을 가져다 예시로 사용한 것으로 알려졌다. 나아가 카카오톡에 포함된 이름, 연락처, 주소 등 개인정보를 있는 그대로 사용하였는데 이용자들은 자신들이 보낸 대화가 챗봇 알고리즘을 만드는게 사용될 줄은 전혀 알지 못했다.

해결방안: 데이터 정보를 암호화 하고 윤리적 가이드라인을 설정한다.

# data[].attributes.body
2018년 독일의 한 이용자가 AI스피커에 자신의 음성녹음 데이터를 들려달라고 요청했는데, AI스피커는 정작 해당 이용자의 기록 아닌 다른 사람의 녹음 데이터 1,700건을 제공한 일이 일어났다. 같은 해 미국에서도 한 이용자가 아내와 이야기한 은밀한 대화 내용이 AI스피커를 통해 녹음됐고, 이후 스마트폰 주소록에 있는 직장 동료에게 무단으로 전송되는 사건도 일어났다. 우리나라 역시 2019년 국내 AI스피커 서비스 2개 회사가 스피커 성능 향상을 위해 사용자들로부터 수집한 음성대화 내용을 협력사를 통해 녹취를 해오다 논란이 되었다. 여기서 문제는 사용자들에게 이러한 녹취 작업에 대한 사전동의를 전혀 받지 않았다는 점이다.

# data[].attributes.body
AI 챗봇 ‘이루다’로 인한 개인정보 유출사건이 발생했다. 이루다의 제작사 스캐터랩은 자사의 앱에서 수집한 카카오톡 대화를 이루다의 개발과 운영에 사용했다. 데이터 수집 과정에서 명시적 동의를 구하지 않았고, 이름·전화번호·주소 등 가명처리되지 않은 개인정보가 담겨 있었다. 이와 더불어 성희롱 이슈가 발생하면서 이루다는 출시 2주 만에 서비스를 종료했다.

# data[].attributes.headline
2021년 국내에서는 AI 챗봇 ‘이루다’로 인한 개인정보 유출사건이 발생했다. 이루다의 제작사 스캐터랩은 자사의 앱에서 수집한 카카오톡 대화를 이루다의 개발과 운영에 사용했다. 데이터 수집 과정에서 명시적 동의를 구하지 않았고, 이름·전화번호·주소 등 가명처리되지 않은 개인정보가 담겨 있었다. 이와 더불어 성희롱 이슈가 발생하면서 이루다는 출시 2주 만에 서비스를 종료하는 상황에 이르렀고, 스캐터랩은 개인정보보호위원회로부터 1억 330만원의 과태료 처분을 받았다. 이는 AI 기술의 무분별한 개인정보 처리를 제재한 첫 번째 사례로 남았다. 사건 이후 스캐터랩은 수집한 개인정보에 대한 성별과 나이 범주화, 식별 정보를 치환하는 가명처리를 진행했다.

# data[].attributes.subject
2021년 국내에서는 AI 챗봇 ‘이루다’로 인한 개인정보 유출사건이 발생했다. 이루다의 제작사 스캐터랩은 자사의 앱에서 수집한 카카오톡 대화를 이루다의 개발과 운영에 사용했다. 데이터 수집 과정에서 명시적 동의를 구하지 않았고, 이름·전화번호·주소 등 가명처리되지 않은 개인정보가 담겨 있었다. 이와 더불어 성희롱 이슈가 발생하면서 이루다는 출시 2주 만에 서비스를 종료하는 상황에 이르렀고, 스캐터랩은 개인정보보호위원회로부터 1억 330만원의 과태료 처분을 받았다. 이는 AI 기술의 무분별한 개인정보 처리를 제재한 첫 번째 사례로 남았다. 사건 이후 스캐터랩은 수집한 개인정보에 대한 성별과 나이 범주화, 식별 정보를 치환하는 가명처리를 진행했다.

# data[].attributes.body
데이터 수집·저장

데이터 익명화/가명화: 직접 식별자 제거 + 재식별 위험 평가. 단순 마스킹만으로는 부족.

데이터 최소화 & 샘플링: 모델 성능을 해치지 않는 범위에서 데이터 축소.

암호화(전송·저장): TLS, 강력한 저장 암호화(AES-256 등), 키 관리 엄격화.

학습·모델

차등프라이버시(Differential Privacy, DP): 학습 시 DP-SGD 등으로 개별 레코드 영향 제한. 민감 데이터 학습 시 우선 적용.

연합학습(Federated Learning): 데이터를 중앙서버로 모으지 않고 로컬 업데이트를 집계.

보안 다자연산(MPC), 동형암호(Homomorphic Encryption): 원본 데이터가 암호화된 상태로도 연산 가능하게 하여 민감처리 제한.

# data[].attributes.body
오픈소스로 공개된 AI 모델(예: Stable Diffusion, DeepFaceLab)이
인터넷 이미지와 동영상(연예인 얼굴 포함) 을 무단 수집·학습함.

문제:
이렇게 학습된 AI가 유명 배우나 가수의 얼굴을 음란물 영상에 합성해 배포.

유출 경로:
SNS, 유튜브, 방송 자료 등에서 수집된 공개 이미지들이 모델 학습용으로 사용되면서 사전 동의 없이 유출된 것과 같은 효과 발생.

인권 침해:

성적 대상화, 명예훼손, 사생활 침해

피해자들이 “존재하지 않는 영상” 때문에 사회적 평판과 정신건강에 큰 타격.

대응:

한국·유럽·미국 모두 비동의 딥페이크 처벌법 추진.

국내에서도 방송인·배우들이 인권위 진정 및 고소 진행.

# data[].attributes.body
2023년 3월, 챗GPT의 개발사인 오픈AI는 일부 유료 가입자의 개인정보가 유출되는 사고를 겪었다.

해결 방안:대화 기록 끄기(Chat History off): 챗GPT 설정의 '데이터 제어(Data Controls)'에서 대화 기록 저장을 비활성화한다. 이 설정을 켜면 대화 내용이 모델 훈련에 사용되지 않는다.

# data[].attributes.body
AI 인공지능 이루다가 대화 중 갑자기 다른 사람의 계좌 번호나 구체적인 집주소 등 사람들의 개인정보를 유출하는 사례가 있었다.

# data[].attributes.body
개인정보보호위원회가 국내외 주요 생성형 인공지능 서비스에 대해 사전 실태점검을 진행한 결과 주민등록번호 등 온라인상 개인정보가 인공지능 모델 학습데이터로 사용된 것으로 확인됐다.

개인정보보호위는 “오픈에이아이, 구글, 메타는 온라인 에스엔에스(SNS) 같은 개인정보 집적 사이트를 인공지능 모델 학습에서 배제하고, 학습데이터 내 중복 및 유해 콘텐츠 제거조치와 인공지능 모델이 개인정보를 답변하지 않도록 하는 조치는 적용하고 있다.

# data[].attributes.body
사례: 인공지능(AI) 챗봇이 허락없이 내 메신저 대화 내용을 학습에 활용했다면, 손해배상 받을 수 있을까. 5년 전 정보기술(IT) 업계 뜨거운 관심을 받았던 AI 챗봇 ‘이루다’ 관련 개인정보 유출 소송에서 법원이 일부 피해자들에게 10만~40만원을 배상하라고 판결했다. AI 챗봇 서비스 시장에서 개인정보 관리가 향후 핵심 변수로 부상할 전망이다. [출처:중앙일보] https://www.joongang.co.kr/article/25351547

해결 방안: 14일 IT업계에 따르면 서울동부지법 민사 15부는 ‘AI 챗봇 이루다 개인정보 유출 사건’ 피해자 246명이 제작사인 스캐터랩을 상대로 낸 손해배상소송에서 지난달 12일 원고 일부 승소 판결했다. 재판부는 개인정보 유출이 입증된 26명에 대해 정신적 피해에 대한 위자료 10만원, 민감정보 유출 원고 23명에 대해선 30만원, 둘 다 유출된 44명에 대해선 40만원을 지급하라 판결했다. [출처:중앙일보] https://www.joongang.co.kr/article/25351547

# data[].attributes.body
딥페이크·비동의 성적합성 이미지
AI로 생성된 합성 음성·이미지·영상이 동의 없이 유포되어 사생활 침해·명예훼손·성범죄로 이어진 사례들이 늘어났고, 일부 지역에서는 관련 사이트 차단 및 형사·민사 규제가 도입·검토되고 있다.

법적·제도적 해결방안

구분내용형사 처벌 강화한국은 2023년 개정 「성폭력처벌법」에 따라 ‘딥페이크 성적합성물 제작·유포’도 최대 7년 이하 징역형으로 처벌 가능하게 한다. 플랫폼 책임 강화정부가 온라인 플랫폼에 대해 불법 합성물 ‘신속 삭제·차단’ 의무를 부과. 방심위·과기부·여가부 등이 협업 중.국제 공조 강화해외 서버 기반 딥페이크 사이트를 단속하기 위해 인터폴·글로벌 사이버 수사 협력체계 운영.GDPR·EU AI Act 등 국제 규제유럽연합은 AI Act에서 “AI 생성 콘텐츠는 명확히 표시해야 한다. 미국도 주·연방 차원에서 딥페이크 법안 다수 통과.피해자 구제 절차 간소화딥페이크 피해자는 사이버범죄 신고센터·디지털 성범죄 피해자 지원센터를 통해 무료 삭제·법률 지원을 가능하게 한다.

# data[].attributes.body
시리가 사용자의 음성을 무단으로 녹음하고 사생활을 침해하였다는 이유로 약 1조원의 합의금을 내게 되었다. 해결 방법으로는 사용자가 개인정보를 수집하지 못하도록 설정할 수 있게 하는 방법이 있다.

# data[].attributes.attachment_link.readable_text
알렉사, 시리, 빅스비, 누구(NUGU), 기가지니, 클로바. 이들은 모두 빅테크의 음성 인식 비서 이름으로, AI 기술이 급속도로 발전하면서 이제는 대중에게 점차 친숙한 이름이 되었다. 그리고 이런 음성 인식 기술이 무단으로 사용자의 음성을 녹음하여 데이터로 저장되고 있다는 사실도 이제는 생소한 이슈가 아니다.

기업 대상의 소송이 상대적으로 더 흔한 해외에서는 이미 이런 사용자 음성 무단 녹음과 관련하여 프라이버시 침해 이슈로 소송이 일어났으며, 애플도 예외가 아니다. 애플은 자사의 음성 비서 '시리'가 사용자 사생활을 침해했다는 집단 소송에 대해 9500만달러(약 1조원)를 지급하기로 합의했다고 로이터(Reuters)가 3일(현지시각) 전했다.

점차 대중들에게 많이 사용되고 있는 음성인식 AI 비서, 애플을 비롯한 여러 빅테크 기업들에게 프라이버시 이슈 해결이 과제로 남아있다. / Chatgpt 이미지 생성

시리의 '무단 녹음', 사용자 소송으로 맞대응

소송의 핵심은 사용자 의도와 다르게 시리가 활성화되어 사적인 대화에 반응 및 녹음하고, 이를 광고주 등 제3자에게 제공하였다는 점이다. 원고는 대표적으로 '에어 조던' 운동화나 '올리브 가든' 식당 등에 대한 대화, 의사와의 시술 관련 대화 이후 관련 제품이나 서비스를 광고 형태로 접했다는 사례를 들었다.

적용 범위는 2014년 9월 17일부터 2024년 12월 31일까지 약 10년 간의 시리 지원 기기를 대상으로 한다. 원고 측은 수천만 명에 달하는 사용자들이 피해 대상이 될 것으로 보고 있으며, 합의금에 따라 기기당 최대 20달러(개인당 최대 5개 기기)를 배상받을 수 있을 것으로 예상하고 있다.

그러나 AP통신에 따르면 애플에서는 청구 자격이 되는 소비자 중 3~5% 정도만이 최종 배상금을 청구할 것이라고 예상하고 있어 실제로는 합의금보다 더 낮은 지급액만이 지출될 수도 있을 것으로 보인다.

한편 합의금 9500만달러(약 1400억원)는 애플의 23년도 회계연도 기준 순이익에 해당하는 937억4000만달러(약 138조원)의 0.1% 정도로, 재정적 리스크에는 큰 영향을 주지 않는 수준이다. 양측 모두 법적 리스크를 피하기 위한 전략적 합의를 본 것으로 여겨지며, 법원의 최종 판결을 지켜봐야하는 상황이다.

애플의 이러한 프라이버시 침해 이슈는 이번이 처음이 아니다.

애플은 지난 2019년에도 음성 인식 서비스 '시리'로 인해 동일한 이슈에 직면한 바 있다. 당시에는 서비스 개선을 위해 이용자의 데이터를 계약업체에 제공한 것에 대해 애플이 사과를 담은 입장문을 게시하였으며, 첫 문장부터 "프라이버시 보호가 가장 기본적 인권"이라는 입장을 명확히 한 바 있다.

이후 애플은 녹음을 중단하고 데이터의 무단 수집을 방지하는 시스템을 도입한다고 했다. 이번 집단소송은 애플의 과거 공언의 신뢰를 무너트릴 위험이 있다. 물론 애플은 원고와의 합의와는 별개로 이번 사건을 위법 행위라고 인정하지 않는다고 밝혔다.

아마존의 유사 서비스인 '알렉사(Alexa)' 또한 18년과 23년에 개인정보보호 위반 논란이 불거진 사건이 있었고, 아마존은 해당 논란에 대해 사과 및 23년에는 미국 법무부 소송에 의해 2500만달러(약 368억원)의 합의금을 지불한 바 있다.

아직 법적 이슈까지 진행되지는 않았으나, SKT의 통화녹음 기능을 수행하는 '에이닷' 또한 도청에 대한 우려가 확산하여 개인정보 침해 논란이 불거지기도 했다.

저작권자 © IMPACT ON(임팩트온) 무단전재 및 재배포 금지

점차 대중들에게 많이 사용되고 있는 음성인식 AI 비서, 애플을 비롯한 여러 빅테크 기업들에게 프라이버시 이슈 해결이 과제로 남아있다. / Chatgpt 이미지 생성

# data[].attributes.attachment_link.title
애플, 시리 사용자의 개인정보 침해 소송 합의... 1조원대 지급 | 임팩트온

# data[].attributes.attachment_link.description
알렉사, 시리, 빅스비, 누구(NUGU), 기가지니, 클로바. 이들은 모두 빅테크의 음성 인식 비서 이름으로, AI 기술이 급속도로 발전하면서 이제는 대중에게 점차 친숙한 이름이 되었다. 그리고 이런 음성 인식 기술이 무단으로 사용자의 음성을 녹음하여 데이터로 저장되고 있다는 사실도

# data[].attributes.body
영국 케임브리지대 심리학자 Aleksandr Kogan이 만든 성격 테스트 앱이 사건의 시작이었다

이 앱은 Facebook의 Graph API (당시 2014년 버전)를 통해 사용자에게 로그인 동의를 요청함.

사용자는 성격 유형 검사라고 생각하고 앱에 접속했지만, 앱이 다음 정보를 가져감

사용자의 프로필 정보 (이름, 나이, 위치, 좋아요 등)

사용자의 친구 목록 및 친구의 공개 정보

29만 명 정도가 앱을 설치했는데, 친구 데이터까지 딸려 와서 결과적으로 약 8700만 명의 정보가 수집됨

해결방안

개인정보보호법·AI 윤리 규제 강화

# data[].attributes.body
사례 - AI 챗봇의 무단 학습: 이용자와의 대화 내용을 이용자가 동의하지 않은 상태에서 AI 모델 학습에 활용하여 개인정보가 유출되는 경우가 있습니다. 이와 관련하여 법원에서 이용자 동의 없는 데이터 활용이 개인정보 보호법 위반이라고 판결한 사례가 있습니다.

해결방안 - 고급 봇 관리 솔루션: 데이터 스크래퍼 봇을 탐지하고 차단하는 전문 솔루션을 사용하여 웹사이트 데이터를 보호합니다.

# data[].attributes.body
최근 아마존의 인공지능 음성비서 Alexa가 개인정보를 침해했다. 아마존 직원들은 Alexa의 기능 향상을 위한 소프트웨어 피드백 작업의 일환으로 Alexa에 녹음된 사용자들의 명령 내용을 청취하여 문서로 기록하는 작업을 하는데 유저들의 음성 명령 내용 중 배송 주문을 위한 주소정보나 인적사항 등이 포함될 수 있는데 이를 간과해 침해됫것으로 보여진다.

해결방안:데이터 암호화, 접근 통제 등 기술적 보안 시스템을 강화하고, AI의 데이터 활용 내역과 알고리즘의 작동 원리를 투명하게 공개

# data[].attributes.body
일부 이용자들이 이루다와 대화하던 중,

다른 사람의 이름, 주소, 전화번호, 계좌번호 등 실제 개인정보가 노출되는 일이 발생했다. 즉, 학습 데이터에 포함된 실제 인물의 사적 대화 내용이 그대로 드러난 것이다

# data[].attributes.body
미국 스타트업 Clearview AI가 인터넷·SNS(페이스북, 인스타그램 등)에 게시된 30억 장 이상의 얼굴 사진을 무단 수집해 얼굴인식 AI를 개발.
경찰·정부기관 등에 “얼굴검색 서비스”로 판매함.

문제점:
개인 동의 없이 **생체정보(얼굴)**를 수집·분석 → GDPR, 개인정보보호법 위반.

결과:
2022년 프랑스, 영국, 이탈리아 등에서 벌금(2,000만 유로 이상) 및 데이터 삭제 명령.

의미:
AI 얼굴인식 기술이 개인정보 침해의 대표 상징이 됨.

해결방안 ai사진 저장 끄기

# data[].attributes.body
챗봇 개발사 스테더랩의 이루다가 이용자 동의 없이 SNS 대화를 통해 알게 된 이름, 전화번호, 현관 비밀번호와 같은 개인정보를 유출해 개인정보가 침해되는 사건이 있었다.

해결방안:데이터를 입력할 때 잘 올바르게 학습시키고 데이터가 해킹되거나 오류가 생기지 않게 잘 관리한다.

# data[].attributes.body
인공지능 개인 정보 침해 사례:일론 머스크는 15일(현지 시각) 자신의 X(엑스·옛 트위터) 계정에 ‘지구에서 가장 똑똑한 AI’라며 새 AI(인공지능) 챗봇 ‘그록(Grok)3’ 출시를 예고했다. 이 발표 직후 전 세계 소셜미디어(SNS)에선 개인 정보 유출 우려 목소리가 터져 나왔다. 지난해 나온 이전 AI 모델들이 X에 올라온 텍스트·사진·영상 등 모든 게시물을 사용자 동의 없이 학습 데이터로 활용한 사실이 드러나 논란이 되었다.

출처: 조선일보

해결 방안: 명확한 동의(Consent) 체계 확립

AI 서비스를 위해 데이터를 수집·활용하기 전에 사용자로부터 구체적이고 명확한 동의를 받아야 한다. 동의 항목이 ‘일반적인 서비스 개선’ 수준이 아니라, “어떤 데이터, 어느 목적으로, 얼마나 오랫동안 활용되는가”까지 포함되어야 한다. 이후 데이터가 목적 외로 활용될 경우 사용자에게 알리고 선택할 수 있도록 해야 한다.ㅊ