# data[].attributes.attachment_link.title
시키지도 않았는데... AI가 가짜뉴스 만들었다

# data[].attributes.attachment_link.description
시키지도 않았는데 AI가 가짜뉴스 만들었다 5000만명이 쓰는 美 뉴스앱 논란 지난해 말 미국의 인기 뉴스 앱 뉴스 브레이크는 크리스마스 때 뉴저지주의 한 마을에서 총격 사건이 일어났다는 기사를 실었다. 하지만 뉴저지주 경찰은 그날 총격 사건은커녕 비슷한 사건조차 없었

# data[].attributes.headline
생성형AI 저작권 문제

# data[].attributes.subject
생성형AI 저작권 문제

# data[].attributes.attachment_link.title
“AI학습에 왜 우리 기사 쓰나” 방송사들 네이버에 소송

# data[].attributes.attachment_link.description
 
  요약
▶ SBS, MBC, KBS 등 지상파 방송 3사는 네이버가 생성형 AI 학습에 뉴스 콘텐츠를 무단 이용했다며 저작권 침해 소송을 제기했다.
▶ 미국에서는 유사한 소송이 잇따르자 테크기업과 언론사가 협의해 정당한 보상을 지급하고 뉴스 콘텐츠를 AI 활용에 활용하는 사례가 늘고 있다.
▶ 한국에서도 AI 발전과 뉴스 저작권 보호 간 균형을 맞추기 위한 공정한 보상 체계와 사회적 합의가 시급하다는 목소리가 나온다.  
SBS, MBC, KBS 등 지상파 방송 3사가 생성형 인공지능(AI) ‘하이퍼클로바’의 데이터 학습에 뉴스콘텐츠를 무단 활용했다며 네이버를 상대로 소송을 제기했다. 언론사가 AI 기업의 뉴스 콘텐츠 학습을 문제 삼아 소송을 낸 건 아시아 최초다. 미국에선 이같은 소송이 잇따르자 테크기업과 언론사 간 저작권 협의가 이뤄진 상황에서, 한국에서도 공정한 보상 체계를 마련할 필요가 있다는 목소리가 나온다. “수십 년 노하우 저작권 침해 안 돼”
 
SBS, MBC, KBS는 지난 13일 서울중앙지법에 네이버를 상대로 저작권 침해중지 및 부정경쟁방지법 위반으로 인한 손해배상 청구소송(2025가합5105)을 냈다.
 
한국방송협회는 이날 보도자료를 내 “국내외 IT 기업에서 잇따라 생성형 AI 서비스를 출시하며 AI 학습에 언론사 데이터를 허가없이 이용, 학습하는 것에 문제를 제기했다”고 밝혔다. 협회는 지상파 방송사가 소유한 모든 형태의 영상 및 오디오 콘텐츠는 수십 년 간의 노하우가 축적된 저작물로, 어떠한 경우에도 저작권 침해가 발생해선 안 된다고 주장했다. 
 
이어 “우리나라 저널리즘의 독립성과 신뢰성을 지키고 신기술인 생성형 AI의 법적, 윤리적 기준을 세우기 위한 중요한 전환점이 될 것”이라며 “네이버를 시작으로 뉴스데이터를 허가 없이 이용한 빅테크 기업에 순차적으로 소송을 제기하겠다”고 강조했다.
 
협회는 이미 2023년 12월 네이버와 카카오, 구글코리아, 한국마이크로소프트 등 IT 기업을 대상으로 “지상파 방송사의 뉴스콘텐츠뿐 아니라 모든 오디오, 영상 콘텐츠를 AI 학습에 이용하기 위해서는 별도의 보상 협의가 필요하며 허가 없이 이용을 금지한다”는 내용의 의견서를 보냈다. 협회는 “방송협회와 회원사들은 우리나라 기업이 독자적인 생성형 AI 기반을 구축해 세계를 선도하길 바라마지 않는다”면서도 “AI 산업 발전과 더불어 생성형 AI 학습의 원천인 언론사와 상생의 협력관계 구축도 중요하다”고 밝혔다.
 
네이버, 카카오 등은 이같은 요구에 당장 응하기 어렵다는 취지로 답변해 방송사들이 소송을 제기한 것으로 알려졌다. “미국 테크기업들은 대가 지불” 
 
앞서 미국에선 테크 기업들의 ‘AI 뉴스 학습’을 문제 삼은 언론사들이 잇따라 소송을 제기하며 화제가 됐다. 2023년 12월 뉴욕타임스는 오픈AI와 마이크로소프트(MS)가 자사 콘텐츠를 무단 사용해 AI를 훈련시켰다며 소송을 냈다. 이어 지난해 4월 미국 뉴욕 데일리 뉴스, 시카고 트리뷴, 올랜도 센티넬 등 대형 신문사 8곳도 오픈AI와 MS를 상대로 미 연방 뉴욕남부지법에 저작권 소송을 제기했다. 소장에 따르면 이들 언론사들은 “(테크기업의) AI 챗봇이 구독자 전용으로 공개된 뉴스 기사들을 무료로 표시하고 출처 링크를 표기하지 않은 경우도 다수”라며 “이로 인해 독자들이 지역 신문에 구독료를 지불해야할 필요성이 줄었고 신문사들은 수익을 잃게 됐다”고 주장했다.
 
소송이 잇따르자 미 테크기업들은 미디어기업과 법적 분쟁 대신 협력 방안을 모색하고 있다. 언론사들에 정당한 사용료를 내고 이들의 뉴스 기사와 사진 등을 AI 학습에 활용하겠다는 것이다.
 
구글은 지난해 세계 최대 미디어그룹인 미국의 뉴스코퍼레이션(뉴스코프)과 AI 콘텐츠 및 제품 개발을 위한 계약을 체결했다. 구글은 월스트리트저널 등 뉴스코프 매체의 콘텐츠를 AI 학습에 이용하는 대가로 뉴스코프에 연 500만~600만 달러를 내기로 했다. 영국 경제일간지 파이낸셜타임스도 오픈AI와 콘텐츠 이용 및 AI 기능 개발을 위한 파트너십을 맺었다.
 
미 테크 기업들이 언론사들과 뉴스 저작물 이용을 위한 협상을 마다하지 않는 배경에는 뉴스 콘텐츠가 AI 훈련을 위한 양질의 데이터에 해당하기 때문이라는 분석이다. 학습 데이터가 정교하면 할수록 AI의 성능도 고도로 올라가기 때문에 테크 기업들은 AI 학습에 쓰일 고품질 데이터 확보에 사활을 걸고 있다. “AI 발전 위해 사회적 합의 이뤄져야”
 
‘AI 기술 발전’과 ‘언론사의 뉴스 저작권’이 정면으로 부딪히는 이번 사안을 두고 법조에선 “AI 학습용으로 쓰이는 뉴스 저작권을 보상하기 위한 체계 마련이 시급하다”는 의견이 나온다. 대형로펌의 한 AI 전문 변호사는 “언론사가 뉴스 콘텐츠를 홈페이지 등에 무료로 공개하는 것은 비영리적 목적인데, 이를 영리업체들이 무단으로 이용한다면 언론사에 대한 저작권 침해 소지가 있다”고 짚었다. 
 
이어 “AI 기술 발전은 사회 구성원 대다수에게 이익으로 돌아갈 수 있는 만큼, 공리(公利)를 위해선 테크기업에 AI 학습을 위한 고품질 데이터가 제공돼야 하는 것은 맞다”면서도 “저작권자가 엄연히 있는 뉴스 등 저작물을 AI 학습에 이용했다면 보상이 반드시 이뤄져야 한다”고 말했다. 
 
그러면서 “미국은 개별 기업과 언론사가 상호 협의 하에 뉴스 데이터를 활용하고 있는 상황인데, 우리나라도 AI 기술의 발전을 위해선 하루빨리 테크기업과 저작권자 간 데이터 활용 방안과 수익 배분에 대한 사회적 합의가 이뤄져야 한다”고 강조했다.

# data[].attributes.attachment_link.title
EBS뉴스 - 세계 선거 흔드는 AI 조작…한국 대선은 괜찮나

# data[].attributes.attachment_link.description
nbsp;대선에 미칠 영향과 우리에게 필요한 대응은 무엇인지 송경재 상지대 교수와 자세히 짚어봅니다.교수님 어서 오세요.네, 아무래도 이 선거가 사람을 선택하는 과정이기 때문에 일

# data[].attributes.attachment_link.readable_text
더피알=이중대 ｜"AI가 쓴 거예요."

불과 1년 전만 해도 이 말은 기술에 대한 찬사처럼 들렸습니다. 하지만 지금은 어떨까요? 그 말은 점점, 책임 회피의 언어가 되어가고 있습니다.

2025년 5월 중순, 미국 시카고 선타임스(Chicago Sun-Times)는 자사 지면에 AI가 만든 허위 콘텐츠가 대대적으로 실리면서, "AI가 망칠 수 있는 모든 것을 보여준 상징적 사례"가 되고 말았습니다.

한 프리랜서 작가가 AI 앱으로 작성한 '여름 추천 도서 리스트'는 존재하지 않는 책들로 가득 차 있었고, 신문사는 이 콘텐츠를 사실 확인 없이 그대로 게재했습니다.

빨간 x표시된 부분이 전부 존재하지 않는 가짜 책 제목이다.

404 Media의 보도에 따르면, 리스트에 포함된 15권 중 10권이 허구였고, 심지어 실존 작가 이름과 인공지능이 생성한 가짜 책 제목이 함께 나열되어 있었습니다. 해당 콘텐츠는 King Features라는 유통사로부터 구매한 섹션이었으며, 선타임스는 이를 정식 검수 없이 발행했습니다.

독자들은 기계가 쓴 글이라는 사실보다, 누구도 검토하지 않았다는 점에 분노했습니다. 그리고 이 사건은 지금도 전 세계 커뮤니케이션 실무자들에게 하나의 질문을 던지고 있습니다.

"AI가 만든 콘텐츠에 대해, 우리는 어떤 원칙을 가져야 하는가?"
이제는 콘텐츠를 '누가 만들었나'보다 '어떻게 다뤘는가'가 중요해졌다
국내에서도 이미 많은 조직이 보도자료 초안, 제품 소개 글, 자사 블로그 포스트 등을 AI의 도움을 받아 작성하고 있습니다. PR팀, 마케팅팀, 콘텐츠팀은 매일같이 AI와 협업 중입니다. 문제는 이 흐름이 너무 빨랐다는 것입니다. AI 사용은 일상이 되었지만, 검토 원칙과 책임 체계는 아직 걸음마 수준입니다.

많은 기업이 이렇게 말합니다. "우리는 아직 AI를 본격 도입하지 않았어요." 하지만 실무 현장에서는 이미 프리랜서, 외주 콘텐츠 제작자, 유통 파트너들이 AI로 만들어낸 결과물을 납품하고 있고, 그중 다수가 어디까지 사람이 확인했는지 알 수 없는 상태로 노출되고 있습니다.
AI 콘텐츠 윤리 기준, 누가 먼저 시작했나?
국내에서도 AI 활용이 활발한 기업과 기관을 중심으로 윤리적 기준을 세우는 움직임이 나타나고 있습니다.

이처럼 다양한 영역에서 AI 윤리 프레임워크를 만들고 있다는 건, 이제 "AI를 쓰지 말자"가 아니라, "잘 쓰자"는 방향으로 가고 있다는 신호입니다.
PR·커뮤니케이션 조직이 특히 먼저 움직여야 하는 이유
콘텐츠로 말하는 조직은 이제 AI를 활용할 뿐 아니라, AI가 조직의 말 자체가 되는 시대에 접어들었습니다. 그렇다면, 다음과 같은 질문에 우리는 답할 준비가 되어 있어야 합니다.

- AI가 만든 결과물을 검수하는 체계가 존재하는가?
- 누군가가 AI를 활용해 만든 블로그/보도자료/영상에 오류가 있을 경우, 그 책임은 누구에게 있는가?
- 외주 콘텐츠 제작자나 PR 파트너가 AI를 사용했다면, 우리는 그것을 알 수 있는 구조인가?

이 질문들은 단지 '편집 절차의 문제'가 아닙니다. 브랜드 신뢰, 콘텐츠의 투명성, 그리고 위기 대응 리스크까지 연결되는 전략적 질문입니다.

ChatGPT Image

사내 AI 콘텐츠 가이드라인, 이렇게 시작해보자
1. AI는 도구일 뿐, 최종 책임은 사람에게 있다.
AI로 초안을 쓰는 것은 가능하되, 최종 검토와 승인 없이 외부 노출은 불가합니다.

2. AI 사용 사실을 공개하는 문화를 만든다.
"AI의 도움을 받아 작성되었으며, 검토는 사람이 했습니다."라는 문장 하나로 투명성과 신뢰를 확보할 수 있습니다.

3. 외주·프리랜서 계약서에 AI 조항을 명시한다.
무단 사용 시 위반으로 간주하고, 사전 공유와 검수 절차를 명시해야 합니다.

4. 콘텐츠 유형별 허용/금지 기준을 구분한다.
예시) 보도자료 핵심 메시지: AI 사용 금지(❌)
마케팅 아이디어 초안: 보조 도구로 활용 가능(✅)
인물 인터뷰 인용: AI로 작성 불가(❌)

5. 내부에 'AI 콘텐츠 윤리 담당자' 또는 검토 체계를 둔다.
대외 PR을 위한 커뮤니케이션 자료는 PR팀 또는 편집팀 내에서 AI 생성 콘텐츠 승인과 오류 대응을 총괄해야 합니다.
사소한 실수로 'AI의 상징'이 되지 않으려면
시카고 선타임스 사례에서 보여주듯, AI를 쓴다고 해서 문제는 아닙니다. 검증하지 않고, 책임지지 않았기 때문에 문제였던 것입니다. AI는 PR팀의 업무를 더 빠르고 효율적으로 만들어줄 수 있는 훌륭한 파트너입니다.

하지만 AI가 만든 콘텐츠 하나가 기업의 평판 전체를 흔들 수 있는 시대에, "우리는 어떤 콘텐츠에 AI를 쓰고 있고, 그 결과를 누가 책임지는가?"를 묻는 일이 그 어느 때보다 중요해졌습니다.
마무리 제언
- AI 콘텐츠 윤리 기준은 선택이 아니라 생존 전략입니다.

- 브랜드의 신뢰는 이제 사람뿐 아니라 기술과 함께 설계되어야 합니다.

- 지금 이 순간, 당신의 조직에 맞는 원칙을 하나씩 세워보시길 권합니다.

# data[].attributes.attachment_link.title
"AI가 쓴 기사, 누가 책임지나요?"

# data[].attributes.attachment_link.description
더피알=이중대 ｜"AI가 쓴 거예요."불과 1년 전만 해도 이 말은 기술에 대한 찬사처럼 들렸습니다. 하지만 지금은 어떨까요? 그 말은 점점, 책임 회피의 언어가 되어가고 있습니다.2025년 5월 중순, 미국 시카고 선타임스(Chicago Sun-Times)는 자사 지면에 AI가 만든

# data[].attributes.attachment_link.title
디지털리터러시협회, “국민 60%, AI 사이버불링 심각…80%, AI 윤리 필요”

# data[].attributes.attachment_link.description
한국무역협회에서 제공하는 국내 및 해외 무역 관련 주요 이슈 및 최신 동향

# data[].attributes.attachment_link.title
‘생성형 AI’ 열풍이 낳은 논쟁 ‘창작이란 무엇인가?’

# data[].attributes.attachment_link.description
최근 미국 오픈AI사의 생성형 인공지능(AI) 챗봇 ‘챗GPT’가 몰고 온 ‘지브리 프사(프로필 사진)’열풍이 창작이란 무엇인가에 대한 열띤 논쟁을 낳고 있다. 챗GPT를 이용해 실제 사진을 만화풍으로 바꾸는 것이 세계적으로 유행하면서 해당 가입자가 지난달 말 기준 5억 명을 돌파했다. 생성형 AI 대중화 속에 사진 속 인물을 바비인형 피규어처럼 바꿔주는 ‘바비코어’스타일도 주목받고 있다. 이런 가운데 딥페이크 등 AI 기술을 활용한 조작물이 악용될 걱정도 커지고 있다. AI 산업에 지각변동을 불러온 생성 AI 아트와 저작권 문제도

# data[].attributes.attachment_link.readable_text
가짜 콘텐츠 경험 십대 35%, 정보 신뢰도 위협 심각해져
인공지능(AI) 기술이 일상에 깊숙이 침투한 현대 디지털 환경에서 십대들은 온라인 정보를 신뢰하는 데 큰 어려움을 겪고 있다. 커먼센스(Common Sense) 미디어의 보고서에 따르면, 상당수의 십대들이 이미 가짜 콘텐츠에 노출되었으며 이로 인해 온라인 정보에 대한 신뢰도가 하락하고 있다. 약 35%의 십대들이 온라인상의 가짜 콘텐츠에 속은 경험이 있으며, 41%는 실제 존재하지만 오해를 불러일으키는 이미지나 영상을 본 적이 있다고 응답했다. 더 우려스러운 점은 약 22%의 십대들이 나중에 가짜임을 알게 된 콘텐츠를 공유한 경험이 있다는 것이다. 또한 28%의 십대들은 자신이 대화하고 있는 상대가 챗봇인지 사람인지 의문을 가진 적이 있다고 답했다.

이러한 경험은 십대들의 정보 평가 방식에 큰 영향을 미치고 있다. 가짜 또는 오해의 소지가 있는 콘텐츠를 경험한 십대들 중 72%가 이후 온라인 정보의 정확성을 평가하는 방식을 변경했다고 답했다. 더욱이 35%의 십대들은 생성형 AI 시스템이 온라인에서 접하는 정보의 정확성을 신뢰하기 더 어렵게 만들 것이라고 생각하며, 특히 가짜 콘텐츠를 경험한 십대들은 그렇지 않은 십대들보다 이러한 우려를 더 많이 표현했다(40% vs 27%).

학업용 AI 사용 십대 중 39%, "부정확한 정보 발견했다"
생성형 AI의 신뢰도 문제는 교육 분야에서도 두드러지게 나타나고 있다. 학업에 생성형 AI를 사용한 십대들 중 거의 40%가 AI 출력물에서 문제점이나 부정확성을 발견했다고 보고했다. 36%는 문제를 발견하지 못했으며, 25%는 확실하지 않다고 응답했다. 이는 교육 환경에서 AI 도구의 신뢰성을 향상시키고, 모든 십대들이 AI 생성 콘텐츠를 비판적으로 평가할 수 있는 도구와 기술을 갖추는 것의 중요성을 강조한다.

생성형 AI의 정확성 문제는 특히 교육 분야에서 중요한 의미를 갖는다. 학생들이 신뢰할 수 없는 정보에 기반하여 학습하게 된다면 잘못된 지식이 축적될 우려가 있기 때문이다. 이는 단순히 기술적 신뢰성의 문제를 넘어, 디지털 시대의 교육 품질과 학습 경험에 직접적인 영향을 미치는 사안이다.
십대 64%, "기술 기업들은 우리의 정신 건강에 관심 없다"
보고서에 따르면 십대들은 주요 기술 기업들에 대한 신뢰도가 매우 낮은 것으로 나타났다. 약 64%의 십대들은 주요 기술 기업(구글, 애플, 메타, 틱톡, 마이크로소프트 등)이 자신들의 정신 건강과 웰빙에 관심을 갖고 있다고 신뢰하지 않으며, 62%는 이익이 감소하더라도 사람들의 안전을 보호할 것이라고 신뢰하지 않는다고 응답했다.

또한 절반 이상의 십대들이 기술 기업들이 윤리적이고 책임감 있는 설계 결정을 내리거나(53%), 개인 정보를 안전하게 보호하거나(52%), 다양한 사용자의 요구를 고려하여 포용적이고 공정할 것(51%)이라는 데 낮은 신뢰도를 보였다. AI와 관련해서는 십대의 거의 절반(47%)이 기술 기업들이 AI 사용에 대해 책임감 있는 결정을 내릴 것이라고 거의 또는 전혀 신뢰하지 않는다고 답했다.

이러한 낮은 신뢰도는 기술 기업들이 십대들의 안전과 복지를 우선시하지 않는다는 인식을 반영한다. 신뢰를 재구축하기 위해서는 기술 기업들이 젊은 사용자들과 직접 소통하고, 참여적 설계 과정을 통해 그들의 피드백을 수용하여 개인정보 보호, 안전, 정신 건강에 관한 특정 우려사항을 해결하는 더 안전하고 윤리적인 디지털 환경을 조성할 필요가 있다.
십대 74%, "AI 콘텐츠에 워터마크와 개인정보 보호 장치 필요하다"
흥미롭게도 십대들은 생성형 AI의 규제와 안전장치에 대해 강력한 지지를 보이고 있다. 4명 중 3명(74%)의 십대가 개인정보 보호 장치와 투명성이 AI 관리에 중요한 조치라고 답했다. 또한 74%는 생성형 AI 플랫폼이 사용자들이 개인 정보를 공유하지 않도록 권장하는 것이 중요하다고 생각한다. 73%의 십대들은 AI 생성 콘텐츠에 라벨을 붙이거나 워터마크를 표시해야 한다고 원하며, 61%는 AI 시스템 훈련에 사용된 콘텐츠 창작자들에게 보상이 주어져야 한다고 믿는다.

이러한 결과는 젊은 세대들 사이에서도 생성형 AI에 대한 포괄적인 감독에 대한 요구가 존재함을 보여준다. 기술 기업들은 규제 기관과 협력하여 투명성, 개인정보 보호, 윤리적 AI 사용을 우선시하는 명확하고 시행 가능한 표준을 수립해야 한다. 이러한 기대에 부응하는 관행을 도입함으로써 기업들은 신뢰를 재구축할 수 있을 뿐만 아니라 책임감 있는 AI 거버넌스의 선례를 만들 수 있다.
FAQ Q: 생성형 AI가 십대들의 온라인 정보 신뢰에 어떤 영향을 미치고 있나요?
A: 연구에 따르면 35%의 십대들이 생성형 AI가 온라인 정보의 정확성을 신뢰하기 더 어렵게 만들 것이라고 생각합니다. 이미 가짜 콘텐츠를 경험한 십대들은 AI로 인해 정보 신뢰가 더 어려워질 것이라는 우려가 더 높습니다.
Q: 십대들은 AI 생성 콘텐츠의 정확성에 대해 어떻게 생각하나요?
A: 학업에 생성형 AI를 사용한 십대들 중 39%가 AI 출력물에서 문제점이나 부정확성을 발견했다고 보고했습니다. 이는 AI 신뢰성 향상과 십대들이 AI 생성 콘텐츠를 비판적으로 평가할 수 있는 교육의 필요성을 강조합니다.

■ 이 기사는 AI 전문 매체 ' AI 매터스'와 제휴를 통해 제공됩니다. 기사는 클로드 3.5 소네트와 챗GPT를 활용해 작성되었습니다. (☞ 기사 원문 바로가기)

# data[].attributes.attachment_link.description
가짜 콘텐츠 경험 십대 35%, 정보 신뢰도 위협 심각해져인공지능(AI) 기술이 일상에 깊숙이 침투한 현대 디지털 환경에서 십대들은 온라인 정보를 신뢰하는 데 큰 어려움을 겪고 있다. 커먼센스(Common Sense) 미디어의 보고서에 따르면, 상당수의 십대들이 이미 가짜 콘텐츠에 노출되었...

# data[].attributes.attachment_link.title
“생성형 AI의 큰 과제…지속적 ‘환각’ 문제, 상식 벗어난 답변”

# data[].attributes.attachment_link.description
‘놀랍도록 똑똑하고, 충격적이게 어리석은’ 생성형 인공지능(AI)의 문제를 가장 날카롭게 파고드는 연구자라는 평가를 받는 최예진 미국 워싱턴대 교수가 올해 초에 이어 한겨레와 두번째 인터뷰에 나섰다. 지난 인터뷰 에서 “거대 인공지능 기업들이 학습 데이터를 공개해야 한

# data[].attributes.headline
생성형AI로 인한 금융 문제 뉴스

# data[].attributes.subject
생성형AI로 인한 금융 문제 뉴스

# data[].attributes.attachment_link.readable_text
Silicon Valley Bank collapse in 2023 has fed bank run worries

Group warns AI is making it easier to spread disinformation

Researchers say banks should monitor social media, withdrawals

PARIS, Feb 14 (Reuters) - Fake news generated by artificial intelligence and spread on social media is heightening the risks of bank runs, according to a new British study that says lenders must improve monitoring to detect when disinformation risks impacting customer behaviour.

Generative AI can be used to create fake news stories saying that customer money is not safe, or memes appearing to joke about security issues, which can be spread on social media using paid adverts, said the study, published by UK research company Say No to Disinfo and communications firm Fenimore Harper.

Sign up here.

Banks and regulators are increasingly concerned about the risks of bank runs fuelled by social media, following the collapse of Silicon Valley Bank in 2023, in which depositors withdrew $42 billion in 24 hours.

Advances in AI have supercharged these risks. The G20's Financial Stability Board warned in November that generative AI "could enable malicious actors to generate and spread disinformation that causes acute crises", including flash crashes and bank runs.

Say No to Disinfo showed sample AI-generated content to UK bank customers and found that a third were "extremely likely" to move their money after seeing it, with a further 27% "somewhat likely".

"As AI is making disinformation campaigns easier, cheaper, quicker and more effective than ever before, the emerging risk to the financial sector is rapidly growing but often overlooked," the report said, noting that online and mobile banking meant people can move money in seconds.

The study estimated that for every 10 pounds ($12.48) spent on social media adverts to amplify the fake content, as much as 1 million pounds of customer deposits could be moved.

The estimate was calculated by using average deposits held by UK customers, the cost of social media adverts, and estimates for how many people would see them.

Banks need to monitor media and social media mentions, and such monitoring must be integrated with withdrawal monitoring systems to identify when malicious information is affecting customer behaviour, the researchers said.

Asked about the study, Revolut's head of financial crime, Woody Malouf, said the London-based fintech conducts real-time monitoring for emerging threats among its customers and "across the broader ecosystem".

"Whilst we believe an industry event like this is unlikely, it is still possible, so it's essential that financial institutions are prepared," he said, adding that social media platforms must play a bigger role in stopping threats.

Other financial institutions contacted by Reuters, including NatWest and Barclays, declined to comment or did not respond to requests for comment.

While regulators have expressed concern about AI's overall impact on financial stability, banks are broadly optimistic about the technology's impact.

"Banks are working hard to manage and mitigate risks around AI and the regulatory authorities are looking at the potential financial stability challenges the technology poses," industry body UK Finance said.

The report's release was unrelated to an AI Summit in France this week, at which politicians and industry executives focused on promoting the spread of AI, a marked shift from the previous summit's focus on managing its risks.

Reporting by Elizabeth Howcroft in Paris Editing by Tommy Reggiori Wilkes and David Gregorio

Our Standards: The Thomson Reuters Trust Principles., opens new tab

Elizabeth Howcroft reports on finance and technology, including Europe's "fintech" industry and cryptocurrencies. She was part of the team which won a Loeb award and SABEW award for covering the collapse of crypto exchange FTX in 2022.

# data[].attributes.attachment_link.title
AI-generated content raises risks of more bank runs, UK study shows

# data[].attributes.attachment_link.description
Fake news generated by artificial intelligence and spread on social media is heightening the risks of bank runs, according to a new British study that says lenders must improve monitoring to detect when disinformation risks impacting customer behaviour.

# data[].attributes.headline
신*엘의 우리 반 AI 윤리 원칙

# data[].attributes.subject
신*엘의 우리 반 AI 윤리 원칙

# data[].attributes.body
1. 누군가의 개인정보는 나만의 것이 아니므로 함부로 요구하거나 드러내지 않아요.

2. 인터넷에 떠도는 소문과 AI의 답변은 신중히 살펴보고 근거를 찾은 뒤 믿어요.

3. 사실이 아닌 내용은 친구에게 전달하지 않아요.

4. 다른 사람이 만든 작품은 무단으로 사용하지 않아요.

5. AI를 활용할 때 모두가 안전하고 존중받는 환경을 먼저 생각해요.

# data[].attributes.headline
최*성의 우리 반 AI 윤리 원칙

# data[].attributes.subject
최*성의 우리 반 AI 윤리 원칙

# data[].attributes.body
1. 이름, 얼굴, 목소리 같은 개인정보는 다른 사람 동의 없이 저장하거나 공유하지 않아요.

2. AI가 알려준 답이나 인터넷 정보는 다른 자료와 비교해 사실인지 먼저 확인해요.

3. 재미를 위해 만든 거짓 글·사진·영상이라도 퍼뜨리지 않아요.

4. 글, 그림, 음악의 주인을 존중하고 출처나 허락을 꼭 밝힙니다.

5. AI가 대신 판단해도 마지막 책임은 내가 진다는 것을 기억해요.

# data[].attributes.headline
윤*현의 우리 반 AI 윤리 원칙

# data[].attributes.subject
윤*현의 우리 반 AI 윤리 원칙

# data[].attributes.body
내 정보와 친구의 정보는 소중하니 함부로 공개하지 않아요.

인터넷에 나온 내용이든 AI가 알려준 내용이든 꼭 진짜인지 따져봐요.

잘못된 정보나 소문은 더 이상 퍼뜨리지 않고 멈춰요.

다른 사람이 만든 자료는 허락받거나 출처를 쓰며 고마움을 표현해요.

AI는 모두가 안전하고 편리하게 쓰도록 규칙을 지켜요.

# data[].attributes.headline
백*준의 우리 반 AI 윤리 원칙

# data[].attributes.subject
백*준의 우리 반 AI 윤리 원칙

# data[].attributes.body
1. 개인정보를 지키는 것은 서로를 존중하는 첫걸음이에요.

2. AI의 정보가 맞는지 스스로 책임지고 확인해요.

3. 웃기려고 만든 가짜 소식도 다른 사람을 속이면 안 돼요.

4. AI가 도와줘도 결과물은 내가 직접 확인하고 책임져요.

# data[].attributes.headline
김*현의 우리 반 AI 윤리 원

# data[].attributes.subject
김*현의 우리 반 AI 윤리 원

# data[].attributes.body
나와 친구의 이름·사진·주소는 온라인에 함부로 올리지 않아요.

AI가 알려준 답은 믿기 전에 책이나 선생님께 확인해요.

사실인지 모르는 글이나 영상을 다른 사람에게 보내지 않아요.

남이 만든 글이나 그림은 허락 없이 쓰지 않고 출처를 남겨요.

AI를 쓸 때 장난이나 욕설은 하지 않고 모두가 즐겁게 사용해요.

# data[].attributes.headline
윤*현의 우리 반 AI 윤리 원칙

# data[].attributes.subject
윤*현의 우리 반 AI 윤리 원칙

# data[].attributes.body
1. 누군가의 얼굴, 목소리, 위치는 그 사람의 소중한 권리이니 보호해 줘요.

2. 인터넷 소문이나 AI 대답은 바로 믿지 말고 믿을 만한 근거를 찾아봐요.

3. 친구를 웃기려고 만든 거짓 정보도 다른 사람에게 상처가 될 수 있어 멈춰요.

4. 창작물에는 노력한 사람이 있다는 걸 기억하고 허락 없이 쓰지 않아요.

5. 모두가 안전하고 행복하게 AI를 쓸 수 있도록 공정한 규칙을 지켜요.

# data[].attributes.headline
윤*의 우리 반 AI 윤리 원칙

# data[].attributes.subject
윤*의 우리 반 AI 윤리 원칙

# data[].attributes.body
1. 개인정보를 허락없이 쓰거나 공개하지 않아요.

2. AI의 답은 단서일 뿐이에요. 다른 자료와 비교해 사실을 확인해요.

3. 재미로라도 거짓 정보를 퍼뜨리지 않아요.

4. AI가 대신 생각해도 마지막 결정은 내가 내려요.

# data[].attributes.headline
신*율의 우리 반 AI 윤리 원칙

# data[].attributes.subject
신*율의 우리 반 AI 윤리 원칙

# data[].attributes.body
1. 나와 친구의 얼굴, 연락처를 비밀로 해요.

2. 인터넷과 AI가 준 정보라도 바로 믿지 말고 사실인지 알아봐요.

3. 거짓이나 오해를 부를 수 있는 정보를 퍼뜨리지 않아요.

4. 사진이나 음악은 만든 사람의 노력을 존중하며 사용해요.

5. AI는 모두가 기분 좋게 쓸 수 있도록 공평하게 사용해요.

# data[].attributes.headline
김*재의 우리 반 AI 윤리 원칙

# data[].attributes.subject
김*재의 우리 반 AI 윤리 원칙

# data[].attributes.body
1. 이름이나 주소 같은 정보를 허락 없이 올리지 않아요.

2. AI가 알려준 답은 믿기 전에 자료를 확인해요.

3. 진짜인지 모르는 소문은 확인해봐야 해요.

4. 다른 사람이 만든 글은 출처를 밝히고 허락받아서 써야해요.

5. AI를 사용할 때 친구를 놀리지 않아요.

# data[].attributes.headline
김*준의 우리 반 AI 윤리 원칙

# data[].attributes.subject
김*준의 우리 반 AI 윤리 원칙

# data[].attributes.body
1. 개인 정보는 꼭 지켜요

2. 사실인지 먼저 확인해요

3. 거짓이나 헷갈리는 정보는 퍼뜨리지 않아요

4. 저작권을 존중해요

# data[].attributes.attachment_link.title
그레이 블랙 미니멀 텍스트 중심 뉴스 레터 카드 뉴스

# data[].attributes.attachment_link.title
남색 네온 블루 미래적인 사이버 보안 프로젝트 발표 프레젠테이션

# data[].attributes.attachment_link.title
허위 정보 공유하기 전에 STOP!