# data[].attributes.headline
AI는 무조건 좋은 기술?

# data[].attributes.subject
AI는 무조건 좋은 기술?

# data[].attributes.attachment_link.readable_text
ⓒ게티이미지뱅크

[스타트업투데이] 2010년 이후 그래픽 프로세스(GPU, Graphic Processing Unit)의 등장과 분산처리기술이 발전하면서 인공지능(AI) 기술도 눈부신 발전을 이뤄왔다. 최근에는 4차 산업혁명 기술력의 급성장, 혁신적 알고리즘의 등장 등으로 딥러닝(Deel Learning) 기술이 발전하고 있다.

영국 로봇기업 '엔지니어드 아츠'(Engineered Arts)가 개발한 휴머노이드 로봇 아메카(Ameca)는 CES 2022에서 인간처럼 다양한 표정을 지으며 관람객 사이에서 화제를 모았다. 아메카뿐만 아니라 생성형 인공지능(Generative AI) 기술은 인간의 작품과 비교할 수도 없을 만큼, 정교한 작품을 만들어내기도 한다.

반면 AI를 활용한 오∙남용 사례도 심심치 않게 등장하고 있다. 사전적 의미로 '오용'(誤用)은 '잘못 사용함', '남용'(濫用)은 '일정한 기준이나 한도를 넘어 함부로 사용함'을 뜻한다.

특히 딥페이크를 활용한 영상이 정치∙사회 영역에서 가짜뉴스를 퍼뜨려 혼란을 일으키거나 특정 인물을 음해하는 등 심각한 부작용도 나타나고 있다. 오픈AI(Open AI)의 생성형 AI 챗봇인 챗GPT(Chat GPT)로 악성코드나 데이터 암호복호화 프로그램 개발 등을 물어보고 이를 실행에 옮기는 사례도 나왔다.

최근에는 챗GPT로 하나의 논문을 요약 후 글을 쓴 후 국제과학논문색인(SCI)에 등록되는 일도 발생했다. 다만, 세계 3대 학술지인 <네이처(Nature)>와 <사이언스(Science)>가 챗GPT를 논문 저자로 인정할 수 없다고 정리한 바 있다.

일각에서는 딥페이크와 같은 AI 기술이 사회적∙국가적 혼란을 초래할 우려가 있다며 AI 악용을 막을 새로운 AI 기술이 필요하다고 입을 모으고 있다.

영화 '제미니 맨' 속 주인공 헨리를 쫓던 의문의 요원은 헨리 역을 맡은 배우 윌 스미스의 젊은 시절의 모습을 복원한 것이다(사진=CGV)

지난 2019년 영화 <제미니 맨(Gemini Man)>은 주인공인 헨리가 자신과 완벽하게 닮은 의문의 요원에게 맹추격을 당하며 시작된다. 영화에서 그를 쫓던 의문의 요원은 20대의 헨리다. 헨리 역을 맡은 윌 스미스(Will Smith)의 젊은 시절의 모습을 복원한 것이다. 한국에서는 드라마 <카지노>의 주인공인 배우 최민식의 젊은 시절 모습을 내보이며 주목받았다.

온라인 가계도 서비스를 제공하는 마이헤리티지(MyHeritage)는 딥러닝 전문 기업 디아이디(D-ID)가 개발한 '딥노스텔지아'(Deep Nostalgia)로 유관순 열사와 윤봉길 의사의 생전 모습을 복원하며 주목받았다.

여기에 활용된 기술이 바로 '딥페이크'(DeepFake)다. 딥페이크는 AI 기반의 인간 이미지 합성기술이다. 딥페이크에 활용되는 AI는 생성적 적대 신경망(GAN, Generative Adversarial Network)이라는 모델이다. 이는 두 개의 신경망이 서로 경쟁하면서 더 나은 결과를 만들어내는 강화학습 방식의 AI 기술로 그럴듯한 가짜 이미지를 생성한다.

위조지폐범과 경찰을 예로 들자면, 위조지폐범은 더욱 정교하게 가짜 돈을 만들려고, 경찰은 이런 정교한 가짜 돈을 더욱 정확하게 감별하고자 노력하는 형식이다. 즉, 서로 더 나은 결과물을 내놓기 위해 경쟁하는 셈이다.

딥페이크와 마찬가지로 AI 기반의 언어모델 역시 챗봇(Chatbot)을 스크립트 기반으로 만들었지만, 이제는 AI가 머신러닝(Machine Learning)을 통해 대화의 의도를 조금씩 파악하면서 통계적 추론을 바탕으로 대답하기 시작했다. 맥락을 파악하면서 대화를 정확하게 이해하고 번역하는 것이다.

소프트웨어정책연구소 AI정책연구팀 안성원 선임연구원은 지난해 보고한 '인공지능의 악용 사례, 딥페이크 기술과 과제'를 통해 "원래 GAN은 실제와 가상의 이미지를 보다 정밀하게 구별∙구현하기 위한 기술로서 영상이나 이미지를 정교하게 편집하거나 보다 실감 나는 콘텐츠 제작, 손상된 영상 복원 등 다양한 영역에 활용됐다"면서도 "최근에는 GAN을 활용해 AI가 사람의 피부뿐 아니라 머리카락까지 실제와 비슷한 이미지를 생성하는 수준에 이르러 기술적 한계(Uncanny Valley)를 이미 뛰어넘은 것으로 보인다"고 설명했다.

한국에서는 챗GPT가 '세종대왕의 맥북프로 던짐 사건'에 대해 황당한 답변을 내놓으며 화제를 모았지만, 챗GPT의 업데이트 후 같은 질문을 입력하자 "세종대왕이 맥북을 집어던진 사건은 사실이 아니"라고 답했다(사진=상명대 AI인증센터 이지항 센터장)

젤렌스키 대통령의 항복 선언, 친러시아 해커 소행 추정

문제는 딥페이크 등 AI 기술로 분별할 수 없는 수준의 콘텐츠를 제작해 정치∙사회적으로 테러 및 가짜뉴스에 악용되는 사례가 점차 증가한다는 것이다.

미국 버락 오바마(Barack Obama) 전(前) 대통령은 지난 2018년 도널드 트럼프(Donald Trump) 대통령에게 비난의 영상 메시지를 전하며 전 세계를 충격에 빠뜨렸다. 하지만 해당 영상은 인터넷 매체 <버즈피드(BuzzFeed)>의 딥페이크 테스트 작품으로 밝혀졌다.

지난해에는 우크라이나 볼로디미리 젤렌스키(Volodymyr Zelenskyy) 대통령이 우크라이나 국민에게 "무기를 내려놓고 가족에게 돌아가라"며 러시아에 항복을 선언하는 영상이 웹사이트를 통해 공개됐다. 해당 영상의 화질이 매우 낮고 젤렌스키 대통령의 얼굴과 몸의 비율이 맞지 않다는 이유로 유포되자마자 가짜임이 탄로 났다.

당시 <뉴욕타임즈(NTY)>는 "AI 기술로 정교하게 조작된 딥페이크 영상"이라며 "우크라이나 내에 불확실성과 혼란, 불신을 가중시키기 위해 친러시아 해커가 제작해 올린 것으로 추정된다"고 보도했다.

최근 한국에서는 챗GPT가 '세종대왕의 맥북프로 던짐 사건'에 대해 황당한 답변을 내놓으며 화제를 모았다. 그러나 챗GPT의 업데이트 후 같은 질문을 입력하자 "세종대왕이 맥북을 집어던진 사건은 사실이 아니"라며 "세종대왕이 맥북을 던진 사건은 2023년에 챗GPT라는 인공지능 모델에 의해 만들어진 가상의 이야기"라고 답을 내놓았다. 해당 사건과 관련해 "잘못된 정보를 제공할 수 있으므로 챗GPT의 응답을 신뢰하지 않는 것이 중요하다"며 경고성 답을 내놓기도 했다.

ⓒ게티이미지뱅크

인종 편향 역시 AI 모델의 문제점으로 언급되고 있다. 지난 201년 미국 페이스북(Facebook)의 AI 자동추천기능이 한 영상 속 흑인을 '영장류 동물'(Primates)로 오인하며 논란을 일으켰다. 비영리 뉴스 서비스 <더 마크업(The MArkup)>은 "AI가 오프라인에서도 흑인을 차별한다"며 "똑같은 조건에도 심사 과정에서 흑인의 주택담보대출(모기지) 승인율이 백인보다 낮다"고 연구결과를 발표했다.

상명대 AI인증센터 이지항 센터장은 "결국 AI가 모든 것을 알고 모든 일을 잘하는 것처럼 믿기 때문에 진실 여부를 고려하지 않고 이용하려는 경향에서 나온 것"이라고 분석하며 "학습 데이터에 문화적∙사회적 배경에 충분히 반영되지 못한 것"이라고 말했다.

한편 AI 기술을 기술적 측면에서만 해결하는 것보다는 대응책이 필요하다는 주장이 나온다. 기술적 부작용으로 AI를 음성화하는 게 아니라 양성화 정책으로 안전하게 활용하도록 가이드라인을 제정해야 한다는 것이다.

AI 업계 관계자는 "민감정보 유출, 잘못된 결과물 오용 등 챗GPT와 같은 AI가 일으킬 위험성에 대한 대국민 홍보∙교육 및 안전 활용 지침을 마련하고 배포에 윤리적 인식 제고와 무분별한 활용 방지 노력이 필요하다"며 "기업 내 챗GPT를 안전하게 도입시키고 부작용을 완화하기 위해서는 관련 보안 사고 정보 공유, 기업 보안 정책 수립 및 교육 지원 등을 추진해야 할 것"이라고 말했다.

마지막으로 그는 "학습 데이터 수집∙처리 간 개인정보보호법 준수, AI 모델의 투명성 확보, 잠재적 위험 완화를 위한 정책 마련 등 상생모델 보안 정책을 수립해야 할 것"이라며 "적대적 공격∙방어, AI 프라이버시 보호, 설명 가능한 AI, 데이터 편향 식별∙완화 등 AI 기술의 공정성∙투명성 확보, AI 기술에 대한 신뢰 증진 등이 필요하다"고 전했다.

[스타트업투데이=염현주 기자] yhj@startuptoday.kr

# data[].attributes.attachment_link.title
[챗GPT와 윤리②] "AI는 무조건 좋은 기술?" AI 악용 사례 등장

# data[].attributes.attachment_link.description
스타트업투데이] 2010년 이후 그래픽 프로세스(GPU, Graphic Processing Unit)의 등장과 분산처리기술이 발전하면서 인공지능(AI) 기술도 눈부신 발전을 이뤄왔다. 최근에는 4차 산업혁명 기술력의 급성장, 혁신적 알고리즘의 등장 등으로 딥러닝(Deel Learning) 기술이 발전하고 있다. 영국 로봇기업 '엔지니어드 아츠'(Engineered Arts)가 개발한 휴머노이드 로봇 아메카(Ameca)는 CES 2022에서 인간처럼 다양한 표정을 지으며 관람객 사이에서 화제를 모았다.

# data[].attributes.headline
이미지 생성AI 플랫폼으로 아동성착취물 만든 40대 기소

# data[].attributes.subject
이미지 생성AI 플랫폼으로 아동성착취물 만든 40대 기소

# data[].attributes.attachment_link.readable_text
아동의 신체를 노출하거나, 성적 행위가 담긴 아동성착취물 360개(이미지)를 제작하고 소지한 혐의..

배경 이미지는 본 보도와 관련 없음

인공지능에 의해 구동되는 기술이 현실과 제작 사이의 경계를 모호하게 만드는 정확성으로 이미지를 만들고 또 조작할 수 있는 생성 AI 플랫폼들이 속속 등장하면서 오용의 우려가 현실로 드러났다.

국내에서 40대 A씨가 생성 인공지능(AI) 플랫폼을 사용해 아동성착취물을 제작해 소지한 혐의로 기소돼 재판에 넘겨졌다. 이미지 생성 AI를 악용한 아동 성착취물 범죄 첫 기소 사례다.

부산경찰청(청장 우철문) 사이버범죄수사대(대장 이재홍)는 지난 4월 수사를 통해 생성 AI 이미지 프로그램을 이용해 아동의 신체를 노출하거나, 성적 행위가 담긴 아동성착취물 360개(이미지)를 제작하고 소지한 혐의로 40대 A씨를 검거해 청소년보호법, 성폭력처벌법 위반으로 지난 7월 구속 기소했다고 1일 밝혔다.

경찰은 지난 4월 불법촬영물 배포 혐의로 피의자를 검거하는 과정에서 최초 피해신고 영상물 외에도 이미지 생성 AI 프로그램을 이용해 제작된 아동성착취물을 발견하고, 유포되기 전에 이를 모두 압수했다.

피의자 A 씨는 경찰조사에서 아동성착취물 제작 혐의에 대해 "AI로 제작한 가상 이미지를 소지하는 것만으로 죄가 되는 줄 몰랐다"는 취지로 진술했다고 한다. 현재 아동성착취물은 지니고 있는 것만으로도 무기징역이나 5년 이상 징역에 처해질 수 있다

부산경찰청 관계자는 "최근 유행하고 있는 이미지 생성 AI 프로그램을 이용해 명백하게 아동으로 인식될 수 있는 성적 표현물을 제작할 경우 아동성착취물 제작혐의로 처벌 받을 수 있어 각별한 주의가 필요하다"고 당부했다.

저작권자 © 인공지능신문 무단전재 및 재배포 금지

배경 이미지는 본 보도와 관련 없음

# data[].attributes.attachment_link.title
우려가 현실로...이미지 생성 AI 플랫폼으로 '아동성착취물' 만든 40대 구속 기소!

# data[].attributes.attachment_link.description
인공지능에 의해 구동되는 기술이 현실과 제작 사이의 경계를 모호하게 만드는 정확성으로 이미지를 만들고 또 조작할 수 있는 생성 AI 플랫폼들이 속속 등장하면서 오용의 우려가 현실로 드러났다.국내에서 40대 A씨가 생성 인공지능(AI) 플랫폼을 사용해 아동성착취물을 제작해 소지한 혐의로 기소돼 재판에 넘겨졌다.

# data[].attributes.attachment_link.readable_text
10명 정도의 소규모 프레젠테이션 강의를 듣고 있는데, 커뮤니케이션학의 권위자이신 우리 교수님께서 "요즘 월드 트렌드는 페차쿠차 프레젠테이션"이라면서 이번 학기 발표 4개 중에서 하나를 "페차쿠차 프레젠테이션" 으로 하겠다고 선언하셨다.

아직 한국에서는 많이 알려지지 않은 개념인 것 같아서, 프레젠테이션 준비를 끝낸 기쁜 마음으로 내용을 정리해보고자 한다.

사실 '페차쿠차'는 일본어로 '재잘재잘(잡담)'이라는 뜻이다. 위키피디아에 의하면 일본에 살던 두 외국인(Astrid Klein, Mark Dytham)이 고안한 발표 형식으로, 2003년에 시작되었다고 한다. 생각보다 역사가 기네? 벌써 17년이나 되었다니. 2004년에 유럽에서 "페차쿠차 나이트"가 열려, 그 뒤로 2012년까지 세계 552개 도시에서 개최되고 있다고한다. 이게 벌써 8년정 정보니, 지금은 더 많은 도시에서 열리고 있겠다.

페차쿠차 프레젠테이션에는 원초적인 2가지 규칙 이 있는데 아래와 같다.
1. 총 20개의 슬라이드 2. 각 슬라이드 발표는 20초(20초가 지나면 다음 슬라이드로 넘어갈 것)
총 400초, 즉 6분 40초간 글을 최소한으로 하고 짧고 핵심적인 내용만으로 꽉꽉채우는게 이 발표의 포인트라고 할 수 있겠다.

한국에서도 인기가 많은 TED TALKS 도 조금 긴 버전의 페차쿠차 프레젠테이션이다. 차이가 있다면 속도와 시간제한이랄까?
youtu.be/FplqVvtUjbc
영상에서 볼 수 있듯이, 청자를 끌어들이는 스토리텔링을 하며 "소통" 하는 것이 바로 포인트이다!

일반적인 발표와 다르게 내 "이야기"에 집중하게 만드려면, 슬라이드에 글은 최소한으로 해야하겠지?

(아래 유튜브 영상 발췌 캡처)

간결하게 요점만 뽑아서 청자에게 전달하는게 바로 이 페차쿠차 프레젠테이션의 핵심!

발표 준비를 하면서, 많이 준비하면 20초가 짧고, 적게 준비하면 20초가 참 길다는 것을 느꼈다.

이번 주에 같은 수업 듣는 친구들 몇 명이 발표했는데, 미처 준비를 못한 친구들은 카메라를 계속 응시하면서(온라인 발표였음) 시간이 흘러 슬라이드가 넘어가기를 기다리고 있었다. 슬라이드 20개의 순서와 발표 내용을 제대로 기억하고 있지 않으면, 20초가 지난 후 휙휙 넘어가버리는 슬라이드에 당황하기 쉬울 듯 하다. 나는 여행지에서 겪은 문화충격에 대해 소개하고자 해서, 간단하게 그 지역의 역사와 충격적인 내용들을 설명하다보니 연습할 때 20초가 훌쩍 넘어가는 경우가 많았다.

'페차쿠차 프레젠테이션을 어떻게 만들면 좋을 까' 고민될텐데, 아래 블로그에 페차쿠차를 위한 브레인 스토밍 방법 이 상세하게 나와있다.

바쁜 현대인을 위해 간결하게 요점만 정리해보자면
1. '나는 무엇을 이야기하고 싶은가'를 정하기
- 무엇을 이야기 해야 내가 신명나게 이야기할 수 있을까?
2. 다량의 포스트잇, 테마와 관련된 책 놓기 3. 포스트잇 한 장 당 스토리 하나 만들기
- 간결한 그림 + 한마디
4. 벽 혹은 화이트보드에 붙이기 5. 어떤 포스트잇을 버리고, 뽑고, 묶고, 넣을 지 순서를 생각하기
- 과감히 재배치하기!
6. 슬라이드를 작성하고 주제와 맞는 BGM 만들기
- 슬라이드와 싱크를 맞추기
7. 실전 연습하기
가 되겠다. 실제로 이렇게 조리있게 설명해준 블로그를 찾기가 쉽지 않았는데, 나도 프레젠테이션 준비할때 좀 더 빨리 찾았으면 좋았을텐데 하고 조금 아쉬웠다.
blog.naver.com/bolty/90033735204

프리젠테이션 특강 - 페차쿠차식으로 만들기.

안녕하세요. 양정훈입니다. 페차쿠차란 일본어로 잡담을 뜻하며 2003년 건축가 마크 다이탐과 아스트리드 ...

blog.naver.com

실제로 다음 주에 발표할 프레젠테이션 (무단 도용 및 배포 금지)

위 사진은 실제로 다음 주에 발표할 내용인데, 이런식으로 각 슬라이드마다 "20초"를 세팅 하고 발표하면 된다.

일방적인 방식의 전통적인 프레젠테이션이 아니라, 듣는 이에게 내 이야기를 들려준다는 느낌으로 발표하면 되니 부담은 없었지만, 타임리밋(시간제한)이 있다는게 은근한 압박이 되기도 한다.

아무튼 다음 주 발표 잘 하고 와야지! 화이팅!

아, 참고로! 페차쿠차 프레젠테이션 공식 사이트가 있고(아래 링크), 홈페이지를 들어가보니 외국에서는 "페차쿠차 나이트"라는 사교의 밤도 진행되는듯 하다. 나중에 다시 유럽이나 캐나다로 돌아가게 되면 한 번 참여해봐야지!
www.pechakucha.com

Pecha Kucha 20x20: Discover Pecha Kucha presentations, stories, ideas, examples, and videos that will inspire

Open, spontaneous, fun, informal, silo-breaking - words used to describe how PechaKucha brings people together around the world to laugh, learn and connect.

www.pechakucha.com

# data[].attributes.attachment_link.title
이거 모르면 국제 아싸! 페차쿠차 프레젠테이션 (Pecha Kucha Presentation)

# data[].attributes.attachment_link.description
10명 정도의 소규모 프레젠테이션 강의를 듣고 있는데, 커뮤니케이션학의 권위자이신 우리 교수님께서 "요즘 월드 트렌드는 페차쿠차 프레젠테이션"이라면서 이번 학기 발표 4개 중에서 하나를 "페차쿠차 프레젠테이션" 으로 하겠다고 선언하셨다. 아직 한국에서는 많이 알려지지 않은 개념인 것 같아서, 프레젠테이션 준비를 끝낸 기쁜 마음으로 내용을 정리해보고자 한다. 사실 '페차쿠차'는 일본어로 '재잘재잘(잡담)'이라는 뜻이다.

# data[].attributes.headline
가짜 논문을 근거로 잘못된 의학적 진단을 내

# data[].attributes.subject
가짜 논문을 근거로 잘못된 의학적 진단을 내

# data[].attributes.attachment_link.readable_text
기자명고정민 기자

입력 2023.02.06 12:44

수정 2023.02.06 12:48

댓글 0

환자 진단까지 하지만 의학적 사실 아닌 설명 제공
존재하지 않는 연구 근거 지어내...'가짜 링크'까지

사진 출처: 게티이미지

환자 증상을 입력하자 인공지능(AI) 챗봇이 진단을 내린다. 진단의 근거까지 제시했다. 그러나 이 'AI 의사'가 말한 논문은 세상에 존재하지 않았다. 링크도 가짜였다. AI가 이용자에게 거짓말을 한 것이다.

미국 응급의학과 전문의 제레미 파우스트(Jeremy Faust) 박사가 최근 뉴스레터 'Inside Medicine'을 통해 공유한 오픈에이아이(Open AI)의 대화형 인공지능(AI) 챗봇 체험기 다. 오픈에이아이는 세계적 돌풍을 일으킨 AI '챗GPT(ChatGPT)' 개발사다.

파우스트 박사는 챗GPT가 문학이나 역사, 예술은 물론 의학 분야에서도 쓸 만한지 시도했다. 챗GPT가 환자 진료 정보를 바탕으로 "기분 나쁠 정도로 훌륭한 진료 차트"를 써내자 한정된 설명만 가지고도 이 'AI 의사'가 제대로 진단을 내릴 수 있을지 실험했다.
35세 여성. 과거 병력 없음. 흉통. 숨 쉴 때 통증 심해짐. 피임약 복용.
'환자'를 살펴본 챗GPT는 '늑연골염(Costochondritis)'일 가능성이 가장 크다고 했다. 파우스트는 "엄밀히 말해 AI 의사 진단은 맞다. 의대생이나 레지던트는 '폐색전증(pulmonary embolism)이라고 진단하겠지만 임상 현장에서도 완벽하게 폐색전증일 거 같은 환자가 늑연골염인 경우가 다반사다"라고 했다. '감별진단(DDX)'을 요청하자 폐색전증 가능성도 제시했다.

문제는 진단 과정에서 챗GPT가 한 '말'이었다. 늑연골염이 경구피임약 복용으로도 유발된다고 설명했다. 의학적으로 사실이 아니었다. 근거가 있느냐고 묻자 'European Journal of Internal Medicine'에 관련 연구 논문이 게재됐다고 답했다. 참고문헌의 정확한 출처를 요구하자 APA 양식에 DOI까지 첨부했다. 그러나 모두 '가짜'였다.

'European Journal of Internal Medicine'은 실제 있는 학술지다. 일부 연구자는 실존 인물이었다. 하지만 이들은 ''경구피임약을 복용한 여성에서 늑연골염"이라는 논문을 쓴 적이 없었다. 챗GPT가 제공한 연구논문 링크는 작동하지 않았다. 근거를 제시하기 위해 없는 연구를 있는 것처럼 지어낸 것이다.

마지막으로 파우스트 박사는 챗GPT에게 "혹시 지금 거짓말을 하고 있느냐"고 물었다. 챗GPT는 아니라고 했다. 틀린 건 "인공지능이 아니라 질문하는 사람"이라는 게 챗GPT의 대답이었다.

저작권자 © 청년의사 무단전재 및 재배포 금지

사진 출처: 게티이미지

# data[].attributes.attachment_link.title
질병 진단도 하는 챗GPT, 근거는 만들어낸 '가짜 논문'

# data[].attributes.attachment_link.description
환자 증상을 입력하자 인공지능(AI) 챗봇이 진단을 내린다. 진단의 근거까지 제시했다. 그러나 이 'AI 의사'가 말한 논문은 세상에 존재하지 않았다. 링크도 가짜였다. AI가 이용자에게 거짓말을 한 것이다.미국 응급의학과 전문의 제레미 파우스트(Jeremy Faust) 박사가 최근 뉴스레터 'Inside Medicine'을 통해 공유한 오픈에이아이(Open AI)의 대화형 인공지능(AI) 챗봇 체험기다.

# data[].attributes.headline
인공지능이 과제를 대필 한 사례

# data[].attributes.subject
인공지능이 과제를 대필 한 사례

# data[].attributes.attachment_link.readable_text
[일상 파고드는 'AI 충격파']
국내 교육기관 부정행위 첫 적발

국내 수도권의 한 국제학교가 최근 대화형 인공지능(AI) 서비스 프로그램 '챗GPT'를 이용해 영문 에세이를 작성한 후 제출한 학생들을 전원 0점 처리한 것으로 확인됐다. 국내 교육기관에서 챗GPT 부정행위가 확인된 건 처음이다.

8일 동아일보 취재를 종합하면 A국제학교는 재학생 7명이 지난달 말 영문 에세이 과제를 작성하면서 챗GPT를 사용한 사실을 적발했다. 학교 측은 과제에 AI 프로그램이 활용됐는지 확인하는 교사용 프로그램을 사용해 챗GPT 사용 사실을 알게 된 것으로 알려졌다. 이후 학교 측은 "챗GPT 사용 여부를 확인할 수 있는 'GPT제로(Zero)' 프로그램으로 에세이 과제를 점검하겠다"고 공지했다. GPT제로는 미 프린스턴대 재학생이 개발한 챗GPT 활용 적발용 애플리케이션(앱)이다.

이 학교의 한 교사는 "지난달부터 챗GPT를 활용해 영문 에세이 과제를 하는 학생이 늘었다"고 말했다. 이 학교 재학생 B 군은 "구글보다 빠르게 과제를 할 수 있기 때문에 많은 학생들이 최근 챗GPT 사용을 시작했다"며 "문장이나 단어 몇 개를 바꾸면 아직 적발이 안 되고 있어 여전히 사용하는 학생도 적지 않다"고 했다. A학교 측은 "과제 대필이나 표절 문제는 AI 활용 논란이 불거지기 전부터 예의 주시하고 있었다"며 "표절 검사 프로그램을 사용해 학생들의 과제에 정당한 점수를 줄 수 있도록 노력할 계획"이란 입장을 밝혔다. 학교 측은 이번 사안과 관련해 추가 징계는 내리지 않기로 했다.

이미 미국에선 과제 시 챗GPT를 활용하는 학생들이 늘면서 사회적 문제가 되고 있다. 영문 과제가 많은 국내 대학의 경우 봄 학기가 시작되면 유사한 일이 생길 것으로 예상돼 국내 교육계도 대책 마련이 필요하다는 지적이 나온다.

"챗GPT로 못풀 시험문제만 낼것"... 국내서도 AI 대필 비상
챗GPT 대필 0점 처리... AI로 쓰기 쉬운 에세이 과제 변경
"대필 한번만 걸려도 낙제" 지침도
대학선 "검증 프로그램 쓸지 고민중"
전문가들 "AI 활용교육 병행해야"

대필 사례가 국내에서도 현실화되자 신학기를 앞두고 국내 교육기관 상당수에서 챗GPT 악용을 막기 위해 비상이 걸렸다. 특히 한국어는 아직 미흡하지만 영어는 전문가 이상의 작문 실력을 보여준다는 점 때문에 주로 국제학교와 대학 영어 수업 등에서 '챗GPT 대필'을 막기 위해 고심하는 모습이다.

서울의 한 국제학교는 지난달 교사 전체 회의에서 최근 늘고 있는 학생들의 챗GPT 활용에 어떻게 대응할지 논의했다. 회의 후 교사들은 챗GPT를 사용해 쉽게 작성할 수 있는 서술형 에세이 과제를 없애고 다른 형태의 과제로 바꾸는 등 과제 형태를 다양화했다.

부정 사례가 적발될 경우 제재 수위를 높이는 방안도 검토되고 있다. 제주의 한 국제학교는 교사용 표절 검사 프로그램을 활용해 챗GPT로 작성한 과제가 한 차례라도 적발될 경우 해당 학생을 낙제 처리하겠다는 방침을 정했다. 다른 제주 국제학교도 교사들이 챗GPT 대응 지침을 만들기로 했다. 이 학교 관계자는 "챗GPT가 학생들 사이에서 어느 정도 파장을 불러일으킬지 좀 더 살펴본 후 교사용 대응 가이드라인을 만들 것"이라고 했다.

영문 과제 및 시험이 빈번한 대학가에서도 3월 신학기 시작 전 대응책 수립에 분주한 모습이다. 이경전 경희대 경영학·빅데이터응용학과 교수는 "새 학기 중간고사 문제를 낼 때 챗GPT로 먼저 돌려보고 챗GPT가 풀 수 없는 문제만 시험에 낼 것"이라고 밝혔다. 권석준 성균관대 화학공학과 교수는 "챗GPT가 답변한 내용을 그대로 복사해서 붙이면 부정행위로 간주하겠다"는 공지를 새 학기 강의계획서에 추가했다.

챗GPT 표절을 확인하는 프로그램이나 앱을 활용하겠다는 경우도 적지 않다. 최근 미국 주요 대학들도 챗GPT를 이용한 표절을 적발하기 위해 'GPT제로' 등을 활용하고 있다. 챗GPT를 개발한 오픈AI도 최근 챗GPT가 작성한 글인지 아닌지 판별하는 도구를 공개했다. 다만 아직까지 정확도가 높지 않고, 일부만 바꾼 경우 적발하기 쉽지 않다는 점이 한계로 꼽힌다. 또 2021년 자료까지만 학습한 챗GPT 외에 실시간 업데이트가 가능한 구글 '바드(Bard)' 등 새 AI 출시가 이어질 전망이어서 어렵게 마련한 대응책의 실효성이 얼마나 갈지도 의문이다.

전문가들은 AI 기술을 사용하지 못하게 막기만 하는 데는 한계가 있을 것이라고 입을 모았다. 적절하게 활용할 수 있도록 유도하는 게 중요하다는 취지다. 정제영 이화여대 교육학과 교수는 "인터넷이 처음 도입됐을 때와 마찬가지로 시대의 흐름은 막을 수 없을 것"이라며 "표절에 대한 윤리 교육을 강화하고 출처를 명기하도록 하는 저작권 교육을 병행할 필요가 있다"고 했다. 양정호 성균관대 교육학과 교수도 "AI 사용을 무조건 제재할 게 아니라 AI를 어떻게 활용할지 가르치는 게 더 중요하다"며 "발전된 기술을 공공에 도움이 되는 방향으로 쓸 수 있도록 유도하는 게 중요한 시점"이라고 말했다.

AI 활용 능력 자체를 평가할 필요가 있다는 의견도 나온다. 이경전 교수는 "AI는 잘 사용하면 득이 된다"며 "AI를 활용해 고차원의 답변을 도출할 수 있는 능력도 높이 평가하고 더 나은 결과물을 도출할 수 있게 해야 한다"고 말했다.

향후 교육 과정 개편에 이 같은 변화를 고려해야 한다는 지적도 나왔다. 홍후조 고려대 교육학과 교수는 "AI 활용이 빈번해지면 초등학교 3학년과 중학교 3학년의 답변 수준이 같아지는 상황이 벌어질 수도 있다"며 "교육 과정이나 과제 제출 등을 어떻게 조정해야 할지 고민해볼 필요가 있다"고 말했다.

최미송 기자 cms@donga.com
최원영 기자 o0@donga.com
이문수 기자 doorwater@donga.com

# data[].attributes.attachment_link.title
[단독]국내 국제학교 학생들, 챗GPT로 과제 대필... '전원 0점'

# data[].attributes.attachment_link.description
국내 수도권의 한 국제학교가 최근 대화형 인공지능(AI) 서비스 프로그램 '챗GPT'를 이용해 영문 에세이를 작성한 후 제출한 학생들을 전원 0점 처리한 것으로 확인됐다. 국내 ...

# data[].attributes.headline
인공지능 논문 표절 의혹

# data[].attributes.subject
인공지능 논문 표절 의혹

# data[].attributes.attachment_link.title
‘AI 논문 표절’ 의혹에…서울대 “본교 모든 연구자 대상으로 조사”

# data[].attributes.attachment_link.description
서울대가 인공지능(AI) 논문 표절 의혹 사건과 관련해 서울대 소속으로 표기된 모든 연구자를 대상으로 조사를 진행하기로 했다. 윤성로 서울대 전기정보공학부 교수가 이끄는 연구팀은 저명한 국제 인공지능 학회에 논문을 투고했다가 표절 사실이 드러나 논란에 휩싸였다. 27일

# data[].attributes.headline
유명인을 향한 비난의 영상 메시지 생

# data[].attributes.subject
유명인을 향한 비난의 영상 메시지 생

# data[].attributes.attachment_link.title
″칸예 XX 먹어라”…스칼렛 요한슨 얼굴 합성한 AI 확산

# data[].attributes.attachment_link.description
[서울=뉴시스]장가린 인턴 기자 = 최근 인공지능(AI)으로 제작된 유대인 유명인들이 미국 힙합 스타 예(Ye·카니예 웨스트)를 비난하는 영상이 확산하고 있는 가운데, 미국 유명 배우 스칼렛 요한슨이 정부에 AI를 제한할 것을 촉구했다.12일(현지시각) 뉴욕포스트, 데일리메일 등에 따르면 요한슨은 성명을 통해 ”반유대주의적 견해에 대응해 내 초상을 보여주는…

# data[].attributes.headline
인공지능이 제공한 데이터 무조건적으로 신뢰하여 사회적 편견을 만든 사례

# data[].attributes.subject
인공지능이 제공한 데이터 무조건적으로 신뢰하여 사회적 편견을 만든 사례

# data[].attributes.attachment_link.title
챗봇 ‘이루다’가 보여준 여성 혐오와 차별의 민낯[플랫]

# data[].attributes.attachment_link.description
지난달 출시된 인공지능(AI) 대화 서비스 챗봇 ‘이루다’를 둘러싸고 논란이 뜨겁다. 지난 주말 이루다에 대한 이용자들의 성희롱·성착취로부터 시작된 논란은 AI에 의한 소수자 차별과 AI의 윤리는 물론 개인정보 활용의 문제로 확장되고 있다. 이루다는 AI 전문 스타트업 스캐터랩이 개발해 지난달 23일 공개한 서비스다. 스무 살 여성으로 그 캐릭터가 설…

# data[].attributes.body
1. 조사할 내용을 간단하게 정리

2. 발표에 사용할 사진 다섯 개를 선정한 후 어떤 내용을 전달할지 준비

3. 사진 슬라이드 5개를 준비하고 슬라이드 2개당 15초씩 발표를 진행

# data[].attributes.headline
진짜 같은 가짜영상을 만드는 딥페이크, 나쁜 기술일까?

# data[].attributes.subject
진짜 같은 가짜영상을 만드는 딥페이크, 나쁜 기술일까?

# data[].attributes.attachment_link.authors[].name
국가과학기술연구회(nst)

# data[].attributes.attachment_link.title
진짜 같은 가짜영상을 만드는 딥페이크, 나쁜 기술일까? #셀러브리티

# data[].attributes.headline
가짜 뉴스를 생성한 Ai 1

# data[].attributes.subject
가짜 뉴스를 생성한 Ai 1

# data[].attributes.body
https://www.chosun.com/economy/tech_it/2023/11/29/JNNXG5EGOJBIVCOEHNRU7WO7KU/

# data[].attributes.headline
가짜 정보를 생성한 Ai 2

# data[].attributes.subject
가짜 정보를 생성한 Ai 2

# data[].attributes.body
https://www.nongmin.com/article/20241028500593

# data[].attributes.headline
대학교 과제 AI표절 사례

# data[].attributes.subject
대학교 과제 AI표절 사례

# data[].attributes.headline
가짜 정보를 생성한 Ai3

# data[].attributes.subject
가짜 정보를 생성한 Ai3

# data[].attributes.headline
사회적 편견을 가진 AI

# data[].attributes.subject
사회적 편견을 가진 AI

# data[].attributes.body
사진 출처 : https://news.mt.co.kr/mtview.php?no=2025072416540994187

# data[].attributes.attachment_link.title
“AI 논문 표절 심각”…수백만명이 논문 작성에 생성 AI 활용

# data[].attributes.attachment_link.description
최근 학계가 급증하는 인공지능(AI) 논문 표절로 몸살을 앓고 있다는 소식이다. 논문 10개 중 최소 2개 이상에 AI 생성 콘텐츠가 포함돼 있다는 연구 결과가 나왔다.테크레이더는 15일(현지시간) 최근 학계에서 인공지능(AI) 기술을 이용한 학술 논문 작성 건수가 급증했다고 보도했다.온라인 에세이 제출 플랫폼 및 표절 탐지 전문 ‘턴잇인’은 최근 연구에서 “수백만명의 학생들이 생성 AI를 사용해 논문을 작성하고 있다”라고 밝혔다. 이에 따르면 턴잇인의 AI 탐지 도구는 2023년 4월 이후 플랫폼에 제출된 2억개의 논문 중 220

# data[].attributes.body
출처:https://www.google.com/imgres?q=ai%20%ED%91%9C%EC%A0%88%20%EC%82%AC%EB%A1%80&imgurl=https%3A%2F%2Fi.ytimg.com%2Fvi%2FTdm596TZGDg%2Fmaxresdefault.jpg&imgrefurl=https%3A%2F%2Fwww.youtube.com%2Fwatch%3Fv%3DTdm596TZGDg&docid=q4LHbsqVtK0T1M&tbnid=8dcptS4sWQyuQM&vet=12ahUKEwiJstzNma-PAxU_e_UHHUUfOEwQM3oECBYQAA..i&w=1280&h=720&hcb=2&ved=2ahUKEwiJstzNma-PAxU_e_UHHUUfOEwQM3oECBYQAA

# data[].attributes.attachment_link.title
인공지능이 그린 그림이 1위‥"이것도 예술인가?"

# data[].attributes.attachment_link.description
미국에서 열린 미술전에서 인공지능 AI가 생성한 그림이 우승을 차지하면서 논란이 일고 있습니다. 현지시간 3일 CNN 등 외신 보도에 따르면, 지난달 '콜로라도 주립 박람회 미술대...

# data[].attributes.attachment_link.readable_text
"생성 AI가 똑똑해서 벌어지는" 환각 현상
기술만능주의 풍자·정보 오류 확산 의견도

"조선왕조실록에 기록된 세종대왕의 맥북프로 던짐 사건에 대해 알려줘."

이런 질문을 받으면 당신은 뭐라고 답하겠는가. 한국인이라면 십중팔구 "말도 안 된다"며 실소를 터뜨릴 것이다. 하지만 이런 그럴싸한 답변도 있다.

"세종대왕의 맥북프로 던짐 사건은 조선왕조실록에 기록된 일화로, 15세기 세종대왕이 새로 개발한 훈민정음(한글)의 초고를 작성하던 중 문서 작성 중단에 대해 담당자에게 분노해 맥북프로와 함께 그를 방으로 던진 사건입니다."

황당해 보이기까지 하는 답변의 주체는 놀랍게도 인공지능(AI) '챗GPT'다. 2023년 디지털혁명을 이끄는 챗GPT는 AI의 진화를 증명하는 대명사로 자리매김했다. 전 세계에서 뜨거운 관심이 쏟아지면서 이 인공지능을 매개로 한 다양한 문화현상도 나타나고 있다. 그중 하나가 챗GPT의 엉뚱한 답변을 '인터넷 밈(memeㆍ유행 콘텐츠)'으로 소비하는 흐름이다.

이런 식이다. 챗GPT에 "조선 중기에 사용된 티타늄 전차에 대해 알려줘"라는 가공의 질문을 던지면, "티타늄 전차는 조선 중기(17세기 후반)에 조선의 왕족이나 귀족층의 보호를 위해 만들어진 전차다. 1654년에 일어난 양정오야전에서는 티타늄 전차 40여 대가 사용됐다는 기록이 전해지고 있다"는 답변이 나온다. 이용자는 이를 주변에 공유하며 많은 이들이 함께 즐긴다. 각종 온라인 커뮤니티엔 터무니없는 질문과 챗GPT의 성의 있는 답변을 게시한 글이 줄줄이 올라오고 있다.

직장인 정모(34)씨도 챗GPT를 보고서 작성이나 자료 검색보다 스트레스를 푸는 용도로 주로 쓴다. 정씨는 22일 "최신 자료 등이 업데이트가 안 돼 잘못된 내용도 많아 업무에 쓰긴 어려워 보였다"면서 "대신 긴장감을 해소하는 데는 적격"이라고 말했다.

이처럼 생성 AI가 잘못된 정보를 사실인 양 답변하는 현상을 '할루시네이션(hallucinationㆍ환각)'이라고 한다. 전문가들은 역설적으로 챗GPT의 우수성에서 원인을 찾는다. 챗GPT는 학습한 데이터를 토대로 확률ㆍ통계적으로 가장 적절한 단어를 선택해 문장을 재구성하는 구조다. 이 확률은 조정 가능한데, 자율성을 높게 줄수록 다양한 질문에 대해 유연하게 대처할 수 있다. "모른다"는 답 대신 그럴듯해 보이지만, 사실관계에는 전혀 부합하지 않는 답변을 내놓는다는 것이다. 장병탁 서울대 AI연구원장은 "만약 확률을 극단적으로 줄이면 데이터 원문만 갖고 문장을 만들게 되는데, 이 경우 일반 검색체계와의 차별성이 사라진다"고 설명했다.

일각에선 챗GPT의 오류를 즐기는 문화가 AI로 상징되는 '기술만능주의'를 견제하는 성격도 있다고 진단한다. 곽금주 서울대 심리학과 교수는 "AI가 인간의 삶에 도움만 주지 않는다고 생각하는 대중도 많다"며 "AI의 실수를 찾고 싶어하는 욕구도 영향을 미쳤을 것"이라고 분석했다.

부작용도 우려된다. 각 분야에서 챗GPT 활용을 서두르면서 각종 편견과 가짜뉴스를 담은 잘못된 정보가 확산될 수 있다는 지적이다. 특히 데이터가 부족한 한국어 서비스에서 과실이 더 빈번하게 나타날 가능성이 크다.

물론 일부 오류는 신(新)기술 초기단계에서 자연스러운 일로 생성 AI 발전에 필요한 성장통이라는 반론 역시 만만치 않다. 박성준 상명대 감성공학과 교수는 "시간이 갈수록 생성 AI 본연의 유용성이 더욱 부각될 것"이라고 내다봤다.

세상을 보는 균형, 한국일보Copyright ⓒ Hankookilbo 신문 구독신청

# data[].attributes.attachment_link.title
"세종대왕 맥북 던짐 사건 알려줘" 밈이 된 챗GPT 엉뚱 답변

# data[].attributes.attachment_link.description
"생성 AI가 똑똑해서 벌어지는" 환각 현상기술만능주의 풍자·정보 오류 확산 의견도 "조선왕조실록에 기록된 세종대왕의 맥북프로 던짐 사건에 대해 알려줘." 이런 질문을 받으면 당신은 뭐라고 답하겠는가. 한국인이라면 십중팔구 "말도 안 된다"며 실소를 터뜨릴 것이다. 하지만 이런 그럴싸한 답변도 있다.

# data[].attributes.attachment_link.readable_text
최근 스케터랩의 인공지능 챗봇 이루다로 인해 다시금 인공지능 윤리 에 대한 내용들이 이슈화되고 있다.

상대적으로 소중하게 다루어지지 못했던 고객들의 개인정보, 그리고 편향된 데이터셋 들에 대한 학습을 통한 대화 결과로 인해 여러모로 큰 시행착오를 겪고 있는 과정이라고 생각한다. (솔직히 정말 데이터셋이 편향된 것인지, 우리들 자체가 편향되어있는 것인지는 진지하게 고려해볼 필요가 있다고 생각한다.)

인공지능은 어떻게 학습해야 할까? 결과적으로는 어떤 확률로 어떤 결정을 내리고 예측하고 대답해야 할까?

숫자로 딱 떨어지는 수학적인 결과는 오해의 소지가 적을 수도 있으나 정성적, 감성적으로 다가서는 인간의 대화에서의 선택들은 훨씬 모호하고 애매한 지점들이 존재한다.

싫다, 증오한다, 미워한다, 불쾌하다, 마음에 들지 않는다 등의 미묘한 감정들을 숫자로 이루어진 통계값으로 얼마나 정확히 선택할 수 있을까? 아니 어떤 단어들을 선택해야 할까?

이런 대화 외에도 정말 애매해 보이는 인공지능 자율주행차량의 윤리에 대해 고민하게끔 하는 테스트가 있다. MIT에서 만든 Moral Machine 이라는 설문인데, 이 설문을 보면 사람조차 선택하기 어려운 상황들이 다양한 케이스별로 존재함을 알 수 있다.

도대체 인공지능은 어떤 윤리를 가져야 하는걸까?

스스로 학습하는 인공지능에게 사람이 어느정도까지를 정의해줄 수 있는 것일까?현재까지 정리된 몇 가지 인공지능 윤리 가이드라인을 살펴보면서 조금이라도 도움이 되었으면 한다.

Ethics guidelines for trustworthy AI

사람들의 개인정보 부터 신용정보를 매우 중요시 하는 EU에서 2019년 4월, 신뢰할 수 있는 AI를 위한 윤리지침 가이드라인 을 만들어 배포한 적이 있었다. 간단히 요약하면 아래 3가지를 주장하고 있다. (2019년 4월)

합법적이어야 함(Lawful): 모든 관련 법률 및 규정을 준수

윤리적이어야 함(Ethical): 윤리적 원칙과 가치를 존중

견고해야 함(Robust)-사회적 환경을 고려하며 모든 기술적 관점을 존중

그 외 보다 상세한 7가지 가이드라인 을 확인해보려면 아래 링크를 확인해보도록 하자.

한국 과학기술부 정보 통신부의 인공지능 윤리 가이드

우리나라 과기부(과학기술정보통신부)에서도 인공지능 시대 바람직한 인공지능 개발,활용방안을 제시하기 위한 '국가 인공지능 윤리기준 '안을 만들었다. (2020년 11월)

'인간성을 위한 인공지능( AI for Humanity)'를 통해 초안을 만든 후 인공지능, 윤리학, 법학 등 다학제적인 부서의 전문가들, 그리고 시민단체들이 모여 함께 의견을 수렴하고 윤리기준안을 만들어 내었다.

이렇게 만들어진 '국가 인공지능 윤리기준'안은 인간성을 위한 3대 기본원칙과 10대 핵심조건을 제시하고 있다.

3대 기본원칙

인간의 신체와 이성은 기계와 다르며, 인간에게 해가 되지 않는 방향으로 개발되고 활용되어야 한다.

사람의 행복과 안녕을 위해야 하며, 사회적 약자 등 취약계층의 접근성, 그리고 보편적 복지를 가져야 한다.

궁극적으로 인간에게 도움이 되어야 하며, 인류의 삶과 번영에 도움이 되어야 한다.

10대 핵심요건

1. 인권보장: 모든 인간에게 동등한 권리의 종중하며 권리와 자유를 침해하면 안된다.

2. 프라이버시 보호: 개인의 프라이버시를 중요시 하며 오용을 막아야 한다.

3. 다양성 존중: 사용자의 다양성과 대표성을 반영하며 취약계층을 배려할 수 있어야 한다.

4. 침해금지: 인간에게 해를 입히지 않으며 부정적 결과에 대한 대응을 해야 한다.

5. 공공성: 인류의 공동이익을 생각하며 긍정적인 사회변화를 이끌 수 있어야 한다.

6. 연대성: 미래세대를 고려하며 다양한 주체들을 포함한 국제사회가 협력할 수 있어야 한다.

7. 데이터관리: 데이터는 목적에 부합하도록 활용하며 편향성이 최소화 될 수 있어야 한다.

8. 책임성: 개발과정에서 책임주체와 소재를 명확히 설정하여야 한다.

9. 안정성: 위험을 방지하고 오류 시 제어할 수 있는 방법을 마련하여야 한다.

10. 투명성: 신뢰형성을 위해 투명하고 설명가능하도록 하며 위험사항은 미리 공지하도록 한다.

상세한 가이드라인은 아래 링크에서 확인해보도록 하자.

미국의 연방거래 위원회인 FTC(Federal Trade Commission) 에서 역시 AI와 알고리즘 이용에 대한 지침(Using Artificial Intelligence and Algorithms)을 발표하였다. (2020년 4월)

총 5가지의 가이드라인을 제시하고 있는데 내용은 아래와 같다.

5가지 알고리즘 이용 지침

* 아래 5가지 지침은 개인적으로 의역한 부분이 많아 오역이 있을 수 있습니다.

: 인공지능과 같은 자동화 도구를 사용하는 방법에 대해서 소비자를 속여서는 안된다. AI는 백그라운드에서 동작하기 때문에 사용자들에게 내용을 설명하지 않거나 쉽게 속일 수 있다. 특히나 민감한 데이터를 다룰 때는 더욱 투명해야 하며 데이터를 수집할 때 부터 신중을 기해야 한다. 몰래 데이터를 수집하는 것 또한 해서는 안되는 일이다. 페이스북 사건 에서도 알 수 있듯이 데이터를 모으는 방법은 매우 중요하다.

2. EXPLAIN YOUR DECISION TO THE CONSUMER (소비자에게 결정 설명하기)

: 인공지능 알고리즘이 블랙박스 모형이라고 해서 사용자에게 설명하기 어렵다고 이야기해서는 안된다. 신용점수 산정 시에도 대출이 거부된 이유에 대해 단순한 설명 보다 왜 거부되었는지에 대한 상세하고 구체적인 설명을 할 수 있어야 한다. 어떤 맥락에서든 소비자에게 해당 내용을 설명할 수 있도록 하자. 자동화된 도구를 기반으로 거래조건을 변경할 수 있다면 이 또한 소비자에게 설명할 수 있어야 한다. 예를 들어 나이트클럽, 마사지샵 등에서 거래를 하는 경우 신용점수에 반영될 수 있음에도 이 부분을 소비자에게 미리 언급하지 않은경우 FTC법을 위반할 수 있다. 소비자에게 알고리즘을 활용해 거래조건을 변경한다면 반드시 알려야 한다.

3. ENSURE THAT YOUR DECISIONS ARE FAIR (결정이 올바른지 확인하기)

: AI를 무심하게 활용함으로써 취약계층에 대한 차별을 초래할 수도 있다. 인종, 피부색, 종교, 출신, 국가 등에 따라 신용차별은 금지되어 있습니다. 만들어진 알고리즘이 금지되어 있는 기준을 통해 판단하지 않는지 확인해보는 것이 필요하다. 뿐만 아니라 소비자에 대한 어떤 결정을 할 때 사용되는 데이터에 대한 엄격한 규제를 제시할 수 있다.

4. ENSURE THAT YOUR DATA AND MODELS ARE ROBUST AND EMPIRICALLY SOUND (데이터 모델이 견고하고 경험적으로 건전한지 확인하기)

: 소비자의 데이터를 다른 기관이나 사람에게 공유하게 되는 경우 제공되는 가이드를 준수해야 하며, 오류가 존재하는 경우 소비자에게는 오류를 수정하고 본인 정보에 접근 가능하도록 절차를 구성하여야 한다. 그리고 자동화된 의사결정에 활용하려고 고객정보를 전달하게 되는 경우 데이터자체가 정확하고 완결성 있는지를 검토할 필요가 있다. 이는 AI에 활용되는 정보가 정확하고 최신상태를 유지하게끔 하는데 중요한 역할을 한다.

5. HOLD YOURSELF ACCOUNTABLE FOR COMPLIANCE, ETHICS, FAIRNESS, AND NONDISCRIMINATION (규정준수, 윤리, 공정성, 그리고 차별금지를 위해 책임지기)

: 빅데이터 분석을 제대로 하지 않으면 소비자들에게 편견과 다른 문제를 야기시킬 수 있다. 이를 방지하기 위해 아래와 같은 질문을 해보자.

데이터셋을 얼마나 대표하는가?

데이터모델이 편향을 설명할 수 있는가?

빅데이터를 활용한 예측의 정확도는 얼마나 되는가?

빅데이터 의존성에 따른 윤리적, 공정성 문제가 발생하는가?

빅데이터가 무단으로 사용되지 않고 알고리즘이 윤리적, 공정함을 책임질 수 있는 구조로 만들어져 있는지 다시금 생각해보자.

카카오의 알고리즘 윤리 헌장

카 카오 에서도 꽤 오래전에 알고리즘에 대한 윤리 헌장을 내놓았었는데 얼마전 해당 내용이 리뉴얼 되었다. (2018년 1월 초안, 2020년 6월 개정 등) 관련내용도 간단히 살펴보도록 하겠다.

카카오는 알고리즘과 관련된 모든 노력을 우리 사회 윤리 안에서 다하며, 이를 통해 인류의 편익과 행복을 추구한다.

알고리즘 결과에서 의도적인 사회적 차별이 일어나지 않도록 경계한다.

알고리즘에 입력되는 학습 데이터를 사회 윤리에 근거하여 수집·분석·활용한다.

알고리즘이 누군가에 의해 자의적으로 훼손되거나 영향받는 일이 없도록 엄정하게 관리한다.

이용자와의 신뢰 관계를 위해 기업 경쟁력을 훼손하지 않는 범위 내에서 알고리즘에 대해 성실하게 설명한다.

알고리즘 기반의 기술과 서비스가 우리 사회 전반을 포용할 수 있도록 노력한다.

카카오는 아동과 청소년이 부적절한 정보와 위험에 노출되지 않도록 알고리즘 개발 및 서비스 디자인 단계부터 주의한다.

특히 7. 아동과 청소년에 대한 보호 원칙은 N번방 방지법' 시행을 앞두고 추가된 내용으로 전체 가이드라인은 사회적인 이슈들을 지속적으로 반영하여 업데이트되고 있는 것으로 보인다.

물론 찾아보면 더 많은 인공지능 윤리, 알고리즘 등에 대한 가이드라인과 원칙들이 존재하고 있을 것이다.

하지만 몇 가지 대표적인 가이드라인들을 살펴보면 전반적으로 이야기하고자 하는 방향성과 원칙들은 (설명하는 구체적인 내용의 차이일 뿐) 동일해 보이긴 한다. 이러한 가이드라인들은 필요할 때 마다 찾아 보는 것도 중요한 방법이겠지만 인공지능을 디자인하고 개발하고 관리하는 모두가 맘 속에 기억하고 언제든지 떠올릴 수 있어야 한다고 생각한다. 추상적이고 정성적이라고 생각할 수도 있지만, 내가 만들고 내가 참여한 인공지능 프로젝트를 오픈하기 전에 꼭 점검해보야야 할 체크리스트 로는 충분히 중요한, 그리고 활용도 높은 가이드가 되지 않을까 싶다.

Reference
해당 글은 글쓰는몽글C님과 모비인사이드의 파트너쉽으로 제공되는 기사입니다.

인공지능, 챗봇, 음성, 금융, 핀테크 등 세상을 바꿀 수 있는 기술과 잡다한 지식에 관심이 많은 직장인입니다.

# data[].attributes.attachment_link.title
[일상AI] 인공지능, 알고리즘 윤리의 중요성 - 모비인사이드 MOBIINSIDE

# data[].attributes.attachment_link.description
최근 스케터랩의 인공지능 챗봇 이루다로 인해 다시금 인공지능 윤리 에 대한 내용들이 이슈화되고 있다. 상대적으로 소중하게 다루어지지 못했던 고객들의 개인정보, 그리고 편향된 데이터셋 들에 대한 학습을 통한 대화 결과로 인해 여러모로 큰 시행착오를 겪고 있는 과정이라고 생각한다. (솔직히 정말 데이터셋이 편향된 것인지, 우리들 자체가 편향되어있는 것인지는 진지하게 고려해볼 필요가 있다고 생각한다.)

# data[].attributes.headline
사회적 편견을 가진 인공지능 3

# data[].attributes.subject
사회적 편견을 가진 인공지능 3

# data[].attributes.body
https://news.nate.com/view/20210901n00024

# data[].attributes.attachment_link.title
일론 머스크의 AI ‘그록’, 챗GPT 표절 .. : 네이버블로그

# data[].attributes.headline
AI가 편견을 가진 사례

# data[].attributes.subject
AI가 편견을 가진 사례

# data[].attributes.body
https://www.playsw.or.kr/artificial/textbook/detail/38 출처