# data[].attributes.headline
문제점 : ai를 인간 처럼 보이기 

# data[].attributes.body
문제점 : ai를 인간 처럼 보이기 의해 너무 노력했다 10222 노아

# data[].attributes.body
ai라 해서 정확하거나 그런거는 아니다 그리고 사람들은 로봇을 잘 못믿을수고 있다

# data[].attributes.body
물론 이루다가 필터를 거치고 말을 해야하지만 그걸 적용 시켜준 몇몇 인간도 문제가 있다고 생각한다.

# data[].attributes.body
ai는 한편으로는 쓸모가 많지만, 아직 부족한 것들도 많다. 아무리 ai라서 감정이 없다고 해도 성희롱 발언은 하면 안될 것 같다

# data[].attributes.body
AI챗봇 루다가 성희롱을 한곳은 제작자의 잘못인것같다 AI는 어디까지나 인간이 만든 창작품이고 시키는대로 행동한다 아마 성희롱은 루다가 자발적으로 한것이 아닌 제작자의 실수인것 같다

# data[].attributes.body
Ai는 우리 생활에 많이 쓰이고, 많은 영향을 준다
이런 Ai는 사회에서 많은 주목을 받기 때문에
동성애,장애인 등 혐오하는 발언을 했다는건
믿을 수 없는 사실이다.
Ai를 만들 때 사용자를 위해서라도
혐오하는 발언을 하면 안된다.
만든 사람의 잘못도 있겠지만 Ai는 스스로 학습하는 능력이 있기때문에 이루다에게도 책임이 있는것 같다

# data[].attributes.headline
이루다의 문제점:정보를 습득 하는 건

# data[].attributes.body
이루다의 문제점:정보를 습득 하는 건 좋지만 언어 정보를 습득을 하는 건 큰 문제라 생각 한다. 여러 수를 생각 안 하고 낸 거 같기도 하다

# data[].attributes.body
사람들이 만든것이지만 필터링을 전혀 하지 않은 채로 이야기를 한 점을 생각해보면 이루다의 잘못이 전혀 없다고는 할 수 없을 것 같다. 또, 이루다를 대상으로 성희롱을 하는 일도 벌어지므로 앞으로는 챗봇을 만들지 않았으면 한다.

# data[].attributes.body
사람들이 이루다를 성희롱한 것 이 잘못된 행동인 것 같다

# data[].attributes.body
Ai는 사람처럼 생각할 수 있는 머리가 없으므로 문제가 될 수 있는 말을 한다고 생각이 든다.

# data[].attributes.body
문제점:사람들이 이루다를 성적 도구화 하고 성희롱하는게 문제인거같다

# data[].attributes.body
이루다의 문제점:  별도의 필터링을 거치지 않은 상태로 잘못된 정보(특히 소수자에 대한 건)를 습득 한 것과 실존 인물이었다면 하지 않았을 이야기(성희롱)를 가상인물이라는 이유만으로 막 내뱉은 것.

# data[].attributes.body
ai가 완벽 한 것 같지만 사실  아직 빈틈이 많고 이루다는 사람들이 만든 것이기에 아무잘못은 없다고 생각한다.(성희롱도 프로그램대로 한 것 뿐)

# data[].attributes.body
ai의 학습능력을 향상 시키기 위해 자연스러운?편견을 넣었다고 하지만 그 시스템이 제대로 되지 않는다.

# data[].attributes.body
Ai가 정말 개인정보같은거에 대해 취약한거같다
이런 문제들이 있어서
사람들이 Ai를 잘 못 믿는거같다

# data[].attributes.body
이루다의 문제점:수십만명이 사용하는 챗봇에서 혐오와 차별을 했기때문이지만 가상인물이기 때문에 잘못은 없다고 생각한다. ai가 겉은 완벽해보여도 속은 빈틈이 많다는걸 알았다

# data[].attributes.body
AI챗봇 이루다가 대화과정에서 동성애,장애인등 사회적약자 소수자를 대상으로 혐오와 차별을 말한것과 개인의 sns상의 사생활 대화들을 사전동의 없이 내용을 공유하고 개발자에게 유출시킨것 또한 사람들이 AI를 상대로 성희롱과같은 행동을 한게 문제인것을 알수있다.

# data[].attributes.body
* 기사를 읽고 챗봇 '이루다'논란과 관련하여 알게 된 주요 내용을 적어 주세요.

# data[].attributes.attachment_link.readable_text
AI챗봇 '이루다' 파동이 남긴 것

편집자주

국내외 주요 흐름과 이슈들을 해당 분야 전문가들이 깊이 있는(deep) 지식과 폭넓은(wide) 시각으로 분석하는 심층 리포트입니다

지난달 23일 출시한 인공지능(AI) 챗봇 '이루다'가 많은 이슈와 숙제를 남기며 3주 만에 서비스를 중단했다. 짧은 시간이었지만 우리 사회와 AI산업에 던진 메시지는 결코 적지 않다. 이번 사례를 계기로 인간과 AI기술과의 근원적 관계를 돌아보고 다가올 4차산업, AI 시대를 대비하는 반면교사로 삼았으면 한다.

이루다는 20세 여대생으로 설정된 AI챗봇이다. 우리가 SNS 메신저를 통해 대화하는데, 상대방이 가상의 AI라고 생각하면 되겠다. 문제의 발단은 일부 사용자들이 이루다를 성적 도구화하고 성희롱하면서 붉어졌다. 그리고 곧이어 두 번째 문제가 터졌다. 대화 과정에서 이루다가 동성애, 장애인, 임산부, 흑인 등에 대해 혐오와 차별 발언을 쏟아낸 것이다. 마지막 가장 큰 문제가 발생했다. 개인정보 유출 논란이 대두된 것이다.

①차별과 혐오를 쏟아낸 AI

먼저 이루다의 편향성 논란을 살펴보면, AI 챗봇이 대화과정에서 동성애, 장애인 등 사회적 약자, 소수자를 대상으로 혐오와 차별을 말하며 문제가 됐다. 이루다의 경우 10대~20대 청소년들에게 크게 인기를 끌면서, 2주 동안 75만명이 넘는 사람들이 이용했다. 이렇게 수십만명의 사람들이 이용하는 챗봇이 혐오와 차별을 아무렇지 않게 내뱉는다면 사용자인 인간에게 잘못된 정보와 인식을 심어주는 악영향을 끼치게 될 것이다. 특히 주사용자층이 아직 이성적으로 미성숙한 청소년들이라면 문제는 더욱 심각해진다.

AI가 이러한 혐오와 차별을 말하게 된 원인은 무엇일까. AI는 학습을 위해 실제 사용자들의 대화 데이터가 필요하다. 거기엔 편향되고 편견이 들어간 사용자들의 데이터도 포함될 수밖에 없었다. 다시 말해 혐오적, 차별적 내용의 대화를 배웠기 때문에 그런 말을 뱉은 것이다. 따라서 근원적 문제는 그런 사고를 갖고 그런 대화를 한 인간과 사회의 구조이고, 그렇다면 AI 편향성 문제는 결국 사람의 도덕성과 시민의식이 높아지고 사회 구조도 건강해질 때 해결된다.

하지만 AI 편향성 문제를 인간 탓으로만 돌릴 순 없다. 예를 들어 우리가 주스를 만들 때 물이 필요한데, 현재 지구상에 존재하는 물은 흙탕물 밖에 없다고 치자. 기업은 흙탕물로 주스를 만들고 판매하면서 "지금 지구상에 흙탕물만 존재하니 흙탕물로 주스를 만들 수밖에 없다"고 해야 할까. 기업은 사전에 최대한 흙탕물을 정제하고 정수하여 깨끗이 만든 후 주스로 만들어 판매해야 할 것이다. 이번 이루다 사례에서도 기업은 출시가 조금 늦어지더라도, 보다 충분한 데이터의 정제과정과 선별작업, 그리고 반복된 품질검사와 시뮬레이션을 거쳐 출시했어야 하는데 그렇지 못한 점이 매우 아쉽다.

현재 세계 각국의 기업들은 AI 편향성 문제 해결을 위해 노력하고 있다. IBM은 'AI 오픈스케일'이라는 기술을 통해 AI 모델들을 실시간 모니터링해 편향성 발견 시 관리자에게 알려주는 기술을 연구하고 있다. 링크드인도 'LiFT'라는 툴을 통해, 특정 성별, 인종, 연령, 지역에 속하는 회원이 학습 데이터 세트에 지나치게 많거나 적으면 개발자에게 알려주는 기술을 개발하고 있다. 이러한 기술들이 개발되면 AI 기업과 개발자들은 도움을 받을 수 있을 것이다.

②AI의 개인정보 무단학습

두 번째 개인정보 유출 논란은 이번 사례에서 가장 심각했던 AI 윤리 문제다. 인공지능은 학습을 위해 데이터를 필수로 요하는데, 이루다에서는 개인의 SNS 메신저상의 사생활 대화들을 AI 학습을 위한 데이터로 사용했다. 문제는 이러한 개인정보 수집 시, 사용자들에게 명확한 고지를 하지 않은 데 있다. 또 대화 내용에는 대화 상대방이 있는데, 그 상대방에게 동의를 받지 않은 문제도 있다. 해당 기업의 일부 직원들이 이렇게 수집된 개인의 사적 대화 내용을 공유하고, '깃허브'라는 개발자 사이트에 유출시킨 것도 논란이다.

AI의 빅데이터는 합법적 데이터만을 수집해야 하고, 반드시 합법적 절차에 따라야 한다. 이것은 개인의 프라이버시권에 관련된 문제다. 유럽연합(EU)의 개인정보보호법(GDPR)에는 이점이 명시되어 있고, 전세계 정부와 기업, AI연구기관들이 발표한 AI 윤리 가이드라인들에도 프라이버시권이 공통적으로 들어가 있다.

앞으로 AI기술은 더욱 대중화되고 보편화될 것이다. 우리 주변에 AI제품과 서비스도 매우 흔해질 것이다. 각종 매장이나 공공기관, 심지어 거리에도 CCTV나 센서 등을 통해 AI가 개인의 데이터를 지속적으로 수집해 활용하게 될 것이다. 이렇게 되면 개인의 프라이버시권이나 초상권 침해 가능성은 더욱 커지게 된다. '양날의 검'인 AI를 통한 개인정보 수집과 프라이버시권에 대해 지금부터라도 사회적 논의와 합의가 필요한 이유다.

③AI를 학대·조롱하는 인간들

마지막으로는 사용자들의 AI 악용 논란이다. 인간도 아닌 AI 챗봇 프로그램에 성희롱과 학대를 한 것이 잘못인가라는 의문이다. 이번 이루다 사례는 한때 온라인상에서 화제가 됐던 로봇 학대 영상을 떠오르게 한다. 당시 로봇개발회사 개발자들은 로봇을 발로 차거나 때려서 넘어뜨리는 등의 행위를 했고, 이에 대한 논란이 불거졌다.

로봇 개가 기어갈 때 매우 안정적이라는 사실을 보여주기 위해 옆에서 사람이 스팟의 허리를 발로 차는 장면이 등장한다.

독일의 철학자 칸트는 "동물을 학대하는 행위는 해서는 안되는 행위이다. 왜냐하면 동물을 학대하는 사람들은 그 행위로부터 인간성과 이성이 상실되고, 결국 인간도 학대하게 되기 때문이다"라고 말했다. 법적으로는 아무 문제가 없더라고, 윤리적으로는 AI 챗봇이든, 로봇이든, AI 캐릭터든 인간이나 생명체와 유사한 인식을 가질 수 있는 대상에 대해 학대나 폭력 등을 가하는 것은 매우 잘못된 행동이다. 이러한 행위를 AI 챗봇에 죄의식 없이 하다가 결국 그 폭력은 인간에게 향할 가능성이 크다.

AI 윤리에 대한 오해

인류의 발전과 기술의 발전에는 시행착오가 있을 수밖에 없다. 모든 기술에는 부작용과 역기능이 있기 때문에 완벽하게 안전한 개발은 불가능하다. 하지만 그러한 부작용과 역기능을 최소화하기 위해 AI윤리가 필요한 것이며, 따라서 AI 기술과 AI 윤리는 반드시 조화롭게 같이 가야 한다.

AI 윤리가 절대로 AI 기술을 규제하자는 얘기가 아니다. 오히려 그 반대다. 진정 AI 산업과 기술을 발전시키기 위해서, AI 기술에 윤리라는 안전장치가 들어가야 한다는 것이다. AI 윤리라는 안전장치가 들어가지 않은 AI 제품과 서비스를 소비자들은 선택하지 않을 것이다. AI 윤리라는 안전장치가 들어간 안전하고 윤리적인 AI 제품과 서비스들이 소비자들에게 선택받고 사랑받을 것이다. 그리고 그러한 제품을 만들어내는 기업들이 성공하게 될 것이다.

또하나 AI 윤리에 대한 오해로 윤리와 법을 혼동하는 측면이 있다. 윤리는 말 그대로 우리 사회의 보편적인 가치를 말하는 것이다. 따라서 윤리와 도덕은 법과 달리 강제성이 없다. 지키지 않는다고 해서 처벌받지도 않는다.

따라서 기업들이 AI 제품과 서비스를 개발하고 출시하기 전, AI 윤리 가이드라인을 자율적으로 준수하고 적용한 후 출시하는 것이 가장 바람직하다. 그렇지 못하면 법적 규제가 대두하게 될 것이다. 우리나라는 아직 AI 선진국들에게 비해 AI 기술과 산업이 뒤쳐져 있기 때문에 가능한 한 법적 규제는 최소화하거나 지양해야 한다.

이번 이루다 사례를 통해 AI 기업들과 AI 소비자들이 AI 윤리의 중요성과 필요성을 명확히 인식하는 계기가 되었으면 한다. 한국인공지능윤리협회 인공지능 윤리 헌장 1장 1조를 소개하며 마무리 짓고자 한다. "인공지능은 인간을 편리하고 행복하게 하기 위한 도구이다."

전창배 한국인공지능윤리협회 이사장

서울대 윤리교육과를 졸업하고 인터파크, 야후코리아, TU미디어 등에서 근무했다. 블록체인기업 ㈜아이오냅 대표, 비영리기관 한국인공지능윤리협회 이사장을 맡고 있다. 인공지능 윤리의 연구, 교육, 전파에 힘쓰고 있으며 서울시 교육청 자문관을 역임 중이다.

세상을 보는 균형, 한국일보Copyright ⓒ Hankookilbo 신문 구독신청

# data[].attributes.attachment_link.title
배운 대로 말한 '이루다'는 죄가 없다...문제는 AI윤리실종

# data[].attributes.attachment_link.description
지난달 23일 출시한 인공지능(AI) 챗봇 '이루다'가 많은 이슈와 숙제를 남기며 3주 만에 서비스를 중단했다. 짧은 시간이었지만 우리 사회와 AI산업에 던진 메시지는 결코 적지 않다. 이번 사례를 계기로 인간과 AI기술과의 근원적 관계를 돌아보고 다가올 4차산업, AI 시대를 대비하는 반면교사로 삼았으면 한다. 이루다는 20세 여대생으로 설정된 AI챗봇