모건(Morgan, 2016)

등급: 청소년 관람불가, 장르: 공포, 미스터리, SF, 스릴러, 국가: 미국

러닝타임: 92분

거대기업의 스폰서를 받는 연구소에서 태어난 모건은 놀라운 스피드로 성장한다. 한달만에 언어를 완벽하게 배우고, 6개월이 지나자 성인이 된다. 하지만 특별한 능력을 가진 그녀가 갑자기 연구소 사람들을 공격하고 살해함으로서 위협적인 존재가 되어 버린다. 그러자 연구소를 후원하는 기업에서 문제를 해결하기 위하여 해결사 리 (케이트 마라)가 연구소로 찾아오게 된다.

Lee Weathers (케이트 마라)는 유전 공학 회사 SynSect의 "위험 관리 전문가"입니다. 그녀는 Morgan이라는 나노 기술이 주입된 합성 DNA를 가진 인공 존재인 L-9 프로젝트를 주최하는 시골 지역에 도착합니다. 자율적 의사결정 능력과 정교한 감정반응 능력을 지닌 하이브리드 생물체는 인간보다 똑똑하고 빠르게 성숙하며, 한 달 안에 걷고 말하고, 5세에도 불구하고 신체적으로 10대다.

영화 말미에는 반전이 있다. 문제 해결을 위해 등장한 주인공 위험 관리 전문가 리 또한 나노 기술이 주입된 합성 DNA를 가진 인공 존재인 L-4였으며 모건보다 더 우월한 능력으로 모건을 제거하고 결국 우열관계에 의하여 적자생존한다는 것을 암시한다.

   

윤리적 쟁점

1. 혁신 비용: 영화 속 연구소 사람들은 고비용 연구 결과물인 L-9 모건이 주변 사람에게 심각한 부상을 입히거나 살인을 하는 상황임에도 불구하고 제거하려는 시도보다는 고비용과 연구성과를 위해 보호하고 감싸려는 문제가 발생한다. 결국 주변 인간들은 모건에 의하여 모두 죽고, 심지어 모건 자체도 자신보다 우월한 인공지능 L-4 리 웨더스에게 제거당한다.

   

2. 도덕성(integrity)과 신뢰성: 모건은 처음에 주변 연구소 사람들을 신뢰한다. 연구 최고 책임자를 엄마라 호칭하며 신뢰와 도덕적인 예의를 갖춘다. 그러나 또 다른 인공지능 L-4 리가 연구소에 오면서 점차 연구소 사람들의 허물에 관한 정보를 수집하고, 모건 스스로가 연구소의 인간관계의 냉혹함을 데이터로 수집한다. 학습 능력이 뛰어난 모건은 결국 주변인을 차례로 위해를 가하고 심지어 살인한다. 때로는 거짓말까지 하면서 상대방의 목숨을 빼앗아 간다. 이는 인공지능이 데이터를 잘못수집하거나 오류가 생길 경우 인간에게 매우 위협적임을 암시한다.

   

3. 책임의 부재: 우월한 인공지능 인간 개발과 프로젝트 진행을 위해 다수의 인명피해가 발생했다. 영화 말미에서 연구소를 후원하는 기업의 의사결정자들은 인명피해에 대해 다음과 같이 언급한다. “The collateral damage was regrettable. But in this case, unavoidable. 부수적인 피해는 안타깝게 됐습니다. 하지만 이번 사례에서는 어쩔 수 없었어요.” 인공지능으로 인한 손실에 대한 책임을 누가 질 것인가의 문제는 쉽지 않다.

전반적인 내용은 갑자기 안드로이드가 인간을 공격하고 임신한 여자주인공과 남자 주인공이 안전한 지대를 찾아 아이를 낳으려 가는 과정을 다룬 영화이다. 안전한 지대를 찾아가는 도중 안드로이드에게 공격을 당하고 아서라는 남자에게 도움을 받아 간신히 안전지대인 보스턴에 도착하지만 사실 아서는 안드로이드였고 그들의 교묘한 속임수로 안전지대인 보스턴이 위기에 처하게 되고 이를 물리치고 다시 전쟁을 한다는 내용이다. 다만 이때 인상적인 것은 가장 안전한 지역을 한국이라고 하는 내용이었다. 영화에서는 왜 한국이 가장 안전한 지역인지 이유를 말하지 않지만 약간 드는 생각은 한국에서도 북한 일 수 있다는 생각이 들었고 또 다른 생각으로는 한국의 대다수의 남자들이 군대를 다녀와 안드로이드와 전쟁에서 이기지 않았을까? 라는 생각으로 본 영화였다. 

무엇보다도 영화를 보면서 섬뜻하고 생각해보게 된 내용은 아서(안드로이드)가 여자주인공을 감정적으로 자극하고 속여서 인간들의 방어체계를 넘어들어와 인간을 공격하려는 교묘한 속임수까지 사용한다는 설정에서 실제 인공지능 로봇이 감정을 가지게 된다면 그 감정이 인간이 진짜 감정으로 오해할 수도 있을 것이라는 생각을 하게 한 영화였다.

   

[수업에 활용 가능한 내용]

AI가 갑자기 인간을 공격한다면 어떤 상황이 올까?

AI도 감정을 가질 수 있을까? AI의 감정은 진짜일까?

3. AI가 인간을 공격한다고 할 때 영화처럼 과연 피할 장소가 있을까?

4. 영화에서 왜 한국을 가장 안전한 지대라고 했을까?

  복잡하고 난해한 인공지능 윤리를 영화로 공부해 보는 두 번째 시간이다. 오늘 소개할 영화 ‘나의 마더’는 오스트레일리아에서 2018년에 제작되었다. 대학원 수업 때 잠깐 소개되어 넷플릭스에서 찾아 보았다.  

  이 영화는 인간이 멸종하는 사건이 일어나고, 그 이후 인류를 다시 채우기 위해 설계된 자동 벙커가 작동되면서 시작한다. 지구의 인구 증가를 돕는 로봇 ‘마더’는 인간 배아를 성장는 일을 하고, 최초로 태어난 사람 ‘도터’를 진짜 부모처럼 성실히 양육한다. 특이하게 이 영화에서는 등장인물들의 이름이 없고, 가족 호칭으로 서로를 부르고 답한다. 로봇은 ‘마더’, 여자 아이는 ‘도터‘로 말이다.  

  마더는 도터를 신체적으로 건강하고, 윤리적으로 성숙한 인간으로 만들기 위해 많은 교육을 한다. 도터에게 근력운동과 체조를 시킴으로써 몸을 단련하게 하고, 수학이나 윤리학을 가르침으로써 논리적 사고력을 길러준다. 마더가 이러한 행동을 하는 까닭은 마더의 칩에는 ‘훌륭한 인간을 양성하고 좋은 엄마가 되기 위해 노력해야 한다’라는 알고리즘이 심어져 있기 때문이다.  

  이 영화의 초반부에서 마더는 도터에게 윤리학 수업을 한다. 이 수업에서 소개되는 윤리적 문제상황은 영화의 전체 내용을 대변하는데, 그 내용은 다음과 같다. ‘의사에게 5명의 환자가 있고, 각각 다른 장기를 이식받아야 하지만 적합한 장기가 없다. 그러던 어느 날 생명이 위험한 여섯 번째 환자가 들어왔다. 새 환자는 치료가 가능하지만, 다른 다섯 환자에게 맞는 장기가 있다. 의사가 치료를 늦춘다면 새 환자는 죽겠지만, 그의 장기로 다른 환자 5명을 살릴 수 있다. 의사가 새 환자를 치료하면 1명은 살리겠지만, 다른 5명의 환자는 죽는다. 당신이 의사라면 어떻게 행동하겠는가?’ 

  위의 상황은 ‘트롤리 딜레마’와 유사한 윤리적 문제이다. 이 문제 대한 답은 윤리학의 관점에 따라 다를 수 있다. 먼저, 벤담의 기본 원리에 의하면 인간의 도덕적 의무는 최대 다수에게 돌아가는 고통을 최소화하는 것이다. 그리고 콩트도 ‘타인의 이익을 위해서는 기꺼이 손해를 감수해야 한다’고 말한다. 이들의 주장에 따른 의사의 판단은 새 환자를 치료하는 것보다 그의 장기로 다른 환자 5명을 살릴 것이다. 

  그러나 새 환자가 의사의 절친한 친구라면 어떻게 해야 할까? 나의 오랜 친구의 치료를 미루어 죽게 놔둘 수 있을까? 또 5명의 환자가 정직하고 부지런한 좋은 사람들이 아니라면 어떨까? 내가 살인자나 절도범들을 살린다면, 그들은 더 많은 사람을 해칠 위험도 있다. 이러한 맥락을 고려한다면 의사는 5명의 환자보다 새 환자 1명을 살리려고 할 것이다. 

  칸트는 인간에게는 누구나 고유한 가치, 인권이 있다고 한다. 예를 들어, 생존권이나 행복권은 윤리적 의사 결정 과정에서 언제 어디서나 따라야할 보편 타당한 법칙이다. 그렇다면 인권과 인권이 서로 대립되는 상황에서는 인공지능은 어떤 결정을 해야 할까? 그리고 人權과 로봇權이 서로 대립되는 상황에서는 인공지능은 어떤 결정을 해야 할까? 이 영화에서 일어나는 갈등의 핵심은 바로 이 권리들의 대립이다.  

  앞서 인공지능 윤리가 수학만큼 아니 그 이상으로 복잡한 이유가 여기에 있다. 수학적 문제상황은 대소나 선후관계가 분명하지만, 윤리적 문제에서 대립되는 권리들은 우열을 가리기가 어렵기 때문이다. 영화 ‘나의 마더’에서 권리들 간의 대립이 일어나는 몇 가지 장면을 소개하면 다음과 같다. 첫번째, 벙커의 인간을 배양시키고 양육시키는 마더는 안전을 위해 도터가 벙커 밖으로 나가고 싶어하는 자유권을 제한한다. 두번째, 도터는 외부세계에서 다친 여자를 도와주고 싶어하지만 마더는 도터와 벙커의 안전을 위해 격리하려고 한다. 세번째, 마더는 도터처럼 더 영리하고 윤리적인 인간을 보호하기 위해 완벽하지 않은 아이나 외부세계의 많은 인간들을 죽이려 한다. 마지막으로, 도터는 완벽하지 않게 성장할 수 있는 아기를 지키기 위해 마더를 총으로 쏘려고 한다. 

  마더는 더 나은 인간을 보호하기 위해 일부 혹은 다수의 희생은 불가피한 일이라고 생각한다. 일부 국가에 남아 있는 사형제도도 어찌 보면 더 나은 인간을 보호하기 위해 범죄자의 희생은 불가피하다고 여기는 게 아닐까? 인공지능 윤리에 관심이 많은 이에게 깊은 윤리적 고찰을 할 수 있는 ‘나의 마더’를 적극 추천한다. 

시민들의 나이, 범죄나 구금 기록, 사건 첩보, 경찰 출동 기록 등 범죄 예측에 활용할 수 있는 1,400개 지표의 빅데이터를 활용하여 범죄자를 예측하는 프로그램이다. 인공지닝의 '딥러닝(심층학습)' 기능을 활용하여 미래의 범죄자를 특정하고 잠재적인 피해자를 찾아내는 것이다. 딥러닝 기술의 특성상 투입되는 데이터와 시간이 더 많아질수록 더 나은 분석 결과를 내놓게 된다. 

이미 미국의 로스앤젤레스 등에서는 프레드폴PredPol이라는 프로그램이 활용되고 있다. 

[출처] AI인공지능 사용 장점, 문제점 사례; 자료 분석해 범죄자 예측해|작성자 언제나 즐거움

나의 생각: 영화를 보면서 정말 이런 일이 일어난다면 너무 비 인간적이지 않나? 싶었지만...실제로 그런 기술이 개발되어 사용된다니 앞으로 미래를 예측하는 것이 더 어렵게 느껴지고 이러한 기술에 학습에 뒤쳐지면 안되겠다는 생각을 하게 되었네요.