6단원 타당성을 생각하며 토론해요(주제: 인공지능 시대의 미래는 긍정적이다.) by 이정선

겉으로 드러나지 않고 그 인공지능의 로버트등을 산사람이 모르는 경우 그 사람도 모르게 인공지능이 원격조종 되어서 지능범에게 이용될 가능성도 있습니다.인류의 미래 안전을 보장할 수 있는가?
인류의 미래 안전을 보장할 수 있는가?

인류를 지배하겠다는 AI, 단순히 기술적 결함일까?

인간의 능력에 10억배가 뛰어난 인공지능 개발이 이루어지고 있는 지금, 과연 인간은 초지능적인 이 존재를 통제할 수 있는가? 이 질문은 영화나 기타 매체 등에서도 자주 다뤄지면서 가장 많은 우려를 나타내고 있는 문제입니다. 실제로 2016년 대한민국을 뜨겁게 달궜던 알파고와 이세돌 9단의 바둑 대결에서 인공지능 알파고는 변칙적이고 이해할 수 없는 수를 두며 경기를 풀어갔습니다. 인간계의 모든 전문가조차 이해할 수 없는 악수였지만 실제로 그 수는 철저하게 자신의 승리에 방해되는 요소들을 제거하는 신의 한 수로 뒤늦게 밝혀졌으며 그보다 앞선 2015년 10월부터 인간은 전투기 모의 전투 시뮬레이션에서 단 한차례도 인공지능 전투기를 이긴 적이 없습니다. 시뮬레이션에서 참가한 파일럿들은 AI전투기는 마치 자신의 전투 기동의 의도를 모두 알아차린 듯 행동했고, 따라잡을 수 없는 반응속도를 보였다고 말했는데 더욱 놀랍고 무서운 건 해당 시뮬레이션 전투를 치른 AI의 딥러닝은 불과 수십만 원짜리 싸구려 컴퓨터에서 수행된 것이라고 합니다. 슈퍼컴퓨터급 설비로 딥러닝을 소화한 AI의 수준은 말할 필요도 없겠지요. 벌써 인간은 싸구려 컴퓨터에서 태어난 인공지능의 능력조차 이겨내지 못하고 있습니다. 어떤 이유에서든 초인공지능이 인류에 해를 끼쳐야겠다는 판단을 내린다면 인간은 절대 이길 수 없을 것입니다.

2. 인간의 직업 상실

최근 대기업들 사이에서는 "인적오류(Human Error)를 발생시키는 인간을 왜 고용하는가?"라는 질문이 점차 많아지고 있습니다. 이것은 그 대답을 우리는 준비해야 할 때가 다가오고 의미하는데 사실상 모든 면에서 이성을 통제해 객관적이고 상황을 누구보다 빠르게 처리할 수 있는 처리능력을 갖춘 인공지능을 인간이 대체해야 하는 이유는 어디에서도 찾기 어려운 것이 현실입니다. 심지어 창작과 예술분야에서조차 인간은 인공지능에게 밀리고 있습니다. 최근 인공지능 AI 기술은 음악에서 인간이 듣기 좋은 음표와 악기 수가 한정되어 있다는 것을 알고 딥러닝을 기반으로 조합 가능한 모든 경우의 악보를 무한정 생산 가능한 상태에 이르렀으며, 문학에서조차 인간이 좋아하는 클리셰(문학에서 나타나는 패턴)를 적용해 특정 키워드만 입력하면 문학적 비유와 은유가 들어간 문장을 만들어내는 수준에 이르렀습니다. 인간의 존재 이유를 이제 우리는 어디서 찾아야 하는 것일까요?

스티븐 호킹 : “인공지능은 스스로를 개량하고 도약할 수 있는 반면, 인간은 생물학적 진화 속도가 늦어 인공지능과 경쟁할 수 없다. 결국 인간은 모두 대체되고 말 것이다”

3. 딥페이크에 의한 신뢰도 상실

인공지능 기술에 비관적인 많은 학자들은 현재까지는 인공지능과 인간을 바로 구분할 수 있을 정도이지만, 앞으로 미래에 고도로 발달한 인공지능을 인간과 구분할 수 없게 되면 인공지능은 인류에 큰 혼란을 야기할 수 있다고 경고하고 있습니다. 이것은 이미 현실화된일들인데 가장 대표적으로 딥페이크 기술이 있습니다.

힐러리와 트럼프를 합성한 딥페이크 비디오

현재의 딥페이크 기술은 대부분 인간이 직접 영상을 수정하고, 음성의 경우 완벽하게 비슷한 목소리로 따라 하는 것이 불가능할 뿐 아니라 입모양과의 대조로 인해 대부분의 딥페이크 영상은 조작한 모습을 보이고 있습니다. 하지만 최근 AI 인공지능 기술을 이용한 비디오/오디오 편집 기술은 합성 대상이 되는 인간과 비슷한 체형 및 얼굴형을 가진 수천만명의 사람이 찍힌 영상을 스스로 골라내고, 해당 대상자의 얼굴 표정의 변화의 경우를 또다시 수백억번 학습시킨 상태에서 딥페이크 영상을 작업합니다. 이 경우 목소리뿐 아니라 입모양과 음성의 일치까지 매우 자연스러운 구현이 가능한데, 이것을 일각에선 앞으로 동영상 편집기술의 큰 도약이라고 말할지도 모르지만, 반대로 각종 매체와 온라인에 공개된 영상의 양이 압도적으로 많은 유명인들의 경우, 더욱 합성이 용이하여 자칫 딥페이크 포르노의 희생양이 되기 쉽상이 되는 등 각종 사회적 문제를 일으킬 소지가 충분합니다. 결국 이러한 문제들을 비롯하여 인공지능이 만들어낸 거짓 정보들은 그 사실성이 매우 구분이 힘들어지고 있는 것이 현실임에도 이에 대한 대책은커녕 특정 집단에게만 정보가 독점되어 정보의 조작이 이루어지게 된다면 우리가 사는 사회는 결국 불신 사회가 될 수밖에 없습니다.

인간과 인공지능의 대결구도가 아닌 원래 목적인 인간의 풍요로움을 위한 도구로 개발되어야 한다.

아직까지 보고된 인공지능 기술로 인한 피해는 2016년 미국 캘리포니아 쇼핑몰에서 인공지능 로봇 오작동으로 아기를 들이받았는 사고나, 같은 해 중국 전시회에서는 인공지능 로봇이 통제 불능 상태로 전시장 유리를 파손시키고 부상자를 발생시키는 등과 같이 비교적 제한적인 범위에서 발생하는 사고의 개념입니다. 그러나 분명한 것은 이미 인공지능은 우리의 삶을 점차 편리한 방향으로 바꾸고 있으며 더욱 넓은 분야에서 영향력을 펼치며 인간이 꿈꾸는 풍요로운 삶을 향한 영향력을 발휘할 수 있다는 것입니다. 그리고 어쩌면 이제는 이미 인공지능 AI 발전을 막을 수 없어 보이기도 합니다.

인공지능 기술이 우리의 삶을 어떻게 바꾸어 놓을지는 그 어느 누구도 정확히 예측할 수는 없을 것입니다. 다만, 인공지능 기술이 우리 삶에 미치는 영향이 부정적인 부분보다 긍정적인 부분들이 더 많아져야 하겠지요. 이미 인공지능 기술 발전을 막을 수 없다면 인간은 애초에 인공지능을 개발한 그 원초적인 목적(인간의 풍요로운 삶)을 잊지 말고 기술의 의존도에 대해 경각심을 가지며, 해당 기술의 발전이 인류의 삶에 미칠 수 있는 부작용에 대해 이를 통제할 법이나 제도 역시 함께 발전해야 할 것입니다.

관련된 문제들을 잘 해결하고 긍정적인 측면들이 삶의 질을 높이기를 기대해봅니다.

출처: https://apiece-korea.tistory.com/96 [루카스 매거진]