1-4반 2조 by

3. 통제할 수 없는 인공지능 개발
(막스 플랑크 인간 개발 연구소(Max Planck Institute for Human Development: 국제적으로 유명한 사회 과학 연구기관)의 인간 및 기계 센터 과학자를 포함한 국제 연구팀은 이론적 계산을 사용해 초지능 AI를 제어할 수 없음을 밝혔다)
http://scimonitors.com/과학자들-초-지능-ai-통제-불가능-분석/

(기계학습 기반 AI는 데이터에 따라 문제 해결 방식이 형성된다. 다시 말해, AI의 학습에 따라 사고가 형성되기 때문에 편향성을 가질 수 있다. AI의 결과 산출 과정을 알 수가 없는 것도 문제이다. 이는 AI에 대한 신뢰성 문제를 불러온다. 시장 조사 전문 기관 ‘프라이스워터하우스쿠퍼스 (PwC)’에 따르면 2017년 글로벌 CEO 조사에 참여한 중역 67%는 AI가 신뢰성에 부정적인 영향을 미칠 것으로 전망했다. ‘AI의 사고가 편향돼 있지만 이를 알 수 없다’는 것은 곧 ‘AI를 통제할 수 없다’는 뜻이다. 이를 잘 보여주는 사례가 테이(Tay)의 막말 논란이다. 테이는 MS에서 개발한 AI 챗봇으로 예측치 못한 막말 문제를 일으킨 바 있다. 2016년 7월에는 로봇 경찰이 어린아이를 공격해 다치게 한 적도 있다. 결국 불안전한 AI 통제의 어려움은 인류 전체의 위협 문제로 이어진다. AI가 인류를 제거하는 것이 나은 판단이라는 결론을 내릴 수 있기 때문이다. 슬픈 사실은 이러한 AI의 생각을 읽을 수 없다는 것이다. 때문에 스티븐 호킹을 비롯한 1,000명의 석학이 AI 위협을 경고하는 시위를 벌이기도 했다.)
https://www.sciencetimes.co.kr/news/불안전한-ai-통제-어떻게-해결할까/

(닉 보스트롬 옥스퍼드대학 철학과 교수는 초지능 AI가 노동력을 책임지게 되면 인류는 오락과 문화에만 심취할 수 있는 유토피아가 올 수 있다고 답했다. 단, 여기엔 조건이 붙었다. 인류가 AI를 원하는 방향으로 설계해 안전하게 운용해야 한다는 것. 그는 만약에 인류가 AI를 통제하지 못할 경우 디스토피아를 맞이할 수도 있다고 경고했다. 2018년에 타계한 스티븐 호킹 박사도 AI를 윤리적으로 설계해 기계의 반란에 대비할 안전장치를 마련해야 한다고 강조했다. 인류가 안전하게 통제할 수 있는 방법만 찾는다면 초지능 AI가 그려낼 세상은 그리 어둡지만은 않다는 의미다. 그런데 인간이 초지능 AI를 통제하는 것은 근본적으로 불가능하다는 연구 결과가 최근에 발표돼 주목을 끌고 있다. 독일 막스플랑크 인간개발연구소의 마누엘 세브리안(Manuel Cebrian) 박사를 포함한 국제 연구팀이 이론적인 계산을 통해 도출한 이 연구 결과는 AI 분야의 오픈 액세스 과학 저널인 ‘인공지능 연구 저널(JAIR)’에 게재됐다.)
https://www.sciencetimes.co.kr/news/인간은-결코-ai를-통제할-수-없다/