# data[].attributes.body
자율주행 자동차의 윤리적 딜레마 예시에 대한 참고자료

# data[].attributes.attachment_link.description
자율주행차 기술과 윤리문제

# data[].attributes.attachment_link.title
주행 중 고장 난 자율차, 보행자·운전자 누굴 보호할까? | 중앙일보

# data[].attributes.attachment_link.description
마침 당신 앞에는 덩치 큰 사람이 있는데 이 사람을 선로에 떠밀면 기차를 멈출 수가 있고 인부 5명을 살릴 수가 있다. 당신이라면 덩치 큰 사람을 밀겠는가? 보행자 우선 말하면서 차 구입은 꺼려 이 질문을 받은 사람들은 앞선 질문과 달리 고민에 빠진다. 만약 인부 5명이 나의 가족이라면 어떻게 될까? 그래도 덩치 큰 사람을 밀지 않을까? 그때는 누군가를 밀어서 가족을 살리는 게 오히려 정서적 판단이 되지 않을까? 그렇다면 정서적 판단의 개입이 무조건 옳다고 볼 수 있을까? 그동안 트롤리 딜레마는 대학교의 정치 철학 강의나 시민들을 위한 교양서적에서만 볼 수 있는 지적 유희에 해당했다.

# data[].attributes.attachment_link.readable_text
자율주행차 사고율이 더 낮다는 연구결과가 나왔다 [사진: 셔터스톡]

[디지털투데이 AI리포터] 자율주행차가 사람이 운전하는 차보다 안전하다는 연구 결과가 나왔다.

25일 온라인 매체 기가진에 따르면 최근 자율주행기술 관련 사고가 빈번히 일어남에 따라 교통 당국이 자율주행차를 제한하는 사태까지 일고 있다. 이 가운데 자율주행기업 크루즈의 모회사 제너럴모터스(GM)와 미국 미시간대학교 및 버지니아공과대학교 교통연구소가 공동으로 연구를 진행했다.

연구진은 GM 산하 카쉐어링 서비스인 메이븐(Maven)의 지난 2016년~2018년에 걸친 데이터 등을 활용해 인간의 운전 성능을 측정했다. 데이터의 총 주행 거리는 약 900km에 이르며, 총 주행 거리를 주행 중 발생한 사고 건수로 나누면 인간 운전자는 약 2만5000km에 1회의 비율로 사고를 일으키는 것으로 드러났다. 이는 약 160만km당 64.9회의 사고를 일으키는 꼴이다.

또한 연구진은 인간 운전자가 일으키는 사고의 위험을 보다 정확하게 알아보기 위해 사고의 책임과 사고로 인해 부상을 입을 위험을 조사했다. 예를 들어 신호 대기 중 발생한 가벼운 접촉 사고에 비해 급속도로 돌진한 충돌 사고는 부상 또는 사망 위험이 압도적으로 높다.

연구진은 충돌 전후의 속도 변화를 나타내는 '델타 V'를 통해 사고와 부상 위험 간 상관관계를 레벨0부터 레벨3까지 총 4단계로 분류했다. 예를 들어 델타V가 시속 36km 이상이면 레벨0, 델타V가 시속 8km 이하면 레벨3이고 레벨이 낮을수록 부상 위험이 높다.

그 결과, 부상 위험이 높은 레벨0부터 레벨2에서 사고는 총 66건 발생한 것으로 나타났다. 이를 총 주행거리로 나누면 약 13.7km당 1회 꼴로 부상 위험이 있는 충돌 사고가 발생하는 것으로 알 수 있다. 연구진은 대략적 추정으로 약 5만km당 1회, 100만마일(약 160만km)당 32.45회의 사고가 인간 운전자의 책임으로 일어났다고 결론지었다.

[사진: Kyle Vogt 엑스]

아울러 이 데이터를 크루즈가 미국 샌프란시스코 전역을 약 100만마일 주행해 수집한 사고 데이터와 대조한 결과, 100만마일당 자율주행차의 사고 건수는 23건으로 나타났다. 즉 자율주행차의 사고 비율은 인간 운전자보다 65% 낮으며, 그 중 책임 있는 사고는 94% 낮고 부상 위험이 높은 사고는 74% 낮은 것으로 드러났다.

연구진은 "이번 조사는 현재 인간 운전자의 안전성을 이해하는 데 도움이 된다"며 "크루즈가 도로에 가져오는 안전성의 이점을 보다 깊이 이해할 수 있다"고 전했다.

# data[].attributes.attachment_link.title
자율주행차 사고발생률, 인간 운전자보다 65% 낮다...연구

# data[].attributes.attachment_link.description
디지털투데이 AI리포터] 자율주행차가 사람이 운전하는 차보다 안전하다는 연구 결과가 나왔다.25일 온라인 매체 기가진에 따르면 최근 자율주행기술 관련 사고가 빈번히 일어남에 따라 교통 당국이 자율주행차를 제한하는 사태까지 일고 있다. 이 가운데 자율주행기업 크루즈의 모회사 제너럴모터스(GM)와 미국 미시간대학교 및 버지니아공과대학교 교통연구소가 공동으로 연구를 진행했다. 연구진은 GM 산하 카쉐어링 서비스인 메이븐(Maven)의 지난 2016년~2018년에 걸친 데이터 등을 활용해 인간의 운전 성능을 측정했다.

# data[].attributes.body
마이클 센델의 정의란 무엇인가? 라는 도서의 트롤리 딜레마를 참고하여 사회적 이슈가 되고있는 자율주행 자동차의 윤리적 문제점과 시사점을 제시하고 있는 기사

# data[].attributes.attachment_link.title
[청년일보] [청년발언대] 자율주행차는 어떤 도덕적 판단을 내려야 할까?

# data[].attributes.attachment_link.description
【 청년일보 】 마이클 샌델의 ‘정의란 무엇인가‘에서 언급돼 유명세를 탄 딜레마가 있다. 바로 ‘트롤리 딜레마’다. 상황은 다음과 같다. 차량 오작동으로 인해 브레이크가 말을 듣지 않는다. 계속 간다면 길 건너편의 보행자들과 부딪히고, 방향을 튼다면 한 사람만 치어 죽이거나 운전자 자신이 죽을 수도 있다. 지난 11월 25일 서울의 청계천 일대에선 자율주행

# data[].attributes.attachment_link.title
[이광형의 미래학 향연] 자율주행차 사고시 누구 보호?… 탑승자가 답이다

# data[].attributes.attachment_link.description
최근 두 개의 자동차 사고가 논란을 일으키고 있다. 지난 3월 18일 미국의 애리조나 주에서 우버회사가 시험운행 중이던 볼보 XC90 자율주행자동차가 밤에 무단으로 도로를 건너던 사람을 치어 사망하게 했다. 3월 23일에는 테슬라 자동차 모델X가 중앙분리대를 들이받고 폭발해…

# data[].attributes.attachment_link.title
자율주행차는 승객과 보행자 중 누구를 구해야 하나

# data[].attributes.attachment_link.description
자율주행차를 개발하는 업체들은 이 차에 담긴 인공지능이 안전을 위해 최선의 선택을 하도록 설계하고 있다. 하지만 답이 뚜렷하지 않은 상황도 생길 수 있다. 그대로 주행한다면 보행자가 죽고, 피하려 한다면 벽에 부딪혀 승객이 죽는 돌발상황에 맞닥뜨린 자율주행차는 어떻게

# data[].attributes.body
자율주행차가 아무리 체계적이더라도 사고가 발생할 확률을 외면할 수 없다. 따라서 운전자가 아닌 자율주행자동차의 과실로 발생한 사고에 대한 책임을 누가 질것인지에 대한 법률적 논란을 사회고발적으로 작성한 기사

# data[].attributes.attachment_link.readable_text
(사진=셔터스톡)

자율주행 차량이 교통 사고를 낸 경우 누가 책임을 져야 할까? 호주 매체 컨버세이션 이 30일 자율주행 차량 사고 시 책임 소재에 관한 기사를 보도해 주목된다.

호주에서 처음으로 자율주행 차량 사고가 발생한 것은 지난 3월이었다. 한 보행자가 테슬라 모델 3에 치여 생명에 지장이 있을 정도의 중상을 입었고 운전자는 '오토파일럿' 상태였다고 주장했다.

미국 고속도로 안전 규제 당국은 오토파일럿 상태의 테슬라 차량이 교통 정차 중에 신호를 깜박이던 응급 차량에 충돌한 일련의 사고를 조사하고 있다.

자율주행 차량의 의사 결정 과정은 종종 불투명하고 예측할 수 없기 때문에(제조업체에도 마찬가지로) 이러한 사고에 대해 책임을 져야 할 사람을 결정하기 어려울 수 있다. 그러나 성장하고 있는 '설명 가능한 AI(explainable AI)' 분야가 몇 가지 해답을 제공하는 데 도움이 될 수 있다.

자율주행 자동차는 새롭지만 여전히 제조업체에서 제조 및 판매하는 기계다. 상해를 유발할 경우 제조업체(또는 소프트웨어 개발자)가 안전 책임을 충족했는지 따져봐야 한다.

현대 과실법은 한 여성이 진저 비어 병에 담겨 부패한 달팽이를 발견한, 도냐후 대 스티븐슨의 유명한 사건에서 비롯됐다. 그 제조사는 달팽이의 행동을 바로 예측하거나 통제할 것으로 기대되었기 때문이 아니라 병 생산 공정이 안전하지 않았기 때문에 과실이 있다는 판결이 나왔다.

이러한 논리에 따라 자율주행 자동차와 같은 AI 기반 시스템의 제조업체 및 개발자는 '자율' 시스템이 수행하는 모든 것을 예측하고 제어할 수 없지만 위험을 줄이기 위한 조치를 취해야 한다. 매체는 위험 관리, 테스트, 감사 및 모니터링 방법이 충분하지 않은 경우 책임을 져야 한다고 강조했다.

어려운 질문은 "얼마나 많은 주의를 기울이고 얼마나 많은 위험 관리를 해야 충분한가?"이다. 복잡한 소프트웨어에서는 모든 버그를 미리 테스트하는 것이 불가능하다. 개발자와 제조업체가 언제 중단해야 하는지 어떻게 알 수 있겠는가?

다행히도, 법원, 규제 기관 및 기술 표준 기구들은 위험하지만 유용한 활동에 대한 관리 및 책임에 대한 기준을 수립해 왔다.

표준이 비용과 상관없이 위험을 가능한 한 줄여야 하는 유럽 연합의 AI 규정 초안과 같이 매우 엄격할 수 있다. 또는 가능성이 적거나 덜 심각한 위험에 대해 덜 엄격한 관리를 허용하거나 위험 관리가 위험한 활동의 ​​전반적인 이익을 줄여야 하는 호주 과실법과 비슷할 수 있다.

위험에 대한 명확한 표준이 확립되면 이를 시행할 방법이 필요하다. 한 가지 접근 방식은 규제 기관에 벌금을 부과할 수 있는 권한을 부여하는 것이다.

AI 시스템에 의해 피해를 입은 개인도 소송을 제기할 수 있어야 한다. 자율주행 차량과 관련된 경우 제조업체에 대한 소송이 특히 중요할 것이다.

그러나 이러한 소송이 효과적으로 진행되기 위해서는 법원이 AI 시스템의 프로세스와 기술적 변수를 자세히 이해해야 한다. 제조업체들은 종종 상업적 이유로 이러한 세부 정보를 공개하지 않는 것을 선호한다. 그러나 법원은 이미 소송을 용이하게 하기 위해 상업적인 이익과 적당한 분량을 공개하는 것 사이의 균형을 맞추는 절차를 가지고 있다.

AI 시스템 자체가 분명하지 않은 '블랙박스'일 때 더 큰 문제가 발생할 수 있다. 예를 들어 테슬라의 오토파일럿 기능은 '딥 뉴럴 네트워크'에 의존한다. 이 AI 시스템은 개발자조차 특정 결과에 도달하는 방법과 이유를 완전히 확신할 수 없는 일반적인 유형의 AI 시스템이라고 할 수 있다.

(사진=셔터스톡)

현대 AI 시스템의 블랙박스를 여는 것은 이른바 '설명 가능한 AI'라고 불리는 컴퓨터 과학 및 인문학 학자들의 새로운 분야다. 목표는 AI 시스템의 구축 방식을 변경하거나 사실이 발생한 이후 설명을 생성해 개발자와 최종 사용자가 AI 시스템의 의사 결정 방식을 이해하도록 돕는 것이다.

전형적인 예로 AI 시스템이 허스키 사진을 늑대로 잘못 분류한 경우를 들 수 있다. '설명 가능한 AI' 방식은 시스템이 전경에 있는 동물이 아닌 이미지 배경의 눈에 초점을 맞춘 점을 드러낸다.

소송에서 이 기술을 사용하는 방법은 특정 AI 기술 및 이로 인한 피해 등 다양한 요인에 따라 달라진다. 관건은 피해 당사자에게 AI 시스템에 얼마나 많은 접근이 허용되는지에 있다.

최근 호주 법원의 중요한 사건을 분석한 새로운 연구는 이것이 어떻게 보일 수 있는지에 대한 고무적인 일면을 제공한다.

2022년 4월, 호주 연방 법원은 공정 경쟁 규제 기관인 호주 경쟁 및 소비자 위원회(ACCC)가 소송을 제기해 웹사이트 및 TV 광고에서 호텔 객실 요금에 대한 오해를 불러일으켰던 전 세계 호텔 예약 회사 트리바고에 4470만 달러(400억원)의 벌금을 부과했다. 중요한 점은 트리바고의 복잡한 순위 알고리즘이 호텔 객실 중에서 가장 높은 순위에 혜택을 제공하는 방법이었다.

연방법원은 트리바고의 지적 재산을 보호하기 위해 보호 장치가 있는 증거 발견 규칙을 마련하고 ACCC와 트리바고는 전문 증인들에게 트리바고의 AI 시스템이 어떻게 작동하는지에 대한 증거를 요청했다.

트리바고의 시스템에 대한 완전한 액세스 권한이 없는 경우에도 ACCC의 전문가 증인은 이 시스템의 동작이 고객에게 '최상의 가격'을 제공했다는 트리바고의 주장과 일치하지 않는다는 설득력 있는 증거를 제시할 수 있었다.

이 사례는 기술 전문가와 변호사들이 법정 소송에서 AI의 모호성을 극복하는 방법을 보여준다. 그러나 이 과정에서 긴밀한 협업과 심층적인 기술 전문 지식이 필요하고 비용이 많이 들 수 있다.

규제 기관은 이제 AI 회사에 시스템을 적절하게 문서화할 것을 요구하는 등 미래의 작업을 원활하게 하기 위한 조치를 취할 수 있다.

매체는 다양한 자동화 수준을 가진 차량이 점점 일반화되고 있고 호주와 해외에서 완전 자율 택시와 버스가 테스트되고 있다며 도로를 최대한 안전하게 유지하려면 AI와 법률 전문가 사이의 긴밀한 협업이 필요하고 규제 기관, 제조업체, 보험사 및 사용자 모두가 역할을 수행해야 한다고 강조했다.

AI타임스 이한선 객원 기자 griffin12@gmail.com

# data[].attributes.attachment_link.title
자율주행차 사고 나면 누구 책임일까?

# data[].attributes.attachment_link.description
자율주행 차량이 교통 사고를 낸 경우 누가 책임을 져야 할까? 호주 매체 컨버세이션이 30일 자율주행 차량 사고 시 책임 소재에 관한 기사를 보도해 주목된다.호주에서 처음으로 자율주행 차량 사고가 발생한 것은 지난 3월이었다.

# data[].attributes.body
https://economist.co.kr/article/view/ecn201804160001

# data[].attributes.attachment_link.readable_text
자율주행차는 사람보다 더 공정하게 운행할 수 있지만 횡단보도 같은 일상적 상황에선 윤리적 딜레마 생길 수 있어

사진:AP-NEWSIS

자율주행차가 현실의 기술로 구현되고 도로 위에서 실제 주행 테스트가 이뤄진다. 머지않아 자율주행차의 시대가 닥칠 전망이다. 그러면서 점차 윤리적인 문제가 심각하게 대두되고 있다. 우리가 운전할 때 윤리적 판단을 즉시 내려야 하는 상황이 자주 생긴다. 자율주행차도 인간 운전자처럼 여러 가치가 충돌하는 상황에 직면할 수밖에 없다. 따라서 자율주행차는그런 상황에서 안전성, 기동성, 합법성이 균형을 이루는 결정을 내릴 수 있도록 설계돼야 한다.

지금까지 자율주행차에 관한 논의와 윤리적 고찰의 대부분은 비극적인 딜레마에 초점을 맞췄다. 예를 들면 차가 어린아이들이 길을 건너는 횡단보도로 돌진할지 낭떠러지로 질주해 승객을 사망케 할지 결정해야 하는 '가정'의 상황을 가리킨다. 하지만 그런 상황들은 지극히 예외이며 극단적인 경우다.

지난 3월 18일 미국 애리조나주 템피에서 자율주행 모드로 운행하던 우버 차량이 횡단도로에서 길을 건너던 여성 보행자를 치어 숨지게 한 사고가 발생했다. 이 가장 최근의 사고가 잘 보여주듯이 횡단보도, 길모퉁이, 교차로에서 발생하는 일상적인 상황이 극단적이고 예외적인 경우보다 훨씬 더 어렵고 광범위한 윤리적 딜레마를 제시한다.

스탠퍼드대학 자동차연구센터의 엔지니어들과 함께 연구하는 철학자로서 나는 처음엔 실험실 회의라는 중요한 시간에 '자율주행차는 횡단보도에 어떻게 접근해야 하나?' 같은, 내가 생각하기에 '너무나 평범한 문제'를 토의하는 것이 이해가 잘 가지 않았다.

그런 논의에서 나는 자동차가 승객의 생명과 보행자의 생명 중 어느 쪽을 살릴지 어떻게 선택해야 하는지에 관해 고심해야 한다고 판단했다. 그런 딜레마를 두고 어떻게 생각해야 할지 철학자로서 나는 잘 알고 있었다. 그런 차량사고 시나리오는 유명한 철학적 사고실험인 '트롤리 딜레마(trolley problem)'와 비슷하기 때문이다. 이 실험은 '제동되지 않는 트롤리가 선로에 서있는 5명을 향해 돌진하는 상황에서 당신은 선로전환기를 당겨 다른 선로에 서있는 1명을 치는 대신 5명을 구할 것인가 아니면 5명을 치고 다른 선로의 1명을 구할 것인가'라는 가설적 상황을 제시한다. 공리주의적 입장에서는 '5명이 죽는 것보다는 1명이 죽는 게 더 낫다'고 쉽게 말할 수 있지만 현실에선 결코 그리 간단한 문제가 아니다.

그러나 요즘의 많은 철학자는 그런 문제의 탐구가 과연 가치 있는지 의문을 표한다. 예를 들어 스탠퍼드대학의 내 동료인 바바라 프리드 연구원은 그처럼 극단적이고 비극적인 문제를 제시하게 되면 일반적으로 사람들은 윤리적 딜레마가 대부분 극단적인 상황에서 발생한다고 믿기 쉽다고 지적했다.

지난해 11월 독일 에센 모터쇼에서 자율주행 전기 콘셉트카 린스피드 오아시스가 관광객의 관심을 끌었다. / 사진:AP-NEWSIS

실제로 윤리적인 진퇴양난의 상황은 언제 어디서든 나타날 수 있다. 우리가 흔히 접하는 일상적인 상황도 자세히 뜯어보면 놀라울 정도로 혼란스럽고 복잡하며 미묘하다. 예를 들어 이런 문제다. 시 정부가 당뇨예방 프로그램에 예산을 지출해야 할까 아니면 그 예산으로 사회복지사를 더 많이 지원해야 할까? 공중보건당국이 식당 위생 조사관을 추가로 고용해야 할까 아니면 그 대신 무료 주사기 보급 프로그램에 더 투자해야 할까?

이런 질문에 답하기는 아주 어렵다. 결과의 불확실성 때문이다. 두 가지 중 하나의 안을 선택했을 때 어느 편이 어느 정도의 이익을 보거나 피해를 입는지 정확히 알 수 없다는 뜻이다. 극단적이고 절박한 상황 아래서의 선택에 관해 철학자들이 제시하는 해법은 이런 문제의 답을 찾는 데선 거의 도움이 되지 않는다.

자율주행차를 둘러싸고 제기되는 문제도 그와 비슷하다. 극단적인 상황과 인명사고 시나리오를 두고 논의하는 것은 일상적인 상황에서 발생하는 문제를 해결하는데 별 도움이 되지 않는다. 우리 대다수는 횡단보도 접근이나 교차로 통과, 또는 좌우회전 같은 일상적인 교통 상황에서 무엇이 그처럼 선택하기 어렵냐고 반문할 수 있다. 횡단보도의 시야가 제한되고 인근의 보행자가 실제로 길을 건널지 말지 알기 어렵지만 운전자는 이런 상황에 매일 부닥치며 대수롭지 않게 대처하기 때문이다.

그러나 자율주행차의 경우 그런 일상적인 상황이 두 가지 면에서 상당한 어려움을 제기한다.

첫째, 사람에게 쉬운 것이 기계엔 상당히 어려운 경우가 많다. 얼굴을 인식하는 것이든 자전거를 타는 것이든 우리는 인식과 기계적인 기능에 능숙하다. 진화 과정을 통해 이런 기술을 내재적으로 갖췄기 때문이다. 그러나 바로 그 때문에 그런 기술을 기계를 대상으로 가르치거나 조정하기가 어렵다. 이를 '모라벡의 역설(Moravec's Paradox)'이라고 부른다. 인간에게 쉬운 일을 컴퓨터가 행하기는 어렵고 인간에게 어려운 일을 컴퓨터는 쉽게 해낸다는 역설이다. 예를 들어 인간은 걷기나 느끼기, 듣기, 보기, 의사소통 등의 일상적인 행위를 매우 쉽게 할 수 있는 반면 복잡한 수식 계산 등을 하려면 많은 시간과 에너지를 소비해야 하고 또 해낼 수 없는 경우가 많다. 반면 컴퓨터는 수학적 계산, 논리 분석 등은 순식간에 해낼 수 있지만 인간이 하는 일상적인 행위를 수행하기 매우 어렵다. 달리 말해 어른 수준으로 체스나 바둑을 두는 컴퓨터를 개발하는 것은 보다 쉽지만 한 살짜리 수준의 운동 능력이나 지각을 갖춘 기계를 만드는 일은 극히 어렵다는 얘기다.

둘째, 모든 자동차가 자율주행차인 미래엔 운전 작동의 사소한 변화도 전부 합쳐지면 큰 차이를 만든다. 다시 말해 지금 이 순간 자율주행차를 설계하는 엔지니어가 내리는 결정이 자동차 한 대가 어떻게 운행하느냐가 아니라 앞으로 모든 자동차가 어떻게 운행하느냐를 결정한다. 알고리즘이 사회 전체의 '정책'이 된다는 뜻이다.

엔지니어는 기계학습이라는 방법을 사용해 사람 얼굴이나 물체를 인식하도록 컴퓨터를 가르친다. 또 기계학습을 통해 자율주행차가 사람의 운전 방식을 모방하게 만들 수도 있다. 하지만 그건 우리가 고민하는 문제의 해결책이 될 수 없다. 자율주행차의 안전과 기동성에 관해 엔지니어가 광범위한 결정을 내리는 데 따르는 복잡 미묘한 문제를 기계학습으로 해결할 순 없다.

자율주행차는 '교차로 자동 매니저 (AIM)' 같은 프로그램이 있기 때문에 이론상 교차로의 신호등이 필요 없다. / 사진:YOUTUBE

더구나 자율주행차는 사람처럼 운전해선 안 된다. 사람은 엄밀히 말해 '바람직한' 운전자가 아니다. 사람이 운전하는 방식은 윤리적으로 문제가 될 소지가 얼마든지 있기 때문이다. 횡단보도에서 보행자의 나이와 인종, 소득을 근거로 멈춰서서 그들에게 길을 건너도록 양보할지 아니면 그냥 달릴지 판단하기 때문이다. 예를 들어 포틀랜드대학의 연구에서 흑인 보행자가 신호등 없는 횡단보도를 건너기 위해 기다리는 시간은 백인 보행자에 비해 32% 더 길었다. 흑인 보행자가 횡단보도를 건너기 위해 기다리고 있을 경우 멈추지 않고 운전자가 무시한 채 달리는 경우가 많아 흑인은 백인보다 더 많은 시간을 기다려야 했다.

원칙적으로 자율주행차는 사람보다 더 안전하고 공정하게 운전할 수 있다. 그러나 횡단보도, 회전 지점, 교차로 같은 일상적인 상황에서 나타나는 이익충돌을 처리할 땐 윤리적 문제가 더 심각해진다.

예를 들어 자율주행차는 보행자나 자전거를 탄 사람의 안전과 자체 승객의 이익 사이에서 공정하게 균형을 잡도록 설계돼야 한다. 차가 보행 속도보다 더 빠르면 갑자기 차도에 나타난 아이와 충돌할 수밖에 없다. 하지만 보행 속도는 차보다 훨씬 느리다. 또 보행자든 차량 승객이든 모두 자신이 원하는 곳으로 가야 한다. 그렇다면 엔지니어는 안전과 기동성 사이의 균형을 어떻게 잡아야 할까? 어느 정도의 속도가 안전할까?

그 외 다른 윤리적인 문제도 있다. 엔지니어는 기동성과 환경 영향 사이에서도 균형을 잡을 필요가 있다. 컴퓨터로 제어되는 가속, 방향 전환, 제동에서 작은 부분을 수정할 경우 그 설계가 출시되는 모든 차량에 적용된다면 에너지 사용과 온실가스 배출에 큰 영향을 미칠 수 있다. 그렇다면 엔지니어는 교통의 효율성과 환경 영향 사이에서 어떻게 균형을 잡아야 할까?

지난 3월 18일 미국에서 자율주행 모드로 운행하던 우버 차량이 여성 보행자를 치어 숨지게 한 사고가 발생했다. / 사진:AP-NEWSIS

이처럼 자율주행차가 마주치는 일상적인 상황은 전례 없는 설계공학과 윤리 문제를 제기한다. 동시에 그런 문제로 인해 우리는 교통 시스템의 기본적인 가정에 의문을 갖게 된다. 예를 들어 나의 경우는 우리 도로에 '횡단보도'가 반드시 필요한지 의문을 갖기 시작했다. 자율주행차라면 원칙적으로 보행자가 언제 어디서 길을 건너든 안전을 보장할 수 있어야 하기 때문이다.

횡단보도만 필요 없어지는 게 아니다. 교차로의 신호등도 더는 쓸모가 없어질 수 있다. 신호등은 모든 차량이 충돌 사고나 혼란 없이 교차로를 통과할 수 있도록 하기 위해 생겨났다. 하지만 자율주행차는 순조롭게 서로 통신해 상황을 자동으로 조절할 수 있어야 하기 때문에 이론상 신호등도 쓸모 없다.

더 큰 문제도 있다. 자율주행차가 인간 운전자보다 더 낫다는 원론적인 사실을 고려하면 인간의 실수를 막기 위해 제정된 교통 관련 법과 규정을 자율주행차가 따라야 할 이유가 있을까? 이 질문을 좀 더 일반화해 보자. 하나의 사회로서 우리가 교통 시스템을 처음부터 새로 설계할 수 있다면 우리는 과연 어떤 식을 원할까?

이 어려운 질문은 한 도시나 사회의 모든 사람과 직결되기 때문에 대답하려면 모두의 합의가 있어야 한다. 횡단보도에 관해서만 생각하든 교통 시스템 전체에 관해 고민하든 모두가 동의하는 방식으로 상충되는 이익의 균형을 맞춰야 한다는 뜻이다.

자율주행차의 시대가 실제로 닥치면 우리 사회는 교통 시스템을 재설계해야 할 것이다. 하지만 횡단보도부터 전반적인 교통 설계까지 진짜 어려운 문제를 제기하는 것은 일상적인 상황이다. 극단적인 상황은 그런 문제의 해결책을 모색하는 데 방해가 될 뿐이다.

'트롤리 딜레마'를 푸는 방식으로는 이런 복잡 미묘한 문제의 답을 찾을 수 없다.

- 요하네스 히멜라이히

※ [필자는 스탠퍼드대학 매코이 패밀리 사회윤리 센터의 학제간 윤리 담당 연구원이다. 이 글은 온라인 매체 컨버세이션에 먼저 실렸다.]

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지

# data[].attributes.attachment_link.description
자율주행차는 사람보다 더 공정하게 운행할 수 있지만 횡단보도 같은 일상적 상황에선 윤리적 딜레마 생길 수 있어 자율주행차가 현실의 기술로 구현

# data[].attributes.attachment_link.title
교통사고 순간 운전자와 보행자 중 누굴 살릴까…’자율주행차의 딜레마 ...

# data[].attributes.body
자율주행자동차로 일어나는 불가피한 사망사고에 대한 기사

# data[].attributes.attachment_link.readable_text
[지식K] 불가피한 사망사고...자율주행차의 윤리적 딜레마?

읽어주기 기능은 크롬기반의
브라우저에서만 사용하실 수 있습니다.

구글의 자율주행차 개발을 책임지고 있는 자회사인 웨이모(Waymo)가 이르면 다음달 자율주행차 서비스를 시작할 수도 있다고 포춘이 전했다. 웨이모는 이미 보조 운전자도 탑승하지 않은 완전한 무인 로봇택시 30대를 팔로 알토와 마운틴 뷰 등 산타클라라 카운티 지역의 고속도로와 일반 도로에서 시험 운영해왔다.

하지만 완전한 자율주행이 정착하려면 기술적 문제뿐만 아니라 사고가 발생하는 상황에서 선택이나 판단과 그에 따른 책임 문제도 해결해야 한다. 이와 관련해 불가피하게 인명 손실이 발생하는 경우에 자율주행차가 어떻게 최선의 선택을 해야 하는가와 관련된 문제들도 제기되고 있다.

운전 도중에 갑자기 무단횡단을 하는 사람이 나타난다면 운전자는 급브레이크를 밟거나 보행자를 피하려고 운전대를 돌리는 순간적 판단을 한다. 급하게 운전대를 조종하다 내가 다치거나 죽을 수도 있고 내가 살기 위해 불가피하게 보행자를 다치거나 죽게 할 수도 있다.

어느 경우이든 책임은 운전자가 진다. 하지만 자율주행차 시대가 되면 차량에 탑재된 인공지능, 알고리즘 또는 프로그램이 스스로 이런 판단을 내려야 할 것이다.

네이처(Nature)에 따르면 최근 MIT 대학의 미디어 연구소가 이런 도덕적 가치 판단에 대한 알고리즘을 개발하기 위해 233개 국가의 230만 명을 대상으로 설문 조사를 실시한 결과 매우 흥미로운 사실을 발견했다고 보도했다.

▶ MIT 모럴 머신 사이트 참여하기

MIT의 연구팀은 모럴 머신(Moral Machine)이라고 불리는 웹사이트를 통해 브레이크 고장에 따른 충돌 사고로 죽음이 불가피한 13가지 상황에서 운전자의 선택에 관한 조사를 실시했다.

예를 들면 충돌 사고로 두 사람 가운데 한 사람의 인명이 손실이 불가피할 경우 어린이를 살릴 것인가 아니면 노인을 살릴 것인가? 소수를 살릴 것인가 아니면 다수를 살릴 것인가? 남성과 여성 가운데 누구를 보호하는 선택을 할 것인가? 등과 같은 질문이다.

공통적으로 일치하는 기준은 2가지
다양한 상황에 대한 보편적 공통 기준을 마련할 수 있으리라는 기대와 달리 문화적 차이, 사회 경제적 차이 등에 따라 국가마다 선택 기준이 달라지는 것으로 나타났다. 즉 자율주행차에 적용할 수 있는 보편적인 선택 기준을 마련하는 것이 현재로서는 상당히 어렵다는 이야기다.

모든 국가에 적용할 수 있는 공통적인 선택 기준은 두 가지로 나타났다. 첫째는 애완동물보다 인명을 선호한다는 것이고 두 번째는 소수보다 다수를 구하는 쪽으로 자율주행자가 선택할 수 있도록 프로그램되어야 한다는 것이다.

동양 - 서양의 지역적 차이
출처: http://moralmachineresults.scalablecoop.org/

지역별로 각 상황에 대한 도덕적 가치 판단은 크게 세 그룹으로 나뉘었다. 첫째 그룹은 북미와 유럽 지역의 국가들이다. 미국, 캐나다, 영국, 스웨덴 등 서구 국가들의 선택 기준이 대체로 비슷한 성향을 보였다. 이 국가들은 역사적으로 기독교 문화가 지배했었고 단체보다는 개인을 중시하는 개인주의 문화 국가라는 문화적 공통점이 있다.
사회, 경제 그리고 문화적 차이
두 번째 그룹은 유교와 이슬람 문화권에 속한 국가들이다. 일본, 우리나라, 중국 등 동아시아 국가들과 인도네시아, 태국 등 동남아시아 국가 그리고 파키스탄과 사우디아라비아 등 이슬람 국가들이 비슷한 성향의 선택을 한 것으로 나타났다.

나머지 한 그룹은 멕시코, 페루, 칠레 등 브라질을 제외한 중남미 국가들이 비슷한 성향을 보였고 유럽에서는 프랑스와 아프리카 북부의 과거 프랑스 식민지였던 국가들 사이에 공통점이 많은 것으로 조사됐다.

지역뿐만 아니라 문화적 차이에 의해서도 다른 기준을 선택하는 것으로 나타났다. 노인과 젊은이 가운데 어느 쪽을 살려야 하는가라는 질문에 대해 개인주의적인 서구 국가들은 노인보다 젊은이(어린이)를 구해야 한다는 의견이 더 많았다. 반면 공동체적 경향이 강하고 어른은 존경하는 동양의 국가들은 젊은이보다 노인을 먼저 구하는 선택을 하는 경향이 높게 나타났다고 한다.

실제로 영국의 경우 노인과 젊은이 가운데 젊은이를 선택하는 답변이 전체 117개 국가 가운데 34번째로 높았지만 중국의 경우 노인을 선택하는 답변이 훨씬 많아 젊은이 선호 측면에서 115위를 나타냈다.

출처: http://moralmachineresults.scalablecoop.org/

문화적 차이와 함께 사회 경제적 요인도 선택에 영향을 미치는 것으로 조사됐다. 경제적 불평등이 높을수록 사회적 지위가 높은 사람과 낮은 사람에 대한 선택이 갈렸다. 소득 불평등 격차가 큰 국가의 사람들은 노숙자와 기업인 가운데 기업인을 살려야 한다고 선택하는 경우가 더 많은 것으로 나타났다.

예를 들면 소득 불평등의 정도가 낮은 스웨덴 사람들은 사회적 지위가 높은 사람을 살려야 한다는 답변에서 91위를 기록했지만 빈부 격차가 큰 남미의 베네수엘라의 사람들은 4위를 차지해 사회적 지위가 높은 사람들에 대한 선호도가 뚜렷한 것으로 조사됐다.

출처:http://moralmachineresults.scalablecoop.org/

우리나라 사람들은 어떤 선택을 했을까? 세계 평균보다 높은 선택 기준 분야는 애완동물보다 사람 선호, 개입 회피 선호, 보행자 선호, 여성 보호 선호 등 4개 분야로 나타났다. 반대로 평균보다 낮은 분야는 소수보다 다수 선호, 노인보다 젊은이 선호, 사회적 지위 선호 그리고 건강한 사람 선호 등으로 조사됐다.

출처: http://moralmachineresults.scalablecoop.org/

연구에 따르면 우리나라와 가장 비슷한 선택을 한 국가는 태국이고 가장 큰 차이를 보인 국가는 몽고로 나타났다고 한다.

출처:http://moralmachineresults.scalablecoop.org/

한국과 태국 운전자들은 소수보다 다수 선호, 젊은이보다 노인 선호, 법규 준수 선호 등 6가지 상황 선택에 대해 매우 유사한 성향을 보였다. 하지만 인간과 애완동물을 선택하는 상황에서는 우리나라는 사람을 선택하는 비율이 월등히 높았지만 태국은 우리보다 비율이 낮아 큰 차이를 보였다.

일부 비판론자들은 이런 선택 기준을 적용한 알고리즘이나 프로그램이 현실에 적용될 가능성은 높지 않다고 주장한다. 젊은이와 노인 가운데 한 사람을 선택하거나 동물과 사람 사이에서 선택을 해야 하는 상황이 과연 얼마나 자주 발생하고 실제로 발생할 수 있을까라는 것에 대해서도 회의적이다.

하지만 연구팀은 앞으로 공공 도로를 운행하는 자율주행차가 증가하면 갑자기 뛰어든 자전거를 피하려다 마주 오는 자동차와 충돌하는 상황 등 유사한 선택 상황이 발생할 가능성이 충분하다고 생각하고 있다. 또 일부 자동차 제조사들도 자율주행차가 어느 정도까지의 위험을 감수해야 하는가에 대해 사회적 합의를 이끌어내기 위한 논의를 시작하는 데 도움이 된다는 측면에서 가치 있는 연구라고 평가하고 있다.

■ 제보하기
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 유튜브, 네이버, 카카오에서도 KBS뉴스를 구독해주세요!

[지식K] 불가피한 사망사고...자율주행차의 윤리적 딜레마?

입력 2018-11-15 13:23:25

수정2018-11-15 22:10:28

지식K

구글의 자율주행차 개발을 책임지고 있는 자회사인 웨이모(Waymo)가 이르면 다음달 자율주행차 서비스를 시작할 수도 있다고 포춘이 전했다. 웨이모는 이미 보조 운전자도 탑승하지 않은 완전한 무인 로봇택시 30대를 팔로 알토와 마운틴 뷰 등 산타클라라 카운티 지역의 고속도로와 일반 도로에서 시험 운영해왔다.

하지만 완전한 자율주행이 정착하려면 기술적 문제뿐만 아니라 사고가 발생하는 상황에서 선택이나 판단과 그에 따른 책임 문제도 해결해야 한다. 이와 관련해 불가피하게 인명 손실이 발생하는 경우에 자율주행차가 어떻게 최선의 선택을 해야 하는가와 관련된 문제들도 제기되고 있다.

운전 도중에 갑자기 무단횡단을 하는 사람이 나타난다면 운전자는 급브레이크를 밟거나 보행자를 피하려고 운전대를 돌리는 순간적 판단을 한다. 급하게 운전대를 조종하다 내가 다치거나 죽을 수도 있고 내가 살기 위해 불가피하게 보행자를 다치거나 죽게 할 수도 있다.

어느 경우이든 책임은 운전자가 진다. 하지만 자율주행차 시대가 되면 차량에 탑재된 인공지능, 알고리즘 또는 프로그램이 스스로 이런 판단을 내려야 할 것이다.

네이처(Nature)에 따르면 최근 MIT 대학의 미디어 연구소가 이런 도덕적 가치 판단에 대한 알고리즘을 개발하기 위해 233개 국가의 230만 명을 대상으로 설문 조사를 실시한 결과 매우 흥미로운 사실을 발견했다고 보도했다.

▶ MIT 모럴 머신 사이트 참여하기

MIT의 연구팀은 모럴 머신(Moral Machine)이라고 불리는 웹사이트를 통해 브레이크 고장에 따른 충돌 사고로 죽음이 불가피한 13가지 상황에서 운전자의 선택에 관한 조사를 실시했다.

예를 들면 충돌 사고로 두 사람 가운데 한 사람의 인명이 손실이 불가피할 경우 어린이를 살릴 것인가 아니면 노인을 살릴 것인가? 소수를 살릴 것인가 아니면 다수를 살릴 것인가? 남성과 여성 가운데 누구를 보호하는 선택을 할 것인가? 등과 같은 질문이다.

공통적으로 일치하는 기준은 2가지
다양한 상황에 대한 보편적 공통 기준을 마련할 수 있으리라는 기대와 달리 문화적 차이, 사회 경제적 차이 등에 따라 국가마다 선택 기준이 달라지는 것으로 나타났다. 즉 자율주행차에 적용할 수 있는 보편적인 선택 기준을 마련하는 것이 현재로서는 상당히 어렵다는 이야기다.

모든 국가에 적용할 수 있는 공통적인 선택 기준은 두 가지로 나타났다. 첫째는 애완동물보다 인명을 선호한다는 것이고 두 번째는 소수보다 다수를 구하는 쪽으로 자율주행자가 선택할 수 있도록 프로그램되어야 한다는 것이다.

동양 - 서양의 지역적 차이
지역별로 각 상황에 대한 도덕적 가치 판단은 크게 세 그룹으로 나뉘었다. 첫째 그룹은 북미와 유럽 지역의 국가들이다. 미국, 캐나다, 영국, 스웨덴 등 서구 국가들의 선택 기준이 대체로 비슷한 성향을 보였다. 이 국가들은 역사적으로 기독교 문화가 지배했었고 단체보다는 개인을 중시하는 개인주의 문화 국가라는 문화적 공통점이 있다.
사회, 경제 그리고 문화적 차이
두 번째 그룹은 유교와 이슬람 문화권에 속한 국가들이다. 일본, 우리나라, 중국 등 동아시아 국가들과 인도네시아, 태국 등 동남아시아 국가 그리고 파키스탄과 사우디아라비아 등 이슬람 국가들이 비슷한 성향의 선택을 한 것으로 나타났다.

나머지 한 그룹은 멕시코, 페루, 칠레 등 브라질을 제외한 중남미 국가들이 비슷한 성향을 보였고 유럽에서는 프랑스와 아프리카 북부의 과거 프랑스 식민지였던 국가들 사이에 공통점이 많은 것으로 조사됐다.

지역뿐만 아니라 문화적 차이에 의해서도 다른 기준을 선택하는 것으로 나타났다. 노인과 젊은이 가운데 어느 쪽을 살려야 하는가라는 질문에 대해 개인주의적인 서구 국가들은 노인보다 젊은이(어린이)를 구해야 한다는 의견이 더 많았다. 반면 공동체적 경향이 강하고 어른은 존경하는 동양의 국가들은 젊은이보다 노인을 먼저 구하는 선택을 하는 경향이 높게 나타났다고 한다.

실제로 영국의 경우 노인과 젊은이 가운데 젊은이를 선택하는 답변이 전체 117개 국가 가운데 34번째로 높았지만 중국의 경우 노인을 선택하는 답변이 훨씬 많아 젊은이 선호 측면에서 115위를 나타냈다.

문화적 차이와 함께 사회 경제적 요인도 선택에 영향을 미치는 것으로 조사됐다. 경제적 불평등이 높을수록 사회적 지위가 높은 사람과 낮은 사람에 대한 선택이 갈렸다. 소득 불평등 격차가 큰 국가의 사람들은 노숙자와 기업인 가운데 기업인을 살려야 한다고 선택하는 경우가 더 많은 것으로 나타났다.

예를 들면 소득 불평등의 정도가 낮은 스웨덴 사람들은 사회적 지위가 높은 사람을 살려야 한다는 답변에서 91위를 기록했지만 빈부 격차가 큰 남미의 베네수엘라의 사람들은 4위를 차지해 사회적 지위가 높은 사람들에 대한 선호도가 뚜렷한 것으로 조사됐다.

우리나라 사람들은 어떤 선택을 했을까? 세계 평균보다 높은 선택 기준 분야는 애완동물보다 사람 선호, 개입 회피 선호, 보행자 선호, 여성 보호 선호 등 4개 분야로 나타났다. 반대로 평균보다 낮은 분야는 소수보다 다수 선호, 노인보다 젊은이 선호, 사회적 지위 선호 그리고 건강한 사람 선호 등으로 조사됐다.

연구에 따르면 우리나라와 가장 비슷한 선택을 한 국가는 태국이고 가장 큰 차이를 보인 국가는 몽고로 나타났다고 한다.

한국과 태국 운전자들은 소수보다 다수 선호, 젊은이보다 노인 선호, 법규 준수 선호 등 6가지 상황 선택에 대해 매우 유사한 성향을 보였다. 하지만 인간과 애완동물을 선택하는 상황에서는 우리나라는 사람을 선택하는 비율이 월등히 높았지만 태국은 우리보다 비율이 낮아 큰 차이를 보였다.

일부 비판론자들은 이런 선택 기준을 적용한 알고리즘이나 프로그램이 현실에 적용될 가능성은 높지 않다고 주장한다. 젊은이와 노인 가운데 한 사람을 선택하거나 동물과 사람 사이에서 선택을 해야 하는 상황이 과연 얼마나 자주 발생하고 실제로 발생할 수 있을까라는 것에 대해서도 회의적이다.

하지만 연구팀은 앞으로 공공 도로를 운행하는 자율주행차가 증가하면 갑자기 뛰어든 자전거를 피하려다 마주 오는 자동차와 충돌하는 상황 등 유사한 선택 상황이 발생할 가능성이 충분하다고 생각하고 있다. 또 일부 자동차 제조사들도 자율주행차가 어느 정도까지의 위험을 감수해야 하는가에 대해 사회적 합의를 이끌어내기 위한 논의를 시작하는 데 도움이 된다는 측면에서 가치 있는 연구라고 평가하고 있다.

오늘의 핫 클릭

실시간 뜨거운 관심을 받고 있는 뉴스

많이 본 뉴스

각 플랫폼에서 최근 1시간 동안 많이 본 KBS 기사를 제공합니다.

각 플랫폼에서 최근 1시간 동안 많이 본 KBS 기사를 제공합니다.

각 플랫폼에서 최근 1시간 동안 많이 본 KBS 기사를 제공합니다.

# data[].attributes.attachment_link.title
[지식K] 불가피한 사망사고...자율주행차의 윤리적 딜레마?

# data[].attributes.attachment_link.description
구글의 자율주행차 개발을 책임지고 있는 자회사인 웨이모(Waymo)가 이르면 다음달 자율주행차 서비스를 시...