생다지 1조 by 임정욱

인간의 보정&개발자와 사용자의 인지

2020-10-06 01:36:59 UTC

나는 인공지능이 인간의 경험을 분석하는 과정에서 나타나는 편향성은 인간이 머신 러닝 전에 이를 보정해줌으로써 극복할 수 있다고 생각한다. 인공지능의 편향성은 대부분 데이터 자체의 편향 때문에 발생하고, 인공지능 스스로는 이를 인지하고 해결할 수 없기 때문이다.
2016년 마이크로소프트사의 연구에 따르면, 인공지능이 학습할 단어 혹은 데이터를 이분법적으로 확실하게 구별해야만 하는 것(남/여, 할아버지/할머니)과 중립적인 것(의사, 승무원)으로 나눔으로써 일정 수준 편향성을 제거할 수 있다. 데이터를 분류하여 컴퓨터 언어로 임베딩한 후, 이분법적인 것을 기준으로 중립적인 것의 거리가 같도록 조정함으로써 데이터 자체의 편향성을 줄여 머신 러닝을 진행한다면, 인공지능의 편향성 역시 줄 것이라고 생각한다. (ex. 선생님이라는 직종이 여자 쪽에 더 가까우면, 이를 중립위치로 옮겨 성별 편향성을 제거하는 방법)
뿐만 아니라, 머신 러닝 개발자와 사용자 모두가 인공지능을 이용하는 과정에서 편향성의 존재를 인식하는 것으로도 편향성을 일부 극복할 수 있다고 생각한다. 인간의 경험이 편향되는 것은 사회의 고착된 본질적인 문제로부터 발생하는 경우가 많기 때문에, 단기간에 이를 바꿔 편향되지 않은 데이터를 주입하기란 쉽지 않다. 그렇기에 개발자가 편향된 데이터가 머신 러닝 과정에서 어떤 영향을 미칠지 미리 분석하고, 사용자에게도 어떠한 편향성이 존재하는지를 인지시킨다면, 인공지능의 편향성으로 인한 문제로부터 조금 더 자유로워질 수 있을 것이라 생각한다.

rkdtlsdud00 — 2020-10-06 01:39:08 UTC

인간의 경험은 모두 편향적인 선택으로 이루어지는 것이라고 생각하고, 인공지능이 중립의 입장을 지킨다고 하더라도 다시 딜레마 상황을 만들어내면 결국 그 속에서 다시 선택이 이루어져야 할 것이다. 그래서 인공지능 의사결정의 편향성 완화를 위해서는 폭넓은 데이터베이스, 딥러닝 기술을 바탕으로 지속적인 보정 과정이 필요할 것이다. 인공지능이 주체적인 사고를 할 수 있고, 스스로 패턴을 찾아 처리해나가는 힘이 생긴다면, 이후 편향성 완화 문제를 해결하는 것은 쉬울 것이라고 생각한다. 그러나 인공지능이 독립적인 사고가 이루어질 때까지 인공지능의 편향성 문제는 절대 극복될 수 없다고 생각한다. 또 편향성 문제가 굳이 해결되어야 할지에 대해 회의적인 입장이며, 인간이 더 살기 좋은 환경이 궁극적인 목표라면 과연 공정성과 편향성 중 어떤 가치가 인간에게 더 바람직하고, 사람다운 세상을 위한 것인지 의문이 생겼다.

cottontail2 — 2020-10-06 01:47:28 UTC

인공지능도 인간의 경험에 따른 데이터를 분석해 결정을 내리기 때문에 문화적 편향성, 인지적 편향성이 존재한다. 각종 프로그램 개발을 통해 이러한 편향성을 줄이는 것은 가능하겠지만, 완전히 없애는 것은 불가능하다. 나는 ‘완벽한 결정’이라는 것은 애초에 불가능하다고 생각한다. 현실은 완벽하게 나눠떨어지는 수학 문제가 아니기 때문에 수많은 요소를 동시에 충족하는 것이 불가능하고, 편향성은 어떤 방법으로든 존재하게 될 것이다. 그러므로 편향성을 완전히 제거하려고 하지 말고 조금씩 줄여나가고, 최적화하는 방향으로 나아가는 것이 우리가 할 수 있는 최선일 것이다. 인공지능이 내린 결정이 상식적으로 맞는지 인간이 최종적으로 검토하고, 시대에 맞는 기준을 따르도록 끊임없이 업데이트 하며 이러한 피드백을 새로 적용하는 등 세심한 관심과 노력을 기울이는 것이다. 인공지능이 완벽해질 수는 없어도 인간의 노력에 의해 완벽에 점점 가깝게 수렴할 수는 있다고 생각한다.

상호보완적인 관계가 필요하다

mariasx17 — 2020-10-06 01:48:59 UTC

인공지능을 다루면서 나타나는 편향성은 불가피하다고 생각한다. 인공지능의 머신러닝은 우리가 지금까지 쌓아왔던 데이터에 기반한 학습이기 때문이다. 사람은 이해관계에 따라서, 또는 여러 이유로 편향된 판단을 했던 역사가 있고, 그 역사 속에서 데이터가 축적되어 왔다. 따라서 이를 없애려는 노력보다는 최대한 보정하는 등의 방향으로 나아가야 한다고 생각한다. 사실 인간이 인공지능의 편향성을 먼저 인지하고 이를 수정 및 조절하는 방법이 대부분일 것이다. 그러나 반대로 인공지능이 인간의 편향성을 찾아낼 수도 있다. 미국의 지나 데이비스 포용 지수가 그 사례인데, 이는 영화계에서 여성보다 남성 배우가 두 배 이상의 비중을 차지하며 편향적인 성비가 존재한다는 것을 밝혀냈다. 따라서 인간과 인공지능이 상호보완적으로 편향성을 보완해야 한다고 생각한다. 궁극적으로는 기존의 데이터를 바탕으로 재생산된 데이터들도 미래에는 훨씬 공정성을 띄게 되지 않을까?

sangminhan630 — 2020-10-06 01:52:39 UTC

인공지능은 제작자인 인간의 경험을 바탕으로 학습을 하기 때문에 인간의 데이터가 편향적일 경우 인공지능도 편향성을 가질 수 있다. 이런 편향성을 수정하는 것이 나날이 발전하는 인공지능과 인공지능의 미래 활용가능성을 생각했을 때 필수적이다. 사실 그런 편향성도 인간의 면모를 정확하게 보여주고 있다고 할 수 있고 인공지능을 탓하기는 인공지능이 서운할 수 있다. 하지만 인간에게는 사리분별이라는 것이 마음속으로는 편향성을 지니고 있어도 눈치만 있으면 큰 갈등없이 살아갈 수 있지만 인공지능은 사회를 살아가는 눈치가 없고 직관적이기 때문에 편향성이 적나라하게 드러나는 것 같다. 그래서 인공지능에서 오류가 발생했을 때 발빠르게 버그를 고쳐나가야 한다. 다양한 관점, 차원에서 다각도로 인간의 경험을 분석하는 것이 필요할 것 같다. 인공지능이 낸 결과와 인간이 낸 결과가 크게 다른 경우는 거의 대부분 주변환경을 고려하지 않은 것 같아 그것을 교정하면 좋지 않을까 생각한다.

wf24me7 — 2020-10-06 01:53:31 UTC

기계는 그 누구보다 이성적이고 체계적이다. 인공지능도 마찬가지일 것이다. 그렇기에, 적절하게 사용한다면 예전보다 더 훌륭한 판단을 할 것이다. 하지만, 이러한 인공지능의 판단의 편향성이 존재하기 때문에, 윤리적인 기준을 잘 가꾸어 놓아야 잘 사용할 수 있을 것이다. 또한, 인공지능은 바이러스의 위험도 있다. 의료 기계나 교통과 같이 같이 사람 목숨과 밀접하게 관련된 부분에 있어서의 바이러스는 무척이나 치명적일 것이기 때문에, 보안과 백신에 있어서도 잘 가꾸어 놓아야 할 것이다. 그리고 세상에는 계산된 값과는 다르게 예외적 상황이 존재한다. 그러한 예외적 상황에도 잘 대응하게끔 알고리즘을 탄탄하게 만들어 놓아야 할 것이다. 또한, 터미네이터와 같은 영화의 내용처럼, 로봇이 허튼 생각을 하지 못하게끔 디폴트도 잘 맞춰 놓아야 할 것이다.

편향성 완화를 위한 연구절차

2020-10-06 01:54:53 UTC

참고 문헌

rkdtlsdud00 — 2020-10-06 01:55:14 UTC

이예나, 《인공지능 활용에 있어서 편향성 완화를 위한 기술 현황 분석 및 접근방법론》, 2019, 1-6면.

참고문헌

2020-10-06 01:56:02 UTC

이예나 외 2인, <인공지능 편향성 완화를 위한 효과적인 접근방법 및 기술동향>, 한국정보과학회 학술발표논문집, 2019, 981-983p.

인공지능->인간

mariasx17 — 2020-10-06 01:56:38 UTC

인공지능, 몰랐던 인종차별/성차별도 찍어낸다.

cottontail2 — 2020-10-06 01:57:09 UTC

"인공지능 편향성을 확인하는 것은 인간의 몫"

마이크로소프트사의 연구

2020-10-06 01:57:53 UTC

인간이 인공지능의 편향성을 보정하는 사례

wf24me7 — 2020-10-06 01:58:48 UTC

rkdtlsdud00 — 2020-10-06 01:58:49 UTC

인공지능에 편향성에 대한 설명, 그리고 편향성이 극복될 수 없는 이유

wf24me7 — 2020-10-06 02:00:36 UTC

인공지능이 가지는 편향성

2020-10-06 02:06:24 UTC

기업 아마존의 사례

rkdtlsdud00 — 2020-10-06 02:07:13 UTC

편향성 극복의 한계 (인공지능 채용 시스템 폐기) - AI도 편향성을 가질 수 있음을 인정하고, 이에 맞는 정책과 윤리 규범을 만들어나가자는 입장

mariasx17 — 2020-10-06 02:08:37 UTC

구글번역기의 편향성

sangminhan630 — 2020-10-06 02:11:50 UTC

참고문헌

mariasx17 — 2020-10-06 02:13:15 UTC

변순용. "데이터 윤리에서 인공지능 편향성 문제에 대한 연구." 윤리연구128 (2020): 143-158.

cottontail2 — 2020-10-06 02:15:07 UTC

편향성 극복 연구 실제 사례

wf24me7 — 2020-10-06 02:19:09 UTC

결론 1

2020-10-06 02:21:14 UTC

*인공지능의 편향성은 일정 수준 극복되어야 한다.
*나아가, 편향성을 극복하는 과정에서도 편향성과 공정성 중 무엇이 더 우선시되어야 하는가에 대한 논의는 끊이지 않아야 할 것이다.

1) 인공지능을 활용하는 것 자체가 인간의 편리함을 위해서인데, 편향성으로 인해 인간이 피해를 입고 이를 사후처리하는 방식으로만 나아가면, 인공지능을 사용하는 장점을 살리지 못할 것이다.
2) 편향성으로 인해 누군가는 차별 혹은 피해를 입게 될 수밖에 없다.
따라서 가장 효율적이고 합리적인 의사결정을 위해서는 객관적인 요소들에 의한 판단을 내려야한다.

결론2

mariasx17 — 2020-10-06 02:25:02 UTC

인공지능의 편향성을 극복할 수 있는 방법
1) 인공지능 개발과정에서
개발자는 편향성 개념 정립 및 수립을 통해 보정해야 할 요소들을 데이터화한다. 그리고 이분법적인 것들로부터 중립적인 것까지의 거리를 같게 하는 것과 같은 정량적인 기준을 만들어 인공지능 머신러닝에 대입해야 한다.

2) 인공지능 사용과정에서
사용자들도 인공지능이 편향적인 판단을 내릴 수 있다는 사실을 인지하고 비판적으로 수용하자.