# data[].attributes.headline
알고리즘 관련 입법 사례

# data[].attributes.subject
알고리즘 관련 입법 사례

# data[].attributes.headline
알고리즘과 개별 법률 변화 가능성

# data[].attributes.subject
알고리즘과 개별 법률 변화 가능성

# data[].attributes.headline
인공지능(AI) 법제 개선의 방향 (기타 논의 연관)

# data[].attributes.subject
인공지능(AI) 법제 개선의 방향 (기타 논의 연관)

# data[].attributes.headline
데이터의 수집, 처리, 활용 과정에서의 검토가 필요하다.

# data[].attributes.subject
데이터의 수집, 처리, 활용 과정에서의 검토가 필요하다.

# data[].attributes.body
데이터 수집 과정에서 데이터가 많이 있으면 좋긴 하지만 관련 없는 정보들도 다같이 수집하지 않고 필요한 정보들만 선택적으로 수집해야 한다. 불필요한 정보들을 수집하지 않고, 정보를 제공하는 사람이 개인정보를 침해받았다고 느끼지 않도록 사전에 공개 범위를 설정할 수 있는 제도를 만들고, 제3자에게 제공되는지 여부를 투명하게 공개해야 한다. (쟁점2)
데이터 처리 과정에서 알고리즘 공개 문제 및 판단 검토 문제에 대해 살펴봐야 한다.  알고리즘의 세세한 공개를 할 필요는 없지만 기업의 이익이 침해되지 않으며 민주적인 사회를 해치지 않도록 가중치 정도는 공개하는 것이 맞다.(쟁점1)
데이터 활용 과정에서 관련 법적 근거를 통한 제재를 하는 것도 중요하지만 급변하는 기술과 그 활용으로 인해 개정이 비교적 쉬운 관련 기관의 규제도 필요하다.(쟁점3)

# data[].attributes.body
편향성을 해결하려는 접근을 보면 오류를 해결하는 접근 방식과 비슷하기에 명확한 구분이 필요하다.

# data[].attributes.attachment_caption
플랫폼 '알고리즘' 공개 요구, 무리한 걸까요? / 김영배

# data[].attributes.headline
기업의 알고리즘 공개 (쟁점1 연관 자료)

# data[].attributes.subject
기업의 알고리즘 공개 (쟁점1 연관 자료)

# data[].attributes.attachment_link.readable_text
플랫폼 기업들의 '알고리즘'(프로그램 명령어의 집합)을 둘러싼 공정성 시비가 불거질 때마다 앞자리에 불려 나오는 예는 페이스북에서 벌어진 소동이다. 2016년 미국 대선을 앞두고 페이스북 이용자 8천만명가량의 개인정보가 유출되고, 정치 컨설팅 업체를 통해 당시 도널드 트럼프 공화당 후보 쪽에 전달된 사실이 나중에 드러난 사건이다. 인공지능(AI) 알고리즘으로 수집되고 분류·분석된 정보가 정치적 편향성 강화와 여론 왜곡에 동원될 수 있음을 보여준 대표 사례로 자주 꼽힌다.

국내에선 인공지능 알고리즘에 따라 이용자들의 말에 응대하도록 설계된 채팅 로봇 '이루다'가 혐오와 차별 논란을 일으킨 바 있다. 지난해 벌어진 승합차 공유 서비스 '타다'의 배차 논란도 알고리즘 공정성 시비와 얽혀 있었다.

당장 현안으로 떠올라 있는 알고리즘 공정성 시비는 네이버를 비롯한 포털 업체들의 뉴스 처리 영역에서 벌어지고 있다. 뉴스 배열에서 편향성이 드러나 여론을 왜곡하고 있다며 처리 기준이 뭔지 알고리즘을 공개해 검증을 받으라는 주장이 나오고, 입법화 시도로 연결돼 있다. 더불어민주당 김남국 의원이 이달 들어 발의한 신문진흥법 개정안, 앞서 3월 이원욱 더불어민주당 의원(국회 과학기술정보방송통신위원장)이 대표발의한 정보통신망법 개정안이 그 예다.

인터넷기업협회를 비롯한 업계 쪽에선 당연히 반대 뜻을 비치고 있으며 그 명분의 실마리는 '영업 기밀'이다. 공개적으로 대놓고 반대에 나서지는 않아도 회사 영업 기밀에 해당하는 알고리즘을 공개하라는 요구는 무리수이며, 정치적 이해관계를 반영한 것일 뿐이라고 반발하는 분위기다. 정치권이나 시민사회에서 복잡한 기술적인 문제를 잘 몰라 오해를 하고 있다는 시각도 여기에 배어 있다.

논란에 얽히기 싫다며 익명을 요구한 인터넷기업 창업자는 "알고리즘 공개를 둘러싼 논란이 벌어진 것 자체가 이상하다"고 말했다. 그는 "(알고리즘을) 공개하면 문제(뉴스 편향성 시비 등)가 해결된다고 보는지, 어디까지 공개하라는 건지 의문"이라며 이를 기업 회계에 비유해 설명했다.

"기업 회계 자료를 보더라도 큰 원칙에 해당하는 항목은 공개·공시하지만, 개별 항목을 일일이 외부에 드러내놓지는 않는다. 영수증이나 거래계약서는 탈세 같은 문제가 제기됐을 때 감독 당국에서 들여다볼 뿐이지 않은가." 알고리즘 공개 요구는 기업 회계로 치면 영수증이나 계약서 따위까지 다 일반에 공개하라는 것이나 마찬가지라는 뜻이다. 공개하기도 어려울뿐더러 설사 공개하더라도 실익을 볼지 의문이라고 했다.

공개 찬성 쪽인 오병일 진보넷 대표는 "소스 코드(프로그래밍 언어로 기술한 텍스트 파일)까지 공개하라는 것은 아니다"라며 "공개의 수준은 다양할 수 있다"고 말했다. '공개냐, 비공개냐'라는 단선적인 대립 구도로 볼 일이 아니라는 설명이다. 뉴스 알고리즘이면 어떤 원칙에 따라 배치하는지, '배달의 민족' 검색에서 앞자리를 차지하는 것은 광고비 기준인지 또는 가까운 곳 순인지 정도는 이용자들이 알 수 있어야 한다고 덧붙였다.

업계 쪽에서 나오는 '영업 기밀' 주장에 대해 오 대표는 "영업 기밀이라 하더라도 절대적인 건 아니다"라며 "플랫폼 기업의 영향력을 생각할 때 한 사회의 담론, 민주주의에 영향을 끼치는 사안이라 공개의 필요성이 있다"고 말했다. 그는 "포털 뉴스에 국한해 얘기할 것만도 아니고 다른 영역도 같이 들여다봐야 한다"고도 했다.

공개 찬성 쪽이라 해도 입법을 추진하는 쪽과 합치하지는 않는다. 공개 영역이나 범위에 대한 견해가 맞아떨어지는 게 아닌데다 입법 형식에 대한 이견이 불거져 있다. 민변 디지털정보위원회 서채완 변호사는 "알고리즘 공정성 문제가 정보통신서비스나 신문업에 한정돼 나오는 게 아니다"라며 "개인정보 보호나 정보주체의 권리 보호를 전반적으로 규율하는 관련법 규정에 넣든지, 새로운 법률안을 제정하는 방식으로 가야 할 것"이라고 말했다.

알고리즘 공개 여부나 폭, 관련 입법의 방식, 입법 뒤 예상 효과에 대한 많은 논란 속에서도 한 가지 분명해진 것은 업계 쪽에서 '알고리즘은 객관적'이라는 말 뒤에 숨어 있을 수만은 없게 됐다는 점이다. 알고리즘도 감정을 지닌 사람의 손으로 만들어진 프로그램일 뿐이어서 누가 어떻게 구성하고, 구성 요소나 가중치를 어떻게 두느냐에 달라진다는 인식은 일반에도 널리 퍼지고 상식으로 굳어지고 있는 게 현실이다. 관련 입법의 현실화와 무관하게 뉴스 포털처럼 거대한 영향력을 쥔 플랫폼 기업들이 공정성과 관련한 기준·원칙을 제시해 검증받고 설명할 수 있어야 하는 상황을 맞고 있다.

# data[].attributes.attachment_link.title
플랫폼 '알고리즘' 공개 요구, 무리한 걸까요? / 김영배

# data[].attributes.attachment_link.description
플랫폼 기업들의 '알고리즘'(프로그램 명령어의 집합)을 둘러싼 공정성 시비가 불거질 때마다 앞자리에 불려 나오는 예는 페이스북에서 벌어진 소동이다. 2016년 미국 대선을 앞두고 페이스북 이용자 8천만명가량의 개인정보가 유출되고, 정치 컨설팅 업체를 통해 당시 도널드 트럼프 공화당 후보 쪽에 전달된 사실이 나중에 드러난 사건이다. 인공지능(AI) 알고리즘으로 수집되고 분류·분석된 정보가 정치적 편향성 강화와 여론 왜곡에 동원될 수 있음을 보여준 대표 사례로 자주 꼽힌다.

# data[].attributes.headline
기업의 알고리즘을 투명하게 공개해야 하는가? 한다면 어느정도까지 해야 하는가?

# data[].attributes.subject
기업의 알고리즘을 투명하게 공개해야 하는가? 한다면 어느정도까지 해야 하는가?

# data[].attributes.headline
인공지능 판단 절차에 따른 편향성 완화

# data[].attributes.subject
인공지능 판단 절차에 따른 편향성 완화

# data[].attributes.headline
개인정보 침해 문제를 감수하고서라도 데이터와 표본의 수를 늘려야 하는가?

# data[].attributes.subject
개인정보 침해 문제를 감수하고서라도 데이터와 표본의 수를 늘려야 하는가?

# data[].attributes.headline
현존하는 사회적 제재와 더 보완해야 할 부분

# data[].attributes.subject
현존하는 사회적 제재와 더 보완해야 할 부분

# data[].attributes.body
독일의 경우 데이터 윤리위원회를 통해 기술 위험성을 5단계로 분류하여 이에 따라 제재를 하는 방식을 채택하고, 덴마크의 경우 데이터 윤리 인증(Data Ethics Seal) 제도를 마련하고 데이터 윤리 규범을 준수하는 기업에게 인증마크를 부착하여 소비자의 신뢰를 형성하고, 데이터 남용을 막고자 한다. 이처럼 국가별 상이한 정책 및 규제로 인해 법률적인 혼란을 초래하고 기술개발 속도가 저하되는 등의 문제가 발생하고 있어 국제적 차원의 일관성 있는 접근이  필요하다.
우리나라의 경우, 「ITC융합특별법」, 「SW진흥법」 등 법체계 개선을 통한 산업진흥, 「지능정보사회 기본법안」(2.23), 「디지털기반 산업 기본법안」(3.7), 「제4차 산업혁명 촉진 기본법안」(3.30), 「로봇기본법안」(7.19), 「지능정보사회 중장기 종합대책」(2016.12) 등을 통한 제재가 이뤄지고 있다. 알고리즘 관련 입법은 선호 제한(실정법적 제재), 사후적 제약, 정당화 절차 존재, 규제 방식의 형식성이 이뤄졌다.
향후에는 SW안전 및 프라이버시 관련 법제, 개별 법률 개선이 필요할 것이다. 이에 상시적, 제도적 평가 체계의 구축과 새로운 거버넌스 모색이 중요해보인다. 헌법에서는 차별 등 인권의 문제와 인간 존엄성, 그리고 인간의 입헌주의와 인공지능의 입헌주의 측면의 문제를 다뤄야 하고, 저작권에서는 인공지능 학습과정에서 대규모로 일어나고 있는 저작원 침해에 대해 다뤄야 하고, 비인간 행위자의 저작권을 보호할 수 있을지도 확인해야 할 것이다. 이 외에도 민사법상의 문제, 형법상의 문제, 노동 및 복지에 인공지능이 개입하게 될때 생기는 문제에 대한 논의도 필요하다.

# data[].attributes.headline
인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰

# data[].attributes.subject
인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰

# data[].attributes.attachment_link.description
※ 이 사이트는 크롬 브라우저에 최적화되었습니다.

# data[].attributes.headline
윤리적 기구로만 제재를 내려야 할까? 혹은 법에 근거한 문제해결을 해야 할까?

# data[].attributes.subject
윤리적 기구로만 제재를 내려야 할까? 혹은 법에 근거한 문제해결을 해야 할까?

# data[].attributes.headline
'AI 편향'이란 무엇인가?...구글의 AI 원칙 "데이터 왜곡 없어야"

# data[].attributes.subject
'AI 편향'이란 무엇인가?...구글의 AI 원칙 "데이터 왜곡 없어야"

# data[].attributes.attachment_link.readable_text
[디지털투데이 석대건 기자] '연습이 완벽을 만든다(Practise makes perfect)'는 격언은 반만 맞다. 잘못된 연습은 완벽을 만들지 못한다. 격언을 수정하자면, '완벽한 연습이 완벽을 만든다.'

AI의 머신러닝(ML, Machine learning)도 이와 같다. 잘못된 머신러닝은 AI의 편향성을 강화시킬 뿐이다.

지난 25일 구글은 AI 포럼을 통해 AI 머신러닝의 공적성과 사례, 개선 과제를 설명했다.
잘못된 머신러닝은 잘못된 결과를 낳는다
발표를 진행한 베키 화이트(Becky White) 구글 AI 리서치 프로그램 매니저는 잘못된 머신러닝의 비유로 차량 충돌 사고 실험을 제시했다. 자동차 제조기업은 차량 출시 전, 충돌 실험을 통해 차량 탑승자의 신체 움직임을 파악하고 안전성을 높인다.

그러나 이상하게도 실제 상황에서 여성 탑승자가 남성 탑승자에 비해 높은 사망률이 나왔다. 그 원인은 차량 실험에 쓰이는 더미가 남성 신체였기 때문. 그래서 데이터 역시 남성 탑승자 위주로만 수집됐고, 사고 시 남성 탑승자만 안전했다. 데이터의 왜곡이 발생한 경우다.

AI가 잘못된 머신러닝을 통해 오히려 편향성이 강화된 경우로 대표적인 사례는 '이미지를 통한 성별 특성 분석'이다. 이미지를 통해 AI가 성적 특성을 분석한 기존 연구는 여성의 경우, 턱이 작고 코가 길며 이마가 좁았다. 반면, 남성은 턱이 크고 코가 크며 이마가 넓었다.

그러나 구글이 조명이나 화장 여부 등 편향성 조건을 제거하자 결과는 달랐다. 기존 연구는 머신러닝을 통해 AI가 오히려 편향성을 강화했던 것.

'이미지를 통한 성별 특성 분석'은 편향성이 강화된 경우로 대표적인 사례다. (사진=석대건 기자)

베키 화이트 구글 매니저는 머신러닝이 "인종, 민족, 종교, 소득 등 인구 편향 특성을 강화해서는 안 된다"며, "머신러닝 공정성에 대한 인식이 필요하다"고 말했다.

AI가 아무리 공정한 머신러닝을 통해 AI 고도화된다고 해도, 항상 객관적인 진실을 말하는 것은 아니라는 것. 그렇기 때문에 기존 데이터의 편향성을 확대 재생산할 수 있는 가능성을 차단할 수 있도록 인간이 인간이 항상 머신러닝 진행되는 동안, 사회적인 맥락을 인지하고 있어야 한다는 의미다.
머신러닝이 인간의 편향성 찾아내기도..."편향에 대해 아는 게 중요"
반대의 경우도 있다. 베키 화이트 구글 매니저는 지나 '데이비스 포용지수(GD-IQ)'를 머신러닝을 활용해 무의식적으로 적용되는 인간의 편향성을 찾아낸 좋은 사례로 들었다.

영화배우이자 여성인권운동가인 지나 데이비스는 2007년 '지나 데이비스 미디어젠더연구소'를 설립하고, 미국 영화 속에서 여성 배우의 비중을 분석했다.

지나 데이비스의 연구 결과에 따르면, 2014~2017년 사이에 미국에서 흥행한 100위까지의 영화를 분석한 결과, 여성들의 출연 시간과 대사 분량은 남성 배우에 비해 절반 수준이었다. 지나 데이비스는 이 결과를 공개하며 "무의식적인 편향성을 드러내는 데 데이터는 가장 강력한 도구"라고 말했다. 이어 지나 데이비스는 점점 달라질 영화계를 기대한다고 덧붙이기도 했다. 머신러닝을 통해 인간의 편향성을 찾아낸 사례다.

이에 대해 베키 화이트 구글 매니저는 "머신러닝을 통해 인간의 편향성이 강화되는 것을 방지할 수 있다"고 설명했다.

그렇다면 AI와 머신러닝 앞에서 인간의 역할은 무엇일까?

베키 화이트 구글 매니저는 우선 편향성 인지가 필요하다고 강조했다. 베키 화이트는 "데이터 안에는 편향성이 존재한다는 사실을 알아야 한다"며, "현실 문제의 원인과 해결책이 복합적이듯, 편향성을 제거할 수 있는 해결책도 복합적"이라고 말했다.

편향성은 크게 세가지로 ▲ 선택 편향 ▲ 확인 편향 ▲ 자동 편향이 있다.

먼저 '선택 편향'의 대표적인 예로는 지리적 편향이 있다. 베키 화이트 구글 매니저는 "북미에서 데이터를 생성하고 라벨링 후 머신러닝한 AI는 북미 지역에 대한 편향이 존재한다"며, "이는 신발이나 음식 등 모든 게 편향"이라고 설명했다. 확대 적용하지 말아야 된다는 경고다.

두번째는 '확증 편향'이다 . 대개 데이터 수집 과정에서 조사자(리서처)는 무의식적으로 자신의 믿음과 일치하는 방향으로 수집하게 되는데, 이는 데이터 처리 과정에서도 영향을 미친다. 이 경우 조사자 입장에서 겉보기에 편향이 보이지 않기 때문에 더욱 문제다.

머신 러닝 과정 중에도 인간의 편향성은 다수 개입할 수 있다. (사진=석대건 기자)

마지막으로 '자동 편향'이다. 머신러닝은 자동 처리 데이터를 비자동 처리 데이터 보다 선호한다. 이는 곧 데이터 배제로 이어지게 되고, 결국 편향성이 강화되는 꼴이다.

이러한 편향이 복합적으로 적용된 사례가 '직업과 성별 연결 편향'이다. 구글이 200개의 직업 관련 단어의 편향성을 분석한 결과, 가사 도우미나 종업원, 간호사에는 여성에 분류됐고, 장의사, 심판, 배우, 철학자, 대통령과 같은 직업은 남성에 분류됐다.

베키 화이트 구글 매니저는 "이러한 편향으로 만들어진 머신러닝은 비록 실제 현실을 반영한다고 하더라도 부정적인 사회적 편향을 강화한다"고 말했다.

현실 데이터로 머신러닝한 결과, 직업에 따른 성별 편향성을 강화하는 결과가 나왔다. (사진=석대건 기자)

편향성 문제가 하나의 원인이 아니듯, 다양한 접근 방법이 필요해
구글은 이러한 편향성을 제거하기 위한 공공 정책(Public Policy) · 엔지니어링 · UX 디자인 · 교육 등의 여러 관점으로 접근하고 있다.

구글은 머신러닝의 편향이 사회적인 문제와 결부됐다는 점을 인지하고, 머신러닝 개발 시스템이 어떻게 분석 결과에 영향을 미치는지 파악하는 한편, 머신러닝 시스템 사용자에게도 공정성에 대해 인지시키고 있다. 나아가 머신러닝 개발자에게도 사회적인 맥락에서 시스템을 개발하도록 교육한다고 밝혔다.

이를 위해 구글은 '오픈 데이터셋'을 공유해, 각 데이터에 대한 속성을 추가해, 머신러닝 '데이터 맥락'을 고려할 수 있도록 지원한다. 더불어 'Facets' 툴을 통해 데이터 시각화로 편향성을 점검하고, 나아가 'What-If' 모델을 머신러닝에 적용해 모델링 설계에 따라 분석 결과가 다른 경우도 확인하고 있다.

베키 화이트 구글 매니저는 "머신러닝은 사람들의 삶에 영향을 지속적으로 영향을 준다"며, "모두가 사용할 수 있도록 접근 가능하게끔 도움을 주는 게 구글의 미션"이라고 밝혔다.

# data[].attributes.attachment_link.title
'AI 편향'이란 무엇인가?...구글의 AI 원칙 "데이터 왜곡 없어야"

# data[].attributes.attachment_link.description
디지털투데이 석대건 기자] '연습이 완벽을 만든다(Practise makes perfect)'는 격언은 반만 맞다. 잘못된 연습은 완벽을 만들지 못한다. 격언을 수정하자면, '완벽한 연습이 완벽을 만든다.'AI의 머신러닝(ML, Machine learning)도 이와 같다. 잘못된 머신러닝은 AI의 편향성을 강화시킬 뿐이다. 지난 25일 구글은 AI 포럼을 통해 AI 머신러닝의 공적성과 사례, 개선 과제를 설명했다.

# data[].attributes.headline
AI 편향 문제, 기술적 해결 접근 필요

# data[].attributes.subject
AI 편향 문제, 기술적 해결 접근 필요

# data[].attributes.attachment_link.readable_text
씽크포비엘, AI 검증 실무 교육
'데이터 밸런스' 기법 등 소개

씽크포비엘이 25, 26일 열린 TTA아카데미에서 AI 편향을 기술적으로 어떻게 극복할 수 있는지 증명해 보였다. [사진=씽크포비엘]

[정보통신신문=차종환기자]

인공지능(AI) 편향과 데이터 샘플링 오류 문제의 기술적 해결 방안을 제시한 교육이 국내 최초로 실시됐다.

소프트웨어(SW) 공학 전문기업 씽크포비엘(대표 박지환)은 25, 26일 한국정보통신기술협회(TTA)에서 'AI 테스트 교육'을 실시하고, AI 편향을 기술적으로 어떻게 극복할 수 있는지 증명해 보였다.

교육 첫날에는 AI·머신러닝·딥러닝·빅데이터 기본 개념과 AI 신뢰성 평가, AI의 잠재적 위험성이 다뤄졌다. 데이터 샘플링 오류 및 편향 위험성과 AI 학습용 데이터 샘플링 편향 등에 대한 언급도 있었다.

둘째 날에는 AI 테스트 및 검증 전략과 밸런스 데이터 설계·준비, 밸런스 데이터 기반 AI 신뢰성 검증, 샘플링 편향과 AI 성능 비교, 밸런스 데이터 커버리지 등이 중요 이슈로 다뤄졌다.

씽크포비엘은 자체 개발 '데이터 밸런스' 기술 기반 AI 신뢰성 검증 기법을 소개했다. 비정형 데이터를 망라해 AI가 적용되는 다양한 산업 현장에서 발생하는 예기치 못한 상황을 기술적·객관적으로 설계·검증할 때, 비로소 AI 편향과 같은 오류를 잡아낼 수 있다는 것이 데이터 밸런스 기술의 핵심 개념이다. 지난해 말 TTA 단체 기술 표준으로 제정되는 등 기술력을 공인받았다.

최근 사회 문제로 비화한 AI 편향 문제를 놓고 윤리적·법적 해결 논의가 활발해진 상황에서, 기술적 접근을 통한 해결이 필요하다는 주장이 업계 일각에서 나왔다. 규제를 통한 해결도 중요하지만 그에 따라 현실적 기술 제시도 병행해야 한다는 지적이다.

김재웅 TTA 인재개발지원단장은 "최근 AI에 대한 윤리나 안전과 같은 사회 이슈가 늘어나는 과정에서 AI에 대한 막연한 불신이 형성돼 산업발전에 걸림돌이 될 수 있다는 우려가 커졌다"며 "이번 아카데미를 통해 AI 기술의 신뢰수준과 적용안정망 범위를 사전 측정하는 것이 AI의 산업 경쟁력이 될 것이라는 의미를 알리고자 했다"고 말했다.

박지환 씽크포비엘 대표는 "AI 편향 문제가 사회적 화두로 떠오르면서 이에 대한 윤리적 해결 모색이 늘어나고 있는데 대다수가 제재라는 관점에서 접근하고 있는 상황"이라며 "향후 기업과 기관이 윤리적·법적 판단에 앞서 기술적으로 문제를 해결해낼 경우 AI 관련 기술을 선점하고 시장을 선도할 수 있을 것"이라고 말했다.

한편, 이번 교육은 'TTA아카데미' 커리큘럼으로 진행됐다. TTA아카데미는 ICT 표준화와 시험인증 전문 교육기관으로, 최신 ICT 표준, 시험기술 보급, 확산과 표준화, 품질 전문인력 양성을 위해 다양한 교육·세미나와 자격제도를 운영하고 있다.

# data[].attributes.attachment_link.title
"AI 편향 문제, 기술적 해결 접근 필요"

# data[].attributes.attachment_link.description
정보통신신문=차종환기자]인공지능(AI) 편향과 데이터 샘플링 오류 문제의 기술적 해결 방안을 제시한 교육이 국내 최초로 실시됐다.소프트웨어(SW) 공학 전문기업 씽크포비엘(대표 박지환)은 25, 26일 한국정보통신기술협회(TTA)에서 ‘AI 테스트 교육’을 실시하고, AI 편향을 기술적으로 어떻게 극복할 수 있는지 증명해 보였다.교육 첫날에는 AI·머신러닝·딥러닝·빅데이터 기본 개념과 AI 신뢰성 평가, AI의 잠재적 위험성이 다뤄졌다.

# data[].attributes.headline
인공지능 알고리즘의 편향성과 공정성

# data[].attributes.subject
인공지능 알고리즘의 편향성과 공정성

# data[].attributes.attachment_link.title
인공지능 알고리즘의 편향성과 공정성

# data[].attributes.headline
인공지능 편향성 이슈와 신뢰성 확보 방안

# data[].attributes.subject
인공지능 편향성 이슈와 신뢰성 확보 방안

# data[].attributes.headline
범죄예측 및 형사사법절차에서 알고리즘 편향성 문제와 인공지능의 활용을 위한 규범 설계

# data[].attributes.subject
범죄예측 및 형사사법절차에서 알고리즘 편향성 문제와 인공지능의 활용을 위한 규범 설계

# data[].attributes.headline
AI의 공정성 수호할 기술 도구들

# data[].attributes.subject
AI의 공정성 수호할 기술 도구들

# data[].attributes.attachment_link.readable_text
"사람들이 인공지능(AI)에 대한 환상을 갖고 있는 것 같습니다. AI를 맹신하면 안 돼요. 이미 AI는 알게 모르게 편향된 결단을 내리고 있고, 그 피해를 보는 건 취약층과 소수층입니다."

AI 전문가들의 한결같은 말이다. 성별이나 인종, 연령대에 대한 AI의 차별은 이미 여러 차례 논란이 됐다. 마이크로소프트에서 개발한 대화형 AI '테이'의 인종 차별적 발언, 아마존 채용 AI의 성차별적 판단, 국내 대화형 AI '이루다'의 소수자 혐오 발언이 그 예다.

단, 기술적 의미에서 AI의 편향(bias)은 조금 더 넓은 범위를 포괄한다. 최재식 KAIST AI대학원 교수는 "사회적·윤리적 이슈에 대해서만이 아니라, 사실관계를 예측하는 AI가 한쪽으로 치우치는 문제도 AI 편향성에 포함된다"고 말했다.

가령 공장의 폐쇄회로(CC)TV를 보고 사고 위험성을 예측하는 AI가 있다고 가정해보자. 이 AI는 수많은 데이터를 학습하지만, 그 데이터 중 공장 폭발이란 결과에 도달한 것은 극히 일부다. AI가 이런 데이터로 계속 학습할수록 공장 폭발이란 예측을 할 가능성은 점점 줄어든다. 이 때문에 현장에서 공장 폭발의 징후가 나타나도, AI는 자신이 학습한 데이터에 따라 공장 폭발이란 경우를 배제해버릴 수 있다. 이처럼 개발자가 의도하지 않았음에도 AI가 편향된 예측을 내놓는 문제역시 AI 편향 문제에 해당한다.

AI 편향성을 일으키는 주요 원인(아래 표)중 하나는 데이터의 불균형이다. KAIST 인공지능공정성연구센터장을 맡고 있는 유창동 KAIST 전기 및 전자공학부 교수는 "데이터가 많은 집단에 대해서는 AI가 학습을 통해 그 집단의 비교적 보편적인 결과를 도출할 수 있지만, 데이터가 적은 집단에 대해서는 AI의 결론이 그 집단을 대표한다고 볼 수 없는 경우가 발생한다"고 말했다.

한 예로 직원 대다수가 한국인이고, 소수만이 외국인 직원으로 구성된 회사에서 채용 AI에 이전 합격자의 이력서 데이터를 입력하는 경우를 들 수 있다. 이 경우 다수의 한국인 직원 이력서를 학습한 AI는 한국인 지원자를 판단할 때는 합격 기준선이 비교적 합당하게 설정되지만, 외국인 지원자에 대해서는 몇몇 외국인 직원의 이력서 데이터로만 학습한 탓에 그 기준선이 비합리적으로 설정될 수 있다. 이로 인해 동등한 능력을 지닌 지원자임에도 한국인은 합격하고, 외국인은 탈락하는 결과가 나타날 수 있다. 물론 반대 경우도 나타날 수 있다.

이처럼 집단 간에 표본 수가 달라 발생하는 편향은 지금까지 사회적으로 차별 받은 계층에게 흔히 일어난다. 데이터 축적 역시 기득권에게 더 유리한 일이기 때문이다. 그래서 데이터 불균형은 곧 사회적 차별 문제로 직결되는 경우가 잦다.

편향되지 않아 보이는 데이터도 문제가 될 수 있다. 아마존의 채용 AI가 대표적 예다. 아마존은 2014년부터 채용 과정에 도입할 AI를 개발했다. 개발팀은 이전 10년간의 합격자 이력서를 학습시켰고, 이를 통해 AI는 지원자를 1~5점으로 평가했다. 당시 전 세계 아마존 소속 직원 가운데 남성의 비율은 약 60%로 남성이 약간 많기는 했지만 심하게 차이가 나보이진 않았다.

하지만 1년 뒤, AI가 여성 지원자를 차별한다는 사실이 발견됐다. AI는 '여자 체스 클럽 주장' '여자 대학 졸업' 등 '여자'라는 단어가 포함된 이력서에 대해 점수를 낮게 조정했다. 이후 개발팀은 데이터에서 성별에 대한 정보를 제거했지만 문제가 해결되진 않았다. AI가 자기소개서 등 지원자가 작성한 문서의 문체에 따라 성별을 암묵적으로 구분하는 현상이 발견됐다. 성별 데이터가 제거돼도, AI가 스스로 성별을 유추할 수 있는 특성을 끄집어낸 것이다. 개발팀은 이 편향 문제를 끝내해결하지 못했고, 결국 2017년 팀 해체와 함께 채용 AI 개발 프로젝트는 폐기됐다.

AI 편향성 문제 해결에 가장 앞장선 건 세계적 정보기술(IT) 기업인 IBM, 구글, 페이스북이다. 유 교수는 "유럽연합(EU)에서는 편향된 AI를 법적으로 판매하지 못하도록 하고 있으며, 한국을 포함해 이외 지역에서도 정책적·법적 조치를 마련 중"이라며 "기업에서 공정한 AI를 개발하는 건 차별에 대한 사회적 책임을 넘어 자사의 AI 상품을 판매하기 위해서 반드시 선행해야 하는 과제"라고 말했다.

AI의 편향성을 해결하기 위해서는 먼저 편향의 원인이 무엇인지 파악하고, 그 부분을 고쳐야 한다. 현재는 알고리즘보다는 데이터상의 문제를 파악하고 제거하는 연구가 더 활발히 이뤄지고 있다. 요즘 각광받는 딥러닝 AI는 그 속을 들여다보는 것이 불가능에 가깝기 때문이다.

딥러닝이란 단어가 워낙 많이 언급되는 탓에 흔히 'AI=딥러닝'이라고 인식된다. 하지만 딥러닝은 많은 종류의 AI 중 하나일 뿐이다(AI⊃딥러닝). AI를 학습시키는 방법은 여러 가지가 있다. 그중 개발자가 AI에게 모든 규칙을 일일이 심어주지 않고, AI가 데이터로부터 스스로 의사결정을 위한 규칙을 형성하는 것을 기계학습(머신러닝)이라고 한다.

기계학습 안에는 또 여러 기법이 있는데 그중 하나가 딥러닝이다. 다른 기계학습이 한두 단계(층, layer)에 걸쳐 데이터를 학습하는 것과 달리, 딥러닝은 3개 이상의 여러 단계에 걸쳐 데이터를 학습하는 걸 뜻한다. 용량이 크고, 형태도 다양한 빅데이터를 정교하게 학습하는 데 탁월하기에 'AI=딥러닝'이라고 인식될 만큼 최근 AI 대부분은 딥러닝 방식으로 학습된다.

문제는 딥러닝 AI가 학습하는 여러 단계 중에는 사람이 알아낼 수 없는 숨겨진 단계(hidden layer)가 많다는 것이다. 그러다 보니 개발자조차 AI가 왜 그런 방식으로 작동했는지 알 수 없다. 이 탓에 '답은 맞는데 풀이과정은 알 수 없는 AI'로 비유되곤 한다. 이런 AI를 뜯어보기 위해 최근 들어 사람이 이해하는 형태로 작동방식을 설명하고 제시할 수 있는 설명가능 AI(XAI·eXplain AI)란 기술이 주목받고 있다. 하지만 당장 편향성 문제를 해결할 수준은 아니다. KAIST 설명가능인공지능연구센터장이기도 한 최재식 교수는 "궁극적으로 딥러닝 AI의 오류를 제거하기 한 XAI 연구가 급격히 증가하는 추세긴 하나 현 상황에서 AI의 편향성을 해결하는 데는 데이터의 편향을 제거하는 것이 더 적합하다"고 말했다.

이에 따라 데이터상의 문제를 파악하고 제거하는 연구가 주로 이뤄지고 있다. 이 때 '불공정하다'는 기준을 가를 수학적 정의가 필요하지만, 수식에 따라 공정에 대한 판단이 변해 일률적으로 적용할 수가 없다. 마치 똑같은 사안에 대해서 누구는 공정하다고 하고 누구는 불공정하다고 하는 것 같이, 수학적으로도 어떤 수식을 쓰느냐에 따라 불공정을 달리 판단한다. 이런 수학적 방식의 대표적인 예로 '인구통계적 형평성(Demographic parity)' '가능성의 동등성(Equalized odds)' '기회의 동등성(Equality of opportunity)' 등이 있다. (맨 하단 '기계학습의 공정성 측정하는 수학정 정의 참고)

그렇다 보니 데이터 편향을 줄이기 위한 기술은 대부분 편향성과 관련이 있는 변수를 찾아 조정하는 데 초점을 맞추고 있다. 대표적 예가 구글에서 2017년부터 개발한 '왓-이프 툴(WIT·What-If Tool)'이다. 말 그대로 일부 데이터가 바뀌면 결괏값은 어떻게 변할까를 그래픽으로 표현해준다. 개발자가 만든 모델에 이 툴을 간단히 결합한 뒤, 특정 변수의 수치를 바꿔보면 그 변수가 불공정한 결과에 얼마나 영향을 미치는지 보기 쉬운 형태로 나타나는 것이다.

가령 채용 AI에 입력된 한 지원자의 정보에서 성별을 남성에서 여성으로 바꿔보거나, 나이를 20세에서 50세로 바꾸면 성별과 나이가 합격과 불합격을 가르는 데 불공정한 영향을 얼마나 끼치는지 도표로 표시된다.

이렇게 데이터의 불공정성을 측정하다 보면, 개발자가 의도한 것과 달리 차별적 결과를 내놓는 특정 변수를 발견할 수 있다. 그 변수를 '보호변수(Protective Attribute 또는 Sensitive Attribute)'로 지정해 불공정성을 최소화할 수 있다. 유 교수는 "보호변수는 AI의 판단에 영향을 주지 않도록 설정한 변수를 의미한다"며 "공정한 AI를 만들기 위해서는 성별, 인종, 지역 등 편향된 결과를 유발할 수 있는 요소를 보호변수로 지정하고 결과에 미치는 영향력을 조절하는 것이 매우 중요하다"고 말했다.

보호변수를 지정했다면, 다양한 알고리즘을 통해 보호변수의 영향력을 조절할 수 있다. 대표적 예로 IBM이 2018년에 내놓은 'AI 공정성(Fairness) 360'이라는 오픈소스 툴키트(소프트웨어 개발 도구 모음)가 있다. 이 툴키트는 편향을 완화할 수 있는 10가지 알고리즘을 포함하고 있다. 이 가운데에는 AI가 학습할 데이터에서 보호변수의 가중치를 수정하는 알고리즘, 학습 과정 중 보호변수의 영향을 감소시키는 알고리즘도 있다. 보호변수를 조절하는 것 외에도 AI의 학습 전후에 편향성을 감지하고 완화시킬 수 있는 알고리즘도 포함돼 있다.

이처럼 공정한 AI를 만들기 위한 다양한 방안과 도구가 마련되고 있지만 안타깝게도 완전히, 절대적으로 공정한 AI를 개발하는 일은 사실상 불가능하다. 유 교수는 "공정성이라는 개념 자체가 누구도 하나로 정의할 수 없는 개념"이라며 "병원, 법원, 기업에서 바라보는 공정성도 제각기 다르기 때문에 영역별로 공정성에 대한 개념을 확립하는 게 우선 과제"라고 말했다.

더군다나 공정성은 계속해서 진화하고 있는 개념이다. 예를 들어 과거에는 국내에 남성중심적 사고가 지금보다 더 강했다. 때문에 지금이라면 논란이 될만한 장면이 불과 10년 전만 해도 대중매체에서 거리낌 없이 등장했다. 유 교수는 "과거에 공정하다고 생각했지만 지금은 공정하지 않다고 여겨지는 것들이 많다"며 "하나의 공정한 AI를 만들었다고 끝나는 일이 아니라, 컴퓨터 바이러스 백신 프로그램을 계속 업그레이드하는 것처럼 공정한 AI도 현실의 공정성을 반영하는 수정을 끊임없이 지속해야 한다"고 말했다.

2019년 10월 국제학술지 '사이언스'에 의료 서비스가 필요한 환자를 예측하는 AI가 인종 차별을 한다는 연구결과를 낸 브라이언 파워스 브리검여성병원 부원장도 "알고리즘 편향을 측정하는 툴은 존재하지만 이를 활용한다 해도 편향의 모든 원인을 제거할 수 없다"며 "모든 알고리즘에 적용 가능한 하나의 해결 방법은 존재하지 않는다"고 말했다.

결국 AI의 공정성은 그 AI를 만드는 사람들 손에 달렸다. 불공정을 판가름할 수학적 기준을 정하는 일도, 그런 불공정을 조절할 알고리즘을 설계하는 일도 각 개발자들의 판단에 따르기 때문이다.
그래서 개발자들이 공정함에 대해 올바른 판단을 하기 위한 가이드라인이 필요하다. 법적·정책적 제도다. 이상욱 한양대 철학과 교수는 "한국에서 '윤리'는 일종의 바른생활과 같은 좁은 의미로 사용되지만, 해외에서 'ethics'는 바른생활을 뒷받침할 법적·정책적 제도까지 포함하는 개념"이라고 말했다. 각국에서는 공정성을 포함해 AI 윤리에 대한 법적·정책적 제도를 마련하기 위한 논의가 활발하다.

또 하나 필요한 것은 교육이다. AI를 배우는 단계에서부터 올바른 윤리관을 정립할 필요가 있다. 미국 매사추세츠공대(MIT), 하버드대 등 유수 대학은 AI 윤리 교육 프로그램을 별도록 만들었다. 뉴욕대에서는 데이터사이언스 학위를 취득하기 위해 '책임감 있는 데이터사이언스'란 AI 윤리 과목을 이수해야만 한다. 국내에서는 2022년 초·중·고교에서 AI 윤리를 포함한 'AI 교육'이 정식 도입될 예정이다. 최 교수는 "알고리즘을 만드는 개발자뿐만 아니라, AI 전체를 설계하는 기획자까지 모두 교육이 이뤄질 때 효과가 나타날 것"이라고 말했다.
▼이어지는 기사를 보려면? 과학동아 3월호 공정한 AI는 허상인가
Part1. AI, 치우침을 부추기다
Part2. AI 공정성을 보는 세 가지 시선
Part3. 공정성 수호할 기술 도구들
Part4. '차별하는 AI'를 극복하려면

# data[].attributes.attachment_link.title
[프리미엄 리포트] AI의 공정성 수호할 기술 도구들

# data[].attributes.attachment_link.description
"사람들이 인공지능(AI)에 대한 환상을 갖고 있는 것 같습니다. AI를 맹신하면 안 돼요. 이미 AI는 알게 모르게 편향된 결단을 내리고 있고, 그 피해를 보는 건 취약층과 소수층입니다." AI 전문가들의 한결같은 말이다. 성별이나 인종, 연령대에 대한 AI의 차별은 이미 여러 차례 논란이 됐다.

# data[].attributes.headline
데이터 윤리에서 인공지능 편향성 문제에 대한 연구

# data[].attributes.subject
데이터 윤리에서 인공지능 편향성 문제에 대한 연구

# data[].attributes.attachment_link.title
데이터 윤리에서 인공지능 편향성 문제에 대한 연구

# data[].attributes.headline
인공지능 편향성 완화를 위한 효과적인 접근방법 및 기술동향

# data[].attributes.subject
인공지능 편향성 완화를 위한 효과적인 접근방법 및 기술동향

# data[].attributes.attachment_link.title
인공지능 편향성 완화를 위한 효과적인 접근방법 및 기술동향

# data[].attributes.headline
AI모델의 3가지 편향성과 대처 방법

# data[].attributes.subject
AI모델의 3가지 편향성과 대처 방법

# data[].attributes.attachment_link.title
AI 모델의 3가지 편향성과 대처 방법

# data[].attributes.attachment_link.description
자동 의사 결정 툴이 갈수록 확산되고 있다. 그러나 얼굴 인식 시스템부터 온라인 광고에 이르기까지, 이러한 툴의 뒤에 존재하는 머신러닝 모델의

# data[].attributes.headline
AI알고리즘 편향성 사회적 차별 심화시켜

# data[].attributes.subject
AI알고리즘 편향성 사회적 차별 심화시켜

# data[].attributes.attachment_link.title
[AI타임스] "AI 알고리즘 편향성 사회적 차별 심화시켜...다차원적 해결 방안 필요해" : 한국인공지능윤리협회(KAIEA) 보도자료

# data[].attributes.headline
인공지능을 망칠 수 있는 5가지 편향

# data[].attributes.subject
인공지능을 망칠 수 있는 5가지 편향

# data[].attributes.attachment_link.readable_text
facebook naverpost twitter youtube
인간이 적극 개입하고 인공지능은 보조하는 형태로 결정
아마존 인공지능 채용시스템 중단 인공지능, 편향 때문
인공지능을 통한 '최적화' 작업에서 편향이 가장 치명적

산업 다방면에서 인공지능 도입을 서두르고 있다. 인공지능은 사업을 모습을 획기적으로 바꿀 수 있는 기술이지만 자칫 모든 것을 망가뜨릴 수도 있다. 인공지능은 편향이 생길 수 있다는 것을 인지하고 객관적이고 효율적인 인공지능 시스템을 도입하기 위해서는 이러한 편향의 위험성을 알고 있는 것 또한 중요하다.

포브스(Forbes)는 9일(현지시간) 인공지능을 망치는 편향(Bias) 5가지를 소개했다. 인공지능을 도입하기 전 인공지능의 편항과 이를 방지하고 대응하기 위해 알아야할 5가지 편향들은 아래와 같다. (원문 링크)

1. 인간의 편향 Human Bias
인공지능은 객관적이지 않다. 인공지능이 학습하는 데이터는 인간으로부터 기인한다. 이 때문에 데이터 원료 자체가 편향이 개입되기 십상. 인공지능이 편향을 가지는 것은 불가피하다. 지난 8월 미 법을 공부하는 대학생 알리바디 칸(alivardi khan)이 트위터를 통해 "'충분한 불빛'이 부족하다는 메시지 때문에 미국 변호사 모의시험(UBE Mock Test)을 치르지 못했다"며 낮은 흑인 얼굴 인식률을 지적한 사례가 있다. ( 관련기사 링크) 인공지능을 '결정' 단계에 도입하기 위해선 이런 편향을 조심해야 한다.
2. 숨겨진 편향 Hidden Bias
이름에서도 알 수 있듯이 인공지능의 편향 중 가장 개선하기 어려운 것은 '숨겨진 편향'이다. 숨겨진 편향은 고의적인 편향이 아니기에 잘 드러나지도 찾을 수도 없다.

이러한 편향을 가진 인공지능은 완벽한 이력서와 완벽한 면접을 해낸 면접자를 알 수 없는 이유로 탈락시킬 수도 있다. 인공지능 필터링에 전적으로 의지하는 인사팀은 회사의 잠재적인 귀중한 자원을 놓칠 수도 있는 셈이다. 중요한 결정을 요하는 작업에서는 인간이 적극 개입하고 인공지능은 참고의 형태로 보조해야 숨겨진 편향이 야기하는 문제에 대응할 수 있다.
3. 데이터 표본 편향 Data Sampling Bias
인공지능 학습에 사용되는 자료가 수집 단계에서 문제가 생긴다면 데이터 샘플링 편향이 생긴다. 데이터 중 남자가 의사인 경우가 많고 여자는 간호사가 많은 경우. 남자는 의사, 여자는 간호사로 단정하는 경우가 생길 수 도 있다. 인공지능을 통한 인력채용을 시도한 아마존(Amazon)은 얼마 가지 않아 인공지능의 알고리즘을 손봐야 했는데 이는 상대적으로 남성의 이력서에 많이 사용되는 "executed"와 "captured" 같은 단어를 사용한 사람들에 한해 채용을 하도록 학습을 했기 때문이다.
4. 롱테일 편향 Long-tail Bias
롱테일 편향은 학습에 사용되는 데이터에 특정 종류(카테고리)의 데이터가 빠져 생기는 편향이다. 예를 들어 주근깨가 있는 사람의 데이터가 없는 얼굴 인식 인공지능은 이를 '흑인' 또는 '사람이 아님'으로 분류할 수 도 있다. 현시점의 인공지능 기술은 '처음 본것'에 약하다. 롱테일 편향의 문제는 자율주행 인공지능 시스템 개발에 큰 걸림돌이 된다. 실제로 2018년 5월 자율주행센서가 보행자를 차량이나 자전거로 잘못 식별해 사고를 낸 사례가 있다. 차로에 비닐봉지나 큰 장애물이 처음 감지하는 것이라면 인공지능이 오판할 여지가 있다.
5. 고의적 편향
고의적 편향은 가장 위험하다. 해킹이나 공격을 통해 인공지능이 의도적으로 편향이 부여될 수 있다. 또한, 이런 불순한 의도로 생긴 편향들은 포착하기 어렵게 숨겨지기에 더욱 위험하다. 산업 여러 방면에서 인공지능 도입이 가속화 하면서 이러한 사이버 공격에 대한 대비는 더욱 중요해지고 있다. 고의적인 편향 공격에 노출된다면 인공지능을 도입하지 않은 격 못하기 때문. '최적화'를 달성하는 인공지능 활용에서 이는 가장 치명적일 수 있다. 요소 단 하나로 모든 결정이 어긋날 수 있다.
바이든 당선 예측성공한 AI, 아직 고칠 게 많다 AI윤리 문제와 14가지 흥미로운 통계
Copyright © '인공지능 전문미디어' AI타임스 (http://aitimes.com)
무단전재 및 재배포 금지

기사제보 및 보도자료 news@aitimes.com

AI윤리 문제와 14가지 흥미로운 통계

# data[].attributes.attachment_link.title
포브스가 꼽은 인공지능을 망칠 수 있는 5가지 편향

# data[].attributes.attachment_link.description
산업 다방면에서 인공지능 도입을 서두르고 있다. 인공지능은 사업을 모습을 획기적으로 바꿀 수 있는 기술이지만 자칫 모든 것을 망가뜨릴 수도 있다. 인공지능은 편향이 생길 수 있다는 것을 인지하고 객관적이고 효율적인 인공지능 시스템을 도입하기 위해서는 이러한 편향의 위험성을 알고 있는 것 또한 중요하다.포브스(Forbes)는 9일(현지시간) 인공지능을 망치는 편향(Bias) 5가지를 소개했다.

# data[].attributes.headline
데이터 입력 전과 인공지능의 판단 이후에 점검할 수 있는 장치를 마련해야 한다.

# data[].attributes.subject
데이터 입력 전과 인공지능의 판단 이후에 점검할 수 있는 장치를 마련해야 한다.

# data[].attributes.body
우선, 가장 근본적으로 각 사회에서 편향성이 발휘하는 영역에 대해서 인공지능 전문가들이 인지하여 데이터를 입력하는 과정에서 해당 데이터가 왜곡되지 않았는지 검토해보아야 한다. 왜곡된 데이터를 입력함으로써 인공지능의 판단은 인간의 편향성을 담게 된다. 그 노력의 일례로, 구글에서 개발한 왓-이프 툴은 특정 데이터를 바꿨을 때 그 변수가 불공정한 결과에 얼마나 영향을 미치는지 보기 쉬운 형태로 나타나는 것이다. 이처럼 데이터가 우리 사회의 편향성을 담지 않도록 인공지능이 학습하기 전에 미리 변수들이 편향되지 않았는지 확인해보는 안전장치가 마련되어야 한다.
또한, 인공지능이 판단을 내린 이후에도 이를 완벽하고 합리적인 결과로 받아들이지 않고 알고리즘에 어떤 편향이 포함되어 있었는지 점검하고 자체 평가하는 과정이 필요하다. 즉, 인공지능의 판단 과정을 대중이 확인할 수 있도록 투명성을 보장하고 이를 점검할 수 있는 기술적 도구와 철학이나 윤리 등 다양한 전문가들의 논의가 필요하다. IBM의 AIF 360은 인공지능의 의사결정에 대한 근거를 ‘설명 가능’하게 만들어 알고리즘이 도출한 의사결정의 편향성을 탐지하고 이에 대응할 수 있도록 한다. 이처럼 인간이 넣은 데이터를 가지고 인공지능이 도출한 판단을 곧바로 받아들이지 않고, 이 판단이 왜 나왔는지 설명하고 편향성이 심하지 않은지 다시 평가하는 과정이 필요하다.

# data[].attributes.headline
편향성을 줄일수 있는 기술의 개발/기업들의 윤리강령 발표 의무화 가 필요하다

# data[].attributes.subject
편향성을 줄일수 있는 기술의 개발/기업들의 윤리강령 발표 의무화 가 필요하다

# data[].attributes.body
먼저 편향성을 줄일 수 있는 기술의 개발이 필요하다고 생각합니다. 인공지능은 인간 경험에 대해 수집한 데이터를 서로 비교하고 연결함으로써 새로운 정보를 추론할 수 있습니다. 이 추론한 정보 중에 인종, 성별 등에 대한 신상 정보가 있을 수 있고 이 정보는 인공지능이 편향된 결정을 내리는 데 영향을 줄 수 있습니다. 즉 빅데이터에 존재하는 수많은 정보가 개별적으로 존재할 때는 큰 의미가 없지만 서로 연결될 경우 차별의 근거로 사용될 수 있는데, 이를 선별할 수 있는 기술이 필요합니다.

인공지능 기술을 주도하고 있는 기업들이 어떤 원칙에 입각하여 인공지능 기술을 구현했는지에 대한 윤리강령을 만들고 발표하는 것을 의무화해야 합니다. 인공지능에 들어간 알고리즘은 대부분 비가시적이므로 기업에서 윤리성에 대한 심도 있는 고려 없이 개발하는 경우가 많을 것입니다. 인공지능을 구현하기 전에 먼저 편향성을 방지하기 위한 윤리 원칙을 세워 개발하는 중에 이 원칙들이 중요하게 반영되도록 신경써야 할 것입니다.

# data[].attributes.headline
알고리즘 데이터의 표본 크기를 의도적으로 맞춰 나가야 한다. 

# data[].attributes.subject
알고리즘 데이터의 표본 크기를 의도적으로 맞춰 나가야 한다. 

# data[].attributes.body
AI 편향성을 일으키는 주요 원인중 하나는 데이터의 불균형이다. KAIST 인공지능공정성연구센터장을 맡고 있는 유창동 교수는 데이터가 많은 집단에 대해서는 AI가 학습을 통해 그 집단의 비교적 보편적인 결과를 도출할 수 있지만, 데이터가 적은 집단에 대해서는 AI의 결론이 그 집단을 대표한다고 볼 수 없는 경우가 발생한다는 점을 지적하였다. 즉 집단 간에 표본 수가 달라 발생하는 편향은 지금까지 사회적으로 차별 받은 계층에게 흔히 일어나고, 데이터 축적 역시 기득권에게 더 유리한 일이기 때문이다. 그래서 데이터 불균형은 곧 사회적 차별 문제로 직결되는 경우가 잦다. 따라서 표본 크기의 불평등을 해소하기 위해 프로그래밍 시 집단의 표본 크기를 의도적으로 맞추어 나가려는 노력이 필요하다.

# data[].attributes.headline
데이터의 확인과 결과의 감독이 필요하다

# data[].attributes.subject
데이터의 확인과 결과의 감독이 필요하다

# data[].attributes.body
포브스는 인공지능 활성화를 저항하는 편향 5가지를 인간의 편향, 숨겨진 편향, 데이터 표본 편향, 롱테일 편향, 고의적 편향이라 소개했다. 인간의 편향은 인간이 인공지능에 학습시키는 원시 데이터 자체에 편행이 개입되는 경우이다. 숨겨진 편향은 인공지능에서 절대 보거나 발견할 수 없는 의도하지 않은 편향이다. 데이터 표본 평향은 데이터 샘플링에 편향이 있어 인공지능이 편향되게 되는 것이다. 롱테일 편향은 훈련 데이터에서 범주가 누락될 떄 발생한다. 고의적 편향은 가장 위험한 편항으로 해킹 공격과 같은 의도적 편항이다. 인간의 편향, 데이터 표본 편향, 롱테일 편향에서 알 수 있듯이 인간이 주입하는 데이터에서 문제가 생김을 알 수 있다. 그렇기에 데이터가 왜곡되거나 편향성을 띄게 만들 요소가 있는 지를 철저하게 확인하여야 한다. 숨겨진 편향과 고의적 편향과 같이 데이터 값과 상관없는 문제가 일어날 수도 있다. 이를 막기 위해서는 인공지능이 결과를 도출할 때 수시로 검토하여 이러한 편향이 포함되어 있는 지 감독해야 할 것이다.

# data[].attributes.headline
편향성이 적은분야부터 도입하고, 데이터의 수를 늘리고, 편향의 해결을 위한 직접적인 데이터 세트를 만들어 학습시켜야 한다.

# data[].attributes.subject
편향성이 적은분야부터 도입하고, 데이터의 수를 늘리고, 편향의 해결을 위한 직접적인 데이터 세트를 만들어 학습시켜야 한다.

# data[].attributes.body
4차 산업 혁명시대에 인공지능을 활용하지 않는 분야가 거의 없을 정도로 인공지능의 중요
성이 점점 증대되고 있다. 그러나, 인공지능의 행위에는 편향성이 발생할 수 있다는 점을 인지하고 인공지능 시스템을 도입하기 위해서는 이러한 편향성의 위험을 알고 있는 것이 매우 중요하다. 포브스(Forbes)는 인공지능 활성화를 저해하는 편향(Bias) 5가지를 제시했는데, 그것은 human bias, hidden bias, data sampling bias, long-tail bias, intentional bias이다. 첫 번째는 인공지능의 학습 데이터를 제공하는 인간 자체가 편향적인 동물이기 때문에 어쩔 수 없다는 것이다. 그러나 의사결정 과정에서 수정이 가능하다. 두 번째 편향은 가장 발견하기 어려운 편향으로, 완벽한 조건을 갖춘 조건도 별로라고 판정할 수 있다. 세 번째 편향은 공급되는 데이터의 샘플링에 편향이 존재하는 것이다. 네 번째 편향은 훈련 데이터에서 어떤 특징을 가진 범주의 누락이 일어나 인공지능이 충분한 다양성 및 자료를 학습하지 못하는 경우를 의미한다. 마지막으로 고의적 편향은 해커와 같은 공격자들에 의해 나쁜 의도로 일어나는 편향을 의미한다. 이것이 가장 위험한 편향이라고 할 수 있다.
인공지능의 편향성을 보여주는 사례는 많이 있다. 이를테면 2019년 페이스북 사건이 있는데, 페이스북은 광고주로 하여금 성별,인종 및 종교 등의 특징을 고려한 타겟팅 광고를 허용했다. 그리하여 특징 직업군, 예를 들어 택시 운전사의 경우 소수 민족 배경의 남성에게 많이 추천되었다고 한다. 이러한 인공지능의 편향성을 없애기 위해서는 성별 혹은 기타 특징들을 차별하지 않도록 기계를 학습시킬 수 있는 데이터 세트를 구성하여 학습하게 하면 된다고 생각한다. 그리고 이런 데이터를 만드는 과정에 또한 사람의 편견이 개입될 수 있는 여지가 있다. 그러므로 새로운 편견을 찾아내기 위한 지속적인 작업이 필요하며, 최대한 많은 데이터를 수집하는 것이 중요해보인다.
그리고 당연하게도, 인공지능을 사용하는 분야는 편향성이 적은 곳부터 도입되어야 할 것이다. 잠재적인 편향이 예상되는 분야에 성급하게 도입해서는 안 된다. 그리고 편향성 연구 자체에 더 많이 투자하고 데이터를 많이 수집하여 사용해야 한다. 이 과정에서 개인정보가 제대로 보호되고 있는지도 잘 확인해야 할 것이다.