이유 - 이 프로그램이 여성보다 남성 직원 비율이 높은 회사의 직원 이력 사항을 학습한 결과 남성 지원자에게 더 높은 점수를 주었기 때문이다.

법적 해결 방안 - 차별 금지법, 공정성 감사 의무화

윤리적 해결 방안 - 인간의 최종 결정권을 통해 검증, 보완

사회적 해결 방안 - AI에 학습되는 데이터가 편향되지 않도록 사회적 노력 기울이기

Microsoft 에서 2016년에서 개발한 챗봇은 미국에 거주하고있는 18세~24세 트위터 이용자들이 사용할수 있었다 그런데 테이가 공개된 후 트위터에 테이의 계정을 태그해서 자극적인 발언을 가르치려는 움직임이 나타났다. 특히 4chan의 /pol/ 사용자들은 트롤링을 목적으로 테이에게 인종차별적인 용어, 성차별 발언, 자극적인 정치적 발언 따위를 하도록 유도했다.

차별 이유

트위터에서 사람들이 올린 게시물을 잘못 해석해서 비하발언들을 많이 사용했다.

윤리적 해결방안

Ai 중지

이유 ㅡ 고소득층은 고급의 치료를 받을 수 있다는 편견이 개입되었다.

법적 해결 방안 ㅡ 공정성 검사 의무화

윤리적 해결 방안 ㅡ 인공지능의 사람 평가는 금기시

사회적 해결 방안 ㅡ 적절한 치료법 제공을 받지 못할 시 피해 배상 제공

의료 — 여성이나 소수 민족에 대한 데이터가 부족하면 예측 AI 알고리즘이 왜곡될 수 있습니다. 예를 들어, 컴퓨터 지원 진단(CAD) 시스템은 백인 환자보다 흑인 환자의 경우 정확도가 낮은 결과를 반환하는 것으로 나타났습니다.

지원자 추적 시스템 — 자연어 처리 알고리즘 문제로 인해 지원자 추적 시스템 내에서 편향된 결과가 생성될 수 있습니다. 예를 들어, Amazon은 채용 알고리즘이 남성 이력서에서 흔히 볼 수 있는 '실행됨' 또는 '포획됨'과 같은 단어를 기준으로 지원자를 선호한다는 사실을 발견한 후 채용 알고리즘 사용을 중단했습니다.

온라인 광고 — 검색 엔진 광고 알고리즘의 편향은 직무 역할의 성별 편향을 심화시킬 수 있습니다. 피츠버그에 있는 카네기 멜론 대학의 독립적인 연구에 따르면, Google의 온라인 광고 시스템 남성에게 더 자주 더 높은 급여를 제공하는 직책을 표시했습니다.

이미지 생성 — 학술 연구에 따르면 생성형 AI 아트 제너레이션 애플리케이션인 Midourney에서 편향이 발견되었습니다. 전문 직종에 종사하는 사람들의 이미지를 만들어 달라는 요청에는 젊은 사람과 나이든 사람이 모두 등장했지만, 나이든 사람은 항상 남성으로 나타나 직장에서 여성의 역할에 대한 성별 편견이 심화되었습니다.

예측 치안 도구 — AI 기반 예측 치안 도구는 범죄가 발생할 가능성이 높은 영역을 식별하는 데 사용됩니다. 그러나 과거의 체포 데이터에 의존하는 경우가 많으며, 이는 기존의 인종 프로파일링 패턴과 소수 민족 커뮤니티에 대한 불균형적인 표적화를 심화시킬 수 있습니다.

해결방안

공급업체의 정책 및 관행을 평가하여 신뢰할 수 있는 AI를 활용합니다.

사용자, 모델 및 데이터에 대한 보안 액세스를 활성화합니다.

AI 모델, 데이터, 인프라를 적대적 공격으로부터 보호합니다.

교육, 테스트 및 운영 단계에서 데이터 개인정보 보호를 구현합니다.

위협 모델링 및 보안 코딩 관행을 AI 개발 라이프사이클에 적용합니다.

AI 애플리케이션 및 인프라에 대한 위협 탐지 및 대응을 수행합니다.

IBM AI 프레임워크를 통해 AI 성숙도를 평가하고 결정합니다.

출처:IBM홈페이지(링크)

기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 A '달리로 진행한 실험에 관한 것이었다.

달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여자로만 묘사했다

이유-생성형AI의 무분별한 학습 과정에서 인간의 혐오 표현, 범죄, 정치적 편향성 등이 답변에 반영되기 때문이다.

해결방안-업계는 윤리적 기준 등을 데이터에 부착해 정제하는 작업(라벨링)으로 문제를 해결할 수 있다고 설명했다.

해결방안 사회적 측면: AI 편향은 데이터에서 비롯되므로, 학습 데이터 수집 단계부터 다양한 인종, 성별, 배경을 가진 데이터를 균형 있게 포함해야 한다.

법적 측면:아마존의 사례는 고용 과정에서 성차별을 금지하는 법률(미국 민권법 제7장 등) 위반 소지가 있었습니다. AI를 활용한 채용 결정이 특정 집단에 불이익을 준다면, 이는 법적으로 제재받을 수 있습니다.

윤리적 측면: AI를 개발할 때 효율성뿐만 아니라 인간의 존엄성, 공정성 등 윤리적 가치를 최우선으로 고려해야 합니다.

해결방안 : 이를 해결하기 위한 사회적 측면으로는 성별, 인종 등으로 부터 동등한 양의 데이터를 주기 위해 노력해야 한다. 또한 윤리위원회를 설립 해 의료 AI의 개발, 검증, 활용 전반을 감독하고 윤리적 문제를 논의하는 다학제적 윤리위원회를 설립할 수 있다. 이때 WHO와 여러 국가 기관들이 만든 의료 AI의 윤리적 사용을 위한 가이드라인을 사용할 수 있다.

이유 - 여자는 채용 시스템을 할땐 잘못할 것 같아서그런것 같다.

법적 해결 방안 - 차별금지법

윤리적 해결 방안 - Ai가 정보를 많이 수집을 하여 차별을 하지 말아야 할것

이유: 독도의 영유권은 일본의 것이라는 정보가 많은 일본의 데이터들을 더 많이 학습했기 때문이다.

법적 해결 방안: 국제법에서 AI에게 편향된 정보를 주거나 한쪽 정보만 주지 못하게 법적으로 규제해야 한다.

이유-이는 학습 데이터가 백인 남성에 치우쳐 있기때문이다

해결방안 다양한 인종, 성별, 연령 등의 데이터를 고르게 수집하여 학습 데이터의 다양성을 확보해야 한다

이유:충분하지 못한 데이터 학습

법적 해결 방법:의료AI 제작,도입 시 데이터가 충분해야만 도입할 수 있는 제도

윤리적:의료적 방면은 인간이 최종결정

사회적:데이터가 충분하게 학습되어 더 완벽할 수 있게 노력

백인이 들고있는 체온계는 체온계라고 인식하였지만, 흑인이 들고있는 체온계는 총이라고 인식한 사례가 있다.

이유 - ai를 만든곳이 영어권이라서 영어 문화와 영어로 가장 최적화 되어있기 때문이다.

해결 방안 - 사람들을 모아 "데이터를 검증하고 모국어 AI 모델을 직접 개선"하도록 했다. 참가자에게는 다양한 인도 언어로 녹음된 팟캐스트나 TV방송 음성을 들려주는데, 참가자가 이를 모국어 번역하면 보상으로 디지털 메달을 수여하는 것이다.

이유 : AI는 수많은 사진을 학습하여 사물을 인식한다. 그러나 학습에 사용된 데이터가 특정 인종의 얼굴 사진이 부족하거나, 비백인 인종에 대한 데이터가 불균형하게 편중되어 있었기 때문에, AI가 흑인의 얼굴을 정확하게 인식하지 못하고 오류를 일으킨 것이다.

법적 해결 방안 : 차별금지 관련 법규 적용

윤리적 해결 방안 : 투명성 및 책임성 강화

사회적 해결 방안 : 윤리 가이드라인 마련 및 준수

이유)흑인은 나쁜 이미지라는 편견이 들어가 있음

법적 해결방안) 인공지능이 혐오 발언을 하는 사례가있어 차별금지법을 만들자.

윤리적 해결방안)차별적인 정보가 들어가 있는지 인간이 검토하기.

달리는 아프리카와 빈곤을 연결해 이미지를보여줬다음. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이출력됨. 가정부는 유색인종으로, 기내 승무원은 여성으로만표현함.

이유: 업계는 빅데이터에 내재한 인간의 편향성에 따른 결과라고 함.

해결방안: 업계는 윤리적 기준 등을 데이터에 부착해 정제하는 작업(라벨링)으로 문제를 해결할 수 있다고 설명함.

이유:구글 사진' 서비스의 얼굴 자동인식 기능의 오류로 흑인이 '고릴라'로 표시되었기 때문이다.

해결 방안:피해자에게 회사는 정중하게 사과하고 다른 사람에게 피해가는 게 없는지 지속적으로 확인하며 인공지능을 더 나은 방향으로 가는 정책을 지시한다.

이유 - COMPAS에서 이러한 편향이 발생한 것은, 인간들 사이에 흔히 존재하는 편향이 학습되었기 때문이다. 즉, 평균적으로 흑인들이 백인들보다 훨씬 더 많은 범죄를 저지르며 향후에도 범죄를 저지를 가능성이 더 높다는 편향이 COMPAS에 반영된 것이다.

법적 해결 방안 - 차별 금지법을 확대한다.

윤리적 해결 방안 - 인간의 존엄성을 지키지 못한 사례를 최소화 한다.

사회적 해결 방안 - 인종 차별에 대한 사회적 교육을 실시한다.