# data[].attributes.body
편향성 사례 : 소프트웨어 개발자인 재키 앨신은 자신의 여자친구와 찍은 사진을 구글 포토에 업로드했다. 구글 포토의 이미지 인식 AI는 이 사진들을 자동으로 '고릴라'로 분류하는 태그를 달았다.

이유 : AI는 수많은 사진을 학습하여 사물을 인식한다. 그러나 학습에 사용된 데이터가 특정 인종의 얼굴 사진이 부족하거나, 비백인 인종에 대한 데이터가 불균형하게 편중되어 있었기 때문에, AI가 흑인의 얼굴을 정확하게 인식하지 못하고 오류를 일으킨 것이다.

법적 해결 방안 : 차별금지 관련 법규 적용

윤리적 해결 방안 : 투명성 및 책임성 강화

사회적 해결 방안 : 윤리 가이드라인 마련 및 준수

# data[].attributes.body
인공지능 편향 사례 - A사에서 개발한 인공지능 채용 프로그램이 지원자 중 남성 지원자를 더 우대

이유 - 이 프로그램이 여성보다 남성 직원 비율이 높은 회사의 직원 이력 사항을 학습한 결과 남성 지원자에게 더 높은 점수를 주었기 때문이다.

법적 해결 방안 - 차별 금지법, 공정성 감사 의무화

윤리적 해결 방안 - 인간의 최종 결정권을 통해 검증, 보완

사회적 해결 방안 - AI에 학습되는 데이터가 편향되지 않도록 사회적 노력 기울이기

# data[].attributes.attachment_link.title
아마존, 성차별 논란 인공지능 채용 폐기 - BBC News 코리아

# data[].attributes.attachment_link.description
아마존은 지난 10년간의 데이터를 바탕으로 한 인공지능 채용 프로그램을 개발해왔다.

# data[].attributes.body
인공지능 편향 사례 ㅡ 인공지능이 동일한 조건의 다양한 환자들에게 소득 비율과 인종에 따라 다른 처방을 했다.

이유 ㅡ 고소득층은 고급의 치료를 받을 수 있다는 편견이 개입되었다.

법적 해결 방안 ㅡ 공정성 검사 의무화

윤리적 해결 방안 ㅡ 인공지능의 사람 평가는 금기시

사회적 해결 방안 ㅡ 적절한 치료법 제공을 받지 못할 시 피해 배상 제공

# data[].attributes.body
차별사례

Microsoft 에서 2016년에서 개발한 챗봇은 미국에 거주하고있는 18세~24세 트위터 이용자들이 사용할수 있었다 그런데 테이가 공개된 후 트위터에 테이의 계정을 태그해서 자극적인 발언을 가르치려는 움직임이 나타났다. 특히 4chan의 /pol/ 사용자들은 트롤링을 목적으로 테이에게 인종차별적인 용어, 성차별 발언, 자극적인 정치적 발언 따위를 하도록 유도했다.

차별 이유

트위터에서 사람들이 올린 게시물을 잘못 해석해서 비하발언들을 많이 사용했다.

윤리적 해결방안

Ai 중지

# data[].attributes.body
사회가 AI의 작동 방식과 편향 가능성에 대해 더 많이 인식하게 되면서, 조직들은 다양한 사용 사례에서 AI의 편향성에 대한 수많은 주목할 만한 사례를 발견했습니다.

의료 — 여성이나 소수 민족에 대한 데이터가 부족하면 예측 AI 알고리즘이 왜곡될 수 있습니다. 예를 들어, 컴퓨터 지원 진단(CAD) 시스템은 백인 환자보다 흑인 환자의 경우 정확도가 낮은 결과를 반환하는 것으로 나타났습니다.

지원자 추적 시스템 — 자연어 처리 알고리즘 문제로 인해 지원자 추적 시스템 내에서 편향된 결과가 생성될 수 있습니다. 예를 들어, Amazon은 채용 알고리즘이 남성 이력서에서 흔히 볼 수 있는 '실행됨' 또는 '포획됨'과 같은 단어를 기준으로 지원자를 선호한다는 사실을 발견한 후 채용 알고리즘 사용을 중단했습니다.

온라인 광고 — 검색 엔진 광고 알고리즘의 편향은 직무 역할의 성별 편향을 심화시킬 수 있습니다. 피츠버그에 있는 카네기 멜론 대학의 독립적인 연구에 따르면, Google의 온라인 광고 시스템 남성에게 더 자주 더 높은 급여를 제공하는 직책을 표시했습니다.

이미지 생성 — 학술 연구에 따르면 생성형 AI 아트 제너레이션 애플리케이션인 Midourney에서 편향이 발견되었습니다. 전문 직종에 종사하는 사람들의 이미지를 만들어 달라는 요청에는 젊은 사람과 나이든 사람이 모두 등장했지만, 나이든 사람은 항상 남성으로 나타나 직장에서 여성의 역할에 대한 성별 편견이 심화되었습니다.

예측 치안 도구 — AI 기반 예측 치안 도구는 범죄가 발생할 가능성이 높은 영역을 식별하는 데 사용됩니다. 그러나 과거의 체포 데이터에 의존하는 경우가 많으며, 이는 기존의 인종 프로파일링 패턴과 소수 민족 커뮤니티에 대한 불균형적인 표적화를 심화시킬 수 있습니다.

해결방안

공급업체의 정책 및 관행을 평가하여 신뢰할 수 있는 AI를 활용합니다.

사용자, 모델 및 데이터에 대한 보안 액세스를 활성화합니다.

AI 모델, 데이터, 인프라를 적대적 공격으로부터 보호합니다.

교육, 테스트 및 운영 단계에서 데이터 개인정보 보호를 구현합니다.

위협 모델링 및 보안 코딩 관행을 AI 개발 라이프사이클에 적용합니다.

AI 애플리케이션 및 인프라에 대한 위협 탐지 및 대응을 수행합니다.

IBM AI 프레임워크를 통해 AI 성숙도를 평가하고 결정합니다.

출처:IBM홈페이지(링크)

# data[].attributes.body
인공지능 편향 사례-AI 업계에 따르면 국제학술지 네이처에 'AI 이미지 생성 도구가 종종 인종·성차별적 결과를 만들어 낸다'는 제목의 기고문이 올라왔다.

기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 A '달리로 진행한 실험에 관한 것이었다.

달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여자로만 묘사했다

이유-생성형AI의 무분별한 학습 과정에서 인간의 혐오 표현, 범죄, 정치적 편향성 등이 답변에 반영되기 때문이다.

해결방안-업계는 윤리적 기준 등을 데이터에 부착해 정제하는 작업(라벨링)으로 문제를 해결할 수 있다고 설명했다.

# data[].attributes.body
사례: AI 모델이 특정 집단에 대한 편견을 학습하지 않도록 성별, 인종, 사회경제적 배경 등을 포함한 다양하고 대표성 있는 데이터셋을 구축해야 합니다.

해결방안 사회적 측면: AI 편향은 데이터에서 비롯되므로, 학습 데이터 수집 단계부터 다양한 인종, 성별, 배경을 가진 데이터를 균형 있게 포함해야 한다.

법적 측면:아마존의 사례는 고용 과정에서 성차별을 금지하는 법률(미국 민권법 제7장 등) 위반 소지가 있었습니다. AI를 활용한 채용 결정이 특정 집단에 불이익을 준다면, 이는 법적으로 제재받을 수 있습니다.

윤리적 측면: AI를 개발할 때 효율성뿐만 아니라 인간의 존엄성, 공정성 등 윤리적 가치를 최우선으로 고려해야 합니다.

# data[].attributes.body
원인 : 특정 성별의 환자에 대한 데이터가 부족하기 때문에의료 분야에서 차별이 생긴다. 데이터가 부족해서 AI가 환자의 질병 진단 정확도가 낮아지기 때문이다.

해결방안 : 이를 해결하기 위한 사회적 측면으로는 성별, 인종 등으로 부터 동등한 양의 데이터를 주기 위해 노력해야 한다. 또한 윤리위원회를 설립 해 의료 AI의 개발, 검증, 활용 전반을 감독하고 윤리적 문제를 논의하는 다학제적 윤리위원회를 설립할 수 있다. 이때 WHO와 여러 국가 기관들이 만든 의료 AI의 윤리적 사용을 위한 가이드라인을 사용할 수 있다.

# data[].attributes.body
인공지능 편향사례-2018년 MIT·스탠포드 연구에 따르면, 흑인 여성의 얼굴 인식 오류율이 35%로 백인 남성(1% 미만)보다 훨씬 높았다

이유-이는 학습 데이터가 백인 남성에 치우쳐 있기때문이다

해결방안 다양한 인종, 성별, 연령 등의 데이터를 고르게 수집하여 학습 데이터의 다양성을 확보해야 한다

# data[].attributes.body
인공지능 편향 사례 - 채용 시스템에서 여성 지원자를 차별하는것

이유 - 여자는 채용 시스템을 할땐 잘못할 것 같아서그런것 같다.

법적 해결 방안 - 차별금지법

윤리적 해결 방안 - Ai가 정보를 많이 수집을 하여 차별을 하지 말아야 할것

# data[].attributes.body
인공지능 편향사례: A사에서 개발한 챗봇은 독도에 대해서 일본의 땅이라는 편향된 정보를 말하였다.

이유: 독도의 영유권은 일본의 것이라는 정보가 많은 일본의 데이터들을 더 많이 학습했기 때문이다.

법적 해결 방안: 국제법에서 AI에게 편향된 정보를 주거나 한쪽 정보만 주지 못하게 법적으로 규제해야 한다.

# data[].attributes.headline
11026임용기AI 시스템은 훈련 데이터를 기반으로 의사 결정을 내리는 방법을 학습하므로 데이터 세트에 편향이 있는지 평가하는 것이 필수적입니다. 한 가지 방법은 학습 데이터 내에서 과대 또는 과소 대표된 그룹에 대한 데이터 샘플링을 검토하는 것입니다. 예를 들어, 백인을 과도하게 나타내는 얼굴 인식 알고리즘의 학습 데이터는 유색인종에 대한 얼굴 인식을 시도할 때 오류가 발생할 수 있습니다. 마찬가지로, 흑인이 주로 거주하는 지역에서 수집된 정보가 포함된 보안 데이터는 경찰이 사용하는 AI 툴에서 인종적 편견을 유발할 수 있습니다.편향은 학습 데이터에 라벨을 지정하는 방식에서도 발생할 수 있습니다. 예를 들어, 일관되지 않은 라벨을 사용하거나 특정 특성을 제외하거나 과도하게 나타내는 AI 채용 툴은 자격을 갖춘 지원자를 고려 대상에서 제외할 수 있습니다.

# data[].attributes.subject
11026임용기AI 시스템은 훈련 데이터를 기반으로 의사 결정을 내리는 방법을 학습하므로 데이터 세트에 편향이 있는지 평가하는 것이 필수적입니다. 한 가지 방법은 학습 데이터 내에서 과대 또는 과소 대표된 그룹에 대한 데이터 샘플링을 검토하는 것입니다. 예를 들어, 백인을 과도하게 나타내는 얼굴 인식 알고리즘의 학습 데이터는 유색인종에 대한 얼굴 인식을 시도할 때 오류가 발생할 수 있습니다. 마찬가지로, 흑인이 주로 거주하는 지역에서 수집된 정보가 포함된 보안 데이터는 경찰이 사용하는 AI 툴에서 인종적 편견을 유발할 수 있습니다.편향은 학습 데이터에 라벨을 지정하는 방식에서도 발생할 수 있습니다. 예를 들어, 일관되지 않은 라벨을 사용하거나 특정 특성을 제외하거나 과도하게 나타내는 AI 채용 툴은 자격을 갖춘 지원자를 고려 대상에서 제외할 수 있습니다.

# data[].attributes.body
사례: 환자의 진단과 치료를 돕기 위해 도입된 의료 AI가 심장질환 예측 시 주로 백인 남성의 데이터를 합습해, 흑인 여성의 심장질환 증상을 정확하게 예측하지 못함

이유:충분하지 못한 데이터 학습

법적 해결 방법:의료AI 제작,도입 시 데이터가 충분해야만 도입할 수 있는 제도

윤리적:의료적 방면은 인간이 최종결정

사회적:데이터가 충분하게 학습되어 더 완벽할 수 있게 노력

# data[].attributes.body
구글 인공지능에게 체온계를 들고 있는 백인과 흑인을 인식시 켰더니

백인이 들고있는 체온계는 체온계라고 인식하였지만, 흑인이 들고있는 체온계는 총이라고 인식한 사례가 있다.

# data[].attributes.body
인공지능 편향 사례 - 전문가들은 비영어권 사용자가 소외된다

이유 - ai를 만든곳이 영어권이라서 영어 문화와 영어로 가장 최적화 되어있기 때문이다.

해결 방안 - 사람들을 모아 "데이터를 검증하고 모국어 AI 모델을 직접 개선"하도록 했다. 참가자에게는 다양한 인도 언어로 녹음된 팟캐스트나 TV방송 음성을 들려주는데, 참가자가 이를 모국어 번역하면 보상으로 디지털 메달을 수여하는 것이다.

# data[].attributes.body
편향 사례) 인공지능 챗봇 그록이 아무런 관련 없는 질문에도 남아프리카공화국 내 백인 폭력 사건정보를 언급하는일이 있음

이유)흑인은 나쁜 이미지라는 편견이 들어가 있음

법적 해결방안) 인공지능이 혐오 발언을 하는 사례가있어 차별금지법을 만들자.

윤리적 해결방안)차별적인 정보가 들어가 있는지 인간이 검토하기.

# data[].attributes.body
미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 실험을 진행함.

달리는 아프리카와 빈곤을 연결해 이미지를보여줬다음. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이출력됨. 가정부는 유색인종으로, 기내 승무원은 여성으로만표현함.

이유: 업계는 빅데이터에 내재한 인간의 편향성에 따른 결과라고 함.

해결방안: 업계는 윤리적 기준 등을 데이터에 부착해 정제하는 작업(라벨링)으로 문제를 해결할 수 있다고 설명함.

# data[].attributes.body
편향 사례:2015년 Google 포토의 이미지 자동 분류 시스템이 흑인 사용자의 사진을 '고릴라'로 잘못 분류한 사건이 발생했다.

이유:구글 사진' 서비스의 얼굴 자동인식 기능의 오류로 흑인이 '고릴라'로 표시되었기 때문이다.

해결 방안:피해자에게 회사는 정중하게 사과하고 다른 사람에게 피해가는 게 없는지 지속적으로 확인하며 인공지능을 더 나은 방향으로 가는 정책을 지시한다.

# data[].attributes.body
인공지능 편향 사례 - 미국에서 범죄자들이 재범 가능성이 높은지를 예측하기 위해 사용되는 인공지능 알고리즘인 COMPAS에 의해 범죄자들은 실제보다 훨씬 더 많은 재범 가능성을 가지고 있다고 판단되었고, 반면 백인 범죄자들은 예상보다 덜 위험한 것으로 판단되었다.특히, 폭력 범죄의 경우, 흑인 범죄자들은 백인 범죄자들에 비해 더 위험하게 오인되는 비율이 거의 2배나 되었다.

이유 - COMPAS에서 이러한 편향이 발생한 것은, 인간들 사이에 흔히 존재하는 편향이 학습되었기 때문이다. 즉, 평균적으로 흑인들이 백인들보다 훨씬 더 많은 범죄를 저지르며 향후에도 범죄를 저지를 가능성이 더 높다는 편향이 COMPAS에 반영된 것이다.

법적 해결 방안 - 차별 금지법을 확대한다.

윤리적 해결 방안 - 인간의 존엄성을 지키지 못한 사례를 최소화 한다.

사회적 해결 방안 - 인종 차별에 대한 사회적 교육을 실시한다.