이유 - 이 프로그램이 여성보다 남성 직원 비율이 높은 회사의 직원 이력 사항을 학습한 결과 남성 지원자에게 더 높은 점수를 주었기 때문이다.

법적 해결 방안 - 차별 금지법, 공정성 감사 의무화

윤리적 해결 방안 - 인간의 최종 결정권을 통해 검증, 보완

사회적 해결 방안 - AI에 학습되는 데이터가 편향되지 않도록 사회적 노력 기울이기

이유:얼굴 인식 AI가 백인 얼굴 데이터 중심으로 훈련돼 흑인이나 유색인종에 대한 정확도가 현저히 낮은 것으로 드러났다.

법적해결방안: 미국 일부 지역에서는 공공기관에서의 얼굴 인식 기술 사용을 제한하거나 금지하는 법안이 추진되고 있다.

해결방안: 법적 측면으로는 데이터 수집 과정에선 개인정보보호법 준수 여부를 확인하고 사회적 측면으로는 인공지능을 사용하는 대중의 인식을 개선하는 정책을 추진하고 윤리적 측면에선 인공지능 윤리 교육을 강화한다.

이유-빅데이터에 내재한 인간의 편향성에 따른 결과

법적 해결 방안- 차별 금지법

윤리적 해결 방안- 윤리교육 강화

사회적 해결 방안- 정책 지시

아마존은 인공지능으로 지원자를 평가하는 시스템을 만들었는데,

과거 데이터에 남성 지원자가 많았던 탓에

여성 지원자를 자동으로 낮게 평가하는문제가 생겼다.

법적해결방안: 전문가와 다양한 사람의 참여,데이터 보호 및 개인정보법을 강화한다.

이유: 인터넷 문장 중에서 ‘의사=남자’, ‘간호사=여자’처럼 쓰인 예문이 많아서 AI가 그걸 따라배움.

해결방안: 성별 중립적은 표현을 쓰도록 번역 알고리즘을 바꾸고, 다양한 문장을 학습시키기.

이유 - 모델을 학습 시킬 때 다양한 피부 색상을 학습시키지 않음

법적 - 차별금지법

사회적 - 미디어 리터러시

윤리적 - 윤리교육

해결방안 흑인에 대한 고정관념을 없애야한다는 캠페인열기

이유 - 생성형 ai의 학습이 무분별하게 이루어졌고 인간의 혐오 표현, 범죄, 정치적 편향성 등이 답변에 반영됨

해결방안 - 윤리적 기준 등을 데이터에 부착해 정제하는 작업을 실행함 (라벨링)

이유- AI가 주로 백인 남성을 주로 우대하는 것을 학습

법적 해결방안-다양한 사람을 학습하도록 강요하고, 인공지능이 사람의 신용을 평가하는 것을 금지한다

이유-아프리카에 사는 흑인들은 무조건 흙집에 사는 등 가난하다는 사람들의 편견이 인공지능이 학습 하였기 때문이다.

법적 해결방안- 아프리카 흑인 차별 금지법, 피부색 상관 없이 공정성

윤리적 해결방안-인간들이 흑인 차별에 대하여 인공지능이 잘못된 의견을 인공지능이 학습 했나 검증, 보안

사회적 해결방안- 인공지능에게 인간들에게 있는 흑인차별 편견 데이터가 편향되지 않도록 사회적 노력을 기울인다.

이유-AI 학습 데이터의 편향성으로 인해 발생한 인종차별적 오류로 이 사건이 생겼다.

해결방안-법적- AI 개발 및 서비스 제공 과정에서 알고리즘 차별 검토 의무를 부과하고, 차별적 결과 발생 시 강력한 법적 책임을 물을 수 있도록 하기. 윤리적-개발자와 사용자를 위한 인공지능 윤리 지침 제공하기.

사회적-인공지능 사용의 한계에 대한 대중의 인식을 개선시키기

이유부올라미니의 최신 논문에 따르면 사진 속의 사람이 백인일 경우 소프트웨어는 99% 정확하게 맞추지만, 피부색이 어두워질수록 에러율이 올라가며, 특히 피부색이 어두운 여성의 이미지는 최고 35%까지 에러가 발생했기 때문이다.

법적 해결 방안 :차별 금지법

해결 방안: 어디 부분이 문제인지 확인 하고 대처하기

이유 : COMPAS 알고리즘은 기존의 형사사법 시스템 데이터를 기반으로 학습되었다. 이 데이터는 체포율, 형량, 유죄 판결 등에서 인종에 따라 불균형하게 형성된 과거의 인종적 편견을 그대로 반영하고 있었다

이유: 편향성을 줄이기 위해 연구팀은 의도적으로 환자의 인종, 성별, 연령 정보를 X선 이미지와 함께 AI에 제공했다. 그 결과 진단을 놓치는 비율은 절반으로 감소했지만, 효과를 보인 것은 일부 질환에 그쳤다.

->여성과 흑인을 차별

법적 해결방안- 공정법 의무화

이것은 KAIST의 한 부교수는 닛케이에 “AI 사용이 금지된 상황에서 긍정적인 평가를 유도한 것은 부적절했다”라며 알렸다.

이유:문제가 된 것은 공식적인 동료평가(peer review)를 거치기 전 단계인 아카이브(arXiv) 플랫폼에 등록된 영어 논문(preprint)들이다.

윤리적 해결방안:책임감 있는 인공지능 개발과 사용을 장려한다.

이유- 인공지능이 아프리카 사람들이 흑인이라는 잘못된 정보로 훈련되었기 때문이다.

법적 해결 방안- 차별 금지법 추진

사회적 해결 방안- 대중의 인식을 개선시키는 정책을 지시

윤리적 해결 방안-윤리 교육 강화

인공지능 편향 사례 원인 - 인공지능이 학습한 프로그램에 백인이 흑인, 히스패닉 보다 더 신용평가에서 우수하다는 결과를 낼 수 있는 편견이 들엉있었다.

해결방안 - 사람을 평가할 때에는 인공지능 사용을 줄인다.