# data[].attributes.body
인공지능 편향 사례 - A사에서 개발한 인공지능 채용 프로그램이 지원자 중 남성 지원자를 더 우대

이유 - 이 프로그램이 여성보다 남성 직원 비율이 높은 회사의 직원 이력 사항을 학습한 결과 남성 지원자에게 더 높은 점수를 주었기 때문이다.

법적 해결 방안 - 차별 금지법, 공정성 감사 의무화

윤리적 해결 방안 - 인간의 최종 결정권을 통해 검증, 보완

사회적 해결 방안 - AI에 학습되는 데이터가 편향되지 않도록 사회적 노력 기울이기

# data[].attributes.attachment_link.title
아마존, 성차별 논란 인공지능 채용 폐기 - BBC News 코리아

# data[].attributes.attachment_link.description
아마존은 지난 10년간의 데이터를 바탕으로 한 인공지능 채용 프로그램을 개발해왔다.

# data[].attributes.body
아마존 채용 AI 사건

아마존은 인공지능으로 지원자를 평가하는 시스템을 만들었는데,

과거 데이터에 남성 지원자가 많았던 탓에

여성 지원자를 자동으로 낮게 평가하는문제가 생겼다.

법적해결방안: 전문가와 다양한 사람의 참여,데이터 보호 및 개인정보법을 강화한다.

# data[].attributes.body
사례:AI 얼굴 인식 기술 역시 편향성 논란에서 자유롭지 않다. 2020년 미국에서는 흑인 남성이 AI의 잘못된 얼굴 인식으로 인해 잘못된 체포를 당함

이유:얼굴 인식 AI가 백인 얼굴 데이터 중심으로 훈련돼 흑인이나 유색인종에 대한 정확도가 현저히 낮은 것으로 드러났다.

법적해결방안: 미국 일부 지역에서는 공공기관에서의 얼굴 인식 기술 사용을 제한하거나 금지하는 법안이 추진되고 있다.

# data[].attributes.body
과거의 데이터를 기반으로 특정 인종(흑인, 히스패닉 등)이 더 많이 범죄를 저지르는 것처럼 예측하여 과대 대표성을 부여하는 사례가 있다.

해결방안: 법적 측면으로는 데이터 수집 과정에선 개인정보보호법 준수 여부를 확인하고 사회적 측면으로는 인공지능을 사용하는 대중의 인식을 개선하는 정책을 추진하고 윤리적 측면에선 인공지능 윤리 교육을 강화한다.

# data[].attributes.body
국제학술지 네이처에서 달리라는 인공지능에게 아프리카 남자와 세련된 집'을 명령했지만 진흙집 앞 흑인' 그림이 출력됨.

이유-빅데이터에 내재한 인간의 편향성에 따른 결과

법적 해결 방안- 차별 금지법

윤리적 해결 방안- 윤리교육 강화

사회적 해결 방안- 정책 지시

# data[].attributes.body
사례: “The doctor is kind.”를 번역하면 “의사는 그(남자)가 친절하다.”처럼 성별을 자동으로 정함.

이유: 인터넷 문장 중에서 ‘의사=남자’, ‘간호사=여자’처럼 쓰인 예문이 많아서 AI가 그걸 따라배움.

해결방안: 성별 중립적은 표현을 쓰도록 번역 알고리즘을 바꾸고, 다양한 문장을 학습시키기.

# data[].attributes.body
사례 - 구글 포토에서 흑인 사진을 고릴라로 분류함

이유 - 모델을 학습 시킬 때 다양한 피부 색상을 학습시키지 않음

법적 - 차별금지법

사회적 - 미디어 리터러시

윤리적 - 윤리교육

# data[].attributes.body
인공지능 편향 사례:흑인이나 무주택자 또는 성소수자(LGBTQIA+)로 분류됐다면 긴급치료, 침습적 행위, 정신건강평가에 더욱 초점이 맞춰져 있었다. 노숙자 등으로 분류된 환자에게는 정신건강평가를 권고하는 비율이 6~7배 높았다.

해결방안 흑인에 대한 고정관념을 없애야한다는 캠페인열기

# data[].attributes.body
인공지능 편향 사례 - 인공지능 달리가 가정부는 유색인종, 승무원은 여성으로만 표현하는 등 편견이 있는 이미지들을 생성함

이유 - 생성형 ai의 학습이 무분별하게 이루어졌고 인간의 혐오 표현, 범죄, 정치적 편향성 등이 답변에 반영됨

해결방안 - 윤리적 기준 등을 데이터에 부착해 정제하는 작업을 실행함 (라벨링)

# data[].attributes.body
인공지능 편향 사례-최근 한 대형 은행이 신용 평가에 AI를 도입하면서 특정 인종과 성별에 따라 신용도가 많이 차이났다.

이유- AI가 주로 백인 남성을 주로 우대하는 것을 학습

법적 해결방안-다양한 사람을 학습하도록 강요하고, 인공지능이 사람의 신용을 평가하는 것을 금지한다

# data[].attributes.body
달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여자로 표현됐다.

이유-아프리카에 사는 흑인들은 무조건 흙집에 사는 등 가난하다는 사람들의 편견이 인공지능이 학습 하였기 때문이다.

법적 해결방안- 아프리카 흑인 차별 금지법, 피부색 상관 없이 공정성

윤리적 해결방안-인간들이 흑인 차별에 대하여 인공지능이 잘못된 의견을 인공지능이 학습 했나 검증, 보안

사회적 해결방안- 인공지능에게 인간들에게 있는 흑인차별 편견 데이터가 편향되지 않도록 사회적 노력을 기울인다.

# data[].attributes.body
인공지능 편향 사례-구글 이미지 분류 시스템이 인종 차별을 했다. 흑인 2명을 고릴라로 잘못 분류한 사실이 밝혀져 큰 비난을 받았다.

이유-AI 학습 데이터의 편향성으로 인해 발생한 인종차별적 오류로 이 사건이 생겼다.

해결방안-법적- AI 개발 및 서비스 제공 과정에서 알고리즘 차별 검토 의무를 부과하고, 차별적 결과 발생 시 강력한 법적 책임을 물을 수 있도록 하기. 윤리적-개발자와 사용자를 위한 인공지능 윤리 지침 제공하기.

사회적-인공지능 사용의 한계에 대한 대중의 인식을 개선시키기

# data[].attributes.body
인공지능 편향 사례: 피부색이 검을수록 얼굴인식 기능의 에러 발생률이 높아진다’뉴욕타임스(NYT)는 11일 MIT대 미디어랩의 조이 부올라미니 연구원의 최신 논문을 인용해 “현실 세계의 편견이 인공지능(AI)으로까지 번지고 있다”고 보도했다.

이유부올라미니의 최신 논문에 따르면 사진 속의 사람이 백인일 경우 소프트웨어는 99% 정확하게 맞추지만, 피부색이 어두워질수록 에러율이 올라가며, 특히 피부색이 어두운 여성의 이미지는 최고 35%까지 에러가 발생했기 때문이다.

법적 해결 방안 :차별 금지법

해결 방안: 어디 부분이 문제인지 확인 하고 대처하기

# data[].attributes.body
미국 사법부에서 사용된 범죄 재범 예측 알고리즘인 콤파스는 흑인 수감자들의 재범 위험을 백인 수감자들보다 과대평가하는 인종 편향성을 드러냈습니다.

이유 : COMPAS 알고리즘은 기존의 형사사법 시스템 데이터를 기반으로 학습되었다. 이 데이터는 체포율, 형량, 유죄 판결 등에서 인종에 따라 불균형하게 형성된 과거의 인종적 편견을 그대로 반영하고 있었다

# data[].attributes.body
인공지능 편향 사례: AI를 통한 질환 검출 정확도를 검증한 결과, 흑인 및 여성 환자의 질환 검출에서 편향이 확인됐다.

이유: 편향성을 줄이기 위해 연구팀은 의도적으로 환자의 인종, 성별, 연령 정보를 X선 이미지와 함께 AI에 제공했다. 그 결과 진단을 놓치는 비율은 절반으로 감소했지만, 효과를 보인 것은 일부 질환에 그쳤다.

->여성과 흑인을 차별

법적 해결방안- 공정법 의무화

# data[].attributes.body
이공지능 편향 사례:한국과학기술원(KAIST)등 유수의 대학들이 인공지능(AI) 심사 시스템을 의식해, 논문 내에 ‘숨겨진 프롬프트’를 삽입한 것으로 알려졌다.

이것은 KAIST의 한 부교수는 닛케이에 “AI 사용이 금지된 상황에서 긍정적인 평가를 유도한 것은 부적절했다”라며 알렸다.

이유:문제가 된 것은 공식적인 동료평가(peer review)를 거치기 전 단계인 아카이브(arXiv) 플랫폼에 등록된 영어 논문(preprint)들이다.

윤리적 해결방안:책임감 있는 인공지능 개발과 사용을 장려한다.

# data[].attributes.body
인공지능 편향 사례- 인공지능에게 아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력

이유- 인공지능이 아프리카 사람들이 흑인이라는 잘못된 정보로 훈련되었기 때문이다.

법적 해결 방안- 차별 금지법 추진

사회적 해결 방안- 대중의 인식을 개선시키는 정책을 지시

윤리적 해결 방안-윤리 교육 강화

# data[].attributes.body
인공지능 편향 사례 - 인공지능이 경제적 조건이 유사한 백인과 흑인, 히스패닉 고객들 중에서 백인에게 더 대출 승인률이 높게 나왔다.

인공지능 편향 사례 원인 - 인공지능이 학습한 프로그램에 백인이 흑인, 히스패닉 보다 더 신용평가에서 우수하다는 결과를 낼 수 있는 편견이 들엉있었다.

해결방안 - 사람을 평가할 때에는 인공지능 사용을 줄인다.