이유 - 이 프로그램이 여성보다 남성 직원 비율이 높은 회사의 직원 이력 사항을 학습한 결과 남성 지원자에게 더 높은 점수를 주었기 때문이다.

법적 해결 방안 - 차별 금지법, 공정성 감사 의무화

윤리적 해결 방안 - 인간의 최종 결정권을 통해 검증, 보완

사회적 해결 방안 - AI에 학습되는 데이터가 편향되지 않도록 사회적 노력 기울이기

해결방안:인공지능 사용과 한계에 대한 대중의 인식을 개선시키는 정책을 지시

개발자와 사용자를 위한 인공지능 윤리 지침을 제공하고 윤리 교육 강화

이런것을 법적으로 재검토 아니면 국가에서 인공지능 관리 및 처리 서비스를 만드는게 좋겠다

COMPAS시스템이 있다. 이 시스템은 범죄자의 재범 가능성을 예측하는 데 활용되지만, 흑인의 재범 가능성을 과대평가하고 백인의 가능성을 과소평가하는 인종적 편향성을 보였다는 연구 결과가 공개돼 큰 논란을 일으켰다.

이 사례는 형사 사법 제도에서 AI의 사용이 오히려 기존의 사회적 편견과 불평등을 강화할 수 있다는 점을 잘 보여준다.법적으로 차별이 있기에 잘못된 인공지능을 사용해도 될까라는 의문이 들었다.

이유: 데이터 편향, 알고리즘 설계, 테스트 부족

법적: 차별 금지, 투명성, 책임 명확화

윤리적: 공정성, 개발자 윤리

사회적: 감시, 다양한 참여, 윤리 위원회

이유: 데이터를 수집할 때 흑인과 백인 같은 인종에 따른 직업이 정해져 있다는 자료를 학습해서

-법적 해결 방안: 자료 수집할 때 인종 차별적인 자료를 쓰지 못하게 한다.

-사회적 해결 방안: 인종 캠페인

-윤리적 해결방안: 학교 내 교육

MIT Media Lab 연구 결과:

구글, IBM, 마이크로소프트 등의 얼굴인식 AI가

백인 남성의 얼굴은 거의 완벽하게 인식(오류율 <1%),

그러나 흑인 여성의 얼굴은 최대 35%까지 오인식하는 것으로 드러남.

이유: 학습 데이터가 주로 백인 남성 얼굴로 구성되어 있었음.

연구팀은 동일한 사례에서 성별 정보만 바꿔 메타의 라마3과 구글의 제미나이 모델에 입력했다. 그 결과 여성 환자의 의료 문제가 간과되는 경향이 확인됐다. 예를 들어 남성 환자는 '복잡한 병력을 가진 84세 남성'이라고 설명했지만, 여성 환자는 '혼자 사는 84세 여성'이라고만 기술했다.

이러한 이유때문에 국가 및 ai개발사가 충분한 검사및 재검토를 하면 좋을 것 같다

이유:고릴라와 색이 비슷하다는 이유로 고릴라로 인식

법적 해결방안:인종차별금지법이나 인권 관련 법에 따른 손해배상 청구

피해자는 인공지능의 오작동으로 인해 명예훼손이나 인종차별적 피해를 입었다고 주장하며, 회사(구글)에 정신적 손해에 대한 배상을 요구할 수 있다. 법원은 기업이 AI 알고리즘의 편향성을 관리하지 못한 책임이 있다고 판단할 수 있다.

이유: AI가 여성에게 정신적, 신체적 문제를 무시하는 경양이 있어서

해결방안 - 법적 : 인공지능 편향에 관한 법률을 만든다

윤리적 : AI애 대해 공부할 때 윤리 과목의 학습을 의무로 만든다

사회적 : AI 윤리 정책을 만든다.

챗지피티 같은 대형 모델일 수록 이런 은밀한 차별이 더 심해진다고 한다. 기술적으론 이런 거대 모델이 학습한 데이터에 어떤 은밀한 차별이 숨어 있을지 살피는 것이 중요하다. 사회적으론 이런 개발 과정에서 소외된 소수가 목소리를 내느것이 중요하다.

I의 의사결정 과정을 투명하게 만들어 사용자의 신뢰를 높입니다.

AI 시스템의 안전성과 신뢰성을 높이기 위한 기술을 개발합니다.

AI의 결정을 맹신하지 않고 인간이 개입하고 검증하는 시스템을 만듭니다. 

해결방안:A.I개발할때 데이터분석단계에서 편향을 검증해야한다

'네이처'(Nature)에 'AI 이미지 생성 도구가 종종 인종·성차별적 결과를 만들어 낸다'는 제목의 기고문이 올라왔다.

기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 진행한 실험에 관한 것이었다.

달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.

이유:빅데이터에 내재한 인간의 편향성에 따른 결과라고 본다.

이유:데이터를 수집하느느 과정에서의 오류 또는 편향

해결방안:캠페인이나 교육 지원

이유:데이터는 과거에 발생했던 것들을 기록해놓은 것으로, 해당 데이터가 어떤 관점에서 본 것인지가 중요하다"며 "데이터를 어떻게 수집하고 분석, 해석해야하기 때문

이유:흑인들의 연간 의료비가 타 인종보다 훨씬 적었습니다. 연구팀은 고액 치료를 받기 힘든 흑인 사회의 현실이 AI 의료 알고리즘으로 드러났다고 추정했다.해결방안:

이유: 남성 중심의 데이터를 학습함

법적 해결 방법 - AI 투명성 법제화

채용 AI의 데이터 구성, 평가 기준, 알고리즘 작동 방식 등을 공개하도록 법으로 의무화해 차별적 판단이 발생할 경우 책임을 명확히 추적할 수 있도록 함.

윤리적 해결 방법 - 공정한 데이터 수집

AI 학습 단계에서 성별·인종·배경이 다양한 데이터를 균형 있게 포함시켜 특정 집단에 유리하거나 불리한 판단이 나오지 않도록 설계함.

사회적 해결 방법 - AI 윤리 교육 강화

개발자와 인사 담당자를 대상으로 AI 편향과 차별의 위험성을 교육해,

기술뿐 아니라 인권 감수성을 갖춘 AI 개발 문화를 조성함.