이유 - 이 프로그램이 여성보다 남성 직원 비율이 높은 회사의 직원 이력 사항을 학습한 결과 남성 지원자에게 더 높은 점수를 주었기 때문이다.

법적 해결 방안 - 차별 금지법, 공정성 감사 의무화

윤리적 해결 방안 - 인간의 최종 결정권을 통해 검증, 보완

사회적 해결 방안 - AI에 학습되는 데이터가 편향되지 않도록 사회적 노력 기울이기

이유: 빅데이터에 내재한 인간의 편향성에 따른 결과

https://share.google/PJifpBqLuv2ad6kqX

해결방안 인간의 차별이 포함되지 않은 자료로 학습시키기

이 사건을 조사한 결과 얼굴 인식 AI가 백인 얼굴 데이터 중심으로 훈련돼 흑인이나 유색인종에 대한 정확도가 현저히 낮은 것으로 드러났다.

특히 여성과 흑인에 대한 얼굴 인식 정확도는 상대적으로 낮아, 이들이 부당한 처우를 받을 가능성이 높아지고 있다는 보고서도 여러 차례 발표된 바 있다.

해결방안: 법적으로 공공기관에서의 얼굴잉식 기능 사용을 금지한다.

인공지능 재교육을한다

해결방안 데이터사전처리로예방한다

이 사건을 조사한 결과 얼굴 인식 AI가 백인 얼굴 데이터 중심으로 훈련돼 흑인이나 유색인종에 대한 정확도가 현저히 낮은 것으로 드러났다.

특히 여성과 흑인에 대한 얼굴 인식 정확도는 상대적으로 낮아, 이들이 부당한 처우를 받을 가능성이 높아지고 있다는 보고서도 여러 차례 발표된 바 있다.

결국 미국 일부 지역에서는 공공기관에서의 얼굴 인식 기술 사용을 제한하거나 금지하는 법안까지 추진되고 있다.

인공지능 새롭게 편향되지 않은 정보로 다시 학습시킨다

법적 해결 방안: ai에게 편향된 자료를 학습시키지 못하게 한다

사회적 방안: ai는 편향된 자료를 알려줄 수 있다고 교육한다

윤리적 방안: 개발자에게 윤리 지침을 제공 한다

https://www.thedailypost.kr/news/articleView.html?idxno=109100

해결방안:연구팀은 동일한 사례에서 성별 정보만 바꿔 메타의 라마3과 구글의 제미나이 모델에 입력했다. 그 결과 여성 환자의 의료 문제가 간과되는 경향이 확인됐다. 예를 들어 남성 환자는 '복잡한 병력을 가진 84세 남성'이라고 설명했지만, 여성 환자는 '혼자 사는 84세 여성'이라고만 기술했다.

기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 진행한 실험에 관한 것이었다.

달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.

업계는 빅데이터에 내재한 인간의 편향성에 따른 결과라고 본다.

법적 측면:ai편향 방지를 위한 법 개정

사회적 해결 방안:인공지능과 대중의 인식을 개선하기 위한 정책을 마련하고

윤리적 측면:개발자와 사용자에게 이용지침을 제공한다

인공지능 편향 사례- AI 얼굴 인식 기술 역시 편향성 논란에서 자유롭지 않다. 2020년 미국에서는 흑인 남성이 AI의 잘못된 얼굴 인식으로 인해 잘못된 체포를 당한 사건이 발생했다.

이 사건을 조사한 결과 얼굴 인식 AI가 백인 얼굴 데이터 중심으로 훈련돼 흑인이나 유색인종에 대한 정확도가 현저히 낮은 것으로 드러났다.

특히 여성과 흑인에 대한 얼굴 인식 정확도는 상대적으로 낮아, 이들이 부당한 처우를 받을 가능성이 높아지고 있다는 보고서도 여러 차례 발표된 바 있다.

해결 방안- 인공지능을 재교육한다

• 상황: 2015년 구글 사진 서비스에서 흑인 사용자의 얼굴을 원숭이로 분류하는 심각한 오류 발생.

• 원인: AI가 훈련된 이미지 데이터셋에 인종적 다양성이 부족했고, 검증 과정에.서도 이런 오류를 발견하지 못함.

• 해결방안:

  편향에 대한 연구와 교육 강화

  • AI 개발자들이 편향 문제를 인식하고 대응할 수 있도록 윤리 교육과 최신 연구 결과를 지속적으로 공유해야 해요.

  • 조직 차원에서 편향 문제를 다루는 팀을 별도로 운영하는 것도 효과적입니다.

전문 직종에 종사하는 사람들의 이미지를 만들어 달라는 요청에는 젊은 사람과 나이든 사람이 모두 등장했지만, 나이든 사람은 항상 남성으로 나타나 직장에서 여성의 역할에 대한 성별 편견이 심화되었다.

•해결방안

•법적 해결방안: 차별 금지법 제정.

•윤리적 해결방안: 인공지능이 학습할 데이터를 인간이 정한다.

•사회적 해결방안: Ai를 인간이 직접 학습시킴

출처:동아사이언스

법적 해결방안:편향된 인공지능을 처벌하는 법을 강화한다

해결방안:사회 다양성을 존중한 자료 학습시키기

기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 진행한 실험에 관한 것이었다.

달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.

업계는 빅데이터에 내재한 인간의 편향성에 따른 결과라고 본다

해결: 다양한 자료를 학습시켜서 ai가 편향된 자료를 주지 않게 주의한다.

생성형 인공지능의 학습에 이용되는 다량의 데이터들이 저작권자의 동의 없이 사용되어 문제가 생김

법적 해결방안:저작권법에 인공지능 관련 조항 제장 및 강화

사회적 방안:인공지능에 데이터를 학습 시킬 때 저작권을 확인한 후 동의를 받고 사용

이 사건을 조사한 결과 얼굴 인식 AI가 백인 얼굴 데이터 중심으로 훈련돼 흑인이나 유색인종에 대한 정확도가 현저히 낮은 것으로 드러났다.

특히 여성과 흑인에 대한 얼굴 인식 정확도는 상대적으로 낮아, 이들이 부당한 처우를 받을 가능성이 높아지고 있다는 보고서도 여러 차례 발표된 바 있다.

결국 미국 일부 지역에서는 공공기관에서의 얼굴 인식 기술 사용을 제한하거나 금지하는 법안까지 추진되고 있다.

해결방안: 인공지능에게 편견을 없애게 위해 흑인들이라고편견글 같지 말라고 학습시키기