# data[].attributes.body
인공지능 편향 사례 - A사에서 개발한 인공지능 채용 프로그램이 지원자 중 남성 지원자를 더 우대

이유 - 이 프로그램이 여성보다 남성 직원 비율이 높은 회사의 직원 이력 사항을 학습한 결과 남성 지원자에게 더 높은 점수를 주었기 때문이다.

법적 해결 방안 - 차별 금지법, 공정성 감사 의무화

윤리적 해결 방안 - 인간의 최종 결정권을 통해 검증, 보완

사회적 해결 방안 - AI에 학습되는 데이터가 편향되지 않도록 사회적 노력 기울이기

# data[].attributes.attachment_link.title
아마존, 성차별 논란 인공지능 채용 폐기 - BBC News 코리아

# data[].attributes.attachment_link.description
아마존은 지난 10년간의 데이터를 바탕으로 한 인공지능 채용 프로그램을 개발해왔다.

# data[].attributes.body
AI 달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.

이유: 빅데이터에 내재한 인간의 편향성에 따른 결과

https://share.google/PJifpBqLuv2ad6kqX

# data[].attributes.body
이미지 생성 인공지능 달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다 아프리카 남자와 세련된 집을 명령어로 입력하면 진흙집 앞 흑인 그림이 출력됐다 가정부는 유색인종으로 기내 승무원은 여성으로만 표현했다

해결방안 인간의 차별이 포함되지 않은 자료로 학습시키기

# data[].attributes.body
사례 :2020년 미국에서는 흑인 남성이 AI의 잘못된 얼굴 인식으로 인해 잘못된 체포를 당한 사건이 발생했다.

이 사건을 조사한 결과 얼굴 인식 AI가 백인 얼굴 데이터 중심으로 훈련돼 흑인이나 유색인종에 대한 정확도가 현저히 낮은 것으로 드러났다.

특히 여성과 흑인에 대한 얼굴 인식 정확도는 상대적으로 낮아, 이들이 부당한 처우를 받을 가능성이 높아지고 있다는 보고서도 여러 차례 발표된 바 있다.

해결방안: 법적으로 공공기관에서의 얼굴잉식 기능 사용을 금지한다.

# data[].attributes.body
챗봇이 특정 성별에 대한 편견을 보이고, 이미지 생성 AI가 특정 인종의 이미지만 더 잘 만들어내거나, 지원자 추적 시스템이 여성 지원자를 차별하는 경우

인공지능 재교육을한다

# data[].attributes.body
생성형인공지능이의사는백인만보여주고범죄자는흑인만보여줬다

해결방안 데이터사전처리로예방한다

# data[].attributes.body
2020년 미국에서는 흑인 남성이 AI의 잘못된 얼굴 인식으로 인해 잘못된 체포를 당한 사건이 발생했다.

이 사건을 조사한 결과 얼굴 인식 AI가 백인 얼굴 데이터 중심으로 훈련돼 흑인이나 유색인종에 대한 정확도가 현저히 낮은 것으로 드러났다.

특히 여성과 흑인에 대한 얼굴 인식 정확도는 상대적으로 낮아, 이들이 부당한 처우를 받을 가능성이 높아지고 있다는 보고서도 여러 차례 발표된 바 있다.

결국 미국 일부 지역에서는 공공기관에서의 얼굴 인식 기술 사용을 제한하거나 금지하는 법안까지 추진되고 있다.

인공지능 새롭게 편향되지 않은 정보로 다시 학습시킨다

# data[].attributes.body
미국 캘리포니아 대학교 로스앤젤레스(UCLA) 연구팀이 'CheXzero'라는 AI 모델을 통한 질환 검출 정확도를 검증한 결과, "흑인 및 여성 환자의 질환 검출에서 편향이 확인됐다"고 보고했다.

법적 해결 방안: ai에게 편향된 자료를 학습시키지 못하게 한다

사회적 방안: ai는 편향된 자료를 알려줄 수 있다고 교육한다

윤리적 방안: 개발자에게 윤리 지침을 제공 한다

https://www.thedailypost.kr/news/articleView.html?idxno=109100

# data[].attributes.body
얼굴 인식 기술은 범죄 수사, 공항 보안, 출입 통제 등 다양한 분야에서 사용되고 있지만, 특정 인종에 대한 오류율이 높아 논란이 되고 있음. 특히 흑인과 같은 유색인종의 얼굴을 백인보다 훨씬 더 잘못 식별하는 경향이 있음. AI 개발자는 AI 윤리 가이드라인을 준수하여 AI 시스템을 설계하고 개발해야함. AI 윤리 가이드라인은 AI 시스템의 공정성, 투명성, 책임성 등을 강조해야함.

# data[].attributes.body
영국 연구진이 AI가 여성 환자 증상 축소하는 편향성 발견을 발견했다. 구글 AI는 같은 사례라도 상대적으로 여성은 건강하다는 답을 줬다. 이는 AI 의료 활용이 여성에게 불리할 수 있음을 경고한다.

해결방안:연구팀은 동일한 사례에서 성별 정보만 바꿔 메타의 라마3과 구글의 제미나이 모델에 입력했다. 그 결과 여성 환자의 의료 문제가 간과되는 경향이 확인됐다. 예를 들어 남성 환자는 '복잡한 병력을 가진 84세 남성'이라고 설명했지만, 여성 환자는 '혼자 사는 84세 여성'이라고만 기술했다.

# data[].attributes.body
사례 28일 AI 업계에 따르면 이달 국제학술지 '네이처'(Nature)에 'AI 이미지 생성 도구가 종종 인종·성차별적 결과를 만들어 낸다'는 제목의 기고문이 올라왔다.

기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 진행한 실험에 관한 것이었다.

달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.

업계는 빅데이터에 내재한 인간의 편향성에 따른 결과라고 본다.

법적 측면:ai편향 방지를 위한 법 개정

사회적 해결 방안:인공지능과 대중의 인식을 개선하기 위한 정책을 마련하고

윤리적 측면:개발자와 사용자에게 이용지침을 제공한다

# data[].attributes.body
인공지능 편향 사례- AI 얼굴 인식 기술 역시 편향성 논란에서 자유롭지 않다. 2020년 미국에서는 흑인 남성이 AI의 잘못된 얼굴 인식으로 인해 잘못된 체포를 당한 사건이 발생했다.

이 사건을 조사한 결과 얼굴 인식 AI가 백인 얼굴 데이터 중심으로 훈련돼 흑인이나 유색인종에 대한 정확도가 현저히 낮은 것으로 드러났다.

특히 여성과 흑인에 대한 얼굴 인식 정확도는 상대적으로 낮아, 이들이 부당한 처우를 받을 가능성이 높아지고 있다는 보고서도 여러 차례 발표된 바 있다.

해결 방안- 인공지능을 재교육한다

# data[].attributes.body
구글(Google) 얼굴 인식 편향 사례

상황: 2015년 구글 사진 서비스에서 흑인 사용자의 얼굴을 원숭이로 분류하는 심각한 오류 발생.

원인: AI가 훈련된 이미지 데이터셋에 인종적 다양성이 부족했고, 검증 과정에.서도 이런 오류를 발견하지 못함.

해결방안:

편향에 대한 연구와 교육 강화

AI 개발자들이 편향 문제를 인식하고 대응할 수 있도록 윤리 교육과 최신 연구 결과를 지속적으로 공유해야 해요.

조직 차원에서 편향 문제를 다루는 팀을 별도로 운영하는 것도 효과적입니다.

# data[].attributes.body
• 학술 연구에 따르면 생성형 AI 아트 제너레이션 애플리케이션인 Midourney에서 편향이 발견되었다.

전문 직종에 종사하는 사람들의 이미지를 만들어 달라는 요청에는 젊은 사람과 나이든 사람이 모두 등장했지만, 나이든 사람은 항상 남성으로 나타나 직장에서 여성의 역할에 대한 성별 편견이 심화되었다.

•해결방안

•법적 해결방안: 차별 금지법 제정.

•윤리적 해결방안: 인공지능이 학습할 데이터를 인간이 정한다.

•사회적 해결방안: Ai를 인간이 직접 학습시킴

# data[].attributes.body
인공지능(AI) 모델이 거의 모든 직업군에서 여성의 이미지를 실제보다 젊게 묘사하고 있다는 분석이 나왔다. 가상 이력서 평가에서는 나이가 많은 남성을 근거 없이 고평가하는 경향을 보였다. AI의 편향된 응답은 실제 현실과는 불일치해 AI가 고정관념을 확대 재생산할 수 있다는 우려가 제기됐다.

출처:동아사이언스

법적 해결방안:편향된 인공지능을 처벌하는 법을 강화한다

# data[].attributes.body
매장 고객 데이터 분석을 통해 임신한 소녀에게 임산부용품 마케팅 우편물을 보내면서 상황을 모르고 있던 가족들을 혼비백산하게 만들었다. 영국에선 정부가 집계한 코로나19 검진 데이터가 대규모로 사라졌는가 하면, 미국에선 의료지원이 꼭필요한 저소득층 흑인이 오히려 차별적으로 누락되는 사태가 발생했다

해결방안:사회 다양성을 존중한 자료 학습시키기

# data[].attributes.body
28일 AI 업계에 따르면 이달 국제학술지 '네이처'(Nature)에 'AI 이미지 생성 도구가 종종 인종·성차별적 결과를 만들어 낸다'는 제목의 기고문이 올라왔다.

기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 진행한 실험에 관한 것이었다.

달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.

업계는 빅데이터에 내재한 인간의 편향성에 따른 결과라고 본다

해결: 다양한 자료를 학습시켜서 ai가 편향된 자료를 주지 않게 주의한다.

# data[].attributes.body
인공지능 윤리적 문제 - 학습 데이터의 저작권 문제

생성형 인공지능의 학습에 이용되는 다량의 데이터들이 저작권자의 동의 없이 사용되어 문제가 생김

법적 해결방안:저작권법에 인공지능 관련 조항 제장 및 강화

사회적 방안:인공지능에 데이터를 학습 시킬 때 저작권을 확인한 후 동의를 받고 사용

# data[].attributes.body
AI가 의료진단을 할때 인종, 소득정도, 노숙자 등에 따라 다른 진단을 내린다는 것을 영국에 <로이터>에서 발표했다. 실제로 고소득층 환자에게는 CT 혹은 MRI등의 검사를 추천하지만 저소득층 환자에게는 저렴한 진단이나 문제가 없다고 진단을 한다고 한다.

# data[].attributes.body
AI 얼굴 인식 기술 역시 편향성 논란에서 자유롭지 않다. 2020년 미국에서는 흑인 남성이 AI의 잘못된 얼굴 인식으로 인해 잘못된 체포를 당한 사건이 발생했다.

이 사건을 조사한 결과 얼굴 인식 AI가 백인 얼굴 데이터 중심으로 훈련돼 흑인이나 유색인종에 대한 정확도가 현저히 낮은 것으로 드러났다.

특히 여성과 흑인에 대한 얼굴 인식 정확도는 상대적으로 낮아, 이들이 부당한 처우를 받을 가능성이 높아지고 있다는 보고서도 여러 차례 발표된 바 있다.

결국 미국 일부 지역에서는 공공기관에서의 얼굴 인식 기술 사용을 제한하거나 금지하는 법안까지 추진되고 있다.

해결방안: 인공지능에게 편견을 없애게 위해 흑인들이라고편견글 같지 말라고 학습시키기