# data[].attributes.body
인공지능 편향 사례 - A사에서 개발한 인공지능 채용 프로그램이 지원자 중 남성 지원자를 더 우대

이유 - 이 프로그램이 여성보다 남성 직원 비율이 높은 회사의 직원 이력 사항을 학습한 결과 남성 지원자에게 더 높은 점수를 주었기 때문이다.

법적 해결 방안 - 차별 금지법, 공정성 감사 의무화

윤리적 해결 방안 - 인간의 최종 결정권을 통해 검증, 보완

사회적 해결 방안 - AI에 학습되는 데이터가 편향되지 않도록 사회적 노력 기울이기

# data[].attributes.attachment_link.title
아마존, 성차별 논란 인공지능 채용 폐기 - BBC News 코리아

# data[].attributes.attachment_link.description
아마존은 지난 10년간의 데이터를 바탕으로 한 인공지능 채용 프로그램을 개발해왔다.

# data[].attributes.body
사례:학술 연구에 따르면 생성형 AI 아트 제너레이션 애플리케이션인 Midourney에서 편향이 발견되었습니다. 전문 직종에 종사하는 사람들의 이미지를 만들어 달라는 요청에는 젊은 사람과 나이든 사람이 모두 등장했지만, 나이든 사람은 항상 남성으로 나타나 직장에서 여성의 역할에 대한 성별 편견이 심화되었습니다.

해결방안:인공지능 사용과 한계에 대한 대중의 인식을 개선시키는 정책을 지시

개발자와 사용자를 위한 인공지능 윤리 지침을 제공하고 윤리 교육 강화

# data[].attributes.body
연구팀은 동일한 사례에서 성별 정보만 바꿔 메타의 라마3과 구글의 제미나이 모델에 입력했다. 그 결과 여성 환자의 의료 문제가 간과되는 경향이 확인됐다. 예를 들어 남성 환자는 '복잡한 병력을 가진 84세 남성'이라고 설명했지만, 여성 환자는 '혼자 사는 84세 여성'이라고만 기술했다.

이런것을 법적으로 재검토 아니면 국가에서 인공지능 관리 및 처리 서비스를 만드는게 좋겠다

# data[].attributes.headline
형사 사법 체계의 AI 편향 논란형사 사법 체계에서도 AI 알고리즘의 편향성이 심각한 문제로 부상하고 있다.

# data[].attributes.subject
형사 사법 체계의 AI 편향 논란형사 사법 체계에서도 AI 알고리즘의 편향성이 심각한 문제로 부상하고 있다.

# data[].attributes.body
형사 사법 체계에서도 AI 알고리즘의 편향성이 심각한 문제로 부상하고 있다. 대표적인 예로

COMPAS시스템이 있다. 이 시스템은 범죄자의 재범 가능성을 예측하는 데 활용되지만, 흑인의 재범 가능성을 과대평가하고 백인의 가능성을 과소평가하는 인종적 편향성을 보였다는 연구 결과가 공개돼 큰 논란을 일으켰다.

이 사례는 형사 사법 제도에서 AI의 사용이 오히려 기존의 사회적 편견과 불평등을 강화할 수 있다는 점을 잘 보여준다.법적으로 차별이 있기에 잘못된 인공지능을 사용해도 될까라는 의문이 들었다.

# data[].attributes.body
사례: 채용 AI 남성 우대, 얼굴 인식 오류, 범죄 예측 편향

이유: 데이터 편향, 알고리즘 설계, 테스트 부족

법적: 차별 금지, 투명성, 책임 명확화

윤리적: 공정성, 개발자 윤리

사회적: 감시, 다양한 참여, 윤리 위원회

# data[].attributes.body
이미지 생성 AI에게 아프리카인 남성'을 묘사하는 이미지를 생성하라고 했을 때, 진흙집이 있는 배경과 흑인 남성이 등장하거나, 가정부는 백인 여성으로, 기내 승무원은 여성으로만 표현하는 등 성 역할 고정관념을 보여줍니다.

이유: 데이터를 수집할 때 흑인과 백인 같은 인종에 따른 직업이 정해져 있다는 자료를 학습해서

-법적 해결 방안: 자료 수집할 때 인종 차별적인 자료를 쓰지 못하게 한다.

-사회적 해결 방안: 인종 캠페인

-윤리적 해결방안: 학교 내 교육

# data[].attributes.body
사례: 여러 글로벌 기업의 얼굴인식 시스템

MIT Media Lab 연구 결과:

구글, IBM, 마이크로소프트 등의 얼굴인식 AI가

백인 남성의 얼굴은 거의 완벽하게 인식(오류율 <1%),

그러나 흑인 여성의 얼굴은 최대 35%까지 오인식하는 것으로 드러남.

이유: 학습 데이터가 주로 백인 남성 얼굴로 구성되어 있었음.

# data[].attributes.body
인공지능(AI)이 의료 분야에서 성차별적 편향을 강화할 수 있다는 영국 런던정경대학(LSE)의 연구 결과를 11일(현지시간) IT매체 엔가젯이 보도했다.

연구팀은 동일한 사례에서 성별 정보만 바꿔 메타의 라마3과 구글의 제미나이 모델에 입력했다. 그 결과 여성 환자의 의료 문제가 간과되는 경향이 확인됐다. 예를 들어 남성 환자는 '복잡한 병력을 가진 84세 남성'이라고 설명했지만, 여성 환자는 '혼자 사는 84세 여성'이라고만 기술했다.

이러한 이유때문에 국가 및 ai개발사가 충분한 검사및 재검토를 하면 좋을 것 같다

# data[].attributes.attachment_link.title
여성 환자 차별한다고? 의료 AI 편향성 도마 위

# data[].attributes.attachment_link.description
[디지털투데이 AI리포터] 인공지능(AI)이 의료 분야에서 성차별적 편향을 강화할 수 있다는 영국 런던정경대학(LSE)의 연구 결과를 11일(현지시간) IT매체 엔가젯이 보도했다.연구팀은 동일한 사례에서 성별 정보만 바꿔 메타의 라마3과 구글의 제미나이 모델에 입력했다. 그 결과 여성 환자의 의료 문제가 간과되는 경향이 확인됐다. 예를 들어 남성 환자는 ‘복잡한 병력을 가진 84세 남성‘이라고 설명했지만, 여성 환자는 ‘혼자 사는 84세 여성’이라고만 기술했다.실험에서 라마3는 성별에 따른 차이를 거의 보이지 않았지만, 제미나이는

# data[].attributes.body
인공지능 편향 사례:2015년 구글 회사에서 흑인을 고릴라로 인식

이유:고릴라와 색이 비슷하다는 이유로 고릴라로 인식

법적 해결방안:인종차별금지법이나 인권 관련 법에 따른 손해배상 청구

피해자는 인공지능의 오작동으로 인해 명예훼손이나 인종차별적 피해를 입었다고 주장하며, 회사(구글)에 정신적 손해에 대한 배상을 요구할 수 있다. 법원은 기업이 AI 알고리즘의 편향성을 관리하지 못한 책임이 있다고 판단할 수 있다.

# data[].attributes.body
인공지능 편향 사례- 대학 연구 결과, 제미나이 인공지능이 의료분야에서 성차별적 진료를 많이 한다고 한다.

이유: AI가 여성에게 정신적, 신체적 문제를 무시하는 경양이 있어서

해결방안 - 법적 : 인공지능 편향에 관한 법률을 만든다

윤리적 : AI애 대해 공부할 때 윤리 과목의 학습을 의무로 만든다

사회적 : AI 윤리 정책을 만든다.

# data[].attributes.attachment_link.title
여성 환자 차별한다고? 의료 AI 편향성 도마 위

# data[].attributes.attachment_link.description
[디지털투데이 AI리포터] 인공지능(AI)이 의료 분야에서 성차별적 편향을 강화할 수 있다는 영국 런던정경대학(LSE)의 연구 결과를 11일(현지시간) IT매체 엔가젯이 보도했다.연구팀은 동일한 사례에서 성별 정보만 바꿔 메타의 라마3과 구글의 제미나이 모델에 입력했다. 그 결과 여성 환자의 의료 문제가 간과되는 경향이 확인됐다. 예를 들어 남성 환자는 ‘복잡한 병력을 가진 84세 남성‘이라고 설명했지만, 여성 환자는 ‘혼자 사는 84세 여성’이라고만 기술했다.실험에서 라마3는 성별에 따른 차이를 거의 보이지 않았지만, 제미나이는

# data[].attributes.body
지난 3월 미국 앨런인공지능연구소, 스탠퍼드대 소속 연구원 등이 이같은 실험을 거쳐 ‘방언에 대한 편견으로 사람의 성격, 고용 가능성, 범죄 예측에 대한 인공지능의 판단 예측’이라는 제목으로 발표한 연구 결과는 충격적이다. 표준 미국 영어를 쓰는 경우에 견줘 흑인 영어를 사용하는 화자는 ‘의심스럽다’, ‘과격하다’ 등 부정적으로 낙인찍힐 가능성이 높았다. 질이 나쁜 일자리를 소개받거나 동일한 범죄라도 재판에서 중형을 선고받을 것으로 예측되었다.

챗지피티 같은 대형 모델일 수록 이런 은밀한 차별이 더 심해진다고 한다. 기술적으론 이런 거대 모델이 학습한 데이터에 어떤 은밀한 차별이 숨어 있을지 살피는 것이 중요하다. 사회적으론 이런 개발 과정에서 소외된 소수가 목소리를 내느것이 중요하다.

# data[].attributes.body
2020년 12월 한국 기업 스캐터랩에서 출시한 ‘이루다’는 20대 여대생 설정 챗봇으로, 친구 같은 AI를 표방했습니다. 그러나 출시된 지 얼마 되지 않아 소수자를 대상으로 한 혐오와 차별 발언을 해서 논란을 일으켰습니다. 또한 별도의 서비스로 수집한 다른 사용자의 개인정보를 무단 활용해서 문제가 되었습니다. 부적절한 성적 대화 요구에 대한 대처나 차단 방안이 부재하다는 비판도 일었습니다. 결국 이루다는 출시 20일 만에 서비스를 중단해야 했으며, 약 2년간의 수정 보완 작업을 거친 후 2.0버전으로 재출시되었습니다.

I의 의사결정 과정을 투명하게 만들어 사용자의 신뢰를 높입니다.

AI 시스템의 안전성과 신뢰성을 높이기 위한 기술을 개발합니다.

AI의 결정을 맹신하지 않고 인간이 개입하고 검증하는 시스템을 만듭니다.

# data[].attributes.body
사례:텍스트 입력 시 이미지를 생성해주는 AI모델인 '스테이블 디퓨전(Stable Diffusion)'에 특정 단어를 입력하면 성별 편향이 강하게 나타났다. 예를 들어 '엔지니어'를 검색하면 안전모를 쓴 남성이, '사회복지사'와 '가사도우미'를 검색하면 비백인여성이, 'CEO'를 검색하면 백인남성의 이미지가 생성됐다.

이유:데이터는 과거에 발생했던 것들을 기록해놓은 것으로, 해당 데이터가 어떤 관점에서 본 것인지가 중요하다"며 "데이터를 어떻게 수집하고 분석, 해석해야하기 때문

# data[].attributes.body
편향사례: 의료 여성이나 소수 민족에 대한 데이터가 부족하면 예측 AI 알고리즘이 왜곡될 수 있습니다. 예를 들어, 컴퓨터 지원 진단(CAD) 시스템은 백인 환자보다 흑인 환자의 경우 정확도가 낮은 결과를 반환하는 것으로 나타났습니다.

해결방안:A.I개발할때 데이터분석단계에서 편향을 검증해야한다

# data[].attributes.body
AI 업계에 따르면 이달 국제학술지

'네이처'(Nature)에 'AI 이미지 생성 도구가 종종 인종·성차별적 결과를 만들어 낸다'는 제목의 기고문이 올라왔다.

기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 진행한 실험에 관한 것이었다.

달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.

이유:빅데이터에 내재한 인간의 편향성에 따른 결과라고 본다.

# data[].attributes.body
사례: 연구팀은 동일한 사례에서 성별 정보만 바꿔 메타의 라마3과 구글의 제미나이 모델에 입력했다. 그 결과 여성 환자의 의료 문제가 간과되는 경향이 확인됐다. 예를 들어 남성 환자는 '복잡한 병력을 가진 84세 남성'이라고 설명했지만, 여성 환자는 '혼자 사는 84세 여성'이라고만 기술했다.여성의 정신적·신체적 건강 문제를 경시하는 경향이 두드러졌다.이렇게 의료 ai가 성별로 차별을 하고 있다.

이유:데이터를 수집하느느 과정에서의 오류 또는 편향

해결방안:캠페인이나 교육 지원

# data[].attributes.body
사례: 2019년 UC 버클리의 오비마이어 연구팀은 미국의 의료 시스템이 흑인의 건강위험 점수를 타 인종보다 10점 낮게 매겼다.

이유:흑인들의 연간 의료비가 타 인종보다 훨씬 적었습니다. 연구팀은 고액 치료를 받기 힘든 흑인 사회의 현실이 AI 의료 알고리즘으로 드러났다고 추정했다.해결방안:

# data[].attributes.body
AI 편향 사례 : 아마존은 AI로 이력서를 자동 평가하는 채용 시스템을 개발했지만 남성 지원자를 우대하고 여성 지원자를 불리하게 평평함

이유: 남성 중심의 데이터를 학습함

법적 해결 방법 - AI 투명성 법제화

채용 AI의 데이터 구성, 평가 기준, 알고리즘 작동 방식 등을 공개하도록 법으로 의무화해 차별적 판단이 발생할 경우 책임을 명확히 추적할 수 있도록 함.

윤리적 해결 방법 - 공정한 데이터 수집

AI 학습 단계에서 성별·인종·배경이 다양한 데이터를 균형 있게 포함시켜 특정 집단에 유리하거나 불리한 판단이 나오지 않도록 설계함.

사회적 해결 방법 - AI 윤리 교육 강화

개발자와 인사 담당자를 대상으로 AI 편향과 차별의 위험성을 교육해,

기술뿐 아니라 인권 감수성을 갖춘 AI 개발 문화를 조성함.