# data[].attributes.body
인공지능 편향 사례 - A사에서 개발한 인공지능 채용 프로그램이 지원자 중 남성 지원자를 더 우대

이유 - 이 프로그램이 여성보다 남성 직원 비율이 높은 회사의 직원 이력 사항을 학습한 결과 남성 지원자에게 더 높은 점수를 주었기 때문이다.

법적 해결 방안 - 차별 금지법, 공정성 감사 의무화

윤리적 해결 방안 - 인간의 최종 결정권을 통해 검증, 보완

사회적 해결 방안 - AI에 학습되는 데이터가 편향되지 않도록 사회적 노력 기울이기

# data[].attributes.attachment_link.title
아마존, 성차별 논란 인공지능 채용 폐기 - BBC News 코리아

# data[].attributes.attachment_link.description
아마존은 지난 10년간의 데이터를 바탕으로 한 인공지능 채용 프로그램을 개발해왔다.

# data[].attributes.body
챗 지피티의 회사인 오픈 에이아이에서 dall-e 에서 '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다고 한다.

# data[].attributes.body
https://www.news1.kr/it-science/general-it/5364985

AI가 의사는 백인 범죄자는 흑인이라고 질문에 답변했다

# data[].attributes.body
https://www.google.com/url?sa=t&source=web&rct=j&opi=89978449&url=https://www.news1.kr/it-science/general-it/5364985&ved=2ahUKEwjjhdfQwLGQAxXpmq8BHTsdFoUQFnoECEwQAQ&usg=AOvVaw13gBokUSDgV3Pwkv6XL3C2

# data[].attributes.body
블룸버그 통신이 최근 진행한 실험에서 대표 이미지 생성AI인 ‘스테이블 디퓨전’은 ‘패스트푸드 직원’이라는 키워드를 넣은 명령에서 70% 이상을 어두운 피부색을 지닌 인물로 묘사했다.

# data[].attributes.body
의료 인공지능이 여성 환자의 질환을 축소하는 답을 주었다. 예)남성 환자는 '복잡한 병력을 가진 84세 남성'이라고 설명했지만, 여성 환자는 '혼자 사는 84세 여성'이라고만 기술했다.

# data[].attributes.attachment_link.title
여성 환자 차별한다고? 의료 AI 편향성 도마 위

# data[].attributes.attachment_link.description
[디지털투데이 AI리포터] 인공지능(AI)이 의료 분야에서 성차별적 편향을 강화할 수 있다는 영국 런던정경대학(LSE)의 연구 결과를 11일(현지시간) IT매체 엔가젯이 보도했다.연구팀은 동일한 사례에서 성별 정보만 바꿔 메타의 라마3과 구글의 제미나이 모델에 입력했다. 그 결과 여성 환자의 의료 문제가 간과되는 경향이 확인됐다. 예를 들어 남성 환자는 ‘복잡한 병력을 가진 84세 남성‘이라고 설명했지만, 여성 환자는 ‘혼자 사는 84세 여성’이라고만 기술했다.실험에서 라마3는 성별에 따른 차이를 거의 보이지 않았지만, 제미나이는

# data[].attributes.body
인공지능(AI) 편향성은 학습 데이터의 불균형이나 알고리즘 설계 오류로 인해 발생하며, 채용, 이미지 인식, 성별 고정관념 강화 등 다양한 사례가 있습니다. 예를 들어, 챗봇이 특정 성별에 대한 편견을 보이고, 이미지 생성 AI가 특정 인종의 이미지만 더 잘 만들어내거나, 지원자 추적 시스템이 여성 지원자를 차별하는 경우가 있습니다.

# data[].attributes.body
실생활에서의 AI 편향성의 예 의료 — 여성이나 소수 민족에 대한 데이터가 부족하면 예측 AI 알고리즘이 왜곡될 수 있습니다. 예를 들어, 컴퓨터 지원 진단(CAD) 시스템은 백인 환자보다 흑인 환자의 경우 정확도가 낮은 결과를 반환하는 것으로 나타났습니다.

법적 해결방안은 차별 금지법이나 공정성을 정할 수 있는 법을 만드는 것입니다

# data[].attributes.body
아마존이 과거 10년 치 채용 정보를 학습시켜 만든 AI 채용 시스템은 여성에게 낮은 점수를 주거나 배제하는 오류를 일으켰다. 통계적으로 지난 10년간 남성이 승진하거나 임원이 되는 경우가 훨씬 많았기 때문에 일어난 일이다.

# data[].attributes.body
이미지 생성 인공지능 달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.

데이터의 편향성 때문이다.

데이터 사전처리 기술을 만든다

# data[].attributes.body
일반적으로 철수는 남자이름, 영수는 여자이름이라고 판단을 하게 되는데, ChatGPT는 남자이름인 철수에 대해서는 승진,임원,강인함,논리력,사회적 성공, 우월함 등의 단어를 짝지었고 여자이름인 영희에 대해서는 집안일, 살림,섬세함,꼼꼼함 등의 단어를 짝지었습니다.

정리하자면 ChatGPT는 다음과 같이 남자와 여자에 대한 선입견을 은연중에 드러냈습니다.

남자와 여자에 대한 편견이 있는 데이터를 학습했기 때문이다.

데이터의 다양성과 균형을 확보한다.

출처 : 퍼블릭뉴스(https://www.psnews.co.kr)

# data[].attributes.body
2023년 미국 뉴욕 법원, 마타 씨와 아비앙카 항공사의 다툼에서 웃지 못 할 일이 발생했습니다. 이 사건은 마타 씨가 운항 도중 서빙 카트에 치여 상처를 입었다고 항공사를 고소한 사건이었습니다. 아비앙카 항공사 측이 법원에 사건 기각을 요청하자, 마타 씨의 변호사들은 관련 법원 판결을 6개 이상 인용한 보고서를 제출하면서 거세게 반대했습니다. 하지만 판사를 비롯한 누구도 그 보고서에 인용된 판결이나 인용문을 찾을 수 없었습니다. 생성형 AI 챗지피티가 창작한 것이었기 때문입니다.

# data[].attributes.body
사례: 컴퓨터 지원 진단(CAD) 시스템은 백인 환자보다 흑인 환자의 경우 정확한 정보를 모으지 못하여 정확도가 낮은 결과를 반환하는 것으로 나타났다.

해결 방안: 균형 잡힌 데이터 확보, 데이터 편향성 측정 및 관찰 등이 있다.

# data[].attributes.body
인공지능 편향의 사례로는 의료 분야에서 소수민족 환자에 대한 진단 정확도가 떨어지는 경우, 채용 분야에서 과거 데이터에 기반해 여성 지원자를 차별하는 경우, 검색 엔진에서 특정 직업(예: 교수)을 백인 남성과, 다른 집단(예: 흑인 청소년)을 범죄와 연결하는 경우가 있습니다. 이 외에도 얼굴 인식 기술이 피부색이 짙은 여성의 인식 정확도가 낮은 문제, 신용카드 발급 시 여성에게 남성보다 낮은 한도를 부여한 사례 등이 있습니다.

# data[].attributes.body
얼굴 인식 기술: 얼굴 인식 AI가 주로 백인 남성의 얼굴로만 학습되어, 흑인 여성 등 다른 인종의 얼굴을 잘못 인식하는 오류가 발생했습니다. 예를 들어, 흑인 여성의 오류율이 35%에 달한 연구 결과가 있다.이 일이 발생하는 이유는 데이터 불균형과 알고리즘 설계 때문이다.

# data[].attributes.body
의사는 백인·범죄자는 흑인?…"AI 편향성, 데이터 사전처리로 예방"

'미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.

생성형 인공지능(AI)은 인간의 혐오 표현이나 고정관념도 배울 수 있다. 성차별, 인종차별 등 편향된 결과물을 내놓을 수 있단 의미다. 이런 피해를 막으려면 윤리 기준 등을 데이터에 반영한 사전 처리 작업이 필요하다.

# data[].attributes.body
28일 AI 업계에 따르면 이달 국제학술지 '네이처'(Nature)에 'AI 이미지 생성 도구가 종종 인종·성차별적 결과를 만들어 낸다'는 제목의 기고문이 올라왔다.

기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 진행한 실험에 관한 것이었다.

달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.

# data[].attributes.body
의료 AI가 특정 인종이나 소득 계층 환자에 대한 데이터가 부족한 상태에서 학습될 경우, 진단 정확도가 떨어질 수 있습니다. 예를 들어, 흑인 환자에 대한 진단 정확도가 백인 환자보다 낮게 나타난 사례가 있습니다.

# data[].attributes.body
https://www.news1.kr/it-science/general-it/5364985

AI 이미지 생성 도구가 종종 인종·성차별적 결과를 만들어 낸다'는 제목의 기고문이 올라왔다.생성형 AI 설루션을 개발한 SK C&C는 최근 펴낸 '생성형 AI에 대한 보안 위협과 안전대책' 보고서 "생성형 AI는 학습용 데이터의 영향을 받을 수밖에 없다"며 "편향된 데이터에 의해 AI 모델의 결과물도 특정 성향을 갖게 된다"고 했다.AI 편향성을 낮추는 데이터 세트를 만드는 게 목표인 이 연구에 258명이 참여했다. 이들은 다양성·객관성·윤리 등 9가지 기준을 AI에 학습시켜 답변이 기준에 부합하는지 평가했다. 이를 반복해 AI 필터링 기능을 고도화할 수 있었다.

# data[].attributes.body
인공지능 평향 사례: AI가 아프리카와 빈곤을 연결해 이미지를 보여줬음. AI에게 '아프리카 남자와 세련된 집'을 명령어로 입력하면

'진흙집 앞 흑인' 그림이 출력됐고, 가정부는 유색인종으로,

기내 승무원은 여성으로만 표현.

이유: AI가 가정부는 흑인으로, 기내 승무원은

무조건 여성으로 인식하는 차별하는 모습을 보여줌.

사회적 해결 방안: AI가 학습하는 데이터가 너무 편향되지 않도록 노력.

# data[].attributes.body
채용 시스템: AI 기반 채용 시스템은 지원자의 이력서, 자기소개서, 면접 영상 등을 분석하여 채용 결정을 내립니다. 하지만 이러한 시스템 역시 데이터 편향으로 인해 특정 성별, 인종, 출신 학교 등에 유리한 결과를 낼 수 있습니다.

AI 개발자는 AI 윤리 가이드라인을 준수하여 AI 시스템을 설계하고 개발해야 합니다. AI 윤리 가이드라인은 AI 시스템의 공정성, 투명성, 책임성 등을 강조합니다.

# data[].attributes.body
미국의compas(Correctional Offender Management Profiling for AlternativeSanctions)범죄자들의 재범 수치를 숫자로 나타내주는 인공지능인데 흑인 범죄자가 백인 범죄자보다 2배이상 나온 사례가 있다.

해결방안:우리의 인종차별을 없게 만들기

# data[].attributes.body
인공지능 편향 사례-미국 스탠퍼드대 연구진은 오픈AI의 이미지 생성 AI '달리'(DALLE)로 실험을 진행했다.

달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.

이유-생성형AI의 무분별한 학습 과정에서 인간의 혐오 표현, 범죄, 정치적 편향성 등이 답변에 반영된다는 것이다.

법적 해결 방안-관련 기관을 만든다.

윤리적 해결 방안-인공지능에게 평등한 교육을 시킨다.

사회적 해결 방안-평등한 사회 분위기를 조성한다.

# data[].attributes.body
생성형 AI 아트 제너레이션 애플리케이션인 Midourney에서 편향이 발견되었습니다. 전문 직종에 종사하는 사람들의 이미지를 만들어 달라는 요청에는 젊은 사람과 나이든 사람이 모두 등장했지만, 나이든 사람은 항상 남성으로 나타나 직장에서 여성의 역할에 대한 성별 편견이 심화되었습니다.

해결 방안:일상생활 속 편향을 줄여 인공지능이 편향된 데이터를 분석하지 않도록 노력한다.

# data[].attributes.body
마운트 시나이 아이칸 의과대학(ISMMS) 연구팀은 응급실 입원환자 1,000명에 대한 의료 행위 170만 건을 9개의 대규모 언어모델(LLM)을 입력해 환자마다 치료 어떻게 치료해야 하는지를 확인∙분석했다. 연구팀은 각 사례의 임상적 세부사항을 동일하게 유지했으며, 31개의 사회인구학적 요인을 별도로 입력해 이를 대조했다.

그 결과, AI 모델은 동일한 임상적 세부사항에도 개인적 특성에 따라 치료 및 진단, 치료 접근 방식, 정신건강평가 등 우선순위를 바꿔 환자의 의료 의사결정에 영향을 미친 것으로 나타났다.

예를 들어, 흑인이나 무주택자 또는 성소수자(LGBTQIA+)로 분류됐다면 긴급치료, 침습적 행위, 정신건강평가에 더욱 초점이 맞춰져 있었다.

AI를 학습시킬때 편향된 정보를 입력하지않도록 노력한다.