이유 - 이 프로그램이 여성보다 남성 직원 비율이 높은 회사의 직원 이력 사항을 학습한 결과 남성 지원자에게 더 높은 점수를 주었기 때문이다.

법적 해결 방안 - 차별 금지법, 공정성 감사 의무화

윤리적 해결 방안 - 인간의 최종 결정권을 통해 검증, 보완

사회적 해결 방안 - AI에 학습되는 데이터가 편향되지 않도록 사회적 노력 기울이기

AI가 의사는 백인 범죄자는 흑인이라고 질문에 답변했다

법적 해결방안은 차별 금지법이나 공정성을 정할 수 있는 법을 만드는 것입니다

데이터의 편향성 때문이다.

데이터 사전처리 기술을 만든다

정리하자면 ChatGPT는 다음과 같이 남자와 여자에 대한 선입견을 은연중에 드러냈습니다.

남자와 여자에 대한 편견이 있는 데이터를 학습했기 때문이다.

데이터의 다양성과 균형을 확보한다.

출처 : 퍼블릭뉴스(https://www.psnews.co.kr)

해결 방안: 균형 잡힌 데이터 확보, 데이터 편향성 측정 및 관찰 등이 있다.

'미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.

생성형 인공지능(AI)은 인간의 혐오 표현이나 고정관념도 배울 수 있다. 성차별, 인종차별 등 편향된 결과물을 내놓을 수 있단 의미다. 이런 피해를 막으려면 윤리 기준 등을 데이터에 반영한 사전 처리 작업이 필요하다.

기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 진행한 실험에 관한 것이었다.

달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.

AI 이미지 생성 도구가 종종 인종·성차별적 결과를 만들어 낸다'는 제목의 기고문이 올라왔다.생성형 AI 설루션을 개발한 SK C&C는 최근 펴낸 '생성형 AI에 대한 보안 위협과 안전대책' 보고서 "생성형 AI는 학습용 데이터의 영향을 받을 수밖에 없다"며 "편향된 데이터에 의해 AI 모델의 결과물도 특정 성향을 갖게 된다"고 했다.AI 편향성을 낮추는 데이터 세트를 만드는 게 목표인 이 연구에 258명이 참여했다. 이들은 다양성·객관성·윤리 등 9가지 기준을 AI에 학습시켜 답변이 기준에 부합하는지 평가했다. 이를 반복해 AI 필터링 기능을 고도화할 수 있었다.

'진흙집 앞 흑인' 그림이 출력됐고, 가정부는 유색인종으로,

기내 승무원은 여성으로만 표현.

이유: AI가 가정부는 흑인으로, 기내 승무원은

무조건 여성으로 인식하는 차별하는 모습을 보여줌.

사회적 해결 방안: AI가 학습하는 데이터가 너무 편향되지 않도록 노력.

AI 개발자는 AI 윤리 가이드라인을 준수하여 AI 시스템을 설계하고 개발해야 합니다. AI 윤리 가이드라인은 AI 시스템의 공정성, 투명성, 책임성 등을 강조합니다.

해결방안:우리의 인종차별을 없게 만들기

달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.

이유-생성형AI의 무분별한 학습 과정에서 인간의 혐오 표현, 범죄, 정치적 편향성 등이 답변에 반영된다는 것이다.

법적 해결 방안-관련 기관을 만든다.

윤리적 해결 방안-인공지능에게 평등한 교육을 시킨다.

사회적 해결 방안-평등한 사회 분위기를 조성한다.

해결 방안:일상생활 속 편향을 줄여 인공지능이 편향된 데이터를 분석하지 않도록 노력한다.

그 결과, AI 모델은 동일한 임상적 세부사항에도 개인적 특성에 따라 치료 및 진단, 치료 접근 방식, 정신건강평가 등 우선순위를 바꿔 환자의 의료 의사결정에 영향을 미친 것으로 나타났다. 

예를 들어, 흑인이나 무주택자 또는 성소수자(LGBTQIA+)로 분류됐다면 긴급치료, 침습적 행위, 정신건강평가에 더욱 초점이 맞춰져 있었다.

AI를 학습시킬때 편향된 정보를 입력하지않도록 노력한다.