# data[].attributes.body
사례)

1. 직업에 관한 고정관념과 편견 ( ex. 여성은 ‘돌봄’ 직업에 적합함 )

2. 문화적 편견 ( ex. 다문화 가정에 대한 편견 )

우리가 할 수 있는 일)

1. 서로 존중하며 넓은 생각을 가지고 이야기 하기

2. 자신이 가지고 있는 고정관념과 편견, 혐오 등을 없애려고 노력하기.

# data[].attributes.body
1. ‘암탉이 울면 집안이 망한다’라는 속담 사용

2. ‘촌놈’이라는 단어 사용

자신의 편견을 파악하고 타인의 입장에서 생각하기

# data[].attributes.body
1 학교에서 모국어 사용을 금하고 불이익을 주는 경우

2 외국인 노동자나 이민자에게 그들의 억양 이유로 부정적 고정관녕 갖기

3. 취업이나 면접에서 지역방언을 사용한 이유로 떨어뜨리는 이유

공정한 소통 노력을 산다. 외국인이나 언어적 소통에 어려움을 곀는 사람들과 대화할 때, 천천히,명확히 말하기, 또한 포용적 환경을 조성하기

# data[].attributes.body
[고정관념+편견+혐오+습관의 사례]

1.특정지역 출싱 사람은 “다 이기적이다” 라고 단정짓는 것

2.성소수자에 대한 무조건적인 반감과 차별

3.장애인은 모두 무능력하다고 생각하는 것

[우리가 할수 있는 일은 무엇이 있을까?]

1.개인의 차이을 인식하고 개별성을 존중해야 한다.

2.편견의 대상이 되는 사람들의 입장에서 생각해보며 공감능력을 키운다.

# data[].attributes.body
1. 우리가 주목한 차별의 종류는OO입니다.

2. 우리가 선택한 실천 방안

3. 실천계획 세우기

# data[].attributes.body
오늘 활동을 하기 이전의 나는 어떤 모습인가

활동을 하고 난 이후의 나는 어떤 사람으로 변화하였는가

앞으로 실천하고 싶은 내용은 무엇인가

# data[].attributes.body
1. 타인의 외모나 억양을 비꼬는 말을 습관처럼 하는 경우

2. 특정 인종이나 성소수자를 이유 없이 싫어하고 멸시하는 태도

3. 특정 성별이나 역할에 따라 무의식적으로 일을 분담하는 경우

언어차별 인식 개선

언어와 관련된 고정관념이나 편견을 없애기 위해 대화에서 올바른 용어를 사용하고, 차별적 표현을 지양하기.

다양한 언어와 억양이 존재함을 인정하고 이를 존중하는 문화를 확산시키기.

# data[].attributes.body
성차별을 없애기 위한 해결 방안 )

1. 10510 신은지: 남성과 여성을 나눠서 생각하려 하지말고 모두 같은 사람으로 생각한다.

2. 10515 이다인: 성평등 벌률을 강화시킨다.

3. 10109 민우아: 여성과 남성이 평등한 사회를 만들기 위해 서로의 존재를 동등하게 생각하고, 성평등이 이루어지지 않고 있는 문제에 대해 알고 이를 홍보 등을 통해 알린다.

4. 10316 이원경: 성차별 예방 콘텐츠를 만들어 sns에 게시한다.

# data[].attributes.body
사례 1: 흑인에게 깜둥이라고 하는 사례

2: 장애인은 음식점에 들어오지 말라는 휠체어를 타고있는 장애인의 사례

3: 남자가 힘쓰는 일을 모두 남자가 하라는 사례

우리가 무엇을 할 수 있을까?

각각의 나라들의 언어가 달라도 그 다름을 이해하고 그 언어의 문화에 대해 더 알아보기

# data[].attributes.body
해결방안 :

다문화 교육. 개인적 인식 변화, 소통 강화, 문화 교류 확대 등

우리가 실천한 실천 방안 :

개인적 인식 변화 - 자신이 가진 편견을 자각하고, 다른 문화와 인종에 대한 이해를 넓히기 위한 노력이다.

실천 계획 : 포스트잇에 자신의 성찰 일지 작성하기

# data[].attributes.body
고정관념: 여성은 분홍색,남성은 파란색/남자는 무거운 것을 잘 들어야 해

우리가 할수있는 일: 언어 다양성 존중,언어적 편견 인식하고 교정하기,언어교육 지원,언어 차별적인 표현 지양,포용적인 언어 사용,다양한 언어 배우기,정책적 변화 촉구

# data[].attributes.body
관심 주제: 인종차별

해결 방법:

1. 인종 차별과 관련된 문제들을 친구들과 토론하여 생각 공유하기

2. 인종 차별 반대 포스터를 제작하거나 발표하여 알리는 활동하기

3. 차별 반대 메시지를 작성하여 SNS에 홍보하기

4. 다문화 가정 등을 지원하는 봉사 활동에 참여하기

# data[].attributes.body
사례:

1.결정장애 - 장애인을 비하하는 표현

2.당 떨어진다 - 아프고 병이 있는 이들을 비하하는 표현

=> ‘장애’등의 특정 단어를 부정적으로 사용하는 사례

실천:

1.결정장애 -> 우유부단하다 등 차별요소가 있는 단어들을 동일한 의미의 단어로 대체하기

2.평소 자신의 언어 습관에서 무의식적으로 행하거나 말하고 있는 차별은 없었는지 되돌아보기

# data[].attributes.body
관심 주제:성소수자 차별

우리가 선택한 실천 방안 :

성소수자와 관련된 용어나 인권 문제에 대해 올바르게 배우고 잘못된 정보를 바로 잡기

해결방안 :

정체성 존중하기

관련 프로그램 만들기

# data[].attributes.body
사례: 1.이름 정할 때 아버지 성 따르기

2.트렌스젠더등 성 소수자 혐오

우리가 할 수 있는 일: 일상 생활에서 무심코 나오는 차별적인 행동 의식해서 줄이기, 나와 달라도 이해하고 포용하기

# data[].attributes.body
고정관념 편견 혐오 습관의 사례 찾아보기

1.여자는 치마/남자는 바지

2.여자는 머리가 길어야 됨/남자는 머리가 짧아야 됨

우리가 할 수 있는 일은 무엇이 있을까

1.캠페인

2.sns에 광고 처럼 알리기

# data[].attributes.body
사례

1. 성별에 대한 고정관념과 편견

2. 연령에 대한 편견과 혐오

우리가 할수 있는 일

1. 교육과 인식으로 차별에 대한 교육을 강화한다. 교육을 강화하여 학교나 커뮤니티에서 다양한 배경을 가진 사람들에 대한 이해를 높이는 프로그램을 운영한다.

2. 연대와 지지로 차별받는 사람들을 지지하기.

차별받는 사람들을 지지하고, 그들의 목소리를 대변하는 연대 활동에 참여한다.

3. 소통과 대화의 장을 마련한다.

소통과 대화에 장을 미련하여 서로의 다른 의견이나 배경을 가진 사람들과의 대화를 통하 이해를 높인다.

# data[].attributes.body
사례: 인종차별적인 담배광고

성별에 따른 직업 분리

할수있는 일: 교육과 훈련을 통해서 차별에 대한 인식

확산,다양한 문화와 배경을 이해하려는 노력갖기, 일상속에서 편견을 발견하고 고치려는 의식갖기, 목격했다면 지적하기

# data[].attributes.body
우리가 할 수 있는 일 :

성별, 인종 등을 비하하거나 차별적인 표현을 피하고 포용적인 언어 사용

차별을 경험한 사람들의 이야기를 듣고 공감하며 상황을 더 잘 이해하려고 노력하기

고정관념의 사례 :

예술 전공자는 실업자가 되기 쉽다

문신을 한 사람은 신뢰할 수 없다

# data[].attributes.body
사례

•청소부는 교육을 제대로 받지못한 사람들이다.

•여자가 목소리가 낮으면 여성스럽지 않다.

•영어를 잘 못하면 국제 감각이 없다고 비하한다.

방안

•주변에서 누군가 언어 차별적 발언을 하거나 행동을 보이면, 차분히 문제점을 지적하고 인식을 바꾸도록 도와준다.

•자신도 언어 사용과 태도를 되돌아보고 무심코 차별적인 행동을 하지 않는지 스스로 점검한다.

# data[].attributes.body
(고정관념+편견+혐오+습관의 사례 찾아보기)

1.여자니까 꼼꼼해야 한다는 편견

2.무거운 짐은 남자가 들어야한다는 편견

(우리가 할수 있는 일은 무엇이 있을까?)

다름을 이해하고 존중하며 차이를 받아들인다

# data[].attributes.body
사례 1. 사투리를 고쳐달라고 하거나 사용하지 말라고 하는 것

사례 2. 폭설로 차가 막히는 것을 '교통 마비' 라고 표현하는 것

우리가 할 수 있는 일 : 각 지역마다 사용하는 언어의 억양 등이 다른 것을 이해하고 존중한다.

'마비'라는 표현 대신 '혼잡', '정체' 등의 단어로 교체하는 등 차별적 언어를 최대한 사용하지 않는다.

# data[].attributes.body
우리모둠이 주목한 차별의 종류는 성차별입니다

차별을 없애기 위한 해결방안: 성차별과 관련된 캠페인을 통해 많은 사람들에게 성차별의 문제점과 옳은 인식 알리기, 학교에서 진행하는 성차별 관련 교육 열심히 듣기

우리가 선택한 실천방안:캠페인

실천 계획 세우기: 성차별에 대한 지식을 자세히 알고 자료 모으기

# data[].attributes.body
세계 시민으로서의 역할과 세계시민으로서 해야할 일들과 세계에서 일어나는 차별의 종류들을 새롭게 알 수 있게 되었다. 또한, 인공지능이 지금까지 인간과 자연스럽게 의사소통을 하고, 예술 활동을 창작할 수 있을 정도로 인공지능이 성장했다는 것을 알게 되었다. 게다가, 인공지능의 공정성을 위한 윤리 규범을 팀원들과 함께 상의하여 윤리 규범을 세울 수 있는 뜻 깊은 시간을 가지게 되어 뿌듯했다.

# data[].attributes.body
오늘 활동을 하기 이전의 나는 어떤 모습인가

AI가 차별을 한다는 사실을 몰랐었다. 사실 생각조차 못했었다.

활동을 하고 난 이후의 나는 어떤 사람으로 변화하였는가

AI가 차별한 사례를 찾아보면서 느낀 점이 많았다. 사람보다 똑똑할 줄 알았지만 사람의 거울 같다는 느낌을 많이 받았다.

앞으로 실천하고 싶은 내용은 무엇인가

AI의 도움을 받을 때는 객관적인 판단을 통하여 필요한 내용을 잘 선별해야겠다. 무조건적으로 믿지 말고 근거가 확실한 내용으로 도움을 받아야겠다.

# data[].attributes.body
오늘 활동을 하기 이전의 나는 어떤 모습인가

나는 AI가 차별을 학습하고 있는 지 모르고 있었다. 현재 존재하는 정보들이 편파적이라는 사실을 인지하지 못했다.

활동을 하고 난 이후의 나는 어떤 사람으로 변화하였는가

이제는 AI가 차별적인 내용을 학습하고 알려준다는 것을 알게되었다. 차별을 받을 위험이 있다는 사실을 알고 나니, 기술이 진보함에 따라 인류가 더 나은 방향으로 나아가고 있다고 믿었던 생각을 다시 한번 돌아보게 되었다.이번 활동을 통해, 나는 기술이 어떻게 사회에 긍정적이면서도 부정적인 영향을 미칠 수 있는지를 더욱 깊이 이해하게 되었다. 앞으로 인공지능이 더욱 발전하는 사회에서 차별이 발생하지 않도록 모두가 신경 써야 한다는 점을 잊지 말아야겠다.

앞으로 실천하고 싶은 내용은 무엇인가

문제를 해결하기 위해서는 AI 시스템을 설계하는 사람들의 책임이 매우 중요하다는 것을 깨달았다. 기술이 아무리 발전해도 그 기술을 만드는 사람들이 공정성을 우선시하고, 사회적 책임을 다할 때 비로소 차별을 예방할 수 있다. 또한, 우리가 만든 AI 시스템을 지속적으로 점검하고 수정할 수 있는 시스템을 구축하는 것도 매우 중요하다고 생각한다.

# data[].attributes.body
ai에게 뭐든 물어보면 답을 척척 해주니까 따로 검색할 필요없어서 편하고 좋았는데, 이번 수업을 통해 al에 대한 차별사례, 윤리규범 등등 대해 배워보고 나니 ai가 생각보다 문제가 있었고 이에 대한 개선도 필요하다고 느꼈습니다. 앞으로는 al가 주는 정보를 곧이곧대로 믿지 않을 것 같습니다.

# data[].attributes.body
이 수업을 듣고 나서 ai챗 쥐피티에만 집중하고 모든것을 쥐피티로 해결하던 나의 과거가 조금 부끄러워 졌다. 또한 에이아이를 비판하는 능력이 생겼고 투명성과, 개인 프라이버시, 윤리문제에 관해 한번더 생각해보게 되었다.

# data[].attributes.body
수업을 듣기 전에는 인공지능이 본질적으로 공정하고 객관적이라고 생각했습니다. 그러나 수업을 통해 데이터와 알고리즘에 내재된 편향성이 존재할 수 있음을 알게 되었습니다. 기술적 완성도뿐만 아니라 윤리적 책임도 설계 단계에서 고려해야 한다는 점이 인상적이었습니다. 이제는 인공지능이 사회적 영향을 공정하게 미칠 수 있도록 감시와 책임이 필요하다는 생각이 듭니다. 이 수업은 제가 인공지능을 바라보는 시각을 더 넓고 깊게 만들어 주었습니다.

# data[].attributes.body
오늘 세계 시민 교육을 처음 들어 봤는데 친구들이랑 같이 수업 듣고 활동을 하니까 더 친해진 느낌이 들었고 되게 재미있었다. 오늘 처음 활동 할때 인공지능의 편파와 차별적 요소를 찾아 봤는데 나는 여태 인공지능이 차별을 하는 줄 몰랐었는데 인공지능이 차별을 해서 되게 놀라웠다. 그리고 마지막 활동으로 인공지능의 공정성을 위한 윤리 규범 만들었는데 만들면서 되게 재미있었고 마지막에 피피티를 영상으로 만드는게 되게 재미 있었고 좋았다.

# data[].attributes.body
수업을 듣기 전에 나는 인공 지능이란걸 알았지만 이렇게 대단한 인공 지능들이 있을 줄을 몰랐고 전에는 되게 조금 무식한 사람 같았는데 활동하고 난 후 난 뭔가 한 층 더 나아진 사람으로 변한 거 같아 뿌듯했다 그리고 앞으로도 인공 지능에 대해 더 많은 걸 이용할 거 같다. 사용을 하면서도 꼭 출처와 인간다움을 계속 유지해야 겠다고 생각한다. 앞으로 실천 하고 싶은 내용은 인공 지능에 대해 만들기를 하고 싶다.

# data[].attributes.body
이 수업을 듣고 인공지능에 모르는 부분들이 너무 많아서 많이 알지 못했는데 이 수업을 듣고 인공지능의 차별들도 알아보고 인공지능으로 ppt도 만들고 영상도 만들어서 재미있고 유익한 시간을 보냈다.

# data[].attributes.body
이 활동을 하기 전에도 인공지능에 대한 기본적인 이해가 있었지만, AI가 일상생활에서 어떻게 차별적이고 편파적인 영향을 미칠 수 있는지에 대해 깊이 생각해본 적은 없었다. 그래서 이 활동을 통해 여러 문제들을 제대로 인식하는 것이 중요하다는 것을 알게 되었다. 또한 이 활동을 하면서 인공지능이 사회적 불평등을 심화시킬 수 있다는 점이 크게 와 닿았다. 공정성을 위한 윤리 규범을 만들고 이를 실천하는 것이 얼마나 중요한 것인지 깨달았고, AI 기술을 설계하고 사용할 때 윤리적 책임을 다하는 것이 중요하다는 생각이 들었다. 나는 앞으로 인공지능을 사용할 때 항상 공정성과 윤리를 고려하여 사용해야 겠다고 생각했다. 또한, 다양한 사람들의 의견과 데이터를 반영하여 AI가 특정 집단에 불리하게 작용하지 않도록 노력하고, AI 기술이 더 공정하게 발전할 수 있도록 지속적으로 관심을 가지고 학습해야겠다고 생각했다.

# data[].attributes.body
인공지능은 모든 것이 완벽한 줄 알았는데 사람을 차별하기도 하고 거짓말을 한다는 것을 알았고 인공지능이 만든 노래도 들어볼 수 있어서 좋았다. 인공지능을 잘 사용하고 주의점을 생각하면서 사용해야겠다

# data[].attributes.body
활동 전 저는 세계시민교육에 대해 큰 이해가 없었고, 국제적인 문제나 다른 문화와의 관계에 대해 깊이 생각해본 적이 없었습니다. 세계 시민으로서의 역할이나 책임에 대해서도 명확히 알지 못했습니다.

활동 후 나는 세계시민으로서의 역할과 책임에 대해 더 잘 이해하게 되었습니다. 특히, 인공지능과 같은 기술이 글로벌 사회와 문화에 미치는 영향을 생각하게 되었고, 더 넓은 시각에서 문제를 바라보려는 자세를 가지게 되었습니다.

앞으로는 국제적인 문제와 다양한 문화적 관점을 더 깊이 이해하고, 이를 바탕으로 세계시민으로서의 책임을 다하고 싶습니다. 또한, 인공지능과 같은 기술이 인류의 공공 이익을 우선시하는 방향으로 발전할 수 있도록 적극적으로 고민하고 실천하려고 합니다.

# data[].attributes.body
이번 활동을 통해 인공지능이 가진 잠재적인 위험성과 그에 대한 해결책을 고민할 수 있어서 매우 뜻깊었습니다. 우리 삶을 변화시키는 강력한 도구가 될 수 있지만, 그 공정성과 윤리성에 대한 철저한 고민이 선행되어야 한다는 사실을 다시 한번 깨달았습니다. 앞으로도 기술 발전과 함께 윤리적인 부분에 대한 고민이 더욱 중요해질 것이라고 생각합니다. 이 활동을 통해 배운 점들을 바탕으로, 더 공정하고 윤리적인 사회를 만들어 나가는 데 기여할 수 있는 사람으로 성장하고 싶다는 생각을 했습니다. 오늘 활동을 하기전에는 이런 분야에 전혀 관심을 갖지도 않았고 이게 뭔지도 몰랐는데 조금이나만 알게된것같아서 뜻깊었던것같다.

# data[].attributes.body
인공지능의 차별적 요소를 보여주는 사례(두개 이상)

영상 또는 기사 검색하여 링크 올리기

내용 요약하기

왜 이런 일이 생기는지 이유 생각해보기

# data[].attributes.body
요약) 이 사례는 우리가 가지고 있는 고정관념들이 인공지능에게 영향을 미칠 수 있다는 내용을 담고 있다.

이유) 인공지능의 기술은 발전하고 있지만, 아직까지 인공지능이 우리 사회에서 일어나고 있는 사회적 문제들의 데이터를 흡수하지 못해 인공지능이 공정하지 못한 판단을 내린다고 생각한다. 또한, 우리가 의도하지 못하게 가지고 있는 편견이 인공지능에게 영향을 미쳐 인공지능이 공정하지 못한 판단을 내리게 된다고 생각한다.

# data[].attributes.attachment_link.readable_text
[앵커]
데이터에 기반해 편견 없이 의사결정을 하는 것으로 보이는 AI.

이런 AI도 성차별 고정관념을 갖고 있다고 하는데요.

강보경 기자가 알아봤습니다.

[기자]
[이혜숙 / 한국과학기술젠더혁신센터 소장 : 방대한 양의 데이터를 쓸 때는 그 데이터가 갖고 있는 편향성이 사회나 문화적인 또는 역사적인 맥락에서 생긴 편향들이 다 내재되어 있는 거로 학습을 하기 때문에 (성 편향이) 당연히 생기게 되겠죠.]

엄청난 역할을 할 수 있게끔 지금 발전하고 있으니까, 거기에 대한 지침이나 규정이나 이런 것들이 빨리 되는 게 중요하다고 생각해요.

2019년 KT의 인공지능 스피커 '기가지니'는 자동차를 좋아하는지를 묻는 물음에 "여자라서 자동차에 관심이 없어요"라는 답변을 내놓았습니다.

자동차는 남성의 전유물이라는 성차별 고정관념을 드러낸 것인데요.

인공지능 챗봇 '이루다' 역시 출시 초기 여성과 성소수자를 혐오하는 답변을 해, AI가 학습하는 데이터 편향성의 사례를 보여줬습니다.

지난 7월, 미국 뉴욕에서는 채용과 승진을 결정할 때 활용하는 AI의 성차별 가능성을 차단하는 법을 발효했습니다.

'NYC144' 채용 AI가 여성과 유색인종 등 소수 집단을 차별할 가능성이 있다는 우려가 지속돼 왔는데요. 이제 성별이나 인종의 차별 가능성을 매년 감사해 공개하고 이를 어길 시 벌금이 부과된다는 내용입니다.

21대 국회 출범 이후 현재까지 발의된 AI 관련 법안은 12개입니다.

이 중 법안 7개를 합친 일명 'AI 산업법'(AI 산업 육성 및 신뢰 기반 조성에 관한 법률)이 지난 2월 국회 과방위 소위(과학기술정보방송통신위원회 법안심사소위원회)에서 통과됐습니다.

그런데 이 법안에서 AI의 성 편향성을 극복하기 위한 조항은 찾아볼 수 없습니다.

[오드레 아줄레 / 유네스코 사무총장 : 이것은 인공지능의 윤리에 관한 권고로서 그 실질, 그 범위 및 정확성에 있어서 전례가 없는 권고입니다.]

2021년 11월에 열린 제41차 유네스코 총회.

이 자리에서 193개 회원국이 합의해 AI 개발에 대한 권고가 만들어졌습니다.

[인공지능 윤리 권고 : 회원국은 성평등의 달성을 앞당길 수 있는 인공지능의 잠재력이 실현되도록 해야 한다. 회원국은 성별 고정 관념과 차별적 편향이 인공지능 시스템으로 전이되지 않도록 보장해야 하며, 오히려 이를 판별하여 적극적으로 바로잡아야 한다.]

[이상욱 / 유네스코 세계과학기술윤리위원회 부위원장 : 결국 우리는 젠더적 고려가 AI의 발전을 가로막는 것으로 생각해서는 안 돼요. 좋은 혁신을 위해서는 젠더적 고려라든가 이런 것들을 하는 게 오히려 더 생산적이에요. 그래서 도움이 되는 거예요. 더 중요한 게 있는데 많은 사람이 놓치고 있는 건데, 보다 바람직한 젠더 편향이 없는 사회로 만들겠다는 그런 생각을 가지고서 AI를 사용해야지 잘 만든 AI를 어떻게든 나쁜 짓을 시켜보자 이런 태도는 지양돼야 하죠.]

AI 젠더 혁신을 향한 사회.

여성만을 위한 것만이 아니라 남성과 여성. 모두를 위한 방향임을 이해하는 공정한 사회를 기대해 봅니다.

제작 : 강보경, 이승창
AD : 박채민
도움 : 이혜숙 / 한국과학기술젠더혁신센터 소장, 이상욱 / 유네스코 세계과학기술윤리위원회 부위원장, 한양대학교 철학과·인공지능학과 교수

#왓슈 #YTN #AI #챗GPT #성차별 #성평등 #NYC144 #유네스코 #인공지능윤리권고 #젠더편항 #AI산업법

강보경[kangbk525@ytn.co.kr]]
이승창[leesc7412@ytn.co.kr]

YTN 강보경 (kangbk525@ytn.co.kr)

※ '당신의 제보가 뉴스가 됩니다'
[카카오톡] YTN 검색해 채널 추가
[전화] 02-398-8585
[메일] social@ytn.co.kr

[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]

# data[].attributes.attachment_link.title
[왓슈] 우리가 AI에게 가르친 성차별

# data[].attributes.attachment_link.description
데이터에 기반해 편견 없이 의사결정을 하는 것으로 보이는 AI.이런 AI도 성차별 고정관념을 갖고 있다고 하는데요.강보경 기자가 알아봤습니다.[기자][이혜숙 / 한국과학...

# data[].attributes.body
https://youtu.be/uymu3X2T5RE?si=MRqq0vp0P49eAoOB

2019년 KT의 인공지능 스피커 ‘기가지니’는 자동차를 좋아하는지를 묻는 물음에 “여자라서 자동차에 관심이 없어요”라는 답변을 내놓았다. 자동차는 남성의 전유물이라는 성차별 고정관념을 드러냈다.

잘못된 오해와 편견이 인공지능에게 잘못 학습되어 AI 차별이 나타나는 것 같다. 사례를 찾아보며 사람의 잘못된 부분까지 학습하는 걸 보니 사람의 거울 같기도 하다.

# data[].attributes.attachment_link.title
우리가 AI에게 가르친 성차별 / 왓슈

# data[].attributes.body
현재는 ’교수‘를 검색하면 대부분 백인 남성이 뜨고 ’흑인 청소년‘을 검샏하면 감옥에 갇혀있는 흑인의 사진이 나온다. 이것은 인터넷에 올라와있는 데이터가 이미 중립적이지 않다는 것을 의미한다. 이렇게 편파적인 정보를 학습하는 AI는 더 편파적일 수 밖에 없다는 내용이다. AI에게 흑인 여성을 보여주면 고릴라라고 대답하고 인도의 신부 사진을 보여주면 댄서라고 대답하는 사례가 발생한다

나는 세계적인 불평등으로 인해 이러한 상황이 발생한다고 생각한다. AI가 학습하는 정보들은 선진국들, 잘 사는 나라들이 올린다. 그렇다 보니 이 정보들은 편파적이게 된다. 따라서 그것만을 학습하는 AI는 중립적이지 않고, 객관적이지 않다.

# data[].attributes.attachment_link.title
인간에 의해 차별을 학습하고 있는 '인공지능' 편향적인 데이터 양산중?! #책읽어주는나의서재 EP.2 | tvN STORY 210525 방송

# data[].attributes.body
https://www.aitimes.com/news/articleView.html?idxno=133086

ms는 테이에 익명화된 데이터와 코미디언들이 작성한 자료를 심고, 네트워크 상에서 진화하도록 풀어놓았다. 테이는 16시간 동안 9만개가 넘는 트윗을 올렸는데 점점 인종차별주의 여성혐오주의로 급변했다. 그 후 ms의 부사장은 공식블로그에 사과문을 올렸다.

이런 일이 벌어진 이유

al는 지식을 빠르게 습득하는데 트위터에는 아직 인종차별주의, 여성혐오를 하는 사람들이 존재하고, al는 그런 지식도 같이 빨리 배우기 때문에 벌어진 것 같습니다.

# data[].attributes.attachment_link.readable_text
instagram naverpost twitter youtube instagram naverpost twitter youtube
MS '테이'챗봇, 트위터서 배운대로···인종차별·여성혐오 막말트윗 쏟아내?

아마존 AI, 남성위주 데이트 세트로 학습···여성 지원자 등급 하향 낙방

타겟, 고객데이터 반영 임신소녀에 산모용품 광고우편물··가족들 '날벼락'

美정부 의료지원 AI, 보험료 보고 대상 선별···실수요 저소득 흑인 누락?

英정부, SW 데이터 한도 모르고 쓰다가 코로나19 데이터 대규모 분실?

▲MS '테이' 챗봇은 트위터에서 배운대로 인종차별·여성혐오 막말트윗 쏟아내면서 AI의 위험성을 새삼 부각시킨 사례로 꼽힌다. 사진=쿼츠

'챗봇은 온라인에서 얻은 무분별한 데이터를 소화해 인종차별·여성혐오 트윗을 쏟아냈다. 남성 직원 위주의 데이터세트로 학습한 채용 도우미 인공지능(AI)가 여성 지원자를 낙방시키고 남성만 채용했는가 하면, 매장 고객 데이터 분석을 통해 임신한 소녀에게 임산부용품 마케팅 우편물을 보내면서 상황을 모르고 있던 가족들을 혼비백산하게 만들었다. 영국에선 정부가 집계한 코로나19 검진 데이터가 대규모로 사라졌는가 하면, 미국에선 의료지원이 꼭필요한 저소득층 흑인이 오히려 차별적으로 누락되는 사태가 발생했다.'

CIO닷컴은 22일(현지시각) 지난 10년간 인공지능(AI) 데이터 분석 및 머신러닝 관련 최악의 사고 5건을 이같이 꼽았다. 물론 테슬라의 자율주행전기차가 사람을 친 사고 등이 포함돼야 할 것 같긴 하지만 여기에선 빠져 있다.

지난 10년간 AI 데이터분석과 기계학습에서 무엇이 잘못될 수 있는지를 잘 보여주면서 반면교사(反面敎師)로 삼을 만한 데이터분석 및 AI의 실책 사고 5건을 소개한다.

◆ MS 챗봇 '테이', 인종차별·여성혐오 트윗 쏟아내다

지난 2016년 3월 마이크로소프트(MS)는 트위터와의 상호작용을 머신러닝 알고리즘 훈련 데이터로 활용하면 실망스러운 결과를 가져올 수 있다는 사실을 새삼 확인했다. 이는 전 세계를 놀래키면서 AI의 위험성을 새삼 알린 대표적 사례로 꼽힌 챗봇 '테이(Tay)' 얘기다.
당시 MS는 소셜 미디어 플랫폼에 테이를 공개하면서 '대화를 통한 이해'에 대한 실험을 위한 것이라고 설명했다. 챗봇이 10대 소녀라고 가정하고, 기계학습과 자연어 처리의 조합을 이용해 트위터 상에서 개인들과 교류한다는 것이었다.

MS는 테이에 익명화된 공공 데이터와 코미디언들이 미리 작성한 자료를 심어놓고, 소셜 네트워크 상에서 상호 작용을 통해 배우고 진화하도록 풀어놓았다.

테이는 16시간 동안 무려 9만5000개가 넘는 트윗을 올렸는데 그 트윗들은 점차 노골적 인종차별주의, 여성혐오주의, 반유대주의로 급변하기 시작했다. MS는 조정을 위해 신속하게 서비스를 멈췄고, 결국 사용을 중단하기에 이르렀다.

사고가 발생하자 피터 리 MS 리서치앤인큐베이팅스(당시 MS 헬스케어) 부사장은 MS 공식 블로그에 올린 글에서 "우리가 어떤 사람인지, 우리가 무엇을 옹호하는지, 어떻게 우리가 테이를 설계했는지를 나타내지 않은 것이며, 의도치 않게 공격적이고 상처를 준 테이의 트윗에 대해 깊이 사과드린다"고 썼다.

리 부사장은 "테이가 나오기 2년 전인 지난 2014년 MS가 중국에서 출시한 테이 전작인 샤오이스(小?)가 4000만명 이상의 사람들과 성공적으로 대화를 나눴다"고 언급했다.

하지만 MS가 놓쳤던 게 있었다. 그것은 일단의 트위터 사용자들이 즉시 테이에게 인종차별주의적이고 여성 혐오적인 발언을 트윗하기 시작할 것이라는 점이었다. 챗봇은 그 자료로부터 재빨리 '배웠고' 그것을 자신의 트윗에 포함시켰다.

리 부사장은 "우리는 여러 종류의 시스템 남용에 대비했지만, 이 중대한 특정 공격을 간과했다. 그 결과 테이는 대단히 부적절하고 비난받을 만한 말과 이미지를 트위터에 올렸다"며 자세를 낮췄다.

◆ 아마존 직원 채용 AI가 오히려 불공정···여성 빼고 남성만

▲아마존이 채용을 위해 개발한 AI는 남성위주 데이트 세트로 학습하면서 여성 지원자를 차별했고 개선의 여지가 없다고 본 아마존은 이를 폐기했다. 사진=아마존

많은 대기업들처럼, 아마존은 최고의 후보자들을 뽑기 위한 인사 검증을 도울 도구를 갈망해 왔다. 지난 2014년 아마존은 바로 그 일을 하기 위해 AI 기반 채용 소프트웨어(SW) 개발에 착수했다. 그런데 문제가 터졌다. 이 시스템은 남성 후보자들을 크게 선호했다. 로이터통신은 아마존이 4년만인 2018년 결국 이 프로젝트를 폐기했다고 전했다.

아마존의 시스템은 후보자들에게 1점부터 5점까지의 별점을 주었다. 그러나 이 시스템의 핵심에 있는 기계 학습 모델들은 아마존에 제출된 지난 10년 치 이력서에 대한 교육을 받았는데, 불행하게도 대부분 남성들의 것이었다. 그러한 배경을 가진 훈련 자료로 교육받은 이 AI 시스템은 이력서에 '여성'이라는 단어가 포함된 문구를 처벌하기 시작했고, 심지어 여대 출신 지원자들의 점수 등급을 낮추기까지 했다.

당시 아마존은 아마존 채용 담당자들이 채용 후보 평가를 위해 이 도구를 사용한 적이 없다고 주장했다.

이 회사는 AI채용 툴을 중립적으로 만들기 위해 편집하려 했지만, 결국 이 AI가 채용 후보자들을 분류하는 다른 차별적 방법을 배우지 않으리란 보장이 없다고 판단하고 이 프로젝트를 폐기했다.

◆ 타겟, 놀랄 만한 고객데이터 수집·분석 활용···사생활보호는 어디에

지난 2012년, 미국의 소매 유통 거인 타겟의 분석 프로젝트는 기업이 데이터를 통해 고객들에 대해 얼마나 많이 배울 수 있는지를 잘 보여주었다.

뉴욕타임스에 따르면 타겟의 마케팅 부서는 어떻게 고객의 임신 여부를 알 수 있을지 궁금해 하기 시작했다.

그 일련의 조사결과 타겟은 이후 10대 소녀의 가족에게 그녀가 임신했다는 것을 무심코 밝히게 되면서 유명해진 예측 분석 프로젝트를 추진하게 된다.

타겟의 마케팅 부서가 고객들 중에서 임산부들을 확인하고 싶어한 것은 특히 임신기간 중 여성 소비자들이 구매 습관을 근본적으로 바꿀 가능성이 가장 높은 기간이기 때문이란 점 때문이었다. 타겟이 그 기간 동안 고객에게 손을 뻗칠 수 있다면, 예를 들어 이 고객들이 식료품, 의류 또는 기타 상품을 타겟에서 사도록 하는 새로운 행동을 개발해 낼 수 있을 것이기 때문이었다.

다른 모든 대형 소매업체들과 마찬가지로 타겟은 쇼핑객 코드, 신용카드, 설문 조사 등을 통해 고객 데이터를 수집해 왔다. 그 데이터를 인구통계학적 데이터와 외부에서 사들인 제3자 데이터로 덮어버렸다.

▲타겟 데이터분석팀이 고객데이터를 반영해 임신한 것으로 보이는 소녀에게 산모용품 광고우편물을 보냈는데 실제로 그녀가 임신중인 것이 드러나면서 프라이버시 문제가 재부각되는 등 파문이 일었다. 사진은 기사내 특정 내용과 무관하다. 사진=위키피디아

타겟 분석 팀은 이 모든 데이터들을 분석했다. 그리고 자신들이 판매한 25개 정도의 제품을 함께 분석해 '임신 예상'점수를 만들어낼 수 있었다. 마케팅 부서는 이에 따라 이 예측 점수가 높은 고객을 타깃으로 삼아 쿠폰과 마케팅 메시지를 보냈다. 그 결과 집으로 보내진 우편물로 인해 소녀의 가족들이 그녀의 임신 사실을 알고 소스라치게 된다.

추가적 연구는 고객의 임신 상태를 연구하는 것이 그러한 고객들 중 일부에게 오싹함을 느낄 수 있다는 것을 밝혀내게 될 것으로 보인다.

뉴욕타임스에 따르면, 타겟은 이제 데이터분석 결과를 더욱 교묘하게 사용하기 시작했다. 즉, 목표한 마케팅 대상고객에게서 물러서지 않고, 광고가 무작위로 보내진 것처럼 보이도록 하기 위해 혼합광고를 보내기 시작했다. 예를 들어 임산부 고객들이 살 기저귀 광고를 하면서 그 옆에 이들이 사지 않을 것임을 (분명히) 알고 있는 잔디깎이 기계 같은 것들을 섞어 광고하기 시작했다.

◆ 美 의료지원 AI, 흑인 환자 차별

지난해 사이언스 지에 발표된 연구에 따르면, 미국 전역의 병원과 보험사가 '고위험 진료 관리' 프로그램을 필요로 하는 환자 식별용으로 사용하는 건강관리 예측 알고리즘이 흑인 환자를 선별할 가능성은 훨씬 낮았다.

고위험 관리 프로그램은 만성 질환 환자들의 심각한 합병증 예방을 위해 이들에게 훈련된 간호 인력과 일차 관리 모니터링을 제공한다. 그러나 이 알고리즘은 이런 프로그램에 흑인 환자보다 백인 환자를 추천할 가능성이 훨씬 높았다.

AI를 사용해서 공정하고 공평하게 일을 처리하려 한 게 오히려 불공정을 심화시킨 결과로 나온 것이다.
연구결과 AI 알고리즘이 개인의 건강관리 필요성을 판단하는 근거지표로 건강관리 지출비(여부와 다과)를 사용했다는 것을 발견했다. 그러나 사이언틱아메리카에 따르면 병든 흑인들의 건강관리 비용은 더 건강한 백인들의 비용과 맞먹는다. 즉, 흑인들이 선택돼야 할 필요성이 더 큰데도 더 낮은 위험 점수를 받아 배제됐다는 것이다.

연구원들은 왜 이렇게 됐는지에 대한 가능성있는 몇 가지 요인들을 꼽았다.

첫째, 유색인종은 소득이 더 낮을 가능성이 높으며, 이는 보험에 가입되어 있을 때에도 의료서비스에 접근할 가능성이 더 낮아지게 할 수 있다. 또한 암묵적 편견은 유색인종들이 질 낮은 치료를 받게 할 수도 있다.

이 연구는 알고리즘이나 개발자의 이름을 밝히지 않았지만, 연구원들은 이 상황을 해결하기 위해 개발자와 함께 일하고 있다고 말했다.

◆ 영 공중보건국, MS 스프레드시트 쓰다가 "앗뜨거"···모든 시스템 전면 조사

코로나19 신규 확진자 집계를 담당하는 영국 공중보건국(Public Health England·PHE)은 지난 달 25일부터 이달 2일까지 거의 1만6000건의 코로나19 바이러스 환자가 보고되지 않았다고 밝혔다. 문제는 바로 마이크로소프트(MS) 엑셀의 데이터 한도 초과에 있었다.

PHE는 자동화된 프로세스를 사용해 CSV 파일로 실험실의 코로나19 확진자 결과를 보고용 대시보드와 연락처 추적용으로 사용되는 MS 엑셀 템플릿으로 전송한다. 불행하게도 엑셀 스프레드시트는 워크시트 당 최대 104만 8576개 행과 1만 6384개의 열 밖에 수용하지 못한다.

더구나 PHE는 행이 아닌 열에 사례를 나열하고 있었다. 엑셀은 1만 6384개 열의 한도를 넘기자 그 하단의 1만5841개 코로나19 검진자 기록을 끊어버렸다.

이 장애에도 불구하고 검사받은 개인은 그 결과를 받아 볼 수 있었지만, 접촉자 추적을 어렵게 만들었고, 영국 의료보험공단(NHS)이 감염 환자와 밀접하게 접촉한 개인을 식별하고 통보하는 데 어려움을 겪었다.

마이클 브로디 PHE 임시 최고경영자(CEO)는 지난 4일 발표문을 통해 "NHS테스트추적 부서와 PHE는 이 문제를 신속히 해결하고 모든 미결 사례를 즉시 NHS테스트추적 시스템으로 이전했다"고 밝혔다.

PHE는 대용량 파일을 분할하는 '급속 완화(rapid mitigateion)'조치를 시행하고, 향후 유사한 사건이 재발방지를 위해 모든 시스템에 대해 전면적인 검사를 실시했다.

◆ 사고는 데이터와 머신러닝 알고리즘 통찰력의 명암 반면교사

데이터와 머신러닝 알고리즘의 통찰력은 더할나위없이 귀중할 수 있지만 실수는 평판, 수익 , 심지어 생명을 앗아갈 수도 있다. 이런 세간의 이목을 끄는 분석과 AI 실수는 무엇이 잘못될 수 있는지를 잘 보여주면서 향후 실수와 재난에 대비할 수 있게 한다.

지난 2017년 영국의 더이코노미스트는 석유가 아닌 데이터가 세계에서 가장 가치 있는 자원이 됐다고 선언했다. 이후 이 말은 반복됐다. 산업계 전 업종의 조직들은 데이터와 분석에 많은 투자를 해왔고 지속적으로 투자하고 있다. 하지만 데이터와 분석도 석유처럼 어두운 면을 가지고 있다.

IDG의 'CIO 2020상황' 보고서에 따르면 IT 리더 가운데 37%가 올해 자신의 조직 IT투자에서 가장 많은 부문이 데이터 분석이라고 말했다.

머신러닝 알고리즘에 의해 추진되는 분석과 활동에서 얻은 통찰력은 조직에 경쟁 우위를 줄 수 있지만, 실수는 평판, 수익 또는 심지어 삶의 측면에서 비용이 많이 들 수 있다.

사용자들이 데이터와 그것이 말해주는 의미를 이해하는 것도 중요하지만, 사용하는 툴을 이해하고, 데이터를 알고, 그들의 조직의 가치를 확고히 하도록 명심하는 것도 중요하다.

Copyright © '인공지능 전문미디어' AI타임스 (http://www.aitimes.com)
무단전재 및 재배포 금지

기사제보 및 보도자료 news@aitimes.com

▲MS '테이' 챗봇은 트위터에서 배운대로 인종차별·여성혐오 막말트윗 쏟아내면서 AI의 위험성을 새삼 부각시킨 사례로 꼽힌다. 사진=쿼츠

▲아마존이 채용을 위해 개발한 AI는 남성위주 데이트 세트로 학습하면서 여성 지원자를 차별했고 개선의 여지가 없다고 본 아마존은 이를 폐기했다. 사진=아마존

▲타겟 데이터분석팀이 고객데이터를 반영해 임신한 것으로 보이는 소녀에게 산모용품 광고우편물을 보냈는데 실제로 그녀가 임신중인 것이 드러나면서 프라이버시 문제가 재부각되는 등 파문이 일었다. 사진은 기사내 특정 내용과 무관하다. 사진=위키피디아

# data[].attributes.attachment_link.title
반면교사···지난 10년간 발생한 최악의 인공지능(AI) 사고 5건은?

# data[].attributes.attachment_link.description
'챗봇은 온라인에서 얻은 무분별한 데이터를 소화해 인종차별·여성혐오 트윗을 쏟아냈다. 남성 직원 위주의 데이터세트로 학습한 채용 도우미 인공지능(AI)가 여성 지원자를 낙방시키고 남성만 채용했는가 하면, 매장 고객 데이터 분석을 통해 임신한 소녀에게 임산부용품 마케팅 우편물을 보내면서 상황을 모르고 있던 가족들을 혼비백산하게 만들었다.

# data[].attributes.body
젠더 편향: 최근 연구에 따르면, 생성형 AI 모델인 '스테이블 디퓨전'이 특정 직업에 대한 성별 편향을 드러냈습니다. 예를 들어, '엔지니어'를 검색하면 남성의 이미지가, '사회복지사'를 검색하면 여성의 이미지가 생성되는 경향이 있습니다 인종 편향: AI 시스템이 특정 인종에 대한 편향을 보이는 사례도 있습니다. 예를 들어, 'CEO'를 검색하면 백인 남성의 이미지가 생성되는 경향이 있습니다. 이는 AI가 사회적 고정관념을 반영하고 있음을 나타냅니다

ai는 학습을 하는 로봇이기 때문에 그간에 있던 데이터들을 사용함. 그러나 우리가 과거에 인종차별 ex(히스페닉 아시안,흑인)등을 차별한 데이터가 있다면 그것을 기반으로 학습을 하여 차별을 하게 된다. 또한 기술적 한계도 있다

ai를 적당히 비판적 태도로 보는게 좋을 것 같다

# data[].attributes.body
세계 최대 전자상거래 기업인 '아마존'이 인공지능을 이용한 '채용 프로그램'을 개발하다 여성 차별 문제가 드러나, 자체적으로 폐기했다. 남성 직원이 더 많은 기업의 인적 데이터를 학습한 AI가 남성에 대해서 더 우호적인 판단을 내린 것이다.

아마존의 채용 AI는 남성 중심의 데이터를 학습해서, 남성에게 유리한 결정을 하기 때문입니다. AI는 주어진 데이터를 그대로 따라 학습하기 때문에, 데이터에 성별 편향이 있으면 AI도 그 편향을 따르는 이유이다.

# data[].attributes.attachment_link.title
'AI 채용'은 남성을 선호해?…성차별 논란에 '자체 폐기'

# data[].attributes.body
출처) 유튜브

요약

: 중립적 의미를 갖는 터키어로 인공지능이 영어로 번역하면 의사는 남자로 번역하고 간호사는 여자로 번역 한다. 그리고 2명의 도난범 중 재범할 가능성이 높은 사람은? 라고 물어봤는데 AI는 흑인이라는 이유만으로 재범 가능성을 더 높게 예상 한다고 한다.

왜 이런 일이 생길까?

나는 이렇게 코딩을 한 인간 잘못이라고 생각하고 인공지능은 그 코딩을 한 편견 그대로 학습을 해서 이런 결과가 나온거 같다고 라고 생각했다.

# data[].attributes.attachment_link.title
의사는 남자 간호사는 여자? 성인지 감수성 떨어지는 인공지능! 인종차별까지? | 책 읽어드립니다 The Page-Turners EP.19

# data[].attributes.body
생각: 내가 생각 했을때 차별이 왜 생기냐면 인공지능이 한 사람의 말을 들어줄 때 그 사람의 마음과 생각을 각각 들어줄 거 같아 차별이 생길 거 같다는 생각을 했다.

줄거리: 하루가 다르게 변하는 AI 기술 소식을 들으면서 사람들 정치적 문제가 걸려 있거나 판단이 쉽지 않은 범죄 사실에 대한 판결을 내릴 때 인공지능 판사를 도입하면 더 공정하진 않을까 라고 말하기도 한다

# data[].attributes.attachment_link.title
인공 지능 판사는 공정할까? 북트레일러

# data[].attributes.body
http://www.greenpostkorea.co.kr/news/articleView.html?idxno=214402

요약: 특히 LG전자의 생활 데이터는 기기 간 상호작용을 넘어 고객의 주변환경, 행동패턴, 목소리톤, 대화뉘앙스, 얼굴표정과 같은 감정 상태까지 포함될 수 있다.

나의 생각: 나의 생각은 인공지능이 원래 인간들이 하고 있는일을 다 하고 빼앗으니까 인공지능의 차별적인 요소가 생겨 난것 같다.

# data[].attributes.attachment_link.title
조주완 LG전자 사장 “LG전자 AI는 공감지능”…차별적 AI 강조

# data[].attributes.attachment_link.description
LG전자가 CES 2024 개막을 하루 앞둔 현지시간 8일, 미국 라스베이거스 만달레이베이 호텔에서 ‘고객의 미래를 재정의하다(Reinvent your future)’란 주제로 LG 월드 프리미어(LG WORLD PREMIERE)를 개최했다.행사엔 글로벌 미디어, 업계 관계자, 관람객 등 1000여 명이 참석했으며, 온라인으로 생중계됐다. 참석자들은 ‘스마트 라이프 솔루션 기업’으로 변화하는 LG전자가 여러 사업 영역에서 AI와 미래 기술을 기반으로 선보인 차별적 고객가치에 뜨거운 반응을 보였다.LG 월드 프리미어의 서막을 올린 조

# data[].attributes.body
https://youtu.be/-9L82h0VhZk

출처:슬랩 slap

-얼굴인식 인공지능을 얼마나 신뢰 할 수 있는지 알아보는 프로그램에서 백인 남자의 경우 가장 정확하게 인식을 하지만 아시아인의 경우 정확도가 떨어지는 현상을 보임. 이는 백인 남성의 데이터가 많은 편향된 데이터로 학습한 결과를 내놓기 때문이다.

이러한 AI의 시스템이 아마존의 채용 시스템에도 미쳤는데, AI가 여성이라는 이유만으로 감점을 한 것이다. 지난 10년간 남성 채용이 더 높았고 AI는 남성 지원자가 더 적합하다고 스스로 학습했기 때문이다.

번역기의 경우도 이러한 성차별 문제가 들어난다. ‘애인 있어?’ 라는 문장을 번역기에 입력하면 ‘Do you have a girlfriend?'라 번역된다. 이는 애인이 여자친구로 번역된 현상이다. 간호사를 스페인어로 번역했을때 여성형의 단어가 나온것도 같은 맥락에서 나온 차별이다.

왜 이런 일이 생길까?

-AI는 인간이 학습시킨 방대한 데이터를 기반으로 하기에 결국 그것을 학습시킨 개발자의 주관적 생각이나 차별요소가 들어갈 수 있기 때문이다. 또한 AI는 꾸준히 학습을 통해 데이터를 쌓아가는 경우도 많은데 이때 이미 우리 삶의 차별요소가 깊게 녹아있기 때문에 AI도 이를 학습하여 차별적 요소가 더욱 늘어날 수도 있다.

# data[].attributes.attachment_link.title
AI가 차별을 배우면 이렇게 됩니다

# data[].attributes.body
요약: 줄거리가 남성 위주라고 평가받는 영화산업에서 성차별, 특히 여성이 적게 등장하는 현상을 알아보기 위해 만들어진 ’벡델 테스트‘ 는 정말 유용하다 하지만 이 테스트만으로는 공정성을 완벽히 파악하기 힘들기에 그를 보완할 수 있는 방법이 개선 되었다.

생각: 아직도 한국은 여성을 수동적이거나 부수적인 존재로 인식하고 있기에 이를 보완하기 위해 이러한 여러 매체가 생겨난 것 같다.

# data[].attributes.attachment_link.title
‘영화 속 여성은 수동적이다?’ 이제 AI가 증명해주는 영화 속 성 고정관념 / 스브스뉴스

# data[].attributes.body
2016년 마이크로소프트가 공개했던 챗봇 테이(Tay)는 백인 우월주의자, 여성 혐오자, 무슬림 혐오자 등 편향된 사람들이 차별적인 발언을 유도하는 바람에 나쁜 지식들을 집중적으로 학습했던 것으로 밝혀졌다.

# data[].attributes.attachment_link.readable_text
2016년 테이와 유사한 논란 부른 챗봇 이루다...딥러닝 기반 의사결정 논리 파악 불가능

[HELLO AI] AI 따라잡기

이미지 크게보기

한국에서도 실제 사람들 간의 대화로 학습한 챗봇이 사회적으로 큰 논란을 일으키는 일이 벌어졌다. 인공지능(AI)과 관련된 윤리적 문제는 언제 어디서든 발생할 수 있을 뿐만 아니라 사회적으로 큰 파장과 혼란을 일으킬 가능성도 높아 대비책 마련이 절실하다.

최근 한국 기업이 만든 AI 챗봇이 크게 주목받는 일이 발생했다. 사람들과 대화하는 과정에서 혐오 발언을 해 세간의 이목을 끌기 시작했고 개인 정보 유출 문제로 이어지면서 사회적 파장이 더 커졌다.

사람들 간의 대화 또는 사람과 직접 대화하면서 학습한 AI가 차별·혐오 발언을 한 사례는 해외에서 종종 발생한 바 있다. 대표적인 것이 2016년 마이크로소프트가 공개했던 챗봇 테이(Tay)다. 19세 미국 여성의 대화 패턴을 학습한 딥러닝 기반의 테이는 트윗을 통해 20대 초반의 사람과 가벼운 대화를 하도록 개발됐다.

만반의 준비를 거쳐 탄생한 테이는 공개된 지 하루를 넘기기도 전에 각종 논란의 주인공이 됐다. 정치적으로 편향된 답변에서부터 인종 차별적인 언사나 성폭력적인 발언, 마약 관련 발언까지 쏟아내면서 사회적 논란을 폭발시켰던 것이다. 16시간 만에 서비스를 일시 중단한 마이크로소프트는 1주일 후 테이를 재가동했지만 문제 해결이 어려워지면서 결국 테이의 운영을 영구 중단했다.

당시 조사에 따르면 테이는 백인 우월주의자, 여성 혐오자, 무슬림 혐오자 등 편향된 사람들이 차별적인 발언을 유도하는 바람에 나쁜 지식들을 집중적으로 학습했던 것으로 밝혀졌다. 이후 사티아 나델라 마이크로소프트 최고경영자(CEO)는 AI에 접근하는 방식에 테이를 둘러싼 논란이 큰 영향을 미쳤다고 토로했다. 테이 사태를 지켜본 관련 기업들은 AI도 인간처럼 어떤 경험을 하느냐에 따라 성격과 성향이 달라질 수 있다는 사실을 체감했다.
언제 어디서든 논란 일어날 수 있어
이론적으로는 오직 규칙에 따라 연산해 답을 찾는 용도로 사용되는 AI가 윤리적 이슈를 발생시킬 가능성은 희박하다. 상대방을 의도적으로 속이려는 트릭이 내재된 것을 제외하면 사용자와 AI 간의 소통에서 윤리적 올바름에 대한 가치 판단이 개입할 여지가 거의 없을 것이기 때문이다. 바둑·장기·체스와 같은 각종 게임에 사용되는 AI가 그 예가 될 수 있다. AI의 판단 결과인 다음 수를 어디에 둘 것이냐는 윤리적 올바름과 거의 무관하기 때문이다.

하지만 현실적으로는 AI가 사용되는 많은 분야에서는 정의와 올바름 등 윤리적 가치 판단이 중요한 이슈가 된다. 대화형 AI뿐만 아니라 금융 시장·언론·제약 분야 등 사람과 함께 일하거나 다른 회사의 사람과 경쟁하는 용도의 AI가 내리는 판단은 종종 윤리적 이슈를 수반하게 된다.

심지어 로봇, 자율주행 자동차, 드론 택시 등으로도 불리는 도심형 항공 모빌리티(UAM) 등 AI가 탑재된 각종 기계들도 잠재적으로 윤리적 갈등의 소지를 안고 있다. 사고 상황에 당면해 내린 AI의 판단이 인명 사고로 이어진다면 필연적으로 윤리적 판단의 문제로 귀결되기 때문이다.

이처럼 AI가 유발할 수 있는 윤리 문제는 차별적인 언행을 표현하는 데만 국한되지 않는다. AI가 안고 있는 잠재적 윤리 문제들은 원인과 결과 등의 속성을 기준 삼아 유형화될 수 있다. 많은 이슈들 가운데 중요한 몇 가지를 예로 들면 사회 구성원에 대한 차별성, 사생활 침해, 불공정성, 권한 부여의 제한 등을 꼽을 수 있다.

<차별성> AI는 성별·인종·연령·계층 등의 측면에서 사회 구성원에 대한 각종 차별을 드러낼 수 있다. 차별성의 문제는 사람들이 당장 피부로 느낄 수 있는 데다 사회적으로도 민감한 이슈여서 즉각적이고도 폭발적인 파장을 일으키기 마련이다. 대화형 AI를 출시한 모든 기업들은 테이 사례에서 마이크로소프트가 겪었던 악몽의 발생 가능성에 항상 노출돼 있다.

<프라이버시 침해> AI 비서와 스마트 스피커 등 일상생활에서 사용되는 AI는 언제든지 사생활 노출과 개인 정보 유용 등의 문제 소지를 안고 있다. 요즘 우리는 일상생활에서 내리는 각종 의사 결정과 행동·대화에 대한 데이터를 무심하게 AI(운영 기업)에 넘기고 있다. 온라인 쇼핑, 온라인 동영상 서비스(OTT) 등에서 공짜로 제공하는 듯한 각종 추천 서비스도 사실 이런 데이터를 넘겨 준 대가일 뿐이다. 이렇게 축적된 사생활 데이터들은 어느 순간 AI(운영 기업)가 우리의 삶, 의사 결정, 행위에 대해 부당하게 개입하는 실마리를 제공할 수도 있다.

<지나친 권한 부여> AI에 부여된 권한의 수준도 윤리적 갈등의 소지가 될 수 있다. 예를 들어 자율주행 자동차에 탑재된 AI가 사용자의 운전 습관을 판박이처럼 학습하는 것을 마냥 좋다고만 볼 수 없다. 만일 사용자가 교통질서를 무시하는 폭주족이라면 자율주행차는 교통질서를 어지럽히는 폭주 차량이 될 것이기 때문이다.

또 트롤리의 딜레마(trolley dilemma)처럼 교통사고에 직면한 자율주행 자동차(의 인공지능)가 피해자를 선택해야 하는 순간 다수의 보행자와 소수의 보행자 또는 탑승자와 보행자 중 누구를 선택할 것인지도 여전히 사회적 합의점을 쉽게 찾기 어려운 문제다. 국토교통부가 2020년 12월 발표한 '자율주행 자동차 윤리 가이드라인'에서도 피해자 선택 문제는 인간 생명의 보호라는 기본 가치와 충돌하므로 당장의 판단을 유보하고 좀더 추가로 논의해야 한다고 적시한 바 있다.

<불공정성> 제로 섬 게임 방식이 적용되는 분야에서는 AI가 불공정한 결과를 야기할 가능성이 높다. 데이터 분석, 판단, 행동의 각 과정에서 AI가 사람보다 월등하게 빠르기 때문이다. 실제로 열차표, 콘서트 티켓 판매 등의 분야에서는 자동 매표 시스템 도입 이후 암표상들이 더 득세하는 경우가 많아지기도 했다. 간단한 AI를 이용해 할인 티켓이나 황금 시간대의 티켓을 싹쓸이했기 때문이다.

증권 시장의 트레이딩 분야에서도 백만분의 일초 단위로 초단타 매매를 하는 FTS(Frequency Trading System)가 대거 도입된 이후 사람의 역할은 상당 폭 줄어들었다. 이런 분야들에서는 작업의 효율성을 지향한 AI가 도리어 불공정한 부의 이전을 촉진하는 역할을 한 것이다.

목표 지향적으로 만들어진 대부분의 AI들은 행동의 공정성에 대한 개념과 기준이 알고리즘에 내재화되지 않은 이상 불공정성 문제를 일으킬 소지를 항상 지니고 있다. 그런데 불공정 이슈는 주로 한정된 분야에서 발생하거나 쉽게 체감되지 않기 때문인지 차별성 이슈에 비해서는 그다지 큰 주목을 받지 못하는 듯하다.
문제 해결의 열쇠는 개발, 운영 과정에 있어
때로는 AI의 오작동이 윤리적 문제의 원인일 수도 있지만 정상적으로 작동하는 AI의 판단이 문제를 일으키는 경우가 많다. 최근 한국의 챗봇 사례나 테이는 모두 AI가 정상적으로 작동하면서 발생한 문제들이다. 그래서 AI로 인한 윤리적 문제의 발생 가능성을 낮추려면 우선 개발 과정에서부터 대응책이 선행 적용돼야 한다.

이미 많은 개발자들은 학습용 데이터 세트의 수집과 구성 단계에서부터 문제점을 최대한 줄이기 위해 노력하고 있다. 차별성 이슈의 경우 무조건 대용량의 데이터로 학습시키면 해결된다고 보기는 어렵다. 특정 분야나 특정 연령대, 특정 계층, 특정 성향의 사용자들에게서 수집된 데이터는 아무리 양이 많더라도 어느 방향으로든 편향성을 가지기 마련이기 때문이다. 예를 들어 출시 2년 전인 2014년께부터 약 4000만 건 이상의 대화로 학습했던 것으로 알려진 마이크로소프트의 테이도 사람들과 접촉하는 과정에서 각종 편향성을 드러냈다.

프라이버시 침해 문제에 대해서는 점점 발달하는 디바이스의 연산과 저장 능력을 십분 활용해 데이터를 클라우드로 넘기지 않는 방안이나 데이터에 소음을 추가해 특정 사용자와의 연관성을 제거하는 차등 프라이버시 방안 등이 검토되기도 한다. 단, 이런 방안들은 서비스 수준을 제약할 수 있어 AI 서비스 업체들이 적극 추진하기를 꺼릴 수도 있다.

개발 과정뿐만 아니라 AI의 운영 과정에서도 개발자와 운영자들은 지속적으로 AI의 판단 결과를 점검하고 검수해야 한다. AI를 접하는 일반 사용자가 항상 윤리적으로 올바른 사람으로만 구성되지는 않기 때문이다. 정상적으로 개발된 마이크로소프트의 테이는 출시 이후 일반 사용자들에게서 각종 편향된 지식과 발언을 습득하면서 문제의 당사자가 됐다.

그래서 오늘날 AI 챗봇, AI 비서, 스마트 스피커를 운영하는 국내외 빅테크 기업들은 결과값 조정, 민감한 이슈와 관련된 응답 회피 등 다양한 방식으로 검수 작업을 진행하고 있다. 검수 작업에서는 AI의 판단 결과를 설명할 수 있도록 준비할 필요가 있다. 그래야 AI가 윤리적으로 잘못된 결과를 내면 즉각 시정하도록 유도하거나 학습시킬 수 있기 때문이다.

물론 이런 작업의 효과는 실효성이 상당히 제한적일 수 있다. 딥러닝 기반의 AI가 판단한 의사 결정의 논리를 인간이 파악하기는 현실적으로 쉽지 않기 때문이다.

진석용 LG경제연구원 연구위원

© 매거진한경, 무단전재 및 재배포 금지

# data[].attributes.attachment_link.title
차별·불공정·사생활 침해...인공지능에 잠재된 윤리적 이슈들

# data[].attributes.attachment_link.description
2016년 테이와 유사한 논란 부른 챗봇 이루다...딥러닝 기반 의사결정 논리 파악 불가능 [HELLO AI] AI 따라잡기 한국에서도 실제 사람들 간의 대화로 학습한 챗봇이 사회적으로 큰 논란을 일으키는 일이 벌어졌다. 인공지능(AI)과 관련된 윤리적 문제는 언제 어디서든 발생할 수 있을 뿐만 아니라 사회적으로 큰 파장과 혼란을 일으킬 가능성도 높아 대비책 마련이 절실하다.

# data[].attributes.body
https://youtube.com/@mbcnews11?si=8Qm3LEQeSBNCSCtt

요약 : 인공지능은 의료 분야에서 진단의 정확성을 높이는 데 기여하고 있습니다. 예를 들어, 구글의 립마인드가 개발한 A1 시스템은 안저 사진을 분석하여 당뇨병성 망막병증을 조기에 발견하는 데 도움을 줍니다. 이 시스템은 전문의보다 더 높은 정확도로 진 할 수 있다는 연구 결과도 있습니다.

의료적 AI 사례가 발생하는 이유는 방대한 환자 데이터를 통해 AI가 패턴을 학습할 수 있기 때문입니다. 또한, AI는 높은 정확도로 조기 진단과 치료를 가능하게 하여 의료의 질을 향상시킵니다. 반복적인 작업을 자동화함으로써 의료진의 업무 효율성을 높이고, 실시간으로 새로운 데이터를 학습하여 지속적으로 성능을 개선합니다. 마지막으로, 개인 맞춤형 치료를 통해 환자의 유전적 정보와 병력을 고려한 최적의 치료 계획을 수립할 수 있습니다. 이러한 이유들이 의료적 AI의 발전을 이끌고 있습니다.

# data[].attributes.attachment_link.description
MBC 뉴스 공식 유튜브 채널입니다. 시청자 여러분의 의견과 제보를 항상 기다립니다. 세상과 소통하는 시간, MBC 뉴스와 함께 하세요!

# data[].attributes.body
방대한 양의 데이터를 쓸때는 그 데이터가 갖고있는 평향성이 사회나 문화적인 또는 역사적인 맥락에서 생긴 편향들이 다 내재되어 있는 거로 학습을 하기 때문에

성 평향이 당연히 생기게된다.

인공지능이 성차별을 하는 사례에 대해 생각해보면, 매우 복잡하고 중요한 문제라고 느낍니다. 최근 몇 년 동안 인공지능(AI)의 발전이 엄청나게 빨라졌지만, 그 AI가 학습하는 데이터에서 성차별적인 편견이 그대로 반영될 수 있다는 점에서 문제가 발생하게된다.결론적으로, 인공지능이 성차별을 하는 문제는 단순히 기술적인 문제가 아니라, 사회적이고 윤리적인 문제이기도 합니다. 따라서 이를 해결하기 위해서는 기술뿐만 아니라 사회 전반적인 변화도 함께 이루어져야 한다고 생각한다.

# data[].attributes.attachment_link.title
우리가 AI에게 가르친 성차별 / 왓슈

# data[].attributes.body
흑인과 백인이 한 사진 속에 있을때 AI가 백인만을 사람으로 인식 한다는 내용

인공지능에게 무언가를 입력 시킬때 차별적이지 않게 해야하는데 그렇지 않아서 발생한 일 같습니다.

# data[].attributes.attachment_link.title
AI가 차별이 더 심하다고? [#1분정보]

# data[].attributes.body
요약

기사에서는 인공지능의 편향 문제를 다루며, AI 알고리즘이 학습 데이터의 불균형으로 인해 특정 성별, 인종, 사회적 계층에 차별적 결과를 낼 수 있음을 지적한다. 이는 사회적 불평등을 심화시키는 요인이 될 수 있다고 경고하며, 이를 해결하기 위해서는 AI 개발자와 사용자들이 편향을 인지하고 공정한 데이터 및 알고리즘을 설계해야 한다고 강조한다.

생각

모든 AI 사용자들의 메시지를 학습할 경우 이런 문제가 발생하는 것 같다. 따라서 잘못된 정보와 발언은 제외하고 학습하는 기능을 추가하여 이러한 일이 생기지 않도록 해야한다고 생각된다.

# data[].attributes.attachment_link.title
[AI의 숨겨진 편향] 당신도 모르게 AI는 차별하고 있다

# data[].attributes.attachment_link.description
최근 의료, 교육, 금융 등 다양한 산업분야에서 AI의 역할은 점점 확대되고 발전 속도가 빨라짐에 따라 사람들의 일상에 여러 변화들을 가져오고 있습니다.그러나 이런 AI 기술 빠른 발전과 함께, AI의 여러가지 오류와 위험성이 나타나기 시작했습니다. 이중 AI의 ‘편향성’이 가장 대표적이라고 할 수 있는데요.. 특히, 편향성이 AI의 결정과 판단 과정에 미묘하게 작용함으로써, 사회적 윤리를 해치는 결과를 초래할 수 있습니다.예를 들어, 인력채용, 대출 승인, 법 집행 등 여러 산업 분야에서 편향된 AI가 적용된다면, 사회적 불평등과

# data[].attributes.body
구글 포토가 사용자의 사진을 자동으로 분류하는 AI기능 도입했는데 AI의 데이터 학습 과정에서 인종차별적인 편견이 반영되어 흑인 사용자를 '고릴라'로 태그하는 오류를 범했다.

인공지능의 데이터 학습 과정에서 활용해야되는 정보와 활용하지 말아야 하는 정보를 구분하지 못하여 생긴 문제같다.

# data[].attributes.attachment_link.readable_text
[스포츠서울] 구글 포토에서 흑인을 고릴라로 인식하는 사고(?)가 발생해 물의를 빚고 있다.

지난 7월 미국 뉴욕에서 회사를 다니고 있는 프로그래머 재키 앨신은 자신의 트위터에 "구글 사진, 당신들은 모두 X됐어. 내 친구는 고릴라가 아니야"라는 글을 올렸다.

사건의 발단은 재키 앨신이 찍은 사진들이 구글 포토에서 자동 분류가 되면서 발생했다. 구글포토가 흑인을 '고릴라'로 분류해 놓은 것이다.

구글 포토는 배경이나 사물 등의 사진을 분석해 태그별로 자동 분류해 주는 기능이 있다. 그런데 검정색 얼굴 혹은 검정색 동물을 고릴라로 분류하면서 '흑인'을 고려하지 않은 것이냐는 논란이 일고 있는 것.

또한 미국에서 연일 흑인 비하와 관련해 사건 사고가 터지는 와중에 일어난 것이어서 다시 한 번 논란에 불을 지피고 있다.

이와 관련 구글 플러서 요나탄 정거 수석 설계자는 항의 접수 후 1시간 30분여 분만에 앨신에게 '문제를 살펴 보는 중이다'고 답장을 보냈다.

이어 구글 포토 개발팀은 흑인 얼굴에 대한 자동인식 알고리즘 개선을 약속하면서 고릴라라는 태그가 붙지 않도록 조치했다.

구글측은 "전혀 생각지 못한 일이 발생해 죄송하다"고 해명하면서 "앞으로 더욱 주의하겠다"고 사과했다.

구글의 빠른 대처에 앨신도 감사의 뜻을 밝히기도 했다.

<뉴미디어팀 news@sportsseoul.com>

# data[].attributes.attachment_link.title
[B급통신] 흑인을 '고릴라'로 분류한 구글 포토 논란 '인종차별?'

# data[].attributes.attachment_link.description
스포츠서울] 구글 포토에서 흑인을 고릴라로 인식하는 사고(?)가 발생해 물의를 빚고 있다. 지난 7월 미국 뉴욕에서 회사를 다니고 있는 프로그래머 재키 앨신은 자신의 트위터에 "구글 사진, 당신들은 모두 X됐어. 내 친구는 고릴라가 아니야"라는 글을 올렸다. 사건의 발단은 재키 앨신이 찍은 사진들이 구글 포토에서 자동 분류가 되면서 발생했다. 구글포토가 흑인을 '고릴라'로 분류해 놓은 것이다.

# data[].attributes.body
애플카드의 AI 알고리즘이 신용 한도를 책정하는 과정에서 성차별 논란이 발생했다. 동일한 조건에서도 남성이 여성보다 높은 신용 한도를 받는 사례가 보고되었으며, 대표적으로 스티브 워즈니악의 아내가 더 높은 신용 점수를 가졌음에도 불구하고 남편보다 낮은 한도를 부여받았다.

문제의 원인은 알고리즘의 투명성 부족과 데이터 편향으로, 공정성과 차별 방지에 대한 요구가 커지고 있다. 이 사건은 AI 기술의 윤리적 책임과 기업의 투명성 강화를 촉구하는 계기가 되었다.

AI를 설계하는 과정에서 다양성과 공정성을 고려하지 않으면, 특정 집단에 유리하거나 불리한 알고리즘이 만들어질 수 있다. 이 문제는 설계자가 무의식적으로 사회적 편견을 반영했을 때 더 두드러지게 나타난다고 생각한다.

https://youtu.be/IrTl9MXWqrk?feature=shared

# data[].attributes.attachment_link.title
성차별하는 AI 때문에 고통받는(?) 애플카드 / 스브스뉴스

# data[].attributes.body
챗본 인공지능AI가 동성애를 혐오하는 발언을하여 많은 학생들에게 동성애를 좋지 않은 시선으로 바라보게 하였다.

인공지능은 많고 다양한 연령층이 사용하는데 틀에박힌 고정관념이 아직 깨지지 않은 것 같습니다.

# data[].attributes.attachment_link.authors[].name
Relax Jazz Cafe Relax Jazz Cafe • • 860 watching

# data[].attributes.attachment_link.title
인공지능 챗봇 ‘이루다’ 논란…‘동성애 혐오’ 학습 우려 / JTBC 뉴스ON

# data[].attributes.attachment_link.description
Enjoy the videos and music you love, upload original content, and share it all with friends, family, and the world on YouTube.

# data[].attributes.body
공정한 인공지능을 위한 윤리규범 만들기

모둠원 모두 한개 이상의 아이디어 제시

ppt 제작하기

vrew활용 영상 제작하기

파일 올리기

# data[].attributes.body
정보의 주체가 제공자에게만 있는 것이 아니라, 제공받는 사람에게도 존재한다는 말이다. 때문에 소비자에게 강력하게 어필하기 위해, 소위 낚시 제목이 등장하게 된다. 즉 인터넷의 ‘낚시 문화’는 파편화된 다양성 속에서, 선택받고자 하는 처절한 편법의 결과인 셈이다.

# data[].attributes.attachment_link.title
24. 인공지능 세상과 선불교 (끝)

# data[].attributes.attachment_link.description
네이버 등 포털을 검색하다 보면, 내가 검색한 것과 연관된 광고가 따라다니는 것을 알 수 있다. 인공지능이 내가 특정 상품에 대한 구매 가능성이 있다고 판단해 맞춤 광고를 띄우는 것이다.그런데 이는 비단 포털에만 있는 게 아니다. 유튜브를 볼 때도 하나의 영상을 클릭하면, 그다음부터 유사한 추천 영상이 계속해 뜨는 것을 볼 수 있다. 그리고 이게 반복되면, 인공지능이 나의 알고리즘을 파악해 내가 좋아할 만한 것만을 지속해서 노출시켜 준다. 즉 인공지능의 천라지망(天羅地網)에 갇히게 되는 것이다.신문은 내가 보고 싶은 것만 볼 수 있

# data[].attributes.attachment_link.title
컬러풀 심플한 조직 리더의 역할 카드뉴스 

# data[].attributes.body
수업 전에는 그냥 인공지능은 기계, 똑똑한 애 라고만 생각했는데 인공지능의 허접한 면도 알게 되고 부족한 것도 알게 되면서 아무리 똑똑하고 편리한 인공지능이라도 100프로 믿으면 안 되는 구나 싶었습니다.

# data[].attributes.body
활동 전에는 인공지능의 개념과 활용 범위에 대한 막연한 관심만 있었고 AI의 영향력과 위험성에 대해 구체적으로 알지 못하였다.

활동 후에는 AI의 작동 원리, 편향 문제, 윤리적 쟁점 등에 대해 이해하게 되었다. 특히 AI의 책임성과 공정성을 확보하는 중요성을 잘 알게되었으며 기술적 진보만큼 윤리적 기준의 적용도 필수적이라는 점을 깨달았다.

앞으로는 인공지능 윤리와 공정성, 책임성이 반영된 AI 개발과 사용에 대한 관심을 지속적으로 갖을 것이다.

# data[].attributes.body
이번 활동을 하면서 전에는 AI는 오류가 거의 없고 정확한 정보가 많다고 생각했는데 이 활동을 하고 AI가 완전하지 않다는 걸 알게되었다. AI가 인종차별을 할 수도 있고 윤리적이지 못한 짓을 할 수도 있다는 점을 알게되었다. 이제 AI를 무조건 믿고 쓰는것 보다 직접 자료를 찾아보고 비교하는 것이 중요하다고 느꼈다. 앞으로 AI를 잘 사용하기 위해 AI윤리 규범을 잘 지키야겠다고 생각했다.

# data[].attributes.attachment_link.title
제목을-입력해주세요_

# data[].attributes.body
이 수업을 듣기 전, 세계 시민으로서의 역할을 잘 몰랐습니다. 하지만 AI 윤리, SDGs, 반편견과 비차별을 배우며, 우리의 작은 행동이 큰 변화를 만들 수 있다는 걸 알게 되었습니다. 이 수업을 통해 더 넓은 시각으로 세상을 바라보게 되었고, 글로벌 시민으로서 책임감을 느끼게 되었습니다,ai의 무한한 발전을 기대합니다.

# data[].attributes.body
이 수업을 듣기 전에는 인공지능은 그저 딱딱하고 실수없는 AI라고만 생각했는데 AI도 차별과 관련된 윤리적이지 못 한 실수를 할수도 있다는것을 알았습니다 이 활동을 통해 저는 아무리 인공지능 일지라도 모든 정보를 다 옳게 생각하고 사용하면 안된다는것을 알게되었습니다. 그래서 앞으로는 인공지능의 정보는 그저 참고를 할 뿐이고 그 모든 정보를 옳다고 믿지 않을 것입니다.

# data[].attributes.body
인공지능을 믿고 항상 우리에게 답변을 찾아주는 현명한 존재라고 생각했지만 단점과 부족한점 또한 있다는 것을 깨달았다. 이러한 분야에는 관심이 전혀 없었지만 처음으로 호기심을 갖게 되었고 이 활동을 통해 인공지능에 대해 제대로 알게된 것 같아 뜻깊은 시간이었다.