https://padlet.com/audreyko1030/rx4qm3lsmloic129 현자의 자세를 담아 만듦 en-us 2021-11-16 00:57:28 UTC 2025-10-03 02:52:57 UTC hello@padlet.com audreyko1030 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892699598 4차 산업 혁명시대에 인공지능을 활용하지 않는 분야가 거의 없을 정도로 인공지능의 중요
성이 점점 증대되고 있다. 그러나, 인공지능의 행위에는 편향성이 발생할 수 있다는 점을 인지하고 인공지능 시스템을 도입하기 위해서는 이러한 편향성의 위험을 알고 있는 것이 매우 중요하다. 포브스(Forbes)는 인공지능 활성화를 저해하는 편향(Bias) 5가지를 제시했는데, 그것은 human bias, hidden bias, data sampling bias, long-tail bias, intentional bias이다. 첫 번째는 인공지능의 학습 데이터를 제공하는 인간 자체가 편향적인 동물이기 때문에 어쩔 수 없다는 것이다. 그러나 의사결정 과정에서 수정이 가능하다. 두 번째 편향은 가장 발견하기 어려운 편향으로, 완벽한 조건을 갖춘 조건도 별로라고 판정할 수 있다. 세 번째 편향은 공급되는 데이터의 샘플링에 편향이 존재하는 것이다. 네 번째 편향은 훈련 데이터에서 어떤 특징을 가진 범주의 누락이 일어나 인공지능이 충분한 다양성 및 자료를 학습하지 못하는 경우를 의미한다. 마지막으로 고의적 편향은 해커와 같은 공격자들에 의해 나쁜 의도로 일어나는 편향을 의미한다. 이것이 가장 위험한 편향이라고 할 수 있다.
인공지능의 편향성을 보여주는 사례는 많이 있다. 이를테면 2019년 페이스북 사건이 있는데, 페이스북은 광고주로 하여금 성별,인종 및 종교 등의 특징을 고려한 타겟팅 광고를 허용했다. 그리하여 특징 직업군, 예를 들어 택시 운전사의 경우 소수 민족 배경의 남성에게 많이 추천되었다고 한다. 이러한 인공지능의 편향성을 없애기 위해서는 성별 혹은 기타 특징들을 차별하지 않도록 기계를 학습시킬 수 있는 데이터 세트를 구성하여 학습하게 하면 된다고 생각한다. 그리고 이런 데이터를 만드는 과정에 또한 사람의 편견이 개입될 수 있는 여지가 있다. 그러므로 새로운 편견을 찾아내기 위한 지속적인 작업이 필요하며, 최대한 많은 데이터를 수집하는 것이 중요해보인다. 
그리고 당연하게도, 인공지능을 사용하는 분야는 편향성이 적은 곳부터 도입되어야 할 것이다. 잠재적인 편향이 예상되는 분야에 성급하게 도입해서는 안 된다. 그리고 편향성 연구 자체에 더 많이 투자하고 데이터를 많이 수집하여 사용해야 한다. 이 과정에서 개인정보가 제대로 보호되고 있는지도 잘 확인해야 할 것이다.]]> 2021-11-16 01:06:52 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892699598 sd12121 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892699853 포브스는 인공지능 활성화를 저항하는 편향 5가지를 인간의 편향, 숨겨진 편향, 데이터 표본 편향, 롱테일 편향, 고의적 편향이라 소개했다. 인간의 편향은 인간이 인공지능에 학습시키는 원시 데이터 자체에 편행이 개입되는 경우이다. 숨겨진 편향은 인공지능에서 절대 보거나 발견할 수 없는 의도하지 않은 편향이다. 데이터 표본 평향은 데이터 샘플링에 편향이 있어 인공지능이 편향되게 되는 것이다. 롱테일 편향은 훈련 데이터에서 범주가 누락될 떄 발생한다. 고의적 편향은 가장 위험한 편항으로 해킹 공격과 같은 의도적 편항이다. 인간의 편향, 데이터 표본 편향, 롱테일 편향에서 알 수 있듯이 인간이 주입하는 데이터에서 문제가 생김을 알 수 있다. 그렇기에 데이터가 왜곡되거나 편향성을 띄게 만들 요소가 있는 지를 철저하게 확인하여야 한다. 숨겨진 편향과 고의적 편향과 같이 데이터 값과 상관없는 문제가 일어날 수도 있다. 이를 막기 위해서는 인공지능이 결과를 도출할 때 수시로 검토하여 이러한 편향이 포함되어 있는 지 감독해야 할 것이다. ]]> 2021-11-16 01:06:59 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892699853 csh777 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892700073 AI 편향성을 일으키는 주요 원인중 하나는 데이터의 불균형이다. KAIST 인공지능공정성연구센터장을 맡고 있는 유창동 교수는 데이터가 많은 집단에 대해서는 AI가 학습을 통해 그 집단의 비교적 보편적인 결과를 도출할 수 있지만, 데이터가 적은 집단에 대해서는 AI의 결론이 그 집단을 대표한다고 볼 수 없는 경우가 발생한다는 점을 지적하였다. 즉 집단 간에 표본 수가 달라 발생하는 편향은 지금까지 사회적으로 차별 받은 계층에게 흔히 일어나고, 데이터 축적 역시 기득권에게 더 유리한 일이기 때문이다. 그래서 데이터 불균형은 곧 사회적 차별 문제로 직결되는 경우가 잦다. 따라서 표본 크기의 불평등을 해소하기 위해 프로그래밍 시 집단의 표본 크기를 의도적으로 맞추어 나가려는 노력이 필요하다.]]> 2021-11-16 01:07:05 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892700073 jeoniibaek https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892700425   먼저 편향성을 줄일 수 있는 기술의 개발이 필요하다고 생각합니다. 인공지능은 인간 경험에 대해 수집한 데이터를 서로 비교하고 연결함으로써 새로운 정보를 추론할 수 있습니다. 이 추론한 정보 중에 인종, 성별 등에 대한 신상 정보가 있을 수 있고 이 정보는 인공지능이 편향된 결정을 내리는 데 영향을 줄 수 있습니다. 즉 빅데이터에 존재하는 수많은 정보가 개별적으로 존재할 때는 큰 의미가 없지만 서로 연결될 경우 차별의 근거로 사용될 수 있는데, 이를 선별할 수 있는 기술이 필요합니다.

  인공지능 기술을 주도하고 있는 기업들이 어떤 원칙에 입각하여 인공지능 기술을 구현했는지에 대한 윤리강령을 만들고 발표하는 것을 의무화해야 합니다. 인공지능에 들어간 알고리즘은 대부분 비가시적이므로 기업에서 윤리성에 대한 심도 있는 고려 없이 개발하는 경우가 많을 것입니다. 인공지능을 구현하기 전에 먼저 편향성을 방지하기 위한 윤리 원칙을 세워 개발하는 중에 이 원칙들이 중요하게 반영되도록 신경써야 할 것입니다.]]> 2021-11-16 01:07:14 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892700425 adastra91 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892701342  우선, 가장 근본적으로 각 사회에서 편향성이 발휘하는 영역에 대해서 인공지능 전문가들이 인지하여 데이터를 입력하는 과정에서 해당 데이터가 왜곡되지 않았는지 검토해보아야 한다. 왜곡된 데이터를 입력함으로써 인공지능의 판단은 인간의 편향성을 담게 된다. 그 노력의 일례로, 구글에서 개발한 왓-이프 툴은 특정 데이터를 바꿨을 때 그 변수가 불공정한 결과에 얼마나 영향을 미치는지 보기 쉬운 형태로 나타나는 것이다. 이처럼 데이터가 우리 사회의 편향성을 담지 않도록 인공지능이 학습하기 전에 미리 변수들이 편향되지 않았는지 확인해보는 안전장치가 마련되어야 한다.
 또한, 인공지능이 판단을 내린 이후에도 이를 완벽하고 합리적인 결과로 받아들이지 않고 알고리즘에 어떤 편향이 포함되어 있었는지 점검하고 자체 평가하는 과정이 필요하다. 즉, 인공지능의 판단 과정을 대중이 확인할 수 있도록 투명성을 보장하고 이를 점검할 수 있는 기술적 도구와 철학이나 윤리 등 다양한 전문가들의 논의가 필요하다. IBM의 AIF 360은 인공지능의 의사결정에 대한 근거를 ‘설명 가능’하게 만들어 알고리즘이 도출한 의사결정의 편향성을 탐지하고 이에 대응할 수 있도록 한다. 이처럼 인간이 넣은 데이터를 가지고 인공지능이 도출한 판단을 곧바로 받아들이지 않고, 이 판단이 왜 나왔는지 설명하고 편향성이 심하지 않은지 다시 평가하는 과정이 필요하다. ]]> 2021-11-16 01:07:40 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892701342 sd12121 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892704177 2021-11-16 01:08:56 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892704177 sd12121 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892710847 2021-11-16 01:11:52 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892710847 sd12121 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892714391 2021-11-16 01:13:23 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892714391 adastra91 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892726660 2021-11-16 01:18:34 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892726660 adastra91 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892727680 2021-11-16 01:19:01 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892727680 adastra91 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892728556 2021-11-16 01:19:22 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892728556 audreyko1030 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892754696 2021-11-16 01:30:15 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892754696 audreyko1030 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892763175 2021-11-16 01:34:01 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892763175 jeoniibaek https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892765129 2021-11-16 01:34:57 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892765129 jeoniibaek https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892766672 2021-11-16 01:35:40 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892766672 csh777 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892771545 2021-11-16 01:37:55 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892771545 audreyko1030 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892783722 2021-11-16 01:43:09 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892783722 csh777 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892786411 2021-11-16 01:44:17 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892786411 sd12121 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892793854 2021-11-16 01:47:25 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892793854 audreyko1030 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892817593 2021-11-16 01:56:33 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892817593 audreyko1030 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892819494 독일의 경우 데이터 윤리위원회를 통해 기술 위험성을 5단계로 분류하여 이에 따라 제재를 하는 방식을 채택하고, 덴마크의 경우 데이터 윤리 인증(Data Ethics Seal) 제도를 마련하고 데이터 윤리 규범을 준수하는 기업에게 인증마크를 부착하여 소비자의 신뢰를 형성하고, 데이터 남용을 막고자 한다. 이처럼 국가별 상이한 정책 및 규제로 인해 법률적인 혼란을 초래하고 기술개발 속도가 저하되는 등의 문제가 발생하고 있어 국제적 차원의 일관성 있는 접근이  필요하다.
우리나라의 경우, 「ITC융합특별법」, 「SW진흥법」 등 법체계 개선을 통한 산업진흥, 「지능정보사회 기본법안」(2.23), 「디지털기반 산업 기본법안」(3.7), 「제4차 산업혁명 촉진 기본법안」(3.30), 「로봇기본법안」(7.19), 「지능정보사회 중장기 종합대책」(2016.12) 등을 통한 제재가 이뤄지고 있다. 알고리즘 관련 입법은 선호 제한(실정법적 제재), 사후적 제약, 정당화 절차 존재, 규제 방식의 형식성이 이뤄졌다.
향후에는 SW안전 및 프라이버시 관련 법제, 개별 법률 개선이 필요할 것이다. 이에 상시적, 제도적 평가 체계의 구축과 새로운 거버넌스 모색이 중요해보인다. 헌법에서는 차별 등 인권의 문제와 인간 존엄성, 그리고 인간의 입헌주의와 인공지능의 입헌주의 측면의 문제를 다뤄야 하고, 저작권에서는 인공지능 학습과정에서 대규모로 일어나고 있는 저작원 침해에 대해 다뤄야 하고, 비인간 행위자의 저작권을 보호할 수 있을지도 확인해야 할 것이다. 이 외에도 민사법상의 문제, 형법상의 문제, 노동 및 복지에 인공지능이 개입하게 될때 생기는 문제에 대한 논의도 필요하다. ]]> 2021-11-16 01:57:21 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892819494 audreyko1030 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892821207 2021-11-16 01:58:03 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892821207 csh777 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892844769 2021-11-16 02:08:03 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892844769 adastra91 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892844778 2021-11-16 02:08:03 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892844778 audreyko1030 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892852980 2021-11-16 02:11:45 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892852980 audreyko1030 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892858421 2021-11-16 02:14:06 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892858421 audreyko1030 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892875076 편향성을 해결하려는 접근을 보면 오류를 해결하는 접근 방식과 비슷하기에 명확한 구분이 필요하다.]]> 2021-11-16 02:21:14 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892875076 audreyko1030 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892901666 데이터 수집 과정에서 데이터가 많이 있으면 좋긴 하지만 관련 없는 정보들도 다같이 수집하지 않고 필요한 정보들만 선택적으로 수집해야 한다. 불필요한 정보들을 수집하지 않고, 정보를 제공하는 사람이 개인정보를 침해받았다고 느끼지 않도록 사전에 공개 범위를 설정할 수 있는 제도를 만들고, 제3자에게 제공되는지 여부를 투명하게 공개해야 한다. (쟁점2)
데이터 처리 과정에서 알고리즘 공개 문제 및 판단 검토 문제에 대해 살펴봐야 한다.  알고리즘의 세세한 공개를 할 필요는 없지만 기업의 이익이 침해되지 않으며 민주적인 사회를 해치지 않도록 가중치 정도는 공개하는 것이 맞다.(쟁점1)
데이터 활용 과정에서 관련 법적 근거를 통한 제재를 하는 것도 중요하지만 급변하는 기술과 그 활용으로 인해 개정이 비교적 쉬운 관련 기관의 규제도 필요하다.(쟁점3)

]]> 2021-11-16 02:31:55 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1892901666 audreyko1030 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1893057685 2021-11-16 03:41:54 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1893057685 audreyko1030 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1893061062 2021-11-16 03:43:37 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1893061062 audreyko1030 https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1893061603 2021-11-16 03:43:55 UTC https://padlet.com/audreyko1030/rx4qm3lsmloic129/wish/1893061603