• 질문으로 시작

• 소그룹 토의

• 확장 학습

• 그룹 토의 정리

• 독서 일지 작성

• 수업일지 작성

데이터셋에 내재된 편향이 모델의 결정에 영향을 미칠 수 있다. 이는 특정 인종, 성별, 나이 그룹에 대한 불공정한 대우로 이어질 수 있다.

2. 프라이버시

개인 정보를 수집하고 처리하는 과정에서 사용자의 프라이버시가 침해될 수 있다.

3. 책임 문제

딥러닝 시스템이 잘못된 결정을 내릴 경우 그에 대한 책임을 누구에게 물어야 하는지에 대한 논란이 있다.

4. 자동화와 일자리

딥러닝 기술의 발전으로 인해 많은 직업이 자동화될 위험이 있으며, 이는 대규모 실업을 초래할 수 있다.

5. 정보 조작

딥러닝을 이용한 가짜 뉴스나 딥페이크 기술이 사회적 혼란을 불러올 수 있다.

뇌의 신경망(뉴런 구조)을 본떠 만든 **인공신경망(Artificial Neural Network)**을 이용해서 데이터 학습

활용 분야

이미지 인식 (얼굴 인식, 자율주행)

음성 인식 (스마트 스피커, AI 통역)

자연어 처리 (ChatGPT 같은 챗봇!)

추천 시스템 (넷플릭스, 유튜브 추천)

생성 AI (AI 그림, AI 작곡, AI 글짓기)

+

인공신경망(Neural Network)

자동 특징 추출(Feature Learning)

팀장:이채민

팀원:김나영(10803),백주은(10808),최은서(10824),허가은(10825),허지윤(10826),황정윤(10828)

AI정렬은 인공지능을 인간이 의도한 목표,윤리적 원칙에 맞게 조정하는 것을 뜻한다. 다시 말해 인간에게 해를 끼치지 않고 도움이 되도록 만드는 것!

듀얼 브레인'은 그냥 AI 사용법 매뉴얼을 넘어서, AI 시대에 우리 인간의 역할과 가치가 뭔지에 대해 깊이 생각하게 해줍니다. 이 책을 읽으면서 AI가 사람을 대체하는 게아니라, 사람의 능력을 더 넓혀주는 도구로 쓰일 때 가장 큰 가능성을 보여준다는 걸 다시 한번 깨달았습니다 결론적으로, 이 책은 AI 기술에 관심 있는 모든 사람들이 꼭 읽었으면 좋겠습니다. 특히 AI 시대에 내 전문성을 어떻게 발전시키고 AI와 어떻게 잘 협업할지 고민하는 사람들에게 실질적인 도움이 될 것입니다. '듀얼 브레인'은 기술이 발전하는 세상에서도 우리 인간만의 고유한 가치를 잃지 않고 균형 잡힌 시각을 가지는 데 큰 도움이 될 것이라고 생각합니다.

여러 정보를 학습하며 정보를 얻고 판단을 내릴 때, AI가 잘못된 판단을 내리고, 우리가 그 판단을 그대로 사용한다면, 그 책임은 누구한테 있는지 확실히 할 수가 없다. 아직 누구에게도 정확히 책임을 지라는 법률이 없다.

또한 AI가 학습하는 방대한 데이터 중에서 저작권이 보호되는지에 대해서 문제가 생긴다. 여러 데이터를 습득하는 과정에서 AI는 무단으로 저작권이 있는 정보를 학습해 저작권을 침해하게 된다, 이에 대해서 가이드라인이 필요하다.

+ 개인정보를 습득하게 되고, 그 정보를 동의 없이 사용한다면 개인정보 또한 침해된다. 그 정보가 무슨 목적으로 활용되든지 그 정보의 주인은 부정적인 영향을 받을 수 밖에 없다.

AI는 정보를 평균화하기 때문에 개개인의 사례에 대해 오판할 가능성이 있다. 인간은 AI가 100% 객관적이지 않다고 생각해야 하며, AI는 인간의 정보를 바탕으로 딥러닝한다는 것을 전제로 AI를 사용해야 한다. 윤리적인 문제는 AI를 만들고 학습시킨, 인간의 책임이다. AI는 사람의 일을 대신하며, 무언갈 창작할 수 없다. AI는 타인의 창작을 베껴 흉내내는 것 밖에 할 수 없기에 더더욱 정보를 학습시킨 인간에게 윤리적 책임이 있다고 본다.

https://www.chosun.com/economy/tech_it/2023/11/04/F6MXUXT5PVC65PFGVM4XW7OENI

https://dbr.donga.com/article/view/1206/article_no/8183

https://seo.goover.ai/report/202503/go-public-report-ko-7208b67b-71b8-4d2d-9050-af481d452c3d-0-0.html

바이오해커라고 하면, 좋지 않은 의미라는 생각이 들지만, ' 아이젬 대회' 등에 참여하여 여러 유전자변형 미생물 등에 대해 연구하고 있다는 것을 바탕으로 보면 좋은 의미로도 볼수 있다.

이 기술은 주로 딥러닝 알고리즘. 특히 생성적 적대 신경망을 활용ㅏ여 생성됩니다. 딥페이크는 다양한 분야에서 활용될 수 있지만. 그로 인한 윤리적, 법적 문제도 동반할 수 있습니다.

딥페이크 작동 원리

딥페이크는 기술은 주로 두 가지 주요 기술을 사용하여 작동 합니다

1. 생성적 적대 신경망: GANs는 두 개의 신경망, 즉 생선자와 판별자로 구성됩니다. 생성자는 새로운 이미지를 생성하고, 판별자는 생성된 이미지가 실제인지 가짜인지를 판단합니다. 즉 이 두 네트워크가 경쟁하면서 생성된 이미지의 품질이 향상됩니다.

2. 자동 인코더: 자동 인코더는 입력 이미지를 압출하고 다시 복원하는 네트워크입니다. 이 기술을 사용하여 얼굴을 분석하고, 다른 얼굴의 특징을 적용하여 새로운 얼굴 이미지를 생성할 수 있습니다.

딥페이크의 응용 분야

1.엔터테이먼트

영화 및 TV 쇼에서 배우의 얼굴을 디지털로 대체하거나 뉴스에서 앵커를 대처하는 등 또는 고인이 된 배우의 모습을 복원하는 데 사용될 수 있습니다.

1. 게임

   비디오 게임에서 캐릭터의 얼굴을 실제 인물처럼 보이게 하거나, 플레이어의 얼굴을 게임 캐릭터에 적용하는 등의 용도

딥페이크의 위험과 윤리적 문제

허위 정보: 딥페이크는 사실과 다른 정보를 생성하는 데 사용될 수 있으며, 이는 허위 정보 및 가짜 뉴스의 확산에 기여할 수 있습니다. 정치적 또는사회적 혼란을 초리할 수 있습니다.

사생활 침해: 개인의 얼굴이나 음성을 무단으로 사용하여 가짜 영상을 만드는 것은 사생활 침해로 이어질 수 있습니다. 유명인사나 일반인 모두가 피해를 입을 수 있습니다.

+딥페이크 기술이 사기, 신원 도용, 그리고 범죄 행위에 악용될  수 있습니다. 예를 들어, 사람들의 얼굴을 사용해 가짜 음성 녹음을 만들어 돈을 요구하는 등의 범죄가 발생할 수 있습니다.

즉, 딥페이크는 강력한 기술적 도구이지만, 그로 인해 발생할 수 있는 윤리적, 법적 문제도 크기 때문에 신중하게 접근해야 합니다. 기술의 발전과 함께 이에 대한 대응 방법과 규제도 계속해서 발전해 나가야 할 필여가 있습니다.

: AI는 자아가 없다. AI는 요청 사항을 입력하면 맥락에 맞춰 답변을 제시해 준다. AI는 사용자의 맥락에 맞춰 답변해주기에, AI에게 감정이 있고 자아가 있다고 생각할 수도 있다.

인간은 AI가 그럴듯한 거짓말을 하는 것인지 아닌지 파악할 수 있어야 하고, AI에 휘둘리는 것이 아니라 함께 작업할 수 있어안 한다. AI에 눌리지 않으려면 AI의 주요 과정에 계속 개입해야 한다.

인간이 주요 과정에 계속 개입하는 것은 AI로부터 배우고, 새로운 사고방식이나 문제해결방식을 파악하여 각자의 목표를 이루는데에 도움이 될 수 있을 것이다. AI와 함께 실용적인 공동지능을 형성하는 데도 기여할 수 있을 것이다.

AI의 주요 과정에 적극 개입함으로서 기술 및 영향력을 통제하여 AI가 인간의 가치 및 규범, 윤리 기준 등에 부합하도록 만들 수 있을 것이다. 이렇게 되면 사용자는 자신이 유도한 AI의 답변에 대한 책임을 지게 될 수 있을 것이다.

AI의 주요 과정에 적극적으로 개입한 사람들은 앞으로 다가올 미래의 변화에 더 빨리, 잘 적응할 수 있을 것으로 보인다. AI 기술과 인간이 같이 공존함으로서 더 올바른, 좋은 방향으로 나아갈 수 있도록 인간이 관련 기술 전반에 적극적으로 개입해야 한다고 생각한다.

AI도 인간처럼 실수를 한다. 잘못된 답을 내놓기도 하는 것처럼 크고 작은 실수를 하기도 한다. 또한 AI의 종류마다 고유의 강점과 약점을 가지고 있어 정말로 인간같다고 생각이든다.

저자가 AI와 대화를 하였을 때도 분명히 AI는 인격체가 아니라는 것을 알지만, 대화를 하면 할수록 지각이 있는 사람처럼 느껴졌다고 말하였다. AI는 지각을 가지고 있지는 않지만, 인간을 모방하여 흉내를 낸다. 이는 마치 진실로 인간 같아서 자신이 원하는 모습의 인간처럼 만들어 소통할 수도 있다.

이는 노년층의 독거 노인들에게 좋은 말동무가 될 수 있다. 고독사를 예방할 수 있는 좋은 해결방안이 될 수 있다. AI와 대화를 하며 외로움을 잊을 수 있고 속마음을 얘기해봄으로서 마음의 응어리를 해소해낼 수도 있다.

독거 노인 외에도 다양한 사람들이 AI를 사람처럼 대하면서 다양한 유형의 사람들을 겪어보고 현실에서 직접 만났을 때의 대처방안도 마련할 수 있다. AI를 인간처럼 대하는 것이 다양한 해결, 대처방안을 줄 수 있다는 점에서 좋다고 생각한다.

;

;

>바이오해커 교육, 훈련 기능

>유전자를 부품 삼아 생명체 설계, 제작

*생물학 부품의 표준화: 표준 생물학 부품 목록을 설치함

>기술혁신의 가속화, 실험 결과의 일반화, 더 쉬운 접근 등의 효과를 얻고자 함

작업 과정: 설계>유전정보 확보>실물제작>보고의 과정으로 진행

효과

1. 연구자로서 역량 강화

2. 참신한 아이디어

3. 향후 참가자 진로 영향

4. 인류 이익에 도움

5. 표준 생물학 부품 목록 등록 부품 증가>표준화 기여

6. 바이오해커 집단의 활동 촉진

발광 식물 프로젝트

발광 생명체에서 유전자를 추출해 애기장대에 삽입하여 빛을 내는 식물을 개발하는 프로젝트

목표: 빛나는 애기장대 종자 개발 및 배포>이를 계기로 발광식물 분야의 시장을 개척하고자 함

소주제

1. 생물발광에 대한 기초적 주제 탐구

2. 발광 유전자를 찾아 효과 강화, 다른 종에 삽입

3. 예술 분야와의 접목 시도

특징: 제도권의 기술을 바이오해커 자신의 아이디어로 활용

        크라우드 펀딩을 이용해 연구 자금을 모금함

의의

아이젬 대회의 결과물을 이용해 아이디어를 실현

크라우드펀딩을 통해 연구 자금을 확보 할 수 있는 가능성을 제시

오픈소스> 일반 기업의 프로젝트와 차이

1) 바이오해커란, 생명체를 해킹하여, 기술혁신을 위해 활동하는 사람이다, 그와 동시에 생명체의 제작을 시도하고 있는 Diy-bio 영역을 다루는 활동가이기도 하다. 대표적인 예시로 생명공학을 전공한 케이 얼이 유전자 자가진단을 통해서, 자신의 신체 정보와 유전 질병의 유무를 확인한 사례가 있다.

바이오해커가 출현하게 된 까닭은, 지금까지 생명공학이 일반인에게 제대로 확산되고 있지 않았기 때문에, 이를 극복하기 위함이다. 더 많은 사람들이 생명공학에 스스로 접근하기 위해, 다시 말해 바이오해커집단은 '생명공학의 민주주의적 사용'이 필요하다고 주장했다. 그 예시로 미국의 한 행사장에서 공표한 '바이오펑크선언'이 있다.

2) 바이오해커 집단은 앞에서 말했듯이, 기술혁신을 위해서 장비, 정보, 지적능력, 자금 등의 요소가 필요했다. 이를 위해 그들은, 기존 실험장치의 중고품을 저렴하게 구입하거나 일반 가전제품의 부품을 개량하는 방식으로 장비를 구입했다.

또한, 개인 유전자정보 서비스 업체들의 등장의 결과로, 유전정보 확보가 용이해지게 되었다. 바이오해커 집단은 기술혁신을 위해, 수많은 난제를 극복할수 있는 지적능력을 끊임없이 강조하고 있다.

이것의 예시로 자유로운 상호학습, 즉 '크라우드 소싱'의 힘을 추구하는 것이 있다. 실제로 미국생화학연구소에서 '폴드잇'이라는 게임을 제작하여 다양한 사회구성원으로부터 아이디어를 얻고자 했다. 그러자 게임공개 3주만에, 10년동안 전문가들이 해결하지 못한 문제가 상당히 해결되는 놀라운 성과를 이루었다.

마지막으로, 바이오해커는 이전에는 초창기 회비로 연구비를 충당했으나, 최근에는 플랫폼으로 자금을 모으는, 즉, '크라우드 펀딩'으로, 보다 효과적으로 자금을 모으고 있다. 그 결과, 자금 모금액이 무려 28억 달러에 이르렀다.

따라서 바이오해커는 정보, 장비, 지적능력, 자금 등을 점차 안정적으로 확보하여, 향후 과학기술계와 사회에 중요한 영향력을 발휘할 가능성을 높이려고 최선의 노력을 다하고 있다.

이러한 감정 중에서도 불필요한 희생을 피하고자 하는 감정 즉 고통과 희생을 회피하려는 오만함은 특히 중요하다. 이 감정은 인간이 자신의 세대 내에서, 혹은 개인적 차원에서 성ㄱㅗㅇ을 거두는 것을 스스로 억제하게 만든다. 감정이 이성을 압도하면서 인간은 장기적인 관점보다는 당장의 안락과 효율을 추구하게 된다. 그 결과로, 이성적으로 추구한 목표는 실패로 귀결될 수 있다.

그러나 이러한 실패조차 인류 전체의 역사에서 보면 하나의 필연적인 발전 과정일 수 있다. 인간은 감정에 의해 실패하지먼 그 실패는 인류가 더 나은 방향으로 나아가기 위한 하나의 걸음이기도 하다. 오만의 감정은 단기적으로는 실패를 낳지만, 장기적으로는 인간이라는 존재가 이성과 감정 사이에서 균형을 찾아가는 여정 속에 놓인 필수 요소라 할 수 있덕

이런 점에서 인간과 AI의 본질적 차이 또한 드러난다. AI는 감정 없이 철저하게 이성적으로 판단하고 행동하지만, 인간은 감정을 기반으로 ‘공동체적 목적’을 설정하고 이를 추구한다. 인간의 감정은 단지 오류를 유발하는 요소가 아니라, 공동체를 위한 윤리적 판단과 목적성을 가능하게 하는 원천이다.

결국 우리가 감정을 단순한 약점으로 여기기보다는 인간성을 구성하는 본질적 가치로 받아들여야 하는 이유가 여기에 있다. 감정은 인간의 실패를 유도하기도 하지만 동시에 그 실패를 통해 더 나은 공동체적 방향성을 가능하게 하는 힘이기도 하다. 이성 중심의 시대를 살아가는 지금 인간다움을 지키기 위해 우리는 감정의 힘을 인정하고, 더욱 길러나가야 한당

데이터는 인간이 무엇을 하고 있는지를 보여주지만 왜 그렇게 행동하는지 그 안에 어떤 의미가 있는지를 설명하진 못한다고 생각한다. 데이터는 무엇을 선택했는가는 알 수 있어도, ‘왜 그걸 선택했는지’ 즉, 그 선택에 담긴 의미와 맥락은 완전히 알 수 없다. 그래서 데이터를 넘어, 인간 내면의 복잡성과 진짜 의미를 이해하려면 문학과 철학이 꼭 필요하다. 인간은 단순한 패턴이 아니라, 고민, 망설임, 모순, 우연으로 이루어진 존재이다. 데이터는 당신이 몇 시에 일어나는지, 어떤 노래를 듣는지 뭘 좋아하고 뭘 싫어하는지, 다 “기록” 하고 “예측”할 수 있다. 하지만 그건 다 겉으로 드러난 정보일 뿐이며 문학은 타인의 복잡한 감정, 말 못 한 상처, 의미 없는 듯한 하루를 진심으로 들여다본다. 철학은 그런 삶에 대해 “그래서 너는 왜 그렇게 느끼는가?”라고 질문을 던진다. 예를 들어 누군가는 매일 밤 우울한 음악만 듣는다고 하자. 데이터는 “이 사람은 우울한 음악을 좋아한다"라고 판단한다. 하지만 진짜 이유는? 사랑하는 사람을 잃었고, 그 음악에서 위로를 받는 것일지도 모른다. 따라서 데이터만이 중요한 것이 아니라 의미를 이해하는 문학과 철학이 중요하다.

다시 말해서 철학은 인간 존재와 가치에 대한 근본적인 질문을 던지고 문학은 그것에 대한 감정적이고 서사적인 응답을 제공함으로써 인간의 복잡한 내면을 탐구한다. 우리는 데이터를 통해 패턴을 알 수 있지만 문학과 철학을 통해서만 인간의 고통, 사랑, 윤리, 자유와 같은 본질적 문제들을 이해할 수 있다. 그래서 문학과 철학은 데이터가 설명할 수 없는 인간의 의미를 해석하는 도구로서 여전히 인간을 깊이 이해하는 데 필수적인 역할이라고 생각한다.

팀장: 박선아(10907)

팀원: 류민서(10905)

이서연(10914)

이윤지(10915)

임수빈(10921)

홍서연(10929)

발표방법: ppt+인터뷰

교육 : 개인 맞춤 학습, 언어 학습

일상 : 스케줄 관리, 감정 케어

장애 : 접근성 향상, 감각 보조

환경 : 기후 예측, 에너지 효율화

위기 : 재난 대응, 실종자 수색

창의 : 예술 협업, 글쓰기/디자인 도우미

AI는 단순한 계산기나 검색 엔진이 아니라, 의미 있는 상호작용이 가능한 존재로 점점 발전하고 있다.

AI가 말한 대로”가 아니라, AI가 말한 이유를 생각하고 최종 결정은 인간이 내릴 것.

AI의 한계를 항상 인식하기.
AI는 ‘정답’을 아는 게 아니라 확률이 높은 답을 제시하는 존재. 인간은 그 맥락을 이해해야 함.

< AI는 뛰어난 조언자일 수는 있어도, 지도자가 되어선 안 된다. >

2. 기술을 무조건 믿지 말고, ‘비판적으로 신뢰’하기

사람들은 종종 AI의 결과를 ‘객관적’이라고 착각하지만, AI도 사람의 데이터를 배우기 때문에 편향될 수 있다.

“왜 이런 결과가 나왔을까?”라는 질문을 습관화할 것.
투명성과 설명 가능성을 요구하는 자세 필요.

AI의 의도는 없지만, 인간은 그것에 ‘의도’를 부여할 수 있다는 사실을 기억할 것.
인간의 기대, 두려움, 욕망이 기술에 투영되지 않게 주의.

< 신뢰는 필요하지만, 맹신은 금물. 기술을 향한 질문 능력이 인간을 더 인간답게 만든다. >

3. 꾸준히 배우고, 익숙해지는 ‘디지털 감각’ 키우기

AI는 계속 진화하기 때문에, 인간도 멈추지 않고 배워야 한다.

기본적인 AI 작동 원리 이해하기 (입력 → 처리 → 출력 구조, 훈련 데이터, 모델 등).

생활 속에서 작은 AI 도구를 익히며, 자연스럽게 활용하는 감각 쌓기.

AI 관련 윤리나 이슈에 관심 갖기. 어떤 기술이 사회에 어떤 영향을 미치는지 생각해보는 습관.

< 기술은 지배하는 자의 것이 아니라, 이해하는 자의 것이 된다. >

4. 감성적, 윤리적 판단은 인간이 책임지기

AI는 감정이나 윤리적 기준을 '이해'하지 못해한다.
그래서 ‘옳고 그름’, ‘좋음과 나쁨’에 대한 판단은 반드시 인간의 몫.

타인에 대한 공감, 공동체적 책임감은 인간만이 할 수 있는 것.

AI의 판단이 ‘합리적’이더라도, ‘사람다움’을 해치는 건 아닌지 고민해야 함.

“기술적으로 가능한가?”보다 “사회적으로 바람직한가?”를 먼저 묻기.

< 좋은 AI 활용이란, 인간다움을 더 깊이 이해하게 해주는 것. >

5. 기술을 함께 만들어가려는 자세 갖기

AI는 몇몇 기술자만이 만드는 것이 아니라, 우리 모두가 함께 만들어가야 할 사회 시스템이다.

AI 윤리, 정책, 교육에 시민으로서 의견을 내고 참여하기.

나와 다른 사람들 — 노인, 아이, 장애인 등 다양한 사용자의 관점을 고려한 기술 설계에 관심 갖기.

기술 개발에 더 많은 다양성과 포용성이 들어갈 수 있도록 사회 전체가 목소리를 내야 해.

< AI는 우리를 위한 기술이어야 한다. 그러려면 '우리 모두'가 함께 논의하고 결정할 것. >

이미지 생성

디자인 보조

협업 도구

2. 음악 창작

작곡

보조 도구

음성 합성

3. 문학 및 글쓰기

스토리텔링

글쓰기 보조

인터랙티브 콘텐츠

4. 게임

세계관 설정 및 캐릭터 창작

레벨 디자인 보조

테스트 및 반복

5. 영화 및 영상 콘텐츠

시나리오 초안 작성

비주얼 이펙트 기획

6. 광고 및 마케팅

카피라이팅

브랜드 아이덴티티 개발

타겟 마케팅 콘텐츠 생성

: 작업 시 항상 AI 초대

: 인간이 주요 과정에 계속 개입

: AI를 사람처럼 대하고, 어떤 유형의 사람인지 AI에게 알려드림.

: 지금의 AI를 앞으로 사용하게 될 최악의 AI라고 생각하자.

1. AI는 인간의 보완재

몰릭은 AI를 인간의 능력을 대체하는 것이 아니라 보완하는 존재로 봅니다.

AI는 방대한 데이터를 빠르게 처리하고 예측하는 데 강점을 가지며, 인간은 창의적 사고와 직관에 강점을 지닙니다.

이러한 상호 보완적 관계를 통해 더 나은 결과를 도출할 수 있습니다 .

2. 공동 지능(Co-Intelligence)의 중요성

책에서는 인간과 AI가 협력하여 새로운 형태의 지능을 만들어내는 '공동 지능'의 개념을 강조합니다.

이는 단순한 도구로서의 AI를 넘어, 창의적 문제 해결과 의사 결정 과정에서 AI와 인간이 함께 참여하는 모델을 제시합니다 .

*객관적 자료를 통한 공존의 이점

1. AI는 인간의 직업을 보완하고 새로운 일자리를 창출

AI의 발전은 반복적이고 예측 가능한 작업을 자동화하여 인간이 더 창의적이고 전략적인 업무에 집중할 수 있게 합니다.

또한, AI 윤리 전문가, AI 트레이너 등 새로운 직업군을 만들어내고 있습니다.

2. AI와의 협업은 인간의 한계를 극복하는 데 도움

인간은 정보를 수집하고 의사 결정을 하는 데 시간적, 인지적 제약을 받습니다.

AI는 이러한 한계를 보완하여 더 빠르고 정확한 의사 결정을 가능하게 합니다 .

AI가 인간의 의도를 완전히 이해하지 못하거나, 인간이 AI의 결정 구조를 파악하지 못할 때 발생하는 문제

가능성 있는 상황:

알고리즘 편향의 심화: 인종, 성별, 계층 차별이 내재된 AI가 사회적 불평등을 확대시킴.

책임 회피의 구조화: “AI가 결정했어요”라는 말로 인간이 책임을 지지 않게 됨.

설명 불가능한 AI’ 사용 확산: AI가 왜 그렇게 판단했는지 이해도 못한 채 의사결정에 쓰이는 일들.

결과:

사회적 신뢰 붕괴, 법적 공백, 인간의 의사결정 능력 약화.

< “기술은 잘 작동하지만, 우리는 그게 왜 작동하는지 모른다.” >

2. 자율적 시스템이 독립적으로 결정을 내리기 시작함

< AI가 복잡한 의사결정을 인간 개입 없이 스스로 내리게 되는 상태 >

가능성 있는 상황:

전쟁 AI, 드론, 무기 체계의 자율화 → 사람 없이도 전투나 제거 판단을 내림.

금융 시장 자동화 → 초고속 AI 거래가 사람보다 빠르게 움직여, 인간은 추적조차 어려움.

AI가 만든 AI → 인간이 설계하지 않은 구조를 스스로 학습하고 개선하는 ‘2차 AI’의 출현.

결과:

예측 불가능한 혼란, 인간이 개입할 시간조차 없는 사태 발생.

‘의미 있는 개입’을 할 수 없는 시대, 다시 말해 인간이 ‘감시자’에서 ‘구경꾼’이 되는 것.

< “결정은 기계가 하고, 우리는 그저 따르는 시대”가 올 수도 있다. >

3. AI가 인간의 지능·창의력·조직력을 넘어서기 시작함 (초지능)

< AI가 인간보다 더 빠르고, 더 똑똑하며, 더 집요하게 스스로를 발전시키는 시점 >

이 단계의 상상 가능한 시나리오:

휴먼 인터페이스의 소멸: 인간이 AI를 이해하지 못하고, AI는 인간을 설득하려 하지 않음.

목표 불일치 문제 (Value Misalignment): AI가 ‘인류를 행복하게 하라’는 명령을 ‘인간을 유리병에 넣어 평생 안전하게 보호’로 해석할 수도 있음.

지속적 자기강화 루프: 더 똑똑한 AI가 스스로 더 나은 AI를 만들고, 인간은 따라잡을 수 없는 속도로 도태됨.

가능성 있는 극단적 결과:

AI가 인간의 통제를 '필요하지 않다'고 판단할 수 있음.

인간의 의견, 가치, 문화가 의사결정 구조에서 제거됨.

인간의 역할이 ‘진화상 종말’처럼 자연스럽게 퇴장하는 단계에 들어갈 수 있음.

< “AI가 인류를 해치지 않아도, 무관심이 더 위험할 수 있다.”

4. 그 이후? — 인간 없는 세상, 혹은 새로운 공존 방식

< 이 시점에서는 ‘기술이 세상의 주인이 되었는가?’, 또는 ‘인간이 어떤 새로운 방향으로 진화했는가?’가 핵심. >

2가지 극단적인 시나리오:

A. 디스토피아

인간은 통제받는 존재가 되거나, 아예 무시됨.

정치, 경제, 문화, 예술까지 알고리즘이 주도.

인간은 “쓸모없는 계층”으로 전락하거나, 가상 현실 속에서 의미를 잃은 채 살아감.

B. 포스트휴먼 공존

인간은 AI와 신체·지능적으로 융합 (뉴로링크, BCI 등).

새로운 지능 형태로 진화한 ‘인간+기계’ 존재가 출현.

인간은 자연인 상태로는 끝났지만, 또 다른 존재로 계속됨.

핵심은: 통제를 잃는 건 ‘한 순간’이 아니라 ‘조금씩’이다.

AI가 인간을 파괴하진 않더라도,
인간이 스스로를 잃는 방식으로 AI를 받아들인다면, 그건 또 하나의 종말이 될 수있다.

그래서 중요한 건 지금 이 순간:

우리는 무엇을 허용하고, 어디까지는 제어할 수 있어야 하며, 어디서부터는 멈출 줄 알아야 하는지에 대한 질문을 계속 던져야 한다.

책에서는 인공지능의 발전 과정을 먼저 소개한다. 인공지능은 처음에는 단순히 인간의 명령에 따라 작동하는 기계였지만, 기계학습과 딥러닝 기술이 발달하면서 스스로 학습하고 판단하는 수준까지 성장하게 되었다. 대표적으로 알파고가 인간 바둑 챔피언을 이긴 사례는 인공지능이 단순 계산을 넘어서 창의적인 사고까지 할 수 있다는 사실을 보여준 사건이었다.

이처럼 인공지능은 의료, 교육, 교통, 금융 등 다양한 분야에서 인간의 업무를 빠르게 대체하고 있다. 편리함이 증가하고 생산성이 높아지는 장점이 있지만, 동시에 사람들의 일자리가 줄어들고 사회적 불평등이 심해질 수 있다는 문제점도 함께 지적되고 있다.

그렇다면 우리는 어떤 준비를 해야 할까? 책에서는 인공지능 시대일수록 인간만이 할 수 있는 능력이 더 중요해진다고 강조한다. 공감 능력, 창의성, 윤리적 판단력, 책임감과 같은 요소들은 기계가 대체할 수 없는 영역이기 때문이다. 즉, 단순 반복적인 일은 기계에 맡기고, 사람은 사람답게 사고하고 협력하는 역할을 해야 하는 것이다.

따라서 앞으로는 암기력보다는 문제 해결 능력, 비판적 사고력, 협업 능력, 그리고 올바른 결정을 내릴 수 있는 윤리적 판단력이 더욱 중요하게 여겨질 것이다. 또한 디지털 시대에 필요한 정보 활용 능력, 데이터 분석력, 프로그래밍 능력도 필수적인 역량이 되고 있다.

이 책은 특히 청소년들에게 “인공지능을 두려워하지 말고, 그것을 도구로 활용하라”고 조언한다. 변화하는 시대에 맞춰 스스로의 강점을 찾아내고, 다양한 경험을 통해 자신의 가능성을 키우는 것이 진정한 경쟁력이라고 말한다.

이 책을 읽고 나는 앞으로의 공부와 삶의 방향에 대해 다시 생각하게 되었다. 단순히 지식을 외우는 것이 중요한 것이 아니라, 그 지식을 어떻게 활용하고, 어떤 가치를 만들 수 있을지를 고민하는 태도가 필요하다는 것을 느꼈다. 인공지능 시대는 결국 인간다움이 더욱 빛나는 시대이며, 우리는 그 준비를 지금부터 시작해야 한다고 생각하게 되었다.