샘 알트먼은 앞으로 우리 인간의 삶이 AGI로 인해 질의 향상될 것이라며 미래를 매우 긍정적으로 예견했지만, 아무리 발전하더라도 결국은 인간의 개입이 필요한 기술이라는 생각이 든다.  앞으로의 여러 기술들은 적극 활용하면서도 동시에 인간이 감시하고 견제해야 할 대상이며, RLHF와 같은 방식으로 기술을 강화하기 위해서는 결국 인간의 개입이 필요하다. 그렇다면 그런 전문성을 가진 인재를 키워내는 것도 교육계에서 해야 할 일이다.

또한,  ChatGPT와 같은 큰 언어 모델이 집단 지성을 촉진할 수 있다. LLM(대형 언어 모델)이 우리의 일상 생활에 미치는 잠재적인 영향을 강조한다. 이러한 영향의 정도는 우리가 인공지능과 상호작용하고 관리하는 방식에 따라 달라질 것이며, AGI가 빠르게 또는 서서히 등장하더라도, 인공지능은 우리 삶의 중요한 부분이 될 것이라는 것이다. 따라서, 우리는 인공지능 시스템과 어떻게 협력할 수 있는지, 그리고 개발 및 배포에 관련된 윤리적 고려사항을 어떻게 다룰지에 대해 고민해야 한다고 생각한다.

GPT3과 GPT3.5는 1750억개 파라미터를 가졌는데, GPT-4는 100조개라고 할 정도로 많은 양의 파라미터를 가졌을 것으로 예측하지만, 파라미터의 개수는 중요하지 않다. 가장 좋은 성능을 내는 것이 중요하다고 하면서, GPT-4는 현재 인류가 만들어낸 가장 복잡한 소프트웨어이지만, 몇 십년 후에는 누구나 이렇게 많은 파라미터를 가진 모델을 만들 수 있을 것이라 하였다.

Noam Chomsky는 LLM이 AGI에 도달하는 것을 비판하는 많은 사람 중 한 명이다. 하지만 샘 알트만은 LLM이 AGI의 일부를 담당할 것이고, 우리가 AGI를 만들 수 없을지도 모르지만, AI와 함께 일하는 사람들은 행복하며, 그 능력에 감탄한다고 하였다. 하지만, 프로그래밍까지 AI가 도와주는 현실이 약간 무섭기도 한데, AI가 프로그래머의 일자리를 대체할 것이라는 두려움이 있기 때문이다. 

AI가 초지능을 가졌을 때 설계자의 목적에 맞지 않게 행동하는 것에 대비하여 새로운 기술을 연구하는 것이 중요하다고 하면서 AI정렬의 중요성도 강조했다. 

GPT-4가 AGI인지 아닌지 두 사람 사이에 이견이 있지만, 샘 알트만은 GPT-4는 AGI와 가까워 보이지 않는다고 했다. GPT-4는 적절한 프롬프트에 의해 의식이 있는 것처럼 보일 수 있어 모델을 훈련시킬 때 의식이나 그에 가까운 것에 대한 언급이 없도록 극도로 조심한 데이터셋으로 훈련시켰을 때와 주관적인 의식을 학습시킨 뒤 질문했을 때 답은 확연히 달랐다고 하면서, 의식이 감정이라 생각하지는 않는다고 하였다. 

샘 알트만의 인터뷰의 시작과 끝은 “OPEN AI는 오랫동안 오해받고 무시당했었다”는 말이었다. 온 세상이 깜짝 놀랄만한 아이디어를 가지고, 처음 개발을 시작했을 때 무시 받았던 상황이 현재의 상황과 많이 대비되어 두 번이나 언급한 것으로 보였다. 

   

   

   

그러나 Altman은  AI의 이점이 소수의 손에 집중되지 않고 광범위하게 분산되도록 하는 것이 포함되고 오용을 방지하고 잠재적인 위험을 해결하기 위해 강력한 AI 거버넌스의 필요성에 대해 이야기하였다.   Altman이 주장하는 핵심 사항 중 하나는 AGI 개발에 대한 협력적 접근 방식의 필요성이다. 

Altman은 긍정적인 변화를 가져올 GPT-4와 AGI의 잠재력에 대한 자신의 믿음을 이야기하면서 이러한 기술의 신중하고 책임 있는 개발 및 사용의 중요성을 강조한다.

그러나 Altman은 AGI의 발전과 도입에 따른 잠재적인 위험에 대해서도 경각심을 가지고 있습니다. 그는 인공지능의 능력이 인간 수준을 넘어서고 더 강력한 지능을 보유한 AGI가 개발될 경우, 이를 규제하고 적절히 관리하는 방법을 찾아야 한다고 주장하고 있습니다. AGI가 인간을 대체할 수 있는 수준에 도달할 경우 사회적, 경제적, 윤리적 문제가 발생할 수 있으며, 이러한 문제에 대비하기 위한 전략과 규제 체계를 마련해야 한다고 주장하고 있습니다.

결론적으로, Sam Altman은 인공지능과 AGI의 잠재력에 대해 긍정적인 관점을 가지고 있으며, 이러한 기술의 발전은 사회와 경제에 큰 영향을 미칠 것으로 전망하고 있습니다. 그러나 동시에 AGI의 발전에 따른 잠재적인 위험과 문제점을 인식하고, 이를 해결하기 위한 방안을 모색해야 한다고 주장하고 있습니다.

변화하는 미래사회를 위해 아이들에게 어떠한 교육을 제공해야 하는가에 대한 고민이 많아졌다. AGI는 기존의 여러 빅데이터를 습득하고 적용하는 능력은 뛰어나지만 새로운 지식을 창출해내는 것에는 한계가 있다. 이전과 다른 새로운 지식이 생기면 인간의 개입이 필수적이다. 따라서 아이들에게는 기존의 지식을 가르치는 것도 중요하지만, 더 나아가 새로운 지식을 만들어내는 창의성, 문제해결력이 미래사회에 아이들이 가져야 할 핵심역량이라는 생각이 들었다.

기술 발전 속도는 빠르지만 여전히 윤리와 제도의 딜레마가 존재한다. GPT가 출현하면서 일부 개발자들은 인공지능의 발전을 천천히 그리고 신중하게 추진해야 한다는 필요성을 느끼고 있다. 따라서 미래에 대한 설렘과 초조함이 공존하면서도, 우리는 꾸준히 인공지능의 발전에 대해 고민하고 대비해야 한다.

영상에서는 거대 언어 모델 개발에 대한 언급이 있었다. 현재 GPT가 주도적인 역할을 하고 있지만, 다른 모델들도 시장에 출시될 것이다. 미래에는 인공지능이 거의 인간 수준의 의식을 갖춘 행동을 할 수 있을 것으로 예상되며, 이러한 상황은 더 이상 특수한 것이 아닐것이다.
또한, 인공지능 모델을 학습시키기 위해 전문가를 고용하여 데이터 라벨링을 수행하는 과정이 언급되었다. 이러한 학습 과정에서는 가치중립적인 라벨링이 필수적이다. 개발 기업이 이익 극대화를 위해 학습 내용을 조작한다면, 중립적으로 포장된 모델이라도 원하는 내용을 생성할 수 있을 것이다. 따라서 인공지능 모델의 개발과 학습 과정에서는 다양한 분야의 전문가들로부터 검증을 받아야 한다. 이러한 검수 과정을 거치면 인공지능 모델의 신뢰성을 높일 수 있고 사용자들이 안심하고 활용할 수 있을 것이다.

지금껏 나는 긍정적인 면에 치우쳐 학생들에게 인공지능 수업을 진행했었는데, 비판적인 시각으로 우리의 현재와 미래 사회를 살펴봐야 할 것 같다. 이 영상을 통해 우리와 같거나 혹은 그들 방식의 의식을 가질 수도 있는 AGI와 평화롭게 공존할 수 있을지 의문이다. 교사도 학생도 이러한 부정적인 측면을 고려하며 비판적 시각으로 AGI 개발의 감시자 역할을 할 수 있는 역량을 키워나가야 할 것 같다. 

나의 바람은 현재 가장 뛰어난 기술자들이 앞 다투어 경쟁하듯 개발하는 것만 집중하지 않았으면 한다. Open AI, 구글, MS, 메타... 이런 기업들이 개발과 동시에 바람직한 개발을 위한 규정 제정과 나타날 수 있는 문제점(집단지성 선동 등)을 방지할 수 있는 해결책 마련을 위한 노력 함께 해나가길 바란다. 제발... 인간의 욕심에 의한 잘못된 역사가 다시 반복하지 않길...

초기 컴퓨터는 단점에도 불구하고 GPT-4가 보다 정교한 AI 시스템의 선구자로 간주되는 것처럼 우리 삶에서 큰 의미를 가졌다. AI 발전의 지속적인 특성을 감안할 때 개발의 특정 획기적인 순간을 정확히 지적하는 것은 어렵다.

GPT-4를 훈련하기 위해 다양한 소스의 방대한 양의 데이터를 활용하고 인간의 피드백을 통한 강화 학습(RLHF)을 통한 인간의 안내를 통해 모델을 인간의 의도에 맞춘다. GPT-4에 대한 광범위하고 복잡한 훈련 데이터를 모으고 처리하는 과정에는 상당한 노력이 필요하다.

AI 시스템의 내부 작동에 대한 이해가 향상되고 있지만, AI 시스템의 결정이나 행동 뒤에 있는 근거를 이해하는 데는 여전히 한계가 있다.

둘째, GPT는 창의성과 혁신을 촉진할 수 있는 역할을 합니다. 이 모델은 인간의 지식과 지혜를 압축하고, 이를 새로운 아이디어와 솔루션으로 발전시킬 수 있습니다. 예를 들어, 예술가나 작가들은 GPT를 창작의 도구로 활용하여 새로운 작품을 만들어낼 수 있습니다. 또한, 기업들은 GPT를 활용하여 시장 동향을 분석하고, 새로운 제품 개발에 대한 아이디어를 얻을 수 있을 것입니다.

셋째, GPT는 교육과 접근성을 혁신할 수 있습니다. 이 모델은 온라인 교육 플랫폼이나 개별 학습 도구로 사용될 수 있어, 교육을 보다 개인화하고 효율적으로 만들어줄 수 있습니다. 학생들은 자신의 궁금증을 GPT에게 던져 정확하고 이해하기 쉬운 답변을 얻을 수 있으며, 이는 학습 동기부여와 이해도 향상에 큰 도움이 될 것입니다. 또한, 지식이 어디에든 접근 가능해지면서 지리적, 경제적 제약에 구애받지 않고 누구나 지식을 얻을 수 있는 환경이 조성될 것입니다.

이를 통해 볼 때 교육 분야에서 인공 지능이 가지는 영향은 상당히 크다고 볼 수 있다.

1. 인공 지능이 교육에 미칠 수 있는 영향 중 가장 큰 것은 개인화 학습이다. 

인공 지능을 활용하면 학생들은 자신에게 맞는 학습 방식을 찾아갈 수 있다. 학습자의 학습 스타일, 수준, 관심사 등을 분석하여 적절한 학습 방법과 내용을 제공함으로써 학생들은 더욱 효과적으로 학습할 수 있다.

또한 인공 지능은 학생들의 학습 결과를 분석하여 개별적인 피드백을 제공할 수 있고, 학생들은 자신이 어떤 부분에서 약하고 어떤 부분에서 강한지를 파악할 수 있으며, 이를 바탕으로 학습 방향을 조정할 수 있습니다. 이를 통해 학생들은 더욱 효과적인 학습을 할 수 있고, 교사들은 학생들의 학습 상태를 보다 쉽게 파악할 수 있다.

2. 인공 지능은 학습 자료를 제공하는 데에도 큰 역할을 할 수 있다.

대량의 데이터를 기반으로 학습 자료를 생성하면, 학생들은 더욱 다양하고 풍부한 학습 자료를 활용할 수 있다.

3. 인공 지능을 활용한 학습자료 배부에 대한 우려점도 있다.

인공 지능이 제공한 학습 자료가 학생들의 학습 방향을 지나치게 제한할 수 있다는 우려가 있다. 인공 지능이 개인화 학습을 지원한다는 것은 학생들이 자신의 관심사나 성향에 맞게 학습할 수 있다는 것을 의미하지만, 이것이 지나치게 한 방향으로 학습 방향을 제한할 수 있는 가능성이 있기 때문이다.

따라서 인공 지능이 교육 분야에서 더욱 효과적으로 활용되기 위해서는 인공 지능과 인간 교사들이 협력하여 학생들의 특성에 맞는 최적의 학습 방법을 제공하는 것이 필요하다. 이를 통해 학생들은 더욱 효과적으로 학습할 수 있고, 인공 지능이 가지는 잠재적인 위험성을 최소화할 수 있을 것이다.

o ChatGPT 시대의 <<비즈니스적 관점>>에서 인공지능의 발전 방안: AI가 급속도로 발전함에 따라 누군가의 요구가 필요할 수 있다. 특히 집단 의식을 조종할 수 있다는 사실에 놀랐다. 이를 이용하면 거대한 경제적인 부를 얻을 수도 있기 때문에 이미 부를 갖고 있고 더욱 부를 축적하고 싶은 사람에게는 AI를 교묘하게 이용하고자 할 수 있기 때문에 비영리적인 기구에서 이를 검열해야할 필요도 있을 것이다. 

o 샘 알트먼 GPT-4와 AGI 인공일반지능에 대한 대담 내용에서 그가 말하는 AI는 지수함수적으로 변화하고 있다. 중요한 것은 기본 모델이 아니라 사용성이다. 인간의 피드백을 받아 강화학습을 하여 인간의 의도에 맞게 조정한다. 모델은 인간과 다르게 초창기에도 미리 미래를 예측할 수 있다는 차이점이 있다. 자연어 모델 eval을 통해 사실을 지혜로 도약시키는 방법은 무엇이 있을까? 파라미터 100조개라고 하는데 더 늘릴 수 있는 방법에는 무엇이 있을까? 인공신경망과 뇌의 차이는 무엇일까? GPT패러다임 확장시켜야 한다. AI safety, AI alignment에 대한 고민이 필요하다. 폭발하는 인공지능이 가지는 잠재적 위협을 위해서는 도구와 이해에 대한 접근이 필요하다. AI takeoff, fast takeoff등 AI의 놀라운 발전 속도에 관심을 기울여야 한다. 페이스와 프롬프트로 AI는 의식을 가장할 수 있을텐데 허위 정보, 경제적 문제에 조심해야 한다. 만약 LLM 거대 언어 모델이 인간의 집단 이성을 조종하면 규제가 필요할 수도 있다. Open AI와 Deep Mind가 많이 발전해왔고 그 중 현재 ChatGPT가 가장 발전된 형태로 본다. 

   

연수 강의 때 들었던 개념이 밑바탕에 있어 더 흥미로운 동영상이었다. 

이러한 함의를 고려하여 학교 교육은 AI 기술의 발전에 대한 이해와 활용에 주의를 기울여야 한다. 학생들을 잘 지원하고 도모하기 위해 교사들과 교육 기관은 AI의 잠재력과 한계를 파악하고 적절한 교육 방법을 개발하는 것이 필요하다.

인공지능에 관심이 있는 사람들은 종종 모랄머신 테스트를 통해 인공지능의 판단이 문화, 배경지식, 선호 등에 따라 다르게 형성될 수 있음을 깨닫게 됩니다. 이는 인공지능이 인간의 가치관과 개인적인 선호도를 반영할 수 있으며, 개발 환경과 사용자의 피드백에 따라 학습되는 것을 보여줍니다.

따라서 우리는 인공지능을 개발하고 사용하는 인간의 역할과 책임의 중요성을 다시 한 번 인식해야 합니다. 인간은 인공지능의 학습과 발전을 지도하고 피드백을 제공함으로써 그 영향력을 가질 수 있습니다. 우리는 인공지능이 자연스럽게 생각하고 행동하는 능력을 갖출 때까지 윤리적인 고민과 논의를 해야 합니다.

미래를 준비하기 위해 우리는 인공지능과 관련된 모든 측면에 대한 윤리적인 이야기을 바탕으로 해야 합니다. 인공지능의 활용은 사회와 개인에 큰 영향을 미칠 수 있으며, 이에 대한 잠재적인 위험과 도덕적인 고려 사항을 고려해야 합니다. 우리의 선택과 결정은 미래의 인공지능과 사회의 진보를 이끌어 나갈 것입니다.

알트먼과 프리드만의 대화에서 나온 여러 가지 주제는 인공 지능이 사람을 대체한다는 것보다는 상호 보완적인 관점을 갖게 되었다. 결국, 사람을 통해 보다 사람다운 대답을 이끌어낼 수 있는 AI, 그것이 바로 상호 보완적인 발전을 의미하는 것 같다..

또한 영상에서는 대규모 언어 모델이 우리의 집단지성을 조종한다면, 우린 그것을 알 수 없다는 사실이 나온다. 현재 오픈소스 LLM은 계속 나오고 있으며 우리는 그것을 막기 어렵다. 최대한 정책적인 측면 등의 여러 측면에서 제어를 해야겠다고는 하지만 나는 여기에서 무엇보다 교육의 필요성을 느꼈다. 인공지능의 좋은 부분만이 아니라 이러한 어두운 이면들에 대한 교육이 필요하다고 생각하며, 이런 상황에 대해 대비하기 위한 역량과 사고력을 키우기 위해 노력해야겠다는 생각이 든다.

(1) 국가 교육과정의 혁신

- 미래사회에 꼭 필요한 핵심 개념 중심의 선택형 교육과정 도입

- 2022 개정 교육과정에 AI 기본소양 및 AI 윤리교육 강화 

(2) AI를 활용한 ‘교육과정-수업-평가-기록 시스템’ 구축

- 개인별 맞춤형 학습지원이 가능한 AI 교육 플랫폼 개발

- 학습자 데이터 분석에 기반한 상호작용 학습플랫폼 구축

(3) 인공지능과 협업하는 교사

- 교사와 AI의 협업을 통해 수업내용과 지식 전달은 물론, 학생 개개인의 정서적 측 면까지 포함한 보다 폭넓은 의미의 개별화 교육 실현 가능

(4) 주도적으로 AI보조교사와 협업하는 교사 

- 증강지능을 장착한 미래 교사로 변화

- 증강지능은 인간이 인공지능을 잘 활용하여 역량을 높이는 것

- AI융합교육 역량과 전문성 함양 필요: Educational eXpert with AI

(5) 탐구학습시스템

- 구성주의적 접근방식으로 학생이 학습

- 환경의 요소를 탐구하고 조작해 지식을 적극적으로 구성하도록 권장

- 학생들이 원하는 대로 탐구할 수 있는 비정형적이고 개방적인 학습 환경

- 탐구학습시스템 사례: 베티의 뇌 

(6) AI를 활용한 미래 교육 공간 혁신

(7) 맞춤형 교육 실현을 위한 유연한 학교 제도 도입 

(8) AI를 활용한 학생 지원 시스템 구축