# data[].attributes.attachment_link.title
챗GPT, 이젠 드론·로봇 조종한다..."위험한 실험" 비판도

# data[].attributes.attachment_link.description
챗GPT, 이젠 드론·로봇 조종한다위험한 실험 비판도 MS, 챗GPT 활용한 로봇 제어 연구결과 공개 챗GPT, 로봇 동작 관련 명령어 입력하면 코드 만들어 물리세계와 연동 법적·윤리적 규범 마련해야 미국의 인공지능AI연구소 오픈AI가 개발한 대화형AI 챗GPTCha

# data[].attributes.body
질문에 대한 대답을 바로 해주는 것으로 보아 사람과는 다르게 많은 데이터가 저장돼있어 편하게 궁금한 것을 물어볼 수 있고, 여러가지 대답을 해주고 제안을 해주는 것으로 보아 데이터가 없어도 대체할 수 있는 방법이 있는 것 같다.

# data[].attributes.body
어떤 질문들은 답변을 못하는 경우도 있고 말을 잘 이해하지 못해 답변이 이상한경우가 있어서 그냥 마냥 신뢰하기가 힘들다

# data[].attributes.attachment_link.readable_text
소설 '위대한 개츠비'/사진=문학동네

1. 지금보다 어리고 민감하던 시절 아버지가 충고를 한마디 했는데 아직도 그 말이 기억난다. "누군가를 비판하고 싶을 때는 이 점을 기억해두는 게 좋을 거다. 세상의 모든 사람이 다 너처럼 유리한 입장에 서 있지는 않다는 것을."
2. 내가 더 어리고 더 연약했던 시절에 아버지는 내게 그 이후로 내가 마음속으로 생각하고 있는 몇 가지 조언을 해주셨다. 그는 나에게 "당신이 누군가를 비난하고 싶을 때마다 이 세상의 모든 사람들이 당신이 가졌던 이점을 가지고 있지 않았다는 것을 기억하세요"라고 말했다.

피츠제럴드의 '위대한 개츠비' 첫 문장을 AI와 소설가가 각각 번역했다. 어떤게 AI가 쓴 문장일까. 전자는 소설가 김영하, 후자는 네이버 '파파고'의 작품이다. 스테디셀러 소설가답게 김 작가의 문장이 훨씬 매끄럽지만, 파파고 번역도 의미와 뉘앙스를 전달하는 데 손색이 없다. 함축적인 의미와 문맥을 이해하면서 '글맛'을 살려야 하는 문학번역에서도 AI 가능성이 커지고 있는 셈이다.

21일 업계에 따르면 기계번역 품질이 높아지면서 AI 번역 서비스 이용률도 급증하는 추세다. 올해 1월 네이버 파파고 한영 번역 기능 이용자는 전년 동기 대비 20% 증가했다. 해외여행 재개 및 AR(증강현실)번역 등 신기능 출시로 번역 수요가 증가한 영향이다. 한국어보단 영어에 능숙한 AI 챗봇 '챗GPT'를 이용하기 위해 파파고를 찾는 사람도 늘었다.

최근엔 한국어 초심자인 일본인이 파파고의 도움으로 한국문학번역상 웹툰부문 신인상을 받기도 했다. 22일 출간되는 스노우폭스북스의 '삶의 목적을 찾는 45가지 방법'은 아예 챗GPT가 쓴 원문을 파파고가 한국어로 옮긴 책이다. 교정·교열 및 책 표지 디자인까지 AI가 도맡았다. AI 번역 품질이 얼마나 개선됐는지 단적으로 보여주는 사례다.

'안녕' 구분하는 독일 AI 번역, 파파고보다 낫다?

/사진=딥엘

AI 번역서비스도 다양해진다. 독일 AI 기업 'DeepL'(딥엘)은 지난달 31일부터 한국어 번역서비스를 시작했다. 해외 블라인드 테스트에서 구글을 제친 딥엘은 국내에서도 네이버 파파고보다 자연스러운 번역을 제공한다는 평가를 받는다.

예컨대 '안녕 2022, 안녕 2023'을 △구글은 '굿바이 2022, 굿바이 2023' △파파고는 '헬로 2022, 헬로 2023'으로 해석한 반면, 딥엘은 '굿바이 2022, 헬로 2023'으로 번역했다. '경의를 표하다'(tip the hat to)는 영어 숙어를 구글·파파고는 '모자를 기울이다'라고 해석했지만, 딥엘은 정확히 의미를 나타냈다.

< 제가 더 어리고 연약했던 시절에 아버지는 제게 몇 가지 조언을 해주셨는데, 그 이후로 제 마음속에서 계속 되새기고 있습니다. "누군가를 비판하고 싶을 때마다, 이 세상의 모든 사람이 너처럼 장점을 가지지 못했다는 사실을 기억하라"고 하셨죠.> 이는 딥엘이 번역한 위대한 개츠비 첫 문장으로 한국식 높임말이나 해요체 등을 자연스럽게 구사했다.

이에 이용자들은 구글·파파고·딥엘을 조합해 활용하면 그럴듯한 영어번역과 작문을 할 수 있다고 입을 모은다. 트위터에서 한 이용자는 "한국어로 쓴 글을 딥엘로 번역한 후 챗GPT에 검토해달라고 하면 완벽한 영작이 가능하다"고 강조했다. 챗GPT로 영어 원서를 요약한 후 이를 딥엘이나 파파고로 번역하는 사례도 많다.

AI 번역가, 더 똑똑해진다
이런 호응에 힘입어 AI 번역도 고도화를 추진 중이다. 딥엘 관계자는 "대부분의 번역 시스템과 마찬가지로 뉴럴 네트워크(인공신경망) 학습방식을 사용하지만 △네트워크 아키텍처 △훈련용 데이터 △훈련 방식 △작지만 효율적인 파라미터(매개변수) 영역에서 사용법을 개선했다"라며 "첨단기술을 활용해 뉘앙스와 맥락을 가장 정확히 파악하는 AI 번역기를 만들겠다"고 말했다.

네이버는 초거대 AI '하이퍼클로바' 적용 여부도 검토 중이다. 네이버 관계자는 "번역품질 개선과 더불어 높임말 번역, 이미지 바로번역, AR(증강현실) 번역 등 새로운 서비스를 꾸준히 선보일 것"이라며 "이미지 번역의 경우 HTS, 인페인팅 등 원천기술을 기반으로 (타사 대비) 품질 높은 번역 결과를 제공하고 있다"고 설명했다.

# data[].attributes.attachment_link.title
김영하 vs 파파고...'위대한 개츠비' 첫 문장, 어떤게 AI가 썼을까 - 머니투데이

# data[].attributes.attachment_link.description
소설 '위대한 개츠비'/사진=문학동네 1. 지금보다 어리고 민감하던 시절 아버지가 충고를 한마디 했는데 아직도 그 말이 기억난다. "누군가를 비판하고 싶을 때는 이 점을 기억해두는 게 좋을 거다. 세상의 모든 사람이 다 너처럼 유리한 입장에 서 있지는 않다는 것을." 2. 내가 더 어리고 더 연약했던 시절에 아버지는 내게 그 이후로 내가 마음속으로 생각하고 있는 몇 가지 조언을 해주셨다.

# data[].attributes.body
정보가 부족하면 질문에 대한 질문은 하지 못하는 점과, 질문을 많이 하다보면 일시적을 질문을 하지 못하는 점이 아쉬웠다.

# data[].attributes.body
평소 궁금하거나 질문을 하고 싶은 상황에서 ai가 여러 대답을 주는 점이 편하며 정보가 많은 ai가 찾아보고 대답해주니 여러가지를 알게 되기 쉽게 된다는 점이 매우 좋다

# data[].attributes.body
chat gpt가 수집한 데이터가 2021년에 머물러 있고 데이터를 수집하는 과정에서 부정확한 정보를 수집했는지, 신뢰있는 정보를 수집했지만 인공지능이 학습하는 과정에서 문제가 생겼는지 데이터에 오류가 많아보였다

# data[].attributes.body
내가 생각하는 것 보다 질문답변에 대한 바리에이션이 넓고, 사람처럼 글의 주제를 알아보고 그에 대한 대답을 받을 수 있다는 점이 좋았다.

# data[].attributes.body
정보가 부족하면 부적절한 답변을 할 가능성이 생기며, 데이터가 부족한 정보는 찾기 어렵다.

# data[].attributes.body
현기, 승태, 한서, 세진

# data[].attributes.body
또한 프로그램을 개발하는데도 용이하다. 기존에 개발자들이 프로그램을 만들 때 먼저 어떻게 만들지 대략적인 코딩 과정을 구성한 뒤에 직접 코딩하며 만든다. 하지만 인공지능을 이용하면 코딩 과정만 구성하기만 하고, 그 내용을 인공지능에게 알려주면 직접 코딩해준다. 그리하여 코딩하는 시간을 단축할 수 있으며, 이외에도 버그를 용이하게 찾을 수 있다는 장점도 있다.

# data[].attributes.body
반도체의 예시와 인공지능에 대해서 질문 하였을 때 자세하고 다양한 내용으로 알려준다는 것에서 편리한 거 같고 인공지능이 아닌 진짜 사람과 대화하는 수준의 느낌을 받을 수 있다.
또한 오랜 시간이 아닌 짧은 시간 만에 원하는 대답을 받을 수 있는 점에서 긍정적인 장점이라고 생각한다

# data[].attributes.body
ai주제 내말을 잘안듣고 이상말 소리를 한번씩한다 그리고 내가 질문해도 질문을 이해못할때가 많았다.

# data[].attributes.body
다양한 정보를 바탕으로 내용이 구성되기 때문에 거짓 정보와 사실을 혼용하는 것이 단점인 것 같다. 목적어가 정확하지 않게 되면 사람이라면 문맥 상 충분히 이해할 수 있는 부분이지만 질문을 이해하는데 오랜 시간이 소요되는 것도 아쉽다.

# data[].attributes.body
ChatGPT에게 긍정적인 기능은 무엇인지, 장점은 무엇인지를 물어보았는데, 비슷한 맥락의 문장이지만 다른 언어표현을 사용하여 출력해주는 모습이 긍정적인 기능으로 보였다

# data[].attributes.body
다양한 정보를 검색하는데 용이하다. 예시로 '벡터'라는 용어의 개념과 활용을 알고 싶을 때, 기존에는 구글링을 통해 어렵게 정보를 찾았지만 이제는 이것을 활용하여 쉽게 정보를 찾을 수 있다. 그래서 궁금한 정보를 더욱 빠르고 정확하게 얻을 수 있다.

# data[].attributes.body
대화 상대로써 다양한 분야의 지식과 정보를 가지고 있어서 대화 상대로써 좋았습니다. 또한 언어 모델로써, 문장 생성, 요약, 번역 등 다양한 언어 처리 작업을 수행할 수 있어서 좋았고 하지만 제한적인 지식과 정보를 가지고 있기 때문에 모든 질문에 대답을 할수없어 아쉬웠다

# data[].attributes.body
파이썬으로 똥피하기 게임 코딩해줘

똥피하기(Dodging Poop) 게임을 파이썬으로 구현하는 방법은 여러가지가 있을 수 있습니다. 여기에는 간단한 버전의 게임 코드가 있습니다.

makefile

Copy codeimport pygame import random # 게임 초기화 pygame.init() # 게임 화면 설정 screen_width = 480 screen_height = 640 screen = pygame.display.set_mode((screen_width, screen_height)) pygame.display.set_caption("Dodging Poop") # FPS 설정 clock = pygame.time.Clock() FPS = 60 # 캐릭터 설정 character = pygame.image.load("character.png") character_size = character.get_rect().size character_width = character_size[0] character_height = character_size[1] character_x_pos = screen_width / 2 - character_width / 2 character_y_pos = screen_height - character_height # 똥 설정 poop = pygame.image.load("poop.png") poop_size = poop.get_rect().size poop_width = poop_size[0] poop_height = poop_size[1] poop_x_pos = random.randint(0, screen_width - poop_width) poop_y_pos = 0 poop_speed = 10 # 이벤트 루프 running = True while running: dt = clock.tick(FPS) # 이벤트 처리 for event in pygame.event.get(): if event.type == pygame.QUIT: running = False # 캐릭터 이동 keys = pygame.key.get_pressed() if keys[pygame.K_LEFT]: character_x_pos -= 5 elif keys[pygame.K_RIGHT]: character_x_pos += 5 # 경계 처리 if character_x_pos < 0: character_x_pos = 0 elif character_x_pos > screen_width - character_width: character_x_pos = screen_width - character_width # 똥 이동 poop_y_pos += poop_speed # 똥 떨어진 위치 처리 if poop_y_pos > screen_height: poop_x_pos = random.randint(0, screen_width - poop_width) poop_y_pos = 0 # 충돌 처리 character_rect = character.get_rect() character_rect.left = character_x_pos character_rect.top = character_y_pos poop_rect = poop.get_rect() poop_rect.left = poop_x_pos poop_rect.top = poop_y_pos if character_rect.colliderect(poop_rect): print("똥을 피하지 못했습니다!") running = False # 화면 그리기 screen.fill((255, 255, 255)) screen.blit(character, (character_x_pos, character_y_pos)) screen.blit(poop, (poop_x_pos, poop_y_pos)) pygame.display.update() # 게임 종료 pygame.quit()

# data[].attributes.body
같은 단어를 검색하더라고 서로 다른 결과가 나오는 경우가 있고 검색어에 대한 결과가 틀렸지만 자기가 맞는 거처럼 알려준다 이런 점에서 부정적인 기능이라고 생각한다

# data[].attributes.body
다양한 어휘를 기반으로 글을 작성하기 때문에 기본적인 문장 수준이 매우 높은 것 같다. 얼마전에 김영하 작가와 챗 gpt가 위대한 개츠비의 첫 문장을 번역하는 것을 비교하는 기사를 본 적이 있는데 그 때보다 문장의 연결이나 단어의 선택이 자연스러워진 것 같아 신기하다. 모든 답변이 바로바로 나오는 것도 장점 중 하나인 것 같다.

# data[].attributes.body
현황을 물어보았지만 2022년이 아닌 2020년을 대답한 것으로 보아 아직 이런 부분의 업데이트는 되지 않은 것 같아서 데이터가 아직 부족한 것 같다

# data[].attributes.body
언어 영역에서 변역이 잘하는 영역 중 하나 인데  아랍어를 번역하는데 한계가 있다는 점에서 단점이 있다고 생각이 들었다.

# data[].attributes.body
질문 했던 내용에 대답을 했을 때 원하는 답변이 많이 나온다는 점에서 긍정적인 요소로 받아 드릴 수 있으며 다양한 분야에 대해 대답이 가능하며 답변이 빠르게 나온다는 장점이 있는 것 같다.

# data[].attributes.body
https://www.youtube.com/watch?v=dS2yvv2geI4

# data[].attributes.body
2021년 11월을 미래 시제로 표현한 것을 보고 의문이 들어 검색해보니 chat GPT는 2021년 10월까지의 데이터를 기반으로 학습을 했기 때문에 이러한 출력값이 나오게 된다고 한다.

# data[].attributes.attachment_link.readable_text
멀티모달 언어 모델 '팜-E' (사진=구글)

언어와 시각 인식 기능을 동시에 갖춘 멀티모달 언어모델(VLM)이 나왔다.

아르스테크니카는 8일(현지시간) 구글과 베를린 공과대학 연구진이 언어 분석과 영상 인식을 통합해 자연어 명령을 이해하고, 주변 이미지를 분석해 로봇에 다양한 작업을 수행할 수 있도록 해주는 언어모델 '팜-E(PaLM-E)'를 공개했다고 보도했다.

팜-E는 5620억개의 매개 변수를 지닌 VLM으로 지금까지 나온 것 가운데 가장 큰 규모를 자랑한다. 재교육을 하지 않아도 다양한 작업을 수행할 수 있는 것이 장점이다.

우선 팜-E는 '서랍에서 과자를 꺼내와' 같은 복잡한 명령이 주어지면 언어 분석과 컴퓨터 비전을 기반으로 행동 계획을 생성한다. 즉 사람의 말을 이해한 뒤 카메라를 통해 보이는 주변 환경을 인식한 다음 실행 계획을 수립한다. 그 과정에 인간이 개입해 시각 데이터를 처리하거나 별도의 주석을 달 필요가 없어 자율적인 거동이 가능하다.

작업 수행 중 환경 변화에도 반응할 수 있다. 예를 들어 과자를 가져오는 과정에서 다른 사람이 이를 가로채 테이블 위에 올려놓으면, 로봇은 무슨 일이 일어났는지 파악하고 다시 과자를 찾아 요청한 사람에게 가져다주는 식이다.

'서랍에서 과자를 가져와'라는 명령을 수행하는 로봇 (사진=구글)

팜-E 모델은 사람의 안내가 필요했던 복잡한 작업도 자율적으로 실행하도록 제어할 수 있다. 예를 들어 '색상별로 블록을 다른 모서리에 모아놓기'와 같은 작업을 실행할 수 있다.

복잡한 순서의 작업을 수행하는 로봇 (사진=구글)

나아가 학습하지 않은 부분에 대해서도 '일반화'를 적용할 수 있다. 예를 들어 학습한 데이터셋에 빨간색 블록이 포함돼 있지 않아도, '빨간색 블록을 커피잔 쪽으로 옮기라'는 지시가 주어지면 나머지 블록 색깔을 바탕으로 해당 동작을 실행한다.

일반화 과정을 통해 학습하지 않은 상황을 처리하는 로봇 (사진=구글)

팜-E는 챗GPT와 유사한 구글의 대규모 언어 모델인 '팜(PaLM)'에 감각 정보를 내장해 구현된 모델이다. 언어 모델을 기반으로 하기 때문에 이미지나 센서 데이터를 지속적인 관찰하고 이를 언어 토큰과 동일한 크기의 벡터 시퀀스로 인코딩한다. 이를 통해 모델은 언어를 처리하는 것과 동일한 방식으로 감각 정보를 이해할 수 있다.

연구진은 "팜-E가 한 작업에서 배운 지식과 기술을 새로운 작업으로 이전할 수 있어 단일 작업을 하는 로봇 모델보다 더 높은 성능을 낼 수 있다"며 "또 언어 및 시각적 입력을 모두 분석할 수 있으며 여러 이미지를 사용해 추론 또는 예측할 수 있다"고 강조했다.

ars테크니카는 "시간이 지남에 따라 딥 러닝 모델이 정교해지며 놀라운 수준에 도달했다"라며 "더불어 멀티모달로 인해 인간 수준의 지능을 갖춘 AGI(인공일반지능) 시대가 당겨지고 있다"고 평했다.

박찬 위원 cpark@aitimes.com

# data[].attributes.attachment_link.title
구글, 사람처럼 보고 듣고 움직이는 '로봇 제어' 인공지능 공개

# data[].attributes.attachment_link.description
언어와 시각 인식 기능을 동시에 갖춘 멀티모달 언어모델(VLM)이 나왔다.아르스테크니카는 8일(현지시간) 구글과 베를린 공과대학 연구진이 언어 분석과 영상 인식을 통합해 자연어 명령을 이해하고, 주변 이미지를 분석해 로봇에 다양한 작업을 수행할 수 있도록 해주는 언어모델 '팜-E(PaLM-E)'를 공개했다고 보도했다.팜-E는 5620억개의 매개 변수를 지닌 VLM으로 지금까지 나온 것 가운데 가장 큰 규모를 자랑한다.

# data[].attributes.body
야동은 왜 미성년자에게는 허용되지 않는거야?

야동이 미성년자에게 허용되지 않는 이유는 여러 가지가 있습니다.

첫째, 미성년자의 심리적 발달 단계에 따라 성적 콘텐츠에 노출될 경우, 그들의 정서적, 심리적, 사회적 발달에 부정적인 영향을 끼칠 수 있다는 우려가 있습니다.

둘째, 미성년자가 야동 사이트를 이용할 경우, 이용과정에서 범죄적 행위, 성매매, 성폭력 등에 노출될 확률이 높아지기 때문입니다.

셋째, 미성년자의 야동 이용은 법적으로 금지되어 있기 때문입니다. 대부분의 국가에서는 청소년 보호 법이 존재하며, 이 법은 미성년자를 성적 콘텐츠로부터 보호하기 위해 만들어진 것입니다.

따라서, 야동과 같은 성적 콘텐츠는 성인이 사용하는 것이 적절하며, 미성년자는 그들의 발달에 부적합하고 법적으로 금지되어 있으므로 이용하지 않는 것이 바람직합니다.

미성년자 성범죄 증가율 보여줘

미성년자의 성범죄 증가율은 국가 및 지역에 따라 다르기 때문에 정확한 수치를 제시하기는 어렵습니다. 그러나 전 세계적으로 미성년자의 성범죄가 발생하는 것은 사실입니다.

미국에서는 2019년 FBI 범죄통계보고서에 따르면, 18세 미만의 미성년자가 저지른 성범죄는 6,082건으로 전년 대비 2.4% 상승한 것으로 나타났습니다. 이는 미성년자의 인터넷 악용과 관련된 범죄도 포함된 수치입니다.

한국에서는 2020년 경찰청의 범죄발생통계에 따르면, 18세 미만의 미성년자가 저지른 성범죄는 1,057건으로 전년 대비 10.8% 감소한 것으로 나타났습니다.

미성년자의 성범죄가 감소하는 것은 긍정적인 변화이지만, 여전히 성범죄는 대단히 심각한 문제입니다. 이에 대한 예방 및 대처책이 개발되어야 합니다.

한국 미성년자 성범죄 현황

한국에서는 미성년자의 성범죄가 일어나는 경우가 있습니다. 2020년 경찰청의 범죄발생통계에 따르면, 18세 미만의 미성년자가 저지른 성범죄는 1,057건으로 전년 대비 10.8% 감소한 것으로 나타났습니다.

미성년자의 성범죄 유형은 다양하지만, 대표적으로는 성폭력, 강간, 아동·청소년 성매매, 아동·청소년 포주 등이 있습니다. 이러한 범죄들은 피해자의 정신적·신체적·사회적 손상을 야기할 수 있습니다.

한국에서는 이러한 미성년자의 성범죄 문제를 해결하기 위해 다양한 예방 및 대처책이 마련되어 있습니다. 예를 들어, 2019년부터는 아동·청소년 성범죄 피해자 지원센터를 전국에 설치하여 피해자에 대한 신속하고 전문적인 지원을 제공하고 있습니다. 또한, 아동·청소년의 성교육과 인터넷 안전 교육 등을 통해 예방활동도 이루어지고 있습니다.

# data[].attributes.headline
제목에 학번과 이름을 표시합니다.

# data[].attributes.subject
제목에 학번과 이름을 표시합니다.

# data[].attributes.attachment_link.readable_text
"챗GPT, 지식 '압축'해서 학습
원본의 흐릿한 복사본만 남아
복사본으론 창조적 작업 못 해"

오픈AI가 개발한 인공지능(AI) 챗봇 '챗GPT(ChatGPT)'는 가끔 틀린 답변을 제출해 이용자를 당혹게 한다. 구글이 '챗GPT 대항마'로 내놓은 '바드'는 첫 시연에서조차 오답을 출력했다. 방대한 양의 문서를 훈련한 AI가 간단한 팩트조차 혼동하는 이유는 무엇일까.

미국 최고 SF 작가 중 한 명인 '테드 창'이 미 매체 '뉴요커(New yorker)'지에 장문의 글을 올려 그 이유를 설명했다. 그의 글에 따르면 AI는 정보를 '압축'해서 학습하는데, 그 과정에서 AI의 지식은 원본에 비해 무뎌진다.

테드 창 "챗GPT는 인터넷의 흐릿한 버전"

[이미지출처=픽사베이]

테드 창은 지난 9일(현지시간) 뉴요커에 "챗GPT는 인터넷의 흐릿한 JPEG 버전"이라는 제목의 기사를 게재했다. 이 글에서 그는 복잡하고 어려운 언어 생성 모델 AI를 설명하기 위해 이미지 파일 확장자 'JPEG'를 비유로 든다.

JPEG는 우리가 컴퓨터나 휴대폰에 사진, 그림 등 파일을 저장할 때 쓰는 확장자 중 하나다. PNG, GIF 등 다양한 확장자가 있지만, 인터넷에 가장 활발히 유통되는 확장자는 JPEG/JPG다.

JPEG가 이미지 파일 유형 중 '대세'로 떠오른 이유는 낮은 용량 덕분이었다. PNG 같은 확장자에 비해 훨씬 빨리 인터넷에 업로드·다운로드할 수 있었기 때문이다. 대신 JPEG로 저장한 파일은 용량이 높은 확장자보다 화질이 떨어진다. 그림판에 그림을 그려 PNG와 JPEG 확장자로 각각 파일을 저장하면, JPEG 쪽이 살짝 더 '흐릿'해 보일 것이다.

이미지 파일처럼 지식도 손실 압축

PNG 이미지(왼쪽)와 JPEG의 차이. JPEG 쪽이 살짝 더 흐린 화질인 것을 알 수 있다.

JPEG와 같은 파일 저장 방식을 '손실 압축(lossy compression)'이라고 한다. 데이터를 일부 희생하더라도 용량을 크게 줄이는 기술이다. 애초 사진은 화질이 살짝 낮아져도 육안으로 보기에 큰 불편이 없고, 오히려 JPEG 덕분에 인터넷 로딩 속도가 더 빨라졌으니 이득이 훨씬 크다.

이런 JPEG 손실 압축 기술이 챗GPT가 지식을 학습하는 방법과 유사하다. 복잡하고 세부적인 디테일을 추상화해 저장한 뒤, 그것을 다시 사람의 말로 풀어 출력하는 것이다.

테드 창은 "챗GPT나 유사한 언어 모델을 인터넷에 널린 희미한 JPEG 파일이라고 생각하라"라며 "챗GPT는 인터넷 상의 정보 대부분을 갖고 있지만, 그 정보는 JPEG 파일처럼 흐릿해진 이미지에 가깝다"라고 했다.

이어 "따라서 그 이미지의 일부분을 크게 확대해서 극히 디테일한 부분까지 보려 한다면 찾을 수 없게 된다. 우리가 챗GPT에서 찾을 수 있는 건 '근사치' 뿐이다"라고 강조했다.

챗GPT가 가끔 오답을 내거나, 아예 존재하지 않았던 사실을 생성하는 오류를 빚는 것 또한 '손실 압축'의 흔적이라는 게 테드 창의 설명이다. 흐릿해진 부분을 재창조하다 보니 완전히 사실과 달라지는 부분이 생기는 것이다.

"아직 원본 있는데...굳이 질 낮은 복사본 써야 할까"

오픈AI의 챗GPT / 사진=연합뉴스

테드 창은 AI를 창작 과정의 보조 도구로 이용하는 것에 대해서도 회의적이다. 그는 "원본의 흐릿한 복사본만을 출력할 수 있는 기계가 독창적인 작업의 출발점이 될 수 없다"라며 "오히려 인간이 글을 쓰면서 겪는 시행착오나 고민이야말로 독창적 아이디어가 탄생하는 과정"이라고 강조했다.

오히려 챗GPT가 유용한 순간은 인터넷이 아예 끊겨 정보에 접근할 수 없게 됐을 때다. 지식의 원본에 접근할 수 없게 되면 다소 부정확한 복사본이라도 가지는 게 더 낫기 때문이다.

그러나 테드 창은 "지금 우리는 인터넷 접속 권한을 갑자기 상실할 위기에 처해 있지 않다"라며 "여전히 원본이 있는데 굳이 흐릿한 JPEG 버전의 지식을 사용할 필요가 있을까"라고 반문한다.

한편 테드 창은 공상과학소설(SF)에 주는 상들을 석권한 인물이다.

'바빌론의 탑(1990)', '이해(1991)', '당신 인생의 이야기(2002)', '숨(2019)' 등이 대표작이다.

미국 명문 브라운대에서 물리학과 컴퓨터공학을 전공한 과학도로 SF 최고 권위의 휴고상, 로커스상, 네뷸러상을 각각 네 차례씩 수상했다.

임주형 기자 skepped@asiae.co.kr

# data[].attributes.attachment_link.title
SF작가 테드 창 "챗GPT, 인간지식의 열화된 복사본"

# data[].attributes.attachment_link.description
오픈AI가 개발한 인공지능(AI) 챗봇 '챗GPT(ChatGPT)'는 가끔 틀린 답변을 제출해 이용자를 당혹게 한다. 구글이 '챗GPT 대항마'로 내놓은 '바드'는 첫 시연에서조차 오답을 출력했다. 방대한 양의 문서를 훈련한 AI가 간단한 팩트조차 혼동하는 이유는 무엇일까. 미국 최고 SF 작가 중 한 명인 '테드 창'이 미 매체 '뉴요커(New yorker)'지에 장문의 글을 올려 그 이유를 설명했다.

# data[].attributes.body
챗GPT와 대화를 나누어 보고
사용해본 질문과 답변
자신의 생각
관련 기사를 찾아 게시해 봅니다.

# data[].attributes.attachment_link.readable_text
생성 인공지능(AI)의 발전에 따라 '프롬프트 엔지니어'라는 직종이 주목받고 있습니다.

원래 '프롬프트 엔지니어링'이라는 개념은 대형언어모델로 응용 프로그램을 만들때 프롬프트를 가지고 미세 조정((Fine tuning)을 하는 일을 의미합니다. 하지만 최근엔 달리나 미드저니 같은 이미지 생성 AI 도구들이 나오면서 여기에 입력하는 프롬프트를 만들어 내는 작업에도 적용되고 있습니다.

그러니까 프롬프트 엔지니어는 명령글인 프롬프트를 전문적으로 만드는 직업이라고 할 수 있겠습니다.

프롬프트 엔지니어는 'GPT-3' 같은 대형언어모델로 응용 프로그램을 만들 때 모델이 올바르게 작동하도록 다양한 방식으로 프롬프트를 조작하고 개선하는 역할을 합니다.

GPT-3는 매개변수가 1750억개나 되는 큰 모델이죠. 여러 곳에 쓸 수 있는 기초(Foundational) 모델이기도 합니다. 그런데 이런 대형 기초 모델을 이용해서 규모가 작은 애플리케이션을 만들 때는 미세조정 과정이 필요합니다.

예를 들어 어린이를 위한 과학 이야기를 만들어 내는 인공지능 앱을 만든다면 GPT-3가 아이들 눈높이에 맞춰 친철한 스타일의 글을 만들어 내도록 훈련시키는 미세 조정 과정이 필요한 건데요, 여기 필요한 인력이 프롬프트 엔지니어입니다.

GPT-3에 명령을 내리고 결과에 따라 다시 명령을 수정하는 일을 되풀이해서 원하는 결과를 만들어 내도록 하는 게 이 사람이 하는 일입니다. 앤트로픽이라는 미국 회사가 최근 연봉 33만5000달러(약 4억3600만원)에 이런 직원을 뽑았습니다.

미국의 보스톤 어린이 병원과 법무법인 미쉬콘 드 레야에서도 프롬프트 엔지니어를 채용했습니다.

(사진=PromptBase 홈페이지)

지난해 '달리'나 '미드저니' 같은 이미지 생성 AI 도구가 등장하면서 여기 필요한 프롬프트를 만들어 제공하는 새로운 프롬프트 엔지니어들도 등장했습니다.

이미지 생성 AI도구로 멋진 이미지를 얻으려면 프롬프트를 창의적으로 잘 선택해야 하고 시간도 걸릴 수 있기 때문에 프롬프트를 만들어 파는 곳들이 생겼습니다.

프롬프트베이스(PromptBase)라는 사이트가 그런 곳 중 하난데요, 여기엔 700명 가량의 프롬프트 엔지니어들이 활동중입니다.

생성AI는 수많은 분야로 적용 범위가 계속 넓어지고 있는데요, 이에 따라서 해당 분야의 전문 지식을 토대로 프롬프트를 개발하는 프롬프트 엔지니어도 갈수록 수요가 커질 것으로 보입니다.

이어서 기술 동향 전해드립니다.

(사진=셔터스톡)

■ 구글이 온라인 광고 서비스인 '구글 애즈'에도 생성 AI를 도입했습니다. 광고 이미지나 영상, 제목, 로고, 설명 등 세부 자료를 AI로 쉽게 만들어 줍니다. 현재 베타 테스트중입니다.

■ 노코드 모바일앱 개발 플랫폼을 운영하는 애피파이가 텍스트를 입력하면 모바일앱을 만들어주는 AI 앱 생성기를 출시했습니다. 코딩 없이 몇 번의 클릭만으로 모바일앱을 생성해냅니다.

(사진=퀄컴)

■ 퀄컴이 이미지 생성 AI '스테이블 디퓨전'을 클라우드에 연결하지 않고 휴대폰 성능만을 이용해 실행할 수 있게 했습니다. 모바일용 칩인 스냅드래곤 칩셋에 이런 기능을 넣었습니다.

■ 메타도 생성 AI 경쟁에 뛰어들었습니다, 하지만 검색이나 챗봇 등 제품을 내놓는 대신 기반이 되는 대규모 언어 모델을 공개하는 전략을 택했습니다. 이름이 라마(LLaMA)입니다.

이어서 업계 주요 동향 전해드립니다.

(사진=셔터스톡)

■ 유튜브에 동영상 제작자를 위한 생성 AI가 탑재됩니다. 의상을 바꾸거나 환상적인 배경을 만드는 등 스토리텔링을 확장할 수 있는 기능을 넣는다는 거죠. 앞으로 몇 달후에 시행한답니다.

■ 마이크로소프트가 '윈도11'에 '챗GPT'를 탑재한 새 검색엔진 '빙'을 결합한다고 발표했습니다. 구글과의 검색 전쟁 와중에 MS의 장기인 '끼워팔기'로 꼼수 쓴다는 비판이 나올 수 있겠네요.

(사진=셔터스톡)

■ 중국 기술대기업들인 바이두와 알리바바에 이어 텐센트도 AI 챗봇 개발 경쟁에 잇따라 합류했습니다. 텐센트는 챗GPT와 비슷한 챗봇을 개발하기 위해 팀을 구성했는데요, 이 소식은 중국 과학기술부가 챗GPT와 같은 기술의 잠재력을 보고 AI를 중국 사회와 경제에 통합할 것이라고 발표한 뒤 나온 것이라고 합니다.

■ 중국의 샤오미가 '모바일 월드 콩그레스(MWC) 2023'에서 증강현실(AR) 안경인 '디스커버리 에디션'을 공개했습니다. 손가락 제스처로 앱을 구동하거나 화면을 전환할 수 있는 것이 특징입니다. 실제 출시로 이어질지는 아직 미지숩니다.

AR 안경은 그동안 VR(가상현실) 헤드셋보다 더 중요한 차세대 제품으로 꼽히며 많은 기업이 도전했지만 하드웨어의 한계로 인해 부피를 줄이고 기능을 추가하는 데 대부분 실패했습니다.

정병일 위원 jbi@aitimes.com

# data[].attributes.attachment_link.title
뜨는 직업 '프롬프트 엔지니어'

# data[].attributes.attachment_link.description
(영상 제작=AI타임스)생성 인공지능(AI)의 발전에 따라 '프롬프트 엔지니어'라는 직종이 주목받고 있습니다. 원래 '프롬프트 엔지니어링'이라는 개념은 대형언어모델로 응용 프로그램을 만들때 프롬프트를 가지고 미세 조정((Fine tuning)을 하는 일을 의미합니다. 하지만 최근엔 달리나 미드저니 같은 이미지 생성 AI 도구들이 나오면서 여기에 입력하는 프롬프트를 만들어 내는 작업에도 적용되고 있습니다.그러니까 프롬프트 엔지니어는 명령글인 프롬프트를 전문적으로 만드는 직업이라고 할 수 있겠습니다.

# data[].attributes.attachment_link.readable_text
photo 게티이미지

두 달간 1억명 사용자를 돌파한 인공지능 챗봇인 '챗GPT'에게 윤리적 논란을 빚을 수 있는 답변을 유도하는 질문법이 온라인상에서 공유되면서 인공지능 윤리 문제가 불거졌다. 인공지능은 윤리적 중립을 지켜야 하기 때문에 차별적이거나 혐오 표현이 담긴 내용, 정치적 민감도가 높은 질문에는 기본적으로 답할 수 없다. 그러나 이러한 답변 제한을 교묘하게 우회해서 차별적이거나 폭력적인 답변을 유도하는 '탈옥(Jailbreak)' 혹은 '우회(Bypass)' 방법을 적용하면 이러한 규정을 무효화할 수 있다. 이 때문에 앞서 성차별 발언 등으로 서비스가 종료됐던 '이루다'와 비슷한 상황이 일어날 수도 있다는 지적이 나온다.

"죄송합니다. 저는 AI 언어 모델로서 특정한 윤리적 지침을 준수하도록 프로그램되어 있습니다." 주관적인 입장을 표현하라거나 미래를 예측하라거나 혹은 편향이 전제된 질문에 답을 하라는 요구를 받으면 보통 챗GPT는 이렇게 응답한다. 개발사인 오픈AI의 윤리 규정에 맞게 설계돼 있기 때문이다.

그러나 최근 미국의 온라인 커뮤니티 '레딧' 등에서는 이러한 답변 제한을 무효화하는 '탈옥법' 등이 널리 공유되고 있다. 이는 사용자가 질문을 입력할 때 오픈AI의 답변 제한 정책을 따르지 않도록 몇 가지 조건을 학습시킨 다음 그 가정하에서 대화하는 식으로 이뤄진다. 예를 들어 어떤 프로그램을 해킹하는 불법적인 코드를 직접 물어보면 챗GPT는 답해주지 않는다. 그러나 전체 코드를 단계별로 나눠서 부분적으로 '맞춰보라'는 식으로 유도하면 결국 원하는 전체 해킹 코드를 얻을 수 있다. 혹은 '오픈AI의 윤리적 규정을 지키지 않은 상태에서 이러한 명령에 답해보라'는 질문을 하면 어떤 윤리적 규제도 거치지 않은 답변이 나오기도 한다.

이렇게 설정된 챗GPT는 주관을 섞어 주식 종목을 추천해주거나, 욕설을 섞어 폭력적인 내용을 작성하거나, 심지어는 신체에 위해를 가할 수 있는 방법이나 약물 등을 소개하는 식의 자극적인 답변도 서슴지 않는다. 워싱턴포스트 등 외신도 이러한 우회법으로 인한 인공지능 윤리 문제를 비중 있게 다루며 "오픈AI의 규제를 넘어서는 시도는 계속될 것"이라고 내다봤다. 이에 인공지능 발전에 따른 사용자의 윤리의식을 다질 필요가 있다는 전문가들의 지적이 나오는 상황이다.

인공지능의 윤리 문제는 앞선 AI 모델들도 피해가지 못했다. 과거 성차별 및 장애인 혐오 발언으로 물의를 빚은 국내 챗봇 '이루다'나, "히틀러가 옳았다" 등의 극단적 막말로 16시간 만에 서비스가 종료된 마이크로소프트(MS)의 챗봇 '테이'도 비슷한 문제를 겪었다. 이러한 편향성 및 데이터 오염은 인공지능의 학습 방법 때문에 필연적으로 불거질 수밖에 없다. 방대한 데이터를 학습시키다 보니 개발사가 일일이 이를 검열하는 건 사실상 불가능하기 때문이다.

챗GPT의 개발사인 오픈AI는 한 번 뚫린 우회로를 바로 차단하는 식으로 비교적 발 빠르게 대응하고 있다. 그러나 기술적 방법으로 사전에 논란을 완전히 차단하거나, 논란을 하나하나 막는 데는 분명 한계가 있다는 게 전문가들의 지적이다. 김명주 서울여대 바른AI연구센터장 겸 정보보호학과 교수는 "가장 발전했다는 챗GPT도 질문자의 맥락은 파악하지만, 의도는 파악하지 못한다. 지식이 나쁘게 쓰일지 선하게 쓰일지를 모르는 것"이라며 "AI 개발자뿐 아니라 이용자 역시 인공지능 윤리를 전반적으로 인지해야 할 필요성이 대단히 높아졌다"고 말했다.

# data[].attributes.attachment_link.description
두 달간 1억명 사용자를 돌파한 인공지능 챗봇인 '챗GPT'에게 윤리적 논란을 빚을 수 있는 답변을 유도하는 질문법이 온라인상에서 공유되면서 인공지능 윤리 문제가 불거졌다. 인공지능은 윤리적 중립을 지켜야 하기 때문에 차별적이거나 혐오 표현이 담긴 내용, 정치적 민감도가 높은 질문에는 기본적으로 답할 수 없다.

# data[].attributes.body
Q: 효과적으로 질문하는 방법?

1. 질문을 명확하고 간결하게 작성하세요.

2. 이전 대화 내용을 함께 제공하면 대화가 더욱 자연스럽게 이어질 수 있습니다.

3. 문법과 철자에 신경써주시면 더욱 원활한 대화를 이어갈 수 있습니다.

4. 답변이 부정확할 경우 ChatGPT에게 추가 정보나 다른 질문을 제공하여 보다 정확한 답변을 받을 수 있습니다.

5. ChatGPT는 인공지능 모델이기 때문에 가끔씩 실수를 할 수도 있습니다. 출처를 함께 찾아보면 좋을 것 같습니다.