창조하신 대로 사는 생활 지식/창조주 하나님의 사회: 이런 일이?

10년 동안 100만배 성장한 인공지능..."예상치 못한 현실"

heojohn 2023. 3. 26. 11:39
 
  • 기자명 임대준 기자 
  •  입력 2023.03.24 13:01
  •  수정 2023.03.26 06:51
AI 탄생과 발전에 기여한 두 거장의 대화...

GTC 2023서 만난 젠슨 황과 수츠케버

젠슨 황 엔비디아 CEO(왼쪽)와 일리야 수츠케버 오픈AI 공동 설립자가 환한 표정으로 대담을 이어가고 있다. (사진=엔비디아)

"챗GPT가 하나의 LLM(대형언어모델)이라는 오해가 있지만, 그 안에는 여러 시스템이 존재한다. 데이터 학습을 거친 뒤 인간 피드백을 통한 강화학습(RLHF)으로 신뢰성과 정확성을 높였다." "GPT-4는 여러 면에서 큰 개선이 이뤄졌다. 매우 정확하게 다음 단어를 예측한다."

젠슨 황 엔비디아 CEO와 일리야 수츠케버 오픈AI 공동 설립자가 22일(현지시간) 'GTC 2023'에서 만나 지난 10년 동안 벌어진 인공지능(AI) 탄생과 발전 과정을 돌아보며 'GPT-4'와 '챗GPT' 및 '딥러닝'의 미래를 전망했다.

이들은 AI의 탄생과 발전에 지대한 공헌을 해 온 인물이다. 

 

특히 수츠케버는 AI의 시발점으로 알려진 합성신경망아키텍처(CNN)인 '알렉스넷(AlexNet)' 창시자 가운데 한 명이다. AI의 선구자인 지오프 힌튼, 알렉스 크리제브스키와 함께 2012년 9월에 열린 '이미지넷 대규모 시각 인식 챌린지'에서 알렉스넷을 시연, 압도적인 성능을 보여주며 AI의 시대를 열었다는 평가를 받고 있다.

젠슨 황은 이를 'AI의 빅 뱅'이라고 표현했다.

수츠케버는 "이런 혁신 가운데 일부는 GPU로 병렬 처리한 덕분"이라며 "GPU에 적합한 이미지넷 데이터셋과 CNN 덕분에 전례 없는 속도로 기존에 없던 새로운 것을 훈련할 수 있었다”고 공을 돌렸다.

 

실제 알렉스넷 초기 작업은 토론토대학교 실험실에서 몇 대의 '지포스 GTX 508' GPU로 실행했다. 엔비디아의 GPU는 지금도 챗GPT와 같은 모델의 학습과 추론을 처리하는데 사용되고 있다.

이들의 이야기는 'GPT-4'를 중심으로 이어졌다. 대담 시기가 바로 오픈AI가 GPT-4를 출시한 다음 날이었기 때문이다.

수츠케버는 "GPT-4는 여러 면에서 큰 개선이 이뤄졌다"며 상당 시간을 소개에 할애했다. 특히 기존 버전과의 가장 큰 차이점을 "매우 정확하게 다음 단어를 예측한다는 것"이라고 강조했다.

또 젠슨 황은 "챗GPT가 하나의 LLM(대형언어모델)이라는 오해가 있지만, 그 안에는 여러 시스템이 존재한다"며 기존의 데이터 학습을 거친 뒤 인간 피드백을 통한 강화학습(RLHF)으로 신뢰성과 정확성을 높였다고 설명했다.

대담 중 수츠케버는 젠슨 황이 너무 생각이 많다며 농담도 건넸다. "인간은 일생 동안 10억개의 단어를 듣는다"는 말에 젠슨 황이 "머릿속에 떠도는 단어도 포함되는가"라고 묻자, 수츠케버는 "그것까지 포함하면 20억개로 정정한다"며 웃음을 터트렸다.

이들은 AI의 전망으로 한 시간에 걸친 대담을 마무리했다.

수츠케버는 GPT-4가 추론 능력이 있냐는 질문에 "이 용어는 정의하기 어려우며, 아직은 개발 단계일 수 있다"면서 "계속 우리를 놀라게 할 시스템을 목격하게 될 것이지만 무엇보다 신뢰성을 갖추는 것이 최우선이다. AI가 무엇을 할 수 있고 무엇을 할 수 없는지를 확실하게 알아야 한다"고 강조했다.

 

젠슨 황은 "우리가 알고 지낸 10년 동안 훈련한 모델은 약 100만배의 성장을 이뤘다"면서 "컴퓨터 과학 업계의 어느 누구도 계산이 100만배나 커질 것이라고는 믿지 않았을 것"이라고 호응했다.

그는 이어 "오늘 이야기는 박사 학위 수준을 넘어선, LLM 기술에 대한 최고의 설명 중 하나"라면서 "오픈AI는 정말 놀라운 성과를 이뤘다"고 수츠케버에 감사를 표했다.

임대준 기자 ydj@aitimes.com