OpenAI의 어제와 오늘

OpenAI에 대한 스티븐 레비의 흥미로운 기사가 와이어드에 올라왔습니다. 이 회사가 초반에 어떻게 시작해서 지금의 ChatGPT에 이르렀는지에 대한 정리입니다.

기사는 샘 알트먼의 글로벌 순회공연, 아니 글로벌 투어(뭐라고 얘기해도 무슨 록밴드 순회공연 같네요)의 런던 투어에서 시작합니다. 기사 내용을 시간순으로 팩트별로 간단히 정리하면 다음과 같습니다.

• 2010년대 초반, 래리 페이지(구글 창업자)와 일론 머스크(글로벌 또X이)가 인공지능 관련 토론을 벌였는데, 머스크가 인공지능이 인류에게 위협이 되리라 하자 페이지가 머스크를 향해 "speciesist"(종차별주의자)라고 비난. 머스크가 "그렇다면 나는 래리 페이지의 연구에 대항하는 Team Human(인간팀)을 만들겠어"라고 결심. 이후 오픈AI에 머스크 등 백만장자들이 투자.
• 물론 머스크가 오픈AI를 만든 것은 아니고, 샘 알트먼이 '안전한 AGI(Artificial General Intelligence)를 만들겠다'는 목표로 시작. 즉 특정분야 작업을 수행하는 AI가 아니라, 사람처럼 생각하는 AI를 안전하게 만들겠다는 것이 알트먼의 비전. 머스크는 자기 생각과 동일하다면서 여기에 적극적으로 투자한 것.
• 문제는 처음엔 목표만 있었지 어떻게 목표를 이룰지 아무런 대책이 없었다는 것. 오픈AI의 시작은 대학원 연구실과 비슷해서, 연구원 각자가 동료를 모집하는 한편 자기 하고 싶은 연구를 진행하던 식. 하지만 구글 AI 연구원들이 '트랜스포머 논문'을 발표하면서 오픈AI도 변화.
• 당시 오픈AI는 레딧, 아마존리뷰 등을 활용해 인공지능을 학습시키고 있었는데 이들의 연구는 인공지능이 문장을 보면서 '중요한 의미가 담긴 부분'이 어디인지, 이 리뷰가 '긍정적인지 부정적인지' 등을 파악하는데 성공. 한편으로 트랜스포머는 산문 텍스트를 잔뜩 쌓아두고 주목할만한 부분을 골라내는 연구였음. 이런 내용들이 합쳐지자 질문의 의도를 파악하고 새로운 답을 스스로 골라내 제시하는 단계로 도약. 이게 GPT의 시작.
• "That’s been our strategy—to push hard on problems and then have faith that we or someone in the field will manage to figure out the missing ingredient."
• 문제는 연구진들이 AI를 볼 때, "어, 얘가 이런 걸 어떻게 해내지?"하는 일이 발생했다는 것. 이건 못할거야, 하는 과제를 GPT에게 던져줬는데 자꾸 해내기 시작. 제로베이스에서 결과를 만들어내는데 연구진이 이해 못하는 결과가 나오게 되는 상황.(이런 걸 zero-shot이라고 부른다고)
• 샘 알트만 왈, "10살 땐 AI를 상상하면서 우선 인류가 로봇에게 육체노동을 대신 시킨 뒤, 기초적인 지식노동을 대신하는 인공지능을 만들게 될 것이고, 그 다음에 수학 이론을 연구한다거나 하는 발달된 단계로 넘어가서는 최종적으로 글을 쓰고 그림을 그리는 인간적이고 예술적인 인공지능을 갖게 되리라 생각했습니다. 그런데, 완전히 틀렸어요. 실제로는 정반대의 순서로 기술이 발전하고 있지요."
• 모든 게 잘 되는 것처럼 보이자 역시나 글로벌 또X이 머스크가 다시 등장. "회사 이름도 내가 지었고, 돈도 내가 제일 많이 냈으니, 이제 오픈AI는 테슬라와 뉴럴링크 등의 사업과 결합하기 위해 내가 이끄는게 좋겠어." 당연히 다른 사람들은 모두 반대. 일론 머스크는 돈을 빼서 떠나면서 너희 망할 거라고 저주. 그리고 밖에다가는 "OpenAI는 인류에게 안전하지 않다"고 언플.
• 이 때 마이크로소프트가 등장. 오픈AI는 거대한 클라우드컴퓨팅 자원이 필요한데, 마이크로소프트가 이 서버 자원을 투자금으로 지원. 간단히 계산해서 마이크로소프트는 직접 현금지출을 하지 않고도(물론 기회비용이 들지만) 오픈AI의 주주가 될 뿐만 아니라, 세계에서 제일 유명한 인공지능 기업을 독점 장기고객으로 입점시키게 됐음. 모든 나비효과의 시작에는 역시 일론 머스크가...
• MS의 투자로 비영리를 주장했던 오픈AI에 대한 도끼눈이 커진 한편, 당연히 인공지능에 대한 환호와 함께 우려도 등장. 특히 정치권이 문제였는데, 샘 알트먼은 빌 게이츠나 마크 저커버그처럼 "의원님, 잘못 알고 계신 겁니다"를 얘기하는 대신 현명히 대처. "예, 인공지능 규제해야죠. 의원님 말씀에 동의하고 저희가 그걸 도와드릴 수 있는 가장 좋은 위치에 있습니다." 글로벌 투어도 이런 일환.

결론: 샘 알트먼은 안전한 AGI, 즉 인간보다 뛰어난 인공지능을 안전하게 만드는 것이 오픈AI의 사명이라고 주장하고 있습니다. 멋져 보이는 말이지만 실제로 GPT의 발전 양상을 보면 그 방향이 맞는지 고개를 갸웃거리게 하는 부분들이 잔뜩이죠.

판도라의 상자는 열렸고, 희망을 찾을 수 있을지 없을지는 이제 끝까지 가봐야 아는 일이 됐습니다. 핵무기가 생겨서 세계에 파괴적인 전쟁이 줄어들었다는 해석도 있는 세상이니, 앞으로는 AGI가 "인공지능 덕분에 인류가 행복해졌다"는 여러 논거를 만들어서 우리를 학습시키는 세상이 열릴 것 같습니다. 할렐루야.