Reflections - samaltman

https://blog.samaltman.com/reflections

Reflections

 

Reflections

ChatGPT의 두 번째 생일이 한 달 조금 넘게 지났고, 이제 우리는 복잡한 추론이 가능한 모델의 새로운 패러다임으로 넘어왔습니다. 새해가 되면 누구나 지난 일에 대해 되돌아보게 마련인데, 지금까지의 여정을 돌아보며 그 과정에서 배운 것들을 몇 가지 나누고자 합니다.

 

AGI에 점점 가까워지는 시점에서, 우리 회사의 발전 상황을 살펴보는 것은 굉장히 중요한 일로 느껴집니다. 여전히 알아야 할 것도, 모르는 것도 많으며, 아직은 초기 단계라는 생각이 듭니다. 그래도 시작할 때에 비하면 훨씬 많은 것을 배우고 익혔습니다.

 

우리가 OpenAI를 시작한 지는 어느덧 9년이 되어 갑니다. 그때 우리는 AGI가 가능하며, 인간 역사상 가장 영향력 있는 기술이 될 수 있다고 믿었습니다. 동시에 이를 어떻게 만들고, 더 많은 사람들에게 이익이 돌아가도록 할 것인지 알아내고 싶었죠. 역사에 우리가 발자취를 남길 수 있길 바랐고, 야심 찬 목표만큼이나 그것이 사회에 엄청난 이로움을 줄 수 있으리라 확신했습니다.

 

그 시절엔, 대부분의 사람이 우리가 하는 일에 별다른 관심을 두지 않았고, 관심을 준 사람들마저도 성공 가능성이 없다고 여기는 경우가 많았습니다.

 

2022년까지만 해도 OpenAI는 일시적으로 “Chat With GPT-3.5”라고 불리는 연구 프로젝트를 진행하는 조용한 연구소였습니다. (우리는 연구에는 뛰어나지만, 이름 짓기에는 그렇지 못한 편입니다!) 당시 우리는 API에 포함된 플레이그라운드 기능을 사람들이 어떻게 사용하는지 유심히 지켜보고 있었는데, 개발자들이 모델과 대화하는 경험을 상당히 재미있어 하고 있다는 사실을 발견했습니다. 그래서 이 체험을 더욱 발전시킨 데모를 만들어 미래를 보여주고, 동시에 모델을 더 나아지게 하고 안전성을 높이는 데 도움이 되길 바랐습니다.

 

결국 그 데모는 다행히 “ChatGPT”라는 이름으로 바뀌어, 2022년 11월 30일에 세상에 나왔습니다.

 

언젠가 한 번쯤은 우리가 임계점을 찍고, AI 혁명이 본격적으로 시작될 것이라는 사실은 늘 막연히 알고 있었습니다만, 그 시점이 딱 언제가 될지는 예상하지 못했습니다. 놀랍게도, 그 임계점은 바로 ChatGPT의 공개였습니다.

 

ChatGPT의 출시는 우리가 지금까지 본 적 없는 놀라운 성장 곡선을 그렸습니다. 회사 내부뿐 아니라 업계 전반, 그리고 전 세계적으로요. 우리는 마침내 오랜 시간 AI에 기대해 온 엄청난 잠재력이 모습을 드러내는 순간을 직접 목격하고 있습니다. 그리고 머지않아 더 많은 변화가 닥칠 것임을 확신합니다.

 

물론 순탄치만은 않았습니다. 길은 울퉁불퉁했고, 옳은 선택지가 분명하지 않은 경우도 많았습니다.

 

지난 2년 동안 우리는 거의 무(無)에서부터 새로운 기술을 중심으로 회사를 전면적으로 재구축해야 했습니다. 이런 기술을 다룰 사람들을 따로 교육할 방법이 있는 것도 아니고, 기술 카테고리 자체가 완전히 새로워서 아무도 “정답”을 말해줄 수 없었습니다.

 

아무도 해보지 않은 방식으로, 초고속으로 회사를 성장시키다 보면 필연적으로 어수선해집니다. 흔히 ‘두 걸음 전진, 한 걸음 후퇴’(가끔은 ‘한 걸음 전진, 두 걸음 후퇴’)처럼 움직여야 하기도 하죠. 문제점을 그때그때 바로잡아 나가지만, 전례 없는 일을 하는 이상, 어디에도 완벽한 지침서나 가이드라인은 없습니다. 미지의 바다에서 전속력으로 항해하는 경험은 굉장히 짜릿하지만, 동시에 함께하는 모든 사람에게 막대한 스트레스를 줍니다. 갈등과 오해가 넘쳐나는 것도 당연합니다.

 

이 시기들은 제 인생에서 가장 보람 있고, 즐겁고, 흥미로운 동시에 고되고 지치는, 그리고—특히 최근 2년은—마냥 유쾌하지만은 않았던 시간이었습니다. 그 모든 것을 통틀어 가장 크게 남는 감정은 감사함입니다. 언젠가는 농장에 은퇴해서 자라는 식물을 바라보며 다소 무료하게 지낼 때, 어릴 때부터 품어온 꿈을 이렇게 실현해볼 수 있었다는 사실에 얼마나 멋진 일이었는지 떠올리게 되겠죠. 그런 마음가짐을 유지하려고 노력합니다—특히 금요일 오후 1시쯤에 이미 일곱 가지 일들이 잘못된 상황이라도 말이죠.

 

약 1년 전 어느 금요일, 그날 제가 겪은 ‘가장 큰 문제’는 화상회의를 통해 갑작스럽게 해고 통보를 받았다는 것이었고, 통화를 끊자마자 이사회가 블로그 글을 올린 일이었습니다. 그때 저는 라스베이거스의 한 호텔 방에 있었고, 이건 거의 악몽 같은 상황이라고밖에 설명할 수 없을 정도의 충격이었습니다.

 

어떤 사전 고지도 없이 대중 앞에서 해고당한 것은 정말 정신없는 몇 시간을 시작하게 만들었고, 그 뒤 며칠간도 정신없이 지나갔습니다. 가장 이상했던 것은 ‘전쟁터의 혼란(fog of war)’이었습니다. 우리는 전후 사정을 아무리 알아보려 해도 무엇이 왜 일어났는지 명쾌한 답을 들을 수가 없었습니다.

 

제 생각에, 이 모든 일은 선의의 사람들이(저 자신도 포함해서) 거버넌스를 제대로 하지 못한 커다란 실패라고 봅니다. 돌이켜보면, 저 역시 그때 다른 방식으로 했더라면 좋았을 텐데 하는 아쉬움이 남고, 그 일을 겪으며 조금은 더 나은 리더가 되었기를 바랍니다.

 

이 일을 통해 저는 다양한 관점과 폭넓은 경험을 가진 이사회가 복잡한 문제를 다루는 데 얼마나 중요한지 깨달았습니다. 좋은 거버넌스를 위해서는 서로 간의 신뢰와 신용이 필수입니다. 많은 이들이 힘을 합쳐, 인류 전체에 이로운 AGI를 만든다는 우리의 미션을 실행하기 위한, 더 견고한 OpenAI의 거버넌스 체제를 구축해 주어 저는 감사하게 생각합니다.

 

이 사건을 통해 제가 가장 크게 깨달은 것은, 제가 얼마나 많은 분들에게 감사해야 하는지와 얼마나 큰 빚을 졌는지입니다. 이 꿈을 함께 이루기 위해 시간을 쏟아준 OpenAI 직원들, 위기 순간에 도움을 주었던 친구들, 우리를 믿고 지원해준 파트너와 고객들, 그리고 제 주변에서 진심으로 응원해주신 분들께 깊이 감사드립니다. [1]

 

우리는 이 일을 겪은 뒤 더 단합하고 긍정적인 태도로 업무에 복귀했습니다. 그리고 그 이후로 지금까지, 연구 측면에서 특히 훌륭한 성과를 냈다고 자부합니다. 주간 활성 사용자가 약 1억 명에서 3억 명 이상으로 증가했으며, 사람들에게 진정으로 사랑받고 실질적인 문제를 해결하는 기술을 세상에 계속 내놓고 있다는 점이 가장 자랑스럽습니다.

 

9년 전에는 우리가 결국 무엇이 될지 몰랐고, 사실 지금도 완전히 알고 있다고 말하기는 어렵습니다. AI 개발은 수많은 굴곡을 거쳐 왔으며, 앞으로도 그럴 것입니다.

 

그 굴곡 중 어떤 것은 즐거웠고, 또 다른 것들은 힘들었습니다. 연구 분야에서 기적 같은 성과가 꾸준히 나오고 많은 비관론자들이 진정한 지지자로 돌아서는 모습은 굉장히 흥미롭습니다. 그와 동시에, 일부 동료들이 경쟁자가 되기 위해 회사를 떠나기도 했고요. 빠르게 확장하는 과정에서 팀이 바뀌는 것은 어느 정도 불가피합니다. 일반 스타트업도 규모가 커질 때마다 이직이 발생하곤 하는데, OpenAI는 짧은 기간 동안 다른 기업들의 수 년치 성장을 몇 번씩 해냈습니다. 지난 2년은 보통 회사의 10년에 맞먹습니다. 회사가 이렇게 폭발적으로 성장하고 변화를 겪으면, 이해관계가 어긋나는 것도 당연합니다. 중요한 산업에서 선두를 달릴 때는, 경쟁을 위해 다양한 이유로 비판을 받는 일도 흔합니다.

 

우리의 비전은 변하지 않겠지만, 이를 달성하기 위한 전술은 계속 진화합니다. 예를 들어, 처음 시작할 때만 해도 우리가 ‘제품 회사’를 만들어야 할 줄은 상상도 못 했습니다. 그저 뛰어난 연구만 하면 될 줄 알았거든요. 또한 우리가 이렇게 거대한 자본이 필요할 것도 몰랐습니다. 앞으로 우리가 만들어야 할 새로운 것들이 있고, 그것들은 불과 몇 년 전까지는 우리가 미처 인지하지 못했던 것들일 수 있습니다. 그리고 지금 상상조차 되지 않는 또 다른 무언가가 미래에 다가올 것입니다.

 

우리는 지금까지 연구와 기술 배포에서 이룬 성과를 자랑스럽게 생각하며, 안전과 이익 분배에 관한 우리의 사고를 계속 발전시킬 것입니다. 우리는 AI 시스템을 안전하게 만드는 최선의 방법은 세계와 함께 점진적으로 시스템을 출시해 나가며, 사회가 기술에 적응하고 함께 진화할 시간을 주고, 경험을 통해 학습하며 기술을 더욱 안전하게 만들 수 있도록 하는 것이라 믿습니다. 또한 현실 세계에서의 활용으로부터 피드백을 받아 연구 방향을 잡는 안전 및 정렬(Alignment) 연구를 세계 최고 수준으로 이끌어야 한다고 믿습니다.

 

우리는 전통적인 의미에서의 AGI를 어떻게 구축해야 하는지 이제는 확신이 있습니다. 그리고 2025년에는 “직장에 합류”하여 기업의 생산성을 본격적으로 변화시키는 AI 에이전트들을 볼 수 있으리라 예측합니다. 훌륭한 도구를 사람들의 손에 점진적으로 전달하는 것이, 결국 널리 분산된 이로운 결과를 가져온다고 우리는 계속 믿습니다.

 

이제 우리는 그 너머의 “슈퍼지능”으로 진정한 의미의 초지능(superintelligence)을 목표로 삼기 시작했습니다. 물론 지금의 제품들도 너무나 멋지지만, 궁극적으로 우리가 바라는 건 그 찬란한 미래입니다. 초지능이 도래하면, 우리가 하고자 하는 그 어떤 일이든 훨씬 더 강력하게 할 수 있게 됩니다. 초지능형 도구들은 기존에 우리가 해낼 수 있던 범위를 훨씬 넘어서는 과학적 발견과 혁신을 가속화할 것이고, 이는 풍요와 번영을 기하급수적으로 확대할 것입니다.

 

지금은 이것이 과학소설 같고, 언급하기조차 다소 터무니없게 들릴 수도 있습니다. 하지만 괜찮습니다—우리는 이전에도 그런 시기를 겪었고, 또 그런 상황에 익숙합니다. 앞으로 몇 년 안에 모두가 우리가 보는 미래를 함께 보게 될 것이라는 점을 꽤 확신합니다. 그리고 그때는 위대한 이익과 사람들의 역량을 극대화하면서, 동시에 매우 신중히 행동해야 할 필요성을 더욱 절실히 느낄 것입니다. 우리의 일이 만들어낼 가능성을 생각할 때, OpenAI는 결코 “평범한 회사”가 될 수 없음을 다시금 깨닫습니다.

 

이 일에 작게나마 기여할 수 있다는 사실은 정말 행운이고 겸손하게 느껴집니다.

(이 글을 쓰도록 어느 정도 동기를 부여해준 Josh Tyrangiel에게 감사드립니다. 더 많은 시간을 들여 이야기할 수 있었으면 좋았을 텐데요.)

---

 

[1]
그 며칠간 OpenAI, 그리고 제 개인적으로 놀라울 정도로 큰 도움을 주신 분들이 정말 많았는데, 이 중 단연 돋보인 두 분이 있습니다.

 

Ron Conway와 Brian Chesky는 정말 의무 범위를 훨씬 넘어서는 도움을 주셨는데, 그것을 어떻게 표현해야 할지 모를 정도입니다. Ron의 능력과 끈기에 대한 이야기는 오래전부터 들어왔고, Brian과도 지난 몇 년 동안 많은 시간을 함께하며 다양한 조언과 도움을 받았습니다.

 

하지만 전장 한복판에서 함께 있다 보면, 그들이 진짜 어떤 사람들인지 뼈저리게 체감하게 됩니다. 저는 Ron과 Brian이 아니었다면 OpenAI가 정말 붕괴했을지도 모른다고 꽤 확신합니다. 두 분은 며칠 밤낮을 가리지 않고 일하셨고, 모든 것이 정리될 때까지 멈추지 않았습니다.

 

그들은 물론 엄청난 열정으로 일했지만, 끝까지 침착함을 유지했고, 전략적 통찰과 훌륭한 조언을 전해주었습니다. 저의 몇 가지 실수를 막아주었고, 스스로는 어떤 실수도 하지 않았습니다. 그들의 광범위한 네트워크를 총동원해 필요한 것은 뭐든 확보했고, 복잡한 상황을 헤쳐 나갔습니다. 그리고 아마 제가 모르는 부분에서도 무수히 많은 일들을 했을 것입니다.

 

그러나 제가 가장 기억에 남는 건 두 분이 보여준 관심, 연민, 그리고 지원입니다.

 

저는 창업자와 회사를 도와주는 모습을 어느 정도 알고 있다고 생각했는데, 사실 아무것도 몰랐음을 깨달았습니다. 이런 식의 지원은 들어본 적도, 본 적도 없었고, 이제야 그들이 왜 전설적인 위치에 있는지를 진정으로 알 것 같습니다. 두 분은 완전히 다른 개성이지만, 서로 다른 방식으로 산을 움직일 수 있을 만큼 대단한 능력과 도움의 손길을 갖고 있으며, 어려운 시기에 절대 흔들리지 않는 헌신을 보여줍니다. 기술 업계는 두 분이 있기에 훨씬 더 풍요로운 곳입니다.

 

이런 분들이 더 있다는 것도 알고 있습니다. 우리의 업계가 얼마나 특별한 환경인지, 그리고 그것이 얼마나 많은 것을 가능케 하는지 다시금 깨닫습니다. 저 역시 언젠가는 받은 것을 갚을 기회를 고대하고 있습니다.

 

마지막으로, 개인적으로는, 그 주말 내내 그리고 항상 저를 지지해준 Ollie에게 감사의 말을 전하고 싶습니다. Ollie는 모든 면에서 놀랍고, 이보다 더 훌륭한 파트너를 바랄 수는 없을 것입니다.

 

---

요약:

• ChatGPT의 급격한 성장: 2022년 11월 30일 출시된 ChatGPT는 폭발적인 관심과 성장을 불러일으키며 AI 혁신의 임계점을 열었다.
• OpenAI의 목표와 비전: OpenAI는 9년 전부터 AGI(범용 인공지능)의 잠재력을 믿고 연구해왔으며, 인류 전체에 이롭도록 기술을 발전시키는 데 주력해 왔다.
• 예상치 못한 도전과 조직 재정비: 회사가 빠르게 성장하면서 기존에 없던 문제와 갈등이 빈번히 발생했고, 저자는 해고 파동 등을 겪으며 거버넌스의 중요성과 팀 내 신뢰, 리더십의 가치에 대해 크게 깨달았다.
• 현재와 미래의 AI:
  • 직접 제품을 만드는 회사로 발전한 사례처럼, 향후에도 예측 불가능한 필요와 방향 전환이 있을 것이라고 본다.
  • AI는 점진적으로 공개하고 실제 사용자의 피드백을 받아 안전하고 유용하게 발전시켜야 한다고 강조한다.
  • 2025년 무렵에는 AI 에이전트들이 본격적으로 업무에 참여해 기업 성과에 변화를 줄 것으로 전망한다.
  • 궁극적으로는 슈퍼지능(superintelligence) 개발을 지향하며, 이는 과학적 발견과 혁신을 비약적으로 가속해 인류의 번영을 크게 높일 수 있으리라 본다.
• 감사와 결속:
  • 여러 위기 속에서도 함께 노력해준 동료, 파트너, 지인들에게 감사의 뜻을 전한다.
  • 특히 Ron Conway와 Brian Chesky의 헌신적 지원을 강조하며, 개인적으로도 다시금 힘을 얻는 계기가 되었다고 언급한다.
  • OpenAI가 “보통의 회사”가 아니며 앞으로도 계속 도전과 학습, 협력 속에서 성장할 것임을 시사한다.