샘이 직원들에게 보내는 편지

OpenAI는 평범한 회사가 아니며 앞으로도 그럴 것입니다.

우리의 사명은 범용인공지능(AGI)이 전 인류에게 이익이 되도록 하는 것입니다.

오픈AI를 시작할 때, 우리는 이 사명을 어떻게 실현할지 구체적으로 알지 못했습니다. 그저 부엌 테이블에 둘러앉아 어떤 연구를 해야 할지 고민하던 시절이었죠. 그때는 제품이나 비즈니스 모델 같은 것을 생각하지 않았습니다. AI가 의료 자문, 학습, 생산성 향상 등 다양한 분야에서 직접적으로 이익을 줄 수 있다는 것도, 모델을 학습시키고 사용자에게 제공하기 위해 수천억 달러 규모의 컴퓨팅 자원이 필요하다는 것도 상상하지 못했습니다.

우리는 AGI가 실제로 어떻게 만들어지고 어떻게 사용될지 잘 몰랐습니다. 당시 많은 사람들은 과학자나 대통령에게 무엇을 해야 할지 알려주는 ‘신탁’ 같은 존재를 상상했죠. 엄청나게 위험할 수 있지만, 어쩌면 그 소수의 사람들에게 맡길 수 있을지도 모른다고 생각했습니다.

오픈AI 초창기 시절, 사람들은  AI는 소수의 “잘 다룰 수 있는” 신뢰받는 사람들만이 다뤄야 한다고 생각했습니다.

이제 우리는 AGI가 인류 역사상 가장 강력한 도구로서, 모두를 직접적으로 도울 수 있는 가능성을 봤습니다. 우리가 이 일을 잘 해낸다면, 사람들은 서로를 위해 놀라운 것을 만들어내고, 사회와 삶의 질을 더욱 발전시켜 나갈 것이라고 믿습니다. 물론 모두가 선의로만 사용하지는 않겠지만, 우리는 인류를 신뢰하며 선한 사용이 악한 사용을 훨씬 압도하리라고 믿습니다.

우리는 민주적인 AI라는 길을 선택했습니다. 우리는 모두가 사용할 수 있는 강력한 도구를 사람들의 손에 쥐어주고자 합니다. 사람들이 우리 도구를 가지고 만들어내는 것들, 그리고 그것을 얼마나 더 많이 쓰고 싶어 하는지를 보며 우리는 놀라움과 기쁨을 느낍니다. 우리는 매우 유능한 모델들을 오픈소스로 공개하고 싶습니다. 우리와 도덕적 관점이 항상 같지 않더라도, 사용자들이 넓은 범위 내에서 우리 도구를 자유롭게 활용할 수 있도록 하고 싶습니다. 또한, ChatGPT의 행동에 대한 결정도 사용자가 직접 내릴 수 있게 하길 바랍니다.

우리는 이것이 가장 올바른 길이라고 믿습니다—AGI는 인류 전체가 서로에게 이익이 되도록 해야 합니다. 의견이 다른 사람들도 있다는 것을 알고 있습니다.

우리는 세상을 위한 ‘두뇌’를 만들고 싶고, 사람들이 그것을 원하는 어떤 일에든 쉽게 사용할 수 있도록 만들고 싶습니다 (단, 타인의 자유를 침해하지 않는 등 몇 가지 예외는 있겠지만요).

사람들은 챗GPT를 통해 과학자, 개발자 등으로서 생산성을 높이고, 의료 문제를 해결하며, 그 어느 때보다 많은 것을 배우고 있습니다. 어려운 상황을 어떻게 헤쳐나갈지 조언을 받는 데도 사용하고 있습니다. 이처럼 수많은 사람들에게 실질적인 도움을 주는 서비스를 제공하게 되어 무척 자랑스럽습니다. 이는 우리가 상상할 수 있는 가장 직접적인 사명 실현 중 하나입니다.

하지만 사람들은 훨씬 더 많이 사용하길 원하고, 우리는 현재 그 수요를 따라가지 못하고 있어 사용량에 제한을 두고 시스템을 느리게 운영해야 합니다. 시스템의 능력이 더 향상되면 될수록, 사람들은 우리 제품을 더 많이, 더 멋진 일들에 사용하길 원하게 될 것입니다.

우리가 거의 10년 전 이 연구소를 열었을 때, 이런 세상이 될 줄은 상상도 못했습니다. 하지만 이제 그 전경을 보게 되었고, 우리는 매우 기쁩니다.

이제 우리 조직의 구조를 발전시킬 때입니다. 우리는 세 가지를 달성하고자 합니다:

1. 인류 전체가 널리 사용할 수 있도록 서비스를 제공하고 자원을 조달할 수 있는 구조를 만들고 싶습니다. 현재 이 일은 수천억 달러, 향후에는 수조 달러가 필요할 수도 있습니다. 이것이 우리의 사명을 가장 잘 실현할 방법이며, 사람들이 새로운 도구를 통해 서로에게 큰 이익을 만들어낼 수 있게 하는 길이라고 믿습니다.

2. 우리는 우리의 비영리 조직이 역사상 가장 크고 가장 효과적인 비영리 단체가 되기를 바랍니다. AI를 활용해 사람들이 최대의 효용을 얻을 수 있도록 하는 데 초점을 맞출 것입니다.

3. 우리는 유익한 AGI를 실현하고자 합니다. 여기에 안전성과 정렬(alignment)의 방향을 결정하는 것도 포함됩니다. 우리는 지금까지 출시한 시스템, 수행한 정렬 연구, 레드 팀 활동, 모델 동작의 투명성을 위한 모델 사양 등의 혁신에 자부심을 가지고 있습니다. AI가 가속화될수록, 우리는 안전에 대한 의지를 더욱 강화하고 있습니다. 우리는 민주적인 AI가 권위주의적인 AI를 이기길 바랍니다.

비영리 단체가 운영권을 유지하기로 결정한 것은 시민 지도자들과의 대화와 캘리포니아 및 델라웨어 검찰청과의 논의 결과입니다. 우리는 Microsoft 및 새로 임명된 비영리 위원들과 함께 이 계획의 구체화를 지속해 나가길 기대하고 있습니다.

OpenAI는 비영리 단체로 설립되었고, 지금도 비영리 단체가 영리 조직을 감독 및 통제하고 있으며, 앞으로도 그렇게 유지될 것입니다. 이는 변하지 않습니다.

비영리 단체 산하의 영리 법인은 같은 사명을 가진 퍼블릭 베네핏 코퍼레이션(PBC, 공익기업)으로 전환될 것입니다. PBC는 Anthropic, X.ai 같은 다른 AGI 연구소나 Patagonia와 같은 목적 지향적 기업들이 채택한 표준적인 영리 구조입니다. 우리에게도 적절하다고 생각합니다.

지금까지의 복잡한 수익 제한(capped-profit) 구조는 AGI가 한 곳에서 주도될 것이라 여겨졌던 시대에는 타당했지만, 지금처럼 여러 AGI 기업이 존재하는 세상에서는 그렇지 않습니다. 우리는 모든 사람이 주식을 보유하는 일반적인 자본 구조로 전환하고 있습니다. 이는 매각이 아니라 더 단순한 구조로의 전환입니다.

비영리 단체는 여전히 PBC를 통제하며, 독립적인 재무 자문단의 지지 아래 상당한 지분을 보유하게 됩니다. 이로써 AI가 다양한 공동체에 이익이 되도록 하는 프로그램을 지원할 자원을 갖게 됩니다. 그리고 PBC가 성장할수록 비영리 단체의 자원도 증가하여 더 많은 일을 할 수 있을 것입니다. 우리는 곧 비영리 위원회로부터 AI가 모두에게 이익이 되도록 하기 위한 방안에 대한 권고를 받을 예정이며, 그들의 아이디어는 보건, 교육, 공공서비스, 과학적 발견 등에서 민주적인 AI 미래를 실현하는 데 실질적인 영향을 줄 것입니다.

우리는 계속해서 빠르고 안전한 진보를 이루며, 훌륭한 AI를 모두가 사용할 수 있게 만드는 기반을 마련했다고 믿습니다. AGI를 만드는 일은 인류 발전의 벽돌 한 장을 놓는 일입니다. 이제 여러분이 어떤 벽돌을 더해줄지 기대하고 있습니다.

샘 올트먼
2025년 5월