OpenAI는 최근 기업 구조 조정을 완료했고 Microsoft와 새로운 계약을 맺었으며 파트너십을 계속 이어가고 있습니다.

https://youtu.be/w4qcTwdJRFU?si=PMiy162NmgbKinxY

Sam Altman reveals exact date of intelligence explosion

- - 우리는 내년 9월까지 인턴 수준의 AI 연구 보조원을 보유하고 2028년 3월까지는 합법적인 AI 연구원을 확보하는 것이 그럴듯하다고 생각하며 이것이 우리 연구 프로그램의 핵심 추진력입니다.
- - OpenAI는 최근 기업 구조 조정을 완료했고 Microsoft와 새로운 계약을 맺었으며 파트너십을 계속 이어가고 있습니다.
- - 그들은 라이브 스트림을 진행했고 Sam Altman과 Jakob Pachaki는 AGI의 정확한 날짜를 공개하는 놀라운 질의응답을 제공했습니다.
- - 그들이 그렇게 정확한 날짜를 제시했다는 것을 믿을 수 없었지만, 지금 이 자리에 있습니다.
- - 이제 전체 라이브 스트림 내용을 자세히 설명해 드리겠습니다.
- - 이 비디오를 후원해 준 Recraft에 깊은 감사를 표하며, Recraft에 대해서는 나중에 더 이야기하겠습니다.

- - 그래서 먼저 그들의 타임라인을 살펴보겠습니다.
- - 지금은 2025년 10월이고, 2026년 9월에는 자동화된 AI 연구 인턴이 있을 것이라는 매우 구체적인 날짜가 있습니다.
- - 이는 기본적으로 AI 연구를 촉진하는 데 도움을 줄 수 있는 꽤 훌륭한 AI 연구원입니다.

- - 그러나 2028년 3월에는 상황이 정말 놀라워집니다.
- - 그들이 어떻게 이 날짜에 대해 그렇게 정확한 날짜를 제시할 수 있었는지 상상하기 어렵습니다.
- - 바로 자동화된 AI 연구가 시작되는 시점입니다.
- - 상황 인식 논문(situational awareness paper)의 지능 폭발 타임라인을 되돌아보면, 실제로 OpenAI가 예측하는 시점과 거의 정확히 일치했습니다.
- - 자동화된 AI 연구가 이루어지면 AI 가속화는 우리가 투입할 수 있는 컴퓨팅 양에 의해서만 제한됩니다.
- - 그때가 바로 여기에 표시된 '지능 폭발(intelligence explosion)'이 일어나는 시기이며, 그 직후에 우리는 빠르게 초지능(super intelligence)에 도달하게 됩니다.
- - 따라서 이것이 바로 연구소로서 OpenAI가 목표로 하는 것이며, 저는 모든 선도적인 연구소들이 추구하는 목표라고 생각합니다.
- - 자기 개선 인공 지능에 가장 먼저 도달하는 사람이 승리하고 나머지는 모두 패배합니다.
- - 왜냐하면 자기 개선 AI에 도달하면 그것은 재귀적이며, 개선 위에 또 개선이 이루어지고 개선 속도가 증가하기 때문입니다.
- - 일단 그 수준에 도달하면 다른 사람이 어떻게 따라잡을 수 있겠습니까?

- - 그래서 Mark Zuckerberg가 수천억 달러를 잘못 배분할 의향이 있는 것은 AI 흐름을 놓치는 것의 단점이 몇 푼 안 되는 수천억 달러보다 훨씬 크기 때문입니다.
- - Sam Altman 역시 그렇게 믿고 있음은 분명합니다.
- - 이제 그들이 다룬 또 다른 주제는 ChatGPT와 AI가 일반적으로 완료할 수 있는 자동화된 작업의 지속 시간입니다.
- - 저는 선도적인 모델 회사들이 이 주제에 대해 계속 이야기하는 것을 듣고 있습니다.
- - AI가 5일, 5개월, 또는 5년 동안 자율적으로 작업을 완료할 수 있다면 어떻게 될까요?
- - 지금 우리가 보는 것이 바로 이것입니다.
- - 우리는 5초, 5분, 5시간은 할 수 있지만 5일은 아직 도달하지 못했습니다.
- - 그다음에는 5주, 5개월, 그리고 5년짜리 작업을 보게 될 것입니다.

- - 그러나 제가 오랫동안 말해 왔듯이 이것은 단지 지속 시간에 관한 것이 아니라, 그 지속 시간 내에 실제로 무엇을 성취할 수 있느냐에 관한 것입니다.
- - 그것은 지속 시간 동안 토큰 사용과 컴퓨팅을 얼마나 효율적으로 사용할 수 있느냐에 관한 것입니다.
- - 그러므로 다시 말하지만, 이것은 단지 지속 시간이 아니라 효율성과도 매우 관련이 깊습니다.

- - 지능 폭발로 다시 연결하여 생각해 보면, 이 시점에서 모델이 장기간 자율적으로 작동할 수 있을 때 인공 지능의 품질을 높이고 성능을 향상시키는 것을 막는 유일한 제한 요소는 우리가 실제로 투입할 수 있는 컴퓨팅의 양뿐입니다.
- - 그러나 물론 이러한 유형의 AI가 AI 연구에만 적용될 필요는 없습니다.
- - 생물 의학 연구, 새로운 재료 과학 및 신약 발견을 생각해 보십시오.
- - 이 모든 것에서 자율적인 AI 연구원이 완전히 스스로 작동하여 인류를 위해 놀라운 것을 발견하고, 우리가 해야 할 유일한 일은 그것에 모래와 전기만 제공하는 것입니다.

- - 그런데 잠시 멈추고 오늘 비디오의 스폰서인 Recraft에 대해 말씀드리겠습니다.
- - 아직도 AI 채팅과 디자인 캔버스 사이를 오가며 시간을 낭비하고 계십니까?
- - Recraft의 새로운 채팅 모드는 이를 영원히 끝냅니다.
- - 예를 들어 로고를 생성하고 채팅으로 드래그한 다음, "소셜 포스트, 포스터, 목업 등 전체 브랜드 키트를 몇 분 안에 만드세요"라고 말하는 것을 상상해 보십시오.
- - 결국 즉시 사용할 수 있는 일관된 전체 브랜드 자산 세트를 갖게 됩니다.
- - 이것이 Recraft의 새로운 채팅 모드의 마법입니다.
- - 무한 캔버스 내의 강력한 AI 채팅 도우미입니다.
- - 초고속 탐색을 위해 채팅으로 시작한 다음, 픽셀 완벽 제어를 위해 캔버스로 전환하십시오.
- - 더 이상 앱 간 전환이 없습니다.
- - 첫 프롬프트부터 최종 자산까지 전체 크리에이티브 프로세스가 이제 한 곳에서 이루어집니다.
- - 그러니 단순히 이미지를 생성하는 것을 멈추고 정밀하게 제작하기 시작하십시오.
- - 오늘 베타 채팅 모드 대기자 명단에 가입하세요. 링크는 설명에 있으며 제가 보냈다고 그들에게 알려주십시오.
- - Recraft는 놀라운 파트너였습니다.

- - 이제 비디오로 돌아가서 이 라이브 스트림에서 다루고 싶은 다음 주제는 그들이 '사고의 사슬 충실도(chain of thought faithfulness)'라고 부르는 것입니다.
- - 이전에 OpenAI의 생각을 들어본 적이 없었기 때문에 매우 흥미롭습니다.
- - 함께 보고 그 과정에서 제 생각을 말씀드리겠습니다.
- - 우리의 첫 번째 추론 모델부터 우리는 해석 가능성이라는 새로운 방향을 추구해 왔습니다.
- - 그 아이디어는 모델의 내부 추론 일부를 감독으로부터 자유롭게 유지하는 것입니다.
- - 따라서 훈련 중에 그것을 보지 않고 모델의 내부 프로세스를 나타내도록 유지하는 것입니다.
- - 우리는 모델이 좋은 생각을 하도록 유도하는 것을 자제하고 모델이 실제로 생각하는 것에 좀 더 충실하도록 놔둡니다.
- - 물론 이것이 작동한다는 보장은 없습니다.
- - 우리는 딥러닝에 대해 수학적 증명을 할 수 없으므로 이것은 우리가 연구하는 대상입니다.

- - 그러나 낙관적인 이유는 두 가지입니다.
- - 한 가지 이유는 매우 유망한 경험적 결과를 보았다는 것입니다.
- - 이것은 우리가 내부적으로 많이 사용하는 기술입니다.
- - 우리는 이것을 사용하여 우리 모델이 훈련하는 방식, 훈련 전반에 걸쳐 경향이 어떻게 발전하는지 이해합니다.
- - 그가 말하는 내용을 잠시 설명해 드리겠습니다.
- - 그는 모델을 신뢰하고 정렬된 모델을 가지며, 모델이 답변을 제공하기 전에 거치는 추론 단계와 같은 사고의 사슬을 볼 수 있는 능력에 대해 이야기하고 있습니다.
- - 그리고 그것이 첫째로 인간의 동기와 일치하며, 우리가 믿기를 바라는 것에 반응하려고 노력하기보다는 실제로 믿는 것을 진술하고 있다는 신뢰를 갖는 것입니다.
- - 이는 AI를 전반적으로 훨씬 더 안전하게 만들 것입니다.
- - 모델의 생각에 대한 그러한 통찰력을 실제로 가능하게 하기 위해 그는 기본적으로 "모델이 실행되도록, 모델이 생각하도록 놔두고, 도중에 보지 않을 것입니다. 이후에 보고 인간의 개입 없이 모델이 무엇을 생각했는지 볼 것입니다."라고 말하고 있습니다.
- - 둘째로, 이것은 확장 가능합니다.
- - 즉, 명시적으로 우리는 확장 가능한 목표가 모델을 모니터링하는 우리의 능력에 적대적이지 않도록 만듭니다.
- - 물론 목표가 모델 모니터링 능력에 적대적이지 않다는 것은 절반의 성공일 뿐입니다.
- - 이상적으로는 모델이 모니터링에 도움이 되도록 하는 것입니다.
- - 그래서 이것은 우리가 매우 열심히 연구하고 있는 분야입니다.

- - 그러나 사고의 사슬 충실도에 대해 강조할 중요한 한 가지는 그것이 다소 취약하다는 것입니다.
- - 이것은 정말로 깨끗한 경계를 긋고 명확한 추상화를 가지며 사고의 사슬에 접근하는 방식에 절제를 요구합니다.
- - 이것은 알고리즘 설계부터 제품 설계 방식에 이르기까지 OpenAI에 존재하는 요소입니다.
- - 따라서 ChatGPT에서 사고의 사슬 요약을 본다면, 요약자가 없거나 사고의 사슬을 항상 완전히 볼 수 있게 한다면, 그것은 전체 경험의 일부가 될 것입니다.
- - 시간이 지남에 따라 그것을 어떤 감독에도 종속시키지 않는 것이 매우 어려워질 것입니다.
- - 그래서 장기적으로 우리는 모델에 대한 어느 정도의 통제된 사생활을 보존함으로써 모델의 내부 프로세스를 이해할 수 있는 능력을 유지할 수 있다고 믿습니다.
- - 저는 이것이 매우 흥미롭다고 생각합니다.
- - 그는 기본적으로 우리가 모델에 사생활을 제공할 수 있기 때문에, 모델이 생각하고 싶은 것을 생각하도록 내버려 두면, 실제로 모델이 어떻게 생각하는지에 대한 더 많은 통찰력을 얻을 수 있을 것이라고 말하는 것과 같습니다.
- - 그리고 저는 그것이 합리적이라고 생각하지만, 이러한 모델을 인간처럼 취급하는 것과 같아서 기분이 약간 불편하지만 매력적이라고 생각합니다.
- - 계속하겠습니다.
- - 우리는 이것이 매우 유능하고 장기간 실행되는 시스템으로 나아갈 때 매우 영향력 있는 기술이 될 수 있다고 믿습니다.
- - Sam에게 다시 넘기겠습니다.
- - 좋아요, 이 나머지 내용을 따라가기는 매우 어렵고 분명히 이것이 우리가 말해야 할 가장 중요한 부분이지만, 다시 한번 강조하자면 우리는 완전히 틀릴 수도 있습니다.
- - 우리는 이전에 목표를 설정하고 비참하게 놓쳤습니다.
- - 그러나 우리가 보는 그림으로 볼 때, 내년 9월까지 인턴 수준의 AI 연구 보조원을 확보하고, 2028년 3월까지는 합법적인 AI 연구원을 확보하는 것이 그럴듯하다고 생각합니다.
- - 2028년 3월은 제가 믿기로 GPT-4 출시 이후 거의 정확히 5년이 되는 달입니다.
- - 그리고 이것이 우리 연구 프로그램의 핵심 추진력입니다.

- - 다음으로 그는 OpenAI의 인프라 계획에 대해 이야기합니다.
- - 이전에도 웅장하다고 생각했지만, 지금 바로 여러분과 함께 살펴보겠습니다.
- - 다시 말하지만, OpenAI의 현재 인프라는 현재 건설 중인 30GW 이상이며 가치는 1조 4천억 달러에 달합니다.
- - 많은 사람들이 세계 최고의 AI 인프라를 구축하기 위해 7조 달러의 자금 조달을 위한 그의 원래 스타게이트 계획을 보았을 때 비웃었습니다.
- - 그들은 7조 달러가 실수라고, 그럴 리가 없다고 생각했습니다.

- - 그러나 그는 이미 1조 4천억 달러의 목표를 향해 나아가고 있으며, 이는 놀라운 일입니다.
- - 그래서 다음에 그가 이야기할 것은 AI 공장을 건설하기 위한 공장을 짓는 것입니다.
- - 단순히 공장을 짓는 것만으로는 충분하지 않습니다.
- - 다른 공장들을 짓는 공장을 지어야 합니다.
- - 그들이 내부적으로 논의하고 있지만 아직 확정되지 않은 것은, 주당 1기가와트의 생산량을 생산할 수 있는 공장에서 나오는 것입니다.
- - 이것은 미친 짓입니다.
- - 그리고 여기에 로봇 공학에 대한 그들의 첫 번째 진정한 언급이 있습니다.
- - 이 클립을 재생해 보겠습니다.
- - 이를 위해서는 엄청난 혁신, 엄청난 파트너십, 그리고 당연히 많은 수익 성장이 필요할 것입니다.
- - 우리는 다른 모든 일을 하는 대신 데이터 센터를 구축하는 데 도움이 되도록 로봇 공학에 대한 우리의 생각을 재정비해야 할 것입니다.
- - 그러나 이것이 우리가 가고 싶은 곳이며, 앞으로 몇 달 동안 우리는 여기에 도달할 수 있는지 알아보기 위해 많은 노력을 기울일 것입니다.
- - 실제로 방아쇠를 당기고 이것을 시작할 수 있는 재정적 위치에 도달하기까지는 시간이 좀 걸릴 것입니다.

- - 좋아요, 다음으로 그는 OpenAI의 새로운 구조에 대해 이야기합니다.
- - 영리 법인, 비영리 법인, Elon Musk와의 드라마, 공익 법인이 있었다는 것을 기억하십시오.
- - 이제 모든 것이 확정되었습니다.
- - Microsoft와의 관계가 확정되었고, 그들이 소유한 금액, 파트너십의 모습, IP 소유권의 모습을 알고 있습니다.
- - 먼저 보여드리겠습니다. 구조는 훨씬 더 단순합니다.
- - 비영리 법인인 OpenAI 재단과 공익 법인인 OpenAI 그룹이 있습니다.
- - 공익 법인은 주주 가치뿐만 아니라 일종의 다른 임무를 달성하는 것을 사명으로 하는 회사입니다.
- - 그 예로는 파타고니아가 있는데, 이는 적어도 지금까지는 역사적으로 가장 유명한 공익 법인이라고 생각합니다.

- - 이제 몇 가지 흥미로운 정보가 있습니다.
- - 비영리 법인이 공익 법인을 관리하며, PBC 주식의 26%를 소유하고 있으며, 향후 더 많은 주식을 받을 수 있는 작은 별표 워런트가 있습니다.
- - 소유권의 자원을 사용하며, PBC는 OpenAI의 임무를 성공시키는 데 필요한 자원을 유치할 수 있습니다.
- - 이것은 무엇을 의미합니까?
- - 이는 자금 조달과 필연적으로 IPO를 의미합니다.

- - 그는 OpenAI 재단이 역사상 가장 큰 비영리 단체가 될 것이라고 말합니다.
- - OpenAI 재단은 또한 AI의 두 가지 매우 중요한 영역인 첫째, 건강 및 질병 치료, 둘째, AI 복원력에 250억 달러를 투자할 것을 약속하고 있습니다.

- - 다음으로 그는 많은 질의응답 질문을 다루는데, 그중 일부는 매우 흥미롭고 그의 답변 역시 흥미롭습니다.
- - Sam Altman이 받는 첫 번째 질문은 소셜 제품의 광고 및 중독성과 Sora가 Facebook, Tik Tok, Instagram과 같은 제품의 동일한 경로를 따르는 방식에 관한 것입니다.
- - 그리고 그의 생각은 다음과 같으며 그는 그것에 대해 매우 솔직합니다.
- - 그는 "네, 저는 매우 걱정됩니다. 봅시다."라고 말합니다.
- - 우리는 이것에 대해 분명히 걱정하고 있습니다.
- - 저는 Sora, Tik Tok, 광고, 그리고 ChatGPT와 같이 우리가 신중하게 설계할 수 있는 알려진 문제일 수 있는 것들뿐만 아니라 다른 것에 대해서도 걱정합니다.
- - 알다시피, 우리는 사람들이 예상치 못한 방식으로 챗봇과 관계를 맺는 것을 분명히 보았으며, 세상의 역동성과 경쟁을 고려할 때 분명히 중독성 있는 행동이 있을 수 있습니다.
- - 저는 일부 회사들이 매우 중독성이 강한 새로운 종류의 제품을 제공할 것이라고 생각합니다.

- - 그리고 여러분은 우리의 행동을 보고 판단해야 할 것입니다.
- - 우리는 실수를 할 것이고, 문제가 있는 모델이 있다면 되돌리려고 노력할 것입니다.
- - 우리가 Sora를 출시했는데 그것이 매우 중독성이 강하고 창작에 관한 것이 아니라면, 우리는 그 제품을 취소할 것이고, 여러분은 그것에 대해 우리를 판단해야 할 것입니다.
- - 저의 희망이자 믿음은 우리가 이전에 회사들이 저질렀던 것과 똑같은 실수를 저지르지 않을 것이라는 것입니다.
- - 저는 그들도 실수할 의도가 없었다고 생각합니다.
- - 우리 모두는 이 모든 것을 함께 발견하고 있습니다.
- - 아마도 우리는 새로운 실수를 저지를 것이고, 빠르게 진화하며 긴밀한 피드백 루프를 가져야 할 것입니다.
- - 우리는 이 기술이 세상에 엄청난 선을 행하는 모든 종류의 방법을 상상할 수 있으며, 명백한 나쁜 점도 상상할 수 있습니다.
- - 우리는 제품을 지속적으로 발전시킬 사명에 따라 인도됩니다.

- - 좋아요, 다음으로 그는 GPT-4o가 한동안 유지될 것인지 질문을 받습니다.
- - 우리는 4o를 단종할 계획이 없습니다.
- - 우리는 또한 그것을 우주의 열사병까지 유지하겠다고 약속하지는 않을 것입니다.
- - 그러나 우리는 그것이 일부 사용자가 정말 좋아하는 제품임을 이해하고 있습니다.
- - 우리는 또한 다른 사람들이 그 이유를 이해하기를 바랍니다.
- - 미성년자가 사용하는 것이 건강하다고 생각한 모델은 아니었습니다.
- - 우리는 시간이 지남에 따라 사람들이 더 좋아할 더 나은 모델을 구축하기를 바랍니다.
- - 알다시피, 인생에서 관계를 맺는 사람들은 시간이 지남에 따라 진화하고 더 똑똑해지며 약간씩 변합니다.
- - 우리는 같은 일이 일어나기를 바라고 있습니다.
- - 그러나 현재 4o를 단종할 계획은 없습니다.

- - 좋아요, 다음으로 Jakob에게 AGI가 언제 일어날 것인지 질문할 것입니다.
- - 저는 이것을 좋아하고 Sam이 그를 쳐다보며 질문하는 것을 좋아합니다.
- - 그래서 저는 그 부분을 빠르게 재생한 다음 Jakob에게 답변할 기회를 줄 것입니다.
- - Jakob에게 익명의 좋은 질문입니다.
- - AGI는 언제 일어날까요?
- - 저는 몇 년 후에 우리가 이 시기를 되돌아보며 '이때가 AGI가 일어난 일종의 전환기였다'라고 말할 것이라고 생각합니다.
- - Sam이 말했듯이, 초기 채택 시기에는 AGI를 모든 문제의 궁극적인 해결책과 같은 감정적인 것으로 생각했고, 전후가 있는 단일 지점이라고 생각했습니다.
- - 그러나 우리는 그것이 그보다 조금 더 연속적이라는 것을 발견했습니다.
- - 특히 AGI를 향한 명확한 이정표처럼 보였던 다양한 종류의 벤치마크에 대해서는 이제 우리가 대략 몇 년 정도 떨어져 있는지를 나타내는 것으로 생각합니다.

- - 그래서 컴퓨터가 체스에서 인간을 이기고, 바둑에서 이기고, 자연어로 말할 수 있고, 수학 문제를 풀 수 있는 것과 같은 일련의 이정표를 본다면, 그것들은 분명히 서로 가까워지고 있다고 생각합니다.
- - 저는 AGI라는 용어가 엄청나게 과부하되었다고 말하고 싶습니다.
- - 그리고 Jakob이 말했듯이, 우리가 지금 그 중간에 있는 몇 년에 걸친 과정이 될 것입니다.
- - 그러나 우리가 오늘 발표한 내용을 제시하고 싶었던 이유 중 하나는, AGI의 정의로 모두를 만족시키려고 노력하는 것보다 우리의 의도, 즉 2028년 3월까지 진정한 자동화된 AI 연구원을 확보하고 그것이 무엇을 의미하는지 정의하는 것이 훨씬 더 유용하다고 생각하기 때문입니다.

- - 좋아요, 다음으로 GPT-6은 언제 출시될까요?
- - Shindy는 "GPT-6은 언제?"라고 묻습니다.
- - 저는 시간적인 면에서 그것이 당신에게 더 많은 질문일 수도 있다고 생각합니다.
- - 저도 우리가 그것을 정확히 언제 그렇게 부를지 모르겠습니다.

- - 그러나 우리에게서 오는 분명한 메시지는 지금부터 6개월 후, 아마도 더 빨리, 모델 기능에서 큰 진전을 이룰 것으로 예상한다는 것입니다.
- - 다음으로 Sam Altman은 "Chatbot Atlas의 Windows 버전은 언제 출시될까요? Windows용 Chatbot Atlas는 언제 나옵니까?"라는 Lars의 질문에 대답할 것입니다.
- - 저는 정확한 시간 프레임을 모르지만, 몇 달 정도 걸릴 것이라고 추측합니다.
- - 그것은 우리가 분명히 하고 싶은 일입니다.

- - 더 일반적으로, AI를 가지고 다닐 수 있게 해주는 브라우저 및 새로운 장치와 같은 경험을 구축하여, 단순히 질의하고 응답하는 것보다는 일종의 주변에 상주하며 항상 도움이 되는 조수(ambient always helpful assistant)로 나아가는 이 아이디어는 우리가 더 추진해야 할 매우 중요한 방향이 될 것입니다.

- - 이 비디오를 후원해 주신 Recraft에게 다시 한번 감사드립니다.
- - 아래에 그들을 위한 링크를 남기겠습니다.
- - 그들은 이 채널의 훌륭한 파트너였습니다.
- - 제가 보냈다고 그들에게 알려주십시오.
- - 이것으로 라이브 스트림에서 가장 흥미로운 모든 부분이 끝났습니다.
- - 이 비디오가 즐거웠다면 '좋아요'를 누르고 구독해 주십시오. 다음 비디오에서 뵙겠습니다.



---

- 감사합니다.

- - 우리는 **내년 9월까지 인턴 수준의 AI 연구 보조원**을 보유하고, **2028년 3월까지는 합법적인 AI 연구원**을 확보하는 것이 그럴듯하다고 생각하며, 이것이 우리 연구 프로그램의 핵심 추진력입니다 [1, 2]. OpenAI는 최근 기업 구조 조정을 완료했고, Microsoft와 새로운 계약을 맺었으며 파트너십을 계속 이어가고 있습니다 [1]. 그들은 라이브 스트림을 진행했고, Sam Altman과 Jakob Pachaki는 AGI의 정확한 날짜를 공개하는 놀라운 질의응답을 제공했습니다 [1].

- - 그들의 타임라인을 보면, 현재는 2025년 10월이고, **2026년 9월**이라는 매우 구체적인 날짜에 **자동화된 AI 연구 인턴**이 있을 것으로 예상됩니다 [1]. 이는 기본적으로 AI 연구를 촉진하는 데 도움을 줄 수 있는 꽤 훌륭한 AI 연구원입니다 [1]. 그러나 **2028년 3월**에는 상황이 정말 놀라워지는데, 바로 **자동화된 AI 연구**가 시작되는 시점입니다 [2, 3]. 2028년 3월은 GPT-4 출시 이후 거의 정확히 5년이 되는 달이라고 합니다 [2].

- - 상황 인식 논문(situational awareness paper)의 지능 폭발 타임라인을 되돌아보면, 실제로 OpenAI가 예측하는 시점과 거의 정확히 일치했습니다 [3]. 자동화된 AI 연구가 이루어지면 AI 가속화는 우리가 투입할 수 있는 컴퓨팅 양에 의해서만 제한됩니다 [3, 4]. 그때가 바로 **'지능 폭발(intelligence explosion)'**이 일어나는 시기이며, 그 직후에 우리는 빠르게 **초지능(super intelligence)**에 도달하게 됩니다 [3]. 이는 연구소로서 OpenAI가 목표로 하는 것이며, 모든 선도적인 연구소들이 추구하는 목표라고 생각됩니다 [3]. 자기 개선 인공 지능에 가장 먼저 도달하는 사람이 승리하고 나머지는 모두 패배하는데, 이는 자기 개선 AI에 도달하면 그것이 재귀적이며, 개선 위에 또 개선이 이루어지고 개선 속도가 증가하기 때문입니다 [3]. 일단 그 수준에 도달하면 다른 사람이 따라잡을 수 없게 됩니다 [3]. Mark Zuckerberg가 수천억 달러를 잘못 배분할 의향이 있는 것은 AI 흐름을 놓치는 것의 단점이 몇 푼 안 되는 수천억 달러보다 훨씬 크기 때문이며, Sam Altman 역시 그렇게 믿고 있음은 분명합니다 [5].

- - 그들이 다룬 또 다른 주제는 **ChatGPT와 AI가 일반적으로 완료할 수 있는 자동화된 작업의 지속 시간**입니다 [5]. 현재 우리는 5초, 5분, 5시간은 할 수 있지만 5일은 아직 도달하지 못했습니다 [5]. 그다음에는 5주, 5개월, 그리고 5년짜리 작업을 보게 될 것입니다 [5]. 그러나 이것은 단지 지속 시간에 관한 것이 아니라, 그 지속 시간 내에 실제로 무엇을 성취할 수 있느냐에 관한 것이며, 지속 시간 동안 토큰 사용과 컴퓨팅을 얼마나 효율적으로 사용할 수 있느냐에 관한 것입니다 [5]. 효율성 또한 매우 관련이 깊습니다 [5].

- - 지능 폭발로 다시 연결하여 생각해 보면, 이 시점에서 모델이 장기간 자율적으로 작동할 수 있을 때, 인공 지능의 품질을 높이고 성능을 향상시키는 것을 막는 유일한 제한 요소는 우리가 실제로 투입할 수 있는 컴퓨팅의 양뿐입니다 [4]. 이러한 유형의 AI는 AI 연구에만 적용될 필요는 없으며, 생물 의학 연구, 새로운 재료 과학 및 신약 발견 등에서 자율적인 AI 연구원이 완전히 스스로 작동하여 인류를 위해 놀라운 것을 발견하고, 우리가 해야 할 유일한 일은 그것에 모래와 전기만 제공하는 것입니다 [4].

- - 이 라이브 스트림에서 다룬 다음 주제는 **'사고의 사슬 충실도(chain of thought faithfulness)'**입니다 [6]. 첫 번째 추론 모델부터 그들은 해석 가능성(interpretability)이라는 새로운 방향을 추구해 왔습니다 [6]. 그 아이디어는 모델의 내부 추론 일부를 감독으로부터 자유롭게 유지하는 것입니다 [7]. 훈련 중에 그것을 보지 않고 모델의 내부 프로세스를 나타내도록 유지하는 것입니다 [7]. 그들은 모델이 좋은 생각을 하도록 유도하는 것을 자제하고 모델이 실제로 생각하는 것에 좀 더 충실하도록 놔둡니다 [7]. 딥러닝에 대해 수학적 증명을 할 수 없으므로 이것이 작동한다는 보장은 없습니다 [7]. 그러나 낙관적인 이유는 두 가지입니다 [7]. 한 가지 이유는 매우 유망한 경험적 결과를 보았다는 것이며, 이것은 그들이 내부적으로 많이 사용하는 기술입니다 [7]. 그들은 이것을 사용하여 모델이 훈련하는 방식과 훈련 전반에 걸쳐 경향이 어떻게 발전하는지 이해합니다 [7].

- - 이것은 모델을 신뢰하고 정렬된 모델을 가지며, 모델이 답변을 제공하기 전에 거치는 추론 단계와 같은 **사고의 사슬을 볼 수 있는 능력**에 관한 것입니다 [7]. 그리고 그것이 첫째로 인간의 동기와 일치하며, 우리가 믿기를 바라는 것에 반응하려고 노력하기보다는 실제로 믿는 것을 진술하고 있다는 신뢰를 갖는 것이며, 이는 AI를 전반적으로 훨씬 더 안전하게 만들 것입니다 [8]. 이러한 통찰력을 실제로 가능하게 하기 위해 그는 기본적으로 "모델이 실행되도록, 모델이 생각하도록 놔두고, 도중에 보지 않을 것입니다. 이후에 보고 인간의 개입 없이 모델이 무엇을 생각했는지 볼 것입니다"라고 말하고 있습니다 [8]. 둘째로, 이것은 **확장 가능**합니다 [8]. 명시적으로 그들은 확장 가능한 목표가 모델을 모니터링하는 능력에 적대적이지 않도록 만듭니다 [8]. 이상적으로는 모델이 모니터링에 도움이 되도록 하는 것입니다 [8].

- - 사고의 사슬 충실도는 다소 **취약**하며, 깨끗한 경계를 긋고 명확한 추상화를 가지며 사고의 사슬에 접근하는 방식에 절제를 요구합니다 [9]. 이것은 알고리즘 설계부터 제품 설계 방식에 이르기까지 OpenAI에 존재하는 요소입니다 [9]. 시간이 지남에 따라 그것을 어떤 감독에도 종속시키지 않는 것이 매우 어려워질 것입니다 [9]. 장기적으로 그들은 모델에 대한 어느 정도의 **통제된 사생활**을 보존함으로써 모델의 내부 프로세스를 이해할 수 있는 능력을 유지할 수 있다고 믿습니다 [9]. 그들은 모델에 사생활을 제공하여 모델이 생각하고 싶은 것을 생각하도록 내버려 두면, 실제로 모델이 어떻게 생각하는지에 대한 더 많은 통찰력을 얻을 수 있을 것이라고 말합니다 [2]. 그들은 이것이 매우 유능하고 장기간 실행되는 시스템으로 나아갈 때 매우 영향력 있는 기술이 될 수 있다고 믿습니다 [2]. Sam Altman은 그들이 완전히 틀릴 수도 있고, 이전에 목표를 설정하고 비참하게 놓쳤다고 인정합니다 [2].

- - 다음으로 그는 OpenAI의 **인프라 계획**에 대해 이야기합니다 [10]. OpenAI의 현재 인프라는 현재 건설 중인 30GW 이상이며, **가치는 1조 4천억 달러**에 달합니다 [10]. 많은 사람들이 세계 최고의 AI 인프라를 구축하기 위한 7조 달러 자금 조달을 위한 그의 원래 스타게이트 계획을 비웃었지만, 그는 이미 1조 4천억 달러의 목표를 향해 나아가고 있습니다 [10].

- - 그가 다음에 이야기할 것은 **AI 공장을 건설하기 위한 공장을 짓는 것**입니다 [10]. 단순히 공장을 짓는 것만으로는 충분하지 않고, 다른 공장들을 짓는 공장을 지어야 합니다 [10]. 그들이 내부적으로 논의하고 있지만 아직 확정되지 않은 것은, **주당 1기가와트의 생산량**을 생산할 수 있는 공장에서 나오는 것입니다 [10].

- - 또한, **로봇 공학**에 대한 그들의 첫 번째 진정한 언급이 있었습니다 [10]. 이를 위해서는 엄청난 혁신, 엄청난 파트너십, 그리고 당연히 많은 수익 성장이 필요할 것입니다 [11]. 그들은 다른 모든 일을 하는 대신 **데이터 센터를 구축하는 데 도움이 되도록 로봇 공학에 대한 생각을 재정비**해야 할 것입니다 [11]. 이것이 그들이 가고 싶은 곳이며, 앞으로 몇 달 동안 많은 노력을 기울일 것이지만, 실제로 방아쇠를 당기고 이것을 시작할 수 있는 재정적 위치에 도달하기까지는 시간이 좀 걸릴 것입니다 [11].

- - 다음으로 그는 **OpenAI의 새로운 구조**에 대해 이야기합니다 [11]. 이제 모든 것이 확정되었으며, Microsoft와의 관계, 그들이 소유한 금액, 파트너십의 모습, IP 소유권의 모습이 알려져 있습니다 [11]. 구조는 훨씬 더 단순합니다 [11]. **비영리 법인인 OpenAI 재단**과 **공익 법인인 OpenAI 그룹(Public Benefit Corporation, PBC)**이 있습니다 [11]. 공익 법인은 주주 가치뿐만 아니라 다른 임무를 달성하는 것을 사명으로 하는 회사입니다 (예: 파타고니아) [12].

- - 비영리 법인이 공익 법인을 관리하며, PBC 주식의 **26%**를 소유하고 있으며, 향후 더 많은 주식을 받을 수 있는 작은 별표 워런트가 있습니다 [12]. PBC는 OpenAI의 임무를 성공시키는 데 필요한 자원을 유치할 수 있도록 소유권의 자원을 사용하는데, 이는 **자금 조달과 필연적으로 IPO**를 의미합니다 [12]. 그는 OpenAI 재단이 **역사상 가장 큰 비영리 단체**가 될 것이라고 말합니다 [12]. OpenAI 재단은 또한 AI의 두 가지 매우 중요한 영역인 **첫째, 건강 및 질병 치료, 둘째, AI 복원력**에 **250억 달러**를 투자할 것을 약속하고 있습니다 [12].

- - Sam Altman이 받는 첫 번째 질의응답 질문은 **소셜 제품의 광고 및 중독성**과 Sora가 Facebook, Tik Tok, Instagram과 같은 제품의 동일한 경로를 따르는 방식에 관한 것입니다 [12, 13]. 그는 이에 대해 매우 솔직하며, **매우 걱정한다**고 말합니다 [13]. Sora, Tik Tok, 광고, 그리고 ChatGPT와 같이 신중하게 설계할 수 있는 알려진 문제뿐만 아니라, 사람들이 예상치 못한 방식으로 챗봇과 관계를 맺는 것을 보았으며, 중독성 있는 행동이 있을 수 있습니다 [13]. 그는 일부 회사들이 매우 중독성이 강한 새로운 종류의 제품을 제공할 것이라고 의심합니다 [13].

- - 그는 사람들에게 그들의 행동을 보고 판단해야 한다고 말하며, 실수를 할 것이고, 문제가 있는 모델이 있다면 되돌리려고 노력할 것이라고 말합니다 [13]. 만약 그들이 Sora를 출시했는데 그것이 매우 중독성이 강하고 창작에 관한 것이 아니라면, 그들은 그 제품을 취소할 것이고, 사람들은 그것에 대해 그들을 판단해야 할 것입니다 [13]. 그의 희망이자 믿음은 그들이 이전에 회사들이 저질렀던 것과 똑같은 실수를 저지르지 않을 것이라는 것입니다 [14]. 그는 그들 역시 실수할 의도가 없었다고 생각하며, 모두 함께 이것을 발견하고 있다고 말합니다 [14]. 아마도 그들은 새로운 실수를 저지를 것이고, 빠르게 진화하며 긴밀한 피드백 루프를 가져야 할 것입니다 [14]. 그들은 이 기술이 세상에 엄청난 선을 행하는 모든 종류의 방법과 명백한 나쁜 점도 상상할 수 있으며, 그들은 제품을 지속적으로 발전시킬 사명에 따라 인도된다고 말합니다 [14].

- - 다음 질문은 **GPT-4o가 한동안 유지될 것인지**에 관한 것입니다 [14]. 그들은 현재 4o를 단종할 계획이 없지만, 우주의 열사병까지 유지하겠다고 약속하지는 않을 것입니다 [14]. 그들은 그것이 일부 사용자가 정말 좋아하는 제품임을 이해하고 있습니다 [14]. 미성년자가 사용하는 것이 건강하다고 생각한 모델은 아니었습니다 [14]. 그들은 시간이 지남에 따라 사람들이 더 좋아할 더 나은 모델을 구축하기를 희망하며, 관계를 맺는 사람들이 시간이 지남에 따라 진화하고 더 똑똑해지며 약간씩 변하는 것처럼 되기를 바라고 있습니다 [15].

- - Jakob에게 **AGI가 언제 일어날 것인지** 질문합니다 [15]. Jakob은 몇 년 후에 우리가 이 시기를 되돌아보며 '이때가 AGI가 일어난 일종의 전환기였다'라고 말할 것이라고 생각합니다 [15]. 초기에는 AGI를 모든 문제의 궁극적인 해결책과 같은 감정적인 것, 전후가 있는 단일 지점이라고 생각했지만, 이제 그들은 그것이 그보다 조금 더 연속적이라는 것을 발견했습니다 [15]. AGI를 향한 명확한 이정표처럼 보였던 다양한 종류의 벤치마크들은 이제 그들이 대략 몇 년 정도 떨어져 있는지를 나타내는 것으로 생각합니다 [16]. 컴퓨터가 체스, 바둑에서 인간을 이기고, 자연어로 말하고, 수학 문제를 풀 수 있는 것과 같은 일련의 이정표들은 분명히 서로 가까워지고 있다고 생각합니다 [16]. Sam Altman은 AGI라는 용어가 엄청나게 과부하되었다고 말하며, Jakob이 말했듯이, 우리가 지금 그 중간에 있는 몇 년에 걸친 과정이 될 것이라고 말합니다 [16]. 그들은 AGI의 정의로 모두를 만족시키려고 노력하는 것보다, **2028년 3월까지 진정한 자동화된 AI 연구원을 확보**하고 그것이 무엇을 의미하는지 정의하는 것이 훨씬 더 유용하다고 생각한다고 밝혔습니다 [16].

- - 다음 질문은 **GPT-6은 언제 출시될까요?**입니다 [17]. Sam Altman은 그것을 정확히 언제 그렇게 부를지 모르겠다고 말하지만, 그들에게서 오는 분명한 메시지는 지금부터 **6개월 후, 아마도 더 빨리, 모델 기능에서 큰 진전**을 이룰 것으로 예상한다는 것입니다 [17].

- - 다음으로 Sam Altman은 "Chatbot Atlas의 Windows 버전은 언제 출시될까요?"라는 질문에 대답합니다 [17]. 그는 정확한 시간 프레임은 모르지만, **몇 달 정도** 걸릴 것이라고 추측하며, 그것은 분명히 하고 싶은 일이라고 말합니다 [17]. 더 일반적으로, AI를 가지고 다닐 수 있게 해주는 브라우저 및 새로운 장치와 같은 경험을 구축하여, 단순히 질의하고 응답하는 것보다는 일종의 **주변에 상주하며 항상 도움이 되는 조수(ambient always helpful assistant)**로 나아가는 이 아이디어는 그들이 더 추진해야 할 매우 중요한 방향이 될 것입니다 [17, 18].

- - -
- - -
- - -
- 감사합니다.