당신은 세계에서 가장 강력한 AI를 만들고 있나요

"지금은 미워해도, 제게 동의할 겁니다" - 알렉스 카프

https://youtu.be/8Fesyx3oMxM?si=lOi83o7IQMsiSxh6

회의론 정면돌파하는 OpenAI

당신은 세계에서 가장 강력한 AI를 만들고 있나요?
우리 회사는 가까운 미래에 AI가 인간만큼 또는 그 이상 지능을 갖게 될 것이라는 믿음 위에 세워졌습니다.
저는 이 발전이 끝이 없다고 믿으며, 현재 우리가 있는 곳은 그런 의미에서 새로운 패러다임의 시작이자, 확장가능한 시작점입니다.
우리는 확실히 모델이 더 나은 모델을 훈련시키는 지점에 도달할 것입니다.
하지만 그때의 세상은 지금과는 조금 다른 세상이 될 겁니다.
하루는 AI가 쿠바 파호츠키를 대체할까 봐 두렵지 않나요?
네, 원자폭탄이 발명된 이후로 세계가 이렇게 불안정한 상태에 놓인 적이 없었어요.
이런 혁명이 가져올 수 있는 것만큼요. 그래서 저를 스트레스 받게 하는 무언가입니다.
다음 단계는 실제로 실세계에서 무언가를 구축할 수 있는 AI입니다.
야쿱 파호츠키는 국제 정보 올림피아드에서 6번이나 우승하거나 상위권을 차지했습니다.
우리는 이 분야에서 세계 최고입니다.
일리야 수츠케버가 OpenAI를 떠난 후, 그는 OpenAI의 수석 과학자로 승진했습니다.
오늘날 그는 지구상에서 가장 중요한 3000억 달러 규모의 AI 회사에서 모든 과학자들을 이끌고 있습니다.
2025년에 타임 매거진은 그를 지구상에서 가장 영향력 있는 100명의 AI 인물 중 하나로 선정했습니다.
그와 그의 팀이 인류 역사상 처음으로 그렇게 추상적으로 추론하는 획기적인 ONE 모델을 세상에 선보였습니다.
그는 GPT 채트를 통해 인류를 대규모 AI 시대에 이끌었습니다.
쿠바 파호츠키가 그런 이론적 수학에서, 제가 당신의 하버드 작업을 보니 이론적 수학에 관한 것이었는데, 갑자기 실무에 집중하게 된 건 어떻게 된 일인가요? 딥 러닝, 응용 수학으로요.
제가 박사 과정을 시작했을 때, 2013-14년쯤에 제 분야에 대한 관점은 증명할 수 있는 알고리즘이 있고, 증명할 수 있는 알고리즘이 있다는 거였어요.
비록 지금 당장은 효율적이지 않고, 실용적이지 않으며, 우리가 적용할 수 있는 일부 방법보다 나쁘더라도, 컴퓨터가 더 커지면 확장될 수 있다는 속성을 가지고 있죠.
그리고 지난 몇십 년간의 스케일링을 보면, 그리고 그 당시 미래를 내다보면, 컴퓨터가 지금 무엇을 할 수 있는지가 그다지 중요하지 않다는 결론에 도달할 수 있어요.
중요한 건 50년 후 컴퓨터가 무엇을 할 수 있을까 하는 거예요. 그래서 우리는 컴퓨터가 할 수 있는 실제 한계를 이해하고, 그것에 대해 생각하고, 알고리즘에 대한 우리의 이해를 정말 확장하기 위한 이론을 구축해야 합니다.
이론적 컴퓨터 과학과 달리, 고전적 딥 러닝에서는 최적의 솔루션을 실제로 찾고 있다는 걸 증명할 수 없어요.
네트워크의 최적 파라미터를 찾고 있다는 걸요. 하지만 우리는 합리적으로 보이는 네트워크를 만들고, 그것을 일정 시간 최적화해서 결과를 얻을 뿐이죠.
그래서 이게 조금 작동하는 무언가라고 상상하기 쉽지만, 계속 작동할지 명확하지 않아요.
제 분야에 대한 접근 방식을 근본적으로 재고하게 만든 건 딥마인드의 알파고 결과였어요.
음, 딥 블루에 대한 환상적인 결과였죠? 컴퓨터가 체스를 할 수 있다는 건 영감을 줍니다.
음, 체스는 상대적으로 작은 보드이고, 움직임이 꽤 적어요. 그래서 현대 컴퓨터가 여기서 모든 가능성을 철저히 탐색할 수 있다고 상상하기 쉽죠.
모두는 아니더라도 큰 부분을요. 그리고 그는 플레이하고, 플레이합니다.
그리고 바둑 게임에서는 매우 큰 보드가 있고, 돌을 어디든 놓을 수 있어요. 가능한 움직임이 많아요.
커뮤니티에서 일반적인 합의는 이 게임이 많은, 많은 년이 걸릴 거고, 딥 블루 같은 알고리즘은 정말 기회가 없다는 거였어요.
그리고 딥마인드가 그때 보여준 건, 음, 게임에서 가능한 모든 움직임을 찾기 위해 손으로 많은 휴리스틱을 작성하는 대신, 사람들의 게임이나 그 후 자신의 게임에 기반해 학습하는 신경망을 사용하면, 대부분의 경우 인간보다 더 잘 플레이할 수 있다는 거예요.
그건 정말 제 세계를 흔들었어요. 왜냐하면 게임 플레이에서, 예를 들어 프로그래밍 대회 해결이나 더 나아가 과학 논문 작성과 과학 개발로 가는 걸 상상하기가 훨씬 쉽기 때문이에요. 그냥 이미지를 인식하는 것보다요.
그리고 결국 제 박사 과정 반년 후, 제 포스트닥 반년 후, 저는 이 분야에 양발로 뛰어들기로 결정했어요. 그리고 OpenAI로 갔습니다.
오늘날 당신이 세계에서 가장 영향력 있는 과학자 중 하나라고 느끼시나요? 그리고 당신이 하는 일의 규모를 고려해서요. 당신에 대해 묻는 거예요.
타이어에 있는 무언가예요. 동시에 우리는 A.I. 발전과 e 분야를 가능한 한 올바른 방향으로 밀어붙이려고 해요. 하지만 다른 한편으로 우리는 많은 과학 논문을 발표하지 않아요. 그래서 그런 진술이 공정할지 모르겠어요.
하루는 AI가 쿠바 파호츠키를 대체할까 봐 두렵지 않나요? 그런 반성을 가끔 하시나요?
네. 그리고 그게 단순한 반성 이상이라면, 우리는 그에 대한 결과를 많이 적극적으로 생각해요.
음, 몇 년 전 누군가 제게 물었을 때, 우리가 정말 진지하게 시작해야 할 때가 언제라고 생각하나요? 실제로 인공 지능에 가까워질 때요.
저는 AI가 해결하기 시작할 때, 금메달을 따거나, 수학이나 프로그래밍 올림피아드에서 모든 문제를 해결하기 시작할 때라고 했어요. 오케이, 그게 일어나고 있어요. 지금 일어나고 있어요.
네, 우리는 지금 그 지점에 있어요. 그래서 다음 단계는 실제로 실세계에서 무언가를 구축할 수 있는 AI예요, 그렇죠?
예를 들어 유용한 프로그램을 구축하거나 책을 쓰거나 연구를 수행하고 새로운 것을 발견하는 게 가능할까요? 그리고 저는 내년 말 전에 이걸 볼 거라고 기대해요.
그리고 우리는 그래픽 카드 클러스터를 가져갈 수 있어요. 제 말은, 그래픽 카드 클러스터를 가져와서 모델의 여러 복사본을 실행하고, 단순히 연구 실험실을 가질 거예요.
그들은 스스로 생각하고 과학적 결과를 생산할 거예요.
연구 작업과 과학적 결과로 돌아가요. 왜냐하면 이게 가장 극적인 결과라고 생각하거든요. 과학적 결과는 새로운 기술로 이어지고, 특히 AI 개발의 가속화로 이어지지만, 의학의 변화로도 이어져요. 그리고 이게 우리가 익숙하지 않은 속도로 정말 가속화되기 시작할 수 있어요.
모델이 증거를 찾는 것뿐만 아니라, 이미 오늘 일어나고 있지만, 정리도 찾고, 과학적 발견을 하고, 수학적 아이디어를 포함해서요.
만약 정말 어려운 문제를 해결하려면, 음, 많은 정리가 더 어려운 정리를 증명하기 위해 발견되듯이요. 그래서 이게 완전히 다른 문제는 아니에요.
이 발전이 끝이 없다고 믿으시나요?
이건 아주 흥미로운 질문이에요. 제 말은, 일반적으로 말해서, 이 발전이 끝이 없다고 믿어요. 그리고 특히 한 가지가 조금 비과학적이에요.
우리는 항상 AGI, 인공 일반 지능에 대해 이야기하죠. 그건 분야 전체의 성배 같은 거예요, 그렇죠? 그래서 진정한 인공 지능으로, 인간만큼 똑똑한 거예요.
그리고 조금 불분명하고 이해하기 어려운 건 실제로 사람들이 얼마나 똑똑한지예요, 그렇죠? 이런 식으로 생각하면, 진정한 인공 지능은 딥 러닝이 어떻게 작동하는지 100% 이해하고, 우주에 거대한 데이터 센터를 구축하고, 거기서 발명하고, 우리 방법의 모든 단점을 고치고, 세상의 모든 문제를 해결했기 때문에 인공 지능을 구축하는 거라고 상상할 수 있어요. 하지만 진실은 아마도 지능이 어떻게든 발전하고 사람들이 어딘가에 어느 정도 있는 거예요. 음, 이 모든 문제에 대해 이야기할 필요가 없어요, 그렇죠? 음, 어느 시점에서 이 모델들은 거의 모든 축에서 우리보다 똑똑해질 거예요.
모델이 더 나은 모델을 훈련시키는 지점에 도달할까요?
확실히요. 음, 그런 재귀 루프를 생성할 수 있는 모델의 직접적인 결과라고 생각해요.
제 말은, 물론 녹아내릴 거예요. 그래서 올해 이미 일부 부분, 이해하기 쉬운 일부, 예를 들어 인프라의 일부 내부 구현이 생각하는 인공 지능 모델에 의해 지원될 거라고 생각해요.
하지만, 알다시피, 그런 전체 연구 프로그램을 실행하는 모델에 도달하기 전에는 여전히 시간이 걸릴 거예요.
쿠바 파호츠키가 기술 발전을 볼 때 두려워하는 게 있어요.
확실히 많이 생각하는 몇 가지가 있어요. 음, 우리가 방금 이야기한 게 사실이에요. 장기적으로, 이 모델들이 이미 연구를 수행하고, 새로운 버전을 구축할 때, 어떻게 작동할까요? 어떻게 감독할까요? 해결해야 할 큰 문제가 있어요.
또한, 조금 더 단기적인 문제일 수도 있어요. 모델이 아직 그렇게 똑똑하지 않더라도, 상당한 양의 가치 있는 작업을 할 수 있다고 가정해 보죠. 그건 그 자체로 진술이에요. 진정한 기술 혁명 같아요.
원자폭탄 발명 이후로 세계가 이렇게 불안정한 곳에 놓인 적이 없었어요. 그런 혁명을 이름 지을 수 있을 만큼요. 그래서 저를 스트레스 받게 하는 무언가입니다.

제공된 트랜스크립션이 문서에서 잘려 있으므로, 사용 가능한 내용에 대해 자연스럽고 흐름이 있는 한국어 번역을 제공했습니다. 원본 인터뷰는 OpenAI의 야쿱 파호츠키와 마크 첸이 AI 회의론, 개발, 미래 함의를 논의하는 내용입니다. 전체 비디오나 추가 맥락은 설명의 링크를 참조하세요.