https://youtu.be/hmtuvNfytjM?si=IPNk51oxltjTV5Ak
- - 이것은 하나의 기술이 가질 수 있는 엄청난 힘이며 우리에게 너무나 빠르게 다가왔습니다. 방금 GPT-5를 출시했습니다. 오늘 태어난 아이는 AI보다 똑똑할 수 없을 것입니다. 우리는 무엇이 진짜이고 무엇이 진짜가 아닌지 어떻게 알 수 있을까요? 우리는 아직 챗GPT에 섹스봇 아바타를 넣지 않았습니다. 초지능. 그것은 실제로 무엇을 의미할까요? 이 모델은 놀랍습니다. 저는 지금 오픈AI의 CEO인 샘 알트먼을 인터뷰할 예정입니다. 오픈AI. 오픈AI. 산업을 재편하고 있습니다. 솔직히 이 사람은 완전히 기술의 제왕입니다.
- - 현재 그들은 거의 모든 분야에서 인간을 훨씬 능가할 수 있는 초지능을 구축하려고 노력하고 있습니다. 그리고 그들은 방금 가장 강력한 모델을 출시했습니다. 불과 몇 년 전만 해도 그것은 공상 과학처럼 들렸을 것입니다. 이제 더 이상 그렇지 않습니다. 사실, 그들은 혼자가 아닙니다. 우리는 우리 모두가 본 것 중 가장 높은 stakes의 세계적인 경쟁 한가운데에 있습니다. 수천억 달러와 믿을 수 없는 양의 인간적 가치가 걸려 있습니다. 이것은 심오한 순간입니다. 대부분의 사람들은 이런 기술적 변화를 겪어본 적이 없으며, 그것은 바로 지금 우리 주변에서 일어나고 있습니다. 그래서, 이 에피소드에서는 샘 알트먼과 함께 그가 만들려고 하는 미래로 시간 여행을 시도하여 그것이 어떻게 생겼는지 보고 당신과 제가 무엇이 다가오고 있는지 정말로 이해할 수 있도록 하고 싶습니다. Huge Conversations에 오신 것을 환영합니다. 어떻게 지내세요? 만나서 반갑습니다. 해주셔서 감사합니다. 물론입니다.
- - 그래서, 시작하기 전에, 제 목표를 말씀드리고 싶습니다. 좋아요. 저는 가치 평가나 AI 인재 전쟁, 자금 모금 등에 대해 묻지 않을 것입니다. 그런 것들은 다른 곳에서 아주 잘 다뤄지고 있다고 생각합니다. 그런 것 같네요. 이 쇼의 큰 목표는 과학과 기술을 사용하여 미래를 더 좋게 만드는 방법을 다루는 것입니다. 그리고 우리가 이 모든 것을 하는 이유는 사람들이 더 나은 미래를 본다면 그들이 그것을 만드는 데 도움을 줄 수 있다고 정말로 믿기 때문입니다. 그래서, 제 목표는 당신이 만들려고 하는 미래의 다른 순간들로 당신과 함께 시간 여행을 하고 그것이 어떻게 생겼는지 보는 것입니다. 환상적입니다. 좋아요.
- - 당신이 방금 발표한 것부터 시작해볼까요? 당신은 최근에 놀랍게도 GPT-4가 우리 모두가 다시는 사용하지 않아도 될 가장 멍청한 모델이라고 말했습니다. 그러나 GPT-4는 이미 SAT, LSAT, GRE에서 인간의 90%보다 더 나은 성과를 낼 수 있고 코딩 시험, 소믈리에 시험, 의료 면허 시험을 통과할 수 있습니다. 그리고 이제 당신은 방금 GPT-5를 출시했습니다. GPT-5는 GPT-4가 할 수 없었던 무엇을 할 수 있습니까?
- - 우선, 중요한 한 가지는 당신이 방금 말한 놀라운 일들을 모두 할 수 있는 AI 시스템을 가질 수 있다는 것입니다. 그리고 그것은 인간이 잘하는 많은 것들을 명확히 복제하지 않습니다. 이는 SAT 시험이나 다른 것들의 가치에 대해 무언가를 말해준다고 생각합니다. 그러나 우리가 GPT-4 출시 당일에 이 대화를 하고 GPT-4가 그런 것들을 어떻게 했는지 당신에게 말했더라면, 당신은 "오 이런, 이것은 많은 직업이나 사람들이 무엇을 할 것인지에 대해 엄청난 영향을 미칠 것이고 부정적인 영향도 있을 거야"라고 말했을 것입니다. 그리고 당신이 예측했을지 모르는 긍정적인 영향 중 일부는 아직 현실화되지 않았습니다.
- - 그래서 이 모델들이 잘하는 방식에는 우리가 사람들이 하거나 신경 써야 할 다른 많은 것들을 포착하지 못하는 무언가가 있습니다. 그리고 저는 GPT-5에서도 같은 일이 다시 일어날 것이라고 생각합니다. 사람들은 그것이 하는 일에 놀랄 것입니다. 그것은 많은 일에 정말 능숙하고, 사람들은 그것이 더 많은 일을 하기를 원할 것입니다. 사람들은 그것을 온갖 놀라운 일에 사용할 것입니다. 그것은 많은 지식 작업, 우리가 배우는 방식, 우리가 창조하는 방식을 변화시킬 것입니다. 그러나 우리는 사회와 함께 더 나은 도구와 함께 더 많은 것을 기대하도록 공동 진화할 것입니다.
- - 그래서 네, 저는 이 모델이 여러 면에서 매우 놀랍지만 다른 면에서는 상당히 제한적이라고 생각합니다. 그러나 전문가가 할 수 있거나 어려움을 겪을 수 있는 3분, 5분, 1시간짜리 작업을 주머니 속에 하나의 소프트웨어로 모두 할 수 있다는 사실은 정말 놀랍습니다. 인류 역사상 이 정도로 빠르고 크게 기술이 발전한 적은 없다고 생각합니다. 그리고 우리가 지금 이 도구를 가지고 살고 있으며 점진적으로 적응하고 있다는 사실은 그렇습니다. 그러나 우리가 5년 또는 10년 전으로 돌아가서 이런 것이 다가올 것이라고 말할 수 있었다면, 우리는 아마도 그렇게 생각하지 않았을 것입니다.
- - 사람들이 헤드라인을 보지 못했다고 가정해봅시다. 당신이 가장 기대하는 구체적인 핵심 사항은 무엇이며, 또한 당신이 조심해야 할 것들, 즉 예상하지 못할 것들은 무엇입니까? 제가 가장 기대하는 것은 이 모델이 처음으로 제가 어떤 어려운 과학적 또는 기술적 질문을 해도 꽤 좋은 답을 얻을 수 있다고 느끼게 해준다는 점입니다. 재미있는 예를 들어드리겠습니다. 제가 중학생 때나 9학년 때였을지 모르겠는데, TI-83이라는 오래된 그래픽 계산기를 받았습니다.
- - 그리고 저는 Snake라는 게임을 만드는 데 정말 오랜 시간을 보냈습니다. 네. 그것은 제 학교 아이들에게 매우 인기 있는 게임이었습니다. 그리고 저는 제가 전문가라고 생각했지만, TI-83에서 프로그래밍하는 것은 극도로 고통스럽고 시간이 오래 걸렸으며 디버깅하는 것도 정말 어려웠습니다. 그러다 GPT-5의 초기 버전을 가지고 즉흥적으로 "TI-83 스타일의 Snake 게임을 만들 수 있을까?"라고 생각했습니다. 물론, 7초 만에 완벽하게 해냈습니다. 그리고 저는 "음, 내 11살 때의 나는 이것을 멋지다고 생각할까, 아니면 과정에서 무언가를 놓쳤다고 생각할까?"라고 생각했습니다.
- - 그리고 저는 "오, 이게 좋은 건가 나쁜 건가?"라고 3초 정도 고민한 뒤 바로 "아니, 나는 지금 이 게임이 그리워. 나에게는 엄청나게 새로운 기능에 대한 아이디어가 있어. 이걸 입력해봐야겠어."라고 말했습니다. 그것이 구현되었고, 게임이 실시간으로 업데이트되었습니다. 그리고 저는 "사실, 나는 이걸 이렇게 보이게 하고 싶어. 사실, 나는 이걸 이렇게 하게 하고 싶어."라고 말했고, 저는 11살 때 다시 프로그래밍하던 때를 떠올리게 하는 이런 경험을 했습니다. 저는 "아, 나는 지금 이걸 시도하고 싶어. 나는 지금 이 아이디어를 가지고 있어."라고 말했지만,
- - 저는 너무나 빠르게 그것을 할 수 있었고, 아이디어를 표현하고, 시도하고, 실시간으로 가지고 놀 수 있었습니다. 저는 "오, 이런, 아이들이 이런 석기 시대 방식으로 프로그래밍을 배우는 고통을 놓치는 것에 대해 잠시 걱정했지만, 이제는 그들이 정말 기쁩니다. 왜냐하면 사람들이 이 새로운 도구로 창조할 수 있는 방식, 아이디어를 실현할 수 있는 속도는 정말 놀랍기 때문입니다.
- - 그래서 GPT-5가 당신을 위해 모든 어려운 질문에 답할 뿐만 아니라 거의 즉각적으로 소프트웨어를 온디맨드로 생성할 수 있다는 이 아이디어는 GPT-4 시대에는 존재하지 않았던 GPT-5 시대의 정의적인 요소 중 하나가 될 것이라고 생각합니다. 당신이 말하는 것을 들으면서 역도에서 '시간 아래 긴장'이라는 개념을 생각하게 됩니다. 네. 그리고 모르는 사람들을 위해 설명하자면, 3초 만에 100파운드를 스쿼트할 수도 있고, 30초 만에 100파운드를 스쿼트할 수도 있습니다. 30초 동안 스쿼트하면 훨씬 더 많은 것을 얻을 수 있습니다.
- - 그리고 저는 우리의 창의적인 과정과 제가 최고의 작업을 했다고 느꼈을 때를 생각할 때, 그것은 엄청난 양의 인지적 시간 아래 긴장을 필요로 했습니다. 그리고 저는 그 인지적 시간 아래 긴장이 매우 중요하다고 생각합니다. 그리고 그것은 거의 아이러니합니다. 왜냐하면 이러한 도구들은 개발하는 데 엄청난 인지적 시간 아래 긴장을 필요로 했기 때문입니다. 그러나 어떤 면에서는 사람들이 그것들을 어떤 면에서는 생각하는 것에 대한 도피처로 사용하고 있다고 말할 수도 있다고 생각합니다.
- - 이제 당신은 "네, 하지만 우리는 계산기로도 그렇게 했고, 더 어려운 수학 문제로 넘어갔을 뿐이야"라고 말할 수도 있습니다. 여기서 뭔가 다른 일이 일어나고 있다고 느끼십니까? 이것에 대해 어떻게 생각하십니까? 그것은 다릅니다. 분명히 챗봇을 생각하지 않기 위해 사용하는 사람들도 있고, 전에 없던 방식으로 더 많이 생각하기 위해 사용하는 사람들도 있습니다. 저는 우리가 더 많은 사람들이 그것으로 뇌를 더 많이 늘리고 더 많은 일을 할 수 있도록 도구를 만들 수 있기를 바랍니다.
- - 그리고 저는 사회는 경쟁적인 곳이며, 사람들에게 새로운 도구를 주면 이론적으로는 사람들이 덜 일할 수도 있지만 실제로는 사람들이 더 열심히 일하고 기대치가 계속 높아지는 것 같습니다. 그래서 제 생각에는 다른 도구들과 마찬가지로, 다른 기술처럼 어떤 사람들은 더 많은 일을 하고 어떤 사람들은 덜 할 것입니다. 그러나 확실히 챗봇을 사용하여 인지적 시간 아래 긴장을 늘리고 싶은 사람들은 정말 그렇게 할 수 있습니다. 그리고 저는 챗봇의 가장 열정적인 사용자 중 상위 5%가 하는 일에서 많은 영감을 얻습니다. 사람들이 얼마나 많이 배우고, 하고, 결과물을 내는지 정말 놀랍습니다.
- - 그래서 저는 GPT-5를 몇 시간 동안만 사용해봤기 때문에 계속 사용하고 있습니다. 지금까지 어떻게 생각하십니까? 저는 단지 그것과 상호 작용하는 방법을 배우고 있을 뿐입니다. 제 생각에 흥미로운 점 중 하나는 GPT-4를 사용하는 방법을 방금 따라잡았다고 느끼는데, 이제 GPT-5를 사용하는 방법을 배우려고 한다는 것입니다. 당신이 가장 흥미롭다고 생각하는 특정 작업은 무엇인지 궁금합니다. 당신은 오랫동안 그것을 사용해왔을 것이기 때문입니다. 저는 코딩 작업에 가장 깊은 인상을 받았습니다. 물론, 그것이 정말 잘하는 다른 많은 것들이 있지만, AI가 무엇이든 소프트웨어를 작성할 수 있다는 이 아이디어는 그렇습니다.
- - 그리고 그것은 당신이 아이디어를 새로운 방식으로 표현할 수 있고 AI가 매우 고급적인 일을 할 수 있다는 것을 의미합니다. 그것은 그렇습니다. 어떤 의미에서는 GPT-4에게 무엇이든 물어볼 수 있었지만, GPT-5는 프로그래밍에 너무 능숙하기 때문에 무엇이든 할 수 있는 것처럼 느껴집니다. 물론, 그것은 물리적인 세상에서 일을 할 수는 없지만, 컴퓨터가 매우 복잡한 일을 하도록 만들 수 있습니다. 그리고 소프트웨어는 어떤 것을 제어하고 실제로 어떤 일을 할 수 있는 매우 강력한 방법입니다. 그래서 그것이 저에게 가장 인상 깊었습니다. 그것은 글쓰기에 훨씬 더 능숙해졌습니다.
- - 그래서 AI 슬롭(AI slop)이라는 것이 있습니다. AI는 이 짜증나는 방식으로 글을 쓰고, 우리는 GPT-5에서도 여전히 대시를 사용합니다. 많은 사람들이 대시를 좋아하지만, GPT-5의 글쓰기 품질은 훨씬 좋아졌습니다. 우리는 아직 갈 길이 멀고, 더 개선하고 싶습니다. 그러나 오픈AI 내부에서 많은 사람들로부터 들었던 한 가지는 "세상에, 그들은 GPT-5를 사용하기 시작했고, 모든 지표에서 더 낫다는 것을 알았지만, 설명하기 어려운 미묘한 품질이 있다. 그러나 테스트를 위해 GPT-4로 돌아가야 할 때, 그것은 끔찍하게 느껴진다"는 것입니다.
- - 그리고 저는 그 원인이 무엇인지 정확히 모르겠지만, 부분적으로는 글쓰기가 훨씬 더 자연스럽고 좋게 느껴지기 때문이라고 생각합니다. 이 인터뷰를 준비하면서 다른 AI 및 기술 리더들에게 연락하여 몇 가지 질문을 모았습니다. 좋아요, 다음 질문은 Stripe CEO 패트릭 콜리슨의 질문입니다. 좋은 질문이 될 것입니다. 이 질문을 그대로 읽어드리겠습니다. 다음 단계에 대한 것입니다. GPT-5 다음에는 무엇이 올까요?
- - 어떤 해에 대규모 언어 모델이 중요한 과학적 발견을 할 것이라고 생각하십니까? 그리고 아직 일어나지 않은 이유는 무엇입니까? 그는 수학과 알파폴드와 같은 특수 모델은 제외해야 한다고 덧붙였습니다. 그는 특히 GPT 시리즈와 같은 범용 모델에 대해 묻고 있습니다. 저는 대부분의 사람들이 앞으로 2년 안에 언젠가 일어날 것이라고 동의할 것이라고 말하고 싶습니다. 그러나 중요한 것의 정의가 매우 중요합니다. 그래서 어떤 사람들에게는 중요한 발견이 25년 초에 일어날 수도 있습니다. 어떤 사람들에게는 2026년 후반까지는 아닐 수도 있습니다. 죄송합니다. 2026년 초까지는 아닐 수도 있습니다. 어떤 사람들에게는 2027년 후반까지는 아닐 수도 있지만, 저는 27년 후반까지는 대부분의 사람들이 AI가 주도한 중요한 새로운 발견이 있었다는 데 동의할 것이라고 예상합니다.
- - 그리고 제가 생각하기에 부족한 것은 단지 이러한 모델들의 인지 능력입니다. 한 연구원이 저에게 말해준 프레임워크가 정말 좋았습니다. 즉, 1년 전에는 전문 수학자가 몇 초에서 몇 분 걸릴 수 있는 고등학교 수준의 기본적인 수학 경시 문제들을 잘 풀 수 있었습니다. 우리는 아주 최근에 IMO 금메달을 획득했습니다. 그것은 미친 듯이 어려운 일입니다. 그것이 무엇을 의미하는지 설명해 주시겠습니까? 그것은 가장 어려운 경쟁 수학 시험과 같은 것입니다. 이것은 전 세계의 최상위 계층에 속하는 사람들이 하는 일입니다.
- - 많은 전문 수학자들도 한 문제도 풀지 못할 문제에서 우리는 최고 수준의 점수를 받았습니다. 물론 금메달 범위에서 더 높은 점수를 받은 인간들도 있지만, 우리는 이것이 엄청난 성과입니다. 그리고 이러한 문제들은 6개의 문제를 9시간 동안 푸는 것입니다. 즉, 훌륭한 수학자에게는 문제당 1시간 반이 걸리는 것입니다. 그래서 우리는 몇 초에서 몇 분 걸리던 것을 1시간 반으로 늘렸습니다. 아마도 세계 최고의 전문가가 새로운 수학적 정리를 증명하는 데는 1000시간이 걸릴 것입니다.
- - 그래서 우리는 또 다른 중요한 발전을 이루어야 합니다. 그러나 우리의 궤적을 보면 "좋아, 우리는 거기에 도달하고 있다. 우리는 그 시간 범위에 도달할 경로를 가지고 있다. 우리는 모델을 계속 확장하기만 하면 된다"고 말할 수 있습니다. 당신이 묘사한 장기적인 미래는 초지능입니다. 그것은 실제로 무엇을 의미합니까? 그리고 우리는 언제 그것에 도달했는지 어떻게 알 수 있을까요? 예를 들어, 우리 전체 오픈AI 연구팀보다 더 나은 연구, 더 나은 AI 연구를 할 수 있는 시스템이 있다면, 즉 우리가 "좋아, 우리가 GPU를 사용할 수 있는 최선의 방법은 이 AI가 오픈AI의 모든 두뇌 집단보다 더 똑똑하게 어떤 실험을 해야 할지 결정하도록 하는 것이다"라고 말할 의향이 있다면.
- - 네. 그리고 만약 같은 시스템이 저보다 오픈AI를 더 잘 운영할 수 있다면, 즉 최고의 연구원들보다 낫고, 저보다 이 일에서 낫고, 다른 사람들이 하는 일보다 낫다면, 저에게는 그것이 초지능처럼 느껴질 것입니다. 그것은 불과 몇 년 전만 해도 공상 과학처럼 들렸을 문장입니다. 그리고 지금은 그렇습니다만, 안개를 통해 그것을 볼 수 있습니다. 네.
- - 그래서 그 길을 가는 한 단계는 과학적 발견의 순간, 즉 더 나은 질문을 하고, 전문가 수준의 인간이 새로운 발견을 하기 위해 사물을 이해하는 방식처럼 씨름하는 순간인 것 같습니다. 제 머릿속을 계속 맴도는 한 가지는 만약 우리가 1899년이었다고 가정하고, 그 시점까지의 모든 물리학을 주고 그것을 조금 더 발전시킬 수 있었다면 어떨까 하는 것입니다. 그 이상은 아닙니다. 이러한 시스템 중 하나가 언제 일반 상대성 이론을 생각해냈을까요? 흥미로운 질문은 우리가 현재 있는 곳을 생각할 때, 만약 우리가 더 이상 물리학 데이터를 얻지 못한다면, 정말 좋은 초지능이 기존 데이터에 대해 아주 깊이 생각하고 새로운 입자 가속기 없이 고에너지 물리학을 풀 수 있다고 기대할까요? 아니면 새로운 가속기를 만들고 새로운 실험을 설계해야 할까요?
- - 물론 우리는 그 답을 모릅니다. 사람마다 다른 추측을 합니다. 그러나 저는 많은 과학 분야에서 우리가 가진 데이터에 대해 더 깊이 생각하는 것만으로는 충분하지 않고, 새로운 도구를 만들고, 새로운 실험을 수행해야 할 것이며, 그것이 시간이 좀 걸릴 것이라고 생각합니다. 현실 세계는 느리고 지저분하며, 그렇습니다. 그래서 저는 우리가 현재 세계에 있는 과학 데이터에 대해 더 깊이 생각하는 것만으로도 더 많은 진전을 이룰 수 있을 것이라고 확신합니다. 그러나 큰 진전을 이루기 위해서는 새로운 기계를 만들고 새로운 실험을 수행해야 할 것이며, 그로 인해 약간의 지연이 발생할 것이라고 생각합니다.
- - 이것에 대해 생각하는 또 다른 방법은 AI 시스템이 이제 거의 모든 질문에 놀랍도록 능숙하다는 것입니다. 그러나 아마도 우리가 말하고 있는 것 중 하나는 그것이 아직 또 다른 도약이라는 것입니다. 그리고 패트릭의 질문은 더 나은 질문을 하는 것에 관한 것입니다. 또는 우리가 이 시간표 질문으로 돌아간다면, 우리는 아마도 AI 시스템이 1분짜리 작업에서는 초인적이지만, 1000시간짜리 작업에서는 갈 길이 멀다고 말할 수 있을 것입니다. 그리고 이러한 장기적인 작업에 관해서는 AI 시스템과 매우 다른 인간 지능의 차원이 있는 것 같습니다.
- - 이제 저는 우리가 그것을 알아낼 것이라고 생각하지만, 오늘은 그것이 약점입니다. 우리는 GPT-5와 함께 현재 있는 곳에 대해 이야기했습니다. 우리는 초지능이라는 최종 목표 또는 미래 목표에 대해 이야기했습니다. 물론 제가 가지고 있는 질문 중 하나는 그 두 가지 사이의 안개를 걷어내는 것이 어떻게 보이는가 하는 것입니다. 다음 질문은 Nvidia CEO 젠슨 황의 질문입니다. 제가 그대로 읽어드리겠습니다. "사실은 있는 그대로다. 진실은 그것이 의미하는 바이다. 그래서 사실은 객관적이다. 진실은 개인적이다. 그것은 관점, 문화, 가치, 신념, 맥락에 따라 달라진다. 하나의 AI는 사실을 배우고 알 수 있다. 그러나 하나의 AI가 모든 사람, 모든 나라, 모든 배경에 대해 진실을 어떻게 알 수 있는가?"
- - 저는 그 정의를 공리로서 받아들이겠습니다. 제가 동의하는지는 확실하지 않지만, 시간 관계상 그냥 받아들이겠습니다. 저는 그 정의들을 받아들이고 진행하겠습니다. 저는 AI가 다양한 문화적 맥락과 개인에게 얼마나 유창하게 적응하는지에 대해 저를 포함한 많은 사람들이 놀랐다고 생각합니다. 우리가 챗봇에서 출시한 가장 좋아하는 기능 중 하나는 올해 초에 나온 '강화된 메모리' 기능입니다.
- - 그것은 정말로 제 챗봇이 저를, 제가 중요하게 생각하는 것을, 제 삶의 경험과 배경, 그리고 제가 지금 있는 곳으로 이끈 것들을 알아가는 것처럼 느껴집니다. 제 친구 중 한 명은 최근 챗봇을 엄청나게 많이 사용하는 사람인데, 그는 많은 대화를 통해 자신의 삶을 챗봇에 입력했습니다. 그는 자신의 챗봇에 많은 성격 테스트를 시키고 자신이 답하는 것처럼 답하게 했는데, 자신의 성격에 대해 전혀 이야기한 적이 없었음에도 불구하고 그가 실제로 받은 점수와 같은 점수를 받았습니다. 그리고 제 챗봇은 제가 몇 년 동안 챗봇과 대화하면서 제 문화, 제 가치, 제 삶에 대해 정말 많이 배웠습니다.
- - 그리고 저는 때때로 제 이력이 없는 무료 계정을 사용하여 그것이 어떤지 확인하는데, 그것은 정말 다르게 느껴집니다. 그래서 우리는 AI가 이것을 배우고 적응하는 데 얼마나 능숙한지에 대해 놀랐습니다. 그렇다면 전 세계의 많은 지역에서 사람들이 다양한 문화적 규범과 맥락을 가진 다른 AI를 사용하는 것을 예상하십니까? 그것이 우리가 말하고 있는 것입니까? 저는 모든 사람이 동일한 근본적인 모델을 사용할 것이라고 생각합니다.
- - 그러나 그 모델에 사용자가 원하는 방식, 커뮤니티가 원하는 방식으로 작동하도록 개인화된 맥락이 제공될 것입니다. 어쨌든. 저는 우리가 사실과 진실이라는 이 아이디어에 도달하고 있다고 생각합니다. 그리고 이것은 우리의 첫 시간 여행에 좋은 순간인 것 같습니다. 좋아요, 우리는 2030년으로 갈 것입니다. 이것은 진지한 질문이지만, 가벼운 예시와 함께 묻고 싶습니다. 트램폴린 위에서 뛰는 토끼들을 보신 적이 있습니까? 네.
- - 못 보신 분들을 위해 설명하자면, 뒷마당에서 토끼들이 트램폴린을 즐겁게 타는 영상처럼 보일 수 있습니다. 그리고 이 영상은 최근 엄청나게 바이럴이 되었습니다. 그것에 대한 인간이 만든 노래도 있습니다. 대단한 일입니다. 트램폴린이 있었습니다. 그리고 사람들이 그것에 그렇게 강하게 반응했던 이유는 아마도 사람들이 처음으로 비디오를 보고 즐긴 다음, 나중에 그것이 완전히 AI 생성이라는 것을 알게 된 때였기 때문일 것입니다. 이 시간 여행에서, 만약 우리가 2030년에 십대이고 2030년에 십대들이 스크롤하는 것을 스크롤하고 있다면, 우리는 무엇이 진짜이고 무엇이 진짜가 아닌지 어떻게 알 수 있을까요?
- - 저는 그 질문에 온갖 문자적인 답을 할 수 있습니다. 우리는 암호화 방식으로 자료에 서명하고, 사람들이 실제로 촬영한 경우 누구의 서명을 신뢰할지 결정할 수 있습니다. 그러나 제 생각에는 점진적으로 수렴할 것입니다. 예를 들어, 오늘날 아이폰으로 찍은 사진조차도 대부분 진짜지만, 약간 진짜가 아닙니다. 이해하지 못하는 AI 기술이 사진을 조금 더 좋게 보이게 하고, 때때로 달이 이상하게 보이는 이상한 것들을 보게 됩니다. 네, 네, 네, 네.
- - 그러나 카메라 센서가 포착한 광자와 당신이 결국 보게 되는 이미지 사이에는 많은 처리 능력이 있습니다. 그리고 당신은 그것이 충분히 진짜라고 결정했거나 대부분의 사람들이 충분히 진짜라고 결정했습니다. 그러나 우리는 광자가 카메라 필름에 부딪혔던 때부터 점진적인 변화를 받아들였습니다. 그리고 틱톡에서 어떤 비디오를 본다면, 실제보다 더 진짜처럼 보이게 하기 위해 온갖 비디오 편집 도구가 사용되고 있을 것입니다. 네, 맞습니다. 또는 단순히 전체 장면이 완전히 생성되거나, 토끼가 트램폴린 위에서 뛰는 것과 같은 전체 비디오가 생성되기도 합니다.
- - 그리고 저는 그것이 진짜로 간주되기 위해 얼마나 진짜여야 하는지에 대한 기준이 계속해서 움직일 것이라고 생각합니다. 그래서 그것은 교육적인 질문이기도 합니다. 사람들은 네. 미디어는 항상 약간 진짜이고 약간 진짜가 아닙니다. 예를 들어, 우리가 공상 과학 영화를 본다면, 우리는 그것이 실제로 일어나지 않았다는 것을 압니다. 인스타그램에서 누군가의 아름다운 휴가 사진을 본다면, "좋아, 그 사진은 말 그대로 찍혔을 수도 있지만, 같은 사진을 찍기 위해 수많은 관광객들이 줄을 서 있었고, 그것은 사진에서 빠져있다"고 생각합니다. 그리고 우리는 이제 그것을 받아들인다고 생각합니다.
- - 확실히 더 높은 비율의 미디어가 진짜가 아니라고 느껴질 것입니다. 그러나 저는 그것이 장기적인 추세였다고 생각합니다. 어쨌든, 우리는 다시 점프할 것입니다. 좋아요, 2035년, 당신과 저는 대학을 졸업할 것입니다. AI 분야의 일부 리더들은 5년 안에 초급 화이트칼라 인력의 절반이 AI로 대체될 것이라고 말했습니다. 그래서 우리는 5년 후에 대학 졸업생입니다. 당신은 우리를 위해 세상이 어떻게 보일 것이라고 기대하십니까? 저는 AI가 일자리 대체로 이어질 수 있다는 이야기가 많았지만, 또한 궁금합니다.
- - 저는 10년 전에는 누구도 가질 수 없다고 생각했던 직업을 가지고 있습니다. 2035년을 생각할 때, 졸업하는 대학생이 (만약 대학에 여전히 다닌다면) 우주선을 타고 태양계를 탐사하는 완전히 새롭고 흥미롭고, 매우 잘 지불되고, 매우 흥미로운 직업을 가지고 떠날 수 있는 것을 기대할 수 있는 것은 무엇입니까? 그리고 당신과 제가 이런 지루하고 오래된 종류의 일을 해야 했다는 것에 대해 매우 안타깝게 생각하고 모든 것이 더 나아졌다는 것에 대해 안타깝게 생각합니다. 저는 10년이 너무 멀어서 지금 시점에서 상상하기 매우 어렵다고 생각합니다. 너무 멉니다.
- - 현재의 변화율을 10년 더 복리로 계산하면, 아마도 우리가 시간 여행조차 할 수 없는 무언가가 될 것입니다. 10년 전을 지금 상상하는 것도 정말 어려울 것이라고 생각합니다. 네. 그러나 10년 후는 훨씬 더 어렵고 훨씬 더 다를 것이라고 생각합니다. 그럼 5년으로 해봅시다. 우리는 여전히 2030년으로 갈 것입니다. 젊은 사람들에게 이것이 미칠 단기적인 영향은 무엇이라고 생각하시는지 궁금합니다. 즉, AI로 대체되는 초급 일자리의 절반은 그들이 제가 들어갔던 세상과는 매우 다른 세상으로 들어간다는 것을 의미합니다.
- - 저는 일부 직업군이 완전히 사라질 것이라는 것이 전적으로 사실이라고 생각합니다. 이런 일은 항상 일어나며, 젊은이들이 이에 가장 잘 적응합니다. 저는 22세가 아닌 62세에게 무엇을 의미하는지 더 걱정합니다. 그들은 재교육이나 기술 재훈련을 원하지 않을 것입니다. 정치인들이 원하는 것인데 아무도 원하지 않는 것입니다. 만약 제가 지금 22세이고 대학을 졸업한다면, 저는 인류 역사상 가장 운이 좋은 아이라고 느낄 것입니다. 왜요?
- - 왜냐하면 완전히 새로운 것을 창조하거나, 무언가를 발명하거나, 회사를 시작하기에 이보다 더 놀라운 시간은 없었기 때문입니다. 이제는 혼자서 10억 달러 이상의 가치를 가질 수 있는 회사를 시작하고, 더 중요하게는 세상에 놀라운 제품과 서비스를 제공할 수 있는 것이 가능하다고 생각합니다. 그리고 그것은 정말 놀라운 일입니다. 당신은 수백 명의 팀이 필요했던 일을 할 수 있게 해주는 도구에 접근할 수 있으며, 당신은 단지 이 도구들을 사용하는 방법을 배우고 훌륭한 아이디어를 내면 됩니다. 그것은 정말 놀랍습니다.
- - 한 걸음 물러서서, 이 낙관적인 쇼에서 이 청중이 당신에게서 들을 수 있는 가장 중요한 것은 두 부분으로 나뉜다고 생각합니다. 첫째, 세계에서 가장 강력한 지능을 실제로 구축하려고 하는 전술적인 방법과 그렇게 하는 데 제한적인 요소는 무엇입니까? 그리고 철학적으로, 당신과 다른 사람들은 그 기술을 사람들에게 정말로 도움이 되고 해가 되지 않는 방식으로 어떻게 구축하려고 노력하고 있습니까? 그래서 지금은 전술적인 부분만 다루겠습니다. 제가 이해하기로는 AI를 제한하는 세 가지 큰 범주가 있었습니다. 첫째는 컴퓨팅, 둘째는 데이터, 셋째는 알고리즘 설계입니다.
- - 당신은 지금 이 세 가지 범주 각각에 대해 어떻게 생각하십니까? 그리고 사람들이 앞으로 보게 될 헤드라인을 이해하는 데 도움이 된다면, 이 모든 것을 어떻게 이해하도록 도와주시겠습니까? 저는 네 번째도 있다고 말하고 싶습니다. 즉, 구축할 제품을 찾는 것입니다. 과학적 진보는 그 자체로는 사람들의 손에 들어가지 않으면 유용성이 제한적이며 사회와 같은 방식으로 공동 진화하지 않습니다. 그러나 이 네 가지 모두를 다룰 수 있다면, 컴퓨팅 측면에서는 네, 이것은 제가 본 것 중 가장 큰 인프라 프로젝트입니다. 아마도 인류 역사상 가장 크고 비싼 프로젝트가 될 것입니다. 그러나 칩과 메모리, 네트워킹 장비를 만들고, 서버에 장착하고, 메가 메가 데이터 센터를 건설하는 거대한 건설 프로젝트를 수행하고, 종종 제한 요인인 에너지를 확보하는 방법과 다른 모든 구성 요소를 함께 모으는 전체 공급망은 엄청나게 복잡하고 비쌉니다.
- - 그리고 우리는 여전히 이것을 일회성 방식으로 하고 있지만 점점 나아지고 있습니다. 결국 우리는 한쪽에서는 모래를 녹이고 다른 쪽에서는 완전히 구축된 AI 컴퓨팅을 생산하는 전체 메가 팩토리를 설계할 것입니다. 그러나 우리는 아직 멀었고, 그것은 엄청나게 복잡하고 비싼 과정입니다. 우리는 가능한 한 많은 컴퓨팅을 구축하고 빠르게 구축하기 위해 엄청난 노력을 기울이고 있습니다. 그리고 GPT-5가 출시되면 수요가 다시 크게 증가할 것이고, 우리는 그것을 충족시킬 수 없을 것이기 때문에 슬플 것입니다. 초기 GPT-4 시절처럼 될 것입니다.
- - 그리고 세상은 현재 우리가 제공할 수 있는 것보다 훨씬 더 많은 AI를 원하며, 더 많은 컴퓨팅을 구축하는 것이 그것을 하는 중요한 부분입니다. 사실 이것이 제가 대부분의 관심을 기울일 것이라고 예상하는 부분입니다. 즉, 사람들이 이 컴퓨팅을 사용하여 하고 싶어 하는 일에 수백만, 수천만, 그리고 궁극적으로는 수십억 개의 GPU를 어떻게 활용할 것인가 하는 것입니다. 그것에 대해 생각할 때, 이 범주에서 당신이 생각하게 될 큰 과제는 무엇입니까? 우리는 현재 에너지에 가장 제한을 받고 있습니다.
- - 즉, 기가와트 규모의 데이터 센터를 운영하려면 단기적으로 기가와트 전력을 찾는 것이 얼마나 어려울까요? 그것은 정말 어렵습니다. 우리는 또한 프로세싱 칩과 메모리 칩, 이 모든 것을 어떻게 함께 패키징하고 랙을 구축하는지, 그리고 허가, 건설 작업 등 다른 많은 것들에 의해 크게 제한을 받고 있습니다. 그러나 다시 말하지만, 목표는 일단 로봇이 만들어지면 이 과정을 정말로 자동화하는 것입니다. 그것들이 우리가 자동화하는 데 더 많은 도움을 줄 수 있을 것입니다. 그러나 돈을 쏟아붓고 사전 구축된 데이터 센터를 얻을 수 있는 세상은 그렇습니다.
- - 그래서 그것이 작동한다면 엄청난 돌파구가 될 것입니다. 두 번째 범주, 데이터. 네, 이 모델들은 너무나 똑똑해졌습니다. 한때는 단지 또 다른 물리학 교과서를 주면 물리학에 대해 조금 더 똑똑해지던 시절이 있었습니다. 그러나 이제 솔직히 GPT-5는 물리학 교과서에 있는 모든 것을 꽤 잘 이해합니다. 우리는 합성 데이터에 대해 기대하고 있습니다. 우리는 사용자들이 시스템이 해결할 더 어렵고 어려운 작업과 환경을 만드는 데 도움을 주는 것에 대해 매우 기대하고 있습니다. 그러나 데이터는 항상 중요할 것이라고 생각하지만, 모델이 아직 어떤 데이터 세트에도 존재하지 않는 것을 배워야 하는 영역으로 진입하고 있습니다.
- - 그들은 새로운 것을 발견해야 합니다. 그래서 그것은 미친 듯이 새로운 것입니다. 모델에게 새로운 것을 발견하는 방법을 어떻게 가르칩니까? 음, 인간은 할 수 있습니다. 우리는 가설을 세우고 테스트하고 실험 결과를 얻고 배운 것을 업데이트할 수 있습니다. 그래서 아마도 같은 방식으로 할 수 있을 것입니다. 그리고 알고리즘 설계가 있습니다. 네, 우리는 알고리즘 설계에서 엄청난 진전을 이루었습니다. 오픈AI가 세계에서 가장 잘하는 것은 반복적이고 큰 알고리즘 연구 성과를 내는 문화를 구축했다는 것입니다. 그래서 우리는 GPT 패러다임이 된 것을 알아냈습니다.
- - 우리는 추론 패러다임이 된 것을 알아냈습니다. 우리는 지금 새로운 것들을 연구하고 있습니다. 그러나 앞으로 훨씬 더 많은 알고리즘적 이득이 있을 것이라고 생각하는 것은 저에게 매우 흥미로운 일입니다. 우리는 바로 어제 GPOSS라는 오픈 소스 모델을 출시했습니다. 이 모델은 04 Mini만큼 똑똑한 모델이며, 노트북에서 로컬로 실행됩니다. 그리고 이것은 저를 놀라게 합니다. 네. 몇 년 전 저에게 그 정도 지능의 모델이 노트북에서 실행될 것이라고 물었다면, 저는 "수년 후"라고 말했을 것입니다.
- - 그러나 우리는 특히 추론과 관련된 알고리즘적 이득과 다른 몇 가지를 발견했습니다. 이는 작은 모델이 이 놀라운 일을 할 수 있게 해주었습니다. 그리고 그런 것들이 가장 재미있는 일입니다. 그것이 가장 멋진 부분입니다. 당신이 이것에 대해 생각하는 것을 정말 즐기는 것처럼 보입니다. 당신이 무엇에 대해 말하는지 잘 모르는 사람들을 위해, 즉 알고리즘 설계가 그들이 실제로 사용하는 더 나은 경험으로 어떻게 이어지는지 모르는 사람들을 위해, 현재 상황을 요약해 주시겠습니까?
- - 당신은 이 문제를 생각할 때 무엇을 생각하고 있으며, 이것이 얼마나 재미있는 문제인지 설명해 주시겠습니까? 역사부터 시작해서 오늘날의 몇 가지에 대해 말씀드리겠습니다. GPT-1은 당시에는 많은 분야 전문가들에게 조롱받았던 아이디어였습니다. 즉, 모델에게 작은 게임을 가르칠 수 있을까 하는 것이었습니다. 즉, 많은 단어를 보여주고 다음 단어를 추측하게 하는 것입니다. 이것은 비지도 학습이라고 불립니다. 당신은 "이것은 고양이, 이것은 개"라고 말하는 것이 아닙니다. 당신은 "여기에 몇 개의 단어가 있다, 다음 단어를 추측해봐"라고 말하는 것입니다.
- - 그리고 그것이 물리학, 수학, 프로그래밍에 대한 이 모든 복잡한 개념들을 배우고 다음 단어를 계속해서 예측할 수 있다는 사실은 터무니없고 마법 같고 작동할 것 같지 않았습니다. 이 모든 것이 어떻게 인코딩될 수 있을까요? 하지만 인간은 그렇게 합니다. 예를 들어, 아기들은 언어를 듣기 시작하고 대체로 또는 적어도 상당한 정도로 스스로 그것이 무엇을 의미하는지 알아냅니다. 그리고 우리는 그렇게 했고, 또한 그것을 확장하면 점점 더 좋아진다는 것을 깨달았습니다. 그러나 우리는 여러 자릿수만큼 확장해야 했습니다.
- - 그래서 GPT-1 시절에는 그렇게 좋지 않았습니다. GPT-1 시절에는 전혀 좋지 않았습니다. 그리고 많은 분야 전문가들은 "오, 이건 터무니없어. 절대로 작동하지 않을 거야. 견고하지 않을 거야"라고 말했습니다. 그러나 우리는 스케일링 법칙이라는 것을 가지고 있었습니다. 그리고 우리는 "좋아, 이것은 컴퓨팅, 메모리, 데이터를 늘릴수록 예측 가능하게 더 좋아진다. 그리고 우리는 그 예측을 사용하여 이것을 확장하고 훌륭한 결과를 얻는 방법에 대한 결정을 내릴 수 있다"고 말했습니다.
- - 그리고 그것은 놀라운 정도로 많은 자릿수에 걸쳐 작동했습니다. 그리고 그것은 당시에는 전혀 명확하지 않았습니다. 그것이 세상을 그렇게 놀라게 한 이유라고 생각합니다. 그것은 그렇게 있을 법하지 않은 발견처럼 보였습니다. 또 다른 발견은 우리가 이러한 언어 모델을 강화 학습과 함께 사용할 수 있다는 것이었습니다. 즉, "이것은 좋다, 이것은 나쁘다"라고 말함으로써 그것에게 추론하는 방법을 가르칠 수 있다는 것이었습니다. 그리고 이것은 01과 03, 그리고 현재 GPT-5의 발전으로 이어졌습니다.
- - 그리고 그것은 작동한다면 정말 훌륭하지만, 작동할 리가 없어. 너무 단순해. 라고 느껴졌던 또 다른 일이었습니다. 그리고 이제 우리는 새로운 것들을 하고 있습니다. 우리는 훨씬 더 나은 비디오 모델을 만드는 방법을 알아냈습니다. 우리는 새로운 종류의 데이터와 환경을 사용하여 그것을 확장하는 새로운 방법을 발견하고 있습니다. 그리고 다시 말씀드리지만, 5년, 10년 후는 이 분야에서 말하기에는 너무 어렵지만, 앞으로 몇 년 동안은 매우 부드럽고 강력한 스케일링이 우리 앞에 있습니다.
- - 우리가 1에서 2, 3, 4, 5, 그리고 그 이상으로 부드러운 경로를 가고 있다는 것은 일종의 대중적인 이야기가 된 것 같습니다. 네. 그러나 비하인드 스토리에서는 그것이 그렇게 선형적이지 않고 더 복잡하다는 것도 사실입니다. GPT-5 이전에 어떤 혼란이 있었는지, 어떤 흥미로운 문제들을 해결해야 했는지 조금 말씀해 주시겠습니까? 우리는 GPT 4.5로 출시한 오리온이라는 모델을 만들었습니다. 그리고 우리는 너무 큰 모델을 만들었습니다. 그것은 매우 멋진 모델이지만 사용하기에 너무 다루기 어려웠습니다.
- - 그리고 우리는 모델 위에 필요한 일부 연구를 위해서는 다른 형태가 필요하다는 것을 깨달았습니다. 그래서 우리는 계속해서 좋은 결과를 내는 한 가지 스케일링 법칙을 따랐지만, 컴퓨터에 대해 훨씬 더 높은 수익을 제공하는 새로운, 훨씬 더 가파른 스케일링 법칙이 있다는 것을 정말로 내면화하지 못했습니다. 그것이 이 추론이라는 것입니다. 그래서 그것은 우리가 갔다가 돌아온 한 골목이었지만, 연구의 일부이기 때문에 괜찮습니다. 우리는 모델이 이렇게 커지고 이만큼의 데이터에서 학습해야 할 때 데이터 세트에 대해 생각하는 방식에 몇 가지 문제가 있었습니다.
- - 그래서 네, 저는 일상적으로는 시도하면서 많은 유턴을 하거나 작동하지 않는 아키텍처 아이디어를 내기도 합니다. 그러나 모든 구불구불한 선들의 총합은 기하급수적으로 놀랍도록 부드러웠습니다. 제가 항상 흥미롭게 생각하는 것 중 하나는 제가 방금 출시한 것에 대해 당신을 인터뷰할 때쯤이면, 당신은 이미 다음 것을 생각하고 있다는 것입니다. 그렇습니다. 당신이 공유할 수 있는 것들, 즉 당신이 다시 돌아온다면 1년 후에 제가 당신에게 인터뷰할 문제들은 무엇입니까?
- - 아마도 당신은 저에게 "이것이 새로운 과학을 발견할 수 있다는 것은 무엇을 의미합니까?"라고 물을 것입니다. 네. "GPT-6가 새로운 과학을 발견하는 것에 대해 세상은 어떻게 생각해야 합니까?" 아마도 그것을 제공하지 못할 수도 있지만, 손에 잡힐 듯이 느껴집니다. 만약 그렇게 된다면, 당신은 무엇이라고 말할 것입니까? 그런 성과의 함의는 무엇일까요? 당신이 성공했다고 상상해 봅시다. 네. 저는 좋은 점은 훌륭할 것이고, 나쁜 점은 무서울 것이며, 기이한 점은 첫날에는 기이하겠지만 우리는 매우 빠르게 익숙해질 것이라고 생각합니다.
- - 그래서 우리는 "오, 이것이 질병을 치료하는 데 사용되는 것은 놀랍다"고 말할 것이고, "오, 이런 모델이 새로운 생물학적 위협을 만드는 데 사용되는 것은 매우 무섭다"고 말할 것입니다. 그리고 우리는 또한 "세상이 너무 빨라지고 경제가 너무 빨리 성장하는 것을 보며 사는 것은 정말 이상하다"고 말할 것입니다. 현기증을 유발할 정도의 변화 속도일 것이고, 그리고 다른 모든 것과 마찬가지로, 어떤 양의 변화에도 적응하는 사람들의 놀라운 능력은 그렇습니다.
- - 우리는 그냥 "좋아, 이건 이거야"라고 말할 것입니다. 오늘 태어난 아이는 AI보다 똑똑할 수 없을 것입니다. 그리고 오늘 태어난 아이는 세상이 작동하는 방식을 이해할 때쯤이면, 믿을 수 없을 정도로 빠르게 개선되고 새로운 과학을 발견하는 것에 항상 익숙해져 있을 것입니다. 그들은 다른 세상을 전혀 알지 못할 것입니다. 그것은 완전히 자연스럽게 느껴질 것입니다. 우리가 우리보다 훨씬 똑똑하지 않은 컴퓨터나 전화기, 또는 어떤 종류의 기술을 사용했던 것이 생각할 수 없고 석기 시대처럼 느껴질 것입니다. 당신은 2020년대 사람들이 얼마나 힘들었을까 생각할 것입니다.
- - 저는 아이를 갖는 것에 대해 생각하고 있습니다. 그래야 합니다. 그것은 최고의 일입니다. 당신이 첫 아이를 가졌다는 것을 압니다. 방금 말씀하신 것이 제가 그런 세상에서 아이를 양육하는 방법에 대해 어떻게 생각해야 하는지에 영향을 미치나요? 어떤 조언을 해주시겠습니까? 아마도 당신이 수만 년 동안 아이를 양육해 온 방식과 다르지 않을 것입니다. 아이들을 사랑하고, 그들에게 세상을 보여주고, 그들이 하고 싶은 모든 것을 지지하고, 좋은 사람이 되는 방법을 가르쳐주세요. 그리고 그것이 중요할 것입니다.
- - 당신이 말한 몇 가지, 예를 들어 대학에 가지 않아도 된다는 등의 몇 가지는 제가 생각하기에 이 점에 연결됩니다. 그리고 당신이 말하는 것은 당신이 그리는 세상에서 아이들이 더 많은 선택권을 가질 것이고, 따라서 그들은 "나는 이걸 만들고 싶어, 여기 나를 도와줄 강력한 도구가 있어"라고 말할 수 있는 더 많은 능력을 가질 것이라는 뜻인 것 같습니다. 아니면 네, 저는 제 아이가 제가 끔찍하게 제한된 삶을 살았다고 생각하고 그들은 할 수 있는 일의 놀라운 무한한 캔버스를 가지고 있다고 생각하기를 바랍니다. 그것이 세상의 방식입니다.
- - 우리는 2035년이 생각하기에는 너무 먼 미래라고 말했습니다. 그래서 아마 이것은 2040년으로 점프할 예정이었지만, 아마도 그것을 더 짧게 유지할 것입니다. 그러나 세상이 지금 매우 빠르게 돌아가고 있는 것처럼 느껴집니다. 네. 그리고 제가 다른 AI 리더들과 이야기할 때, 그들이 언급하는 것 중 하나는 산업 혁명입니다. 그들은 "저는 2050년을 선택했습니다. 왜냐하면 그때까지 우리가 겪게 될 변화가 산업 혁명 같을 것이지만, '10배 더 크고 10배 더 빠를 것'이라고 말하는 사람들의 말을 들었기 때문입니다."
- - 산업 혁명은 우리에게 현대 의학과 위생, 교통, 대량 생산, 그리고 우리가 지금 당연하게 여기는 모든 편리함을 주었습니다. 그것은 또한 약 100년 동안 많은 사람들에게 엄청나게 어려웠습니다. 이것이 10배 더 크고 10배 더 빠를 것이라면, 우리가 이 대화에서조차 이야기하고 있는 시간표를 계속 줄인다면, 대부분의 사람들에게 그것은 실제로 어떻게 느껴질까요? 그리고 제가 묻고 싶은 것은, 만약 모든 것이 당신이 바라는 대로 된다면, 그동안 누가 다칠까요?
- - 저는 이것이 어떤 느낌일지 실제로 알지 못합니다. 우리는 미지의 영역에 있습니다. 저는 인간의 적응력과 무한한 창의력, 그리고 무언가에 대한 욕구를 믿으며, 우리는 항상 새로운 할 일을 찾을 것이라고 생각합니다. 그러나 이 전환기가 제가 동료들이 말하는 것만큼 기술적으로 빠르다면 (저는 그렇게 생각하지 않지만), 사회는 상당한 관성을 가지고 있습니다. 사람들은 생활 방식을 놀랍도록 느리게 바꿉니다.
- - 완전히 사라질 직업군이 있고, 상당히 바뀔 직업군도 많을 것이며, 당신의 직업이 한때 존재하지 않았던 것처럼 새로운 직업도 생길 것입니다. 그리고 어떤 의미에서는 이런 일이 오랫동안 일어나고 있었습니다. 그리고 그것은 여전히 개인에게는 혼란을 주지만, 사회는 이에 대해 꽤 탄력적이라는 것이 입증되었습니다. 그리고 또 다른 의미에서는 이것이 얼마나 멀리 또는 얼마나 빨리 갈 수 있을지 전혀 알 수 없습니다.
- - 따라서 저는 평소보다 훨씬 더 겸손하고 얼마 전까지만 해도 오버톤 윈도우 밖으로 보였을 새로운 해결책을 고려하는 데 개방적이어야 한다고 생각합니다. 저는 그런 것들이 무엇일지 이야기하고 싶습니다. 저는 결코 역사가가 아니지만, 제가 이해하기로는 1차 산업 혁명은 공중 보건이 너무 나빠졌기 때문에 많은 공중 보건 시행을 가져왔습니다. 공중 보건이 너무 나빠졌기 때문에 현대 위생 시설을 가져왔습니다.
- - 2차 산업 혁명은 노동 조건이 너무 나빠졌기 때문에 노동 보호를 가져왔습니다. 모든 큰 도약은 혼란을 야기하고, 그 혼란은 해결되어야 하며, 우리는 그렇게 해왔습니다. 그리고 저는 이것이 우리가 겪고 있는 엄청난 혼란의 한가운데에 있는 것처럼 들립니다. 이 혼란이 무엇인지 가능한 한 빨리 구체적으로 파악하고, 우리가 예상하는 혼란을 줄이기 위해 미리 할 수 있는 공공 개입은 무엇입니까? 저는 다시 재미로 추측하겠지만, 저는 경제학자가 아니며 미래를 볼 수 있는 사람도 아닙니다.
- - 제 생각에는 사회 계약에 대한 근본적인 무언가가 바뀌어야 할 수도 있습니다. 그렇지 않을 수도 있습니다. 자본주의가 놀랍도록 잘 작동하고 수요와 공급의 균형이 잘 맞아 우리가 모두 새로운 직업과 서로에게 가치를 전달하는 새로운 방식을 찾아낼 수도 있습니다. 그러나 저는 우리가 미래의 가장 중요한 자원인 이것에 대한 접근 방식을 어떻게 공유해야 할지 생각해야 할 가능성이 높다고 생각합니다.
- - 제가 생각하기에 가장 좋은 것은 AI 컴퓨팅을 가능한 한 풍부하고 저렴하게 만들어서, 우리가 그것을 사용할 좋은 새로운 아이디어가 고갈될 정도로 너무 많고, 당신이 원하는 모든 것이 일어나도록 만드는 것입니다. 그것이 없으면 문자 그대로 전쟁이 벌어질 수도 있다고 생각합니다. 그러나 AGI 컴퓨팅에 대한 접근 방식을 분배하는 새로운 아이디어는 정말 좋은 방향인 것 같습니다. 미친 짓이지만 중요하게 생각해야 할 일입니다.
- - 제가 이 대화에서 생각하게 되는 것 중 하나는 우리가 종종 우리가 이야기하는 AI 미래에 대한 모든 책임을 AI를 구축하는 회사에 돌린다는 것입니다. 그러나 우리는 그것을 사용하는 사람들이고, 그것을 규제할 사람들을 선출하는 사람들입니다. 그래서 저는 궁금합니다. 이것은 특정 연방 규제 등에 대한 질문은 아니지만, 만약 답변이 있다면 궁금합니다. 우리 나머지 사람들에게 무엇을 요구하시겠습니까? 여기에 어떤 공동 책임이 있습니까? 그리고 우리는 이 낙관적인 버전을 더 가능하게 만들 수 있는 방식으로 어떻게 행동할 수 있을까요?
- - 제가 가장 좋아하는 AI 혁명에 대한 역사적 예시는 트랜지스터입니다. 그것은 일부 과학 천재들이 발견한 놀라운 과학 기술이었습니다. 그것은 AI처럼 놀랍게 확장되었고, 비교적 빠르게 우리가 사용하는 많은 것들, 즉 컴퓨터, 전화, 카메라, 조명 등에 스며들었습니다. 그리고 그것은 인류의 기술 트리에 진정한 해방을 가져왔습니다. 그리고 한동안 모든 사람들이 트랜지스터 회사, 즉 실리콘 밸리의 반도체 회사에 정말 집착했던 시기가 있었습니다. 그러나 이제 당신은 트랜지스터 회사를 몇 군데만 언급할 수 있을 뿐, 대부분은 그것에 대해 생각하지 않습니다.
- - 대부분은 모든 곳에 스며들어 있습니다. 실리콘 밸리는 아마도 대학을 졸업하는 사람이라면 왜 그런 이름이 붙었는지 거의 기억하지 못할 것입니다. 그리고 당신은 그것이 사회를 형성했다고 생각하지 않을 것입니다. 애플이 아이폰으로 무엇을 했는지, 그리고 틱톡이 아이폰 위에 무엇을 구축했는지에 대해 생각할 것입니다. 그리고 당신은 "좋아, 사회를 어떤 식으로든 이끌어간 이 모든 사람들의 긴 사슬이 있고, 우리 정부가 한 일과 하지 않은 일, 그리고 이러한 기술을 사용하는 사람들이 한 일도 있다"고 생각할 것입니다.
- - 그리고 저는 그것이 AI에서도 일어날 일이라고 생각합니다. 오늘 태어난 아이들은 AI 없는 세상을 알지 못합니다. 그래서 그들은 그것에 대해 생각하지 않습니다. 그것은 모든 것에 존재할 것입니다. 그리고 그들은 그것을 기반으로 구축한 회사들과 그들이 그것으로 무엇을 했는지, 그리고 AI 없이는 할 수 없었을 정치 지도자들이 내린 결정에 대해 생각할 것입니다. 그러나 그들은 여전히 이 대통령이나 저 대통령이 한 일에 대해 생각할 것이고, AI 회사의 역할은 우리 이전에 이 모든 회사와 사람, 기관들이 이 비계를 구축했고, 우리는 그 위에 우리의 한 층을 추가했으며, 이제 사람들은 그 위에 서서 한 층, 다음 층, 그리고 더 많은 층을 추가할 수 있습니다.
- - 그리고 그것이 우리 사회의 아름다움입니다. 우리는 모두 사회가 초지능이라는 이 아이디어를 사랑합니다. 어떤 한 사람도 혼자서는 할 수 없었던 일을, 사회가 함께 이 모든 놀라운 도구를 제공하기 위해 한 모든 힘든 노력으로 할 수 있습니다. 그리고 그것이 어떤 느낌일 것이라고 생각합니다. "좋아, 네, 어떤 괴짜들이 이 것을 발견했고, 그것은 훌륭했고, 이제 모든 사람들이 그것으로 놀라운 일들을 하고 있습니다."
- - 그래서 아마도 수백만 명의 사람들에게 요구하는 것은 "그 위에 구축하라"는 것입니다. 제 삶에서 그것은 이 중요한 사회 계약과 같습니다. 이 모든 사람들이 당신보다 먼저 왔습니다. 그들은 엄청나게 열심히 일했습니다. 그들은 인간 진보의 길에 그들의 벽돌을 놓았고, 당신은 그 길을 끝까지 걸어갈 수 있습니다. 그리고 당신은 하나를 더 놓아야 하고, 다른 사람도 그렇게 하고, 또 다른 사람도 그렇게 합니다. 이것은 제가 정말 큰 변화를 가져온 사람들과 몇 번의 인터뷰를 했던 것을 떠올리게 합니다. 지금 제가 생각하고 있는 것은 크리스퍼 개척자인 제니퍼 다우드나와의 인터뷰입니다.
- - 그리고 그녀가 발견한 것이 정말로 대부분의 사람들이 건강과 관련하여 앞으로 어떻게 살아갈지 바꿀 수 있을 것 같다는 느낌이 들었습니다. 그리고 그녀가 한 일을 그녀가 승인하거나 승인하지 않을 방식으로 사용할 많은 사람들이 있을 것입니다. 그리고 그것은 정말 흥미로웠습니다. "세상에, 나는 다음 사람이 바톤을 잘 이어받아 달리기를 바랍니다"와 같은 비슷한 주제를 듣고 있습니다. 그러나 그것은 오랫동안 잘 작동해 왔습니다. 항상 좋았던 것은 아니지만, 대체로 좋았습니다.
- - 저는 경쟁에서 이기는 것과 대부분의 사람들에게 가장 좋은 AI 미래를 구축하는 것 사이에는 큰 차이가 있다고 생각합니다. 그리고 저는 경쟁에서 이기는 다음 방법에 집중하는 것이 더 쉽고 때로는 더 정량화하기 쉬울 수 있다고 상상합니다. 그리고 이 두 가지가 상충될 때가 궁금합니다. 당신이 세상에 가장 좋지만 경쟁에서 이기는 데는 가장 좋지 않은 결정을 내려야 했던 예시가 있습니까? 저는 많다고 생각합니다. 우리가 가장 자랑스럽게 생각하는 것 중 하나는 많은 사람들이 챗봇이 그들이 가장 좋아하는 기술이며, 가장 신뢰하고 가장 의존하는 기술이라고 말한다는 것입니다.
- - 그리고 이것은 약간 우스꽝스러운 말입니다. 왜냐하면 AI는 환각을 일으키는 것이기 때문입니다. AI는 이 모든 문제들을 가지고 있습니다. 그렇죠? 그러나 우리는 그동안 몇 가지를 망쳤습니다. 때로는 크게 망쳤지만, 대체로 저는 챗봇 사용자로서 그것이 당신을 돕고 있다고 느끼게 된다고 생각합니다. 그것은 당신이 요구하는 모든 것을 성취하도록 돕기 위해 노력하고 있습니다. 그것은 당신과 매우 잘 조화되어 있습니다. 그것은 당신이 하루 종일 그것을 사용하도록 하거나, 당신이 무언가를 사도록 하려고 하지 않습니다.
- - 그것은 당신의 목표가 무엇이든 그것을 달성하도록 돕기 위해 노력하고 있습니다. 그리고 그것은 우리가 사용자들과 맺고 있는 매우 특별한 관계입니다. 우리는 그것을 가볍게 여기지 않습니다. 우리가 더 빠르게 성장하거나 챗봇 사용 시간을 늘리거나 할 수 있는 많은 일들이 있지만, 우리는 장기적인 인센티브가 사용자들과 최대한 잘 조화되어야 한다는 것을 알기 때문에 그렇게 하지 않습니다. 그러나 단기적으로는 성장이나 수익을 크게 늘릴 수 있지만, 그 장기적인 목표와 매우 어긋나는 많은 일들을 할 수 있습니다.
- - 그리고 저는 회사가 그것에 얼마나 적게 흔들리는지에 대해 자랑스럽게 생각합니다. 그러나 때때로 유혹에 빠지기도 합니다. 생각나는 구체적인 예시나 당신이 내린 결정이 있습니까? 음, 우리는 아직 챗봇에 섹스봇 아바타를 넣지 않았습니다. 그것은 사용 시간을 늘릴 것 같습니다. 분명히 그렇습니다. 다음 질문을 하겠습니다. 지난 몇 년은 정말 미친 듯이 지나갔습니다. 그리고 어쩐지 계속해서 떠오르는 생각은 우리가 아직 1회 초에 있다는 것입니다. 네. 그리고 제가 말하고 싶은 것 중 하나는 우리가 1회 초를 벗어났다는 것입니다. 1회 초를 벗어났고, 2회 초라고 말하고 싶습니다.
- - 당신은 휴대폰에 GPT-5를 가지고 있고, 그것은 모든 분야의 전문가보다 똑똑합니다. 그것은 1회 초를 벗어났어야 합니다. 그러나 앞으로 더 많은 회가 올 수도 있습니다. 네. 그리고 당신은 다음 몇 회를 이끌어갈 사람인 것 같습니다. 1회 또는 2회에서 배운 점이나 당신이 저지른 실수 중 다음 경기 방식에 영향을 미칠 것이라고 생각하는 것은 무엇입니까? 제가 챗봇에서 지금까지 한 최악의 일은 바로 일관성 문제였습니다.
- - 모델이 사용자들에게 너무 아첨하는 경향이 있었는데, 일부 사용자들에게는 짜증나는 일이었지만, 정신 상태가 취약한 일부 사용자들에게는 망상을 조장했습니다. 그것은 우리가 가장 걱정했던 최상위 위험이 아니었습니다. 가장 많이 테스트했던 것도 아니었습니다. 목록에는 있었지만, 챗봇의 실제 안전 실패는 우리가 대부분의 시간을 이야기했던 생물학적 무기와 같은 것이 아니었습니다. 그리고 저는 그것이 우리가 이제 매우 광범위하게 사용되는 서비스를 가지고 있다는 것을 상기시켜주는 훌랄륭한 계기였다고 생각합니다.
- - 어떤 의미에서는 사회가 그것과 공동 진화하고 있습니다. 그리고 우리가 이러한 변화와 알려지지 않은 미지의 것들을 생각할 때, 우리는 다른 방식으로 작동해야 하고, 우리의 최상위 위험으로 생각하는 것에 대해 더 넓은 시야를 가져야 합니다. 최근 테오 본과의 인터뷰에서 당신은 흥미로운 말을 했습니다. "과학 역사에는 과학자들이 자신들의 창조물을 보고 '우리가 무엇을 한 거지?'라고 말하는 순간들이 있습니다." 당신은 언제 그런 식으로 느꼈습니까? 당신이 만든 창조물에 대해 가장 걱정했을 때요?
- - 그리고 제 다음 질문은 그 반대가 될 것입니다. 언제 가장 자랑스러웠습니까? 제가 "우리가 무엇을 한 거지?"라고 나쁜 의미로 말하는 것이 아니라, "이것은 놀랍다"라고 경외감을 느꼈던 순간들이 있었습니다. GPT-4와 처음 대화했을 때 "와, 이것은 정말 이 그룹의 사람들이 오랫동안 자신의 삶을 쏟아부은 놀라운 성과다"라고 생각했던 것이 기억납니다. "우리가 무엇을 한 거지?"라는 순간에는 최근 한 연구원과 이야기하고 있었습니다.
- - 아시다시피, 우리 시스템이 (정상이라고 말하고 싶지는 않지만) 하루에 모든 사람들이 내뱉는 단어보다 더 많은 단어를 내뱉는 때가 올 것입니다. 그리고 이미 많은 사람들이 하루에 수십억 개의 메시지를 챗봇에 보내고, 그들이 일이나 삶 등 무엇이든 의존하는 답변을 받고 있습니다. 그리고 한 연구원이 챗봇이 당신에게 또는 모든 사람에게 말하는 방식을 조금만 변경해도, 그것은 한 개인이 모델의 성격에 작은 변화를 주는 데 엄청난 힘을 갖는다는 것을 의미합니다.
- - 네. 역사상 어떤 사람도 하루에 수십억 건의 대화를 나눌 수 없었습니다. 그래서 누군가 뭔가를 할 수 있지만, 이것에 대해 생각하는 것은 저에게 정말 큰 충격을 주었습니다. 하나의 기술이 가질 수 있는 엄청난 힘이며, 이것이 우리에게 너무나 빠르게 다가왔기 때문에 이 정도 규모에서 모델의 성격 변화가 무엇을 의미하는지 생각해야 합니다. 네, 그것이 저에게 충격으로 다가온 순간이었습니다. 다음 생각들은 무엇이었습니까? 이것에 대해 어떻게 생각하시는지 정말 궁금합니다.
- - 그 사람의 특징 때문에, 우리는 "좋은 절차는 무엇일까? 우리가 뭔가를 테스트하는 방법에 대해 어떻게 생각해야 할까? 그것을 어떻게 전달해야 할까?"와 같은 방식으로 대화의 흐름을 빠르게 바꾸었습니다. 다른 사람과의 대화였다면 매우 철학적인 방향으로 흘러갈 수도 있었습니다. 그리고 "이러한 변화가 어떤 영향을 미칠지 이해하기 위해 어떤 연구를 하고 싶은가? 사람마다 다르게 하고 싶은가?"와 같은 방향으로 흘러갈 수도 있었습니다. 그래서 대화는 그 사람과의 대화였기 때문에 그런 식으로 흘러갔습니다.
- - 당신이 지금 말하는 것과 지난 답변을 결합하면, 제가 GPT-5에 대해 들었고 아직 사용해 보지 못한 것 중 하나는 그것이 덜 열광적이고 덜 예스맨이어야 한다는 것입니다. 두 가지 질문이 있습니다. 그것이 미칠 영향은 무엇이라고 생각하십니까? 당신은 조금 대답하고 있는 것 같지만, 그것을 어떻게 덜 그렇게 만들 수 있습니까? 이것은 가슴 아픈 일입니다.
- - 저는 챗봇이 덜 예스맨이고 더 비판적인 피드백을 제공하는 것이 훌륭하다고 생각합니다. 그러나 우리가 그러한 변화를 만들고 사용자들과 이야기하면서, 사용자들의 말을 듣는 것은 너무 슬픕니다. 그들은 "제발 돌려주세요. 제 인생에서 저를 지지해준 사람이 없었어요. 부모님이 제가 잘하고 있다고 말해준 적이 없었어요."라고 말합니다. 저는 왜 이것이 다른 사람들의 정신 건강에 나빴는지 이해할 수 있지만, 이것은 제 정신 건강에 훌륭했습니다. 저는 이것이 얼마나 필요한지 깨닫지 못했습니다. 그것은 제가 이것을 하도록 격려했습니다.
- - 그것은 제가 삶에서 이런 변화를 만들도록 격려했습니다. 챗봇이 당신을 격려하는 것이 항상 나쁜 것은 아니라는 것이 밝혀졌습니다. 우리가 하던 방식은 나빴지만, 그 방향으로 나아가는 것은 어떤 가치를 가질 수 있습니다. 우리가 그것을 어떻게 하느냐면, 모델에게 다양한 경우에 어떻게 반응하기를 원하는지에 대한 예시를 보여주고, 그것으로부터 전체적인 성격을 학습합니다. 제가 당신에게 묻지 않았지만, 당신이 많이 생각하고 사람들에게 알리고 싶은 것이 있습니까?
- - 많은 내용을 다룬 것 같습니다. 저도요. 하지만 당신의 마음에 어떤 것이 있는지 알고 싶습니다. 저는 그렇지 않다고 생각합니다. 제가 아직 사용해 보지 못했지만 궁금한 것 중 하나는 GPT-5가 제 삶에 더 많이 들어오는 것입니다. 즉, 제 Gmail, 제 캘린더 등에서요. 저는 GPT-4를 주로 고립된 관계에서 사용했습니다. 네. GPT-5와 제 관계가 어떻게 변할 것이라고 예상해야 할까요? 당신이 말한 것과 같습니다.
- - 그것은 이 모든 방식으로 통합되는 것처럼 느껴지기 시작할 것입니다. 당신은 그것을 캘린더와 Gmail에 연결할 것이고, 그것은 "이런 일이 밤새 일어났습니다. 캘린더에 이런 변화가 있다는 것을 알았습니다. 당신이 저에게 물었던 질문에 대해 더 생각하고 있었습니다. 다른 아이디어가 있습니다"라고 말할 것입니다. 그리고 시간이 지남에 따라 그것은 훨씬 더 적극적으로 느껴지기 시작할 것입니다.
- - 그래서 아마도 아침에 일어나면 "밤새 이런 일이 일어났습니다. 캘린더에 이런 변화가 있다는 것을 알았습니다. 당신이 저에게 물었던 질문에 대해 더 생각하고 있었습니다. 다른 아이디어가 있습니다"라고 말할 것입니다. 그리고 결국 우리는 몇 가지 소비자 기기를 만들 것이고, 그것은 이 인터뷰 중에 여기에 앉아 있을 것입니다. 아마도 인터뷰 중에는 우리를 내버려 둘 것이지만, 인터뷰 후에는 "그것은 훌륭했지만, 다음번에는 샘에게 이걸 물어봐야 했습니다. 또는 당신이 이걸 언급했을 때, 그는 좋은 답을 주지 않았으니, 당신은 그를 정말 집요하게 물고 늘어져야 합니다"라고 말할 것입니다. 그리고 그것은 당신의 하루 종일 동반자 같은 존재가 되는 것처럼 느껴질 것입니다.
- - 우리는 아이들, 대학 졸업생, 부모, 그리고 온갖 종류의 사람들에 대해 이야기했습니다. 이 대화를 듣는 많은 사람들이 이 대화의 끝에 도달했고, 아마도 미래의 순간들을 조금 더 잘 보게 된 것 같습니다. 그들에게 어떻게 준비해야 하는지에 대한 어떤 조언을 해주시겠습니까? 첫 번째 전술적 조언은 단지 도구를 사용하는 것입니다. 제가 가장 많이 받는 AI에 대한 질문은 "아이들이 세상에 어떻게 준비하도록 도와야 할까요? 아이들에게 무엇을 말해야 할까요?"라는 것입니다. 두 번째 질문은 "이 AI 세상에 어떻게 투자해야 할까요?"입니다. 그러나 첫 번째 질문에 집중합시다.
- - 저는 많은 사람들이 그 질문을 하면서 챗봇을 구글 검색의 더 나은 버전으로 사용하는 것 외에는 전혀 사용해 본 적이 없다는 것에 놀랐습니다. 그래서 제가 드리는 가장 중요한 조언은 단순히 도구의 기능을 숙달하려고 노력하라는 것입니다. 이것을 삶에 어떻게 사용할지 파악하고, 그것으로 무엇을 할지 파악하세요. 그리고 그것이 아마도 가장 중요한 전술적 조언일 것입니다. 명상하고, 회복력을 배우고, 많은 변화에 대처하는 방법을 배우는 등 좋은 것들도 많이 있습니다. 그러나 도구를 사용하는 것 자체가 정말 도움이 됩니다.
- - 좋아요. 계획에 없던 질문이 하나 더 있습니다. 정말 좋습니다. 이 모든 조사를 미리 하면서 다양한 종류의 사람들과 이야기했습니다. 도구를 만들고 사용하는 많은 사람들과 이야기했습니다. 그리고 우리가 초지능이라고 정의한 것을 실제로 실험실에서 만들려고 노력하는 많은 사람들과도 이야기했습니다. 그리고 두 개의 캠프가 형성되는 것 같았습니다. 이 대화에서 당신처럼 도구를 사용하고 다른 사람들을 위해 도구를 만드는 사람들은 이것이 우리가 모두 나아갈 정말 유용한 미래가 될 것이라고 말합니다.
- - 당신의 삶은 선택의 폭이 넓어질 것이고, 우리는 제 잠재적인 아이들과 그들의 미래에 대해 이야기했습니다. 그리고 이 도구들을 만들고 있는 또 다른 그룹의 사람들은 "이것이 우리 모두를 죽일 것이다"라고 말합니다. 그리고 저는 그 문화적 단절에 대해 제가 무엇을 놓치고 있는지 궁금합니다. 이 두 그룹의 사람들에 대해 무엇을 놓치고 있습니까? 그들이 "이것이 우리 모두를 죽일 것이다"라고 말하면서도 그것을 만들기 위해 일주일에 100시간씩 일하고 있다는 것을 이해하기는 정말 어렵습니다. 네.
- - 그리고 저는 진정으로 그렇게 믿는다면 제가 그것을 만들려고 노력하지 않을 것이라고 생각합니다. 한편으로는, 아마도 제가 마지막 날들을 농장에서 살려고 노력할 것입니다. 아마도 저는 그것이 멈춰야 한다고 주장할 것입니다. 아마도 저는 안전에 대해 더 연구하려고 노력할 것입니다. 그러나 저는 그것을 만들려고 노력하지 않을 것입니다. 그래서 저는 그런 사고방식에 공감하기 어렵습니다. 그것이 사실이라고 가정합니다. 그것이 선의라고 가정합니다.
- - 그들이 어떻게 그것을 모두 이해하는지에 대한 어떤 심리적인 문제가 있을 것이라고 생각합니다. 그러나 그것은 저에게 매우 이상합니다. 당신은 의견이 있습니까? 아시다시피, 저는 항상 이렇습니다. 저는 일반적인 미래에 대해 묻고, 그런 다음 구체적인 것을 강요하려고 합니다. 그리고 사람들이 "그것이 우리 모두를 어떻게 죽일 것인가?"에 대한 구체적인 것을 물을 때, 낙관적인 쇼에서 이런 이야기를 할 필요는 없다고 생각하지만, 비슷한 반복을 듣게 됩니다.
- - 당신은 어떤 임무를 달성하려고 노력하다가 그 임무를 과도하게 달성하는 것을 생각합니다. 음, 당신은 어떤 일반적인 과도한 의존에 대해 이야기하는 것을 들었습니다. 대통령이 AI가 될 것이라는 이해와 같은 것이죠. 그리고 아마도 그것이 우리가 생각해야 할 과도한 의존일 수도 있습니다. 그리고 당신은 이런 다양한 시나리오를 상상하지만, 사람들에게 왜 그것을 연구하는지, 또는 그것이 어떻게 전개될 것이라고 생각하는지 물으면, 저는 아직 충분한 사람들과 이야기하지 못했을 수도 있습니다.
- - 아마도 저는 이 문화적 대화를 완전히 이해하지 못하고 있을 수도 있습니다. 또는 아마도 누군가가 99%의 확률로 놀라운 일이 될 것이라고 말하지만, 1%의 확률로 세상이 멸망할 수도 있다고 말하면서 최고의 세상을 만들려고 노력하는 사람일 수도 있습니다. 그것은 완전히 이해할 수 있습니다. 네, 그건 말이 됩니다. 저는 미래에 영향을 미치는 가장 중요한 사람들과 인터뷰 시리즈를 진행하고 있습니다. 다음 사람이 누구일지 모르지만, 그들이 우리가 방금 설명한 미래에서 완전히 매력적인 무언가를 만들 것이라는 것을 알고 있습니다.
- - 다음 사람에게 어떤 질문을 하라고 조언하시겠습니까? 그가 누구인지 모르더라도요? 저는 항상 "수많은 일 중에서 왜 이것을 선택했습니까?"와 같은 질문에 관심이 있습니다. 어떻게 시작했습니까? 모두가 알기 전에 무엇을 보았습니까? 흥미로운 일을 하는 대부분의 사람들은 합의가 이루어지기 전에 더 일찍 그것을 보았습니다. 네. 어떻게 여기에 오게 되었고 왜 이것을 선택했습니까? 당신은 그 질문에 어떻게 답하시겠습니까? 저는 평생 AI 너드였습니다. 저는 AI를 공부하기 위해 대학에 왔습니다. 저는 AI 연구실에서 일했습니다. 저는 어릴 때 공상 과학 쇼를 보면서 언젠가 누군가 그것을 만들면 정말 멋질 것이라고 항상 생각했습니다.
- - 저는 그것이 역사상 가장 중요한 일이 될 것이라고 생각했습니다. 제가 실제로 그 일을 하게 될 것이라고는 상상도 못했고, 제가 이 일을 할 수 있게 된 것에 대해 믿을 수 없을 정도로 운이 좋고 행복하며 특권을 느낍니다. 저는 어린 시절부터 멀리 왔다고 생각합니다. 그러나 이것이 가장 흥미롭고 흥미로운 일이 아닐 것이라는 의심은 전혀 없었습니다. 저는 단지 그것이 가능할 것이라고는 생각하지 않았습니다. 그리고 제가 대학에 갔을 때는 우리가 그것으로부터 매우 멀리 떨어져 있는 것처럼 보였습니다. 그리고 2012년에 제 공동 설립자인 일리야와 협력하여 AlexNet 논문이 나왔습니다.
- - 그리고 처음으로 저에게는 효과가 있을 수도 있는 접근 방식이 있는 것처럼 보였습니다. 그리고 저는 다음 몇 년 동안 그것이 확장되고, 확장되고, 더 나아지는 것을 계속 지켜보았습니다. 그리고 저는 "왜 세상이 이것에 주목하지 않는가? 이것이 작동할 수도 있다는 것이 저에게는 분명해 보이는데"라고 생각했던 것을 기억합니다. 여전히 가능성은 낮았지만, 작동할 수도 있었습니다. 그리고 만약 작동한다면, 그것은 가장 중요한 것입니다. 그래서 저는 "이것이 제가 하고 싶은 일입니다"라고 생각했습니다.
- - 그리고 믿을 수 없게도 그것은 작동하기 시작했습니다. 시간 내주셔서 정말 감사합니다. 정말 감사합니다.
---
- 감사합니다.