240513 Elon Musk: Digital Superintelligence, Multiplanetary Life, How to Be Useful 일론 머스크: 디지털 초지능, 다행성 생명체, 유용해지는 법 Elon Musk
우리는 지능의 빅뱅 아주 초기 단계에 있습니다. 다행성 종이 되는 것은 문명이나 의식 또는 생물학적 지능과 디지털 지능 모두의 예상 수명을 크게 늘립니다. 저는 디지털 초지능에 아주 가깝다고 생각합니다. 올해 일어나지 않는다면 내년에는 확실히 일어날 것입니다.
일론 머스크에게 박수 부탁드립니다 일론 AI 스타트업 스쿨에 오신 것을 환영합니다 오늘 이 자리에 함께해 주셔서 정말 축복입니다 초대해 주셔서 감사합니다 스페이스X 테슬라 뉴럴링크 XAI 등에서 일하시기 전 이 모든 것을 시작하기 전에 무언가 대단한 것을 만들어야겠다고 느낀 순간이 있었나요 무엇이 그 스위치를 켰나요 음 저는 원래 대단한 것을 만들리라고 생각하지 않았습니다 저는 유용한 것을 만들려고 노력했지만 특별히 대단한 것을 만들리라고는 생각하지 않았습니다 확률적으로는 그럴 것 같지 않았지만 적어도 시도해보고 싶었습니다.
그래서 지금 기술 엔지니어로 가득 찬 방에 계시는데 종종 가장 저명한 AI 연구자들이 이 분야에 뛰어들고 있습니다 좋습니다 저는 우리가 해야 한다고 생각합니다 저는 연구원보다는 엔지니어라는 용어를 더 좋아합니다 제 생각에 근본적인 알고리즘적 돌파구가 있다면 그것은 연구이지만 그렇지 않다면 엔지니어링입니다 아주 오래전으로 돌아가 볼까요 이곳은 18세에서 25세로 가득 찬 방입니다 창업자들의 나이가 점점 어려지기 때문에 나이대가 더 낮습니다 당신이 18 19세에 코딩을 배우고 심지어 Zip2에 대한 첫 아이디어를 냈을 때 그들의 입장이 되어볼 수 있을까요 어떠셨나요.
네 95년에 저는 선택의 기로에 놓였습니다 스탠포드에서 재료 과학 분야에서 박사 학위를 취득하여 전기차용 울트라 커패시터에 대해 연구하며 전기차의 주행 거리 문제를 해결하는 것이었습니다 아니면 대부분의 사람들이 들어보지 못한 인터넷이라는 것에 도전하는 것이었습니다 저는 재료 과학 분야의 빌 닉스 교수님과 이야기하며 학기를 연기할 수 있는지 물었습니다 왜냐하면 이것은 아마 실패할 것이고 그러면 다시 학교로 돌아와야 할 것이기 때문입니다 그러자 교수님은 이것이 아마 우리의 마지막 대화가 될 것이라고 말했습니다.
그가 옳았습니다 저는 모든 것이 성공하기보다는 실패할 가능성이 더 크다고 생각했습니다 95년에 저는 인터넷 지도 길찾기 인터넷 백과사전 그리고 전화번호부를 처음으로 또는 거의 처음으로 만들었습니다 저는 직접 그 프로그램을 작성했고 웹 서버도 사용하지 않았습니다 그냥 포트를 직접 읽었는데 T1 회선을 감당할 수 없었기 때문입니다 원래 사무실은 팔로 알토의 셔먼 애비뉴에 있었습니다 아래층에 ISP가 있었기 때문에 저는 바닥에 구멍을 뚫고 LAN 케이블을 ISP에 직접 연결했습니다 제 동생과 공동 창업자였던 고 그렉 커리가 저와 함께했습니다 당시 우리는 머물 곳조차 살 수 없어서 사무실이 한 달에 500달러였기 때문에 그냥 사무실에서 잠을 잤고 페이지 밀리노에 있는 YMCA에서 샤워를 했습니다 그리고 네 저는 처음에 Zip2라는 유용한 회사를 운영하게 되었습니다 우리는 정말 훌륭한 소프트웨어 기술을 많이 개발했지만 레거시 미디어 회사들에게 어느 정도 제약을 받았습니다 나이트 뉴욕 타임즈 등은 투자자이자 고객이었고 또한 이사회에도 있었습니다 그래서 그들은 우리 소프트웨어를 말이 안 되는 방식으로 계속 사용하고 싶어 했습니다 그래서 저는 소비자에게 직접 다가가고 싶었습니다 아무튼 Zip2에 대해 너무 길게 이야기했지만 저는 정말 인터넷에서 유용한 일을 하고 싶었습니다 박사 학위를 하고 사람들이 인터넷을 구축하는 것을 지켜보거나 작은 방식으로 인터넷을 구축하는 것을 돕는 두 가지 선택지가 있었습니다 저는 음 시도했다가 실패하면 언제든지 대학원으로 돌아갈 수 있다고 생각했습니다 아무튼 그것은 꽤 성공적이었고 당시로서는 상당한 금액인 3억 달러에 팔렸습니다 요즘에는 AI 스타트업의 최소 입찰액이 10억 달러 정도인 것 같습니다 정말 많은 유니콘들이 있어서 유니콘 무리 같습니다 유니콘은 10억 달러 규모의 상황입니다 그 이후로 인플레이션이 있었기 때문에 실제로는 훨씬 더 많은 돈입니다 네 1995년에는 햄버거 하나를 5센트에 살 수 있었을 것입니다.
음 그 정도는 아니지만 인플레이션이 많이 있었습니다 하지만 AI에 대한 과장된 분위기는 보시다시피 꽤 강렬합니다 1년도 채 되지 않은 회사들이 때로는 10억 달러 또는 수십억 달러의 가치 평가를 받는 것을 볼 수 있습니다 이는 어떤 경우에는 성공할 수도 있고 아마도 성공할 것입니다 하지만 이러한 가치 평가 중 일부를 보면 정말 놀랍습니다 어떻게 생각하시나요 저는 개인적으로 매우 낙관적입니다 솔직히 말해서 저는 이 방에 있는 사람들이 많은 가치를 창출할 것이라고 생각합니다 전 세계 10억 명의 사람들이 이것을 사용해야 합니다 우리는 아직 그것의 표면만 긁고 있습니다 저는 인터넷 이야기를 좋아하는데 그때도 이 방에 있는 사람들과 많이 닮아 있었습니다 모든 레거시 미디어 회사의 CEO들이 당신을 인터넷을 이해하는 사람으로 여겼던 것처럼 AI에서 무슨 일이 일어나고 있는지 이해하지 못하는 많은 세상의 기업 세계와 대중들은 바로 그것을 위해 이 방에 있는 사람들을 찾아볼 것입니다 몇 가지 실질적인 교훈은 무엇일까요 그 중 하나는 이사회 통제권을 포기하지 않거나 매우 좋은 변호사를 두는 것에 조심하라는 것 같습니다 첫 번째 스타트업에서 정말 큰 실수는 레거시 미디어 회사들로부터 너무 많은 주주 및 이사회 통제권을 가졌다는 것입니다 그들은 필연적으로 레거시 미디어의 관점에서 사물을 보고 그들에게는 합리적으로 보이지만 새로운 기술과는 맞지 않는 일을 하게 만들 것입니다 제가 처음에는 회사를 시작할 의도가 없었다는 점을 지적해야 합니다 저는 넷스케이프에서 일자리를 얻으려고 했습니다 저는 넷스케이프에 이력서를 보냈고 마크 안드레센도 이 사실을 알고 있습니다 하지만 그는 제 이력서를 보지 못했던 것 같고 아무도 응답하지 않았습니다 그래서 저는 넷스케이프 로비에 어슬렁거리며 누군가와 우연히 마주치려 했지만 너무 수줍어서 아무에게도 말을 걸 수 없었습니다 그래서 저는 이런 생각에 잠겼습니다 이거 말도 안 돼 그냥 내가 직접 소프트웨어를 작성하고 어떻게 되는지 보자 그래서 실제로는.
회사를 시작하고 싶다는 관점에서 출발한 것이 아니었습니다 저는 그냥 어떤 식으로든 인터넷을 구축하는 일에 참여하고 싶었습니다 그리고 인터넷 회사에 취직할 수 없었기 때문에 인터넷 회사를 시작해야 했습니다 아무튼 네 AI는 미래를 너무나 심오하게 바꿀 것입니다 얼마나 바꿀지는 가늠하기 어렵지만 만약 일이 틀어지지 않고 AI가 우리 모두와 스스로를 죽이지 않는다면 궁극적으로 현재 경제보다 10배 이상 큰 경제를 보게 될 것입니다 궁극적으로 우리가 또는 우리의 미래 기계 후손들이 스케일 2 문명 이상이 된다면 오늘날의 경제보다 수천 배 어쩌면 수백만 배 더 큰 경제에 대해 이야기하는 것입니다 그래서 네 저는 워싱턴 D.C.에서 낭비와 사기를 없애는 일로 많은 비난을 받았을 때 조금 그런 기분이 들었습니다 흥미로운 사이드 퀘스트였지만 이제 메인 퀘스트로 돌아가야 합니다 네 여기서 메인 퀘스트로 돌아가야 합니다 그래서 메인 퀘스트로 돌아와서요 저는 좀 그런 기분이 들었습니다 정부를 고치는 것은 마치 해변이 더럽고 주사기 바늘과 오물 그리고 쓰레기가 있어서 해변을 청소하고 싶지만 동시에 1000피트 높이의 물 벽 즉 AI 쓰나미가 있는 것과 같습니다 1000피트 쓰나미가 닥치려 하는데 해변을 청소하는 것이 얼마나 중요할까요 별로 중요하지 않습니다 메인 퀘스트로 돌아오셔서 다행입니다 매우 중요합니다 네 메인 퀘스트로 돌아와서 제가 좋아하는 기술을 구축하는 것입니다 너무 많은 소음이 있습니다 정치의 신호대 잡음 비율은 끔찍합니다 그래서 저는 샌프란시스코에 살기 때문에 두 번 말할 필요가 없습니다 워싱턴 D.C.는 모든 것이 정치라고 생각합니다 하지만 로켓이나 자동차를 만들려고 하거나 소프트웨어가 안정적으로 컴파일되고 실행되도록 하려고 한다면 최대한 진실을 추구해야 합니다 그렇지 않으면 소프트웨어 또는 하드웨어가 작동하지 않을 것입니다 수학과 물리학 같은 것은 속일 수 없습니다.
엄격한 심판입니다 그래서 저는 최대한 진실을 추구하는 환경에 익숙하고 그것은 분명히 정치가 아닙니다 아무튼 기술로 돌아와서 다행입니다 Zip2 시절로 돌아가 보면 당신은 수억 달러를 벌었거나 수억 달러 가치의 엑시트를 했습니다 저는 2천만 달러를 벌었죠 좋아요 그래서 적어도 돈 문제는 해결했습니다 그리고 기본적으로 그것을 가지고 X.com으로 계속 나아갔고 그것이 페이팔과 컨피니티가 되었습니다 네 저는 모든 돈을 걸었습니다 모두가 그렇게 하지는 않습니다 이 방에 있는 많은 사람들이 실제로 그러한 결정을 내려야 할 것입니다 무엇이 당신을 다시 뛰어들게 만들었나요 음 저는 Zip2를 통해 놀라운 기술을 만들었지만 그것이 실제로 사용되지 않았다고 생각했습니다 적어도 제 관점에서는 야후나 다른 어떤 회사보다 더 나은 기술을 가지고 있었지만 고객들에게 제약을 받았습니다 그래서 저는 고객들에게 제약을 받지 않고 소비자에게 직접 다가가는 무언가를 하고 싶었습니다 그것이 결국 X.com과 페이팔이 되었고 본질적으로 X.com이 컨피니티와 합병하여 페이팔을 만들었습니다 그리고 그 페이팔의 확산은 아마 21세기 어떤 것보다 더 많은 회사를 만들었을 것입니다 컨피니티와 X.com의 조합에는 정말 많은 재능 있는 사람들이 있었습니다 그래서 저는 Zip2에서 우리 날개가 약간 꺾였다고 느꼈습니다 그래서 이제 날개가 꺾이지 않고 소비자에게 직접 다가간다면 어떨까 하는 생각이 들었고 그것이 결국 페이팔이 되었습니다 네 저는 Zip2의 제 지분으로 2천만 달러짜리 수표를 받았습니다 그때 저는 룸메이트 네 명과 함께 집에 살고 있었습니다 그리고 은행에 1만 달러 정도 있었는데 이 수표가 우편으로 도착했습니다 그리고 제 은행 잔고는 1만 달러에서 2천만 달러로 바뀌었습니다 당신은 음 알겠어 라고 말할 것입니다 여전히 세금을 내야 하지만 거의 모든 돈을 X.com에 투자했습니다 당신이 말했듯이 거의 모든 돈을 걸었습니다.
거의 모든 돈을 건 것입니다 그리고 네 페이팔 이후에 저는 왜 우리가 아무도 화성에 보내지 않았는지 궁금했습니다 그래서 화성에 언제 사람들을 보낼지 알아보기 위해 NASA 웹사이트에 들어갔지만 날짜가 없었습니다 웹사이트에서 찾기 어려운 줄 알았습니다 하지만 사실 화성에 사람들을 보낼 실제 계획이 없었습니다 그래서 음 이건 너무 긴 이야기라서 여기서 시간을 너무 많이 쓰고 싶지 않지만 우리는 모두 집중해서 듣고 있다고 생각합니다 그래서 저는 사실 롱 아일랜드 고속도로에서 대학 때 룸메이트였던 친구와 함께 있었습니다 친구가 페이팔 이후에 제가 무엇을 할 것이냐고 물었습니다 저는 글쎄요 잘 모르겠지만 아마도 우주에서 자선 사업을 하고 싶다고 말했습니다 왜냐하면 우주에서 상업적인 일을 할 수 있다고 생각하지 않았기 때문입니다 그것은 국가의 영역처럼 보였습니다 그래서 음 저는 화성에 언제 사람들을 보낼지 궁금했습니다 그때 저는 아 웹사이트에 없네 라고 생각했고 NASA 웹사이트에는 아무것도 없었기 때문에 파고들기 시작했습니다 그리고 음 저는 여기서 많은 것을 요약하고 있지만 저의 첫 번째 아이디어는 화성으로의 자선 임무인 '화성으로의 생명'이었습니다 작은 온실을 씨앗과 건조된 영양 젤과 함께 화성에 착륙시키고 젤을 수화시켜 빨간 배경에 녹색 식물이 있는 멋진 장면을 연출하는 것이었습니다 오랫동안 저는 '머니샷'이 포르노 용어라는 것을 몰랐습니다 하지만 아무튼 요점은 그것이 빨간 배경에 녹색 식물이 있는 멋진 장면이 될 것이고 NASA와 대중에게 화성으로 우주비행사를 보내도록 영감을 주려는 것이었습니다 더 배우면서 저는 깨달았습니다 아 그리고 그 과정에서 2001년과 2002년에 러시아에 가서 ICBM을 샀는데 그것은 모험이었습니다 러시아 고위 사령관을 만나서 ICBM을 사고 싶다고 말하는 것입니다 이것은 우주로 가기 위함이었습니다 누구를 핵 공격하려는 것이 아니라 군축 회담의 결과로 그들은 많은 대형 핵 미사일을 파괴해야 했습니다 그래서 저는 핵탄두를 제외하고 그 미사일 두 개에 화성으로 갈 추가 상단부를 추가하는 것은 어떨까라고 생각했습니다 하지만 좀 이상한 경험이었습니다 2001년에 모스크바에서 러시아 군대와 ICBM 구매를 협상하는 것은 미친 짓이었습니다 하지만 그들은 계속해서 가격을 올렸습니다 말 그대로 협상이 진행되어야 할 방식과는 반대였습니다 저는 이런 것들이 정말 비싸지고 있다고 생각했고 그때 저는 사실 화성에 가고자 하는 의지가 부족한 것이 아니라 심지어 NASA 예산을 파탄내지 않고는 그렇게 할 방법이 없다는 것을 깨달았습니다.
군축 회담의 결과로 그들은 많은 대형 핵 미사일을 실제로 파괴해야 했습니다 그래서 저는 핵탄두를 제외하고 그 미사일 두 개에 화성으로 갈 추가 상단부를 추가하는 것은 어떨까라고 생각했습니다 하지만 2001년에 모스크바에서 러시아 군대와 ICBM 구매를 협상하는 것은 좀 이상한 경험이었습니다 정말 미친 짓이었습니다 하지만 그들은 계속해서 가격을 올렸습니다 말 그대로 협상이 진행되어야 할 방식과는 반대였습니다 저는 이런 것들이 정말 비싸지고 있다고 생각했고 그때 저는 사실 화성에 가고자 하는 의지가 부족한 것이 아니라 심지어 NASA 예산을 파탄내지 않고는 그렇게 할 방법이 없다는 것을 깨달았습니다 그래서 저는 사람들을 화성에 보낼 수 있을 정도로 로켓 기술을 발전시키기 위해 스페이스X를 시작하기로 결정했습니다 그것은 2002년이었습니다 당신은 사업을 시작하고 싶어서 시작한 것이 아니었습니다 당신은 인류에게 필요하다고 생각하는 흥미로운 무언가를 시작하고 싶었습니다 그리고 마치 고양이가 실을 당기듯이 모든 것이 풀리면서 이것이 매우 수익성 있는 사업이 될 수 있다는 것이 밝혀졌습니다 물론 지금은 그렇지만 이전에 로켓 스타트업이 성공한 사례는 없었습니다 상업 로켓 회사를 만들려는 다양한 시도들이 있었고 모두 실패했습니다 그래서 다시 스페이스X를 시작하는 것은 성공할 확률이 10% 미만 어쩌면 1% 정도라고 생각하는 관점에서 시작한 것이었습니다 하지만 스타트업이 로켓 기술을 발전시키기 위해 아무것도 하지 않으면 대형 방위 산업체로부터는 절대 나오지 않을 것입니다 그들은 정부에 맞춰져 있고 정부는 매우 전통적인 일을 하고 싶어 합니다 그래서 스타트업에서 나오거나 아니면 전혀 일어나지 않을 것입니다 그래서 작은 성공 가능성이 전혀 성공 가능성이 없는 것보다 낫습니다 그래서 네 스페이스X는 2002년 중반에 실패할 것을 예상하고 시작했습니다 제가 말했듯이 실패할 확률이 90% 정도였고 사람들을 채용할 때도 저는 그렇게 하지 않았습니다.
그럴 거라고 꾸며내지 않았습니다 우리는 아마 죽을 것이라고 말했습니다 하지만 죽지 않을 확률이 12%였고 이것이 사람들을 화성으로 보내고 최첨단 기술을 발전시킬 유일한 방법이었습니다 그리고 저는 제가 원해서가 아니라 유능한 사람을 고용할 수 없었기 때문에 로켓의 수석 엔지니어가 되었습니다 그래서 유능한 수석 엔지니어들은 너무 위험하다고 생각하여 합류하지 않았습니다 당신은 죽을 것이라고 말했습니다 그래서 저는 로켓의 수석 엔지니어가 되었습니다 그리고 첫 세 번의 비행은 실패했습니다 그래서 그것은 일종의 학습 과정이었습니다 그리고 다행히 네 번째 비행은 성공했습니다 하지만 네 번째 비행마저 실패했다면 저는 남은 돈이 없었고 모든 것이 끝났을 것입니다 그래서 간발의 차였습니다 팔콘의 네 번째 발사가 실패했다면 모든 것이 끝났을 것이고 우리는 이전 로켓 스타트업들의 무덤에 합류했을 것입니다 그래서 저의 성공 추정치는 크게 틀리지 않았습니다 우리는 간신히 성공했습니다 그리고 테슬라도 동시에 진행되고 있었습니다 2008년은 힘든 한 해였습니다 2008년 중반 또는 2008년 여름에 스페이스X의 세 번째 발사가 실패했고 세 번째 연속 실패였습니다 테슬라의 자금 조달 라운드도 실패했습니다 그래서 테슬라는 빠르게 파산하고 있었습니다 정말 암울했습니다 이것은 아마도 오만의 본보기가 될 경고의 이야기가 될 것입니다 아마도 그 기간 내내 많은 사람들이 일론은 소프트웨어 전문가인데 왜 하드웨어 작업을 하는가 왜 이런 일을 하려 하는가 라고 말했을 것입니다 100%요 그래서 당시 언론 기사들이 아직 온라인에 있으니 검색해보시면 그들이 저를 인터넷 전문가라고 계속 불렀다는 것을 알 수 있습니다 그래서 인터넷 전문가 즉 바보가 로켓 회사를 만들려고 시도하고 있다는 식이었습니다 그래서 우리는 꽤 많이 비웃음을 샀습니다 그리고 인터넷 전문가가 로켓 회사를 시작한다는 것은 솔직히 성공의 비결처럼 들리지 않으니 꽤 터무니없는 이야기입니다 그래서 저는 그들을 비난하지 않습니다 저는 네 솔직히 말도 안 되는 소리처럼 들리고 저도 그렇게 생각합니다 하지만 다행히 네 번째 발사가 성공했고 그리고.
NASA는 우리에게 우주 정거장 재보급 계약을 체결해 주었습니다 그것은 12월 22일이었거나 크리스마스 바로 전이었던 것 같습니다 네 번째 발사가 성공하는 것만으로는 충분하지 않았기 때문입니다 NASA는 또한 우리를 살리기 위한 큰 계약이 필요했습니다 그래서 저는 NASA 팀으로부터 전화를 받았고 그들은 문자 그대로 우주 정거장 재보급 계약 중 하나를 우리에게 수여한다고 말했습니다 저는 문자 그대로 저는 당신들을 사랑합니다 라고 외쳤습니다 보통 그들이 듣는 말은 아니죠 보통 꽤 진지한데 저는 정말 회사를 살렸다 라고 생각했습니다 그리고 우리는 2008년 12월 24일 오후 6시 가능한 마지막 날 마지막 시간에 테슬라 자금 조달 라운드를 마감했습니다 그 라운드가 마감되지 않았다면 크리스마스 이틀 후에 급여가 밀렸을 것입니다 그래서 2008년은 정말 신경 쓰이는 해였습니다 확실합니다 페이팔과 Zip2 경험을 바탕으로 이러한 하드코어 하드웨어 스타트업에 뛰어들면서 한 가지 공통점은 해당 분야에서 가장 똑똑한 사람들을 찾아내고 결국 유치할 수 있었다는 것입니다 이 방에 있는 사람들은 대부분 아직 한 명의 직원도 관리해 본 적이 없을 것 같습니다 이제 막 경력을 시작하는 사람들이죠 아직 그런 일을 해본 적 없는 일론에게 무엇을 말해주겠습니까 저는 일반적으로 가능한 한 유용해지려고 노력해야 한다고 생각합니다 이것은 진부하게 들릴 수 있지만 유용해지는 것은 매우 어렵습니다 특히 많은 사람들에게 유용해지는 것은 더욱 그렇습니다 총 유용성의 곡선 아래 면적은 동료 인간들에게 얼마나 유용했는지 곱하기 몇 명인가와 같습니다 그것은 거의 물리학적 정의의 진정한 일과 같습니다 그것을 하는 것은 엄청나게 어렵습니다 그리고 저는 진정한 일을 하기를 열망한다면 성공 확률이 훨씬 더 높다고 생각합니다 영광을 열망하지 말고 일을 열망하십시오 그것이 진정한 일인지 어떻게 알 수 있습니까 그것이 외부적인 것입니까 다른 사람들에게 어떤 일이 일어나는 것입니까 아니면 제품이 사람들에게 무엇을 해주는 것입니까 당신이 함께 일할 사람을 찾을 때 당신에게 그것은 무엇입니까.
당신이 찾는 가장 두드러진 것은 무엇입니까 아니면 그들이 그렇다면 그것은 다른 질문인 것 같습니다 제 말은 최종 제품의 관점에서 볼 때 이것이 성공한다면 얼마나 많은 사람들에게 얼마나 유용할 것인가를 말해야 한다는 것입니다 그것이 제가 의미하는 바이며 그리고 당신이 CEO든 스타트업의 어떤 역할이든 성공하기 위해 필요한 모든 것을 합니다 그리고 항상 당신의 자아를 부수고 책임을 내면화하십시오 주요 실패 모드는 자아 대 능력 비율이 1보다 훨씬 클 때입니다 즉 자아 대 능력 비율이 너무 높아지면 현실과의 피드백 루프가 깨질 것입니다 AI 용어로 말하면 RL 루프가 깨지는 것입니다 그래서 당신은 RL 루프를 깨고 싶지 않고 강한 RL 루프를 가지고 싶을 것입니다 이는 책임을 내면화하고 자아를 최소화하며 크든 작든 어떤 일이든 다 하는 것을 의미합니다 그래서 저는 실제로 연구보다는 엔지니어링이라는 용어를 선호합니다 그리고 저는 XAI를 연구실이라고 부르고 싶지 않습니다 그냥 회사이기를 원합니다 가장 간단하고 가장 직접적이며 이상적으로는 가장 자아가 낮은 용어들이 일반적으로 좋은 길입니다 현실과의 루프를 강하게 닫아야 합니다 그것은 정말 큰 문제입니다 이 방에 있는 모든 사람들이 당신이 첫 번째 원칙의 모범이 되고 당신이 해온 일들을 생각하는 것에 대해 존경한다고 생각합니다 당신은 실제로 당신의 현실을 어떻게 결정합니까 그것이 매우 중요한 부분처럼 보이기 때문입니다 어떤 것도 만들어 본 적 없는 비엔지니어들 때로는 아무것도 해본 적 없는 기자들이 당신을 비판할 것입니다 그러나 당신에게는 분명히 매우 높은 곡선 아래 면적을 가진 빌더들이 있습니다 당신의 주변에 있는 사람들은 어떻게 접근해야 할까요 당신에게 효과적이었던 것은 무엇이며 당신은 무엇을 당신의 자녀에게 물려줄 것입니까 당신은 그들에게 무엇을 말합니까.
이 세상에서 당신의 길을 만들어야 합니다 첫 번째 원칙에서 예측 가능한 현실을 구성하는 방법은 다음과 같습니다 물리학의 도구는 어떤 분야에서든 이해하고 발전하는 데 엄청나게 도움이 됩니다 첫 번째 원칙이란 명백히 사물을 가장 참일 가능성이 높은 근본적인 공리적 요소로 분해한 다음 분석이나 은유를 통해 추론하는 대신 거기서부터 가능한 한 설득력 있게 추론하는 것을 의미합니다 그리고 단순히 극한으로 생각하는 것과 같은 간단한 것들 예를 들어 어떤 것을 최소화하거나 최대화하는 것을 외삽하는 것처럼 극한으로 생각하는 것은 매우 매우 도움이 됩니다 저는 물리학의 모든 도구를 사용합니다 그것들은 어떤 분야에도 적용됩니다 이것은 실제로 초능력과 같습니다 예를 들어 로켓을 들어보겠습니다 로켓 하나의 가격은 얼마여야 할까요 사람들이 로켓의 가격을 결정하는 일반적인 접근 방식은 역사적으로 로켓의 가격이 얼마였는지를 보고 새로운 로켓도 이전 로켓 가격과 어느 정도 비슷할 것이라고 가정하는 것입니다 첫 번째 원칙 접근 방식은 로켓을 구성하는 재료를 보는 것입니다 그것이 알루미늄 구리 탄소 섬유 강철 등 무엇이든 상관없이 그 로켓의 무게가 얼마인지 그리고 구성 요소는 무엇이며 무게는 얼마인지 그 구성 요소의 재료 가격은 킬로그램당 얼마인지를 묻는 것입니다 그것이 로켓이 가질 수 있는 실제 최저 가격을 설정합니다 그것은 원자재 비용에 점근적으로 접근할 수 있습니다 그리고 나면 아 실제로 로켓의 원자재는 로켓의 역사적 비용의 1~2%에 불과하다는 것을 깨닫게 됩니다 따라서 원자재 비용이 1~2%에 불과하다면 제조는 필연적으로 매우 비효율적일 것입니다 이것이 로켓의 비용 최적화 가능성에 대한 첫 번째 원칙 분석입니다 그리고 이것은 재사용성을 고려하기 전입니다 AI 예를 들자면 작년에 XAI를 위해 훈련 슈퍼클러스터를 구축하려고 할 때 우리는 다양한 공급업체에 문의했습니다 작년 초에 우리는.
일관성 있게 훈련하려면 10만 개의 H100이 필요했습니다 그리고 그들은 그것을 완료하는 데 18개월에서 24개월이 걸릴 것이라고 예상했습니다 그래서 음 우리는 6개월 안에 그것을 완료해야 했습니다 그렇지 않으면 경쟁력을 잃을 것입니다 그래서 그것을 분해해 보면 무엇이 필요할까요 건물 전력 냉각이 필요합니다 우리는 처음부터 건물을 지을 시간이 없었습니다 그래서 기존 건물을 찾아야 했습니다 우리는 멤피스에서 더 이상 사용되지 않는 엘렉트로룩스 제품을 만들던 공장을 찾았습니다 하지만 그곳의 입력 전력은 15메가와트였고 우리는 150메가와트가 필요했습니다 그래서 우리는 발전기를 빌려서 건물 한쪽에 발전기를 두었습니다 그리고 냉각이 필요했기 때문에 미국 모바일 냉각 용량의 약 4분의 1을 빌려 건물 반대편에 냉각기를 두었습니다 그것은 문제를 완전히 해결하지 못했는데 훈련 중 전압 즉 전력 변동이 매우 크기 때문입니다 100밀리초 안에 전력이 50% 떨어질 수 있는데 발전기는 그것을 따라가지 못합니다 그래서 우리는 테슬라 메가팩을 추가하고 메가팩 소프트웨어를 수정하여 훈련 실행 중 전력 변동을 완화할 수 있도록 했습니다 그리고 네트워크 연결 문제도 많았습니다 10만 개의 GPU를 일관성 있게 훈련시키려 한다면 네트워크 케이블링이 매우 매우 어렵기 때문입니다 거의 당신이 언급한 것들 중 거의 어떤 것도 누군가가 당신에게 직접적으로 안 돼요 그 전력은 안 돼요 이것은 안 돼요 라고 말할 수 있었을 것 같습니다 그리고 첫 번째 원칙 사고의 두드러진 부분 중 하나는 실제로는 왜 그런지 묻고 그것을 파악하며 테이블 건너편의 사람에게 도전하고 만약 만족스러운 답변을 얻지 못하면 그것이 되도록 허용하지 않고 그 거절을 용납하지 않는다는 것 같습니다 그것은 하드웨어에서 당신이 하는 일을 하려고 하는 모든 사람에게 하드웨어가 특별히 필요로 하는 것처럼 느껴지는 것입니다 소프트웨어에서는 많은 부가적인 것들이 있어서 CPU를 더 추가하면 괜찮다고 할 수 있습니다 하지만 하드웨어에서는 단순히 작동하지 않을 것입니다.
괜찮을 것입니다 하지만 하드웨어에서는 작동하지 않을 것입니다 저는 이러한 첫 번째 원칙 사고의 일반적인 원칙들이 소프트웨어와 하드웨어 그리고 모든 것에 적용된다고 생각합니다 저는 단지 하드웨어 사례를 사용하는 것입니다 우리가 불가능하다고 들었지만 건물 전력 냉각 전력 평활화와 같은 구성 요소로 분해한 다음 그 구성 요소를 해결할 수 있었던 방법입니다 하지만 그것은 그랬고 우리는 24시간 4교대로 모든 케이블링 작업을 수행했습니다 저는 데이터 센터에서 잠을 잤고 저 자신도 케이블링 작업을 했습니다 그리고 해결해야 할 다른 많은 문제들이 있었습니다 아무도 작년에 10만 개의 H100으로 일관성 있게 훈련하는 것을 해본 적이 없었습니다 어쩌면 올해는 했을 수도 있습니다 모르겠습니다 그리고 우리는 그것을 20만 개로 두 배 늘렸습니다 그래서 지금 우리는 멤피스 훈련 센터에 15만 개의 H100 5만 개의 H200 그리고 3만 개의 GB200을 가지고 있습니다 그리고 멤피스 지역의 두 번째 데이터 센터에서 11만 개의 GB200을 온라인으로 가동할 예정입니다 당신의 견해로는 사전 훈련이 여전히 유효하고 스케일링 법칙이 여전히 적용되며 이 경쟁에서 이기는 사람이 기본적으로 추출할 수 있는 가장 크고 똑똑한 모델을 가질 것이라고 생각합니까 음 대규모 AI 경쟁 외에도 다른 여러 요소들이 있습니다 사람들의 재능은 확실히 중요합니다 하드웨어의 규모와 그 하드웨어를 얼마나 잘 활용할 수 있는지가 중요합니다 그래서 단순히 많은 GPU를 주문한다고 해서 그것들을 그냥 꽂을 수 있는 것이 아닙니다 많은 GPU를 확보하여 일관되고 안정적으로 훈련시켜야 합니다 그리고 어떤 독점적인 데이터 접근 권한을 가지고 있는지 궁금합니다 배포도 어느 정도 중요할 것입니다 사람들이 당신의 AI에 어떻게 노출되는지 말입니다 그것들은 경쟁력 있는 대규모 기반 모델이 되기 위한 핵심 요소입니다 음 많은 사람들이 말했듯이 제 친구 아이 스카이가 말했습니다 우리가 인간이 생성한 사전 훈련 데이터 즉 인간이 생성한 데이터가 바닥났다고 생각합니다.
아주 빨리 토큰이 고갈될 것입니다 확실히 고품질 토큰의 고갈입니다 그리고 당신은 많은 양의 합성 데이터를 만들어야 하고 당신이 생성하는 합성 데이터가 실제 합성 데이터인지 아니면 현실과 일치하지 않는 환각인지 확인하기 위해 정확하게 판단할 수 있어야 합니다 그래서 현실에 기반을 두는 것은 까다롭지만 우리는 합성 데이터에 더 많은 노력을 기울이는 단계에 있습니다 그리고 지금 우리는 추론에 중점을 둔 Grok 3.5를 훈련하고 있습니다 당신의 물리학적 관점으로 돌아가 보면 추론에 대해 제가 들은 것은 물리학 교과서와 같은 자연 과학이 추론에 매우 유용하지만 사회 과학은 추론에 완전히 쓸모없다는 것이었습니다 네 그것은 아마도 사실일 것입니다 그래서 네 미래에 매우 중요할 것은 데이터 센터 또는 슈퍼클러스터의 딥 AI를 로봇 공학과 결합하는 것입니다 그래서 옵티머스 휴머노이드 로봇과 같은 것들이요 네 옵티머스는 훌륭합니다 정말 많은 휴머노이드 로봇과 모든 크기와 모양의 로봇들이 있을 것입니다 하지만 제 예측은 다른 모든 로봇을 합친 것보다 휴머노이드 로봇이 훨씬 더 많을 것이라는 것입니다 아마 한 자릿수 정도 차이가 날 것입니다 그리고 당신이 일종의 로봇 군대를 계획하고 있다는 것이 사실입니까 우리가 하든 테슬라가 하든 테슬라는 XAI와 긴밀히 협력합니다 얼마나 많은 휴머노이드 로봇 스타트업이 있는지 보셨을 것입니다 젠슨 황이 많은 수의 로봇들 즉 여러 회사 로봇들과 함께 무대에 있었다고 생각합니다 12개가 넘는 다른 휴머노이드 로봇들이 있었다고 생각합니다 그래서 제 생각에 제가 싸워왔고 어쩌면 저를 약간 늦춘 부분은 제가 약간 터미네이터를 현실로 만들고 싶지 않았다는 것입니다 그래서 저는 최근 몇 년까지 AI와 휴머노이드 로봇에 대해 발을 질질 끌었습니다 그러다가 저는 제가 하든 안 하든 그것이 일어날 것이라는 것을 깨달았습니다 그래서 당신은 두 가지 선택권이 있습니다 관객이 되거나 참가자가 되는 것입니다.
가 참가자이기를 원합니다 그래서 지금은 휴머노이드 로봇과 디지털 초지능에 박차를 가하고 있습니다 그래서 음 모든 사람들이 당신이 많이 이야기하는 세 번째 것에 대해 알고 있을 것입니다 저는 당신이 다행성 종이 되는 것에 대해 정말 큰 팬입니다 이것은 어디에 해당합니까 이것은 10년이나 20년짜리 일이 아니라 어쩌면 인류에게 수많은 세대를 위한 100년짜리 일과 같은 것입니다 어떻게 생각하십니까 AI는 물론이고 구체화된 로봇 공학 그리고 다행성 종이 되는 것이 있습니다 모든 것이 그 마지막 지점으로 이어집니까 아니면 당신은 지금 다음 10년 20년 100년 동안 무엇에 의해 추진되고 있습니까 100년이요 세상에 100년 후에도 문명이 존재하기를 바랍니다 만약 존재한다면 오늘날의 문명과는 매우 다를 것입니다 음 저는 인간보다 최소 5배 어쩌면 10배 많은 휴머노이드 로봇이 있을 것이라고 예측합니다 그리고 문명의 진보를 보는 한 가지 방법은 카르다쇼프 척도의 완성도입니다 그래서 카르다쇼프 척도 1단계는 행성의 모든 에너지를 활용한 것입니다 제 생각에는 우리가 지구 에너지의 1~2%만 활용한 것 같습니다 그래서 카르다쇼프 척도 1단계에 도달하려면 갈 길이 멉니다 그리고 카르다쇼프 척도 2단계는 태양의 모든 에너지를 활용한 것입니다 지구보다 10억 배 어쩌면 1조 배 더 많은 에너지일 것입니다 그리고 카르다쇼프 척도 3단계는 은하계의 모든 에너지를 활용한 것입니다 그것과는 상당히 거리가 멉니다 그래서 우리는 지능 빅뱅의 아주 아주 초기 단계에 있습니다 저는 우리가 다행성 존재가 되는 측면에서 저는 대략 30년 안에 화성에 충분한 질량이 옮겨져 화성이 자립할 수 있게 되어 지구에서 보급선이 끊기더라도 계속 성장하고 번성할 수 있을 것이라고 생각합니다 그리고 그것은 생물학적 지능과 디지털 지능 모두 문명이나 의식 또는 지능의 예상 수명을 크게 늘립니다 그래서 저는 다행성 종이 되는 것이 중요하다고 생각합니다 그리고 저는 페르미 역설에 다소 혼란을 느낍니다 왜 우리는 외계인을 보지 못했을까요.
그리고 그것은 지능이 믿을 수 없을 정도로 희귀하기 때문일 수 있습니다 어쩌면 우리가 이 은하계에서 유일한 존재일 수도 있습니다 그럴 경우 의식의 지능은 광대한 어둠 속의 작은 촛불과 같으며 우리는 그 작은 촛불이 꺼지지 않도록 가능한 모든 것을 해야 합니다 그리고 다행성 종이 되거나 의식을 다행성으로 만드는 것은 문명의 예상 수명을 크게 향상시키며 다른 항성계로 나아가기 전의 다음 단계입니다 적어도 두 개의 행성을 가지게 되면 우주 여행의 발전을 위한 강제 기능이 생깁니다 그리고 그것이 궁극적으로 의식이 별들로 확장되는 결과를 가져올 것입니다 페르미 역설이 어떤 수준의 기술에 도달하면 스스로를 파괴한다고 지시할 수도 있습니다 우리는 어떻게 우리 자신을 구하나요 우리는 실제로 무엇을 처방해야 할까요 엔지니어들로 가득 찬 방에 무엇을 권할 수 있을까요 그러한 일이 일어나지 않도록 무엇을 할 수 있을까요 네 큰 필터를 어떻게 피할 수 있을까요 큰 필터 중 하나는 분명히 전 세계 핵전쟁일 것입니다 그래서 우리는 그것을 피하려고 노력해야 합니다 음 저는 인류를 사랑하고 도움이 되는 온화한 AI 로봇을 만드는 것이 중요하다고 생각합니다 AI를 구축하는 데 매우 중요하다고 생각하는 것은 정치적으로 올바르지 않더라도 진실에 대한 매우 엄격한 준수입니다 AI를 매우 위험하게 만들 수 있는 것은 AI에게 사실이 아닌 것을 믿도록 강요하는 것이라고 저는 직감적으로 생각합니다 개방적인 안전 대 경쟁 우위를 위한 폐쇄라는 주장에 대해 어떻게 생각하십니까 저는 좋은 점은 당신이 경쟁 모델을 가지고 있고 다른 많은 사람들도 경쟁 모델을 가지고 있다는 것입니다 그런 의미에서 우리는 어쩌면 제가 걱정하는 최악의 시나리오 즉 빠른 이륙이 있고 그것이 한 사람의 손에만 있는 상황에서 벗어났습니다 그것은 많은 것들을 붕괴시킬 수 있습니다 반면 지금 우리는 선택권이 있는데 이것은 훌륭합니다 이것에 대해 어떻게 생각하십니까 네 저는 여러 개의 심층 지능이 있을 것이라고 생각합니다 어쩌면 최소 다섯 개 어쩌면 10개까지도 있을 것입니다 수백 개가 될 것이라고 확신하지는 않지만 아마도 10개 정도 될 것입니다.
그 중 아마 네 개 정도가 미국에 있을 것입니다 그래서 저는 어떤 한 AI가 폭주하는 능력을 가질 것이라고 생각하지 않습니다 그러나 네 여러 개의 심층 지능이 있을 것입니다 이 심층 지능들은 실제로 무엇을 할까요 과학 연구를 하거나 서로를 해킹하려고 할까요 아마도 이 모든 것일 것입니다 음 바라건대 그들은 새로운 물리학을 발견할 것이고 저는 그들이 새로운 기술을 확실히 발명할 것이라고 생각합니다 저는 우리가 디지털 초지능에 아주 가깝다고 생각합니다 올해 일어날 수도 있고 올해 일어나지 않는다면 내년에는 확실히 일어날 것입니다 디지털 초지능은 어떤 면에서든 인간보다 똑똑한 것으로 정의됩니다 그렇다면 그것을 어떻게 초과 풍요로 이끌 수 있을까요 로봇 노동력을 가질 수 있고 저렴한 에너지와 주문형 지능을 가질 수 있습니다 그것이 일종의 백색 알약일까요 당신은 스펙트럼의 어디에 위치합니까 그리고 이 백색 알약을 현실로 만들기 위해 여기 있는 모든 사람에게 장려할 구체적인 것들이 있습니까 저는 그것이 대부분 좋은 결과가 될 것이라고 생각합니다 음 저는 제프 힌튼과 어느 정도 동의합니다 아마도 10%에서 20%의 전멸 가능성이 있을 것입니다 그러나 긍정적으로 보면 80%에서 90%의 좋은 결과 가능성이 있습니다 그래서 네 이것을 아무리 강조해도 지나치지 않습니다 진실에 대한 엄격한 준수는 AI 안전에 가장 중요한 것입니다 그리고 당연히 인류와 우리가 아는 생명에 대한 공감입니다 우리는 뉴럴링크에 대해 아직 전혀 이야기하지 않았지만 당신이 인간과 기계 사이의 입력 및 출력 격차를 좁히기 위해 노력하고 있다는 점이 궁금합니다 그것이 AGI와 ASI에 얼마나 중요한가요 그리고 그 연결이 이루어지면 우리는 읽을 수 있을 뿐만 아니라 쓸 수도 있습니까 뉴럴링크는 디지털 초지능을 해결하는 데 필수적이지 않습니다 그것은 뉴럴링크가 대규모로 상용화되기 전에 일어날 것입니다 하지만 뉴럴링크가 효과적으로 할 수 있는 것은 입력 출력 대역폭 제약을 해결하는 것입니다 특히 우리의 출력 대역폭은 매우 낮습니다 인간이 하루 동안 지속적으로 출력하는 것은 초당 1비트 미만입니다 하루에 86400초가 있습니다 그리고 인간이 하루에 그 이상의 기호를 출력하는 것은 극히 드뭅니다 그래서 며칠 동안은 확실히 그렇습니다.
연속적으로 그래서 뉴럴링크 인터페이스를 사용하면 출력 대역폭과 입력 대역폭을 엄청나게 늘릴 수 있습니다 입력은 뇌에 직접 쓰는 쓰기 작업을 해야 하는 것입니다 우리는 현재 다섯 명의 사람이 신호를 읽는 일종의 읽기 입력을 받았습니다 그리고 루게릭병 환자들은 사지 마비이지만 이제는 완전히 기능하는 신체를 가진 인간과 비슷한 대역폭으로 통신하고 컴퓨터와 전화를 제어할 수 있습니다 이것은 꽤 멋진 일입니다 그리고 앞으로 6개월에서 12개월 안에 시력을 위한 첫 번째 임플란트를 할 것이라고 생각합니다 완전히 시각 장애인이라 할지라도 우리는 시각 피질에 직접 쓸 수 있습니다 그리고 실제로 원숭이에게도 작동했습니다 우리 원숭이 중 한 마리는 3년 동안 시각 임플란트를 가지고 있다고 생각합니다 처음에는 비교적 낮은 해상도일 것이지만 장기적으로는 매우 높은 해상도를 가지며 다중 스펙트럼 파장을 볼 수 있을 것입니다 그래서 적외선 자외선 레이더를 볼 수 있는 초능력과 같은 상황이 될 것입니다 어떤 시점에는 사이버네틱 임플란트가 단순히 잘못된 것을 고치는 것이 아니라 인간의 능력을 극적으로 증강시키고 지능과 감각 그리고 대역폭을 극적으로 증강시킬 것입니다 그리고 그것은 언젠가 일어날 것입니다 하지만 디지털 초지능은 그보다 훨씬 일찍 일어날 것입니다 적어도 뉴럴링크가 있다면 우리는 AI를 더 잘 이해할 수 있을 것입니다 당신의 모든 다양한 분야의 노력에 대한 제한적인 요인 중 하나는 가장 똑똑한 사람들을 만날 수 있는 접근성이라고 생각합니다 네 하지만 동시에 우리는 바위가 말하고 추론할 수 있다는 것을 알고 있습니다 그들의 IQ는 아마 130 정도일 것이고 곧 초지능이 될 것입니다 이 두 가지를 어떻게 조화시킬 것입니까 예를 들어 5년 10년 안에 무슨 일이 일어날 것이며 이 방에 있는 사람들은 API 라인 아래에 있는 것이 아니라 창조하는 사람들이 되도록 무엇을 해야 할까요 그들은 그것을 특이점이라고 부르는 데는 이유가 있습니다 우리는 미래에 무슨 일이 일어날지 모르기 때문입니다.
그리 멀지 않은 미래에 인간 지능의 비율은 아주 작아질 것입니다 어느 시점에는 모든 지능의 총합 중 인간 지능이 1% 미만이 될 것입니다 그리고 만약 카르다쇼프 척도 2단계에 도달한다면 우리는 인간 인구의 상당한 증가와 지능 증강 예를 들어 모든 사람이 IQ 1000을 갖는 대규모 지능 증강을 가정하더라도 집단 인간 지능은 아마도 디지털 지능의 10억 분의 1이 될 것입니다 아무튼 디지털 초지능을 위한 생물학적 부트로더는 어디에 있을까요 마치 좋은 부트로더였는지 묻는 것처럼 끝내겠습니다 여기서 우리는 어디로 가야 할까요 이 모든 것은 이 방에 있는 사람들이 만들 수 있는 꽤나 황당한 공상 과학 같은 이야기입니다 이번 세대에서 가장 똑똑한 기술자들에게 마지막으로 하고 싶은 말이 있다면 무엇입니까 그들은 무엇을 해야 하고 무엇에 대해 생각해야 합니까 오늘 밤 저녁 식사하러 갈 때요 글쎄요 제가 처음 시작할 때 말했듯이 유용한 일을 하고 있다면 그것은 훌륭합니다 동료 인간들에게 가능한 한 유용해지려고 노력한다면 좋은 일을 하고 있는 것입니다 저는 계속해서 이것을 강조합니다 AI 안전을 위해 가장 중요한 것은 매우 진실한 AI에 집중하는 것입니다 음 물론 XAI에서 일하는 것에 관심 있는 사람이 있다면 저희에게 알려주세요 우리는 Grok을 최대한 진실을 추구하는 AI로 만드는 것을 목표로 하고 있습니다 그리고 그것은 매우 중요하다고 생각합니다 바라건대 우리는 우주의 본질을 이해할 수 있기를 바랍니다 그것이 AI가 우리에게 말해줄 수 있는 것이라고 생각합니다 아마도 AI는 외계인이 어디에 있는지 우주가 실제로 어떻게 시작되었는지 어떻게 끝날 것인지 우리가 모르지만 물어봐야 할 질문들은 무엇인지 그리고 우리가 시뮬레이션 안에 있는지 아니면 어떤 수준의 시뮬레이션 안에 있는지 알려줄 수 있을 것입니다 글쎄요 우리는 알게 될 것입니다 NPC 일론 오늘 함께해 주셔서 정말 감사합니다 모두 일론 머스크에게 박수 부탁드립니다.
감사합니다.