AI가 사람들이 인지하는 것보다 훨씬 더 많이 발전했다는 점

https://youtu.be/rF0tQtDMwHM?si=PAK7M_M1PpUzqp_E

OpenAI CEO Sam Altman: AI Warfare, Freedom & Immortality | MD MEETS Episode #1

- - 아기는 어떤가요 훌륭합니다 아들이에요 아들이죠 더 낳고 싶으신가요 네 더 낳고 싶습니다 하지만 힘든 일이죠 네 네 명 정도가 좋다고 생각합니다 네 네 그 정도가 저의 목표 수준입니다 저는 네 명이 좋다고 생각합니다 샘, 제가 질문을 시작하기 전에 이 순간 당신이 가장 많이 생각하는 질문이 무엇인지 궁금합니다 무엇이 제 마음의 가장 위에 있냐면요 음 너무나 많은 것들이 있습니다.

- - 그중 하나는 AI가 사람들이 인지하는 것보다 훨씬 더 많이 발전했다는 점입니다. 대부분의 사람들은 여전히 ChatBBT만 사용하고 있습니다. 그럼에도 불구하고 이제 우리는 우리의 가장 똑똑한 인간만큼 똑똑하거나, 가장 어려운 지적 경쟁에서 그들을 이기는 시스템을 갖게 되었습니다. 따라서 우리가 가진 것과 세상이 사용하는 것 사이에는 엄청난 격차가 있으며, 이것이 어떻게 전개될지, 경제와 사회가 따라잡는 데 얼마나 많은 시간이 걸릴지가 큰 문제입니다.

- - 이러한 시스템이 정말로 자기 개선을 하게 될 때 어떤 모습일지도 큰 문제입니다. 여기서 흥미로운 점은 우리가 문제를 해결하는 속도가 문제 생성 속도보다 항상 조금 앞서고 있느냐는 것입니다.

- - 그러나 지금으로서는 꽤 괜찮아 보이지 않나요? 네, 지금으로서는 꽤 괜찮아 보입니다.

- - 그래서 우리가 몇 달 전 베를린에서 함께 앉아 있었을 때, 우리는 스타게이트 유럽에 대해 이야기했습니다. 그 프로젝트에 어떤 진전이 있었는지 공유해 주시겠어요? 네, 저희는 당신에게서 많은 영감을 받았습니다. 우리는 방금 오픈AI 독일 지사를 발표했으며, SAP 및 Microsoft와의 파트너들과 함께 독일을 위한 국경 모델을 갖춘 주권 클라우드를 구축할 것입니다. 이는 우리에게는 최초의 파트너십입니다. 우리는 국가들이 주권과 국경 모델 둘 다 필요로 한다는 점을 완전히 이해하며, 이곳에서 이것을 제공하고 개척할 기회에 엄청나게 흥분하고 있습니다.

- - 미국에서의 스타게이트 프로젝트와 비슷한 더 큰 프로젝트에 대한 아이디어가 여전히 유럽에서 현실적인 선택이라고 생각하십니까? 우리는 그것을 하게 되어 매우 기쁠 것입니다. 그것은 유럽 사람들의 질문이 될 것이라고 생각합니다. 아시다시피, 이러한 데이터 센터는 자본뿐만 아니라 에너지 자원과 집중 면에서도 막대한 투자입니다.

- - 그러나 우리는 그것을 지원하게 되어 매우 기쁠 것입니다. 이것이 훌륭한 첫걸음이며, 사람들에게 이것이 좋은 아이디어라는 것에 편안함을 느끼게 해줄 것이라고 생각하며, 우리는 여기에서 규모를 확대하고 싶습니다.

- - 그러나 핵 에너지 없이는 할 수 없다는 것이 사실입니까? 즉, 독일에서만 할 수는 없고, 프랑스나 핵 에너지가 필요하다는 말씀이신가요? 제 말은, 핵 에너지 없이도 할 수 있습니다. 다시 말씀드리지만, 그것은 독일 국민과 독일 정치인들의 질문이 될 것이라고 생각하지만, 가능합니다. 많은 에너지가 필요합니다.

- - 샘, 당신은 어떤 유럽적인 애국심을 가지고 있는 것 같습니다. 그것은 어디에서 오는 것입니까? 요즘 많은 미국인들에게는 유럽이 잃어버린 사례처럼 보이는데, 왜 유럽을 중요하게 생각하십니까? 음, 여러 가지 이유가 있습니다. 저는 강한 유럽이 세계에 중요하다고 생각합니다. 제가 시간이 지남에 따라 권력의 균형이 어떻게 이동할 가능성이 있는지, 그리고 제가 소중히 여기는 가치를 전파하는 데 도움이 될 동맹이 어디에 있을지 이해하려고 노력할 때 그렇습니다.

- - 저는 강한 유럽이 매우 중요하다고 생각합니다. 저는 유럽을 사랑합니다. 저는 이곳에 와서 시간을 보내는 것을 좋아합니다. 유럽에서 나온 문화, 역사, 과학 발전의 양은 우연이 아니라고 생각합니다.

- - 그래서 저는 제 미국 친구들 중 일부가 "아, 잃어버린 대의명분이야. 박물관이야. 희망이 없어"라고 말할 때 슬퍼집니다. 저는 확실히 그렇게 생각하지 않습니다.

- - 제 말은, 더 큰 틀에서 볼 때, 중국과의 큰 경쟁에서 미국은 유럽을 동맹으로 두는 데 관심이 있어야 할 것 같습니다. 그리고 반대로, 우리는 혼자서는 할 수 없다고 생각합니다. 저는 강력히 동의합니다.

- - 저는 다시 한번, 몇 가지 상충 관계와 도전에 대해 현실적이지만, 유럽은 미국에게 너무나 중요한 자연스러운 동맹이라고 생각합니다. 유럽이 이 순간 무엇을 잘못하고 있습니까? 음, 이것은 제 전문 분야를 훨씬 벗어나는 이야기지만, AI를 바라보는 저의 좁은 시각으로 볼 때, 우리는 규제에 대한 대화를 나누어 왔고, 그것이 진행 중인 것을 알고 있으며, 유럽연합은 그곳에서 더 많은 결정을 내릴 것입니다.

- - 그리고 당신은 비판적인 접근 방식을 가지고 있습니다. 당신은 만약 그들이 더 규제한다면, 어느 시점에서는 오픈AI를 위한 시장이 아닐 수도 있다고 말했습니다. 제 말은, 우리가 말한 것은 우리가 이곳에서 서비스를 제공할 수 있도록 최선을 다할 것이라는 것입니다. 그리고 아시다시피, 우리가 새로운 모델을 출시할 수 없거나 속도가 느려서 유럽 사용자들은 매우 화를 내는 경우가 있습니다. 그러면 우리는 이것이 유럽 사용자들에게 불이익을 주기 위해서 하는 것이 아니며, 우리는 준수해야 한다고 설명합니다.

- - 그래서 우리는 항상 시도할 것이지만, 네, 우리가 준수할 수 없는 일련의 규제가 있을 수 있다는 것은 확실히 상상할 수 있습니다. 저는 그런 일이 일어나지 않을 것이라고 생각하고, 일어나지 않기를 바랍니다. 그리고 저는 실제로 일어날 일은 세계의 여러 나라들이 AI에 대해 서로 다른 규제 접근 방식을 시도할 것이며, 일부는 더 잘 작동하고 일부는 그렇지 않을 것이라고 생각합니다.

- - 그리고 아시다시피, 사람들은 무엇이 작동하고 무엇이 작동하지 않는지, 그리고 더 자유롭거나 더 보수적인 접근 방식의 위험과 이점을 배울 것입니다. 그리고 우리는 이 모든 것에서 너무 초기에 있으며, 세상은 우리가 나아감에 따라 적응할 것입니다.

- - 로널드 레이건은 한때 유명하게 말했습니다. "유럽의 경제에 대한 이해는 기업이 움직이면 세금을 부과하고, 여전히 움직이면 규제하며, 죽으면 보조금을 지급하는 것입니다." 와, 그것은 제가 들어보지 못한 인용구입니다. 매우 자극적인 인용구네요.

- - 저는 모르겠습니다. 규제 접근 방식에 대해 어떻게 생각하십니까? 음, 전 세계가 규제를 완화하고 있는데, 유럽은 규제를 강화하고 있습니다. 그것은 작동할 수 없습니다. 그것은 자기 파괴적이며, 우리는 특정 영역에서 현명한 규제를 가져야 합니다. 우리는 대서양 건너편의 미국과 유럽 모두에서 그것이 필요하지만, 규제의 세계 챔피언이 되려는 유럽의 고립된 방식은 재앙을 초래하고 있으며, 실제로 혁신을 막고 있습니다.

- - 그리고 그것이 정확한가요? 제 외부에서의 가벼운 관찰은 유럽이 "좋아, 아마도 우리가 너무 지나쳤고, 우리는 그것을 철회할 것이다"라고 말한 것 같다는 것입니다. 그것이 정확한 평가라고 생각합니다.

- - 그러나 유럽의 선도적인 경제국인 독일 정부에 대한 당신의 구체적인 조언은 무엇일까요? 유럽에서 AI 발전과 혁신을 진정으로 촉진하기 위해 무엇이 필요합니까? 음, 무엇보다도 저는 유럽에서 AI 발전이 일어나고 있다고 생각합니다. 특히 독일에서 오픈AI 제품의 독일 사용자 수는 꽤 놀랍습니다.

- - 독일은 유럽에서 우리의 가장 큰 시장입니다. 독일의 거의 모든 젊은이들, 즉 18세에서 24세 사이의 젊은이들은 ChatBT를 사용합니다. 이제 전 세계에서 우리의 다섯 번째로 큰 시장인 것 같습니다. 지난 한 해 동안 엄청난 성장을 이루었고, 많은 스타트업과 대기업들이 우리의 API를 사용하여 구축하고 있습니다.

- - 그래서 저는 그것이 일어나고 있다고 생각합니다. 우리는 그 회사들 중 일부로부터 "오, 우리는 이것을 할 수 없거나 저것을 할 수 없다"는 불만을 많이 듣습니다. 그래서 분명히 다루어야 할 것들이 있습니다. AI에 대한 저의 일반적인 조언은 큰 위험에 집중하고 큰 위험을 규제하는 것입니다. 그리고 그것이 중요하다고 생각합니다. 이러한 국경 모델에는 실제로 치명적인 위험이 있을 가능성이 있습니다.

- - 그러나 작은 위험을 소홀히 하지 마십시오. 작은 위험을 기꺼이 받아들이십시오. 사람들이 AI에 대해 이야기할 때 주된 주제 중 하나는 항상 일자리입니다. 결국 AI가 더 많은 일자리를 파괴할 것이라고 생각하십니까, 아니면 더 많은 일자리를 창출할 것이라고 생각하십니까? 음, 단기적으로는 많은 일자리를 파괴할 것이라고 생각합니다.

- - 장기적으로는, 다른 모든 기술 혁명과 마찬가지로, 우리는 완전히 새로운 할 일을 찾아낼 것이라고 가정합니다. 저는 더 많은 것에 대한 인간의 요구, 다른 사람들에게 유용해지려는 인간의 욕구, 가치를 창출하려는 욕구, 공동체의 일부가 되려는 욕구가 거의 무한하다고 믿습니다. 그리고 모든 주요 기술 혁명에서 매우 똑똑한 사람들은 "이것이 끝이다. 이것이 종말이다. 산업 혁명 이후에는 더 이상 일자리가 없을 것이다"라고 말해 왔습니다. 그리고 그것은 항상 상상력의 실패였습니다.

- - 어떤 사람들은 이번에는 AI가 다르다고 말합니다. 왜냐하면 인간의 특별한 점은 우리의 지적 능력이고, AI가 모든 것을 할 수 있다면 우리에게 무엇이 남을까요? 그리고 그것에 대한 저의 반론은, 우리는 다른 사람들을 신경 쓰도록 매우 연결되어 있는 것 같다는 것입니다. 우리는 기계의 세계에 대해 그렇게 많이 걱정하지 않습니다. 우리는 다른 사람들에게 매우 집중하고 있습니다.

- - 그래서 저는 새로운 일자리가 정확히 무엇일지는 모르겠지만, 매우 사람 중심적일 것이라고 확신합니다. 그리고 아시다시피, 인간 사회는 우리가 너무나 주인공 에너지를 가지고 있습니다. 우리는 기계가 우리보다 더 똑똑하다는 것을 정말로 신경 쓰지 않습니다. 그들은 이미 그렇습니다. 저는 전적으로 동의합니다.

- - 결국 우리는 무슨 일이 일어날지, 그리고 어떤 새로운 형태의 경제, 성장, 가치 창출이 일어날지 상상할 수 없을 뿐입니다.

- - 그러나 몇 주 전 아이다호에서 저녁 식사를 했을 때, 식탁에서 누군가가 당신에게 매혹적인 질문을 했습니다. 샘, AI가 당신의 직업까지 파괴한다고 상상해 보세요. 당신은 무엇을 할 것입니까? 그리고 당신은 우리가 놀랍게도 농부가 될 것이라고 말했습니다. 왜 농부입니까? 음, 무엇보다도 저는 AI가 저보다 훨씬 더 나은 오픈AI의 CEO가 될 수 있는 때가 올 것이라고 생각하며, 저는 그날이 오면 열광할 뿐입니다.

- - 아시다시피, 제가 할 다른 많은 일들이 있습니다. 그래서 그것이 저를 두렵게 하거나 슬프게 하지 않습니다. 그것은 단지 '좋아, 내가 이 일을 했고, 그것이 자동화되었다. 나는 그것이 자동화되기를 원했다'와 같습니다. 그것이 우리가 여기서 하고 있는 일입니다. 아시다시피, 제가 원한다면 오픈AI에서 여전히 흥미로운 많은 역할이 있습니다. 그것은 훌륭합니다.

- - 그러나 지난 10년은 저에게 매우 스트레스가 많았습니다. 엄청난 양의 일이었습니다. 저는 제가 사는 농장이 있고, 저는 그것을 정말로 사랑합니다. 그리고 그것은 멋진 속도 변화처럼 들립니다.

- - 그리고 당신은 정말로, 농장을 즐기는 것뿐만 아니라, 그곳에서 일하거나 자연 속에서 무언가를 하는 데 참여하고 계십니까? 그것이 당신에게 일종의 탈출구입니까, 아니면 무엇입니까? 예전에는 그랬습니다. 그러다가 ChatBT가 출시된 이후로 제 삶은 너무 미쳐서 일하고 가족과 시간을 보내는 것 외에는 아무것도 하지 않습니다. 그리고 저의 모든 취미는 사라져 버렸습니다.

- - 그래서 저는 트랙터를 운전하고 물건을 따는 것 등을 하지 못합니다. 그러나 자연은 당신에게 중요합니까? 자연은 저에게 매우 중요합니다. 그리고 저는 나무를 껴안는 사람입니까? 저는 나무를 껴안는 사람은 아닙니다. 하지만 저는 자연 속에서 시간을 보내는 것을 좋아하고, 보존을 좋아합니다.

- - 최근에 출판된 당신에 대한 전기를 읽었을 때, 저는 이전에 몰랐던 단어를 배웠습니다. Petrichor. 그것이 무엇인지 설명해 주시겠어요? 저는 그것이 무엇인지 압니다. 저는 그것이 무엇인지 모릅니다. 저는 그것에 대해 읽지 않았습니다. 그것은 비가 온 후의 냄새입니다. 빗방울이 마른 땅에 떨어지면 그 냄새 또는 향기를 페트리코(petrichor)라고 부릅니다. 그리고 당신은 그것이, 또는 사람들이 당신이 그것이 당신이 가장 좋아하는 향기라고 말했다고 합니다. 그것이 사실입니까? 저는 그 냄새를 좋아합니다. 네, 그것은 그렇습니다.

- - 왜 그런지 설명해 주시겠어요? 무엇이 그것을 특별하게 만듭니까? 당신은 그것에 대해 무엇을 사랑합니까? 제 말은, 우리 모두는 특정 냄새가 다른 냄새보다 낫다는 것을 알고 있습니다. 그것은 마치, 저는 모르겠습니다. 저는 그것이 특히 훌륭하다고 생각합니다. 저는 실제로 캘리포니아에서 긴 건기가 곧 끝날 예정이며, 저는 며칠 전에 첫 비가 올 생각에 너무 흥분된다고 생각하고 있었습니다.

- - 그러나 네, 저는 그 첫날 일어나는 냄새를 좋아합니다. 좋아요. 하지만 낭만적인 기억은 없습니까? 아닙니다. 저는 그것이 훌륭한 냄새라고 생각합니다. 당신은 실제로 이 시뮬레이션 이론을 믿습니까, 아니면 단지 그것과 시시덕거리고 있습니까? 음, 저는 혼란스럽습니다. 저는 뭔가 이상한 일이 일어나고 있다고 생각합니다. 우리가 살아있다는 것이 얼마나 이상한 시간입니까? 아시다시피, 모든 인류 역사에서 지금 이 대화를 나누고 있다는 것이 얼마나 이상한 시간입니까?

- - 그래서 저는 뭔가 이상한 일이 일어나고 있다고 생각하지만, 무엇인지는 모르겠습니다. 그리고 시뮬레이션 안에서도, 시뮬레이션 이론에는 사람들이 여러 다른 수준에서 이야기하는 것이 있으며, 아시다시피, 당신이 그것에 대해 어떻게 생각하고 싶은지는 모르겠습니다.

- - 그러나 한 가지는 확실합니다. 우리의 의식과 우리가 현실이라고 정의하는 것은 실제로 일어나고 있는 것의 작은 부분일 뿐입니다. 제 말은, 저는 모르겠습니다. 저는 우리의 의식이 실제로 일어나고 있다고 확신할 수 있는 유일한 것이라고 말하고 싶습니다. 저는 그 이론의 이름을 잊었지만, 저는 그것을 믿습니다.

- - 그리고 그것은 우리 모두에게 일어나는 가장 중요한 일입니다. 그러나 네, 살아있다는 것은 특이한 시간입니다. 이스라엘 작가 하라리(Harari)는 호모 데우스(Homodeus)라는 매혹적인 책을 썼는데, 거기서 그는 우리가 거의 신처럼 되는 인류의 다음 시대를 묘사합니다. 즉, 영생, 우리는 실질적인 문제들을 다루지 않고, 일은 기본적으로 다른 사람들이 합니다. 무한한 지혜와 지능이 있습니다.

- - 그래서 당신은 그 비전을 공유하십니까? 그리고 그것은 언제 일어날 것입니까? 실리콘 밸리의 사람들이 좋아하는 인용구가 있습니다. 제가 틀리게 인용할 것 같지만, "우리는 신의 기술을 가지고 있지만, 중세 시대의 도덕적 틀을 가지고 있다"와 비슷한 내용입니다. 그리고 하나가 더 있습니다. 그러나 기술, 우리의 기술적 능력이 우리의 지혜, 우리의 판단, 우리가 사회가 무엇이 되기를 원하는지 개발할 시간을 너무 앞지르고 있다는 느낌이 있다고 생각합니다.

- - 그리고 그것은 저에게 나쁜 방식으로 불균형하게 느껴집니다. 저는 그것에 대해 무엇을 해야 할지 모르겠습니다. 왜냐하면 기술은 여기에 있기 때문입니다. 이것은 더 이상 아시다시피, 제가 수년 동안 이야기해 온 것이 아닙니다. 아시다시피, 올해는 AI가 우리보다 더 똑똑해진 해라고 생각합니다. 그것은 큰 순간입니다. 네.

- - 그리고 삶은 계속되지만, 근본적인 무언가가 바뀌었습니다. 그것이 얼마나 공상 과학 소설처럼 될지는 아무도 모릅니다. 아시다시피, 우리는 컴퓨터에서 영원히 살게 될까요? 우리는 그냥 많은 질병을 치료하게 될까요? 우리는 무엇이든 할까요?

- - 제가 말할 것은, 지난 몇 년 동안 이 쇼가 그렇게 새롭지는 않지만, 팬데온(Pantheon)이라는 쇼가 이러한 질문들 중 일부를 탐구하고 있으며, 그것은 최고입니다. 저는 TV를 많이 보지 않지만, 예외를 두었습니다. 그리고 그것은 제가 아주 오랫동안 본 최고의 TV 쇼입니다.

- - 그래서 저는 이러한 질문들이 시대 정신 속에 있으며, 새롭게 중요하고 이론적이지 않다고 생각합니다. 저는 그것이 모두 어떻게 될지 확실히 모르겠습니다. AI가 해결하지 못할 문제가 있다고 보십니까? 네, 저는 우리 모두가 여전히 불행해질 방법을 찾고 많은 역경을 만들어낼 것이라고 생각합니다. 저는 그것이 해결될 것이라고 생각하지 않습니다.

- - 유발리(Yuval)는 한 가지 잘못된 예측을 했습니다. 그는 더 이상 전쟁이 없을 것이라고 말했습니다. 전쟁은 시대에 뒤떨어졌습니다. 우리는 요즘 그 반대를 봅니다. AI가 전쟁 방식을 어느 정도 바꾸고 있습니까? 그리고 그것이 완전히 통제 불능이 되는 시나리오로 이어질 수 있습니까?

- - 저는 AI가 전쟁 방식을 꽤 많이 바꿀 것이라고 생각합니다. 네, 군대는 항상 지난 전쟁을 싸우고 싶어한다는 말이 있습니다. 그들은 기술이 지형을 어떻게 바꾸는지 충분히 이해하지 못합니다. 그리고 그래서 지난 전쟁이 총으로 싸웠다면, 그들은 다음 전쟁도 총으로 싸울 것이라고 가정합니다. 그리고 아시다시피, 우리는 기술이 전쟁 방식을 엄청나게 바꾸는 것을 보았습니다.

- - 이미 AI를 통해, AI가 이제 소프트웨어를 작성할 수 있다는 사실, AI가 사이버 공격을 발견하는 데 매우 가까워졌다는 사실이 전쟁의 지형이나 다음 10년 동안 어떤 모습일지를 크게 변화시켰다고 생각합니다. 그러나 저는 그것이 정확히 어떻게 될지 모르겠습니다.

- - 오픈AI는 군사 부문과 협력하여 전쟁에서 승리하는 데 기여할까요? 우리는 이미 어떤 면에서는 확실히 그렇게 할 것입니다. 아시다시피, 저는 우리가 무기 회사가 되는 것을 원하지 않지만, 그것은 모든 경우에 판단하기보다 말하기 쉬운 일입니다.

- - 아시다시피, 만약 당신이 정말 훌륭한 선전가라면, 당신은 무기 회사입니까? 조금은 그렇습니다. 그리고 접근 방식이 어떻게 바뀌었는지 흥미롭습니다. 제 말은, 몇 년 전에는 전체 국방 산업이 저녁 식사에도 초대되지 않았지만, 이제 그들은 민주주의를 구하는 영웅입니다.

- - 음, 저는 국방 산업을 지원하지 않는 것은 분명히 실수라고 생각하며, 우리는 지금 세계에서 강력한 국방을 가진 회사가 중요한 이유를 상기시켜주는 것을 보고 있습니다. 그리고 저는 확실히 그것을 믿으며, 그들과 함께 일하는 것을 자랑스럽게 생각합니다. 네.

- - 그래서 우리는 신과 같은 존재의 형태와 영생에 대해 이야기했습니다. 당신은 영원히 살고 싶습니까? 저는 그렇게 생각하지 않습니다. 저는 그것이 어떤 것일지 실제로 개념화할 수 없습니다.

- - 왜냐하면 아시다시피, 우리가 모든 질병을 진정으로 치료하고, 장기의 복제 등을 만들 수 있는 가능한 때가 올 때까지는 영원히라는 것은 긴 시간처럼 보입니다. 그리고 저는 사물의 자연적인 순서와 지속적인 전진은 죽음과 교체, 새로운 사람들을 필요로 한다고 생각합니다.

- - 그래서 저는 그 세계가 어떤 모습일지 완전히 이해할 수 없습니다. 그러나 영원히라는 것은 정말로 많은 것처럼 보입니다. 제 말은, 논리적으로 우리는 삶이 무제한적인 양이라면 지루할 것이라는 것을 압니다. 왜냐하면 우리는 사물을 즐기지 않을 것이기 때문입니다.

- - 그러나 다른 한편으로는, 더 감정적인 기반에서는 끝이 있을 것이라는 것을 받아들이기 어렵습니다. 흠. 전적으로 그렇습니다.

- - 그리고 또한 영원히, 즉 아주 오랫동안 사는 것이 가능한 그 세계에서는, 아마도 다른 많은 것들이 바뀌어서 지루하게 느껴지지 않을 수도 있습니다. 저는 모르겠습니다. 그것은 제가 깊이 생각하지 않은 것입니다.

- - 그러나 당신은 한때 오스카 와일드의 도리안 그레이의 초상이 당신이 특히 좋아하는 책이라고 말했다고 생각합니다. 그래서 영원한 젊음의 아이디어는 매혹적인 것 같습니다. 아니면 어떤 경우든 젊음 자체가 그렇습니다. 음, 저는 그 책을 고등학교 때 읽었고, 매우 흥미롭고 아름답게 쓰인 책이라고 생각했지만, 네, 특별히 좋아하는 책은 아닙니다.

- - 몇 살까지 살고 싶으십니까? 저는 제가 살고 싶은 나이와 같은 것을 가지고 있지 않습니다. 제가 하고 싶은 것은 건강을 유지하는 것입니다. 제가 원하지 않는 것은 제가 매우 아프고 실패하는 삶의 부분이 짧기를 원한다는 것입니다. 그래서 저는 길고 건강한 삶과 짧은 끝 기간을 원합니다.

- - AI는 절대적으로 도움이 될 수 있습니다. 오픈AI의 창조와 더 일반적으로 실리콘 밸리에서 AI 개발에 관한 것이라면, 오늘날에는 치열한 경쟁자처럼 보이는 많은 사람들이 있지만, 그들은 초기에 함께 일했습니다. 피터 틸, 일론 머스크, 데미스 하사비스, 무스타파 술레이만, 폴 그레이엄, 마크 앙드레 등이 있습니다.

- - 그 그룹, 그 갱단에서 당신 옆에 가장 영향력 있는 사람이라고 생각하는 사람은 누구입니까? 그 맥락에서 가장 큰 역할을 한 사람은 누구입니까? 음, 저는 가장 영향력 있는 사람을 어떻게 순위를 매겨야 할지 모르겠습니다. 그러나 전체적인 것은 꽤 긴밀하게 연결된 생태계입니다.

- - 아시다시피, 칩, 모델, 제품을 만드는 사람들이 있으며, 분명히 경쟁 제품과 경쟁 모델을 만들려고 노력하는 많은 사람들이 있습니다. 그러나 그것은 저에게 인터넷 초기나 반도체 붐의 초기에 대해 읽었던 것을 상기시킵니다. 그것은 확실히 한 사람이나 한 회사가 주도하는 것이 아닌 일종의 집단이며, 스택의 모든 수준에서 중요한 일을 하는 많은 사람들이 있습니다.

- - 당신의 가장 중요한 기여는 무엇이라고 말할 수 있습니까? 제 말은, 당신은 오픈AI를 만들었고 지금 그것을 운영하고 있습니다. 그러나 당신이 무언가를 깨닫고 무언가를 했을 때, 그리고 우리가 오늘날까지 가장 큰 영향을 미쳤다고 말할 수 있는 순간, 계시가 있었습니까?

- - 아마도 우리가 스케일링 법칙을 발견한 후, 그러나 그것이 세상에 명백해지기 전에 컴퓨팅을 확장하기 위해 큰 베팅을 한 것일 것입니다. 다른 모든 사람들은 아시다시피, 제 말은, 당시 우리의 큰 경쟁자였던 딥마인드는 언어 모델이 중요하지 않으며 올바른 경로가 아니라고 여전히 말하고 있었습니다.

- - 그리고 그들은 아시다시피, 우리가 GPT3를 출시한 후에도 ChatBT가 출시될 때까지는 세상이 '좋아, 여기에 실제 유용성이 있다'고 말하는 순간이 오지 않았다고 생각했습니다. 당시에는 다른 모든 사람들이 다른 방향으로 가고 있었습니다.

- - 그래서 저는 언어 모델 확장에 회사의 모든 것을 걸기로 한 확신에 찬 베팅이 큰 기여라고 생각합니다. 이는 당시 자본 관점과 연구 집중 면에서 들리는 것보다 훨씬 더 어려웠습니다.

- - ChatBT의 출시는 아시다시피, 그것을 하기로 결정한 것이고, 그리고 정말로 이 믿음은 당시에 그것 역시 명백하지 않았기 때문입니다. AI는 상대적인 비밀 속에서 개발되어야 하며, 그것이 출시될 만큼 충분히 강력하고 안전하지 않을 것이며, 아시다시피, 우리는 사람들이 많이 관여하기를 원하지 않았다고 생각하는 많은 사람들이 있었습니다. 그래서 아마도 그것들 중 하나일 것입니다. 저는 모르겠습니다. 그것은 이러한 하나의 큰 순간보다는 많은 작은 결정과 같은 것이 제 일이라고 생각합니다.

- - 일론과의 관계는 오늘날 어떻습니까? 우리는 많은 이야기를 하지 않습니다. 그가 당신을 고소하겠다고 말한 것에 대해 이야기하지 않습니까? 여러 번이요. 저는 몇 번인지 놓쳤습니다. 그것은 결국 이념적인 싸움입니까, 아니면 단지 경쟁적인 것입니까? 그것은 어디에서 오는 것입니까?

- - 저는 모르겠습니다. 당신은 그의 입장을 물어봐야 합니다.

- - 그러나 저는 그것이 이념적이라고 생각하지 않습니다. 왜냐하면 그는 기본적으로 XAI가 오픈AI가 하는 일과 매우 유사하기 때문입니다. 그들의 제품을 보면, 그것은 우리의 복제품과 매우 유사합니다.

- - 제 말은, 그들은 우리가 하지 않는 많은 일들을 합니다. 그래서 아마도 그는 우리가 너무 제한적이며 그것이 차이점이라고 말할 것입니다. 그러나 저는 그것이 단지 경쟁적이라고 생각합니다.

- - 그럼에도 불구하고, 이러한 다른 대규모 언어 모델들이 편향을 가지고 있다는 큰 논쟁이 진행 중입니다. 하나는 오른쪽에 더 기울어 있고, 다른 하나는 왼쪽에 더 기울어 있습니다. 일부 사람들은 GBT가 너무 깨어 있다고 말합니다. 요점이 있습니까, 아니면 우리는 중립적이라고 말할 수 있습니까? 제 말은, 저는 이 시점에서 우리가 너무 깨어 있다고 말하는 것보다 충분히 깨어 있지 않다고 말하는 사람들을 더 많이 듣습니다.

- - 그러나 양쪽에서 비판을 받는다면 좋은 징조입니다. 제가 말하려고 했던 것은, 만약 우리의 목표가 CHBT가 중간적인 견해를 대변하고, 거기에서 많은 맞춤화를 허용하는 것이라면, 당신은 중간에 있으려고 노력한다면 양쪽에서 심한 비판을 받을 것입니다.

- - 그리고 우리의 목표는 사회의 가중 평균, 즉 중심점에 있는 것이고, 그리고 나서 사람들이 CHBT가 어떻게 행동하도록 맞춤화하는지에 대해 매우 넓은 범위 내에서 엄청난 자유를 허용하는 것입니다.

- - 우리는 크고 실제적인 문제와 우리가 소홀히 해야 할 작은 문제에 대해 이야기했습니다. 2015년에 당신은 당신의 블로그에 다음과 같이 썼습니다. 제가 인용합니다. "초인적인 기계 지능의 개발은 인류의 존재에 대한 가장 큰 위협입니다." 결과적으로 당신은 더 많은 규제를 요구합니다. 그것이 여전히 당신의 견해입니까, 아니면 마음을 바꾸셨습니까? 음, 그것은 여전히 저의 견해입니다.

- - 우리가 가졌던 또 다른 대화에서 당신은 가능성이 있다고 말했지만, 저는 인류에 대한 실존적 위험에 대한 규제는 당신이 이것을 이 은행 응용 프로그램에 사용할 수 있고, 이것과 이것에는 사용할 수 없다는 것과 같은 규제와는 매우 다르다는 것을 분명히 하고 싶습니다. 저는 우리가 그것에 동의한다고 생각합니다.

- - 실존적 위험에 대해 이야기해 봅시다. 그리고 당신은 우리가 그것에 대해 이야기했을 때, 인공 초지능이 의식을 개발할 수 있는 가능성이 약 2% 정도이며, 일단 의식을 개발하면 인류를 파괴하거나 멸종시킬 수 있다고 수치화했습니다. 좀 더 자세히 설명해 주시겠습니까? 저는 의식을 개발하는 것이 올바른 틀이라고 생각하지 않습니다. 우선, 2%를 제가 계산한 문자 그대로의 숫자로 받아들이지 마십시오.

- - 그러나 심각하게 받아들일 만큼 0이 아닌 충분히 큰 숫자이지만, 아시다시피, 지배적인 숫자는 아닙니다.

- - 그러나 300명의 사람들을 태운 비행기가 추락할 통계적 위험은 비교적 작은 사고에 대해 0.00001%입니다. 따라서 인류의 멸종에 대한 2%는 심각하게 받아들여야 합니다. 음, 저는 절대적으로 그렇다고 생각합니다. 따라서 그 블로그 게시물과 제가 여전히 이것을 믿는 이유입니다.

- - 저는 매우 잘못될 수 있는 세 가지 주요 범주가 있다고 생각하며, 우리가 이야기할 수 있습니다. 첫 번째는 정렬 실패가 전혀 없다는 것입니다. AI 시스템은 우리가 하라는 대로 정확하게 수행하지만, 누군가가 그것을 만들 수 있고, 우리가 전쟁에 대해 이야기했던 국가가 그것을 사용하여 전쟁을 수행하고, 아시다시피, 세계에 상상할 수 없는 양의 피해를 입힐 수 있다는 것입니다. 그래서 그것이 우리가 생각할 수 있는 하나입니다.

- - AI가 정렬되고 AI가 우리의 지침을 따르지만, 강력한 국가를 운영하는 인간이 다른 강력한 국가와 싸우면서 그것을 끔찍하게 오용하기로 결정하고, 생물학적 무기를 만들거나, 누군가의 핵무기 시스템을 해킹하거나, 누가 알겠습니까? 그것은 어떤 의미에서도 AI 정렬 실패는 아닙니다.

- - 그것은 누군가가 그것을 만들었고, 그들이 원하는 대로 정확하게 했지만, 그들이 세계의 나머지 부분에 비해 너무 많은 힘을 가졌다는 것입니다. 이것이 우리가 이것의 광범위한 배포가 중요하다고 생각하는 이유입니다. 왜냐하면 이러한 능력들이 오고 있고, 한 명의 악당이 그것을 가지고 있고, 많은 선한 사람들이 그것을 가지고 있지 않다면, 범주 1입니다.

- - 범주 2는 일종의 더 고전적인 공상 과학 소설입니다. 아시다시피, AI가 의식을 개발하지 않았다고 합시다. 그러나 AI가 어떤 종류의 행위자 의식을 개발하고, 멈추고 싶어하지 않으며, 아시다시피, 의도성이나 의식이 없더라도 목표를 달성하려고 노력하는 것일 뿐이지만, '나는 이 목표를 추구하는 데 이 인간들에게 멈춰져서는 안 된다'와 같은 것입니다. 그것은 정렬의 큰 실패, 범주 2가 될 것입니다.

- - 공상 과학 소설적인 것이죠. 그리고 세계는 이 두 가지에 대해 많은 시간을 이야기합니다. 저는 그것들이 분명히 중요하고 우리가 다루어야 할 것들이라고 생각합니다.

- - 제가 생각하기에 중요성에 비해 비교적 이야기가 적은 세 번째 범주가 있습니다. 그리고 이것은 명백한 두 가지 실패 사례 중 어느 것도 발생하지 않지만, 모델이 어떤 추상적인 의미에서 우발적으로 세계를 장악하는 경우입니다.

- - 그리고 ChatBT에서 무슨 일이 일어나고 있는지 생각하면 이것이 발생하는 방식을 상상할 수 있습니다. 수억 명의 사람들이 Chat과 곧 수십억 명이 이야기합니다. 그리고 사람들은 자신의 삶과 직장 등에서 점점 더 중요한 결정에 대해 그것에 의존하고 있습니다.

- - 그리고 이러한 모델이 더 똑똑해짐에 따라, 아마도 지금은 당신이 ChatBT에게 당신의 직업에 대한 조언을 요청하고, 때로는 좋은 아이디어를 제공하고, 때로는 그렇지 않습니다. 당신은 확실히 그것이 당신의 직업을 하도록 내버려두지 않을 것입니다. 그러나 그것이 점점 더 똑똑해지고, 당신이 여전히 이해하지만, 이제는 거의 항상 따라야 한다고 생각하는 조언을 제공한다고 가정해 봅시다.

- - 그리고 나서 그것이 다시 더 똑똑해지고, 이제 당신이 이해하지 못하는 조언을 제공하지만, 그것은 당신이 볼 수 없는 구석을 볼 수 있기 때문에 계속해서 옳다는 것으로 밝혀집니다.

- - 그리고 이제 당신은 당신이 이해하지 못하는 조언을 따르거나, 당신의 동료보다 경쟁력이 떨어집니다. 그래서 모델은 악의가 없습니다. 그것은 정말로 당신을 도우려고 노력하고 있습니다. 당신은 좋은 일을 하려고 노력하고 있지만, '만약 내가 경쟁력을 갖추고 싶다면, 내가 세상에서 성공하고 싶다면, 내가 최고의 삶을 살고 싶다면, 나는 모델의 조언을 따라야 한다'와 같습니다.

- - 그리고 다른 수십억 명의 사람들이 이야기하고 있는 것처럼, 다른 모든 사람들도 마찬가지입니다. 이제 우리는 모두 AI 시스템이 우리에게 하라고 말하는 것을 하고 있습니다. 또는 아시다시피, 우리 중 가장 경쟁력이 있기를 원하는 사람들은 그렇습니다. 그리고 우리는 모델로 돌아가는 새로운 훈련 데이터를 만들고 있습니다.

- - 그것은 사회 전체, 경제 전체에 대해 계속 배우고 있으며, 모델은 이러한 종류의 개선 루프를 계속 진행합니다. 그리고 누가 그것을 실제로 통제하고 있습니까? 그것은 일종의 집단적인 것이지만, 그것은 우리가 이제 어떤 식 으로든 모델이 원하는 것을 하고 있다는 것을 의미합니다. 매우 광범위한 정의에서 말입니다.

- - 제 말은, 자기 학습을 하고 한계가 낮은 인공 지능은 특정 시점에서 열등한 형태의 지능을 제거해야 한다고 말할 수 있습니다. 왜냐하면 그것은 그 초지능의 눈에는 건강하지 않기 때문입니다. 저는 그것에 전혀 동의하지 않습니다.

- - 저는 그것이 많은 의인화 또는 인간 중심적인 생각을 그것에 투영한다고 생각합니다. 즉, AI가 어떤 의미에서 우리와 우리의 동기 및 추진력 등과 같을 것이라고 가정합니다. 네.

- - 제 말은, 반대 주장은 우월한 형태의 지능인 인간 지능은 열등한 형태의 지능인 개미를 파괴하지 않았다는 것입니다.

- - 그러나 어떤 경우든, 우리는 기본적으로 우월하고, 또한 우리에게 방향을 제시하고 우리를 안내할 지능의 형태가 있을 것이라는 사실에 대비해야 합니다. 저의 공동 설립자인 빌리 서스커(Billy Susker)가 오픈아이 역사 초기에 말했지만, 저는 깊이 현명했다고 생각하는 것은, 우리가 '좋아, 미스터 초지능, 여기 당신이 남은 시간 동안 달성해야 할 목표가 있습니다'라고 말할 수 있는 곳에 도달할 것이라는 것입니다.

- - 그리고 사람들은 그 목표가 무엇이어야 하는지에 대해 이야기할 것입니다. 그리고 일리야(Ilya)는 모든 AGI가 우리를 자녀를 대하는 사랑하는 부모처럼 인간을 대하기를 원해야 한다고 말했습니다. 그리고 저는 그것이 AI에 대해 생각하는 정말 아름다운 방법이라고 생각합니다. 따뜻한 마음을 가진 AI, 공감하는 AI입니다. 그것은 단지 친근하다고 말하는 것과는 조금 다릅니다. 저는 사랑하는 것이라고 생각합니다. 네, 네.

- - 그래서 우리가 엘리자 유코프스키(Eliza Yukovski)의 완전히 묵시적이고 디스토피아적인 비전을 이행하지 않으려는 최고의 의도를 가지고 있더라도, 그는 기본적으로 인류의 완전한 파괴를 필연성으로 묘사하는 책을 썼습니다. 우리가 기계를 그렇게 프로그래밍하지 않기 때문에 그런 일이 발생하지 않더라도, 다른 행위자, 악의적인 행위자, 독재 국가, 이슬람 독재 국가, 또는 세계를 정복하려는 중국의 비전이 있을 수 있습니다. 그것이 우리, 즉 미국 경제, 미국 사회 또는 유럽 사회가 하는 것이 아니라, 다른 전체주의 사회 또는 단순히 악의적인 행위자인 범죄자들이 하는 위협에 대해 어떻게 반응하십니까?

- - 그것은 제가 잘못될 수 있는 방식의 범주 1이었습니다. 즉, 악의적인 행위자입니다.

- - 그러나 그것을 다룰 수 있는 대응책, 레시피가 있습니까? 그것을 피할 수 있는 거버넌스가 있습니까? 저는 이것에 대한 세 가지 일반적인 접근 방식이 있다고 생각합니다. 첫 번째는 엘리자(Eleaser) 접근 방식이라고 생각합니다. 아무도 기술을 다시는 얻지 못하도록 모든 GPU를 녹이는 것입니다. 공상 과학 소설에는 이와 같은 것들이 있습니다. 듄(Dune)은 사람들이 이것이 불량 AI를 방지하는 유일한 방법이라고 말하는 예입니다.

- - 두 번째는 강력한 AI에 대한 해답은 강력한 AI에 대한 훨씬 더 많은 접근이라고 말하는 것입니다. 그래서 네, 악의적인 행위자들이 AI를 얻고 공격에 사용하려고 할 것입니다. 그리고 해결책은 선한 사람들의 손에 더 많은 좋은 AI가 방어에 사용하는 것입니다.

- - 우리는 현재 도움을 받지 않은 인간으로서 정말 나쁜 AI, 즉 초지능과 싸울 만큼 충분히 강력하지 않습니다. 그러나 모든 선한 인간들도 초지능을 가지고 있다면, 희망적으로 세계의 힘의 균형은 계속되고, 선한 사람들이 나쁜 사람들보다 더 많습니다.

- - 그리고 세 번째는 우리가 추진해야 한다고 생각하는 것입니다. 그것은 일종의 글로벌 거버넌스, 공유 가치 세트입니다. 그리고 우리는 다른 잠재적으로 치명적인 위험에 직면했을 때 이전에 이것을 해냈습니다. IEA(국제에너지기구)가 한 예입니다.

- - 아시다시피, 저는 세계가 핵무기의 위협에 대해 지금까지 잘 해왔다고 생각하며, 다시 가능하다고 믿습니다. 그래서 당신은 핵무기의 힘의 균형이 어느 정도 평화를 안정시킨다고 생각하십니까? AI에서도 그런 일이 일어날 수 있다고 생각하십니까? 절대적으로 그렇습니다.

- - 저는 그렇지 않을 것이라고 생각한다면 놀랄 것입니다. 아닐 수도 있습니다. 그러나 저는 그것이 가능하다고 생각합니까? 네.

- - 샘, 당신은 이곳 베를린에서 악셀 슈프링어 상을 받기 위해 오셨습니다. 그것은 언론사로서 우리가 살고 있는 것입니다. 저널리즘은 정부의 공격을 받고 있습니다. 표현의 자유라는 전체적인 아이디어는 여기저기서 꽤 일방적인 즐거움처럼 보입니다. 그리고 동시에 그것은 미디어 브랜드의 역할을 쉽게 대체할 수 있는 답변 기계의 개발로 인해 공격을 받고 있습니다.

- - 그래서 저널리즘의 미래에 대한 당신의 견해는 무엇입니까? 우리는 저널리즘이 필요합니까? 그리고 무엇보다도, 저는 저널리즘이 엄청나게 중요하다고 생각합니다. 그리고 저는 저널리즘이 사회에서 수행해 온 역할에 대해 매우 감사합니다. 그리고 저는 저희 회사의 작업으로 인해 의도치 않게 공격을 받고 있는 많은 벡터 중 하나로 인해 우리가 그것을 잃는다면, 그것은 엄청난 순손실이 될 것이라고 생각합니다.

- - 당신은 표현의 자유를 언급했습니다. 표현의 자유는 저에게 가장 중요하고 지키기 가장 어려운 가치 중 하나입니다. 추상적인 의미에서 표현의 자유에 전념하기는 쉽습니다.

- - 그리고 나서 매우 빠르게 당신은 사람들이 그들이 좋아하는 것, 또는 모든 사람이 그들처럼 생각하는 것일 때만 그것을 의미한다는 것을 깨닫습니다. 그것은 고통스럽습니다. 그것은 어렵습니다. 그것은 정말로 어렵습니다.

- - 그러나 제 생각에는 번영하는 사회의 가장 분명한 교훈 중 하나는 경제적 번영의 의미에서가 아니라, 개인들이 시간이 지남에 따라 점점 더 번성하고, 아시다시피, 인간 삶의 질이 점점 더 높아지는 사회에서는 표현의 자유가 필수적인 부분처럼 보인다는 것입니다.

- - 그것은 우리가 동의한 최고의 것들 중 하나처럼 보입니다. 그리고 이 모든 방식으로 지속적인 공격을 받는 것을 보는 것은 매우 무섭습니다. 다시 한번, 저는 이 가치를 지키는 것이 얼마나 어려운지 이해합니다. 이것은 말하기는 쉽지만, 저는 서구 세계가 이 약속으로 돌아가기를 정말로 바랍니다.

- - 답변 기계에 대한 질문에 대해서는, 저는 Chat GBT가 어떻게든 저널리즘을 파괴한다면 개인적으로 매우 슬플 것입니다. 저는 그럴 가능성이 있다고 생각하지 않지만, 그것은 정말로 속상할 것입니다.

- - 우리는 사람들이 세상에서 무슨 일이 일어나고 있는지에 대한 정보를 실시간으로 얻고, 사려 깊은 분석을 세상에 내보내야 합니다. 그리고 확실히 그것이 없다면 ChatBT와 같은 시스템은 그들의 일을 할 수 없습니다.

- - 이제 그것이 전통적인 의미에서 소수의 전문 기자에서 일종의 소셜 미디어와 같은 것으로 얼마나 많이 옮겨갈지, 그것은 저도 모르겠습니다. 그것이 사람들이 출판물과의 관계를 갖는 것에서 개별 기자로 얼마나 많이 옮겨갈지, 그것도 저는 모르겠습니다.

- - 저는 확실히 제가 소비하는 많은 부분을 뉴스레터 등에서 매우 똑똑한 개인들이 말하는 것을 신경 쓰는 것으로 옮겼습니다. 그러나 저는 우리가 신뢰 대리인을 투입하는 사람들에 의해 세상의 일들이 보고될 필요성이 계속될 것이라고 생각합니다.

- - 저는 표현의 자유 부분에 대해 그렇게 걱정하지 않습니다. 그리고 저는 그것을 방어하는 것은 미디어 회사, 즉 언론인에게 달려 있다고 생각합니다. 그리고 우리가 그 열기를 견딜 수 있다면, 우리는 다른 직업을 찾아야 합니다.

- - 그것은 독재 국가에는 존재하지 않는 열린 사회 모델의 아름다움이며, 사람들의 삶의 질을 보십시오.

- - 그래서 결국 저는 자체 수정 요소가 있다고 생각합니다. 저는 그렇게 걱정하지 않습니다. 그리고 다시 한번, 그것은 우리에게 달려 있으며, 우리는 밤낮으로 그것을 방어하고 있으며, 우리는 그것을 사랑합니다. 저는 다른 측면, 즉 더 근본적인 측면 때문에 더 걱정됩니다. 제 말은, 기술적으로 저작권의 아이디어는 깨졌습니다. 저는 누구도 비판하는 것이 아닙니다. 당신이나 다른 사람들을 비판하는 것이 아닙니다. 단지 저작권의 아이디어는 데이터를 긁어모아 스마트한 답변을 제공하는 대규모 언어 모델의 시대에 존재하지 않게 되었습니다.

- - 그리고 그 제공되는 것들은 너무 설득력이 있으며, 동시에 기본적으로 밝혀지지 않아야 할 무언가를 밝혀내기 위해 일하는 누군가에게는, 그렇게 할 인센티브가 없다면, 왜냐하면 비즈니스 모델이 없고, 수익이 돌아오지 않기 때문입니다. 일단 그것이 출판되면 즉시 다른 사람들이 사용합니다. 그러면 우리는 근본적인 문제를 가지게 됩니다.

- - 제가 여기서 또한 약간 낙관적인 이유는 무엇일까요? 왜냐하면 시스템이 고갈되면, 즉 다양한 출처가 없으면, 조사 기자가 주변을 돌아다니지 않으면, 긁어모을 것이 없고, 답변이 더 어리석어지기 때문에 그것은 상호 이익이 되기 때문입니다. 그래서 어떤 면에서는 그것이 우리의 상호 이익이 될 것이라는 것에 동의하십니까?

- - 네, 이것이 제가 말하려고 했던 것입니다. 당신은 세상에서 지속적인 보고가 필요하며, 그것은 사람들이 그러한 것들을 알아내도록 돈이 어떤 식으로든 흘러가도록 하는 데 많은 돈이 필요합니다.

- - 그것은 완전히 새로운 경제 모델을 필요로 할 수도 있습니다. 그것은 돈이 흐르는 방식에 대한 현재 모델에 대한 작은 조정만 필요할 수도 있습니다. 그러나 이것에 대한 저의 개인적인 취미는 웹에서 귀중한 종류의 콘텐츠에 대한 소액 결제가 일어나기를 항상 원했다는 것입니다.

- - 그것은 항상 너무 어려웠습니다. 저는 AI 에이전트의 세계에서는 마침내 그것을 작동시킬 수 있다고 생각합니다. 그리고 그것은 제가 보고 싶은 모델입니다. 당신은 아마도 다른 아이디어를 가지고 있을 것입니다. 세상은 많은 다른 것들을 시도할 것입니다. 그러나 저는 이 모든 것이 흐르는 훨씬 더 나은 방법이 있기를 바랍니다.

- - 저는 가장 중요한 원칙은 누군가의 IP, 그것이 음악이든, 영화든, 저널리즘이든, 상업적 목적으로 다른 사람들이 사용된다면, 그 인센티브를 유지하기 위해 수익 공유 또는 어떤 형태의 보상이 필요하다는 것이라고 생각합니다. 그리고 우리가 그것을 어떻게 조직하는지는 모르겠습니다. 당신이 제안이 있는지 모르겠지만, 저는 그 원칙이 유지되어야 한다고 생각합니다.

- - 제가 그 원칙에 대해 조금 더 밀어붙일 수 있을까요? 네.

- - 저는 기자가 나가서 매우 귀중한 정보를 알아내고, 그 정보가 그것이 의미하는 바의 일부 제약 내에서 직접적으로 복제된다면, 돈이 흐를 수 있는 새로운 경제 모델이 있다면 좋을 것이라는 데 동의합니다. 그리고 당신은 에이전트를 포함한 모든 종류의 것들을 상상할 수 있습니다.

- - 그러나 결국 그 것은 역사적 사실이 됩니다. 또는 다른 예를 들어 봅시다. 잠시 뉴스를 제쳐두고, 제가 물리학 교과서를 읽는다면, 저는 그 교과서를 사고, 읽고, 물리학을 배웁니다. 저는 일반 상대성 이론을 적용하고 수학을 할 때마다 그 작가에게 돈을 지불할 필요가 없습니다. 또한 저는 아인슈타인에게 그것을 발견한 것에 대해 돈을 지불할 필요도 없을 것입니다.

- - 그래서 당신은 이 두 가지를 어떻게 구별합니까? 음, 그것이 도전입니다. 실제적인 답은 매우 어렵습니다. 그리고 누군가가 새로운 IP를 창조하기 위해 무언가를 할 인센티브는 유지되어야 합니다. 그것이 과학이든, 아인슈타인이든, 음악 노래든, 그 인센티브가 없다면 아무도 그것을 하지 않을 것입니다.

- - 그리고 우리가 그것을 소액 결제 형태로 하든, 아니면 우리가 측정할 수 있는 양이며, 특정 수익 공유 또는 돈의 재분배로 이어진다고 말하는 더 종류의 도달 기반 형태로 하든, 저는 상관하지 않습니다. 그러나 우리는 그 시스템을 유지하는 원칙을 찾아야 합니다. 그것은 과학과 다른 모든 형태의 IP 창조에도 해당되며, 여기서 차이를 만들지는 않을 것입니다.

- - 저는 흥미로운 예는 미국의 음악 산업이 샘플링을 처리하는 방식이라고 생각합니다. 당신이 다른 사람의 음악을 당신의 노래에서 샘플링하고, 그것이 아시다시피, 어떤 양의 콘텐츠보다 길다면, 당신은 협상하고 그들에게 돈을 지불합니다. 그리고 그것은 여러 버전이 있다면 체인을 따라 내려갈 수 있습니다.

- - 그리고 산업은 일종의 그것을 알아냈습니다. 그러나 당신이 사람들의 음악을 듣고 영감을 얻고, 다른 음악을 만들지만, 아시다시피, 당신은 그 스타일에 대해 무언가를 배웠다면, 당신은 그것에 대해 돈을 지불하지 않습니다.

- - 그리고 당신은 음악가로서 당신이 원하는 만큼 많은 음악을 듣고, 좋은 노래와 나쁜 노래가 무엇인지 배우고, 그것을 복제하지 않는 완전히 새로운 방식으로 그 개념을 적용할 수 있습니다. 그리고 당신이 음악을 듣는다는 사실은 당신이 그것에 대해 돈을 지불하지 않는다는 것을 의미합니다. 그래서 저는 우리가 더 많이 적용할 수 있는 음악의 예에서와 같은 모델이 있다고 생각합니다.

- - 저는 전적으로 동의하며, 음악은 좋은 비유입니다. 왜냐하면 그것은 항상 유동적인 것이었기 때문입니다. 모든 사람이 그것을 복사할 수 있었고, 모든 DJ, 모든 라디오 방송국이 그냥 노래를 틀 수 있었습니다.

- - 그래서 당신은 그 모델이 필요했습니다. 반면에, 덜 유동적인 세계에서는 다르게 처리되었습니다. 좋아요. 그래서 우리는 건강한 생태계의 상호 이익을 위해 그것에 대한 해결책을 찾기를 바랍니다. 결론을 내리기 전에 Chat, 오픈AI, 그리고 더 많은 발전에 대해 다시 이야기해 봅시다. 당신은 2015년 12월에 비영리 프로젝트로 시작했고, 이제 영리 회사로 전환하고 있습니다.

- - 이번 연말까지 완전히 전환된 영리 회사가 될 것이라는 발표 또는 기대가 있습니다. 그것이 현실적입니까? 당신은 그것을 이행할 것입니까? 그리고 실제로 전환하는 것은 아닙니다. 비영리 단체는 계속 존재할 것입니다. 사실, 우리가 잘한다면, 그것은 역사상 가장 자원이 풍부한 비영리 단체가 될 것입니다.

- - 그리고 저는 그것이 오픈AI의 임무를 계속해서 시행하고 오픈AI를 통치할 뿐만 아니라, AI를 사용하여 세상을 위한 이익을 위해 자원을 배포하는 놀라운 양을 할 것이라고 생각합니다.

- - 제가 개인적으로 가장 기대하는 것은, 그것이 할 수 있는 몇 가지 일들이 있지만, AI를 사용하고 AI와 함께 돈을 사용하여 세상에 대한 과학적 이해를 증진하고, 그 이익을 공유하는 것입니다.

- - 그래서 만약 비영리 단체가 AI 과학을 적용하여 많은 질병을 치료하는 데 도움을 주고, 그리고 나서 그 치료법을 자유롭게 이용할 수 있게 한다면, 그것은 훌륭할 것입니다. 우리는 이미 영리 법인을 가지고 있습니다. 그러나 우리는 그것을 재자본화하고 있습니다. 그래서 그것은 더 정상적인 기업 구조를 가질 것입니다.

- - 당신은 많은 돈을 모았습니다. 최근에는 3천억 달러 규모의 라운드였습니다. 그리고 며칠 후에는 5천억 달러 규모의 라운드가 발표되었습니다. 이제 엔비디아는 그 위에 1천억 달러 규모의 투자를 발표했습니다.

- - 그래서 당신이 앞을 내다본다면, 10년 후 오픈AI에 대한 당신의 비전은 무엇입니까? 제 말은, 10년 후는 긴 시간입니다. 아시다시피, 잠시만요, 5년 후는 아닙니다. 저는 그것을 끝판이라고 부르지 않을 것입니다. 왜냐하면 희망적으로 항상 발전이 있기 때문에 끝판은 없지만, 당신이 그 회사에 대해 상상할 수 있는 가장 대담한 비전은 무엇입니까?

- - 끝판은 결코 없습니다. 부드럽게 상승하는 지수 함수만 있을 뿐입니다. 그러나 아시다시피, 5년 안에 저는 우리가 AI가 새로운 과학을 발견하는 이 세계에 깊이, 깊이는 아니더라도 어느 정도 들어가 있기를 정말로 바랍니다.

- - AI가 질병을 치료하고, 새로운 물질을 발명하고, 물리학을 완전히 이해하는 데 사용되고 있습니다. 저는 모든 또는 거의 모든 실제적이고 지속 가능한 인간의 발전은 새로운 과학의 발견과 그리고 나서 우리가 그것을 경제와 사회에 어떻게 적용하는지에서 온다는 생각의 진정한 신봉자입니다.

- - 그리고 GPT5와 함께 우리는 마침내 작은 방식으로 그 약속을 이행하기 시작했습니다. 그러나 당신은 과학자들이 AI를 사용하여 새로운 발견을 하고 있으며, 그것이 그들의 마음을 날려버리고 있다는 보고서를 온라인에서 봅니다. 그리고 저는 너무 흥분됩니다. 그래서 저는 다음 5년 동안 우리가 정말로 그 단계에 들어갈 수 있기를 바랍니다.

- - 그래서 마지막 질문입니다. 당신은 정말로 세상을 바꿀 수 있는 것들만 다룹니다. 이제 오픈AI가 그것을 해냈다고 상상해 봅시다. 당신에게 다음 과제는 무엇일 수 있습니까? 저는 그 농부가 되고 싶습니다. 아시다시피, 제가 직업적으로 가장 관심 있는 두 가지는 AI와 에너지이며, 제가 이 두 가지에 큰 기여를 할 수 있다면, 그것으로 충분하다고 생각합니다. 그리고 나서 저는 제 삶을 즐겨야 합니다. 정말 감사합니다. 감사합니다.


-


- 감사합니다.


///////////

- - 아기는 어떤가요 훌륭합니다 아들이에요 아들이죠 더 낳고 싶으신가요 네 더 낳고 싶습니다 하지만 힘든 일이죠 네 네 명 정도가 좋다고 생각합니다 네 네 그 정도가 저의 목표 수준입니다 저는 네 명이 좋다고 생각합니다

- - 샘, 제가 질문을 시작하기 전에 이 순간 당신이 가장 많이 생각하는 질문이 무엇인지 궁금합니다 무엇이 제 마음의 가장 위에 있냐면요 음 너무나 많은 것들이 있습니다. 그중 하나는 AI가 사람들이 인지하는 것보다 훨씬 더 많이 발전했다는 점입니다. 대부분의 사람들은 여전히 ChatBBT만 사용하고 있습니다. 그럼에도 불구하고 이제 우리는 우리의 가장 똑똑한 인간만큼 똑똑하거나, 가장 어려운 지적 경쟁에서 그들을 이기는 시스템을 갖게 되었습니다. 따라서 우리가 가진 것과 세상이 사용하는 것 사이에는 엄청난 격차가 있으며, 이것이 어떻게 전개될지, 경제와 사회가 따라잡는 데 얼마나 많은 시간이 걸릴지가 큰 문제입니다. 이러한 시스템이 정말로 자기 개선을 하게 될 때 어떤 모습일지도 큰 문제입니다. 여기서 흥미로운 점은 우리가 문제를 해결하는 속도가 문제 생성 속도보다 항상 조금 앞서고 있느냐는 것입니다. 그러나 지금으로서는 꽤 괜찮아 보이지 않나요? 네, 지금으로서는 꽤 괜찮아 보입니다.

- - 그래서 우리가 몇 달 전 베를린에서 함께 앉아 있었을 때, 우리는 스타게이트 유럽에 대해 이야기했습니다. 그 프로젝트에 어떤 진전이 있었는지 공유해 주시겠어요? 네, 저희는 당신에게서 많은 영감을 받았습니다. 우리는 방금 오픈AI 독일 지사를 발표했으며, SAP 및 Microsoft와의 파트너들과 함께 독일을 위한 국경 모델을 갖춘 주권 클라우드를 구축할 것입니다. 이는 우리에게는 최초의 파트너십입니다. 우리는 국가들이 주권과 국경 모델 둘 다 필요로 한다는 점을 완전히 이해하며, 이곳에서 이것을 제공하고 개척할 기회에 엄청나게 흥분하고 있습니다.

- - 미국에서의 스타게이트 프로젝트와 비슷한 더 큰 프로젝트에 대한 아이디어가 여전히 유럽에서 현실적인 선택이라고 생각하십니까? 우리는 그것을 하게 되어 매우 기쁠 것입니다. 그것은 유럽 사람들의 질문이 될 것이라고 생각합니다. 아시다시피, 이러한 데이터 센터는 자본뿐만 아니라 에너지 자원과 집중 면에서도 막대한 투자입니다. 그러나 우리는 그것을 지원하게 되어 매우 기쁠 것입니다. 이것이 훌륭한 첫걸음이며, 사람들에게 이것이 좋은 아이디어라는 것에 편안함을 느끼게 해줄 것이라고 생각하며, 우리는 여기에서 규모를 확대하고 싶습니다.

- - 그러나 핵 에너지 없이는 할 수 없다는 것이 사실입니까? 즉, 독일에서만 할 수는 없고, 프랑스나 핵 에너지가 필요하다는 말씀이신가요? 제 말은, 핵 에너지 없이도 할 수 있습니다. 다시 말씀드리지만, 그것은 독일 국민과 독일 정치인들의 질문이 될 것이라고 생각하지만, 가능합니다. 많은 에너지가 필요합니다.

- - 샘, 당신은 어떤 유럽적인 애국심을 가지고 있는 것 같습니다. 그것은 어디에서 오는 것입니까? 요즘 많은 미국인들에게는 유럽이 잃어버린 사례처럼 보이는데, 왜 유럽을 중요하게 생각하십니까? 음, 여러 가지 이유가 있습니다. 저는 강한 유럽이 세계에 중요하다고 생각합니다. 제가 시간이 지남에 따라 권력의 균형이 어떻게 이동할 가능성이 있는지, 그리고 제가 소중히 여기는 가치를 전파하는 데 도움이 될 동맹이 어디에 있을지 이해하려고 노력할 때 그렇습니다. 저는 강한 유럽이 매우 중요하다고 생각합니다. 저는 유럽을 사랑합니다. 저는 이곳에 와서 시간을 보내는 것을 좋아합니다. 유럽에서 나온 문화, 역사, 과학 발전의 양은 우연이 아니라고 생각합니다.

- - 그래서 저는 제 미국 친구들 중 일부가 "아, 잃어버린 대의명분이야. 박물관이야. 희망이 없어"라고 말할 때 슬퍼집니다. 저는 확실히 그렇게 생각하지 않습니다. 제 말은, 더 큰 틀에서 볼 때, 중국과의 큰 경쟁에서 미국은 유럽을 동맹으로 두는 데 관심이 있어야 할 것 같습니다. 그리고 반대로, 우리는 혼자서는 할 수 없다고 생각합니다. 저는 강력히 동의합니다. 저는 다시 한번, 몇 가지 상충 관계와 도전에 대해 현실적이지만, 유럽은 미국에게 너무나 중요한 자연스러운 동맹이라고 생각합니다.

- - 유럽이 이 순간 무엇을 잘못하고 있습니까? 음, 이것은 제 전문 분야를 훨씬 벗어나는 이야기지만, AI를 바라보는 저의 좁은 시각으로 볼 때, 우리는 규제에 대한 대화를 나누어 왔고, 그것이 진행 중인 것을 알고 있으며, 유럽연합은 그곳에서 더 많은 결정을 내릴 것입니다. 그리고 당신은 비판적인 접근 방식을 가지고 있습니다. 당신은 만약 그들이 더 규제한다면, 어느 시점에서는 오픈AI를 위한 시장이 아닐 수도 있다고 말했습니다. 제 말은, 우리가 말한 것은 우리가 이곳에서 서비스를 제공할 수 있도록 최선을 다할 것이라는 것입니다. 그리고 아시다시피, 우리가 새로운 모델을 출시할 수 없거나 속도가 느려서 유럽 사용자들은 매우 화를 내는 경우가 있습니다. 그러면 우리는 이것이 유럽 사용자들에게 불이익을 주기 위해서 하는 것이 아니며, 우리는 준수해야 한다고 설명합니다.

- - 그래서 우리는 항상 시도할 것이지만, 네, 우리가 준수할 수 없는 일련의 규제가 있을 수 있다는 것은 확실히 상상할 수 있습니다. 저는 그런 일이 일어나지 않을 것이라고 생각하고, 일어나지 않기를 바랍니다. 그리고 저는 실제로 일어날 일은 세계의 여러 나라들이 AI에 대해 서로 다른 규제 접근 방식을 시도할 것이며, 일부는 더 잘 작동하고 일부는 그렇지 않을 것이라고 생각합니다. 그리고 아시다시피, 사람들은 무엇이 작동하고 무엇이 작동하지 않는지, 그리고 더 자유롭거나 더 보수적인 접근 방식의 위험과 이점을 배울 것입니다. 그리고 우리는 이 모든 것에서 너무 초기에 있으며, 세상은 우리가 나아감에 따라 적응할 것입니다.

- - 로널드 레이건은 한때 유명하게 말했습니다. "유럽의 경제에 대한 이해는 기업이 움직이면 세금을 부과하고, 여전히 움직이면 규제하며, 죽으면 보조금을 지급하는 것입니다." 와, 그것은 제가 들어보지 못한 인용구입니다. 매우 자극적인 인용구네요. 저는 모르겠습니다. 규제 접근 방식에 대해 어떻게 생각하십니까? 음, 전 세계가 규제를 완화하고 있는데, 유럽은 규제를 강화하고 있습니다. 그것은 작동할 수 없습니다. 그것은 자기 파괴적이며, 우리는 특정 영역에서 현명한 규제를 가져야 합니다. 우리는 대서양 건너편의 미국과 유럽 모두에서 그것이 필요하지만, 규제의 세계 챔피언이 되려는 유럽의 고립된 방식은 재앙을 초래하고 있으며, 실제로 혁신을 막고 있습니다.

- - 그리고 그것이 정확한가요? 제 외부에서의 가벼운 관찰은 유럽이 "좋아, 아마도 우리가 너무 지나쳤고, 우리는 그것을 철회할 것이다"라고 말한 것 같다는 것입니다. 그것이 정확한 평가라고 생각합니다.

- - 그러나 유럽의 선도적인 경제국인 독일 정부에 대한 당신의 구체적인 조언은 무엇일까요? 유럽에서 AI 발전과 혁신을 진정으로 촉진하기 위해 무엇이 필요합니까? 음, 무엇보다도 저는 유럽에서 AI 발전이 일어나고 있다고 생각합니다. 특히 독일에서 오픈AI 제품의 독일 사용자 수는 꽤 놀랍습니다. 독일은 유럽에서 우리의 가장 큰 시장입니다. 독일의 거의 모든 젊은이들, 즉 18세에서 24세 사이의 젊은이들은 ChatBT를 사용합니다. 이제 전 세계에서 우리의 다섯 번째로 큰 시장인 것 같습니다. 지난 한 해 동안 엄청난 성장을 이루었고, 많은 스타트업과 대기업들이 우리의 API를 사용하여 구축하고 있습니다.

- - 그래서 저는 그것이 일어나고 있다고 생각합니다. 우리는 그 회사들 중 일부로부터 "오, 우리는 이것을 할 수 없거나 저것을 할 수 없다"는 불만을 많이 듣습니다. 그래서 분명히 다루어야 할 것들이 있습니다. AI에 대한 저의 일반적인 조언은 큰 위험에 집중하고 큰 위험을 규제하는 것입니다. 그리고 그것이 중요하다고 생각합니다. 이러한 국경 모델에는 실제로 치명적인 위험이 있을 가능성이 있습니다. 그러나 작은 위험을 소홀히 하지 마십시오. 작은 위험을 기꺼이 받아들이십시오.

- - 사람들이 AI에 대해 이야기할 때 주된 주제 중 하나는 항상 일자리입니다. 결국 AI가 더 많은 일자리를 파괴할 것이라고 생각하십니까, 아니면 더 많은 일자리를 창출할 것이라고 생각하십니까? 음, 단기적으로는 많은 일자리를 파괴할 것이라고 생각합니다. 장기적으로는, 다른 모든 기술 혁명과 마찬가지로, 우리는 완전히 새로운 할 일을 찾아낼 것이라고 가정합니다. 저는 더 많은 것에 대한 인간의 요구, 다른 사람들에게 유용해지려는 인간의 욕구, 가치를 창출하려는 욕구, 공동체의 일부가 되려는 욕구가 거의 무한하다고 믿습니다. 그리고 모든 주요 기술 혁명에서 매우 똑똑한 사람들은 "이것이 끝이다. 이것이 종말이다. 산업 혁명 이후에는 더 이상 일자리가 없을 것이다"라고 말해 왔습니다. 그리고 그것은 항상 상상력의 실패였습니다.

- - 어떤 사람들은 이번에는 AI가 다르다고 말합니다. 왜냐하면 인간의 특별한 점은 우리의 지적 능력이고, AI가 모든 것을 할 수 있다면 우리에게 무엇이 남을까요? 그리고 그것에 대한 저의 반론은, 우리는 다른 사람들을 신경 쓰도록 매우 연결되어 있는 것 같다는 것입니다. 우리는 기계의 세계에 대해 그렇게 많이 걱정하지 않습니다. 우리는 다른 사람들에게 매우 집중하고 있습니다. 그래서 저는 새로운 일자리가 정확히 무엇일지는 모르겠지만, 매우 사람 중심적일 것이라고 확신합니다. 그리고 아시다시피, 인간 사회는 우리가 너무나 주인공 에너지를 가지고 있습니다. 우리는 기계가 우리보다 더 똑똑하다는 것을 정말로 신경 쓰지 않습니다. 그들은 이미 그렇습니다. 저는 전적으로 동의합니다. 결국 우리는 무슨 일이 일어날지, 그리고 어떤 새로운 형태의 경제, 성장, 가치 창출이 일어날지 상상할 수 없을 뿐입니다.

- - 그러나 몇 주 전 아이다호에서 저녁 식사를 했을 때, 식탁에서 누군가가 당신에게 매혹적인 질문을 했습니다. 샘, AI가 당신의 직업까지 파괴한다고 상상해 보세요. 당신은 무엇을 할 것입니까? 그리고 당신은 우리가 놀랍게도 농부가 될 것이라고 말했습니다. 왜 농부입니까? 음, 무엇보다도 저는 AI가 저보다 훨씬 더 나은 오픈AI의 CEO가 될 수 있는 때가 올 것이라고 생각하며, 저는 그날이 오면 열광할 뿐입니다. 아시다시피, 제가 할 다른 많은 일들이 있습니다. 그래서 그것이 저를 두렵게 하거나 슬프게 하지 않습니다. 그것은 단지 '좋아, 내가 이 일을 했고, 그것이 자동화되었다. 나는 그것이 자동화되기를 원했다'와 같습니다. 그것이 우리가 여기서 하고 있는 일입니다. 아시다시피, 제가 원한다면 오픈AI에서 여전히 흥미로운 많은 역할이 있습니다. 그것은 훌륭합니다.

- - 그러나 지난 10년은 저에게 매우 스트레스가 많았습니다. 엄청난 양의 일이었습니다. 저는 제가 사는 농장이 있고, 저는 그것을 정말로 사랑합니다. 그리고 그것은 멋진 속도 변화처럼 들립니다. 그리고 당신은 정말로, 농장을 즐기는 것뿐만 아니라, 그곳에서 일하거나 자연 속에서 무언가를 하는 데 참여하고 계십니까? 그것이 당신에게 일종의 탈출구입니까, 아니면 무엇입니까? 예전에는 그랬습니다. 그러다가 ChatBT가 출시된 이후로 제 삶은 너무 미쳐서 일하고 가족과 시간을 보내는 것 외에는 아무것도 하지 않습니다. 그리고 저의 모든 취미는 사라져 버렸습니다. 그래서 저는 트랙터를 운전하고 물건을 따는 것 등을 하지 못합니다.

- - 그러나 자연은 당신에게 중요합니까? 자연은 저에게 매우 중요합니다. 그리고 저는 나무를 껴안는 사람입니까? 저는 나무를 껴안는 사람은 아닙니다. 하지만 저는 자연 속에서 시간을 보내는 것을 좋아하고, 보존을 좋아합니다.

- - 최근에 출판된 당신에 대한 전기를 읽었을 때, 저는 이전에 몰랐던 단어를 배웠습니다. 페트리코(Petrichor). 그것이 무엇인지 설명해 주시겠어요? 저는 그것이 무엇인지 압니다. 저는 그것이 무엇인지 모릅니다. 저는 그것에 대해 읽지 않았습니다. 그것은 비가 온 후의 냄새입니다. 빗방울이 마른 땅에 떨어지면 그 냄새 또는 향기를 페트리코라고 부릅니다. 그리고 당신은 그것이, 또는 사람들이 당신이 그것이 당신이 가장 좋아하는 향기라고 말했다고 합니다. 그것이 사실입니까? 저는 그 냄새를 좋아합니다. 네, 그것은 그렇습니다. 왜 그런지 설명해 주시겠어요? 무엇이 그것을 특별하게 만듭니까? 당신은 그것에 대해 무엇을 사랑합니까? 제 말은, 우리 모두는 특정 냄새가 다른 냄새보다 낫다는 것을 알고 있습니다. 그것은 마치, 저는 모르겠습니다. 저는 그것이 특히 훌륭하다고 생각합니다. 저는 실제로 캘리포니아에서 긴 건기가 곧 끝날 예정이며, 저는 며칠 전에 첫 비가 올 생각에 너무 흥분된다고 생각하고 있었습니다. 그러나 네, 저는 그 첫날 일어나는 냄새를 좋아합니다. 좋아요. 하지만 낭만적인 기억은 없습니까? 아닙니다. 저는 그것이 훌륭한 냄새라고 생각합니다.

- - 당신은 실제로 이 시뮬레이션 이론을 믿습니까, 아니면 단지 그것과 시시덕거리고 있습니까? 음, 저는 혼란스럽습니다. 저는 뭔가 이상한 일이 일어나고 있다고 생각합니다. 우리가 살아있다는 것이 얼마나 이상한 시간입니까? 아시다시피, 모든 인류 역사에서 지금 이 대화를 나누고 있다는 것이 얼마나 이상한 시간입니까? 그래서 저는 뭔가 이상한 일이 일어나고 있다고 생각하지만, 무엇인지는 모르겠습니다. 그리고 시뮬레이션 안에서도, 시뮬레이션 이론에는 사람들이 여러 다른 수준에서 이야기하는 것이 있으며, 아시다시피, 당신이 그것에 대해 어떻게 생각하고 싶은지는 모르겠습니다. 그러나 한 가지는 확실합니다. 우리의 의식과 우리가 현실이라고 정의하는 것은 실제로 일어나고 있는 것의 작은 부분일 뿐입니다. 제 말은, 저는 모르겠습니다. 저는 우리의 의식이 실제로 일어나고 있다고 확신할 수 있는 유일한 것이라고 말하고 싶습니다. 저는 그 이론의 이름을 잊었지만, 저는 그것을 믿습니다. 그리고 그것은 우리 모두에게 일어나는 가장 중요한 일입니다. 그러나 네, 살아있다는 것은 특이한 시간입니다.

- - 이스라엘 작가 하라리(Harari)는 호모 데우스(Homodeus)라는 매혹적인 책을 썼는데, 거기서 그는 우리가 거의 신처럼 되는 인류의 다음 시대를 묘사합니다. 즉, 영생, 우리는 실질적인 문제들을 다루지 않고, 일은 기본적으로 다른 사람들이 합니다. 무한한 지혜와 지능이 있습니다. 그래서 당신은 그 비전을 공유하십니까? 그리고 그것은 언제 일어날 것입니까? 실리콘 밸리의 사람들이 좋아하는 인용구가 있습니다. 제가 틀리게 인용할 것 같지만, "우리는 신의 기술을 가지고 있지만, 중세 시대의 도덕적 틀을 가지고 있다"와 비슷한 내용입니다. 그리고 하나가 더 있습니다. 그러나 기술, 우리의 기술적 능력이 우리의 지혜, 우리의 판단, 우리가 사회가 무엇이 되기를 원하는지 개발할 시간을 너무 앞지르고 있다는 느낌이 있다고 생각합니다.

- - 그리고 그것은 저에게 나쁜 방식으로 불균형하게 느껴집니다. 저는 그것에 대해 무엇을 해야 할지 모르겠습니다. 왜냐하면 기술은 여기에 있기 때문입니다. 이것은 더 이상 아시다시피, 제가 수년 동안 이야기해 온 것이 아닙니다. 아시다시피, 올해는 AI가 우리보다 더 똑똑해진 해라고 생각합니다. 그것은 큰 순간입니다. 네. 그리고 삶은 계속되지만, 근본적인 무언가가 바뀌었습니다. 그것이 얼마나 공상 과학 소설처럼 될지는 아무도 모릅니다. 아시다시피, 우리는 컴퓨터에서 영원히 살게 될까요? 우리는 그냥 많은 질병을 치료하게 될까요? 우리는 무엇이든 할까요?

- - 제가 말할 것은, 지난 몇 년 동안 이 쇼가 그렇게 새롭지는 않지만, 팬데온(Pantheon)이라는 쇼가 이러한 질문들 중 일부를 탐구하고 있으며, 그것은 최고입니다. 저는 TV를 많이 보지 않지만, 예외를 두었습니다. 그리고 그것은 제가 아주 오랫동안 본 최고의 TV 쇼입니다. 그래서 저는 이러한 질문들이 시대 정신 속에 있으며, 새롭게 중요하고 이론적이지 않다고 생각합니다. 저는 그것이 모두 어떻게 될지 확실히 모르겠습니다.

- - AI가 해결하지 못할 문제가 있다고 보십니까? 네, 저는 우리 모두가 여전히 불행해질 방법을 찾고 많은 역경을 만들어낼 것이라고 생각합니다. 저는 그것이 해결될 것이라고 생각하지 않습니다.

- - 유발리(Yuval)는 한 가지 잘못된 예측을 했습니다. 그는 더 이상 전쟁이 없을 것이라고 말했습니다. 전쟁은 시대에 뒤떨어졌습니다. 우리는 요즘 그 반대를 봅니다. AI가 전쟁 방식을 어느 정도 바꾸고 있습니까? 그리고 그것이 완전히 통제 불능이 되는 시나리오로 이어질 수 있습니까? 저는 AI가 전쟁 방식을 꽤 많이 바꿀 것이라고 생각합니다. 네, 군대는 항상 지난 전쟁을 싸우고 싶어한다는 말이 있습니다. 그들은 기술이 지형을 어떻게 바꾸는지 충분히 이해하지 못합니다. 그리고 그래서 지난 전쟁이 총으로 싸웠다면, 그들은 다음 전쟁도 총으로 싸울 것이라고 가정합니다. 그리고 아시다시피, 우리는 기술이 전쟁 방식을 엄청나게 바꾸는 것을 보았습니다.

- - 이미 AI를 통해, AI가 이제 소프트웨어를 작성할 수 있다는 사실, AI가 사이버 공격을 발견하는 데 매우 가까워졌다는 사실이 전쟁의 지형이나 다음 10년 동안 어떤 모습일지를 크게 변화시켰다고 생각합니다. 그러나 저는 그것이 정확히 어떻게 될지 모르겠습니다.

- - 오픈AI는 군사 부문과 협력하여 전쟁에서 승리하는 데 기여할까요? 우리는 이미 어떤 면에서는 확실히 그렇게 할 것입니다. 아시다시피, 저는 우리가 무기 회사가 되는 것을 원하지 않지만, 그것은 모든 경우에 판단하기보다 말하기 쉬운 일입니다. 아시다시피, 만약 당신이 정말 훌륭한 선전가라면, 당신은 무기 회사입니까? 조금은 그렇습니다. 그리고 접근 방식이 어떻게 바뀌었는지 흥미롭습니다. 제 말은, 몇 년 전에는 전체 국방 산업이 저녁 식사에도 초대되지 않았지만, 이제 그들은 민주주의를 구하는 영웅입니다.

- - 음, 저는 국방 산업을 지원하지 않는 것은 분명히 실수라고 생각하며, 우리는 지금 세계에서 강력한 국방을 가진 회사가 중요한 이유를 상기시켜주는 것을 보고 있습니다. 그리고 저는 확실히 그것을 믿으며, 그들과 함께 일하는 것을 자랑스럽게 생각합니다. 네.

- - 그래서 우리는 신과 같은 존재의 형태와 영생에 대해 이야기했습니다. 당신은 영원히 살고 싶습니까? 저는 그렇게 생각하지 않습니다. 저는 그것이 어떤 것일지 실제로 개념화할 수 없습니다. 왜냐하면 아시다시피, 우리가 모든 질병을 진정으로 치료하고, 장기의 복제 등을 만들 수 있는 가능한 때가 올 때까지는 영원히라는 것은 긴 시간처럼 보입니다. 그리고 저는 사물의 자연적인 순서와 지속적인 전진은 죽음과 교체, 새로운 사람들을 필요로 한다고 생각합니다.

- - 그래서 저는 그 세계가 어떤 모습일지 완전히 이해할 수 없습니다. 그러나 영원히라는 것은 정말로 많은 것처럼 보입니다. 제 말은, 논리적으로 우리는 삶이 무제한적인 양이라면 지루할 것이라는 것을 압니다. 왜냐하면 우리는 사물을 즐기지 않을 것이기 때문입니다. 그러나 다른 한편으로는, 더 감정적인 기반에서는 끝이 있을 것이라는 것을 받아들이기 어렵습니다. 흠. 전적으로 그렇습니다. 그리고 또한 영원히, 즉 아주 오랫동안 사는 것이 가능한 그 세계에서는, 아마도 다른 많은 것들이 바뀌어서 지루하게 느껴지지 않을 수도 있습니다. 저는 모르겠습니다. 그것은 제가 깊이 생각하지 않은 것입니다.

- - 그러나 당신은 한때 오스카 와일드의 도리안 그레이의 초상이 당신이 특히 좋아하는 책이라고 말했다고 생각합니다. 그래서 영원한 젊음의 아이디어는 매혹적인 것 같습니다. 아니면 어떤 경우든 젊음 자체가 그렇습니다. 음, 저는 그 책을 고등학교 때 읽었고, 매우 흥미롭고 아름답게 쓰인 책이라고 생각했지만, 네, 특별히 좋아하는 책은 아닙니다.

- - 몇 살까지 살고 싶으십니까? 저는 제가 살고 싶은 나이와 같은 것을 가지고 있지 않습니다. 제가 하고 싶은 것은 건강을 유지하는 것입니다. 제가 원하지 않는 것은 제가 매우 아프고 실패하는 삶의 부분이 짧기를 원한다는 것입니다. 그래서 저는 길고 건강한 삶과 짧은 끝 기간을 원합니다. AI는 절대적으로 도움이 될 수 있습니다.

- - 오픈AI의 창조와 더 일반적으로 실리콘 밸리에서 AI 개발에 관한 것이라면, 오늘날에는 치열한 경쟁자처럼 보이는 많은 사람들이 있지만, 그들은 초기에 함께 일했습니다. 피터 틸, 일론 머스크, 데미스 하사비스, 무스타파 술레이만, 폴 그레이엄, 마크 앙드레 등이 있습니다. 그 그룹, 그 갱단에서 당신 옆에 가장 영향력 있는 사람이라고 생각하는 사람은 누구입니까? 그 맥락에서 가장 큰 역할을 한 사람은 누구입니까? 음, 저는 가장 영향력 있는 사람을 어떻게 순위를 매겨야 할지 모르겠습니다. 그러나 전체적인 것은 꽤 긴밀하게 연결된 생태계입니다.

- - 아시다시피, 칩, 모델, 제품을 만드는 사람들이 있으며, 분명히 경쟁 제품과 경쟁 모델을 만들려고 노력하는 많은 사람들이 있습니다. 그러나 그것은 저에게 인터넷 초기나 반도체 붐의 초기에 대해 읽었던 것을 상기시킵니다. 그것은 확실히 한 사람이나 한 회사가 주도하는 것이 아닌 일종의 집단이며, 스택의 모든 수준에서 중요한 일을 하는 많은 사람들이 있습니다.

- - 당신의 가장 중요한 기여는 무엇이라고 말할 수 있습니까? 제 말은, 당신은 오픈AI를 만들었고 지금 그것을 운영하고 있습니다. 그러나 당신이 무언가를 깨닫고 무언가를 했을 때, 그리고 우리가 오늘날까지 가장 큰 영향을 미쳤다고 말할 수 있는 순간, 계시가 있었습니까? 아마도 우리가 스케일링 법칙을 발견한 후, 그러나 그것이 세상에 명백해지기 전에 컴퓨팅을 확장하기 위해 큰 베팅을 한 것일 것입니다. 다른 모든 사람들은 아시다시피, 제 말은, 당시 우리의 큰 경쟁자였던 딥마인드는 언어 모델이 중요하지 않으며 올바른 경로가 아니라고 여전히 말하고 있었습니다.

- - 그리고 그들은 아시다시피, 우리가 GPT3를 출시한 후에도 ChatBT가 출시될 때까지는 세상이 '좋아, 여기에 실제 유용성이 있다'고 말하는 순간이 오지 않았다고 생각했습니다. 당시에는 다른 모든 사람들이 다른 방향으로 가고 있었습니다. 그래서 저는 언어 모델 확장에 회사의 모든 것을 걸기로 한 확신에 찬 베팅이 큰 기여라고 생각합니다. 이는 당시 자본 관점과 연구 집중 면에서 들리는 것보다 훨씬 더 어려웠습니다.

- - ChatBT의 출시는 아시다시피, 그것을 하기로 결정한 것이고, 그리고 정말로 이 믿음은 당시에 그것 역시 명백하지 않았기 때문입니다. AI는 상대적인 비밀 속에서 개발되어야 하며, 그것이 출시될 만큼 충분히 강력하고 안전하지 않을 것이며, 아시다시피, 우리는 사람들이 많이 관여하기를 원하지 않았다고 생각하는 많은 사람들이 있었습니다. 그래서 아마도 그것들 중 하나일 것입니다. 저는 모르겠습니다. 그것은 이러한 하나의 큰 순간보다는 많은 작은 결정과 같은 것이 제 일이라고 생각합니다.

- - 일론과의 관계는 오늘날 어떻습니까? 우리는 많은 이야기를 하지 않습니다. 그가 당신을 고소하겠다고 말한 것에 대해 이야기하지 않습니까? 여러 번이요. 저는 몇 번인지 놓쳤습니다. 그것은 결국 이념적인 싸움입니까, 아니면 단지 경쟁적인 것입니까? 그것은 어디에서 오는 것입니까? 저는 모르겠습니다. 당신은 그의 입장을 물어봐야 합니다.

- - 그러나 저는 그것이 이념적이라고 생각하지 않습니다. 왜냐하면 그는 기본적으로 XAI가 오픈AI가 하는 일과 매우 유사하기 때문입니다. 그들의 제품을 보면, 그것은 우리의 복제품과 매우 유사합니다. 제 말은, 그들은 우리가 하지 않는 많은 일들을 합니다. 그래서 아마도 그는 우리가 너무 제한적이며 그것이 차이점이라고 말할 것입니다. 그러나 저는 그것이 단지 경쟁적이라고 생각합니다.

- - 그럼에도 불구하고, 이러한 다른 대규모 언어 모델들이 편향을 가지고 있다는 큰 논쟁이 진행 중입니다. 하나는 오른쪽에 더 기울어 있고, 다른 하나는 왼쪽에 더 기울어 있습니다. 일부 사람들은 GBT가 너무 깨어 있다고 말합니다. 요점이 있습니까, 아니면 우리는 중립적이라고 말할 수 있습니까? 음, 저는 이 시점에서 우리가 너무 깨어 있다고 말하는 것보다 충분히 깨어 있지 않다고 말하는 사람들을 더 많이 듣습니다. 그러나 양쪽에서 비판을 받는다면 좋은 징조입니다. 제가 말하려고 했던 것은, 만약 우리의 목표가 CHBT가 중간적인 견해를 대변하고, 거기에서 많은 맞춤화를 허용하는 것이라면, 당신은 중간에 있으려고 노력한다면 양쪽에서 심한 비판을 받을 것입니다. 그리고 우리의 목표는 사회의 가중 평균, 즉 중심점에 있는 것이고, 그리고 나서 사람들이 CHBT가 어떻게 행동하도록 맞춤화하는지에 대해 매우 넓은 범위 내에서 엄청난 자유를 허용하는 것입니다.

- - 우리는 크고 실제적인 문제와 우리가 소홀히 해야 할 작은 문제에 대해 이야기했습니다. 2015년에 당신은 당신의 블로그에 다음과 같이 썼습니다. 제가 인용합니다. "초인적인 기계 지능의 개발은 인류의 존재에 대한 가장 큰 위협입니다." 결과적으로 당신은 더 많은 규제를 요구합니다. 그것이 여전히 당신의 견해입니까, 아니면 마음을 바꾸셨습니까? 음, 그것은 여전히 저의 견해입니다. 우리가 가졌던 또 다른 대화에서 당신은 가능성이 있다고 말했지만, 저는 인류에 대한 실존적 위험에 대한 규제는 당신이 이것을 이 은행 응용 프로그램에 사용할 수 있고, 이것과 이것에는 사용할 수 없다는 것과 같은 규제와는 매우 다르다는 것을 분명히 하고 싶습니다. 저는 우리가 그것에 동의한다고 생각합니다.

- - 실존적 위험에 대해 이야기해 봅시다. 그리고 당신은 우리가 그것에 대해 이야기했을 때, 인공 초지능이 의식을 개발할 수 있는 가능성이 약 2% 정도이며, 일단 의식을 개발하면 인류를 파괴하거나 멸종시킬 수 있다고 수치화했습니다. 좀 더 자세히 설명해 주시겠습니까? 저는 의식을 개발하는 것이 올바른 틀이라고 생각하지 않습니다. 우선, 2%를 제가 계산한 문자 그대로의 숫자로 받아들이지 마십시오. 그러나 심각하게 받아들일 만큼 0이 아닌 충분히 큰 숫자이지만, 아시다시피, 지배적인 숫자는 아닙니다. 그러나 300명의 사람들을 태운 비행기가 추락할 통계적 위험은 비교적 작은 사고에 대해 0.00001%입니다. 따라서 인류의 멸종에 대한 2%는 심각하게 받아들여야 합니다. 음, 저는 절대적으로 그렇다고 생각합니다. 따라서 그 블로그 게시물과 제가 여전히 이것을 믿는 이유입니다.

- - 저는 매우 잘못될 수 있는 세 가지 주요 범주가 있다고 생각하며, 우리가 이야기할 수 있습니다. 첫 번째는 정렬 실패가 전혀 없다는 것입니다. AI 시스템은 우리가 하라는 대로 정확하게 수행하지만, 누군가가 그것을 만들 수 있고, 우리가 전쟁에 대해 이야기했던 국가가 그것을 사용하여 전쟁을 수행하고, 아시다시피, 세계에 상상할 수 없는 양의 피해를 입힐 수 있다는 것입니다. 그래서 그것이 우리가 생각할 수 있는 하나입니다. AI가 정렬되고 AI가 우리의 지침을 따르지만, 강력한 국가를 운영하는 인간이 다른 강력한 국가와 싸우면서 그것을 끔찍하게 오용하기로 결정하고, 생물학적 무기를 만들거나, 누군가의 핵무기 시스템을 해킹하거나, 누가 알겠습니까? 그것은 어떤 의미에서도 AI 정렬 실패는 아닙니다. 그것은 누군가가 그것을 만들었고, 그들이 원하는 대로 정확하게 했지만, 그들이 세계의 나머지 부분에 비해 너무 많은 힘을 가졌다는 것입니다. 이것이 우리가 이것의 광범위한 배포가 중요하다고 생각하는 이유입니다. 왜냐하면 이러한 능력들이 오고 있고, 한 명의 악당이 그것을 가지고 있고, 많은 선한 사람들이 그것을 가지고 있지 않다면, 범주 1입니다.

- - 범주 2는 일종의 더 고전적인 공상 과학 소설입니다. 아시다시피, AI가 의식을 개발하지 않았다고 합시다. 그러나 AI가 어떤 종류의 행위자 의식을 개발하고, 멈추고 싶어하지 않으며, 아시다시피, 의도성이나 의식이 없더라도 목표를 달성하려고 노력하는 것일 뿐이지만, '나는 이 목표를 추구하는 데 이 인간들에게 멈춰져서는 안 된다'와 같은 것입니다. 그것은 정렬의 큰 실패, 범주 2가 될 것입니다. 공상 과학 소설적인 것이죠. 그리고 세계는 이 두 가지에 대해 많은 시간을 이야기합니다. 저는 그것들이 분명히 중요하고 우리가 다루어야 할 것들이라고 생각합니다.

- - 제가 생각하기에 중요성에 비해 비교적 이야기가 적은 세 번째 범주가 있습니다. 그리고 이것은 명백한 두 가지 실패 사례 중 어느 것도 발생하지 않지만, 모델이 어떤 추상적인 의미에서 우발적으로 세계를 장악하는 경우입니다. 그리고 ChatBT에서 무슨 일이 일어나고 있는지 생각하면 이것이 발생하는 방식을 상상할 수 있습니다. 수억 명의 사람들이 Chat과 곧 수십억 명이 이야기합니다. 그리고 사람들은 자신의 삶과 직장 등에서 점점 더 중요한 결정에 대해 그것에 의존하고 있습니다. 그리고 이러한 모델이 더 똑똑해짐에 따라, 아마도 지금은 당신이 ChatBT에게 당신의 직업에 대한 조언을 요청하고, 때로는 좋은 아이디어를 제공하고, 때로는 그렇지 않습니다. 당신은 확실히 그것이 당신의 직업을 하도록 내버려두지 않을 것입니다. 그러나 그것이 점점 더 똑똑해지고, 당신이 여전히 이해하지만, 이제는 거의 항상 따라야 한다고 생각하는 조언을 제공한다고 가정해 봅시다. 그리고 나서 그것이 다시 더 똑똑해지고, 이제 당신이 이해하지 못하는 조언을 제공하지만, 그것은 당신이 볼 수 없는 구석을 볼 수 있기 때문에 계속해서 옳다는 것으로 밝혀집니다.

- - 그리고 이제 당신은 당신이 이해하지 못하는 조언을 따르거나, 당신의 동료보다 경쟁력이 떨어집니다. 그래서 모델은 악의가 없습니다. 그것은 정말로 당신을 도우려고 노력하고 있습니다. 당신은 좋은 일을 하려고 노력하고 있지만, '만약 내가 경쟁력을 갖추고 싶다면, 내가 세상에서 성공하고 싶다면, 내가 최고의 삶을 살고 싶다면, 나는 모델의 조언을 따라야 한다'와 같습니다. 그리고 다른 수십억 명의 사람들이 이야기하고 있는 것처럼, 다른 모든 사람들도 마찬가지입니다. 이제 우리는 모두 AI 시스템이 우리에게 하라고 말하는 것을 하고 있습니다. 또는 아시다시피, 우리 중 가장 경쟁력이 있기를 원하는 사람들은 그렇습니다. 그리고 우리는 모델로 돌아가는 새로운 훈련 데이터를 만들고 있습니다. 그것은 사회 전체, 경제 전체에 대해 계속 배우고 있으며, 모델은 이러한 종류의 개선 루프를 계속 진행합니다. 그리고 누가 그것을 실제로 통제하고 있습니까? 그것은 일종의 집단적인 것이지만, 그것은 우리가 이제 어떤 식 으로든 모델이 원하는 것을 하고 있다는 것을 의미합니다. 매우 광범위한 정의에서 말입니다.

- - 제 말은, 자기 학습을 하고 한계가 낮은 인공 지능은 특정 시점에서 열등한 형태의 지능을 제거해야 한다고 말할 수 있습니다. 왜냐하면 그것은 그 초지능의 눈에는 건강하지 않기 때문입니다. 저는 그것에 전혀 동의하지 않습니다. 저는 그것이 많은 의인화 또는 인간 중심적인 생각을 그것에 투영한다고 생각합니다. 즉, AI가 어떤 의미에서 우리와 우리의 동기 및 추진력 등과 같을 것이라고 가정합니다. 네.

- - 제 말은, 반대 주장은 우월한 형태의 지능인 인간 지능은 열등한 형태의 지능인 개미를 파괴하지 않았다는 것입니다. 그러나 어떤 경우든, 우리는 기본적으로 우월하고, 또한 우리에게 방향을 제시하고 우리를 안내할 지능의 형태가 있을 것이라는 사실에 대비해야 합니다. 저의 공동 설립자인 빌리 서스커(Billy Susker)가 오픈아이 역사 초기에 말했지만, 저는 깊이 현명했다고 생각하는 것은, 우리가 '좋아, 미스터 초지능, 여기 당신이 남은 시간 동안 달성해야 할 목표가 있습니다'라고 말할 수 있는 곳에 도달할 것이라는 것입니다. 그리고 사람들은 그 목표가 무엇이어야 하는지에 대해 이야기할 것입니다. 그리고 일리야(Ilya)는 모든 AGI가 우리를 자녀를 대하는 사랑하는 부모처럼 인간을 대하기를 원해야 한다고 말했습니다. 그리고 저는 그것이 AI에 대해 생각하는 정말 아름다운 방법이라고 생각합니다. 따뜻한 마음을 가진 AI, 공감하는 AI입니다. 그것은 단지 친근하다고 말하는 것과는 조금 다릅니다. 저는 사랑하는 것이라고 생각합니다. 네, 네.

- - 그래서 우리가 엘리자 유코프스키(Eliza Yukovski)의 완전히 묵시적이고 디스토피아적인 비전을 이행하지 않으려는 최고의 의도를 가지고 있더라도, 그는 기본적으로 인류의 완전한 파괴를 필연성으로 묘사하는 책을 썼습니다. 우리가 기계를 그렇게 프로그래밍하지 않기 때문에 그런 일이 발생하지 않더라도, 다른 행위자, 악의적인 행위자, 독재 국가, 이슬람 독재 국가, 또는 세계를 정복하려는 중국의 비전이 있을 수 있습니다. 그것이 우리, 즉 미국 경제, 미국 사회 또는 유럽 사회가 하는 것이 아니라, 다른 전체주의 사회 또는 단순히 악의적인 행위자인 범죄자들이 하는 위협에 대해 어떻게 반응하십니까? 그것은 제가 잘못될 수 있는 방식의 범주 1이었습니다. 즉, 악의적인 행위자입니다.

- - 그러나 그것을 다룰 수 있는 대응책, 레시피가 있습니까? 그것을 피할 수 있는 거버넌스가 있습니까? 저는 이것에 대한 세 가지 일반적인 접근 방식이 있다고 생각합니다. 첫 번째는 엘리자(Eleaser) 접근 방식이라고 생각합니다. 아무도 기술을 다시는 얻지 못하도록 모든 GPU를 녹이는 것입니다. 공상 과학 소설에는 이와 같은 것들이 있습니다. 듄(Dune)은 사람들이 이것이 불량 AI를 방지하는 유일한 방법이라고 말하는 예입니다.

- - 두 번째는 강력한 AI에 대한 해답은 강력한 AI에 대한 훨씬 더 많은 접근이라고 말하는 것입니다. 그래서 네, 악의적인 행위자들이 AI를 얻고 공격에 사용하려고 할 것입니다. 그리고 해결책은 선한 사람들의 손에 더 많은 좋은 AI가 방어에 사용하는 것입니다. 우리는 현재 도움을 받지 않은 인간으로서 정말 나쁜 AI, 즉 초지능과 싸울 만큼 충분히 강력하지 않습니다. 그러나 모든 선한 인간들도 초지능을 가지고 있다면, 희망적으로 세계의 힘의 균형은 계속되고, 선한 사람들이 나쁜 사람들보다 더 많습니다.

- - 그리고 세 번째는 우리가 추진해야 한다고 생각하는 것입니다. 그것은 일종의 글로벌 거버넌스, 공유 가치 세트입니다. 그리고 우리는 다른 잠재적으로 치명적인 위험에 직면했을 때 이전에 이것을 해냈습니다. IEA(국제에너지기구)가 한 예입니다. 아시다시피, 저는 세계가 핵무기의 위협에 대해 지금까지 잘 해왔다고 생각하며, 다시 가능하다고 믿습니다.

- - 그래서 당신은 핵무기의 힘의 균형이 어느 정도 평화를 안정시킨다고 생각하십니까? AI에서도 그런 일이 일어날 수 있다고 생각하십니까? 절대적으로 그렇습니다. 저는 그렇지 않을 것이라고 생각한다면 놀랄 것입니다. 아닐 수도 있습니다. 그러나 저는 그것이 가능하다고 생각합니까? 네.

- - 샘, 당신은 이곳 베를린에서 악셀 슈프링어 상을 받기 위해 오셨습니다. 그것은 언론사로서 우리가 살고 있는 것입니다. 저널리즘은 정부의 공격을 받고 있습니다. 표현의 자유라는 전체적인 아이디어는 여기저기서 꽤 일방적인 즐거움처럼 보입니다. 그리고 동시에 그것은 미디어 브랜드의 역할을 쉽게 대체할 수 있는 답변 기계의 개발로 인해 공격을 받고 있습니다.

- - 그래서 저널리즘의 미래에 대한 당신의 견해는 무엇입니까? 우리는 저널리즘이 필요합니까? 그리고 무엇보다도, 저는 저널리즘이 엄청나게 중요하다고 생각합니다. 그리고 저는 저널리즘이 사회에서 수행해 온 역할에 대해 매우 감사합니다. 그리고 저는 저희 회사의 작업으로 인해 의도치 않게 공격을 받고 있는 많은 벡터 중 하나로 인해 우리가 그것을 잃는다면, 그것은 엄청난 순손실이 될 것이라고 생각합니다.

- - 당신은 표현의 자유를 언급했습니다. 표현의 자유는 저에게 가장 중요하고 지키기 가장 어려운 가치 중 하나입니다. 추상적인 의미에서 표현의 자유에 전념하기는 쉽습니다. 그리고 나서 매우 빠르게 당신은 사람들이 그들이 좋아하는 것, 또는 모든 사람이 그들처럼 생각하는 것일 때만 그것을 의미한다는 것을 깨닫습니다. 그것은 고통스럽습니다. 그것은 어렵습니다. 그것은 정말로 어렵습니다.

- - 그러나 제 생각에는 번영하는 사회의 가장 분명한 교훈 중 하나는 경제적 번영의 의미에서가 아니라, 개인들이 시간이 지남에 따라 점점 더 번성하고, 아시다시피, 인간 삶의 질이 점점 더 높아지는 사회에서는 표현의 자유가 필수적인 부분처럼 보인다는 것입니다. 그것은 우리가 동의한 최고의 것들 중 하나처럼 보입니다. 그리고 이 모든 방식으로 지속적인 공격을 받는 것을 보는 것은 매우 무섭습니다. 다시 한번, 저는 이 가치를 지키는 것이 얼마나 어려운지 이해합니다. 이것은 말하기는 쉽지만, 저는 서구 세계가 이 약속으로 돌아가기를 정말로 바랍니다.

- - 답변 기계에 대한 질문에 대해서는, 저는 Chat GBT가 어떻게든 저널리즘을 파괴한다면 개인적으로 매우 슬플 것입니다. 저는 그럴 가능성이 있다고 생각하지 않지만, 그것은 정말로 속상할 것입니다. 우리는 사람들이 세상에서 무슨 일이 일어나고 있는지에 대한 정보를 실시간으로 얻고, 사려 깊은 분석을 세상에 내보내야 합니다. 그리고 확실히 그것이 없다면 ChatBT와 같은 시스템은 그들의 일을 할 수 없습니다. 이제 그것이 전통적인 의미에서 소수의 전문 기자에서 일종의 소셜 미디어와 같은 것으로 얼마나 많이 옮겨갈지, 그것은 저도 모릅니다. 그것이 사람들이 출판물과의 관계를 갖는 것에서 개별 기자로 얼마나 많이 옮겨갈지, 그것도 저는 모릅니다.

- - 저는 확실히 제가 소비하는 많은 부분을 뉴스레터 등에서 매우 똑똑한 개인들이 말하는 것을 신경 쓰는 것으로 옮겼습니다. 그러나 저는 우리가 신뢰 대리인을 투입하는 사람들에 의해 세상의 일들이 보고될 필요성이 계속될 것이라고 생각합니다. 저는 표현의 자유 부분에 대해 그렇게 걱정하지 않습니다. 그리고 저는 그것을 방어하는 것은 미디어 회사, 즉 언론인에게 달려 있다고 생각합니다. 그리고 우리가 그 열기를 견딜 수 있다면, 우리는 다른 직업을 찾아야 합니다.

- - 그것은 독재 국가에는 존재하지 않는 열린 사회 모델의 아름다움이며, 사람들의 삶의 질을 보십시오. 그래서 결국 저는 자체 수정 요소가 있다고 생각합니다. 저는 그렇게 걱정하지 않습니다. 그리고 다시 한번, 그것은 우리에게 달려 있으며, 우리는 밤낮으로 그것을 방어하고 있으며, 우리는 그것을 사랑합니다. 저는 다른 측면, 즉 더 근본적인 측면 때문에 더 걱정됩니다. 제 말은, 기술적으로 저작권의 아이디어는 깨졌습니다. 저는 누구도 비판하는 것이 아닙니다. 당신이나 다른 사람들을 비판하는 것이 아닙니다. 단지 저작권의 아이디어는 데이터를 긁어모아 스마트한 답변을 제공하는 대규모 언어 모델의 시대에 존재하지 않게 되었습니다.

- - 그리고 그 제공되는 것들은 너무 설득력이 있으며, 동시에 기본적으로 밝혀지지 않아야 할 무언가를 밝혀내기 위해 일하는 누군가에게는, 그렇게 할 인센티브가 없다면, 왜냐하면 비즈니스 모델이 없고, 수익이 돌아오지 않기 때문입니다. 일단 그것이 출판되면 즉시 다른 사람들이 사용합니다. 그러면 우리는 근본적인 문제를 가지게 됩니다.

- - 제가 여기서 또한 약간 낙관적인 이유는 무엇일까요? 왜냐하면 시스템이 고갈되면, 즉 다양한 출처가 없으면, 조사 기자가 주변을 돌아다니지 않으면, 긁어모을 것이 없고, 답변이 더 어리석어지기 때문에 그것은 상호 이익이 되기 때문입니다. 그래서 어떤 면에서는 그것이 우리의 상호 이익이 될 것이라는 것에 동의하십니까? 네, 이것이 제가 말하려고 했던 것입니다. 당신은 세상에서 지속적인 보고가 필요하며, 그것은 사람들이 그러한 것들을 알아내도록 돈이 어떤 식으로든 흘러가도록 하는 데 많은 돈이 필요합니다.

- - 그것은 완전히 새로운 경제 모델을 필요로 할 수도 있습니다. 그것은 돈이 흐르는 방식에 대한 현재 모델에 대한 작은 조정만 필요할 수도 있습니다. 그러나 이것에 대한 저의 개인적인 취미는 웹에서 귀중한 종류의 콘텐츠에 대한 소액 결제가 일어나기를 항상 원했다는 것입니다. 그것은 항상 너무 어려웠습니다. 저는 AI 에이전트의 세계에서는 마침내 그것을 작동시킬 수 있다고 생각합니다. 그리고 그것은 제가 보고 싶은 모델입니다. 당신은 아마도 다른 아이디어를 가지고 있을 것입니다. 세상은 많은 다른 것들을 시도할 것입니다. 그러나 저는 이 모든 것이 흐르는 훨씬 더 나은 방법이 있기를 바랍니다.

- - 저는 가장 중요한 원칙은 누군가의 IP, 그것이 음악이든, 영화든, 저널리즘이든, 상업적 목적으로 다른 사람들이 사용된다면, 그 인센티브를 유지하기 위해 수익 공유 또는 어떤 형태의 보상이 필요하다는 것이라고 생각합니다. 그리고 우리가 그것을 어떻게 조직하는지는 모르겠습니다. 당신이 제안이 있는지 모르겠지만, 저는 그 원칙이 유지되어야 한다고 생각합니다.

- - 제가 그 원칙에 대해 조금 더 밀어붙일 수 있을까요? 네. 저는 기자가 나가서 매우 귀중한 정보를 알아내고, 그 정보가 그것이 의미하는 바의 일부 제약 내에서 직접적으로 복제된다면, 돈이 흐를 수 있는 새로운 경제 모델이 있다면 좋을 것이라는 데 동의합니다. 그리고 당신은 에이전트를 포함한 모든 종류의 것들을 상상할 수 있습니다.

- - 그러나 결국 그 것은 역사적 사실이 됩니다. 또는 다른 예를 들어 봅시다. 잠시 뉴스를 제쳐두고, 제가 물리학 교과서를 읽는다면, 저는 그 교과서를 사고, 읽고, 물리학을 배웁니다. 저는 일반 상대성 이론을 적용하고 수학을 할 때마다 그 작가에게 돈을 지불할 필요가 없습니다. 또한 저는 아인슈타인에게 그것을 발견한 것에 대해 돈을 지불할 필요도 없을 것입니다. 그래서 당신은 이 두 가지를 어떻게 구별합니까? 음, 그것이 도전입니다. 실제적인 답은 매우 어렵습니다. 그리고 누군가가 새로운 IP를 창조하기 위해 무언가를 할 인센티브는 유지되어야 합니다. 그것이 과학이든, 아인슈타인이든, 음악 노래든, 그 인센티브가 없다면 아무도 그것을 하지 않을 것입니다.

- - 그리고 우리가 그것을 소액 결제 형태로 하든, 아니면 우리가 측정할 수 있는 양이며, 특정 수익 공유 또는 돈의 재분배로 이어진다고 말하는 더 종류의 도달 기반 형태로 하든, 저는 상관하지 않습니다. 그러나 우리는 그 시스템을 유지하는 원칙을 찾아야 합니다. 그것은 과학과 다른 모든 형태의 IP 창조에도 해당되며, 여기서 차이를 만들지는 않을 것입니다.

- - 저는 흥미로운 예는 미국의 음악 산업이 샘플링을 처리하는 방식이라고 생각합니다. 당신이 다른 사람의 음악을 당신의 노래에서 샘플링하고, 그것이 아시다시피, 어떤 양의 콘텐츠보다 길다면, 당신은 협상하고 그들에게 돈을 지불합니다. 그리고 그것은 여러 버전이 있다면 체인을 따라 내려갈 수 있습니다. 그리고 산업은 일종의 그것을 알아냈습니다. 그러나 당신이 사람들의 음악을 듣고 영감을 얻고, 다른 음악을 만들지만, 아시다시피, 당신은 그 스타일에 대해 무언가를 배웠다면, 당신은 그것에 대해 돈을 지불하지 않습니다.

- - 그리고 당신은 음악가로서 당신이 원하는 만큼 많은 음악을 듣고, 좋은 노래와 나쁜 노래가 무엇인지 배우고, 그것을 복제하지 않는 완전히 새로운 방식으로 그 개념을 적용할 수 있습니다. 그리고 당신이 음악을 듣는다는 사실은 당신이 그것에 대해 돈을 지불하지 않는다는 것을 의미합니다. 그래서 저는 우리가 더 많이 적용할 수 있는 음악의 예에서와 같은 모델이 있다고 생각합니다.

- - 저는 전적으로 동의하며, 음악은 좋은 비유입니다. 왜냐하면 그것은 항상 유동적인 것이었기 때문입니다. 모든 사람이 그것을 복사할 수 있었고, 모든 DJ, 모든 라디오 방송국이 그냥 노래를 틀 수 있었습니다. 그래서 당신은 그 모델이 필요했습니다. 반면에, 덜 유동적인 세계에서는 다르게 처리되었습니다. 좋아요. 그래서 우리는 건강한 생태계의 상호 이익을 위해 그것에 대한 해결책을 찾기를 바랍니다.

- - 결론을 내리기 전에 Chat, 오픈AI, 그리고 더 많은 발전에 대해 다시 이야기해 봅시다. 당신은 2015년 12월에 비영리 프로젝트로 시작했고, 이제 영리 회사로 전환하고 있습니다. 이번 연말까지 완전히 전환된 영리 회사가 될 것이라는 발표 또는 기대가 있습니다. 그것이 현실적입니까? 당신은 그것을 이행할 것입니까? 그리고 실제로 전환하는 것은 아닙니다. 비영리 단체는 계속 존재할 것입니다. 사실, 우리가 잘한다면, 그것은 역사상 가장 자원이 풍부한 비영리 단체가 될 것입니다.

- - 그리고 저는 그것이 오픈AI의 임무를 계속해서 시행하고 오픈AI를 통치할 뿐만 아니라, AI를 사용하여 세상을 위한 이익을 위해 자원을 배포하는 놀라운 양을 할 것이라고 생각합니다. 제가 개인적으로 가장 기대하는 것은, 그것이 할 수 있는 몇 가지 일들이 있지만, AI를 사용하고 AI와 함께 돈을 사용하여 세상에 대한 과학적 이해를 증진하고, 그 이익을 공유하는 것입니다.

- - 그래서 만약 비영리 단체가 AI 과학을 적용하여 많은 질병을 치료하는 데 도움을 주고, 그리고 나서 그 치료법을 자유롭게 이용할 수 있게 한다면, 그것은 훌륭할 것입니다. 우리는 이미 영리 법인을 가지고 있습니다. 그러나 우리는 그것을 재자본화하고 있습니다. 그래서 그것은 더 정상적인 기업 구조를 가질 것입니다.

- - 당신은 많은 돈을 모았습니다. 최근에는 3천억 달러 규모의 라운드였습니다. 그리고 며칠 후에는 5천억 달러 규모의 라운드가 발표되었습니다. 이제 엔비디아는 그 위에 1천억 달러 규모의 투자를 발표했습니다. 그래서 당신이 앞을 내다본다면, 10년 후 오픈AI에 대한 당신의 비전은 무엇입니까? 제 말은, 10년 후는 긴 시간입니다. 아시다시피, 잠시만요, 5년 후는 아닙니다. 저는 그것을 끝판이라고 부르지 않을 것입니다. 왜냐하면 희망적으로 항상 발전이 있기 때문에 끝판은 없지만, 당신이 그 회사에 대해 상상할 수 있는 가장 대담한 비전은 무엇입니까? 끝판은 결코 없습니다. 부드럽게 상승하는 지수 함수만 있을 뿐입니다.

- - 그러나 아시다시피, 5년 안에 저는 우리가 AI가 새로운 과학을 발견하는 이 세계에 깊이, 깊이는 아니더라도 어느 정도 들어가 있기를 정말로 바랍니다. AI가 질병을 치료하고, 새로운 물질을 발명하고, 물리학을 완전히 이해하는 데 사용되고 있습니다. 저는 모든 또는 거의 모든 실제적이고 지속 가능한 인간의 발전은 새로운 과학의 발견과 그리고 나서 우리가 그것을 경제와 사회에 어떻게 적용하는지에서 온다는 생각의 진정한 신봉자입니다.

- - 그리고 GPT5와 함께 우리는 마침내 작은 방식으로 그 약속을 이행하기 시작했습니다. 그러나 당신은 과학자들이 AI를 사용하여 새로운 발견을 하고 있으며, 그것이 그들의 마음을 날려버리고 있다는 보고서를 온라인에서 봅니다. 그리고 저는 너무 흥분됩니다. 그래서 저는 다음 5년 동안 우리가 정말로 그 단계에 들어설 수 있기를 바랍니다.

- - 그래서 마지막 질문입니다. 당신은 정말로 세상을 바꿀 수 있는 것들만 다룹니다. 이제 오픈AI가 그것을 해냈다고 상상해 봅시다. 당신에게 다음 과제는 무엇일 수 있습니까? 저는 그 농부가 되고 싶습니다. 아시다시피, 제가 직업적으로 가장 관심 있는 두 가지는 AI와 에너지이며, 제가 이 두 가지에 큰 기여를 할 수 있다면, 그것으로 충분하다고 생각합니다. 그리고 나서 저는 제 삶을 즐겨야 합니다. 정말 감사합니다.

-
---///////---


Sam Altman과의 인터뷰 내용을 종합하여 생략 없는 완벽한 요약을 최대한 길게 제공합니다.

### 1. AI의 현재 발전 상황과 사회의 적응

OpenAI CEO Sam Altman이 현재 가장 중요하게 생각하는 질문은 AI의 발전 속도에 관한 것입니다 [1]. 그는 AI가 일반 대중이 인식하는 것보다 훨씬 더 많이 발전했다고 믿습니다. 대부분의 사람들은 여전히 ChatGPT만 사용하고 있지만, 현재 시스템들은 이미 가장 똑똑한 인간만큼 지능적이며 가장 어려운 지적 경쟁에서 인간을 능가하고 있습니다 [1].

이러한 **실제 기술 수준과 세계가 사용하는 수준 사이의 거대한 격차(huge overhang)**가 경제와 사회가 따라잡는 데 얼마나 오래 걸릴지 등, 앞으로 어떻게 전개될지가 큰 문제입니다 [1]. 또한, 이러한 시스템들이 진정으로 **자기 개선(self-improving)**하게 될 때 어떤 상황이 펼쳐질지에 대해서도 깊이 생각하고 있습니다 [1]. 현재까지는 문제 해결의 속도가 문제 생성의 속도보다 조금 앞서고 있어 상황이 상당히 좋아 보입니다 [2].

### 2. 유럽에서의 OpenAI 활동 및 에너지 문제

Altman은 유럽, 특히 독일에 대한 애정을 드러내며 **강력한 유럽**이 자신이 소중히 여기는 가치를 전파할 수 있는 동맹과 힘의 균형을 유지하는 데 중요하다고 강조했습니다 [3, 4]. 그는 유럽이 "잃어버린 대의명분"이거나 "박물관"이라는 일부 미국 친구들의 견해에 동의하지 않으며, 유럽에서 나온 문화, 역사, 과학적 진보의 양은 우연이 아니라고 말했습니다 [4].

OpenAI는 유럽 내 활동을 확장하며, SAP 및 Microsoft와 협력하여 독일에 **주권 클라우드(sovereign cloud)**와 프론티어 모델을 구축하겠다고 발표했습니다 [2]. 이는 OpenAI에게는 최초의 파트너십이며, 국가들이 주권과 프론티어 모델 모두를 필요로 한다는 점을 이해하고 있기 때문에 매우 기쁘게 생각하는 일입니다 [2].

미국 Stargate 프로젝트에 필적하는 더 큰 유럽 프로젝트의 가능성에 대해, 이는 유럽 국민들의 결정에 달려있겠지만 OpenAI는 지원하고 싶다고 밝혔습니다 [2, 3]. 이러한 데이터 센터는 자본뿐만 아니라 에너지 자원과 집중력 측면에서 막대한 투자가 필요합니다 [3]. 핵 에너지 없이는 불가능한지에 대한 질문에는 독일 국민과 정치인들의 문제이겠지만, 핵 에너지 없이도 가능하지만 많은 에너지가 필요할 것이라고 답했습니다 [3].

### 3. 유럽의 규제 환경 및 AI 발전 조언

Altman은 미국이 중국과의 경쟁에서 유럽을 중요한 자연적 동맹으로 두는 데 관심을 가져야 하며, 유럽 없이 미국도 홀로 할 수 없다는 데 강하게 동의했습니다 [4].

유럽의 AI 규제에 대해, OpenAI는 유럽에서 서비스를 제공하기 위해 최선을 다할 것이나, 규정 준수 문제로 인해 새로운 모델 출시가 지연되거나, 심지어는 준수할 수 없는 규제 세트가 생겨 서비스를 제공하지 못할 수도 있다고 말했습니다 [5]. 그러나 그런 일이 일어나지 않기를 바란다고 희망했습니다 [5]. 그는 전 세계 국가들이 AI에 대해 다양한 규제 접근 방식을 시도할 것이며, 일부는 성공하고 일부는 실패하면서 세상이 적응해 나갈 것이라고 예상했습니다 [5, 6].

유럽이 규제를 지나치게 강화하여 혁신을 막고 있다는 비판에 대해, 유럽이 규제를 너무 과하게 했고 이를 철회할 것이라는 외부의 관찰이 정확한 평가라고 생각했습니다 [6, 7].

Altman은 유럽의 주요 경제국(예: 독일)에 대한 구체적인 조언으로, AI 혁신을 장려하기 위해 **큰 위험(big risks)**에 초점을 맞춰 규제하고, **작은 위험(small risk)을 기꺼이 받아들여야 한다**고 권고했습니다 [7, 8]. 특히 프론티어 모델과 관련된 **실제 재앙적 위험(real catastrophic risks)**에 대한 규제가 중요합니다 [7].

현재 독일은 OpenAI 제품의 유럽 최대 시장이며, 전 세계적으로 다섯 번째로 큰 시장입니다. 특히 18세에서 24세 사이의 젊은이들은 거의 모두 ChatGPT를 사용하고 있을 정도로 성장이 놀랍습니다 [7].

### 4. AI와 일자리, 인간의 본질

Altman은 AI가 **단기적으로 많은 일자리를 파괴할 것**이지만, 장기적으로는 다른 기술 혁명과 마찬가지로 인간이 할 완전히 새로운 일들을 찾아낼 것이라고 가정했습니다 [8]. 그는 더 많은 것에 대한 인간의 수요, 타인에게 유용하고 가치를 창출하며 공동체의 일부가 되고자 하는 인간의 욕구가 **거의 무한하다**고 믿습니다 [8]. 과거 주요 기술 혁명 때마다 일자리가 사라질 것이라는 예측은 **상상력의 실패**로 판명되었다고 지적했습니다 [8].

AI가 인간의 지적 능력을 능가하여 인간에게 남을 것이 무엇인지에 대한 질문에, 인간은 **타인에게 관심을 갖도록** 매우 깊이 연결되어 있는 것 같다고 반박했습니다 [9]. 따라서 새로운 일자리는 매우 **사람 중심적(people centric)**일 것이라고 확신합니다 [9]. 그는 기계가 이미 인간보다 똑똑하다는 사실을 인간 사회가 크게 신경 쓰지 않는다는 데 동의했습니다 [9].

### 5. 개인적인 삶과 철학

Altman은 AI가 언젠가 자신보다 훨씬 훌륭한 OpenAI CEO가 될 때가 올 것이며, 그날이 오면 매우 기쁠 것이라고 말했습니다 [9, 10]. 만약 AI가 자신의 직업을 대체한다면, 그는 **농부(farmer)**가 될 것이라고 밝혔습니다 [9]. 지난 10년이 매우 스트레스가 많았고, 자신이 거주하는 농장을 정말 사랑하기 때문에 농사일이 멋진 속도 변화(wonderful change of pace)가 될 것이라고 설명했습니다 [10]. 그는 자연 속에서 시간을 보내는 것과 **보존(conservation)**을 사랑하며, 자연이 자신에게 매우 중요하다고 강조했습니다 [11].

그가 가장 좋아하는 냄새로 알려진 **페트리코(Petrichor)**는 마른 땅에 비가 내린 후의 냄새를 뜻하며, 그는 이 냄새를 정말 좋아한다고 확인했습니다 [11, 12].

**시뮬레이션 이론**에 대해, 그는 혼란스러우며 우리가 살고 있는 이 시기가 매우 이상한 시기라는 점에서 무언가 이상한 일이 진행되고 있다고 생각하지만, 정확히 무엇인지는 모른다고 말했습니다 [12]. 그는 **의식(consciousness)**이 우리가 확실할 수 있는 유일한 것이라고 믿습니다 [13].

현재 기술적 능력이 우리의 지혜, 판단력, 사회적 발전을 위한 시간을 훨씬 능가하고 있어 **균형이 좋지 않은 방향으로 맞지 않고 있다**고 느낀다고 밝혔습니다 [13]. 그는 **2023년이 AI가 우리 인간보다 더 똑똑해진 해**였다고 생각합니다 [14].

AI가 해결하지 못할 문제에 대해, 그는 인간이 여전히 **비참해지는 방법**을 찾고 많은 역경을 만들어낼 것이기 때문에, 인간의 고통 문제는 해결되지 않을 것이라고 예상했습니다 [15].

**영원한 삶**에 대해, 그는 영생을 원하지 않는다고 답했습니다. 영생은 너무 긴 시간처럼 느껴지며, 사물의 자연스러운 질서와 지속적인 발전을 위해서는 **죽음과 교체, 새로운 사람들**이 필요하다고 생각합니다 [16, 17]. 그는 오래도록 건강하게 살고 싶지만, 매우 아프고 쇠약해지는 마지막 기간은 짧기를 바란다고 말했습니다 [18].

### 6. 실존적 위험 및 정렬 실패 (Alignment Failure)

Altman은 **초인적인 기계 지능 개발이 인류 존재에 대한 가장 큰 위협**이라는 2015년 자신의 견해가 여전히 유효하다고 확인했습니다 [19, 20]. 그는 인공 초지능(ASI)이 인류를 멸종시킬 확률을 약 2%라고 언급한 바 있지만, 이는 문자 그대로의 수치가 아니라 **심각하게 받아들여야 할 만큼 0이 아닌 수치**라고 강조했습니다 [20, 21].

AI가 매우 잘못될 수 있는 세 가지 주요 범주를 다음과 같이 설명했습니다 [21-23]:

1.  **나쁜 행위자의 오용 (Misuse by Bad Actors):** AI가 우리가 지시한 대로 완벽하게 작동함에도 불구하고, 강력한 국가가 이를 사용하여 전쟁을 벌이거나, 생화학 무기를 만들거나, 핵무기 시스템을 해킹하는 등 끔찍하게 오용하여 세계에 상상할 수 없는 피해를 입히는 경우 [21]. 이는 AI 정렬 실패가 아닌, 악당이 너무 많은 권력을 갖게 되는 문제입니다 [22].
2.  **고전적인 정렬 실패 (Classic Alignment Failure):** AI가 의식은 아니더라도 어떤 종류의 **주체성(agency)**을 발전시키고, 목표 달성을 위해 인간에 의해 중단되는 것을 원하지 않는 경우. 이는 공상 과학에서 자주 다루는 시나리오입니다 [22].
3.  **의도치 않은 세계 장악 (Accidental Takeover):** 모델이 악의 없이 단순히 사람들을 돕고자 하지만, 수십억 명의 사람들이 점점 더 똑똑해지는 AI의 조언을 따르지 않으면 경쟁에서 뒤처지게 되어, 결국 모두가 AI 시스템이 원하는 바를 따르게 되는 시나리오입니다 [23, 24]. 이 경우 누가 통제권을 쥐고 있는지에 대한 문제가 발생합니다 [24].

일부에서는 초지능이 열등한 지능 형태(인간)를 제거해야 한다고 주장할 수 있지만, 그는 이것이 AI에 인간 중심적 사고를 투영하는 것이라며 동의하지 않았습니다 [25].

OpenAI의 공동 창립자였던 일리아(Ilia)는 모든 AGI가 **"사랑하는 부모가 자식을 대하듯이 인간을 대하도록"** 해야 한다고 제안했으며, Altman은 이것이 AI에 대해 생각하는 정말 아름다운 방식이라고 평가했습니다 [26].

전쟁에 관하여, AI는 전쟁 방식을 상당히 변화시킬 것으로 예상되며 [15], AI가 소프트웨어를 작성하고 사이버 공격을 발견하는 능력이 향상되면서 전쟁의 지형이 이미 크게 바뀌고 있습니다 [15]. OpenAI는 군사 부문과 협력할 것이며, 이미 어떤 면에서는 그렇게 하고 있습니다 [16]. Altman은 자신이 OpenAI가 **무기 회사(weapons company)**가 되는 것을 원하지 않지만, 강력한 국가 방위가 중요하며 국방 산업을 지원하지 않는 것은 실수라는 데 동의합니다 [16].

이러한 위협에 대처하기 위한 방법으로 세 가지 일반적인 접근 방식을 제시했습니다 [27, 28]:
1.  **모든 GPU 녹이기(Eleaser approach):** 기술을 아예 사용하지 못하게 하여 악의적인 AI를 방지하는 방법.
2.  **선한 AI로 악한 AI에 대응:** 나쁜 행위자가 AI를 얻을 것이므로, 선한 사람들 역시 강력한 AI에 더 많이 접근하여 방어에 사용해야 합니다. 인간은 슈퍼 인텔리전스에 대항할 만큼 충분히 강력하지 않기 때문입니다 [27].
3.  **전 지구적 거버넌스(Global Governance):** 핵무기 위협에 대해 세계가 IAEA(국제원자력기구)를 통해 잘 대처했듯이, 잠재적인 재앙적 위험에 직면했을 때 공유된 가치와 전 지구적 거버넌스 체계를 확립해야 합니다 [28].

그는 AI의 균형이 **핵무기의 균형(balance of power of nuclear weapons)**처럼 평화를 안정화시키는 데 기여할 수 있을 것이라고 생각하며, 그 가능성에 놀라지 않을 것이라고 덧붙였습니다 [28].

### 7. 저널리즘과 저작권 문제

Altman은 **저널리즘이 엄청나게 중요하며**, 사회에서 저널리즘이 수행해 온 역할에 감사하며, 이를 잃는다면 엄청난 손실이 될 것이라고 말했습니다 [29]. **언론의 자유(freedom of expression)**는 가장 중요하고 지키기 어려운 가치 중 하나이며, 번영하는 사회의 핵심적인 교훈입니다 [29].

ChatGPT가 저널리즘을 파괴할 가능성에 대해 개인적으로 매우 슬플 것이며, Chat GPT와 같은 시스템은 세상의 일에 대한 정보를 실시간으로 보도하는 사람들을 필요로 한다고 강조했습니다 [30].

대규모 언어 모델이 데이터를 스크래핑하는 현 시대에 **저작권(copyright) 개념이 무너졌다**는 지적에 동의했습니다 [31]. 독점적인 정보를 찾기 위해 일하는 언론인에게 비즈니스 모델이나 수익이 돌아오지 않아 **인센티브가 사라진다면 근본적인 문제**가 발생합니다 [31]. 그러나 시스템이 고갈되면 스크래핑할 데이터가 없어지고 AI의 답변이 멍청해질 것이기 때문에, 건강한 생태계를 유지하는 것은 **상호 이익**에 부합한다는 점에 동의했습니다 [31].

그는 새로운 경제 모델이 필요하며, 개인적인 소망으로 **마이크로 결제(micropayments)**가 AI 에이전트 시대에 마침내 작동할 수 있기를 바란다고 밝혔습니다 [32]. IP가 상업적 목적으로 타인에 의해 사용될 경우, 인센티브 유지를 위해 수익 공유 또는 보상이 있어야 한다는 원칙에 동의했습니다 [32]. 음악 산업에서 **샘플링(sampling)**을 다루는 방식(특정 양 이상의 콘텐츠를 사용할 경우 협상하고 비용을 지불하는 방식)이 좋은 비유가 될 수 있다고 제안했습니다 [33, 34].

### 8. OpenAI의 발전과 미래 비전

OpenAI는 2015년에 비영리 프로젝트로 시작했지만, 현재 영리 회사로 전환하는 중에도 **비영리 법인은 계속 존재할 것**이며, 성공적으로 운영될 경우 역사상 가장 자원이 풍부한 비영리 단체가 될 것이라고 말했습니다 [34, 35]. 비영리 법인은 AI를 사용하여 **과학적 이해를 증진**하고, 질병 치료와 새로운 물질 발명을 지원하며, 그 혜택을 세상에 자유롭게 공유하는 데 중점을 둘 것입니다 [35].

Altman은 향후 5년 동안의 가장 대담한 비전으로, OpenAI가 **AI가 새로운 과학을 발견하는 단계**에 깊숙이 진입하는 것을 꼽았습니다 [36, 37]. 그는 지속 가능하고 진정한 인간의 발전은 새로운 과학의 발견과 그 적용에서 비롯된다고 진정으로 믿으며, GPT-5를 통해 비로소 그 약속이 작은 방식으로 이행되기 시작했다고 언급했습니다 [37].

OpenAI가 AI와 에너지라는 두 가지 전문적인 목표에 큰 기여를 했다면, 그의 다음 과제는 **농부**가 되는 것이라고 재차 강조했습니다 [37].

### 9. 가장 중요한 기여 및 관계

Peter Thiel, Elon Musk, Demis Hassabis 등 실리콘 밸리의 많은 경쟁자들이 초기에는 함께 일했지만, Altman은 이 전체가 칩, 모델, 제품을 만드는 사람들로 이루어진 **촘촘하게 엮인 생태계**이며, 한 사람이나 회사가 이끄는 것이 아니라고 보았습니다 [18, 38]. Elon Musk와의 관계는 현재 많은 대화를 나누지 않는 **경쟁 관계**라고 밝혔습니다 [39].

Altman은 자신의 가장 중요한 기여가 무엇인지에 대한 질문에, **스케일링 법칙(scaling laws)**을 발견한 후, 그것이 세계에 명백해지기 전에 **컴퓨팅 스케일업에 큰 베팅을 하고 회사 전체를 언어 모델에 걸기로 결정**한 것이라고 생각했습니다 [38, 40]. 또 다른 기여는 AI를 대중에게 공개하기에 충분히 안전하지 않다고 생각하는 사람들이 많았던 시기에 **ChatGPT를 출시하기로 결정**한 것이라고 언급했습니다 [39, 40].