나는 AI가 대략 5년 안에 인간 지능의 총합을 초과할 수 있다고 생각합니다.

https://youtu.be/1X-rr1DKSbY?si=SSePwA3haHwDeIK9

Elon Musk on AI: humans will no longer be in control in ten years  | The Economist

think AI may exceed the sum of human intelligence in about in around five years. 나는 AI가 대략 5년 안에 인간 지능의 총합을 초과할 수 있다고 생각합니다. In five years, roughly five years is my guess. 5년 안에, 대략 5년이 제 추측입니다. Um, so there really won’t be anything that AI can’t do better than humans apart from being human perhaps. 음, 그래서 AI가 인간을 제외하고는 인간보다 더 잘할 수 없는 것은 정말로 없을 것입니다. In a more prosaic level, what will life be like? 더 평범한 수준에서, 삶은 어떨까요? The most likely outcome is an age of amazing abundance uh where anyone can have anything they can think of. 가장 가능성 높은 결과는 누구나 생각할 수 있는 모든 것을 가질 수 있는 놀라운 풍요의 시대입니다. This is this is this may sound preposterous but well here we are in 2026. 이것은 터무니없게 들릴 수 있지만, 여기 우리는 2026년에 있습니다. Let’s see where we stand in 2036. 2036년에 우리가 어디에 서 있는지 봅시다. Now of course there are things that could derail this like a a massive global thermonuclear war or something like that. 물론 이것을 탈선시킬 수 있는 것들, 예를 들어 대규모 전 세계 열핵전쟁 같은 것이 있습니다. Um, but assuming that there’s not World War II, uh, I think I think we’re headed for an age of amazing abundance. 음, 하지만 제2차 세계대전이 없다고 가정하면, 어, 저는 우리가 놀라운 풍요의 시대로 향하고 있다고 생각합니다. So, this is, I guess, a message of of optimism and, uh, excitement about the future. 그래서 이것은, 제 생각에는, 미래에 대한 낙관과 흥분의 메시지입니다. You’re sure that humans will no longer be in control in 10 years time? 당신은 10년 후에 인간이 더 이상 통제하지 못할 것이라고 확신하나요? I think it is unlikely. 저는 그것이 가능성이 낮다고 생각합니다. Um, in the same way that if you had a vastly more like, you know, the like like if if if the difference in intelligence between AI and humans is vastly greater than the difference in intelligence between AI and chimpanzees, it’s hard to imagine that the chimpanzees would be in charge. 음, 같은 방식으로, 만약 AI와 인간 사이의 지능 차이가 AI와 침팬지 사이의 지능 차이보다 훨씬 크다면, 침팬지가 책임을 지고 있을 것이라고 상상하기 어렵습니다. I’m really sorry. 정말 죄송합니다. We are essentially um an evolved form of chimpanzee. 우리는 본질적으로 침팬지의 진화된 형태입니다. So it wasn’t that long ago that we’re swinging through the trees eating bananas um in the jungle and we still eat bananas. 그래서 우리가 정글에서 나무를 타며 바나나를 먹던 것이 그리 오래되지 않았고 우리는 여전히 바나나를 먹습니다. You said there was a 10 to 20% chance of killer robots wiping out humanity. 당신은 킬러 로봇이 인류를 말살할 10에서 20퍼센트의 가능성이 있다고 말했습니다. So you sounded worried then. 그래서 그때는 걱정하는 것처럼 들렸습니다. Now you seem very relaxed about it. 지금은 매우 편안해 보입니다. Have you changed your view? 견해를 바꾸셨나요? I still think there’s risk associated with AI and robots. 저는 여전히 AI와 로봇과 관련된 위험이 있다고 생각합니다. It’s not zero. 그것은 제로가 아닙니다. Um, I’ I guess I’ve come to my my sort of philosophical conclusion is to look on the bright side. 음, 저는 제 철학적 결론이 밝은 면을 보는 것이라고 추측합니다. Um, I like I I can’t see any way to really stop this incredible momentum of AI and robots. 음, 저는 이 AI와 로봇의 놀라운 모멘텀을 정말로 막을 어떤 방법도 볼 수 없습니다. Um, and and at times I sort of think, well, perhaps, you know, even if there was a stop button, we probably shouldn’t press it. 음, 그리고 때때로 저는, 음, 아마도, 만약 정지 버튼이 있더라도, 우리는 그것을 누르지 말아야 할 것이라고 생각합니다. uh because because the most likely outcome is incredible abundance for for all. 왜냐하면 가장 가능성 높은 결과가 모두를 위한 놀라운 풍요이기 때문입니다. That’s what I thought actually. 사실 저도 그렇게 생각했습니다. It struck me that now you seem to have decided it’s inevitable. 지금은 당신이 그것이 불가피하다고 결정한 것 같다는 인상을 받았습니다. Let’s hope for the best and go for the ride. 최선을 바라고 여행을 가자. Yeah. I mean, yes, pretty much. 네. 제 말은, 예, 거의 그렇습니다. Let’s uh let’s enjoy the ride is is is I think my philosophy at this point because I mean honestly this there’s it’s it’s there there seems to be just an inexurable uh progress here in in AI and and in robots 여행을 즐기자, 그것이 이 시점에서 제 철학이라고 생각합니다. 왜냐하면 솔직히, 여기 AI와 로봇에서 그냥 멈출 수 없는 진보가 있는 것 같기 때문입니다. that um but you even if I wanted to stop it I don’t I couldn’t um 하지만 당신이 그것을 멈추고 싶더라도 저는 할 수 없습니다. do you think there’s still a 10 to 20% chance that killer robots mean the end of humanity? 당신은 여전히 킬러 로봇이 인류의 끝을 의미할 10에서 20퍼센트의 가능성이 있다고 생각하나요? That’s a high P doom as they say. 그것은 그들이 말하는 높은 P 둠입니다. Well, in the long run, we’re all dead of course. 음, 장기적으로 우리는 모두 죽습니다. Um, you know, um, so I mean, so I mean like according to the standard model of physics, the end of the universe is um a long boring sort of thin gray soup of uh gradual cooling. 음, 아시다시피, 음, 제 말은, 물리학의 표준 모델에 따르면, 우주의 끝은 음 점진적인 냉각의 길고 지루한 얇은 회색 수프입니다. um meaning the sort of the heat death of the universe it’s called. 음 그것이 우주의 열사라고 불리는 것입니다. So now if if the heat death of the universe is in fact the outcome for our reality, then it really is all about the journey because the destination is terrible. 그래서 만약 우주의 열사가 실제로 우리 현실의 결과라면, 목적지가 끔찍하기 때문에 그것은 정말로 여정에 관한 것입니다. But 10 years is not very Yeah, I get that. 하지만 10년은 그리 길지 않습니다. 네, 이해합니다. But that could be a long way and you’re basically very long way. 하지만 그것은 긴 길이 될 수 있고 당신은 기본적으로 매우 긴 길입니다. If it’s 10 to 20% in 10 years, you know, would you go into one of your rockets if you thought there was a 10 to 20% chance of it blowing up and killing you? 만약 그것이 10년 안에 10에서 20퍼센트라면, 아시다시피, 그것이 폭발해서 당신을 죽일 10에서 20퍼센트의 가능성이 있다고 생각한다면 당신의 로켓 중 하나에 타시겠습니까? Yes. But but let’s say there’s you can’t do anything about it. 네. 하지만 당신이 그것에 대해 아무것도 할 수 없다고 가정합시다. Mhm. that I guess the only thing we can try to do is minimize the probability of the bad outcome. 음. 우리가 시도할 수 있는 유일한 것은 나쁜 결과의 확률을 최소화하는 것이라고 추측합니다. Um but trying to stop the intelligence in robots. 음 하지만 로봇의 지능을 멈추려고 하는 것. Um I mean for the longest time I declined to participate in AI or was you know you know created open AI as a essentially a counterweight to to Google because at the time they were um they had more or less a monopoly on AI in creating open AI and then having anthropics spin out of that and now currently anthropics leader in AI. 음 제 말은 가장 오랫동안 저는 AI에 참여하는 것을 거절했거나 아시다시피 오픈 AI를 본질적으로 구글에 대한 대항마로 만들었는데 그 당시 그들은 음 AI에 거의 독점을 가지고 있었고 오픈 AI를 만들고 그것으로부터 앤트로픽이 스핀아웃되었고 지금은 현재 앤트로픽이 AI의 리더입니다. Um, I mean the these actions have actually resulted in knock-on effects that accelerated AI, which wasn’t really my intention. 음, 제 말은 이러한 행동들이 실제로 AI를 가속화하는 연쇄 효과를 가져왔는데, 그것은 정말로 제 의도가 아니었습니다. So, it just seems like all roads lead to acceleration of AI. 그래서 모든 길이 AI의 가속으로 이어지는 것 같습니다. So, then I’m like, okay, well, you can just sort of be sad about it or join the club, I suppose. 그래서 저는 좋아요, 음, 그것에 대해 슬퍼하거나 클럽에 가입할 수 있다고 생각합니다. Well, you’ve certainly joined the club. 음, 당신은 확실히 클럽에 가입했습니다. Yeah, you definitely joined the club. 네, 당신은 확실히 클럽에 가입했습니다. If you can’t beat him, join them. 이길 수 없으면 그들과 합류하세요. You know, a number of the other leaders of of model makers have been pushing for different ways to try and minimize the risks. 아시다시피, 모델 메이커의 다른 리더들 중 일부가 위험을 최소화하기 위한 다른 방법들을 추진해 왔습니다. Um, you know, just last week, Demises came out with a proposal for a private public regulator. 음, 아시다시피, 지난주에 데미스스가 민간 공공 규제 기관에 대한 제안을 내놓았습니다. Do you think you guys should be working more actively to get something in place to control the risks or do you think that’s impossible too? 당신들이 위험을 통제하기 위한 무언가를 제자리에 놓기 위해 더 적극적으로 일해야 한다고 생각하나요 아니면 그것도 불가능하다고 생각하나요? Yeah, my recommendation to Dennis because we I talked to him for a few hours before he published his his piece was that um the most immediate thing that we could do is to have the leading AI companies um at least just meet uh or have a some sort of call once every few weeks um and just uh discuss any safety and security issues. 네, 데니스에게 제 추천은 그가 그의 글을 발표하기 전에 몇 시간 동안 그와 이야기했기 때문에 음 우리가 할 수 있는 가장 즉각적인 것은 선도적인 AI 회사들이 음 적어도 몇 주에 한 번씩 만나거나 어떤 종류의 통화를 하고 음 그리고 그냥 안전과 보안 문제를 논의하는 것입니다. But why why haven’t you done that yet? 하지만 왜 아직 그것을 하지 않았나요? I mean you don’t all like each other very much. 제 말은 당신들이 서로를 별로 좋아하지 않습니다. Yeah. But you’re not all you’re not all I mean you’re also all competing right? 네. 하지만 당신들은 모두 경쟁하고 있지 않나요? You all want to be first. 당신들은 모두 1등이 되고 싶어합니다. Yes. But that’s that’s where I think um the competitors can keep it keep each other honest. 네. 하지만 그것이 제가 생각하는 곳입니다 음 경쟁자들이 서로를 정직하게 유지할 수 있습니다. So meaning meaning like if um like I think it’s quite difficult for someone in the government who doesn’t have a deep technical understanding and isn’t driving the frontier of of AI to know whether something should be released or not. 그래서 의미는 만약 음 저는 깊은 기술적 이해가 없고 AI의 프론티어를 주도하지 않는 정부의 누군가가 무언가를 출시해야 하는지 아닌지를 아는 것이 상당히 어렵다고 생각합니다. Um however the competitors I think will can you know if given sort of a week or two to review a new model um can highlight issues and uh and have an incentive to keep all all the competitors have an incentive to keep the others honest. 음 그러나 경쟁자들은 제가 생각하기에 새로운 모델을 검토하기 위해 일주일이나 이주일 정도를 주면 음 문제를 강조할 수 있고 어 그리고 모든 경쟁자들이 다른 사람들을 정직하게 유지할 인센티브를 가지고 있습니다. So you’d have a system where the model makers would check each other’s work. 그래서 모델 메이커들이 서로의 작업을 확인하는 시스템을 가지게 될 것입니다. If there was something that worried them, you’d tell the government. 만약 그들을 걱정시키는 무언가가 있다면, 정부에 말할 것입니다. Yeah. The government would then think, okay, if there’s something that was worrisome and that company was not doing anything to address that risk, then that would be the the moment for government to step in and take action, which is literally what just what does all this have to happen? 네. 정부는 그러면 생각할 것입니다, 좋아요, 만약 걱정스러운 무언가가 있고 그 회사가 그 위험을 해결하기 위해 아무것도 하지 않는다면, 그때가 정부가 개입해서 조치를 취할 순간이 될 것입니다, 그것은 문자 그대로 바로 그것입니다 이 모든 것이 일어나야 하나요? Well, I think it would be good to do that I think immediately really. 음, 저는 그것을 하는 것이 좋을 것이라고 생각합니다 저는 정말로 즉시라고 생각합니다. Yeah, that’s what people keep telling me. we we have to get this some kind of system in the next 6 months because of the pace at which the models are improving. 네, 사람들이 계속 저에게 말하는 것입니다. 우리는 모델이 개선되는 속도 때문에 다음 6개월 안에 어떤 종류의 시스템을 가져야 합니다. Yeah, 6 months is a long time. 네, 6개월은 긴 시간입니다. Um, so you think shorter than that? 음, 그래서 당신은 그것보다 더 짧다고 생각하나요? Well, I mean there there’s so many AI breakthrough announcements, sometimes multiple per day. 음, 제 말은 너무 많은 AI 돌파 발표가 있고, 때때로 하루에 여러 개입니다. I mean, how many were there last week? 제 말은, 지난주에 몇 개가 있었나요? A lot. 많이. I lost track, you know. 저는 놓쳤습니다, 아시다시피. Yeah, a lot. 네, 많이. Um, so, so you you basically, you know, whether it’s Demis’ proposal or others, you need to get together and get this set up kind of now. 음, 그래서, 그래서 당신은 기본적으로, 아시다시피, 데미스의 제안이든 다른 것이든, 함께 모여서 이것을 지금 당장 설정해야 합니다. It sounds like you’re telling me. 당신이 저에게 말하는 것처럼 들립니다. Yeah. I I I would recommend that we at least have some sort of informal g um you know weekly or bi-weekly um call and and and that like I said just that that there’s that that um there’s maybe a week or two weeks of of early access by competitors and this is why I think the incentives work is because if if you know competing companies I think are likely to understand if something is a security risk and they’re not going to be shy about highlighting that that their competitor’s models should be delayed in release. 네. 저는 우리가 적어도 어떤 종류의 비공식적인 음 아시다시피 주간 또는 격주 통화를 하고 그리고 제가 말한 것처럼 그냥 경쟁자들에 의한 일주일이나 이주일의 조기 접근이 있고 이것이 인센티브가 작동하는 이유라고 생각하는 것은 만약 경쟁 회사들이 보안 위험을 이해할 가능성이 높고 그들은 경쟁자의 모델이 출시가 지연되어야 한다고 강조하는 데 부끄러워하지 않을 것이기 때문입니다. You guys don’t much like each other and you don’t much trust each other. 당신들은 서로를 별로 좋아하지 않고 서로를 별로 신뢰하지 않습니다. You’re insulting each other on on social media constantly. 당신들은 소셜 미디어에서 끊임없이 서로를 모욕하고 있습니다. So, do you do you think you can do that with people that you dislike that that where there seems to be such kind of personal vitrial between some of these leaders? 그래서, 당신들은 싫어하는 사람들과 그렇게 할 수 있다고 생각하나요 그 리더들 중 일부 사이에 그러한 종류의 개인적인 비난이 있는 곳에서? Um, yes. 음, 네. Well, I’m I’m not a fan of Sam album because if you started a nonprofit that was meant to be an open-source AI company and um you know owned by the world uh and it somehow got turned into an $800 billion for-profit company with closed source. 음, 저는 샘 앨범의 팬이 아닌데 왜냐하면 만약 당신이 오픈 소스 AI 회사로 의도된 비영리 단체를 시작했고 음 아시다시피 세계가 소유한 것이 어떻게든 폐쇄 소스의 8000억 달러 영리 회사로 바뀌었다면. I think you’d be like well wait a second that’s uh the exact opposite of what I donated the money for. 저는 당신이 잠깐만요 그것이 제가 돈을 기부한 것의 정반대라고 생각할 것입니다. That that’s my issue. 그것이 제 문제입니다. I think it’s a legitimate one. 저는 그것이 정당한 것이라고 생각합니다. Um, and then Daario I think also is not a fan of Sam Alman because he felt uh, in fact the reason the anthropic team left OpenAI is because they they didn’t trust Sam Alman otherwise anthropic wouldn’t exist. 음, 그리고 다리오도 샘 알만의 팬이 아니라고 생각하는데 왜냐하면 그는 느꼈기 때문에, 사실 앤트로픽 팀이 오픈AI를 떠난 이유는 그들이 샘 알만을 신뢰하지 않았기 때문이고 그렇지 않으면 앤트로픽은 존재하지 않았을 것입니다. They would still be at OpenAI. 그들은 여전히 오픈AI에 있었을 것입니다. Um, I I think Dario is a very principled person. 음, 저는 다리오가 매우 원칙적인 사람이라고 생각합니다. He cares about things a lot. uh cares about the future of the world. 그는 많은 것에 신경을 씁니다. 어 세계의 미래에 신경을 씁니다. And I I think everyone I’ve met at Anthropic so far has been I’m like no one set off my evil detector. 그리고 저는 지금까지 앤트로픽에서 만난 모든 사람들이 제 악 감지기를 작동시키지 않았다고 생각합니다. You know, they always seem seem like they’re well-intentioned. 아시다시피, 그들은 항상 선의로 보이는 것 같습니다. Um and uh the road to hell is I think mostly paved with bad intentions. 음 그리고 어 지옥으로 가는 길은 대부분 나쁜 의도로 포장되어 있다고 생각합니다. There are a few well-intentioned paving stones in there, so we we don’t want to be complacent. 거기에는 몇 개의 선의의 포장 돌이 있으니, 우리는 안주하지 말아야 합니다. Um but uh you at the end of the day, if we have to talk, we’ll talk. 음 하지만 어 결국, 우리가 이야기해야 한다면, 우리는 이야기할 것입니다. I mean, set aside our personal differences for the good of the world type of thing. 제 말은, 세계의 이익을 위해 개인적인 차이를 제쳐두는 그런 것입니다.