테디 - AI that produces knowledge, what is the role of human researchers?
이것은 최근에 나왔던 오픈 AI 논문의 페이퍼벤치라는 논문입니다. 여기서 지금 뭐 작아서 잘 안 보이시겠지만 여기 보면 논문 텍스트를 주고 그 레포지토리를 똑같이 구현할 수 있냐를 평가합니다. 논문 약 20개 정도를 대상으로 만들었고 그 평가를 하는 노드가 그래프 형태로 레포지토리를 생각한다면 한 논문당 거의 2천에서 3천 포인트에서 이것이 맞았는지 틀렸는지 유닛 테스트를 돌리고 확인을 합니다. 그래서 되게 잘 만들려고 노력했고 저 벤치마크에서 최소한 저것을 통과하면 이제 그 특정 논문을 그대로 구현할 수 있는 능력을 가지고 있다고 볼 수 있을 정도로 잘 만든 벤치마크인데 이런 것만 봐도 인간 연구자들, 즉 오픈 AI 연구자들조차도 가르치고 싶은 생각이 저것이 100% 나오면 이제 그냥 나오겠네요. 정말 논문을 넣으면 나온다는 소리네요. 그렇죠 그렇죠. 뭐 최근에도 그런 회사들이 많았거든요. 본인들 회사에서 쓴 논문이 어디에 억셉되었다는 것이 많았는데 그런 논문을 읽어 보면 솔직히 아직은 좀 부족한 수준이긴 합니다. 뭐 그렇죠. 이렇게 말하면 그들은 억셉되었는데 억셉되지 못한 저는 뭐가 되나 싶긴 하지만 그 특정 논문을 리뷰했던 리뷰어가 트위터에 쓴 글이 있어요. 그런데 그 사람이 그 얘기를 하더라고요. 본인이 봤을 때는 너무 AI가 생성한 것 같았는데 메타리뷰어가 그냥 통과시켰다, 이것은 메타리뷰어도 AI를 쓴 것이 아니냐 뭐 이런 말을 했었고 실제로 그렇게 말을 안 하고 AI로 논문을 써서 억셉이 되면 나중에 걸리면 데스크 리젝이 되긴 합니다. 그 수준과 상관없이 무조건 리젝이 되긴 하는데 하여튼 그런 것을 노리고 있다고 볼 수 있을 것 같고 뭐 오늘 너무 기술적으로 깊이 들어가지 않으려고 한 논문에서 많은 것을 가져오진 않았지만 저는 좀 인상적인 것이 이 주황색은 휴먼이고 파란색은 O1이라는 오픈 AI 모델이라는 점입니다. 보면 이제 시간이 늘어남에 따라 성능이 어떻게 변하는가에 대한 얘기인데 여기 보시면 48시간까지 생각합니다. 이것이 정말 신기한 게 저희가 쓰는 모델들은 길어봤자 한 5분, 한 10분 정도 생각하잖아요. 얘네를 어떻게 48시간씩 생각하게 만들었지 이것이 궁금해지는 포인트고 이것이 만약에 이 사람은 보면 시간을 많이 쓸수록 성능이 확 올라가는 것이 보이시죠. 네. 반대로 그 오픈 AI 모델들은 안 올라갑니다. 한 시간 아니면 세 시간을 지나는 시점에서 성능이 최고점을 찍고 더 이상 올라가지 않습니다.
그러나 여전히 저희가 아 O1 너무 똑똑해, 거의 사람 수준의 지능이다라고 하지만 여전히 사람과의 좀 차이가 있습니다. 왜냐하면 저희가 인간 노동자를 쓸 때 가장 좋은 것이 확장성이 된다는 것이잖아요. 인간 노동자 한 명 쓰던 것을 열 명을 쓰면 뭐 열 배는 아니지만 그 배 이상의 능률이 나오고 한 사람이 한 시간 하던 일을 그 사람이 일주일 내내 하면 당연히 그 몇 배의 일을 해낼 수 있는 것이 당연한데 이런 GPT 같은 형태의 모델들 특히 O1이면 꽤나 최근에 나온 똑똑한 모델임에도 불구하고 아직 그것이 안 된다는 것이 조금 신기한 부분일 것 같고 아마 오픈 AI가 지금 풀고 싶어 하는 문제는 여기에 있지 않을까라는 생각이 듭니다. 저것이 선형적으로 올라가게끔 만들면 되게 어려운 문제일수록 그냥 시간을 늘려버리면 정말 그렇죠 그렇죠 능력이 올라간다는 소리네요 정말 그렇죠 그렇죠. 프리트레이닝 같은 경우에는 그런 식으로 작동하잖아요. 컴퓨트 파워를 늘릴수록 아니면 학습 시간을 늘릴수록 더 잘 성능이 나오는데 테스트 타임 스케일링은 그러지 않는다는 거죠. 그러니까 되게 작은 스케일에서 요즘 논문에서 테스트 타임 스케일링이 된다고 하면 뭐 한 1000토큰 생성할 때, 4000토큰 생성할 때, 8000토큰 생성할 때 성능이 계속 올라가더라고 뭐 이런 얘기를 하는데 뭐 8000토큰 생성하는 데 한 시간이 들지는 않아요. 기껏해야 몇 분이겠죠. 그러니까 거기서는 너희가 말한 대로 스케일링 비헤이비어가 있는 것이 맞아. 그런데 이것을 한 시간 혹은 48시간까지 늘렸을 때는 없는 것 같아. 이것이 오픈 AI가 하고 싶은 말이고 아마 다음 시리즈 모델들 O3나 O4 미니 같은 모델들은 뭐 저희가 초점을 저희의 입장에서는 이틀씩 쓸 수 없으니까 그 모델을 저희는 실감하지 못하겠지만 아마 이런 데서 좀 개선되어서 나온 것이 아닐까라는 생각이 듭니다.
그리고 이제 좀 내려가 보면 이것은 이제 딥마인드가 하는 일인데 딥마인드가 하는 연구들이 굉장히 독특합니다. 그래서 뭔가 내가 AI 연구자는 아니고 다른 과학자 입장에서 읽기에 제일 재밌는 논문들이 딥마인드에서 나오는 것이 유일하게 성격이 좀 다른 팀이죠. 뭐 저희 알파고나 알파폴드 같은 프로젝트로 시작한 팀을 구글이 인수한 것이고 그래서 그 연구적 색채가 굉장히 강한데 이제 이것은 뭐냐면 이 위가 아마 제 생각에 런던 무슨 대학교였던 것 같은데 어떤 인간 연구자 팀이 했던 연구를 보시면 2013년부터 진행되던 연구 2015년에 첫 번째 논문이 나왔고 해서 우리가 이런 발견을 했고 그래서 2023년에 우리가 어떤 것을 발견을 했고 뭐 저도 사실 뭔 소리인지 몰라요. 이것은 생물학 논문이어서 그리고 이제 2025년에 퍼블리시 예정이었다 뭐 이런 얘기입니다. 본인들이 한 발견이 그리고 이제 2016년까지 한 연구 결과를 2025년 24년에 완성된 제미나이에게 준 거예요. 그리고 그것에 맞춰서 네가 한번 가설을 세워 봐라라는 얘기를 한 거죠. 제미나이가 총 다섯 개의 가설을 생성했는데 그중 하나가 본인들이 연구를 통해서 밝혀냈고 아직 공개하지 않았던 가설과 일치 비슷했다라고 하더라고요. 이 논문에서 그러니까 여기서 하려고 하는 말은 이 아직 인류가 풀지 못한 혹은 풀었지만 공개되지 않은 문제에 대해서 가설 생성하는 능력이 이제 이 오픈 AI 제미나이 같은 모델들한테 있다는 얘기를 사실 하는 거거든요.
그러면 이것이 되게 무서워지는 포인트가 뭐냐면 얘가 지금은 생물학에서 했지만 똑같은 것을 물리학에서도 할 수 있고 수학에서도 할 수 있고 그런 모델이란 말이죠. 그런데 사람은 그렇지 않잖아요. 사람은 생물학에서 가설 생성을 하는 사람이 수학 가서 가설 생성을 할 수는 없단 말이죠. 그런 의미에서 저는 뭐와 좀 가깝다고 생각을 하냐면 이제 저희가 인류가 지금까지 지식을 쌓아 왔잖아요. 그래서 제가 거인의 어깨에 선다라는 표현이 있는 것처럼 이제 지식을 막 쌓아오고 그다음에 그 위에서 각각의 개인들이 뭔가 어떤 능력을 조금씩 발전시켜서 보여주는 건데 저희가 지금까지 했던 그 사전 학습 그리고 이 후속 학습이 다 인류로 치자면 이 지식을 쌓는 과정이었다고 생각을 해요. 어떤 모델 생각하는 과정은 아니었고 그리고 추론이 이제 사람이 하는 발전이랑 비슷한 뭔가이지 않나 그래서 이 프리트레인을 토대로 얘네들이 이제 서로 다른 분야에서 막 개성을 보여주고 뭔가를 하고 있는 거죠. 그 중에 하나가 이런 과학인 거고 그러면은 저는 약간 이제 이것을 보시는 분들이 이것을 끝나고 이제 느끼셨으면 하는 감정 중에 하나가 이 인공지능을 조금 이제 약간 무서워해야 된다고 저는 생각을 해요. 약간 다시 말하면 딱 끝나고 와 이것 큰일 났는데 아니 그러면 이것이 그 가설을 얘가 세워 줬는데 얘네가 준비하고 있었던 가설 중에 하나를 얘가 맞췄다는 거잖아요. 그렇죠. 실제로 검증이 끝난 가설과 일치한 것을 생성한 거죠. 그러면 이제 가설도 AI가 만들어. 푸는 것도 AI가 풀어. 그렇죠. 그럼 사람은 도대체 어떤 부분을 아 이것은 여기서부터는 제 망상인데 이제 테디님한테 아까 말씀을 드렸지만 제가 최근에 학회 때문에 미국에 다녀왔어요. 그리고 미국에서 이제 카네기 멜론에서 박사하는 친구랑 같은 방을 써서 맨날 이런 얘기를 했어요. 옛날 맥주 먹고 우리 뭐 먹고 사냐 뭐 이런 얘기를 했는데 그때 했던 얘기 중에 하나가 이제 가까운 미래에 사람보다 똑똑한 AI가 나올 텐데 그럼 걔가 AI 연구, 즉 AI 뭐든 연구 개발은 다 걔가 할 텐데 그러면은 사람이 해야 되는 일은 뭐지 생각을 했었고 확실한 것은 정말 똑똑한 사람들, 즉 정말 그 상위 몇 퍼센트 0점 몇, 0.0 몇 퍼센트만 일을 하는 것이 가치가 있겠다는 생각이 들었고 그 사람들이 그러면 무슨 일을 할까를 생각을 해 보면 저희가 약간 코드 취약점 바운티 헌팅을 하듯이 AI 바운티 헌팅을 할 것 같아요. 이 제미나이라는 엄청 큰 시스템에서 얘가 못 하는 것을 찾아낼 수 있을 만큼 똑똑해야 되는 거예요. 얘가 못 하는 것을 알아보고 얘가 수학 증명을 했는데 어 아닌데 제미나이 여기서 틀렸는데라는 것을 알아보는 일을 사람이 하지 않을까라는 생각이 드는 거죠.
그러나 이것이 단기적으로는 그것은 사람이 저도 할 것 같은데 그것마저도 더 똑똑한 AI가 그것을 또 취약점을 또 잡아낼 수 있잖아요. 그렇죠 그렇죠. 아 뭐 미래 생각하면 뭐 다 사람은 누워만 있을 것 같긴 한데 맞아요. 그래서 저는 그것이 직업일 것 같지 않고 바운티 헌팅이라고 표현한 이유는 바운티 헌팅이 전업이 될 수는 없잖아요. 그러니까 약간 그런 느낌일 것 같아요. 제미나이라는 시스템이 갖고 오는 경제적 파급 효과가 너무 크다 보니까 바운티 헌팅에 한 번만 성공을 해도 사실 평생 먹고 살 수 있을 만큼의 돈을 벌 수 있을 것 같아요. 음 음. 오픈 AI 입장에서는 이미 너무 똑똑해져서 본인 직원들 중 아무도 못 알아차리는 에러를 찾아내는 사람이 있다. 그래서 본인들의 모델을 조금이라도 더 발전시킬 수 있다고 하면 얼마를 낼래 하면 한두 푼이 아닐 거란 말이죠. 약간 그런 시기이지 않을까라는 생각을 하고 실제로 그 상위 몇 퍼센트만 살아남는 산업들이 이미 있어요. 생각을 해 보면 축구 같은 것을 생각을 해 보면 막 초등학생 때부터 유스를 키우고 즉 재능 있는 애들을 모아서 키우고 필터링하고 키우고 필터링을 하고 해서 한국에서 이제 뭐 한 다섯 명 나오잖아요. 유럽 리그에 가서 성공하는 사람들이 아마 비슷하지 않을까. 완전 어릴 때부터 재능 있는 애들 키우고 키우고 키우고 키워서 한 세네 명 성공하고 약간 이런 식으로 가지 않을까라고 저는 생각을 하는데 이것은 뭐 논문에 근거한 것은 아니고 제 생각 순간 들으면서 드는 생각이 뭐냐면은 어쩌면 우리가 지금 인류의 어떤 지능이 정점에 다다르지 않았나. 즉 그게 무슨 소리냐면 예를 들어서 아까 그 바운티 헌터처럼 되려고 하면은 사실 그 모든 내용들을 다 이해하고 있어야 내가 취약점도 이것이 잘못됐다는 것을 알려면 그 내용을 다 알고 있어야 되잖아요. 그런데 지금 학습하는 이 GPT 시대에 살아가는 학 배우는 학생들이 우리가 이제 GPT의 의존해서 배우다 보면 그냥 얘를 잘 활용할 줄만 알아도 이제 성과는 좋단 말이에요. 그러면 우리가 이제 순수 얻게 되는 고생해서 얻는 지식들이 좀 떨어지다 보면 점점 바운티 헌터가 될 가능성이 좀 떨어진다는 얘기입니다. 저는 개발 조수금 좀 느끼거든요. 만약에 이제 코파일럿 코딩으로 시작하면은 결과물은 만들 수 있는데 이것이 잘못돼도 잘못된 건지 모르는 그냥 결과는 동작하지만 그래서 그 구조 개선이나 이런 아키텍처는 그것도 AI 시키면 나오겠죠. 그런데 시키는 방법은 알지만 내가 직접 할 수는 없는 그럼 우리는 AI 역량에 무조건 그 하위에 있을 수밖에 없다는 생각이 들어서 그 순수 인류의 지능은 AI가 발전할수록 오히려 그 안에 갇혀 버리면 어쩌나.
그래서 저는 개발자의 직업 대체가 비슷하게 이루어질 거라고 생각을 하는데 즉 지금 당장 막 시니어 개발자를 대체할 수는 없어요. AI가 당연히 왜냐하면 책임질 사람도 있어야 되고 의사 결정도 누군가는 해야 되고 그런데 그것이죠. 지금 그 막 신입 개발자들을 뭐 빅테크에서 AI로 대체하기 시작했다 이런 얘기가 많이 나오잖아요. 그런데 마찬가지로 시니어 개발자가 하늘에서 떨어지지는 않는단 말이죠. 이 신입들이 지금 들어가서 뭐 10년 혹은 15년간 경험을 쌓고 시니어 개발자가 되는 건데 지금 신입을 안 뽑으면 15년 후에는 누가 시니어 개발자가 되냐 이거죠. 하늘에서 떨어지지는 않을 테니까 그런데 반대로 15년 동안 AI는 그만큼 더 성능이 올라가겠죠. 시니어 개발자를 향해서 그럼 그런 식으로 자연스럽게 사실 대체가 이루어지지 않을까. 시니어 개발자가 될 사람이 없고 신입 개발자 능력을 할 AI는 있고 하면은 너무 자연스럽게 그것을 쓰게 되잖아요 사람들이. 그러니까 그런 식으로 대체가 이루어지지 않을까라고 생각하는 면에서 연구도 비슷한 시기이겠죠. 그러니까 지금 당장 막 뭐 저희가 벤지오 같은 유명한 AI 연구자들 뭐 테렌스 타오 같은 유명한 수학자들을 대체할 수는 없어요. 그런데 지금 점점 이제 이 밑에 단이 풀뿌리를 갉아먹기 시작을 하면 그 위대한 사람이 될 사람이 안 남는다는 거죠. 물론 이제 아인슈타인처럼 천재면 알아서 하겠지만 저희 대부분은 아니기 때문에 그렇죠. 그런 생각을 합니다.