-- 안녕하세요, 테슬라 AI 전 디렉터인 안드레이 카르파티입니다. 와, 정말 많은 분들이 오셨네요. 안녕하세요. 음, 네, 오늘 AI 시대의 소프트웨어에 대해 이야기하게 되어 기쁩니다. 그리고 많은 분들이 학사, 석사, 박사 과정의 학생이시고 이제 산업에 진출할 준비를 하고 계시다고 들었습니다. 저는 지금이 산업에 진출하기에 정말 독특하고 흥미로운 시기라고 생각합니다. 그리고 근본적으로 그 이유는 소프트웨어가 다시 변하고 있기 때문입니다 [1].
-- 제가 이 강연을 이미 했기 때문에 '다시'라고 말하는 것입니다. 그러나 문제는 소프트웨어가 계속 변한다는 것입니다. 그래서 저는 새로운 강연을 만들 자료가 많고, 소프트웨어가 매우 근본적으로 변하고 있다고 생각합니다. 대략적으로 말해서, 소프트웨어는 70년 동안 그렇게 근본적인 수준에서 많이 변하지 않았습니다. 그리고 지난 몇 년 동안 두 번 정도 매우 빠르게 변했다고 생각합니다. 그래서 해야 할 일이 엄청나게 많고, 작성하고 다시 작성해야 할 소프트웨어도 엄청나게 많습니다. 소프트웨어의 영역을 살펴보겠습니다. 이것을 소프트웨어의 지도라고 생각하면, 이것은 정말 멋진 도구인 '맵 오브 깃허브(map of GitHub)'입니다. 이것은 작성된 모든 소프트웨어와 같습니다. 이것은 디지털 공간에서 작업을 수행하기 위한 컴퓨터에 대한 지침입니다. 확대해보면 이것들은 모두 다른 종류의 저장소이고, 이것이 작성된 모든 코드입니다. 몇 년 전, 저는 소프트웨어가 변화하고 있고 새로운 종류의 소프트웨어가 존재한다고 관찰했고, 당시 저는 이것을 소프트웨어 2.0이라고 불렀습니다. 여기서 아이디어는 소프트웨어 1.0은 컴퓨터를 위해 직접 작성하는 코드이고, 소프트웨어 2.0은 기본적으로 신경망, 특히 신경망의 가중치입니다. 이 코드를 직접 작성하는 것이 아니라, 데이터셋을 조정하고 옵티마이저를 실행하여 신경망의 매개변수를 생성합니다. 당시에는 신경망이 의사 결정 트리와 같은 다른 종류의 분류기로만 여겨졌다고 생각합니다. 그래서 저는 이 프레이밍이 훨씬 더 적절하다고 생각했고, 이제 우리는 소프트웨어 2.0 영역에서 깃허브와 같은 것을 가지고 있습니다 [1].
-- 그리고 허깅 페이스는 소프트웨어 2.0의 깃허브와 동등하다고 생각합니다. 모델 아틀라스도 있습니다. 그리고 궁금하시다면 거기에 작성된 모든 코드를 시각화할 수 있습니다. 참고로, 가운데 있는 거대한 원은 이미지 생성기인 플럭스(flux)의 매개변수입니다. 그래서 누군가가 플럭스 모델 위에 튜닝을 할 때마다 기본적으로 이 공간에 깃 커밋(git commit)을 생성합니다. 그리고 다른 종류의 이미지 생성기를 만듭니다. 기본적으로 우리는 소프트웨어 1.0이 컴퓨터를 프로그래밍하는 컴퓨터 코드이고, 소프트웨어 2.0이 신경망을 프로그래밍하는 가중치입니다. 여기에 알렉스넷(Alexnet) 이미지 인식기 신경망의 예가 있습니다. 지금까지 우리가 익숙했던 모든 신경망은 최근까지는 이미지에서 카테고리로 변환하는 것과 같은 고정 함수 컴퓨터였습니다. 그리고 제가 생각하기에 근본적인 변화는 신경망이 대규모 언어 모델(LLM)로 프로그래밍 가능해졌다는 것입니다. 그래서 저는 이것을 매우 새롭고 독특하다고 봅니다. 이것은 새로운 종류의 컴퓨터입니다. 그래서 제 생각에는 이것에 새로운 명칭인 소프트웨어 3.0을 부여할 가치가 있습니다. 기본적으로 여러분의 프롬프트는 이제 LLM을 프로그래밍하는 프로그램입니다. 그리고 놀랍게도 이 프롬프트는 영어로 작성됩니다. 그래서 이것은 매우 흥미로운 프로그래밍 언어입니다 [2].
-- 그래서 차이점을 요약하자면, 예를 들어 감성 분류를 한다고 가정해 봅시다. 감성 분류를 위해 일정량의 파이썬 코드를 작성하는 것을 상상할 수 있습니다. 또는 신경망을 훈련시키거나, 대규모 언어 모델에 프롬프트를 입력할 수도 있습니다. 여기서 이것은 몇 단어의 프롬프트이고, 여러분은 이것을 변경하고 컴퓨터를 약간 다른 방식으로 프로그래밍하는 것을 상상할 수 있습니다. 기본적으로 우리는 소프트웨어 1.0, 소프트웨어 2.0을 가지고 있습니다. 그리고 깃허브 코드가 더 이상 코드만 있는 것이 아니라 코드 사이에 많은 영어가 섞여 있는 것을 보셨을 것입니다. 그래서 새로운 종류의 코드 카테고리가 성장하고 있다고 생각합니다. 새로운 프로그래밍 패러다임일 뿐만 아니라, 이것이 우리의 모국어인 영어로 되어 있다는 것이 저에게는 놀랍습니다. 그래서 몇 년 전, 이것이 저를 놀라게 했을 때, 저는 이것을 트윗했고, 이것이 많은 사람들의 관심을 사로잡았다고 생각합니다 [2].
-- 제 현재 고정 트윗은 '놀랍게도 우리는 이제 컴퓨터를 영어로 프로그래밍한다'는 것입니다 [3]. 제가 테슬라에 있었을 때, 우리는 오토파일럿을 개발하고 있었고, 차가 운전하도록 만들려고 노력했습니다. 당시 저는 이 슬라이드를 보여주었는데, 차의 입력값이 아래에 있고, 소프트웨어 스택을 통해 스티어링과 가속을 생성하는 것을 상상할 수 있습니다. 당시 저는 오토파일럿에 소프트웨어 1.0 코드인 엄청난 양의 C++ 코드가 있었고, 이미지 인식을 하는 신경망도 포함되어 있다는 것을 관찰했습니다 [3].
-- 그리고 저는 시간이 지남에 따라 오토파일럿을 개선하면서 신경망의 기능과 크기가 커졌다는 것을 관찰했습니다. 게다가, 모든 C++ 코드가 삭제되었고, 원래 1.0에서 작성되었던 많은 기능들이 2.0으로 마이그레이션되었습니다. 예를 들어, 서로 다른 카메라의 이미지와 시간 경과에 따른 정보 조합은 신경망에 의해 수행되었고, 우리는 많은 코드를 삭제할 수 있었습니다. 그래서 소프트웨어 2.0 스택은 말 그대로 오토파일럿의 소프트웨어 스택을 파고들었습니다 [3].
-- 저는 당시 이것이 정말 놀랍다고 생각했습니다. 그리고 우리는 지금 똑같은 현상을 다시 보고 있습니다. 기본적으로 새로운 종류의 소프트웨어가 스택을 파고들고 있습니다. 우리는 세 가지 완전히 다른 프로그래밍 패러다임을 가지고 있습니다. 그리고 만약 여러분이 이 산업에 진출한다면, 이 모든 패러다임에 능통하는 것이 매우 좋은 생각이라고 생각합니다. 왜냐하면 각각 약간의 장단점이 있고, 어떤 기능은 1.0, 2.0, 또는 3.0으로 프로그래밍하고 싶을 수 있기 때문입니다. 신경망을 훈련시킬 것인가요? 아니면 그냥 LLM에 프롬프트를 입력할 것인가요? 이것이 명시적인 코드 조각이어야 하는가요? 등등. 우리는 이 모든 결정을 내려야 하고, 잠재적으로 이 패러다임들 사이를 유연하게 전환해야 합니다. 그래서 지금부터 제가 다루고 싶은 것은 먼저 LLM과 이 새로운 패러다임, 그리고 생태계를 어떻게 생각해야 하는지에 대해 이야기하는 것입니다. 이 새로운 컴퓨터는 무엇이며, 어떻게 생겼고, 생태계는 어떻게 생겼습니까? [3]
-- 저는 앤드루 응(Andrew Ng)의 이 인용문에 감명을 받았습니다. 지금으로부터 여러 해 전의 이야기입니다. 앤드루 응은 바로 저 다음에 강연할 것이라고 생각합니다. 그러나 당시 그는 "AI는 새로운 전기다"라고 말했습니다. 그리고 저는 그것이 매우 흥미로운 무언가를 포착한다고 생각합니다. LLM은 확실히 지금 유틸리티의 속성을 가지고 있는 것처럼 느껴집니다 [4].
-- 오픈AI, 제미니, 앤스로픽 등과 같은 LLM 연구소는 LLM을 훈련시키는 데 자본 지출(capex)을 사용합니다. 이것은 그리드를 구축하는 것과 같습니다. 그리고 이 지능을 API를 통해 우리 모두에게 서비스하는 데 운영 비용(opex)이 들어갑니다. 이것은 백만 토큰당 비용을 지불하는 방식과 같이 측정된 액세스를 통해 이루어집니다. 우리는 이 API에 대해 낮은 지연 시간, 높은 가동 시간, 일관된 품질 등 매우 유틸리티와 같은 요구 사항을 많이 가지고 있습니다. 전기에서는 전력원을 그리드, 태양열, 배터리 또는 발전기에서 전환할 수 있도록 전환 스위치가 있습니다 [4].
-- LLM에서는 오픈 라우터(OpenRouter)를 통해 존재하는 다른 유형의 LLM을 쉽게 전환할 수 있습니다. LLM은 소프트웨어이기 때문에 물리적 공간을 두고 경쟁하지 않습니다. 그래서 기본적으로 6개의 전력 공급업체를 가지고 있고 그들 사이를 전환하는 것이 괜찮습니다. 그들은 그렇게 직접적인 방식으로 경쟁하지 않기 때문입니다. 그리고 제가 생각하기에 약간 매혹적인 점은 지난 며칠 동안 많은 LLM이 다운되었고 사람들은 갇혀서 일할 수 없었다는 것입니다. 최첨단 LLM이 다운되면 실제로는 세상에 지능 정전이 발생하는 것과 같다는 것이 저에게는 매혹적입니다. 마치 그리드의 전압이 불안정할 때와 같습니다. 그리고 우리가 이 모델에 의존할수록 지구가 더욱 어리석어집니다. 이것은 이미 매우 극적이며 계속 증가할 것입니다 [4].
-- 그러나 LLM은 유틸리티의 속성만 가지고 있는 것이 아닙니다. 저는 그들이 팹(fab)의 속성도 가지고 있다고 말하는 것이 공정하다고 생각합니다. 그 이유는 LLM을 구축하는 데 필요한 자본 지출이 실제로 상당히 크기 때문입니다. 발전소를 짓는 것과 같지 않습니다. 엄청난 돈을 투자하는 것이고, 기술 트리는 매우 빠르게 성장하고 있다고 생각합니다. 그래서 우리는 일종의 심층 기술 트리, 연구 개발 비밀이 LLM 연구소 내에 집중되는 세상에 살고 있습니다 [4].
-- 그러나 제가 생각하기에 비유는 약간 모호해집니다. 또한 이것은 소프트웨어이고 소프트웨어는 매우 유연하기 때문에 방어하기가 다소 어렵습니다. 그래서 저는 이것이 생각하기에 흥미로운 점이라고 생각합니다. 아마도 많은 비유를 들 수 있을 것입니다. 4나노미터 공정 노드는 특정 플롭스(flops) 최대값을 가진 클러스터와 같을 수 있습니다. 엔비디아 GPU를 사용하고 소프트웨어만 하고 하드웨어는 하지 않는다면 그것은 팹리스 모델과 같습니다 [5].
-- 그러나 구글처럼 자체 하드웨어도 구축하고 TPU에서 훈련한다면 그것은 팹을 소유하는 인텔 모델과 같습니다. 그래서 여기에 몇 가지 비유가 일리가 있다고 생각합니다. 그러나 실제로는 LLM이 운영 체제와 매우 강한 비유를 가진다는 것이 가장 합리적인 비유라고 생각합니다. 이것은 단순히 전기나 물이 아닙니다. 수도꼭지에서 나오는 상품이 아닙니다. 이것들은 점점 더 복잡해지는 소프트웨어 생태계입니다 [5].
-- 그래서 이것들은 전기처럼 단순한 상품이 아닙니다. 그리고 생태계가 매우 유사한 방식으로 형성되고 있다는 것이 저에게는 흥미롭습니다. 윈도우나 맥 OS처럼 몇 개의 폐쇄형 소스 공급업체가 있고, 리눅스와 같은 오픈 소스 대안이 있습니다. 그리고 LLM도 마찬가지로 몇 개의 경쟁하는 폐쇄형 소스 공급업체가 있고, 라마(Llama) 생태계는 현재 리눅스와 같은 것으로 성장할 수 있는 것에 가깝다고 생각합니다. 다시 말하지만, 저는 이것이 여전히 초기 단계라고 생각합니다. 왜냐하면 이것들은 단순한 LLM에 불과하기 때문입니다. 그러나 우리는 이것들이 훨씬 더 복잡해질 것이라는 것을 보기 시작했습니다 [5].
-- LLM 자체에 대한 것만이 아니라, 모든 도구 사용과 다중 모드(multimodalities)가 어떻게 작동하는지에 대한 것입니다. 그래서 제가 얼마 전 이런 깨달음을 얻었을 때, 그것을 스케치하려고 노력했는데, LLM이 새로운 운영 체제와 같다는 생각이 들었습니다. LLM은 새로운 종류의 컴퓨터입니다. 그것은 CPU와 동등한 것입니다. 컨텍스트 창은 메모리와 같습니다. 그리고 LLM은 문제 해결을 위해 메모리와 연산을 조율합니다 [5].
-- 이 모든 기능들을 사용하여 말이죠. 그래서 확실히 그 관점에서 보면 운영 체제와 매우 흡사해 보입니다. 몇 가지 더 비유하자면, 예를 들어 앱을 다운로드하고 싶다고 해봅시다. VS Code에 가서 다운로드하면, VS Code를 다운로드하여 윈도우, 리눅스 또는 맥에서 실행할 수 있습니다. 같은 방식으로 커서(Cursor)와 같은 LLM 앱을 가져와 GPT, 클라우드 또는 제미니 시리즈에서 실행할 수 있습니다. 그냥 드롭다운 메뉴입니다. 그래서 그런 면에서도 비슷합니다 [6].
-- 저에게 인상 깊은 또 다른 비유는, 우리는 일종의 1960년대 시대에 살고 있다는 것입니다. 이 새로운 종류의 컴퓨터에 대한 LLM 연산은 여전히 매우 비쌉니다. 그리고 그것은 LLM이 클라우드에 중앙 집중화되도록 강제하며, 우리는 모두 네트워크를 통해 상호 작용하는 씬 클라이언트(thin clients)일 뿐입니다. 우리 중 누구도 이 컴퓨터들을 완전히 활용하지 못하며, 따라서 우리가 클라우드에서 컴퓨터를 실행할 때 우리는 모두 배치(batch)의 차원일 뿐인 시분할(time sharing)을 사용하는 것이 합리적입니다 [6].
-- 이것은 당시 컴퓨터가 어떤 모습이었는지와 매우 흡사합니다. 운영 체제는 클라우드에 있었고, 모든 것이 스트리밍되었고, 배치 처리가 있었습니다. 그래서 개인 컴퓨팅 혁명은 아직 일어나지 않았습니다. 단지 경제적이지 않기 때문입니다. 그러나 일부 사람들은 시도하고 있으며, 예를 들어 맥 미니는 일부 LLM에 매우 적합하다는 것이 밝혀졌습니다. 배치 1 추론을 하는 경우 모든 것이 메모리 바운드이기 때문입니다. 그래서 이것은 실제로 작동하며, 개인 컴퓨팅의 초기 징후일 수도 있다고 생각합니다 [6].
-- 그러나 이것은 아직 실제로 일어나지 않았습니다. 이것이 어떤 모습일지, 어떻게 작동할지, 무엇이 되어야 할지는 분명하지 않습니다. 아마도 여러분 중 일부가 이것이 무엇인지 또는 어떻게 작동하는지 발명할 것입니다. 한 가지 더 언급할 비유는, 제가 차트(Chatt)나 일부 LLM과 텍스트로 직접 대화할 때마다, 터미널을 통해 운영 체제와 대화하는 것 같은 느낌이 듭니다. 그냥 텍스트입니다. 운영 체제에 직접 액세스하는 것입니다. 그리고 저는 일반적인 방식으로 아직 GUI가 발명되지 않았다고 생각합니다. 차트가 텍스트 버블과 다른 GUI를 가져야 할까요? 확실히 잠시 후에 살펴볼 일부 앱은 GUI를 가지고 있습니다. 그러나 모든 작업에 걸쳐 일반적인 GUI는 없습니다 [6].
-- LLM이 기존의 운영 체제나 초기 컴퓨터와는 다른 점도 있습니다. 저는 기술 확산의 방향을 뒤집는 LLM의 독특한 특성에 대해 글을 썼습니다. 일반적으로 전기, 암호화, 컴퓨팅, 비행, 인터넷, GPS 등 새롭고 혁신적인 기술은 정부와 기업이 처음 사용자였습니다. 새로워서 비싸기 때문이죠. 그리고 나중에야 소비자에게 확산되었습니다 [7].
-- 그러나 LLM은 마치 뒤집힌 것 같습니다. 초기 컴퓨터가 탄도학과 군사 용도에만 집중했던 것과 달리, LLM은 계란 삶는 법 같은 것에 사용됩니다. 이것은 확실히 저의 사용 방식 중 많은 부분을 차지합니다. 그래서 새로운 마법 같은 컴퓨터가 제가 계란을 삶는 것을 돕고 있다는 것이 저에게는 정말 매혹적입니다. 정부가 군사 탄도학이나 특수 기술과 같은 정말 미친 짓을 하는 것을 돕고 있는 것이 아닙니다. 실제로 기업과 정부는 이러한 모든 기술의 채택에 뒤처져 있습니다. 그래서 이것은 거꾸로 되어 있고, 이 기술을 어떻게 사용하고 싶은지, 또는 첫 번째 앱들이 어디에 있는지 등에 대해 알려준다고 생각합니다 [7].
-- 그래서 지금까지 요약하자면, LLM 연구소의 LLM은 정확한 용어라고 생각합니다. 그러나 LLM은 복잡한 운영 체제입니다. 컴퓨팅에서는 1960년대 초반과 같고, 우리는 컴퓨팅을 처음부터 다시 하고 있습니다. 그리고 현재 시분할 방식으로 유틸리티처럼 배포됩니다. 새롭고 전례 없는 점은 이들이 소수의 정부와 기업의 손에 있는 것이 아니라 우리 모두의 손에 있다는 것입니다. 왜냐하면 우리 모두는 컴퓨터를 가지고 있고, 이 모든 것이 소프트웨어이기 때문입니다 [7].
-- 차십(Chaship)은 순식간에 수십억 명의 사람들에게 마치 컴퓨터로 송신된 것처럼 되었습니다. 이것은 정말 놀랍습니다. 그리고 이것이 현실이라는 것이 저에게는 놀랍습니다. 이제 우리는 이 산업에 진출하여 이 컴퓨터들을 프로그래밍할 때입니다. 이것은 미친 일입니다. 그래서 저는 이것이 매우 놀랍다고 생각합니다. LLM을 프로그래밍하기 전에, 우리는 이들이 무엇인지에 대해 시간을 들여 생각해야 합니다 [7].
-- 특히 저는 그들의 심리에 대해 이야기하고 싶습니다. 제가 LLM을 생각하는 방식은 그들이 일종의 '사람 영혼'이라는 것입니다. 그들은 사람의 확률적 시뮬레이션입니다. 그리고 이 경우 시뮬레이터는 자동 회귀 변환기입니다. 그래서 변환기는 신경망입니다. 그리고 그것은 토큰 수준에서 덩어리, 덩어리, 덩어리, 덩어리 하는 식으로 진행됩니다. 그리고 모든 덩어리에 거의 동일한 양의 연산이 있습니다 [8].
-- 그리고 이 시뮬레이터는 물론 가중치가 포함되어 있으며, 우리는 인터넷에 있는 모든 텍스트 등에 맞게 학습시킵니다. 그래서 이런 종류의 시뮬레이터가 만들어집니다. 그리고 인간에게서 훈련되었기 때문에 인간과 같은 ' emergent psychology'를 가지고 있습니다. 물론 LLM이 백과사전적인 지식과 기억력을 가지고 있다는 것을 가장 먼저 알 수 있습니다. 그들은 어떤 개별 인간보다 훨씬 더 많은 것을 기억할 수 있습니다. 그들은 너무나 많은 것을 읽었기 때문입니다. 이것은 실제로 제가 사람들에게 보기를 정말 추천하는 영화 '레인맨(Rainman)'을 생각나게 합니다. 정말 놀라운 영화입니다. 이 영화를 사랑합니다 [8].
-- 더스틴 호프만은 거의 완벽한 기억력을 가진 자폐증 환자입니다. 그는 전화번호부를 읽고 모든 이름과 전화번호를 기억할 수 있습니다. LLM도 샤 해시(Shaw hashes)와 다양한 종류의 것들을 매우 쉽게 기억할 수 있다는 점에서 매우 비슷하다고 생각합니다. 그래서 그들은 어떤 면에서는 분명히 초능력을 가지고 있지만, 저는 그들이 인지적 결함도 많이 가지고 있다고 말하고 싶습니다. 그들은 상당히 환각을 일으키고, 내용을 지어내며, 자기 지식에 대한 내부 모델이 좋지 않습니다. 적어도 충분하지 않습니다. 이것은 나아졌지만 완벽하지는 않습니다. 그들은 들쭉날쭉한 지능을 보여줍니다 [8].
-- 어떤 문제 해결 영역에서는 초인적이지만, 9.11이 9.9보다 크다거나 딸기에는 'r'이 두 개 있다는 등의 유명한 예시처럼 인간이라면 절대 하지 않을 실수를 할 것입니다. 기본적으로 발에 걸려 넘어질 수 있는 거친 가장자리가 있습니다. 그래서 그것도 독특하다고 생각합니다. 그들은 또한 순행성 기억상실증을 겪습니다 [8].
-- 그래서 저는 여러분의 직장에 합류하는 동료가 시간이 지남에 따라 조직을 배우고, 조직에 대한 엄청난 양의 맥락을 이해하고 얻을 것이라는 사실을 암시하는 것입니다. 그리고 그들은 집에 가서 잠을 자고 지식을 통합하며 시간이 지남에 따라 전문 지식을 개발합니다. LLM은 기본적으로 이런 일을 하지 않으며, 이것은 LLM의 R&D에서 실제로 해결되지 않은 문제입니다 [9].
-- 그래서 컨텍스트 창은 일종의 작업 기억이며, 그들은 기본적으로 더 똑똑해지지 않기 때문에 작업 기억을 직접적으로 프로그래밍해야 합니다. 그리고 많은 사람들이 이런 식으로 비유에 걸려 넘어지는 것 같습니다. 대중문화에서는 '메멘토(Momento)'와 '50가지 첫 데이트(51st Dates)'라는 두 영화를 보는 것을 추천합니다. 이 두 영화에서 주인공들의 가중치는 고정되어 있고, 매일 아침 컨텍스트 창이 지워집니다. 이런 일이 발생하면 직장에 가거나 관계를 맺는 것이 정말 문제가 됩니다 [9].
-- LLM에 한 가지 더 지적하고 싶은 것은 보안 관련 사용 제한입니다. 예를 들어, LLM은 상당히 잘 속아 넘어가고, 프롬프트 주입 위험에 취약하며, 데이터를 유출할 수 있습니다. 그래서 보안 관련 고려 사항이 많이 있습니다. 그래서 요컨대, 여러분은 이 초인적인 존재가 인지적 결함과 문제점을 많이 가지고 있다는 것을 동시에 생각해야 합니다. 그러나 그들은 매우 유용합니다. 그래서 우리는 그들을 어떻게 프로그래밍하고, 그들의 결함을 해결하면서 초인적인 힘을 즐길 수 있을까요? [9]
-- 이제 저는 이 모델을 어떻게 사용하고, 가장 큰 기회는 무엇인지에 대해 이야기하고 싶습니다. 이것은 포괄적인 목록이 아니라, 이 강연에 흥미롭다고 생각한 몇 가지 사항입니다. 제가 기대하는 첫 번째는 '부분 자율성 앱'이라고 부르는 것입니다. 예를 들어, 코딩의 예를 들어보겠습니다. 여러분은 물론 직접 차트(Chacht)에 가서 코드를 복사해서 붙여넣고, 버그 보고서를 복사해서 붙여넣는 등 모든 것을 복사해서 붙여넣을 수 있습니다. 왜 그렇게 해야 할까요? [9]
-- 왜 운영 체제에 직접 접속해야 할까요? 이에 특화된 앱을 사용하는 것이 훨씬 더 합리적입니다. 그래서 여러분 중 많은 분들이 커서(Cursor)를 사용하실 것이고, 저도 그렇습니다. 커서는 직접 차트 앱으로 가는 대신 원하는 종류의 것입니다. 그리고 커서는 초기 LLM 앱의 매우 좋은 예라고 생각합니다. 이것은 제가 생각하기에 모든 LLM 앱에 유용한 많은 속성을 가지고 있습니다. 특히, 우리는 인간이 이전처럼 모든 작업을 수동으로 할 수 있는 전통적인 인터페이스를 가지고 있지만, 그 외에도 이제 우리는 더 큰 덩어리로 나아갈 수 있는 LLM 통합을 가지고 있습니다 [10].
-- 그래서 제가 생각하기에 LLM 앱의 공유되고 유용한 속성 중 하나는 첫째, LLM이 컨텍스트 관리를 엄청나게 많이 한다는 것입니다. 둘째, 그들은 LLM에 대한 여러 호출을 조율합니다. 커서의 경우, 내부적으로 모든 파일에 대한 임베딩 모델, 실제 채팅 모델, 코드에 디프(diff)를 적용하는 모델이 있으며, 이 모든 것이 여러분을 위해 조율됩니다. 제가 생각하기에 완전히 평가되지 않은 매우 중요한 점은 애플리케이션별 GUI와 그것의 중요성입니다 [10].
-- 왜냐하면 운영 체제와 텍스트로 직접 대화하고 싶지 않기 때문입니다. 텍스트는 읽고, 해석하고, 이해하기가 매우 어렵고, 또한 이러한 동작 중 일부를 텍스트로 직접 수행하고 싶지 않습니다. 그래서 빨간색과 녹색으로 변하는 디프(diff)를 보는 것이 훨씬 낫습니다. 무엇이 추가되고 무엇이 삭제되었는지 볼 수 있습니다. 명령 Y를 눌러 수락하거나 명령 N을 눌러 거부하는 것이 훨씬 쉽습니다. 텍스트로 입력할 필요가 없습니다. 그래서 GUI는 인간이 이러한 오류가 있는 시스템의 작업을 감사하고 더 빨리 진행할 수 있도록 해줍니다. 이 점에 대해서는 나중에 조금 더 말씀드리겠습니다 [10].
-- 그리고 제가 지적하고 싶은 마지막 기능은 '자율성 슬라이더'라고 부르는 것입니다. 예를 들어 커서에서는 탭 완성을 할 수 있습니다. 여러분이 주로 통제권을 가지고 있습니다. 코드 덩어리를 선택하고 명령 K를 눌러 해당 코드 덩어리만 변경할 수 있습니다. 명령 L을 눌러 전체 파일을 변경하거나, 명령 I를 눌러 전체 저장소에서 원하는 대로 모두 실행하도록 할 수도 있습니다. 이것이 완전 자율 에이전트 버전입니다 [10].
-- 따라서 여러분이 자율성 슬라이더를 담당하며, 주어진 작업의 복잡성에 따라 해당 작업에 기꺼이 포기할 자율성의 양을 조절할 수 있습니다. 아마도 상당히 성공적인 LLM 앱의 또 다른 예시를 보여드리자면, 퍼플렉서티(Perplexity)는 제가 커서에서 방금 지적했던 것과 매우 유사한 기능을 가지고 있습니다. 많은 정보를 패키징하고, 여러 LLM을 조율하며, 작업의 일부를 감사할 수 있는 GUI를 가지고 있습니다 [11].
-- 예를 들어, 소스를 인용하고, 여러분은 그것들을 검토할 수 있습니다. 그리고 자율성 슬라이더를 가지고 있습니다. 빠른 검색을 하거나, 연구를 하거나, 심층 연구를 하고 10분 후에 돌아올 수 있습니다. 이 모든 것은 도구에 포기하는 자율성의 다양한 수준입니다. 그래서 제 질문은, 많은 소프트웨어가 부분적으로 자율성을 가지게 될 것이라고 생각합니다 [11].
-- 그것이 어떤 모습일지 고민하고 있습니다. 그리고 제품과 서비스를 유지 관리하는 많은 분들은 어떻게 제품과 서비스를 부분적으로 자율적으로 만들 것입니까? LLM이 인간이 볼 수 있는 모든 것을 볼 수 있을까요? LLM이 인간이 할 수 있는 모든 방식으로 행동할 수 있을까요? 그리고 인간이 이 활동을 감독하고 루프 안에 머무를 수 있을까요? 다시 말하지만, 이들은 아직 완벽하지 않은 오류가 있는 시스템입니다. 포토샵 등에서 디프(diff)는 어떤 모습일까요? 그리고 기존 소프트웨어 중 많은 부분이 인간을 위해 설계된 모든 스위치와 이런 종류의 것들을 가지고 있습니다. 이 모든 것이 변하고 LLM에 접근 가능해져야 합니다 [11].
-- 제가 강조하고 싶은 LLM 앱에 대한 한 가지는, 충분한 관심을 받지 못한다고 생각하는 것입니다. 우리는 이제 AI와 협력하고 있으며, 보통 AI가 생성을 하고 인간인 우리가 검증을 합니다. 이 루프를 가능한 한 빨리 진행하여 많은 작업을 완료하는 것이 우리의 이익입니다. 이것을 할 수 있는 두 가지 주요 방법이 있다고 생각합니다. 첫째, 검증 속도를 크게 높일 수 있습니다 [11].
-- 그리고 저는 GUI가 이것에 매우 중요하다고 생각합니다. GUI는 우리 머리 속에 있는 컴퓨터 비전 GPU를 활용하기 때문입니다. 텍스트를 읽는 것은 힘들고 재미없지만, 뭔가를 보는 것은 재미있고 뇌로 가는 고속도로와 같습니다. 그래서 저는 GUI가 시스템을 감사하고 시각적 표현을 하는 데 일반적으로 매우 유용하다고 생각합니다. 둘째, AI를 제어해야 합니다 [11].
-- 저는 많은 사람들이 AI 에이전트에 대해 너무 지나치게 흥분하고 있다고 생각합니다. 제 저장소에 10,000줄의 코드 디프를 받는 것은 저에게 유용하지 않습니다. 10,000줄이 즉시 나오더라도 저는 여전히 병목 현상입니다. 저는 이 코드가 버그를 유발하지 않고 올바른 일을 하고 있는지, 보안 문제가 없는지 확인해야 합니다. 그래서 저는 음, 네, 기본적으로 우리는 이 두 가지 흐름이 매우 빠르게 진행되도록 하는 것이 우리의 이익이라고 생각합니다. 그리고 AI가 너무 과민 반응하기 때문에 어떻게든 AI를 제어해야 합니다. 제가 AI 지원 코딩을 할 때 느끼는 감정이 이렇습니다 [12].
-- 제가 바이트 코딩을 할 때는 모든 것이 좋고 훌륭합니다. 그러나 실제로 작업을 하려고 할 때는 과민 반응하는 에이전트가 이런 모든 종류의 작업을 하는 것은 좋지 않습니다. 그래서 이 슬라이드는 그다지 좋지 않습니다. 죄송합니다. 그러나 저도 여러분 중 많은 분들처럼 제 코딩 워크플로우에서 이러한 에이전트를 활용하고 AI 지원 코딩을 하는 방법을 개발하려고 노력하고 있습니다 [12].
-- 저의 작업에서는 항상 너무 큰 디프(diff)를 받는 것을 두려워합니다. 항상 작은 증분 단위로 진행합니다. 모든 것이 좋은지 확인하고 싶습니다. 이 루프를 매우 빠르게 돌리고 싶습니다. 그리고 저는 작은 단위의 단일하고 구체적인 작업을 합니다. 그래서 여러분 중 많은 분들이 LLM과 작업하는 유사한 방식을 개발하고 있다고 생각합니다 [12].
-- 저는 또한 LLM과 작업하는 모범 사례를 개발하려는 여러 블로그 게시물을 보았는데, 최근에 읽은 것 중 하나는 상당히 좋았고, 몇 가지 기술을 논의했으며, 그중 일부는 AI를 제어하는 방법과 관련이 있습니다. 예를 들어, 프롬프트가 모호하면 AI가 정확히 원하는 대로 하지 않을 수 있습니다. 이 경우 검증이 실패하고 다른 것을 요청하게 될 것입니다. 검증이 실패하면 헤매기 시작할 것입니다. 그래서 프롬프트에서 더 구체적이고 시간을 좀 더 투자하는 것이 훨씬 합리적입니다. 이것은 성공적인 검증의 가능성을 높이고 앞으로 나아갈 수 있습니다 [12].
-- 그래서 많은 사람들이 이런 종류의 기술을 찾게 될 것이라고 생각합니다. 저의 작업에서도 현재 AI와 LLM이 있는 상황에서 교육이 어떤 모습일지에 관심이 있습니다. 그리고 저의 많은 생각은 AI를 어떻게 제어할지에 집중됩니다. 저는 "야, 물리 가르쳐줘."라고 차트(Chatt)에 가는 것이 효과가 있다고 생각하지 않습니다. AI가 길을 잃기 때문입니다 [13].
-- 그래서 저에게는 이것이 예를 들어 두 개의 별도 앱입니다. 하나는 과정을 만드는 교사용 앱이고, 다른 하나는 과정을 수강하고 학생들에게 제공하는 앱입니다. 두 경우 모두 이제 검증 가능한 '과정'이라는 중간 아티팩트가 있으며, 이것이 좋은지, 일관성이 있는지 확인할 수 있습니다. 그리고 AI는 특정 강의 계획, 특정 프로젝트 진행 등에 따라 제어됩니다. 이것이 AI를 제어하는 한 가지 방법이며, 작동할 가능성이 훨씬 높고 AI가 길을 잃지 않을 것입니다 [13].
-- 제가 언급하고 싶은 또 다른 비유는 저는 부분 자율성에 대해 낯설지 않다는 것입니다. 저는 테슬라에서 5년 동안 이 일을 했습니다. 이것도 부분 자율성 제품이며, 많은 기능을 공유합니다. 예를 들어, 계기판에 오토파일럿의 GUI가 있습니다. 그것은 신경망이 보는 것을 보여줍니다. 그리고 자율성 슬라이더가 있습니다. 제가 재직하는 동안 우리는 사용자에게 점점 더 많은 자율적인 작업을 수행했습니다 [13].
-- 제가 아주 간략하게 이야기하고 싶은 이야기는, 제가 자율 주행 차량을 처음 운전해 본 것이 2013년이었다는 것입니다. 웨이모(Waymo)에서 일하는 친구가 있었고, 그는 저에게 팔로 알토 주변을 운전해 주겠다고 제안했습니다. 당시 저는 구글 글라스(Google Glass)를 사용하여 이 사진을 찍었는데, 여러분 중 많은 분들이 너무 젊어서 그것이 무엇인지도 모를 수도 있습니다. 그러나 네, 당시에는 그것이 매우 유행했습니다. 그리고 우리는 이 차에 탔고, 팔로 알토 고속도로와 거리를 약 30분 동안 운전했습니다 [13].
-- 이 운전은 완벽했습니다. 개입이 전혀 없었습니다. 그리고 2013년은 지금으로부터 12년 전입니다. 그리고 저는 당시 이 완벽한 운전을, 이 완벽한 데모를 경험했을 때 충격을 받았습니다. '와, 자율 주행이 임박했구나'라고 생각했습니다. 이것은 정말 잘 작동했습니다. 이것은 믿을 수 없습니다. 그러나 12년이 지난 지금도 우리는 자율 주행에 대해 연구하고 있습니다 [14].
-- 우리는 여전히 운전 에이전트에 대해 연구하고 있으며, 심지어 지금도 문제를 완전히 해결하지 못했습니다. 웨이모 차량이 운전자 없이 돌아다니는 것을 볼 수도 있지만, 여전히 많은 원격 조작과 많은 인간이 운전에 관여하고 있습니다. 그래서 우리는 아직 성공을 선언하지도 못했습니다. 그러나 저는 이제 분명히 성공할 것이라고 생각합니다. 그러나 단지 오랜 시간이 걸렸습니다. 그래서 저는 운전이 까다로운 것처럼 소프트웨어도 정말 까다롭다고 생각합니다. 그래서 '2025년은 에이전트의 해'와 같은 말을 들으면 매우 걱정되고, 저는 이것이 '에이전트의 10년'이 될 것이고, 꽤 오랜 시간이 걸릴 것이라고 생각합니다 [14].
-- 우리는 인간이 개입해야 하고, 이것을 신중하게 해야 합니다. 이것은 소프트웨어입니다. 진지하게 생각해 봅시다. 제가 항상 생각하는 또 다른 비유는 아이언맨 슈트입니다. 저는 항상 아이언맨을 사랑합니다. 기술과 그것이 어떻게 전개될지에 대해 많은 면에서 '매우 정확하다'고 생각합니다. 그리고 제가 아이언맨 슈트에서 좋아하는 점은 그것이 증강(augmentation)이면서 동시에 토니 스타크가 운전할 수 있다는 것입니다. 또한 에이전트이기도 합니다 [14].
-- 그리고 일부 영화에서는 아이언맨 슈트가 상당히 자율적이어서 스스로 날아다니고 토니를 찾을 수 있습니다. 그래서 이것이 자율성 슬라이더입니다. 우리는 증강을 만들 수도 있고 에이전트를 만들 수도 있습니다. 우리는 둘 다 조금씩 하고 싶지만, 이 단계에서는 오류가 있는 LLM 등과 함께 작업할 때, 화려한 자율 에이전트 데모를 만드는 것보다 부분 자율성 제품을 만드는 것에 가깝다고 말하고 싶습니다 [14].
-- 그리고 이 제품들은 맞춤형 GUI와 UI/UX를 가지고 있습니다. 우리는 인간의 생성-검증 루프를 매우 빠르게 만들기 위해 노력하고 있습니다. 그러나 우리는 이 작업을 원칙적으로 자동화할 수 있으며, 제품에 자율성 슬라이더가 있어야 한다는 사실을 놓치지 않고 있습니다 [15].
-- 그리고 여러분은 그 자율성 슬라이더를 어떻게 움직여서 제품을 시간이 지남에 따라 더 자율적으로 만들 수 있을지 생각해야 합니다. 그러나 저는 이런 종류의 제품에 많은 기회가 있다고 생각합니다. 이제 다른 차원에 대해 조금 이야기하고 싶습니다. 새로운 유형의 프로그래밍 언어가 소프트웨어에 자율성을 부여할 뿐만 아니라, 제가 언급했듯이 영어라는 자연어 인터페이스로 프로그래밍된다는 점이 매우 독특합니다 [15].
-- 갑자기 모든 사람이 프로그래머가 됩니다. 왜냐하면 모든 사람이 영어와 같은 자연어를 사용하기 때문입니다. 이것은 저에게 매우 낙관적이고 매우 흥미로우며, 또한 전례 없는 일입니다. 이전에는 소프트웨어에서 무언가를 하려면 5년에서 10년을 공부해야 했습니다. 이제는 그렇지 않습니다. 혹시 바이브 코딩(vibe coding)에 대해 들어본 분 계십니까? 이 트윗이 이것을 소개했지만, 이제는 주요 밈(meme)이 되었다고 들었습니다 [15].
-- 이에 대한 재미있는 이야기는, 제가 트위터를 15년 정도 해왔지만, 어떤 트윗이 입소문을 타고 어떤 트윗이 시들해지는지 여전히 모르겠다는 것입니다. 저는 이 트윗이 후자가 될 것이라고 생각했습니다. 그냥 생각의 흐름이었거든요. 그러나 이것은 완전한 밈이 되었고, 저는 정말 알 수가 없습니다. 그러나 사람들의 공감을 얻었고, 모두가 느끼지만 말로 표현할 수 없었던 무언가에 이름을 붙였다고 생각합니다. 그래서 이제 위키백과 페이지도 있고, 이것은 이제 주요한 기여와 같다고 생각합니다 [15].
-- 허깅 페이스의 톰 울프(Tom Wolf)가 이 아름다운 동영상을 공유했습니다. 저는 이 동영상을 정말 좋아합니다. 이 아이들이 바이브 코딩을 하고 있습니다. 저는 이 동영상이 정말 훈훈하다고 생각합니다. 이 동영상을 보고 미래에 대해 어떻게 나쁘게 생각할 수 있겠습니까? 미래는 훌륭하다고 생각합니다. 이것은 소프트웨어 개발의 '관문 약물'이 될 것이라고 생각합니다. 저는 미래 세대에 대해 비관론자가 아닙니다. 저는 이 동영상을 정말 좋아합니다. 저도 재미있어서 바이브 코딩을 조금 해봤습니다 [15].
-- 바이브 코딩은 존재하지 않는 초특급 맞춤형 무언가를 만들고 싶을 때, 토요일이라서 그냥 즉흥적으로 만들고 싶을 때 정말 좋습니다. 그래서 저는 이 iOS 앱을 만들었습니다. 저는 스위프트(Swift)로 프로그래밍할 수 없지만, 정말 기본적인 앱을 만들 수 있었다는 것에 정말 놀랐습니다. 설명하지는 않겠습니다. 정말 바보 같은 앱이지만, 이것은 하루 작업이었고, 그날 저녁에 제 휴대폰에서 실행되고 있었습니다. "와, 이거 정말 대단하다"고 생각했습니다. 스위프트를 5일 동안 읽고 시작할 필요가 없었습니다 [16].
-- 저는 또한 메뉴젠(Menu Genen)이라는 앱을 바이트 코딩했습니다. 이것은 라이브 상태이며, menu.app에서 사용해 볼 수 있습니다. 저는 식당에 갔을 때 메뉴를 읽고 아무것도 모르겠다는 문제가 있었습니다. 그림이 필요했습니다. 이런 것은 없었습니다. 그래서 "야, 내가 바이트 코딩해야겠다"고 생각했습니다. 그래서 이것이 어떤 모습인지입니다. menu.app에 가서 메뉴 사진을 찍으면 메뉴가 이미지를 생성합니다 [16].
-- 회원 가입하면 모두에게 5달러 크레딧이 무료로 제공되므로, 이것은 현재 제 삶에서 엄청난 비용 센터입니다. 지금은 저에게 마이너스 수익 앱입니다. 메뉴젠에서 엄청난 돈을 잃었습니다. 그러나 메뉴젠에 대해 저에게 흥미로웠던 점은 바이트 코딩 부분의 코드가 실제로는 메뉴젠을 바이트 코딩하는 데 쉬운 부분이었다는 것입니다. 그리고 대부분은 제가 실제로 현실화하려고 할 때였습니다 [16].
-- 인증과 결제, 도메인 이름, 베르셀 배포를 실제로 할 때였습니다. 이것은 정말 어려웠고, 이 모든 것은 코드가 아니었습니다. 이 모든 데브옵스(DevOps) 작업은 브라우저에서 클릭하는 것이었고, 이것은 극도로 느렸고 일주일이 더 걸렸습니다. 그래서 메뉴젠 데모가 몇 시간 만에 제 노트북에서 작동했지만, 현실화하려고 하니 일주일이 걸렸다는 것이 정말 흥미로웠습니다. 그 이유는 이것이 정말 짜증났기 때문입니다 [16].
-- 예를 들어, 웹페이지에 구글 로그인 기능을 추가하려고 하면, 이것이 매우 작다는 것을 알지만, 이 클럭 라이브러리(Clerk library)의 엄청난 양의 지침이 이것을 통합하는 방법을 알려줍니다. 그리고 이것은 미쳤습니다. "이 URL로 가서 이 드롭다운을 클릭하고, 이것을 선택하고, 여기에 가서 저것을 클릭하세요"라고 알려주고 있습니다. 마치 컴퓨터가 저에게 취해야 할 행동을 알려주는 것과 같습니다. '네가 해라. 내가 왜 이걸 하고 있지?' 이것은 미쳤습니다. 이 모든 지침을 따라야 했습니다. 그래서 제 강연의 마지막 부분은 '우리가 그냥 에이전트용으로 만들 수 있을까?'에 초점을 맞춥니다 [17].
-- 이 작업을 하고 싶지 않습니다. 에이전트가 이 작업을 할 수 있을까요? 감사합니다. 대략적으로 말해서, 디지털 정보의 새로운 소비자 및 조작기 범주가 있다고 생각합니다. 이전에는 GUI를 통한 인간 또는 API를 통한 컴퓨터였습니다. 그리고 이제 우리는 완전히 새로운 것을 가지고 있습니다. 에이전트는 컴퓨터이지만, 일종의 인간과 같습니다. 그들은 '사람 영혼'입니다. 인터넷에 '사람 영혼'이 있고, 그들은 우리의 소프트웨어 인프라와 상호 작용해야 합니다 [17].
-- 우리가 그들을 위해 구축할 수 있을까요? 새로운 것입니다. 예를 들어, 도메인에 robots.txt를 가지고 있고, 웹 크롤러에게 웹사이트에서 어떻게 행동해야 하는지 지시하거나 조언할 수 있습니다. 같은 방식으로 lm.txt 파일을 가질 수 있습니다. 이것은 LLM에게 이 도메인이 무엇에 관한 것인지 알려주는 간단한 마크다운입니다. 이것은 LLM이 웹페이지의 HTML을 가져와 파싱하려고 하는 대신 매우 읽기 쉽습니다. 그것은 오류가 발생하기 쉽고 어렵고 망가질 것이며 작동하지 않을 것입니다. 그래서 우리는 LLM에게 직접 말할 수 있습니다. 가치가 있습니다 [17].
-- 엄청난 양의 문서가 현재 사람들을 위해 작성되어 있습니다. 목록, 굵은 글씨, 그림과 같은 것들을 볼 수 있습니다. 이것은 LLM이 직접 접근할 수 없습니다. 그래서 저는 일부 서비스들이 이제 많은 문서를 LLM 전용으로 전환하고 있는 것을 봅니다. 베르셀(Vercel)과 스트라이프(Stripe)는 그 예시이며, 제가 이미 본 몇 군데가 더 있습니다. 그들은 문서를 마크다운 형식으로 제공합니다. 마크다운은 LLM이 이해하기 매우 쉽습니다. 이것은 훌륭합니다 [17].
-- 제 경험에서 간단한 예를 하나 더 들자면, 3Blue1Brown을 아시는 분이 계실 것입니다. 그는 유튜브에서 아름다운 애니메이션 비디오를 만듭니다. 저는 그가 만든 라이브러리인 마님(Manon)을 좋아합니다. 저도 제 것을 만들고 싶었습니다. 마님을 사용하는 방법에 대한 광범위한 문서가 있습니다. 그래서 저는 실제로 그것을 읽고 싶지 않아서, 전체를 LLM에 복사해서 붙여넣고 제가 원하는 것을 설명했습니다. 그러자 LLM이 제가 원했던 애니메이션을 정확히 바이트 코딩해 주었습니다 [17].
-- 와, 정말 대단하다고 생각했습니다. 그래서 문서를 LLM이 읽을 수 있도록 만들면 엄청난 양의 사용이 가능해질 것이며, 저는 이것이 훌륭하고 더 많이 일어나야 한다고 생각합니다. 제가 지적하고 싶었던 또 다른 점은, 불행히도 문서를 가져와 마크다운으로 보이게 하는 것만이 쉬운 부분이 아니라는 것입니다. 우리는 실제로 문서를 변경해야 합니다 [18].
-- 문서에 '이것을 클릭하세요'라는 말이 있다면 나쁩니다. LLM은 현재 이 작업을 기본적으로 수행할 수 없을 것입니다. 그래서 베르셀은 예를 들어 '클릭'이라는 모든 발생을 LLM 에이전트가 여러분을 대신하여 수행할 수 있는 동등한 컬(curl) 명령으로 대체하고 있습니다. 그래서 저는 이것이 매우 흥미롭다고 생각합니다. 그리고 물론 앤스로픽(Enthropic)의 모델 컨텍스트 프로토콜이 있습니다 [18].
-- 이것은 또한 디지털 정보의 새로운 소비자이자 조작자인 에이전트에게 직접 말하는 또 다른 방법입니다. 그래서 저는 이러한 아이디어에 대해 매우 낙관적입니다. 제가 정말 좋아하는 또 다른 점은 LLM 친화적인 형식으로 데이터를 수집하는 데 도움이 되는 여러 작은 도구들입니다. 예를 들어, 제 나노GPT(nanoGPT) 저장소와 같은 깃허브 저장소에 가면, 인간 인터페이스이기 때문에 LLM에 피드하고 질문을 할 수 없습니다 [18].
-- 깃허브 URL을 get.ingest로 변경하면, 모든 파일을 하나의 거대한 텍스트로 연결하고 디렉토리 구조 등을 생성합니다. 그리고 이것은 여러분이 좋아하는 LLM에 복사해서 붙여넣을 준비가 되었으며, 작업을 수행할 수 있습니다. 이보다 더 극적인 예시는 딥 위키(deep wiki)입니다. 이곳은 파일의 원시 콘텐츠뿐만 아니라 데본(Devon)이 깃허브 저장소에 대한 분석을 수행합니다. 그리고 데본은 기본적으로 저장소에 대한 전체 문서 페이지를 구축합니다. 이것이 LLM에 복사해서 붙여넣는 데 훨씬 더 도움이 될 것이라고 상상할 수 있습니다 [18].
-- 저는 URL만 변경하면 LLM이 접근할 수 있도록 만드는 모든 작은 도구들을 좋아합니다. 그래서 이 모든 것이 좋고 훌륭하며, 훨씬 더 많아져야 한다고 생각합니다. 제가 하고 싶었던 한 가지 더 언급은, 미래에 LLM이 이 작업을 수행할 수 있을 것이라는 점은 분명하다는 것입니다. 이것은 미래가 아니라 오늘입니다. 그들은 돌아다니며 클릭 등을 할 수 있을 것입니다 [19].
-- 그러나 저는 LLM에게 중간 지점을 찾아주고 모든 정보에 더 쉽게 접근할 수 있도록 하는 것이 여전히 매우 가치 있다고 생각합니다. 왜냐하면 이것은 여전히 사용하기에 상당히 비싸고 훨씬 더 어렵기 때문입니다. 그래서 많은 소프트웨어에서 이들이 앱을 채택하지 않는 긴 꼬리가 있을 것이라고 생각합니다. 왜냐하면 이것들은 라이브 플레이어와 같은 저장소나 디지털 인프라가 아니기 때문이며, 우리는 이러한 도구가 필요할 것입니다 [19].
-- 그러나 다른 모든 것에 대해서는 중간 지점에서 만나는 것이 매우 가치 있다고 생각합니다. 그래서 저는 양쪽에 대해 낙관적입니다. 요약하자면, 이 산업에 진출하기에 정말 놀라운 시기입니다. 엄청난 양의 코드를 다시 작성해야 합니다. 많은 코드가 전문가와 코더에 의해 작성될 것입니다. 이러한 LLM은 일종의 유틸리티와 같고, 일종의 팹과 같지만, 특히 운영 체제와 같습니다 [19].
-- 그러나 너무나 초기 단계입니다. 운영 체제의 1960년대와 같습니다. 그리고 많은 비유들이 교차된다고 생각합니다. 그리고 이러한 LLM은 우리가 함께 일하는 방법을 배워야 하는 오류가 있는 '사람 영혼'과 같습니다. 그리고 그렇게 하려면 인프라를 그에 맞게 조정해야 합니다. 이러한 LLM 앱을 구축할 때, 저는 이러한 LLM과 효과적으로 작업하는 몇 가지 방법과 그것을 가능하게 하는 몇 가지 도구, 그리고 이 루프를 매우 빠르게 돌리고 부분 터널링 제품을 만드는 방법을 설명했습니다 [19].
-- 그리고 네, 많은 코드가 에이전트를 위해 더 직접적으로 작성되어야 합니다. 그러나 어쨌든 아이언맨 슈트 비유로 돌아가서, 앞으로 10년 동안 볼 수 있는 것은 슬라이더를 왼쪽에서 오른쪽으로 움직이는 것이라고 생각합니다. 그것이 어떤 모습일지 매우 흥미로울 것이고, 여러분 모두와 함께 그것을 만들고 싶습니다.
---