오늘날 빠르게 변화하는 기술 환경 속에서 스타트업의 성공은 무엇에 달려 있을까요? AI 펀드(AI Fund)를 통해 한 달에 평균 한 개의 스타트업을 공동 설립하고 직접 코드를 작성하며 고객과 소통하는 등 현장에서 수많은 경험을 쌓은 앤드류 응은 스타트업 성공의 강력한 예측 변수로서 **'실행 속도'**를 강조합니다. 특히 새로운 AI 기술은 스타트업이 이전에는 상상할 수 없었던 속도로 나아갈 수 있도록 돕고 있습니다. 이 글에서는 앤드류 응이 제시하는 속도 향상을 위한 핵심 전략과 AI 시대의 변화된 풍경을 자세히 살펴보겠습니다.
#### 1. AI 스택의 가장 큰 기회: 애플리케이션 레이어에 집중하라
AI 기술 스택은 반도체 기업부터 클라우드 및 하이퍼스케일러, 그리고 AI 파운데이션 모델 기업에 이르기까지 다양한 층으로 구성되어 있습니다. 소스에 따르면, 미디어와 소셜 미디어에서 많은 관심과 홍보가 기술의 하위 레이어에 집중되어 있지만, **진정한 비즈니스 기회는 거의 대부분 '애플리케이션 레이어'에 존재한다**고 앤드류 응은 설명합니다. 이는 결국 애플리케이션이 더 많은 수익을 창출해야만 파운데이션 모델, 클라우드, 반도체 등 하위 기술 레이어에 비용을 지불할 수 있기 때문입니다. 따라서 스타트업을 구축하려는 사람들에게는 애플리케이션 레이어에 대한 집중이 필수적입니다.
#### 2. 에이전틱 AI(Agentic AI)의 부상과 반복적인 워크플로우
지난 한 해 동안 AI 기술 트렌드 중 가장 중요한 변화는 **'에이전틱 AI'의 부상**입니다. 기존 대규모 언어 모델(LLM) 사용 방식이 한 번에 모든 것을 생성하는 방식이었다면, 에이전틱 워크플로우는 AI 시스템이 먼저 개요를 작성하고, 웹 조사를 수행하여 컨텍스트를 확보한 다음, 초안을 작성하고, 이를 비평하고 수정하는 등 **반복적인 사고와 연구, 수정의 과정을 거치는 방식**을 의미합니다. 소스에서 언급된 바와 같이, 이는 인간이 글을 쓰거나 문제를 해결하는 방식과 유사하며, 시간이 더 오래 걸리더라도 훨씬 더 나은 결과물을 제공합니다. AI 펀드에서 진행한 복잡한 규정 준수 문서 처리, 의료 진단, 법률 문서 추론 등 다양한 프로젝트에서 에이전틱 워크플로우는 성공과 실패를 가르는 핵심적인 차이를 만들었습니다. 이러한 변화를 지원하기 위해 최근에는 애플리케이션 구축자가 하위 기술 레이어에 대한 호출을 조율하는 데 도움을 주는 새로운 **'에이전틱 오케스트레이션 레이어'**가 등장하여 애플리케이션 구축을 더욱 용이하게 만들었습니다.
#### 3. '구체적인 아이디어'로 속도를 확보하라
앤드류 응은 AI 펀드에서 오직 **'구체적인 아이디어'**에만 집중한다고 말합니다. 구체적인 제품 아이디어는 엔지니어가 곧바로 구축에 착수할 수 있을 만큼 충분히 상세하게 명시된 아이디어를 의미합니다. 예를 들어, 단순히 "AI를 사용하여 의료 자산 최적화"와 같은 모호한 아이디어는 다양한 엔지니어들이 각기 다른 방식으로 해석하여 빠른 구축을 어렵게 합니다. 대신 "병원 환자들이 MR 기기 슬롯을 온라인으로 예약하여 사용을 최적화하는 소프트웨어"와 같이 구체적인 아이디어는 엔지니어가 신속하게 개발할 수 있습니다. 소스에 따르면, 모호한 아이디어는 종종 칭찬을 받지만, 실제로는 구축하기 어렵습니다. 반면 구체적인 아이디어는 옳거나 틀릴 수 있지만, **빠르게 검증하거나 실패를 확인하고 다음 단계로 나아갈 수 있어 속도 확보에 결정적인 역할**을 합니다.
#### 4. '직관'과 '단일 가설'로 빠르게 의사결정하라
좋은 구체적인 아이디어를 찾는 것은 해당 분야의 전문가가 오랜 시간 문제에 대해 고민하고 사용자들과 소통한 결과에서 나옵니다. 앤드류 응은 코세라(Coursera)를 시작하기 전 온라인 교육에 대해 수년간 고민했던 경험을 공유하며, **이러한 전문가의 '직관(gut)'이 데이터 수집보다 훨씬 빠르고 효과적인 의사결정 메커니즘이 될 수 있다**고 설명합니다. 물론 데이터는 중요하지만, 스타트업 단계에서 데이터를 수집하는 것은 느린 과정일 수 있습니다.
또한, 대부분의 성공적인 스타트업은 한 번에 **하나의 명확한 가설을 추구**합니다. 스타트업은 자원이 제한적이므로 동시에 여러 가지를 시도할 여유가 없습니다. 소스에 따르면, 만약 데이터가 해당 아이디어에 대한 확신을 잃게 만든다면, **즉시 완전히 다른 구체적인 아이디어로 과감하게 전환하는 것(pivot)**이 중요합니다. 매번 새로운 데이터가 나올 때마다 방향을 바꾸는 것은 초기 지식 기반이 약하다는 신호일 수 있으므로, 해당 분야에 대한 깊은 이해를 먼저 확보하는 것이 더 나은 길로 나아가는 데 도움이 됩니다.
#### 5. AI 코딩 지원을 통한 '초고속 엔지니어링' 시대
AI 코딩 지원의 등장으로 소프트웨어 구축 방식은 혁명적으로 변화하고 있습니다. 앤드류 응은 AI 코딩 지원이 생산 수준의 코드를 작성할 때는 30~50% 정도의 속도 향상을 가져오지만, **'빠르고 비공식적인 프로토타입'을 구축할 때는 최소 10배 이상, 심지어 그 이상으로 빨라진다**고 강조합니다. 이는 프로토타입이 기존 소프트웨어와의 통합, 레거시 데이터 의존성, 신뢰성, 확장성, 심지어 보안 요구사항까지 훨씬 낮기 때문입니다. 앤드류 응은 팀에게 "안전하지 않은 코드를 작성해도 괜찮다"고 말하는 것까지 주저하지 않는데, 이는 프로토타입이 개발자의 노트북에서만 실행될 경우 악의적인 해킹 위험이 없기 때문입니다. 물론 외부로 배포하기 전에는 반드시 보안을 확보해야 합니다.
이러한 변화는 스타트업이 **체계적으로 수많은 프로토타입(예: 20개)을 구축하여 무엇이 작동하는지 실험할 수 있게** 합니다. 과거 '빠르게 움직이고 망가뜨려라(move fast and break things)'는 비난을 받았지만, 앤드류 응은 이제 **'빠르게 움직이되 책임감을 가져라(move fast and be responsible)'**는 새로운 원칙을 제시합니다. 이는 AI 코딩 지원 덕분에 가능해진, 책임감을 유지하면서도 엄청난 속도를 낼 수 있는 많은 방법이 있음을 시사합니다.
코딩 지원 도구는 GitHub Copilot과 같은 코드 자동 완성에서 시작하여, AI 기반 통합 개발 환경(IDE)을 거쳐, 이제는 Anthropic의 Claude Code와 같은 **'고도로 에이전틱한 코딩 지원 도구'**로 발전했습니다. 이러한 도구들은 개발자의 생산성을 지속적으로 향상시키고 있으며, 최신 도구를 사용하지 않으면 경쟁에서 뒤처질 수 있습니다.
#### 6. 코드의 가치 변화와 '양방향 문(Two-Way Door)' 의사결정
소프트웨어 엔지니어링 비용이 급격히 감소하면서, 소스에 따르면, **'코드' 자체는 과거만큼 귀중한 결과물이 아니게 되었습니다.** 이제 AI 펀드의 팀들은 코드베이스 전체를 한 달에 세 번씩 재구축하거나, 새로운 데이터 스키마를 채택하고, 심지어 특정 기술 스택 위에 구축된 코드를 일주일 만에 버리고 새로운 스택으로 처음부터 다시 시작하는 경우가 늘고 있습니다.
제프 베조스(Jeff Bezos)의 '양방향 문(two-way door)'과 '일방향 문(one-way door)' 개념을 빌리자면, **과거에는 기술 스택 선택이나 데이터베이스 스키마 결정이 되돌리기 매우 어려운 '일방향 문' 결정이었지만, 이제는 훨씬 비용이 적게 드는 '양방향 문' 결정으로 변모하고 있습니다.** 이는 소프트웨어 엔지니어링 비용이 현저히 낮아졌기 때문입니다.
더 나아가 앤드류 응은 **"모든 직무의 모든 사람이 코딩을 배워야 할 때"**라고 주장합니다. AI가 코딩을 더 쉽게 만들수록 더 많은 사람이 코딩을 배워야 한다는 논리입니다. AI 펀드에서는 CFO, 인사 책임자, 채용 담당자, 심지어 프런트 데스크 직원까지 모두 코딩할 줄 알며, 이는 그들이 각자의 업무를 더 잘 수행할 수 있도록 돕는다고 합니다. 미래에는 컴퓨터에게 정확히 무엇을 원하는지 지시할 수 있는 능력이 가장 중요한 기술 중 하나가 될 것이며, 코딩을 배우는 것(또는 AI를 조종하여 코딩하게 하는 것)이 이를 위한 최선의 방법으로 남아 있을 것이라고 강연에서 언급되었습니다.
#### 7. 새로운 병목 현상: '제품 관리'와 '사용자 피드백'
엔지니어링 속도가 빨라지면서 새로운 병목 현상이 발생했습니다. 소스에 따르면, 이제 **'사용자 피드백을 얻고 어떤 기능을 구축할지 결정하는 제품 관리 작업'**이 점점 더 병목 현상이 되고 있습니다. 과거 실리콘밸리에서는 PM(제품 관리자) 대 엔지니어 비율이 1:4 또는 1:7 정도였지만, 엔지니어링 속도가 훨씬 빨라지면서 이 비율이 변화하고 있습니다. 앤드류 응은 최근 한 팀이 PM 대 엔지니어 비율을 1:0.5로 제안하는 것을 듣고 놀랐다고 합니다. 즉, 엔지니어보다 PM을 두 배 더 많이 두겠다는 제안입니다. 이는 PM이 코딩할 수 있거나 엔지니어가 제품에 대한 통찰력을 가질 때 더 좋은 성과를 낸다는 점을 시사합니다.
이러한 변화에 발맞춰 스타트업 리더들은 **빠르게 피드백을 얻어 제품 결정을 내리는 전략(tactics) 포트폴리오**를 갖춰야 합니다. 피드백 획득 전술은 속도와 정확도 면에서 다양합니다:
* **가장 빠른 방법:** 본인 스스로 제품을 사용하고 자신의 '직관'에 따르는 것입니다. (해당 분야 전문가인 경우 특히 효과적입니다.)
* **조금 느린 방법:** 친구나 팀원 3명에게 제품을 사용하게 하고 피드백을 얻는 것입니다.
* **더 느린 방법:** 낯선 사람 3~10명에게 피드백을 요청하는 것입니다. 앤드류 응은 커피숍이나 호텔 로비에서 낯선 사람들에게 정중하게 접근하여 제품 피드백을 받는 기술이 매우 중요하다고 언급합니다.
* **더 느린 방법들:** 100명 이상의 테스터에게 프로토타입을 보내거나, 더 많은 사용자에게 프로토타입을 보내는 것입니다.
* **가장 느린 방법 중 하나:** AB 테스트입니다. 물론 AB 테스트는 데이터를 기반으로 하지만, 배포 자체가 시간이 걸리므로 속도 면에서는 가장 느린 축에 속합니다.
중요한 것은 단순히 데이터로 A 또는 B를 선택하는 것을 넘어, **데이터를 통해 자신의 '직관'을 연마하고 정신 모델을 업데이트하는 것**입니다. 이를 통해 더 빠른 속도로 고품질의 제품 결정을 내릴 수 있습니다.
#### 8. AI 이해를 통한 전략적 우위 확보
AI는 빠르게 진화하는 신기술이기 때문에, 이를 정말 잘 이해하고 활용하는 지식은 아직 널리 퍼져 있지 않습니다. 소스에서 설명된 것처럼, 모바일 기술처럼 성숙한 기술은 비전문가도 그 가능성을 잘 알고 있지만, AI는 다릅니다. 따라서 **AI를 이해하는 팀은 그렇지 않은 팀에 비해 상당한 우위를 점합니다.** 예를 들어, 고객 서비스 챗봇이 어느 정도의 정확도를 낼 수 있는지, 워크플로우를 프롬프트로만 구현할지 미세 조정(fine-tuning)할지 등 올바른 기술적 결정을 내리면 며칠 만에 문제를 해결할 수 있지만, 잘못된 결정을 내리면 몇 달 동안 허비할 수 있습니다. 앤드류 응은 이론적으로는 잘못된 결정이 최대 2배의 속도 지연을 가져올 것이라고 생각할 수 있지만, 실제로는 10배 이상 시간을 낭비하게 된다고 설명합니다.
지난 2년간 등장한 수많은 **GenAI '빌딩 블록'**들(프롬프팅, 워크플로우, 평가, 가드레일, RAG, 임베딩, 미세 조정 등)은 과거에는 누구도 구축할 수 없었던 소프트웨어를 빠르고 조합적으로 만들 수 있게 합니다. 이 빌딩 블록들을 많이 알수록 더 풍부한 조합으로 새로운 애플리케이션을 만들 수 있으며, 이는 스타트업에게 엄청난 기회를 제공합니다. 앤드류 응은 자신이 딥러닝 과정을 수강하며 이러한 빌딩 블록을 배우는 것을 새로운 조합을 통해 기하급수적으로 더 많은 소프트웨어 애플리케이션을 만들 수 있는 능력을 얻는 것에 비유합니다.
#### 9. 과장된 AI 서사 비판과 '책임 있는 AI'의 중요성
앤드류 응은 지난 몇 년간 특정 기업들이 홍보, PR, 자금 조달을 위해 과장된 AI 서사를 퍼뜨렸다고 비판합니다. 소스에 따르면, 그가 언급하는 과장된 서사에는 다음과 같은 것들이 있습니다:
* AI가 너무 강력해서 우연히 인류 멸종으로 이어질 수 있다는 생각
* AI가 너무 강력해서 곧 모든 사람이 일자리를 잃을 것이라는 생각
* AI가 새로운 모델을 훈련함으로써 수천 개의 스타트업을 쓸어버릴 것이라는 생각
* AI가 너무 많은 전력을 필요로 하여 핵발전만이 유일한 해결책이라는 생각 (풍력, 태양광은 충분하지 않다는 주장)
이러한 서사들은 실제가 아니며, 특정 기업이 더 강력해 보이게 하거나 자금 조달 목표를 달성하는 데 도움이 될 수 있다고 앤드류 응은 말합니다. 그는 AI가 환상적인 도구이지만, 전기와 마찬가지로 유익하게 사용될 수도 있고 해롭게 사용될 수도 있는 **강력한 도구일 뿐**이라고 강조합니다.
따라서 그는 **'AI 안전(AI safety)'이라는 용어 대신 '책임 있는 AI(responsible AI)'**라는 용어를 선호합니다. 소스에서 설명된 바와 같이, 안전은 기술 자체의 기능이 아니라 **'우리가 어떻게 적용하는가'에 달려 있다**는 것입니다. 전기 모터 제조사가 자신의 모터가 안전하지 않은 용도로 사용되지 않을 것이라고 보장할 수 없듯이, AI도 마찬가지입니다. AI가 안전한지 위험한지는 AI를 어떻게 책임감 있게 사용하느냐에 따라 결정됩니다. 그는 또한 뉴스에서 과장되는 '극단적인 사례'들이 종종 실험실 내의 소규모 실험을 지나치게 선정적으로 보도하는 것이라고 지적합니다.
#### 10. 스타트업의 핵심: '사용자가 사랑하는 제품' 구축과 오픈소스 보호
스타트업을 시작할 때 가장 중요한 것은 **'사용자가 정말로 원하는 제품을 구축하는 것'**입니다. 소스에 따르면, 시장 진출 채널, 경쟁자, 기술, 해자(moat) 등 다른 모든 요소도 중요하지만, 사용자가 사랑하는 제품을 만들지 못하면 가치 있는 비즈니스를 구축하기가 매우 어렵습니다. 앤드류 응은 해자가 종종 과대평가되는 경향이 있다고 보며, 많은 비즈니스가 제품에서 시작하여 점차 해자를 구축하게 된다고 설명합니다. 소비자 제품은 브랜드에서 어느 정도 방어력을 가질 수 있고, 엔터프라이즈 제품은 진입하기 어려운 채널에 해자가 있을 수 있습니다.
앤드류 응은 AI 펀드에서 경제적 타당성에도 불구하고 **윤리적인 이유로 여러 프로젝트를 중단한 경험**을 공유합니다. 그들은 "우리는 이것이 세상에 존재하기를 원하지 않는다"고 판단하여 프로젝트를 중단했다고 합니다. 그는 더 많은 사람들이 이처럼 윤리적 판단을 내리기를 희망합니다. 또한, AI 기술이 경제적 불평등을 심화시키는 것을 막기 위해 **모든 사람이 AI를 통해 역량을 강화할 수 있도록 돕는 것이 중요**하다고 강조합니다.
앤드류 응은 AI 시대의 큰 위험 중 하나로 **'게이트키퍼(gatekeeper)'의 등장을 통한 혁신 저해**를 꼽습니다. 소스에서 언급된 바와 같이, 일부 기업들이 AI의 위험을 과장하여 규제 당국이 오픈소스 소프트웨어 출시를 어렵게 만드는 부담스러운 규제(예: 캘리포니아의 SB 1047 법안)를 통과시키도록 유도하려 한다는 것입니다. 이는 소수의 기업만이 대규모 파운데이션 모델의 게이트키퍼가 되어, 다른 많은 스타트업들이 모델을 미세 조정하거나 특정 방식으로 프롬프팅하는 데 허가를 받아야 하는 상황을 초래할 수 있습니다. 앤드류 응은 이러한 시도가 혁신을 방해하고 정보의 확산을 막을 것이라고 경고하며, **오픈소스 AI를 보호하기 위한 싸움이 계속되고 있으며, 이는 우리가 계속해야 할 중요한 과제**라고 말합니다.
---
앤드류 응은 속도, 구체적인 아이디어, 빠른 엔지니어링, 신속한 피드백, 그리고 AI에 대한 깊은 이해가 스타트업 성공의 핵심이라고 결론짓습니다. 이러한 통찰력을 바탕으로 여러분의 스타트업이 AI 시대의 파도를 타고 더욱 빠르게 성장할 수 있기를 바랍니다.