시장의 변화와 정책의 중요성

https://youtu.be/Sw2chzwWLbQ?si=UW10KXniCBiTiQvH

Cohere Founder, Nick Frosst: How To Compete with OpenAI & Anthropic, and Sam Altman’s AI Disservice

Cohere의 설립자 닉 프로스트(Nick Frosst)는 샘 알트만(Sam Altman)이 AGI(일반 인공지능)의 근접성에 대해 언급하며 세상에 해를 끼쳤다고 비판했습니다. 프로스트는 알트만이 여러 차례 잘못된 예측을 했고, AI가 인류에게 실존적 위협을 가할 것이라고 말하며 전 세계 주요 리더들을 만난 것은 **학문적으로 불성실하며 그가 사랑하는 기술에 해를 끼친 것**이라고 생각합니다 [1].

프로스트는 제프 힌튼(Jeff Hinton)의 구글 브레인(Google Brain) 첫 고용인이었으며, 힌튼과의 작업에서 **연구에 대한 창의적이고 유희적인 접근 방식**을 배웠다고 언급했습니다. 힌튼은 알고리즘이나 손실 함수 등을 물리적 비유를 통해 설명하며 직관을 강조했다고 합니다 [1].

**구글과 트랜스포머(Transformer) 아키텍처**에 대해 논의하며, 트랜스포머는 2017년 구글 브레인에서 발명되었지만, 구글 내에서 빠르게 상업화되거나 확장되지 않았다고 지적했습니다. 트랜스포머를 개발한 많은 사람들이 결국 구글을 떠나 계속해서 트랜스포머 관련 작업을 했다는 점이 흥미롭다고 말했습니다 [2].

**Cohere는 어떤 회사인가요?**
Cohere는 OpenAI나 Anthropic과 같은 기반 모델(foundational model) 회사로, 언어 모델을 개발합니다 [2]. 전 세계적으로 20개 미만의 기업만이 대규모 언어 모델을 구축하고 있으며, 대부분 미국에 있고, 소수가 중국에, 캐나다(Cohere)에 하나, 프랑스에 하나가 있습니다 [2]. Cohere는 **기술을 기업에 도입하는 데 독점적으로 초점을 맞추고 있다는 점에서 독특합니다.** 기업용 도구 사용에 능숙하도록 모델을 훈련하며, 기업의 데이터 및 API에 접근하여 업무에 도움을 줄 수 있도록 합니다 [2].

**기업용 모델 훈련 방식의 차이점:**
프로스트는 트랜스포머 아키텍처 자체가 2017년 이후 크게 변하지 않았지만, **훈련 방식은 변화했다**고 설명합니다 [3, 4]. Cohere는 모델을 놀라운 대화 상대가 되거나 사용자의 흥미를 유발하도록 훈련하지 않고, **직장에서 사용자를 보강하고 업무를 돕는 데 초점**을 맞춥니다 [3]. 이는 훈련에 사용되는 데이터 유형이 매우 다르다는 것을 의미합니다. 예를 들어, 가상의 회사와 이메일, API를 포함하는 **합성 데이터(synthetic data)**를 생성하여 모델을 훈련합니다 [3].
데이터는 여전히 병목 현상이며, 합성 데이터를 시작하려면 **고품질의 실제 데이터**가 필요하다고 강조합니다. Cohere는 여전히 어노테이터(annotator)를 통해 실제 데이터를 내부적으로 생성합니다 [3]. 컴퓨팅, 알고리즘, 데이터 중 가장 큰 병목 현상은 **양질의 데이터**를 확보하고, 그로부터 양질의 합성 데이터를 만드는 것이라고 말합니다 [3, 5].

**스케일링 법칙(Scaling Laws)과 GPT-5에 대한 견해:**
프로스트는 **스케일링 법칙의 효용성에 대해 회의적**입니다. 단순히 더 많은 컴퓨팅 자원을 투입하는 것이 항상 더 많은 발전을 가져오지는 않는다고 생각합니다 [5]. 실제로 그는 **GPT-5가 GPT-4보다 "더 나빴다"**고 생각하는데, 이는 모델 선택 방식이 느리고 번거로워졌기 때문이라고 설명합니다. 빠른 답변을 원하는 사용자에게 불필요하게 심도 있는 연구를 하는 경향이 있다고 비판합니다 [5]. 그는 많은 사람들이 스케일링 법칙이 항상 적용된다고 생각하지 않으며, 특히 대학생들 사이에서는 더 많은 컴퓨팅 자원이 AGI로 이어진다고 믿는 경우가 적다고 덧붙였습니다 [6].

**AGI의 정의와 Cohere의 접근 방식:**
프로스트는 AGI에 대해 "사람처럼 대하는 컴퓨터"라고 정의하며, 현재 언어 모델이 사람처럼 대우받지 않는다고 말합니다 [7]. 그는 대규모 언어 모델이 개인 생활보다는 **업무 환경에서 훨씬 더 유용하다**고 봅니다. 개인 생활에서는 자동화하고 싶은 것이 많지 않지만, 업무에서는 경비 청구와 같은 번거로운 다단계 프로세스를 자동화할 필요가 있다고 예시를 듭니다 [7]. Cohere의 기업 중심 접근 방식은 모델이 내부 도구를 사용하고 방대한 문서를 읽는 데 능숙하도록 훈련하는 것을 의미합니다 [8].

**벤치마크에 대한 비판적 시각:**
프로스트는 현재의 AI 벤치마크들이 **"엉터리(bullshit)"**라고 강하게 비판합니다 [9]. LM1B, Hello Swag, AIM, ARC AGI 챌린지 같은 과거 및 현재 벤치마크들을 언급하며, 이러한 벤치마크들은 **모델의 실제 유용성 가치를 정확하게 반영하지 못하고, 오히려 모델이 해당 벤치마크에 얼마나 훈련되었는지를 반영**할 뿐이라고 주장합니다. 즉, **게임화될 수 있다**는 것입니다 [4, 9]. Cohere는 이러한 벤치마크에 크게 신경 쓰지 않으며, 고객이 모델을 사용했을 때 얼마나 쉽게 작동하는지를 최적화한다고 말합니다 [9].

**기술 발전의 본질과 인재 전쟁:**
프로스트는 모델의 반복 속도가 빠르지만, **근본적인 기술(트랜스포머 아키텍처, 시퀀스 모델)은 2017년 이후 크게 변하지 않았다**고 지적합니다 [4, 10]. 훈련 방식에 새로운 단계(기본 모델링, 인간 피드백을 통한 SFT, 강화 학습)가 추가되었지만, 여전히 단어를 입력받아 다음 단어를 예측하는 방식이라고 설명합니다 [10].
AI 분야의 **인재 전쟁**에 대해서는 터무니없는 헤드라인이 많다고 회의적인 시각을 보이면서도, 산업의 영향력이 크고 업무가 매우 까다롭기 때문에 높은 가치를 창출하는 사람들에게는 높은 보상이 주어지는 것이 합리적이라고 인정합니다 [10]. Cohere는 직원들이 최고의 재정적 혜택을 받도록 노력하며, 필요하다면 AI 연구원에게 5백만 달러를 지불할 의향도 있다고 언급했습니다 [11].

**AGI 과대광고와 오해:**
프로스트는 AGI에 대한 과대광고가 **가장 해롭고 혼란스럽다**고 생각합니다. 모든 사람이 할 일이 없어지고 보편적 기본 소득(UBI)을 받게 될 것이라는 가정이나, 기술이 인류에게 즉각적인 실존적 위협을 가한다는 주장은 부정확하며, 기술의 진정한 잠재적 피해에 대해 논의하는 데 방해가 된다고 말합니다 [12].
그는 AI가 마케팅 관리자와 같은 직업에서 텍스트 작성과 같은 특정 작업을 더 잘 수행할 수 있지만, **사람들과 소통하고 문화와 시대정신을 이해하며 직관을 사용하는 것과 같은 인간적 요소는 데이터셋에 포함되어 있지 않으므로 모델이 대체할 수 없다**고 믿습니다 [12, 13]. AI는 인간을 **보강(augment)**하는 도구이며, 빈 페이지에서 시작하는 대신 아이디어를 얻는 출발점이 될 수 있습니다 [12, 14].

**노동 시장의 변화와 정책의 중요성:**
AI는 컴퓨터, 인터넷, 인쇄술, 산업혁명과 유사하게 **노동 시장에 급격한 변화**를 가져올 것이라고 예측합니다. 미래에는 사람들이 컴퓨터와 언어로 상호작용하며, 지루하고 반복적인 작업을 모델에 맡기고, 자신들은 다른 사람들과 소통하고 창의적인 일에 시간을 보낼 것이라고 봅니다 [14]. 이러한 변화가 혼란스러울 수 있으므로, **소득 불평등을 방지하고 노동력을 유연하게 만들기 위한 정책적 논의**가 중요하다고 강조합니다 [14, 15]. 그는 AI가 소득 불평등에 미치는 영향은 **정책에 달려 있다**고 말하며, 좋은 노동 정책이 있다면 도움이 될 수 있지만, 그렇지 않다면 악화될 수 있다고 우려합니다 [15].

**오픈 대 클로즈드 모델 논쟁:**
Cohere는 기반 모델의 가중치를 비상업적 용도로 공개하고 상업적 용도로는 협상을 통해 제공하는 **중간 지점**을 택하고 있습니다 [16]. 이는 커뮤니티 내에서 신뢰를 구축하고, 고객이 모델을 검증할 수 있도록 하면서도, Cohere가 영리 기업으로 존재할 수 있도록 합니다 [16]. 프로스트는 더 많은 기반 모델 기업들이 이러한 접근 방식을 취하지 않는 것에 놀라움을 표하며, 메타(Meta)가 결국 폐쇄형 모델로 전환할 수도 있다고 추측합니다 [16].

**프롬프팅(Prompting)의 미래:**
프로스트는 5년 안에 **프롬프팅이 핵심 사용자 입력 메커니즘으로 남아 있을 것**이라고 생각하지만, 프롬프팅 스킬 자체가 덜 중요해질 것이라고 말합니다 [17]. 과거에는 모델을 "속여서" 원하는 작업을 수행하게 하는 것이 프롬프팅의 기술이었지만, 이제 모델은 사람들이 기대하는 방식으로 작동하도록 훈련되고 있으므로, **프롬프팅을 전문적인 학문으로 배워야 할 필요성은 줄어들 것**이라고 설명합니다 [17, 18]. 그러나 언어 모델이 어떻게 작동하고 무엇을 할 수 있고 없는지를 아는 것은 여전히 중요하다고 강조합니다 [18]. 그는 기술을 마법처럼 여겨서는 안 된다고 경고합니다 [18].

**Cohere의 자금 조달 및 효율성:**
Cohere의 최근 6억 달러 규모의 자금 조달 라운드에서 프로스트는 Aiden과 Ivan과 함께 참여했습니다 [18]. 그는 컴퓨팅, 알고리즘, 데이터 중 **컴퓨팅**이 여전히 많은 자금을 소비하는 부분이지만, Cohere는 **매우 효율적으로 모델을 훈련한다**고 강조합니다 [19]. 그들의 모델(Command A, Command A Reasoning, Command A Vision)은 **두 개의 GPU에 맞도록 훈련**되는데, 이는 성능과 비용 사이의 스윗 스팟이기 때문입니다. 다른 기반 모델 회사들에 비해 **수십 배 적은 비용**으로 모델을 구축했다고 자랑스럽게 말합니다 [19]. Cohere는 자금 조달 초기에는 데이터센터의 남은 GPU를 활용하는 방식으로 효율적인 훈련을 시작했다고 합니다 [20].

**경쟁 전략 및 기업 시장 집중:**
Cohere는 다른 대규모 자금을 가진 경쟁사들과 달리 **기업 고객에만 집중**합니다. 그들의 모토는 **"AGI가 아닌 ROI(Return On Investment)"**이며, 기업이 AI를 통해 실제로 생산에 도달할 수 있도록 돕는 데 중점을 둡니다 [20]. 소비자 앱은 가장 큰 모델을 만들고, 인퍼런스 호출당 막대한 손실을 감수하며 사용자 확보에 집중할 수 있지만, 기업 환경에서는 배포 및 맞춤화가 중요하기 때문에 다른 종류의 모델과 인터페이스가 필요하다고 설명합니다 [21]. Cohere는 자체적으로 **North**라는 에이전트 프레임워크를 개발하여 기업 고객을 지원합니다 [21]. 그들은 고객의 요구에 따라 맞춤형 모델을 제공하고, **현장 엔지니어(forward deployed engineers)**를 통해 기업 고객의 기술 도입을 돕습니다. 이는 기업 기술 판매에서 흔히 있는 일이며, 기술을 고객의 비즈니스 설정에 맞추는 데 필수적이라고 말합니다 [21, 22].

**세대적 회사(Generational Company) 구축의 열망:**
Cohere는 여러 차례 인수 제안을 받았지만, 공동 창업자들은 **"세대적 회사"를 구축하는 데 관심**이 많습니다. 이는 자신들의 개입을 넘어서 오랫동안 지속될 무언가를 만드는 것을 의미하며, 인간의 본질적인 욕구이자 보람 있는 일이라고 설명합니다 [23-25].

**국가 주권 모델(Sovereign Models)의 중요성:**
프로스트는 AI 기술을 **인프라**와 같다고 보며, 한 국가가 자국 언어를 사용하는 언어 모델을 보유하는 것이 **자국민을 위한 인프라를 구축하는 것과 같다**고 생각합니다 [26, 27]. 지난 20년간 실리콘 밸리와 미국이 기술을 주도했지만, 많은 국가들이 이에 불만을 가지고 있습니다 [28]. 따라서 자국 경제를 위한 기술을 보유하고, 문화적 유창성을 갖춘 모델을 개발하는 것은 좋은 생각이라고 말합니다 [28]. Cohere가 **캐나다 기업**이라는 점은 비미국 기술 기업과 협력하려는 전 세계 기업들에게 자산으로 작용한다고 언급합니다 [27, 28]. 정부가 전력 발전소처럼 자국 내 기반 모델 구축에 자금을 지원하는 것은 좋은 아이디어라고 주장합니다 [27].

**기술 낙관주의의 변화:**
프로스트는 과거에는 기술 낙관주의자였지만, 지난 10년간 기술이 사람들을 세상으로부터 **단절시키는 방식**에 대해 우려하며 시각이 바뀌었습니다 [28, 29]. 구글 글래스나 VR 헤드셋의 사례를 들며, 사람들이 세상에 더 몰입하기를 원하지, 더 단절되기를 원하지 않는다고 말합니다 [29]. 그는 외로움, 불안감 등 현대 사회의 문제들에 대해 걱정하지만, 동시에 "요즘 젊은이들은 이상해"와 같은 역사적으로 만연했던 생각들도 인지하고 있습니다 [29, 30].

**빠른 질문과 답변:**
*   **샘 알트만이 해야 할 일**: AGI가 가깝다고 말하는 것은 세상에 해를 끼친다 [30].
*   **가장 중요한 예측 오류**: AI가 2년 안에 전 세계를 파괴할 것이라는 예측 [30].
*   **자금 조달과 AGI 과대광고의 상관관계**: 과대광고와 자금 조달 사이에 상관관계가 존재할 수 있다고 인정하지만, Cohere는 과대광고를 하지 않는다 [31].
*   **설립자 의식**: 매 라운드가 끝난 후 맥도날드에 가서 같은 메뉴(주니어 치킨 두 개)를 먹는다 [31].
*   **규제의 최악의 시나리오**: AI를 "디지털 신"으로 오해하여 실존적 위협 벤치마크에 고착하는 것 [32].
*   **중국 모델**: 좋은 모델을 만들고 있지만, 아직 서구 모델을 능가하지는 못했다 [32].
*   **2026년 LLM 예측**: 컴퓨터를 열어 "경비 청구"라고 말하면 모델이 모든 작업을 처리해주는 것이 보편화될 것이다 [32, 33].
*   **Cohere 외 커리어 베팅**: 구글/딥마인드 [33].
*   **생산성 도구**: Cohere의 North, Cursor (코딩 애플리케이션) [33].
*   **성공에 기여한 성격 특성**: 호기심 많고 반골 기질 (장점과 단점 모두) [33, 34].
*   **가장 잘못된 생각**: 기술 발전이 인간의 모든 지표(수명, 소득 불평등, 행복)를 단조롭게 개선할 것이라는 기술 낙관주의 [34]. 인간 피드백 기반 강화 학습(RLHF)의 데이터 효율성에 대한 잘못된 이해 [34].

닉 프로스트는 AI 기술이 강력하고 변화를 가져올 것이지만, 현실적인 기대와 함께 사회적, 정책적 고려가 필수적이라는 점을 강조하고 있습니다. 마치 강력한 엔진을 만드는 것과 같아서, 이 엔진이 사회에 어떤 방향으로 나아갈지는 결국 우리가 어떤 길을 만들고 어떤 교통법규를 제정하느냐에 달려 있다는 관점입니다.