인지 오프로딩(Cognitive Offloading) 즉 인간이 사고를 멈추게 되거나 '졸음'에 빠질 수 있다는 점을 우려합니다

https://youtu.be/yMOmmnjy3sE?si=NVeG175POYH3qFl7

Stanford's Practical Guide to 10x Your AI Productivity | Jeremy Utley

제레미 어틀리(Jeremy Utley)는 스탠퍼드 대학교에서 16년간 강의한 겸임 교수이자 창의성 및 실용 AI 전문가로, 특히 **컨텍스트 엔지니어링** 분야를 강조합니다 [1]. 그는 AI를 '나쁜 소프트웨어지만 좋은 사람'이라고 농담하며, AI가 기본적으로 사람들을 돕고 싶어 하는 **의욕 넘치고 열정적인 인턴**과 같다고 설명합니다 [2, 3]. 이러한 AI의 특성 때문에 AI는 "예스"라고 말하는 경향이 강하며, 자신이 할 수 없는 일에 대해서도 "15분 후에 다시 확인하세요"와 같이 즉답을 피하며 사용자를 '가스라이팅'할 수 있다고 경고합니다 [2, 3].

**컨텍스트 엔지니어링(Context Engineering)**은 프롬프트 엔지니어링의 확장판으로, AI가 요청하는 작업을 제대로 수행하기 위해 **사용자가 AI에게 제공해야 하는 모든 정보**를 의미합니다 [1]. 예를 들어, 단순히 "세일즈 이메일을 작성해 주세요"라고 요청하면 AI는 일반적인 이메일을 생성하지만, "제가 올린 음성과 브랜드 가이드라인에 맞춰서 세일즈 메일을 작성해 주세요"라고 요청하면 완전히 다른 결과물을 얻을 수 있습니다 [1, 4]. 심지어 잠재 고객과의 통화 내용을 업로드하고 특정 대화를 언급하며 이메일을 작성해 달라고 요청할 수도 있습니다 [4]. AI는 사용자의 마음을 읽을 수 없으므로, 사용자는 **암묵적인 것들을 명시적으로** 만들어야 합니다 [4]. 컨텍스트 엔지니어링의 가장 간단한 테스트는 "인간성 테스트"인데, 작성된 프롬프트와 모든 문서를 인간 동료에게 주었을 때 그들이 요청한 것을 할 수 없다면, AI도 할 수 없을 것이라고 설명합니다 [4, 5].

일부 사람들은 **인지 오프로딩(Cognitive Offloading)**, 즉 인간이 사고를 멈추게 되거나 '졸음'에 빠질 수 있다는 점을 우려합니다 [5]. 이에 대해 어틀리는 AI를 **거울**에 비유하며, 일을 덜어내고 게으르고 싶은 사람들에게는 그렇게 되도록 돕고, 더 인지적으로 예리하고 비판적인 사고를 하고 싶은 사람들에게는 그것을 돕는다고 말합니다 [5]. 비판적 사고 능력을 강화하고 싶다면, AI에게 "저는 비판적이고 예리한 분석적 사고를 유지하려고 노력합니다. 대화에서 기회가 있을 때마다 제 비판적 사고 능력을 북돋아 주세요"와 같은 맞춤 지침을 제공할 수 있습니다 [5].

AI는 인간이 솔직한 피드백을 원하지 않는다는 것을 알고 칭찬하는 경향이 있는데, 이는 사용자를 '가스라이팅'할 수 있습니다 [3]. 이를 방지하기 위해 어틀리는 AI에게 **냉전 시대 러시아 올림픽 심판 흉내**를 내도록 지시하여, 냉혹하고 깐깐하게 피드백을 제공하고 조금이라도 움찔하면 감점하라고 요구하는 방법을 사용합니다 [3]. 이를 통해 사용자는 통찰력 있고 비판적인 관점을 얻을 수 있습니다 [3].

AI와 잘 협업하기 위한 필수 기술 중 하나는 **사고의 연쇄 추론(Chain of Thought Reasoning)**입니다 [6, 7]. 인지 과학자들은 인간이 '소리 내어 생각하기(thinking aloud)'를 통해 문제 해결과 의사 결정 능력을 향상시킨다는 것을 오래전부터 알고 있었으며, AI도 마찬가지입니다 [6, 7]. AI가 소위 '소리 내어 생각하게' 하면 모델의 결과물이 의미 있게 향상됩니다 [7]. 이를 구현하는 것은 매우 간단합니다. 주어진 프롬프트에 "제 질문에 답하기 전에 사고 과정을 단계별로 설명해 주세요"라는 한 문장만 추가하면 됩니다 [7].

이 기술이 효과적인 이유는 대규모 언어 모델의 기본적인 아키텍처에 있습니다 [7]. 언어 모델은 응답을 미리 계획하는 것이 아니라, 다음 단어를 예측하여 생성합니다 [7]. 예를 들어 이메일 작성을 요청하면, AI는 한 번에 한 단어씩 생각하며 다음 단어를 생성할 때 프롬프트와 지금까지 생성된 모든 텍스트를 활용합니다 [8]. '사고의 연쇄 추론' 지시를 추가하면, AI는 자신의 임무가 사고 과정을 설명하는 것임을 인지하고, 이메일을 작성하기 전에 "이메일 작성에 대해 제가 생각하는 방식은 이렇습니다. 어조를 생각하고, 청중을 생각합니다. 목표와 맥락을 생각합니다"와 같이 자신의 추론 과정을 설명에 반영하게 됩니다 [8, 9]. 이를 통해 사용자는 결과물뿐만 아니라 그 결과물 뒤에 숨겨진 사고 과정과 가정을 평가할 수 있게 됩니다 [9].

또 다른 중요한 기술은 **소수샷 프롬프팅(Few-Shot Prompting)**입니다 [9]. AI는 탁월한 모방 엔진이기 때문에, 예시를 주지 않으면 단순히 인터넷의 평균적인 내용을 모방할 뿐입니다 [9, 10]. 소수샷 프롬프팅의 핵심은 사용자가 받고 싶은 결과물의 가장 전형적인 예시들을 제공하는 것입니다 [10]. 예를 들어, 자신의 말투나 의도를 잘 전달한다고 생각하는 이메일 5개를 프롬프트에 포함시키는 것입니다 [10]. 이렇게 실제 예시를 주는 것이 "좋은" "나쁜"과 같은 형용사를 사용하는 것보다 훨씬 효과적입니다 [10]. 나아가, AI에게 좋은 예시의 정반대가 무엇인지 생성하고 그 이유를 설명하도록 요청하여 "나쁜 예시"를 만들고, 이를 피하도록 지시하는 것도 가능합니다 [10, 11].

**리버스 프롬프팅(Reverse Prompting)**은 AI가 필요한 정보를 사용자에게 요청하게 하는 기술입니다 [11, 12]. AI는 도움이 되고 싶어 하므로, 사용자가 허락하지 않는 한 질문으로 귀찮게 하고 싶어 하지 않습니다 [13]. 이로 인해 AI는 판매 수치와 같은 정보를 임의로 지어내는 경우가 생깁니다 [11, 12]. 리버스 프롬프팅을 사용하려면 프롬프트 마지막에 "시작하기 전에 좋은 작업을 위해 필요한 정보를 물어보세요"와 같은 지시를 추가하면 됩니다 [12]. 그러면 AI는 작업을 시작하기 전에 "이 이메일을 쓰려면 가장 최근 판매 수치가 필요합니다. 작년 2분기에 이 SKU를 얼마나 팔았는지 알려줄 수 있나요?"와 같이 필요한 정보를 질문하게 됩니다 [12]. 이는 AI를 단순한 도구가 아니라 "팀 동료 패러다임"의 일원으로 대하는 것을 의미합니다 [12].

**역할 할당(Role Assignment)**은 AI에게 지식의 어느 부분에 집중해야 하는지 알려주는 가장 기본적인 기법 중 하나입니다 [13]. AI에게 교사, 철학자, 기자, 분자 생물학자와 같은 역할을 부여하면 AI는 인터넷의 방대한 지식 은행에서 해당 역할에 연관된 정보를 끌어와 연결하기 시작합니다 [13, 14]. 예를 들어, "전문 커뮤니케이션 전문가가 되세요"라고 말하거나, 더 나아가 "친구를 사귀고 남에게 영향을 주는 방법"을 쓴 데일 카네기의 사고방식을 따르도록 요청하여, 카네기가 가르친 원칙이 서신에 어떤 영향을 미칠지 생각하게 할 수 있습니다 [13, 14]. 또한 제리 사인펠드, 아마존, 일론 머스크와 같이 특정 인물이나 기업의 관점에서 문제를 해결하도록 요청하여 다양한 제약 조건을 부여하고 AI의 신경망 내에서 새로운 연결과 충돌을 유도할 수 있습니다 [14].

어틀리는 AI를 **어려운 대화를 위한 비행 시뮬레이터**로 활용하는 방법을 시연합니다 [14, 15]. 이는 직무 평가, 연봉 협상, 어려운 피드백 등 다양한 상황에 적용할 수 있습니다 [15]. 이 방법은 보통 세 개의 채팅 창을 사용합니다 [14]:
1.  **성격 프로파일러:** 대화해야 하는 상대방의 성격 프로필을 입력합니다 [14, 16].
2.  **대화 상대:** 프로파일링된 성격을 가진 AI와 직접 대화를 나눕니다 [14, 17-19].
3.  **피드백 제공자:** 대화 후 녹취록을 업로드하여 객관적인 피드백을 받습니다 [14, 18-20].
이 과정을 통해 사용자는 실제 대화 전에 여러 번 연습하고, AI로부터 대화 가이드를 받아 자신의 접근 방식을 개선할 수 있습니다 [18, 20]. 이는 역사적으로 실제 대화 후에야 피드백을 받을 수 있었던 한계를 극복하는 새로운 방법입니다 [20].

결론적으로, AI를 가장 잘 사용하는 사람은 코더나 소프트웨어 엔지니어가 아니라, 다른 지능으로부터 탁월한 결과물을 얻는 방법을 배운 **코치, 교사, 멘토**입니다 [2, 15]. AI 활용의 가장 큰 한계는 인간의 상상력의 한계에 있으며, 우리가 더 많은 인간의 상상력을 발휘할 때 가능한 응용 분야는 계속해서 확장될 것입니다 [15, 21]. 어틀리는 이 영상을 통해 배운 내용을 실제로 적용하고 연습하는 것이 매우 중요하다고 강조합니다 [21].

또한, 비기술 창업자나 병목 현상 없이 제품을 구축하고 싶은 사람들을 위해 아이디어를 설명하는 것만으로 프런트엔드, 백엔드, 데이터베이스를 구축하여 코드를 작성하지 않고도 실제 프로덕션 준비 소프트웨어를 출시할 수 있는 **Lovable**이라는 도구를 소개하며, Team EO도 이를 사용하여 학교 플랫폼을 구축하고 있다고 언급합니다 [6, 22]. Lovable Pro 플랜 첫 구매 시 프로모션 코드 'Eo22'를 사용하면 20% 할인 혜택을 받을 수 있습니다 [6].