카테고리 없음

DGX 스파크 장비

클로vㅏ 컴퓨터 2025. 11. 30. 16:13

https://m.youtube.com/watch?v=ZS9v9spLSXk

[LIVE] 젠슨황 형님의 선물 - DGX Spark 라이브 테스트 방송

젠슨황 형님의 선물 - DGX Spark 라이브 테스트 방송

www.youtube.com


- - 안녕하세요 킴 불강 님 안녕하세요 반갑습니다 권성진 님 아유 좋아하입니다 반갑습니다 박현서 님 안녕하세요 반갑습니다. 오늘은 DGX 스파크 리뷰를 해 보도록 하겠습니다. 리뷰보다는 좀 테스트 방송 라이브로 사실 이제 그 어제 뭔가 집으로 어제 본격적으로 이제 뜯어 봤는데 그리고 바로 사용해 보려고 했는데 젠더가 없더라고요 그래가지고 그 젠더 때문에 좀 미뤄졌고요. 원래 바로 라이브 하려고 했는데 그래서 오늘 약간은 그래도 다운 오래 걸리는 것들 좀 미리 받아 놓긴 했는데 직접 요걸 써 보면서 어떻게 세팅하고 그리고 이 DGX 스파크 장비로 뭘 할 수 있는지 그거를 보도록 하겠습니다 일단은 GX 스파크 어떤 건지 먼저 소개를 드리겠습니다 이제는 부팅 됩니다 부팅 그 안 돼 가지고 왜 안 되나 막 되게 불빛 들어오는게 없거든요 요거 이렇게 생겼는데 이게 불빛 들어올 거 같잖아요 뭔가 켜면은 이렇게 뭐 불이라도 나면서 켜졌구나라고 알 수 있을 줄 알았는데 안 납니다.

- - 그래서 고장 났나 하고 엄청 눌러댔더라고요 팬소리 때문에 이제 켜진 걸 알았지 뭐 불드러운 데가 없습니다 지금 랜선이 짧아 가지고 여기 들어올리진 못하는데요 아래에 있습니다 여기 요렇게 생겼고요 지금 요거 연결해 놨습니다 그래서 여기가 지금 DGX 스파크 화면입니다 요렇게 생겼습니다 그래서 기본적으로 우분투 기반에 운영 체제가 깔려 있고요 그래서 이렇게 우분투 화면이 나오죠 우본투 화면이 깔려 있고 여기 DGX 스파크 리소스 이렇게 눌러 보시면 이렇게 스타트 빌딩온 DGX 스파크라고 해서 이제 DGX 스파크에서 어떤 것들을 할 수 있는지 엔비디아에서 굉장히 친절하게 가이드를 다 만들어 놓으셨습니다 그래서 웬만한 어떤 로컬에서 할 법한 AI 작업들 있잖아요 그런 것들을 어떻게 하면 좋은지 여기 가이드를 싹 해 놨습니다.

- - 그래서 이거 구입하시는 분들이 있다면 여기 홈에서 DGX 스파크 리소스만 열어 보셔도 웬만한 작업들은 어떻게 하는지 다 알 수 있다라고 소개를 드릴 수가 있겠습니다.

- - 우선 이거 시작하기 전에 먼저 고지 드릴게 일단 감사합니다 엔비디아 너무 감사드리고요 젠슨 형님 감사드리고요 이 엔비디아에서 이제 리뷰 목적으로 기기를 대어받아서 이제 진행을 하고 있습니다 그래서 덕분에 이 비싼 장비 공짜로 써 볼 수가 있었습니다 이게 얼마지 구매하게 하면은 야마게 3999불인가 지지 스파크 가격 어이고 가격이 4000불 715만 원짜리를 선물로 주셨습니다 감사합니다. 선물로 715만 원짜리 DGX 스파크를 받을 수가 있었습니다 엔비디아 감사드리고요 아무튼 좋습니다. 그래서 요렇게 DGX 스파크 한번 쭉 써 보도록 하겠습니다 근데 게임 때 게임 돌리는 용은 아닙니다. 뭐 게임도 돌리려면 돌릴 수가 있겠지만 주로 목적이 이제 AI 연구용으로 사용이 되는 그런 디바이스입니다 다시 소개드리러 넘어가면 엔비디아 DGX 스파크 지금 사용하고 있고요. 이 화면이 DGX 스파크 화면입니다 구입하시면 구입하시려면 4000달러 약 715만 원짜리인데 아무튼 그 선물 감사드리고요 엔비디아 감사합니다.

- - 그래서 여기 스펙을 먼저 보도록 하겠습니다 그전에 하지 마 스펙 보기 전에 좀 역사가 재밌어요. 이 DGX 스파크가 뭐 하는 장비냐 보면은 원래는 엔비디아에서 처음에 DGX1이라는 장비를 공개를 했다고 합니다 2016년에 배달된 요런 DGX 이전 버전이 요렇게 생겼습니다 상당히 크죠 요렇게 아주 큰 디바이스 이게 오픈 AI로 처음에 배달낸 걸로 알고 있어요 그래서 일론 머스크도 있을 때였는데 젠슨왕이 여기에 직접 사인하는 그런 모습을 볼 수 있었는데 이때만 하더라도 GPU 아키텍처 파스칼이었고요 GPU 메모리 똑같습니다 놀랍게도 DGX 스파크 128GB 메모리인데 GPU 메모리가 이때도 이만한 장비인데 128GB입니다.

- - 이렇게 콤팩트하게 책상 위에 노트북 옆에 바로 둘 수 있을 정도로 아주 가벼운 요런 크기로 변경이 되었습니다 놀랍죠. 굉장히 같은 메모리 사이즈인데도 그 크기는 엄청나게 작아졌습니다 요건 똑같죠 여기 겉모습 겉모습은 그래서 이때는 60kg이었다고 합니다 웬만한 어떤 성인 성인의 몸무게 정도 되는 굉장히 무거운 장비였는데 3200W 먹었다고 하는데 가격도 엄청 비싸요 전 4000달러 비싸다라고 생각했는데 12만 9000달러입니다 어마어마한 요런 그 크기를 보여 주고 있는데 이게 이제 2025년 무려 9년 뒤에는 어떤게 나왔나 9년 뒤에는 요렇게 아주 작은 귀여운 디바이스가 되었습니다 실물을 제가 보여 드리고 싶은데 지금 랜선이랑 뭐 이것저것 꽂아 놓으니까 선이 좀 짧은게 있어 가지고 이거 아래 있습니다 이걸 들어서 보여 드리지 못하지만 아무튼 요렇게 생긴 장비가 지금 이 컴퓨터입니다 지금 여기서 돌아가고 있는게 DGX 스파크입니다 120 빌리언까지 가능하다고 들었어요 두 개 합쳐 쓸 수도 있는데 250 빌리언 맞습니다 이게 120 빌리언 돌아가고요 250은 진짜 두 개 합쳐야 되는데 또 두 개 합치는게 또 따로 있어요 그 케이블이 또 따로 있더라고요.

- - 그래서 DGX 스파크 요렇게 아주 귀엽게 생긴 한 맥미니 정도 사이즈가 되는 맥미니보다 이 두께는 좀 얇은 거 같아요 굉장히 귀여운 사이즈로 AI를 굉장히 큰 모델 120빌리언까지도 돌릴 수가 있고요 예 그래서 요렇게 지금 진화를했습니다 거대한 DGX1에서 변화를 한게 170 테라플롭스에서 1 페타플롭스로 진화를 했습니다 물론 이 FP 16 정밀도랑 4 정밀도 좀 다르긴 하지만 아무튼 굉장히 좋아졌고요 근데 128기가 똑같이 됐고 파스칼에서 블랙웰 개반 요즘에 최신 최신 엔비디아 GPU B 블랙웰 B200 뭐 이런게 이제 블랙웰 GPU인데 최신 아키텍처가 적용이 됐고요 전력 소모도 3200W에서 240W로 굉장히 좋습니다.

- - 그래서 사이즈도 엄청나게 작아졌고 무게도 1.2km 가볍습니다 그냥 이렇게 들어도 굉장히 가벼운 혹은 가방에 넣고 다녀도 크게 무겁지 않은 그런 사이즈입니다 3999달러 거의 4000달러 육박합니다 병렬이 용이하다 정확합니다 이따가 아마 여기 슬라이드 나올 텐데 소개를 드리도록 하겠습니다 아무튼 요렇게 그 라지 랭귀지 모델 이런 데이터셋 이런 거 발전하고 파인 튜닝 요런 거를 다 할 수 있는 그런 장비이고요 왜냐면 이 엔비디아 기반이니까 사실 아마 요즘에 뭐 주식 시장에 관심 있는 분들은 다들 한번 들어 보셨겠지만 엔비디아가 되게 압도적이잖아요 그 어떤 GPU 그 AI AI 훈련이나 뭐 추론이나 다 엄청난 그 압도적인 그 쿠다 생태계를 보유하고 있어서 강력한 그런 훈련과 추론을 진행할 수 있는데 블랙웰 아키텍처 기반 최신 아키텍처 기반으로 이런 작업들을 엔비디아 쿠다 생태계를 이용해서 굉장히 효율적으로 진행할 수가 있겠습니다.

- - 그리고 DJ 파크 그래서 엔비디아에서 제공하는 거를 다 사용할 수가 있습니다 왜냐면 이 쿠다 생태계를 다 기본적으로 지원하는 블랙웰 아키텍처 기반으로 설계가 되어 있기 때문이죠 요런 것들 다 할 수가 있겠습니다 파인튜닝 임퍼런스 이런 거 다 해 볼 수가 있겠습니다 그래서 보통 이제 아마 이 AI를 좀 돌려 보신 분들은 아시겠지만 보통 그 V램의 크기에 따라서 그 파라미터가 큰 모델들 혹은 좀 무거운 모델들을 못 돌립니다.

- - 그래서 굉장히 아쉬울 때가 있었는데 DGX 스파크는 128GB에 굉장히 넉넉한 브램을 제공하고 있어서 이제 웬만한 모델들은 다 돌릴 수가 있다 굉장히 큰 파라미터를 보유한 모델도 돌릴 수가 있겠습니다.

- - 그래서 요렇게 그 이게 되게 장점이 엔비디아 싱크라는 거를 이용 가능하거든요 그래서 그 맥북 같은 거 노트북에서 그냥 연결을 그 원격으로 할 수가 있습니다 그래서 별도로 뭐 이렇게 선을 꽂지 않아도 원격 연결도 가능하고요 아니면 그냥 모니터를 그 장비 자체에 꼽아 가지고 그냥 직접 제가 지금 이렇게 틀어 놓은 것처럼 이거 모니터 그냥 꼽아 놓은 건데 이렇게 바로 볼 수도 있겠습니다 그래서 굉장하죠 그래서 연구용으로 굉장히 적합하다라고 좀 소개를 드릴 수가 있겠습니다 왜냐면 연구할 때는 굉장히 뭐 큰 파라미터 모델도 쓰거나 뭐 파인튜닝 할 때 쓰거나 이런 거를 좀 테스트해 볼 때 물론 이게 뭐 엄청 빠르지는 않습니다 그러니까 뭐 출론 속도나 이따가 돌려보면서 좀 느낄 텐데 막 그렇게 빠르진 않아요 오히려 5090 GPU가 더 빠릅니다 뭐 속도 면에서는 이게 그 HBM이 들어가 있진 않아요 여기에 그래서 뭐 H이나 뭐 이런 GPU보다 조금 느릴 수는 있는데 V램은 굉장히 넉넉하다라고 할 수가 있겠습니다 맞습니다 채팅에도 말씀 LPDDR 5라서 좀 느립니다.

- - 그래서 약간은 느린데 그래도 그 파라미터 큰 모델들을 충분히 얹을 수 있다라는 굉장한 장점은 있죠 예 그래서 이렇게 가능하다라고 보여 드릴 수 있겠고요 이따가 컴피도 직접 돌려 볼 텐데 요런 식으로 얼마든지 로컬에서 나노바나를 쓰듯이 요런 식으로 이미지 변형이나 이미지 생성이나 이런 것도 해 볼 수가 있겠습니다 5080에서 올라마로 돌려보셨다는데 그 5080이 더 빠를 수 있습니다 약간 올라마가 조금 느릴 수 있는데 그래도 그 큰 모델도 돌릴 수 있다라는 아주 큰 장점이 있겠죠 맞아요 무야무야 님 정확하게 알고 계십니다 그래서 그렇게 돌릴 수가 있고 라즈 유니파이드 메모리라는 거는 아마 뭐 애플 제품들 쓰신 분들 아시겠지만 그 V램이랑 별도의 그 일반 PC용 램이랑 이렇게 그 CPU용 램이랑 이렇게 별도로 구분돼 있지가 않고 하나의 통합된 메모리를 제공합니다 그렇기 때문에 이제 굉장히 큰 램을 사용할 수가 있죠 레이스 블랙엘 퍼포먼스 요런게 가능합니다.

- - 그리고 요거 아까 누가 채팅에서도 말씀 주셨는데 여러 개를 연결해 가지고 더 큰 모델도 돌릴 수가 있습니다 지금 DGX 스파크의 뒷면인데 요렇게 생겼어요 여기 전원 넣는 칸이고 USB C 세 개 들어가고 HDMI랑 그 랜선 꼽는데 있고 요게 이제 데이터를 전송할 수 있는 그 엔비디아 DGX 스파크만의 어떤 그 케이블입니다 코넥트 X7 NIC 요걸 이용해 가지고 렇게 두 개를 연결하게 되면 요 요거 QSFP 케이블 요걸로 연결해 가지고 그 마치 하나의 큰 또 슈퍼 컴퓨터처럼 그 램을 잘 사용을 할 수가 있습니다 그러니까 여기 두 개를 연결하면 200GB 밴드위스 커넥션 QSFP 커넥션이 제공한다고 하고요 즉 요렇게 연결하게 되면 속도가 200GB/세컨드의 밴드 기가비트인가 200GB/세컨드의 밴드위스를 가진다고 하고 그리고 405빌리언 파라미터 모델까지도 이렇게 얹을 수가 있다고 합니다 엄청나죠 열 개 연결 열 개는 가능한지 모르겠지만 아무튼 이게 가능하다고 합니다.

- - 아무튼 엄청납니다 제 젠슨 젠슨 만났습니다 이거 믿는 분들 계시는군요 일단 정정을 하나 하고 넘어가자면 이거 제가 글로 써 놨는데 이거 정정만 하나만 하고 넘어갈게요 유튜브 조코딩 개시물 보면 요거 요거 요거 다 나노바나입니다 글에도 써 있습니다. 5번 6번 이미지 나노바나 프로로 만든 이미지입니다 젠슨 안 만났고요 젠슨 안 만났고 이거 나노바나로 생성한 겁니다 그리고 요거 사인 사인도 나노바나입니다 그래서 원래는 그냥 그 일반 디바이스 그냥 엔비디아에서 보내 주셨습니다 엔비디아에서 리뷰용으로 보내 주셨고요 한국 인플루언서 중 처음으로 그래도 보내줬다는 아주 되게 그 자랑스러운 그런 일이 있었습니다 한국 인플루언스 중 처음으로 엔비디아에서 보내 주신 제품입니다.

- - 아무튼 정정 하나 했고요 요렇게 연결이 가능하다고 합니다.

- - 그래서 이렇게 정리하자면 이렇게 DGX 스파크 4T 그 저장 공간이 4테라입니다 4테라 쓸 수 있고 3999달러 4000달러 한 715만 원 정도의 가격에 출시를 했습니다.

- - 그래서 요렇게 AI 연구하시는 분들은 굉장히 가볍게 좀 작게 그 뭔가 개인용 책상에도 두면서 원래 막 슈퍼 컴퓨터 이런 거는 원격으로 연결해 가지고 뭐 서버랑 연결해가 쓰거나 이래야 되는데 얘는 진짜 들고 다니면서도 쓸 수 있을 정도로 굉장히 가볍고 연구용 테스트용으로 사용하기에 굉장히 적합한 제품이라고 할 수가 있겠습니다 가장 큰 장점은 이제 쿠다 생태계를 쓸 수가 있다 뭐 애플의 맥민이라던가 맥스튜디오 이런 것도 충분히 뭐 성능이나 뭐 램이나 이런게 되게 넉넉할 순 있어도 통합 메모리 이런게 넉넉할 순 있어도 이것처럼 이제 쿠다 생태계를 이용할 수가 없다라는 단점이 있죠 맥을 쓰게 된다면 아무튼 그렇습니다 그래서 이렇게 OEM 파트너랑도 런 제품들 출시했다고 합니다 엠바고인데 이제 엠바고 끝났기 때문에 소개를 드렸습니다.

- - 그러면 지금까지 이제 좀 대략적으로 소개를 드렸고요 그럼 하나씩 직접 실습을 하면서 어떤 걸 할 수 있는지 시도를 해 보도록 하겠습니다 시작을 해 보겠습니다 먼저 DGX 대시보드 요런 거 있는데 모니터링 할 수 있는 그런 도구를 기본적으로 제공합니다 그래서 이거 세팅해 놨는데 로컬 호스트 11000 요렇게 들어가면은 요렇게 시스템 메모리 얼마나 지금 쓰고 있는지 볼 수가 있는데 128GB 중에 74.58 쓰고 있네요 이게 아마 제가 컴피에 아까 돌려 놨는데 아직 안 꺼졌나 지금 쓰고 있습니다 그 컴피가 뭐 돌아가지 아무튼 컴피가 지금 돌아가고 있습니다.

- - 그리고 70 되게 넉넉하죠 그래서 굉장히 무거운 모델을 돌리더라도 다 거의 다 돌릴 수가 있다라고 소개를 드릴 수가 있고 GPU 유틸리션 이런 것도 잘 나오고 이렇게 모니터링을 할 수가 있겠습니다.

- - 그리고 또 가장 많이 쓸 법한게 그 올라마나 이렇게 그 온 디바이스 모델 활용해서 바이브 코딩하기 요거를 해 보도록 하겠습니다 여기 메뉴에 할 수 있는 일들이 다 나와 있어요. 스타트 빌딩원 디스파크 해 가지고 어떤 것들 할 수 있는지 많이들 하는 거 요런 거 나와 있습니다 뭐 임퍼런스 서버 구축하는 거 뭐 쿠다 데이터 사이언스 이렇게 연구하는 거 바이브 코딩하는 거 여기 뭐 파인 튜닝하는 거 이런 거 이미지하시는 분들 많이 하시죠 그래서 드림부스 로라 파인튜닝 하는 거 그리고 라마 팩토리 뭐 등등 멀티에 채 만들기 이런게 그냥 기본 가이드가 싹 되어 있습니다.

- - 그래서 싹 되어 있어 가지고 이걸 보면서 따라하기만 해도 이 DGX 스파크 기반으로 이런 AI 많이 하는 작업들 할 수 있도록 가이드가 굉장히 잘 되어 있습니다.

- - 그러면 가장 많이 하실게 아마 그 AI 비용이 워낙 비싸잖아요 그러다 보니까 이제 로컬로 나는 온 디바이스로 바이브 코딩을 하고 싶다 클로드 코드 200달러 이런 요금 안 내고 무제한 그냥 전기 전기세만 내면은 되게 무제한 공짜로 바이브 코딩을 돌리고 싶다 요런 거 쓰면 되겠죠 바이브 코딩인 VS 코드를 이용하면 내 디바이스를 이용해서 공짜로 그냥 무제한 바이브 코딩을 돌릴 수가 있겠습니다.

- - 그러면 요렇게 바 코딩인 VS 코드 30분 정도면 세팅 가능하다고 하는데 이미 조금 세팅을 제가 해 놔서 아마 금방 할 수가 있을 겁니다 그래서 한글로 보면은 번역 좀 걸리네요 VS 코드로 바이브 코딩하기 기본 아이디어 바이브 코딩을 설정하는 방법 VS 코드와 컨티뉴데브라는게 있더라고요 저도 처음 봤는데 이게 그 기본 VS 코드 안에서 그 바이브 코딩할 수 있게 도와주는 그런 도구인 거 같습니다 마치 커서나 클드 코드나 이런 거 익스텐션처럼 익스텐션으로 설치해서 쓸 수가 있더라고요.

- - 그래서 GPT OS 12빌리언 이게 오픈에 공개한 오픈 소스 120빌리언짜리 모델이죠 즉 1200억 파라미터입니다 굉장히 큰 모델인데 이게 돌아갑니다 DGX 파크 안에서는 이게 돌아간다라고 소개해 드릴 수 있겠고요 그래서 올라마 올라마가 이제 로컬 모델들 돌리게 그 만들어진 되게 간편하게 돌릴 수 있게 만들어진 툴이죠.

- - 그래서 올라마 사용해서 이렇게 그 바이브 코딩 세팅을 해 보도록 하겠습니다 그러면 세팅 지침 들어가면은 여기 세팅 방법이 다 나옵니다 그래서 올라마 설치는 어떻게 하냐 그 명령어 있으니까 그냥 터미널 딸깍 열어 가지고 여기다가 이거 복사 붙여 넣게 하면 설치가 됩니다 근데 저는 이미 설치를 해 놨습니다 오래 걸리니까 이런 거는 그래서 2단계는 선택 사항이라 요거는 넘어가고요 VS 코드 설치 VS 코드도 깔아 놨습니다 여기서 다운로드 받고 딸깍 설치하면은 이렇게 설치를 할 수가 있고요 컨티뉴 확장 프로그램 설치 요것도 설치를 해 놨습니다 일단 VS 코드를 좀 켜 보자면 VS 코드를 켜 가지고 VS 코드 여기 설치할 수가 있고요 이렇게 DGX 파크 안에서 VS 코드를 깔았고 컨티뉴다브라는 확장 프로그램이 있습니다 그래서 마켓플레이스에서 컨티뉴 검색해 가지고 설치할 수 있는데 보면은 컨티뉴 이렇게 설치하면은 요렇게 나옵니다 컨티뉴라는 오픈 소스 AI 코드 에이전트 만들어진 익스텐션이 있어 가지고 요거 클릭해 가지고 설치하실 수 있고요 요거를 설치하는 것까지 제가 미리 세팅을 해 놨습니다 그다음 과정은 저도 보면서 따라야 됩니다 좀 보면서 따라해 보도록 하겠습니다 로컬 출론 설정 이거 한글이니까 오히려 헷갈리는데 다시 원본 클릭 컨피그 아마 이 익스텐션에 설치 설정을 할 수 있겠죠 사용법 챗 오픈 퀵스타트 어떻게 하지 커맨드 컨트롤 L 눌러서 셀렉트 코드투 챗 오케이 그러면 여기서 컨트롤 L 눌러서 오네요 야 이렇게 거의 그것처럼 나오죠 커서나 이런 것처럼 바이브 코딩할 수 있게 이렇게 나오고 로컬 컨피그 이렇게 나오고 셀렉트 모델 그럼 애드 모델을 해서 오픈 AI GPT5 온라인 모델도 쓸 수 있는 거 같고요 근데 온라인 모델이 아니라 우리는 올라마 로컬로 돌리려고 이걸 하고 있죠.

- - 그래서 로컬러 공짜로 돌리기 위해서 이렇게 하고 있는데 모델은 OS 121년 요걸로 커넥트를 해 보도록 하겠습니다 이렇게 설정을 했고요 로그인 해야 되나 오케이 그냥 이렇게 할게요 로컬 올라마 아까 제가 돌려놔서 그런지 돌아가고 있고요 다운로드 채 모델은 됐고 연결된 건가 커넥트 연결됐습니다 바로 연결이 됐고요 자 그럼 121년짜리 이용해 가지고 코딩을 해 보겠습니다 에이전트 모드를 쓸 수가 있다고 합니다 이게 이런 식으로 그냥 코딩 에이전트 사실 에이전트라고 하면은 뭐 한 단계 수행하고 그다음 단계 수행하고 하는 그런 절차들이 프롬트나 이런 체인으로 연결되어 있을 텐데 그런 거를 이제 제공해 준다고 제공해 주나 봅니다 이 컨티뉴데브에서 그럼 요걸로 뭐 해 볼까요 일단은 가장 간단한 거 뭐가 간단하지 파이썬 아이고 가장 간단한 거 숫자 숫자 야구 게임 만들어 줘 요런 거는 굉장히 간단하겠죠 뭐야 not found 아까 설치를 했는데 인스톨 모델 뭐지 릴로드 오케이 왜 안 되지 올라마 올라마 서브를 하면 되려나 오케이 레디인즈 뭔가 꺼야 될 거 같은데 이런 거는 그래서 클로드를 제가 깔아 놨습니다 개꿀팁 하나 드리자면 클로드 알아서 해 달라고 하면 이런 터미널 명령 귀찮은 거 안 해도 알아서 싹 해주죠 제가 봤을 때 지금 올 아이고 올라마 충돌를 일으켜서 동작을 하지 않는 것 같아 다 VS 컨티뉴 CLI도 있네 데브를 활용한 로컬 파이브 코딩 세팅을 완성해 줘 이렇게 하면 알아서 명령어를 입력해 가지고 알아서 알아서 세팅을 해 주겠죠 올라마 리스트 이것도 한번 보도록 하겠습니다 OSS 깔려 있는데 깔려 있고요 두 개가 실행 중이다 알아서 이렇게 해결 잘해 줍니다. 클로드한테 그냥 다 시키면 됩니다 뭐 이런 프로세스 정리 이런 거 귀찮은 거 이제 뭐 직접 보고 뭐 킬 이런 거 하고 할 필요가 없습니다 요즘에 그냥 모든 컴퓨터에 내 동작을 다 얘가 대신해 줍니다 킬 하는 거 알아서 다 해 주죠.

- - 그러나 암호가 필요하네 암호는 뭐 입력해 줘야죠 요거를 입력하면 되겠습니다 이거 입력했고 알아서 익스텐션도 세팅을 해 주네요 확장 이미 설치되어 있습니다 야 개꿀리죠 아 모델명이 잘못 설정돼요 야 오류도 바로 찾아줘요 요렇게 모델 명이었다 야씨 이런 것까지도 해 줍니다 올라마 연결 테스트 했고요 정상 작동 중입니다 컨티뉴대 설정 완성 야 이런 것까지 와 이거는 직접 디버깅하려면 쉽지 않았을 텐데 대박입니다 DGX면 동영상 생성 이미지 생성 토큰 걱정 없나요 그렇죠 얘는 뭐 그 토큰 걱정이라는게 비용 걱정 말씀하시면 공짜죠 물론 전기세가 됩니다 전기세가 이제 비용이죠 그래서 뭐 전기세 그 전기세가 괜찮으시다면 이거는 거의 그냥 사용료는 공짜라고 할 수 있죠 메모리 대역폭이 아쉽다고 하던데 어떤가요 아 맞아 이게 메모리가 사실 그 아까 채팅에도 말씀드렸는데 LDD 뭐죠 LPDDR 5 LPDDR5라서 굉장히 느립니다 대신에 이제 큰 파라미터 모델을 얹을 수 있다라는 강력한 장점이 있죠.

- - 이제 세팅이 되지 않았을까 싶은데 한번 껐다 켜야 되나 한번 껐다가 ES 코드를 실행합니다 오케이 실행해서 확장을 열려면 아 여기서 커맨드 L 열렸고요 알아서 수정해 줬습니다 역시 클로드 코드 모든 걸 다 해 줍니다 클로드 코드가 최고입니다.

- - 그러면 이제 이런 클로드 코드 좋지만 비싸잖아요 굉장히 비싸기 때문에 공짜로 쓰는 방법 요렇게 바이브 코딩에 GPT OS를 연결하면 공짜로 쓸 수가 있겠죠 자 그러면 간단한 거 써 보겠습니다 파이썬 아이고 숫자 야구 게임 만들어 줘 돌아가요 돌아가요 로컬에서 지금요 온 디바이스로 들어가고 있습니다 공짜 공짜 야 구독이 필요가 없어요 공짜로 됩니다 그냥 전기세만 있으면 전기만 뽑아주면 공짜다.

- - 그래서 뭐 회사에서 전기세 내준다 그럼 회사에 갖고 가서 꽂아 가지고 하면은 공짜 어디 뭐 도서관 학교 이런데 어디 전기 쓸 수 있는 곳 독서실 이런데 가서 쓰면은 그 전기로만 있으면 다 쓸 수가 있다 태양광으로 발전을 해 버리면 그거 꽂으면 이제 공짜죠 지구 태양 에너지로 쓸 수 있는 AI 완벽합니다 비행기 탈 때도 이거 가져가 가지고 비행기에 꽂아 가지고 쓰면은 비행기에서 바이브 코딩 공짜 공짜로 쓸 수가 있겠습니다.

- - 그러나 굉장히 느립니다 조금 느리긴 하네요 조금 느리긴 합니다 오케이 발 생성 조금 느립니다 레스션 뭐야 이 이로고 끝난 건가 컨티뉴 싱킹 요 정도 토큰 생성 속도가 요렇게 따다닥 요렇게 나오는데 이게 어느 정도 속도인가 좀 측정을 해 보자면 120빌리언의 속도가 얼마나 나오는지 측정해 보고 싶은데 직접 간단한 프롬프트 돌려서 속도 측정하고 어느 정도인지 알려 줘 시켜 보겠습니다 쓰고 있네 계속 두 번 써도 되나 모니터링 감시 요거에서 얼마나 지금 쓰고 있나 보겠습니다 자원 메모리 남아돌아요 이렇게 올라마를 막 돌리고 하는데도 메모리가 남아둡니다 지금 75.7GB밖에 안 썼어요 보통 소비자용 GPU 5090 해 봐야 뭐 30 몇 기간인가요 그 메모리가 V램이 근데 얘는 남아도입니다 5090 두대 있어도 못 돌릴 그런 크기를 그냥 널널하게 돌립니다 아직 58.9%밖에 안 썼어요 CPU가 열일 하고 있습니다 이거 되고 있는 건가 되고 있는 거 같긴 한데 제너레이팅이 두 개 돌려서 또 더 느린가 5090 32GB 맞아요 32GB였던 거 같은데 그러면은 5090 두 대보다도 많습니다 그 지금 사용하고 있는 메모리가 5090 두 대가 있어도 다 안 올라가는 그런 메모리로 돌리고 있는데 얘는 그냥 넉넉하게 그냥 다 이거 담아도 아직 한참 남았죠 지금 128.5기가 5.5기가 더 있어요 그래서 아직 넉넉합니다 짜졌다 짜졌다 바이브 코딩 해 줬고요.

- - 숫자 야구 게임 바이브 커딩 해 줬고요 억셉트 딸깍 누르면 야 커서처럼 이렇게 쓸 수 있는데 얘는 로컬로 그냥 온 디바이스 모델로 짠 겁니다 대박이죠 자 숫자 야구 게임 이렇게 한글도 GPT OS가 짜줬는데 공짜로 뭔가 공짜로 코딩했다고 하니까 좀 더 뭔가 보람찬 되게 기본 좋은 느낌이네요 이거 토큰 그 API 그 비싼 거 안 썼습니다 다 공짜로 공짜로도 이걸 쓸 수 있다 한번 실행해 볼까요 실행하면은 숫자 야구 게임에 오신 것을 환영합니다 입력하세요 1 2 3 1 스트라이크 1 4 5 그러면 2 3 중에 하나죠 4 5이고 그러면 6 2 7 그러면 스트라이크 요게 스트라이크고 6 2가 스트라이크인가 6 2 9 아니다 그러면 27이고 2 8 안 했죠 근데 볼이었으니까 3 2 9 아닌가 잠깐만 2 스트라이크니까 27이고 27이 스트라이크 아 아니구나 27 오케이 27 스트라이크면 잘 짜진 거 맞나 27이고 3 27인가 맞죠 327 327 요렇게 숫자 게임 완벽하게 잘 돌아가는 걸 확인할 수가 있습니다 이렇게 잘 코드가 잘 짜졌고 실제로 돌아갈 수도 있고요.

- - 그래서 요런 식으로 오픈 소스로도 공짜로 이런 코딩 같은 걸 해 볼 수가 있다 그러면 이것만 되냐 아니죠 더 좀 더 어려운 거 짜 볼까요 좀 더 어려운 거 뭐가 좀 어려울까요 게임 만들어 보가 있는 파이 GUI 이용해서 게임도 만들어 보겠습니다 세션고 마치 그냥 커서를 쓸 수 있듯이 이렇게 커서처럼 쓸 수가 있습니다 120빌리언 모델이 그냥 돌아가요 테트리스 좋습니다 테트리스 GUI 아이고 기반의 테트리스 게임 만들어 줘 딸깍 그러면 이제 공짜로 전기세만 먹으면서 GPTOS 120빌리언으로 바이브 코딩을 할 수가 있습니다 테트리스 게임 과연 만들 수 있을지 그러면 이런 코딩을 이제 비행기에서도 인터넷을 끊고도 그냥 플러그만 비행기에다 전기 꽂으면 공짜로 그냥 하늘에서도 그냥 올라 인터넷 없이 다 구동료도 안 내고 이런 AI 코딩을 할 수가 있습니다.

- - 서칭 약간 느리긴 해요 천천히 이렇게 나오는데 요게 속도가 어느 정도인가 테스트 결과가 나왔습니다 한 번 더 하나 프롬트 처리 75인 0.66 즉 113/세컨드라고 합니다 120년 돌리는데 113.6 토큰/세컨드 요 정도 속도가 나옵니다 더 긴 컨텍스트도 테스트를 해 보고 있습니다 아무튼 요런 식으로 이제 바이브 코딩 할 수가 있다 짜주고 있어요 짜주고 있어요 테트리스도 나오고 있죠.

- - 그러나 조금 아쉽긴 하다 속도는 천천히 직접 사람이 쓰는 거보다 좀 빠르지만 그래도 천천히 이렇게 나오고 있습니다 그래도 온 디바이스라는 장점은 있죠 이게 뭐 기밀 코드 되게 유출이 안 되면 그 유출이 되면 안 되는 기밀 코드들 있잖아요 회사에 그런데서도 이걸 이용하게 되면 그냥 그 인터넷 다 끊고도 그냥 완전 안전하게 회사 기미를 지키면서도 바이브 코딩을 할 수가 있겠죠 조금 느리긴 하네요 약간 느립니다 파이 게임 UI 만드는 것도 아마 지금 열심히 만든 거 보니까 파이게임이라 그 라이브러를 이용해서 UI 그 GUI도 잘 만들고 있지 않을까 싶어요 다 되면 한번 실행해 보겠습니다 근데 얘는 동시에 실행하고 있어서 조금 더 느리게 나올 수는 있겠네요 아무튼 메모리는 굉장히 넉넉하다 이렇게 두 개의 실험을 돌리는데도 메모리가 남아돈다 59% 59%까지밖에 안 썼습니다 40%가 남아둡니다.

- - 그래서 그 V램 그 모델을 얹을 수 있는 램은 굉장히 크다 디스크도 넉넉합니다. 이 디스크가 4TB 4T바가 제공이 됩니다 굉장히 느리죠 그래도 좀 많이 짰어요 여기까지 버클래스 이게 지금 오픈 A에에서는 그 데이터 센터 오픈 AI의 데이터 센터에서 이렇게 생성해 가지고 우리한테 주는 거라면 요렇게 만드는 거는 그냥 내 컴퓨터 여기서 직접 꽂는 거죠 바로 내 컴퓨터에서 바로 꽂아 가지고 나오는 거니까 별도로 인터넷을 거쳐서 바깥에 갔다 오지 않습니다 안전하게 쓸 수 있다라고 소개드릴 수 있겠습니다 지금 돌리는 기기는 얼마쯤 할까요 이 기기가 아까 보여 드렸지만 가격이 4000달러 정도 합니다 DGX 스파크 가격 3999달러 4000달러이고 약 715만 원의 한국 사전 예약가로 출시가 됐습니다 여기서도 이렇게 모니터링 할 수 있고 GPU가 아직 넉넉합니다 열심히 돌려도 아직 20몇 %밖에 사용이 되지 않습니다 실시간 전력 이것도 한번 볼까요 이것도 클로드 코드한테 시키면 알아서 띄워 줍니다 전력량 볼 수 있는 것도 뭐 있겠죠 프로그램 같은 게 실시간 사용되는 전력 량을 구해 줘 아 근데 얘 작업 중이니까 따로 켜 가지고 하나 더 해 보겠습니다 클로드 속도가 약간 아쉽다라는 그런 단점이 있는 좀 더 작은 모델 돌리면 좀 빠를 수 있겠죠 120빌리언 아니고 더 작은 모델도 있잖아요 퀀도 30빌리언 뭐 이런 거 작은 모델 있죠 300빌리언짜리 아니면 퀀타이제이션 이런 양자화된 모델 돌리면 좀 더 빠를 수 있을 것 같고요.

- - 그리고 속도 뭐지 전력 실시간 전력을 와트 단위로 볼 수 있는 방법 추천 현재 기기 전력 소비를 오케이 텍스트 작은 모델 작은 모델도 한번 돌려 보겠습니다 빠르게 돌릴 때는 어느 정도 속도로 할 수 있는지 젠슨환 회장님이 직접 주시지는 않았고요 엔비디아 통해서 왔습니다 그래서 미국에서 엔비디아에서 생산해 가지고 그 엔비디아 담당자분께서 이제 인플루언서 근데 인플루언서 중에 최초로 주셨다고 해 가지고 굉장히 영광스럽게 생각하고 있습니다 인플루언서 리뷰로 최초 증정이라고 합니다 엔비디아 SMI랑 IPMI 툴 요걸로 볼 수 있다고 합니다 다음 속도 또 나왔어요 테스트 1번 테스트 2번 대충 한 110 111 113 요 정도 토큰/세컨드가 나오는 걸 볼 수가 있습니다 OS 120년으로 이렇게 120빌리언 파라미터 모델 치원 합리적인 속도 긴 응답은 다소 시간이 걸린다.

- - 아이고야 좀 오래 걸리긴 합니다 2차 테스트까지는 필요 없겠죠 이거 스톱 스톱하고 전력 모니터링이나 해 보도록 하겠습니다 시스템 전체 전력 소비 실시간 모니터링 요걸로 보도록 하겠습니다 가지고 그런 파일 디렉토리가 없다 뭐지 알로시네이션인가 안 깔려 있어서 그럴까요 근데 아까 깔려 있다 그랬는데 apt 인스톨툴 오케이 된 건가 안 되네 좀 작은 모델도 받아 볼게요 좀 실용적으로 쓴다면은 모델 이런 거 30빌리언짜리가 괜찮지 않을까 싶은데 그 올라마 들어가서 모델에 바이브 코딩은 퀀더 쓰면 좋겠죠 퀀더 30빌리언 아 이거 좋죠 30빌리언을 쓰면은 이거면 좀 빠르지 않을까 이거는 좀 코딩할 때 좀 속도감 있게 할 수 있지 않을까 싶어요.

- - 그러면 모델 올라마에 설치하고 VS 코드와 연결해서 컨티뉴 로브 코드 요렇게 시켜 켜놓겠습니다 그러면 컨쓰 코더 30빌리언은 좀 빠른지 한번 보도록 하겠습니다 엔비디아 이거 수량 엔디아 SMI L GPU 하나 있고요 엔비디아 GB10 요렇게 달려 있습니다 요걸로 보면은 요렇게 메모리가 많이 쓰고 있는데도 넉넉합니다 굉장히 많이 쓰고 있는데 넉넉하게 쓰고 있다 59%밖에 안 쳤죠 9다 13 최신 디바이스기 때문에 또 최신입니다.

- - 컨 2.5코더는 왜 설치하지 할로시네이션인가 컨이쓰 코더 아닌가 컨쓰 코더인데 31년 요렇게 해야 될 텐데 이거 이거 써야지 왜 2.5 써 여기 있네요 전력량 충분히 모니터링 할 수 있으니까 전력만 간단하게 보기 이렇게 아니면 요거 설치하던가 간단하게 볼까요 전력만 요렇게 전력만 간단하게 보기 요걸로 보겠습니다 여기 떴어요 요렇게 전력량 19 20W이 정도 이 정도 돌고 있습니다 컨더 요거 설정하고 있고요 오래 걸리네 18기라서 분야별로 어떤 건 3.0이 좋고 2.5가 좋은게 다른가요 감사합니다 HBM 아니라고 합니다 LPDDR 5가 들어간 그런 모델입니다.

- - 그러다 보니까 약간 속도가 느리다라는 단점은 있지만 그래도 큰 그 큰 모델을 얹질 수 있다라는 장점이 있죠 그래서 한 20W 계속 먹고 있네요 오케이 그럼 이거 다운 받아지면은 이제 바로 쓸 수가 있겠습니다 백그라운드 테스크 중에 2.5는 킬 할게요 2.5는 끝났네 킬 킬 킬 요거 요것만 받고 써 보고 그러면 그 저희 테트리스 아까 하다가 말았죠 테트리스 다 완성됐나 테트리스가 완성됐고 리퀘먼츠 이런 것도 있고 코드는 완성됐는데 적용을 안 해 줬네요 how to 유즈 아 이걸 직접 만들어야 되나 세이브 3 파일 얘가 직접 저장해 주진 않았어요 아무래도 이제 GPT 120년 그 오픈소스 모델이다 보니까 요게 이제 잘 동작하진 않는 거 같습니다 이거 컨티뉴 데브의 문제인 거 같기도 하고 익스텐션에.

- - 그러나 코드는 만들어 줬으니까 요걸로 돌려 보겠습니다 요렇게 구성하면 된다고 하니까 어플라이 하면 되나 오플라이 하면 될 거 같기도 램이 놀랍게도 128GB입니다 128GB 놀랍게도 128.5GB입니다 전력은 한요 정도 먹고 있습니다 20W 뭐이 정도 지금 올 그 쓰 코더도 지금 다운 받고 있습니다 그동안에 요거 적용이 되면은 좀 돌려보고 싶은데 너무 느린 거 같으니 직접 적용을 해 보겠습니다 요거 좀 오른쪽에 띄울 수 없나 얘를 레스테이션 요거를 테트리스.파파이 폴더 테트 테 트리스인가 이렇게 만들어서 코드 넣고 뭐야 아 이거 아닌데 그냥 이거 실행하면 되지 않을까 싶은데 인스톨 파이 게임 오케이 요것만 설치하고 실행하면 실행이 될 거 같습니다 메뉴 보시면 오른쪽에 메뉴 선택이 있는데 메뉴 보시면 오른쪽에 메뉴 선택 요건가 아 요건 아닌데 어떻게 옮길까요 MCP 이런 것도 연결할 수 있고요 모르겠습니다 상단 오른쪽이요 상단 오른쪽 요 요건가요 토을 요거 요거 요로 옮길 수가 있나요 요거를 어떻게 옮기지 모르겠습니다.

- - 잘 모르겠네요 아무튼 바로 실행해 보겠습니다 요거 이제 설치했으니까 실행 바로 해 보면 뭐야 실행은 됐는데 뭐지 바로 게임오버가 됩니다 뭔가 로직이 잘못 짜여진 거 같아요 이렇게 되네요 감사합니다 드레그하면 되는군요 그냥 이제로 들어왔습니다 컨쓰리 코더도 설치됐어요 오케이 그럼 컨쓰리 코더한테 얘 고쳐 달라고 할게요 속도도 좀 볼겸 테트리스 파일을 픽스 the game over isue when it starts it game over appears 요 정도로 고쳐 달라고 해 보겠습니다 아직 안 깔렸나 봐요 지금 아직 다운로드가 아까 18분인가 걸린다 그랬는데 조금 아직 설치가 안 됐나 보네요 얼마나 걸리지 아직 32% 굉장히 느립니다.

- - 그러면 딴 거부터 하고 올까요 딴 거부터 하고 오겠습니다 이거 굉장히 느리니까 딴 거를 하고 오도록 하겠습니다 일단 올라마 실 실 실 실 실행되고 있는 것 다 정 다 킬 킬해서 넉넉히 하자 V램 확보하기 위해서 다 종료하면은 이제 요게 훨씬 넉넉해지겠죠 그리고 컴피 실행해 볼 예정입니다 컨스트릭 코더는 다운로드는 계속 시켜 놓고요 나머지를 다 킬하겠습니다 다운로드 중인 거 킬 안 한다고 합니다 이렇게 제외하고 이거 너무 좋은 거 같아요 요즘에 이 명령어에 너무 이 알 수가 이게 어렵잖아요 사실 저 명령어를 잘 몰라 가지고 맨날 구글링 하면서 했는데 채치피 나오건 채치에 명령어 물어보면서 썼는데 이제는 그럴 필요가 없습니다 그냥 자연으로 말하면 알아서 다 해 줍니다 21기가 V램 언로드 실행하시겠습니까 오케이 실행 이미지 모델은 많이 느리긴 해요 복잡하게 하면 막 10분 이상 걸리고 저도 이거 한번 테스트해 봤거든요 좀 느리긴 하더라고요 이게 꽤 걸립니다 그래서 이미지를 빨리빨리 뽑기는 좀 어렵다 비밀 번호를 요구하고 있다.

- - 요거는 제가 아니다 킬 했고 리스타트 리스타트를 할 필요가 있나 야 다크니까 V램 메모리가 이제 통합 메모리가 8GB바로 확 줄었습니다 그래서 이제 넉넉하게 확보가 됐고요 넉넉하게 확보가 됐고 이제 컴피 실행을 해 보겠습니다 컴피도 설치를 제가 해 놨습니다 컴피 설치 설치해 놨는데 실행해 새 노트북 세팅 맞아요 이것도 저도 사이 디바이스에 처음 거의 처음 설치한게 클로드 코드였습니다 그래서 클로드 코드로 이런 식으로 세팅 싹 해 달라라고 하면은 그냥 싹 해 주기 때문에 굳이 뭐 명령어 찾아 가지고 우트 이런 거 설정 알 필요가 없습니다 그냥 다 시키면 됩니다 그냥 개꿀이죠.

- - 예 이제 메모리 굉장히 넉넉해졌고요 120B가 남았습니다 지금 실행해 주고 있는 거 같은데 좋아요 안 누르신 분들 좋아요 한 번씩만 눌러 주시면 감사드리겠습니다 160분 계신데 좋아요는 48개인데 한 번씩만 눌러 주시면 큰 힘이 됩니다 성공적으로 실행됐습니다 들어가 보겠습니다 컴피 요건 다운 받다 말았는데 요거 말고 간단한 거부터 템플릿 이번에 플럭스 데브가 새롭게 나왔습니다 플럭스 데브 어떻게 잘 되는지 한번 테스트를 해 보겠습니다 왜냐면 이거 테스트해 보느라 이거는 설치를 해 놨습니다 그래서 모델이 지금 다운받아져 있는데 그리고 텍스트에서 이미지 이미지 참고해 가지고 변형하는 거 이런 거 다 되니까요 나노바나의 오픈 소스 버전 새로 나온 플럭스 2 데브를 써 보도록 하겠습니다.

- - 그러면 여기서 이제 필요한 모델들은 제가 다 다운받아 줬고요 이제 로컬로 이미지 생성을 돌릴 수가 있습니다 그래서 레퍼런스 이미지가 있으면 뭐 요거를 하면 되는데 없기 때문에 얘는 뷰활성화해 놓고 텍스트 이미지가 가능합니다 뭘 뽑아 볼까요 뭘 뽑아면 좋을까 기본은 해 봤으니까 포토 오브 케이팝 아이돌 걸 싱ing a s 요렇게 뽑고 her t스 says 조코딩 조코딩이라고 써져 있는 티셔츠를 입은케팝 아이돌 걸을 뽑아 보도록 하겠습니다 한번 생성을 해 보면 실행 요거 로컬레소라고 합니다 이것도 뭐 채치 GPT 그니까 그 채치T나 나노바나 이런데 쓰는게 아니라 그냥 여기 내 컴퓨터에서 내 컴퓨터 DGX 스파크에서 돌아가고 있는 겁니다 DGX 스파크에서 열심히 이렇게 돌리면서 이미지를 생성하고 있습니다 이렇게 텍스트를 입력한 이미지를 뽑고 있고요 이미지가 굉장히 느립니다 저도 아까 이 테스트로 돌려봤는데 굉장히 느리긴 하더라고요 굉장히 느립니다 러닝.

- - 그래서 아마 꽤 걸린 다음에 나오긴 할 텐데 그래도 좋죠 왜냐면 이런 모델을 돌리려면은 사실 뭐 GPU 이런 거 빌려 쓰려면 꽤 걸릴 텐데 요거는 공짜로 그냥 내 전기만 있으면 돌아갈 수가 있겠습니다 조금 느리기 때문에 살짝 딴 거를 하고 오도록 하겠습니다 아 메모리 얼마나 쓰는지 잠깐 보자면 전기와 메모리 얼마나 먹고 있나 보도록 하겠습니다 올라마보다 이게 전기 좀 덜 먹나 봐요 일단은 이미 생성 플럭스 그 2데브 플럭스 2 대브 돌리는데 64GB가의 메모리를 쓰고 있습니다 야 그러면 이거는 일반 소비자 GPU에선 돌리기 쉽지 않은 모델이죠 소비자용 GPU 뭐 5090 해 봐야 52GB인데 그거를 훨씬 넘어쓰는 메모리를 쓰고 있습니다.

- - 근데도 이제 전력량은 13.1 뭐 1 2 정도 전기를 먹고 있으니까 아까 그 바이브 코딩 할 때보다 좀 덜 먹는 거 같아요 아까 8기가 기본이었으니까 56기 56기면은 이 돌리기 쉽지 않은 모델이잖아요 뭐 A100 H100 이런 거 있지 않은 이상 쉽지 않은 모델인데 플럭스 2는 8비트 양자와도 32GB다 야 그러면 8비트 양자와 한 모델도 590이 돼야지만 소비자용 최정상급 모델만 뽑을 수 있는데 얘는 이제 그냥 가볍게 가볍지 않지만 그냥 그 원본 모델을 그냥 받아다가 쓰더라도 메모리를 넉넉하게 쓸 수가 있다 아직 40% 나 남아 있습니다 공간이 아직 많이 남았어요 스파크 공개 시점과 플럭스 2가 동시에 나왔다 그러게요.

- - 이 플럭스 2를 좀 보여 주기 딱 좋은 그런 예제인 거 같습니다 왜냐면 플럭스 2 같은 걸 이제 일반 주표에서는 돌리기 쉽지 않으니까 그러고 컨쓰 코더는 아 이건 딴 거구나 딴 거고 컨쓰리 코더는 요 아닌가 8개월밖에 안 받았는데 뭐지 근데 이거 같이는 못 돌 아 30빌리언 돌릴 수 있으려나 다시 안 되네 켜니까 이렇게 와 이거 31년 모델이 돌아가고 있나 한번 시켜 시켜 볼게요 건 30 B 컨티뉴점 연결해서 와 거의 다 먹었습니다 메모리가 이렇게 둘 다 돌릴 수 있어요 이미지를 생성을 하면서 플럭스 2로 이미지를 생성하면서 퀀쓰 코더 30빌리언을 동시에 돌려도 돌아갑니다.

- - 꽉 찼다 100% 아 이거는 너무 너무 꽉 찼는데 갑자기 느려졌습니다 이렇게 하면 좀 무겁다 이미 생성과 코딩을 꽉 차기엔 좀 어렵다.

- - 그래서 둘 다 하기에는 조금 무겁네요 약간 무겁습니다 엄청 쩔었네 갑자기 연결이 끊겼습니다 이게 너무 과부화가 된 거 같아요 그러면 좀 이미지 사이즈를 좀 줄일까요 이미지 사이즈 이게 너무 커 가지고 또 오래 걸리는데 이거 한 512로 그냥 작게 얘도 512로 그냥 작게 하나 뽑아 보도록 하겠습니다 실행 누르면 뭐야 네트워크 에러 뭐지 이게 끊긴 거 같습니다 아마 그 로컬 호스트 그 실행하는게 끊어졌나 실행을 해 보겠습니다 여기 실행하던에 끊겼나 따로따로 해야겠다 약간 OS가 된 거 같아요 클로드 코드가 그냥 뭐 명령어를 치기보다 클로드 코드를 열고 컴피 UI 실행해 줘 요렇게 시키게 됩니다.

- - 그래서 컴피 무슨 뭐 명령어 써 가지고 띄우고 안 하고 그냥 이렇게 하면 알아서 명령어 써 주니까 두 개 동시에 돌아가서 하나 그 터진 거 같습니다 컴피 서버 아까 켜 놓은게 터진 거 같은데 요거 다시 실행하고 있습니다 아 이게 유니파이드 메모리니까 그 GPU 작업이 다 꺼지더라도 기본적으로 한 8GB 정도는 잡아 먹습니다 V램과 GPU 사용량을 별개로 보여 줄 수 있나요 모델이나 작업마다 사용량이 둘이 별개로 사용되던데 볼 수 있나요 사용량을 별개로 V램과 GPU 사용량 GPU 사용량은 요렇게 볼 수 있긴 하거든요 여기서 요렇게 요게 있어요 요걸로 보여 드릴게요 차라리 이게 낫겠네요 여기 메모리 사용량 그리고 GPU 유틸리세이션이 따로 나옵니다 요걸로 모니터링 하겠습니다 얘는 그럼 안 봐도 되겠죠 사실 같은 거니까 컴피 다시 켜졌습니다 다시 켜졌고 프롬트는 복사해 놓고 다시 실행 일단 요렇게 돌리고 있고 전력은요 정도 먹고 있고 요거는 끄고 다운로드가 잠깐 끊겼었나 보네요 다시 다운 받고 있다고 합니다 아직 안 됐겠지 아직 안 된 거 같습니다 다운로드 다 됐어 근데 돌아가고 있는데 확실히 올라갔죠 컴피 켜졌으니까 좀 올라갔습니다 근데 GPU 사용량은 굉장히 작네요 왜 이렇게 별로 안 쓰지 돌아가는게 맞나 백그라운드를 보겠습니다 뭐지 컴피 아니다 다 이미 생성이 돌아가는지 잘 모르겠어요 너무 느리다.

- - 이 다운로드가 굉장히 느린데요 잘 돌아가고 있습니다 로그를 보니 프롬트 수진됨 모델 로딩 완료 진행 중이라고 합니다 꽤 걸리는군요 러닝 정상 작동 중 GPU 메모리 많이 쓰고 있고요 사용률 16% 온도 46도 오케이 플럭스 2는 대형 모델이라 로딩과 생선 시간이 걸립니다 굉장히 느립니다 아무튼 조금 기다려 보면서 그냥 플럭스 2가 어떤 건지 좀 살펴볼게요 일단 요거 성능은 요렇게 띄워 놓고 그래도 메모리 굉장히 많이 씁니다 야 이거 일반적으로 그 플럭스 2를 돌릴 수가 있나 이거 애초에 야 이거 일반 소비자용 지표에서는 돌리기 쉽지 않을 것 같아요 굉장히 무겁습니다 플럭스 2 새로 나왔으니까 한번 소개 한번 드리겠습니다 플럭스 2 블랙포레스트 랩이라고 그 플럭스 나왔을 때 굉장히 혁명이었죠 그 오픈 소스기도 하고 성능도 굉장히 좋아 가지고 이전에 스테이블 디퓨전의 어떤 독주를 조금 뭐야 다시 시작 독주를 좀 막았던 되게 왜 이래 파이어폭스 충돌이 일어났습니다 종료해야겠다 너무 무거운 작업을 시켜 가지고 그런가 약간 뻗은 거 같습니다 아이고야 뻗었습니다.

- - 그러나 이게 잘 안 돌아가네 아까 돌렸었는데 아까 성공을 했었는데 하나만 해야겠습니다 이것저것 하려니까 좀 안 되는 거 같은데 하나만 해 보겠습니다 이미 생성만 딱 파 보겠습니다 그러면 지금 터졌어 안 쓰는 프로세스 싹 정리하고 깔끔하게 다시 컴피 실행해서 플럭스 이미지 생성만 진행하자 요렇게 시켜 놓겠습니다 예제 워크플로우를 다른 거로 바꿔야 되나 아까 근데 사실 플럭스 2를 해 봤거든요 그래 가지고 해 봐서 그래도 이미지가 나오길래 이거 라이브 때 돌리면 되겠다라고 생각을 해 가지고 했지만 갑자기 또 안 되네요 아까 올라마를 켜서 그런가.

- - 그래서 싹 다 안 쓰는 거 좀 정리하고 컴피 터미널해도 되고 API도 됩니다 그래서 API로도 쓸 수가 있습니다 컴피시 시작 중 와트 이렇게 오케이 이거 입력했으니까 바로 여기 터미널로도 실행할 수 있거든요 터미널로 실행할게요 좀 더 안정적일 테니 프롬프트 플럭스 2로 이미지 생성 시작해. 생성시켜 보겠습니다 올래 올라마는 실행할 때만 메모리 잡아 먹어요 그렇군요 플럭스 2는 나온지 얼마 안 됐습니다 플럭스 2는 최근에 나왔습니다 컴피는 그 이전부터 있었는데 이미지나 영상 같은 거 이제 로컬 머신에서 돌리기 굉장히 잘 돼 있는 툴이고 요즘에는 컴피 클라우드라고 해서 클라우드 상에서 막 GPU도 빌려주고 거기서 이민 생성이나 영상 생성 할 수 있게 해 주는 그런 도구로까지 발전했습니다.

- - 그러면 터미널을 통해서 노드를 작성하는 건가요 해셨는데 노드는 이미 워크플로우가 있으면은 그게 제이슨 형태로 돼 있거든요 노 워크플로우가 그러면 그것만 있으면 사실 그냥 그 워크플로우에 어떤 프롬트를 어디 넣어서 실행하는 거는 그냥 코드로도 할 수 있습니다 여기 지금 코드로 실행하고 있죠 플럭스 2 제너레이트 파이 요거는 제이슨 워크플로우가 있으면 그냥 실행할 수가 있습니다 시작하고 있습니다 UI는 계속 튕기고 터지고 해 가지고 이걸로 한번 해보고 1024면 좀 오래 걸릴 것 같긴 한데 그래도 생성 진행 중입니다 이제 프롬트 됐고 VA 로딩 로딩 됐고 기본 양자와 버전으로 자동으로 다운받아 지는군요.

- - 근데도 꽤 메모리가 먹네요 큰 모델이라 시간이 좀 걸립니다 오케이 프롬트가 좀 어려웠을까요 34GB가 야 이것만 해도 지금 이미 5090은 터졌습니다 근데 이 DGX 스파크라서 돌릴 수 있다 많은 미싱 레이어 직접하라고 하네요 직접 해 보겠습니다 돌아가고 있는데 오류가 났나 킬 K 돌아가고 있나 돌아가고 있는 거 같긴 한데요 그죠 이 정도 먹었으면 이 정도 먹었으면 좀만 기다려 볼까요 생성될 때까지 약간 기다려 보도록 하겠습니다 되고 있는 거 같은데 왜냐면 이전에 테스트할 때 잘 됐습니다 그래서 프롬트 안 바꾸고 그냥 기본 프롬트 했을 때 잘 됐는데 얘는 좀 안 되네요 황영 선물로 지금 영상이 아니 사진 만들고 있습니다.

- - 그러나 굉장히 느리긴 합니다 이 플럭스 2 새로 나왔다고 또 이거 플럭스 2 해 봤는데 굉장히 느립니다 좀 더 가벼운 거 할 거 그랬습니다 뭐 컨 이미지 이런 거 되게 잘 나오잖아요 요즘 그 그런게 아마 좀 더 가볍지 않을까 넷플럭스 2보다는 굉장히 느립니다 되고 있는 건가 50기가 뭔가 설정이 빠졌다 GPU 사용량이 그러게요 10%밖에 안 되네요 GPU 사용량이 10%밖에 안 되고 뭐야 192초 동안 진행하다가 실패했습니다 결국.

- - 어허 아 그러면은 다시 안전빵으로 그냥 기본 프롬트로 해 보겠습니다 이거 저장하 네 기본 프롬트 있거든요 요걸로 뽑아 볼게요 일단 레퍼런스 이미지는 없으니까 요것만 싹 없애고 예 기본 프롬트로 실행을 해 보겠습니다 사이즈를 바꿔서 그런가 느려이 뭐 안 맞는게 네 기본 프롬트는 이겁니다 The woman is wearing a small pail yellowed be 비니 입고 있는 여성이 나오고요 위더 화이트 패브릭 패치 on더 front트라 화이트 패브릭 패치가 있는데 이게 플럭스 컴피라고 써져 있는 텍스트가 이렇게 있는 그런 거를 그 비닐를 쓰고 있는 여성이 나옵니다 요거는 돌아가고 있는 거 같죠 근데 얘가 좀 팍 늘진 않네요 75GB 정도 쓰고 있고 이렇게 그래프도 나오는군요 되고 있습니다 얜 되고 있습니다 15% 네 15% 되고 있고요 굉장히 느립니다 플럭스 이미지 로컬로 물론 뽑아 볼 수 있을 텐데 굉장히 느리게 뽑을 수 있다라는 점 나노바나였으면 바로 그냥 바로 생성이 됐겠죠 설마 GPU 사용 안 하고 CPU 사용하는 거 아닌지 해 주셨는데 그런가 근데 그러기에는 그래도 꽤 사용이 되는 거 같긴 한데 물어볼까요 GPU 잘 사용되고 있는 거 맞아 CPU 사용 거 아니야 왜 이렇게 느려 GPU 사용 상태 근데 꽤 쓰는 거 같긴 해요 꽤 쓰긴 하는데 CPU로 돌리고 있었나 NV탑 제가 해 놨네요 GPU 근데 이 이거랑 똑같긴 하거든요 사실 요거랑 에러가 발생했다 이건 아까 그건데 이건 비정상입니다 UI로 할 건데 잘 쓰고 있는지 확인 되고 있나 또 안 됐네 이게 굉장히 불안정해요.

- - 어허 아이구야 그러네요 지금 또 비워졌네 이게 쉽지가 않네요 플럭스 괜히 플럭스로 했나 이거 그래도 플럭스가 의미가 있는게 이게 또 무거운 모델이라 이런 걸 돌릴 수 있다라는 걸 또 보여 드리는게 또 의미가 있긴 한데 컴피 실행하는 명어 알려주 죠 터미널에서 돌려서 그런가 싶어서 별도 터미널에서 돌리려고 합니다 이렇게 가환경 활성화하고 컴피 실행 이렇게 이게 낫네요 아까 이게 계속 끊겨 가지고 뭐 되면 끊긴지 모르겠지만 GPU 잘 쓰고 있는게 맞겠죠 디바이스 이렇게 오케이 자 이제 다시 실행을 해 보겠습니다 되고 있나 오 되고 있는 거 같긴 한데 되고 있는 거 같긴 하죠 굉장히 느립니다 플럭스 어떤 건지 살펴보면 또 꺼지려나 이거 아까 하다가 또 꺼져 가지고 플럭스 2가 새로 나왔습니다 혹시 모르시는 분들 위해서 잠깐 소개드리면 아마 이번 주 뉴스에 또 뉴스에도 소개를 드릴 텐데 플럭스 2라는 모델이 나왔고요 그 스테이블 디퓨전만 있었던 그 오픈소스 시장에서 플럭스 2가 출시되면서 이제 플럭스 1 데브 이용해서 막 그걸로 이제 오픈 소스 이미 생성을 할 수 있게 됐던 그런 모델이고 처음에 그 XAI 일론머스크의 그 그록에서도 플럭스 모델과 함께 이제 이미 생성을 시작을 했었습니다.

- - 그래서 요렇게 굉장히고 퀄리티로 나옵니다 그래서 나노바나의 어떤 오픈 소스 버전 혹은 이제 오픈 소스 아닌 것도 있긴 해요 뭐 프로나 이런 거는 API로 쓰고 해야 되는데 아무튼 오픈 소스도 공개한 그런 모델입니다 요렇게 굉장히 곧 퀄리티 이미지 만들어 주고 나노바나처럼 이제 그 이미지 수정이나 이런 것도 굉장히 일관성 잘 지켜주면서 하는데 나노바나 2 나노바나 프로가요 정도 성능을 보인다면 그 옐로 스코어니까 이게 그 비교 점수에서 나노바나보다는 조금 못하지만 그래도 나머지 나노바나 원 모델보다 오히려 좋아요.

- - 그래서 나노바나보다 좀 더 좋아진 모델을 이제는 오픈 소스로도 플럭스 2 데브 이용하면 만들어 볼 수가 있겠습니다 코스트가 굉장히 낮죠 굉장히 저렴하게 만들어 볼 수가 있겠습니다 심지어 이제 오픈 소스로 돌리면은 전기세밖에 안 먹습니다 잘 돌아가고 있는 거 같고요.

- - 근데 뭔가 대다가 많네 항상 테스트 방송 마무리쯤에 Q&A 지금 받아도 될 것 같습니다 지금 좀 오래 걸리는 거 같아서 지금 혹시 뭐 Q&A 있으시면은 질문 주시면 좋을 것 같습니다 잘 되고 있는 건가 일단 되게 올라가네 아이고야 100기까지 올라갑니다 이러다가 아까 터졌었는데 채용 설명해 매달 한두 개의 프로덕트 출시 어떤 서비스가 크게 잘되었을 때 외부 기업에서 모방하거나 유사한 서비스 출시한다면 근데 그 아시겠지만 모방하는 걸 막을 순 없습니다.

- - 모방하는 거는 그냥 모방한다라고 생각을 하고 만들어야 되고 뭐 방어 한다면 사실 좀 도이 뭐야 이거 오류가 나네요 와이씨 뭔가 문제가 있는 거 같습니다 왜 그랬지 아까는 됐는데 또 안 되는게 되게 신기하네요 뭔 문제일까 아까는 왜 됐지 죽었음 아 얘는 아까 됐는데 그래서 아까 생성한 이미지를 보여 드리면 아까 생성한 거 이거 어디지 이거 일단 이렇게 하고 죽었음 이렇게 떴는데 원인이 뭘까 아까는 됐는데 원래 됐다 안 됐다 하나요 그렇군요 왜 안 됐지 컴피 일단 아까 생성된 어떤 결과물을 좀 보여 드리면 설치가 어디 됐는지도 모르겠네요 클로드한테 막히다 보니까 이 설치가 어디 됐을까 여기 있다 컴피 여기 있네요 여기에 아마 컴피에 있나 리절트 폴더가 있을 텐데 아웃풋 오케이 요렇게 나옵니다.

- - 이거는 아까 생성한 거거든요 그래서 아까 생성한 거는 그 프롬트대로 잘 생성을 해 줬어요 그 이 뭐냐 빈이 쓰고 있는 거에 요렇게 플럭스 2 컴피라고 적힌 이 여성의 이미지 굉장히 잘 나왔죠 이게 이제 플럭스 2로 생성된 여성의 이미지입니다 요렇게 그냥 공짜로 뽑아 볼 수가 있겠습니다 그래서 요거는 이제 컴피 그냥 기본으로요 로컬로 돌려 가지고 나 나온 그런 플럭스 2 모델을 돌려서 나온 그런 이미지입니다.

- - 그래서 아까는 됐는데 또 안 되네요 그래서 편집은 할 때 이제 요거 완성된 거를 아까는 된 거 기준으로 보여 드려야 될 거 같네요 아무튼 해상도 이게 1280인가 아무튼 꽤 큰 사이즈였는데 사이즈도.

- - 자 아무튼 꽤 큰 사이즈 이미지 속성 1 2 4 8 1 2 48 픽셀 1 2 4 8 8 832 픽셀의 아주 큰 요런 이미지도 그냥 로컬에서 그 AI 모델 그냥 로컬로 돌려 가지고도 뽑을 수가 있겠습니다.

- - 원인을 찾고 있는데 참 모르겠네요 왜 안 되는지 모르겠지만 그러면 그냥 마지막으로 요거 보고 끝내면은 다운로드 일단 엔비디아 감사하다는 말씀 다시 한번 감사하다고 한번 다시 말씀드리고요 엔비디아에서 이제 인플루언서 시딩이라고 하죠 이 좀 이 사용하고 홍보 좀 리뷰 좀 해 달라라고 해서 선물을 주셨고요 그래서 이렇게 선물 받은 사람이 누가 있냐 일론 머스크 일론 머스크도 젠슨 황에게 직접 이렇게 DGX 스파크 선물을 받았고요 그리고 샘 알트만 이제 제너슨 왕이 직접 찾아와서 이렇게 DGX 스파크 선물을 주셨습니다 그리고 한국의 이재용 회장님 정인선 회장님 똑같은 박스를 받으셨습니다.

- - 그래서 저도 DGX 스파크 조코딩도 받았다 월클라인에 저도 합류를 했습니다 감사합니다 아무튼 요렇게 DGX 스파크 받아 가지고 잘 테스트를 해 봤고요 그래서 플럭스 2도 저도 돌려봤는데 처음엔 돌아갔습니다 플럭스 2도 돌아가는 것까지 확인을 했고 그리고 바이브 코딩 그 GPT OS 120빌리언도 돌아가는 거 확인을 했습니다 물론 속도는 좀 느리지만 그래도 쿠다 생태계 기반으로 돌릴 수 있어서 쿠다 생태계를 이용한 어떤 그 온바이스로 사실 이제 서버가 보통 되게 바쁘잖아요 아마 기업에서 AI 연구하시는 분들은 GPU를 점유하겠다라는 팀이나 사람들이 너무 많아 가지고 그 H GPU는 바로바로 쓰기가 어렵습니다.

- - 그래서 간단한 테스트는 이런 데서 좀 파라미터 넓은 거를 파라미터 큰 거를 써 가지고 로컬에서도 이 DGX 파크 이용하면 테스트 할 수가 있겠고 그래서 그걸 기반으로 테스트를 해 본 다음에 된다 하면은 이제 실제 기업에 H100 B 200 이런 좋은 GPU 빌려 가지고 거기에다가 올리면 되겠죠 왜냐면 같은 쿠다 생태의 기반이니까 그래서 그런 식으로 활용해 볼 수 있다는 점 소개를 드립니다 요 정도만 할까요 이게 굉장히 뭔가 오류가 많았던 거 같습니다 프로세스가 두 개 동시 실행하면서 충돌된 것으로 보입니다 한번만 더 해 볼까요 한번만 더 해보고 안 되면 접고 이렇게 한 번만 더 일단 돌려 보겠습니다 나머지 다른 램 먹을 수 있는 것들 싹 정리를 해 가지고 조금 깔끔하게 15. 이 와트는 별로 오히려 바이브 코딩할 때가 더 많이 먹네요 이미지보다 이것도 정리하고 아 여기 있군요 아 아까 들어갔지 좋습니다 둘 이상 실행되는 부분 반 방지책 그러게요 이거는 또 여기에 방지책 없나 하고 물어보면은 알려 줄 겁니다 클로드 코드가 최고입니다 아 요거 실행 숫자 아까 두 번 딱 이게 두 번 눌러서 그런가 근데 그 문제는 아닐 거 같긴 한데 이게 아까도 안 됐거든요 근데 처음에는 또 됐습니다 그래서 뭐가 문제였는지 모르겠지만 처음에는 또 됐습니다.

- - 늦게 들어왔네요 써본이 어때요 해주셨는데 써 보니까 약간 딱 그건 거 같아요 그러니까 실용적으로 뭔가 속도감 있게 아 이거 막 실험하면서 하기에는 약간은 느립니다 왜냐면 그 LP DDR 5 그 약간 느린 램이기 때문에 HBM이 아니기 때문에 막 그 H100이라던가 아니면 뭐 B100 B200 이런 것처럼 완전 그 데이터 센터에 쓰는 이런 엄청난 GPU보다는 확실히 느렸 느린데 그냥 많은 파라미터를 얹을 수 있다라는게 큰 장점인 거 같아요 그래서 GPT OS 121년 그리고 플럭스 2 대브 이런 거 굉장히 많은 메모리 지금도 굉장히 많은 메모리를 먹고 있는데 이거를 돌릴 수가 있다라는게 굉장히 큰 장점인 거 같고 또 쿠다 생태계를 쓸 수가 있다 이게 굉장히 큰 장점이죠 그렇게 소개를 드릴 수가 있겠습니다 아 이거 살려고 계획 중인데 공개된 오픈소스 적당한 LLM을 바이오 연구 목적으로 강화 학습시킴으로써 특수한 세 테스크의 성능 향상을 보고 싶은데 이 정도로 가능할까요 이거는 가능하지 않을까요 LLM 적당한 LLM이라 하면은 뭐 OS 120빌리언도 잘 돌아가니까 강화 학습시키면서 특수한 테스크 성능 향상 근데 속도는 기대하시면 안 되긴 합니다 조금 천천히 될 수 있다 돌려놓고 다음날 와 가지고 확인하고 요런 것도 괜찮을 수 있죠.

- - 이미지나 이런 거 말고 계산을 빡세게 하고 싶고 저는 언어는 잘 모르고 바이브 코딩으로 적당한 모델들을 개발한 바가 있었어요 충분히 괜찮지 않을까 일단 뭐 쿠다 기반으로 웬만한 그 라이브러리들 이런 거 다 지원을 할 테니 그렇군요 좋습니다.

- - 그래서 이 정도 되는게 잘 없어요 그러니까 이게 제품은 좀 잘 나온 거 같은게 아마 연구형으로 막 H는 분들 있으실 텐데 H이 생각보다 그 V램이 작습니다 80GB밖에 안 돼요 뭐 HBM이 들어가서 굉장히 속도는 빠르긴 한데 H을 쓴다고 해도 80GB밖에 안 됩니다.

- - 그래서 요것보다 훨씬 더 램은 넓 램은 큽니다 그래서 더 큰 파라미터를 얹을 수 있지만 좀 속도는 느리다 H200 H 블랙웰 제일 최신 아키텍처가 블랙웰이잖아요 BVM을 볼까요 하드웨어 분석 그런 거 같아요 HBM이 비싸서 HBM이 비싸서 VM 사이즈 VM 사이즈가 야 B부터는 180기가 192기가네요 야 완전 크네요 블랙웰이 확실히 굉장히도 넉넉하게 줍니다 그리고 HBM도 달려 있고 하니까 엄청 이런 것도 넉넉할 것 같고요 H200이 141GB 거의 H200보다 조금 안 되는 급으로 주긴 하네요 그 VM 용량을 본딩 기술이 HBM 메모리 늘리는데 제일 큰 제한 아 그렇군요.

- - 아무튼 굉장합니다 GB 200 와 이런 거는 100 384기가 아주 넉넉합니다 네 그래서 한 H 정도를 쓰되 조금 더 느린 어떤 영 H보다 조금 더 큰 파라미터를 얹고 싶으면서 속도는 상관없다 하시는 분들은 쓰시면 좋지 않을까 비백을 살 수 있으면 좋겠네요 엔비디아 혹시 이제 리뷰 영상 보신다면 제가 잘 리뷰해 드릴 수 있습니다.

- - GB 200 하나만 주시면은 제가 하루일 리뷰해 드릴 수 있습니다 GB 200 가격이 얼마까요 요즘 구하고 싶어도 못 구할걸요 가격 네 이거 주시면은 7억 원 7억 원 아 아니구나 지금 전체 시스템이 DGX B200은 그냥 하나는 약 1억 정도 아 그렇군요 하나는 1억이고 아니네 GB 200이라 아 그렇군요 두 개의 블랙 GPU가 한 개의 암 CPU로 구성된 가속기 GB 200 하나만 주시면 하루 종일 24시간 방송할 수 있습니다 돌리던 거 죽었네요 이거는 아마 껐다 켰다 하면 다시 되지 않을까 싶어요 처음엔 됐습니다 그리고 처음 걸로 그냥 살려 가지고 편집본에서는 그 처음 거 완성한 걸 좀 보여 드리겠습니다 아무튼 그렇습니다.

- - 그래서 좀 총평 총 정리를 해 보자면 좀 느리다 너무 느린다기보다 이제 장점을 좀 말씀드리면 약간 느리긴 한데 그래도 브램이 넉넉하다 브이램이 아주 넉넉합니다 그래서 다시 보여 드리면 싹 닫으면서 전기요 정도 끄니까요 정도 먹고요 VM이 로컬로 호스트 8기가 굉장히 넉넉하게 준다라고 정리해 볼 수 있는데 속도는 조금 느리다 업데이트 업데이트를 하면은 좀 이제 오류 오류가 좀 있는데 이거는 아마 그 플럭스 2 모델이 좀 무겁기도 하고 뭔가 설정의 오류가 있는 거 같긴 한데 아까 잘 됐습니다 그래서 그 플럭스 2까지도 돌릴 수 있다라고 소개드릴 수 있겠습니다 전기도 몇백트 수준 아니에요 해셨는데 아까 쭉 보면서 써 봤거든요 근데 많이 쓸 때도 한 아까 얼마 나왔죠 20W 나왔나 아무튼 그렇게 많이 나오지는 않습니다 몇백 와트가 나오지는 않더라고요 맞아요 권성진 님께서 아주 깔끔한 정리 해 주셨는데 VM 128기가 인거에 의가 있으신 분들 그리고 또 빠진게 있다면 쿠다 생태계를 이용하고 싶으신 분들 그러면은 이제 이 DGX 스파크 추천드리고요 근데 뭐 빨리빨리 이미지를 뽑고 싶다 하시면은 차라리 그 5090 이런 걸 사시는게 낫지 않을까 좀 연구 목적이라고 정리를 해 볼 수가 있겠습니다 그렇습니다 맥민이 최고 사양 플러스 쿠다 그렇죠 맥민이는 이제 쿠다 생태계가 없으니까 그 엔비디아 GPU에서 돌아갈 수 있는 어떤 라이브러리들 사용하거나 실험 연구하거나 할 때는 못 쓰죠.

- - 그러면 이제 이번 라이브는 마치도록 하겠습니다 조코딩 님은 어디 쓰실 건가요 저도 그냥 오픈소스 실험용으로 쓸 거 같습니다 오픈소스 실험용 혹은 어떤 제품을 만들면은 약간 시간 오래 걸려 되는 거 있잖아요 뭐 예를 들어 하루 뒤에 어떤 AI 리포트를 보내 드립니다 뭐 이런 서비스를 만들었다 하면은 얘를 이용해서 돌려 가지고 그 뭐 121년 이런 것도 천차히 처리하면 처리할 수 있으니까 처리하고 응답받아 가지고 돌려주는 약간 그런 어떤 그 상용화된 서비스를 운영할 때도 서버로서 활용할 수 있을 것 같습니다 그렇습니다 그러면 뭐 마무리하기 전에 뭐 질문 아까 봤다고 말았는데 질문 하신 분들 있으시면은 질문 답변 조금 하고 종료를 해 보겠습니다 딱 그 10시에 종료하겠습니다 지금 9시 50분이군요.

- - 그래서 아까 질문 제가 놓친 거 답변 좀 드리자면 그 누군가 그 아이디어 뺏기면 어떡하냐 해 주셨는데 그런 일 비비자 합니다. 이거 이런 일 있었는데 실제로 아마 아시는 분들 아시겠지만 동물상 테스트 제가 만든 걸로 굉장히 유명한 동물상 테스트 검색해 보시면 제게 1등으로 나오긴 하거든요 그래도 가장 유명해 가지고 제게 1등으로 나오는데 이거와 비슷한 동물상 테스트가 수없이 많습니다 다 베겨 가지고 출시를 다 합니다.

- - 이 동물 테스트 출시 안 한 데가 없습니다 막 스노우에서도 활용해가 출시하고 뭐 일반 그 제 채널 보시는 분들 중에 동물사 테스트 만드신 분들 한 100명 이상 되시는 거 같고요 엄청 많습니다 이런 베기는 거는 흔한 일입니다 이거는 어쩔 수 없습니다 이거 뭐 이거를 막을 수 있는 방법은 없어요 베기는 거를 그 너무 아예 UI까지 너무 똑같다라고 하면은 좀 도위적인 문제는 걸 수가 있죠 그래서 되게 유명한 사례 중에 그 당근 마켓 라인 표절 논란 요런 거 있었죠 이것도 법적으로 막은게 아닙니다 당근 마켓에서 네이버 라인 네이버 자회사 라인의 베트남 출시앱 요거 당근 마켓 너무 베겼다라고 공론화를 한 거예요 그냥 이거 베겼네 하고 공론화를 한 거지 뭐 법적으로 막을 방법은 거의 없을 되게 쉽지 않습니다.

- - 쉽지 않습니다 조크님 관련 초보자 질문인데 우분투 잘 몰라도 윈도우 바이브 코딩하던 사람도 쓸 수 있을까요 해셨는데 쓸 수 있긴 합니다 어떻게 쓰냐 그 재미나이 CLI나 아니면 제가 쓴 것처럼 클로드 코드 있잖아요 클로드 코드를 여기 터미널용 클로드 코드를 까셔 가지고 클로드를 설치하시면 그러면 끝입니다.

- - 이 이후부터는 그냥 여기에 자연으로 하고 싶은 걸 여기 적으시면 됩니다 뭐 뭐가 있을까요 그 자연으로 하고 싶은 거 뭐 크롬 브라우저 설치하고 싶다 그러면은 인터넷에 뭐 들어갈 필요도 없습니다 크롬 브라우저 설치해 줘 이렇게 쓰기만 하면 됩니다 이러면은 알아서 다 해 줘요 그러니까 클로드 코드 설치나 아니면 재미나의 CLI 설치까지만 되시면은 여기에 그냥 한글로 쓰시면 됩니다 설치해 주시 설치하는게 다 하는군요 이렇게.

- - 그렇기 때문에 요것만 하면 된다 야 레퍼런스 퀘스트 님 만 원 후원 너무 감사드립니다 야 만 원이나 감사합니다 알아서 이렇게 명령어 다 수행해 주죠 그래서 설치나 이런 거 다 해 줍니다 이 수도 이런 거 붙은 건 비밀 번호 제공하긴 해야 되는데 그냥 비밀 번호도 알려 주면 알아서 해 주긴 합니다.

- - 그리고 구글 상위 노출 조코딩 님 노하후 상위 노출은 그 상위 노출은 그 이 만들어 놓은 영상도 있거든요 그 동물쌍 테스트 SEO 아니면 SEO 강의 이런 것도 있을 텐데 여기 중에 아마 SEO 하는 파트가 있었던 걸로 기억하고 있는데 그 구글 서치 콘솔이랑 이 구글 검색을 하려면 구글 서치 콘솔이라는게 있거든요 여기에 일단은 기본적으로 등록을 해야 됩니다 그래서 검색 실적 개선하려면 여기 등록해야 되고 태그 같은 거 잘 설계해야 되고요 여기 보면은 개발자 도구 켜 보면은 이런 거 있죠 그 헤드태그 보면은 요런 거 요런 타이틀 디스크립션 이런 거 키워드 잘 넣어 가지고 설계를 해야 되고요 아무튼 이 또 요즘에 바이브 코딩 시대니까 이 코드 개선하는 것도 그냥 SEO 강화하는 코드 작성해 줘 하면은 알아서 SEO 개선도 해 주고 하긴 합니다 그래서 그런 방법이 있겠고 그리고 또 중요한 건 이제 실제로 사람들이 많이 써야죠.

- - 그래서 실제로 사람들이 많이 쓰게 홍보도 많이 하고 뺑크가 많으면 또 점수가 올라가거든요 그래서 뺑크라는게 있어요 그러니까 사람들이 얼마나 내 사이트를 많이 언급하냐인데 백크를 많이 하도록 유도하면은 오히려 그 오히려가 아니고 백크를 많이 유도해서 내 사이트 링크가 많이 언급되면은 또 점수가 높아집니다.

- - 다시 질문 클로드 프로를 쓰고 있는데 개발 위주와 문서 정리를 하는데 맥스로 가야 할까요 맥스로 가면 좋을까요 해주셨는데 그 엄청 이 사용량에 따라 다를 것 같아요 저는 이제 막 되게 폭풍 많이 쓰니까 그냥 맥스를 만 편하게 썼는데 가끔씩 쓰신다면 사실 프로도 충분하지 않을까 싶긴 합니다 이건 사용량에 따라 다를 것 같아요 그래서 하시다 보면 그 한 개에 부딪혀 가지고 그 이제 더 이상 오늘 쓸 수 있는 건 마감입니다가 자주 뜨신다라고 하면 그때 올리셔도 될 거 같아요 일단 프로를 쓰신 다음에 윈도우에서 클로드 CLI 한글이 되나요 한글 됩니다 한글이 그냥 한글로 채팅을 입력하면 한글이 됩니다 맞습니다.

- - 그래서 여기도 다 한글로 지금 하고 있죠 크롬 설치하는 거 이런 거 한글로 하고 있습니다 아무튼 만 원 후원 감사드리고요 그리고 이 조코딩 채용 홍보 마지막으로 질문이 없으니까 한번 해보자면 요즘 채용 중입니다 조코딩닷넷 여기 채용 페이지가 보시면 프로덕트 빌더를 뽑습니다 프로덕트 빌더 채용 중이고요 월급과 동시 월급과 매출을 동시에 버는 1인 창업가 프로덕트 빌더를 모시고 있으니까요 AI 시대의 1인 유니콘으로 성장하고 싶으신 분들은 많은 지원 부탁드리겠습니다 링크는 저희 고정 채팅에도 남겨 놨습니다.

- - 아무튼 긴 시간 주셔서 감사드립니다 116분 아직 계신데 좋아요 안 누르신 분들 있다면 한 번씩만 부탁드리겠습니다 최고의 최용 공고 감사합니다 좋아요 31번째 감사드립니다 바보 재갈량 님 그 VIP 가입 감사드리고요 리누스 버전 데스크탑 모델 좀 만들어 주라고 어필 좀 해 주세요 리스 버전 데스크탑 모델 알겠습니다.

- - 채용되면 조코딩 님과 함께 할 수 있나요 함께 할 수 있습니다 함께 같이 근무를 할 수가 있습니다 많은 지원 부탁드리겠습니다 요거 채용 설명에는 이전 라이브 한 개 있으니 그거 봐 주시면 감사드리겠습니다 아니면 여기 채용 공고에 자세히 써 있는데 굉장히 좋은 포지션입니다 창업할 때 굉장히 리스크가 큽니다 보통 어떤 서비스를 만들었다 아무도 안 써 줍니다 그게 디폴트입니다.

- - 그래서 광고를 태우고 바이러를 태우고 해도 겨우겨우 사용자가 늘어날까 말까 하는데 조코딩에서 서포트를 해 드립니다 그래서 동물상 테스트 5천만 뷰 5천만 뷰가 나왔던 동물상 테스트의 팁 알려 드리고요 글로벌 바이럴 방법 알려 드리고요 아무튼 도와드립니다.

- - 그리고 창업 성공률 굉장히 낮죠 근데 안전하게 실패하더라도 연봉 4천만 원 그냥 받아가실 수 있으니까 많은 지원 부탁드리겠습니다 그리고 혹시나 이제 아직 지원하기엔 실력이 부족하다라고 느끼시는 분들은 교육도 진행 중이니까요 교육 아직 아직 진행하진 않았지만 이제 곧 런칭될 예정이니까요 프로덕트 빌더 강의 진행 준비 중이니까 요거 알림 신청 그 구글 폼 하나만 등록해 주시면 알림을 가장 먼저 받으실 수가 있겠습니다 힐드러머 님 감사합니다 고생 많았습니다.

- - 이제 10시가 다 되어 가니까 10시 되면은 종료하도록 하겠습니다 늦은 시간까지 시청해 주셔서 감사드리고요 프로덕트 빌더라는 네이밍 감사합니다.

- - 요거 그냥 뭔가 프로덕트를 만든다라는 그 관점에서 사실 이제는 기획 개발 마케팅 디자인 이런게 분리되어 있지가 않습니다 AI로 그냥 딸깍딸깍하면은 다 할 수가 있죠 모든 영역을 그래서 모든 영역을 해서 결국에 어떤 프로덕트를 만드는 직무라고 좀 정의를 해 봤습니다 아무튼 10시가 됐으니 이제 종료를 해 보도록 하겠습니다 긴 시간 주셔서 감사드리고 또 일요일 라이브에 또 뵙도록 하겠습니다

- - -

감사합니다.