로컬 시스템으로 Vibe Coding을 시작하자 (1)

 

 

Vibe Coding..

바이브코딩이 뜨기 시작한지 1년이 살짝 넘었습니다.

한때는 바이브코딩은 이미 구식이다.. 라는 주장도 잠시 나왔지만 지금 시점에서는 많은 주목을 받는 개발 방법 중 하나로 자리잡고 있습니다.

그러나 정액제로 사용하는 웹 인터페이스 기반의 ChatGPT, Gemini 등과 달리 바이브코딩은 API를 이용하기 때문에 사용하는만큼 비용이 증가하죠.

신나게 집중해서 바이브코딩으로 개발을 진행하다보면 "아차~~"하는 순간에 수십~수백 만원 이상의 비용이 청구될지도 모릅니다.

로컬 시스템에 모델을 설치하여 연결해서 쓰면 되겠지.. 라고 쉽게 생각할 수 있지만 시스템 사양이 충분히 따라주어야 하고, 전력 사용량(전기세)의 부담을 짊어져야 한다는 한계가 있죠.

 

저도 3년쯤 전에 비교적 비싼 비용을 들여 RTX 4080과 인텔 i9-13980HX 프로세스를 장착한 노트북을 장만했지만 초기형 RTX 4080이어서 그런지 VRAM이 12GiB밖에 되지 않았고, 또 RAM도 16GB만 장착되어 있었습니다.

당시에는 강의가 좀 많아서 개발에는 크게 집중하지 못했고..

그래서 시스템의 성능을 그냥 놀려두고 있었는데.. 이제와서 사용해보려고 하니.. 지금 나오는 모델들은 너무 대규모라.. 제 시스템으로는 제대로 작동시키기도 어렵더군요.

NVIDIA에서 나온 시스템은 거의 700~800만원 선이어서 새로 구매하기도 부담이 너무 컸습니다.

그나마 RAM이 32GB라면  저용량 고효율로 잘 만들어진 모델이라면 충분히 가능하다고 하지만..

23년 경에는 4만원 안팎이었던 DDR5 4800 16GB RAM이 지금은 40만원정도 합니다.

10배가 올랐습니다.

 

그래도 더 이상 늦추면 따라가기 어려울 것 같더군요.

눈물을 머금고 10배나 비싸진 DDR5 4800 16GB RAM을 하나 주문했고, 오늘 장착했습니다.

 

728x90

 

Gemini에게 물어보니 로컬시스템에서 사용할만한 가장 좋은 Coding용 모델은 Qwen2.5-Coder:32B 모델이라고 합니다.

성능과 정확도는 약간 떨어지지만 더욱 빠르게 사용하려면 Qwen2.5-Coder:14B 모델이 좋다고 하더군요.

32B는 거의 GPT-4o에 근접하는 코딩 실력과 뛰어난 한국어 능력을 보유하고 있다고 합니다.

사실.. 근접한다.. 육박한다.. 와 맞먹는다..는 것은 좀 차이가 있긴 합니다만.. 무료라는 장점이 있으니 그 정도는 감안해야 하겠죠.

 

16GB RAM으로는 좀 답답하거나 약간의 문제가 있을 수 있다고 하지만 32GB RAM이라면 문제없이 사용할 수 있다고 합니다.

현재의 모델들은 VRAM이 부족하면 시스템의 RAM을 당겨와서 사용하기때문에 16GB RAM에서도 구동은 되지만 심각한 병목현상으로 인해 사실상 사용이 어려울 수 있다고 합니다.

 

그래서 오늘 32GB RAM으로 확장하고 바로 테스트를 해 보았습니다.

지난 번에는 너무 느리고 버벅거리다가 결국 죽어버리는 경우가 많았는데 오늘은 문제없이 작동하네요.

Qwen2.5-Coder:32B 모델은 약간 느리다는 느낌은 있었지만 사용하지 못할 정도는 아니고 그냥 좀 천천히 일하네.. 정도였습니다.

Qwen2.5-Coder:14B 모델은 확실히 빠르더군요.

3~5배정도는 빨라졌을 거라고 하던데 확실히 체감상 그 정도 느낌을 받을 수 있었습니다.

 

대신 32B 모델은 환경설정, 파일 생성, 수정 등 스스로 알아서 해 주는데 14B 모델은 많은 부분에서 직접 수행하지 않고 저보고 해 달라고 하더군요.

Gemini의 비유로는 32B 모델은 "설계자"라고 할 수 있고, 14B 모델은 "조수"라고 할 수 있을 거라고 합니다.

딱 맞는 비유같네요.

 

그래서 제가 직접 작업을 하고 바이브코딩의 도움을 받는 낮 시간이나 일반적인 코드 작성 시에는 14B 모델로 빠르게 작업하고, 좀 복잡하고 수준 높은 코드 작성 시 또는 제가 자고 있을때 알아서 작업하라고 시키고 싶은 밤 시간에는 조금 느리더라도 32B 모델을 사용하는, "하이브리드" 방식을 사용하기로 했습니다.

 

전기요금은... 재작년 가을에 설치한 6KW 태양광 발전설비의 도움을 받을 수 있어서 별로 걱정하지 않아도 됩니다.

비싼 돈 주고 설치했는데 부지런해 써 줘야죠.

한전 직원이 쌓여있는 전력량이 너무 많다고 걱정을 할 정도였으니.. 정말 부지런히 쓰려고 합니다.

 

그림출처: Gemini NanoBanana2로 직접 그림

 

미루고 미루던 RAM 증설로 빠르게 바이브코딩 환경을 따라잡고 있습니다.

앞으로는 개발에도 좀 더 집중할 수 있을 것 같네요.

다음 글에서는 로컬시스템에서의 바이브코딩 개발 환경 설정 과정을 다뤄보도록 하겠습니다.