맥미니 프로(램 24gb)에서 deepseek-r1:32b 구동

deepseek의 충격으로 지난달 openai plus 구독을 중단하고, 맥미니 프로를 구매하였다.

기존에 사용하던 pc가 램이 32gb이었지만 그래픽 카드 메모리가 6gb밖에 되지 않아 deepseek-r1:32b를 구동하기에는 버거웠다. 메모리가 최소 20Gb이어서 메모리는 부족하지 않았지만 그래픽 카드 메모리가 문제였다. 그래픽 카드 메모리가 부족하니 메인 메모리로 돌리니 발열이 엄청나고 팬소음도 엄청 났다. gpu가 아니니 속도도 엄청 느리고.

그래서 와이프 생선이라는 명분으로 2월 말에 구매. 기존 pc는 조카들에게 넘겼다. 4년전에 구매하였지만 초등학생이 사용하기엔 아직 과한 사양이다. 

기존 pc에서 구동할 때는 발열이 엄청 나서 팬 소음이 장난 아니었다. 하지만 맥미니 프로에서는 조용하다. 주변 소음에 묻혀서 소리도 안난다. 집에는 작년에 중고로 30만에 구입한 노트북(i5, 8gb ram, gpu는 따로 없음)이 있어서 코드는 노트북에서 돌리고 생성형 인공지능은 맥미니로 돌리니 쾌적하다. 공간도 덜 차지하고. 

맥미니 활성상태보기

노트북 작업관리자

우선은 이 상태로 작업을 하고 정말 필요할 때엔 다시 chatGPT pro를 구독하지 않을까싶다. 그때는 어떤 ai가 더 나을까? 궁금하다.