인공지능
-
맥미니 프로(램 24gb)에서 deepseek-r1:32b 구동인공지능 2025. 3. 17. 15:03
deepseek의 충격으로 지난달 openai plus 구독을 중단하고, 맥미니 프로를 구매하였다.기존에 사용하던 pc가 램이 32gb이었지만 그래픽 카드 메모리가 6gb밖에 되지 않아 deepseek-r1:32b를 구동하기에는 버거웠다. 메모리가 최소 20Gb이어서 메모리는 부족하지 않았지만 그래픽 카드 메모리가 문제였다. 그래픽 카드 메모리가 부족하니 메인 메모리로 돌리니 발열이 엄청나고 팬소음도 엄청 났다. gpu가 아니니 속도도 엄청 느리고.그래서 와이프 생선이라는 명분으로 2월 말에 구매. 기존 pc는 조카들에게 넘겼다. 4년전에 구매하였지만 초등학생이 사용하기엔 아직 과한 사양이다. 기존 pc에서 구동할 때는 발열이 엄청 나서 팬 소음이 장난 아니었다. 하지만 맥미니 프로에서는 조용하다. 주변..
-
인공지능 모델을 다양하게 사용할 수 있는 프로그램 Chatbox(openai, ollama, gemmini, deepseek 등)인공지능 2025. 2. 2. 07:24
인공지능 모델을 사용할 수 있는 프로그램들이 많이 나온 것 같습니다. webui도 지난번에 포스팅 했어요.https://ax7taehun.tistory.com/289 나만의 chatGPT 페이지 만들기(open webui 설치)Open WebUI는 완전히 오프라인으로 작동하면서 워크플로에 적응하는 확장 가능한 자체 호스팅 AI 인터페이스입니다도커로 편리하게 설치할 수 있습니다.1. 도커를 우선 설치합니다.https://www.docker.coax7taehun.tistory.com이번에는 chatbox를 소개하려고 합니다.우선 chatbox를 설치합니다.https://chatboxai.app/en Chatbox AI: Your AI Copilot, Best AI Client on any device, Fr..