염산하
으... 맥북 프로 m4 16기가 메모리 모델 샀다고 퍼플렉시티한테 쿠사리 먹었다. 님 16기가 메모리로는 로컬에서 돌릴 수 있는 건 고작 이정도 뿐이라구!
염산하
@[email protected] · Reply to 염산하's post
https://huggingface.co/unsloth/gemma-3-12b-it-GGUF Q4_K_M 모델 받아보니 잘 돈다. 살짝 느린 느낌이 있긴 하지만 괜찮은 수준.
으... 맥북 프로 m4 16기가 메모리 모델 샀다고 퍼플렉시티한테 쿠사리 먹었다. 님 16기가 메모리로는 로컬에서 돌릴 수 있는 건 고작 이정도 뿐이라구!
@[email protected] · Reply to 염산하's post
https://huggingface.co/unsloth/gemma-3-12b-it-GGUF Q4_K_M 모델 받아보니 잘 돈다. 살짝 느린 느낌이 있긴 하지만 괜찮은 수준.