Ollama 어떻게 하나요?
#6
by
hellostevehaha
- opened
제가 ollama에서 llama-3.2 bllossom 모델을 쓰고싶은데 safetensors 파일이라 안되고 gguf로 바꿔야 한다고 하더라고요? 그냥 safetensors로도 할수 있는 방법이 있나요? 아니면 gguf로만 되는건가요? 그리고 변환하거나 safetensors로도 할수 있는거면 어떻게 하는지도 알려주세요 제가 초보라서요... 어떤 분이든 알려주시면 감사하겠습니다.
ollama docs를 보시면 safetensors로 사용하는 방법이 나옵니다. gguf으로 사용하실려면 아래의 링크를 참조해서 사용하시길 바랍니다.
https://huggingface.co/Bllossom/llama-3.2-Korean-Bllossom-3B/discussions/1