run.sh

#!/bin/bash
/app/llama-server -m /data/model.gguf -c 32768 --port 7860 --host 0.0.0.0