Spaces:
Sleeping
Sleeping
Update start.sh
Browse files
start.sh
CHANGED
@@ -23,7 +23,7 @@ nohup ./llama-server \
|
|
23 |
--port 8000 \
|
24 |
--host 0.0.0.0 \
|
25 |
--threads 2 \
|
26 |
-
--ctx-size
|
27 |
--mlock \
|
28 |
--jinja \
|
29 |
--temp 0.2 \
|
|
|
23 |
--port 8000 \
|
24 |
--host 0.0.0.0 \
|
25 |
--threads 2 \
|
26 |
+
--ctx-size 16384 \
|
27 |
--mlock \
|
28 |
--jinja \
|
29 |
--temp 0.2 \
|