hsuwill000 commited on
Commit
3493aef
·
verified ·
1 Parent(s): 8cf3ae8

Update start.sh

Browse files
Files changed (1) hide show
  1. start.sh +1 -1
start.sh CHANGED
@@ -23,7 +23,7 @@ nohup ./llama-server \
23
  --port 8000 \
24
  --host 0.0.0.0 \
25
  --threads 2 \
26
- --ctx-size 131027 \
27
  --mlock \
28
  --jinja \
29
  --temp 0.2 \
 
23
  --port 8000 \
24
  --host 0.0.0.0 \
25
  --threads 2 \
26
+ --ctx-size 16384 \
27
  --mlock \
28
  --jinja \
29
  --temp 0.2 \