Spaces:
Paused
Paused
Update app.py
Browse files
app.py
CHANGED
@@ -94,7 +94,7 @@ def generate_response(model_name, prompt, system_prompt, max_length, temperature
|
|
94 |
},
|
95 |
],
|
96 |
]
|
97 |
-
|
98 |
# Generate text with all parameters
|
99 |
output = pipe(
|
100 |
messages,
|
@@ -108,12 +108,20 @@ def generate_response(model_name, prompt, system_prompt, max_length, temperature
|
|
108 |
return output[0][0]["generated_text"][-1]["content"]
|
109 |
|
110 |
# Default system prompt in Turkish
|
111 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
112 |
Problem hakkında düşün ve çalışmanı göster.
|
113 |
Çalışmanı <start_working_out> ve <end_working_out> arasına yerleştir.
|
114 |
Sonra, çözümünü <SOLUTION> ve </SOLUTION> arasına yerleştir.
|
115 |
Lütfen SADECE Türkçe kullan."""
|
116 |
|
|
|
117 |
# Create Gradio interface
|
118 |
with gr.Blocks() as demo:
|
119 |
gr.Markdown("# Gemma 3 Reasoning Model Interface")
|
@@ -153,10 +161,10 @@ with gr.Blocks() as demo:
|
|
153 |
label="Temperature"
|
154 |
)
|
155 |
max_tokens = gr.Slider(
|
156 |
-
minimum=
|
157 |
-
maximum=1024,
|
158 |
value=512,
|
159 |
-
step=
|
160 |
label="Max New Tokens"
|
161 |
)
|
162 |
top_p_value = gr.Slider(
|
|
|
94 |
},
|
95 |
],
|
96 |
]
|
97 |
+
print("Generating response...")
|
98 |
# Generate text with all parameters
|
99 |
output = pipe(
|
100 |
messages,
|
|
|
108 |
return output[0][0]["generated_text"][-1]["content"]
|
109 |
|
110 |
# Default system prompt in Turkish
|
111 |
+
|
112 |
+
#default_system_prompt = """Sana bir problem verildi.
|
113 |
+
#Problem hakkında düşün ve çalışmanı göster.
|
114 |
+
#Çalışmanı <start_working_out> ve <end_working_out> arasına yerleştir.
|
115 |
+
#Sonra, çözümünü <SOLUTION> ve </SOLUTION> arasına yerleştir.
|
116 |
+
#Lütfen SADECE Türkçe kullan."""
|
117 |
+
|
118 |
+
default_system_prompt = """Sen kullanıcıların isteklerine Türkçe cevap veren bir asistansın ve sana bir problem verildi.
|
119 |
Problem hakkında düşün ve çalışmanı göster.
|
120 |
Çalışmanı <start_working_out> ve <end_working_out> arasına yerleştir.
|
121 |
Sonra, çözümünü <SOLUTION> ve </SOLUTION> arasına yerleştir.
|
122 |
Lütfen SADECE Türkçe kullan."""
|
123 |
|
124 |
+
|
125 |
# Create Gradio interface
|
126 |
with gr.Blocks() as demo:
|
127 |
gr.Markdown("# Gemma 3 Reasoning Model Interface")
|
|
|
161 |
label="Temperature"
|
162 |
)
|
163 |
max_tokens = gr.Slider(
|
164 |
+
minimum=64,
|
165 |
+
maximum=1024*4,
|
166 |
value=512,
|
167 |
+
step=16,
|
168 |
label="Max New Tokens"
|
169 |
)
|
170 |
top_p_value = gr.Slider(
|