Chan-Y commited on
Commit
261080b
·
verified ·
1 Parent(s): a19e6a3

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +13 -5
app.py CHANGED
@@ -94,7 +94,7 @@ def generate_response(model_name, prompt, system_prompt, max_length, temperature
94
  },
95
  ],
96
  ]
97
-
98
  # Generate text with all parameters
99
  output = pipe(
100
  messages,
@@ -108,12 +108,20 @@ def generate_response(model_name, prompt, system_prompt, max_length, temperature
108
  return output[0][0]["generated_text"][-1]["content"]
109
 
110
  # Default system prompt in Turkish
111
- default_system_prompt = """Sana bir problem verildi.
 
 
 
 
 
 
 
112
  Problem hakkında düşün ve çalışmanı göster.
113
  Çalışmanı <start_working_out> ve <end_working_out> arasına yerleştir.
114
  Sonra, çözümünü <SOLUTION> ve </SOLUTION> arasına yerleştir.
115
  Lütfen SADECE Türkçe kullan."""
116
 
 
117
  # Create Gradio interface
118
  with gr.Blocks() as demo:
119
  gr.Markdown("# Gemma 3 Reasoning Model Interface")
@@ -153,10 +161,10 @@ with gr.Blocks() as demo:
153
  label="Temperature"
154
  )
155
  max_tokens = gr.Slider(
156
- minimum=16,
157
- maximum=1024,
158
  value=512,
159
- step=10,
160
  label="Max New Tokens"
161
  )
162
  top_p_value = gr.Slider(
 
94
  },
95
  ],
96
  ]
97
+ print("Generating response...")
98
  # Generate text with all parameters
99
  output = pipe(
100
  messages,
 
108
  return output[0][0]["generated_text"][-1]["content"]
109
 
110
  # Default system prompt in Turkish
111
+
112
+ #default_system_prompt = """Sana bir problem verildi.
113
+ #Problem hakkında düşün ve çalışmanı göster.
114
+ #Çalışmanı <start_working_out> ve <end_working_out> arasına yerleştir.
115
+ #Sonra, çözümünü <SOLUTION> ve </SOLUTION> arasına yerleştir.
116
+ #Lütfen SADECE Türkçe kullan."""
117
+
118
+ default_system_prompt = """Sen kullanıcıların isteklerine Türkçe cevap veren bir asistansın ve sana bir problem verildi.
119
  Problem hakkında düşün ve çalışmanı göster.
120
  Çalışmanı <start_working_out> ve <end_working_out> arasına yerleştir.
121
  Sonra, çözümünü <SOLUTION> ve </SOLUTION> arasına yerleştir.
122
  Lütfen SADECE Türkçe kullan."""
123
 
124
+
125
  # Create Gradio interface
126
  with gr.Blocks() as demo:
127
  gr.Markdown("# Gemma 3 Reasoning Model Interface")
 
161
  label="Temperature"
162
  )
163
  max_tokens = gr.Slider(
164
+ minimum=64,
165
+ maximum=1024*4,
166
  value=512,
167
+ step=16,
168
  label="Max New Tokens"
169
  )
170
  top_p_value = gr.Slider(