prompt variable change within function

app.py

@@ -6,20 +6,24 @@ model_file = "tamil-mistral-7b-instruct-v0.1.Q4_K_M.gguf"
 
 model_path = hf_hub_download(model_name, filename=model_file)
 
-prompt = """<s> சரியான பதிலுடன் வேலையை வெற்றிகரமாக முடிக்க. தேவையான தகவலை உள்ளிடவும்.
 
-### Instruction:
-{}
-
-### Response:
-"""
  
 
 llm = AutoModelForCausalLM.from_pretrained(model_name, model_file=model_file, 
                                            model_type="mistral", gpu_layers=0)
 def alternatingly_agree(message, history):
+
+    prompt = """<s> சரியான பதிலுடன் வேலையை வெற்றிகரமாக முடிக்க. தேவையான தகவலை உள்ளிடவும்.
+
+    ### Instruction:
+    {}
+
+    ### Response:
+    """
+
+
     prompt = prompt.format(message)
-    result = llm(message,max_new_tokens=50,temperature=0.7,stream=True)
+    result = llm(prompt,max_new_tokens=50,temperature=0.7,stream=True)
     for i in result:
         yield i