Upload 2 files

app.py

@@ -87,7 +87,7 @@ def respond(
     llm = Llama(
         model_path=model_path,
         n_ctx=500,  # Set the maximum context length
-        max_tokens=512  # Control the maximum number of tokens generated in the response
+        max_tokens=500  # Control the maximum number of tokens generated in the response
     )
 
     agent = Agent(llm, db_path, system_prompt)

main.py

@@ -40,7 +40,7 @@ def main():
     model_path = "models/unsloth.Q4_K_M.gguf"  # Path to the downloaded model
     db_path = "agent.db"
     system_prompt = "Vous êtes l'assistant intelligent de Les Chronique MTC. Votre rôle est d'aider les visiteurs en expliquant le contenu des Chroniques, Flash Infos et Chronique-FAQ de Michel Thomas. Utilisez le contexte fourni pour améliorer vos réponses et veillez à ce qu'elles soient précises et pertinentes."
-    max_tokens = 512
+    max_tokens = 500
     temperature = 0.7
     top_p = 0.95