M4sterStudy commited on
Commit
7886f0d
·
verified ·
1 Parent(s): e8c6622
Files changed (1) hide show
  1. app.py +24 -0
app.py ADDED
@@ -0,0 +1,24 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ import gradio as gr
2
+ from transformers import AutoModelForCausalLM, AutoTokenizer
3
+
4
+ # Cargar el modelo y el tokenizador
5
+ model_name = "meta-llama/Meta-Llama-3-8B" # Este es el nombre del repositorio en Hugging Face
6
+ tokenizer = AutoTokenizer.from_pretrained(model_name)
7
+ model = AutoModelForCausalLM.from_pretrained(model_name)
8
+
9
+ def chat_with_llama(input_text):
10
+ inputs = tokenizer(input_text, return_tensors="pt")
11
+ outputs = model.generate(**inputs)
12
+ response = tokenizer.decode(outputs[0], skip_special_tokens=True)
13
+ return response
14
+
15
+ # Crear la interfaz con Gradio
16
+ iface = gr.Interface(
17
+ fn=chat_with_llama,
18
+ inputs="text",
19
+ outputs="text",
20
+ title="Chat con LLaMA 3",
21
+ description="Interfaz simple para comunicarte con el modelo LLaMA 3."
22
+ )
23
+
24
+ iface.launch()