Ernestasio commited on
Commit
17854c9
·
1 Parent(s): 64fcde7

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +4 -2
app.py CHANGED
@@ -4,12 +4,14 @@ import gradio
4
  # Especificar el dispositivo en el que se cargará el modelo (en este caso, "cuda" para GPU)
5
  device = "cuda"
6
 
 
 
7
  # Cargar el modelo preentrenado y el tokenizador asociado
8
- model = AutoModelForCausalLM.from_pretrained("mistralai/Mistral-7B-v0.1")
9
 
10
 
11
  # Cargar el tokenizador asociado
12
- tokenizer = AutoTokenizer.from_pretrained("mistralai/Mistral-7B-v0.1")
13
 
14
  def speak(prompt):
15
  # Tokenizar el prompt y convertirlo a tensores de PyTorch, luego enviarlos al dispositivo especificado
 
4
  # Especificar el dispositivo en el que se cargará el modelo (en este caso, "cuda" para GPU)
5
  device = "cuda"
6
 
7
+ model_name = 'mistralai/Mistral-7B-Instruct-v0.1'
8
+
9
  # Cargar el modelo preentrenado y el tokenizador asociado
10
+ model = AutoModelForCausalLM.from_pretrained(model_name)
11
 
12
 
13
  # Cargar el tokenizador asociado
14
+ tokenizer = AutoTokenizer.from_pretrained(model_name)
15
 
16
  def speak(prompt):
17
  # Tokenizar el prompt y convertirlo a tensores de PyTorch, luego enviarlos al dispositivo especificado