jla25 commited on
Commit
3863700
verified
1 Parent(s): 032fa14

Update handler.py

Browse files
Files changed (1) hide show
  1. handler.py +4 -5
handler.py CHANGED
@@ -2,7 +2,7 @@ from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
2
  import torch
3
  import json
4
 
5
- class EndpointHandler: # Aseg煤rate de que el nombre sea EndpointHandler
6
  def __init__(self, model_dir):
7
  # Cargar el modelo y el tokenizador desde el directorio del modelo
8
  self.tokenizer = AutoTokenizer.from_pretrained(model_dir)
@@ -11,10 +11,10 @@ class EndpointHandler: # Aseg煤rate de que el nombre sea EndpointHandler
11
 
12
  def preprocess(self, data):
13
  # Preprocesamiento de la entrada
14
- if isinstance(data, dict) and "input_text" in data:
15
- input_text = data["input_text"]
16
  else:
17
- raise ValueError("Esperando un diccionario con la clave 'input_text'")
18
 
19
  # Tokenizaci贸n de la entrada
20
  tokens = self.tokenizer(input_text, return_tensors="pt", truncation=True, padding=True)
@@ -37,4 +37,3 @@ class EndpointHandler: # Aseg煤rate de que el nombre sea EndpointHandler
37
  outputs = self.inference(tokens)
38
  result = self.postprocess(outputs)
39
  return result
40
-
 
2
  import torch
3
  import json
4
 
5
+ class EndpointHandler:
6
  def __init__(self, model_dir):
7
  # Cargar el modelo y el tokenizador desde el directorio del modelo
8
  self.tokenizer = AutoTokenizer.from_pretrained(model_dir)
 
11
 
12
  def preprocess(self, data):
13
  # Preprocesamiento de la entrada
14
+ if isinstance(data, dict) and "inputs" in data:
15
+ input_text = data["inputs"]
16
  else:
17
+ raise ValueError("Esperando un diccionario con la clave 'inputs'")
18
 
19
  # Tokenizaci贸n de la entrada
20
  tokens = self.tokenizer(input_text, return_tensors="pt", truncation=True, padding=True)
 
37
  outputs = self.inference(tokens)
38
  result = self.postprocess(outputs)
39
  return result