Add MonoT5 - Rerank model to LanThy space

app.py

@@ -1,7 +1,17 @@
 import gradio as gr
+from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
 
-def greet(name):
-    return "Hello " + name + "!!"
+# Tải mô hình MonoT5
+model_name = "google/monot5-small"
+model = AutoModelForSeq2SeqLM.from_pretrained(model_name)
+tokenizer = AutoTokenizer.from_pretrained(model_name)
 
-demo = gr.Interface(fn=greet, inputs="text", outputs="text")
-demo.launch()
+# Hàm xử lý đầu vào và tạo đầu ra
+def generate_text(input_text):
+    inputs = tokenizer(input_text, return_tensors="pt")
+    outputs = model.generate(inputs["input_ids"])
+    decoded_output = tokenizer.decode(outputs[0], skip_special_tokens=True)
+    return decoded_output
+
+# Tạo giao diện Gradio
+gr.Interface(fn=generate_text, inputs="text", outputs="text").launch()