Aprimorar o endpoint de previsão para tipagens claras

Adicionada tipagem explícita à função de previsão para melhorar a clareza do código e facilitar a validação dos dados de entrada. Essa mudança não só organiza melhor o processamento de mensagens como também aumenta a robustez da API, permitindo um tratamento de erros mais eficiente.

app.py

@@ -1,7 +1,8 @@
-from fastapi import FastAPI
+from fastapi import FastAPI, Body
 from transformers import Qwen2VLForConditionalGeneration, AutoProcessor
 from qwen_vl_utils import process_vision_info
 import torch
+from typing import List, Dict
 
 app = FastAPI()
 
@@ -9,7 +10,7 @@ model = Qwen2VLForConditionalGeneration.from_pretrained("Qwen/Qwen2-VL-2B-Instru
 processor = AutoProcessor.from_pretrained("Qwen/Qwen2-VL-2B-Instruct")
 
 @app.post("/predict")
-async def predict(messages: list):
+async def predict(messages: List[Dict] = Body(...)):
     # Processamento e inferência
     text = processor.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
     image_inputs, video_inputs = process_vision_info(messages)