a

app.py

@@ -1,19 +1,20 @@
-# Importamos las librerías necesarias
 import gradio as gr
 import os
 from openai import OpenAI
 
-# Inicializamos el cliente OpenAI para la API de NVIDIA
+# Configuración de la clave de API
 api_key = os.getenv("API_KEY")
 if not api_key:
     raise ValueError("La variable de entorno 'API_KEY' no está configurada.")
+
+# Inicialización del cliente de OpenAI
 client = OpenAI(
     base_url="https://integrate.api.nvidia.com/v1",
     api_key=api_key
 )
 
 def llama_response(message):
-    # Definimos el mensaje del sistema
+    # Definición del mensaje del sistema
     system_message = {
         "role": "system",
         "content": (
@@ -48,10 +49,10 @@ def llama_response(message):
         )
     }
     
-    # Creamos el mensaje del usuario
+    # Creación del mensaje del usuario
     user_message = {"role": "user", "content": message}
 
-    # Generamos la respuesta usando el cliente
+    # Generación de la respuesta utilizando la API de OpenAI
     try:
         completion = client.chat.completions.create(
             model="meta/llama-3.1-405b-instruct",
@@ -59,31 +60,31 @@ def llama_response(message):
             temperature=0.2,
             top_p=0.7,
             max_tokens=1024,
-            stream=False
+            stream=True
         )
+        
+        # Procesamiento de la respuesta
+        response_text = ""
+        for chunk in completion:
+            if chunk.choices[0].delta.content is not None:
+                response_text += chunk.choices[0].delta.content
+        return response_text
     except Exception as e:
         print(f"Error al llamar a la API: {e}")
         return "Hubo un error al procesar su solicitud."
 
-    # Procesamos la respuesta según el formato proporcionado
-    response_text = ""
-    if completion and "choices" in completion:
-        response_text = completion["choices"][0]["message"]["content"]
-
-    return response_text
-
-# Configuramos la interfaz de Gradio
+# Configuración de la interfaz de Gradio
 description = (
     "Este Space permite interactuar con el modelo llama3.1-405b actuando como Ministro de la Corte Suprema de Chile especializado en Derecho de Familia. "
     "El propósito es perfeccionar la redacción de resoluciones judiciales manteniendo los estándares del lenguaje judicial chileno."
 )
 interface = gr.Interface(
     fn=llama_response,
-    inputs=gr.Textbox(lines=5, label="Ingrese el borrador de la resolución"),
+    inputs=gr.Textbox(lines=10, label="Ingrese el borrador de la resolución"),
     outputs=gr.Textbox(label="Resolución mejorada"),
     title="Ministro IA de la Corte Suprema - Derecho de Familia",
     description=description
 )
 
-# Ejecutamos la aplicación
-interface.launch()
+# Ejecución de la aplicación
+interface.launch()