from huggingface_hub import InferenceClient
client = InferenceClient(
    "ecastera/eva-mistral-catmacaroni-7b-spanish"
)
generate_kwargs = dict(
        temperature=0.1,
        max_new_tokens=256,
        top_p=0.95,
        repetition_penalty=1.1,
        do_sample=True,
        seed=42,
    )


prompt2 = """[INST] Para esta frase "Que logros ha conseguido Ancera en 2024" extrae las palabras clave relacionadas 
    con la asociación Ancera, que son esenciales para realizar búsquedas efectivas en la 
    base de datos de Ancera. Concéntrate en los siguientes elementos como palabras clave:
    cargos dentro de la asociación: Por ejemplo, presidenta, vicepresidente, etc.
    Conceptos clave o áreas de interés relacionadas con Ancera: Por ejemplo, objetivos, ventajas, junta directiva, etc.
    Referencias temporales específicas si están directamente relacionadas con los conceptos clave: Por ejemplo, el año en cuestión para los objetivos.
    Ignora detalles contextuales como acciones, descripciones extensas, y enfócate únicamente en las palabras clave mencionadas. Las palabras clave extraídas serán utilizadas para buscar información relevante en la base de datos de Ancera.
    
    Te doy dos ejemplos:
    
    Frase: "Haz un resumen en 100 palabras de cuáles deberían ser los objetivos de Ancera para 2024"
    Respuesta: "objetivos, Ancera, 2024"

    Frase: "Haz un resumen en 50 palabras de las ventajas de ser miembro de Ancera"
    Respuesta: "ventaja, miembro"
    
    Haz lo mismo para la frase que te he dicho y sólo muestra las palabras clave no des detalles o explicaciones extra, escribe el resultado en el mismo formato que los dos ejemplos, no hagas listas, no escribas la frase, ciñete al formato de respesta [/INST]"""
#Ahora responde SOLO con las palabras clave a esta
response = client.text_generation(prompt2, **generate_kwargs, stream=False, details=True, return_full_text=False)
output = response.generated_text
print(output)