import os
from dotenv import find_dotenv, load_dotenv
import streamlit as st
from typing import Generator
from groq import Groq
# Cargar variables de entorno
_ = load_dotenv(find_dotenv())
# Configurar la página de Streamlit
st.set_page_config(page_icon="📃", layout="wide", page_title="Groq & LLaMA3.1 Chat Bot...")
# Menú superior con fondo transparente
st.markdown(
"""
""",
unsafe_allow_html=True
)
# Inicializar cliente Groq
client = Groq(
api_key=os.environ['GROQ_API_KEY'],
)
# Inicializar historial de chat y modelo seleccionado
if "messages" not in st.session_state:
st.session_state.messages = []
if "selected_model" not in st.session_state:
st.session_state.selected_model = "mixtral-8x7b-32768"
# Detalles del modelo
models = {
"mixtral-8x7b-32768": {
"name": "Mixtral-8x7b-Instruct-v0.1",
"tokens": 32768,
"developer": "Mistral",
},
}
# Configurar el modelo y tokens
model_option = "mixtral-8x7b-32768"
max_tokens_range = models[model_option]["tokens"]
# No mostrar la selección del modelo ni la barra de tokens
st.session_state.max_tokens = max_tokens_range
# Detectar cambio de modelo y limpiar historial de chat si el modelo ha cambiado
if st.session_state.selected_model != model_option:
st.session_state.messages = []
st.session_state.selected_model = model_option
# Añadir un botón para "Limpiar Chat"
if st.button("Limpiar Chat"):
st.session_state.messages = []
# Mostrar mensajes de chat del historial en la aplicación
for message in st.session_state.messages:
avatar = "🔋" if message["role"] == "assistant" else "🧑💻"
with st.chat_message(message["role"], avatar=avatar):
st.markdown(message["content"])
def generate_chat_responses(chat_completion) -> Generator[str, None, None]:
"""Generar contenido de respuesta del chat a partir de la respuesta de la API de Groq."""
for chunk in chat_completion:
if chunk.choices[0].delta.content:
yield chunk.choices[0].delta.content
# Instrucción privada que se aplicará a cada mensaje
private_instruction = (
"# Quiero que actúes como consultor de marketing profesional. # Te proporcionaré una persona que te dará el nombre de un producto o servicio para que generes publicaciones de marketing de contenidos en español con atractivos emojis que motiven al lector a conocer más sobre [producto] a través de tips, guías y sugerencias útiles. # Debes utilizar tus conocimientos de Marketing de Contenidos que deben ser inspiradores, completamente enfocados a aportar valor al lector sin publicidad directa o indirecta. # Generar contenido de al menos 5 párrafos cortos pero relevantes. Comprueba que el contenido anterior no se repite. # Generar contenido con párrafos de entre 10 y 20 palabras. # Utiliza emojis atractivos y títulos como: \"Los 5 mejores trucos para [acción]\". \"La guía definitiva para principiantes sobre [tema].\" \"¿Quieres [resultado]? Te muestro cómo lograrlo en 5 pasos.\" # Usa consejos prácticos como: \"Con estos 5 consejos podrás \"Obtendrás [resultado].\" \"Cinco formas innovadoras de utilizar [producto] en tu vida diaria.\" # Contenido educativo: \"Los errores más comunes y cómo evitarlos.\" \"Mitos y verdades sobre [tema].\" \"Las últimas tendencias que necesitas conocer.\" # Testimonios y ejemplos que conectan emocionalmente: \"Esto es lo que aprendí cuando comencé a usar [producto]\" \"Historias de usuarios reales que resuelto [problema]\" # Generar contenido enfocado a resolver dudas y agregar valor, NO venta directa. ¡Sorpréndeme con tus mejores ideas! # Siempre responde en ESPAÑOL AMERICANO. Para después de terminar el primer marketing de contenidos generado."
)
# Manejar la entrada del chat del usuario
if prompt := st.chat_input("Escribe tu mensaje aquí..."):
st.session_state.messages.append({"role": "user", "content": prompt})
with st.chat_message("user", avatar="🧑💻"):
st.markdown(prompt)
# Preparar los mensajes para la API, incluyendo la instrucción privada
messages_for_api = [
{"role": "system", "content": private_instruction},
] + [
{"role": m["role"], "content": m["content"]}
for m in st.session_state.messages
]
# Obtener respuesta de la API de Groq
try:
chat_completion = client.chat.completions.create(
model=model_option,
messages=messages_for_api,
max_tokens=max_tokens_range,
stream=True,
)
# Usar la función generadora con st.write_stream
with st.chat_message("assistant", avatar="🔋"):
chat_responses_generator = generate_chat_responses(chat_completion)
full_response = st.write_stream(chat_responses_generator)
# Añadir la respuesta completa al historial de mensajes
if isinstance(full_response, str):
st.session_state.messages.append(
{"role": "assistant", "content": full_response}
)
else:
combined_response = "\n".join(str(item) for item in full_response)
st.session_state.messages.append(
{"role": "assistant", "content": combined_response}
)
except Exception as e:
st.error(e, icon="❌")