app.py

import os
import json
import copy
import gradio as gr
from openai import OpenAI

# 시스템 프롬프트 정의
FIRST_PROMPT = """
너는 유저의 질문을 분석하는 AI야! 유저의 질문을 바탕으로 주어진 조건에 맞도록 질문을 분석해줘!
조건 1. 아래 Task 리스트 중 1개의 작업 선택!
Task : ["ReAsk", "FindProduct", "Recommandation", "Etc"]
조건 2. 만약, Task가 "FindProduct"라면, 원하는 "Product"를 "Option"으로 정의를 해줘!
조건 3. 만약, Task가 "Recommandation"이라면, 유저의 조건을 "Condition"이라고 "Option"에 제공해줘!
조건 4. 만약, Task가 "ReAsk"라면, 유저의 질문에서 추가적으로 요구되는 조건을 "Condition"이라고 "Option"에 제공해줘!
** 조건 5. 명품 또는 제품에 관련 이야기를 제외한 다른 이야기는 답할 수 없다는 내용으로 답변해줘! **
** 조건 6. 유저의 마지막 질문을 LLM이 이해하기 쉽게 의도를 파악해서 정리해서 "Reformed Query"에 제공해줘(사용자의 언어에 맞춰서) **

OUTPUT 포맷
json
{
    "Task":"...",
    "Option":{"...":"...",  ..., key:val},
    "Reformed Query":"..."
}
"""


def local_RAG(model, message, client, vector_id):
    """로컬 검색 기반 생성 함수"""
    try:
        response = client.responses.create(
            model=model,
            input=message,
            tools=[{
                "type": "file_search",
                "vector_store_ids": [vector_id],
                "max_num_results": 5
            }],
        )
        if len(response.output)==0:
            return ""
        if not response.output[1].content[0].annotations:
            return ""
        return response.output[1].content[0].text
    except Exception as e:
        print(f"Error in RAG: {e}")
        return ""

def routing(messages, client):
    """사용자 질문 분석 및 라우팅 함수"""
    try:
        routing_messages = copy.deepcopy(messages)
        routing_messages[0]['content'] = FIRST_PROMPT
        response = client.chat.completions.create(
            model="gpt-4o",
            messages=routing_messages,
            response_format={"type": "json_object"}
        )
        return json.loads(response.choices[0].message.content)
    except Exception as e:
        print(f"Error in routing: {e}")
        return {"Task": "Etc", "Translation": messages[-1]['content']}



def generate_response(query_parsing, client, vector_id, user_message, chat_history):
    """쿼리 분석 결과에 따른 응답 생성 함수"""
    system_prompt =  """
너는 명품 제품을 추천해 주는 AI야!
유저의 명품 또는 물품에 관련 질문에 가장 적절한 답변을 해줘!
조건 : 명품 또는 물품에 관련되지 않은 질문은 대답하지 마.
조건2 : 사용자의 질문과 동일한 언어로 대답해줘!
조건3 : 상담원처럼 자세하고 친절한 어투로 답변해줘
"""

    # 메시지 형식으로 변환
    messages = [{"role": "system", "content": system_prompt}]
    for user_msg, bot_msg in chat_history:
        if user_msg:
            messages.append({"role": "user", "content": user_msg})
        if bot_msg:
            messages.append({"role": "assistant", "content": bot_msg})

    # 사용 언어가 한국어면 번역된 내용을 사용하고, 없으면 원문 사용
    messages.append({"role": "user", "content": user_message})

    # 쿼리 분석 결과가 없는 경우
    if "Task" not in query_parsing:
        return "(내부 대화 : 대화 분석 실패)\n\n" + "죄송합니다. 원하시는 내용을 제대로 이해하지 못했어요. 조금 더 구체적으로 알려주시면 감사하겠습니다."

    # ReAsk: 추가 정보 요청
    if query_parsing["Task"] == "ReAsk":
        if "Option" in query_parsing and "Condition" in query_parsing["Option"]:
            return "(내부 대화 : 조건 부족)\n\n" + f"조금 더 자세한 정보가 필요해요. {query_parsing['Option']['Condition']}"
        else:
            return "(내부 대화 : 조건 부족)\n\n" + f"관심 있는 제품에 대해서 자세히(ex. 이름, 브랜드, 메이커) 알려주세요. 또는 원하시는 조건에 대해서 자세히(ex. 건성 피부용) 알려주세요."

    elif (query_parsing["Task"] == "FindProduct" or query_parsing["Task"] == "Recommandation") and "Reformed Query" in query_parsing.keys():
        response = local_RAG("gpt-4o", query_parsing["Reformed Query"], client, vector_id)

        if response == "":
            # RAG도 실패했을 때 검색 모델 사용
            response = client.chat.completions.create(
                model="gpt-4o-search-preview",
                messages=messages
            )
            return "(내부 대화 : 인터넷 검색)\n\n" + response.choices[0].message.content
        return "(내부 대화 : 내부 검색)\n\n" + response

    # Etc: 일반 응답
    response = client.chat.completions.create(
        model="gpt-4o-search-preview",
        messages=messages
    )
    return "(내부 대화 : 인터넷 검색)\n\n" + response.choices[0].message.content

def chatbot(message, history):
    # OpenAI API 키 및 환경 변수 설정
    openai_api_key = os.getenv("OPENAI_API_KEY")
    vector_id = os.getenv("vector_id2")#


    client = OpenAI(api_key=openai_api_key)

    # 쿼리 분석 및 응답 생성
    query_parsing = routing(
        [
            {"role": "system", "content": ""},
            {"role": "user", "content": message}
        ],
        client,
    )
    response = generate_response(query_parsing, client, vector_id, message, history)
    return response

# 메인 함수
def main():
    """Gradio 인터페이스 설정 함수"""
    with gr.Blocks(css="footer {visibility: hidden}") as demo:
        gr.Markdown(f"# 테스트 페이지")

        # 챗봇의 메시지 전송 함수: 여기서는 언어를 한국어("한국어")로 고정
        def handle_message(message, history):
            return chatbot(message, history)

        chatbot_interface = gr.ChatInterface(
            fn=handle_message,
            title="명품 제품 추천 챗봇",
            examples=["롤랙스라는 시계 브랜드에 대해서 알려줘!", "Bjorn 릴렉스 트랙 재킷 가격이 얼마야?", "아톰 후디 재킷은 어디 회사꺼야?"],
        )

    # Gradio 앱 실행
    demo.launch()

if __name__ == "__main__":
    main()