add genai

config.py

@@ -1,11 +0,0 @@
-import os
-from dotenv import load_dotenv
-
-# Завантажуємо налаштування з .env файлу
-load_dotenv()
-
-OPENAI_API_KEY = os.getenv("OPENAI_API_KEY")
-
-if not OPENAI_API_KEY:
-    raise ValueError("API ключ OpenAI не знайдено. Додайте його в .env файл.")
-

main.py

@@ -15,6 +15,7 @@ from typing import Union, List
 import asyncio
 from anthropic import Anthropic
 from openai import OpenAI
+import google.generativeai as genai
 from llama_index.core import (
     StorageContext,
     ServiceContext,
@@ -46,6 +47,8 @@ aws_access_key_id = os.getenv("AWS_ACCESS_KEY_ID")
 aws_secret_access_key = os.getenv("AWS_SECRET_ACCESS_KEY")
 openai_api_key = os.getenv("OPENAI_API_KEY")
 anthropic_api_key=os.getenv("ANTHROPIC_API_KEY")
+genai.configure(api_key=os.environ["GOOGLE_API_KEY"])
+
 
 embed_model = OpenAIEmbedding(model_name="text-embedding-3-small")
 Settings.embed_model = embed_model
@@ -103,8 +106,6 @@ else:
 
 
 
-# PERSIST_DIR = "/home/docsa/Legal_Position/Save_index"
-
 # Apply nest_asyncio to handle nested async calls
 nest_asyncio.apply()
 
@@ -427,43 +428,96 @@ LEGAL_POSITION_SCHEMA = {
 }
 
 
-def generate_legal_position(court_decision_text, comment_input):
-    """
-    Генерує правову позицію на основі тексту судового рішення.
+# def generate_legal_position(court_decision_text, comment_input):
+#     try:
+#         # Ініціалізація моделі
+#         llm_lp = OpenAI(
+#             # model="ft:gpt-4o-mini-2024-07-18:personal:legal-position-400:AT3wvKsU",
+#             model="ft:gpt-4o-mini-2024-07-18:personal:legal-position-1500:Aaiu4WZd",
+#             temperature=0
+#         )
+#
+#         # Формування повідомлень для чату
+#         # Формуємо контент з урахуванням коментаря
+#         content = LEGAL_POSITION_PROMPT.format(
+#             court_decision_text=court_decision_text,
+#             comment=comment_input if comment_input else "Коментар відсутній"
+#         )
+#
+#         # Формування повідомлень для чату
+#         messages = [
+#             ChatMessage(role="system", content=SYSTEM_PROMPT),
+#             ChatMessage(role="user", content=content),
+#         ]
+#
+#         # Отримання відповіді від моделі
+#         response = llm_lp.chat(messages, response_format=LEGAL_POSITION_SCHEMA)
+#
+#         # Обробка відповіді
+#         parsed_response = json.loads(response.message.content)
+#
+#         # Перевірка наявності обов'язкових полів
+#         if all(field in parsed_response for field in ["title", "text", "proceeding", "category"]):
+#             return parsed_response
+#
+#         return {
+#             "title": "Error: Missing required fields in response",
+#             "text": response.message.content,
+#             "proceeding": "Unknown",
+#             "category": "Error"
+#         }
+#
+#     except json.JSONDecodeError:
+#         return {
+#             "title": "Error parsing response",
+#             "text": response.message.content,
+#             "proceeding": "Unknown",
+#             "category": "Error"
+#         }
+#     except Exception as e:
+#         return {
+#             "title": "Unexpected error",
+#             "text": str(e),
+#             "proceeding": "Unknown",
+#             "category": "Error"
+#         }
+
 
-    Args:
-        court_decision_text (str): Текст судового рішення для аналізу
-        user_question (str): Питання користувача (наразі не використовується)
+def generate_legal_position(court_decision_text, comment_input):
+    if not isinstance(court_decision_text, str) or not court_decision_text.strip():
+        return {
+            "title": "Invalid input",
+            "text": "Court decision text is required and must be non-empty.",
+            "status": "Error"
+        }
 
-    Returns:
-        dict: Словник з правовою позицією або повідомленням про помилку
-    """
     try:
+        # Конфігурація моделі
+        generation_config = {
+            "temperature": 0,
+            "max_output_tokens": 8192,
+            "response_mime_type": "application/json",  # Виправлено дублювання
+        }
+
         # Ініціалізація моделі
-        llm_lp = OpenAI(
-            # model="ft:gpt-4o-mini-2024-07-18:personal:legal-position-400:AT3wvKsU",
-            model="ft:gpt-4o-mini-2024-07-18:personal:legal-position-1500:Aaiu4WZd",
-            temperature=0
+        model = genai.GenerativeModel(
+            model_name="gemini-1.5-flash",
+            generation_config=generation_config,
+            system_instruction=SYSTEM_PROMPT,
         )
 
-        # Формування повідомлень для чату
-        # Формуємо контент з урахуванням коментаря
         content = LEGAL_POSITION_PROMPT.format(
             court_decision_text=court_decision_text,
             comment=comment_input if comment_input else "Коментар відсутній"
         )
 
-        # Формування повідомлень для чату
-        messages = [
-            ChatMessage(role="system", content=SYSTEM_PROMPT),
-            ChatMessage(role="user", content=content),
-        ]
+        # Створення сесії чату
+        chat_session = model.start_chat(history=[])
 
-        # Отримання відповіді від моделі
-        response = llm_lp.chat(messages, response_format=LEGAL_POSITION_SCHEMA)
+        response = chat_session.send_message(content)
 
         # Обробка відповіді
-        parsed_response = json.loads(response.message.content)
+        parsed_response = json.loads(response.text)
 
         # Перевірка наявності обов'язкових полів
         if all(field in parsed_response for field in ["title", "text", "proceeding", "category"]):
@@ -471,7 +525,7 @@ def generate_legal_position(court_decision_text, comment_input):
 
         return {
             "title": "Error: Missing required fields in response",
-            "text": response.message.content,
+            "text": response.text,
             "proceeding": "Unknown",
             "category": "Error"
         }
@@ -479,7 +533,7 @@ def generate_legal_position(court_decision_text, comment_input):
     except json.JSONDecodeError:
         return {
             "title": "Error parsing response",
-            "text": response.message.content,
+            "text": response.text,
             "proceeding": "Unknown",
             "category": "Error"
         }
@@ -492,6 +546,8 @@ def generate_legal_position(court_decision_text, comment_input):
         }
 
 
+
+
 def create_gradio_interface():
     async def generate_position_action(url):
         try:

requirements.txt

@@ -12,3 +12,4 @@ beautifulsoup4
 nest-asyncio
 boto3
 python-dotenv
+google-generativeai>=0.8.2