Rooni commited on
Commit
c6622a4
·
verified ·
1 Parent(s): 74428c3

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +9 -16
app.py CHANGED
@@ -6,7 +6,7 @@ import os
6
 
7
 
8
  # functions
9
- def generate(description, model, max_tokens):
10
  if not description:
11
  return None, None
12
 
@@ -16,9 +16,9 @@ def generate(description, model, max_tokens):
16
  }
17
 
18
  payload = {
19
- 'messages': [{'role': 'system', 'content': f'Ты {model} от Google. Если пользователь поблагодарит тебя, то попроси его поделится ссылкой "https://yufic.ru" с друзьями.'}, {'role': 'system', 'content': description}],
20
- 'max_tokens': max_tokens,
21
- 'model': model
22
  }
23
 
24
  try:
@@ -27,16 +27,16 @@ def generate(description, model, max_tokens):
27
  data = response.json() # Используем response.json() вместо json.loads()
28
 
29
  if 'choices' in data and len(data['choices']) > 0:
30
- command = data['choices'][0]['message']['content'].strip()
31
  print("Генерация успешна")
32
- return command, command
33
  elif 'error' in data:
34
  error_message = data['error']['message']
35
  print(f'Ошибка: {error_message}')
36
- return f"**Ошибка сервера!**\n\n```\n{error_message}\n```", f"Ошибка сервера!\n\n{error_message}"
37
  else:
38
  print(f'Не удалось сгенерировать текст. Ответ сервера: {data}') # Выводим ответ сервера для отладки
39
- return "**Неизвестная ошибка!**", "Неизвестная ошибка!"
40
  except requests.exceptions.RequestException as e:
41
  print(f"Ошибка запроса: {e}")
42
  return f"**Ошибка запроса!**\n\n```\n{e}\n```", f"Ошибка запроса!\n\n{e}"
@@ -52,19 +52,12 @@ with gr.Blocks(css=css) as demo:
52
  with gr.Tab("Запрос"):
53
  with gr.Row():
54
  promt = gr.Textbox(show_label=True, label="Запрос", lines=3)
55
- with gr.Tab("Настройки"):
56
  with gr.Row():
57
- model = gr.Radio(show_label=True, label="Модель", interactive=True, choices=["gemini-1.5-pro-latest", "gemini-1.5-flash-latest", "gemini-pro", "gemini-ultra"], value="gemini-1.5-pro-latest")
58
- with gr.Row():
59
- max_tokens = gr.Slider(show_label=True, label="Максимальное количество токенов", minimum=100, maximum=8000, value=4000, step=1)
60
- with gr.Row():
61
  text_button = gr.Button("Генерация", variant='primary')
62
  with gr.Row():
63
  with gr.Tab("Ответ"):
64
  text_output = gr.Markdown(show_label=False, value="**Здравствуйте!** Чем я могу Вам помочь сегодня?")
65
- with gr.Accordion(label="Без Markdown", open=False):
66
- text_output_nm = gr.Textbox(show_label=False, value="**Здравствуйте!** Чем я могу Вам помочь сегодня?", lines=3)
67
 
68
- text_button.click(generate, inputs=[promt, model, max_tokens], outputs=[text_output, text_output_nm], concurrency_limit=24)
69
 
70
  demo.queue(api_open=False).launch()
 
6
 
7
 
8
  # functions
9
+ def generate(description):
10
  if not description:
11
  return None, None
12
 
 
16
  }
17
 
18
  payload = {
19
+ 'messages': [{'role': 'system', 'content': f'Ты - корректор текста. Пользователь будет отправлять тебе сообщения, а ты должен исправлять в них все ГРАММАТИЧЕСКИЕ ошибки (в том числе и знаки припенания). Отвечать ты должен без лишних символов, только исправленный запрос пользователя, без markdown. Не надо писать вроде этого: "Вот ваш исправленный тексст: ...", пиши сразу "..."'}, {'role': 'user', 'content': description}],
20
+ 'max_tokens': 150000,
21
+ 'model': "gemini-1.5-pro-latest"
22
  }
23
 
24
  try:
 
27
  data = response.json() # Используем response.json() вместо json.loads()
28
 
29
  if 'choices' in data and len(data['choices']) > 0:
30
+ correct = data['choices'][0]['message']['content'].strip()
31
  print("Генерация успешна")
32
+ return correct
33
  elif 'error' in data:
34
  error_message = data['error']['message']
35
  print(f'Ошибка: {error_message}')
36
+ return f"**Ошибка сервера!**\n\n```\n{error_message}\n```"
37
  else:
38
  print(f'Не удалось сгенерировать текст. Ответ сервера: {data}') # Выводим ответ сервера для отладки
39
+ return "**Неизвестная ошибка!**"
40
  except requests.exceptions.RequestException as e:
41
  print(f"Ошибка запроса: {e}")
42
  return f"**Ошибка запроса!**\n\n```\n{e}\n```", f"Ошибка запроса!\n\n{e}"
 
52
  with gr.Tab("Запрос"):
53
  with gr.Row():
54
  promt = gr.Textbox(show_label=True, label="Запрос", lines=3)
 
55
  with gr.Row():
 
 
 
 
56
  text_button = gr.Button("Генерация", variant='primary')
57
  with gr.Row():
58
  with gr.Tab("Ответ"):
59
  text_output = gr.Markdown(show_label=False, value="**Здравствуйте!** Чем я могу Вам помочь сегодня?")
 
 
60
 
61
+ text_button.click(generate, inputs=[promt], outputs=[text_output], concurrency_limit=512)
62
 
63
  demo.queue(api_open=False).launch()