Add speed control

app.py

@@ -12,7 +12,7 @@ description = f'''
 
 '''
 
-def synthesise(text, progress=gr.Progress()):
+def synthesise(text, speed, progress=gr.Progress()):
     if text.strip() == "":
         raise gr.Error("You must enter some text")
     if len(text) > 150000:
@@ -21,7 +21,7 @@ def synthesise(text, progress=gr.Progress()):
     print(text)
     print("*** end ***")
     
-    return 24000, inference(text, progress, alpha=1.0, diffusion_steps=5, embedding_scale=1.0)[0]
+    return 24000, inference(text, progress, speed=speed, alpha=1.0, diffusion_steps=6, embedding_scale=1.0)[0]
 
 
 
@@ -31,6 +31,7 @@ if __name__ == "__main__":
         description=description,
         inputs=[
             gr.Text(label='Text:', lines=5, max_lines=10),
+            gr.Slider(label='Швидкість:', maximum=1.3, minimum=0.7, value=1.0),
         ],
         outputs=[
             gr.Audio(
@@ -44,9 +45,9 @@ if __name__ == "__main__":
         allow_flagging ='never',
         cache_examples=False,
         title='StyleTTS2 ukrainian demo',
-        examples=["""Решта окупантів звернула на Вокзальну — центральну вулицю Бучі. Тільки уявіть їхній настрій, коли перед ними відкрилася ця пасторальна картина! Невеличкі котеджі й просторіші будинки шикуються обабіч, перед ними вивищуються голі липи та електростовпи, тягнуться газони й жовто-чорні бордюри. Доглянуті сади визирають із-поза зелених парканів, гавкотять собаки, співають птахи… На дверях будинку номер тридцять шість досі висить різдвяний вінок.""", """
-Одна дівчинка стала королевою Франції. Звали її Анна, і була вона донькою Ярослава Му+дрого, великого київського князя. Він опі+кувався літературою та культурою в Київській Русі+, а тоді переважно про таке не дбали – більше воювали і споруджували фортеці.""",  """
-Одна дівчинка народилася і виросла в Америці, та коли стала дорослою, зрозуміла, що дуже любить українські вірші й найбільше хоче робити вистави про Україну. Звали її Вірляна. Дід Вірляни був український мовознавець і педагог Кость Кисілевський, котрий навчався в Лейпцизькому та Віденському університетах і, після Другої світової війни виїхавши до США, започаткував систему шкіл українознавства по всій Америці. Тож Вірляна зростала в українському середовищі, а окрім того – в середовищі вихідців з інших країн."""      ],
+        examples=[["""Решта окупантів звернула на Вокзальну — центральну вулицю Бучі. Тільки уявіть їхній настрій, коли перед ними відкрилася ця пасторальна картина! Невеличкі котеджі й просторіші будинки шикуються обабіч, перед ними вивищуються голі липи та електростовпи, тягнуться газони й жовто-чорні бордюри. Доглянуті сади визирають із-поза зелених парканів, гавкотять собаки, співають птахи… На дверях будинку номер тридцять шість досі висить різдвяний вінок.""", 1.0], ["""
+Одна дівчинка стала королевою Франції. Звали її Анна, і була вона донькою Ярослава Му+дрого, великого київського князя. Він опі+кувався літературою та культурою в Київській Русі+, а тоді переважно про таке не дбали – більше воювали і споруджували фортеці.""", 1.0],  ["""
+Одна дівчинка народилася і виросла в Америці, та коли стала дорослою, зрозуміла, що дуже любить українські вірші й найбільше хоче робити вистави про Україну. Звали її Вірляна. Дід Вірляни був український мовознавець і педагог Кость Кисілевський, ко��рий навчався в Лейпцизькому та Віденському університетах і, після Другої світової війни виїхавши до США, започаткував систему шкіл українознавства по всій Америці. Тож Вірляна зростала в українському середовищі, а окрім того – в середовищі вихідців з інших країн.""", 1.0]      ],
     )
     i.queue(max_size=20, default_concurrency_limit=4)
     i.launch(share=False, server_name="0.0.0.0")

infer.py

@@ -107,7 +107,7 @@ def split_to_parts(text):
     
 
 
-def _inf(text, s_prev, noise, alpha, diffusion_steps, embedding_scale):
+def _inf(text, speed, s_prev, noise, alpha, diffusion_steps, embedding_scale):
     text = text.strip()
     text = text.replace('"', '')
     text = text.replace('+', 'ˈ')
@@ -146,7 +146,7 @@ def _inf(text, s_prev, noise, alpha, diffusion_steps, embedding_scale):
 
         x, _ = model.predictor.lstm(d)
         duration = model.predictor.duration_proj(x)
-        duration = torch.sigmoid(duration).sum(axis=-1)
+        duration = torch.sigmoid(duration).sum(axis=-1)/speed
         pred_dur = torch.round(duration.squeeze()).clamp(min=1)
 
         pred_aln_trg = torch.zeros(input_lengths, int(pred_dur.sum().data))
@@ -165,7 +165,7 @@ def _inf(text, s_prev, noise, alpha, diffusion_steps, embedding_scale):
 
 
 @spaces.GPU
-def inference(text, progress, alpha=0.7, diffusion_steps=10, embedding_scale=1.2):
+def inference(text,  progress, speed = 1.0, alpha=0.7, diffusion_steps=10, embedding_scale=1.2):
 
     wavs = []
     s_prev = None
@@ -177,7 +177,7 @@ def inference(text, progress, alpha=0.7, diffusion_steps=10, embedding_scale=1.2
     noise = torch.randn(1,1,256).to(device)
     for text in progress.tqdm(sentences):
         if text.strip() == "": continue
-        wav, s_prev, ps = _inf(text, s_prev, noise, alpha=alpha, diffusion_steps=diffusion_steps, embedding_scale=embedding_scale)
+        wav, s_prev, ps = _inf(text, speed, s_prev, noise, alpha=alpha, diffusion_steps=diffusion_steps, embedding_scale=embedding_scale)
         wavs.append(wav)
         phonemes += ' ' + ps
     return  np.concatenate(wavs), phonemes