adding model.eval() to inference example

README.md

@@ -49,6 +49,7 @@ tokenizer = AutoTokenizer.from_pretrained(model_name)
 tokenizer.add_special_tokens({'bos_token': '<s>', 'eos_token': '</s>', 'pad_token': '<pad>'})
 model = AutoModelForCausalLM.from_pretrained(model_name)
 model.to(device)
+model.eval()
 
 # На вход модели подаем последние 2-3 реплики диалога. Каждая реплика на отдельной строке, начинается с символа "-"
 # В конце добавляем символ "#"