Update README.md
Browse files
README.md
CHANGED
|
@@ -64,10 +64,6 @@ model = AutoModelForCausalLM.from_pretrained(model_id, load_in_4bit=True)
|
|
| 64 |
|
| 65 |
tokenizer = AutoTokenizer.from_pretrained(model_id)
|
| 66 |
|
| 67 |
-
tokenizer.padding_side = "right"
|
| 68 |
-
tokenizer.pad_token = tokenizer.unk_token
|
| 69 |
-
tokenizer.add_eos_token = False
|
| 70 |
-
|
| 71 |
def generate_prompt(input):
|
| 72 |
prompt = ''
|
| 73 |
sys_prompt = "Du bist ein freundlicher und hilfsbereiter KI-Assistent. Du beantwortest Fragen faktenorientiert und präzise, ohne dabei relevante Fakten auszulassen."
|
|
|
|
| 64 |
|
| 65 |
tokenizer = AutoTokenizer.from_pretrained(model_id)
|
| 66 |
|
|
|
|
|
|
|
|
|
|
|
|
|
| 67 |
def generate_prompt(input):
|
| 68 |
prompt = ''
|
| 69 |
sys_prompt = "Du bist ein freundlicher und hilfsbereiter KI-Assistent. Du beantwortest Fragen faktenorientiert und präzise, ohne dabei relevante Fakten auszulassen."
|