czczup commited on
Commit
4012170
1 Parent(s): 5175cd6

Upload folder using huggingface_hub

Browse files
Files changed (2) hide show
  1. README.md +8 -0
  2. conversation.py +2 -1
README.md CHANGED
@@ -464,6 +464,14 @@ TBD
464
 
465
  限制:尽管在训练过程中我们非常注重模型的安全性,尽力促使模型输出符合伦理和法律要求的文本,但受限于模型大小以及概率生成范式,模型可能会产生各种不符合预期的输出,例如回复内容包含偏见、歧视等有害内容,请勿传播这些内容。由于传播不良信息导致的任何后果,本项目不承担责任。
466
 
 
 
 
 
 
 
 
 
467
  ## 部署
468
 
469
  ### LMDeploy
 
464
 
465
  限制:尽管在训练过程中我们非常注重模型的安全性,尽力促使模型输出符合伦理和法律要求的文本,但受限于模型大小以及概率生成范式,模型可能会产生各种不符合预期的输出,例如回复内容包含偏见、歧视等有害内容,请勿传播这些内容。由于传播不良信息导致的任何后果,本项目不承担责任。
466
 
467
+ ## 快速启动
468
+
469
+ 我们提供了一个示例代码,用于使用 `transformers` 运行 InternVL2-2B。
470
+
471
+ > 请使用 transformers==4.37.2 以确保模型正常运行。
472
+
473
+ 示例代码请[点击这里](#quick-start)。
474
+
475
  ## 部署
476
 
477
  ### LMDeploy
conversation.py CHANGED
@@ -330,6 +330,7 @@ def get_conv_template(name: str) -> Conversation:
330
  return conv_templates[name].copy()
331
 
332
 
 
333
  register_conv_template(
334
  Conversation(
335
  name='Hermes-2',
@@ -343,7 +344,7 @@ register_conv_template(
343
  6,
344
  7,
345
  8,
346
- ], # "<|endoftext|>", "<|im_start|>", "<|im_end|>", "<|im_sep|>"
347
  stop_str='<|endoftext|>',
348
  )
349
  )
 
330
  return conv_templates[name].copy()
331
 
332
 
333
+ # Note that for inference, using the Hermes-2 and internlm2-chat templates is equivalent.
334
  register_conv_template(
335
  Conversation(
336
  name='Hermes-2',
 
344
  6,
345
  7,
346
  8,
347
+ ],
348
  stop_str='<|endoftext|>',
349
  )
350
  )