Release InternVL 2.5

config.json

@@ -17,6 +17,7 @@
     "architectures": [
       "Qwen2ForCausalLM"
     ],
+    "_attn_implementation": "flash_attention_2",
     "attention_dropout": 0.0,
     "bad_words_ids": null,
     "begin_suppress_tokens": null,

generation_config.json

@@ -3,6 +3,7 @@
   "transformers_version": "4.37.2",
   "eos_token_id": [
     151644,
-    151645
+    151645,
+    151643
   ]
 }

merges.txt

@@ -1,4 +1,3 @@
-#version: 0.2
 Ġ Ġ
 ĠĠ ĠĠ
 i n
@@ -308,6 +307,7 @@ tr ing
 o k
 _ _
 c l
+# #
 Ġh e
 ar d
 ) .
@@ -562,6 +562,7 @@ i eld
 Ġp er
 C ont
 ing s
+## ##
 Ġd ata
 Ġs a
 e f
@@ -808,6 +809,7 @@ R es
 is e
 m in
 ĠĠĠĠ Ċ
+# include
 eth od
 . P
 ut e
@@ -1097,6 +1099,7 @@ pr int
 Ex ception
 in put
 Ġtr ans
+#### ####
 ord er
 B y
 Ġa w
@@ -1180,6 +1183,7 @@ if y
 Ġb reak
 Ġ );Ċ
 re n
+# define
 it t
 Ġa p
 ĉ c
@@ -2169,6 +2173,7 @@ s ource
 http s
 Ġd em
 Ġe ar
+######## ########
 Ġm atch
 or ies
 ac es
@@ -2390,6 +2395,7 @@ a ff
 ER R
 Ġ< =
 at ely
+# if
 u ction
 ĠT e
 Ġl ink
@@ -2399,6 +2405,7 @@ u ction
 m e
 Ġg iven
 O ut
+# endif
 Ġbet ter
 P age
 Ġfe el
@@ -4691,6 +4698,7 @@ c ard
 o ch
 _ image
 \ t
+# Ċ
 ( L
 Ġindu stry
 com ing
@@ -4760,6 +4768,7 @@ SS ION
 Ġcurrent ly
 se c
 Ġrelations hip
+################ ################
 ĠM ap
 as et
 Ġparam eters
@@ -5261,6 +5270,7 @@ l at
 ast e
 Ġpro file
 Ġread y
+#if ndef
 ro te
 Ġs ense
 G ener
@@ -5485,6 +5495,7 @@ ag ram
 Ġp en
 .b tn
 ĠA S
+#if def
 Ġcho ice
 ĠP age
 _P RO
@@ -5644,6 +5655,7 @@ b uf
 S cript
 d at
 Ġr ule
+# import
 =" /
 S erial
 Ġstart ing
@@ -6220,6 +6232,7 @@ C D
 ib ly
 .e quals
 Ġintern ational
+# pragma
 oo th
 W riter
 i ate
@@ -7739,6 +7752,7 @@ D on
 ĠH ot
 ĠInd ex
 ; &
+# !
 ĠN or
 ĠC ap
 - (
@@ -7893,6 +7907,7 @@ ant ic
 ĠApp le
 g in
 Re quired
+# +
 land s
 Ġs qu
 Ġfact or
@@ -8428,6 +8443,7 @@ C OM
 i ro
 Ġrem ote
 ĠI T
+#! /
 Ġred istrib
 ra z
 ĠS ince
@@ -9665,6 +9681,7 @@ ont o
 ĠJ ournal
 r outer
 Ġmys qli
+# else
 ) "
 -x s
 let s
@@ -11753,6 +11770,7 @@ R et
 -d anger
 Ġroom s
 con v
+# {
 . op
 ĠA rea
 _S C
@@ -12791,6 +12809,7 @@ Th ank
 Ġfact s
 Ġun t
 .in stance
+################################ ################################
 - end
 ĠJO IN
 ĠH en
@@ -13076,6 +13095,7 @@ id os
 ĠJew ish
 Ġre covery
 Ġstand s
+# [
 Ġafter noon
 ĠArt icle
 _ att
@@ -13611,6 +13631,7 @@ un ge
 err a
 Ċ ĠĠĊ
 utor ial
+# a
 p ay
 char ge
 ĠI re
@@ -14095,6 +14116,7 @@ im plementation
 Ġstre ets
 _M SG
 New s
+## #
 : /
 Ġcut ting
 x B
@@ -15910,6 +15932,7 @@ param eter
 gener ated
 Ġad mitted
 Ġp ussy
+# w
 Ġsw im
 un ion
 N a
@@ -15961,6 +15984,7 @@ _ div
 vel y
 } );čĊ
 _ ENT
+#+ #+
 art icles
 ĠSou thern
 Ġstrong er
@@ -17173,6 +17197,7 @@ _f ont
 Ġcharacter istics
 D one
 el n
+######## ####
 PO S
 Ġd ensity
 ĠPl atform
@@ -18177,6 +18202,7 @@ W T
 d og
 Ġclick ing
 ), ĊĊ
+# line
 Oper ator
 Ġc iv
 Ġm erg
@@ -19588,6 +19614,7 @@ _th eme
 Ġdemonstr ate
 ĠHow ard
 D rop
+# undef
 Ġinv oke
 ĠB ridge
 end en
@@ -22329,6 +22356,7 @@ L F
 ĠP ub
 Ġâ Ķ
 c ion
+## Ċ
 II I
 Tag Name
 Ġam id
@@ -23378,6 +23406,7 @@ w ers
 .m aterial
 ĠD ue
 ĠP el
+# print
 Ġindepend ence
 ex us
 Sh adow
@@ -26200,6 +26229,7 @@ p icture
 ĠFant asy
 st ory
 Ġm ême
+# ĊĊ
 _s lice
 olt age
 H ar
@@ -26552,6 +26582,7 @@ j query
 am ination
 [ @"
 Ġm uj
+## #Ċ
 First OrDefault
 then Return
 C he
@@ -26723,6 +26754,7 @@ enc oder
 ather ine
 ( dest
 az ed
+# endregion
 sem bl
 , M
 ob y
@@ -28559,6 +28591,7 @@ _S M
 ib o
 Ġlo yal
 Ġuse less
+# elif
 ĠUlt imate
 C ome
 g el
@@ -28766,6 +28799,7 @@ as il
 ation ally
 ĠMe eting
 è¯ ¯
+# region
 Ġrout ing
 .f ocus
 ĠYou th
@@ -29562,6 +29596,7 @@ index Of
 .prot ocol
 AF E
 Ġtext ures
+################################ ################
 umb ai
 .st ats
 ĠG E
@@ -31748,6 +31783,7 @@ k now
 .F ull
 . undefined
 ĠSequ elize
+################################################################ ############
 Ġeduc ated
 _O VER
 åº ı
@@ -33359,6 +33395,7 @@ M id
 dd s
 Ġdepos its
 ĉd river
+# ga
 pr ising
 print ln
 Ġpres enter
@@ -40191,6 +40228,7 @@ M ade
 ac ific
 .v olume
 Ġmir rors
+################################################################ ################
 Ġviol ate
 ars ers
 Ġsoc io
@@ -41048,6 +41086,7 @@ _N ode
 ar de
 Ġfier ce
 lic ted
+# čĊ
 Ġbreak through
 ĠE rik
 Ġb ride
@@ -43790,6 +43829,7 @@ _ Log
 rown ed
 _m ed
 ĉ date
+# __
 Ġcost umes
 ĠRe quires
 aff le
@@ -45854,6 +45894,7 @@ Progress HUD
 Ġmock ed
 ĠT ory
 Ġ") ";Ċ
+# g
 Ġli ed
 Ġs vc
 _g ui
@@ -47778,10 +47819,12 @@ Num ero
 d aily
 ĠC oding
 ( destination
+# $
 uj Äħ
 Ġemerg ence
 _p ara
 _IN CLUDE
+# :
 Ġrecogn izing
 Ġf ug
 "} },Ċ
@@ -48197,6 +48240,7 @@ b stract
 k p
 IT ES
 Ġ ################################################################
+# get
 / Desktop
 ĉgl m
 Ġz inc
@@ -50222,6 +50266,7 @@ _L AYER
 Ġdee pest
 w k
 ĠNo ise
+### ĊĊ
 Ġpr éc
 ot le
 ÑĤ е
@@ -52021,6 +52066,7 @@ C OR
 -effect ive
 Ġsk u
 ed ly
+## ĊĊ
 ĠH olly
 ĠFL ASH
 / TR
@@ -55239,6 +55285,7 @@ keep ers
 _s b
 om ens
 ĠExec utes
+# "
 TT Y
 ĠValue Type
 ); */Ċ
@@ -55638,6 +55685,7 @@ S cores
 E OS
 H al
 Ġtrust worthy
+# =
 .EX TRA
 Ġman o
 is icing
@@ -60472,6 +60520,7 @@ m om
 / place
 Ġhol istic
 : t
+# ,
 Ġb oto
 Ġnause a
 ĠSh ooting
@@ -60608,6 +60657,7 @@ IM ATION
 C ause
 at ypes
 man ufacturer
+# ----------------------------------------------------------------------------
 Ġsp or
 es on
 Ġpun ched
@@ -62217,6 +62267,7 @@ Set Branch
 S creenshot
 esthes ia
 Ġwalk er
+# from
 co ordinate
 _ interest
 Ġhelp less
@@ -63427,6 +63478,7 @@ Count s
 Field Type
 ok able
 ĠRT L
+# index
 Ġ% {
 Ġar ist
 .Get Mapping
@@ -65749,6 +65801,7 @@ tr uncate
 so on
 Ġdis fr
 ĉ Vec
+## _
 .s chool
 Ġbl inds
 Ġac ab
@@ -67020,6 +67073,7 @@ _IO CTL
 ĉex ec
 EN AME
 _ letters
+#### #
 ĠC s
 '] =="
 Ġ" ')
@@ -67221,6 +67275,7 @@ _ asm
 Ġtem pl
 ĠExp ense
 e ight
+# SBATCH
 z ones
 .p arts
 at rice
@@ -67555,6 +67610,7 @@ ra i
 i ard
 Theme Provider
 Ġevent Data
+# ad
 .get Url
 Ġtool box
 Ġover riding
@@ -68399,6 +68455,7 @@ _PRE SENT
 ĠTh eta
 _inter p
 R aster
+# error
 , obj
 Ġtweet ing
 _G PU
@@ -68746,6 +68803,7 @@ imm une
 Ġè¾ĵ åħ¥
 Ġintimid ation
 end ale
+################################################################ ########
 Ġinsight ful
 Ġs ands
 Ġphotograph ic
@@ -69151,6 +69209,7 @@ sh ed
 Dep loy
 .Con tract
 - bo
+# /
 Ġinter ception
 Ġis bn
 Ġman ners
@@ -69633,6 +69692,7 @@ PO CH
 \ \"
 - job
 Ġsevent y
+#### Ċ
 ĠMan or
 Ġdown right
 Ġtime frame
@@ -71438,6 +71498,7 @@ _BR ANCH
 /m essages
 Ġof Type
 ĉs wap
+# plt
 ĠTur ks
 N ES
 Ġprogress ively
@@ -71685,6 +71746,7 @@ L ik
 _T itle
 (G tk
 Ġc elle
+# ================================================================
 ĠJ oomla
 "> //
 Month ly
@@ -75190,6 +75252,7 @@ s olver
 ĠRevel ation
 Ġrap ide
 p unk
+# ----------------------------------------------------------------
 Object Id
 abin et
 extr acomment
@@ -75594,6 +75657,7 @@ h ari
 (c d
 Ġun zip
 Ġglam orous
+# ",
 Ġn aw
 Ġmin ib
 ĠBr an
@@ -75876,6 +75940,7 @@ Button Type
 Ġragaz za
 / tag
 Ġirres ist
+# End
 ****** *čĊ
 Ġrestr ained
 Ġch iropr
@@ -76013,6 +76078,7 @@ cast ing
 Ġgr âce
 ĠH elsinki
 G ro
+# af
 ìĭ Ŀ
 Ġsou ha
 ĠInd ie
@@ -76805,6 +76871,7 @@ x EE
 .M ESSAGE
 (de g
 å¿ Ĺ
+#### ##
 Ġ"" ),
 kl är
 \M ail
@@ -77019,6 +77086,7 @@ ren s
 / grid
 Ġfil thy
 .e v
+#### #Ċ
 Ġs are
 Ġso aking
 ĠReg ions
@@ -77259,6 +77327,7 @@ IFICATION S
 ` ;
 ãĥ ĭ
 cent e
+# ab
 Ġlex ical
 ĠB RO
 Ġr ulings
@@ -77367,6 +77436,7 @@ U PI
 ĉ props
 Ġrot ten
 Re jected
+# ac
 . ua
 ĠAm nesty
 Ġpenn ed
@@ -77709,6 +77779,7 @@ d pi
 cul os
 _person al
 Ġanaly tic
+# create
 _mem cpy
 (List Node
 _T ag
@@ -78626,6 +78697,7 @@ b anks
 ìŀħ ëĭĪëĭ¤
 Ġsid eline
 .Array Adapter
+#### ##Ċ
 ĠSy rians
 ĠAtt endance
 -es que
@@ -79118,6 +79190,7 @@ Image Url
 ALL ERY
 c j
 x AD
+############################################################################ ###Ċ
 Ġitalian i
 | #
 Ġreg enerate
@@ -80086,6 +80159,7 @@ op he
 _C ategory
 ĠBT N
 ĠDar th
+# for
 eth nic
 arch itecture
 ĠCou pe
@@ -81160,6 +81234,7 @@ _TRA IN
 Ġcooper ating
 ung i
 Ar izona
+# echo
 -ex pression
 .min utes
 Ġpref ixed
@@ -81691,6 +81766,7 @@ customer Id
 ĠMom ents
 enu ous
 IFIC ATE
+#### ###Ċ
 æĸĩ ç«ł
 á»į c
 orm sg
@@ -81738,6 +81814,7 @@ Environment al
 ĠIS IL
 Ġco op
 h ores
+# @
 Ġcomp el
 (s kip
 éĺ ³
@@ -81962,6 +82039,7 @@ ia ux
 Ġ-*- čĊ
 if es
 ĠM ansion
+# Region
 C ancellation
 Ġnear ing
 Ġl angu
@@ -82242,6 +82320,7 @@ M ismatch
 Ġw reak
 Mar vel
 /s l
+################################ ########
 Ġmov able
 Ñĥ й
 ĠDr inking
@@ -83817,6 +83896,7 @@ M iami
 ĠPal o
 ĠSuz anne
 _m appings
+#{ @
 ĠOccup ational
 _b uckets
 go als
@@ -83961,6 +84041,7 @@ so v
 -w atch
 ĠHosp itals
 } while
+################ ########
 á» £
 Ġakt ual
 Ġkil ograms
@@ -84082,6 +84163,7 @@ CH AN
 Ġcurrent Position
 ĠCaucas ian
 $ img
+# aa
 Ġse an
 M ess
 *= *=
@@ -85026,6 +85108,7 @@ py x
 ĠR udd
 ĠPres byterian
 und ler
+#! [
 _l ahir
 () =="
 Access ibility
@@ -87505,6 +87588,7 @@ C ouncil
 _AT OMIC
 Sub Menu
 _com press
+# .
 Dr v
 .push Button
 Ġsuit case
@@ -87563,6 +87647,7 @@ ch ine
 Ġe books
 ) size
 Ġspecial ised
+# ae
 Ġmich ael
 ĠSTD OUT
 ĠP ell
@@ -87741,6 +87826,7 @@ t ournament
 ĠEisen hower
 File d
 Ġhe bt
+# \
 create QueryBuilder
 æľī æķĪ
 v anced
@@ -87756,6 +87842,7 @@ Inst aller
 ol vable
 Ġal as
 (sp ell
+################ ############
 Ġdef amation
 ( Arg
 Ġuser Details
@@ -89693,6 +89780,7 @@ ict ory
 Ġsup p
 pe on
 v rier
+################################################ ########
 Ġtrot z
 Ġmel tdown
 ark ers
@@ -90384,6 +90472,7 @@ Gr an
 ser ter
 Ġstore front
 _ ends
+################################################################################ Ċ
 ĉg it
 D SP
 CH AIN
@@ -91906,6 +91995,7 @@ arg ed
 ĠST ILL
 Qualified Name
 . RES
+# c
 .w riteln
 ĠImmutable List
 ĠTh umb
@@ -92887,6 +92977,7 @@ Sc ala
 in ne
 ĠCONST ANTS
 _P rice
+# %%
 Ġar sch
 ĠNS AttributedString
 ĠFile Type
@@ -93833,6 +93924,7 @@ _TRI ANGLE
 _P ICTURE
 _OR IENTATION
 ĠO PP
+# '
 áf ico
 .h istogram
 ĠB enny
@@ -94103,6 +94195,7 @@ Owner Id
 ew n
 Ġpop ulous
 ĠSh ed
+# ${
 ĠA lo
 Device Info
 (IN VOKE
@@ -97493,6 +97586,7 @@ F el
 ĠD ISTRIBUT
 é ments
 ĠValid ates
+################################################ ############
 Ġ| /
 Ġes l
 Ġré seau
@@ -97512,6 +97606,7 @@ Ne o
 ime i
 .get Bounds
 .Mouse EventHandler
+#### ###
 Generic Type
 /c ms
 Ġturn o