Круто, а кванты Q4_0/Q4_1 будут?

#8
by seedmanc - opened

А то GPT4ALL не может в ускорение GPU на этих буквенных K-квантах.

seedmanc changed discussion status to closed

Sign up or log in to comment