boboliu/glm-4-9b-FP8

GLM-4-9b Quantized with AutoFP8

使用 m-a-p/COIG-CQIA 的 COIG_pc 集作为校准量化的 glm-4-9b 基座。

通常来讲你不会这样用基座模型。