stevhliu HF staff commited on
Commit
930aad0
·
verified ·
1 Parent(s): 99a8a6f

Upload quantization.csv

Browse files
Files changed (1) hide show
  1. quantization.csv +44 -0
quantization.csv ADDED
@@ -0,0 +1,44 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ quantization method,hardware,bits
2
+ AQLM,CPU,1
3
+ AQLM,CPU,2
4
+ AQLM,CUDA GPU,1
5
+ AQLM,CUDA GPU,2
6
+ AWQ,CPU,4
7
+ AWQ,CUDA GPU,4
8
+ AWQ,ROCm GPU,4
9
+ bitsandbytes,CUDA GPU,4
10
+ bitsandbytes,CUDA GPU,8
11
+ compressed-tensors,CPU,1
12
+ compressed-tensors,CPU,8
13
+ compressed-tensors,CUDA GPU,1
14
+ compressed-tensors,CUDA GPU,8
15
+ compressed-tensors,ROCm GPU,1
16
+ compressed-tensors,ROCm GPU,8
17
+ EETQ,CUDA GPU,8
18
+ GGUF,CPU,1
19
+ GGUF,CPU,8
20
+ GGUF,CUDA GPU,1
21
+ GGUF,CUDA GPU,8
22
+ GGUF,Apple Silicon,1
23
+ GGUF,Apple Silicon,8
24
+ GPTQ,CUDA GPU,2
25
+ GPTQ,CUDA GPU,3
26
+ GPTQ,CUDA GPU,4
27
+ GPTQ,CUDA GPU,8
28
+ GPTQ,ROCm GPU,2
29
+ GPTQ,ROCm GPU,3
30
+ GPTQ,ROCm GPU,4
31
+ GPTQ,ROCm GPU,8
32
+ HQQ,CPU,1
33
+ HQQ,CPU,8
34
+ HQQ,CUDA GPU,1
35
+ HQQ,CUDA GPU,8
36
+ optimum-quanto,CPU,2
37
+ optimum-quanto,CPU,4
38
+ optimum-quanto,CPU,8
39
+ optimum-quanto,CUDA GPU,2
40
+ optimum-quanto,CUDA GPU,4
41
+ optimum-quanto,CUDA GPU,8
42
+ FBGEMM_FP8,CUDA GPU,8
43
+ torchao,CUDA GPU,4
44
+ torchao,CUDA GPU,8