marsggbo commited on
Commit
30d33d6
·
verified ·
1 Parent(s): ddafb45

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +12 -0
README.md CHANGED
@@ -29,3 +29,15 @@ configs:
29
  - split: train
30
  path: data/train-*
31
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
29
  - split: train
30
  path: data/train-*
31
  ---
32
+
33
+ pattern的维度是 (#layers, #tokens), 比如假设维度是 (6,32),则表示 MoE 总共 6 层,输入或输出的 token是 32, pattern[0,:]记录了所有 token 在第一层选择的 expert 的情况。
34
+
35
+ 举个例子
36
+
37
+ ```python
38
+ decode_pattern = [ [ 37, 6 ], [ 121, 36 ], [ 56, 76 ], [ 82, 26 ], [ 75, 61 ], [ 100, 60 ] ]
39
+ ```
40
+
41
+ decode_pattern的维度是(6,2),则表示有 6 层,输出的 token 数是 2。
42
+ decode_pattern[0][0]=37,这表示在第0层,第 0 个 token 选择的expert 的index 是 37
43
+