Update README.md
Browse files
README.md
CHANGED
@@ -29,3 +29,15 @@ configs:
|
|
29 |
- split: train
|
30 |
path: data/train-*
|
31 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
29 |
- split: train
|
30 |
path: data/train-*
|
31 |
---
|
32 |
+
|
33 |
+
pattern的维度是 (#layers, #tokens), 比如假设维度是 (6,32),则表示 MoE 总共 6 层,输入或输出的 token是 32, pattern[0,:]记录了所有 token 在第一层选择的 expert 的情况。
|
34 |
+
|
35 |
+
举个例子
|
36 |
+
|
37 |
+
```python
|
38 |
+
decode_pattern = [ [ 37, 6 ], [ 121, 36 ], [ 56, 76 ], [ 82, 26 ], [ 75, 61 ], [ 100, 60 ] ]
|
39 |
+
```
|
40 |
+
|
41 |
+
decode_pattern的维度是(6,2),则表示有 6 层,输出的 token 数是 2。
|
42 |
+
decode_pattern[0][0]=37,这表示在第0层,第 0 个 token 选择的expert 的index 是 37
|
43 |
+
|