很好，感谢！
#1
by
jgbrblmd
- opened
这个量化是用什么命令生成的？什么版本的工具以及哪些数据集？对困惑度有测量吗？
再次感谢，这几天一直在找qwen72b的量化模型。
量化部分主要基于autoawq，但现在发布版本的autoawq还不支持，和他们团队合作，我们调整了autoawq部分代码后实现了，分享给大家，效果不错
量化部分主要基于autoawq，但现在发布版本的autoawq还不支持，和他们团队合作，我们调整了autoawq部分代码后实现了，分享给大家，效果不错
你好，请问可以放出量化脚本吗，非常感谢您的工作