您好，我是一名计算机工程的學生，目前正在研究微調（fine-tuning），已經投入了不少資源，使用SFT方法對一個32B模型進行了微調。不過，對於模型合併需要多大的硬體資源還不太清楚，想請問您在進行這項工作時使用了哪些硬體設備？我目前的環境是RTX 3090 * 2。
感謝您的閱讀!
· Sign up or log in to comment
