|
{ |
|
"best_metric": 0.07496260851621628, |
|
"best_model_checkpoint": "my_awesome_model/checkpoint-15000", |
|
"epoch": 1.0, |
|
"eval_steps": 500, |
|
"global_step": 15000, |
|
"is_hyper_param_search": false, |
|
"is_local_process_zero": true, |
|
"is_world_process_zero": true, |
|
"log_history": [ |
|
{ |
|
"epoch": 0.03, |
|
"learning_rate": 1.9666666666666666e-05, |
|
"loss": 0.1446, |
|
"step": 500 |
|
}, |
|
{ |
|
"epoch": 0.07, |
|
"learning_rate": 1.9333333333333333e-05, |
|
"loss": 0.0898, |
|
"step": 1000 |
|
}, |
|
{ |
|
"epoch": 0.1, |
|
"learning_rate": 1.9e-05, |
|
"loss": 0.0545, |
|
"step": 1500 |
|
}, |
|
{ |
|
"epoch": 0.13, |
|
"learning_rate": 1.866666666666667e-05, |
|
"loss": 0.0487, |
|
"step": 2000 |
|
}, |
|
{ |
|
"epoch": 0.17, |
|
"learning_rate": 1.8333333333333333e-05, |
|
"loss": 0.0444, |
|
"step": 2500 |
|
}, |
|
{ |
|
"epoch": 0.2, |
|
"learning_rate": 1.8e-05, |
|
"loss": 0.0443, |
|
"step": 3000 |
|
}, |
|
{ |
|
"epoch": 0.23, |
|
"learning_rate": 1.7666666666666668e-05, |
|
"loss": 0.0439, |
|
"step": 3500 |
|
}, |
|
{ |
|
"epoch": 0.27, |
|
"learning_rate": 1.7333333333333336e-05, |
|
"loss": 0.0291, |
|
"step": 4000 |
|
}, |
|
{ |
|
"epoch": 0.3, |
|
"learning_rate": 1.7e-05, |
|
"loss": 0.0342, |
|
"step": 4500 |
|
}, |
|
{ |
|
"epoch": 0.33, |
|
"learning_rate": 1.6666666666666667e-05, |
|
"loss": 0.0332, |
|
"step": 5000 |
|
}, |
|
{ |
|
"epoch": 0.37, |
|
"learning_rate": 1.6333333333333335e-05, |
|
"loss": 0.0345, |
|
"step": 5500 |
|
}, |
|
{ |
|
"epoch": 0.4, |
|
"learning_rate": 1.6000000000000003e-05, |
|
"loss": 0.0232, |
|
"step": 6000 |
|
}, |
|
{ |
|
"epoch": 0.43, |
|
"learning_rate": 1.5666666666666667e-05, |
|
"loss": 0.0266, |
|
"step": 6500 |
|
}, |
|
{ |
|
"epoch": 0.47, |
|
"learning_rate": 1.5333333333333334e-05, |
|
"loss": 0.0276, |
|
"step": 7000 |
|
}, |
|
{ |
|
"epoch": 0.5, |
|
"learning_rate": 1.5000000000000002e-05, |
|
"loss": 0.0303, |
|
"step": 7500 |
|
}, |
|
{ |
|
"epoch": 0.53, |
|
"learning_rate": 1.4666666666666666e-05, |
|
"loss": 0.0254, |
|
"step": 8000 |
|
}, |
|
{ |
|
"epoch": 0.57, |
|
"learning_rate": 1.4333333333333334e-05, |
|
"loss": 0.0214, |
|
"step": 8500 |
|
}, |
|
{ |
|
"epoch": 0.6, |
|
"learning_rate": 1.4e-05, |
|
"loss": 0.0206, |
|
"step": 9000 |
|
}, |
|
{ |
|
"epoch": 0.63, |
|
"learning_rate": 1.3666666666666667e-05, |
|
"loss": 0.0258, |
|
"step": 9500 |
|
}, |
|
{ |
|
"epoch": 0.67, |
|
"learning_rate": 1.3333333333333333e-05, |
|
"loss": 0.0179, |
|
"step": 10000 |
|
}, |
|
{ |
|
"epoch": 0.7, |
|
"learning_rate": 1.3000000000000001e-05, |
|
"loss": 0.0184, |
|
"step": 10500 |
|
}, |
|
{ |
|
"epoch": 0.73, |
|
"learning_rate": 1.2666666666666667e-05, |
|
"loss": 0.0221, |
|
"step": 11000 |
|
}, |
|
{ |
|
"epoch": 0.77, |
|
"learning_rate": 1.2333333333333334e-05, |
|
"loss": 0.0187, |
|
"step": 11500 |
|
}, |
|
{ |
|
"epoch": 0.8, |
|
"learning_rate": 1.2e-05, |
|
"loss": 0.0174, |
|
"step": 12000 |
|
}, |
|
{ |
|
"epoch": 0.83, |
|
"learning_rate": 1.1666666666666668e-05, |
|
"loss": 0.0181, |
|
"step": 12500 |
|
}, |
|
{ |
|
"epoch": 0.87, |
|
"learning_rate": 1.1333333333333334e-05, |
|
"loss": 0.0176, |
|
"step": 13000 |
|
}, |
|
{ |
|
"epoch": 0.9, |
|
"learning_rate": 1.1000000000000001e-05, |
|
"loss": 0.0171, |
|
"step": 13500 |
|
}, |
|
{ |
|
"epoch": 0.93, |
|
"learning_rate": 1.0666666666666667e-05, |
|
"loss": 0.0149, |
|
"step": 14000 |
|
}, |
|
{ |
|
"epoch": 0.97, |
|
"learning_rate": 1.0333333333333335e-05, |
|
"loss": 0.0136, |
|
"step": 14500 |
|
}, |
|
{ |
|
"epoch": 1.0, |
|
"learning_rate": 1e-05, |
|
"loss": 0.0178, |
|
"step": 15000 |
|
}, |
|
{ |
|
"epoch": 1.0, |
|
"eval_accuracy": 0.9843833333333334, |
|
"eval_loss": 0.07496260851621628, |
|
"eval_runtime": 200.0448, |
|
"eval_samples_per_second": 299.933, |
|
"eval_steps_per_second": 18.746, |
|
"step": 15000 |
|
} |
|
], |
|
"logging_steps": 500, |
|
"max_steps": 30000, |
|
"num_train_epochs": 2, |
|
"save_steps": 500, |
|
"total_flos": 2.27844960589872e+16, |
|
"trial_name": null, |
|
"trial_params": null |
|
} |
|
|