{
  "best_metric": 0.8241113424301147,
  "best_model_checkpoint": "vit-finetune-kidney-stone-Michel_Daudon_-w256_1k_v1-_SUR-pretrain\\checkpoint-100",
  "epoch": 15.0,
  "eval_steps": 100,
  "global_step": 2250,
  "is_hyper_param_search": false,
  "is_local_process_zero": true,
  "is_world_process_zero": true,
  "log_history": [
    {
      "epoch": 0.03333333333333333,
      "grad_norm": 1.5038498640060425,
      "learning_rate": 0.00019955555555555558,
      "loss": 1.6536,
      "step": 5
    },
    {
      "epoch": 0.06666666666666667,
      "grad_norm": 1.829256296157837,
      "learning_rate": 0.00019911111111111111,
      "loss": 1.2416,
      "step": 10
    },
    {
      "epoch": 0.1,
      "grad_norm": 1.8621110916137695,
      "learning_rate": 0.00019866666666666668,
      "loss": 0.888,
      "step": 15
    },
    {
      "epoch": 0.13333333333333333,
      "grad_norm": 1.2873362302780151,
      "learning_rate": 0.00019822222222222225,
      "loss": 0.5933,
      "step": 20
    },
    {
      "epoch": 0.16666666666666666,
      "grad_norm": 1.5781307220458984,
      "learning_rate": 0.00019777777777777778,
      "loss": 0.4845,
      "step": 25
    },
    {
      "epoch": 0.2,
      "grad_norm": 1.8557803630828857,
      "learning_rate": 0.00019733333333333335,
      "loss": 0.3413,
      "step": 30
    },
    {
      "epoch": 0.23333333333333334,
      "grad_norm": 3.6457643508911133,
      "learning_rate": 0.0001968888888888889,
      "loss": 0.3336,
      "step": 35
    },
    {
      "epoch": 0.26666666666666666,
      "grad_norm": 1.5236932039260864,
      "learning_rate": 0.00019644444444444445,
      "loss": 0.3685,
      "step": 40
    },
    {
      "epoch": 0.3,
      "grad_norm": 1.8863478899002075,
      "learning_rate": 0.000196,
      "loss": 0.2613,
      "step": 45
    },
    {
      "epoch": 0.3333333333333333,
      "grad_norm": 3.744304656982422,
      "learning_rate": 0.00019555555555555556,
      "loss": 0.2035,
      "step": 50
    },
    {
      "epoch": 0.36666666666666664,
      "grad_norm": 1.042971134185791,
      "learning_rate": 0.0001951111111111111,
      "loss": 0.1786,
      "step": 55
    },
    {
      "epoch": 0.4,
      "grad_norm": 1.4257638454437256,
      "learning_rate": 0.0001946666666666667,
      "loss": 0.1745,
      "step": 60
    },
    {
      "epoch": 0.43333333333333335,
      "grad_norm": 0.5273764133453369,
      "learning_rate": 0.00019422222222222223,
      "loss": 0.1359,
      "step": 65
    },
    {
      "epoch": 0.4666666666666667,
      "grad_norm": 2.8830924034118652,
      "learning_rate": 0.0001937777777777778,
      "loss": 0.3076,
      "step": 70
    },
    {
      "epoch": 0.5,
      "grad_norm": 2.2436978816986084,
      "learning_rate": 0.00019333333333333333,
      "loss": 0.1644,
      "step": 75
    },
    {
      "epoch": 0.5333333333333333,
      "grad_norm": 1.6757084131240845,
      "learning_rate": 0.0001928888888888889,
      "loss": 0.1409,
      "step": 80
    },
    {
      "epoch": 0.5666666666666667,
      "grad_norm": 2.3054308891296387,
      "learning_rate": 0.00019244444444444444,
      "loss": 0.2343,
      "step": 85
    },
    {
      "epoch": 0.6,
      "grad_norm": 1.7408437728881836,
      "learning_rate": 0.000192,
      "loss": 0.1608,
      "step": 90
    },
    {
      "epoch": 0.6333333333333333,
      "grad_norm": 1.7478148937225342,
      "learning_rate": 0.00019155555555555554,
      "loss": 0.1698,
      "step": 95
    },
    {
      "epoch": 0.6666666666666666,
      "grad_norm": 0.20468735694885254,
      "learning_rate": 0.00019111111111111114,
      "loss": 0.189,
      "step": 100
    },
    {
      "epoch": 0.6666666666666666,
      "eval_accuracy": 0.731807031888798,
      "eval_f1": 0.7202010202484644,
      "eval_loss": 0.8241113424301147,
      "eval_precision": 0.7396688030441013,
      "eval_recall": 0.731807031888798,
      "eval_runtime": 9.3032,
      "eval_samples_per_second": 131.46,
      "eval_steps_per_second": 16.446,
      "step": 100
    },
    {
      "epoch": 0.7,
      "grad_norm": 0.8281188011169434,
      "learning_rate": 0.00019066666666666668,
      "loss": 0.101,
      "step": 105
    },
    {
      "epoch": 0.7333333333333333,
      "grad_norm": 5.97291374206543,
      "learning_rate": 0.00019022222222222224,
      "loss": 0.1681,
      "step": 110
    },
    {
      "epoch": 0.7666666666666667,
      "grad_norm": 2.7595715522766113,
      "learning_rate": 0.00018977777777777778,
      "loss": 0.1445,
      "step": 115
    },
    {
      "epoch": 0.8,
      "grad_norm": 7.523869037628174,
      "learning_rate": 0.00018933333333333335,
      "loss": 0.1466,
      "step": 120
    },
    {
      "epoch": 0.8333333333333334,
      "grad_norm": 1.1659404039382935,
      "learning_rate": 0.00018888888888888888,
      "loss": 0.1337,
      "step": 125
    },
    {
      "epoch": 0.8666666666666667,
      "grad_norm": 2.5459585189819336,
      "learning_rate": 0.00018844444444444445,
      "loss": 0.1119,
      "step": 130
    },
    {
      "epoch": 0.9,
      "grad_norm": 4.724196910858154,
      "learning_rate": 0.000188,
      "loss": 0.1048,
      "step": 135
    },
    {
      "epoch": 0.9333333333333333,
      "grad_norm": 2.075943946838379,
      "learning_rate": 0.00018755555555555558,
      "loss": 0.1116,
      "step": 140
    },
    {
      "epoch": 0.9666666666666667,
      "grad_norm": 1.1934221982955933,
      "learning_rate": 0.00018711111111111112,
      "loss": 0.1719,
      "step": 145
    },
    {
      "epoch": 1.0,
      "grad_norm": 4.2129435539245605,
      "learning_rate": 0.0001866666666666667,
      "loss": 0.1113,
      "step": 150
    },
    {
      "epoch": 1.0333333333333334,
      "grad_norm": 0.23387305438518524,
      "learning_rate": 0.00018622222222222223,
      "loss": 0.0883,
      "step": 155
    },
    {
      "epoch": 1.0666666666666667,
      "grad_norm": 0.20353923738002777,
      "learning_rate": 0.0001857777777777778,
      "loss": 0.0645,
      "step": 160
    },
    {
      "epoch": 1.1,
      "grad_norm": 0.473369836807251,
      "learning_rate": 0.00018533333333333333,
      "loss": 0.0814,
      "step": 165
    },
    {
      "epoch": 1.1333333333333333,
      "grad_norm": 0.9461199045181274,
      "learning_rate": 0.0001848888888888889,
      "loss": 0.0831,
      "step": 170
    },
    {
      "epoch": 1.1666666666666667,
      "grad_norm": 1.2698873281478882,
      "learning_rate": 0.00018444444444444446,
      "loss": 0.0719,
      "step": 175
    },
    {
      "epoch": 1.2,
      "grad_norm": 4.034528732299805,
      "learning_rate": 0.00018400000000000003,
      "loss": 0.0497,
      "step": 180
    },
    {
      "epoch": 1.2333333333333334,
      "grad_norm": 3.144911527633667,
      "learning_rate": 0.00018355555555555557,
      "loss": 0.0693,
      "step": 185
    },
    {
      "epoch": 1.2666666666666666,
      "grad_norm": 0.10751402378082275,
      "learning_rate": 0.00018311111111111113,
      "loss": 0.0302,
      "step": 190
    },
    {
      "epoch": 1.3,
      "grad_norm": 0.20744110643863678,
      "learning_rate": 0.00018266666666666667,
      "loss": 0.0478,
      "step": 195
    },
    {
      "epoch": 1.3333333333333333,
      "grad_norm": 0.4916437268257141,
      "learning_rate": 0.00018222222222222224,
      "loss": 0.0343,
      "step": 200
    },
    {
      "epoch": 1.3333333333333333,
      "eval_accuracy": 0.7269010629599346,
      "eval_f1": 0.7293936876644103,
      "eval_loss": 1.11248779296875,
      "eval_precision": 0.8038062788050669,
      "eval_recall": 0.7269010629599346,
      "eval_runtime": 9.7216,
      "eval_samples_per_second": 125.802,
      "eval_steps_per_second": 15.738,
      "step": 200
    },
    {
      "epoch": 1.3666666666666667,
      "grad_norm": 0.1939370334148407,
      "learning_rate": 0.00018177777777777778,
      "loss": 0.0369,
      "step": 205
    },
    {
      "epoch": 1.4,
      "grad_norm": 1.1403096914291382,
      "learning_rate": 0.00018133333333333334,
      "loss": 0.051,
      "step": 210
    },
    {
      "epoch": 1.4333333333333333,
      "grad_norm": 0.07095254957675934,
      "learning_rate": 0.0001808888888888889,
      "loss": 0.0201,
      "step": 215
    },
    {
      "epoch": 1.4666666666666668,
      "grad_norm": 0.05994000285863876,
      "learning_rate": 0.00018044444444444447,
      "loss": 0.0194,
      "step": 220
    },
    {
      "epoch": 1.5,
      "grad_norm": 0.06130120903253555,
      "learning_rate": 0.00018,
      "loss": 0.017,
      "step": 225
    },
    {
      "epoch": 1.5333333333333332,
      "grad_norm": 0.8700404763221741,
      "learning_rate": 0.00017955555555555558,
      "loss": 0.0171,
      "step": 230
    },
    {
      "epoch": 1.5666666666666667,
      "grad_norm": 3.503563165664673,
      "learning_rate": 0.00017911111111111112,
      "loss": 0.0719,
      "step": 235
    },
    {
      "epoch": 1.6,
      "grad_norm": 0.059561729431152344,
      "learning_rate": 0.00017866666666666668,
      "loss": 0.037,
      "step": 240
    },
    {
      "epoch": 1.6333333333333333,
      "grad_norm": 0.04538533091545105,
      "learning_rate": 0.00017822222222222222,
      "loss": 0.0135,
      "step": 245
    },
    {
      "epoch": 1.6666666666666665,
      "grad_norm": 3.2934460639953613,
      "learning_rate": 0.00017777777777777779,
      "loss": 0.0323,
      "step": 250
    },
    {
      "epoch": 1.7,
      "grad_norm": 0.5714149475097656,
      "learning_rate": 0.00017733333333333335,
      "loss": 0.0952,
      "step": 255
    },
    {
      "epoch": 1.7333333333333334,
      "grad_norm": 0.0423518531024456,
      "learning_rate": 0.0001768888888888889,
      "loss": 0.0413,
      "step": 260
    },
    {
      "epoch": 1.7666666666666666,
      "grad_norm": 3.930265188217163,
      "learning_rate": 0.00017644444444444446,
      "loss": 0.0971,
      "step": 265
    },
    {
      "epoch": 1.8,
      "grad_norm": 0.496189147233963,
      "learning_rate": 0.00017600000000000002,
      "loss": 0.0572,
      "step": 270
    },
    {
      "epoch": 1.8333333333333335,
      "grad_norm": 0.07552386075258255,
      "learning_rate": 0.00017555555555555556,
      "loss": 0.015,
      "step": 275
    },
    {
      "epoch": 1.8666666666666667,
      "grad_norm": 0.08751185983419418,
      "learning_rate": 0.00017511111111111113,
      "loss": 0.0797,
      "step": 280
    },
    {
      "epoch": 1.9,
      "grad_norm": 0.06888749450445175,
      "learning_rate": 0.00017466666666666667,
      "loss": 0.0122,
      "step": 285
    },
    {
      "epoch": 1.9333333333333333,
      "grad_norm": 0.10182400792837143,
      "learning_rate": 0.00017422222222222223,
      "loss": 0.0254,
      "step": 290
    },
    {
      "epoch": 1.9666666666666668,
      "grad_norm": 7.981257438659668,
      "learning_rate": 0.0001737777777777778,
      "loss": 0.0721,
      "step": 295
    },
    {
      "epoch": 2.0,
      "grad_norm": 0.2435569018125534,
      "learning_rate": 0.00017333333333333334,
      "loss": 0.0214,
      "step": 300
    },
    {
      "epoch": 2.0,
      "eval_accuracy": 0.7645134914145544,
      "eval_f1": 0.7681335144892149,
      "eval_loss": 0.907749593257904,
      "eval_precision": 0.7744607953612164,
      "eval_recall": 0.7645134914145544,
      "eval_runtime": 9.8389,
      "eval_samples_per_second": 124.303,
      "eval_steps_per_second": 15.551,
      "step": 300
    },
    {
      "epoch": 2.033333333333333,
      "grad_norm": 0.038724396377801895,
      "learning_rate": 0.0001728888888888889,
      "loss": 0.0294,
      "step": 305
    },
    {
      "epoch": 2.066666666666667,
      "grad_norm": 3.9727394580841064,
      "learning_rate": 0.00017244444444444444,
      "loss": 0.03,
      "step": 310
    },
    {
      "epoch": 2.1,
      "grad_norm": 0.03929124400019646,
      "learning_rate": 0.000172,
      "loss": 0.0501,
      "step": 315
    },
    {
      "epoch": 2.1333333333333333,
      "grad_norm": 2.1505982875823975,
      "learning_rate": 0.00017155555555555555,
      "loss": 0.0469,
      "step": 320
    },
    {
      "epoch": 2.1666666666666665,
      "grad_norm": 0.9991199970245361,
      "learning_rate": 0.0001711111111111111,
      "loss": 0.0702,
      "step": 325
    },
    {
      "epoch": 2.2,
      "grad_norm": 4.109317302703857,
      "learning_rate": 0.00017066666666666668,
      "loss": 0.1286,
      "step": 330
    },
    {
      "epoch": 2.2333333333333334,
      "grad_norm": 1.446580410003662,
      "learning_rate": 0.00017022222222222224,
      "loss": 0.0489,
      "step": 335
    },
    {
      "epoch": 2.2666666666666666,
      "grad_norm": 1.2260584831237793,
      "learning_rate": 0.00016977777777777778,
      "loss": 0.016,
      "step": 340
    },
    {
      "epoch": 2.3,
      "grad_norm": 3.696033477783203,
      "learning_rate": 0.00016933333333333335,
      "loss": 0.0354,
      "step": 345
    },
    {
      "epoch": 2.3333333333333335,
      "grad_norm": 3.4040801525115967,
      "learning_rate": 0.00016888888888888889,
      "loss": 0.0645,
      "step": 350
    },
    {
      "epoch": 2.3666666666666667,
      "grad_norm": 1.1686327457427979,
      "learning_rate": 0.00016844444444444445,
      "loss": 0.0407,
      "step": 355
    },
    {
      "epoch": 2.4,
      "grad_norm": 0.09886626899242401,
      "learning_rate": 0.000168,
      "loss": 0.0173,
      "step": 360
    },
    {
      "epoch": 2.4333333333333336,
      "grad_norm": 1.096432089805603,
      "learning_rate": 0.00016755555555555556,
      "loss": 0.0558,
      "step": 365
    },
    {
      "epoch": 2.466666666666667,
      "grad_norm": 0.18765941262245178,
      "learning_rate": 0.00016711111111111112,
      "loss": 0.0157,
      "step": 370
    },
    {
      "epoch": 2.5,
      "grad_norm": 0.3387848734855652,
      "learning_rate": 0.0001666666666666667,
      "loss": 0.0335,
      "step": 375
    },
    {
      "epoch": 2.533333333333333,
      "grad_norm": 0.04264938458800316,
      "learning_rate": 0.00016622222222222223,
      "loss": 0.0134,
      "step": 380
    },
    {
      "epoch": 2.5666666666666664,
      "grad_norm": 0.027696378529071808,
      "learning_rate": 0.0001657777777777778,
      "loss": 0.0484,
      "step": 385
    },
    {
      "epoch": 2.6,
      "grad_norm": 1.1953566074371338,
      "learning_rate": 0.00016533333333333333,
      "loss": 0.0772,
      "step": 390
    },
    {
      "epoch": 2.6333333333333333,
      "grad_norm": 10.12171745300293,
      "learning_rate": 0.0001648888888888889,
      "loss": 0.043,
      "step": 395
    },
    {
      "epoch": 2.6666666666666665,
      "grad_norm": 0.0249788798391819,
      "learning_rate": 0.00016444444444444444,
      "loss": 0.0684,
      "step": 400
    },
    {
      "epoch": 2.6666666666666665,
      "eval_accuracy": 0.749795584627964,
      "eval_f1": 0.7541543297914958,
      "eval_loss": 1.312027096748352,
      "eval_precision": 0.7677446427174532,
      "eval_recall": 0.749795584627964,
      "eval_runtime": 9.2817,
      "eval_samples_per_second": 131.765,
      "eval_steps_per_second": 16.484,
      "step": 400
    },
    {
      "epoch": 2.7,
      "grad_norm": 0.05288528650999069,
      "learning_rate": 0.000164,
      "loss": 0.0163,
      "step": 405
    },
    {
      "epoch": 2.7333333333333334,
      "grad_norm": 0.08918259292840958,
      "learning_rate": 0.00016355555555555557,
      "loss": 0.0604,
      "step": 410
    },
    {
      "epoch": 2.7666666666666666,
      "grad_norm": 0.02850617840886116,
      "learning_rate": 0.00016311111111111113,
      "loss": 0.0088,
      "step": 415
    },
    {
      "epoch": 2.8,
      "grad_norm": 5.729062080383301,
      "learning_rate": 0.00016266666666666667,
      "loss": 0.0917,
      "step": 420
    },
    {
      "epoch": 2.8333333333333335,
      "grad_norm": 3.5297622680664062,
      "learning_rate": 0.00016222222222222224,
      "loss": 0.0154,
      "step": 425
    },
    {
      "epoch": 2.8666666666666667,
      "grad_norm": 5.2589545249938965,
      "learning_rate": 0.00016177777777777778,
      "loss": 0.0425,
      "step": 430
    },
    {
      "epoch": 2.9,
      "grad_norm": 2.901182174682617,
      "learning_rate": 0.00016133333333333334,
      "loss": 0.0281,
      "step": 435
    },
    {
      "epoch": 2.9333333333333336,
      "grad_norm": 0.03872682526707649,
      "learning_rate": 0.00016088888888888888,
      "loss": 0.0084,
      "step": 440
    },
    {
      "epoch": 2.966666666666667,
      "grad_norm": 0.4043828845024109,
      "learning_rate": 0.00016044444444444445,
      "loss": 0.0075,
      "step": 445
    },
    {
      "epoch": 3.0,
      "grad_norm": 0.02221594750881195,
      "learning_rate": 0.00016,
      "loss": 0.0628,
      "step": 450
    },
    {
      "epoch": 3.033333333333333,
      "grad_norm": 0.1697738617658615,
      "learning_rate": 0.00015955555555555558,
      "loss": 0.011,
      "step": 455
    },
    {
      "epoch": 3.066666666666667,
      "grad_norm": 0.0939481183886528,
      "learning_rate": 0.00015911111111111112,
      "loss": 0.0124,
      "step": 460
    },
    {
      "epoch": 3.1,
      "grad_norm": 0.07522204518318176,
      "learning_rate": 0.00015866666666666668,
      "loss": 0.0163,
      "step": 465
    },
    {
      "epoch": 3.1333333333333333,
      "grad_norm": 0.020110901445150375,
      "learning_rate": 0.00015822222222222222,
      "loss": 0.0292,
      "step": 470
    },
    {
      "epoch": 3.1666666666666665,
      "grad_norm": 1.9896477460861206,
      "learning_rate": 0.0001577777777777778,
      "loss": 0.2017,
      "step": 475
    },
    {
      "epoch": 3.2,
      "grad_norm": 0.11692311614751816,
      "learning_rate": 0.00015733333333333333,
      "loss": 0.1249,
      "step": 480
    },
    {
      "epoch": 3.2333333333333334,
      "grad_norm": 0.028463391587138176,
      "learning_rate": 0.00015688888888888892,
      "loss": 0.0188,
      "step": 485
    },
    {
      "epoch": 3.2666666666666666,
      "grad_norm": 2.623987913131714,
      "learning_rate": 0.00015644444444444446,
      "loss": 0.0862,
      "step": 490
    },
    {
      "epoch": 3.3,
      "grad_norm": 0.026013782247900963,
      "learning_rate": 0.00015600000000000002,
      "loss": 0.0087,
      "step": 495
    },
    {
      "epoch": 3.3333333333333335,
      "grad_norm": 5.446417808532715,
      "learning_rate": 0.00015555555555555556,
      "loss": 0.0543,
      "step": 500
    },
    {
      "epoch": 3.3333333333333335,
      "eval_accuracy": 0.7211774325429272,
      "eval_f1": 0.7291295249522087,
      "eval_loss": 1.4106178283691406,
      "eval_precision": 0.7428941917160019,
      "eval_recall": 0.7211774325429272,
      "eval_runtime": 9.4412,
      "eval_samples_per_second": 129.539,
      "eval_steps_per_second": 16.206,
      "step": 500
    },
    {
      "epoch": 3.3666666666666667,
      "grad_norm": 0.024610323831439018,
      "learning_rate": 0.00015511111111111113,
      "loss": 0.0072,
      "step": 505
    },
    {
      "epoch": 3.4,
      "grad_norm": 1.933373212814331,
      "learning_rate": 0.00015466666666666667,
      "loss": 0.0161,
      "step": 510
    },
    {
      "epoch": 3.4333333333333336,
      "grad_norm": 0.0238311979919672,
      "learning_rate": 0.00015422222222222223,
      "loss": 0.0754,
      "step": 515
    },
    {
      "epoch": 3.466666666666667,
      "grad_norm": 0.18166516721248627,
      "learning_rate": 0.00015377777777777777,
      "loss": 0.0074,
      "step": 520
    },
    {
      "epoch": 3.5,
      "grad_norm": 0.020352531224489212,
      "learning_rate": 0.00015333333333333334,
      "loss": 0.0348,
      "step": 525
    },
    {
      "epoch": 3.533333333333333,
      "grad_norm": 0.039215005934238434,
      "learning_rate": 0.0001528888888888889,
      "loss": 0.0343,
      "step": 530
    },
    {
      "epoch": 3.5666666666666664,
      "grad_norm": 0.017653727903962135,
      "learning_rate": 0.00015244444444444447,
      "loss": 0.0934,
      "step": 535
    },
    {
      "epoch": 3.6,
      "grad_norm": 0.06963596493005753,
      "learning_rate": 0.000152,
      "loss": 0.0073,
      "step": 540
    },
    {
      "epoch": 3.6333333333333333,
      "grad_norm": 0.19066433608531952,
      "learning_rate": 0.00015155555555555557,
      "loss": 0.0092,
      "step": 545
    },
    {
      "epoch": 3.6666666666666665,
      "grad_norm": 0.01571476273238659,
      "learning_rate": 0.0001511111111111111,
      "loss": 0.0119,
      "step": 550
    },
    {
      "epoch": 3.7,
      "grad_norm": 0.014897214248776436,
      "learning_rate": 0.00015066666666666668,
      "loss": 0.0332,
      "step": 555
    },
    {
      "epoch": 3.7333333333333334,
      "grad_norm": 0.06742005795240402,
      "learning_rate": 0.00015022222222222222,
      "loss": 0.0133,
      "step": 560
    },
    {
      "epoch": 3.7666666666666666,
      "grad_norm": 0.017108095809817314,
      "learning_rate": 0.00014977777777777778,
      "loss": 0.0143,
      "step": 565
    },
    {
      "epoch": 3.8,
      "grad_norm": 0.01465141773223877,
      "learning_rate": 0.00014933333333333335,
      "loss": 0.0208,
      "step": 570
    },
    {
      "epoch": 3.8333333333333335,
      "grad_norm": 3.026392936706543,
      "learning_rate": 0.0001488888888888889,
      "loss": 0.0277,
      "step": 575
    },
    {
      "epoch": 3.8666666666666667,
      "grad_norm": 0.014988885261118412,
      "learning_rate": 0.00014844444444444445,
      "loss": 0.0043,
      "step": 580
    },
    {
      "epoch": 3.9,
      "grad_norm": 1.3955732583999634,
      "learning_rate": 0.000148,
      "loss": 0.0228,
      "step": 585
    },
    {
      "epoch": 3.9333333333333336,
      "grad_norm": 0.016575433313846588,
      "learning_rate": 0.00014755555555555556,
      "loss": 0.0177,
      "step": 590
    },
    {
      "epoch": 3.966666666666667,
      "grad_norm": 0.017536483705043793,
      "learning_rate": 0.00014711111111111112,
      "loss": 0.0052,
      "step": 595
    },
    {
      "epoch": 4.0,
      "grad_norm": 0.014593478292226791,
      "learning_rate": 0.00014666666666666666,
      "loss": 0.0367,
      "step": 600
    },
    {
      "epoch": 4.0,
      "eval_accuracy": 0.7849550286181521,
      "eval_f1": 0.7868238166918363,
      "eval_loss": 0.9240317344665527,
      "eval_precision": 0.8052153722059937,
      "eval_recall": 0.7849550286181521,
      "eval_runtime": 9.3965,
      "eval_samples_per_second": 130.154,
      "eval_steps_per_second": 16.283,
      "step": 600
    },
    {
      "epoch": 4.033333333333333,
      "grad_norm": 0.020451590418815613,
      "learning_rate": 0.00014622222222222223,
      "loss": 0.0044,
      "step": 605
    },
    {
      "epoch": 4.066666666666666,
      "grad_norm": 6.841379642486572,
      "learning_rate": 0.0001457777777777778,
      "loss": 0.0186,
      "step": 610
    },
    {
      "epoch": 4.1,
      "grad_norm": 0.09812271595001221,
      "learning_rate": 0.00014533333333333333,
      "loss": 0.0067,
      "step": 615
    },
    {
      "epoch": 4.133333333333334,
      "grad_norm": 0.4420630633831024,
      "learning_rate": 0.0001448888888888889,
      "loss": 0.0075,
      "step": 620
    },
    {
      "epoch": 4.166666666666667,
      "grad_norm": 0.10162443667650223,
      "learning_rate": 0.00014444444444444444,
      "loss": 0.0664,
      "step": 625
    },
    {
      "epoch": 4.2,
      "grad_norm": 0.012035887688398361,
      "learning_rate": 0.000144,
      "loss": 0.0045,
      "step": 630
    },
    {
      "epoch": 4.233333333333333,
      "grad_norm": 7.507513523101807,
      "learning_rate": 0.00014355555555555554,
      "loss": 0.0692,
      "step": 635
    },
    {
      "epoch": 4.266666666666667,
      "grad_norm": 0.014461878687143326,
      "learning_rate": 0.0001431111111111111,
      "loss": 0.0037,
      "step": 640
    },
    {
      "epoch": 4.3,
      "grad_norm": 0.13024967908859253,
      "learning_rate": 0.00014266666666666667,
      "loss": 0.0072,
      "step": 645
    },
    {
      "epoch": 4.333333333333333,
      "grad_norm": 2.627122640609741,
      "learning_rate": 0.00014222222222222224,
      "loss": 0.1267,
      "step": 650
    },
    {
      "epoch": 4.366666666666666,
      "grad_norm": 3.218640089035034,
      "learning_rate": 0.00014177777777777778,
      "loss": 0.0553,
      "step": 655
    },
    {
      "epoch": 4.4,
      "grad_norm": 0.013306981883943081,
      "learning_rate": 0.00014133333333333334,
      "loss": 0.0627,
      "step": 660
    },
    {
      "epoch": 4.433333333333334,
      "grad_norm": 0.06666174530982971,
      "learning_rate": 0.00014088888888888888,
      "loss": 0.0191,
      "step": 665
    },
    {
      "epoch": 4.466666666666667,
      "grad_norm": 0.01409232523292303,
      "learning_rate": 0.00014044444444444445,
      "loss": 0.0039,
      "step": 670
    },
    {
      "epoch": 4.5,
      "grad_norm": 0.015611388720571995,
      "learning_rate": 0.00014,
      "loss": 0.0049,
      "step": 675
    },
    {
      "epoch": 4.533333333333333,
      "grad_norm": 0.011597520671784878,
      "learning_rate": 0.00013955555555555558,
      "loss": 0.0034,
      "step": 680
    },
    {
      "epoch": 4.566666666666666,
      "grad_norm": 0.17601154744625092,
      "learning_rate": 0.00013911111111111112,
      "loss": 0.0039,
      "step": 685
    },
    {
      "epoch": 4.6,
      "grad_norm": 0.012901077046990395,
      "learning_rate": 0.00013866666666666669,
      "loss": 0.0031,
      "step": 690
    },
    {
      "epoch": 4.633333333333333,
      "grad_norm": 0.010492375120520592,
      "learning_rate": 0.00013822222222222222,
      "loss": 0.0054,
      "step": 695
    },
    {
      "epoch": 4.666666666666667,
      "grad_norm": 0.010213322006165981,
      "learning_rate": 0.0001377777777777778,
      "loss": 0.0028,
      "step": 700
    },
    {
      "epoch": 4.666666666666667,
      "eval_accuracy": 0.8013082583810303,
      "eval_f1": 0.8036939187792203,
      "eval_loss": 0.9932844638824463,
      "eval_precision": 0.8130344554973152,
      "eval_recall": 0.8013082583810303,
      "eval_runtime": 9.4721,
      "eval_samples_per_second": 129.117,
      "eval_steps_per_second": 16.153,
      "step": 700
    },
    {
      "epoch": 4.7,
      "grad_norm": 0.08067324757575989,
      "learning_rate": 0.00013733333333333333,
      "loss": 0.0227,
      "step": 705
    },
    {
      "epoch": 4.733333333333333,
      "grad_norm": 0.011780601926147938,
      "learning_rate": 0.0001368888888888889,
      "loss": 0.0029,
      "step": 710
    },
    {
      "epoch": 4.766666666666667,
      "grad_norm": 0.017848921939730644,
      "learning_rate": 0.00013644444444444443,
      "loss": 0.0032,
      "step": 715
    },
    {
      "epoch": 4.8,
      "grad_norm": 0.010973521508276463,
      "learning_rate": 0.00013600000000000003,
      "loss": 0.0028,
      "step": 720
    },
    {
      "epoch": 4.833333333333333,
      "grad_norm": 0.009671928361058235,
      "learning_rate": 0.00013555555555555556,
      "loss": 0.0032,
      "step": 725
    },
    {
      "epoch": 4.866666666666667,
      "grad_norm": 0.009963875636458397,
      "learning_rate": 0.00013511111111111113,
      "loss": 0.0026,
      "step": 730
    },
    {
      "epoch": 4.9,
      "grad_norm": 0.009114675223827362,
      "learning_rate": 0.00013466666666666667,
      "loss": 0.0025,
      "step": 735
    },
    {
      "epoch": 4.933333333333334,
      "grad_norm": 0.009541342966258526,
      "learning_rate": 0.00013422222222222224,
      "loss": 0.0029,
      "step": 740
    },
    {
      "epoch": 4.966666666666667,
      "grad_norm": 0.008751188404858112,
      "learning_rate": 0.00013377777777777777,
      "loss": 0.0025,
      "step": 745
    },
    {
      "epoch": 5.0,
      "grad_norm": 0.33490607142448425,
      "learning_rate": 0.00013333333333333334,
      "loss": 0.0027,
      "step": 750
    },
    {
      "epoch": 5.033333333333333,
      "grad_norm": 0.010575389489531517,
      "learning_rate": 0.00013288888888888888,
      "loss": 0.0024,
      "step": 755
    },
    {
      "epoch": 5.066666666666666,
      "grad_norm": 0.013986650854349136,
      "learning_rate": 0.00013244444444444447,
      "loss": 0.0024,
      "step": 760
    },
    {
      "epoch": 5.1,
      "grad_norm": 0.008832004852592945,
      "learning_rate": 0.000132,
      "loss": 0.0023,
      "step": 765
    },
    {
      "epoch": 5.133333333333334,
      "grad_norm": 0.008698895573616028,
      "learning_rate": 0.00013155555555555558,
      "loss": 0.0023,
      "step": 770
    },
    {
      "epoch": 5.166666666666667,
      "grad_norm": 0.008697431534528732,
      "learning_rate": 0.00013111111111111111,
      "loss": 0.0024,
      "step": 775
    },
    {
      "epoch": 5.2,
      "grad_norm": 0.008482260629534721,
      "learning_rate": 0.00013066666666666668,
      "loss": 0.0022,
      "step": 780
    },
    {
      "epoch": 5.233333333333333,
      "grad_norm": 0.008794802241027355,
      "learning_rate": 0.00013022222222222222,
      "loss": 0.0022,
      "step": 785
    },
    {
      "epoch": 5.266666666666667,
      "grad_norm": 0.007856791839003563,
      "learning_rate": 0.00012977777777777779,
      "loss": 0.0022,
      "step": 790
    },
    {
      "epoch": 5.3,
      "grad_norm": 0.007694966625422239,
      "learning_rate": 0.00012933333333333332,
      "loss": 0.016,
      "step": 795
    },
    {
      "epoch": 5.333333333333333,
      "grad_norm": 0.008952612988650799,
      "learning_rate": 0.00012888888888888892,
      "loss": 0.0023,
      "step": 800
    },
    {
      "epoch": 5.333333333333333,
      "eval_accuracy": 0.7964022894521668,
      "eval_f1": 0.8022583322280559,
      "eval_loss": 1.1196119785308838,
      "eval_precision": 0.8139928163771295,
      "eval_recall": 0.7964022894521668,
      "eval_runtime": 9.3449,
      "eval_samples_per_second": 130.874,
      "eval_steps_per_second": 16.373,
      "step": 800
    },
    {
      "epoch": 5.366666666666666,
      "grad_norm": 0.008595213294029236,
      "learning_rate": 0.00012844444444444446,
      "loss": 0.0126,
      "step": 805
    },
    {
      "epoch": 5.4,
      "grad_norm": 0.00808642990887165,
      "learning_rate": 0.00012800000000000002,
      "loss": 0.0062,
      "step": 810
    },
    {
      "epoch": 5.433333333333334,
      "grad_norm": 0.007648410741239786,
      "learning_rate": 0.00012755555555555556,
      "loss": 0.0031,
      "step": 815
    },
    {
      "epoch": 5.466666666666667,
      "grad_norm": 0.007806297857314348,
      "learning_rate": 0.00012711111111111113,
      "loss": 0.0037,
      "step": 820
    },
    {
      "epoch": 5.5,
      "grad_norm": 0.009265730157494545,
      "learning_rate": 0.00012666666666666666,
      "loss": 0.0022,
      "step": 825
    },
    {
      "epoch": 5.533333333333333,
      "grad_norm": 0.0076696244068443775,
      "learning_rate": 0.00012622222222222223,
      "loss": 0.035,
      "step": 830
    },
    {
      "epoch": 5.566666666666666,
      "grad_norm": 0.010296953842043877,
      "learning_rate": 0.0001257777777777778,
      "loss": 0.0024,
      "step": 835
    },
    {
      "epoch": 5.6,
      "grad_norm": 5.601916790008545,
      "learning_rate": 0.00012533333333333334,
      "loss": 0.0554,
      "step": 840
    },
    {
      "epoch": 5.633333333333333,
      "grad_norm": 0.028704477474093437,
      "learning_rate": 0.0001248888888888889,
      "loss": 0.0023,
      "step": 845
    },
    {
      "epoch": 5.666666666666667,
      "grad_norm": 0.2514047622680664,
      "learning_rate": 0.00012444444444444444,
      "loss": 0.0033,
      "step": 850
    },
    {
      "epoch": 5.7,
      "grad_norm": 2.7498652935028076,
      "learning_rate": 0.000124,
      "loss": 0.0728,
      "step": 855
    },
    {
      "epoch": 5.733333333333333,
      "grad_norm": 0.007762385066598654,
      "learning_rate": 0.00012355555555555557,
      "loss": 0.0061,
      "step": 860
    },
    {
      "epoch": 5.766666666666667,
      "grad_norm": 0.010998444631695747,
      "learning_rate": 0.0001231111111111111,
      "loss": 0.0249,
      "step": 865
    },
    {
      "epoch": 5.8,
      "grad_norm": 2.299119710922241,
      "learning_rate": 0.00012266666666666668,
      "loss": 0.0234,
      "step": 870
    },
    {
      "epoch": 5.833333333333333,
      "grad_norm": 0.01507493294775486,
      "learning_rate": 0.00012222222222222224,
      "loss": 0.0023,
      "step": 875
    },
    {
      "epoch": 5.866666666666667,
      "grad_norm": 0.008109796792268753,
      "learning_rate": 0.0001217777777777778,
      "loss": 0.0051,
      "step": 880
    },
    {
      "epoch": 5.9,
      "grad_norm": 0.03557858616113663,
      "learning_rate": 0.00012133333333333335,
      "loss": 0.0086,
      "step": 885
    },
    {
      "epoch": 5.933333333333334,
      "grad_norm": 0.00888363178819418,
      "learning_rate": 0.0001208888888888889,
      "loss": 0.004,
      "step": 890
    },
    {
      "epoch": 5.966666666666667,
      "grad_norm": 0.020424125716090202,
      "learning_rate": 0.00012044444444444445,
      "loss": 0.0375,
      "step": 895
    },
    {
      "epoch": 6.0,
      "grad_norm": 0.0076409936882555485,
      "learning_rate": 0.00012,
      "loss": 0.0279,
      "step": 900
    },
    {
      "epoch": 6.0,
      "eval_accuracy": 0.7825020441537204,
      "eval_f1": 0.7741608038678153,
      "eval_loss": 1.133772850036621,
      "eval_precision": 0.8063287384876495,
      "eval_recall": 0.7825020441537204,
      "eval_runtime": 9.2712,
      "eval_samples_per_second": 131.914,
      "eval_steps_per_second": 16.503,
      "step": 900
    },
    {
      "epoch": 6.033333333333333,
      "grad_norm": 0.8966134786605835,
      "learning_rate": 0.00011955555555555556,
      "loss": 0.0053,
      "step": 905
    },
    {
      "epoch": 6.066666666666666,
      "grad_norm": 0.034663017839193344,
      "learning_rate": 0.00011911111111111111,
      "loss": 0.0023,
      "step": 910
    },
    {
      "epoch": 6.1,
      "grad_norm": 0.012478928081691265,
      "learning_rate": 0.00011866666666666669,
      "loss": 0.0021,
      "step": 915
    },
    {
      "epoch": 6.133333333333334,
      "grad_norm": 0.5358495712280273,
      "learning_rate": 0.00011822222222222224,
      "loss": 0.0941,
      "step": 920
    },
    {
      "epoch": 6.166666666666667,
      "grad_norm": 0.008911516517400742,
      "learning_rate": 0.00011777777777777779,
      "loss": 0.0033,
      "step": 925
    },
    {
      "epoch": 6.2,
      "grad_norm": 0.017834829166531563,
      "learning_rate": 0.00011733333333333334,
      "loss": 0.0025,
      "step": 930
    },
    {
      "epoch": 6.233333333333333,
      "grad_norm": 0.015017377212643623,
      "learning_rate": 0.0001168888888888889,
      "loss": 0.0028,
      "step": 935
    },
    {
      "epoch": 6.266666666666667,
      "grad_norm": 0.022186744958162308,
      "learning_rate": 0.00011644444444444445,
      "loss": 0.0032,
      "step": 940
    },
    {
      "epoch": 6.3,
      "grad_norm": 0.016789505258202553,
      "learning_rate": 0.000116,
      "loss": 0.0029,
      "step": 945
    },
    {
      "epoch": 6.333333333333333,
      "grad_norm": 0.034094952046871185,
      "learning_rate": 0.00011555555555555555,
      "loss": 0.0026,
      "step": 950
    },
    {
      "epoch": 6.366666666666666,
      "grad_norm": 0.014549455605447292,
      "learning_rate": 0.00011511111111111112,
      "loss": 0.0025,
      "step": 955
    },
    {
      "epoch": 6.4,
      "grad_norm": 0.007454134989529848,
      "learning_rate": 0.00011466666666666667,
      "loss": 0.0215,
      "step": 960
    },
    {
      "epoch": 6.433333333333334,
      "grad_norm": 0.1704510897397995,
      "learning_rate": 0.00011422222222222224,
      "loss": 0.0037,
      "step": 965
    },
    {
      "epoch": 6.466666666666667,
      "grad_norm": 0.008647428825497627,
      "learning_rate": 0.00011377777777777779,
      "loss": 0.0019,
      "step": 970
    },
    {
      "epoch": 6.5,
      "grad_norm": 0.014437275938689709,
      "learning_rate": 0.00011333333333333334,
      "loss": 0.0405,
      "step": 975
    },
    {
      "epoch": 6.533333333333333,
      "grad_norm": 0.007539108395576477,
      "learning_rate": 0.0001128888888888889,
      "loss": 0.0038,
      "step": 980
    },
    {
      "epoch": 6.566666666666666,
      "grad_norm": 0.039825908839702606,
      "learning_rate": 0.00011244444444444445,
      "loss": 0.0023,
      "step": 985
    },
    {
      "epoch": 6.6,
      "grad_norm": 4.294530868530273,
      "learning_rate": 0.00011200000000000001,
      "loss": 0.0372,
      "step": 990
    },
    {
      "epoch": 6.633333333333333,
      "grad_norm": 2.1692311763763428,
      "learning_rate": 0.00011155555555555556,
      "loss": 0.0046,
      "step": 995
    },
    {
      "epoch": 6.666666666666667,
      "grad_norm": 4.187679290771484,
      "learning_rate": 0.00011111111111111112,
      "loss": 0.0351,
      "step": 1000
    },
    {
      "epoch": 6.666666666666667,
      "eval_accuracy": 0.8045789043336059,
      "eval_f1": 0.7990342261477594,
      "eval_loss": 1.2453088760375977,
      "eval_precision": 0.8289001549998823,
      "eval_recall": 0.8045789043336059,
      "eval_runtime": 9.4826,
      "eval_samples_per_second": 128.973,
      "eval_steps_per_second": 16.135,
      "step": 1000
    },
    {
      "epoch": 6.7,
      "grad_norm": 0.007894905284047127,
      "learning_rate": 0.00011066666666666667,
      "loss": 0.0018,
      "step": 1005
    },
    {
      "epoch": 6.733333333333333,
      "grad_norm": 0.010676858946681023,
      "learning_rate": 0.00011022222222222222,
      "loss": 0.0203,
      "step": 1010
    },
    {
      "epoch": 6.766666666666667,
      "grad_norm": 0.027978340163826942,
      "learning_rate": 0.00010977777777777777,
      "loss": 0.0552,
      "step": 1015
    },
    {
      "epoch": 6.8,
      "grad_norm": 0.0284085925668478,
      "learning_rate": 0.00010933333333333333,
      "loss": 0.0019,
      "step": 1020
    },
    {
      "epoch": 6.833333333333333,
      "grad_norm": 0.0067587061785161495,
      "learning_rate": 0.00010888888888888889,
      "loss": 0.002,
      "step": 1025
    },
    {
      "epoch": 6.866666666666667,
      "grad_norm": 4.532005310058594,
      "learning_rate": 0.00010844444444444446,
      "loss": 0.0273,
      "step": 1030
    },
    {
      "epoch": 6.9,
      "grad_norm": 0.006512748077511787,
      "learning_rate": 0.00010800000000000001,
      "loss": 0.0031,
      "step": 1035
    },
    {
      "epoch": 6.933333333333334,
      "grad_norm": 0.005924213211983442,
      "learning_rate": 0.00010755555555555556,
      "loss": 0.0017,
      "step": 1040
    },
    {
      "epoch": 6.966666666666667,
      "grad_norm": 0.006566210184246302,
      "learning_rate": 0.00010711111111111111,
      "loss": 0.0016,
      "step": 1045
    },
    {
      "epoch": 7.0,
      "grad_norm": 0.006627542898058891,
      "learning_rate": 0.00010666666666666667,
      "loss": 0.0016,
      "step": 1050
    },
    {
      "epoch": 7.033333333333333,
      "grad_norm": 0.00795068871229887,
      "learning_rate": 0.00010622222222222222,
      "loss": 0.0017,
      "step": 1055
    },
    {
      "epoch": 7.066666666666666,
      "grad_norm": 0.006858578883111477,
      "learning_rate": 0.00010577777777777777,
      "loss": 0.0016,
      "step": 1060
    },
    {
      "epoch": 7.1,
      "grad_norm": 0.005427524447441101,
      "learning_rate": 0.00010533333333333332,
      "loss": 0.0067,
      "step": 1065
    },
    {
      "epoch": 7.133333333333334,
      "grad_norm": 0.006280931178480387,
      "learning_rate": 0.0001048888888888889,
      "loss": 0.0015,
      "step": 1070
    },
    {
      "epoch": 7.166666666666667,
      "grad_norm": 0.00546739948913455,
      "learning_rate": 0.00010444444444444445,
      "loss": 0.0018,
      "step": 1075
    },
    {
      "epoch": 7.2,
      "grad_norm": 0.005631685256958008,
      "learning_rate": 0.00010400000000000001,
      "loss": 0.0017,
      "step": 1080
    },
    {
      "epoch": 7.233333333333333,
      "grad_norm": 0.005465181544423103,
      "learning_rate": 0.00010355555555555556,
      "loss": 0.0015,
      "step": 1085
    },
    {
      "epoch": 7.266666666666667,
      "grad_norm": 0.006053004413843155,
      "learning_rate": 0.00010311111111111111,
      "loss": 0.0389,
      "step": 1090
    },
    {
      "epoch": 7.3,
      "grad_norm": 0.006222607102245092,
      "learning_rate": 0.00010266666666666666,
      "loss": 0.0014,
      "step": 1095
    },
    {
      "epoch": 7.333333333333333,
      "grad_norm": 0.006085546221584082,
      "learning_rate": 0.00010222222222222222,
      "loss": 0.0015,
      "step": 1100
    },
    {
      "epoch": 7.333333333333333,
      "eval_accuracy": 0.7833197056418643,
      "eval_f1": 0.7820582214952028,
      "eval_loss": 1.4901751279830933,
      "eval_precision": 0.8109865240049464,
      "eval_recall": 0.7833197056418643,
      "eval_runtime": 9.3025,
      "eval_samples_per_second": 131.47,
      "eval_steps_per_second": 16.447,
      "step": 1100
    },
    {
      "epoch": 7.366666666666666,
      "grad_norm": 0.005763140507042408,
      "learning_rate": 0.00010177777777777777,
      "loss": 0.0015,
      "step": 1105
    },
    {
      "epoch": 7.4,
      "grad_norm": 0.005408145487308502,
      "learning_rate": 0.00010133333333333335,
      "loss": 0.0014,
      "step": 1110
    },
    {
      "epoch": 7.433333333333334,
      "grad_norm": 0.009298298507928848,
      "learning_rate": 0.0001008888888888889,
      "loss": 0.0015,
      "step": 1115
    },
    {
      "epoch": 7.466666666666667,
      "grad_norm": 0.019352758303284645,
      "learning_rate": 0.00010044444444444445,
      "loss": 0.0015,
      "step": 1120
    },
    {
      "epoch": 7.5,
      "grad_norm": 0.043288618326187134,
      "learning_rate": 0.0001,
      "loss": 0.0016,
      "step": 1125
    },
    {
      "epoch": 7.533333333333333,
      "grad_norm": 0.005793672986328602,
      "learning_rate": 9.955555555555556e-05,
      "loss": 0.0016,
      "step": 1130
    },
    {
      "epoch": 7.566666666666666,
      "grad_norm": 0.005141023080796003,
      "learning_rate": 9.911111111111112e-05,
      "loss": 0.0014,
      "step": 1135
    },
    {
      "epoch": 7.6,
      "grad_norm": 0.005485700909048319,
      "learning_rate": 9.866666666666668e-05,
      "loss": 0.0013,
      "step": 1140
    },
    {
      "epoch": 7.633333333333333,
      "grad_norm": 0.005059640388935804,
      "learning_rate": 9.822222222222223e-05,
      "loss": 0.0014,
      "step": 1145
    },
    {
      "epoch": 7.666666666666667,
      "grad_norm": 0.004725410602986813,
      "learning_rate": 9.777777777777778e-05,
      "loss": 0.0013,
      "step": 1150
    },
    {
      "epoch": 7.7,
      "grad_norm": 0.004962701816111803,
      "learning_rate": 9.733333333333335e-05,
      "loss": 0.0013,
      "step": 1155
    },
    {
      "epoch": 7.733333333333333,
      "grad_norm": 0.004624045919626951,
      "learning_rate": 9.68888888888889e-05,
      "loss": 0.0013,
      "step": 1160
    },
    {
      "epoch": 7.766666666666667,
      "grad_norm": 0.005088322795927525,
      "learning_rate": 9.644444444444445e-05,
      "loss": 0.0013,
      "step": 1165
    },
    {
      "epoch": 7.8,
      "grad_norm": 0.005642300006002188,
      "learning_rate": 9.6e-05,
      "loss": 0.0013,
      "step": 1170
    },
    {
      "epoch": 7.833333333333333,
      "grad_norm": 0.004932830110192299,
      "learning_rate": 9.555555555555557e-05,
      "loss": 0.0012,
      "step": 1175
    },
    {
      "epoch": 7.866666666666667,
      "grad_norm": 0.004749774932861328,
      "learning_rate": 9.511111111111112e-05,
      "loss": 0.0012,
      "step": 1180
    },
    {
      "epoch": 7.9,
      "grad_norm": 0.00473632849752903,
      "learning_rate": 9.466666666666667e-05,
      "loss": 0.0012,
      "step": 1185
    },
    {
      "epoch": 7.933333333333334,
      "grad_norm": 0.01228378526866436,
      "learning_rate": 9.422222222222223e-05,
      "loss": 0.0012,
      "step": 1190
    },
    {
      "epoch": 7.966666666666667,
      "grad_norm": 0.005135438404977322,
      "learning_rate": 9.377777777777779e-05,
      "loss": 0.0012,
      "step": 1195
    },
    {
      "epoch": 8.0,
      "grad_norm": 0.004550182726234198,
      "learning_rate": 9.333333333333334e-05,
      "loss": 0.0012,
      "step": 1200
    },
    {
      "epoch": 8.0,
      "eval_accuracy": 0.7816843826655765,
      "eval_f1": 0.7800818649085192,
      "eval_loss": 1.5158230066299438,
      "eval_precision": 0.8050176171143412,
      "eval_recall": 0.7816843826655765,
      "eval_runtime": 9.189,
      "eval_samples_per_second": 133.094,
      "eval_steps_per_second": 16.65,
      "step": 1200
    },
    {
      "epoch": 8.033333333333333,
      "grad_norm": 0.00416143424808979,
      "learning_rate": 9.28888888888889e-05,
      "loss": 0.0012,
      "step": 1205
    },
    {
      "epoch": 8.066666666666666,
      "grad_norm": 0.004244188312441111,
      "learning_rate": 9.244444444444445e-05,
      "loss": 0.0012,
      "step": 1210
    },
    {
      "epoch": 8.1,
      "grad_norm": 0.004512954968959093,
      "learning_rate": 9.200000000000001e-05,
      "loss": 0.0011,
      "step": 1215
    },
    {
      "epoch": 8.133333333333333,
      "grad_norm": 0.004332539159804583,
      "learning_rate": 9.155555555555557e-05,
      "loss": 0.0012,
      "step": 1220
    },
    {
      "epoch": 8.166666666666666,
      "grad_norm": 0.004415786825120449,
      "learning_rate": 9.111111111111112e-05,
      "loss": 0.0011,
      "step": 1225
    },
    {
      "epoch": 8.2,
      "grad_norm": 0.004247121512889862,
      "learning_rate": 9.066666666666667e-05,
      "loss": 0.0011,
      "step": 1230
    },
    {
      "epoch": 8.233333333333333,
      "grad_norm": 0.004346610512584448,
      "learning_rate": 9.022222222222224e-05,
      "loss": 0.0011,
      "step": 1235
    },
    {
      "epoch": 8.266666666666667,
      "grad_norm": 0.004447505343705416,
      "learning_rate": 8.977777777777779e-05,
      "loss": 0.0011,
      "step": 1240
    },
    {
      "epoch": 8.3,
      "grad_norm": 0.004024645313620567,
      "learning_rate": 8.933333333333334e-05,
      "loss": 0.0011,
      "step": 1245
    },
    {
      "epoch": 8.333333333333334,
      "grad_norm": 0.004037043545395136,
      "learning_rate": 8.888888888888889e-05,
      "loss": 0.0011,
      "step": 1250
    },
    {
      "epoch": 8.366666666666667,
      "grad_norm": 0.004065011627972126,
      "learning_rate": 8.844444444444445e-05,
      "loss": 0.0011,
      "step": 1255
    },
    {
      "epoch": 8.4,
      "grad_norm": 0.004414187278598547,
      "learning_rate": 8.800000000000001e-05,
      "loss": 0.0011,
      "step": 1260
    },
    {
      "epoch": 8.433333333333334,
      "grad_norm": 0.004235251806676388,
      "learning_rate": 8.755555555555556e-05,
      "loss": 0.0011,
      "step": 1265
    },
    {
      "epoch": 8.466666666666667,
      "grad_norm": 0.004097008612006903,
      "learning_rate": 8.711111111111112e-05,
      "loss": 0.0011,
      "step": 1270
    },
    {
      "epoch": 8.5,
      "grad_norm": 0.004114267881959677,
      "learning_rate": 8.666666666666667e-05,
      "loss": 0.0011,
      "step": 1275
    },
    {
      "epoch": 8.533333333333333,
      "grad_norm": 0.004423665348440409,
      "learning_rate": 8.622222222222222e-05,
      "loss": 0.0011,
      "step": 1280
    },
    {
      "epoch": 8.566666666666666,
      "grad_norm": 0.0042780255898833275,
      "learning_rate": 8.577777777777777e-05,
      "loss": 0.0011,
      "step": 1285
    },
    {
      "epoch": 8.6,
      "grad_norm": 0.00462974701076746,
      "learning_rate": 8.533333333333334e-05,
      "loss": 0.0011,
      "step": 1290
    },
    {
      "epoch": 8.633333333333333,
      "grad_norm": 0.003956995438784361,
      "learning_rate": 8.488888888888889e-05,
      "loss": 0.001,
      "step": 1295
    },
    {
      "epoch": 8.666666666666666,
      "grad_norm": 0.003911512438207865,
      "learning_rate": 8.444444444444444e-05,
      "loss": 0.001,
      "step": 1300
    },
    {
      "epoch": 8.666666666666666,
      "eval_accuracy": 0.777596075224857,
      "eval_f1": 0.7764686724342618,
      "eval_loss": 1.5460529327392578,
      "eval_precision": 0.798946414786333,
      "eval_recall": 0.777596075224857,
      "eval_runtime": 9.8681,
      "eval_samples_per_second": 123.934,
      "eval_steps_per_second": 15.504,
      "step": 1300
    },
    {
      "epoch": 8.7,
      "grad_norm": 0.004035374149680138,
      "learning_rate": 8.4e-05,
      "loss": 0.001,
      "step": 1305
    },
    {
      "epoch": 8.733333333333333,
      "grad_norm": 0.00391809968277812,
      "learning_rate": 8.355555555555556e-05,
      "loss": 0.001,
      "step": 1310
    },
    {
      "epoch": 8.766666666666667,
      "grad_norm": 0.003872338682413101,
      "learning_rate": 8.311111111111111e-05,
      "loss": 0.001,
      "step": 1315
    },
    {
      "epoch": 8.8,
      "grad_norm": 0.0037382871378213167,
      "learning_rate": 8.266666666666667e-05,
      "loss": 0.001,
      "step": 1320
    },
    {
      "epoch": 8.833333333333334,
      "grad_norm": 0.004343594424426556,
      "learning_rate": 8.222222222222222e-05,
      "loss": 0.001,
      "step": 1325
    },
    {
      "epoch": 8.866666666666667,
      "grad_norm": 0.003952800761908293,
      "learning_rate": 8.177777777777778e-05,
      "loss": 0.001,
      "step": 1330
    },
    {
      "epoch": 8.9,
      "grad_norm": 0.004135242197662592,
      "learning_rate": 8.133333333333334e-05,
      "loss": 0.001,
      "step": 1335
    },
    {
      "epoch": 8.933333333333334,
      "grad_norm": 0.004404537845402956,
      "learning_rate": 8.088888888888889e-05,
      "loss": 0.001,
      "step": 1340
    },
    {
      "epoch": 8.966666666666667,
      "grad_norm": 0.0037200716324150562,
      "learning_rate": 8.044444444444444e-05,
      "loss": 0.001,
      "step": 1345
    },
    {
      "epoch": 9.0,
      "grad_norm": 0.0037759095430374146,
      "learning_rate": 8e-05,
      "loss": 0.001,
      "step": 1350
    },
    {
      "epoch": 9.033333333333333,
      "grad_norm": 0.0038882188964635134,
      "learning_rate": 7.955555555555556e-05,
      "loss": 0.001,
      "step": 1355
    },
    {
      "epoch": 9.066666666666666,
      "grad_norm": 0.003733280813321471,
      "learning_rate": 7.911111111111111e-05,
      "loss": 0.001,
      "step": 1360
    },
    {
      "epoch": 9.1,
      "grad_norm": 0.0037556043826043606,
      "learning_rate": 7.866666666666666e-05,
      "loss": 0.001,
      "step": 1365
    },
    {
      "epoch": 9.133333333333333,
      "grad_norm": 0.0037080366164445877,
      "learning_rate": 7.822222222222223e-05,
      "loss": 0.001,
      "step": 1370
    },
    {
      "epoch": 9.166666666666666,
      "grad_norm": 0.0035952238831669092,
      "learning_rate": 7.777777777777778e-05,
      "loss": 0.0009,
      "step": 1375
    },
    {
      "epoch": 9.2,
      "grad_norm": 0.003683211514726281,
      "learning_rate": 7.733333333333333e-05,
      "loss": 0.001,
      "step": 1380
    },
    {
      "epoch": 9.233333333333333,
      "grad_norm": 0.003675643354654312,
      "learning_rate": 7.688888888888889e-05,
      "loss": 0.001,
      "step": 1385
    },
    {
      "epoch": 9.266666666666667,
      "grad_norm": 0.0034651095047593117,
      "learning_rate": 7.644444444444445e-05,
      "loss": 0.0009,
      "step": 1390
    },
    {
      "epoch": 9.3,
      "grad_norm": 0.0037952319253236055,
      "learning_rate": 7.6e-05,
      "loss": 0.0009,
      "step": 1395
    },
    {
      "epoch": 9.333333333333334,
      "grad_norm": 0.0034476493019610643,
      "learning_rate": 7.555555555555556e-05,
      "loss": 0.0009,
      "step": 1400
    },
    {
      "epoch": 9.333333333333334,
      "eval_accuracy": 0.7735077677841373,
      "eval_f1": 0.7727537030177994,
      "eval_loss": 1.5690993070602417,
      "eval_precision": 0.7929701316436307,
      "eval_recall": 0.7735077677841373,
      "eval_runtime": 9.5482,
      "eval_samples_per_second": 128.087,
      "eval_steps_per_second": 16.024,
      "step": 1400
    },
    {
      "epoch": 9.366666666666667,
      "grad_norm": 0.003446423914283514,
      "learning_rate": 7.511111111111111e-05,
      "loss": 0.0009,
      "step": 1405
    },
    {
      "epoch": 9.4,
      "grad_norm": 0.003673956962302327,
      "learning_rate": 7.466666666666667e-05,
      "loss": 0.0009,
      "step": 1410
    },
    {
      "epoch": 9.433333333333334,
      "grad_norm": 0.003591677872464061,
      "learning_rate": 7.422222222222223e-05,
      "loss": 0.0009,
      "step": 1415
    },
    {
      "epoch": 9.466666666666667,
      "grad_norm": 0.003769718110561371,
      "learning_rate": 7.377777777777778e-05,
      "loss": 0.0009,
      "step": 1420
    },
    {
      "epoch": 9.5,
      "grad_norm": 0.003360811388120055,
      "learning_rate": 7.333333333333333e-05,
      "loss": 0.0009,
      "step": 1425
    },
    {
      "epoch": 9.533333333333333,
      "grad_norm": 0.0036586588248610497,
      "learning_rate": 7.28888888888889e-05,
      "loss": 0.0009,
      "step": 1430
    },
    {
      "epoch": 9.566666666666666,
      "grad_norm": 0.0034733579959720373,
      "learning_rate": 7.244444444444445e-05,
      "loss": 0.0009,
      "step": 1435
    },
    {
      "epoch": 9.6,
      "grad_norm": 0.0036103902384638786,
      "learning_rate": 7.2e-05,
      "loss": 0.0009,
      "step": 1440
    },
    {
      "epoch": 9.633333333333333,
      "grad_norm": 0.0035011570435017347,
      "learning_rate": 7.155555555555555e-05,
      "loss": 0.0009,
      "step": 1445
    },
    {
      "epoch": 9.666666666666666,
      "grad_norm": 0.003454685676842928,
      "learning_rate": 7.111111111111112e-05,
      "loss": 0.0009,
      "step": 1450
    },
    {
      "epoch": 9.7,
      "grad_norm": 0.00331727578304708,
      "learning_rate": 7.066666666666667e-05,
      "loss": 0.0009,
      "step": 1455
    },
    {
      "epoch": 9.733333333333333,
      "grad_norm": 0.0035866328980773687,
      "learning_rate": 7.022222222222222e-05,
      "loss": 0.0009,
      "step": 1460
    },
    {
      "epoch": 9.766666666666667,
      "grad_norm": 0.003194958670064807,
      "learning_rate": 6.977777777777779e-05,
      "loss": 0.0009,
      "step": 1465
    },
    {
      "epoch": 9.8,
      "grad_norm": 0.0035320280585438013,
      "learning_rate": 6.933333333333334e-05,
      "loss": 0.0009,
      "step": 1470
    },
    {
      "epoch": 9.833333333333334,
      "grad_norm": 0.003377894638106227,
      "learning_rate": 6.88888888888889e-05,
      "loss": 0.0009,
      "step": 1475
    },
    {
      "epoch": 9.866666666666667,
      "grad_norm": 0.003841049736365676,
      "learning_rate": 6.844444444444445e-05,
      "loss": 0.0009,
      "step": 1480
    },
    {
      "epoch": 9.9,
      "grad_norm": 0.0033852087799459696,
      "learning_rate": 6.800000000000001e-05,
      "loss": 0.0009,
      "step": 1485
    },
    {
      "epoch": 9.933333333333334,
      "grad_norm": 0.0032866843976080418,
      "learning_rate": 6.755555555555557e-05,
      "loss": 0.0009,
      "step": 1490
    },
    {
      "epoch": 9.966666666666667,
      "grad_norm": 0.0033609827514737844,
      "learning_rate": 6.711111111111112e-05,
      "loss": 0.0009,
      "step": 1495
    },
    {
      "epoch": 10.0,
      "grad_norm": 0.0032553670462220907,
      "learning_rate": 6.666666666666667e-05,
      "loss": 0.0009,
      "step": 1500
    },
    {
      "epoch": 10.0,
      "eval_accuracy": 0.7743254292722813,
      "eval_f1": 0.7734574390688117,
      "eval_loss": 1.5899419784545898,
      "eval_precision": 0.7934879929788498,
      "eval_recall": 0.7743254292722813,
      "eval_runtime": 9.222,
      "eval_samples_per_second": 132.618,
      "eval_steps_per_second": 16.591,
      "step": 1500
    },
    {
      "epoch": 10.033333333333333,
      "grad_norm": 0.003116806736215949,
      "learning_rate": 6.622222222222224e-05,
      "loss": 0.0008,
      "step": 1505
    },
    {
      "epoch": 10.066666666666666,
      "grad_norm": 0.0032896501943469048,
      "learning_rate": 6.577777777777779e-05,
      "loss": 0.0008,
      "step": 1510
    },
    {
      "epoch": 10.1,
      "grad_norm": 0.0031541353091597557,
      "learning_rate": 6.533333333333334e-05,
      "loss": 0.0008,
      "step": 1515
    },
    {
      "epoch": 10.133333333333333,
      "grad_norm": 0.0036354006733745337,
      "learning_rate": 6.488888888888889e-05,
      "loss": 0.0008,
      "step": 1520
    },
    {
      "epoch": 10.166666666666666,
      "grad_norm": 0.003736860118806362,
      "learning_rate": 6.444444444444446e-05,
      "loss": 0.0008,
      "step": 1525
    },
    {
      "epoch": 10.2,
      "grad_norm": 0.0032640716526657343,
      "learning_rate": 6.400000000000001e-05,
      "loss": 0.0008,
      "step": 1530
    },
    {
      "epoch": 10.233333333333333,
      "grad_norm": 0.004017044324427843,
      "learning_rate": 6.355555555555556e-05,
      "loss": 0.0008,
      "step": 1535
    },
    {
      "epoch": 10.266666666666667,
      "grad_norm": 0.0031171345617622137,
      "learning_rate": 6.311111111111112e-05,
      "loss": 0.0008,
      "step": 1540
    },
    {
      "epoch": 10.3,
      "grad_norm": 0.0031369023490697145,
      "learning_rate": 6.266666666666667e-05,
      "loss": 0.0008,
      "step": 1545
    },
    {
      "epoch": 10.333333333333334,
      "grad_norm": 0.0030869832262396812,
      "learning_rate": 6.222222222222222e-05,
      "loss": 0.0008,
      "step": 1550
    },
    {
      "epoch": 10.366666666666667,
      "grad_norm": 0.003045846940949559,
      "learning_rate": 6.177777777777779e-05,
      "loss": 0.0008,
      "step": 1555
    },
    {
      "epoch": 10.4,
      "grad_norm": 0.0030320321675390005,
      "learning_rate": 6.133333333333334e-05,
      "loss": 0.0008,
      "step": 1560
    },
    {
      "epoch": 10.433333333333334,
      "grad_norm": 0.003123966511338949,
      "learning_rate": 6.08888888888889e-05,
      "loss": 0.0008,
      "step": 1565
    },
    {
      "epoch": 10.466666666666667,
      "grad_norm": 0.003065904602408409,
      "learning_rate": 6.044444444444445e-05,
      "loss": 0.0008,
      "step": 1570
    },
    {
      "epoch": 10.5,
      "grad_norm": 0.0030088257044553757,
      "learning_rate": 6e-05,
      "loss": 0.0008,
      "step": 1575
    },
    {
      "epoch": 10.533333333333333,
      "grad_norm": 0.003136155428364873,
      "learning_rate": 5.9555555555555554e-05,
      "loss": 0.0008,
      "step": 1580
    },
    {
      "epoch": 10.566666666666666,
      "grad_norm": 0.0030882905703037977,
      "learning_rate": 5.911111111111112e-05,
      "loss": 0.0008,
      "step": 1585
    },
    {
      "epoch": 10.6,
      "grad_norm": 0.0028878552839159966,
      "learning_rate": 5.866666666666667e-05,
      "loss": 0.0008,
      "step": 1590
    },
    {
      "epoch": 10.633333333333333,
      "grad_norm": 0.003057357156649232,
      "learning_rate": 5.8222222222222224e-05,
      "loss": 0.0008,
      "step": 1595
    },
    {
      "epoch": 10.666666666666666,
      "grad_norm": 0.0030185848008841276,
      "learning_rate": 5.7777777777777776e-05,
      "loss": 0.0008,
      "step": 1600
    },
    {
      "epoch": 10.666666666666666,
      "eval_accuracy": 0.7735077677841373,
      "eval_f1": 0.7731117531111902,
      "eval_loss": 1.6074354648590088,
      "eval_precision": 0.792706325211593,
      "eval_recall": 0.7735077677841373,
      "eval_runtime": 9.4501,
      "eval_samples_per_second": 129.416,
      "eval_steps_per_second": 16.19,
      "step": 1600
    },
    {
      "epoch": 10.7,
      "grad_norm": 0.003177797654643655,
      "learning_rate": 5.7333333333333336e-05,
      "loss": 0.0008,
      "step": 1605
    },
    {
      "epoch": 10.733333333333333,
      "grad_norm": 0.0030667181126773357,
      "learning_rate": 5.6888888888888895e-05,
      "loss": 0.0008,
      "step": 1610
    },
    {
      "epoch": 10.766666666666667,
      "grad_norm": 0.0030277275945991278,
      "learning_rate": 5.644444444444445e-05,
      "loss": 0.0008,
      "step": 1615
    },
    {
      "epoch": 10.8,
      "grad_norm": 0.0030300156213343143,
      "learning_rate": 5.6000000000000006e-05,
      "loss": 0.0008,
      "step": 1620
    },
    {
      "epoch": 10.833333333333334,
      "grad_norm": 0.0031020892783999443,
      "learning_rate": 5.555555555555556e-05,
      "loss": 0.0008,
      "step": 1625
    },
    {
      "epoch": 10.866666666666667,
      "grad_norm": 0.003113708458840847,
      "learning_rate": 5.511111111111111e-05,
      "loss": 0.0008,
      "step": 1630
    },
    {
      "epoch": 10.9,
      "grad_norm": 0.0029262960888445377,
      "learning_rate": 5.466666666666666e-05,
      "loss": 0.0008,
      "step": 1635
    },
    {
      "epoch": 10.933333333333334,
      "grad_norm": 0.0029111423064023256,
      "learning_rate": 5.422222222222223e-05,
      "loss": 0.0008,
      "step": 1640
    },
    {
      "epoch": 10.966666666666667,
      "grad_norm": 0.002903235610574484,
      "learning_rate": 5.377777777777778e-05,
      "loss": 0.0008,
      "step": 1645
    },
    {
      "epoch": 11.0,
      "grad_norm": 0.002818668494001031,
      "learning_rate": 5.333333333333333e-05,
      "loss": 0.0008,
      "step": 1650
    },
    {
      "epoch": 11.033333333333333,
      "grad_norm": 0.0030736501794308424,
      "learning_rate": 5.2888888888888885e-05,
      "loss": 0.0008,
      "step": 1655
    },
    {
      "epoch": 11.066666666666666,
      "grad_norm": 0.0028864352498203516,
      "learning_rate": 5.244444444444445e-05,
      "loss": 0.0008,
      "step": 1660
    },
    {
      "epoch": 11.1,
      "grad_norm": 0.0029244362376630306,
      "learning_rate": 5.2000000000000004e-05,
      "loss": 0.0008,
      "step": 1665
    },
    {
      "epoch": 11.133333333333333,
      "grad_norm": 0.0028008189983665943,
      "learning_rate": 5.1555555555555556e-05,
      "loss": 0.0007,
      "step": 1670
    },
    {
      "epoch": 11.166666666666666,
      "grad_norm": 0.002814839594066143,
      "learning_rate": 5.111111111111111e-05,
      "loss": 0.0008,
      "step": 1675
    },
    {
      "epoch": 11.2,
      "grad_norm": 0.002770839026197791,
      "learning_rate": 5.0666666666666674e-05,
      "loss": 0.0007,
      "step": 1680
    },
    {
      "epoch": 11.233333333333333,
      "grad_norm": 0.0027727202977985144,
      "learning_rate": 5.0222222222222226e-05,
      "loss": 0.0007,
      "step": 1685
    },
    {
      "epoch": 11.266666666666667,
      "grad_norm": 0.0028954206500202417,
      "learning_rate": 4.977777777777778e-05,
      "loss": 0.0007,
      "step": 1690
    },
    {
      "epoch": 11.3,
      "grad_norm": 0.0030258905608206987,
      "learning_rate": 4.933333333333334e-05,
      "loss": 0.0008,
      "step": 1695
    },
    {
      "epoch": 11.333333333333334,
      "grad_norm": 0.0027040389832109213,
      "learning_rate": 4.888888888888889e-05,
      "loss": 0.0007,
      "step": 1700
    },
    {
      "epoch": 11.333333333333334,
      "eval_accuracy": 0.7735077677841373,
      "eval_f1": 0.7731117531111902,
      "eval_loss": 1.6235299110412598,
      "eval_precision": 0.792706325211593,
      "eval_recall": 0.7735077677841373,
      "eval_runtime": 9.5245,
      "eval_samples_per_second": 128.405,
      "eval_steps_per_second": 16.064,
      "step": 1700
    },
    {
      "epoch": 11.366666666666667,
      "grad_norm": 0.002889234572649002,
      "learning_rate": 4.844444444444445e-05,
      "loss": 0.0007,
      "step": 1705
    },
    {
      "epoch": 11.4,
      "grad_norm": 0.0028638297226279974,
      "learning_rate": 4.8e-05,
      "loss": 0.0007,
      "step": 1710
    },
    {
      "epoch": 11.433333333333334,
      "grad_norm": 0.0027106411289423704,
      "learning_rate": 4.755555555555556e-05,
      "loss": 0.0007,
      "step": 1715
    },
    {
      "epoch": 11.466666666666667,
      "grad_norm": 0.0027717831544578075,
      "learning_rate": 4.711111111111111e-05,
      "loss": 0.0007,
      "step": 1720
    },
    {
      "epoch": 11.5,
      "grad_norm": 0.002852600533515215,
      "learning_rate": 4.666666666666667e-05,
      "loss": 0.0007,
      "step": 1725
    },
    {
      "epoch": 11.533333333333333,
      "grad_norm": 0.002929126378148794,
      "learning_rate": 4.6222222222222224e-05,
      "loss": 0.0007,
      "step": 1730
    },
    {
      "epoch": 11.566666666666666,
      "grad_norm": 0.002826239448040724,
      "learning_rate": 4.577777777777778e-05,
      "loss": 0.0007,
      "step": 1735
    },
    {
      "epoch": 11.6,
      "grad_norm": 0.002955881878733635,
      "learning_rate": 4.5333333333333335e-05,
      "loss": 0.0007,
      "step": 1740
    },
    {
      "epoch": 11.633333333333333,
      "grad_norm": 0.0026872733142226934,
      "learning_rate": 4.4888888888888894e-05,
      "loss": 0.0007,
      "step": 1745
    },
    {
      "epoch": 11.666666666666666,
      "grad_norm": 0.0028181050438433886,
      "learning_rate": 4.4444444444444447e-05,
      "loss": 0.0007,
      "step": 1750
    },
    {
      "epoch": 11.7,
      "grad_norm": 0.0028700497932732105,
      "learning_rate": 4.4000000000000006e-05,
      "loss": 0.0007,
      "step": 1755
    },
    {
      "epoch": 11.733333333333333,
      "grad_norm": 0.0027305204421281815,
      "learning_rate": 4.355555555555556e-05,
      "loss": 0.0007,
      "step": 1760
    },
    {
      "epoch": 11.766666666666667,
      "grad_norm": 0.0029077506624162197,
      "learning_rate": 4.311111111111111e-05,
      "loss": 0.0007,
      "step": 1765
    },
    {
      "epoch": 11.8,
      "grad_norm": 0.0029581969138234854,
      "learning_rate": 4.266666666666667e-05,
      "loss": 0.0007,
      "step": 1770
    },
    {
      "epoch": 11.833333333333334,
      "grad_norm": 0.0029439395293593407,
      "learning_rate": 4.222222222222222e-05,
      "loss": 0.0007,
      "step": 1775
    },
    {
      "epoch": 11.866666666666667,
      "grad_norm": 0.002648044377565384,
      "learning_rate": 4.177777777777778e-05,
      "loss": 0.0007,
      "step": 1780
    },
    {
      "epoch": 11.9,
      "grad_norm": 0.0028867183718830347,
      "learning_rate": 4.133333333333333e-05,
      "loss": 0.0007,
      "step": 1785
    },
    {
      "epoch": 11.933333333333334,
      "grad_norm": 0.0028596597258001566,
      "learning_rate": 4.088888888888889e-05,
      "loss": 0.0007,
      "step": 1790
    },
    {
      "epoch": 11.966666666666667,
      "grad_norm": 0.0026717197615653276,
      "learning_rate": 4.0444444444444444e-05,
      "loss": 0.0007,
      "step": 1795
    },
    {
      "epoch": 12.0,
      "grad_norm": 0.002669745124876499,
      "learning_rate": 4e-05,
      "loss": 0.0007,
      "step": 1800
    },
    {
      "epoch": 12.0,
      "eval_accuracy": 0.7726901062959934,
      "eval_f1": 0.7723427152538652,
      "eval_loss": 1.6366736888885498,
      "eval_precision": 0.7913558193441064,
      "eval_recall": 0.7726901062959934,
      "eval_runtime": 9.4924,
      "eval_samples_per_second": 128.84,
      "eval_steps_per_second": 16.118,
      "step": 1800
    },
    {
      "epoch": 12.033333333333333,
      "grad_norm": 0.002834903309121728,
      "learning_rate": 3.9555555555555556e-05,
      "loss": 0.0007,
      "step": 1805
    },
    {
      "epoch": 12.066666666666666,
      "grad_norm": 0.002697282237932086,
      "learning_rate": 3.9111111111111115e-05,
      "loss": 0.0007,
      "step": 1810
    },
    {
      "epoch": 12.1,
      "grad_norm": 0.002716922899708152,
      "learning_rate": 3.866666666666667e-05,
      "loss": 0.0007,
      "step": 1815
    },
    {
      "epoch": 12.133333333333333,
      "grad_norm": 0.0027616298757493496,
      "learning_rate": 3.8222222222222226e-05,
      "loss": 0.0007,
      "step": 1820
    },
    {
      "epoch": 12.166666666666666,
      "grad_norm": 0.002682196442037821,
      "learning_rate": 3.777777777777778e-05,
      "loss": 0.0007,
      "step": 1825
    },
    {
      "epoch": 12.2,
      "grad_norm": 0.002670521615073085,
      "learning_rate": 3.733333333333334e-05,
      "loss": 0.0007,
      "step": 1830
    },
    {
      "epoch": 12.233333333333333,
      "grad_norm": 0.0026013916358351707,
      "learning_rate": 3.688888888888889e-05,
      "loss": 0.0007,
      "step": 1835
    },
    {
      "epoch": 12.266666666666667,
      "grad_norm": 0.00258804764598608,
      "learning_rate": 3.644444444444445e-05,
      "loss": 0.0007,
      "step": 1840
    },
    {
      "epoch": 12.3,
      "grad_norm": 0.002493256935849786,
      "learning_rate": 3.6e-05,
      "loss": 0.0007,
      "step": 1845
    },
    {
      "epoch": 12.333333333333334,
      "grad_norm": 0.002977099735289812,
      "learning_rate": 3.555555555555556e-05,
      "loss": 0.0007,
      "step": 1850
    },
    {
      "epoch": 12.366666666666667,
      "grad_norm": 0.0028679771348834038,
      "learning_rate": 3.511111111111111e-05,
      "loss": 0.0007,
      "step": 1855
    },
    {
      "epoch": 12.4,
      "grad_norm": 0.002562806010246277,
      "learning_rate": 3.466666666666667e-05,
      "loss": 0.0007,
      "step": 1860
    },
    {
      "epoch": 12.433333333333334,
      "grad_norm": 0.00275462307035923,
      "learning_rate": 3.4222222222222224e-05,
      "loss": 0.0007,
      "step": 1865
    },
    {
      "epoch": 12.466666666666667,
      "grad_norm": 0.0026794790755957365,
      "learning_rate": 3.377777777777778e-05,
      "loss": 0.0007,
      "step": 1870
    },
    {
      "epoch": 12.5,
      "grad_norm": 0.0026146366726607084,
      "learning_rate": 3.3333333333333335e-05,
      "loss": 0.0007,
      "step": 1875
    },
    {
      "epoch": 12.533333333333333,
      "grad_norm": 0.0024596552830189466,
      "learning_rate": 3.2888888888888894e-05,
      "loss": 0.0007,
      "step": 1880
    },
    {
      "epoch": 12.566666666666666,
      "grad_norm": 0.002604931825771928,
      "learning_rate": 3.2444444444444446e-05,
      "loss": 0.0007,
      "step": 1885
    },
    {
      "epoch": 12.6,
      "grad_norm": 0.0029121278785169125,
      "learning_rate": 3.2000000000000005e-05,
      "loss": 0.0007,
      "step": 1890
    },
    {
      "epoch": 12.633333333333333,
      "grad_norm": 0.002842964604496956,
      "learning_rate": 3.155555555555556e-05,
      "loss": 0.0007,
      "step": 1895
    },
    {
      "epoch": 12.666666666666666,
      "grad_norm": 0.0025928555987775326,
      "learning_rate": 3.111111111111111e-05,
      "loss": 0.0007,
      "step": 1900
    },
    {
      "epoch": 12.666666666666666,
      "eval_accuracy": 0.7735077677841373,
      "eval_f1": 0.7730354144611151,
      "eval_loss": 1.6468026638031006,
      "eval_precision": 0.7918593434476511,
      "eval_recall": 0.7735077677841373,
      "eval_runtime": 9.4091,
      "eval_samples_per_second": 129.98,
      "eval_steps_per_second": 16.261,
      "step": 1900
    },
    {
      "epoch": 12.7,
      "grad_norm": 0.0027619327884167433,
      "learning_rate": 3.066666666666667e-05,
      "loss": 0.0007,
      "step": 1905
    },
    {
      "epoch": 12.733333333333333,
      "grad_norm": 0.0025647254660725594,
      "learning_rate": 3.0222222222222225e-05,
      "loss": 0.0007,
      "step": 1910
    },
    {
      "epoch": 12.766666666666667,
      "grad_norm": 0.0027413552161306143,
      "learning_rate": 2.9777777777777777e-05,
      "loss": 0.0007,
      "step": 1915
    },
    {
      "epoch": 12.8,
      "grad_norm": 0.0025752608198672533,
      "learning_rate": 2.9333333333333336e-05,
      "loss": 0.0007,
      "step": 1920
    },
    {
      "epoch": 12.833333333333334,
      "grad_norm": 0.00253043114207685,
      "learning_rate": 2.8888888888888888e-05,
      "loss": 0.0006,
      "step": 1925
    },
    {
      "epoch": 12.866666666666667,
      "grad_norm": 0.0024257830809801817,
      "learning_rate": 2.8444444444444447e-05,
      "loss": 0.0006,
      "step": 1930
    },
    {
      "epoch": 12.9,
      "grad_norm": 0.0024817846715450287,
      "learning_rate": 2.8000000000000003e-05,
      "loss": 0.0007,
      "step": 1935
    },
    {
      "epoch": 12.933333333333334,
      "grad_norm": 0.002621529158204794,
      "learning_rate": 2.7555555555555555e-05,
      "loss": 0.0007,
      "step": 1940
    },
    {
      "epoch": 12.966666666666667,
      "grad_norm": 0.002632457297295332,
      "learning_rate": 2.7111111111111114e-05,
      "loss": 0.0007,
      "step": 1945
    },
    {
      "epoch": 13.0,
      "grad_norm": 0.002445266814902425,
      "learning_rate": 2.6666666666666667e-05,
      "loss": 0.0007,
      "step": 1950
    },
    {
      "epoch": 13.033333333333333,
      "grad_norm": 0.0027176933363080025,
      "learning_rate": 2.6222222222222226e-05,
      "loss": 0.0007,
      "step": 1955
    },
    {
      "epoch": 13.066666666666666,
      "grad_norm": 0.0026730329263955355,
      "learning_rate": 2.5777777777777778e-05,
      "loss": 0.0007,
      "step": 1960
    },
    {
      "epoch": 13.1,
      "grad_norm": 0.0025130738504230976,
      "learning_rate": 2.5333333333333337e-05,
      "loss": 0.0007,
      "step": 1965
    },
    {
      "epoch": 13.133333333333333,
      "grad_norm": 0.0024407205637544394,
      "learning_rate": 2.488888888888889e-05,
      "loss": 0.0006,
      "step": 1970
    },
    {
      "epoch": 13.166666666666666,
      "grad_norm": 0.00242891488596797,
      "learning_rate": 2.4444444444444445e-05,
      "loss": 0.0006,
      "step": 1975
    },
    {
      "epoch": 13.2,
      "grad_norm": 0.0023778832983225584,
      "learning_rate": 2.4e-05,
      "loss": 0.0006,
      "step": 1980
    },
    {
      "epoch": 13.233333333333333,
      "grad_norm": 0.0025050409603863955,
      "learning_rate": 2.3555555555555556e-05,
      "loss": 0.0006,
      "step": 1985
    },
    {
      "epoch": 13.266666666666667,
      "grad_norm": 0.0028825930785387754,
      "learning_rate": 2.3111111111111112e-05,
      "loss": 0.0006,
      "step": 1990
    },
    {
      "epoch": 13.3,
      "grad_norm": 0.0027403540443629026,
      "learning_rate": 2.2666666666666668e-05,
      "loss": 0.0006,
      "step": 1995
    },
    {
      "epoch": 13.333333333333334,
      "grad_norm": 0.0024475709069520235,
      "learning_rate": 2.2222222222222223e-05,
      "loss": 0.0006,
      "step": 2000
    },
    {
      "epoch": 13.333333333333334,
      "eval_accuracy": 0.7735077677841373,
      "eval_f1": 0.7728701403904046,
      "eval_loss": 1.6551100015640259,
      "eval_precision": 0.7908927853248657,
      "eval_recall": 0.7735077677841373,
      "eval_runtime": 9.3212,
      "eval_samples_per_second": 131.206,
      "eval_steps_per_second": 16.414,
      "step": 2000
    },
    {
      "epoch": 13.366666666666667,
      "grad_norm": 0.0025134882889688015,
      "learning_rate": 2.177777777777778e-05,
      "loss": 0.0006,
      "step": 2005
    },
    {
      "epoch": 13.4,
      "grad_norm": 0.0023885276168584824,
      "learning_rate": 2.1333333333333335e-05,
      "loss": 0.0006,
      "step": 2010
    },
    {
      "epoch": 13.433333333333334,
      "grad_norm": 0.002416504779830575,
      "learning_rate": 2.088888888888889e-05,
      "loss": 0.0006,
      "step": 2015
    },
    {
      "epoch": 13.466666666666667,
      "grad_norm": 0.002540977904573083,
      "learning_rate": 2.0444444444444446e-05,
      "loss": 0.0006,
      "step": 2020
    },
    {
      "epoch": 13.5,
      "grad_norm": 0.0024591987021267414,
      "learning_rate": 2e-05,
      "loss": 0.0006,
      "step": 2025
    },
    {
      "epoch": 13.533333333333333,
      "grad_norm": 0.002733177039772272,
      "learning_rate": 1.9555555555555557e-05,
      "loss": 0.0006,
      "step": 2030
    },
    {
      "epoch": 13.566666666666666,
      "grad_norm": 0.002494868589565158,
      "learning_rate": 1.9111111111111113e-05,
      "loss": 0.0006,
      "step": 2035
    },
    {
      "epoch": 13.6,
      "grad_norm": 0.0025140726938843727,
      "learning_rate": 1.866666666666667e-05,
      "loss": 0.0006,
      "step": 2040
    },
    {
      "epoch": 13.633333333333333,
      "grad_norm": 0.002409860957413912,
      "learning_rate": 1.8222222222222224e-05,
      "loss": 0.0006,
      "step": 2045
    },
    {
      "epoch": 13.666666666666666,
      "grad_norm": 0.002566902432590723,
      "learning_rate": 1.777777777777778e-05,
      "loss": 0.0006,
      "step": 2050
    },
    {
      "epoch": 13.7,
      "grad_norm": 0.0024930175859481096,
      "learning_rate": 1.7333333333333336e-05,
      "loss": 0.0006,
      "step": 2055
    },
    {
      "epoch": 13.733333333333333,
      "grad_norm": 0.002376505406573415,
      "learning_rate": 1.688888888888889e-05,
      "loss": 0.0006,
      "step": 2060
    },
    {
      "epoch": 13.766666666666667,
      "grad_norm": 0.0026480802334845066,
      "learning_rate": 1.6444444444444447e-05,
      "loss": 0.0006,
      "step": 2065
    },
    {
      "epoch": 13.8,
      "grad_norm": 0.0023571744095534086,
      "learning_rate": 1.6000000000000003e-05,
      "loss": 0.0006,
      "step": 2070
    },
    {
      "epoch": 13.833333333333334,
      "grad_norm": 0.0027962648309767246,
      "learning_rate": 1.5555555555555555e-05,
      "loss": 0.0006,
      "step": 2075
    },
    {
      "epoch": 13.866666666666667,
      "grad_norm": 0.002371689071878791,
      "learning_rate": 1.5111111111111112e-05,
      "loss": 0.0006,
      "step": 2080
    },
    {
      "epoch": 13.9,
      "grad_norm": 0.0023993193171918392,
      "learning_rate": 1.4666666666666668e-05,
      "loss": 0.0006,
      "step": 2085
    },
    {
      "epoch": 13.933333333333334,
      "grad_norm": 0.002335299039259553,
      "learning_rate": 1.4222222222222224e-05,
      "loss": 0.0006,
      "step": 2090
    },
    {
      "epoch": 13.966666666666667,
      "grad_norm": 0.0025619715452194214,
      "learning_rate": 1.3777777777777778e-05,
      "loss": 0.0006,
      "step": 2095
    },
    {
      "epoch": 14.0,
      "grad_norm": 0.002706592669710517,
      "learning_rate": 1.3333333333333333e-05,
      "loss": 0.0006,
      "step": 2100
    },
    {
      "epoch": 14.0,
      "eval_accuracy": 0.7726901062959934,
      "eval_f1": 0.7721014363759265,
      "eval_loss": 1.6608604192733765,
      "eval_precision": 0.7895753506349075,
      "eval_recall": 0.7726901062959934,
      "eval_runtime": 9.2911,
      "eval_samples_per_second": 131.631,
      "eval_steps_per_second": 16.467,
      "step": 2100
    },
    {
      "epoch": 14.033333333333333,
      "grad_norm": 0.002386202337220311,
      "learning_rate": 1.2888888888888889e-05,
      "loss": 0.0006,
      "step": 2105
    },
    {
      "epoch": 14.066666666666666,
      "grad_norm": 0.0023825885728001595,
      "learning_rate": 1.2444444444444445e-05,
      "loss": 0.0006,
      "step": 2110
    },
    {
      "epoch": 14.1,
      "grad_norm": 0.0025322814472019672,
      "learning_rate": 1.2e-05,
      "loss": 0.0006,
      "step": 2115
    },
    {
      "epoch": 14.133333333333333,
      "grad_norm": 0.002406241139397025,
      "learning_rate": 1.1555555555555556e-05,
      "loss": 0.0006,
      "step": 2120
    },
    {
      "epoch": 14.166666666666666,
      "grad_norm": 0.0023687032517045736,
      "learning_rate": 1.1111111111111112e-05,
      "loss": 0.0006,
      "step": 2125
    },
    {
      "epoch": 14.2,
      "grad_norm": 0.0023634156677871943,
      "learning_rate": 1.0666666666666667e-05,
      "loss": 0.0006,
      "step": 2130
    },
    {
      "epoch": 14.233333333333333,
      "grad_norm": 0.002334601478651166,
      "learning_rate": 1.0222222222222223e-05,
      "loss": 0.0006,
      "step": 2135
    },
    {
      "epoch": 14.266666666666667,
      "grad_norm": 0.002330502262338996,
      "learning_rate": 9.777777777777779e-06,
      "loss": 0.0006,
      "step": 2140
    },
    {
      "epoch": 14.3,
      "grad_norm": 0.0025921158958226442,
      "learning_rate": 9.333333333333334e-06,
      "loss": 0.0006,
      "step": 2145
    },
    {
      "epoch": 14.333333333333334,
      "grad_norm": 0.0025375063996762037,
      "learning_rate": 8.88888888888889e-06,
      "loss": 0.0006,
      "step": 2150
    },
    {
      "epoch": 14.366666666666667,
      "grad_norm": 0.002520347246900201,
      "learning_rate": 8.444444444444446e-06,
      "loss": 0.0006,
      "step": 2155
    },
    {
      "epoch": 14.4,
      "grad_norm": 0.0022701257839798927,
      "learning_rate": 8.000000000000001e-06,
      "loss": 0.0006,
      "step": 2160
    },
    {
      "epoch": 14.433333333333334,
      "grad_norm": 0.002739118644967675,
      "learning_rate": 7.555555555555556e-06,
      "loss": 0.0006,
      "step": 2165
    },
    {
      "epoch": 14.466666666666667,
      "grad_norm": 0.002458198694512248,
      "learning_rate": 7.111111111111112e-06,
      "loss": 0.0006,
      "step": 2170
    },
    {
      "epoch": 14.5,
      "grad_norm": 0.0025515714660286903,
      "learning_rate": 6.666666666666667e-06,
      "loss": 0.0006,
      "step": 2175
    },
    {
      "epoch": 14.533333333333333,
      "grad_norm": 0.002399261575192213,
      "learning_rate": 6.222222222222222e-06,
      "loss": 0.0006,
      "step": 2180
    },
    {
      "epoch": 14.566666666666666,
      "grad_norm": 0.0026785852387547493,
      "learning_rate": 5.777777777777778e-06,
      "loss": 0.0006,
      "step": 2185
    },
    {
      "epoch": 14.6,
      "grad_norm": 0.0024550692178308964,
      "learning_rate": 5.333333333333334e-06,
      "loss": 0.0006,
      "step": 2190
    },
    {
      "epoch": 14.633333333333333,
      "grad_norm": 0.0025646742433309555,
      "learning_rate": 4.888888888888889e-06,
      "loss": 0.0006,
      "step": 2195
    },
    {
      "epoch": 14.666666666666666,
      "grad_norm": 0.0023716960567981005,
      "learning_rate": 4.444444444444445e-06,
      "loss": 0.0006,
      "step": 2200
    },
    {
      "epoch": 14.666666666666666,
      "eval_accuracy": 0.7726901062959934,
      "eval_f1": 0.7721014363759265,
      "eval_loss": 1.6636964082717896,
      "eval_precision": 0.7895753506349075,
      "eval_recall": 0.7726901062959934,
      "eval_runtime": 9.4885,
      "eval_samples_per_second": 128.893,
      "eval_steps_per_second": 16.125,
      "step": 2200
    },
    {
      "epoch": 14.7,
      "grad_norm": 0.0024347053840756416,
      "learning_rate": 4.000000000000001e-06,
      "loss": 0.0006,
      "step": 2205
    },
    {
      "epoch": 14.733333333333333,
      "grad_norm": 0.00249837851151824,
      "learning_rate": 3.555555555555556e-06,
      "loss": 0.0006,
      "step": 2210
    },
    {
      "epoch": 14.766666666666667,
      "grad_norm": 0.0023906982969492674,
      "learning_rate": 3.111111111111111e-06,
      "loss": 0.0006,
      "step": 2215
    },
    {
      "epoch": 14.8,
      "grad_norm": 0.0022797761484980583,
      "learning_rate": 2.666666666666667e-06,
      "loss": 0.0006,
      "step": 2220
    },
    {
      "epoch": 14.833333333333334,
      "grad_norm": 0.0024200216867029667,
      "learning_rate": 2.2222222222222225e-06,
      "loss": 0.0006,
      "step": 2225
    },
    {
      "epoch": 14.866666666666667,
      "grad_norm": 0.0024904964957386255,
      "learning_rate": 1.777777777777778e-06,
      "loss": 0.0006,
      "step": 2230
    },
    {
      "epoch": 14.9,
      "grad_norm": 0.0024100597947835922,
      "learning_rate": 1.3333333333333334e-06,
      "loss": 0.0006,
      "step": 2235
    },
    {
      "epoch": 14.933333333333334,
      "grad_norm": 0.002504633739590645,
      "learning_rate": 8.88888888888889e-07,
      "loss": 0.0006,
      "step": 2240
    },
    {
      "epoch": 14.966666666666667,
      "grad_norm": 0.0022806283086538315,
      "learning_rate": 4.444444444444445e-07,
      "loss": 0.0006,
      "step": 2245
    },
    {
      "epoch": 15.0,
      "grad_norm": 0.002253184327855706,
      "learning_rate": 0.0,
      "loss": 0.0006,
      "step": 2250
    },
    {
      "epoch": 15.0,
      "step": 2250,
      "total_flos": 5.57962327867392e+18,
      "train_loss": 0.03301632276508543,
      "train_runtime": 883.2856,
      "train_samples_per_second": 81.514,
      "train_steps_per_second": 2.547
    }
  ],
  "logging_steps": 5,
  "max_steps": 2250,
  "num_input_tokens_seen": 0,
  "num_train_epochs": 15,
  "save_steps": 100,
  "stateful_callbacks": {
    "TrainerControl": {
      "args": {
        "should_epoch_stop": false,
        "should_evaluate": false,
        "should_log": false,
        "should_save": true,
        "should_training_stop": true
      },
      "attributes": {}
    }
  },
  "total_flos": 5.57962327867392e+18,
  "train_batch_size": 32,
  "trial_name": null,
  "trial_params": null
}