14:19:54-924440 INFO Starting SD-Trainer Mikazuki GUI...
14:19:54-927178 INFO Base directory: /root/lora-scripts, Working directory: /root/lora-scripts
14:19:54-927884 INFO Linux Python 3.10.9 /root/.conda/envs/lora/bin/python
14:19:54-933201 INFO Starting tageditor...
14:19:54-936010 INFO Starting tensorboard...
14:19:58-704848 INFO Server started at http://127.0.0.1:28000
TensorFlow installation not found - running with reduced feature set.
NOTE: Using experimental fast data loading logic. To disable, pass
"--load_fast=false" and report issues on GitHub. More details:
https://github.com/tensorflow/tensorboard/issues/4784
TensorBoard 2.10.1 at http://127.0.0.1:6006/ (Press CTRL+C to quit)
14:20:52-995764 INFO Torch 2.3.0+cu121
14:20:53-470315 INFO Torch backend: nVidia CUDA 12.1 cuDNN 8902
14:20:53-876159 INFO Torch detected GPU: NVIDIA A100-SXM4-80GB VRAM 81051 Arch (8, 0) Cores 108
14:24:14-346637 INFO Training started with config file / 训练开始，使用配置文件: /root/lora-scripts/config/autosave/20240716-142414.toml
14:24:14-349477 INFO Task 6fd14190-b173-4715-b710-7293b373447e created
The following values were not passed to `accelerate launch` and had defaults used instead:
`--num_processes` was set to a value of `1`
`--num_machines` was set to a value of `1`
`--mixed_precision` was set to a value of `'no'`
`--dynamo_backend` was set to a value of `'no'`
To avoid this warning pass in values for each of the problematic parameters or run `accelerate config`.
2024-07-16 14:24:58 INFO Loading settings from /root/lora-scripts/config/autosave/20240716-142414.toml... train_util.py:3744
INFO /root/lora-scripts/config/autosave/20240716-142414 train_util.py:3763
2024-07-16 14:24:58 INFO prepare tokenizer train_util.py:4227
2024-07-16 14:24:59 INFO update token length: 255 train_util.py:4244
2024-07-16 14:25:00 INFO prepare images. train_util.py:1572
INFO found directory /train6/1_dongman contains 916 image files train_util.py:1519
INFO 916 train images with repeating. train_util.py:1613
INFO 0 reg images. train_util.py:1616
WARNING no regularization images / 正則化画像が見つかりませんでした train_util.py:1621
INFO [Dataset 0] config_util.py:565
batch_size: 64
resolution: (1024, 1024)
enable_bucket: True
network_multiplier: 1.0
min_bucket_reso: 256
max_bucket_reso: 2048
bucket_reso_steps: 64
bucket_no_upscale: False
[Subset 0 of Dataset 0]
image_dir: "/train6/1_dongman"
image_count: 916
num_repeats: 1
shuffle_caption: True
keep_tokens: 0
keep_tokens_separator:
secondary_separator: None
enable_wildcard: False
caption_dropout_rate: 0.0
caption_dropout_every_n_epoches: 0
caption_tag_dropout_rate: 0.0
caption_prefix: None
caption_suffix: None
color_aug: False
flip_aug: False
face_crop_aug_range: None
random_crop: False
token_warmup_min: 1,
token_warmup_step: 0,
is_reg: False
class_tokens: dongman
caption_extension: .txt
INFO [Dataset 0] config_util.py:571
INFO loading image sizes. train_util.py:853
100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 916/916 [00:00<00:00, 85199.42it/s]
INFO make buckets train_util.py:859
INFO number of images (including repeats) / 各bucketの画像枚数（繰り返し回数を含む） train_util.py:905
INFO bucket 0: resolution (704, 1408), count: 29 train_util.py:910
INFO bucket 1: resolution (768, 1280), count: 6 train_util.py:910
INFO bucket 2: resolution (768, 1344), count: 723 train_util.py:910
INFO bucket 3: resolution (832, 1216), count: 123 train_util.py:910
INFO bucket 4: resolution (1216, 832), count: 2 train_util.py:910
INFO bucket 5: resolution (1344, 768), count: 33 train_util.py:910
INFO mean ar error (without repeats): 0.011380946831128346 train_util.py:915
INFO prepare accelerator train_db.py:106
wandb: Currently logged in as: cn42083120024 (renwu). Use `wandb login --relogin` to force relogin
wandb: Appending key for api.wandb.ai to your netrc file: /root/.netrc
accelerator device: cuda
2024-07-16 14:25:24 INFO loading model for process 0/1 train_util.py:4385
INFO load StableDiffusion checkpoint: ./sd-models/model.safetensors train_util.py:4341
2024-07-16 14:25:29 INFO UNet2DConditionModel: 64, 8, 768, False, False original_unet.py:1387
2024-07-16 14:25:56 INFO loading u-net: <All keys matched successfully> model_util.py:1009
2024-07-16 14:26:01 INFO loading vae: <All keys matched successfully> model_util.py:1017
2024-07-16 14:26:09 INFO loading text encoder: <All keys matched successfully> model_util.py:1074
INFO Enable xformers for U-Net train_util.py:2660
INFO [Dataset 0] train_util.py:2079
INFO caching latents. train_util.py:974
INFO checking cache validity... train_util.py:984
100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 916/916 [00:00<00:00, 4252.76it/s]
2024-07-16 14:26:10 INFO caching latents... train_util.py:1021
100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 916/916 [08:53<00:00, 1.72it/s]
2024-07-16 14:35:03 INFO CrossAttnDownBlock2D False -> True original_unet.py:1521
INFO CrossAttnDownBlock2D False -> True original_unet.py:1521
INFO CrossAttnDownBlock2D False -> True original_unet.py:1521
INFO DownBlock2D False -> True original_unet.py:1521
INFO UNetMidBlock2DCrossAttn False -> True original_unet.py:1521
INFO UpBlock2D False -> True original_unet.py:1521
INFO CrossAttnUpBlock2D False -> True original_unet.py:1521
INFO CrossAttnUpBlock2D False -> True original_unet.py:1521
INFO CrossAttnUpBlock2D False -> True original_unet.py:1521
prepare optimizer, data loader etc.
2024-07-16 14:35:04 INFO use 8-bit AdamW optimizer | {} train_util.py:3889
override steps. steps for 30 epochs is / 指定エポックまでのステップ数: 540
running training / 学習開始
num train images * repeats / 学習画像の数×繰り返し回数: 916
num reg images / 正則化画像の数: 0
num batches per epoch / 1epochのバッチ数: 18
num epochs / epoch数: 30
batch size per device / バッチサイズ: 64
total train batch size (with parallel & distributed & accumulation) / 総バッチサイズ（並列学習、勾配合計含む）: 64
gradient ccumulation steps / 勾配を合計するステップ数 = 1
total optimization steps / 学習ステップ数: 540
steps: 0%| | 0/540 [00:00<?, ?it/s]wandb: wandb version 0.17.4 is available! To upgrade, please run:
wandb: $ pip install wandb --upgrade
wandb: Tracking run with wandb version 0.16.2
wandb: Run data is saved locally in ./logs/GPU-使用率-温度检测_perfix20240716142500/wandb/run-20240716_143506-aynrisa1
wandb: Run `wandb offline` to turn off syncing.
wandb: Syncing run fluent-meadow-42
wandb: ⭐️ View project at https://wandb.ai/renwu/GPU-%E4%BD%BF%E7%94%A8%E7%8E%87-%E6%B8%A9%E5%BA%A6%E6%A3%80%E6%B5%8B
wandb: 🚀 View run at https://wandb.ai/renwu/GPU-%E4%BD%BF%E7%94%A8%E7%8E%87-%E6%B8%A9%E5%BA%A6%E6%A3%80%E6%B5%8B/runs/aynrisa1
epoch 1/30
steps: 3%|███▋ | 18/540 [03:02<1:28:15, 10.14s/it, avr_loss=0.124]2024-07-16 14:38:08 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000001.safetensors train_util.py:4694
wandb: WARNING Step only supports monotonically increasing values, use define_metric to set a custom x axis. For details see: https://wandb.me/define-metric
wandb: WARNING (User provided step: 1 is less than current step: 18. Dropping entry: {'loss/epoch': 0.12387802017231782, '_timestamp': 1721111888.7564518}).
epoch 2/30
steps: 7%|███████▍ | 36/540 [05:53<1:22:28, 9.82s/it, avr_loss=0.127]2024-07-16 14:40:59 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000002.safetensors train_util.py:4694
wandb: WARNING (User provided step: 2 is less than current step: 36. Dropping entry: {'loss/epoch': 0.12723200561271775, '_timestamp': 1721112059.637897}).
epoch 3/30
100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 916/916 [08:53<00:00, 1.72it/s]
2024-07-16 14:35:03 INFO CrossAttnDownBlock2D False -> True original_unet.py:1521
INFO CrossAttnDownBlock2D False -> True original_unet.py:1521
INFO CrossAttnDownBlock2D False -> True original_unet.py:1521
INFO DownBlock2D False -> True original_unet.py:1521
INFO UNetMidBlock2DCrossAttn False -> True original_unet.py:1521
INFO UpBlock2D False -> True original_unet.py:1521
INFO CrossAttnUpBlock2D False -> True original_unet.py:1521
INFO CrossAttnUpBlock2D False -> True original_unet.py:1521
INFO CrossAttnUpBlock2D False -> True original_unet.py:1521
prepare optimizer, data loader etc.
2024-07-16 14:35:04 INFO use 8-bit AdamW optimizer | {} train_util.py:3889
override steps. steps for 30 epochs is / 指定エポックまでのステップ数: 540
running training / 学習開始
num train images * repeats / 学習画像の数×繰り返し回数: 916
num reg images / 正則化画像の数: 0
num batches per epoch / 1epochのバッチ数: 18
num epochs / epoch数: 30
batch size per device / バッチサイズ: 64
total train batch size (with parallel & distributed & accumulation) / 総バッチサイズ（並列学習、勾配合計含む）: 64
gradient ccumulation steps / 勾配を合計するステップ数 = 1
total optimization steps / 学習ステップ数: 540
steps: 0%| | 0/540 [00:00<?, ?it/s]wandb: wandb version 0.17.4 is available! To upgrade, please run:
wandb: $ pip install wandb --upgrade
wandb: Tracking run with wandb version 0.16.2
wandb: Run data is saved locally in ./logs/GPU-使用率-温度检测_perfix20240716142500/wandb/run-20240716_143506-aynrisa1
wandb: Run `wandb offline` to turn off syncing.
wandb: Syncing run fluent-meadow-42
wandb: ⭐️ View project at https://wandb.ai/renwu/GPU-%E4%BD%BF%E7%94%A8%E7%8E%87-%E6%B8%A9%E5%BA%A6%E6%A3%80%E6%B5%8B
wandb: 🚀 View run at https://wandb.ai/renwu/GPU-%E4%BD%BF%E7%94%A8%E7%8E%87-%E6%B8%A9%E5%BA%A6%E6%A3%80%E6%B5%8B/runs/aynrisa1
epoch 1/30
steps: 3%|███▋ | 18/540 [03:02<1:28:15, 10.14s/it, avr_loss=0.124]2024-07-16 14:38:08 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000001.safetensors train_util.py:4694
wandb: WARNING Step only supports monotonically increasing values, use define_metric to set a custom x axis. For details see: https://wandb.me/define-metric
wandb: WARNING (User provided step: 1 is less than current step: 18. Dropping entry: {'loss/epoch': 0.12387802017231782, '_timestamp': 1721111888.7564518}).
epoch 2/30
steps: 7%|███████▍ | 36/540 [05:53<1:22:28, 9.82s/it, avr_loss=0.127]2024-07-16 14:40:59 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000002.safetensors train_util.py:4694
wandb: WARNING (User provided step: 2 is less than current step: 36. Dropping entry: {'loss/epoch': 0.12723200561271775, '_timestamp': 1721112059.637897}).
epoch 3/30
steps: 10%|███████████ | 54/540 [08:56<1:20:24, 9.93s/it, avr_loss=0.127]2024-07-16 14:44:02 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000003.safetensors train_util.py:4694
epoch 4/30
wandb: WARNING (User provided step: 3 is less than current step: 54. Dropping entry: {'loss/epoch': 0.1265922114253044, '_timestamp': 1721112242.1847267}).
steps: 13%|██████████████▊ | 72/540 [11:52<1:17:14, 9.90s/it, avr_loss=0.127]2024-07-16 14:46:59 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000004.safetensors train_util.py:4694
epoch 5/30
wandb: WARNING (User provided step: 4 is less than current step: 72. Dropping entry: {'loss/epoch': 0.12727194983098242, '_timestamp': 1721112419.1562445}).
steps: 17%|██████████████████▌ | 90/540 [14:49<1:14:05, 9.88s/it, avr_loss=0.137]2024-07-16 14:49:55 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000005.safetensors train_util.py:4694
epoch 6/30
wandb: WARNING (User provided step: 5 is less than current step: 90. Dropping entry: {'loss/epoch': 0.13734278620945084, '_timestamp': 1721112595.198857}).
steps: 20%|██████████████████████ | 108/540 [17:23<1:09:35, 9.67s/it, avr_loss=0.118]2024-07-16 14:52:30 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000006.safetensors train_util.py:4694
wandb: WARNING (User provided step: 6 is less than current step: 108. Dropping entry: {'loss/epoch': 0.11821738423572646, '_timestamp': 1721112750.0980027}).
epoch 7/30
steps: 23%|█████████████████████████▋ | 126/540 [20:11<1:06:20, 9.61s/it, avr_loss=0.124]2024-07-16 14:55:17 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000007.safetensors train_util.py:4694
wandb: WARNING (User provided step: 7 is less than current step: 126. Dropping entry: {'loss/epoch': 0.12375647243526247, '_timestamp': 1721112917.4713383}).
epoch 8/30
steps: 27%|█████████████████████████████▎ | 144/540 [23:01<1:03:18, 9.59s/it, avr_loss=0.121]2024-07-16 14:58:07 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000008.safetensors train_util.py:4694
wandb: WARNING (User provided step: 8 is less than current step: 144. Dropping entry: {'loss/epoch': 0.1209758756061395, '_timestamp': 1721113087.5138469}).
epoch 9/30
steps: 30%|█████████████████████████████████▎ | 162/540 [26:18<1:01:23, 9.75s/it, avr_loss=0.12]2024-07-16 15:01:24 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000009.safetensors train_util.py:4694
wandb: WARNING (User provided step: 9 is less than current step: 162. Dropping entry: {'loss/epoch': 0.12002807193332249, '_timestamp': 1721113284.88461}).
epoch 10/30
steps: 33%|█████████████████████████████████████▎ | 180/540 [29:06<58:13, 9.70s/it, avr_loss=0.123]2024-07-16 15:04:13 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000010.safetensors train_util.py:4694
wandb: WARNING (User provided step: 10 is less than current step: 180. Dropping entry: {'loss/epoch': 0.12288845289084646, '_timestamp': 1721113453.062439}).
epoch 11/30
steps: 36%|███████████████████████████████████████▊ | 192/540 [31:07<56:25, 9.73s/it, avr_loss=0.129]
steps: 37%|█████████████████████████████████████████▍ | 198/540 [31:57<55:12, 9.68s/it, avr_loss=0.13]2024-07-16 15:07:03 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000011.safetensors train_util.py:4694
epoch 12/30
wandb: WARNING (User provided step: 11 is less than current step: 198. Dropping entry: {'loss/epoch': 0.1302021476957533, '_timestamp': 1721113623.696793}).
steps: 39%|███████████████████████████████████████████▌ | 210/540 [33:40<52:55, 9.62s/it, avr_loss=0.116]
steps: 22%|████████████████████████▍ | 120/540 [19:22<1:07:47, 9.68s/it,steps: 22%|████████████████████████▍ | 120/540 [19:22<1:07:47, 9.68s/it,steps: 22%|████████████████████████▋ | 121/540 [19:25<1:07:16, 9.63s/it,steps: 22%|████████████████████████▋ | 121/540 [19:25<1:07:16, 9.63s/it,steps: 23%|████████████████████████▊ | 122/540 [19:36<1:07:09, 9.64s/it,steps: 23%|████████████████████████▊ | 122/540 [19:36<1:07:09, 9.64s/it,steps: 23%|█████████████████████████ | 123/540 [19:47<1:07:05, 9.65s/it,steps: 23%|█████████████████████████ | 123/540 [19:47<1:07:05, 9.65s/it,steps: 23%|█████████████████████████▎ | 124/540 [19:58<1:07:02, 9.67s/it,steps: 23%|█████████████████████████▎ | 124/540 [19:58<1:07:02, 9.67s/it,steps: 23%|█████████████████████████▍ | 125/540 [20:00<1:06:24, 9.60s/it,steps: 23%|█████████████████████████▍ | 125/540 [20:00<1:06:24, 9.60s/it,steps: 23%|█████████████████████████▋ | 126/540 [20:11<1:06:20, 9.61s/it,steps: 23%|█████████████████████████▋ | 126/540 [20:11<1:06:20, 9.61s/it, avr_loss=0.124]2024-07-16 14:55:17 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000007.safetensors train_util.py:4694
wandb: WARNING (User provided step: 7 is less than current step: 126. Dropping entry: {'loss/epoch': 0.12375647243526247, '_timestamp': 1721112917.4713383}).
epoch 8/30
steps: 24%|█████████████████████████▊ | 127/540 [20:27<1:06:30, 9.66s/it,steps: 24%|██████████████████████████ | 127/540 [20:27<1:06:30, 9.66s/itsteps: 24%|██████████████████████████▎ | 128/540 [20:27<1:05:51, 9.59s/itsteps: 24%|██████████████████████████ | 128/540 [20:27<1:05:51, 9.59s/it,steps: 24%|██████████████████████████▎ | 129/540 [20:39<1:05:47, 9.61s/it,steps: 24%|██████████████████████████▎ | 129/540 [20:39<1:05:47, 9.61s/it,steps: 24%|██████████████████████████▍ | 130/540 [20:50<1:05:43, 9.62s/it,steps: 24%|██████████████████████████▍ | 130/540 [20:50<1:05:43, 9.62s/it,steps: 24%|██████████████████████████▋ | 131/540 [21:01<1:05:39, 9.63s/it,steps: 24%|██████████████████████████▋ | 131/540 [21:01<1:05:39, 9.63s/it,steps: 24%|██████████████████████████▉ | 132/540 [21:13<1:05:35, 9.65s/it,steps: 24%|██████████████████████████▉ | 132/540 [21:13<1:05:35, 9.65s/it,steps: 25%|███████████████████████████ | 133/540 [21:24<1:05:31, 9.66s/it,steps: 25%|███████████████████████████ | 133/540 [21:24<1:05:31, 9.66s/it,steps: 25%|███████████████████████████▎ | 134/540 [21:30<1:05:10, 9.63s/it,steps: 25%|███████████████████████████▌ | 134/540 [21:30<1:05:10, 9.63s/itsteps: 25%|███████████████████████████▊ | 135/540 [21:41<1:05:05, 9.64s/itsteps: 25%|███████████████████████████▌ | 135/540 [21:41<1:05:05, 9.64s/it,steps: 25%|███████████████████████████▋ | 136/540 [21:45<1:04:38, 9.60s/it,steps: 25%|███████████████████████████▉ | 136/540 [21:45<1:04:38, 9.60s/itsteps: 25%|████████████████████████████▏ | 137/540 [21:56<1:04:33, 9.61s/itsteps: 25%|███████████████████████████▉ | 137/540 [21:56<1:04:33, 9.61s/it,steps: 26%|████████████████████████████ | 138/540 [21:58<1:03:59, 9.55s/it,steps: 26%|████████████████████████████ | 138/540 [21:58<1:03:59, 9.55s/it,steps: 26%|████████████████████████████▎ | 139/540 [22:09<1:03:55, 9.57s/it,steps: 26%|████████████████████████████▎ | 139/540 [22:09<1:03:55, 9.57s/it,steps: 26%|████████████████████████████▌ | 140/540 [22:15<1:03:35, 9.54s/it,steps: 26%|████████████████████████████▌ | 140/540 [22:15<1:03:35, 9.54s/it,steps: 26%|████████████████████████████▋ | 141/540 [22:26<1:03:31, 9.55s/it,steps: 26%|████████████████████████████▋ | 141/540 [22:26<1:03:31, 9.55s/it,steps: 26%|████████████████████████████▉ | 142/540 [22:38<1:03:27, 9.57s/it,steps: 26%|████████████████████████████▉ | 142/540 [22:38<1:03:27, 9.57s/it,steps: 26%|█████████████████████████████▏ | 143/540 [22:49<1:03:23, 9.58s/it,steps: 26%|█████████████████████████████▍ | 143/540 [22:49<1:03:23, 9.58s/itsteps: 27%|█████████████████████████████▌ | 144/540 [23:01<1:03:18, 9.59s/itsteps: 27%|█████████████████████████████▎ | 144/540 [23:01<1:03:18, 9.59s/it, avr_loss=0.121]2024-07-16 14:58:07 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000008.safetensors train_util.py:4694
wandb: WARNING (User provided step: 8 is less than current step: 144. Dropping entry: {'loss/epoch': 0.1209758756061395, '_timestamp': 1721113087.5138469}).
epoch 9/30
steps: 27%|█████████████████████████████▌ | 145/540 [23:23<1:03:43, 9.68s/it,steps: 27%|█████████████████████████████▌ | 145/540 [23:23<1:03:43, 9.68s/it,steps: 27%|█████████████████████████████▋ | 146/540 [23:35<1:03:38, 9.69s/it,steps: 27%|█████████████████████████████▋ | 146/540 [23:35<1:03:38, 9.69s/it,steps: 27%|█████████████████████████████▉ | 147/540 [23:45<1:03:30, 9.70s/it,steps: 27%|█████████████████████████████▉ | 147/540 [23:45<1:03:30, 9.70s/it,steps: 27%|██████████████████████████████▏ | 148/540 [23:56<1:03:25, 9.71s/it,steps: 27%|██████████████████████████████▏ | 148/540 [23:56<1:03:25, 9.71s/it,steps: 28%|██████████████████████████████▎ | 149/540 [24:08<1:03:20, 9.72s/it,steps: 28%|██████████████████████████████▎ | 149/540 [24:08<1:03:20, 9.72s/it,steps: 28%|██████████████████████████████▌ | 150/540 [24:19<1:03:15, 9.73s/it,steps: 28%|██████████████████████████████▌ | 150/540 [24:19<1:03:15, 9.73s/it,steps: 28%|██████████████████████████████▊ | 151/540 [24:31<1:03:10, 9.74s/it,steps: 28%|██████████████████████████████▊ | 151/540 [24:31<1:03:10, 9.74s/it,steps: 28%|██████████████████████████████▉ | 152/540 [24:42<1:03:04, 9.75s/it,steps: 28%|██████████████████████████████▉ | 152/540 [24:42<1:03:04, 9.75s/it,steps: 28%|███████████████████████████████▏ | 153/540 [24:54<1:02:59, 9.77s/it,steps: 28%|███████████████████████████████▏ | 153/540 [24:54<1:02:59, 9.77s/it,steps: 29%|███████████████████████████████▎ | 154/540 [25:05<1:02:53, 9.78s/it,steps: 29%|███████████████████████████████▎ | 154/540 [25:05<1:02:53, 9.78s/it,steps: 29%|███████████████████████████████▌ | 155/540 [25:16<1:02:47, 9.79s/it,steps: 29%|███████████████████████████████▌ | 155/540 [25:16<1:02:47, 9.79s/it,steps: 29%|███████████████████████████████▊ | 156/540 [25:28<1:02:42, 9.80s/it,steps: 29%|███████████████████████████████▊ | 156/540 [25:28<1:02:42, 9.80s/it,steps: 29%|███████████████████████████████▉ | 157/540 [25:38<1:02:33, 9.80s/it,steps: 29%|███████████████████████████████▉ | 157/540 [25:38<1:02:33, 9.80s/it,steps: 29%|████████████████████████████████▏ | 158/540 [25:43<1:02:12, 9.77s/it,steps: 29%|████████████████████████████████▍ | 158/540 [25:43<1:02:12, 9.77s/itsteps: 29%|████████████████████████████████▋ | 159/540 [25:55<1:02:06, 9.78s/itsteps: 29%|████████████████████████████████▍ | 159/540 [25:55<1:02:06, 9.78s/it,steps: 30%|████████████████████████████████▌ | 160/540 [25:55<1:01:35, 9.72s/it,steps: 30%|████████████████████████████████▌ | 160/540 [25:55<1:01:35, 9.72s/it,steps: 30%|████████████████████████████████▊ | 161/540 [26:07<1:01:29, 9.73s/it,steps: 30%|████████████████████████████████▊ | 161/540 [26:07<1:01:29, 9.73s/it,steps: 30%|█████████████████████████████████ | 162/540 [26:18<1:01:23, 9.75s/it,steps: 30%|█████████████████████████████████▎ | 162/540 [26:18<1:01:23, 9.75s/it, avr_loss=0.12]2024-07-16 15:01:24 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000009.safetensors train_util.py:4694
wandb: WARNING (User provided step: 9 is less than current step: 162. Dropping entry: {'loss/epoch': 0.12002807193332249, '_timestamp': 1721113284.88461}).
epoch 10/30
steps: 30%|█████████████████████████████████▌ | 163/540 [26:30<1:01:18, 9.76s/itsteps: 30%|█████████████████████████████████▏ | 163/540 [26:30<1:01:18, 9.76s/it,steps: 30%|█████████████████████████████████▍ | 164/540 [26:41<1:01:12, 9.77s/it,steps: 30%|█████████████████████████████████▍ | 164/540 [26:41<1:01:12, 9.77s/it,steps: 31%|█████████████████████████████████▌ | 165/540 [26:53<1:01:06, 9.78s/it,steps: 31%|█████████████████████████████████▌ | 165/540 [26:53<1:01:06, 9.78s/it,steps: 31%|█████████████████████████████████▊ | 166/540 [26:58<1:00:46, 9.75s/it,steps: 31%|█████████████████████████████████▊ | 166/540 [26:58<1:00:46, 9.75s/it,steps: 31%|██████████████████████████████████ | 167/540 [27:09<1:00:40, 9.76s/it,steps: 31%|██████████████████████████████████ | 167/540 [27:09<1:00:40, 9.76s/it,steps: 31%|██████████████████████████████████▏ | 168/540 [27:21<1:00:34, 9.77s/it,steps: 31%|██████████████████████████████████▏ | 168/540 [27:21<1:00:34, 9.77s/it,steps: 31%|██████████████████████████████████▍ | 169/540 [27:32<1:00:28, 9.78s/it,steps: 31%|██████████████████████████████████▍ | 169/540 [27:32<1:00:28, 9.78s/it,steps: 31%|██████████████████████████████████▋ | 170/540 [27:43<1:00:20, 9.78s/it,steps: 31%|██████████████████████████████████▋ | 170/540 [27:43<1:00:20, 9.78s/it,steps: 32%|██████████████████████████████████▊ | 171/540 [27:54<1:00:14, 9.79s/it,steps: 32%|██████████████████████████████████▊ | 171/540 [27:54<1:00:14, 9.79s/it,steps: 32%|███████████████████████████████████ | 172/540 [28:05<1:00:07, 9.80s/it,steps: 32%|███████████████████████████████████▎ | 172/540 [28:05<1:00:07, 9.80s/itsteps: 32%|████████████████████████████████████▏ | 173/540 [28:06<59:37, 9.75s/itsteps: 32%|███████████████████████████████████▉ | 173/540 [28:06<59:37, 9.75s/it,steps: 32%|████████████████████████████████████ | 174/540 [28:17<59:31, 9.76s/it,steps: 32%|████████████████████████████████████ | 174/540 [28:17<59:31, 9.76s/it,steps: 32%|████████████████████████████████████▎ | 175/540 [28:21<59:08, 9.72s/it,steps: 32%|████████████████████████████████████▎ | 175/540 [28:21<59:08, 9.72s/it,steps: 33%|████████████████████████████████████▌ | 176/540 [28:26<58:49, 9.70s/it,steps: 33%|████████████████████████████████████▌ | 176/540 [28:26<58:49, 9.70s/it,steps: 33%|████████████████████████████████████▋ | 177/540 [28:37<58:43, 9.71s/it,steps: 33%|████████████████████████████████████▋ | 177/540 [28:37<58:43, 9.71s/it,steps: 33%|████████████████████████████████████▉ | 178/540 [28:49<58:37, 9.72s/it,steps: 33%|████████████████████████████████████▉ | 178/540 [28:49<58:37, 9.72s/it,steps: 33%|█████████████████████████████████████▏ | 179/540 [29:00<58:30, 9.73s/it,steps: 33%|█████████████████████████████████████▏ | 179/540 [29:00<58:30, 9.73s/it,steps: 33%|█████████████████████████████████████▎ | 180/540 [29:06<58:13, 9.70s/it,steps: 33%|█████████████████████████████████████▎ | 180/540 [29:06<58:13, 9.70s/it, avr_loss=0.123]2024-07-16 15:04:13 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000010.safetensors train_util.py:4694
wandb: WARNING (User provided step: 10 is less than current step: 180. Dropping entry: {'loss/epoch': 0.12288845289084646, '_timestamp': 1721113453.062439}).
epoch 11/30
steps: 34%|█████████████████████████████████████▌ | 181/540 [29:31<58:33, 9.79s/it,steps: 34%|█████████████████████████████████████▌ | 181/540 [29:31<58:33, 9.79s/it,steps: 34%|█████████████████████████████████████▋ | 182/540 [29:42<58:26, 9.79s/it,steps: 34%|█████████████████████████████████████▋ | 182/540 [29:42<58:26, 9.79s/it,steps: 34%|█████████████████████████████████████▉ | 183/540 [29:46<58:04, 9.76s/it,steps: 34%|█████████████████████████████████████▉ | 183/540 [29:46<58:04, 9.76s/it,steps: 34%|██████████████████████████████████████▏ | 184/540 [29:57<57:57, 9.77s/it,steps: 34%|██████████████████████████████████████▏ | 184/540 [29:57<57:58, 9.77s/it,steps: 34%|██████████████████████████████████████▎ | 185/540 [30:09<57:51, 9.78s/it,steps: 34%|██████████████████████████████████████▎ | 185/540 [30:09<57:51, 9.78s/it,steps: 34%|██████████████████████████████████████▌ | 186/540 [30:20<57:44, 9.79s/it,steps: 34%|██████████████████████████████████████▌ | 186/540 [30:20<57:44, 9.79s/it,steps: 35%|██████████████████████████████████████▊ | 187/540 [30:21<57:18, 9.74s/it,steps: 35%|██████████████████████████████████████▊ | 187/540 [30:21<57:18, 9.74s/it,steps: 35%|██████████████████████████████████████▉ | 188/540 [30:33<57:12, 9.75s/it,steps: 35%|██████████████████████████████████████▉ | 188/540 [30:33<57:12, 9.75s/it,steps: 35%|███████████████████████████████████████▏ | 189/540 [30:43<57:03, 9.75s/it,steps: 35%|███████████████████████████████████████▏ | 189/540 [30:43<57:03, 9.75s/it,steps: 35%|███████████████████████████████████████▍ | 190/540 [30:44<56:38, 9.71s/it,steps: 35%|███████████████████████████████████████▍ | 190/540 [30:44<56:38, 9.71s/it,steps: 35%|███████████████████████████████████████▌ | 191/540 [30:56<56:31, 9.72s/it,steps: 35%|███████████████████████████████████████▌ | 191/540 [30:56<56:31, 9.72s/it,steps: 36%|███████████████████████████████████████▊ | 192/540 [31:07<56:25, 9.73s/it,steps: 36%|███████████████████████████████████████▊ | 192/540 [31:07<56:25, 9.73s/it, avr_loss=0.129]
steps: 36%|████████████████████████████████████████ | 193/540 [31:19<56:18, 9.74s/it,steps: 36%|████████████████████████████████████████ | 193/540 [31:19<56:18, 9.74s/it,steps: 36%|████████████████████████████████████████▏ | 194/540 [31:30<56:11, 9.75s/it,steps: 36%|████████████████████████████████████████▌ | 194/540 [31:30<56:11, 9.75s/itsteps: 36%|████████████████████████████████████████▊ | 195/540 [31:42<56:05, 9.75s/itsteps: 36%|████████████████████████████████████████▍ | 195/540 [31:42<56:05, 9.75s/it,steps: 36%|████████████████████████████████████████▋ | 196/540 [31:42<55:39, 9.71s/it,steps: 36%|████████████████████████████████████████▋ | 196/540 [31:42<55:39, 9.71s/it,steps: 36%|████████████████████████████████████████▊ | 197/540 [31:46<55:18, 9.68s/it,steps: 36%|████████████████████████████████████████▊ | 197/540 [31:46<55:18, 9.68s/it,steps: 37%|█████████████████████████████████████████ | 198/540 [31:57<55:12, 9.68s/it,steps: 37%|█████████████████████████████████████████▍ | 198/540 [31:57<55:12, 9.68s/it, avr_loss=0.13]2024-07-16 15:07:03 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000011.safetensors train_util.py:4694
epoch 12/30
wandb: WARNING (User provided step: 11 is less than current step: 198. Dropping entry: {'loss/epoch': 0.1302021476957533, '_timestamp': 1721113623.696793}).
steps: 37%|█████████████████████████████████████████▋ | 199/540 [32:20<55:25, 9.75s/itsteps: 37%|█████████████████████████████████████████▋ | 199/540 [32:20<55:25, 9.75s/itsteps: 37%|█████████████████████████████████████████▊ | 200/540 [32:21<55:01, 9.71s/itsteps: 37%|█████████████████████████████████████████▍ | 200/540 [32:21<55:01, 9.71s/it,steps: 37%|█████████████████████████████████████████▋ | 201/540 [32:25<54:40, 9.68s/it,steps: 37%|█████████████████████████████████████████▋ | 201/540 [32:25<54:40, 9.68s/it,steps: 37%|█████████████████████████████████████████▉ | 202/540 [32:36<54:34, 9.69s/it,steps: 37%|██████████████████████████████████████████▎ | 202/540 [32:36<54:34, 9.69s/itsteps: 38%|██████████████████████████████████████████▍ | 203/540 [32:48<54:27, 9.70s/itsteps: 38%|██████████████████████████████████████████▍ | 203/540 [32:48<54:27, 9.70s/itsteps: 38%|██████████████████████████████████████████▋ | 204/540 [32:58<54:19, 9.70s/itsteps: 38%|██████████████████████████████████████████▋ | 204/540 [32:58<54:19, 9.70s/itsteps: 38%|██████████████████████████████████████████▉ | 205/540 [33:04<54:03, 9.68s/itsteps: 38%|██████████████████████████████████████████▌ | 205/540 [33:04<54:03, 9.68s/it,steps: 38%|██████████████████████████████████████████▋ | 206/540 [33:05<53:38, 9.64s/it,steps: 38%|██████████████████████████████████████████▋ | 206/540 [33:05<53:38, 9.64s/it,steps: 38%|██████████████████████████████████████████▉ | 207/540 [33:16<53:32, 9.65s/it,steps: 38%|██████████████████████████████████████████▉ | 207/540 [33:16<53:32, 9.65s/it,steps: 39%|███████████████████████████████████████████▏ | 208/540 [33:28<53:25, 9.65s/it,steps: 39%|███████████████████████████████████████████▏ | 208/540 [33:28<53:25, 9.65s/it,steps: 39%|███████████████████████████████████████████▎ | 209/540 [33:39<53:18, 9.66s/it,steps: 39%|███████████████████████████████████████████▎ | 209/540 [33:39<53:18, 9.66s/it,steps: 39%|███████████████████████████████████████████▌ | 210/540 [33:40<52:55, 9.62s/it,steps: 39%|███████████████████████████████████████████▌ | 210/540 [33:40<52:55, 9.62s/it,steps: 39%|███████████████████████████████████████████▊ | 211/540 [33:52<52:48, 9.63s/it,steps: 39%|███████████████████████████████████████████▊ | 211/540 [33:52<52:48, 9.63s/it,steps: 39%|███████████████████████████████████████████▉ | 212/540 [34:03<52:41, 9.64s/it,steps: 39%|███████████████████████████████████████████▉ | 212/540 [34:03<52:41, 9.64s/it,steps: 39%|████████████████████████████████████████████▏ | 213/540 [34:04<52:18, 9.60s/it,steps: 39%|████████████████████████████████████████████▏ | 213/540 [34:04<52:18, 9.60s/it,steps: 40%|████████████████████████████████████████████▍ | 214/540 [34:15<52:11, 9.61s/it,steps: 40%|████████████████████████████████████████████▍ | 214/540 [34:15<52:11, 9.61s/it,steps: 40%|████████████████████████████████████████████▌ | 215/540 [34:27<52:04, 9.61s/it,steps: 40%|████████████████████████████████████████████▌ | 215/540 [34:27<52:04, 9.61s/it,steps: 40%|████████████████████████████████████████████▊ | 216/540 [34:30<51:46, 9.59s/it,steps: 40%|████████████████████████████████████████████▊ | 216/540 [34:30<51:46, 9.59s/it, avr_loss=0.111]2024-07-16 15:09:36 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000012.safetensors train_util.py:4694
wandb: WARNING (User provided step: 12 is less than current step: 216. Dropping entry: {'loss/epoch': 0.11072513955231342, '_timestamp': 1721113776.9099343}).
epoch 13/30
steps: 40%|█████████████████████████████████████████████ | 217/540 [34:56<52:00, 9.66s/it,steps: 40%|█████████████████████████████████████████████ | 217/540 [34:56<52:00, 9.66s/it,steps: 40%|█████████████████████████████████████████████▏ | 218/540 [35:07<51:53, 9.67s/it,steps: 40%|█████████████████████████████████████████████▏ | 218/540 [35:07<51:53, 9.67s/it,steps: 41%|█████████████████████████████████████████████▍ | 219/540 [35:19<51:46, 9.68s/it,steps: 41%|█████████████████████████████████████████████▍ | 219/540 [35:19<51:46, 9.68s/it,steps: 41%|█████████████████████████████████████████████▋ | 220/540 [35:30<51:39, 9.69s/it,steps: 41%|█████████████████████████████████████████████▋ | 220/540 [35:30<51:39, 9.69s/it,steps: 41%|█████████████████████████████████████████████▊ | 221/540 [35:42<51:32, 9.69s/it,steps: 41%|█████████████████████████████████████████████▊ | 221/540 [35:42<51:32, 9.69s/it,steps: 41%|██████████████████████████████████████████████ | 222/540 [35:48<51:17, 9.68s/it,steps: 41%|██████████████████████████████████████████████ | 222/540 [35:48<51:17, 9.68s/it,steps: 41%|██████████████████████████████████████████████▎ | 223/540 [36:00<51:10, 9.69s/it,steps: 41%|██████████████████████████████████████████████▎ | 223/540 [36:00<51:10, 9.69s/it,steps: 41%|██████████████████████████████████████████████▍ | 224/540 [36:01<50:48, 9.65s/it,steps: 41%|██████████████████████████████████████████████▍ | 224/540 [36:01<50:48, 9.65s/it,steps: 42%|██████████████████████████████████████████████▋ | 225/540 [36:07<50:34, 9.63s/it,steps: 42%|██████████████████████████████████████████████▋ | 225/540 [36:07<50:34, 9.63s/it,steps: 42%|██████████████████████████████████████████████▊ | 226/540 [36:18<50:27, 9.64s/it,steps: 42%|██████████████████████████████████████████████▊ | 226/540 [36:18<50:27, 9.64s/it,steps: 42%|███████████████████████████████████████████████ | 227/540 [36:30<50:20, 9.65s/it,steps: 42%|███████████████████████████████████████████████ | 227/540 [36:30<50:20, 9.65s/it,steps: 42%|███████████████████████████████████████████████▎ | 228/540 [36:46<50:19, 9.68s/it,steps: 42%|███████████████████████████████████████████████▎ | 228/540 [36:46<50:19, 9.68s/it,steps: 42%|███████████████████████████████████████████████▍ | 229/540 [36:47<49:57, 9.64s/it,steps: 42%|███████████████████████████████████████████████▍ | 229/540 [36:47<49:57, 9.64s/it,steps: 43%|███████████████████████████████████████████████▋ | 230/540 [36:58<49:50, 9.65s/it,steps: 43%|███████████████████████████████████████████████▋ | 230/540 [36:58<49:50, 9.65s/it,steps: 43%|███████████████████████████████████████████████▉ | 231/540 [37:10<49:43, 9.66s/it,steps: 43%|███████████████████████████████████████████████▉ | 231/540 [37:10<49:43, 9.66s/it,steps: 43%|████████████████████████████████████████████████ | 232/540 [37:21<49:36, 9.66s/it,steps: 43%|████████████████████████████████████████████████ | 232/540 [37:21<49:36, 9.66s/it,steps: 43%|████████████████████████████████████████████████▎ | 233/540 [37:33<49:28, 9.67s/it,steps: 43%|████████████████████████████████████████████████▎ | 233/540 [37:33<49:28, 9.67s/it,steps: 43%|████████████████████████████████████████████████▌ | 234/540 [37:44<49:21, 9.68s/it,steps: 43%|████████████████████████████████████████████████▌ | 234/540 [37:44<49:21, 9.68s/it, avr_loss=0.134]2024-07-16 15:12:50 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000013.safetensors train_util.py:4694
wandb: WARNING (User provided step: 13 is less than current step: 234. Dropping entry: {'loss/epoch': 0.13372551649808884, '_timestamp': 1721113970.8481674}).
epoch 14/30
steps: 44%|████████████████████████████████████████████████▋ | 235/540 [38:07<49:28, 9.73s/it,steps: 44%|████████████████████████████████████████████████▋ | 235/540 [38:07<49:28, 9.73s/it,steps: 44%|████████████████████████████████████████████████▉ | 236/540 [38:10<49:10, 9.71s/it,steps: 44%|█████████████████████████████████████████████████▍ | 236/540 [38:10<49:10, 9.71s/itsteps: 44%|█████████████████████████████████████████████████▌ | 237/540 [38:22<49:03, 9.71s/itsteps: 44%|█████████████████████████████████████████████████▏ | 237/540 [38:22<49:03, 9.71s/it,steps: 44%|█████████████████████████████████████████████████▎ | 238/540 [38:22<48:41, 9.67s/it,steps: 44%|█████████████████████████████████████████████████▎ | 238/540 [38:22<48:41, 9.67s/it,steps: 44%|█████████████████████████████████████████████████▌ | 239/540 [38:27<48:26, 9.66s/it,steps: 44%|█████████████████████████████████████████████████▌ | 239/540 [38:27<48:26, 9.66s/it,steps: 44%|█████████████████████████████████████████████████▊ | 240/540 [38:39<48:18, 9.66s/it,steps: 44%|█████████████████████████████████████████████████▊ | 240/540 [38:39<48:18, 9.66s/it,steps: 45%|█████████████████████████████████████████████████▉ | 241/540 [38:40<47:58, 9.63s/it,steps: 45%|█████████████████████████████████████████████████▉ | 241/540 [38:40<47:58, 9.63s/it,steps: 45%|██████████████████████████████████████████████████▏ | 242/540 [38:54<47:54, 9.64s/it,steps: 45%|██████████████████████████████████████████████████▋ | 242/540 [38:54<47:54, 9.64s/itsteps: 45%|██████████████████████████████████████████████████▊ | 243/540 [38:54<47:33, 9.61s/itsteps: 45%|██████████████████████████████████████████████████▍ | 243/540 [38:54<47:33, 9.61s/it,steps: 45%|██████████████████████████████████████████████████▌ | 244/540 [39:06<47:26, 9.61s/it,steps: 45%|██████████████████████████████████████████████████▌ | 244/540 [39:06<47:26, 9.61s/it,steps: 45%|██████████████████████████████████████████████████▊ | 245/540 [39:17<47:18, 9.62s/it,steps: 45%|██████████████████████████████████████████████████▊ | 245/540 [39:17<47:18, 9.62s/it,steps: 46%|███████████████████████████████████████████████████ | 246/540 [39:23<47:05, 9.61s/it,steps: 46%|███████████████████████████████████████████████████ | 246/540 [39:23<47:05, 9.61s/it,steps: 46%|███████████████████████████████████████████████████▏ | 247/540 [39:39<47:02, 9.63s/it,steps: 46%|███████████████████████████████████████████████████▏ | 247/540 [39:39<47:02, 9.63s/it,steps: 46%|███████████████████████████████████████████████████▍ | 248/540 [39:50<46:54, 9.64s/it,steps: 46%|███████████████████████████████████████████████████▍ | 248/540 [39:50<46:54, 9.64s/it,steps: 46%|███████████████████████████████████████████████████▋ | 249/540 [39:51<46:35, 9.60s/it,steps: 46%|████████████████████████████████████████████████████ | 249/540 [39:51<46:35, 9.60s/itsteps: 46%|████████████████████████████████████████████████████▎ | 250/540 [39:55<46:18, 9.58s/itsteps: 46%|███████████████████████████████████████████████████▊ | 250/540 [39:55<46:18, 9.58s/it,steps: 46%|████████████████████████████████████████████████████ | 251/540 [40:06<46:10, 9.59s/it,steps: 46%|████████████████████████████████████████████████████ | 251/540 [40:06<46:10, 9.59s/it,steps: 47%|████████████████████████████████████████████████████▎ | 252/540 [40:18<46:03, 9.60s/it,steps: 47%|████████████████████████████████████████████████████▎ | 252/540 [40:18<46:03, 9.60s/it, avr_loss=0.121]2024-07-16 15:15:24 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000014.safetensors train_util.py:4694
epoch 15/30
wandb: WARNING (User provided step: 14 is less than current step: 252. Dropping entry: {'loss/epoch': 0.12068895467867453, '_timestamp': 1721114124.2302127}).
steps: 47%|████████████████████████████████████████████████████▍ | 253/540 [40:43<46:12, 9.66s/it,steps: 47%|████████████████████████████████████████████████████▍ | 253/540 [40:43<46:12, 9.66s/it,steps: 47%|████████████████████████████████████████████████████▋ | 254/540 [40:55<46:04, 9.67s/it,steps: 47%|████████████████████████████████████████████████████▋ | 254/540 [40:55<46:04, 9.67s/it,steps: 47%|████████████████████████████████████████████████████▉ | 255/540 [41:06<45:56, 9.67s/it,steps: 47%|████████████████████████████████████████████████████▉ | 255/540 [41:06<45:56, 9.67s/it,steps: 47%|█████████████████████████████████████████████████████ | 256/540 [41:12<45:43, 9.66s/it,steps: 47%|█████████████████████████████████████████████████████▌ | 256/540 [41:12<45:43, 9.66s/itsteps: 48%|█████████████████████████████████████████████████████▊ | 257/540 [41:24<45:35, 9.67s/itsteps: 48%|█████████████████████████████████████████████████████▎ | 257/540 [41:24<45:35, 9.67s/it,steps: 48%|█████████████████████████████████████████████████████▌ | 258/540 [41:38<45:31, 9.69s/it,steps: 48%|█████████████████████████████████████████████████████▌ | 258/540 [41:38<45:31, 9.69s/it,steps: 48%|█████████████████████████████████████████████████████▋ | 259/540 [41:42<45:14, 9.66s/it,steps: 48%|█████████████████████████████████████████████████████▋ | 259/540 [41:42<45:14, 9.66s/it,steps: 48%|█████████████████████████████████████████████████████▉ | 260/540 [41:54<45:07, 9.67s/it,steps: 48%|█████████████████████████████████████████████████████▉ | 260/540 [41:54<45:07, 9.67s/it,steps: 48%|██████████████████████████████████████████████████████▏ | 261/540 [42:02<44:56, 9.66s/it,steps: 48%|██████████████████████████████████████████████████████▏ | 261/540 [42:02<44:56, 9.66s/it,steps: 49%|██████████████████████████████████████████████████████▎ | 262/540 [42:03<44:37, 9.63s/it,steps: 49%|██████████████████████████████████████████████████████▎ | 262/540 [42:03<44:37, 9.63s/it,steps: 49%|██████████████████████████████████████████████████████▌ | 263/540 [42:15<44:30, 9.64s/it,steps: 49%|██████████████████████████████████████████████████████▌ | 263/540 [42:15<44:30, 9.64s/it,steps: 49%|██████████████████████████████████████████████████████▊ | 264/540 [42:26<44:22, 9.65s/it,steps: 49%|██████████████████████████████████████████████████████▊ | 264/540 [42:26<44:22, 9.65s/it,steps: 49%|██████████████████████████████████████████████████████▉ | 265/540 [42:38<44:14, 9.65s/it,steps: 49%|██████████████████████████████████████████████████████▉ | 265/540 [42:38<44:14, 9.65s/it,steps: 49%|███████████████████████████████████████████████████████▏ | 266/540 [42:49<44:06, 9.66s/it,steps: 49%|███████████████████████████████████████████████████████▏ | 266/540 [42:49<44:06, 9.66s/it,steps: 49%|███████████████████████████████████████████████████████▍ | 267/540 [42:49<43:47, 9.63s/it,steps: 49%|███████████████████████████████████████████████████████▍ | 267/540 [42:49<43:47, 9.63s/it,steps: 50%|███████████████████████████████████████████████████████▌ | 268/540 [43:04<43:43, 9.64s/it,steps: 50%|███████████████████████████████████████████████████████▌ | 268/540 [43:04<43:43, 9.64s/it,steps: 50%|███████████████████████████████████████████████████████▊ | 269/540 [43:15<43:35, 9.65s/it,steps: 50%|███████████████████████████████████████████████████████▊ | 269/540 [43:15<43:35, 9.65s/it,steps: 50%|████████████████████████████████████████████████████████ | 270/540 [43:27<43:27, 9.66s/it,steps: 50%|████████████████████████████████████████████████████████ | 270/540 [43:27<43:27, 9.66s/it, avr_loss=0.125]2024-07-16 15:18:33 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000015.safetensors train_util.py:4694
epoch 16/30
wandb: WARNING (User provided step: 15 is less than current step: 270. Dropping entry: {'loss/epoch': 0.1250519272353914, '_timestamp': 1721114313.5644646}).
steps: 50%|████████████████████████████████████████████████████████▏ | 271/540 [43:44<43:24, 9.68s/it,steps: 50%|████████████████████████████████████████████████████████▏ | 271/540 [43:44<43:24, 9.68s/it,steps: 50%|████████████████████████████████████████████████████████▍ | 272/540 [43:55<43:16, 9.69s/it,steps: 50%|████████████████████████████████████████████████████████▍ | 272/540 [43:55<43:16, 9.69s/it,steps: 51%|████████████████████████████████████████████████████████▌ | 273/540 [44:10<43:11, 9.71s/it,steps: 51%|████████████████████████████████████████████████████████▌ | 273/540 [44:10<43:11, 9.71s/it,steps: 51%|████████████████████████████████████████████████████████▊ | 274/540 [44:10<42:53, 9.67s/it,steps: 51%|████████████████████████████████████████████████████████▊ | 274/540 [44:10<42:53, 9.67s/it,steps: 51%|█████████████████████████████████████████████████████████ | 275/540 [44:21<42:45, 9.68s/it,steps: 51%|█████████████████████████████████████████████████████████▌ | 275/540 [44:21<42:45, 9.68s/itsteps: 51%|█████████████████████████████████████████████████████████▊ | 276/540 [44:33<42:37, 9.69s/itsteps: 51%|█████████████████████████████████████████████████████████▏ | 276/540 [44:33<42:37, 9.69s/it,steps: 51%|█████████████████████████████████████████████████████████▍ | 277/540 [44:44<42:29, 9.69s/it,steps: 51%|█████████████████████████████████████████████████████████▍ | 277/540 [44:44<42:29, 9.69s/it,steps: 51%|█████████████████████████████████████████████████████████▋ | 278/540 [44:56<42:21, 9.70s/it,steps: 51%|██████████████████████████████████████████████████████████▏ | 278/540 [44:56<42:21, 9.70s/itsteps: 52%|██████████████████████████████████████████████████████████▍ | 279/540 [45:10<42:15, 9.72s/itsteps: 52%|█████████████████████████████████████████████████████████▊ | 279/540 [45:10<42:15, 9.72s/it,steps: 52%|██████████████████████████████████████████████████████████ | 280/540 [45:14<42:00, 9.69s/it,steps: 52%|██████████████████████████████████████████████████████████▌ | 280/540 [45:14<42:00, 9.69s/it, avr_loss=0.12]
steps: 52%|██████████████████████████████████████████████████████████▊ | 281/540 [45:25<41:52, 9.70s/itsteps: 52%|██████████████████████████████████████████████████████████▎ | 281/540 [45:25<41:52, 9.70s/it,steps: 52%|██████████████████████████████████████████████████████████▍ | 282/540 [45:37<41:44, 9.71s/it,steps: 52%|███████████████████████████████████████████████████████████ | 282/540 [45:37<41:44, 9.71s/itsteps: 52%|███████████████████████████████████████████████████████████▏ | 283/540 [45:48<41:36, 9.71s/itsteps: 52%|██████████████████████████████████████████████████████████▋ | 283/540 [45:48<41:36, 9.71s/it,steps: 53%|██████████████████████████████████████████████████████████▉ | 284/540 [45:59<41:27, 9.72s/it,steps: 53%|██████████████████████████████████████████████████████████▉ | 284/540 [45:59<41:27, 9.72s/it,steps: 53%|███████████████████████████████████████████████████████████ | 285/540 [46:13<41:21, 9.73s/it,steps: 53%|███████████████████████████████████████████████████████████ | 285/540 [46:13<41:21, 9.73s/it,steps: 53%|███████████████████████████████████████████████████████████▎ | 286/540 [46:25<41:13, 9.74s/it,steps: 53%|███████████████████████████████████████████████████████████▊ | 286/540 [46:25<41:13, 9.74s/itsteps: 53%|████████████████████████████████████████████████████████████ | 287/540 [46:36<41:05, 9.74s/itsteps: 53%|████████████████████████████████████████████████████████████ | 287/540 [46:36<41:05, 9.74s/itsteps: 53%|████████████████████████████████████████████████████████████▎ | 288/540 [46:41<40:51, 9.73s/itsteps: 53%|███████████████████████████████████████████████████████████▋ | 288/540 [46:41<40:51, 9.73s/it, avr_loss=0.118]2024-07-16 15:21:47 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000016.safetensors train_util.py:4694
epoch 17/30
wandb: WARNING (User provided step: 16 is less than current step: 288. Dropping entry: {'loss/epoch': 0.11847153761320645, '_timestamp': 1721114507.8051367}).
steps: 54%|███████████████████████████████████████████████████████████▉ | 289/540 [47:03<40:52, 9.77s/it,steps: 54%|███████████████████████████████████████████████████████████▉ | 289/540 [47:03<40:52, 9.77s/it,steps: 54%|████████████████████████████████████████████████████████████▏ | 290/540 [47:08<40:38, 9.75s/it,steps: 54%|████████████████████████████████████████████████████████████▋ | 290/540 [47:08<40:38, 9.75s/itsteps: 54%|████████████████████████████████████████████████████████████▉ | 291/540 [47:23<40:32, 9.77s/itsteps: 54%|████████████████████████████████████████████████████████████▎ | 291/540 [47:23<40:32, 9.77s/it,steps: 54%|████████████████████████████████████████████████████████████▌ | 292/540 [47:34<40:24, 9.78s/it,steps: 54%|████████████████████████████████████████████████████████████▌ | 292/540 [47:34<40:24, 9.78s/it,steps: 54%|████████████████████████████████████████████████████████████▊ | 293/540 [47:46<40:16, 9.78s/it,steps: 54%|████████████████████████████████████████████████████████████▊ | 293/540 [47:46<40:16, 9.78s/it,steps: 54%|████████████████████████████████████████████████████████████▉ | 294/540 [47:57<40:07, 9.79s/it,steps: 54%|█████████████████████████████████████████████████████████████▌ | 294/540 [47:57<40:07, 9.79s/itsteps: 55%|█████████████████████████████████████████████████████████████▋ | 295/540 [48:03<39:54, 9.78s/itsteps: 55%|█████████████████████████████████████████████████████████████▏ | 295/540 [48:03<39:54, 9.78s/it,steps: 55%|█████████████████████████████████████████████████████████████▍ | 296/540 [48:16<39:47, 9.78s/it,steps: 55%|█████████████████████████████████████████████████████████████▍ | 296/540 [48:16<39:47, 9.78s/it,steps: 55%|█████████████████████████████████████████████████████████████▌ | 297/540 [48:21<39:34, 9.77s/it,steps: 55%|█████████████████████████████████████████████████████████████▌ | 297/540 [48:21<39:34, 9.77s/it,steps: 55%|█████████████████████████████████████████████████████████████▊ | 298/540 [48:33<39:25, 9.78s/it,steps: 55%|█████████████████████████████████████████████████████████████▊ | 298/540 [48:33<39:25, 9.78s/it,steps: 55%|██████████████████████████████████████████████████████████████ | 299/540 [48:39<39:12, 9.76s/it,steps: 55%|██████████████████████████████████████████████████████████████ | 299/540 [48:39<39:12, 9.76s/it,steps: 56%|██████████████████████████████████████████████████████████████▏ | 300/540 [48:50<39:04, 9.77s/it,steps: 56%|██████████████████████████████████████████████████████████████▏ | 300/540 [48:50<39:04, 9.77s/it,steps: 56%|██████████████████████████████████████████████████████████████▍ | 301/540 [49:02<38:56, 9.77s/it,steps: 56%|██████████████████████████████████████████████████████████████▍ | 301/540 [49:02<38:56, 9.77s/it,steps: 56%|██████████████████████████████████████████████████████████████▋ | 302/540 [49:14<38:48, 9.78s/it,steps: 56%|███████████████████████████████████████████████████████████████▏ | 302/540 [49:14<38:48, 9.78s/itsteps: 56%|███████████████████████████████████████████████████████████████▍ | 303/540 [49:28<38:41, 9.80s/itsteps: 56%|██████████████████████████████████████████████████████████████▊ | 303/540 [49:28<38:41, 9.80s/it,steps: 56%|███████████████████████████████████████████████████████████████ | 304/540 [49:28<38:24, 9.77s/it,steps: 56%|███████████████████████████████████████████████████████████████ | 304/540 [49:28<38:24, 9.77s/it,steps: 56%|███████████████████████████████████████████████████████████████▎ | 305/540 [49:40<38:16, 9.77s/it,steps: 56%|███████████████████████████████████████████████████████████████▎ | 305/540 [49:40<38:16, 9.77s/it,steps: 57%|███████████████████████████████████████████████████████████████▍ | 306/540 [49:51<38:07, 9.78s/it,steps: 57%|███████████████████████████████████████████████████████████████▍ | 306/540 [49:51<38:07, 9.78s/it, avr_loss=0.135]2024-07-16 15:24:57 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000017.safetensors train_util.py:4694
wandb: WARNING (User provided step: 17 is less than current step: 306. Dropping entry: {'loss/epoch': 0.13526882231235504, '_timestamp': 1721114697.666938}).
epoch 18/30
steps: 57%|███████████████████████████████████████████████████████████████▋ | 307/540 [50:13<38:07, 9.82s/it,steps: 57%|███████████████████████████████████████████████████████████████▋ | 307/540 [50:13<38:07, 9.82s/it,steps: 57%|███████████████████████████████████████████████████████████████▉ | 308/540 [50:17<37:52, 9.80s/it,steps: 57%|███████████████████████████████████████████████████████████████▉ | 308/540 [50:17<37:52, 9.80s/it,steps: 57%|████████████████████████████████████████████████████████████████ | 309/540 [50:31<37:46, 9.81s/it,steps: 57%|████████████████████████████████████████████████████████████████ | 309/540 [50:31<37:46, 9.81s/it,steps: 57%|████████████████████████████████████████████████████████████████▎ | 310/540 [50:43<37:37, 9.82s/it,steps: 57%|████████████████████████████████████████████████████████████████▎ | 310/540 [50:43<37:37, 9.82s/it,steps: 58%|████████████████████████████████████████████████████████████████▌ | 311/540 [50:43<37:21, 9.79s/it,steps: 58%|████████████████████████████████████████████████████████████████▌ | 311/540 [50:43<37:21, 9.79s/it,steps: 58%|████████████████████████████████████████████████████████████████▋ | 312/540 [50:55<37:12, 9.79s/it,steps: 58%|█████████████████████████████████████████████████████████████████▎ | 312/540 [50:55<37:12, 9.79s/itsteps: 58%|█████████████████████████████████████████████████████████████████▍ | 313/540 [51:01<37:00, 9.78s/itsteps: 58%|████████████████████████████████████████████████████████████████▉ | 313/540 [51:01<37:00, 9.78s/it,steps: 58%|█████████████████████████████████████████████████████████████████▏ | 314/540 [51:12<36:51, 9.78s/it,steps: 58%|█████████████████████████████████████████████████████████████████▏ | 314/540 [51:12<36:51, 9.78s/it,steps: 58%|█████████████████████████████████████████████████████████████████▎ | 315/540 [51:26<36:44, 9.80s/it,steps: 58%|█████████████████████████████████████████████████████████████████▎ | 315/540 [51:26<36:44, 9.80s/it,steps: 59%|█████████████████████████████████████████████████████████████████▌ | 316/540 [51:38<36:36, 9.81s/it,steps: 59%|█████████████████████████████████████████████████████████████████▌ | 316/540 [51:38<36:36, 9.81s/it,steps: 59%|█████████████████████████████████████████████████████████████████▋ | 317/540 [51:41<36:22, 9.79s/it,steps: 59%|█████████████████████████████████████████████████████████████████▋ | 317/540 [51:41<36:22, 9.79s/it,steps: 59%|█████████████████████████████████████████████████████████████████▉ | 318/540 [51:53<36:13, 9.79s/it,steps: 59%|██████████████████████████████████████████████████████████████████▌ | 318/540 [51:53<36:13, 9.79s/itsteps: 59%|██████████████████████████████████████████████████████████████████▊ | 319/540 [51:53<35:57, 9.76s/itsteps: 59%|██████████████████████████████████████████████████████████████████▏ | 319/540 [51:53<35:57, 9.76s/it,steps: 59%|██████████████████████████████████████████████████████████████████▎ | 320/540 [52:05<35:48, 9.77s/it,steps: 59%|██████████████████████████████████████████████████████████████████▎ | 320/540 [52:05<35:48, 9.77s/it,steps: 59%|██████████████████████████████████████████████████████████████████▌ | 321/540 [52:17<35:40, 9.77s/it,steps: 59%|██████████████████████████████████████████████████████████████████▌ | 321/540 [52:17<35:40, 9.77s/it,steps: 60%|██████████████████████████████████████████████████████████████████▊ | 322/540 [52:31<35:33, 9.79s/it,steps: 60%|██████████████████████████████████████████████████████████████████▊ | 322/540 [52:31<35:33, 9.79s/it,steps: 60%|██████████████████████████████████████████████████████████████████▉ | 323/540 [52:36<35:20, 9.77s/it,steps: 60%|██████████████████████████████████████████████████████████████████▉ | 323/540 [52:36<35:20, 9.77s/it,steps: 60%|███████████████████████████████████████████████████████████████████▏ | 324/540 [52:48<35:12, 9.78s/it,steps: 60%|███████████████████████████████████████████████████████████████████▏ | 324/540 [52:48<35:12, 9.78s/it, avr_loss=0.122]2024-07-16 15:27:54 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000018.safetensors train_util.py:4694
epoch 19/30
wandb: WARNING (User provided step: 18 is less than current step: 324. Dropping entry: {'loss/epoch': 0.12214724310777253, '_timestamp': 1721114874.3176756}).
steps: 60%|███████████████████████████████████████████████████████████████████▍ | 325/540 [53:05<35:07, 9.80s/it,steps: 60%|███████████████████████████████████████████████████████████████████▍ | 325/540 [53:05<35:07, 9.80s/it,steps: 60%|███████████████████████████████████████████████████████████████████▌ | 326/540 [53:16<34:58, 9.81s/it,steps: 60%|███████████████████████████████████████████████████████████████████▌ | 326/540 [53:16<34:58, 9.81s/it,steps: 61%|███████████████████████████████████████████████████████████████████▊ | 327/540 [53:20<34:44, 9.79s/it,steps: 61%|███████████████████████████████████████████████████████████████████▊ | 327/540 [53:20<34:44, 9.79s/it,steps: 61%|████████████████████████████████████████████████████████████████████ | 328/540 [53:31<34:35, 9.79s/it,steps: 61%|████████████████████████████████████████████████████████████████████ | 328/540 [53:31<34:35, 9.79s/it,steps: 61%|████████████████████████████████████████████████████████████████████▏ | 329/540 [53:43<34:27, 9.80s/it,steps: 61%|████████████████████████████████████████████████████████████████████▏ | 329/540 [53:43<34:27, 9.80s/it,steps: 61%|████████████████████████████████████████████████████████████████████▍ | 330/540 [53:54<34:18, 9.80s/it,steps: 61%|████████████████████████████████████████████████████████████████████▍ | 330/540 [53:54<34:18, 9.80s/it,steps: 61%|████████████████████████████████████████████████████████████████████▋ | 331/540 [53:55<34:03, 9.78s/it,steps: 61%|████████████████████████████████████████████████████████████████████▋ | 331/540 [53:55<34:03, 9.78s/it,steps: 61%|████████████████████████████████████████████████████████████████████▊ | 332/540 [54:07<33:54, 9.78s/it,steps: 61%|████████████████████████████████████████████████████████████████████▊ | 332/540 [54:07<33:54, 9.78s/it,steps: 62%|█████████████████████████████████████████████████████████████████████ | 333/540 [54:18<33:45, 9.79s/it,steps: 62%|█████████████████████████████████████████████████████████████████████▋ | 333/540 [54:18<33:45, 9.79s/itsteps: 62%|█████████████████████████████████████████████████████████████████████▉ | 334/540 [54:19<33:30, 9.76s/itsteps: 62%|█████████████████████████████████████████████████████████████████████▎ | 334/540 [54:19<33:30, 9.76s/it,steps: 62%|█████████████████████████████████████████████████████████████████████▍ | 335/540 [54:30<33:21, 9.76s/it,steps: 62%|█████████████████████████████████████████████████████████████████████▍ | 335/540 [54:30<33:21, 9.76s/it,steps: 62%|█████████████████████████████████████████████████████████████████████▋ | 336/540 [54:41<33:12, 9.77s/it,steps: 62%|█████████████████████████████████████████████████████████████████████▋ | 336/540 [54:41<33:12, 9.77s/it,steps: 62%|█████████████████████████████████████████████████████████████████████▉ | 337/540 [54:53<33:03, 9.77s/it,steps: 62%|█████████████████████████████████████████████████████████████████████▉ | 337/540 [54:53<33:03, 9.77s/it,steps: 63%|██████████████████████████████████████████████████████████████████████ | 338/540 [55:04<32:54, 9.78s/it,steps: 63%|██████████████████████████████████████████████████████████████████████ | 338/540 [55:04<32:54, 9.78s/it,steps: 63%|██████████████████████████████████████████████████████████████████████▎ | 339/540 [55:15<32:46, 9.78s/it,steps: 63%|██████████████████████████████████████████████████████████████████████▎ | 339/540 [55:15<32:46, 9.78s/it,steps: 63%|██████████████████████████████████████████████████████████████████████▌ | 340/540 [55:21<32:34, 9.77s/it,steps: 63%|██████████████████████████████████████████████████████████████████████▌ | 340/540 [55:21<32:34, 9.77s/it,steps: 63%|██████████████████████████████████████████████████████████████████████▋ | 341/540 [55:33<32:25, 9.78s/it,steps: 63%|██████████████████████████████████████████████████████████████████████▋ | 341/540 [55:33<32:25, 9.78s/it,steps: 63%|██████████████████████████████████████████████████████████████████████▉ | 342/540 [55:38<32:12, 9.76s/it,steps: 63%|██████████████████████████████████████████████████████████████████████▉ | 342/540 [55:38<32:12, 9.76s/it, avr_loss=0.127]2024-07-16 15:30:44 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000019.safetensors train_util.py:4694
epoch 20/30
wandb: WARNING (User provided step: 19 is less than current step: 342. Dropping entry: {'loss/epoch': 0.1267235465347767, '_timestamp': 1721115044.4832666}).
steps: 64%|███████████████████████████████████████████████████████████████████████▏ | 343/540 [55:52<32:05, 9.77s/it,steps: 64%|███████████████████████████████████████████████████████████████████████▏ | 343/540 [55:52<32:05, 9.77s/it,steps: 64%|███████████████████████████████████████████████████████████████████████▎ | 344/540 [56:04<31:56, 9.78s/it,steps: 64%|███████████████████████████████████████████████████████████████████████▎ | 344/540 [56:04<31:56, 9.78s/it,steps: 64%|███████████████████████████████████████████████████████████████████████▌ | 345/540 [56:10<31:44, 9.77s/it,steps: 64%|███████████████████████████████████████████████████████████████████████▌ | 345/540 [56:10<31:44, 9.77s/it,steps: 64%|███████████████████████████████████████████████████████████████████████▊ | 346/540 [56:11<31:30, 9.74s/it,steps: 64%|███████████████████████████████████████████████████████████████████████▊ | 346/540 [56:11<31:30, 9.74s/it,steps: 64%|███████████████████████████████████████████████████████████████████████▉ | 347/540 [56:11<31:15, 9.72s/it,steps: 64%|███████████████████████████████████████████████████████████████████████▉ | 347/540 [56:11<31:15, 9.72s/it,steps: 64%|████████████████████████████████████████████████████████████████████████▏ | 348/540 [56:23<31:06, 9.72s/it,steps: 64%|████████████████████████████████████████████████████████████████████████▏ | 348/540 [56:23<31:06, 9.72s/it,steps: 65%|████████████████████████████████████████████████████████████████████████▍ | 349/540 [56:33<30:57, 9.72s/it,steps: 65%|████████████████████████████████████████████████████████████████████████▍ | 349/540 [56:33<30:57, 9.72s/it,steps: 65%|████████████████████████████████████████████████████████████████████████▌ | 350/540 [56:45<30:48, 9.73s/it,steps: 65%|████████████████████████████████████████████████████████████████████████▌ | 350/540 [56:45<30:48, 9.73s/it,steps: 65%|████████████████████████████████████████████████████████████████████████▊ | 351/540 [56:56<30:39, 9.73s/it,steps: 65%|████████████████████████████████████████████████████████████████████████▊ | 351/540 [56:56<30:39, 9.73s/it,steps: 65%|█████████████████████████████████████████████████████████████████████████ | 352/540 [57:08<30:30, 9.74s/it,steps: 65%|█████████████████████████████████████████████████████████████████████████ | 352/540 [57:08<30:30, 9.74s/it,steps: 65%|█████████████████████████████████████████████████████████████████████████▏ | 353/540 [57:09<30:16, 9.71s/it,steps: 65%|█████████████████████████████████████████████████████████████████████████▏ | 353/540 [57:09<30:16, 9.71s/it,steps: 66%|█████████████████████████████████████████████████████████████████████████▍ | 354/540 [57:20<30:07, 9.72s/it,steps: 66%|█████████████████████████████████████████████████████████████████████████▍ | 354/540 [57:20<30:07, 9.72s/it,steps: 66%|█████████████████████████████████████████████████████████████████████████▋ | 355/540 [57:32<29:59, 9.72s/it,steps: 66%|█████████████████████████████████████████████████████████████████████████▋ | 355/540 [57:32<29:59, 9.72s/it,steps: 66%|█████████████████████████████████████████████████████████████████████████▊ | 356/540 [57:43<29:50, 9.73s/it,steps: 66%|█████████████████████████████████████████████████████████████████████████▊ | 356/540 [57:43<29:50, 9.73s/it,steps: 66%|██████████████████████████████████████████████████████████████████████████ | 357/540 [57:55<29:41, 9.73s/it,steps: 66%|██████████████████████████████████████████████████████████████████████████ | 357/540 [57:55<29:41, 9.73s/it,steps: 66%|██████████████████████████████████████████████████████████████████████████▎ | 358/540 [58:05<29:32, 9.74s/it,steps: 66%|██████████████████████████████████████████████████████████████████████████▎ | 358/540 [58:05<29:32, 9.74s/it,steps: 66%|██████████████████████████████████████████████████████████████████████████▍ | 359/540 [58:17<29:23, 9.74s/it,steps: 66%|██████████████████████████████████████████████████████████████████████████▍ | 359/540 [58:17<29:23, 9.74s/it,steps: 67%|██████████████████████████████████████████████████████████████████████████▋ | 360/540 [58:23<29:11, 9.73s/it,steps: 67%|██████████████████████████████████████████████████████████████████████████▋ | 360/540 [58:23<29:11, 9.73s/it, avr_loss=0.123]2024-07-16 15:33:29 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000020.safetensors train_util.py:4694
wandb: WARNING (User provided step: 20 is less than current step: 360. Dropping entry: {'loss/epoch': 0.12326934395564927, '_timestamp': 1721115209.2404}).
epoch 21/30
steps: 67%|██████████████████████████████████████████████████████████████████████████▊ | 361/540 [58:45<29:08, 9.77s/it,steps: 67%|██████████████████████████████████████████████████████████████████████████▊ | 361/540 [58:45<29:08, 9.77s/it,steps: 67%|███████████████████████████████████████████████████████████████████████████ | 362/540 [58:56<28:59, 9.77s/it,steps: 67%|███████████████████████████████████████████████████████████████████████████ | 362/540 [58:56<28:59, 9.77s/it,steps: 67%|███████████████████████████████████████████████████████████████████████████▎ | 363/540 [58:57<28:44, 9.74s/it,steps: 67%|███████████████████████████████████████████████████████████████████████████▎ | 363/540 [58:57<28:44, 9.74s/it,steps: 67%|███████████████████████████████████████████████████████████████████████████▍ | 364/540 [59:08<28:35, 9.75s/it,steps: 67%|████████████████████████████████████████████████████████████████████████████▏ | 364/540 [59:08<28:35, 9.75s/itsteps: 68%|████████████████████████████████████████████████████████████████████████████▍ | 365/540 [59:20<28:27, 9.75s/itsteps: 68%|███████████████████████████████████████████████████████████████████████████▋ | 365/540 [59:20<28:27, 9.75s/it,steps: 68%|███████████████████████████████████████████████████████████████████████████▉ | 366/540 [59:31<28:18, 9.76s/it,steps: 68%|███████████████████████████████████████████████████████████████████████████▉ | 366/540 [59:31<28:18, 9.76s/it,steps: 68%|████████████████████████████████████████████████████████████████████████████ | 367/540 [59:43<28:09, 9.76s/it,steps: 68%|████████████████████████████████████████████████████████████████████████████ | 367/540 [59:43<28:09, 9.76s/it,steps: 68%|████████████████████████████████████████████████████████████████████████████▎ | 368/540 [59:49<27:57, 9.75s/it,steps: 68%|████████████████████████████████████████████████████████████████████████████▎ | 368/540 [59:49<27:57, 9.75s/it,steps: 68%|███████████████████████████████████████████████████████████████████████████▏ | 369/540 [1:00:00<27:48, 9.76s/it,steps: 68%|███████████████████████████████████████████████████████████████████████████▏ | 369/540 [1:00:00<27:48, 9.76s/it,steps: 69%|███████████████████████████████████████████████████████████████████████████▎ | 370/540 [1:00:12<27:39, 9.76s/it,steps: 69%|███████████████████████████████████████████████████████████████████████████▎ | 370/540 [1:00:12<27:39, 9.76s/it,steps: 69%|███████████████████████████████████████████████████████████████████████████▌ | 371/540 [1:00:23<27:30, 9.77s/it,steps: 69%|███████████████████████████████████████████████████████████████████████████▌ | 371/540 [1:00:23<27:30, 9.77s/it,steps: 69%|███████████████████████████████████████████████████████████████████████████▊ | 372/540 [1:00:34<27:21, 9.77s/it,steps: 69%|███████████████████████████████████████████████████████████████████████████▊ | 372/540 [1:00:34<27:21, 9.77s/it,steps: 69%|███████████████████████████████████████████████████████████████████████████▉ | 373/540 [1:00:45<27:12, 9.77s/it,steps: 69%|███████████████████████████████████████████████████████████████████████████▉ | 373/540 [1:00:45<27:12, 9.77s/it,steps: 69%|████████████████████████████████████████████████████████████████████████████▏ | 374/540 [1:00:57<27:03, 9.78s/it,steps: 69%|████████████████████████████████████████████████████████████████████████████▏ | 374/540 [1:00:57<27:03, 9.78s/it,steps: 69%|████████████████████████████████████████████████████████████████████████████▍ | 375/540 [1:00:58<26:49, 9.76s/it,steps: 69%|████████████████████████████████████████████████████████████████████████████▍ | 375/540 [1:00:58<26:49, 9.76s/it,steps: 70%|████████████████████████████████████████████████████████████████████████████▌ | 376/540 [1:01:04<26:38, 9.75s/it,steps: 70%|█████████████████████████████████████████████████████████████████████████████▎ | 376/540 [1:01:04<26:38, 9.75s/itsteps: 70%|█████████████████████████████████████████████████████████████████████████████▍ | 377/540 [1:01:15<26:29, 9.75s/itsteps: 70%|████████████████████████████████████████████████████████████████████████████▊ | 377/540 [1:01:15<26:29, 9.75s/it,steps: 70%|█████████████████████████████████████████████████████████████████████████████ | 378/540 [1:01:26<26:20, 9.75s/it,steps: 70%|█████████████████████████████████████████████████████████████████████████████ | 378/540 [1:01:26<26:20, 9.75s/it, avr_loss=0.127]2024-07-16 15:36:33 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000021.safetensors train_util.py:4694
wandb: WARNING (User provided step: 21 is less than current step: 378. Dropping entry: {'loss/epoch': 0.12739020213484764, '_timestamp': 1721115393.078909}).
epoch 22/30
steps: 70%|█████████████████████████████████████████████████████████████████████████████▏ | 379/540 [1:01:42<26:12, 9.77s/it,steps: 70%|█████████████████████████████████████████████████████████████████████████████▉ | 379/540 [1:01:42<26:12, 9.77s/itsteps: 70%|██████████████████████████████████████████████████████████████████████████████ | 380/540 [1:01:43<25:59, 9.75s/itsteps: 70%|█████████████████████████████████████████████████████████████████████████████▍ | 380/540 [1:01:43<25:59, 9.75s/it,steps: 71%|█████████████████████████████████████████████████████████████████████████████▌ | 381/540 [1:01:46<25:46, 9.73s/it,steps: 71%|█████████████████████████████████████████████████████████████████████████████▌ | 381/540 [1:01:46<25:46, 9.73s/it,steps: 71%|█████████████████████████████████████████████████████████████████████████████▊ | 382/540 [1:01:52<25:35, 9.72s/it,steps: 71%|█████████████████████████████████████████████████████████████████████████████▊ | 382/540 [1:01:52<25:35, 9.72s/it,steps: 71%|██████████████████████████████████████████████████████████████████████████████ | 383/540 [1:02:04<25:26, 9.72s/it,steps: 71%|██████████████████████████████████████████████████████████████████████████████ | 383/540 [1:02:04<25:26, 9.72s/it,steps: 71%|██████████████████████████████████████████████████████████████████████████████▏ | 384/540 [1:02:15<25:17, 9.73s/it,steps: 71%|██████████████████████████████████████████████████████████████████████████████▉ | 384/540 [1:02:15<25:17, 9.73s/itsteps: 71%|███████████████████████████████████████████████████████████████████████████████▏ | 385/540 [1:02:27<25:08, 9.73s/itsteps: 71%|██████████████████████████████████████████████████████████████████████████████▍ | 385/540 [1:02:27<25:08, 9.73s/it,steps: 71%|██████████████████████████████████████████████████████████████████████████████▋ | 386/540 [1:02:38<24:59, 9.74s/it,steps: 71%|██████████████████████████████████████████████████████████████████████████████▋ | 386/540 [1:02:38<24:59, 9.74s/it,steps: 72%|██████████████████████████████████████████████████████████████████████████████▊ | 387/540 [1:02:50<24:50, 9.74s/it,steps: 72%|███████████████████████████████████████████████████████████████████████████████▌ | 387/540 [1:02:50<24:50, 9.74s/it, avr_loss=0.12]
steps: 72%|███████████████████████████████████████████████████████████████████████████████▊ | 388/540 [1:03:00<24:41, 9.74s/itsteps: 72%|███████████████████████████████████████████████████████████████████████████████ | 388/540 [1:03:00<24:41, 9.74s/it,steps: 72%|███████████████████████████████████████████████████████████████████████████████▏ | 389/540 [1:03:01<24:27, 9.72s/it,steps: 72%|███████████████████████████████████████████████████████████████████████████████▏ | 389/540 [1:03:01<24:27, 9.72s/it, avr_loss=0.117]
steps: 72%|███████████████████████████████████████████████████████████████████████████████▍ | 390/540 [1:03:13<24:18, 9.73s/it,steps: 72%|███████████████████████████████████████████████████████████████████████████████▍ | 390/540 [1:03:13<24:18, 9.73s/it,steps: 72%|███████████████████████████████████████████████████████████████████████████████▋ | 391/540 [1:03:24<24:09, 9.73s/it,steps: 72%|███████████████████████████████████████████████████████████████████████████████▋ | 391/540 [1:03:24<24:09, 9.73s/it,steps: 73%|███████████████████████████████████████████████████████████████████████████████▊ | 392/540 [1:03:36<24:00, 9.73s/it,steps: 73%|███████████████████████████████████████████████████████████████████████████████▊ | 392/540 [1:03:36<24:00, 9.73s/it,steps: 73%|████████████████████████████████████████████████████████████████████████████████ | 393/540 [1:03:47<23:51, 9.74s/it,steps: 73%|████████████████████████████████████████████████████████████████████████████████ | 393/540 [1:03:47<23:51, 9.74s/it,steps: 73%|████████████████████████████████████████████████████████████████████████████████▎ | 394/540 [1:03:59<23:42, 9.74s/it,steps: 73%|████████████████████████████████████████████████████████████████████████████████▎ | 394/540 [1:03:59<23:42, 9.74s/it,steps: 73%|████████████████████████████████████████████████████████████████████████████████▍ | 395/540 [1:04:10<23:33, 9.75s/it,steps: 73%|████████████████████████████████████████████████████████████████████████████████▍ | 395/540 [1:04:10<23:33, 9.75s/it,steps: 73%|████████████████████████████████████████████████████████████████████████████████▋ | 396/540 [1:04:11<23:20, 9.72s/it,steps: 73%|████████████████████████████████████████████████████████████████████████████████▋ | 396/540 [1:04:11<23:20, 9.72s/it, avr_loss=0.118]2024-07-16 15:39:17 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000022.safetensors train_util.py:4694
epoch 23/30
wandb: WARNING (User provided step: 22 is less than current step: 396. Dropping entry: {'loss/epoch': 0.1184395808312628, '_timestamp': 1721115557.1722488}).
steps: 74%|████████████████████████████████████████████████████████████████████████████████▊ | 397/540 [1:04:33<23:15, 9.76s/it,steps: 74%|████████████████████████████████████████████████████████████████████████████████▊ | 397/540 [1:04:33<23:15, 9.76s/it,steps: 74%|█████████████████████████████████████████████████████████████████████████████████ | 398/540 [1:04:44<23:06, 9.76s/it,steps: 74%|█████████████████████████████████████████████████████████████████████████████████ | 398/540 [1:04:44<23:06, 9.76s/it,steps: 74%|█████████████████████████████████████████████████████████████████████████████████▎ | 399/540 [1:04:56<22:56, 9.76s/it,steps: 74%|█████████████████████████████████████████████████████████████████████████████████▎ | 399/540 [1:04:56<22:56, 9.76s/it,steps: 74%|█████████████████████████████████████████████████████████████████████████████████▍ | 400/540 [1:05:02<22:45, 9.76s/it,steps: 74%|█████████████████████████████████████████████████████████████████████████████████▍ | 400/540 [1:05:02<22:45, 9.76s/it,steps: 74%|█████████████████████████████████████████████████████████████████████████████████▋ | 401/540 [1:05:13<22:36, 9.76s/it,steps: 74%|█████████████████████████████████████████████████████████████████████████████████▋ | 401/540 [1:05:13<22:36, 9.76s/it,steps: 74%|█████████████████████████████████████████████████████████████████████████████████▉ | 402/540 [1:05:14<22:23, 9.74s/it,steps: 74%|█████████████████████████████████████████████████████████████████████████████████▉ | 402/540 [1:05:14<22:23, 9.74s/it,steps: 75%|██████████████████████████████████████████████████████████████████████████████████ | 403/540 [1:05:18<22:12, 9.72s/it,steps: 75%|██████████████████████████████████████████████████████████████████████████████████ | 403/540 [1:05:18<22:12, 9.72s/it,steps: 75%|██████████████████████████████████████████████████████████████████████████████████▎ | 404/540 [1:05:29<22:02, 9.73s/it,steps: 75%|██████████████████████████████████████████████████████████████████████████████████▎ | 404/540 [1:05:29<22:02, 9.73s/it,steps: 75%|██████████████████████████████████████████████████████████████████████████████████▌ | 405/540 [1:05:41<21:53, 9.73s/it,steps: 75%|██████████████████████████████████████████████████████████████████████████████████▌ | 405/540 [1:05:41<21:53, 9.73s/it,steps: 75%|██████████████████████████████████████████████████████████████████████████████████▋ | 406/540 [1:05:53<21:44, 9.74s/it,steps: 75%|██████████████████████████████████████████████████████████████████████████████████▋ | 406/540 [1:05:53<21:44, 9.74s/it,steps: 75%|██████████████████████████████████████████████████████████████████████████████████▉ | 407/540 [1:06:03<21:35, 9.74s/it,steps: 75%|██████████████████████████████████████████████████████████████████████████████████▉ | 407/540 [1:06:03<21:35, 9.74s/it,steps: 76%|███████████████████████████████████████████████████████████████████████████████████ | 408/540 [1:06:04<21:22, 9.72s/it,steps: 76%|███████████████████████████████████████████████████████████████████████████████████ | 408/540 [1:06:04<21:22, 9.72s/it,steps: 76%|███████████████████████████████████████████████████████████████████████████████████▎ | 409/540 [1:06:09<21:11, 9.71s/it,steps: 76%|███████████████████████████████████████████████████████████████████████████████████▎ | 409/540 [1:06:09<21:11, 9.71s/it,steps: 76%|███████████████████████████████████████████████████████████████████████████████████▌ | 410/540 [1:06:21<21:02, 9.71s/it,steps: 76%|███████████████████████████████████████████████████████████████████████████████████▌ | 410/540 [1:06:21<21:02, 9.71s/it,steps: 76%|███████████████████████████████████████████████████████████████████████████████████▋ | 411/540 [1:06:32<20:53, 9.71s/it,steps: 76%|███████████████████████████████████████████████████████████████████████████████████▋ | 411/540 [1:06:32<20:53, 9.71s/it,steps: 76%|███████████████████████████████████████████████████████████████████████████████████▉ | 412/540 [1:06:33<20:40, 9.69s/it,steps: 76%|███████████████████████████████████████████████████████████████████████████████████▉ | 412/540 [1:06:33<20:40, 9.69s/it,steps: 76%|████████████████████████████████████████████████████████████████████████████████████▏ | 413/540 [1:06:39<20:29, 9.68s/it,steps: 76%|████████████████████████████████████████████████████████████████████████████████████▏ | 413/540 [1:06:39<20:29, 9.68s/it,steps: 77%|████████████████████████████████████████████████████████████████████████████████████▎ | 414/540 [1:06:42<20:18, 9.67s/it,steps: 77%|████████████████████████████████████████████████████████████████████████████████████▎ | 414/540 [1:06:42<20:18, 9.67s/it, avr_loss=0.119]2024-07-16 15:41:48 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000023.safetensors train_util.py:4694
epoch 24/30
wandb: WARNING (User provided step: 23 is less than current step: 414. Dropping entry: {'loss/epoch': 0.11930466981397735, '_timestamp': 1721115708.9335093}).
steps: 77%|████████████████████████████████████████████████████████████████████████████████████▌ | 415/540 [1:07:04<20:12, 9.70s/it,steps: 77%|████████████████████████████████████████████████████████████████████████████████████▌ | 415/540 [1:07:04<20:12, 9.70s/it,steps: 77%|████████████████████████████████████████████████████████████████████████████████████▋ | 416/540 [1:07:16<20:03, 9.70s/it,steps: 77%|████████████████████████████████████████████████████████████████████████████████████▋ | 416/540 [1:07:16<20:03, 9.70s/it,steps: 77%|████████████████████████████████████████████████████████████████████████████████████▉ | 417/540 [1:07:27<19:53, 9.71s/it,steps: 77%|████████████████████████████████████████████████████████████████████████████████████▉ | 417/540 [1:07:27<19:53, 9.71s/it,steps: 77%|█████████████████████████████████████████████████████████████████████████████████████▏ | 418/540 [1:07:39<19:44, 9.71s/it,steps: 77%|█████████████████████████████████████████████████████████████████████████████████████▏ | 418/540 [1:07:39<19:44, 9.71s/it,steps: 78%|█████████████████████████████████████████████████████████████████████████████████████▎ | 419/540 [1:07:42<19:33, 9.70s/it,steps: 78%|█████████████████████████████████████████████████████████████████████████████████████▎ | 419/540 [1:07:42<19:33, 9.70s/it,steps: 78%|█████████████████████████████████████████████████████████████████████████████████████▌ | 420/540 [1:07:54<19:24, 9.70s/it,steps: 78%|██████████████████████████████████████████████████████████████████████████████████████▎ | 420/540 [1:07:54<19:24, 9.70s/itsteps: 78%|██████████████████████████████████████████████████████████████████████████████████████▌ | 421/540 [1:08:04<19:14, 9.70s/itsteps: 78%|█████████████████████████████████████████████████████████████████████████████████████▊ | 421/540 [1:08:04<19:14, 9.70s/it,steps: 78%|█████████████████████████████████████████████████████████████████████████████████████▉ | 422/540 [1:08:16<19:05, 9.71s/it,steps: 78%|█████████████████████████████████████████████████████████████████████████████████████▉ | 422/540 [1:08:16<19:05, 9.71s/it,steps: 78%|██████████████████████████████████████████████████████████████████████████████████████▏ | 423/540 [1:08:27<18:56, 9.71s/it,steps: 78%|██████████████████████████████████████████████████████████████████████████████████████▏ | 423/540 [1:08:27<18:56, 9.71s/it,steps: 79%|██████████████████████████████████████████████████████████████████████████████████████▎ | 424/540 [1:08:33<18:45, 9.70s/it,steps: 79%|███████████████████████████████████████████████████████████████████████████████████████▏ | 424/540 [1:08:33<18:45, 9.70s/itsteps: 79%|███████████████████████████████████████████████████████████████████████████████████████▎ | 425/540 [1:08:45<18:36, 9.71s/itsteps: 79%|███████████████████████████████████████████████████████████████████████████████████████▎ | 425/540 [1:08:45<18:36, 9.71s/itsteps: 79%|███████████████████████████████████████████████████████████████████████████████████████▌ | 426/540 [1:08:50<18:25, 9.70s/itsteps: 79%|██████████████████████████████████████████████████████████████████████████████████████▊ | 426/540 [1:08:50<18:25, 9.70s/it,steps: 79%|██████████████████████████████████████████████████████████████████████████████████████▉ | 427/540 [1:09:01<18:16, 9.70s/it,steps: 79%|██████████████████████████████████████████████████████████████████████████████████████▉ | 427/540 [1:09:01<18:16, 9.70s/it,steps: 79%|███████████████████████████████████████████████████████████████████████████████████████▏ | 428/540 [1:09:13<18:06, 9.70s/it,steps: 79%|███████████████████████████████████████████████████████████████████████████████████████▏ | 428/540 [1:09:13<18:06, 9.70s/it,steps: 79%|███████████████████████████████████████████████████████████████████████████████████████▍ | 429/540 [1:09:23<17:57, 9.71s/it,steps: 79%|███████████████████████████████████████████████████████████████████████████████████████▍ | 429/540 [1:09:23<17:57, 9.71s/it,steps: 80%|███████████████████████████████████████████████████████████████████████████████████████▌ | 430/540 [1:09:34<17:48, 9.71s/it,steps: 80%|███████████████████████████████████████████████████████████████████████████████████████▌ | 430/540 [1:09:34<17:48, 9.71s/it,steps: 80%|███████████████████████████████████████████████████████████████████████████████████████▊ | 431/540 [1:09:46<17:38, 9.71s/it,steps: 80%|███████████████████████████████████████████████████████████████████████████████████████▊ | 431/540 [1:09:46<17:38, 9.71s/it,steps: 80%|████████████████████████████████████████████████████████████████████████████████████████ | 432/540 [1:09:57<17:29, 9.72s/it,steps: 80%|████████████████████████████████████████████████████████████████████████████████████████▊ | 432/540 [1:09:57<17:29, 9.72s/it, avr_loss=0.13]2024-07-16 15:45:04 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000024.safetensors train_util.py:4694
wandb: WARNING (User provided step: 24 is less than current step: 432. Dropping entry: {'loss/epoch': 0.12968112942245272, '_timestamp': 1721115904.0621207}).
epoch 25/30
steps: 80%|█████████████████████████████████████████████████████████████████████████████████████████ | 433/540 [1:10:20<17:22, 9.75s/itsteps: 80%|█████████████████████████████████████████████████████████████████████████████████████████ | 433/540 [1:10:20<17:22, 9.75s/itsteps: 80%|█████████████████████████████████████████████████████████████████████████████████████████▏ | 434/540 [1:10:21<17:10, 9.73s/itsteps: 80%|████████████████████████████████████████████████████████████████████████████████████████▍ | 434/540 [1:10:21<17:10, 9.73s/it,steps: 81%|████████████████████████████████████████████████████████████████████████████████████████▌ | 435/540 [1:10:22<16:59, 9.71s/it,steps: 81%|████████████████████████████████████████████████████████████████████████████████████████▌ | 435/540 [1:10:22<16:59, 9.71s/it,steps: 81%|████████████████████████████████████████████████████████████████████████████████████████▊ | 436/540 [1:10:33<16:49, 9.71s/it,steps: 81%|████████████████████████████████████████████████████████████████████████████████████████▊ | 436/540 [1:10:33<16:49, 9.71s/it,steps: 81%|█████████████████████████████████████████████████████████████████████████████████████████ | 437/540 [1:10:44<16:40, 9.71s/it,steps: 81%|█████████████████████████████████████████████████████████████████████████████████████████ | 437/540 [1:10:44<16:40, 9.71s/it,steps: 81%|█████████████████████████████████████████████████████████████████████████████████████████▏ | 438/540 [1:10:49<16:29, 9.70s/it,steps: 81%|█████████████████████████████████████████████████████████████████████████████████████████▏ | 438/540 [1:10:49<16:29, 9.70s/it,steps: 81%|█████████████████████████████████████████████████████████████████████████████████████████▍ | 439/540 [1:11:00<16:20, 9.71s/it,steps: 81%|█████████████████████████████████████████████████████████████████████████████████████████▍ | 439/540 [1:11:00<16:20, 9.71s/it,steps: 81%|█████████████████████████████████████████████████████████████████████████████████████████▋ | 440/540 [1:11:12<16:10, 9.71s/it,steps: 81%|█████████████████████████████████████████████████████████████████████████████████████████▋ | 440/540 [1:11:12<16:10, 9.71s/it,steps: 82%|█████████████████████████████████████████████████████████████████████████████████████████▊ | 441/540 [1:11:23<16:01, 9.71s/it,steps: 82%|█████████████████████████████████████████████████████████████████████████████████████████▊ | 441/540 [1:11:23<16:01, 9.71s/it,steps: 82%|██████████████████████████████████████████████████████████████████████████████████████████ | 442/540 [1:11:34<15:52, 9.72s/it,steps: 82%|██████████████████████████████████████████████████████████████████████████████████████████ | 442/540 [1:11:34<15:52, 9.72s/it,steps: 82%|██████████████████████████████████████████████████████████████████████████████████████████▏ | 443/540 [1:11:46<15:42, 9.72s/it,steps: 82%|██████████████████████████████████████████████████████████████████████████████████████████▏ | 443/540 [1:11:46<15:42, 9.72s/it,steps: 82%|██████████████████████████████████████████████████████████████████████████████████████████▍ | 444/540 [1:11:52<15:32, 9.71s/it,steps: 82%|██████████████████████████████████████████████████████████████████████████████████████████▍ | 444/540 [1:11:52<15:32, 9.71s/it,steps: 82%|██████████████████████████████████████████████████████████████████████████████████████████▋ | 445/540 [1:12:03<15:23, 9.72s/it,steps: 82%|██████████████████████████████████████████████████████████████████████████████████████████▋ | 445/540 [1:12:03<15:23, 9.72s/it,steps: 83%|██████████████████████████████████████████████████████████████████████████████████████████▊ | 446/540 [1:12:15<15:13, 9.72s/it,steps: 83%|██████████████████████████████████████████████████████████████████████████████████████████▊ | 446/540 [1:12:15<15:13, 9.72s/it,steps: 83%|███████████████████████████████████████████████████████████████████████████████████████████ | 447/540 [1:12:16<15:02, 9.70s/it,steps: 83%|███████████████████████████████████████████████████████████████████████████████████████████ | 447/540 [1:12:16<15:02, 9.70s/it,steps: 83%|███████████████████████████████████████████████████████████████████████████████████████████▎ | 448/540 [1:12:27<14:52, 9.70s/it,steps: 83%|███████████████████████████████████████████████████████████████████████████████████████████▎ | 448/540 [1:12:27<14:52, 9.70s/it,steps: 83%|███████████████████████████████████████████████████████████████████████████████████████████▍ | 449/540 [1:12:39<14:43, 9.71s/it,steps: 83%|███████████████████████████████████████████████████████████████████████████████████████████▍ | 449/540 [1:12:39<14:43, 9.71s/it,steps: 83%|███████████████████████████████████████████████████████████████████████████████████████████▋ | 450/540 [1:12:49<14:33, 9.71s/it,steps: 83%|███████████████████████████████████████████████████████████████████████████████████████████▋ | 450/540 [1:12:49<14:33, 9.71s/it, avr_loss=0.117]2024-07-16 15:47:55 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000025.safetensors train_util.py:4694
wandb: WARNING (User provided step: 25 is less than current step: 450. Dropping entry: {'loss/epoch': 0.11663116535378827, '_timestamp': 1721116075.9305408}).
epoch 26/30
steps: 84%|███████████████████████████████████████████████████████████████████████████████████████████▊ | 451/540 [1:13:12<14:26, 9.74s/it,steps: 84%|███████████████████████████████████████████████████████████████████████████████████████████▊ | 451/540 [1:13:12<14:26, 9.74s/it,steps: 84%|████████████████████████████████████████████████████████████████████████████████████████████ | 452/540 [1:13:23<14:17, 9.74s/it,steps: 84%|████████████████████████████████████████████████████████████████████████████████████████████ | 452/540 [1:13:23<14:17, 9.74s/it,steps: 84%|████████████████████████████████████████████████████████████████████████████████████████████▎ | 453/540 [1:13:28<14:06, 9.73s/it,steps: 84%|████████████████████████████████████████████████████████████████████████████████████████████▎ | 453/540 [1:13:28<14:06, 9.73s/it,steps: 84%|████████████████████████████████████████████████████████████████████████████████████████████▍ | 454/540 [1:13:39<13:57, 9.74s/it,steps: 84%|████████████████████████████████████████████████████████████████████████████████████████████▍ | 454/540 [1:13:39<13:57, 9.74s/it,steps: 84%|████████████████████████████████████████████████████████████████████████████████████████████▋ | 455/540 [1:13:54<13:48, 9.75s/it,steps: 84%|████████████████████████████████████████████████████████████████████████████████████████████▋ | 455/540 [1:13:54<13:48, 9.75s/it,steps: 84%|████████████████████████████████████████████████████████████████████████████████████████████▉ | 456/540 [1:14:06<13:39, 9.75s/it,steps: 84%|████████████████████████████████████████████████████████████████████████████████████████████▉ | 456/540 [1:14:06<13:39, 9.75s/it,steps: 85%|█████████████████████████████████████████████████████████████████████████████████████████████ | 457/540 [1:14:16<13:29, 9.75s/it,steps: 85%|█████████████████████████████████████████████████████████████████████████████████████████████ | 457/540 [1:14:16<13:29, 9.75s/it,steps: 85%|█████████████████████████████████████████████████████████████████████████████████████████████▎ | 458/540 [1:14:22<13:18, 9.74s/it,steps: 85%|██████████████████████████████████████████████████████████████████████████████████████████████▏ | 458/540 [1:14:22<13:18, 9.74s/itsteps: 85%|██████████████████████████████████████████████████████████████████████████████████████████████▎ | 459/540 [1:14:34<13:09, 9.75s/itsteps: 85%|█████████████████████████████████████████████████████████████████████████████████████████████▌ | 459/540 [1:14:34<13:09, 9.75s/it,steps: 85%|█████████████████████████████████████████████████████████████████████████████████████████████▋ | 460/540 [1:14:45<13:00, 9.75s/it,steps: 85%|█████████████████████████████████████████████████████████████████████████████████████████████▋ | 460/540 [1:14:45<13:00, 9.75s/it,steps: 85%|█████████████████████████████████████████████████████████████████████████████████████████████▉ | 461/540 [1:15:00<12:51, 9.76s/it,steps: 85%|█████████████████████████████████████████████████████████████████████████████████████████████▉ | 461/540 [1:15:00<12:51, 9.76s/it,steps: 86%|██████████████████████████████████████████████████████████████████████████████████████████████ | 462/540 [1:15:11<12:41, 9.77s/it,steps: 86%|██████████████████████████████████████████████████████████████████████████████████████████████ | 462/540 [1:15:11<12:41, 9.77s/it,steps: 86%|██████████████████████████████████████████████████████████████████████████████████████████████▎ | 463/540 [1:15:23<12:32, 9.77s/it,steps: 86%|██████████████████████████████████████████████████████████████████████████████████████████████▎ | 463/540 [1:15:23<12:32, 9.77s/it,steps: 86%|██████████████████████████████████████████████████████████████████████████████████████████████▌ | 464/540 [1:15:29<12:21, 9.76s/it,steps: 86%|██████████████████████████████████████████████████████████████████████████████████████████████▌ | 464/540 [1:15:29<12:21, 9.76s/it,steps: 86%|██████████████████████████████████████████████████████████████████████████████████████████████▋ | 465/540 [1:15:40<12:12, 9.77s/it,steps: 86%|██████████████████████████████████████████████████████████████████████████████████████████████▋ | 465/540 [1:15:40<12:12, 9.77s/it,steps: 86%|██████████████████████████████████████████████████████████████████████████████████████████████▉ | 466/540 [1:15:52<12:02, 9.77s/it,steps: 86%|██████████████████████████████████████████████████████████████████████████████████████████████▉ | 466/540 [1:15:52<12:02, 9.77s/it,steps: 86%|███████████████████████████████████████████████████████████████████████████████████████████████▏ | 467/540 [1:15:58<11:52, 9.76s/it,steps: 86%|███████████████████████████████████████████████████████████████████████████████████████████████▏ | 467/540 [1:15:58<11:52, 9.76s/it,steps: 87%|███████████████████████████████████████████████████████████████████████████████████████████████▎ | 468/540 [1:16:00<11:41, 9.74s/it,steps: 87%|███████████████████████████████████████████████████████████████████████████████████████████████▎ | 468/540 [1:16:00<11:41, 9.74s/it, avr_loss=0.125]2024-07-16 15:51:06 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000026.safetensors train_util.py:4694
wandb: WARNING (User provided step: 26 is less than current step: 468. Dropping entry: {'loss/epoch': 0.12482067425217894, '_timestamp': 1721116266.5485158}).
epoch 27/30
steps: 87%|███████████████████████████████████████████████████████████████████████████████████████████████▌ | 469/540 [1:16:22<11:33, 9.77s/it,steps: 87%|███████████████████████████████████████████████████████████████████████████████████████████████▌ | 469/540 [1:16:22<11:33, 9.77s/it,steps: 87%|███████████████████████████████████████████████████████████████████████████████████████████████▋ | 470/540 [1:16:33<11:24, 9.77s/it,steps: 87%|███████████████████████████████████████████████████████████████████████████████████████████████▋ | 470/540 [1:16:33<11:24, 9.77s/it,steps: 87%|███████████████████████████████████████████████████████████████████████████████████████████████▉ | 471/540 [1:16:45<11:14, 9.78s/it,steps: 87%|███████████████████████████████████████████████████████████████████████████████████████████████▉ | 471/540 [1:16:45<11:14, 9.78s/it,steps: 87%|████████████████████████████████████████████████████████████████████████████████████████████████▏ | 472/540 [1:16:56<11:05, 9.78s/it,steps: 87%|████████████████████████████████████████████████████████████████████████████████████████████████▏ | 472/540 [1:16:56<11:05, 9.78s/it,steps: 88%|████████████████████████████████████████████████████████████████████████████████████████████████▎ | 473/540 [1:17:01<10:54, 9.77s/it,steps: 88%|████████████████████████████████████████████████████████████████████████████████████████████████▎ | 473/540 [1:17:01<10:54, 9.77s/it,steps: 88%|████████████████████████████████████████████████████████████████████████████████████████████████▌ | 474/540 [1:17:11<10:44, 9.77s/it,steps: 88%|████████████████████████████████████████████████████████████████████████████████████████████████▌ | 474/540 [1:17:11<10:44, 9.77s/it,steps: 88%|████████████████████████████████████████████████████████████████████████████████████████████████▊ | 475/540 [1:17:22<10:35, 9.77s/it,steps: 88%|████████████████████████████████████████████████████████████████████████████████████████████████▊ | 475/540 [1:17:22<10:35, 9.77s/it,steps: 88%|████████████████████████████████████████████████████████████████████████████████████████████████▉ | 476/540 [1:17:26<10:24, 9.76s/it,steps: 88%|████████████████████████████████████████████████████████████████████████████████████████████████▉ | 476/540 [1:17:26<10:24, 9.76s/it,steps: 88%|█████████████████████████████████████████████████████████████████████████████████████████████████▏ | 477/540 [1:17:29<10:14, 9.75s/it,steps: 88%|█████████████████████████████████████████████████████████████████████████████████████████████████▏ | 477/540 [1:17:29<10:14, 9.75s/it,steps: 89%|█████████████████████████████████████████████████████████████████████████████████████████████████▎ | 478/540 [1:17:41<10:04, 9.75s/it,steps: 89%|█████████████████████████████████████████████████████████████████████████████████████████████████▎ | 478/540 [1:17:41<10:04, 9.75s/it,steps: 89%|█████████████████████████████████████████████████████████████████████████████████████████████████▌ | 479/540 [1:17:46<09:54, 9.74s/it,steps: 89%|█████████████████████████████████████████████████████████████████████████████████████████████████▌ | 479/540 [1:17:46<09:54, 9.74s/it,steps: 89%|█████████████████████████████████████████████████████████████████████████████████████████████████▊ | 480/540 [1:17:57<09:44, 9.74s/it,steps: 89%|█████████████████████████████████████████████████████████████████████████████████████████████████▊ | 480/540 [1:17:57<09:44, 9.74s/it,steps: 89%|█████████████████████████████████████████████████████████████████████████████████████████████████▉ | 481/540 [1:18:03<09:34, 9.74s/it,steps: 89%|█████████████████████████████████████████████████████████████████████████████████████████████████▉ | 481/540 [1:18:03<09:34, 9.74s/it,steps: 89%|██████████████████████████████████████████████████████████████████████████████████████████████████▏ | 482/540 [1:18:18<09:25, 9.75s/it,steps: 89%|██████████████████████████████████████████████████████████████████████████████████████████████████▏ | 482/540 [1:18:18<09:25, 9.75s/it,steps: 89%|██████████████████████████████████████████████████████████████████████████████████████████████████▍ | 483/540 [1:18:29<09:15, 9.75s/it,steps: 89%|██████████████████████████████████████████████████████████████████████████████████████████████████▍ | 483/540 [1:18:29<09:15, 9.75s/it,steps: 90%|██████████████████████████████████████████████████████████████████████████████████████████████████▌ | 484/540 [1:18:41<09:06, 9.75s/it,steps: 90%|██████████████████████████████████████████████████████████████████████████████████████████████████▌ | 484/540 [1:18:41<09:06, 9.75s/it,steps: 90%|██████████████████████████████████████████████████████████████████████████████████████████████████▊ | 485/540 [1:18:52<08:56, 9.76s/it,steps: 90%|██████████████████████████████████████████████████████████████████████████████████████████████████▊ | 485/540 [1:18:52<08:56, 9.76s/it,steps: 90%|███████████████████████████████████████████████████████████████████████████████████████████████████ | 486/540 [1:19:04<08:47, 9.76s/it,steps: 90%|███████████████████████████████████████████████████████████████████████████████████████████████████▉ | 486/540 [1:19:04<08:47, 9.76s/it, avr_loss=0.12]2024-07-16 15:54:10 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000027.safetensors train_util.py:4694
epoch 28/30
wandb: WARNING (User provided step: 27 is less than current step: 486. Dropping entry: {'loss/epoch': 0.12048887088894844, '_timestamp': 1721116450.3035207}).
steps: 90%|████████████████████████████████████████████████████████████████████████████████████████████████████ | 487/540 [1:19:29<08:39, 9.79s/itsteps: 90%|███████████████████████████████████████████████████████████████████████████████████████████████████▏ | 487/540 [1:19:29<08:39, 9.79s/it,steps: 90%|███████████████████████████████████████████████████████████████████████████████████████████████████▍ | 488/540 [1:19:41<08:29, 9.80s/it,steps: 90%|███████████████████████████████████████████████████████████████████████████████████████████████████▍ | 488/540 [1:19:41<08:29, 9.80s/it,steps: 91%|███████████████████████████████████████████████████████████████████████████████████████████████████▌ | 489/540 [1:19:52<08:19, 9.80s/it,steps: 91%|███████████████████████████████████████████████████████████████████████████████████████████████████▌ | 489/540 [1:19:52<08:19, 9.80s/it,steps: 91%|███████████████████████████████████████████████████████████████████████████████████████████████████▊ | 490/540 [1:20:03<08:10, 9.80s/it,steps: 91%|███████████████████████████████████████████████████████████████████████████████████████████████████▊ | 490/540 [1:20:03<08:10, 9.80s/it,steps: 91%|████████████████████████████████████████████████████████████████████████████████████████████████████ | 491/540 [1:20:14<08:00, 9.81s/it,steps: 91%|████████████████████████████████████████████████████████████████████████████████████████████████████ | 491/540 [1:20:14<08:00, 9.81s/it,steps: 91%|████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 492/540 [1:20:26<07:50, 9.81s/it,steps: 91%|████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 492/540 [1:20:26<07:50, 9.81s/it,steps: 91%|████████████████████████████████████████████████████████████████████████████████████████████████████▍ | 493/540 [1:20:41<07:41, 9.82s/it,steps: 91%|████████████████████████████████████████████████████████████████████████████████████████████████████▍ | 493/540 [1:20:41<07:41, 9.82s/it,steps: 91%|████████████████████████████████████████████████████████████████████████████████████████████████████▋ | 494/540 [1:20:52<07:31, 9.82s/it,steps: 91%|████████████████████████████████████████████████████████████████████████████████████████████████████▋ | 494/540 [1:20:52<07:31, 9.82s/it,steps: 92%|████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 495/540 [1:21:03<07:22, 9.83s/it,steps: 92%|████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 495/540 [1:21:03<07:22, 9.83s/it,steps: 92%|█████████████████████████████████████████████████████████████████████████████████████████████████████ | 496/540 [1:21:15<07:12, 9.83s/it,steps: 92%|█████████████████████████████████████████████████████████████████████████████████████████████████████ | 496/540 [1:21:15<07:12, 9.83s/it,steps: 92%|█████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 497/540 [1:21:21<07:02, 9.82s/it,steps: 92%|█████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 497/540 [1:21:21<07:02, 9.82s/it,steps: 92%|█████████████████████████████████████████████████████████████████████████████████████████████████████▍ | 498/540 [1:21:26<06:52, 9.81s/it,steps: 92%|█████████████████████████████████████████████████████████████████████████████████████████████████████▍ | 498/540 [1:21:26<06:52, 9.81s/it,steps: 92%|█████████████████████████████████████████████████████████████████████████████████████████████████████▋ | 499/540 [1:21:39<06:42, 9.82s/it,steps: 92%|█████████████████████████████████████████████████████████████████████████████████████████████████████▋ | 499/540 [1:21:39<06:42, 9.82s/it,steps: 93%|█████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 500/540 [1:21:43<06:32, 9.81s/it,steps: 93%|██████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 500/540 [1:21:43<06:32, 9.81s/itsteps: 93%|██████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 501/540 [1:21:54<06:22, 9.81s/itsteps: 93%|██████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 501/540 [1:21:54<06:22, 9.81s/itsteps: 93%|███████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 502/540 [1:22:06<06:12, 9.81s/itsteps: 93%|██████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 502/540 [1:22:06<06:12, 9.81s/it,steps: 93%|██████████████████████████████████████████████████████████████████████████████████████████████████████▍ | 503/540 [1:22:17<06:03, 9.82s/it,steps: 93%|██████████████████████████████████████████████████████████████████████████████████████████████████████▍ | 503/540 [1:22:17<06:03, 9.82s/it,steps: 93%|██████████████████████████████████████████████████████████████████████████████████████████████████████▋ | 504/540 [1:22:29<05:53, 9.82s/it,steps: 93%|███████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 504/540 [1:22:29<05:53, 9.82s/it, avr_loss=0.13]2024-07-16 15:57:35 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000028.safetensors train_util.py:4694
wandb: WARNING (User provided step: 28 is less than current step: 504. Dropping entry: {'loss/epoch': 0.13022769739230475, '_timestamp': 1721116655.5575807}).
epoch 29/30
steps: 94%|███████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 505/540 [1:22:51<05:44, 9.85s/itsteps: 94%|██████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 505/540 [1:22:51<05:44, 9.85s/it,steps: 94%|███████████████████████████████████████████████████████████████████████████████████████████████████████ | 506/540 [1:23:03<05:34, 9.85s/it,steps: 94%|███████████████████████████████████████████████████████████████████████████████████████████████████████ | 506/540 [1:23:03<05:34, 9.85s/it,steps: 94%|███████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 507/540 [1:23:14<05:25, 9.85s/it,steps: 94%|███████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 507/540 [1:23:14<05:25, 9.85s/it,steps: 94%|███████████████████████████████████████████████████████████████████████████████████████████████████████▍ | 508/540 [1:23:18<05:14, 9.84s/it,steps: 94%|███████████████████████████████████████████████████████████████████████████████████████████████████████▍ | 508/540 [1:23:18<05:14, 9.84s/it,steps: 94%|███████████████████████████████████████████████████████████████████████████████████████████████████████▋ | 509/540 [1:23:24<05:04, 9.83s/it,steps: 94%|███████████████████████████████████████████████████████████████████████████████████████████████████████▋ | 509/540 [1:23:24<05:04, 9.83s/it,steps: 94%|███████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 510/540 [1:23:39<04:55, 9.84s/it,steps: 94%|███████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 510/540 [1:23:39<04:55, 9.84s/it,steps: 95%|████████████████████████████████████████████████████████████████████████████████████████████████████████ | 511/540 [1:23:44<04:45, 9.83s/it,steps: 95%|████████████████████████████████████████████████████████████████████████████████████████████████████████ | 511/540 [1:23:44<04:45, 9.83s/it,steps: 95%|████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 512/540 [1:23:55<04:35, 9.84s/it,steps: 95%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 512/540 [1:23:55<04:35, 9.84s/itsteps: 95%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▍ | 513/540 [1:24:07<04:25, 9.84s/itsteps: 95%|████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 513/540 [1:24:07<04:25, 9.84s/it,steps: 95%|████████████████████████████████████████████████████████████████████████████████████████████████████████▋ | 514/540 [1:24:18<04:15, 9.84s/it,steps: 95%|████████████████████████████████████████████████████████████████████████████████████████████████████████▋ | 514/540 [1:24:18<04:15, 9.84s/it,steps: 95%|████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 515/540 [1:24:22<04:05, 9.83s/it,steps: 95%|████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 515/540 [1:24:22<04:05, 9.83s/it,steps: 96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████ | 516/540 [1:24:22<03:55, 9.81s/it,steps: 96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████ | 516/540 [1:24:22<03:55, 9.81s/it,steps: 96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 517/540 [1:24:33<03:45, 9.81s/it,steps: 96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 517/540 [1:24:33<03:45, 9.81s/it,steps: 96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 518/540 [1:24:40<03:35, 9.81s/it,steps: 96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 518/540 [1:24:40<03:35, 9.81s/it,steps: 96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▋ | 519/540 [1:24:51<03:26, 9.81s/it,steps: 96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▋ | 519/540 [1:24:51<03:26, 9.81s/it,steps: 96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 520/540 [1:25:02<03:16, 9.81s/it,steps: 96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 520/540 [1:25:02<03:16, 9.81s/it,steps: 96%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 521/540 [1:25:14<03:06, 9.82s/it,steps: 96%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 521/540 [1:25:14<03:06, 9.82s/it,steps: 97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 522/540 [1:25:25<02:56, 9.82s/it,steps: 97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 522/540 [1:25:25<02:56, 9.82s/it, avr_loss=0.135]2024-07-16 16:00:32 INFO train_util.py:4693
INFO saving checkpoint: /root/dongman/dongman-000029.safetensors train_util.py:4694
epoch 30/30
wandb: WARNING (User provided step: 29 is less than current step: 522. Dropping entry: {'loss/epoch': 0.13523648637864324, '_timestamp': 1721116831.9849722}).
steps: 97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 523/540 [1:25:48<02:47, 9.84s/it,steps: 97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 523/540 [1:25:48<02:47, 9.84s/it,steps: 97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▋ | 524/540 [1:25:59<02:37, 9.85s/it,steps: 97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▋ | 524/540 [1:25:59<02:37, 9.85s/it,steps: 97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 525/540 [1:26:09<02:27, 9.85s/it,steps: 97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 525/540 [1:26:09<02:27, 9.85s/it,steps: 97%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 526/540 [1:26:21<02:17, 9.85s/it,steps: 97%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 526/540 [1:26:21<02:17, 9.85s/it,steps: 98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 527/540 [1:26:32<02:08, 9.85s/it,steps: 98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 527/540 [1:26:32<02:08, 9.85s/it,steps: 98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 528/540 [1:26:44<01:58, 9.86s/it,steps: 98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 528/540 [1:26:44<01:58, 9.86s/it,steps: 98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 529/540 [1:26:55<01:48, 9.86s/it,steps: 98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 529/540 [1:26:55<01:48, 9.86s/it,steps: 98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 530/540 [1:27:07<01:38, 9.86s/it,steps: 98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 530/540 [1:27:07<01:38, 9.86s/it,steps: 98%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 531/540 [1:27:18<01:28, 9.87s/it,steps: 98%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 531/540 [1:27:18<01:28, 9.87s/it,steps: 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 532/540 [1:27:28<01:18, 9.87s/it,steps: 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 532/540 [1:27:28<01:18, 9.87s/it,steps: 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 533/540 [1:27:32<01:08, 9.85s/it,steps: 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 533/540 [1:27:32<01:08, 9.85s/it,steps: 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 534/540 [1:27:33<00:59, 9.84s/it,steps: 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 534/540 [1:27:33<00:59, 9.84s/it,steps: 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 535/540 [1:27:45<00:49, 9.84s/it,steps: 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 535/540 [1:27:45<00:49, 9.84s/it,steps: 99%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▏| 536/540 [1:27:56<00:39, 9.84s/it,steps: 99%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▏| 536/540 [1:27:56<00:39, 9.84s/it,steps: 99%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▍| 537/540 [1:28:07<00:29, 9.85s/it,steps: 99%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▍| 537/540 [1:28:07<00:29, 9.85s/it,steps: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▌| 538/540 [1:28:19<00:19, 9.85s/it,steps: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▌| 538/540 [1:28:19<00:19, 9.85s/it,steps: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▊| 539/540 [1:28:30<00:09, 9.85s/it,steps: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▊| 539/540 [1:28:30<00:09, 9.85s/it,steps: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████| 540/540 [1:28:36<00:00, 9.85s/it,steps: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████| 540/540 [1:28:36<00:00, 9.85s/it,wandb:
wandb:
wandb: Run history:
wandb: loss ▅▃▃▁▂▃█▄▄▂▄▂▂▃▃▄▃▄▂▃▃▂▅▂▅▂▃▂▃▃▁▂▂▂▄▂▄▁▃▁
wandb: lr/text_encoder1 ███████▇▇▇▇▇▆▆▆▆▅▅▅▅▄▄▄▄▃▃▃▃▂▂▂▂▂▁▁▁▁▁▁▁
wandb: lr/unet ███████▇▇▇▇▇▆▆▆▆▅▅▅▅▄▄▄▄▃▃▃▃▂▂▂▂▂▁▁▁▁▁▁▁
wandb:
wandb: Run summary:
wandb: loss 0.11099
wandb: lr/text_encoder1 0.0
wandb: lr/unet 0.0
wandb:
wandb: 🚀 View run fluent-meadow-42 at: https://wandb.ai/renwu/GPU-%E4%BD%BF%E7%94%A8%E7%8E%87-%E6%B8%A9%E5%BA%A6%E6%A3%80%E6%B5%8B/runs/aynrisa1
wandb: ️⚡ View job at https://wandb.ai/renwu/GPU-%E4%BD%BF%E7%94%A8%E7%8E%87-%E6%B8%A9%E5%BA%A6%E6%A3%80%E6%B5%8B/jobs/QXJ0aWZhY3RDb2xsZWN0aW9uOjI3NTExODY0Mw==/version_details/v0
wandb: Synced 6 W&B file(s), 0 media file(s), 2 artifact file(s) and 0 other file(s)
wandb: Find logs at: ./logs/GPU-使用率-温度检测_perfix20240716142500/wandb/run-20240716_143506-aynrisa1/logs
wandb: WARNING (User provided step: 30 is less than current step: 540. Dropping entry: {'loss/epoch': 0.11476703153716193, '_timestamp': 1721117023.0890737}).
2024-07-16 16:04:05 INFO save trained model as StableDiffusion checkpoint to /root/dongman/dongman.safetensors train_util.py:4851
2024-07-16 16:04:16 INFO model saved. train_db.py:479
steps: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████| 540/540 [1:29:09<00:00, 9.91s/it, avr_loss=0.115]
16:04:23-707257 INFO Training finished / 训练完成