From fc0ab8879293f568dd595f06de8b7a61e6496cdf Mon Sep 17 00:00:00 2001 From: Himanshu Dutta <40473118+himanshu-dutta@users.noreply.github.com> Date: Sun, 23 May 2021 17:47:52 +0530 Subject: [PATCH] added training notebook --- docs/training_nb.ipynb | 5371 ++++++++++++++++++++++++++++++++++++++++ 1 file changed, 5371 insertions(+) create mode 100644 docs/training_nb.ipynb diff --git a/docs/training_nb.ipynb b/docs/training_nb.ipynb new file mode 100644 index 0000000..f0fd715 --- /dev/null +++ b/docs/training_nb.ipynb @@ -0,0 +1,5371 @@ +{ + "nbformat": 4, + "nbformat_minor": 0, + "metadata": { + "accelerator": "GPU", + "colab": { + "name": "pycoder_training_nb.ipynb", + "provenance": [], + "collapsed_sections": [], + "mount_file_id": "1pYjvVM_vRFYtfFD2DuF3HpHpmonoqsc9", + "authorship_tag": "ABX9TyO2T07rVFVI0x/xcEwMoKHs", + "include_colab_link": true + }, + "kernelspec": { + "display_name": "Python 3", + "name": "python3" + }, + "language_info": { + "name": "python" + } + }, + "cells": [ + { + "cell_type": "markdown", + "metadata": { + "id": "view-in-github", + "colab_type": "text" + }, + "source": [ + "\"Open" + ] + }, + { + "cell_type": "code", + "metadata": { + "colab": { + "base_uri": "https://localhost:8080/" + }, + "id": "sJjrlUHel-AC", + "outputId": "9e21ff52-0df5-4fb5-8448-4a9c8975e457" + }, + "source": [ + "!nvidia-smi" + ], + "execution_count": null, + "outputs": [ + { + "output_type": "stream", + "text": [ + "Sat May 22 20:38:07 2021 \n", + "+-----------------------------------------------------------------------------+\n", + "| NVIDIA-SMI 465.19.01 Driver Version: 460.32.03 CUDA Version: 11.2 |\n", + "|-------------------------------+----------------------+----------------------+\n", + "| GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC |\n", + "| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |\n", + "| | | MIG M. |\n", + "|===============================+======================+======================|\n", + "| 0 Tesla V100-SXM2... Off | 00000000:00:04.0 Off | 0 |\n", + "| N/A 33C P0 22W / 300W | 0MiB / 16160MiB | 0% Default |\n", + "| | | N/A |\n", + "+-------------------------------+----------------------+----------------------+\n", + " \n", + "+-----------------------------------------------------------------------------+\n", + "| Processes: |\n", + "| GPU GI CI PID Type Process name GPU Memory |\n", + "| ID ID Usage |\n", + "|=============================================================================|\n", + "| No running processes found |\n", + "+-----------------------------------------------------------------------------+\n" + ], + "name": "stdout" + } + ] + }, + { + "cell_type": "code", + "metadata": { + "id": "bdLC5vJNmDSO", + "colab": { + "base_uri": "https://localhost:8080/" + }, + "outputId": "39d7f57f-450c-471f-e6f9-2594b3df9ff5" + }, + "source": [ + "!git clone https://github.com/himanshu-dutta/pycoder.git pycoder-git\n", + "!cp -r pycoder-git/* .\n", + "!rm -rf pycoder-git\n", + "!unzip -o -qq -d ./pycoder/artifacts /content/drive/MyDrive/Projects/pycoder/data.zip" + ], + "execution_count": null, + "outputs": [ + { + "output_type": "stream", + "text": [ + "Cloning into 'pycoder-git'...\n", + "remote: Enumerating objects: 631, done.\u001b[K\n", + "remote: Counting objects: 100% (631/631), done.\u001b[K\n", + "remote: Compressing objects: 100% (443/443), done.\u001b[K\n", + "remote: Total 631 (delta 400), reused 391 (delta 172), pack-reused 0\u001b[K\n", + "Receiving objects: 100% (631/631), 1.30 MiB | 1.53 MiB/s, done.\n", + "Resolving deltas: 100% (400/400), done.\n" + ], + "name": "stdout" + } + ] + }, + { + "cell_type": "code", + "metadata": { + "colab": { + "base_uri": "https://localhost:8080/" + }, + "id": "632gCh8PmzPU", + "outputId": "a7180cf4-8e0c-48c6-c876-f6d17ea9168d" + }, + "source": [ + "!pip install -Uqq -r requirements.txt\n", + "!pip install -q wandb pygithub" + ], + "execution_count": null, + "outputs": [ + { + "output_type": "stream", + "text": [ + "\u001b[K |████████████████████████████████| 51kB 5.7MB/s \n", + "\u001b[K |████████████████████████████████| 61kB 10.2MB/s \n", + "\u001b[K |████████████████████████████████| 15.3MB 342kB/s \n", + "\u001b[K |████████████████████████████████| 10.1MB 46.4MB/s \n", + "\u001b[K |████████████████████████████████| 1.0MB 48.4MB/s \n", + "\u001b[K |████████████████████████████████| 901kB 41.0MB/s \n", + "\u001b[K |████████████████████████████████| 61kB 8.9MB/s \n", + "\u001b[K |████████████████████████████████| 3.3MB 44.0MB/s \n", + "\u001b[K |████████████████████████████████| 81kB 10.4MB/s \n", + "\u001b[K |████████████████████████████████| 2.3MB 44.5MB/s \n", + "\u001b[K |████████████████████████████████| 51kB 8.6MB/s \n", + "\u001b[31mERROR: tensorflow 2.4.1 has requirement numpy~=1.19.2, but you'll have numpy 1.20.3 which is incompatible.\u001b[0m\n", + "\u001b[31mERROR: tensorflow 2.4.1 has requirement six~=1.15.0, but you'll have six 1.16.0 which is incompatible.\u001b[0m\n", + "\u001b[31mERROR: tensorflow 2.4.1 has requirement typing-extensions~=3.7.4, but you'll have typing-extensions 3.10.0.0 which is incompatible.\u001b[0m\n", + "\u001b[31mERROR: google-colab 1.0.0 has requirement requests~=2.23.0, but you'll have requests 2.25.1 which is incompatible.\u001b[0m\n", + "\u001b[31mERROR: google-colab 1.0.0 has requirement six~=1.15.0, but you'll have six 1.16.0 which is incompatible.\u001b[0m\n", + "\u001b[31mERROR: datascience 0.10.6 has requirement folium==0.2.1, but you'll have folium 0.8.3 which is incompatible.\u001b[0m\n", + "\u001b[31mERROR: albumentations 0.1.12 has requirement imgaug<0.2.7,>=0.2.5, but you'll have imgaug 0.2.9 which is incompatible.\u001b[0m\n", + "\u001b[?25h" + ], + "name": "stdout" + } + ] + }, + { + "cell_type": "markdown", + "metadata": { + "id": "PgcJjKOjnDLp" + }, + "source": [ + "# Training\n", + "Trained with V-100.\n", + "Before continuing, upload the `.env` file to the current directory, `/content/`." + ] + }, + { + "cell_type": "code", + "metadata": { + "colab": { + "base_uri": "https://localhost:8080/" + }, + "id": "NAkeQ_frXVRz", + "outputId": "4df0412d-1c41-4d41-c85d-e7f0f9683f61" + }, + "source": [ + "# in case of version bump\n", + "!python -m pycoder update-version" + ], + "execution_count": null, + "outputs": [ + { + "output_type": "stream", + "text": [ + "2021-05-22 20:40:53.044037: I tensorflow/stream_executor/platform/default/dso_loader.cc:49] Successfully opened dynamic library libcudart.so.11.0\n", + "Enter version number: 1.2.3\n" + ], + "name": "stdout" + } + ] + }, + { + "cell_type": "code", + "metadata": { + "colab": { + "base_uri": "https://localhost:8080/" + }, + "id": "Q71Y-o8rxbrO", + "outputId": "b5bed5a5-d72a-4f85-982e-626a1490f7b4" + }, + "source": [ + "!python -m pycoder index-files" + ], + "execution_count": null, + "outputs": [ + { + "output_type": "stream", + "text": [ + "2021-05-22 20:41:06.035419: I tensorflow/stream_executor/platform/default/dso_loader.cc:49] Successfully opened dynamic library libcudart.so.11.0\n", + "1072it [00:00, 3954.49it/s] \n", + "Indexed files for \u001b[32m\u001b[1mtensorflow\u001b[0;0m ✅\u001b[0;0m\n", + "1036it [00:00, 4852.28it/s] \n", + "Indexed files for \u001b[32m\u001b[1mpytorch\u001b[0;0m ✅\u001b[0;0m\n", + "2478it [00:00, 4456.65it/s] \n", + "Indexed files for \u001b[32m\u001b[1mdjango\u001b[0;0m ✅\u001b[0;0m\n", + "898it [00:00, 5451.97it/s] \n", + "Indexed files for \u001b[32m\u001b[1mflask\u001b[0;0m ✅\u001b[0;0m\n", + "687it [00:00, 4946.60it/s] \n", + "Indexed files for \u001b[32m\u001b[1malgorithms\u001b[0;0m ✅\u001b[0;0m\n", + "1291it [00:00, 6833.73it/s] \n", + "Indexed files for \u001b[32m\u001b[1mfastapi\u001b[0;0m ✅\u001b[0;0m\n", + "Saved the file successfully to \u001b[32m\u001b[1m/content/pycoder/artifacts/data/indexed_files.json\u001b[0;0m ✅\u001b[0;0m\n" + ], + "name": "stdout" + } + ] + }, + { + "cell_type": "code", + "metadata": { + "id": "uSjlIk59oFcP", + "colab": { + "base_uri": "https://localhost:8080/" + }, + "outputId": "2d7309cb-b9c0-44bc-e3b8-d26265549347" + }, + "source": [ + "!python -m pycoder run-training" + ], + "execution_count": null, + "outputs": [ + { + "output_type": "stream", + "text": [ + "\u001b[1;30;43mStreaming output truncated to the last 5000 lines.\u001b[0m\n", + " 56%|█████████████████████▊ | 1243/2223 [02:57<01:39, 9.86it/s]\u001b[A\n", + " 56%|█████████████████████▊ | 1244/2223 [02:57<01:44, 9.34it/s]\u001b[A\n", + " 56%|█████████████████████▊ | 1245/2223 [02:57<01:47, 9.09it/s]\u001b[A\n", + " 56%|█████████████████████▊ | 1246/2223 [02:57<01:46, 9.21it/s]\u001b[A\n", + " 56%|█████████████████████▉ | 1248/2223 [02:58<01:42, 9.56it/s]\u001b[A\n", + " 56%|█████████████████████▉ | 1250/2223 [02:58<01:42, 9.54it/s]\u001b[A\n", + " 56%|█████████████████████▉ | 1252/2223 [02:58<01:41, 9.57it/s]\u001b[A\n", + " 56%|█████████████████████▉ | 1253/2223 [02:58<01:43, 9.36it/s]\u001b[A\n", + " 56%|██████████████████████ | 1254/2223 [02:58<01:43, 9.36it/s]\u001b[A\n", + " 57%|██████████████████████ | 1256/2223 [02:59<01:40, 9.61it/s]\u001b[A\n", + " 57%|██████████████████████ | 1258/2223 [02:59<01:38, 9.83it/s]\u001b[A\n", + " 57%|██████████████████████ | 1259/2223 [02:59<01:45, 9.14it/s]\u001b[A\n", + " 57%|██████████████████████ | 1261/2223 [02:59<01:34, 10.15it/s]\u001b[A\n", + " 57%|██████████████████████▏ | 1263/2223 [02:59<01:38, 9.71it/s]\u001b[A\n", + " 57%|██████████████████████▏ | 1264/2223 [02:59<01:39, 9.65it/s]\u001b[A\n", + " 57%|██████████████████████▏ | 1266/2223 [03:00<01:43, 9.20it/s]\u001b[A\n", + " 57%|██████████████████████▏ | 1268/2223 [03:00<01:37, 9.79it/s]\u001b[A\n", + " 57%|██████████████████████▎ | 1269/2223 [03:00<01:39, 9.58it/s]\u001b[A\n", + " 57%|██████████████████████▎ | 1270/2223 [03:00<01:39, 9.54it/s]\u001b[A\n", + " 57%|██████████████████████▎ | 1271/2223 [03:00<01:39, 9.55it/s]\u001b[A\n", + " 57%|██████████████████████▎ | 1273/2223 [03:00<01:37, 9.74it/s]\u001b[A\n", + " 57%|██████████████████████▎ | 1275/2223 [03:00<01:36, 9.85it/s]\u001b[A\n", + " 57%|██████████████████████▍ | 1276/2223 [03:01<01:36, 9.85it/s]\u001b[A\n", + " 57%|██████████████████████▍ | 1278/2223 [03:01<01:30, 10.47it/s]\u001b[A\n", + " 58%|██████████████████████▍ | 1280/2223 [03:01<01:35, 9.84it/s]\u001b[A\n", + " 58%|██████████████████████▍ | 1281/2223 [03:01<01:36, 9.72it/s]\u001b[A\n", + " 58%|██████████████████████▍ | 1282/2223 [03:01<01:37, 9.63it/s]\u001b[A\n", + " 58%|██████████████████████▌ | 1283/2223 [03:01<01:37, 9.64it/s]\u001b[A\n", + " 58%|██████████████████████▌ | 1285/2223 [03:01<01:36, 9.76it/s]\u001b[A\n", + " 58%|██████████████████████▌ | 1286/2223 [03:02<01:35, 9.80it/s]\u001b[A\n", + " 58%|██████████████████████▌ | 1287/2223 [03:02<01:38, 9.53it/s]\u001b[A\n", + " 58%|██████████████████████▌ | 1289/2223 [03:02<01:35, 9.79it/s]\u001b[A\n", + " 58%|██████████████████████▋ | 1291/2223 [03:02<01:35, 9.79it/s]\u001b[A\n", + " 58%|██████████████████████▋ | 1293/2223 [03:02<01:29, 10.45it/s]\u001b[A\n", + " 58%|██████████████████████▋ | 1295/2223 [03:03<01:33, 9.91it/s]\u001b[A\n", + " 58%|██████████████████████▋ | 1296/2223 [03:03<01:33, 9.88it/s]\u001b[A\n", + " 58%|██████████████████████▊ | 1297/2223 [03:03<01:34, 9.83it/s]\u001b[A\n", + " 58%|██████████████████████▊ | 1299/2223 [03:03<01:29, 10.32it/s]\u001b[A\n", + " 59%|██████████████████████▊ | 1301/2223 [03:03<01:33, 9.85it/s]\u001b[A\n", + " 59%|██████████████████████▊ | 1302/2223 [03:03<01:33, 9.86it/s]\u001b[A\n", + " 59%|██████████████████████▊ | 1303/2223 [03:03<01:34, 9.72it/s]\u001b[A\n", + " 59%|██████████████████████▉ | 1305/2223 [03:04<01:31, 10.06it/s]\u001b[A\n", + " 59%|██████████████████████▉ | 1306/2223 [03:04<01:32, 9.89it/s]\u001b[A\n", + " 59%|██████████████████████▉ | 1307/2223 [03:04<01:32, 9.89it/s]\u001b[A\n", + " 59%|██████████████████████▉ | 1308/2223 [03:04<01:36, 9.45it/s]\u001b[A\n", + " 59%|██████████████████████▉ | 1309/2223 [03:04<01:35, 9.57it/s]\u001b[A\n", + " 59%|██████████████████████▉ | 1310/2223 [03:04<01:34, 9.63it/s]\u001b[A\n", + " 59%|███████████████████████ | 1311/2223 [03:04<01:41, 9.03it/s]\u001b[A\n", + " 59%|███████████████████████ | 1313/2223 [03:04<01:34, 9.60it/s]\u001b[A\n", + " 59%|███████████████████████ | 1315/2223 [03:05<01:31, 9.92it/s]\u001b[A\n", + " 59%|███████████████████████ | 1316/2223 [03:05<01:31, 9.91it/s]\u001b[A\n", + " 59%|███████████████████████ | 1317/2223 [03:05<01:31, 9.90it/s]\u001b[A\n", + " 59%|███████████████████████ | 1318/2223 [03:05<01:31, 9.85it/s]\u001b[A\n", + " 59%|███████████████████████▏ | 1319/2223 [03:05<01:32, 9.80it/s]\u001b[A\n", + " 59%|███████████████████████▏ | 1320/2223 [03:05<01:32, 9.77it/s]\u001b[A\n", + " 59%|███████████████████████▏ | 1321/2223 [03:05<01:41, 8.93it/s]\u001b[A\n", + " 60%|███████████████████████▏ | 1323/2223 [03:05<01:32, 9.78it/s]\u001b[A\n", + " 60%|███████████████████████▏ | 1325/2223 [03:06<01:30, 9.88it/s]\u001b[A\n", + " 60%|███████████████████████▎ | 1326/2223 [03:06<01:31, 9.81it/s]\u001b[A\n", + " 60%|███████████████████████▎ | 1327/2223 [03:06<01:30, 9.85it/s]\u001b[A\n", + " 60%|███████████████████████▎ | 1328/2223 [03:06<01:33, 9.61it/s]\u001b[A\n", + " 60%|███████████████████████▎ | 1329/2223 [03:06<01:33, 9.56it/s]\u001b[A\n", + " 60%|███████████████████████▎ | 1331/2223 [03:06<01:29, 10.01it/s]\u001b[A\n", + " 60%|███████████████████████▎ | 1332/2223 [03:06<01:30, 9.89it/s]\u001b[A\n", + " 60%|███████████████████████▍ | 1334/2223 [03:06<01:28, 10.00it/s]\u001b[A\n", + " 60%|███████████████████████▍ | 1335/2223 [03:07<01:29, 9.93it/s]\u001b[A\n", + " 60%|███████████████████████▍ | 1337/2223 [03:07<01:25, 10.32it/s]\u001b[A\n", + " 60%|███████████████████████▍ | 1339/2223 [03:07<01:30, 9.75it/s]\u001b[A\n", + " 60%|███████████████████████▌ | 1340/2223 [03:07<01:31, 9.69it/s]\u001b[A\n", + " 60%|███████████████████████▌ | 1341/2223 [03:07<01:32, 9.52it/s]\u001b[A\n", + " 60%|███████████████████████▌ | 1343/2223 [03:07<01:28, 9.91it/s]\u001b[A\n", + " 61%|███████████████████████▌ | 1345/2223 [03:08<01:28, 9.94it/s]\u001b[A\n", + " 61%|███████████████████████▋ | 1347/2223 [03:08<01:27, 9.96it/s]\u001b[A\n", + " 61%|███████████████████████▋ | 1348/2223 [03:08<01:28, 9.93it/s]\u001b[A\n", + " 61%|███████████████████████▋ | 1350/2223 [03:08<01:26, 10.13it/s]\u001b[A\n", + " 61%|███████████████████████▋ | 1352/2223 [03:08<01:27, 9.98it/s]\u001b[A\n", + " 61%|███████████████████████▊ | 1354/2223 [03:08<01:26, 10.06it/s]\u001b[A\n", + " 61%|███████████████████████▊ | 1356/2223 [03:09<01:27, 9.88it/s]\u001b[A\n", + " 61%|███████████████████████▊ | 1358/2223 [03:09<01:27, 9.93it/s]\u001b[A\n", + " 61%|███████████████████████▊ | 1360/2223 [03:09<01:26, 10.01it/s]\u001b[A\n", + " 61%|███████████████████████▉ | 1362/2223 [03:09<01:26, 9.99it/s]\u001b[A\n", + " 61%|███████████████████████▉ | 1364/2223 [03:09<01:23, 10.23it/s]\u001b[A\n", + " 61%|███████████████████████▉ | 1366/2223 [03:10<01:26, 9.93it/s]\u001b[A\n", + " 61%|███████████████████████▉ | 1367/2223 [03:10<01:27, 9.75it/s]\u001b[A\n", + " 62%|████████████████████████ | 1369/2223 [03:10<01:27, 9.73it/s]\u001b[A\n", + " 62%|████████████████████████ | 1371/2223 [03:10<01:25, 9.98it/s]\u001b[A\n", + " 62%|████████████████████████ | 1373/2223 [03:10<01:27, 9.72it/s]\u001b[A\n", + " 62%|████████████████████████ | 1375/2223 [03:11<01:27, 9.74it/s]\u001b[A\n", + " 62%|████████████████████████▏ | 1376/2223 [03:11<01:34, 9.01it/s]\u001b[A\n", + " 62%|████████████████████████▏ | 1378/2223 [03:11<01:28, 9.52it/s]\u001b[A\n", + " 62%|████████████████████████▏ | 1380/2223 [03:11<01:25, 9.84it/s]\u001b[A\n", + " 62%|████████████████████████▏ | 1381/2223 [03:11<01:27, 9.66it/s]\u001b[A\n", + " 62%|████████████████████████▎ | 1383/2223 [03:11<01:22, 10.14it/s]\u001b[A\n", + " 62%|████████████████████████▎ | 1385/2223 [03:12<01:27, 9.63it/s]\u001b[A\n", + " 62%|████████████████████████▎ | 1387/2223 [03:12<01:25, 9.74it/s]\u001b[A\n", + " 62%|████████████████████████▎ | 1389/2223 [03:12<01:24, 9.82it/s]\u001b[A\n", + " 63%|████████████████████████▍ | 1391/2223 [03:12<01:24, 9.89it/s]\u001b[A\n", + " 63%|████████████████████████▍ | 1393/2223 [03:12<01:22, 10.01it/s]\u001b[A\n", + " 63%|████████████████████████▍ | 1395/2223 [03:13<01:24, 9.83it/s]\u001b[A\n", + " 63%|████████████████████████▌ | 1397/2223 [03:13<01:24, 9.79it/s]\u001b[A\n", + " 63%|████████████████████████▌ | 1399/2223 [03:13<01:22, 9.97it/s]\u001b[A\n", + " 63%|████████████████████████▌ | 1401/2223 [03:13<01:21, 10.07it/s]\u001b[A\n", + " 63%|████████████████████████▌ | 1403/2223 [03:13<01:22, 9.95it/s]\u001b[A\n", + " 63%|████████████████████████▋ | 1405/2223 [03:14<01:22, 9.92it/s]\u001b[A\n", + " 63%|████████████████████████▋ | 1407/2223 [03:14<01:21, 9.95it/s]\u001b[A\n", + " 63%|████████████████████████▋ | 1409/2223 [03:14<01:22, 9.84it/s]\u001b[A\n", + " 63%|████████████████████████▊ | 1411/2223 [03:14<01:21, 9.99it/s]\u001b[A\n", + " 64%|████████████████████████▊ | 1413/2223 [03:14<01:18, 10.34it/s]\u001b[A\n", + " 64%|████████████████████████▊ | 1415/2223 [03:15<01:21, 9.91it/s]\u001b[A\n", + " 64%|████████████████████████▊ | 1417/2223 [03:15<01:21, 9.90it/s]\u001b[A\n", + " 64%|████████████████████████▉ | 1419/2223 [03:15<01:20, 9.96it/s]\u001b[A\n", + " 64%|████████████████████████▉ | 1421/2223 [03:15<01:21, 9.81it/s]\u001b[A\n", + " 64%|████████████████████████▉ | 1423/2223 [03:15<01:20, 9.90it/s]\u001b[A\n", + " 64%|████████████████████████▉ | 1424/2223 [03:16<01:20, 9.91it/s]\u001b[A\n", + " 64%|█████████████████████████ | 1426/2223 [03:16<01:22, 9.69it/s]\u001b[A\n", + " 64%|█████████████████████████ | 1427/2223 [03:16<01:22, 9.63it/s]\u001b[A\n", + " 64%|█████████████████████████ | 1429/2223 [03:16<01:20, 9.90it/s]\u001b[A\n", + " 64%|█████████████████████████ | 1430/2223 [03:16<01:20, 9.85it/s]\u001b[A\n", + " 64%|█████████████████████████ | 1431/2223 [03:16<01:20, 9.81it/s]\u001b[A\n", + " 64%|█████████████████████████ | 1432/2223 [03:16<01:25, 9.29it/s]\u001b[A\n", + " 65%|█████████████████████████▏ | 1434/2223 [03:17<01:23, 9.47it/s]\u001b[A\n", + " 65%|█████████████████████████▏ | 1435/2223 [03:17<01:28, 8.92it/s]\u001b[A\n", + " 65%|█████████████████████████▏ | 1436/2223 [03:17<01:26, 9.12it/s]\u001b[A\n", + " 65%|█████████████████████████▏ | 1437/2223 [03:17<01:31, 8.54it/s]\u001b[A\n", + " 65%|█████████████████████████▏ | 1438/2223 [03:17<01:28, 8.88it/s]\u001b[A\n", + " 65%|█████████████████████████▏ | 1439/2223 [03:17<01:26, 9.06it/s]\u001b[A\n", + " 65%|█████████████████████████▎ | 1440/2223 [03:17<01:24, 9.30it/s]\u001b[A\n", + " 65%|█████████████████████████▎ | 1441/2223 [03:17<01:25, 9.12it/s]\u001b[A\n", + " 65%|█████████████████████████▎ | 1443/2223 [03:18<01:19, 9.85it/s]\u001b[A\n", + " 65%|█████████████████████████▎ | 1444/2223 [03:18<01:20, 9.65it/s]\u001b[A\n", + " 65%|█████████████████████████▎ | 1445/2223 [03:18<01:19, 9.73it/s]\u001b[A\n", + " 65%|█████████████████████████▍ | 1447/2223 [03:18<01:21, 9.52it/s]\u001b[A\n", + " 65%|█████████████████████████▍ | 1449/2223 [03:18<01:17, 10.05it/s]\u001b[A\n", + " 65%|█████████████████████████▍ | 1450/2223 [03:18<01:20, 9.59it/s]\u001b[A\n", + " 65%|█████████████████████████▍ | 1452/2223 [03:19<01:18, 9.79it/s]\u001b[A\n", + " 65%|█████████████████████████▍ | 1453/2223 [03:19<01:20, 9.62it/s]\u001b[A\n", + " 65%|█████████████████████████▌ | 1454/2223 [03:19<01:20, 9.58it/s]\u001b[A\n", + " 65%|█████████████████████████▌ | 1455/2223 [03:19<01:27, 8.78it/s]\u001b[A\n", + " 66%|█████████████████████████▌ | 1457/2223 [03:19<01:22, 9.31it/s]\u001b[A\n", + " 66%|█████████████████████████▌ | 1459/2223 [03:19<01:19, 9.58it/s]\u001b[A\n", + " 66%|█████████████████████████▌ | 1460/2223 [03:19<01:19, 9.56it/s]\u001b[A\n", + " 66%|█████████████████████████▋ | 1461/2223 [03:20<01:22, 9.19it/s]\u001b[A\n", + " 66%|█████████████████████████▋ | 1462/2223 [03:20<01:22, 9.28it/s]\u001b[A\n", + " 66%|█████████████████████████▋ | 1464/2223 [03:20<01:18, 9.65it/s]\u001b[A\n", + " 66%|█████████████████████████▋ | 1465/2223 [03:20<01:18, 9.65it/s]\u001b[A\n", + " 66%|█████████████████████████▋ | 1466/2223 [03:20<01:18, 9.61it/s]\u001b[A\n", + " 66%|█████████████████████████▋ | 1467/2223 [03:20<01:19, 9.46it/s]\u001b[A\n", + " 66%|█████████████████████████▊ | 1469/2223 [03:20<01:16, 9.80it/s]\u001b[A\n", + " 66%|█████████████████████████▊ | 1470/2223 [03:20<01:17, 9.75it/s]\u001b[A\n", + " 66%|█████████████████████████▊ | 1471/2223 [03:21<01:19, 9.50it/s]\u001b[A\n", + " 66%|█████████████████████████▊ | 1473/2223 [03:21<01:15, 9.94it/s]\u001b[A\n", + " 66%|█████████████████████████▊ | 1474/2223 [03:21<01:17, 9.68it/s]\u001b[A\n", + " 66%|█████████████████████████▉ | 1476/2223 [03:21<01:16, 9.81it/s]\u001b[A\n", + " 66%|█████████████████████████▉ | 1477/2223 [03:21<01:22, 9.08it/s]\u001b[A\n", + " 67%|█████████████████████████▉ | 1479/2223 [03:21<01:27, 8.47it/s]\u001b[A\n", + " 67%|█████████████████████████▉ | 1481/2223 [03:22<01:19, 9.31it/s]\u001b[A\n", + " 67%|██████████████████████████ | 1482/2223 [03:22<01:19, 9.29it/s]\u001b[A\n", + " 67%|██████████████████████████ | 1484/2223 [03:22<01:18, 9.39it/s]\u001b[A\n", + " 67%|██████████████████████████ | 1485/2223 [03:22<01:19, 9.27it/s]\u001b[A\n", + " 67%|██████████████████████████ | 1487/2223 [03:22<01:15, 9.69it/s]\u001b[A\n", + " 67%|██████████████████████████ | 1489/2223 [03:22<01:15, 9.76it/s]\u001b[A\n", + " 67%|██████████████████████████▏ | 1490/2223 [03:23<01:14, 9.80it/s]\u001b[A\n", + " 67%|██████████████████████████▏ | 1491/2223 [03:23<01:14, 9.83it/s]\u001b[A\n", + " 67%|██████████████████████████▏ | 1492/2223 [03:23<01:14, 9.82it/s]\u001b[A\n", + " 67%|██████████████████████████▏ | 1494/2223 [03:23<01:12, 10.12it/s]\u001b[A\n", + " 67%|██████████████████████████▏ | 1496/2223 [03:23<01:13, 9.88it/s]\u001b[A\n", + " 67%|██████████████████████████▎ | 1497/2223 [03:23<01:14, 9.78it/s]\u001b[A\n", + " 67%|██████████████████████████▎ | 1499/2223 [03:23<01:14, 9.74it/s]\u001b[A\n", + " 68%|██████████████████████████▎ | 1501/2223 [03:24<01:12, 9.97it/s]\u001b[A\n", + " 68%|██████████████████████████▎ | 1502/2223 [03:24<01:16, 9.39it/s]\u001b[A\n", + " 68%|██████████████████████████▍ | 1504/2223 [03:24<01:14, 9.60it/s]\u001b[A\n", + " 68%|██████████████████████████▍ | 1505/2223 [03:24<01:17, 9.32it/s]\u001b[A\n", + " 68%|██████████████████████████▍ | 1507/2223 [03:24<01:20, 8.89it/s]\u001b[A\n", + " 68%|██████████████████████████▍ | 1509/2223 [03:25<01:14, 9.53it/s]\u001b[A\n", + " 68%|██████████████████████████▌ | 1511/2223 [03:25<01:15, 9.42it/s]\u001b[A\n", + " 68%|██████████████████████████▌ | 1513/2223 [03:25<01:13, 9.69it/s]\u001b[A\n", + " 68%|██████████████████████████▌ | 1514/2223 [03:25<01:18, 9.03it/s]\u001b[A\n", + " 68%|██████████████████████████▌ | 1515/2223 [03:25<01:18, 9.06it/s]\u001b[A\n", + " 68%|██████████████████████████▌ | 1517/2223 [03:25<01:14, 9.43it/s]\u001b[A\n", + " 68%|██████████████████████████▋ | 1518/2223 [03:26<01:14, 9.46it/s]\u001b[A\n", + " 68%|██████████████████████████▋ | 1520/2223 [03:26<01:10, 9.94it/s]\u001b[A\n", + " 68%|██████████████████████████▋ | 1521/2223 [03:26<01:12, 9.68it/s]\u001b[A\n", + " 69%|██████████████████████████▋ | 1523/2223 [03:26<01:18, 8.97it/s]\u001b[A\n", + " 69%|██████████████████████████▊ | 1525/2223 [03:26<01:15, 9.22it/s]\u001b[A\n", + " 69%|██████████████████████████▊ | 1527/2223 [03:26<01:12, 9.63it/s]\u001b[A\n", + " 69%|██████████████████████████▊ | 1528/2223 [03:27<01:12, 9.62it/s]\u001b[A\n", + " 69%|██████████████████████████▊ | 1530/2223 [03:27<01:10, 9.89it/s]\u001b[A\n", + " 69%|██████████████████████████▊ | 1531/2223 [03:27<01:10, 9.79it/s]\u001b[A\n", + " 69%|██████████████████████████▉ | 1532/2223 [03:27<01:10, 9.84it/s]\u001b[A\n", + " 69%|██████████████████████████▉ | 1534/2223 [03:27<01:09, 9.88it/s]\u001b[A\n", + " 69%|██████████████████████████▉ | 1536/2223 [03:27<01:08, 9.96it/s]\u001b[A\n", + " 69%|██████████████████████████▉ | 1537/2223 [03:27<01:10, 9.75it/s]\u001b[A\n", + " 69%|███████████████████████████ | 1539/2223 [03:28<01:10, 9.65it/s]\u001b[A\n", + " 69%|███████████████████████████ | 1541/2223 [03:28<01:07, 10.13it/s]\u001b[A\n", + " 69%|███████████████████████████ | 1543/2223 [03:28<01:09, 9.78it/s]\u001b[A\n", + " 69%|███████████████████████████ | 1544/2223 [03:28<01:09, 9.77it/s]\u001b[A\n", + " 70%|███████████████████████████ | 1546/2223 [03:28<01:06, 10.24it/s]\u001b[A\n", + " 70%|███████████████████████████▏ | 1548/2223 [03:29<01:08, 9.87it/s]\u001b[A\n", + " 70%|███████████████████████████▏ | 1549/2223 [03:29<01:08, 9.88it/s]\u001b[A\n", + " 70%|███████████████████████████▏ | 1551/2223 [03:29<01:07, 9.95it/s]\u001b[A\n", + " 70%|███████████████████████████▏ | 1553/2223 [03:29<01:06, 10.03it/s]\u001b[A\n", + " 70%|███████████████████████████▎ | 1555/2223 [03:29<01:08, 9.82it/s]\u001b[A\n", + " 70%|███████████████████████████▎ | 1556/2223 [03:29<01:08, 9.74it/s]\u001b[A\n", + " 70%|███████████████████████████▎ | 1558/2223 [03:30<01:08, 9.68it/s]\u001b[A\n", + " 70%|███████████████████████████▎ | 1560/2223 [03:30<01:07, 9.85it/s]\u001b[A\n", + " 70%|███████████████████████████▍ | 1561/2223 [03:30<01:07, 9.87it/s]\u001b[A\n", + " 70%|███████████████████████████▍ | 1563/2223 [03:30<01:06, 9.90it/s]\u001b[A\n", + " 70%|███████████████████████████▍ | 1564/2223 [03:30<01:06, 9.90it/s]\u001b[A\n", + " 70%|███████████████████████████▍ | 1565/2223 [03:30<01:06, 9.85it/s]\u001b[A\n", + " 70%|███████████████████████████▍ | 1567/2223 [03:31<01:08, 9.62it/s]\u001b[A\n", + " 71%|███████████████████████████▌ | 1569/2223 [03:31<01:05, 10.02it/s]\u001b[A\n", + " 71%|███████████████████████████▌ | 1571/2223 [03:47<30:28, 2.80s/it]\u001b[A\n", + " 71%|███████████████████████████▌ | 1573/2223 [03:47<20:47, 1.92s/it]\u001b[A\n", + " 71%|███████████████████████████▋ | 1575/2223 [03:47<14:30, 1.34s/it]\u001b[A\n", + " 71%|███████████████████████████▋ | 1577/2223 [03:48<10:40, 1.01it/s]\u001b[A\n", + " 71%|███████████████████████████▋ | 1579/2223 [03:48<07:41, 1.39it/s]\u001b[A\n", + " 71%|███████████████████████████▋ | 1581/2223 [03:48<05:40, 1.88it/s]\u001b[A\n", + " 71%|███████████████████████████▊ | 1583/2223 [03:48<04:14, 2.52it/s]\u001b[A\n", + " 71%|███████████████████████████▊ | 1584/2223 [03:48<03:47, 2.81it/s]\u001b[A\n", + " 71%|███████████████████████████▊ | 1586/2223 [03:49<03:25, 3.10it/s]\u001b[A\n", + " 71%|███████████████████████████▊ | 1587/2223 [03:49<02:59, 3.55it/s]\u001b[A\n", + " 71%|███████████████████████████▉ | 1589/2223 [03:49<02:19, 4.55it/s]\u001b[A\n", + " 72%|███████████████████████████▉ | 1591/2223 [03:50<01:52, 5.62it/s]\u001b[A\n", + " 72%|███████████████████████████▉ | 1593/2223 [03:50<01:37, 6.49it/s]\u001b[A\n", + " 72%|███████████████████████████▉ | 1594/2223 [03:50<01:31, 6.86it/s]\u001b[A\n", + " 72%|████████████████████████████ | 1596/2223 [03:50<01:20, 7.76it/s]\u001b[A\n", + " 72%|████████████████████████████ | 1597/2223 [03:50<01:18, 7.93it/s]\u001b[A\n", + " 72%|████████████████████████████ | 1598/2223 [03:50<01:17, 8.06it/s]\u001b[A\n", + " 72%|████████████████████████████ | 1599/2223 [03:50<01:13, 8.43it/s]\u001b[A\n", + " 72%|████████████████████████████ | 1600/2223 [03:50<01:16, 8.11it/s]\u001b[A\n", + " 72%|████████████████████████████ | 1601/2223 [03:51<01:13, 8.49it/s]\u001b[A\n", + " 72%|████████████████████████████ | 1603/2223 [03:51<01:10, 8.82it/s]\u001b[A\n", + " 72%|████████████████████████████▏ | 1604/2223 [03:51<01:11, 8.61it/s]\u001b[A\n", + " 72%|████████████████████████████▏ | 1605/2223 [03:51<01:10, 8.82it/s]\u001b[A\n", + " 72%|████████████████████████████▏ | 1607/2223 [03:51<01:05, 9.42it/s]\u001b[A\n", + " 72%|████████████████████████████▏ | 1608/2223 [03:51<01:05, 9.43it/s]\u001b[A\n", + " 72%|████████████████████████████▏ | 1609/2223 [03:51<01:05, 9.33it/s]\u001b[A\n", + " 72%|████████████████████████████▏ | 1610/2223 [03:52<01:04, 9.47it/s]\u001b[A\n", + " 73%|████████████████████████████▎ | 1612/2223 [03:52<01:02, 9.70it/s]\u001b[A\n", + " 73%|████████████████████████████▎ | 1613/2223 [03:52<01:03, 9.68it/s]\u001b[A\n", + " 73%|████████████████████████████▎ | 1614/2223 [03:52<01:02, 9.73it/s]\u001b[A\n", + " 73%|████████████████████████████▎ | 1615/2223 [03:52<01:06, 9.13it/s]\u001b[A\n", + " 73%|████████████████████████████▎ | 1617/2223 [03:52<01:01, 9.93it/s]\u001b[A\n", + " 73%|████████████████████████████▍ | 1618/2223 [03:52<01:04, 9.39it/s]\u001b[A\n", + " 73%|████████████████████████████▍ | 1619/2223 [03:52<01:04, 9.40it/s]\u001b[A\n", + " 73%|████████████████████████████▍ | 1621/2223 [03:53<01:03, 9.54it/s]\u001b[A\n", + " 73%|████████████████████████████▍ | 1623/2223 [03:53<01:01, 9.78it/s]\u001b[A\n", + " 73%|████████████████████████████▌ | 1625/2223 [03:53<01:01, 9.79it/s]\u001b[A\n", + " 73%|████████████████████████████▌ | 1626/2223 [03:53<01:02, 9.55it/s]\u001b[A\n", + " 73%|████████████████████████████▌ | 1628/2223 [03:53<01:03, 9.30it/s]\u001b[A\n", + " 73%|████████████████████████████▌ | 1630/2223 [03:54<01:01, 9.62it/s]\u001b[A\n", + " 73%|████████████████████████████▌ | 1631/2223 [03:54<01:01, 9.67it/s]\u001b[A\n", + " 73%|████████████████████████████▋ | 1632/2223 [03:54<01:01, 9.55it/s]\u001b[A\n", + " 74%|████████████████████████████▋ | 1634/2223 [03:54<00:59, 9.94it/s]\u001b[A\n", + " 74%|████████████████████████████▋ | 1635/2223 [03:54<01:00, 9.66it/s]\u001b[A\n", + " 74%|████████████████████████████▋ | 1637/2223 [03:54<00:58, 10.08it/s]\u001b[A\n", + " 74%|████████████████████████████▋ | 1638/2223 [03:54<01:00, 9.60it/s]\u001b[A\n", + " 74%|████████████████████████████▊ | 1639/2223 [03:55<01:01, 9.55it/s]\u001b[A\n", + " 74%|████████████████████████████▊ | 1641/2223 [03:55<01:00, 9.62it/s]\u001b[A\n", + " 74%|████████████████████████████▊ | 1642/2223 [03:55<01:00, 9.67it/s]\u001b[A\n", + " 74%|████████████████████████████▊ | 1643/2223 [03:55<01:01, 9.39it/s]\u001b[A\n", + " 74%|████████████████████████████▊ | 1645/2223 [03:55<00:56, 10.24it/s]\u001b[A\n", + " 74%|████████████████████████████▉ | 1647/2223 [03:55<01:01, 9.43it/s]\u001b[A\n", + " 74%|████████████████████████████▉ | 1648/2223 [03:55<01:00, 9.52it/s]\u001b[A\n", + " 74%|████████████████████████████▉ | 1649/2223 [03:56<01:01, 9.37it/s]\u001b[A\n", + " 74%|████████████████████████████▉ | 1651/2223 [03:56<01:01, 9.25it/s]\u001b[A\n", + " 74%|████████████████████████████▉ | 1652/2223 [03:56<01:01, 9.28it/s]\u001b[A\n", + " 74%|█████████████████████████████ | 1653/2223 [03:56<01:02, 9.08it/s]\u001b[A\n", + " 74%|█████████████████████████████ | 1654/2223 [03:56<01:02, 9.14it/s]\u001b[A\n", + " 74%|█████████████████████████████ | 1656/2223 [03:56<00:59, 9.54it/s]\u001b[A\n", + " 75%|█████████████████████████████ | 1658/2223 [03:57<00:57, 9.80it/s]\u001b[A\n", + " 75%|█████████████████████████████ | 1659/2223 [03:57<01:00, 9.26it/s]\u001b[A\n", + " 75%|█████████████████████████████▏ | 1661/2223 [03:57<00:56, 9.93it/s]\u001b[A\n", + " 75%|█████████████████████████████▏ | 1663/2223 [03:57<00:56, 9.96it/s]\u001b[A\n", + " 75%|█████████████████████████████▏ | 1664/2223 [03:57<00:56, 9.92it/s]\u001b[A\n", + " 75%|█████████████████████████████▏ | 1665/2223 [03:57<00:56, 9.80it/s]\u001b[A\n", + " 75%|█████████████████████████████▏ | 1667/2223 [03:57<00:56, 9.77it/s]\u001b[A\n", + " 75%|█████████████████████████████▎ | 1668/2223 [03:58<00:57, 9.74it/s]\u001b[A\n", + " 75%|█████████████████████████████▎ | 1670/2223 [03:58<00:56, 9.82it/s]\u001b[A\n", + " 75%|█████████████████████████████▎ | 1671/2223 [03:58<00:56, 9.78it/s]\u001b[A\n", + " 75%|█████████████████████████████▎ | 1672/2223 [03:58<00:56, 9.75it/s]\u001b[A\n", + " 75%|█████████████████████████████▎ | 1674/2223 [03:58<00:55, 9.86it/s]\u001b[A\n", + " 75%|█████████████████████████████▍ | 1675/2223 [03:58<00:57, 9.54it/s]\u001b[A\n", + " 75%|█████████████████████████████▍ | 1677/2223 [03:58<00:54, 9.95it/s]\u001b[A\n", + " 76%|█████████████████████████████▍ | 1679/2223 [03:59<00:55, 9.87it/s]\u001b[A\n", + " 76%|█████████████████████████████▍ | 1681/2223 [03:59<00:54, 10.01it/s]\u001b[A\n", + " 76%|█████████████████████████████▌ | 1682/2223 [03:59<00:55, 9.74it/s]\u001b[A\n", + " 76%|█████████████████████████████▌ | 1684/2223 [03:59<00:54, 9.91it/s]\u001b[A\n", + " 76%|█████████████████████████████▌ | 1685/2223 [03:59<00:54, 9.85it/s]\u001b[A\n", + " 76%|█████████████████████████████▌ | 1686/2223 [03:59<00:55, 9.60it/s]\u001b[A\n", + " 76%|█████████████████████████████▌ | 1688/2223 [04:00<00:51, 10.38it/s]\u001b[A\n", + " 76%|█████████████████████████████▋ | 1690/2223 [04:00<00:54, 9.73it/s]\u001b[A\n", + " 76%|█████████████████████████████▋ | 1692/2223 [04:00<00:54, 9.79it/s]\u001b[A\n", + " 76%|█████████████████████████████▋ | 1693/2223 [04:00<00:54, 9.79it/s]\u001b[A\n", + " 76%|█████████████████████████████▋ | 1695/2223 [04:00<00:52, 10.15it/s]\u001b[A\n", + " 76%|█████████████████████████████▊ | 1697/2223 [04:01<00:53, 9.91it/s]\u001b[A\n", + " 76%|█████████████████████████████▊ | 1699/2223 [04:01<00:53, 9.86it/s]\u001b[A\n", + " 76%|█████████████████████████████▊ | 1700/2223 [04:01<00:53, 9.82it/s]\u001b[A\n", + " 77%|█████████████████████████████▊ | 1702/2223 [04:01<00:50, 10.32it/s]\u001b[A\n", + " 77%|█████████████████████████████▉ | 1704/2223 [04:01<00:52, 9.87it/s]\u001b[A\n", + " 77%|█████████████████████████████▉ | 1706/2223 [04:01<00:51, 9.97it/s]\u001b[A\n", + " 77%|█████████████████████████████▉ | 1707/2223 [04:02<00:51, 9.96it/s]\u001b[A\n", + " 77%|█████████████████████████████▉ | 1708/2223 [04:02<00:51, 9.94it/s]\u001b[A\n", + " 77%|█████████████████████████████▉ | 1709/2223 [04:02<00:59, 8.59it/s]\u001b[A\n", + " 77%|██████████████████████████████ | 1711/2223 [04:02<00:58, 8.72it/s]\u001b[A\n", + " 77%|██████████████████████████████ | 1713/2223 [04:02<01:00, 8.48it/s]\u001b[A\n", + " 77%|██████████████████████████████ | 1714/2223 [04:02<01:05, 7.77it/s]\u001b[A\n", + " 77%|██████████████████████████████ | 1715/2223 [04:03<01:03, 8.06it/s]\u001b[A\n", + " 77%|██████████████████████████████ | 1716/2223 [04:03<01:00, 8.43it/s]\u001b[A\n", + " 77%|██████████████████████████████▏ | 1718/2223 [04:03<01:02, 8.08it/s]\u001b[A\n", + " 77%|██████████████████████████████▏ | 1720/2223 [04:03<00:56, 8.89it/s]\u001b[A\n", + " 77%|██████████████████████████████▏ | 1722/2223 [04:03<00:53, 9.40it/s]\u001b[A\n", + " 78%|██████████████████████████████▏ | 1723/2223 [04:03<00:53, 9.33it/s]\u001b[A\n", + " 78%|██████████████████████████████▏ | 1724/2223 [04:03<00:52, 9.46it/s]\u001b[A\n", + " 78%|██████████████████████████████▎ | 1726/2223 [04:04<00:51, 9.61it/s]\u001b[A\n", + " 78%|██████████████████████████████▎ | 1728/2223 [04:04<00:50, 9.90it/s]\u001b[A\n", + " 78%|██████████████████████████████▎ | 1730/2223 [04:04<00:48, 10.24it/s]\u001b[A\n", + " 78%|██████████████████████████████▍ | 1732/2223 [04:04<00:50, 9.81it/s]\u001b[A\n", + " 78%|██████████████████████████████▍ | 1734/2223 [04:04<00:49, 9.85it/s]\u001b[A\n", + " 78%|██████████████████████████████▍ | 1736/2223 [04:05<00:47, 10.22it/s]\u001b[A\n", + " 78%|██████████████████████████████▍ | 1738/2223 [04:05<00:49, 9.70it/s]\u001b[A\n", + " 78%|██████████████████████████████▌ | 1740/2223 [04:05<00:49, 9.80it/s]\u001b[A\n", + " 78%|██████████████████████████████▌ | 1742/2223 [04:05<00:48, 9.91it/s]\u001b[A\n", + " 78%|██████████████████████████████▌ | 1743/2223 [04:05<00:50, 9.57it/s]\u001b[A\n", + " 78%|██████████████████████████████▌ | 1745/2223 [04:06<00:51, 9.20it/s]\u001b[A\n", + " 79%|██████████████████████████████▋ | 1747/2223 [04:06<00:48, 9.81it/s]\u001b[A\n", + " 79%|██████████████████████████████▋ | 1748/2223 [04:06<00:52, 8.97it/s]\u001b[A\n", + " 79%|██████████████████████████████▋ | 1750/2223 [04:06<00:49, 9.57it/s]\u001b[A\n", + " 79%|██████████████████████████████▋ | 1752/2223 [04:06<00:48, 9.66it/s]\u001b[A\n", + " 79%|██████████████████████████████▊ | 1753/2223 [04:06<00:49, 9.50it/s]\u001b[A\n", + " 79%|██████████████████████████████▊ | 1754/2223 [04:07<00:50, 9.22it/s]\u001b[A\n", + " 79%|██████████████████████████████▊ | 1756/2223 [04:07<00:46, 9.95it/s]\u001b[A\n", + " 79%|██████████████████████████████▊ | 1757/2223 [04:07<00:50, 9.26it/s]\u001b[A\n", + " 79%|██████████████████████████████▊ | 1759/2223 [04:07<00:50, 9.28it/s]\u001b[A\n", + " 79%|██████████████████████████████▉ | 1760/2223 [04:07<00:49, 9.32it/s]\u001b[A\n", + " 79%|██████████████████████████████▉ | 1762/2223 [04:07<00:46, 9.86it/s]\u001b[A\n", + " 79%|██████████████████████████████▉ | 1763/2223 [04:08<00:48, 9.55it/s]\u001b[A\n", + " 79%|██████████████████████████████▉ | 1764/2223 [04:08<00:48, 9.53it/s]\u001b[A\n", + " 79%|██████████████████████████████▉ | 1765/2223 [04:08<00:47, 9.62it/s]\u001b[A\n", + " 79%|██████████████████████████████▉ | 1767/2223 [04:08<00:46, 9.84it/s]\u001b[A\n", + " 80%|███████████████████████████████ | 1768/2223 [04:08<00:46, 9.70it/s]\u001b[A\n", + " 80%|███████████████████████████████ | 1770/2223 [04:08<00:46, 9.75it/s]\u001b[A\n", + " 80%|███████████████████████████████ | 1771/2223 [04:08<00:46, 9.76it/s]\u001b[A\n", + " 80%|███████████████████████████████ | 1772/2223 [04:08<00:46, 9.78it/s]\u001b[A\n", + " 80%|███████████████████████████████ | 1774/2223 [04:09<00:45, 9.85it/s]\u001b[A\n", + " 80%|███████████████████████████████▏ | 1776/2223 [04:09<00:45, 9.87it/s]\u001b[A\n", + " 80%|███████████████████████████████▏ | 1777/2223 [04:09<00:45, 9.87it/s]\u001b[A\n", + " 80%|███████████████████████████████▏ | 1779/2223 [04:09<00:46, 9.60it/s]\u001b[A\n", + " 80%|███████████████████████████████▏ | 1781/2223 [04:09<00:45, 9.73it/s]\u001b[A\n", + " 80%|███████████████████████████████▎ | 1783/2223 [04:10<00:44, 9.94it/s]\u001b[A\n", + " 80%|███████████████████████████████▎ | 1784/2223 [04:10<00:44, 9.83it/s]\u001b[A\n", + " 80%|███████████████████████████████▎ | 1786/2223 [04:10<00:44, 9.73it/s]\u001b[A\n", + " 80%|███████████████████████████████▎ | 1787/2223 [04:10<00:45, 9.59it/s]\u001b[A\n", + " 80%|███████████████████████████████▍ | 1789/2223 [04:10<00:44, 9.69it/s]\u001b[A\n", + " 81%|███████████████████████████████▍ | 1790/2223 [04:10<00:45, 9.60it/s]\u001b[A\n", + " 81%|███████████████████████████████▍ | 1791/2223 [04:10<00:46, 9.35it/s]\u001b[A\n", + " 81%|███████████████████████████████▍ | 1793/2223 [04:11<00:44, 9.77it/s]\u001b[A\n", + " 81%|███████████████████████████████▍ | 1794/2223 [04:11<00:43, 9.75it/s]\u001b[A\n", + " 81%|███████████████████████████████▌ | 1796/2223 [04:11<00:41, 10.22it/s]\u001b[A\n", + " 81%|███████████████████████████████▌ | 1798/2223 [04:11<00:44, 9.63it/s]\u001b[A\n", + " 81%|███████████████████████████████▌ | 1800/2223 [04:11<00:43, 9.81it/s]\u001b[A\n", + " 81%|███████████████████████████████▌ | 1801/2223 [04:11<00:43, 9.73it/s]\u001b[A\n", + " 81%|███████████████████████████████▋ | 1803/2223 [04:12<00:40, 10.31it/s]\u001b[A\n", + " 81%|███████████████████████████████▋ | 1805/2223 [04:12<00:42, 9.83it/s]\u001b[A\n", + " 81%|███████████████████████████████▋ | 1807/2223 [04:12<00:42, 9.82it/s]\u001b[A\n", + " 81%|███████████████████████████████▋ | 1809/2223 [04:12<00:41, 9.88it/s]\u001b[A\n", + " 81%|███████████████████████████████▊ | 1811/2223 [04:12<00:41, 9.92it/s]\u001b[A\n", + " 82%|███████████████████████████████▊ | 1812/2223 [04:13<00:41, 9.93it/s]\u001b[A\n", + " 82%|███████████████████████████████▊ | 1813/2223 [04:13<00:41, 9.93it/s]\u001b[A\n", + " 82%|███████████████████████████████▊ | 1814/2223 [04:13<00:41, 9.89it/s]\u001b[A\n", + " 82%|███████████████████████████████▊ | 1815/2223 [04:13<00:41, 9.74it/s]\u001b[A\n", + " 82%|███████████████████████████████▉ | 1817/2223 [04:13<00:41, 9.75it/s]\u001b[A\n", + " 82%|███████████████████████████████▉ | 1819/2223 [04:13<00:41, 9.82it/s]\u001b[A\n", + " 82%|███████████████████████████████▉ | 1821/2223 [04:13<00:41, 9.74it/s]\u001b[A\n", + " 82%|███████████████████████████████▉ | 1823/2223 [04:14<00:40, 9.88it/s]\u001b[A\n", + " 82%|████████████████████████████████ | 1824/2223 [04:14<00:40, 9.84it/s]\u001b[A\n", + " 82%|████████████████████████████████ | 1825/2223 [04:14<00:40, 9.86it/s]\u001b[A\n", + " 82%|████████████████████████████████ | 1826/2223 [04:14<00:41, 9.54it/s]\u001b[A\n", + " 82%|████████████████████████████████ | 1828/2223 [04:14<00:40, 9.64it/s]\u001b[A\n", + " 82%|████████████████████████████████ | 1829/2223 [04:14<00:40, 9.70it/s]\u001b[A\n", + " 82%|████████████████████████████████ | 1831/2223 [04:14<00:39, 9.88it/s]\u001b[A\n", + " 82%|████████████████████████████████▏ | 1832/2223 [04:15<00:39, 9.82it/s]\u001b[A\n", + " 82%|████████████████████████████████▏ | 1833/2223 [04:15<00:39, 9.83it/s]\u001b[A\n", + " 83%|████████████████████████████████▏ | 1834/2223 [04:15<00:39, 9.80it/s]\u001b[A\n", + " 83%|████████████████████████████████▏ | 1835/2223 [04:15<00:43, 8.83it/s]\u001b[A\n", + " 83%|████████████████████████████████▏ | 1836/2223 [04:15<00:42, 9.08it/s]\u001b[A\n", + " 83%|████████████████████████████████▏ | 1837/2223 [04:15<00:42, 9.19it/s]\u001b[A\n", + " 83%|████████████████████████████████▏ | 1838/2223 [04:15<00:44, 8.74it/s]\u001b[A\n", + " 83%|████████████████████████████████▎ | 1840/2223 [04:15<00:43, 8.78it/s]\u001b[A\n", + " 83%|████████████████████████████████▎ | 1842/2223 [04:16<00:45, 8.45it/s]\u001b[A\n", + " 83%|████████████████████████████████▎ | 1843/2223 [04:16<00:44, 8.55it/s]\u001b[A\n", + " 83%|████████████████████████████████▎ | 1844/2223 [04:16<00:44, 8.52it/s]\u001b[A\n", + " 83%|████████████████████████████████▍ | 1846/2223 [04:16<00:45, 8.34it/s]\u001b[A\n", + " 83%|████████████████████████████████▍ | 1848/2223 [04:16<00:41, 9.06it/s]\u001b[A\n", + " 83%|████████████████████████████████▍ | 1850/2223 [04:17<00:39, 9.35it/s]\u001b[A\n", + " 83%|████████████████████████████████▍ | 1851/2223 [04:17<00:39, 9.47it/s]\u001b[A\n", + " 83%|████████████████████████████████▍ | 1852/2223 [04:17<00:39, 9.48it/s]\u001b[A\n", + " 83%|████████████████████████████████▌ | 1854/2223 [04:17<00:37, 9.88it/s]\u001b[A\n", + " 83%|████████████████████████████████▌ | 1855/2223 [04:17<00:37, 9.70it/s]\u001b[A\n", + " 84%|████████████████████████████████▌ | 1857/2223 [04:17<00:36, 10.03it/s]\u001b[A\n", + " 84%|████████████████████████████████▌ | 1858/2223 [04:17<00:37, 9.62it/s]\u001b[A\n", + " 84%|████████████████████████████████▋ | 1860/2223 [04:18<00:36, 9.96it/s]\u001b[A\n", + " 84%|████████████████████████████████▋ | 1861/2223 [04:18<00:37, 9.76it/s]\u001b[A\n", + " 84%|████████████████████████████████▋ | 1863/2223 [04:18<00:35, 10.06it/s]\u001b[A\n", + " 84%|████████████████████████████████▋ | 1864/2223 [04:18<00:37, 9.56it/s]\u001b[A\n", + " 84%|████████████████████████████████▋ | 1865/2223 [04:18<00:37, 9.55it/s]\u001b[A\n", + " 84%|████████████████████████████████▊ | 1867/2223 [04:18<00:35, 9.92it/s]\u001b[A\n", + " 84%|████████████████████████████████▊ | 1868/2223 [04:18<00:38, 9.27it/s]\u001b[A\n", + " 84%|████████████████████████████████▊ | 1870/2223 [04:19<00:35, 9.96it/s]\u001b[A\n", + " 84%|████████████████████████████████▊ | 1872/2223 [04:19<00:35, 10.02it/s]\u001b[A\n", + " 84%|████████████████████████████████▊ | 1873/2223 [04:19<00:34, 10.00it/s]\u001b[A\n", + " 84%|████████████████████████████████▉ | 1875/2223 [04:19<00:35, 9.70it/s]\u001b[A\n", + " 84%|████████████████████████████████▉ | 1876/2223 [04:19<00:35, 9.76it/s]\u001b[A\n", + " 84%|████████████████████████████████▉ | 1877/2223 [04:19<00:35, 9.80it/s]\u001b[A\n", + " 85%|████████████████████████████████▉ | 1879/2223 [04:20<00:35, 9.76it/s]\u001b[A\n", + " 85%|█████████████████████████████████ | 1881/2223 [04:20<00:34, 9.79it/s]\u001b[A\n", + " 85%|█████████████████████████████████ | 1883/2223 [04:20<00:34, 9.87it/s]\u001b[A\n", + " 85%|█████████████████████████████████ | 1885/2223 [04:20<00:33, 10.00it/s]\u001b[A\n", + " 85%|█████████████████████████████████ | 1886/2223 [04:20<00:34, 9.67it/s]\u001b[A\n", + " 85%|█████████████████████████████████ | 1887/2223 [04:20<00:34, 9.61it/s]\u001b[A\n", + " 85%|█████████████████████████████████ | 1888/2223 [04:20<00:34, 9.69it/s]\u001b[A\n", + " 85%|█████████████████████████████████▏ | 1890/2223 [04:21<00:33, 9.88it/s]\u001b[A\n", + " 85%|█████████████████████████████████▏ | 1891/2223 [04:21<00:33, 9.87it/s]\u001b[A\n", + " 85%|█████████████████████████████████▏ | 1893/2223 [04:21<00:32, 10.06it/s]\u001b[A\n", + " 85%|█████████████████████████████████▏ | 1894/2223 [04:21<00:33, 9.80it/s]\u001b[A\n", + " 85%|█████████████████████████████████▎ | 1896/2223 [04:21<00:34, 9.41it/s]\u001b[A\n", + " 85%|█████████████████████████████████▎ | 1898/2223 [04:21<00:34, 9.52it/s]\u001b[A\n", + " 85%|█████████████████████████████████▎ | 1899/2223 [04:22<00:34, 9.49it/s]\u001b[A\n", + " 85%|█████████████████████████████████▎ | 1900/2223 [04:22<00:34, 9.42it/s]\u001b[A\n", + " 86%|█████████████████████████████████▎ | 1901/2223 [04:22<00:33, 9.53it/s]\u001b[A\n", + " 86%|█████████████████████████████████▎ | 1902/2223 [04:22<00:35, 8.93it/s]\u001b[A\n", + " 86%|█████████████████████████████████▍ | 1904/2223 [04:22<00:34, 9.32it/s]\u001b[A\n", + " 86%|█████████████████████████████████▍ | 1905/2223 [04:22<00:33, 9.44it/s]\u001b[A\n", + " 86%|█████████████████████████████████▍ | 1906/2223 [04:22<00:33, 9.40it/s]\u001b[A\n", + " 86%|█████████████████████████████████▍ | 1908/2223 [04:23<00:32, 9.55it/s]\u001b[A\n", + " 86%|█████████████████████████████████▌ | 1910/2223 [04:23<00:32, 9.63it/s]\u001b[A\n", + " 86%|█████████████████████████████████▌ | 1912/2223 [04:23<00:31, 9.83it/s]\u001b[A\n", + " 86%|█████████████████████████████████▌ | 1914/2223 [04:23<00:31, 9.79it/s]\u001b[A\n", + " 86%|█████████████████████████████████▌ | 1916/2223 [04:23<00:30, 10.05it/s]\u001b[A\n", + " 86%|█████████████████████████████████▋ | 1918/2223 [04:24<00:31, 9.77it/s]\u001b[A\n", + " 86%|█████████████████████████████████▋ | 1920/2223 [04:24<00:30, 9.84it/s]\u001b[A\n", + " 86%|█████████████████████████████████▋ | 1921/2223 [04:24<00:30, 9.86it/s]\u001b[A\n", + " 86%|█████████████████████████████████▋ | 1922/2223 [04:24<00:30, 9.86it/s]\u001b[A\n", + " 87%|█████████████████████████████████▊ | 1924/2223 [04:24<00:29, 10.03it/s]\u001b[A\n", + " 87%|█████████████████████████████████▊ | 1926/2223 [04:24<00:30, 9.85it/s]\u001b[A\n", + " 87%|█████████████████████████████████▊ | 1928/2223 [04:25<00:29, 9.99it/s]\u001b[A\n", + " 87%|█████████████████████████████████▊ | 1930/2223 [04:25<00:30, 9.71it/s]\u001b[A\n", + " 87%|█████████████████████████████████▉ | 1932/2223 [04:25<00:29, 9.94it/s]\u001b[A\n", + " 87%|█████████████████████████████████▉ | 1934/2223 [04:25<00:29, 9.81it/s]\u001b[A\n", + " 87%|█████████████████████████████████▉ | 1935/2223 [04:25<00:29, 9.72it/s]\u001b[A\n", + " 87%|█████████████████████████████████▉ | 1937/2223 [04:25<00:28, 10.10it/s]\u001b[A\n", + " 87%|██████████████████████████████████ | 1939/2223 [04:26<00:29, 9.61it/s]\u001b[A\n", + " 87%|██████████████████████████████████ | 1941/2223 [04:26<00:28, 9.80it/s]\u001b[A\n", + " 87%|██████████████████████████████████ | 1942/2223 [04:26<00:29, 9.63it/s]\u001b[A\n", + " 87%|██████████████████████████████████ | 1943/2223 [04:26<00:28, 9.68it/s]\u001b[A\n", + " 87%|██████████████████████████████████ | 1945/2223 [04:26<00:28, 9.79it/s]\u001b[A\n", + " 88%|██████████████████████████████████▏ | 1947/2223 [04:27<00:27, 9.88it/s]\u001b[A\n", + " 88%|██████████████████████████████████▏ | 1948/2223 [04:27<00:27, 9.89it/s]\u001b[A\n", + " 88%|██████████████████████████████████▏ | 1949/2223 [04:27<00:27, 9.87it/s]\u001b[A\n", + " 88%|██████████████████████████████████▏ | 1951/2223 [04:27<00:28, 9.71it/s]\u001b[A\n", + " 88%|██████████████████████████████████▏ | 1952/2223 [04:27<00:28, 9.64it/s]\u001b[A\n", + " 88%|██████████████████████████████████▎ | 1954/2223 [04:27<00:27, 9.72it/s]\u001b[A\n", + " 88%|██████████████████████████████████▎ | 1956/2223 [04:27<00:26, 9.95it/s]\u001b[A\n", + " 88%|██████████████████████████████████▎ | 1957/2223 [04:28<00:27, 9.79it/s]\u001b[A\n", + " 88%|██████████████████████████████████▎ | 1958/2223 [04:28<00:27, 9.80it/s]\u001b[A\n", + " 88%|██████████████████████████████████▎ | 1959/2223 [04:28<00:26, 9.78it/s]\u001b[A\n", + " 88%|██████████████████████████████████▍ | 1961/2223 [04:28<00:26, 10.06it/s]\u001b[A\n", + " 88%|██████████████████████████████████▍ | 1962/2223 [04:28<00:26, 9.87it/s]\u001b[A\n", + " 88%|██████████████████████████████████▍ | 1963/2223 [04:28<00:27, 9.44it/s]\u001b[A\n", + " 88%|██████████████████████████████████▍ | 1965/2223 [04:28<00:26, 9.78it/s]\u001b[A\n", + " 88%|██████████████████████████████████▍ | 1966/2223 [04:28<00:26, 9.57it/s]\u001b[A\n", + " 88%|██████████████████████████████████▌ | 1967/2223 [04:29<00:26, 9.53it/s]\u001b[A\n", + " 89%|██████████████████████████████████▌ | 1968/2223 [04:29<00:26, 9.59it/s]\u001b[A\n", + " 89%|██████████████████████████████████▌ | 1969/2223 [04:29<00:26, 9.65it/s]\u001b[A\n", + " 89%|██████████████████████████████████▌ | 1970/2223 [04:29<00:26, 9.68it/s]\u001b[A\n", + " 89%|██████████████████████████████████▌ | 1972/2223 [04:29<00:25, 9.83it/s]\u001b[A\n", + " 89%|██████████████████████████████████▋ | 1974/2223 [04:29<00:25, 9.92it/s]\u001b[A\n", + " 89%|██████████████████████████████████▋ | 1976/2223 [04:29<00:24, 9.90it/s]\u001b[A\n", + " 89%|██████████████████████████████████▋ | 1977/2223 [04:30<00:25, 9.83it/s]\u001b[A\n", + " 89%|██████████████████████████████████▋ | 1978/2223 [04:30<00:25, 9.78it/s]\u001b[A\n", + " 89%|██████████████████████████████████▋ | 1980/2223 [04:30<00:24, 9.80it/s]\u001b[A\n", + " 89%|██████████████████████████████████▊ | 1982/2223 [04:30<00:25, 9.64it/s]\u001b[A\n", + " 89%|██████████████████████████████████▊ | 1984/2223 [04:30<00:24, 9.83it/s]\u001b[A\n", + " 89%|██████████████████████████████████▊ | 1986/2223 [04:31<00:23, 9.90it/s]\u001b[A\n", + " 89%|██████████████████████████████████▊ | 1987/2223 [04:31<00:23, 9.91it/s]\u001b[A\n", + " 89%|██████████████████████████████████▉ | 1989/2223 [04:31<00:22, 10.21it/s]\u001b[A\n", + " 90%|██████████████████████████████████▉ | 1991/2223 [04:31<00:23, 9.84it/s]\u001b[A\n", + " 90%|██████████████████████████████████▉ | 1992/2223 [04:31<00:25, 9.21it/s]\u001b[A\n", + " 90%|██████████████████████████████████▉ | 1994/2223 [04:31<00:25, 8.90it/s]\u001b[A\n", + " 90%|███████████████████████████████████ | 1995/2223 [04:32<00:27, 8.44it/s]\u001b[A\n", + " 90%|███████████████████████████████████ | 1997/2223 [04:32<00:24, 9.06it/s]\u001b[A\n", + " 90%|███████████████████████████████████ | 1998/2223 [04:32<00:25, 8.97it/s]\u001b[A\n", + " 90%|███████████████████████████████████ | 1999/2223 [04:32<00:24, 9.08it/s]\u001b[A\n", + " 90%|███████████████████████████████████ | 2001/2223 [04:32<00:24, 8.99it/s]\u001b[A\n", + " 90%|███████████████████████████████████▏ | 2003/2223 [04:32<00:23, 9.27it/s]\u001b[A\n", + " 90%|███████████████████████████████████▏ | 2005/2223 [04:33<00:22, 9.60it/s]\u001b[A\n", + " 90%|███████████████████████████████████▏ | 2007/2223 [04:33<00:22, 9.73it/s]\u001b[A\n", + " 90%|███████████████████████████████████▏ | 2009/2223 [04:33<00:21, 9.79it/s]\u001b[A\n", + " 90%|███████████████████████████████████▎ | 2010/2223 [04:33<00:21, 9.81it/s]\u001b[A\n", + " 90%|███████████████████████████████████▎ | 2011/2223 [04:33<00:22, 9.51it/s]\u001b[A\n", + " 91%|███████████████████████████████████▎ | 2013/2223 [04:33<00:21, 9.66it/s]\u001b[A\n", + " 91%|███████████████████████████████████▎ | 2015/2223 [04:34<00:20, 10.18it/s]\u001b[A\n", + " 91%|███████████████████████████████████▍ | 2017/2223 [04:34<00:20, 9.91it/s]\u001b[A\n", + " 91%|███████████████████████████████████▍ | 2018/2223 [04:34<00:20, 9.86it/s]\u001b[A\n", + " 91%|███████████████████████████████████▍ | 2019/2223 [04:34<00:21, 9.69it/s]\u001b[A\n", + " 91%|███████████████████████████████████▍ | 2021/2223 [04:34<00:20, 9.82it/s]\u001b[A\n", + " 91%|███████████████████████████████████▍ | 2022/2223 [04:34<00:20, 9.78it/s]\u001b[A\n", + " 91%|███████████████████████████████████▌ | 2024/2223 [04:35<00:20, 9.61it/s]\u001b[A\n", + " 91%|███████████████████████████████████▌ | 2025/2223 [04:35<00:27, 7.18it/s]\u001b[A\n", + " 91%|███████████████████████████████████▌ | 2026/2223 [04:35<00:27, 7.06it/s]\u001b[A\n", + " 91%|███████████████████████████████████▌ | 2027/2223 [04:35<00:26, 7.27it/s]\u001b[A\n", + " 91%|███████████████████████████████████▌ | 2029/2223 [04:35<00:22, 8.59it/s]\u001b[A\n", + " 91%|███████████████████████████████████▌ | 2030/2223 [04:35<00:22, 8.77it/s]\u001b[A\n", + " 91%|███████████████████████████████████▋ | 2032/2223 [04:36<00:20, 9.39it/s]\u001b[A\n", + " 91%|███████████████████████████████████▋ | 2033/2223 [04:36<00:20, 9.46it/s]\u001b[A\n", + " 91%|███████████████████████████████████▋ | 2034/2223 [04:36<00:19, 9.56it/s]\u001b[A\n", + " 92%|███████████████████████████████████▋ | 2035/2223 [04:36<00:19, 9.64it/s]\u001b[A\n", + " 92%|███████████████████████████████████▋ | 2036/2223 [04:36<00:19, 9.49it/s]\u001b[A\n", + " 92%|███████████████████████████████████▋ | 2037/2223 [04:36<00:19, 9.61it/s]\u001b[A\n", + " 92%|███████████████████████████████████▊ | 2039/2223 [04:36<00:18, 9.83it/s]\u001b[A\n", + " 92%|███████████████████████████████████▊ | 2041/2223 [04:36<00:18, 9.98it/s]\u001b[A\n", + " 92%|███████████████████████████████████▊ | 2042/2223 [04:37<00:20, 9.02it/s]\u001b[A\n", + " 92%|███████████████████████████████████▊ | 2044/2223 [04:37<00:18, 9.73it/s]\u001b[A\n", + " 92%|███████████████████████████████████▉ | 2046/2223 [04:37<00:18, 9.75it/s]\u001b[A\n", + " 92%|███████████████████████████████████▉ | 2047/2223 [04:37<00:18, 9.71it/s]\u001b[A\n", + " 92%|███████████████████████████████████▉ | 2049/2223 [04:37<00:17, 10.03it/s]\u001b[A\n", + " 92%|███████████████████████████████████▉ | 2050/2223 [04:37<00:17, 9.80it/s]\u001b[A\n", + " 92%|███████████████████████████████████▉ | 2051/2223 [04:37<00:17, 9.75it/s]\u001b[A\n", + " 92%|████████████████████████████████████ | 2052/2223 [04:38<00:18, 9.44it/s]\u001b[A\n", + " 92%|████████████████████████████████████ | 2053/2223 [04:38<00:20, 8.11it/s]\u001b[A\n", + " 92%|████████████████████████████████████ | 2054/2223 [04:38<00:21, 7.93it/s]\u001b[A\n", + " 92%|████████████████████████████████████ | 2056/2223 [04:38<00:18, 8.89it/s]\u001b[A\n", + " 93%|████████████████████████████████████ | 2058/2223 [04:38<00:17, 9.33it/s]\u001b[A\n", + " 93%|████████████████████████████████████ | 2059/2223 [04:38<00:18, 8.98it/s]\u001b[A\n", + " 93%|████████████████████████████████████▏ | 2060/2223 [04:39<00:18, 8.96it/s]\u001b[A\n", + " 93%|████████████████████████████████████▏ | 2061/2223 [04:39<00:17, 9.09it/s]\u001b[A\n", + " 93%|████████████████████████████████████▏ | 2062/2223 [04:39<00:17, 9.14it/s]\u001b[A\n", + " 93%|████████████████████████████████████▏ | 2064/2223 [04:39<00:16, 9.94it/s]\u001b[A\n", + " 93%|████████████████████████████████████▏ | 2065/2223 [04:39<00:16, 9.47it/s]\u001b[A\n", + " 93%|████████████████████████████████████▏ | 2066/2223 [04:39<00:17, 8.90it/s]\u001b[A\n", + " 93%|████████████████████████████████████▎ | 2068/2223 [04:39<00:15, 10.00it/s]\u001b[A\n", + " 93%|████████████████████████████████████▎ | 2069/2223 [04:39<00:16, 9.30it/s]\u001b[A\n", + " 93%|████████████████████████████████████▎ | 2070/2223 [04:40<00:16, 9.38it/s]\u001b[A\n", + " 93%|████████████████████████████████████▎ | 2071/2223 [04:56<10:53, 4.30s/it]\u001b[A\n", + " 93%|████████████████████████████████████▎ | 2073/2223 [04:56<06:15, 2.50s/it]\u001b[A\n", + " 93%|████████████████████████████████████▍ | 2075/2223 [04:56<03:55, 1.59s/it]\u001b[A\n", + " 93%|████████████████████████████████████▍ | 2076/2223 [04:56<03:07, 1.28s/it]\u001b[A\n", + " 93%|████████████████████████████████████▍ | 2078/2223 [04:56<02:00, 1.20it/s]\u001b[A\n", + " 94%|████████████████████████████████████▍ | 2079/2223 [04:57<01:37, 1.47it/s]\u001b[A\n", + " 94%|████████████████████████████████████▌ | 2081/2223 [04:57<01:04, 2.20it/s]\u001b[A\n", + " 94%|████████████████████████████████████▌ | 2083/2223 [04:57<00:46, 2.99it/s]\u001b[A\n", + " 94%|████████████████████████████████████▌ | 2085/2223 [04:57<00:36, 3.83it/s]\u001b[A\n", + " 94%|████████████████████████████████████▌ | 2086/2223 [04:57<00:32, 4.22it/s]\u001b[A\n", + " 94%|████████████████████████████████████▋ | 2088/2223 [04:58<00:24, 5.41it/s]\u001b[A\n", + " 94%|████████████████████████████████████▋ | 2089/2223 [04:58<00:22, 5.96it/s]\u001b[A\n", + " 94%|████████████████████████████████████▋ | 2091/2223 [04:58<00:18, 6.98it/s]\u001b[A\n", + " 94%|████████████████████████████████████▋ | 2093/2223 [04:58<00:16, 7.84it/s]\u001b[A\n", + " 94%|████████████████████████████████████▋ | 2094/2223 [04:58<00:15, 8.11it/s]\u001b[A\n", + " 94%|████████████████████████████████████▊ | 2095/2223 [04:58<00:17, 7.38it/s]\u001b[A\n", + " 94%|████████████████████████████████████▊ | 2096/2223 [04:58<00:16, 7.83it/s]\u001b[A\n", + " 94%|████████████████████████████████████▊ | 2098/2223 [04:59<00:14, 8.54it/s]\u001b[A\n", + " 94%|████████████████████████████████████▊ | 2100/2223 [04:59<00:13, 9.05it/s]\u001b[A\n", + " 95%|████████████████████████████████████▊ | 2101/2223 [04:59<00:13, 8.90it/s]\u001b[A\n", + " 95%|████████████████████████████████████▉ | 2103/2223 [04:59<00:12, 9.38it/s]\u001b[A\n", + " 95%|████████████████████████████████████▉ | 2104/2223 [04:59<00:12, 9.42it/s]\u001b[A\n", + " 95%|████████████████████████████████████▉ | 2106/2223 [04:59<00:12, 9.72it/s]\u001b[A\n", + " 95%|████████████████████████████████████▉ | 2107/2223 [05:00<00:12, 9.56it/s]\u001b[A\n", + " 95%|█████████████████████████████████████ | 2109/2223 [05:00<00:11, 9.84it/s]\u001b[A\n", + " 95%|█████████████████████████████████████ | 2110/2223 [05:00<00:11, 9.79it/s]\u001b[A\n", + " 95%|█████████████████████████████████████ | 2111/2223 [05:00<00:11, 9.65it/s]\u001b[A\n", + " 95%|█████████████████████████████████████ | 2113/2223 [05:00<00:11, 9.99it/s]\u001b[A\n", + " 95%|█████████████████████████████████████ | 2114/2223 [05:00<00:11, 9.58it/s]\u001b[A\n", + " 95%|█████████████████████████████████████ | 2116/2223 [05:00<00:10, 9.88it/s]\u001b[A\n", + " 95%|█████████████████████████████████████▏ | 2117/2223 [05:01<00:10, 9.83it/s]\u001b[A\n", + " 95%|█████████████████████████████████████▏ | 2119/2223 [05:01<00:10, 9.85it/s]\u001b[A\n", + " 95%|█████████████████████████████████████▏ | 2120/2223 [05:01<00:11, 8.98it/s]\u001b[A\n", + " 95%|█████████████████████████████████████▏ | 2122/2223 [05:01<00:10, 9.45it/s]\u001b[A\n", + " 96%|█████████████████████████████████████▏ | 2123/2223 [05:01<00:10, 9.40it/s]\u001b[A\n", + " 96%|█████████████████████████████████████▎ | 2124/2223 [05:01<00:10, 9.32it/s]\u001b[A\n", + " 96%|█████████████████████████████████████▎ | 2126/2223 [05:01<00:09, 10.00it/s]\u001b[A\n", + " 96%|█████████████████████████████████████▎ | 2127/2223 [05:02<00:10, 9.30it/s]\u001b[A\n", + " 96%|█████████████████████████████████████▎ | 2129/2223 [05:02<00:10, 9.16it/s]\u001b[A\n", + " 96%|█████████████████████████████████████▎ | 2130/2223 [05:02<00:10, 9.10it/s]\u001b[A\n", + " 96%|█████████████████████████████████████▍ | 2131/2223 [05:02<00:09, 9.28it/s]\u001b[A\n", + " 96%|█████████████████████████████████████▍ | 2133/2223 [05:02<00:09, 9.78it/s]\u001b[A\n", + " 96%|█████████████████████████████████████▍ | 2134/2223 [05:02<00:09, 9.65it/s]\u001b[A\n", + " 96%|█████████████████████████████████████▍ | 2136/2223 [05:03<00:09, 9.19it/s]\u001b[A\n", + " 96%|█████████████████████████████████████▌ | 2138/2223 [05:03<00:08, 9.73it/s]\u001b[A\n", + " 96%|█████████████████████████████████████▌ | 2140/2223 [05:03<00:08, 9.86it/s]\u001b[A\n", + " 96%|█████████████████████████████████████▌ | 2141/2223 [05:03<00:08, 9.83it/s]\u001b[A\n", + " 96%|█████████████████████████████████████▌ | 2143/2223 [05:03<00:07, 10.06it/s]\u001b[A\n", + " 96%|█████████████████████████████████████▋ | 2145/2223 [05:03<00:07, 9.81it/s]\u001b[A\n", + " 97%|█████████████████████████████████████▋ | 2147/2223 [05:04<00:07, 10.02it/s]\u001b[A\n", + " 97%|█████████████████████████████████████▋ | 2149/2223 [05:04<00:07, 9.94it/s]\u001b[A\n", + " 97%|█████████████████████████████████████▋ | 2151/2223 [05:04<00:07, 10.21it/s]\u001b[A\n", + " 97%|█████████████████████████████████████▊ | 2153/2223 [05:04<00:07, 9.76it/s]\u001b[A\n", + " 97%|█████████████████████████████████████▊ | 2155/2223 [05:04<00:06, 10.01it/s]\u001b[A\n", + " 97%|█████████████████████████████████████▊ | 2157/2223 [05:05<00:06, 10.38it/s]\u001b[A\n", + " 97%|█████████████████████████████████████▉ | 2159/2223 [05:05<00:06, 9.83it/s]\u001b[A\n", + " 97%|█████████████████████████████████████▉ | 2161/2223 [05:05<00:06, 9.83it/s]\u001b[A\n", + " 97%|█████████████████████████████████████▉ | 2162/2223 [05:05<00:06, 9.20it/s]\u001b[A\n", + " 97%|█████████████████████████████████████▉ | 2164/2223 [05:05<00:06, 9.80it/s]\u001b[A\n", + " 97%|██████████████████████████████████████ | 2166/2223 [05:06<00:05, 10.25it/s]\u001b[A\n", + " 98%|██████████████████████████████████████ | 2168/2223 [05:06<00:05, 9.32it/s]\u001b[A\n", + " 98%|██████████████████████████████████████ | 2169/2223 [05:06<00:05, 9.43it/s]\u001b[A\n", + " 98%|██████████████████████████████████████ | 2171/2223 [05:06<00:05, 8.89it/s]\u001b[A\n", + " 98%|██████████████████████████████████████ | 2173/2223 [05:06<00:05, 9.41it/s]\u001b[A\n", + " 98%|██████████████████████████████████████▏| 2174/2223 [05:06<00:05, 9.50it/s]\u001b[A\n", + " 98%|██████████████████████████████████████▏| 2175/2223 [05:07<00:04, 9.60it/s]\u001b[A\n", + " 98%|██████████████████████████████████████▏| 2176/2223 [05:07<00:04, 9.49it/s]\u001b[A\n", + " 98%|██████████████████████████████████████▏| 2177/2223 [05:07<00:04, 9.55it/s]\u001b[A\n", + " 98%|██████████████████████████████████████▏| 2178/2223 [05:07<00:04, 9.63it/s]\u001b[A\n", + " 98%|██████████████████████████████████████▏| 2179/2223 [05:07<00:04, 9.41it/s]\u001b[A\n", + " 98%|██████████████████████████████████████▏| 2180/2223 [05:07<00:04, 9.36it/s]\u001b[A\n", + " 98%|██████████████████████████████████████▎| 2182/2223 [05:07<00:04, 9.54it/s]\u001b[A\n", + " 98%|██████████████████████████████████████▎| 2184/2223 [05:07<00:03, 9.88it/s]\u001b[A\n", + " 98%|██████████████████████████████████████▎| 2186/2223 [05:08<00:03, 9.92it/s]\u001b[A\n", + " 98%|██████████████████████████████████████▎| 2187/2223 [05:08<00:03, 9.94it/s]\u001b[A\n", + " 98%|██████████████████████████████████████▍| 2188/2223 [05:08<00:03, 9.94it/s]\u001b[A\n", + " 99%|██████████████████████████████████████▍| 2190/2223 [05:08<00:03, 10.16it/s]\u001b[A\n", + " 99%|██████████████████████████████████████▍| 2192/2223 [05:08<00:03, 9.76it/s]\u001b[A\n", + " 99%|██████████████████████████████████████▍| 2193/2223 [05:08<00:03, 9.52it/s]\u001b[A\n", + " 99%|██████████████████████████████████████▌| 2195/2223 [05:09<00:02, 9.94it/s]\u001b[A\n", + " 99%|██████████████████████████████████████▌| 2196/2223 [05:09<00:02, 9.42it/s]\u001b[A\n", + " 99%|██████████████████████████████████████▌| 2198/2223 [05:09<00:02, 9.98it/s]\u001b[A\n", + " 99%|██████████████████████████████████████▌| 2199/2223 [05:09<00:02, 9.41it/s]\u001b[A\n", + " 99%|██████████████████████████████████████▌| 2201/2223 [05:09<00:02, 10.02it/s]\u001b[A\n", + " 99%|██████████████████████████████████████▋| 2202/2223 [05:09<00:02, 9.58it/s]\u001b[A\n", + " 99%|██████████████████████████████████████▋| 2203/2223 [05:09<00:02, 9.61it/s]\u001b[A\n", + " 99%|██████████████████████████████████████▋| 2205/2223 [05:10<00:01, 9.84it/s]\u001b[A\n", + " 99%|██████████████████████████████████████▋| 2206/2223 [05:10<00:01, 8.91it/s]\u001b[A\n", + " 99%|██████████████████████████████████████▋| 2208/2223 [05:10<00:01, 9.61it/s]\u001b[A\n", + " 99%|██████████████████████████████████████▊| 2209/2223 [05:10<00:01, 9.34it/s]\u001b[A\n", + " 99%|██████████████████████████████████████▊| 2210/2223 [05:10<00:01, 9.23it/s]\u001b[A\n", + " 99%|██████████████████████████████████████▊| 2211/2223 [05:10<00:01, 9.41it/s]\u001b[A\n", + "100%|██████████████████████████████████████▊| 2213/2223 [05:10<00:01, 9.57it/s]\u001b[A\n", + "100%|██████████████████████████████████████▊| 2215/2223 [05:11<00:00, 9.68it/s]\u001b[A\n", + "100%|██████████████████████████████████████▉| 2217/2223 [05:11<00:00, 10.15it/s]\u001b[A\n", + "100%|██████████████████████████████████████▉| 2219/2223 [05:11<00:00, 9.71it/s]\u001b[A\n", + "100%|██████████████████████████████████████▉| 2220/2223 [05:11<00:00, 9.75it/s]\u001b[A\n", + "100%|██████████████████████████████████████▉| 2221/2223 [05:11<00:00, 9.47it/s]\u001b[A\n", + " \n", + "{'eval_loss': 0.3323407769203186, 'eval_runtime': 312.1133, 'eval_samples_per_second': 7.122, 'epoch': 7.0}\n", + " 70%|███████████████████████ | 8750/12500 [10:12:23<3:33:23, 3.41s/it]\n", + "100%|███████████████████████████████████████| 2223/2223 [05:12<00:00, 9.39it/s]\u001b[A\n", + "{'loss': 0.079, 'learning_rate': 0.00014133064516129033, 'epoch': 7.2}\n", + " 76%|█████████████████████████ | 9500/12500 [11:02:24<3:02:26, 3.65s/it]{'loss': 0.0677, 'learning_rate': 0.00012116935483870968, 'epoch': 7.6}\n", + "{'loss': 0.066, 'learning_rate': 0.00010100806451612904, 'epoch': 8.0}\n", + " 80%|█████████████████████████▌ | 10000/12500 [11:35:22<2:28:55, 3.57s/it]\n", + " 0%| | 0/2223 [00:00