diff --git a/neural_networks/parameters.txt b/neural_networks/parameters.txt index e5404be..3dda20e 100644 --- a/neural_networks/parameters.txt +++ b/neural_networks/parameters.txt @@ -1,46 +1,62 @@ -efficientnet_v2_l 1e-04 0 0.25 32 0 0 0 -efficientnet_v2_l 1e-04 1 0.25 32 0 0 0 -efficientnet_v2_l 1e-04 2 0.25 32 0 0 0 -dinov2_vitl14_reg 1e-04 0 0.25 32 0 0 0 -dinov2_vitl14_reg 1e-04 1 0.25 32 0 0 0 -dinov2_vitl14_reg 1e-04 0 0.25 32 1 0 0 -dinov2_vitl14_reg 1e-04 1 0.25 32 1 0 0 -efficientnet_v2_l 1e-04 0 0.25 32 0 0.1 1 -efficientnet_v2_l 1e-04 1 0.25 32 0 0.1 1 -efficientnet_v2_l 1e-04 2 0.25 32 0 0.1 1 -dinov2_vitl14_reg 1e-04 0 0.25 32 0 0.1 1 -dinov2_vitl14_reg 1e-04 1 0.25 32 0 0.1 1 -dinov2_vitl14_reg 1e-04 0 0.25 32 1 0.1 1 -dinov2_vitl14_reg 1e-04 1 0.25 32 1 0.1 1 -efficientnet_v2_l 1e-04 0 0.25 32 0 0.1 1 -efficientnet_v2_l 1e-04 1 0.25 32 0 0.1 1 -efficientnet_v2_l 1e-04 2 0.25 32 0 0.1 1 -dinov2_vitl14_reg 1e-04 0 0.25 32 0 0.1 1 -dinov2_vitl14_reg 1e-04 1 0.25 32 0 0.1 1 -dinov2_vitl14_reg 1e-04 0 0.25 32 1 0.1 1 -dinov2_vitl14_reg 1e-04 1 0.25 32 1 0.1 1 -efficientnet_v2_l 1e-04 0 0.25 32 0 0.2 0 -efficientnet_v2_l 1e-04 1 0.25 32 0 0.2 0 -efficientnet_v2_l 1e-04 2 0.25 32 0 0.2 0 -dinov2_vitl14_reg 1e-04 0 0.25 32 0 0.2 0 -dinov2_vitl14_reg 1e-04 1 0.25 32 0 0.2 0 -dinov2_vitl14_reg 1e-04 0 0.25 32 1 0.2 0 -dinov2_vitl14_reg 1e-04 1 0.25 32 1 0.2 0 -efficientnet_v2_l 1e-04 0 0.25 32 0 0.1 0 -efficientnet_v2_l 1e-04 1 0.25 32 0 0.1 0 -efficientnet_v2_l 1e-04 2 0.25 32 0 0.1 0 -dinov2_vitl14_reg 1e-04 0 0.25 32 0 0.1 0 -dinov2_vitl14_reg 1e-04 1 0.25 32 0 0.1 0 -dinov2_vitl14_reg 1e-04 0 0.25 32 1 0.1 0 -dinov2_vitl14_reg 1e-04 1 0.25 32 1 0.1 0 - -dinov2_vitl14_reg 1e-04 1 0.25 32 1 0.2 1 3 1 560 - dinov2_vitl14_reg 1e-04 1 0.25 32 0.1 0 0 16 16 560 +dinov2_vitl14_reg 1e-04 1 0.25 32 0.1 1 1 16 16 560 +dinov2_vitl14_reg 1e-04 1 0.25 32 0.2 1 0 16 16 560 +dinov2_vitl14_reg 1e-04 1 0.25 32 0.2 0 1 16 16 560 + +dinov2_vitl14_reg 1e-04 1 0.1 32 0.1 0 0 16 16 560 +dinov2_vitl14_reg 1e-04 1 0.1 32 0.1 1 1 16 16 560 +dinov2_vitl14_reg 1e-04 1 0.1 32 0.2 1 0 16 16 560 +dinov2_vitl14_reg 1e-04 1 0.1 32 0.2 0 1 16 16 560 + +dinov2_vitl14_reg 1e-05 1 0.25 32 0.1 0 0 16 16 560 +dinov2_vitl14_reg 1e-05 1 0.25 32 0.1 1 1 16 16 560 +dinov2_vitl14_reg 1e-05 1 0.25 32 0.2 1 0 16 16 560 +dinov2_vitl14_reg 1e-05 1 0.25 32 0.2 0 1 16 16 560 + +dinov2_vitl14_reg 1e-05 1 0.1 32 0.1 0 0 16 16 560 +dinov2_vitl14_reg 1e-05 1 0.1 32 0.1 1 1 16 16 560 +dinov2_vitl14_reg 1e-05 1 0.1 32 0.2 1 0 16 16 560 +dinov2_vitl14_reg 1e-05 1 0.1 32 0.2 0 1 16 16 560 + +dinov2_vitl14_reg 5e-05 1 0.25 32 0.1 0 0 16 16 560 +dinov2_vitl14_reg 5e-05 1 0.25 32 0.1 1 1 16 16 560 +dinov2_vitl14_reg 5e-05 1 0.25 32 0.2 1 0 16 16 560 +dinov2_vitl14_reg 5e-05 1 0.25 32 0.2 0 1 16 16 560 + +dinov2_vitl14_reg 5e-05 1 0.1 32 0.1 0 0 16 16 560 +dinov2_vitl14_reg 5e-05 1 0.1 32 0.1 1 1 16 16 560 +dinov2_vitl14_reg 5e-05 1 0.1 32 0.2 1 0 16 16 560 +dinov2_vitl14_reg 5e-05 1 0.1 32 0.2 0 1 16 16 560 + +efficientnet_v2_l 1e-04 1 0.25 32 0.2 0 0 16 16 0 +efficientnet_v2_l 1e-04 1 0.25 32 0.2 1 0 16 16 0 +efficientnet_v2_l 1e-04 1 0.25 32 0.1 1 0 16 16 0 +efficientnet_v2_l 1e-04 1 0.25 32 0.1 0 0 16 16 0 + +efficientnet_v2_l 1e-04 1 0.1 32 0.2 0 0 16 16 0 +efficientnet_v2_l 1e-04 1 0.1 32 0.2 1 0 16 16 0 +efficientnet_v2_l 1e-04 1 0.1 32 0.1 1 0 16 16 0 +efficientnet_v2_l 1e-04 1 0.1 32 0.1 0 0 16 16 0 + +efficientnet_v2_l 5e-05 1 0.25 32 0.2 0 0 16 16 0 +efficientnet_v2_l 5e-05 1 0.25 32 0.2 1 0 16 16 0 +efficientnet_v2_l 5e-05 1 0.25 32 0.1 1 0 16 16 0 +efficientnet_v2_l 5e-05 1 0.25 32 0.1 0 0 16 16 0 + +efficientnet_v2_l 5e-05 1 0.1 32 0.2 0 0 16 16 0 +efficientnet_v2_l 5e-05 1 0.1 32 0.2 1 0 16 16 0 +efficientnet_v2_l 5e-05 1 0.1 32 0.1 1 0 16 16 0 +efficientnet_v2_l 5e-05 1 0.1 32 0.1 0 0 16 16 0 + +efficientnet_v2_l 1e-05 1 0.25 32 0.2 0 0 16 16 0 +efficientnet_v2_l 1e-05 1 0.25 32 0.2 1 0 16 16 0 +efficientnet_v2_l 1e-05 1 0.25 32 0.1 1 0 16 16 0 +efficientnet_v2_l 1e-05 1 0.25 32 0.1 0 0 16 16 0 -dinov2_vitl14_reg 1e-04 1 0.25 32 1 0.1 1 16 16 784 -dinov2_vitl14_reg 1e-04 1 0.25 32 1 0.2 1 16 16 560 -dinov2_vitl14_reg 1e-04 1 0.25 32 1 0.2 1 16 16 784 +efficientnet_v2_l 1e-05 1 0.1 32 0.2 0 0 16 16 0 +efficientnet_v2_l 1e-05 1 0.1 32 0.2 1 0 16 16 0 +efficientnet_v2_l 1e-05 1 0.1 32 0.1 1 0 16 16 0 +efficientnet_v2_l 1e-05 1 0.1 32 0.1 0 0 16 16 0 diff --git a/neural_networks/train_nn.py b/neural_networks/train_nn.py index cb90f45..79e7ad5 100644 --- a/neural_networks/train_nn.py +++ b/neural_networks/train_nn.py @@ -18,8 +18,8 @@ import numpy as np import random -from .pre_processing_for_ml import FitsDataset -from .dino_model import DINOV2FeatureExtractor +from pre_processing_for_ml import FitsDataset +from dino_model import DINOV2FeatureExtractor PROFILE = False SEED = None