Semestr Wiosenny 2021/22 @hbaniecki
Kontekst: Knowing What and Why? — Explaining Image Classifier Predictions
Projekty:
- Klasyfikacja obrazu i kreatywne wyjaśnianie zagadnień opisanych w pracy Kandinsky Patterns
- Zostanie podany na zajęciach
Materiały:
- Neural networks by 3Blue1Brown, Neural Network Playground
- An Introduction to Statistical Learning, Chapter 10
- Interpretable Machine Learning. A Guide for Making Black Box Models Explainable, Chapter 10
- Dive into Deep Learning, Chapters 1-7
- Explanatory Model Analysis. Explore, Explain and Examine Predictive Models
Technologie:
- torch, torchvision
- captum - Model Interpretability for PyTorch
- shap - SHapley Additive exPlanations
Dane:
Literatura:
- M. T. Ribeiro et al. "Why Should I Trust You?": Explaining the Predictions of Any Classifier. KDD, 2016. https://doi.org/10.1145/2939672.2939778
- S. M. Lundberg & S. Lee. A Unified Approach to Interpreting Model Predictions. NeurIPS, 2017. https://dl.acm.org/doi/10.5555/3295222.3295230
- M. Sundararajan et al. Axiomatic attribution for deep networks. ICML, 2017. https://dl.acm.org/doi/10.5555/3305890.3306024
- J. Adebayo et al. Sanity Checks for Saliency Maps. NeurIPS, 2018. https://dl.acm.org/doi/10.5555/3327546.3327621
| data | temat | zadanie | |
|---|---|---|---|
| 1 | 02-24 | Opis zajęć i przedstawienie tematyki projektu. | |
| 2 | 03-03 | Wstęp do sieci neuronowych i PyTorch. | PD-1 start |
| 3 | 03-10 | Sieci neuronowe w praktyce. | |
| 4 | 03-17 | Wstęp do konwolucyjnych sieci neuronowych (ResNet, DenseNet). | PD-1 oddanie, PD-2 start |
| 5 | 03-24 | Konwolucyjne sieci neuronowe w praktyce. | |
| 6 | 03-31 | Wstęp do wyjaśnień konwolucyjnych sieci neuronowych (SHAP, IG etc.). | PD-2 oddanie, PD-3 start |
| 7 | 04-07 | Wyjaśnienia konwolucyjnych sieci neuronowych w praktyce. | KM-1 start |
| 8 | 04-14 | Przegląd danych związanych z projektem. | PD-3 oddanie |
| 9 | 04-21 | Przedstawienie postępów projektów, konsultacje. | KM-1 oddanie, KM-2 start |
| 10 | 04-28 | Przegląd modeli związanych z projektem. | |
| 11 | 05-05 | Przedstawienie postępów projektów, konsultacje. | KM-2 oddanie, KM-3 start |
| 12 | 05-19 | Przegląd wyjaśnień związanych z projektem. | |
| 13 | 05-26 | Przedstawienie postępów projektów, konsultacje. | KM-3 oddanie, Prezentacja |
| 14 | 06-02 | *Manipulowanie wyjaśnieniami sieci neuronowych. | Raport |
| 15 | 06-09 | Podsumowanie projektu. | |
Warszataty Badawcze składają się z wykładu, zajęć laboratoryjnych i projektowych:
- praca podczas projektu -- 6 x 8 pkt = 48 pkt.
- prezentacja końcowa na wykładzie -- 16 pkt. (deadline: 29 maja)
- raport końcowy -- 32 pkt. (deadline: 3 czerwca)
- stosowanie dobrych praktyk wykorzystania GitHub -- 4 pkt.