Analiza wpływu pojemności sieci neuronowych i generowania perturbacji na generalizację estymatorów funkcji score w modelach dyfuzyjnych

Celem projektu jest zbadanie, w jaki sposób pojemność sieci neuronowej oraz sposób generowania zakłóceń wpływają na jakość uczenia modeli dyfuzyjnych. Szczególna uwaga zostanie poświęcona trzem zjawiskom: jakości estymacji zależnej od czasu funkcji score, zapamiętywaniu danych treningowych oraz występowaniu zjawiska podwójnego spadku błędu (double descent).

Istotną luką badawczą jest brak jednoznacznego rozróżnienia pomiędzy rzeczywistą poprawą estymacji funkcji score a dopasowaniem modelu do losowych składników celu treningowego. Nadal niewystarczająco poznany pozostaje również wpływ sposobu konstruowania zbioru uczącego na zachowanie błędu w pobliżu progu interpolacji.

Przeprowadzone eksperymenty pozwolą określić, czy analizowane zjawiska rzeczywiście występują oraz w jakich warunkach można je zaobserwować. Projekt ma również dostarczyć lepszego zrozumienia mechanizmów generalizacji i zapamiętywania w modelach opartych na dopasowaniu funkcji score.