2
Dlaczego sieci neuronowe wydają się działać lepiej z ograniczeniami nałożonymi na ich topologię?
W pełni połączone (przynajmniej warstwa po warstwie z więcej niż 2 ukrytymi warstwami) sieci backprop są uniwersalnymi uczniami. Niestety, często są powolne w nauce i mają tendencję do nadmiernego dopasowania lub mają niezręczne uogólnienia. Po wygłupianiu się z tymi sieciami zauważyłem, że przycinanie niektórych krawędzi (tak, że ich waga jest …