Jak dużym problemem jest biały szum dla rzeczywistego użycia DNN?

Czytałem, że głębokie sieci neuronowe można stosunkowo łatwo oszukać ( link ), aby dać duże zaufanie w rozpoznawaniu syntetycznych / sztucznych obrazów, które są całkowicie (lub przynajmniej w większości) poza przedmiotem zaufania.

Osobiście nie widzę dużego problemu z tym, że DNN daje dużą pewność tym syntetycznym / sztucznym obrazom, ale myślę, że dawanie wysokiej pewności dla białego szumu ( link ) może być problemem, ponieważ jest to naprawdę naturalne zjawisko, które może zobaczyć kamera w prawdziwym świecie.

Jak dużym problemem jest biały szum dla rzeczywistego użycia DNN? Czy można w jakiś sposób uniknąć takich fałszywych alarmów na podstawie zwykłego hałasu?

Biały szum, który oszukuje DNN, nie jest tak naprawdę białym szumem. Zostało to zmienione w taki sam sposób, jak zmieniły się syntetyczne błędne klasyfikacje zdjęć. Musisz zmienić wiele pikseli wejściowych dokładnie w taki sposób, aby te niewielkie zmiany nie były dostrzegalne, ale propagowane przez sieć przyczyniają się do błędnej klasyfikacji. To się nie stanie przez przypadek.