Ograniczona maszyna Boltzmanna: jak jest używana w uczeniu maszynowym?

Tło:

Tak, Restricted Boltzmann Machine (RBM) MOŻE być użyty do zainicjowania obciążeń sieci neuronowej. MOŻE być również użyty w sposób „warstwa po warstwie” do zbudowania głębokiej sieci przekonań (to znaczy do trenowania tej warstwy na szczycie -tej warstwy, a następnie do trenowania warstwa na górze tej warstwy, spłucz i powtórz ...)$n$$(n-1)$$n+1$$n$ .

Odnośnie sposobu korzystania z RBM, szczegółowe informacje można znaleźć w wątku Dobry samouczek dla ograniczonych maszyn Boltzmanna (RBM), w którym można znaleźć niektóre dokumenty i samouczki.

Moje pytanie brzmiałoby:

• Czy RBM jest naprawdę stosowany w projektach przemysłowych lub akademickich
• Jeśli tak, w jaki sposób i jakie projekty są wykorzystywane?
• Czy jakaś popularna biblioteka (np. Tensorflow, Caffe, Theono itp.) Udostępnia moduł RBM?

Dzięki za udostępnienie. Chciałbym wiedzieć, czy RBM jest naprawdę przydatny w praktyce.

RBM był jednym z pierwszych praktycznych sposobów szkolenia / uczenia się głębokiej sieci, posiadający więcej niż jedną lub dwie warstwy. A sieć głębokich przekonań została zaproponowana przez Geoffrey'a Hintona, który uważany jest za jednego z „ojców głębokiego uczenia się”, jak sądzę, chociaż Yann LeCun jest drugim głównym „ojcem” głębokiego uczenia się, tak myślę, lub tak to widzę. Oczywiście wszystko zostało już wynalezione lata temu przez Jurgena Schmidhubera :-)

Tak więc RBM są znane, ponieważ 1. jeden z pierwszych sposobów głębokiego uczenia się 2. Geoffrey Hinton.

Jednak w praktyce są one z pewnością wykorzystywane i przydatne w badaniach akademickich, ponieważ wiele osób próbuje znaleźć jakąś wyjątkową niszę, w której mogą być ekspertami, a bycie światowym ekspertem w niektórych niszach KMS jest dobre nisza jak każda inna. Jednak w praktyce, w przemyśle, chociaż nie twierdzę, że nigdy nie są używane, ale pojawiają się niezwykle rzadko. Jest tak wiele bardzo standardowych technik, które trenują naprawdę szybko i łatwo, takich jak regresja logistyczna i sprzężone sieci neuronowe. Dla osób bez nadzoru, takie jak GAN są obecnie bardzo popularne.

Możliwe jest wykorzystanie RBM do radzenia sobie z typowymi problemami, które pojawiają się podczas gromadzenia danych (które mogłyby być wykorzystane na przykład do szkolenia modelu uczenia maszynowego). Takie problemy obejmują niezrównoważone zestawy danych (w problemie z klasyfikacją) lub zestawy danych z brakującymi wartościami (wartości niektórych funkcji są nieznane). W pierwszym przypadku możliwe jest wyszkolenie RBM z danymi z klasy mniejszości i wykorzystanie go do wygenerowania przykładów dla tej klasy, natomiast w drugim przypadku możliwe jest wyuczenie RBM osobno dla każdej klasy i odkrycie nieznanych wartości cech.

Innym typowym zastosowaniem RBM jest wspólne filtrowanie ( http://dl.acm.org/citation.cfm?id=1273596 ).

Jeśli chodzi o popularne biblioteki, uważam, że deeplearning4j jest dobrym przykładem ( http://deeplearning4j.org ).