Maszyny do faktoryzacji w terenie

Czy ktoś może wyjaśnić, w jaki sposób maszyny do faktoryzacji w terenie (FFM) porównują ze standardowymi maszynami do faktoryzacji (FM)?

Standard: http://www.ismll.uni-hildesheim.de/pub/pdfs/Rendle2010FM.pdf

„Field Aware”: http://www.csie.ntu.edu.tw/~r01922136/kaggle-2014-criteo.pdf

Wygląda na to, że pytasz o ogólny opis. Jeśli odwołujesz się do slajdów połączonych ze slajdami Twojego oryginalnego postu, istnieje porównanie FM (slajd 11) i FFM (slajd 12).

Jako szybki przykład, jeśli uczysz się o użytkownikach i filmach, FM może mieć następujący czynnik:

w_{user_1}*w_{movie_1}*... + w{user_1}*w_{genre_1}*...

FFM miałby:

w_{user_1, movies}*w_{movie_1, users}*... + w{user_1, genres}*w_{genre_1, users}*...

Kluczową różnicą jest to, że w FM w_{user_1}współczynnik jest taki sam w obu kategoriach - istnieje jedno pojęcie użytkownika. W FFM uczysz się osobno w_{user_1}dla każdego kontekstu, np. Czy ma on związek z filmami czy gatunkami. Pamiętaj, że nie uczy się go osobno dla każdego filmu lub gatunku, ale ogólnie dla filmów i gatunków. Oznacza to, że osobno uczy kontekstu użytkownika dla każdego rodzaju interakcji.

Pamiętaj też, że w_{movie_1}poszedł do, w_{movie_1, users}ponieważ ten termin wchodzi w interakcję z w_{user_1}użytkownikiem.

Załóżmy (przed kodowaniem na gorąco), że masz predyktory / pola z zestawu (np. Gatunek filmu, płeć użytkownika i rasa użytkownika). Załóżmy ponadto, że każdy predyktor może przyjmować jedną z wartości . Po jednorazowym kodowaniu będziesz mieć nowy zestaw funkcji binarnych o rozmiarze .z ∈ Z k z X K : = ∑ z ∈ Z k $Z$$z \in Z$$k_z$$X$$K := \sum_{z \in Z}k_z$

W modelu ze wszystkimi interakcjami należy oszacować macierz współczynników interakcji , która ma unikalne warunki.K × ( K + 1 ) /$Q$$K\times (K+1) / 2$

Maszyna faktoryzacji umieszcza strukturę na macierzy i przyjmuje, że , gdzie ma wymiar , przy czym liczbą określoną przez użytkownika. Oszacować zamiast .Q ≡ W T W W l × K 1 ≤ l ≤ K W $Q$$Q \equiv W^{T} W$$W$$l \times K$$1\le l \le K$$W$$Q$

Pole świadomy stawia maszynowe faktoryzacji struktura na , jak również. Dzieli$Q$$Q$$z$$q_{z_i, z_j}$$z_i,z_j$$Q$$q_{z_i,z_j}$$z_i,z_j$$W_j^{T} W_i$$W_i$$l \times K$$W_i$$Q$

$Q$$K \times l$$K\times l\times |Z|$$K \times (K+1)/2$

Standardowe maszyny do faktoryzacji mają również pola. „Nowością” tutaj wydaje się być wykorzystanie funkcji GBDT i zastosowanie sztuczek haszujących. Wygląda na to, że nie ma to wielkiego efektu: sprawdź zakres minut w wydajności na ostatnim slajdzie.