Mam binarne drzewo decyzyjne krytyczne dla wydajności i chciałbym skupić się na tym pytaniu na pojedynczej linii kodu. Poniżej znajduje się kod iteratora drzewa binarnego wraz z wynikami przeprowadzonej na nim analizy wydajności.
public ScTreeNode GetNodeForState(int rootIndex, float[] inputs)
{
0.2% ScTreeNode node = RootNodes[rootIndex].TreeNode;
24.6% while (node.BranchData != null)
{
0.2% BranchNodeData b = node.BranchData;
0.5% node = b.Child2;
12.8% if (inputs[b.SplitInputIndex] <= b.SplitValue)
0.8% node = b.Child1;
}
0.4% return node;
}BranchData to pole, a nie właściwość. Zrobiłem to, aby zapobiec ryzyku, że nie zostanie on umieszczony.
Klasa BranchNodeData jest następująca:
public sealed class BranchNodeData
{
/// <summary>
/// The index of the data item in the input array on which we need to split
/// </summary>
internal int SplitInputIndex = 0;
/// <summary>
/// The value that we should split on
/// </summary>
internal float SplitValue = 0;
/// <summary>
/// The nodes children
/// </summary>
internal ScTreeNode Child1;
internal ScTreeNode Child2;
}Jak widać, pętla while / kontrola zerowa jest ogromnym hitem w wydajności. Drzewo jest masywne, więc spodziewałbym się, że poszukiwanie liścia zajmie trochę czasu, ale chciałbym zrozumieć nieproporcjonalną ilość czasu spędzonego na tej jednej linii.
Próbowałem:
- Oddzielenie czeku zerowego od chwili while - to test zerowy jest trafieniem.
- Dodanie pola boolowskiego do obiektu i sprawdzenie tego nie zrobiło różnicy. Nie ma znaczenia, co jest porównywane, chodzi o porównanie.
Czy to problem z prognozowaniem gałęzi? Jeśli tak, co mogę z tym zrobić? Jeśli cokolwiek?
Nie będę udawać, że rozumiem CIL , ale opublikuję go, aby każdy mógł spróbować wydobyć z niego informacje.
.method public hidebysig
instance class OptimalTreeSearch.ScTreeNode GetNodeForState (
int32 rootIndex,
float32[] inputs
) cil managed
{
// Method begins at RVA 0x2dc8
// Code size 67 (0x43)
.maxstack 2
.locals init (
[0] class OptimalTreeSearch.ScTreeNode node,
[1] class OptimalTreeSearch.BranchNodeData b
)
IL_0000: ldarg.0
IL_0001: ldfld class [mscorlib]System.Collections.Generic.List`1<class OptimalTreeSearch.ScRootNode> OptimalTreeSearch.ScSearchTree::RootNodes
IL_0006: ldarg.1
IL_0007: callvirt instance !0 class [mscorlib]System.Collections.Generic.List`1<class OptimalTreeSearch.ScRootNode>::get_Item(int32)
IL_000c: ldfld class OptimalTreeSearch.ScTreeNode OptimalTreeSearch.ScRootNode::TreeNode
IL_0011: stloc.0
IL_0012: br.s IL_0039
// loop start (head: IL_0039)
IL_0014: ldloc.0
IL_0015: ldfld class OptimalTreeSearch.BranchNodeData OptimalTreeSearch.ScTreeNode::BranchData
IL_001a: stloc.1
IL_001b: ldloc.1
IL_001c: ldfld class OptimalTreeSearch.ScTreeNode OptimalTreeSearch.BranchNodeData::Child2
IL_0021: stloc.0
IL_0022: ldarg.2
IL_0023: ldloc.1
IL_0024: ldfld int32 OptimalTreeSearch.BranchNodeData::SplitInputIndex
IL_0029: ldelem.r4
IL_002a: ldloc.1
IL_002b: ldfld float32 OptimalTreeSearch.BranchNodeData::SplitValue
IL_0030: bgt.un.s IL_0039
IL_0032: ldloc.1
IL_0033: ldfld class OptimalTreeSearch.ScTreeNode OptimalTreeSearch.BranchNodeData::Child1
IL_0038: stloc.0
IL_0039: ldloc.0
IL_003a: ldfld class OptimalTreeSearch.BranchNodeData OptimalTreeSearch.ScTreeNode::BranchData
IL_003f: brtrue.s IL_0014
// end loop
IL_0041: ldloc.0
IL_0042: ret
} // end of method ScSearchTree::GetNodeForStateEdycja: Postanowiłem zrobić test przewidywania gałęzi, dodałem identyczny, jeśli w czasie, więc mamy
while (node.BranchData != null)i
if (node.BranchData != null)wewnątrz tego. Następnie przeprowadziłem analizę wydajności w porównaniu z tym i wykonanie pierwszego porównania zajęło sześć razy więcej czasu niż wykonanie drugiego porównania, które zawsze zwracało prawdę. Wygląda więc na to, że jest to rzeczywiście problem z przewidywaniem gałęzi - i domyślam się, że nic nie mogę na to poradzić ?!
Kolejna edycja
Powyższy wynik wystąpiłby również, gdyby node.BranchData musiał zostać załadowany z pamięci RAM w celu sprawdzenia while - zostałby wówczas zapisany w pamięci podręcznej dla instrukcji if.
To moje trzecie pytanie na podobny temat. Tym razem skupiam się na pojedynczym wierszu kodu. Moje inne pytania na ten temat to:
while(true) { /* current body */ if(node.BranchData == null) return node; }. Czy to coś zmienia?
while(true) { BranchNodeData b = node.BranchData; if(ReferenceEquals(b, null)) return node; node = b.Child2; if (inputs[b.SplitInputIndex] <= b.SplitValue) node = b.Child1; }pobranie node. BranchDatatylko raz.
BranchNodenieruchomości. Spróbuj wymienićnode.BranchData != nullReferenceEquals(node.BranchData, null). Czy to ma znaczenie?