Pandy Pythona: Uzyskaj indeks wierszy, których kolumna odpowiada określonej wartości


274

Biorąc pod uwagę DataFrame z kolumną „BoolCol”, chcemy znaleźć indeksy DataFrame, w których wartości dla „BoolCol” == True

Obecnie mam iteracyjny sposób, aby to zrobić, co działa idealnie:

for i in range(100,3000):
    if df.iloc[i]['BoolCol']== True:
         print i,df.iloc[i]['BoolCol']

Ale to nie jest właściwy sposób, aby to zrobić panda. Po kilku badaniach aktualnie używam tego kodu:

df[df['BoolCol'] == True].index.tolist()

Ten daje mi listę indeksów, ale nie pasują one, gdy sprawdzam je, wykonując:

df.iloc[i]['BoolCol']

Wynik jest w rzeczywistości False !!

Jaki byłby właściwy sposób, aby to zrobić?

Odpowiedzi:


427

df.iloc[i]zwraca ithwiersz df. inie odnosi się do etykiety indeksu, ijest indeksem 0.

Natomiast atrybut indexzwraca rzeczywiste etykiety indeksów , a nie numeryczne indeksy wierszy:

df.index[df['BoolCol'] == True].tolist()

lub równoważnie

df.index[df['BoolCol']].tolist()

Różnicę widać dość wyraźnie, grając z DataFrame z domyślnym indeksem, który nie jest równy numerycznej pozycji wiersza:

df = pd.DataFrame({'BoolCol': [True, False, False, True, True]},
       index=[10,20,30,40,50])

In [53]: df
Out[53]: 
   BoolCol
10    True
20   False
30   False
40    True
50    True

[5 rows x 1 columns]

In [54]: df.index[df['BoolCol']].tolist()
Out[54]: [10, 40, 50]

Jeśli chcesz użyć indeksu ,

In [56]: idx = df.index[df['BoolCol']]

In [57]: idx
Out[57]: Int64Index([10, 40, 50], dtype='int64')

następnie możesz wybrać wiersze za pomocą loczamiastiloc :

In [58]: df.loc[idx]
Out[58]: 
   BoolCol
10    True
40    True
50    True

[3 rows x 1 columns]

Zauważ, że locakceptuje również tablice boolowskie :

In [55]: df.loc[df['BoolCol']]
Out[55]: 
   BoolCol
10    True
40    True
50    True

[3 rows x 1 columns]

Jeśli masz tablicę boolowską maski potrzebujesz wartości indeksu porządkowego, możesz je obliczyć za pomocąnp.flatnonzero :

In [110]: np.flatnonzero(df['BoolCol'])
Out[112]: array([0, 3, 4])

Użyj, df.ilocaby wybrać wiersze według indeksu porządkowego:

In [113]: df.iloc[np.flatnonzero(df['BoolCol'])]
Out[113]: 
   BoolCol
10    True
40    True
50    True

9
Jeszcze innym sposobem jest zrobienie tego df.query('BoolCol').
Phillip Cloud,

3
Wiem, że to stare, ale zastanawiam się, czy istnieje prosty sposób na uzyskanie liczb indeksu opartych na 0 z zapytania. Potrzebuję liczb iloc, ponieważ chcę wybrać niektóre wiersze przed i po wierszu spełniającym określony warunek. Więc moim planem było uzyskanie 0-rzędów wierszy spełniających warunek, a następnie utworzenie wycinków do użycia w iloc (). Jedyne, co widzę, to get_loc, ale nie może przyjąć tablicy.
sheridp 21.04.2016

3
@sheridp: Jeśli masz maskę logiczną, możesz znaleźć indeksy porządkowe tam, gdzie maskjest True, używając np.flatnonzero. Zredagowałem powyższy post, aby pokazać, co mam na myśli.
unutbu

8
Twoja sugestia indices = np.flatnonzero(df[col_name] == category_name)daje mi dokładnie to, o co pyta tytuł pytania, co jest zaskakująco trudne do znalezienia w Internecie.
ClimbsRocks

Jeśli chcesz tylko cofnąć indeks, jaki jest narzut df [dftest] .index? Czy tworzy to pośrednią ramkę danych (której danymi mogą być gibabajty). Co z dftest? Czy to również nie przydziela bardzo dużego obiektu pośredniego, w którym zwracany indeks może być bardzo mały, a nawet pusty. Czy są one magicznie zoptymalizowane przy użyciu leniwych widoków. Jeśli nie, to na pewno musi być skuteczny sposób.
user48956,

31

Można to zrobić za pomocą funkcji numpy where ():

import pandas as pd
import numpy as np

In [716]: df = pd.DataFrame({"gene_name": ['SLC45A1', 'NECAP2', 'CLIC4', 'ADC', 'AGBL4'] , "BoolCol": [False, True, False, True, True] },
       index=list("abcde"))

In [717]: df
Out[717]: 
  BoolCol gene_name
a   False   SLC45A1
b    True    NECAP2
c   False     CLIC4
d    True       ADC
e    True     AGBL4

In [718]: np.where(df["BoolCol"] == True)
Out[718]: (array([1, 3, 4]),)

In [719]: select_indices = list(np.where(df["BoolCol"] == True)[0])

In [720]: df.iloc[select_indices]
Out[720]: 
  BoolCol gene_name
b    True    NECAP2
d    True       ADC
e    True     AGBL4

Chociaż nie zawsze potrzebujesz indeksu dla dopasowania, ale zwiększ, jeśli potrzebujesz:

In [796]: df.iloc[select_indices].index
Out[796]: Index([u'b', u'd', u'e'], dtype='object')

In [797]: df.iloc[select_indices].index.tolist()
Out[797]: ['b', 'd', 'e']

2

Prostym sposobem jest zresetowanie indeksu DataFrame przed filtrowaniem:

df_reset = df.reset_index()
df_reset[df_reset['BoolCol']].index.tolist()

Trochę hacky, ale jest szybki!


1

Najpierw możesz sprawdzić, querykiedy kolumna docelowa jest typu bool (PS: o tym, jak z niej korzystać, sprawdź link )

df.query('BoolCol')
Out[123]: 
    BoolCol
10     True
40     True
50     True

Po przefiltrowaniu oryginalnego pliku df według kolumny logicznej możemy wybrać indeks.

df=df.query('BoolCol')
df.index
Out[125]: Int64Index([10, 40, 50], dtype='int64')

Również pandy mają nonzero, po prostu wybrać pozycję z Truerzędu i wykorzystuje je pokroić DataFramelubindex

df.index[df.BoolCol.nonzero()[0]]
Out[128]: Int64Index([10, 40, 50], dtype='int64')

1

Jeśli chcesz użyć obiektu ramki danych tylko raz, użyj:

df['BoolCol'].loc[lambda x: x==True].index

0

I rozszerzył to pytanie, które jest jak dostaje row, columni valuewszelkiej wartości meczów?

oto rozwiązanie:

import pandas as pd
import numpy as np


def search_coordinate(df_data: pd.DataFrame, search_set: set) -> list:
    nda_values = df_data.values
    tuple_index = np.where(np.isin(nda_values, [e for e in search_set]))
    return [(row, col, nda_values[row][col]) for row, col in zip(tuple_index[0], tuple_index[1])]


if __name__ == '__main__':
    test_datas = [['cat', 'dog', ''],
                  ['goldfish', '', 'kitten'],
                  ['Puppy', 'hamster', 'mouse']
                  ]
    df_data = pd.DataFrame(test_datas)
    print(df_data)
    result_list = search_coordinate(df_data, {'dog', 'Puppy'})
    print(f"\n\n{'row':<4} {'col':<4} {'name':>10}")
    [print(f"{row:<4} {col:<4} {name:>10}") for row, col, name in result_list]

Wynik:

          0        1       2
0       cat      dog        
1  goldfish           kitten
2     Puppy  hamster   mouse


row  col        name
0    1           dog
2    0         Puppy
Korzystając z naszej strony potwierdzasz, że przeczytałeś(-aś) i rozumiesz nasze zasady używania plików cookie i zasady ochrony prywatności.
Licensed under cc by-sa 3.0 with attribution required.