Ustaw wartość dla konkretnej komórki w pandach DataFrame za pomocą indeksu

Stworzyłem Pandas DataFrame

df = DataFrame(index=['A','B','C'], columns=['x','y'])

i mam to

    xy
NaN NaN
B NaN NaN
C NaN NaN

Następnie chcę przypisać wartość do konkretnej komórki, na przykład dla wiersza „C” i kolumny „x”. Spodziewałem się takiego wyniku:

    xy
NaN NaN
B NaN NaN
C 10 NaN

z tym kodem:

df.xs('C')['x'] = 10

ale zawartość dfsię nie zmieniła. Znowu jest tylko NaNw DataFrame.

Jakieś sugestie?

Odpowiedź RukTech za , df.set_value('C', 'x', 10)jest daleko i szybciej niż opcje mam sugerowanych poniżej. Zostało jednak przeznaczone na wycofanie .

W przyszłości zalecaną metodą jest.iat/.at .

Dlaczego df.xs('C')['x']=10nie działa:

df.xs('C')domyślnie zwraca nową ramkę danych z kopią danych, więc

df.xs('C')['x']=10

modyfikuje tylko tę nową ramkę danych.

df['x']zwraca widok dframki danych, więc

df['x']['C'] = 10

modyfikuje dfsię.

Ostrzeżenie : Czasami trudno jest przewidzieć, czy operacja zwraca kopię lub widok. Z tego powodu doktorzy zalecają unikanie zadań z „indeksowaniem łańcuchowym” .

Tak więc zalecaną alternatywą jest

df.at['C', 'x'] = 10

który się modyfikuje df.

In [18]: %timeit df.set_value('C', 'x', 10)
100000 loops, best of 3: 2.9 µs per loop

In [20]: %timeit df['x']['C'] = 10
100000 loops, best of 3: 6.31 µs per loop

In [81]: %timeit df.at['C', 'x'] = 10
100000 loops, best of 3: 9.2 µs per loop

Aktualizacja: .set_value metoda będzie przestarzała . .iat/.atsą dobrymi zamiennikami, niestety pandy dostarczają mało dokumentacji

Najszybszym sposobem na to jest użycie set_value . Ta metoda jest ~ 100 razy szybsza niż .ixmetoda. Na przykład:

df.set_value('C', 'x', 10)

Możesz także skorzystać z wyszukiwania warunkowego, korzystając z .locponiższego przykładu:

df.loc[df[<some_column_name>] == <condition>, [<another_column_name>]] = <value_to_add>

gdzie <some_column_namejest kolumna, dla której chcesz sprawdzić <condition>zmienną względem i<another_column_name> jest kolumna, do której chcesz dodać (może to być nowa kolumna lub kolumna, która już istnieje). <value_to_add>to wartość, którą chcesz dodać do tej kolumny / wiersza.

Ten przykład nie działa dokładnie z danym pytaniem, ale może być przydatny dla kogoś, kto chce dodać konkretną wartość na podstawie warunku.

Zalecanym sposobem (według opiekunów) ustawienia wartości jest:

df.ix['x','C']=10

Korzystanie z „indeksowania łańcuchowego” ( df['x']['C']) może powodować problemy.

Widzieć:

• https://stackoverflow.com/a/21287235/1579844
• http://pandas.pydata.org/pandas-docs/dev/indexing.html#indexing-view-versus-copy
• https://github.com/pydata/pandas/pull/6031

Spróbuj użyć df.loc[row_index,col_indexer] = value

To jedyna rzecz, która działała dla mnie!

df.loc['C', 'x'] = 10

Dowiedz się więcej o .loc tutaj .

.iat/.atjest dobrym rozwiązaniem. Załóżmy, że masz tę prostą ramkę danych:

   A   B   C
0  1   8   4 
1  3   9   6
2  22 33  52

jeśli chcemy zmodyfikować wartość komórki, [0,"A"]możemy użyć jednego z tych rozwiązań:

1. df.iat[0,0] = 2
2. df.at[0,'A'] = 2

A oto kompletny przykład, jak użyć, iataby uzyskać i ustawić wartość komórki:

def prepossessing(df):
  for index in range(0,len(df)): 
      df.iat[index,0] = df.iat[index,0] * 2
  return df

y_train przed:

    0
0   54
1   15
2   15
3   8
4   31
5   63
6   11

y_train po wywołaniu funkcji prepossessing, iataby zmienić, aby pomnożyć wartość każdej komórki przez 2:

     0
0   108
1   30
2   30
3   16
4   62
5   126
6   22

Aby ustawić wartości, użyj:

df.at[0, 'clm1'] = 0

• Najszybsza zalecana metoda ustawiania zmiennych.
• set_value, ix Były przestarzałe.
• Bez ostrzeżenia, w przeciwieństwie do ilociloc

możesz użyć .iloc.

df.iloc[[2], [0]] = 10

W moim przykładzie po prostu zmieniam to w wybranej komórce

    for index, row in result.iterrows():
        if np.isnan(row['weight']):
            result.at[index, 'weight'] = 0.0

„wynik” to pole danych z kolumną „waga”

set_value() jest przestarzałe.

Począwszy od wydania 0.23.4, Pandas „ ogłasza przyszłość ” ...

>>> df
                   Cars  Prices (U$)
0               Audi TT        120.0
1 Lamborghini Aventador        245.0
2      Chevrolet Malibu        190.0
>>> df.set_value(2, 'Prices (U$)', 240.0)
__main__:1: FutureWarning: set_value is deprecated and will be removed in a future release.
Please use .at[] or .iat[] accessors instead

                   Cars  Prices (U$)
0               Audi TT        120.0
1 Lamborghini Aventador        245.0
2      Chevrolet Malibu        240.0

Biorąc pod uwagę tę radę, oto pokaz, jak z nich korzystać:

• według pozycji liczb całkowitych wierszy / kolumn

>>> df.iat[1, 1] = 260.0
>>> df
                   Cars  Prices (U$)
0               Audi TT        120.0
1 Lamborghini Aventador        260.0
2      Chevrolet Malibu        240.0

• według etykiet wierszy / kolumn

>>> df.at[2, "Cars"] = "Chevrolet Corvette"
>>> df
                  Cars  Prices (U$)
0               Audi TT        120.0
1 Lamborghini Aventador        260.0
2    Chevrolet Corvette        240.0

Bibliografia:

• pandas.DataFrame.iat
• pandas.DataFrame.at

Oto podsumowanie prawidłowych rozwiązań dostarczonych przez wszystkich użytkowników dla ramek danych indeksowanych według liczb całkowitych i ciągu.

df.iloc, df.loc i df.at działają dla obu typów ramek danych, df.iloc działa tylko z indeksami liczb całkowitych wierszy / kolumn, df.loc i df.at obsługuje ustawianie wartości przy użyciu nazw kolumn i / lub indeksów liczb całkowitych .

Gdy określony indeks nie istnieje, zarówno df.loc, jak i df.at dołączałyby nowo wstawione wiersze / kolumny do istniejącej ramki danych, ale df.iloc spowodowałoby błąd „IndexError: indeksatory pozycyjne są poza zakresem”. Przykład działania przetestowany w Pythonie 2.7 i 3.7 jest następujący:

import numpy as np, pandas as pd

df1 = pd.DataFrame(index=np.arange(3), columns=['x','y','z'])
df1['x'] = ['A','B','C']
df1.at[2,'y'] = 400

# rows/columns specified does not exist, appends new rows/columns to existing data frame
df1.at['D','w'] = 9000
df1.loc['E','q'] = 499

# using df[<some_column_name>] == <condition> to retrieve target rows
df1.at[df1['x']=='B', 'y'] = 10000
df1.loc[df1['x']=='B', ['z','w']] = 10000

# using a list of index to setup values
df1.iloc[[1,2,4], 2] = 9999
df1.loc[[0,'D','E'],'w'] = 7500
df1.at[[0,2,"D"],'x'] = 10
df1.at[:, ['y', 'w']] = 8000

df1
>>> df1
     x     y     z     w      q
0   10  8000   NaN  8000    NaN
1    B  8000  9999  8000    NaN
2   10  8000  9999  8000    NaN
D   10  8000   NaN  8000    NaN
E  NaN  8000  9999  8000  499.0

Testowałem, a wynik jest df.set_valuenieco szybszy, ale oficjalna metoda df.atwygląda na najszybszy nieaktualny sposób na zrobienie tego.

import numpy as np
import pandas as pd

df = pd.DataFrame(np.random.rand(100, 100))

%timeit df.iat[50,50]=50 # ✓
%timeit df.at[50,50]=50 #  ✔
%timeit df.set_value(50,50,50) # will deprecate
%timeit df.iloc[50,50]=50
%timeit df.loc[50,50]=50

7.06 µs ± 118 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)
5.52 µs ± 64.2 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)
3.68 µs ± 80.8 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)
98.7 µs ± 1.07 µs per loop (mean ± std. dev. of 7 runs, 10000 loops each)
109 µs ± 1.42 µs per loop (mean ± std. dev. of 7 runs, 10000 loops each)

Zauważ, że to ustawia wartość dla pojedynczej komórki. Dla wektorów loci ilocpowinny być lepszymi opcjami, ponieważ są wektoryzowane.

Jednym ze sposobów użycia indeksu z warunkiem jest najpierw uzyskanie indeksu wszystkich wierszy spełniających warunek, a następnie po prostu użycie tych indeksów wierszy na wiele sposobów

conditional_index = df.loc[ df['col name'] <condition> ].index

Przykładowy warunek jest podobny

==5, >10 , =="Any string", >= DateTime

Następnie możesz użyć tych indeksów wierszy na różne sposoby, np

1. Zamień wartość jednej kolumny na indeks warunkowy

df.loc[conditional_index , [col name]]= <new value>

2. Zamień wartość wielu kolumn na indeks warunkowy

df.loc[conditional_index, [col1,col2]]= <new value>

3. Jedną korzyścią z zapisania indeksu warunkowego jest to, że można przypisać wartość jednej kolumny do innej kolumny z tym samym indeksem wiersza

df.loc[conditional_index, [col1,col2]]= df.loc[conditional_index,'col name']

Jest to możliwe, ponieważ .index zwraca tablicę indeksu, z której .loc może korzystać przy bezpośrednim adresowaniu, dzięki czemu unika ciągłego przechodzenia.

df.loc['c','x']=10 Spowoduje to zmianę wartości c- tego wiersza i x- tej kolumny.

Oprócz powyższych odpowiedzi, tutaj jest test porównawczy różnych sposobów dodawania wierszy danych do już istniejącej ramki danych. Pokazuje, że użycie wartości at lub set-value jest najbardziej wydajnym sposobem dla dużych ramek danych (przynajmniej w tych warunkach testowych).

• Utwórz nową ramkę danych dla każdego wiersza i ...
  • ... dodaj go (13,0 s)
  • ... połącz to (13,1 s)
• Najpierw przechowaj wszystkie nowe wiersze w innym kontenerze, raz przekonwertuj na nową ramkę danych i dołącz ...
  • kontener = listy list (2,0 s)
  • kontener = słownik list (1,9 s)
• Prealokuj całą ramkę danych, iteruj po nowych wierszach i wszystkich kolumnach i wypełniaj za pomocą
  • ... przy (0,6 s)
  • ... set_value (0.4 s)

Do testu wykorzystano istniejącą ramkę danych zawierającą 100 000 wierszy i 1000 kolumn oraz losowe wartości liczbowe. Do tej ramki danych dodano 100 nowych wierszy.

Kod patrz poniżej:

#!/usr/bin/env python3
# -*- coding: utf-8 -*-
"""
Created on Wed Nov 21 16:38:46 2018

@author: gebbissimo
"""

import pandas as pd
import numpy as np
import time

NUM_ROWS = 100000
NUM_COLS = 1000
data = np.random.rand(NUM_ROWS,NUM_COLS)
df = pd.DataFrame(data)

NUM_ROWS_NEW = 100
data_tot = np.random.rand(NUM_ROWS + NUM_ROWS_NEW,NUM_COLS)
df_tot = pd.DataFrame(data_tot)

DATA_NEW = np.random.rand(1,NUM_COLS)


#%% FUNCTIONS

# create and append
def create_and_append(df):
    for i in range(NUM_ROWS_NEW):
        df_new = pd.DataFrame(DATA_NEW)
        df = df.append(df_new)
    return df

# create and concatenate
def create_and_concat(df):
    for i in range(NUM_ROWS_NEW):
        df_new = pd.DataFrame(DATA_NEW)
        df = pd.concat((df, df_new))
    return df


# store as dict and 
def store_as_list(df):
    lst = [[] for i in range(NUM_ROWS_NEW)]
    for i in range(NUM_ROWS_NEW):
        for j in range(NUM_COLS):
            lst[i].append(DATA_NEW[0,j])
    df_new = pd.DataFrame(lst)
    df_tot = df.append(df_new)
    return df_tot

# store as dict and 
def store_as_dict(df):
    dct = {}
    for j in range(NUM_COLS):
        dct[j] = []
        for i in range(NUM_ROWS_NEW):
            dct[j].append(DATA_NEW[0,j])
    df_new = pd.DataFrame(dct)
    df_tot = df.append(df_new)
    return df_tot




# preallocate and fill using .at
def fill_using_at(df):
    for i in range(NUM_ROWS_NEW):
        for j in range(NUM_COLS):
            #print("i,j={},{}".format(i,j))
            df.at[NUM_ROWS+i,j] = DATA_NEW[0,j]
    return df


# preallocate and fill using .at
def fill_using_set(df):
    for i in range(NUM_ROWS_NEW):
        for j in range(NUM_COLS):
            #print("i,j={},{}".format(i,j))
            df.set_value(NUM_ROWS+i,j,DATA_NEW[0,j])
    return df


#%% TESTS
t0 = time.time()    
create_and_append(df)
t1 = time.time()
print('Needed {} seconds'.format(t1-t0))

t0 = time.time()    
create_and_concat(df)
t1 = time.time()
print('Needed {} seconds'.format(t1-t0))

t0 = time.time()    
store_as_list(df)
t1 = time.time()
print('Needed {} seconds'.format(t1-t0))

t0 = time.time()    
store_as_dict(df)
t1 = time.time()
print('Needed {} seconds'.format(t1-t0))

t0 = time.time()    
fill_using_at(df_tot)
t1 = time.time()
print('Needed {} seconds'.format(t1-t0))

t0 = time.time()    
fill_using_set(df_tot)
t1 = time.time()
print('Needed {} seconds'.format(t1-t0))

Jeśli chcesz zmienić wartości nie dla całego wiersza, ale tylko dla niektórych kolumn:

x = pd.DataFrame({'A': [1, 2, 3], 'B': [4, 5, 6]})
x.iloc[1] = dict(A=10, B=-10)

Od wersji 0.21.1 możesz także użyć .atmetody. Istnieją pewne różnice w porównaniu do .locwspomnianych tutaj - pandy .at w porównaniu z .loc , ale jest szybsze przy zamianie pojedynczej wartości

Tak, twoje pytanie o konwersję NaN w ['x', C] na wartość 10

odpowiedź to..

df['x'].loc['C':]=10
df

alternatywny kod to

df.loc['C':'x']=10
df

Ja również szukałem tego tematu i opracowałem sposób na iterację w DataFrame i zaktualizowałem go o wartości wyszukiwania z drugiej DataFrame. Oto mój kod.

src_df = pd.read_sql_query(src_sql,src_connection)
for index1, row1 in src_df.iterrows():
    for index, row in vertical_df.iterrows():
        src_df.set_value(index=index1,col=u'etl_load_key',value=etl_load_key)
        if (row1[u'src_id'] == row['SRC_ID']) is True:
            src_df.set_value(index=index1,col=u'vertical',value=row['VERTICAL'])