split-apply-combine su pandas timedelta column

Ho un DataFrame con una colonna di timedeltas (in realtà dopo l'ispezione il dtype è timedelta64[ns] o <m8[ns]), e mi piacerebbe fare un split-combine-apply, ma il timedelta colonna è che è caduto:split-apply-combine su pandas timedelta column

import pandas as pd 

import numpy as np 

pd.__version__ 
Out[3]: '0.13.0rc1' 

np.__version__ 
Out[4]: '1.8.0' 

data = pd.DataFrame(np.random.rand(10, 3), columns=['f1', 'f2', 'td']) 

data['td'] *= 10000000 

data['td'] = pd.Series(data['td'], dtype='<m8[ns]') 

data 
Out[8]: 
     f1  f2    td 
0 0.990140 0.948313 00:00:00.003066 
1 0.277125 0.993549 00:00:00.001443 
2 0.016427 0.581129 00:00:00.009257 
3 0.048662 0.512215 00:00:00.000702 
4 0.846301 0.179160 00:00:00.000396 
5 0.568323 0.419887 00:00:00.000266 
6 0.328182 0.919897 00:00:00.006138 
7 0.292882 0.213219 00:00:00.008876 
8 0.623332 0.003409 00:00:00.000322 
9 0.650436 0.844180 00:00:00.006873 

[10 rows x 3 columns] 

data.groupby(data.index < 5).mean() 
Out[9]: 
      f1  f2 
False 0.492631 0.480118 
True 0.435731 0.642873 

[2 rows x 2 columns]

Oppure, costringendo panda per provare l'operazione sulla colonna 'td':

data.groupby(data.index < 5)['td'].mean() 
--------------------------------------------------------------------------- 
DataError         Traceback (most recent call last) 
<ipython-input-12-88cc94e534b7> in <module>() 
----> 1 data.groupby(data.index < 5)['td'].mean() 

/path/to/lib/python3.3/site-packages/pandas-0.13.0rc1-py3.3-linux-x86_64.egg/pandas/core/groupby.py in mean(self) 
    417   """ 
    418   try: 
--> 419    return self._cython_agg_general('mean') 
    420   except GroupByError: 
    421    raise 

/path/to/lib/python3.3/site-packages/pandas-0.13.0rc1-py3.3-linux-x86_64.egg/pandas/core/groupby.py in _cython_agg_general(self, how, numeric_only) 
    669 
    670   if len(output) == 0: 
--> 671    raise DataError('No numeric types to aggregate') 
    672 
    673   return self._wrap_aggregated_output(output, names) 

DataError: No numeric types to aggregate

Tuttavia, prendendo la media della colonna funziona bene, in modo da operazioni numeriche dovrebbe essere possibile:

data['td'].mean() 
Out[11]: 
0 00:00:00.003734 
dtype: timedelta64[ns]

Ovviamente è abbastanza facile costringere a fluttuare prima di fare il groupby, ma ho pensato che potrei anche provare a capire quello che sto incontrando.

Edit: Vedere https://github.com/pydata/pandas/issues/5724

fonte

2013-12-17 ontologist

Questa è una domanda eccellente formulata! Puoi schivarlo usando una funzione privata: 'data.groupby (data.index <5) ._ cython_agg_general ('mean', numeric_only = False)', ma devi renderlo di nuovo un appuntamento ... Penso che questo dovrebbe probabilmente una [richiesta di funzionalità su github] (https://github.com/pydata/pandas/issues/new). –

Grazie! Non sei sicuro di quale funzione richiedere specificamente ... che i panda debbano almeno * provare * a eseguire 'cython_agg_general' con' numeric_only = False', perché a volte funziona? – ontologist

Quel groupby significa ecc. Dovrebbe riconoscere e restituire le date ... Sospetto che ci sarà un'implementazione più elegante che usare agg_general come quella ... –

Risulta questo è un problema di panda, questo comportamento needs to be implemented in groupby.py.

Nel frattempo, si prega di godere di questa soluzione che getta a stare a galla (unità di secondi):

data['td'] = [10**-9 * float(td) for td in data['td']]

fonte

2014-01-18 22:31:17 ontologist

split-apply-combine su pandas timedelta column

risposta

Problemi correlati