Passando dati categorici per Sklearn Albero decisionale

Question

Ci sono diversi post su come codificare i dati categorici agli alberi Sklearn decission, ma dalla documentazione Sklearn, abbiamo ottenuto questi

Some advantages of decision trees are:

(...)

Able to handle both numerical and categorical data. Other techniques are usually specialised in analysing datasets that have only one type of variable. See algorithms for more information.

Ma eseguendo lo script seguente

import pandas as pd 
from sklearn.tree import DecisionTreeClassifier 

data = pd.DataFrame() 
data['A'] = ['a','a','b','a'] 
data['B'] = ['b','b','a','b'] 
data['C'] = [0, 0, 1, 0] 
data['Class'] = ['n','n','y','n'] 

tree = DecisionTreeClassifier() 
tree.fit(data[['A','B','C']], data['Class']) 

emette il seguente errore:

Traceback (most recent call last): 
    File "<stdin>", line 1, in <module> 
    File "/usr/local/lib/python2.7/site-packages/sklearn/tree/tree.py", line 154, in fit 
    X = check_array(X, dtype=DTYPE, accept_sparse="csc") 
    File "/usr/local/lib/python2.7/site-packages/sklearn/utils/validation.py", line 377, in check_array 
    array = np.array(array, dtype=dtype, order=order, copy=copy) 
ValueError: could not convert string to float: b 

So che in R è possibile passare dati categoriali, con Sklearn, è possibile?

Answer 1

Contrariamente alla risposta accettata, io preferirei usare gli strumenti forniti da scikit-learn per questo scopo. Il motivo principale per farlo è che possono essere facilmente integrati in un Pipeline.

Scikit-Learn fornisce in sé ottime classi per gestire i dati categoriali. Invece di scrivere la tua funzione personalizzata, dovresti usare LabelEncoder che è appositamente progettato per questo scopo.

fare riferimento al seguente codice dalla documentazione:

le = preprocessing.LabelEncoder() 
le.fit(["paris", "paris", "tokyo", "amsterdam"]) 
le.transform(["tokyo", "tokyo", "paris"]) 

Questo li codifica automaticamente in numeri per le vostre algoritmi di apprendimento automatico. Ora questo supporta anche il ritorno alle stringhe da numeri interi. Si può fare questo semplicemente chiamando inverse_transform come segue:

list(le.inverse_transform([2, 2, 1])) 

Questo sarebbe tornato ['tokyo', 'tokyo', 'paris'].

Si noti inoltre che per molti altri classificatori, a parte gli alberi decisionali, come la regressione logistica o SVM, si desidera codificare le variabili categoriali utilizzando One-Hot encoding. Scikit-learn supporta anche questo attraverso la classe OneHotEncoder.

Spero che questo aiuti!

Answer 2

Gli alberi di decisione di scansioni non gestiscono la conversione di stringhe categoriali in numeri. Vi suggerisco di trovare una funzione in Sklearn (forse this), che lo fa o manualmente scrivere del codice come:

def cat2int(column): 
    vals = list(set(column)) 
    for i, string in enumerate(column): 
     column[i] = vals.index(string) 
    return column