Come viene calcolato il punteggio della caratteristica (/ importanza) nel pacchetto XGBoost?

Question

Il comando xgb.importance restituisce un grafico dell'importanza della funzione misurata con un punteggio f.

Che cosa rappresenta questo punteggio f e come viene calcolato?

uscita: Graph of feature importance

Answer 1

Questo è un parametro che riassume semplicemente il numero di volte ogni funzione è diviso su. È analogo alla metrica di frequenza nella versione R. https://cran.r-project.org/web/packages/xgboost/xgboost.pdf

È una metrica di importanza fondamentale che è possibile ottenere.

cioè quante volte è stata divisa questa variabile?

Il codice per questo metodo mostra che si sta semplicemente aggiungendo la presenza di una determinata funzione in tutti gli alberi.

[qui .. https://github.com/dmlc/xgboost/blob/master/python-package/xgboost/core.py#L953][1]

def get_fscore(self, fmap=''): 
    """Get feature importance of each feature. 
    Parameters 
    ---------- 
    fmap: str (optional) 
     The name of feature map file 
    """ 
    trees = self.get_dump(fmap) ## dump all the trees to text 
    fmap = {}      
    for tree in trees:    ## loop through the trees 
     for line in tree.split('\n'):  # text processing 
      arr = line.split('[') 
      if len(arr) == 1:    # text processing 
       continue 
      fid = arr[1].split(']')[0] # text processing 
      fid = fid.split('<')[0]  # split on the greater/less(find variable name) 

      if fid not in fmap: # if the feature id hasn't been seen yet 
       fmap[fid] = 1 # add it 
      else: 
       fmap[fid] += 1 # else increment it 
    return fmap     # return the fmap, which has the counts of each time a variable was split on