2015-05-06 6 views
25

Sto provando a leggere in un file JSON in frame dati panda. Ecco la prima linea riga del file JSON:Caricamento di un file con più di una riga di JSON in Pandas di Python

{"votes": {"funny": 0, "useful": 0, "cool": 0}, "user_id": "P_Mk0ygOilLJo4_WEvabAA", "review_id": "OeT5kgUOe3vcN7H6ImVmZQ", "stars": 3, "date": "2005-08-26", "text": "This is a pretty typical cafe. The sandwiches and wraps are good but a little overpriced and the food items are the same. The chicken caesar salad wrap is my favorite here but everything else is pretty much par for the course.", "type": "review", "business_id": "Jp9svt7sRT4zwdbzQ8KQmw"} 

sto cercando effettuare le seguenti operazioni: df = pd.read_json(path) sto ottenendo il seguente errore (con piena traceback):

Traceback (most recent call last): 
    File "<stdin>", line 1, in <module> 
    File "/Users/d/anaconda/lib/python2.7/site-packages/pandas/io/json.py", line 198, in read_json 
    date_unit).parse() 
    File "/Users/d/anaconda/lib/python2.7/site-packages/pandas/io/json.py", line 266, in parse 
    self._parse_no_numpy() 
    File "/Users/d/anaconda/lib/python2.7/site-packages/pandas/io/json.py", line 483, in _parse_no_numpy 
    loads(json, precise_float=self.precise_float), dtype=None) 
ValueError: Trailing data 

Qual è Trailing data errore ? Come posso leggerlo in un frame di dati?

EDIT: A seguito di alcuni suggerimenti, qui alcune righe del file .json:

{"votes": {"funny": 0, "useful": 0, "cool": 0}, "user_id": "P_Mk0ygOilLJo4_WEvabAA", "review_id": "OeT5kgUOe3vcN7H6ImVmZQ", "stars": 3, "date": "2005-08-26", "text": "This is a pretty typical cafe. The sandwiches and wraps are good but a little overpriced and the food items are the same. The chicken caesar salad wrap is my favorite here but everything else is pretty much par for the course.", "type": "review", "business_id": "Jp9svt7sRT4zwdbzQ8KQmw"} 
{"votes": {"funny": 0, "useful": 0, "cool": 0}, "user_id": "TNJRTBrl0yjtpAACr1Bthg", "review_id": "qq3zF2dDUh3EjMDuKBqhEA", "stars": 3, "date": "2005-11-23", "text": "I agree with other reviewers - this is a pretty typical financial district cafe. However, they have fantastic pies. I ordered three pies for an office event (apple, pumpkin cheesecake, and pecan) - all were delicious, particularly the cheesecake. The sucker weighed in about 4 pounds - no joke.\n\nNo surprises on the cafe side - great pies and cakes from the catering business.", "type": "review", "business_id": "Jp9svt7sRT4zwdbzQ8KQmw"} 
{"votes": {"funny": 0, "useful": 0, "cool": 0}, "user_id": "H_mngeK3DmjlOu595zZMsA", "review_id": "i3eQTINJXe3WUmyIpvhE9w", "stars": 3, "date": "2005-11-23", "text": "Decent enough food, but very overpriced. Just a large soup is almost $5. Their specials are $6.50, and with an overpriced soda or juice, it's approaching $10. A bit much for a cafe lunch!", "type": "review", "business_id": "Jp9svt7sRT4zwdbzQ8KQmw"} 

Questo file .json Sto usando contiene un oggetto JSON in ogni linea secondo le specifiche.

ho provato il sito jsonlint.com come suggerito e dà il seguente errore:

Parse error on line 14: 
...t7sRT4zwdbzQ8KQmw"}{ "votes": { 
----------------------^ 
Expecting 'EOF', '}', ',', ']' 
+1

Si dispone di dati aggiuntivi in il file che non fa parte dell'oggetto JSON. –

+0

Che aspetto hanno le ultime poche righe del file json? –

+0

Mentre il messaggio che si sta visualizzando è valido, è necessario eseguire prima http://jsonlint.com/ (o strumento simile) prima di perdere tempo con dati non validi. –

risposta

60

Dalla versione 0.19.0 di panda è possibile utilizzare il parametro lines, in questo modo:

import pandas as pd 

data = pd.read_json('/path/to/file.json', lines=True) 
+4

Questa dovrebbe diventare la risposta accettata –

+0

Qualche idea su come ottenere una soluzione di questo problema rilevante per l'argomento 'lines'? https://github.com/pandas-dev/pandas/issues/15132 – Chuck

30

Bisogna leggerlo riga per riga. Ad esempio, è possibile utilizzare il seguente codice fornito da ryptophan su reddit:

import pandas as pd 

# read the entire file into a python array 
with open('your.json', 'rb') as f: 
    data = f.readlines() 

# remove the trailing "\n" from each line 
data = map(lambda x: x.rstrip(), data) 

# each element of 'data' is an individual JSON object. 
# i want to convert it into an *array* of JSON objects 
# which, in and of itself, is one large JSON object 
# basically... add square brackets to the beginning 
# and end, and have all the individual business JSON objects 
# separated by a comma 
data_json_str = "[" + ','.join(data) + "]" 

# now, load it into pandas 
data_df = pd.read_json(data_json_str) 
+0

Grazie mille @Artem. – user62198

+0

Fantastico, grazie! – pelumi

+0

Questa risposta dovrebbe essere data una birra. – Botond

Problemi correlati