Come si possono dividere i file di log di apache esistenti in file separati per mese?Come dividere il file di log di apache esistente per mese?
Ho setacciato il web e non riesco a trovare nulla. Sì, conosco logrotate e cronolog e tutto il resto. Ma nulla di ciò che ho trovato mi aiuta a dividere i file esistenti.
C'è uno script awk o qualcosa del genere?
Ecco un frammento dei dati:
124.115.5.11 - - [30/May/2011:23:21:37 -0500] "GET/HTTP/1.0" 200 206492 "-" "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 1.1.4322;TencentTraveler)"
58.61.164.39 - - [31/May/2011:00:36:35 -0500] "GET/HTTP/1.0" 200 206492 "-" "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 1.1.4322;TencentTraveler)"
114.80.93.55 - - [31/May/2011:01:42:17 -0500] "GET/HTTP/1.0" 200 206492 "-" "Sosospider+(+http://help.soso.com/webspider.htm)"
114.80.93.73 - - [31/May/2011:02:03:44 -0500] "GET/HTTP/1.0" 200 206492 "-" "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 1.1.4322;TencentTraveler)"
123.125.71.98 - - [31/May/2011:12:33:30 -0500] "GET/HTTP/1.1" 103 24576 "-" "Baiduspider+(+http://www.baidu.com/search/spider.htm)"
220.181.108.187 - - [31/May/2011:12:33:55 -0500] "GET/HTTP/1.1" 103 24576 "-" "Baiduspider+(+http://www.baidu.com/search/spider.htm)"
123.125.71.117 - - [31/May/2011:13:27:56 -0500] "GET/HTTP/1.1" 103 24576 "-" "Baiduspider+(+http://www.baidu.com/search/spider.htm)"
123.125.71.78 - - [31/May/2011:16:45:48 -0500] "GET /node/54 HTTP/1.1" 200 3219 "-" "Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)"
124.115.1.8 - - [31/May/2011:19:59:58 -0500] "GET/HTTP/1.1" 200 206492 "-" "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1)"
123.125.71.69 - - [31/May/2011:22:05:46 -0500] "GET/HTTP/1.1" 200 206492 "-" "Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)"
Ecco la mia soluzione, fortemente ispirato dalla risposta di Steve di seguito:
Un modo utilizzando awk
:
awk 'BEGIN {
split("Jan Feb Mar Apr May Jun Jul Aug Sep Oct Nov Dec ", months, " ")
for (a = 1; a <= 12; a++)
m[months[a]] = a
}
{
year = array[3]
month = sprintf("%02d", m[array[2]])
split($4,array,"[:/]");
print > FILENAME"-"year"_"month".txt"
}' incendiary.ws-2009
Questa volontà file di output come:
incendiary.ws-2010-2010_04.txt
incendiary.ws-2010-2010_05.txt
incendiary.ws-2010-2010_06.txt
incendiary.ws-2010-2010_07.txt
Contro un file di log di 150 MB, la risposta accettata dalla chepner preso 70 secondi su un 3.4 GHz 8 core Xeon E31270, mentre questo metodo ha 5 secondi.
ispirazione originale: https://stackoverflow.com/a/11714105/430062
Le persone che conoscono awk (o qualcosa del genere :) potrebbe non necessariamente conoscere o avere accesso ai file di dati che si sta cercando per manipolare, sarebbe bello poter fornire alcune coppie di input/output per mostrare con cosa si sta lavorando/se si vuole uscire, se possibile. – Levon
Ho implementato il tuo eccellente suggerimento. –