2009-09-02 15 views

risposta

9
function getStopWords(){ 
return array(
'אני', 
'את', 
'אתה', 
'אנחנו', 
'אתן', 
'אתם', 
'הם', 
'הן', 
'היא', 
'הוא', 
'שלי', 
'שלו', 
'שלך', 
'שלה', 
'שלנו', 
'שלכם', 
'שלכן', 
'שלהם', 
'שלהן', 
'לי', 
'לו', 
'לה', 
'לנו', 
'לכם', 
'לכן', 
'להם', 
'להן', 
'אותה', 
'אותו', 
'זה', 
'זאת', 
'אלה', 
'אלו', 
'תחת', 
'מתחת', 
'מעל', 
'בין', 
'עם', 
'עד', 
'נגר', 
'על', 
'אל', 
'מול', 
'של', 
'אצל', 
'כמו', 
'אחר', 
'אותו', 
'בלי', 
'לפני', 
'אחרי', 
'מאחורי', 
'עלי', 
'עליו', 
'עליה', 
'עליך', 
'עלינו', 
'עליכם', 
'לעיכן', 
'עליהם', 
'עליהן', 
'כל', 
'כולם', 
'כולן', 
'כך', 
'ככה', 
'כזה', 
'זה', 
'זות', 
'אותי', 
'אותה', 
'אותם', 
'אותך', 
'אותו', 
'אותן', 
'אותנו', 
'ואת', 
'את', 
'אתכם', 
'אתכן', 
'איתי', 
'איתו', 
'איתך', 
'איתה', 
'איתם', 
'איתן', 
'איתנו', 
'איתכם', 
'איתכן', 
'יהיה', 
'תהיה', 
'היתי', 
'היתה', 
'היה', 
'להיות', 
'עצמי', 
'עצמו', 
'עצמה', 
'עצמם', 
'עצמן', 
'עצמנו', 
'עצמהם', 
'עצמהן', 
'מי', 
'מה', 
'איפה', 
'היכן', 
'במקום שבו', 
'אם', 
'לאן', 
'למקום שבו', 
'מקום בו', 
'איזה', 
'מהיכן', 
'איך', 
'כיצד', 
'באיזו מידה', 
'מתי', 
'בשעה ש', 
'כאשר', 
'כש', 
'למרות', 
'לפני', 
'אחרי', 
'מאיזו סיבה', 
'הסיבה שבגללה', 
'למה', 
'מדוע', 
'לאיזו תכלית', 
'כי', 
'יש', 
'אין', 
'אך', 
'מנין', 
'מאין', 
'מאיפה', 
'יכל', 
'יכלה', 
'יכלו', 
'יכול', 
'יכולה', 
'יכולים', 
'יכולות', 
'יוכלו', 
'יוכל', 
'מסוגל', 
'לא', 
'רק', 
'אולי', 
'אין', 
'לאו', 
'אי', 
'כלל', 
'נגד', 
'אם', 
'עם', 
'אל', 
'אלה', 
'אלו', 
'אף', 
'על', 
'מעל', 
'מתחת', 
'מצד', 
'בשביל', 
'לבין', 
'באמצע', 
'בתוך', 
'דרך', 
'מבעד', 
'באמצעות', 
'למעלה', 
'למטה', 
'מחוץ', 
'מן', 
'לעבר', 
'מכאן', 
'כאן', 
'הנה', 
'הרי', 
'פה', 
'שם', 
'אך', 
'ברם', 
'שוב', 
'אבל', 
'מבלי', 
'בלי', 
'מלבד', 
'רק', 
'בגלל', 
'מכיוון', 
'עד', 
'אשר', 
'ואילו', 
'למרות', 
'אס', 
'כמו', 
'כפי', 
'אז', 
'אחרי', 
'כן', 
'לכן', 
'לפיכך', 
'מאד', 
'עז', 
'מעט', 
'מעטים', 
'במידה', 
'שוב', 
'יותר', 
'מדי', 
'גם', 
'כן', 
'נו', 
'אחר', 
'אחרת', 
'אחרים', 
'אחרות', 
'אשר', 
'או' 
); 
} 
6

Dubito che ci sia uno apertamente disponibile, ma come un semplice approssimazione, si potrebbe creare una lista di token molto frequenti in un ragionevolmente grande corpus. Quindi, a seconda delle esigenze, è possibile utilizzare l'elenco come tale o filtrarlo manualmente oppure eseguire alcuni tentativi ed errori con l'algoritmo per vedere come funziona.

Here's a list of the 100 most common tokens da un corpus di notizie piuttosto grande che ho. Si noti che per i miei scopi, ho contato vari caratteri di punteggiatura come token. Il numero "1" rappresenta tutti i token numerici, quindi la sua posizione alta nell'elenco.

Probabilmente sarete a conoscenza del fatto che la lista di stop è un concetto problematico in ebraico a causa della morfologia dell'ortografia & - alcuni degli utili sono solo collegati alle parole.

+0

[Ecco il nuovo URL per il 100 parole corpus ] (http://archive.org/details/100MostFrequencyTokensInAHebrewCorpus). – dotancohen

2

Il centro di Mila ha un elenco di token ad alta frequenza compilato da grandi società con cui stanno lavorando. Vedi il fondo della pagina: http://www.mila.cs.technion.ac.il/hebrew/resources/corpora/index.html.

Inoltre, un'altra cosa da prendere in considerazione è smettere di ambiguità di parole - dove una certa parola può essere senza alcun significato, o con un significato molto improtante. Ad esempio, le parole אלה e אשר, entrambe sono preposizioni ebraiche e nomi personali validi. Maggiori informazioni su questo fenomeno ebraico possono essere trovate qui: http://www.code972.com/blog/2010/05/challenges-indexing-hebrew/ (scorrere fino a "Interrompi parole ambiguità").

Per questo motivo, non penso sia possibile avere una lista completa e assoluta di interruzione in ebraico: dipende troppo dai tuoi corpora e dai casi d'uso.

0

Il collegamento fornito in precedenza è danneggiato. Questo è il nuovo collegamento: http://www.mila.cs.technion.ac.il/index.html

L'elenco in questione ha alcuni termini mancanti (אתך, אתכן, אתכם, ecc.).

Cordiali saluti, Yaron Shahrabani.

0

Ecco una lista di 500 parole stop ebraiche (con e senza i conteggi):

https://github.com/gidim/HebrewStopWords

anche disponibile qui:

את 
לא 
של 
אני 
על 
זה 
עם 
כל 
הוא 
אם 
או 
גם 
יותר 
יש 
לי 
מה 
אבל 
פורום 
אז 
טוב 
רק 
כי 
שלי 
היה 
בפורום 
אין 
עוד 
היא 
אחד 
ב 
ל 
עד 
לך 
כמו 
להיות 
אתה 
כמה 
אנחנו 
הם 
כבר 
אנשים 
אפשר 
תודה 
שלא 
אותו 
ה 
מאוד 
הרבה 
ולא 
ממש 
לו 
א 
מי 
חיים 
בית 
שאני 
יכול 
שהוא 
כך 
הזה 
איך 
היום 
קצת 
עכשיו 
שם 
בכל 
יהיה 
תמיד 
י 
שלך 
הכי 
ש 
בו 
לעשות 
צריך 
כן 
פעם 
לכם 
ואני 
משהו 
אל 
שלו 
שיש 
ו 
וגם 
אתכם 
אחרי 
בנושא 
כדי 
פשוט 
לפני 
שזה 
אותי 
אנו 
למה 
דבר 
כ 
כאן 
אולי 
טובים 
רוצה 
שנה 
בעלי 
החיים 
למען 
אתם 
מ 
בין 
יום 
זאת 
איזה 
ביותר 
לה 
אחת 
הכל 
הפורומים 
לכל 
אלא 
פה 
יודע 
שלום 
דקות 
לנו 
השנה 
דרך 
אדם 
נראה 
זו 
היחידה 
רוצים 
בכלל 
טובה 
שלנו 
האם 
הייתי 
הלב 
היו 
ח 
שדרות 
בלי 
להם 
שאתה 
אותה 
מקום 
ואתם 
חלק 
בן 
בואו 
אחר 
האחת 
אותך 
כמובן 
בגלל 
באמת 
מישהו 
ילדים 
אותם 
הפורום 
טיפוח 
וזה 
ר 
שהם 
אך 
מזמין 
ישראל 
כוס 
זמן 
ועוד 
הילדים 
עדיין 
כזה 
עושה 
שום 
לקחת 
העולם 
תפוז 
לראות 
לפורום 
וכל 
לקבל 
נכון 
יוצא 
לעולם 
גדול 
אפילו 
ניתן 
שני 
אוכל 
קשה 
משחק 
ביום 
ככה 
אמא 
בת 
השבוע 
נוספים 
לגבי 
בבית 
אחרת 
לפי 
ללא 
שנים 
הזמן 
שמן 
מעט 
לפחות 
אף 
שוב 
שלהם 
במקום 
כולם 
נועית 
הבא 
מעל 
לב 
המון 
לדבר 
ע 
אוהב 
מוסיפים 
חצי 
בעיקר 
כפות 
לפעמים 
שהיא 
הנהלת 
ועל 
ק 
אוהבים 
ת 
יודעת 
ד 
גרוע 
שאנחנו 
מים 
לילדים 
בארץ 
מודיע 
אשמח 
שלכם 
פחות 
לכולם 
די 
אהבה 
יכולה 
דברים 
הקהילה 
לעזור 
פרטים 
בדיוק 
מלח 
קל 
הראשי 
שלה 
להוסיף 
השני 
לדעתי 
בר 
למרות 
שגם 
מוזמנים 
לאחר 
במה 
חושב 
מאד 
יפה 
להגשים 
חדש 
קטן 
מחפשים 
שמח 
מדברים 
ואם 
במיוחד 
עבודה 
מדי 
ואז 
חשוב 
שאם 
אוהבת 
פעמים 
מנהלת 
אומר 
מול 
קשר 
מנהל 
שיהיה 
שאין 
שאנו 
האהבה 
ס 
הצטרפו 
כפית 
בשביל 
החגים 
אופן 
לתת 
כף 
בתוך 
סוכר 
גיל 
בהצלחה 
והוא 
מקווה 
סתם 
ויש 
נגד 
כמעט 
שאת 
עולה 
אי 
מספר 
ראשון 
לדרך 
נהיה 
לעצב 
עושים 
ולנהל 
היתה 
עליו 
מזה 
הייתה 
בא 
בפרס 
חלות 
ראש 
מזמינים 
טיפים 
מכבי 
רבה 
הורים 
‡ 
מקרה 
קרן 
המוצלח 
להגיע 
גדולה 
כנראה 
החמשיר 
הראשון 
פלפל 
המשחק 
וכאן 
לדעת 
ואת 
גרועים 
ספר 
אגב 
אחרים 
להגיד 
בתפוז 
והעולם 
אופנה 
דווקא 
מספיק 
שעות 
תמונות 
כשאנחנו 
שוקולד 
ולכן 
ג 
לקרוא 
לניהול 
שבוע 
ויופי 
חלום 
בה 
שהיה 
שאלה 
מקומה 
הזו 
בפורומים 
החדש 
מתאמצים 
שחקן 
שמזינים 
נשמת 
בערך 
מכל 
ומה 
רגל 
כסף 
רואה 
קטנה 
בצל 
בעולם 
אינטרנט 
חוץ 
ברור 
הולך 
חושבת 
לזה 
כלום 
הן 
כאלה 
בטוח 
הדבר 
תהיה 
מגיע 
סוף 
האמת 
ממנו 
מיכל 
החדשה 
לתרום 
האנשים 
ועד 
בדרך 
אצלי 
ההורים 
בני 
מתוך 
כאשר 
לבד 
ראיתי 
מצב 
מלא 
לבחור 
נשמח 
החג 
רע 
עוף 
מן 
להביא 
מצאתי 
כתובות 
מעניין 
צריכה 
להכנס 
לחלוטין 
שעה 
מתכון 
קודם 
תשובות 
מדובר 
ניהול 
מזל 
כדאי 
יהיו 
ההודעות 
בוקר 
נילוות 
איפה 
בעיה 
קמח 
ללכת 
פורומים 
אמר 
נושא 
ההכנה 
בבקשה 
שכל 
הזאת 
למשחק 
פנינה 
תחרות 
חבר 
לקנות 
מהם 
רגע 
גרם 
אלו 
עצמו 
מראש 
הכלב 
כולנו 
עדיף 
איתו 
למשל 
לבשל 
למי 
רעיונות 
הבלוג 
רוב 
אביב 
כרגע 
בסוף 
אלה 
לחג 
ערוץ 
שווה 
באופן 
מאמין 
לבן 
בזה 
הכבוד 
לראש 
ם 
ימי 
שחור 
בצורה 
בעמוד 
ועם 
וחצי 
האלה 
תמונה 
בשלב 
משחקים 
נו 
Problemi correlati