פיתוח ישראלי: במקום סתם להטריל – טובקיסטים יקדמו את אתרי החדשות

אנשים רבים מטרילים ומטקבקים ידיעות חדשותיות בשלל עניינים ונושאים. עורכי האתרים נלחמים לשווא בתופעה ובאישור או פסילת הודעה כזו או אחרת. אלא שעכשיו פיתוח ישראלי חדש עשוי לשנות לגמרי את התמונה.

לדברי נדב שובל, מנכ"ל חברת Spot.IM שפיתחה את האלגוריתם, הדרך המיושנת של אתרי חדשות לטיפול בטרולים הייתה לחסום חלק מהגולשים בכדי לשמור על דיון נקי ומכובד ככל שניתן. שובל טוען כי זו טקטיקה ישנה עוד מלפני עידן הרשתות החברתיות, שבלעו את תנועת הגולשים ברשת. כיום, בעידן שבו אתרים נלחמים חזק יותר על שימור גולשים ועושים לשם כך שימוש גם בכלים הלומדים על התנהגות אנושית ברשת, אפשר להפריד בין הטרלות התורמות ליצירת דיונים, לשלב ההגזמה שכבר מבריח גולשים ויש להימנע ממנו.

בין הכלים המעודדים את מה שמכונה 'הטרלה חיובית' משולבת תיבת ההפניה לכתבות נוספות שעשויות לעניין את הגולש. אם האלגוריתם מסמן גולש כטרול פוליטי מעולה, אז בשטחי הכתבות שעשויות לעניין את הגולש המסוים יופיעו הפניות לכתבות פוליטיות, בתקווה שהוא יתסיס בהן את הדיון. ולהפך, הצעות התוכן גם ירחיקו את הטרול מנושאים הגורמים לו להעיק על הגולשים עד לנטישה.

מזהה את המגיב אפילו לפי מהירות ההקלדה

האלגוריתם שמבוסס על טכנולוגיות מתחום הבינה מלאכותית, כמו חיזוי התנהגות ולמידה חישובית, מתמודד עם אתגרים של זיהוי גולשים הנופלים להטרלה במקרים לא צפויים – תרחישים שבהם מצב רוח רגשי של הגולש מוציא ממנו תגובות קיצוניות מציבים אתגר לפענח את רגשות הגולש עוד לפני שהוא מגיב בצורה שאינה מקובלת. הטיפול במעידה להטרלה אינו ממהר לצנזר את הגולש, מאחר שחוויה של סתימת פיות עלולה לטרפד לבסוף את רצונו להגיב למשך תקופה ארוכה.

מדהים לגלות כי מידע נוסף המסייע לאפיין את הטרול הוא האזור הגיאוגרפי שהטוקבקיסט פועל ממנו, אינטראקציות אשר נוצרות עם התכנים שהוא מפרסם, קוקיז ו-IP, מהירות ההקלדה ועוד.

Spot.IM עוסקת בפיתוח כלים המסייעים להגדלת תנועת גולשים באתרי תוכן המותקנים ב-5,400 אתרים פעילים, בניהם אתרי חדשות מהגדולים בעולם כמו Time, AOL, HuffingtonPost ואחרים. מאחר והפיתוחים מותקנים באתרים גדולים במקביל, ניתן לאסוף מידע ולעקוב אחר טרולים המטיילים ברשת וקל יותר לחזות את התנהגותם כדי לדעת מתי יש להפעיל את מנגנון הצנזורה על פועלם.