איך אפשר לעשות מההטרלה לימונדה?

אתם טוענים שניתן להשתמש בטרולים למטרות טובות. כיצד?
"ה-'טרולים' שמגיבים לכתבות בצורה מרגיזה נחשבים למטרד באתרי החדשות. האלגוריתם החדש שלנו יודע לקדם בצורה אוטומטית טוקבקים מרגיזים ופרובוקטיביים, להשתמש בהם לעודד תגובות גולשים ולהאריך את השהות באתר.

הדרך המיושנת של אתרי חדשות לטיפול בטרולים הייתה לחסום חלק מהגולשים כדי לשמור על דיון נקי ומכובד ככל האפשר. זו טקטיקה ישנה, עוד מלפני עידן הרשתות החברתיות, שבלעו את תנועת הגולשים ברשת. כיום, אתרים נלחמים חזק יותר על שימור גולשים, ובעזרת כלים הלומדים על התנהגות אנושית ברשת אפשר להפריד בין הטרלות שתורמות ליצירת דיונים לשלב ההגזמה, שכבר מבריח גולשים ויש להימנע ממנו".

איך מבחינים בין טרולים רעים לטובים?
"ההבדל בין טרולים טובים לרעים הוא השפעתם על הטראפיק. אם טרול גורם לגולש לנטוש את האתר לאחר החשיפה לפעילותו – הוא רע. אם הטרול הוא יצרן תוכן, שממלא את העמוד בתגובות המתסיסות גולשים אך הם לא נוטשים – הוא טוב למערכת, כי הוא מייצר ריגוש אצל הגולשים וחוויית תוכן. ואם הטרול מעודד שיח רשת ומפעיל את הגולשים, שיענו לו בתגובות מבלי לנטוש – הוא טרול מעולה, כי דבריו המתסיסים מאיצים את הדיון.

קל לזהות טרולים שליליים, שרק רוצים לשבש שיח רשת מבלי לייצר דיון טבעי, או טרולים שפעילותם מבריחה גולשים באופן קבוע. אבל קשה לזהות אנשים שבמקרים לא צפויים נופלים להטרלה מאחר שצצו אצלם דעות שנויות במחלוקת בנושא מסוים, ועוד יותר קשה לחזות בסיס רגשי להטרלה עוד לפני שהוא מגיב, כמו תחושות ומצבי רוח של גולש המוציאים ממנו רוע".

מהם הכלים לצמצום נפילות להטרלה?
"הטיפול בנפילות להטרלה לא צריך להיות צנזור מהיר של גולשים, כי חוויה של סתימת פיות עלולה לנטרל את רצון הגולש להגיב גם לתקופה ארוכה. לכן, אחד הכלים לצמצום נפילות להטרלה הוא מתן האפשרות לזהות את הכותב, שיהיה לו פרופיל רשמי ומזוהה על ידי קהילת הגולשים. גולש רשום לא חש בנוח שהתנהגות שלילית נקשרת בזהותו האישית, והוא יהיה מרוסן יותר. זו אחת הסיבות ש-Spot.IM מעודדת הרשמת גולשים כ-'פעילות מונעת'.

בין הכלים המעודדים הטרלה חיובית משולבת תיבת ההפניה לכתבות נוספות, שעשויות לעניין את הגולש. אם האלגוריתם מסמן גולש כטרול פוליטי מעולה – בשטחי הכתבות שעשויות לעניין יופיעו הפניות לכתבות פוליטיות בתקווה שהוא יתסיס בהן את הדיון. ולהיפך – הצעות התוכן גם ירחיקו את הטרול מנושאים הגורמים לו להעיק על הגולשים, עד לנטישה".

כיצד פועל הפתרון שפיתחתם?
"האלגוריתם, שמבוסס על טכנולוגיות מתחום הבינה מלאכותית, כמו חיזוי התנהגות ולמידה חישובית, מתמודד עם אתגרים של זיהוי גולשים הנופלים להטרלה במקרים לא צפויים. ישנם תרחישים שבהם מצב רוח רגשי של הגולש מוציא ממנו תגובות קיצוניות, וקיים אתגר לפענח את רגשות הגולש עוד לפני שהוא מגיב בצורה שאינה מקובלת.

הכלים שלומדים על ההתנהגות האנושית בתיבת התגובות מבוססים על טכנולוגיות של לימודי מכונה, Big Data ומודלים לחיזוי. עליהם מוסיפים כלי זיהוי של האזור הגיאוגרפי שהטוקבקיסט פועל ממנו, מעקב אחר סימני זיהוי כמו קוקיז ו-IP, מהירות הקלדה וניתוח של האינטראקציות הנוצרות עם התכנים שהוא מפרסם. כך הם מאתרים ומאפיינים הטרלות.

Spot.IM עוסקת בפיתוח כלים, המסייעים להגדלת תנועת גולשים באתרי תוכן, המותקנים ב-5,400 אתרים פעילים, בהם אתרי חדשות מהגדולים בעולם, כמו AOL, פורבס (Forbes) וטיים (Time). מאחר שהפיתוחים מותקנים באתרים גדולים במקביל, ניתן לאסוף מידע ולעקוב אחר טרולים המטיילים ברשת וקל יותר לחזות את התנהגותם כדי לדעת מתי יש להפעיל את מנגנון הצנזור.

יש גם טרולים שמשלבים בדיונים קישורים המובילים לתוכנות כופר, פדופיליה ותכנים נוספים שאין להם מקום באתרי חדשות ותוכן. כדי להתמודד עם בעיה זו, אנחנו משתפים פעולה עם חברות השומרות על בטיחות ברשת ומזהות קישורים פוגעניים במהירות כך שהם יודעים לחסום אותם".