פייסבוק השיקה כלים חדשים למניעת התאבדויות

פייסבוק (Facebook) הודיעה על פעולות נוספות שהחברה עושה על מנת לסייע לאנשים שמביעים מחשבות אובדניות.

בפוסט שפרסם גיא רוזן, סגן נשיא לניהול מוצר בחברה, הוא כתב: "פייסבוק היא המקום שבו חברים ומשפחה מקיימים קשר, ואנחנו יכולים לסייע לקשר בין אדם במצוקה לאנשים שיכולים לתמוך בו. זהו חלק ממאמצינו המתמשכים לסייע לבנות קהילה בטוחה בתוך פייסבוק ומחוצה לה".

"אנחנו חולקים פעולות נוספות שאנחנו מבצעים כדי לסייע לאנשים המביעים מחשבות על התאבדות, בהן: שימוש בטכנולוגיית זיהוי תבניות זיהוי (Pattern Recognition) כדי לאתר פוסטים או סרטונים חיים, שבהם מישהו אולי מביע מחשבות על התאבדות, וגם כדי להגיב לדיווחים מהר יותר; שיפור האופן שבו פייסבוק מזהה מגיבים ראשונים; והקצאת יותר סוקרים מצוותי הדיווח שלנו לבדיקת דיווחים על התאבדות או על פגיעה עצמית".

בינה מלאכותית ואוטומציה למניעת התאבדות

לפי הפוסט, החברה מרחיבה את השימוש באיתור פרו-אקטיבי באמצעות פריסה של בינה מלאכותית מחוץ לארצות הברית, כדי לזהות מקרים של הבעת רצון להתאבדות, כולל ב-Facebook Live. התכונה תהיה זמינה ברחבי העולם, מלבד האיחוד האירופי. גישה זו אף עושה שימוש בטכנולוגיית זיהוי המסייעת באיתור פוסטים ושידורי Live שבהם מביעים הכותבים או המשדרים מחשבות על התאבדות. "אנחנו ממשיכים לעבוד על טכנולוגיה זו כדי לשפר את הדיוק שלה ולהימנע מזיהויים שגויים", ציין רוזן.

עוד הוא כתב כי "אנחנו גם משתמשים ברמזים שונים, כמו טקסטים שנעשה בהם שימוש בפוסטים ובתגובות להם, בהם 'האם אתה בסדר?' או 'האם אני יכול לעזור?'. במקרים מסוימים, מצאנו שהטכנולוגיה זיהתה וידיאו שלא היה מדווח בלעדיה".

עוד עושה שימוש החברה בצוות מפעילי הקהילה, שכולל אלפי אנשים סביב העולם, "שסורקים דיווחים על תכנים בפייסבוק. הצוות כולל גם קבוצה ייעודית של מומחים, שאומנו במיוחד בתחום ההתאבדות והפגיעה העצמית", כתב רוזן. בעזרת בינה מלאכותית, החברה מתעדפת את סדר הדיווח של הפוסטים והווידיאו לצוות – מה שמבטיח תגובה מהירה ועזרה בעת הצורך.

הפוסט ממשיך ומפרט את הטכנולוגיות שהחברה פיתחה כדי לשפר את הכלים הללו ולסייע במהירות הגדולה ביותר במקרה הצורך. "למשל", כתוב בבלוג, "הסוקרים שלנו יכולים לזהות במהירות איזו נקודה בווידיאו זוכה לרמות גבוהות של תגובות ודיווחים מאנשים בפייסבוק, וכך יכולים הסוקרים להבין האם מישהו מצוי במצוקה ולסייע לו. בנוסף לכלים האלה, אנחנו משתמשים באוטומציה, כך שהצוות יכול להגיע במהירות לפרטי הקשר של המגיבים הראשונים לפוסטים מהסוג הזה".

"פייסבוק עובדת על כלים למניעת התאבדויות כבר יותר מ-10 שנים", ציין. "הגישה שלנו פותחה בשיתוף עם ארגוני בריאות נפש שונים, וגם עם מידע מאנשים שהיה להם ניסיון אישי של מחשבות אובדניות. בסיוע שותפינו וחברים של אנשים ובני משפחה בפייסבוק, אנחנו מקווים להמשיך לתמוך באנשים במצוקה".

רוזן הוסיף שבחודש האחרון עבדה החברה עם מגיבים ראשונים ב-100 מקרים של מצוקה, שהיו מבוססים על דיווחים שהגיעו באמצעות מאמצי איתור פרו-אקטיביים. זאת, נוסף על דיווחים שהתקבלו מאנשים בקהילת פייסבוק. "הודות לתבניות הזיהוי – שסומנו ככאלה הזקוקים לתשומת לב מיידית – הדיווחים הגיעו לרשויות המקומיות פי שניים מהר יותר מדיווחים אחרים", נכתב בבלוג.

לסיום ציין רוזן כי "אנחנו מחויבים להמשיך ולהשקיע בטכנולוגיה של תבניות זיהוי כדי לשרת טוב יותר את הקהילה שלנו".