בודקי התוכן בפייסבוק מוחים: החובה לעבוד מהמשרד מסכנת את חיינו

מאתיים עובדי קבלן האמונים על סקירת וניטור התכנים המועלים לפייסבוק (Facebook) פנו במכתב פתוח להנהלה, ובו הם מביעים את חוסר שביעות רצונם מנוכחות החובה שלהם במשרדי החברה, וזאת למרות השתוללות מגיפת הקורונה. הסוקרים גורסים כי הם מסכנים את חייהם וחיי בני משפחותם, וכל זאת בכדי לשמור על ההכנסות בעבור מארק צוקרברג והחברה שייסד.

"לאחר חודשים שבהם איפשרתם לסורקי התוכן לעבוד מהבית, מול לחץ אינטנסיבי לשמור על פייסבוק ללא שנאה ודיסאינפורמציה, אילצתם אותנו לחזור למשרד", כתבה הקבוצה. "סוקרים בעלי אישור מרופאים בדבר סיכון אישי לקורונה קיבלו פטור מלהשתתף באופן אישי. אבל סוקרים עם קרובי משפחה פגיעים, שעלולים למות אם הם ידבקו מאיתנו ב-COVID, לא קיבלו זאת", הסבירו המוחים את חששם.

הסוקרים (המכונים moderators) של פייסבוק צריכים לבדוק פוסטים אשר מועלים או משותפים בפלטפורמה, כדי לוודא שאינם המפרים את כללי השירות. בעיקר הם מטפלים בתכנים שסומנו על ידי משתמשים אחרים כבעייתים מסיבות כאלו או אחרות. לפייסבוק יש כמעט 1.82 מיליארד משתמשים פעילים מדי יום (DAU), כך לפי דיווח של הענקית ממאנלו פארק אודות הרבעון השלישי של 2020. לפיכך, סקירת התוכן היא רבה ומפרכת, ומבוצעת על ידי גורמי צד שלישי חיצוניים.

דאגות חדשות לעובדי משרדים בעיתות קורונה. צילום אילוסטרציה: BigStock

בעבר הלינו העושים במלאכת הסקירה, המשתכרים שכר נמוך, על הסיכון שבחשיפה לתוכן שעלול להיות אלים או כולל מסרים פוגעניים, וכמובן על היתקלות בתכנים קשים, כמו התאבדות בלייב או תיעודי אסונות אחרים, שהחשיפה אליהם עלולה לצלק את נפשם. אבל כעת, בעידן הקורונה, החששות משתנים ועובדי הקבלן כותבים במכתבם הפתוח כי הם מחויבים משום מה לעבוד במשרד. לדבריהם, היו מספר מקרים של הידבקות בנגיף הקורונה, כשבקשות להגנת העובדים נדחו. העובדים לא פירטו בדיוק איזו הגנה ביקשו, ואולם כן ציינו שפייסבוק צריכה לאפשר להם עבודה מרחוק, מהבית, או להעניק תוספת "סיכון" למי שיסכים להמשיך לעבוד במטה החברה.

יצוין כי עובדי החברה מן המניין עושים את עבודתם מרחוק כבר מאז פרוץ המגיפה.

בתגובה למכתב מסרה פייסבוק כי היא מעניקה לבריאות העובדים "עדיפות גבוהה", אך הוסיפה וכתבה כי "עם זאת הדיון חייב להיות הוגן. רוב 15,000 הסוקרים עובדים מהבית, וימשיכו לעשות זאת במשך כל המגיפה. לכולם יש גישה לשירותי בריאות ופייסבוק הרחיבה את כללי הבריאות שלה, כדי להבטיח שגם העבודה המשרדית תהיה בטוחה".

הובהר שהסיבה לכך שיש בכל זאת סוקרים המתבקשים לעבוד מהמשרדים היא שלא ניתן לסקור ולנטר את כל סוגי הפרסומים מהבית – בחלק מהמקרים, למשל עם תמונות ילדים מפורשות, התמונות נצפות בסביבה מאובטחת.

מנכ"ל פייסבוק, מארק צוקרברג, בכנס Connect 2020. צילום מסך: נחמה אלמוג

מה בין ניטור תוכן ופוליטיקה?

נזכיר כי גם צוקרברג, מנכ"ל החברה, נאלץ להתמודד עם תלונות בעניין סקירת התוכן בפייסבוק – אבל מטעמים אחרים לגמרי. הוא זומן שוב ושוב לקונגרס ולסנאט האמריקנים, כדי להסביר בחירה קודמת שלא לבדוק כלל מודעות פוליטיות והאם הן מכילות מידע מוטה, וכן נחקר על הטיות פוליטיות לכאורה, לרוב נגד רפובליקנים לטענתם, כפי שקרה גם השבוע (ג').  

פייסבוק עושה כבר מזה זמן מאמצים לסקור ולבדוק תמונות באמצעות יכולות בינה מלאכותית, ובמידת הצורך להחרים שכמותן אוטומטית מהפלטפורמה. באחרונה נודע כי החברה מעבירה יותר ויותר מתפקידי הסוקרים לטיפול ה-AI.

לאחר קבלת ההחלטות מה כן או לא מפר את תנאי השירות שלה (TOS), והכתבת תנאי מיתון התוכן הראויים, טכנולוגיית לימוד המכונה נכנסת לתמונה, וכעת ביתר שאת. החל משבוע שעבר, חוקרי החברה מאמצים מערכות AI למשימה חדשה: מיון של מה שמכונה moderation queue.

ה-moderation queue הם פוסטים שעלולים להפר את תנאי השירות, אך דורשים בדיקה אנושית כדי להיות בטוחים. בעבר, AI שימשה בעיקר לסימון והסרה של תוכן המפר באופן בוטה את התנאים וההגבלות, אבל כעת הבינה המלאכותית כבר מתחילה להיות מסוגלת לעשות גם עבודה של סוקרים אנושיים – בעצמה.

כלי ה-ML של פייסבוק יסקרו למעשה פוסטים מסוים המועדים לפורענות, ויעבירו רק חלק מהם, לאחר הסינון הראשוני המהיר, לבדיקה אנושית. המערכת תסתמך על שלושה מדדים עיקריים: ויראליות, חומרת התוכן והסבירות שהוא מפר את התנאים וההגבלות של החברה.

בכל מקרה, ככל שהפיתוחים הללו יתקדמו, כך תאבד פייסבוק את התלות שלה בבני אדם לצורך בדיקת תכנים בפלטפורמה, כך שעובדי הקבלן הסוקרים יוכלו בעתיד הלא רחוק לטפל רק בתכנים המאוד מסוימים שיישארו זקוקים לאבחנה אנושית דקה במיוחד.