פייסבוק טוענת שהסירה 5.4 מיליארד חשבונות מזויפים עד כה השנה

מנכ"ל פייסבוק, מארק צוקרברג, הודיע השבוע (ד') כי יותר מ-5.4 מיליארד חשבונות מזויפים נסגרו השנה בפלטפורמת הליבה של החברה, שפרסמה דו"ח שקיפות חדש, שכלל לראשונה גם מידע על אינסטגרם – הרשת החברתית מבוססת הצילומים והסטוריז שנמצאת בבעלות פייסבוק.

מארק צוקרברג, מנכ"ל ומייסד פייסבוק. צילום: Freisehamburg, מתוך ויקיפדיה

"זה שהמספרים שלנו גבוהים, לא אומר שיש כל כך הרבה תוכן מזיק", אמר צוקרברג, "זה פשוט אומר שאנחנו עובדים קשה יותר כדי לזהות את התוכן הזה, וזו הסיבה שזה (המספר – ג"פ) גבוה יותר".

מדובר על עלייה לעומת נתונים אשתקד. בשנה שעברה, לפי ענקית הרשתות החברתיות, הוסרו 3.3 מיליארד חשבונות מזויפים, במאמץ של החברה לרסן משתמשים מתחזים וכאלו שכוונותיהן אינן תמימות.

כך למשל, על פי רשת CNN, בין אפריל לספטמבר השנה, פייסבוק הסירה כ-3 מיליון תכנים, שהפרו את מדיניותה נגד מכירת סמים דרך השירות שלה. החברה דיווחה כי 95,000 תכנים נוספים של באינסטגרם, הקשורים למכירת נשק הוסרו.

חלק מהנתונים שהורדו מאינסטגרם היו קשורים גם לניצול ילדים, להתאבדות, לפגיעה עצמית ולתעמולת טרור.

למרבית הזוועה, פייסבוק גם הסירה מהשירות שלה ברבעון השני של השנה בלבד 11.6 מיליון תכנים שבהם הופיעו עירום של ילדים וניצול מיני של ילדים, והנתון הזה עלה מ-5.8 מיליון תכנים דומים, שהוסרו ברבעון הראשון. במהלך ארבעת הרבעונים האחרונים החברה ציינה כי גילתה באופן יזום יותר מ-99% מהתכנים שהסירה בגין הפרת מדיניותה בעניין המסוים של פדופיליה.

היערכות שיא לקראת בחירות 2020

בתקופה האחרונה, פייסבוק זכתה לביקורת קשה מצד פעילים וארגוני זכויות אזרח על התפשטות דברי שטנה ומידע מזויף בשירות שלה.

CNN דיווחה כי החברה עומדת בעיקר פני האתגר הגדול שיהיה כרוך בניסיון לשמור על הפלטפורמה מהיקלעות נוספת למנגנוני הטיות דעת והפצת פייק ניוז לקראת הבחירות לנשיאות ארצות הברית, שיחולו בדיוק בעוד שנה.

כוננות שיא לקראתן בפייסבוק – בחירות 2020. צילום אילוסטרציה: BigStock

הענקית ממאנלו פארק עוסקת בהכנות לקמפיין 2020 ונעזרת באנליסטים ובגורמים מיוחדים שאמונים על ניקיון הפלטפורמה, הן משום לקחי פרשיית קיימברידג' אנליטיקה שבה הסתבכה עד צוואר בבחירות ב-2016, והן משום גל התוכן המזויף והמטעה במכוון שמתפשט בעוצמת יתר לא רק אצל פייסבוק בשירות, אלא במדיה החברתית בכלל.

בנוסף, גם התחכום של תכנים מזויפים ופייק ניוז הולך ומתעצם. אם בקמפיין 2016 היו אלו בוטים רוסים שהפיצו מידע כוזב, וקיימברידג' אנליטיקה – שהייתה חברת מחקר וייעוץ פוליטי שעבדה עם מטה טראמפ – סיפקה מידע אישי ופסיכולוגי של כ-87 מיליון משתמשי פייסבוק לצורך הפעלת מניפולציות מכוונות על האנשים שטורגטו, כעת כבר מופצים ברחבי הרשתות החברתיות, בנוסף לכל הללו, גם סרטוני דיפ פייק, שאפילו צוקרברג עצמו נפל קורבן לשכמותם. מדובר בתוכן ווידיאו מתעתע במיוחד, שמייצר מצגת שווא כאילו אדם מסוים מתבטא באופן מסוים – כשבפועל כל התוכן מיוצר באמצעות טכנולוגיות ממוחשבות חדשניות במיוחד.

צוקרברג מתעקש שהחברה שלו מתייחסת לנושא ברצינות וקוראת לפלטפורמות אחרות לחשוף גילויים דומים.

מלחמה בדיבור שנאה

גיא רוזן, סמנכ"ל טוהר המידות בפייסבוק, שהשתתף בכתיבת דו"ח אמר כי "בשנתיים האחרונות השקענו באיתור יזום של דיבור שנאה, כדי שנוכל לגלות תוכן מזיק זה לפני שאנשים ידווחו לנו, ולפעמים לפני שמישהו יראה אותו, טכניקות הגילוי שלנו כוללות התאמת טקסט ותמונה, כלומר – אנו מזהים תמונות ושרשורי טקסט זהים שכבר הוסרו כנאום שנאה, וסווגו באמצעות למידת מכונה, שבוחנת דברים כמו שפה, כמו גם את התגובות וההערות לפוסט, בכדי להעריך עד כמה הם תואמים ביטויים נפוצים, דפוסים והתקפות שראינו בעבר בתוכן שמפר את המדיניות שלנו נגד שנאה".

הנושא החם ביותר – שליטה על תכני שנאה. אילוסטרציה: BigStock צילום: אילוסטרציה - BigStock

החל מהרבעון השני של השנה, השתמשה פייסבוק ביכולות טכנולוגיות חדשות כדי להסיר פוסטים שהפיצו שנאה באופן אוטומטי. עם זאת, לדבריו, "הדבר היה אפשרי רק אם התוכן היה זהה או כמעט זהה לטקסט או לתמונות שהוסרו קודם לכן על ידי צוות בדיקת התוכן שלנו בגלל הפרה של המדיניות שלנו, או כאשר תוכן תואם במיוחד את סוג ההתקפות הנפוצות המפרות את המדיניות שלנו".

לדברי רוזן, "עם ההתפתחות הזו במערכות הגילוי שלנו, השיעור הפרואקטיבי שלנו עלה ל-80%, מ-68% בדו"ח האחרון שלנו, והגדלנו את נפח התוכן שאנחנו מוצאים ומסירים בגלל הפרת מדיניותנו בנושא נאום השנאה".