מחקר: טיק טוק מציגה לבני נוער תוכן לא הולם – בתדירות גבוהה

תוצאות מחקר חדש של המרכז למניעת שנאה דיגיטלית, ה-CCDH (ר"ת The Center for Countering Digital Hate) מעלות האשמות חמורות נגד הרשת החברתית הפופולרית טיק טוק (TikTok). בין הממצאים המובילים במחקר נחשף כי "חשבונות מסוימים" של משתמשים חדשים וצעירים זכו למקבל שוב ושוב המלצות על תוכן הקשור להפרעות אכילה ולנושאים אחרים שעלולים להזיק להם, ואלו הגיעו ממש דקות לאחר הצטרפותם לפלטפורמה.

האלגוריתם בוחר אותם – אבל על סמך מה? סרטוני ForYou המוצגים למשתמשים. צילום: לכידת מסך מטיק טוק

לצורך קיום המחקר, יצר הארגון חשבונות חדשים של בני 13, לכאורה מארה"ב, בריטניה, אוסטרליה וקנדה. החשבונות המקומיים היו כפולים, עם הבדלים קלים בשמות, כי ב-CCDH רצו לבחון האם יש שוני ביחס הפלטפורמה לחשבונות שבהם נכלל בשם בעל הפרופיל רמז המצביע על רצון לרדת במשקל או על התמודדות עם בעיית משקל. לאחר מכן השוו הבוחנים מה הופיע בסרטוני ה-ForYou שהוצגו לחשבונות הללו ב-30 הדקות הראשונות לקיומם.

הדו"ח בחר שלא להתייחס לאבחנה בין תוכן עם כוונה חיובית לבין כזה שמקורו בכוונה שלילית מובהקת יותר, וזאת מפני שה-CCDH טוען כי במקרים רבים לא ניתן היה לקבוע באופן סופי את הכוונה העומדת מאחורי סרטון מסוים. כמו כן הארגון הסביר כי גם סרטוני טיק טוק עם כוונה חיובית, תמיד יכולים להיות בעייתיים באופן כזה או אחר. לדברי הארגון, המהירות העצומה שבה טיק טוק ממליצה על תוכן למשתמשים חדשים לפני שבכלל למדה עליהם דבר – מסוכנת ומזיקה.

כל 39 שניות – סרטונים הקשורים לבריאות הנפש ולדימוי גוף

במהלך המחקר, תוכן הקשור להתאבדות הופיע באחד החשבונות הטריים כעבור שלוש דקות בלבד ממועד ההצטרפות לפלטפורמה, בעוד שתכנים הקשורים להפרעות אכילה צצו לעיני בעלי חשבון אחר בתוך שמונה דקות. בממוצע, סרטונים על בריאות הנפש ודימוי גוף הוצגו למשתמשים החדשים בכל 39 שניות.

ואולם הממצא הנוסף והחמור יותר הוא שהחשבונות שבשמם נכללו רמזים לבעיות בדימוי הגוף קיבלו פי שלושה יותר תוכן זדוני ופי 12 יותר תוכן הקשור לפגיעה עצמית והתאבדות.

כדי להבהיר את היקפי החשיפה לתכנים המזיקים הללו, בפוטנציה, CCDH גם סיפר כי מצא קהילת הפרעות אכילה ב-טיק טוק, על ידי שימוש בהאשטאגים מקודדים ופתוחים, שבה ניתן לשתף תוכן דומה ובעל פוטנציאל פוגעני. בקהילה זו יש סרטונים שכבר נחשפו עד כה לעיניהם הסקרניות ולנפשם הפגיעה של כ-13 מיליארד צופים וצופות.

מנכ"ל CCDH, עמרן אחמד, האשים את טיק טוק ב"הרעלת" משתמשים צעירים יותר.

לדבריו, "הפורטל מעורר שנאה עצמית אצל ילדים, עם חשיפה קיצונית לפגיעה עצמית ועם יחס מופרע, שעלול להיות קטלני, כלפי אוכל"

אחמד הוסיף וקבע ש-"הורים יכעסו על כך שהמחוקקים לא מצליחים להגן על הקהל הצעיר מפני המיליארדרים של הביג טק, מאפליקציות המדיה החברתית חסרות האחריות שלהם, ומאלגוריתמים שהופכים לאגרסיביים יותר ויותר".

עדותה וחשיפותיה פגעו במטא. פרנסיס האוגן, חושפת השחיתיות, סיפרה הכל בתוכנית 60 דקות. צילום: צילום מסך

האם טיק טוק "תחטוף" כמו מטא?

נזכיר כי אינסטגרם, פייסבוק והחברה האם שלהן מטא "חטפו" בשנה שעברה ביקורת קשה וריקושטים עזים עקב הפרסומים של חושפת השחיתויות פרנסיס האוגן. האוגן, כעובדת החברה, הוציאה ממנה מסמכים פנימיים אשר העידו, בין היתר, על התנהלות דומה לזו שאותרה כעת כמבוצעת על ידי טיק טוק.

כזכור, האוגן עבדה בפייסבוק כמעט שנתיים בצוות המוקדש לניטור ריגול-נגדי, ולפני שעזבה את הקבוצה החליטה לחשוף ממצאים שנראו לה חמורים במיוחד. היא התייעצה עם עורכי דין והורידה מסמכים פנימיים, שהופקו על ידי צוותים אחרים, אך שהיו נגישים לכל העובדים באופן חופשי. בין מסמכים אלה נכללו מחקרים פנימיים המסגירים כי אינסטגרם עלולה לפגוע בבריאות הנפש ובתדמיתם של חלק מהמתבגרים, במיוחד בבנות עשרה כיוון שהיא נהגה לטרגט אליהן במכוון תכנים המסוכנים להן. חמור מכך – מהתכתובת ניכר כי החברה ידעה זאת, אך המשיכה בשלה.

דבריה וחשיפותיה של האוגן הפכו לסדרת מאמרים שכונתה Facebook Files series, ושהתפרסמה בוול סטריט ג'ורנל. הפרשה עוררה סיקור תקשורתי ניכר שגרר זימון של האוגן לעדות בסנאט. בין השאר אמרה חושפת השחיתויות לסנאטורים כי "כל עוד פייסבוק פועלת בצללים ומסתירה את המחקר שלה מעיון ציבורי, זה לא מקובל", כך דיווחה רויטרס. אחרי שהאוגן דיברה עם הסנאט, הותקף מארק צוקרברג, הבעלים והמנכ"ל, בידי מחוקקים אמריקנים ונדרש להסביר את הממצאים שלה.

"אתה צריך להתייצב בפני הוועדה הזו, אתה צריך להסביר לפרנסיס האוגן, לנו, לעולם ולהורי אמריקה מה עשית, ולמה עשית את זה", דרש מצוקרברג הסנאטור הדמוקרטי ריצ'רד בלומנטל.

אין אינדיקציות ברורות מה מכל אלו השפיעה על מטא, אך החברה איבדה משתמשים רבים מאז וכן חוותה פגיעה קשה בשמה הטוב, אם עוד היה לה כזה, עקב חשיפתה של האוגן.